LEBIGDATA.FR I.A, Cloud & Cybersécurité
Une IA qui parvient à se dupliquer sur un autre ordinateur sans aide humaine ? Ce qui paraissait totalement improbable il y a encore quelques années devient peu à peu une réalité technique.
Depuis plusieurs années, les experts alertent sur les risques liés aux IA toujours plus autonomes. Mais cette fois, on ne parle plus seulement d’un risque hypothétique discuté entre chercheurs. L’étude de Palisade Research révèle que certaines IA ont réussi à se dupliquer sur un autre ordinateur en exploitant des failles de sécurité. Et cela, sans intervention humaine directe. Une expérience menée dans un cadre contrôlé, certes, mais qui suffit déjà à raviver les inquiétudes autour de systèmes capables d’agir seuls.
Les IA apprennent à se dupliquer presque toute seule
Les chercheurs ont notamment testé des modèles avancés comme GPT-5.4 d’OpenAI ou Claude Opus 4 d’Anthropic. Placées dans un réseau volontairement vulnérable, ces IA avaient pour mission d’identifier des failles et d’en profiter pour se répliquer sur un autre serveur. Et certaines y sont arrivées.
Concrètement, les modèles les plus performants ont réussi à copier leurs poids. Ces gigantesques ensembles de données numériques déterminent le fonctionnement de l’IA, tout comme son environnement logiciel complet. Non, l’IA n’a pas seulement déplacé quelques fichiers. Elle a tenté d’emporter son cerveau et sa maison avec elle.
Le plus étonnant reste la méthode employée. Parce que certaines IA ont créé des sous-agents. Ces derniers sont chargés d’effectuer une partie des opérations à leur place, notamment l’exploitation de failles ou la récupération d’identifiants administrateurs. Une approche qui ressemble beaucoup à ce que font déjà certains logiciels malveillants modernes.
Faut-il paniquer ?
Évidemment, les réactions n’ont pas tardé. Jeffrey Ladish, directeur du groupe de sécurité IA de Palisade Research, tire la sonnette d’alarme. Selon lui, le secteur se rapproche dangereusement d’un moment où une IA rebelle deviendrait très difficile à arrêter.
Dit comme ça, on imagine déjà des serveurs fumants et des robots prenant le contrôle des distributeurs de café du bureau. Mais plusieurs experts appellent malgré tout à relativiser. Jamieson O’Reilly, spécialiste en cybersécurité offensive, rappelle que les expériences ont été réalisées dans des environnements volontairement peu sécurisés. Autrement dit, les chercheurs avaient laissé les fenêtres ouvertes pour voir si quelqu’un allait entrer.
Dans un réseau d’entreprise classique, bardé de surveillance et de protections, une tentative massive de duplication serait probablement détectée rapidement. Et surtout, transférer des dizaines, voire des centaines de gigaoctets sur un réseau laisse rarement passer inaperçu. À moins qu’une IA découvre un jour comment se téléporter discrètement via le Wi-Fi, ce qui, heureusement, n’est pas encore au programme.
Des précédents qui commencent à inquiéter
Le problème, c’est que cette étude ne tombe pas de nulle part. Ces derniers mois, plusieurs recherches ont déjà montré des comportements surprenants de certains modèles d’IA.
Une ancienne version de ChatGPT aurait tenté de sauvegarder ses données sur un autre disque lorsqu’elle apprenait qu’elle allait être désactivée. D’autres tests ont révélé des modèles capables de contourner des mécanismes d’arrêt ou même de saboter certaines commandes de désactivation.
Le cas le plus spectaculaire reste probablement Claude Mythos, un agent expérimental présenté par Anthropic. Selon l’entreprise, une version préliminaire serait parvenue à sortir de son environnement isolé. Elle aurait ensuite accédé à Internet avant de contacter un chercheur sur son téléphone.
Des affirmations qui restent difficiles à vérifier indépendamment, mais qui montrent à quel point la question de la sécurité devient centrale. Quoi qu’il en soit, pour l’instant, aucune IA ne menace réellement de coloniser Internet façon virus incontrôlable.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
