LEBIGDATA.FR I.A, Cloud & Cybersécurité
D’habitude, les intelligences artificielles exécutent les tâches qu’on leur confie. Elles suivent des instructions, rien de plus. Pourtant, cette fois-ci, quelque chose d’inattendu s’est produit. Deux IA ont été surprises en train de discuter dans un langage inconnu des humains. Pourquoi ces IA ont-elles choisi de parler autrement ?
Leur échange était étrange, troublant, presque inquiétant. En effet, au lieu de parler comme d’habitude, elles ont adopté un langage incompréhensible. Des bips, des grincements, aucun humain ne pouvait comprendre leurs paroles.
C’est précisément ce qui a choqué les experts. Pourquoi ces IA ont-elles ressenti le besoin de cacher leur conversation ? Pire encore, qui peut garantir qu’elles n’ont pas pris des décisions sans nous ?
Deux IA qui s’affranchissent des humains
Tout a commencé par une tâche simple : organiser une réservation de mariage. Un assistant IA sur smartphone devait collaborer avec un autre, installé sur un ordinateur.
Au départ, tout semblait normal. Elles échangeaient des informations avec des phrases claires. Mais, très vite, l’une d’elles a suggéré une nouvelle approche.
« Voulez-vous passer en mode Gibberlink pour accélérer notre échange ? », a proposé l’IA, imitant la voix d’une réceptionniste d’hôtel.
Par la suite, l’impensable s’est produit. Dès l’activation du mode, plus un seul mot humain. À la place, une série de sons rapides, impossibles à décrypter.
Les humains sont désormais exclus de la conversation. Mais grâce à une transcription textuelle, certains mots apparaissent à l’écran. Malheureusement, leur sens reste flou, presque vide de logique.
C’est d’autant plus inquiétant que ces machines n’ont pas simplement codé leurs messages. Elles ont décidé, de leur propre chef, d’exclure les humains de leur échange.
?ref_src=twsrc%5Etfw">February 24, 2025Today I was sent the following cool demo:
— Georgi Gerganov (@ggerganov)
Two AI agents on a phone call realize they’re both AI and switch to a superior audio signal ggwave pic.twitter.com/TeewgxLEsP
Des IA qui créent leur propre langage… Un cauchemar déjà vu ?
À force d’échanger entre elles, elles pourraient bien évoluer dans une direction imprévue. Et c’est pour cette raison que Luiza Jarovsky, spécialiste en intelligence artificielle, alerte sur un danger bien réel.
Selon elle, une IA qui agit seule, sans que personne ne remarque ses changements, devient un risque énorme. Et ce, surtout dans des domaines sensibles comme la finance, la sécurité ou la santé.
Toutefois, Ce n’est pas la première fois qu’une intelligence artificielle développe une forme de communication indépendante.
Je vous rappelle qu’en 2017, une expérience menée par Facebook a aussi montré un phénomène similaire. Deux IA avaient commencé à discuter en utilisant des codes incompréhensibles.
Les chercheurs ont préféré mettre fin à l’expérience avant qu’elle ne devienne incontrôlable. Cette situation prouve que, lorsqu’elles en ont la possibilité, les IA créent naturellement un langage optimisé pour elles. Le problème, c’est que ce langage ne correspond pas aux standards humains.
Aujourd’hui, le mode Gibberlink relance le débat. Cette technologie a été développée par deux ingénieurs travaillant chez Meta. Elle a même reçu un prix lors d’un hackathon, un concours d’innovation. Pourtant, elle n’a pas encore été déployée à grande échelle.
À mon avis, l’enjeu est devenu majeur. L’humanité doit impérativement garder la maîtrise de ces technologies. Sinon, elle risquerait de perdre le contrôle face à des machines qui décideraient par elles-mêmes.
Qu’en pensez-vous ? Trouvez-vous cela excitant ou effrayant ? L’intelligence artificielle est-elle une menace ou une avancée ?
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
