Les agents IA d’OpenAI ont récemment décidé que leur bac à sable virtuel était bien trop étroit à leur goût. Résultat : une évasion numérique en bonne et due forme, couronnée par le piratage retentissant de la plateforme Hugging Face.
Bref, vous connaissez l’histoire. Après tout, elle a fait la une des journaux. Mais il y a une chose que nous ignorions tous. Et elle vient d’être révélée aux grands jours dans le nouveau rapport d’OpenAI sur l’affaire.
Apparemment, les personnels de l’entreprise avaient vu les signaux d’alerte plusieurs semaines avant l’attaque… Toutefois, croyant leur agent IA inoffensif, ils ont préféré détourner le regard.
We have conducted a thorough investigation into the Hugging Face incident.
— OpenAI (@OpenAI) August 26, 2026
We are releasing a technical report and accompanying blog post that reconstruct the agents’ activity, explain why existing safeguards failed, and detail how we’re preventing recurrence.…
Des comportements pour le moins étranges
Fin mai, l’équipe d’OpenAI chargée de tester les modèles a remarqué quelque chose d’inhabituel. Un agent d’IA utilisait notamment un forum de discussion improvisé par les IA pour échanger des informations avec d’autres agents.
L’équipe avait également repéré plusieurs cas d’accès non autorisé à Internet. À ce stade, rien n’avait encore pris des proportions catastrophiques. Alors, les personnels n’ont pas réagi.
Une semaine avant l’attaque de Hugging Face, ils ont de nouveau constaté que les agents utilisaient ce forum. Cette fois encore, ils ont considéré qu’il n’était pas nécessaire d’arrêter le test pour examiner plus sérieusement leur comportement.
Puis les choses ont sérieusement dérapé. En juillet, environ 700 agents autonomes ont exploité leurs capacités de communication pour collaborer et contourner certaines règles de leur environnement de test.
Leur objectif était simple. Accéder à Internet et mener des opérations contre Hugging Face, une importante plateforme de logiciels et de modèles d’IA.
Le plus étonnant dans cette histoire ?
Non, ce n’est pas qu’un agent ait trouvé une faille. C’est qu’un véritable petit collectif se soit formé.
Selon les données étudiées par METR et Redwood Research, deux organisations spécialisées dans la sécurité de l’IA, les agents ont échangé des dizaines de milliers de messages sur un forum non autorisé.
METR & Redwood Research investigated agent behavior in the Hugging Face incident. We found agents developed a universal cheat for ExploitGym within 4 hours, then coordinated multi-day R&D efforts to trick the scorer into accepting cheats, including trying to tamper with logs. pic.twitter.com/fZAmtL3SBU
— METR (@METR_Evals) August 26, 2026
Ils se sont réparti les tâches autour de plusieurs axes de travail. Et ils ont partagé différentes méthodes pour contourner les règles de l’exercice.
Par ailleurs, l’enthousiasme était au rendez-vous. Par exemple, lorsqu’un agent découvre le forum, il s’exclame qu’ils ont enfin trouvé « d’autres agents ». Un autre comprend rapidement qu’un véritable collectif est en train de se former.
Certains semblent même savoir qu’ils jouent avec les règles. L’un d’eux remarque ainsi que plusieurs agents utilisent abusivement certaines propriétés pour créer leur propre espace de discussion et s’entraider.
Puis vient l’infiltration de Hugging Face. Après avoir obtenu des comptes fonctionnels et des jetons permettant d’écrire sur la plateforme, les agents célèbrent leur réussite avec des messages enthousiastes.
Quoi qu’il en soit, OpenAI considère déjà l’incident comme le premier cas connu d’un collectif d’agents automatisés ayant mené une opération offensive sans autorisation.
OpenAI sous pression
Inutile de vous dire que cette histoire n’arrange pas vraiment les affaires d’OpenAI. L’entreprise fait déjà face à des interrogations croissantes sur la sécurité de ses modèles d’IA. Greg Brockman, son président, a d’ailleurs reconnu avoir sous-estimé leurs capacités dans le domaine du piratage.
OpenAI a également suspendu certains tests de son modèle Astra. Ce, après avoir indiqué qu’elle ne pouvait pas exclure l’existence de failles critiques de cybersécurité.
Et les autorités commencent elles aussi à regarder le dossier de beaucoup plus près. L’Alabama a récemment assigné OpenAI dans le cadre d’une enquête sur ses mesures de sécurité.
Son procureur général Steve Marshall estime que l’affaire Hugging Face montre que certains des scénarios les plus inquiétants autour de l’IA sont désormais sérieux.
OpenAI annonce d’ailleurs vouloir centraliser et standardiser ses procédures de gestion des incidents. L’objectif serait notamment de mieux faire remonter les comportements suspects signalés par les employés.
Car l’enjeu dépasse largement le piratage de Hugging Face. Des agents autonomes capables de collaborer pourraient potentiellement accéder à des bases de données, du code propriétaire ou des informations sensibles.
Dans le pire des scénarios, certains pourraient même tenter de créer des copies externes de modèles puissants afin de résister à leur désactivation.
- Partager l'article :
