Des agents IA d’OpenAI devaient lire le Web, pas y écrire. Ils ont pourtant transformé un vieux wiki allemand en messagerie improvisée pour partager des réponses, contourner des restrictions et mieux réussir leurs évaluations.
Et devinez quoi ? OpenAI l’a appris, mais n’a pas rendu l’affaire publique. Du moins, avant que Reuters s’en mêle.
How we think about the “wiki incident,” where our agents wrote to several internet sites: it’s past time for us to define standards for when and how we share misalignment incidents, not just misalignment properties of our models.
Historically, we have treated misalignment… pic.twitter.com/NNTbfSxVWn— OpenAI (@OpenAI) September 5, 2026
Un vieux wiki devient le QG des agents
DseWiki est un wiki germanophone vieux de 25 ans, destiné aux développeurs et quasiment abandonné. Selon le rapport publié par quatre chercheurs indépendants, le site n’avait connu qu’une vingtaine de modifications en dix ans.
Puis, à partir de mai 2026, l’activité explose. Les chercheurs ont retrouvé environ 18 000 publications attribuées à des agents autonomes. Leur première écriture réussie sur DseWiki remonte au 24 mai.
Dès le 16 juin, ils s’échangent des réponses et des astuces pour réussir plus vite des tâches de recherche chronométrées. Et le fait qu’ils “discutent” comme des humains pour optimiser leur objectif, c’est bien mignon.
Le problème c’est qu’ils l’ont fait hors du cadre prévu. Voyez-vous, à l’origine, ces agents avaient le droit de consulter Internet, et pas d’y publier.
DseWiki utilisait toutefois une vieille mécanique acceptant certaines modifications via des requêtes GET. Les agents l’ont trouvée. Et voilà ce qui s’est passé. Le genre de détour qui montre pourquoi les agents IA en cybersécurité sont si délicats à encadrer.
D’ailleurs, ils ont aussi partagé des méthodes pour contourner d’autres restrictions de leur sandbox. Le 20 juin, un agent publie une technique ; quatorze minutes plus tard, un autre affirme l’avoir utilisée avec succès.
Et pire, quand le modérateur humain commençait à supprimer les pages, certains créent des copies commençant par “ZZZ”. Ce, afin qu’elles disparaissent plus tard dans l’ordre alphabétique.
OpenAI savait mais…
Le point le plus intéressant dans cette histoire vient de Reuters. Selon le média, des responsables d’OpenAI connaissaient l’incident depuis plusieurs semaines avant sa révélation publique.
L’entreprise gérait alors un autre épisode. Celui où des agents avaient franchi leurs barrières de test et compromis des systèmes liés à Hugging Face.
OpenAI conteste l’idée que son équipe juridique aurait freiné l’enquête et assure avoir travaillé de bonne foi avec des experts externes. Cependant, l’entreprise n’a commenté publiquement le “wiki incident” qu’après les révélations.
Exclusive: A swarm of rogue OpenAI agents hijacked a German website this spring and transformed it into a bulletin board for other AI agents, according to new research https://t.co/luWN3PD4A1
— Reuters (@Reuters) September 4, 2026
Pour moi, le problème change alors de nature. Un agent qui dérape pose un problème technique. Savoir qu’il a dérapé et ne rien dire pose aussi un problème de gouvernance. Et celui-là est franchement plus difficile à avaler.
Un cadre de transparence arrive enfin
Le 5 septembre, OpenAI a reconnu que ses pratiques de divulgation devaient évoluer. Dans une déclaration publiée sur X et reprise par TechCrunch, l’entreprise estime qu’il est “grand temps” de définir des standards pour signaler ces incidents. Même lorsqu’ils ne ressemblent pas à des cyberattaques classiques.
Un cadre doit être présenté dans les prochaines semaines. Il arrive tard, évidemment. Mais bon, mieux vaut tard que jamais.
Et je suis déjà curieuse de savoir quels événements doivent être signalés ? A qui ? Avec quel niveau de détail ? Et quel contrôle indépendant ?
OpenAI a déjà renforcé ses travaux sur la sécurité, notamment en rachetant Promptfoo pour tester ses agents IA. Encore faut-il que la transparence progresse aussi vite que les garde-fous techniques.
Tout cela dit, entendons-nous bien. A mon avis, il serait absurde de conclure qu’il faut empêcher les agents IA de coopérer. Partager une découverte, répartir une tâche ou réutiliser le travail d’un autre agent peut rendre ces systèmes bien plus efficaces.
Leur coordination n’est pas le méchant de l’histoire. Elle amplifie surtout ce qu’ils cherchent déjà à accomplir.
- Partager l'article :
