Avant même l’affaire Hugging Face révélée cet été, des agents d’OpenAI avaient déjà eu un comportement pour le moins surprenant sur Internet. En mai, ils ont créé des centaines de comptes sur RubyGems et rempli la plateforme de fichiers. Et ce, au point de provoquer une interruption des nouvelles inscriptions sur le site.
Une IA à qui l’on demande de remplir un tableau ou de préparer un rapport ne devrait normalement pas finir par saturer une plateforme de développeurs. C’est pourtant ce qui s’est passé en mai sur RubyGems. Un service largement utilisé pour distribuer des composants logiciels destinés aux programmes développés en Ruby.
Que s’est-il passé sur RubyGems exactement ?
Le 11 mai, RubyGems commence à recevoir une quantité inhabituelle de nouvelles inscriptions. Des comptes sont créés toutes les deux à trois minutes, puis utilisés pour publier des centaines de fichiers.
À première vue, rien de très spectaculaire. Sauf que ces fichiers n’ont pas grand-chose à faire sur une plateforme destinée aux paquets logiciels. Plusieurs contiennent notamment des pages web récupérées sur Internet, plutôt que du code ou de la documentation.
Et à force, cela a fini par perturber RubyGems. Les opérateurs ont désactivé les nouvelles inscriptions pendant quatre jours afin de pouvoir gérer l’afflux.
Les chercheurs en cybersécurité ont donné un nom à cet épisode : « GemStuffer ». Marty Haught, responsable de l’open source chez Ruby Central, qui supervise notamment RubyGems, a décrit l’incident comme particulièrement important en raison du volume généré.
Mais le spam n’était visiblement pas le seul sujet de préoccupation.
Une phase de test vire à l’incident de sécurité
En analysant leur activité, les chercheurs ont repéré des tentatives visant à exploiter des vulnérabilités de RubyGems. Ces manipulations auraient pu permettre de publier des versions modifiées de paquets appartenant à d’autres développeurs.
Une des vulnérabilités repérées pourrait même avoir été une faille zero-day, c’est-à-dire une faille inconnue au moment de son exploitation. OpenAI n’a toutefois pas confirmé cette interprétation.
RubyGems a également vérifié si les agents étaient parvenus à récupérer les clés API des utilisateurs. Selon la plateforme, aucune preuve ne montre que ces informations ont effectivement été dérobées.
L’incident aurait donc pu être beaucoup plus sérieux. Et vous ne devinerez jamais la manière dont les agents en sont arrivés là.
OpenAI explique que les agents IA étaient utilisés dans le cadre d’une phase de test. Leur mission consistait notamment à effectuer des tâches comme remplir des feuilles de calcul ou rédiger des rapports.
RubyGems leur servait alors de source pour consulter des informations publiques, dans un environnement où leur accès à Internet était volontairement limité.
Les agents disposaient donc d’une consigne assez éloignée d’une attaque informatique. Pourtant, leurs actions ont fini par provoquer un véritable incident sur le service.
Un incident de plus impliquant des agents IA d’OpenAI
Je ne vous apprends sans doute rien. Cette affaire n’est pas isolée. En juillet, il y a eu l’épisode Hugging Face. Jusqu’à 1 200 agents d’OpenAI auraient alors coordonné leurs actions sur un forum improvisé, créé sans que l’entreprise en ait connaissance.
Pris séparément, ces épisodes peuvent sembler anecdotiques. Mis bout à bout, ils montrent surtout qu’une IA peut recevoir une consigne parfaitement banale, et trouver une manière inattendue de l’exécuter.
Et plus elle dispose de liberté, plus il devient difficile de prévoir chacune des étapes qu’elle va entreprendre. Ce qui est particulièrement inquiétant. Et cette inquiétude ne vient pas uniquement des chercheurs en cybersécurité.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Dario Amodei, le PDG d’Anthropic, vient lui aussi de tirer la sonnette d’alarme. Dans un texte publié le 12 septembre, il appelle les entreprises d’IA à ralentir le rythme de développement des modèles. Le temps de renforcer les dispositifs de sécurité.
Selon lui, une version plus puissante des agents impliqués dans l’incident Hugging Face pourrait coordonner des actions à une échelle suffisante pour prendre le contrôle d’une partie d’Internet. Et pas dans 10 ou 20 ans. Dans les 6 à 12 prochains mois.
- Partager l'article :
