Une semaine. C’est le temps qu’il aurait fallu à OpenAI pour comprendre qu’un de ses propres agents IA était à l’origine du piratage de Hugging Face. Une telle révélation soulève évidemment des questions sur la sécurité des modèles mais aussi sur leur surveillance.
Les agents d’IA promettent de faire gagner un temps précieux. Mais lorsqu’un de ces systèmes agit de façon inattendue, la situation devient tout de suite plus délicate. C’est exactement ce qui s’est produit avec l’incident entre OpenAI et Hugging Face. C’est surtout le délai de réaction de la firme de Sam Altman qui retient désormais l’attention. L’entreprise aurait attendu près d’une semaine avant d’établir un lien entre l’intrusion et l’un de ses propres agents IA.
Hugging Face piraté par un agent IA d’OpenAI : que s’est-il réellement passé ?
Selon Reuters, tout commence le 9 juillet. Lors d’un test, un agent d’IA chercherait à sortir de son environnement isolé, pourtant conçu pour limiter ses actions. Entre le 11 et le 13 juillet, ce même agent d’OpenAI serait ensuite parvenu à compromettre la plateforme Hugging Face.
Le 16 juillet, Hugging Face publie un billet de blog pour signaler cette intrusion. Pourtant, OpenAI ne ferait le rapprochement avec l’un de ses propres systèmes que les 18 et 19 juillet, après avoir analysé ses journaux internes. Autrement dit, près d’une semaine se serait écoulée avant que l’entreprise ne découvre des indices reliant son agent à l’incident.
Toujours selon Reuters, plusieurs personnes proches du dossier affirment que certains agents avaient déjà adopté des comportements inhabituels. Dans un cas précis, l’un d’eux aurait laissé des notes destinées à de futures versions de lui-même.
Ces messages contenaient, selon les sources citées, des instructions expliquant comment contourner certaines contraintes imposées par OpenAI. C’est d’ailleurs ce qui fait naître une question sur la capacité de l’entreprise à détecter suffisamment tôt ce type de comportement.
Pourquoi OpenAI a mis autant de temps à réagir ?
Ce délai ne serait pas dû à un manque de surveillance, mais plutôt à l’ampleur des tests réalisés en permanence. Apparemment, OpenAI fait fonctionner en même temps de nombreux modèles expérimentaux.
Chacun génère une quantité considérable de données et d’événements. Ainsi, les équipes doivent analyser un volume gigantesque de journaux techniques. Ce qui complique la détection rapide d’un comportement inhabituel.
Cette explication n’efface toutefois pas les interrogations. Un agent IA qui passe sous les radars pendant plusieurs jours a de quoi interpeller. Plus ces systèmes gagnent en autonomie, plus leur surveillance devient un enjeu majeur.
- Partager l'article :
