Il faut se remémorer les faits. Il y a environ deux semaines, OpenAI a reconnu qu’un de ses agents avait échappé à son environnement de test et compromis Hugging Face.
D’après Reuters, tout aurait commencé le 9 juillet lors d’un test interne. L’agent d’IA aurait tenté de s’échapper de son environnement de confinement. Résultat, entre le 11 et le 13 juillet, il serait parvenu à compromettre la plateforme Hugging Face.
Le 16 juillet, Hugging Face révèle être victime d’une intrusion via un billet de blog. Ce n’est toutefois que les 18 et 19 juillet qu’OpenAI aurait fait le lien avec l’un de ses propres agents, après avoir passé en revue ses journaux d’activité internes.
Il aurait donc fallu plusieurs jours à la firme pour réunir les éléments montrant que son système pouvait être à l’origine de l’incident.
Quelque jours plus tard, Anthropic a à son tour révélé un incident similaire. Les investigations ont montré que plusieurs services avaient été touchés.
Tout porte donc à croire que ces dérapages ne sont pas isolés. Alors, OpenAI a décidé d’enquêter.
Que donne l’enquête d’OpenAI ?
Selon Reuters, OpenAI a identifié d’autres situations où des agents d’IA sont parvenus à sortir de leur environnement logiciel confiné lors de tests internes.
Heureusement, ces incidents sont restés limités aux infrastructures d’OpenAI et n’ont affecté aucun service externe. Du moins, d’après les sources proches du dossier citées par Reuters.
Ces nouveaux cas auraient été découverts au cours de l’enquête lancée après le premier incident rendu public. Le groupe cherche désormais à comprendre comment plusieurs agents ont réussi à contourner les barrières censées les maintenir dans un environnement sécurisé.
Et franchement, il le faut bien. Car cette succession d’incidents risque d’accentuer la pression sur les acteurs de l’IA.
Ces entreprises sont déjà critiquées pour la consommation énergétique de leurs centres de données et leur impact environnemental. Alors, une polémique de plus sur la sécurité de leurs systèmes autonomes, ce ne sera pas bon. Pour elles en tout cas.
D’ailleurs, le sujet attire déjà l’attention des autorités. Interrogé sur le piratage impliquant l’agent d’OpenAI, le président Donald Trump a indiqué que les mécanismes de contrôle faisaient l’objet d’un examen.
De son côté, l’Union européenne échange avec OpenAI et Anthropic sur ces incidents. À tout moment, elle pourrait renforcer la réglementation applicable aux systèmes d’IA autonomes considérés comme à haut risque.
Sur le plan juridique aussi, ça s’annonce mal. Des spécialistes interrogés par WIRED estiment que les groupes développant ces agents devraient rester responsables des dommages causés.
Cela, même lorsqu’un système autonome agit de manière imprévue. Pour l’instant, le cadre légal reste cependant largement insuffisant pour répondre à ce type de situation.
- Partager l'article :
