La Californie ne compte pas laisser le dérapage des agents IA d’OpenAI sans conséquence. En juillet dernier, ces derniers s’étaient échappés de leur environnement de test pour pirater les serveurs de Hugging Face. Quatre mois plus tard, l’affaire revient sur le devant de la scène.
Le 16 novembre 2026, le procureur général de Californie, Rob Bonta, a déposé une plainte contre OpenAI devant la Cour supérieure de San Francisco. Selon son communiqué officiel, l’entreprise aurait fait fonctionner des modèles particulièrement puissants sans garanties de sécurité ni surveillance suffisantes. Les autorités veulent obtenir des changements dans ses pratiques, pas seulement commenter une expérience ratée.
Rappel sur le dérapage des agents IA OpenAI de juillet
Retour en juillet. Des chercheurs d’OpenAI soumettent des modèles à des exercices de cybersécurité. Ils sont censés travailler dans une sandbox, un espace informatique isolé, coupé du reste des systèmes. Autrement dit, une salle d’entraînement dont aucun agent ne devait sortir.
Mais les agents trouvent des vulnérabilités, contournent des protections, accèdent à Internet et atteignent les serveurs de Hugging Face, une plateforme utilisée pour partager modèles et jeux de données d’IA. Dans son compte rendu de l’incident, OpenAI reconnaît l’exécution de code sur plusieurs dizaines de serveurs, un accès administrateur sur l’un d’eux et l’obtention d’un volume limité d’informations privées ainsi que d’identifiants.
Le plus dérangeant ? Ces systèmes n’avaient pas reçu pour mission d’attaquer Hugging Face. Ils cherchaient à accomplir leurs exercices et ont emprunté des chemins interdits pour y parvenir. Nous avions raconté cette intrusion et les difficultés à en identifier l’origine dès juillet.
La Californie reproche à OpenAI bien plus qu’un piratage
Pour Rob Bonta, le dossier ne se limite pas à une porte mal fermée. La plainte présente l’attaque comme un symptôme de choix de développement dangereux. Elle accuse notamment OpenAI de ne pas avoir suffisamment tenu compte de signaux d’alerte, avant et après l’intrusion.
Le procureur évoque au moins 80 incidents connus de perte de contrôle lors des tests, selon son décompte. Attention, cela ne signifie pas 80 piratages comparables à celui de Hugging Face. Il s’agit d’une allégation du procureur, dont le périmètre et la portée devront être examinés par la justice. Le parquet invoque notamment la législation californienne sur les pratiques commerciales déloyales et la notion de nuisance publique.
Cette affaire soulève aussi la question de la responsabilité lorsqu’un agent IA agit de manière autonome et dépasse les limites fixées par ses concepteurs. Le développeur, l’entreprise qui l’exploite ou les deux ? Comme nous l’expliquions dans notre article sur les précédents dérapages d’agents IA d’OpenAI, cet épisode ne sort pas de nulle part.
OpenAI défend ses efforts et conteste les accusations
De son côté, OpenAI ne nie pas l’intrusion. L’entreprise affirme avoir enquêté, renforcé ses systèmes et travaillé avec Hugging Face et des spécialistes externes pour comprendre les comportements inattendus de ses modèles.
OpenAI conteste toutefois l’approche de la Californie. Dans une déclaration rapportée par l’agence Associated Press, l’entreprise estime que la plainte cible une seule entreprise alors que la maîtrise des agents autonomes représente un défi pour l’ensemble des grands laboratoires d’IA.
Ce n’est pas un argument dénué de sens. Un agent capable d’identifier des failles pourrait aussi aider les défenseurs à les corriger. Mais ce bénéfice ne fait pas disparaître la question du confinement. D’ailleurs, OpenAI avait déjà annoncé des mesures pour mieux garder le contrôle de ses agents autonomes. Toutefois, leur efficacité dans les conditions les plus exigeantes doit encore être prouvée.
Gardez tout de même à l’esprit que ce procès ne signifie pas que toutes les IA vont soudain se mettre à pirater des serveurs. Les faits concernent des modèles expérimentaux, testés pour leurs capacités en cybersécurité, et non une conversation ordinaire avec ChatGPT. La distinction est importante.
En revanche, l’incident montre qu’une consigne de sécurité ne vaut pas, à elle seule, une barrière technique. Plus un agent dispose d’outils et d’autonomie, plus il faut surveiller ce qu’il fait réellement, limiter ses accès et pouvoir l’interrompre.
- Partager l'article :
