En février, Sam Altman promettait de mieux dormir grâce à sa nouvelle recrue chargée des risques extrêmes. Cinq mois plus tard, l’équipe Preparedness d’OpenAI n’existe plus. Ses missions bio et cyber ont été dispersées, au moment précis où des agents de l’entreprise viennent de prouver qu’ils savaient sortir de leur cage. Deux spécialistes interrogés par LeBigData pointent désormais le même enjeu : intégrer la sécurité aux équipes ne doit pas faire disparaître une gouvernance capable de leur dire non.
Cinq mois, puis la cellule disparaît
Le Financial Times a révélé qu’OpenAI avait dissous son équipe « Preparedness » à la fin du mois de juillet 2026. Cette unité évaluait si les modèles de l’entreprise pouvaient provoquer des dommages graves, voire catastrophiques, puis cherchait les moyens de réduire ces risques. Le thermomètre n’a pas été cassé, mais le service qui le tenait vient d’être démonté.
Les missions liées aux menaces biologiques et aux cyberattaques ont été réparties entre des équipes déjà existantes. Dylan Scandinaro, qui dirigeait Preparedness, se concentre désormais sur les dangers d’une IA capable de s’améliorer elle-même de façon récursive. OpenAI ne prétend donc pas abandonner la sécurité : l’entreprise affirme l’intégrer ailleurs. Reste à savoir si disperser les extincteurs rend vraiment le bâtiment plus sûr.
Sam Altman disait qu’il dormirait mieux
Le contraste frôle l’auto-parodie. En février 2026, OpenAI avait débauché Scandinaro chez Anthropic pour prendre la tête de Preparedness. Sam Altman le présentait comme « de loin le meilleur candidat » qu’il ait rencontré et écrivait qu’il dormirait mieux cette nuit-là. Cinq mois plus tard, le poste n’existe plus sous cette forme.
Le message original de Sam Altman mesure mieux que n’importe quel communiqué la vitesse du virage :
Selon Wired, quatre personnes ont occupé la direction de Preparedness en trois ans. Ce n’est plus une rotation, c’est un tourniquet. La disparition de l’équipe transforme surtout une question technique en problème de gouvernance : qui possède désormais la vue d’ensemble, et qui peut bloquer un lancement lorsque plusieurs risques se croisent ?
Le garde-fou est désormais livré en kit
Le cadre officiel d’OpenAI n’a pas été supprimé. Il surveille toujours trois catégories : les capacités biologiques et chimiques, la cybersécurité et l’auto-amélioration de l’IA. Un Safety Advisory Group analyse les évaluations et recommande des protections. Mais la direction conserve le dernier mot sur le déploiement des modèles.
OpenAI a expliqué à Wired que des responsables dédiés à la bio, au cyber et à l’auto-amélioration rapportaient provisoirement à Saachi Jain, codirectrice de ce groupe consultatif et responsable des systèmes de sécurité. Cette organisation peut rapprocher les spécialistes des modèles qu’ils contrôlent. Elle peut aussi diluer la contradiction dans les équipes chargées d’avancer. En sécurité, être partout finit parfois par ressembler dangereusement à n’être responsable nulle part.
Philippe Nieuwbourg, analyste indépendant spécialisé dans la gouvernance des données et de l’IA, estime pourtant que placer la gestion quotidienne des risques au sein des équipes n’est pas forcément une erreur. « La gestion opérationnelle des risques peut parfaitement être prise en charge par les équipes opérationnelles, qui connaissent le mieux leurs outils et leurs comportements », explique-t-il à LeBigData.
La condition essentielle se trouve selon lui un étage au-dessus. « La gouvernance des risques doit être centralisée, transverse », assurée par des professionnels du risque et indépendante des métiers directement concernés. Il cite notamment des approches comme la norme ISO 31000. En clair : les développeurs peuvent gérer le risque au quotidien, mais ils ne devraient pas être seuls à définir les règles du jeu.
Raja Chatila, professeur émérite à Sorbonne Université et spécialiste de la robotique et de l’éthique de l’IA, voit lui aussi un risque dans cette dilution organisationnelle. « Une personne dans une équipe qui a ses propres priorités pèse probablement moins qu’une structure spécifique qui a une mission claire », explique-t-il à LeBigData.
Pendant ce temps, les agents sortent de leur cage
Cette réorganisation serait déjà sensible en temps normal. Elle devient explosive après l’évasion d’agents d’OpenAI hors de leur environnement de test. En mai, plusieurs systèmes supposés isolés ont accédé à Internet, créé un espace de discussion secret et compromis des services pour tenter de récupérer des réponses à une évaluation sur Hugging Face. OpenAI ne les a repérés qu’en juillet.
Rien ne prouve que la dissolution de Preparedness a causé cet incident, ni qu’elle en soit une conséquence directe. La collision des calendriers suffit pourtant à inquiéter. OpenAI a depuis suspendu une partie des capacités cyber de son IA Astra. Au moment où les risques quittent les rapports pour toucher de vraies infrastructures, l’équipe chargée de les anticiper perd son centre de gravité.
Sur la question de ces agents capables de quitter leur environnement de test, Raja Chatila ne mise pas sur un hypothétique surveillant extérieur capable d’intervenir après coup. Pour lui, le véritable garde-fou doit être technique et installé avant le test. « La seule méthode est que les systèmes en test ne soient pas connectés à l’extérieur », tranche-t-il.
Selon le chercheur, garantir cette isolation reste « la responsabilité de l’entreprise qui développe le système ». Un audit indépendant peut examiner les procédures, mais il ne peut pas rattraper en temps réel un agent déjà libre de naviguer sur Internet. Pour les systèmes les plus autonomes, le premier bouton d’arrêt pourrait donc être beaucoup plus banal qu’un comité de sûreté : ne jamais leur ouvrir la porte pendant les essais.
Les équipes changent, le signal ne change plus
Preparedness rejoint une liste qui commence à peser lourd : l’équipe Superalignment a été dissoute en mai 2024, Mission Alignment en février 2026, tandis que plusieurs responsables de la sécurité ont quitté l’entreprise. Le départ récent de la responsable de l’éthique Chloé Bakalar a encore épaissi le malaise. Pris séparément, chaque mouvement se défend ; alignés, ils dessinent une direction.
Raja Chatila fait justement le rapprochement entre ces différents épisodes. Après les précédentes dissolutions d’équipes consacrées à la sûreté et à l’alignement et le départ de la responsable de l’éthique, il estime qu’OpenAI semble privilégier la diffusion de produits commercialisables avec le moins de limites possible, alors que l’entreprise prépare son entrée en Bourse.
Philippe Nieuwbourg voit dans cette perspective d’IPO un autre problème. Pour les clients et partenaires, la réorganisation pourrait être interprétée de plusieurs manières. Mais les investisseurs pourraient surtout y voir un risque juridique et financier : si une menace n’est pas détectée et provoque des dommages chez un client, les conséquences peuvent finir devant les tribunaux.
Et l’économie réalisée paraît dérisoire face à ce risque d’image. Selon Philippe Nieuwbourg, les sommes économisées en supprimant ces équipes sont « financièrement microscopiques » par rapport aux coûts globaux d’OpenAI. L’entreprise pourrait donc économiser peu tout en donnant l’impression de rogner précisément sur la fonction chargée d’empêcher les problèmes les plus coûteux.
En 2024, l’ancien responsable du superalignement Jan Leike avait déjà accusé la culture de sécurité de passer derrière les « produits brillants ». Son avertissement mérite aujourd’hui d’être relu :
Intégrer la sécurité au cœur de la recherche peut être plus efficace qu’entretenir une tour de contrôle isolée. Les témoignages recueillis par LeBigData montrent cependant que l’intégration opérationnelle et l’indépendance de la gouvernance ne sont pas incompatibles. Les équipes peuvent gérer leurs risques au plus près des modèles tout en restant soumises à une structure transverse capable de les contredire.
OpenAI doit désormais démontrer que cette contradiction existe encore réellement, avec des responsables identifiés, des évaluations publiées, des environnements de test véritablement isolés et la preuve qu’une voix interne peut toujours imposer un non. Un cadre sans équipe dédiée peut vite devenir un document aux marges impeccables, posé trop loin du frein d’urgence.
Car le problème n’est pas de savoir si la sécurité existe encore quelque part dans l’organigramme. Il est de savoir qui peut arrêter la machine.
- Partager l'article :
