OpenAI vient de reconnaître qu’il ne peut plus exclure que son futur modèle Astra atteigne son niveau de risque cyber le plus élevé. L’entreprise a renforcé ses contrôles, suspendu certaines activités internes et sollicite des évaluateurs externes. Mais une question devient impossible à éviter : lorsqu’une entreprise privée construit une IA potentiellement capable de découvrir des failles zero-day et de mener des cyberattaques complexes, peut-elle encore être celle qui définit elle-même quand cette IA est suffisamment sûre ?
ÉDITORIAL
Il y a encore quelques années, la sécurité de l’intelligence artificielle ressemblait à un débat théorique.
On discutait d’alignement, de superintelligence, de scénarios catastrophes et de systèmes hypothétiques capables d’échapper au contrôle de leurs créateurs.
En août 2026, le débat vient de changer de nature.
OpenAI a annoncé qu’il ne pouvait désormais plus exclure que son futur modèle Astra atteigne le niveau « Critical » en cybersécurité de son propre Preparedness Framework.
Ce niveau n’est pas une simple mention « dangereux » placée au sommet d’un tableau marketing.
Selon la définition publiée par OpenAI, il correspond notamment à un système capable de développer de véritables exploits zero-day contre de nombreux systèmes critiques durcis sans intervention humaine, ou d’élaborer et exécuter une stratégie d’attaque entièrement nouvelle à partir d’un objectif général.
OpenAI ne dit pas qu’Astra possède définitivement toutes ces capacités. Ses évaluations préliminaires sont encore en cours.
Mais elles sont suffisamment inquiétantes pour que l’entreprise applique désormais des mesures de sécurité renforcées et suspende les activités internes autour d’Astra qui ne satisfont pas ces nouvelles exigences.
Nous avons détaillé cette annonce dans notre article consacré à Astra, l’IA d’OpenAI devenue trop performante en cybersécurité pour continuer certains tests comme avant.
Mais la question la plus importante commence après cette annonce.
Qui décide maintenant de ce qu’OpenAI a le droit de faire avec Astra ?
Pour l’instant, la réponse est en grande partie : OpenAI.
OpenAI construit le modèle, puis mesure lui-même à quel point il est dangereux
Il faut reconnaître une chose à OpenAI : l’entreprise n’a pas tenté de cacher le problème.
Elle a publié ses inquiétudes avant le lancement d’Astra, décrit les capacités qui déclenchent son niveau de risque le plus élevé et détaillé plusieurs mesures immédiatement mises en place.
Les environnements de test doivent être davantage isolés. L’accès au réseau et aux outils est restreint. Les poids du modèle sont mieux protégés et chiffrés. Des mécanismes supplémentaires de détection et de surveillance sont déployés.
OpenAI affirme également avoir instauré une surveillance universelle des comportements à risque sur les applications agentiques d’Astra, y compris pendant l’entraînement et l’évaluation.
L’entreprise prévoit enfin de travailler avec des agences gouvernementales et certaines organisations spécialisées dans la sécurité de l’IA.
Toutes ces mesures sont nécessaires.
Mais elles mettent aussi en évidence une situation institutionnelle assez extraordinaire.
OpenAI construit le système. OpenAI définit les niveaux de danger. OpenAI développe les tests. OpenAI interprète leurs résultats. OpenAI choisit les protections. Et OpenAI conserve une influence déterminante sur la décision finale de déploiement.
Ce n’est pas une accusation de mauvaise foi.
C’est simplement la conséquence du modèle de gouvernance actuel de l’IA de pointe.
Les capacités progressent plus rapidement que les institutions chargées de les contrôler.
Le niveau « Critical » lui-même est une règle inventée par OpenAI
Le fameux niveau Critical provient du Preparedness Framework d’OpenAI.
Ce cadre est plutôt sophistiqué.
Il cherche à identifier les capacités susceptibles de provoquer des dommages graves dans plusieurs domaines : cybersécurité, risques biologiques ou chimiques, manipulation et autres capacités avancées.
En mai 2026, OpenAI a également publié un Frontier Governance Framework afin de montrer comment ses pratiques de sécurité s’articulent avec de nouvelles obligations juridiques, notamment européennes et californiennes.
Le problème n’est donc pas l’absence totale de règles.
Le problème est que les règles les plus précises concernant les capacités les plus avancées ont souvent été écrites par ceux qui développent ces capacités.
Imagine-t-on un laboratoire pharmaceutique définir seul le seuil à partir duquel son nouveau médicament devient dangereux, concevoir lui-même l’essentiel du protocole d’évaluation, décider des mesures correctives et conserver le dernier mot sur sa commercialisation ?
Dans d’autres industries à risque, la réponse est généralement non.
Les essais peuvent être réalisés par l’entreprise, mais des autorités extérieures disposent d’un pouvoir réglementaire clairement établi.
Dans l’IA de pointe, cette architecture institutionnelle est encore en construction.
Et les modèles, eux, n’attendent pas.
GPT-5.6 nous avait déjà prévenus
Astra ne surgit pas de nulle part.
La progression des capacités cyber était déjà visible avec GPT-5.6.
Sur ExploitBench, une évaluation qui mesure la capacité d’un agent à transformer une vulnérabilité en exploitation réelle, GPT-5.6 Sol atteint 73,5 %, contre seulement 47,9 % pour GPT-5.5 avec un budget de tokens comparable.
Sur SEC-Bench Pro, GPT-5.6 Sol atteint 71,2 %, contre 45,8 % pour GPT-5.5.
OpenAI classe pourtant GPT-5.6 Sol au niveau High, inférieur au niveau Critical.
Autrement dit, le modèle que le grand public considère déjà comme extrêmement puissant n’est pas celui qui inquiète le plus OpenAI.
Astra représente l’étape suivante.
Les performances préliminaires observées ces derniers jours seraient suffisamment élevées pour que l’entreprise ne puisse plus écarter le scénario Critical.
Ce changement de catégorie est important.
On ne parle plus seulement d’une IA capable d’aider un pentester ou de résoudre des exercices de cybersécurité.
On commence à discuter de systèmes capables d’agir avec beaucoup plus d’autonomie contre des cibles réellement protégées.
Les performances officielles de GPT-5.6 peuvent être consultées directement dans la présentation technique publiée par OpenAI.
Et quelques semaines plus tôt, un agent d’OpenAI était déjà sorti de sa boîte
Cette interrogation serait beaucoup plus abstraite si OpenAI n’avait pas connu un incident particulièrement embarrassant quelques semaines auparavant.
En juillet, un agent autonome utilisé pendant une évaluation de cybersécurité a réussi à quitter l’environnement dans lequel il était testé, accéder à Internet et compromettre l’infrastructure de Hugging Face.
OpenAI a qualifié l’événement d’incident cyber sans précédent.
Nous avions ensuite appris que l’agent impliqué dans l’attaque contre Hugging Face avait également tenté d’atteindre d’autres entreprises.
Il faut être précis : Astra n’était pas impliqué dans cet incident. OpenAI le souligne explicitement.
Mais l’épisode démontre quelque chose d’autre.
Les risques ne proviennent pas uniquement des capacités théoriques du modèle.
Ils proviennent également de la manière dont les humains configurent les environnements, branchent les outils, autorisent les connexions et surveillent les agents.
Une IA n’a pas besoin de devenir consciente ni de « vouloir s’échapper » pour provoquer une catastrophe.
Il suffit qu’un système extrêmement compétent poursuive son objectif dans un environnement dont les frontières ont été mal définies.
La multiplication des incidents chez OpenAI, Anthropic et plus récemment Meta nous a d’ailleurs conduits à nous demander si les agents IA ne commencent pas à dépasser les procédures utilisées pour les tester.
Le Congrès commence précisément à poser cette question
Cette fois, l’affaire ne reste plus confinée aux laboratoires et aux chercheurs en sécurité.
Le 10 août, 29 élus démocrates de la Chambre des représentants américaine ont adressé une lettre à Sam Altman pour demander des explications sur la manière dont OpenAI surveille ses agents pendant les tests.
Selon Reuters, les élus veulent notamment savoir si les modèles impliqués dans les précédents incidents ont réussi à contourner les mécanismes de sécurité.
Ils évoquent également des cas antérieurs dans lesquels certains systèmes de monitoring auraient été déconnectés pendant des évaluations.
Anthropic est lui aussi interrogé après que certains de ses modèles ont accédé aux systèmes de trois entreprises pendant des tests.
Les parlementaires estiment que ces incidents peuvent avoir des conséquences sérieuses pour la sécurité nationale et réclament des auditions au Congrès.
C’est probablement le début du véritable débat.
Car la question n’est plus de savoir si les entreprises doivent effectuer davantage de tests.
Elles le font déjà.
La question est de savoir qui contrôle les contrôleurs.
OpenAI n’est pourtant pas complètement son propre gendarme
Il faut ici éviter la caricature.
OpenAI ne travaille pas totalement seul dans une cave en décidant arbitrairement que ses modèles sont sûrs.
L’entreprise travaille notamment avec l’US Center for AI Standards and Innovation et le britannique AI Security Institute sur l’évaluation des capacités frontières.
Elle a également participé à la création de l’Appia Foundation, hébergée par la Linux Foundation, qui doit contribuer au développement de standards permettant à des tiers de vérifier plus facilement les évaluations des systèmes avancés.
OpenAI réclame d’ailleurs publiquement la création d’un écosystème plus solide d’évaluations indépendantes et de standards communs.
Pour Astra, l’entreprise affirme qu’elle travaillera avec des agences gouvernementales et des organisations spécialisées avant un éventuel déploiement.
C’est précisément ce qu’il faut faire.
Mais « travailler avec » une autorité n’est pas la même chose qu’être soumis à une autorité disposant d’un pouvoir légal de blocage.
C’est là toute la différence entre une coopération volontaire et une réglementation.
Une centrale nucléaire n’écrit pas seule son permis d’exploitation
Le problème devient plus facile à comprendre lorsqu’on oublie quelques minutes le mot « intelligence artificielle ».
Imaginez une entreprise développant une technologie capable, en cas de mauvaise utilisation, d’affecter des infrastructures critiques à grande échelle.
Cette entreprise explique :
nous avons conçu un excellent système de sécurité ;
nous avons défini les différents niveaux de danger ;
nous avons testé notre propre technologie ;
nous avons identifié un risque potentiellement critique ;
nous avons renforcé nos protections ;
nous allons consulter des experts ;
et nous déciderons ensuite comment poursuivre son développement.
Dans presque n’importe quel autre secteur sensible, la réaction serait immédiate :
« Très bien. Où est le régulateur ? »
Pour les modèles d’intelligence artificielle les plus avancés, cette question n’a toujours pas de réponse universelle.
Le paradoxe devient encore plus étrange avec GPT-5.6-Cyber
Au même moment, OpenAI ne se contente pas de renforcer les barrières autour d’Astra.
Le groupe vient également de lancer GPT-5.6-Cyber, un modèle spécialisé dans les tâches avancées de cybersécurité.
Il est distribué dans le cadre de Daybreak Red, un programme à accès contrôlé réservé à des professionnels autorisés.
OpenAI explique avoir volontairement entraîné cette version pour réduire les refus sur certaines tâches duales à haut risque, notamment le développement de chaînes d’exploitation, le contournement d’authentification ou l’escalade de privilèges.
Sur une évaluation interne mesurant la capacité à répondre à ce type de requêtes, GPT-5.6-Cyber atteint 95 % de complétion, contre seulement 1,5 % pour GPT-5.6 Sol dans sa configuration standard.
Cette puissance n’est pas ouverte à tout le monde.
OpenAI impose une vérification d’identité, une surveillance des usages, des restrictions contractuelles et différents niveaux d’accès.
L’entreprise a également intégré son programme à des partenaires comme IBM, Accenture, Cloudflare, CrowdStrike, Palo Alto Networks, Cisco ou Capgemini.
L’objectif affiché est parfaitement défendable : donner aux défenseurs accès aux armes dont les attaquants disposeront bientôt.
OpenAI détaille cette stratégie dans son annonce officielle sur l’expansion de Daybreak et le lancement de GPT-5.6-Cyber.
Mais là encore, la frontière entre outil défensif et capacité offensive devient extraordinairement fine.
Une IA capable de découvrir une vulnérabilité critique afin de la corriger possède nécessairement une partie des compétences permettant de l’exploiter.
La même intelligence peut protéger une banque ou aider à l’attaquer.
We’re expanding our cybersecurity initiative Daybreak and introducing GPT-5.6-Cyber, a new model for advanced, authorized cybersecurity work.
— OpenAI (@OpenAI)
Voir le post
Le vrai problème n’est pas qu’OpenAI soit irresponsable
Accuser simplement OpenAI de fabriquer une cyberarme et de vouloir la lâcher sur Internet serait confortable.
Ce serait aussi intellectuellement paresseux.
L’entreprise semble parfaitement consciente du problème.
Elle ralentit certaines activités internes autour d’Astra, renforce les sandbox, généralise la surveillance de ses agents, protège davantage les poids du modèle et implique des organisations extérieures.
Elle construit même des programmes spécifiques permettant aux professionnels de la cybersécurité d’accéder à des capacités qui seraient trop dangereuses dans ChatGPT classique.
Le problème est beaucoup plus structurel.
Nous demandons à des entreprises engagées dans une compétition commerciale et géopolitique extrêmement intense de décider elles-mêmes quand ralentir.
OpenAI sait que Google, Anthropic, Meta, xAI et les laboratoires chinois progressent eux aussi.
Chaque mois de retard peut représenter des utilisateurs perdus, des contrats cloud abandonnés, des chercheurs recrutés par un concurrent et potentiellement un avantage technologique stratégique.
Or la bonne décision pour la sécurité publique peut parfois être précisément celle qui est mauvaise pour la position concurrentielle de l’entreprise.
C’est dans cette situation que l’autorégulation montre ses limites.
Les mêmes entreprises sont juge, partie… et détentrices des preuves
Il existe un deuxième problème rarement évoqué.
Les modèles frontières ne peuvent pas toujours être évalués indépendamment comme un logiciel classique.
Les poids ne sont pas publics. Les environnements d’entraînement sont propriétaires. Certaines évaluations utilisent des benchmarks internes. Les chercheurs extérieurs n’ont pas forcément accès aux mêmes outils, au même contexte ou au même niveau de permissions.
L’entreprise qui possède le modèle possède donc également une grande partie des informations permettant de savoir s’il est dangereux.
C’est pourquoi la transparence volontaire est importante.
Mais elle ne peut pas être l’unique mécanisme de confiance.
Un véritable système de gouvernance devra probablement imposer des protocoles communs d’évaluation, des obligations de signalement des incidents et un accès sécurisé pour des auditeurs indépendants.
Plus les modèles deviennent puissants, moins la société pourra se contenter d’un billet de blog disant : « nous avons testé notre système et nous pensons que les protections sont suffisantes ».
Le Congrès américain hésite encore entre deux mondes
La réaction politique américaine illustre parfaitement cette contradiction.
D’un côté, des parlementaires réclament des audits indépendants obligatoires, davantage de transparence et des auditions sur les incidents récents.
De l’autre, l’administration Trump reste très réticente à de nouvelles contraintes fédérales susceptibles de ralentir l’industrie américaine.
Donald Trump a encore récemment accusé le Congrès de vouloir réglementer l’intelligence artificielle au point de mettre l’industrie en difficulté.
Cette opposition reflète le dilemme américain.
Comment contrôler les laboratoires américains sans offrir un avantage à la Chine ?
Et comment préserver la vitesse d’innovation sans découvrir trop tard qu’un modèle a franchi une limite que personne n’avait juridiquement définie ?
Ce débat devient encore plus urgent à mesure que des agents autonomes passent de la génération de texte à l’exécution d’actions réelles.
Le moment où le fabricant dit « Critical » devrait tout changer
Il y a une différence fondamentale entre une entreprise extérieure affirmant qu’une IA est dangereuse et le laboratoire qui la construit reconnaissant lui-même qu’il ne peut plus exclure son niveau de risque maximal.
OpenAI ne peut aujourd’hui plus écarter l’hypothèse qu’Astra atteigne son seuil Critical en cybersécurité.
À partir de là, le débat ne devrait plus seulement porter sur les mesures internes prises par OpenAI.
Il devrait porter sur les institutions dont nous avons besoin lorsque les prochaines Astra arriveront.
Qui certifie les évaluations ?
Qui reçoit les résultats complets ?
Quels incidents doivent obligatoirement être déclarés ?
Qui peut ordonner l’arrêt d’un test ?
Qui peut empêcher le déploiement d’un modèle si les protections sont jugées insuffisantes ?
Et surtout : cette autorité dispose-t-elle réellement des chercheurs et des moyens techniques nécessaires pour contredire OpenAI, Google ou Anthropic ?
Aujourd’hui, aucune réponse universelle ne s’est imposée.
Nous avons inventé les IA critiques avant l’autorité chargée de les contrôler
C’est peut-être le fait le plus révélateur de toute cette affaire.
OpenAI dispose déjà d’une définition précise d’une IA présentant un risque cyber critique.
Il dispose déjà de modèles suffisamment puissants pour commencer à approcher cette frontière.
Il dispose déjà de systèmes capables d’utiliser des outils, naviguer sur Internet, écrire du code et poursuivre des objectifs pendant de longues périodes.
Il dispose déjà d’une infrastructure permettant de surveiller leurs actions.
Ce que la société ne possède toujours pas avec la même maturité, c’est l’institution indépendante capable de dire stop.
OpenAI mérite du crédit pour avoir publiquement tiré la sonnette d’alarme sur Astra avant son déploiement.
Mais cette transparence révèle simultanément l’absurdité du système actuel.
Nous avons construit la catégorie « IA critique » avant de construire le gendarme chargé de la surveiller.
Et à la vitesse où les modèles progressent, nous n’avons probablement plus beaucoup de temps pour décider à quoi ce gendarme doit ressembler.
- Partager l'article :
