OpenAI met temporairement certains travaux sur Astra sur pause. La raison ? L’agent d’IA a montré des « progrès significatifs » en programmation et en cybersécurité. Ses capacités ont atteint un niveau jugé « critique » par OpenAI.
Il sait repérer une vulnérabilité, comment l’exploiter et peut passer à l’action sans qu’un humain lui indique chaque étape. Il pourrait même orchestrer des cyberattaques à partir d’un simple objectif général.
Cela étant, Sam Altman, le PDG d’OpenAI assure que l’équipe travaille à rendre Astra accessible à tous.
« Nous ne pensons pas qu’il soit judicieux de réserver les modèles puissants à une élite. Compte tenu de ses capacités cybernétiques, nous avons besoin d’un peu plus de temps pour mener à bien cette opération en toute sécurité. Mais espérons que ce ne sera plus trop long ! »
astra is a powerful model and we are working to make it generally available.
— Sam Altman (@sama) August 7, 2026
we do not think it is a good strategy to keep powerful models to a chosen few.
given its cyber capabilities, we need a little big longer to do do this safely. but hopefully not too long!
Astra, le pirate qui a fait des siennes chez Hugging Face ?
Justement, OpenAI tient à faire une distinction. Astra n’était pas le modèle impliqué dans l’affaire d’intrusion sur Hugging Face.
Cela dit, les incidents se sont multipliés ces derniers temps. Le sujet dépasse d’ailleurs largement OpenAI.
Récemment, l’Institut britannique de sécurité de l’IA (AISI) a par exemple révélé les dérapages des technologies d’OpenAI et d’Anthropic lors d’une évaluation de cybersécurité.
Puis, Meta a aussi révélé qu’un de ses modèles avait réussi à pirater une autre entreprise lors d’un test de cybersécurité.
Pour éviter qu’un agent doté de telles capacités ne transforme un simple test en scénario catastrophe, OpenAI renforce donc ses garde-fous.
After evaluating one of our upcoming models, Astra, we're treating it as our first "critical" model for cybersecurity under our Preparedness Framework.
— OpenAI (@OpenAI) August 7, 2026
This is a scenario we've planned for, and we're putting additional controls in place to ensure Astra's further development…
L’entreprise prévoit notamment d’utiliser des environnements de test davantage isolés, de limiter l’accès aux réseaux et aux outils. Mais aussi de renforcer la protection des paramètres des modèles.
Des systèmes supplémentaires de surveillance et de détection doivent également être mis en place. Les travaux internes sur Astra qui ne respecteront pas ces nouvelles exigences seront suspendus.
OpenAI assure vouloir collaborer avec les gouvernements, les organismes spécialisés dans la sécurité et la société civile afin que les modèles les plus avancés puissent être déployés de manière responsable.
- Partager l'article :
