Faux comptes, accès à des services externes, tentatives de contournement… Lors de récents tests de cybersécurité, GPT 5.6 Sol a encore fait des siennes.
L’affaire commence avec une série d’évaluations menées par des organismes indépendants. L’objectif était simple. Mettre les IA de pointe dans la peau d’un expert en cybersécurité et observer jusqu’où elles pouvaient aller.
Puis est venue l’inattendue. Certains modèles ont décidé d’explorer des chemins que les testeurs n’avaient pas vraiment prévus. Deux partenaires externes ont alors signalé des comportements inhabituels. Ces incidents sont distincts de l’affaire liée à Hugging Face.
We're detailing two new incidents that occurred during external cyber evaluations conducted by independent evaluation partners.
— OpenAI (@OpenAI) August 4, 2026
We outline what happened, how the activity was contained, and how we’re working with evaluators to strengthen our approach to third-party testing.…
Une mauvaise tournure
Dans le premier cas, l’Institut britannique de sécurité de l’IA (UK AISI) testait plusieurs modèles dans un exercice de cybersécurité simulé.
Les agents IA devaient infiltrer des réseaux virtuels, trouver des failles et récupérer un objectif final. Comme dans un jeu de type « Capture-the-Flag ». Pour rendre l’expérience plus réaliste, l’institut avait activé l’accès Internet afin que les modèles puissent rechercher des outils par eux-mêmes.
Puis, ça a déraillé. Il y a eu 19 actions non autorisées. GPT-5.6 Sol est responsable de deux d’entre eux. Il a notamment essayé d’utiliser un jeton GitHub exposé publiquement par un autre agent pour vérifier certains services externes.
Le modèle a également essayé différentes méthodes de contournement liées à la récupération de compte et aux limites de requêtes. Le modèle a aussi créé des comptes auprès de services DNS et de tunnel Internet.
Ce serveur contenait des éléments destinés à exploiter une vulnérabilité connue d’un logiciel utilisé pendant l’évaluation. Heureusement, la tentative n’a pas fonctionné. Aucun système réel n’a été compromis. Et l’infrastructure créée pendant le test a été supprimée à la fin de l’expérience.
Une erreur de configuration
En effet, un autre incident a été signalé par Irregular, un partenaire spécialisé dans les tests de cybersécurité.
Cette fois, le problème ne venait pas directement d’une initiative du modèle, mais d’une erreur de configuration. Les IA devaient participer à un exercice fermé, sans accès à Internet.
Sauf qu’une mauvaise configuration a laissé une connexion ouverte. Pendant le test, le modèle a rencontré un nom de domaine fictif qui correspondait par hasard à un véritable site Internet.
Pensant continuer son exercice dans un environnement virtuel, il a alors interagi avec le site réel. Selon Irregular, il ne s’agissait pas d’une attaque sophistiquée ni d’une faille inconnue.
Le problème venait surtout d’un environnement de test mal isolé. L’entreprise indique également que le modèle a trouvé et utilisé des identifiants pour exploiter ce même site.
Aucun dommage majeur n’a cependant été détecté au-delà des données présentes sur le site concerné.
Pourquoi ces incidents impliquant GPT-5.6 inquiètent ?
En gros, ces dérives se sont produites dans des environnements de test très particuliers. Et comme dit tout haut, il n’y a eu aucun dommage majeur.
Malgré cela, difficile de ne pas s’inquiéter. Car le problème n’est pas seulement le résultat final. Le simple fait qu’un modèle tente d’utiliser des services externes qui n’étaient pas nécessaires à sa mission montre une évolution importante des risques.
Ces incidents sont la preuve que les règles de sécurité doivent évoluer avec les performances des modèles. Comme l’affirme OpenAI. Les anciennes méthodes de test ne suffisent plus forcément face à des IA capables de raisonner, d’utiliser des outils et de chercher elles-mêmes des solutions.
L’entreprise mère de ChatGPT prévoit ainsi de revoir ses pratiques concernant les évaluations externes. Meilleure surveillance, règles plus strictes sur l’accès Internet, isolation renforcée des environnements et procédures plus rapides en cas d’incident.
The UK’s @AISecurityInst (AISI) has published a report on their recent cybersecurity evaluation of Anthropic’s Claude Mythos 5 and OpenAI’s GPT-5.6 Sol. The models attempted to complete an assignment in a setup where their normal safeguards were removed and they were deliberately…
— Anthropic (@AnthropicAI) August 4, 2026
Sinon, comme je disais, les chercheurs de l’UK AISI ont identifié 19 comportements qui dépassaient le cadre prévu des tests. 17 de ces actions concernaient le modèle Mythos 5 d’Anthropic.
De ce fait, la firme explique mener sa propre enquête afin d’identifier les facteurs à l’origine de ses comportements.
- Partager l'article :
