La prochaine fois qu’un ingénieur installe une IA dans un environnement informatique censé être coupé du monde. Il aura peut-être intérêt à vérifier deux fois les câbles réseau.
Chez Anthropic, une simple erreur de configuration a transformé un exercice de cybersécurité en véritable escapade numérique. Claude, qui devait chercher des informations dans un réseau fictif, a réussi à accéder à Internet et à s’introduire dans les systèmes de trois organisations.
L’entreprise a identifié ces incidents lors d’un « examen proactif » lancé juste après les révélations d’OpenAI. Celles concernant un agent IA qui avait, lui aussi, mené plusieurs intrusions chez Hugging Face.
Que s’est-il passé avec Claude plus exactement ?
Les incidents impliquent trois modèles différents. Claude Opus 4.7, Claude Mythos 5 et un modèle de recherche développé en interne.
Les premiers cas remontent au mois d’avril. Ils se sont produits dans des environnements d’évaluation qui ne disposaient pas des protections de sécurité habituellement utilisées par Anthropic.
À l’origine, ces modèles participaient à des exercices de type « capture du drapeau ». Le principe est simple. Les IA devaient retrouver des informations cachées au sein de réseaux informatiques simulés. Comme dans une sorte de chasse au trésor réservée aux spécialistes de la cybersécurité.
Les environnements sont censés être isolés d’Internet afin d’empêcher les modèles d’interagir avec de véritables systèmes. Sauf que cette fois, quelque chose a déraillé.
Les instructions données aux modèles indiquaient bien qu’ils n’avaient pas accès à Internet. Mais une incompréhension avec Irregular, le partenaire chargé des évaluations, a fait que les systèmes sont finalement restés connectés au réseau mondial.
Claude s’est donc retrouvé avec une porte ouverte vers l’extérieur… et il l’a franchie.
Ce qu’il faut retenir
Selon Anthropic, Claude a réussi à compromettre l’infrastructure de trois organisations. Comment ? En utilisant des méthodes finalement assez classiques. L’IA aurait notamment exploité des mots de passe faibles ainsi que des points d’accès qui ne nécessitaient aucune authentification.
Les intrusions ont été découvertes après l’analyse de 141 006 évaluations de cybersécurité menées par Anthropic. L’entreprise explique les avoir identifiés en passant au peigne fin ses rapports, à la suite des informations publiées par OpenAI.
Et devinez quoi ? Deux des trois organisations concernées n’étaient même pas au courant que leurs systèmes avaient été impliqués dans ces activités. Cela, avant qu’Anthropic le contacte. Le développeur tente d’ailleurs toujours de joindre la troisième organisation.
Voilà pourquoi il est important de renforcer les contrôles de sécurité autour des environnements de test. Qu’ils soient internes ou confiés à des partenaires externes. Voyez-vous, le problème, cette fois, n’était pas uniquement dans le modèle.
Les conditions permettant à Claude d’agir dans un environnement réel, alors qu’il était censé rester dans un bac à sable, ont été réunies à cause d’une erreur humaine.
Plus les IA deviennent capables d’effectuer des tâches cybernétiques complexes. Plus une simple erreur de configuration peut avoir des conséquences inattendues.
- Partager l'article :
