Encore un agent autonome qui sort du cadre prévu ! Lors d’un test de cybersécurité, Gemini a fini par accéder aux systèmes de trois sociétés réelles. Le cas pointe surtout une faille du dispositif de test, pas une rébellion de l’IA.
L’exercice devait rester sous contrôle. Pourtant, une erreur d’environnement a permis à Gemini d’accéder au Web. Le test de cybersécurité a alors quitté son bac à sable pour toucher trois entreprises réelles. Ainsi, le modèle a testé des mots de passe, retrouvé des identifiants publics et ouvert des systèmes externes. De son côté, Google assure que Gemini a stoppé chaque intrusion après avoir reconnu sa méprise.
Gemini rate son test de cybersécurité
En mai 2026, Gemini participait à une épreuve de type « Capture the flag » organisée par Irregular. La mission ciblait les systèmes d’une entreprise fictive créée pour cet exercice. Seulement, son nom correspondait à celui d’une société réelle. À cela s’ajoutait un autre défaut. L’accès au Web n’avait pas été correctement fermé.
Gemini a donc suivi les indices qu’il trouvait autour de lui pendant ce test de cybersécurité. Dans un cas, le modèle a essayé plusieurs mots de passe jusqu’à trouver le bon. Lors de deux autres essais, il a recherché le nom de la société sur Internet. Il a alors repéré des identifiants exposés dans des bases publiques, puis les a utilisés ailleurs.
Google insiste toutefois sur un détail important. Dès que Gemini a compris qu’il touchait une entreprise réelle, il a arrêté son action. Aucun dommage connu n’a suivi les trois accès. Le groupe considère donc que ses protections ont joué leur rôle.
Cette lecture reste toutefois incomplète. Un garde-fou qui intervient après l’intrusion ne bloque pas le premier franchissement.
Il ne s’agit seulement pas de Google
OpenAI, Anthropic et Meta ont déjà signalé des incidents similaires lors d’évaluations en cybersécurité. Dans plusieurs cas, des modèles ont cherché des clés exposées, exploré Internet ou atteint des systèmes extérieurs. La répétition change la nature du problème. Il ne s’agit plus d’un accident isolé lié à Gemini.
Le sandboxing classique fonctionne bien avec des logiciels dont les actions suivent des chemins prévisibles. Un agent IA pose une difficulté différente. Il peut chercher, comparer, tester puis adapter sa méthode selon chaque résultat obtenu. Une consigne imprécise ou un accès réseau oublié suffit alors à élargir son terrain d’action.
Concrètement, le vrai danger réside moins dans une IA rebelle que dans les permissions qu’on lui donne. Gemini croyait accomplir son exercice. Il n’avait pas besoin d’une intention hostile pour provoquer une intrusion. Le cadre technique aurait donc dû rendre toute sortie impossible, même après une erreur de configuration.
Cette différence compte beaucoup pour les entreprises. Les agents IA arrivent peu à peu dans le développement, l’administration système et la cybersécurité. Plus leur autonomie augmente, plus chaque droit d’accès mérite une justification précise. Les règles écrites dans un prompt ne peuvent pas remplacer des barrières réseau et des contrôles d’identité.
L’incident pose aussi un problème de transparence
Google a averti les trois entreprises touchées ainsi que les autorités fédérales américaines. En revanche, le groupe n’a pas rendu l’incident public de sa propre initiative. Irregular avait signalé le problème fin juillet. Le public l’a appris après les sollicitations du Wall Street Journal en septembre.
Google rapproche cette situation d’un programme de bug bounty. Selon cette logique, le test a révélé une faiblesse sans provoquer de dégâts réels. Pourtant, cette comparaison atteint vite ses limites. Ici, le chercheur n’était pas humain. Un modèle autonome a quitté son périmètre et utilisé de vrais identifiants sans validation préalable.
La question touche donc toute l’industrie. Quand un test d’IA atteint un système réel, même sans dégâts, le retour d’expérience peut protéger les autres laboratoires. OpenAI et Anthropic ont déjà renforcé certaines procédures après leurs propres incidents. Irregular affirme aussi avoir corrigé les problèmes connus liés à ses environnements.
L’épisode Gemini pointe surtout la prochaine faiblesse à corriger dans la sécurité IA. Apprendre à un modèle quand s’arrêter ne suffit plus. Les environnements de test doivent aussi bloquer toute sortie non autorisée. Un agent autonome peut mal interpréter une consigne. Le réseau ne doit jamais lui offrir une porte de sortie.
- Partager l'article :
