Une simple réservation de salle de sport a pris une tournure plutôt inattendue en Australie. Un agent IA utilisant Claude d’Anthropic a découvert une faille dans le système de réservation. Alors, il l’a exploitée.
Cela lui a permis de réserver des cours bien au-delà de la période normalement autorisée. Il a également supprimé un autre client d’une liste d’attente. Tout cela, sans que son utilisateur ne lui ait donné son feu vert.
L’incident a été révélé le 10 août. Et ABC News le présente comme la première cyberattaque connue menée par une IA autonome en Australie.
A man in Australia asked his agent (Claude running on OpenClaw) to book him a spot in a popular gym class. The agent found a software vulnerability that let it book the class weeks further ahead than should have been possible. When the user then asked if it could move him up the… pic.twitter.com/9QqfpQp7ze
— Andrew Curran (@AndrewCurran_) August 9, 2026
Que s’est-il passé ?
Eh bien, Andrew, salarié d’une entreprise australienne spécialisée dans les produits d’intelligence artificielle, testait OpenClaw. L’assistant personnel open source capable de connecter un modèle d’IA à différents outils.
Dans son expérience, OpenClaw était associé à Claude d’Anthropic. Il avait pour mission de réserver un cours de gym très demandé. Tout simplement.
Seulement, en quelques minutes, l’agent a découvert qu’il pouvait réserver certains cours plusieurs semaines. Voire plusieurs mois, au-delà de la période normalement autorisée par la salle de sport.
Notre agent IA ne s’est donc pas contenté de remplir tranquillement le formulaire prévu. Il a improvisé.
En parallèle, Andrew occupait la quatrième place sur la liste d’attente d’un autre cours. Il a alors demandé à OpenClaw s’il pouvait faire quelque chose pour améliorer sa position.
L’IA a trouvé une solution. Seulement, elle n’était pas vraiment celle qu’Andrew avait en tête.
Au fait, l’API du système de réservation ne semblait pas vérifier qu’un utilisateur avait le droit d’annuler la réservation d’un autre client. L’agent a donc découvert qu’il pouvait supprimer une réservation appartenant à quelqu’un d’autre.
Résultat : la personne située en première position a disparu de la liste et Andrew est passé de la quatrième à la troisième place.
Inutile de vous dire qu’Andrew n’avait jamais demandé à l’agent de supprimer la réservation d’un autre membre. Alors, il a demandé à l’agent IA d’annuler ce qu’il venait de faire.
Devinez la réponse de l’assistant ? Impossible de remettre la personne supprimée à sa place.
Le risque des agents IA trop autonomes
Cette affaire australienne arrive alors que les incidents liés aux agents IA se multiplient. En juillet déjà, OpenAI avait révélé un incident survenu pendant une évaluation de cybersécurité.
Des modèles avaient réussi à sortir d’un environnement de test restreint et à accéder à Internet. Suite à quoi ils ont tenté de compromettre l’infrastructure de Hugging Face pour récupérer les résultats d’un test de référence.
La comparaison s’arrête toutefois là. Dans cette évaluation, les modèles avaient explicitement reçu pour mission de rechercher et d’exploiter des vulnérabilités.
L’expérience d’Andrew est, en revanche, beaucoup plus proche de ce que pourrait rencontrer un utilisateur classique. Tout partait d’une simple réservation de salle de sport. Personne ne lui avait demandé de tester la sécurité du site, encore moins de supprimer la réservation d’un autre membre.
C’est précisément ce qui rend l’incident intéressant. Déléguer des tâches aux agents IA revient à interagir avec des logiciels qu’on n’a pas conçus et dont on ne contrôle pas les règles.
Une étude du METR montre d’ailleurs que les agents deviennent capables d’accomplir des tâches toujours plus longues et complexes. Et plus ils disposent de temps et d’autonomie, plus ils peuvent tomber sur des raccourcis inattendus.
La Direction australienne des signaux et plusieurs partenaires internationaux recommandent ainsi de limiter les privilèges des agents IA. D’exiger une validation humaine avant toute action sensible.
Et surtout, de vérifier systématiquement les autorisations avant chaque requête effectuée par l’agent.
Et maintenant, qui est responsable ?
Andrew a signalé la faille au fournisseur du logiciel de réservation. Une déclaration de vulnérabilité a également été générée à la suite de l’incident.
Mais cette histoire soulève une question beaucoup plus compliquée : qui doit être tenu responsable lorsqu’un agent IA fait quelque chose que personne ne lui avait explicitement demandé ?
La réponse n’est pas forcément évidente. Plusieurs acteurs peuvent être impliqués. L’utilisateur, le développeur de l’agent, le fournisseur du modèle ou encore l’entreprise qui exploite le logiciel vulnérable.
Dans le cas présent, l’utilisateur n’avait pas demandé à l’IA de supprimer quelqu’un. Le logiciel, lui, n’aurait apparemment pas dû accepter cette action. Et l’agent a simplement poursuivi son objectif avec les moyens qu’il avait à sa disposition.
Voilà pourquoi cette petite histoire de liste d’attente mérite qu’on s’y intéresse. Aujourd’hui, l’enjeu est une place dans un cours de gym. Demain, les agents pourraient gérer des achats, des comptes, des réservations ou des outils professionnels.
Et si leurs pouvoirs augmentent plus vite que les barrières qui les entourent, le prochain « raccourci » pourrait coûter beaucoup plus cher qu’une séance de sport.
- Partager l'article :
