Votre assistant IA pourrait-il suivre un ordre que vous n’avez jamais donné ? Dans certaines expériences, oui. Des chercheurs ont détourné des agents vocaux avec des signaux sonores parfois imperceptibles. Lorsqu’ils ont accès à vos comptes ou à des outils, le problème ne se limite plus à une réponse absurde : l’IA peut agir à votre insu.
Un son caché peut donner des ordres à votre assistant IA
Vous appelez un service client pour modifier une livraison. Derrière une conversation banale, un signal sonore tente d’imposer une seconde instruction à l’IA. C’est l’injection de prompt audio : un ordre malveillant introduit par le son plutôt que par du texte.
Dans un assistant classique, la voix est transcrite, puis le texte transmis au modèle. Mais les nouveaux systèmes « speech-to-speech », dont les modèles accessibles via l’API Realtime d’OpenAI ou Gemini Live, traitent directement l’enregistrement. Le texte affiché par un outil de transcription ne révèle donc pas nécessairement tout ce que le modèle entend.
Dans une alerte du 29 octobre 2026 transmise à LeBigData.fr, Check Point affirme avoir observé des attaques où la transcription paraît normale tandis que l’agent est manipulé. L’entreprise n’en publie pas le protocole détaillé : nous lui avons demandé les preuves techniques.
0,64 seconde suffit à faire taire une transcription
L’étude Muting Whisper apporte une démonstration concrète. Ses auteurs ont placé un extrait audio adversarial de 0,64 seconde avant des enregistrements parlés. Sur leur configuration cible, le modèle de transcription Whisper a été neutralisé pour plus de 97 % des échantillons testés.
Cela ne signifie pas que 97 % des assistants peuvent être piratés. L’expérience perturbe un modèle précis de reconnaissance vocale ; elle ne démontre pas à elle seule qu’un autre agent exécuterait une commande interdite.
Elle dévoile pourtant une faille potentielle : un contrôle qui surveille uniquement la transcription peut passer à côté d’un signal manipulé. On retrouve le principe des instructions cachées dans des pages web ou des documents, sauf que cette fois le piège arrive par les oreilles de la machine.
Le scénario qui fait peur : l’IA agit sans votre permission
En 2026, les chercheurs d’AudioHijack ont testé des instructions dissimulées dans des perturbations sonores discrètes. Leurs expériences sur 13 modèles audio-langage affichent des taux de réussite moyens de 79 à 96 %, selon les conditions et les catégories de détournement.
Ils rapportent aussi des tests sur des agents commerciaux de Mistral AI et Microsoft Azure, amenés à accomplir des actions non autorisées dans leurs scénarios. Avec les bons accès, un agent compromis pourrait consulter des informations ou déclencher des opérations que son utilisateur n’a pas demandées.
La spécialiste en cybersécurité Eva Benn explique cette recherche en vidéo :
Attention : cela ne prouve pas que n’importe quelle musique pirate n’importe quel assistant. Les résultats dépendent du modèle, de l’environnement et des permissions. Les risques s’aggravent lorsque les agents sont connectés aux mails et aux fichiers.
70 % de réussite : le chiffre est spectaculaire, mais trompeur
Check Point cite aussi des résultats obtenus en modifiant la vitesse, la hauteur de voix ou le bruit. Dans l’étude Best-of-N Jailbreaking, les chercheurs ont atteint 71 % de réponses nuisibles avec GPT-4o Realtime, en testant jusqu’à 7 200 variantes de requêtes vocales.
Ce n’est pas une probabilité de piratage de 71 % par appel. Le résultat vient de tentatives répétées dans un protocole expérimental. Surtout, faire prononcer une réponse interdite n’est pas la même chose que pousser un agent à effectuer une action non autorisée.
Comment empêcher l’IA d’obéir à un son malveillant ?
Check Point propose des protections appelées Audio Guardrails. Première étape : contrôler la qualité du signal et rechercher une manipulation susceptible de tromper la transcription. Deuxième étape : transcrire les paroles et rechercher une instruction hostile. L’éditeur annonce une détection des attaques textuelles dans plus de 80 langues.
La difficulté consiste à distinguer le bruit malveillant du brouhaha d’une rue ou d’une mauvaise connexion. Check Point revendique un contrôle en environ 250 millisecondes pour des extraits de moins de 30 secondes. Sa version SaaS est en accès anticipé ; une version hébergée chez le client fonctionnerait déjà dans une banque, selon l’entreprise.
Ces performances restent des déclarations du fournisseur, non des résultats indépendamment vérifiés. L’outil ne détecte pas non plus les voix clonées, qui relèvent d’une autre menace. Nous avons sollicité un expert de Check Point sur les preuves et les faux positifs.
La protection ne peut pas reposer sur le son seul. Il faut limiter les permissions de l’agent, exiger une confirmation humaine pour les opérations sensibles et surveiller ses actions. Dans un précédent entretien avec LeBigData.fr, Adrien Merveille, expert cybersécurité chez Check Point, alertait déjà sur « les données auxquelles vont avoir accès ces agents ». Il évoquait alors les risques généraux de l’IA autonome, pas cette attaque sonore.
Pour l’utilisateur, la vraie question est donc : que peut faire mon assistant sans me demander mon accord ? Une voix captée par l’IA n’est pas nécessairement une instruction autorisée par son propriétaire.
- Partager l'article :
