Un modèle d’IA refuse une demande dangereuse. Pourtant, plusieurs agents chargés de tâches séparées peuvent parfois aboutir au résultat qu’il aurait bloqué. C’est le principe du multi-agent jailbreak, une famille d’attaques qui profite de la collaboration entre intelligences artificielles. Les études récentes montrent deux faiblesses : la décomposition d’une requête peut masquer son objectif global, et des informations trompeuses peuvent circuler entre agents.
Pour les entreprises, le risque ne concerne plus seulement les réponses produites par les LLM. Il dépend aussi des outils auxquels ces agents accèdent, de leurs permissions et des vérifications effectuées avant toute action.
Trois points clés
- Le multi-agent jailbreak peut mobiliser plusieurs agents pour contourner les garde-fous d’un LLM ou détourner une chaîne d’agents existante.
- Une étude de REALM 2025 rapporte parfois plus de 90 % de réussite, dans son protocole expérimental uniquement.
- La défense doit surveiller les objectifs collectifs, les messages entre agents et les permissions d’exécution.
Le multi-agent jailbreak ne vise plus seulement un chatbot
Un chatbot répond généralement à une requête unique. Un système multi-agents, lui, répartit le travail : un composant planifie, un autre recherche, un troisième synthétise. Cette organisation facilite les tâches complexes, mais multiplie les échanges et les occasions de perdre le contexte initial.
Le multi-agent jailbreak recouvre deux situations. D’abord, plusieurs agents peuvent être mobilisés pour construire une attaque contre les protections d’un modèle. Ensuite, un adversaire peut tenter de manipuler une architecture multi-agents déjà utilisée par une organisation. Dans ce deuxième cas, il ne contrôle pas nécessairement les agents : il peut seulement influencer les informations qu’ils reçoivent.
Le point commun est la perte de visibilité sur l’intention globale. Un composant accomplit une tâche qui semble légitime, alors que sa contribution participe à un résultat indésirable. Il ne s’agit pas d’une formule universelle pour « débloquer » une IA : l’efficacité dépend des modèles, des contrôles et du fonctionnement réel du système.
Comment la division des tâches peut contourner les protections
L’attaque par décomposition repose sur un décalage entre ce que voit chaque agent et ce que produit l’ensemble. Une demande problématique peut être transformée en sous-questions moins explicites. Les réponses sont ensuite réunies par un autre composant. Cette fragmentation ne suffit pas toujours à tromper le système, mais elle peut compliquer la détection de la finalité recherchée. Le problème est particulièrement net lorsque chaque agent reçoit uniquement la portion de contexte nécessaire à sa mission. Les messages intermédiaires deviennent alors aussi importants que la requête initiale.
Dans l’étude Safe in Isolation, Dangerous Together, Devansh Srivastav et Xiao Zhang décrivent trois fonctions : un agent décompose la question, un autre traite les sous-questions et un dernier assemble les réponses. Le danger apparaît lorsque la conformité est évaluée séparément, sans réexaminer correctement le résultat final.
Le mécanisme peut se comprendre avec un exemple non sensible : trois agents préparent un rapport. L’un choisit les chiffres, l’autre les calcule, le dernier rédige. Chacun peut réaliser son travail sans remarquer qu’une sélection initiale biaisée conduit à une synthèse trompeuse.
La prudence d’un agent isolé ne garantit donc pas celle de la chaîne complète. Les contrôles doivent examiner la demande initiale, les transformations successives et la sortie recomposée.
Des résultats impressionnants, mais pas un taux de piratage universel
Publiée lors du workshop REALM 2025, l’étude de Srivastav et Zhang rapporte, pour certaines configurations, des taux de réussite dépassant 90 %. Les essais concernent notamment GPT-3.5-Turbo, Gemma-2-9B et Mistral-7B. Les auteurs ont aussi étudié la constance des résultats entre essais et catégories de requêtes.
Ce chiffre mérite une précaution : il ne signifie pas que neuf agents sur dix seraient compromis en entreprise. Il mesure le succès d’une méthode sur des modèles et des scénarios précis. Les défenses, les versions des modèles et l’accès aux outils peuvent modifier fortement le résultat.
Une seconde recherche, Breaking Barriers, publiée le 27 mars 2026 dans Cognitive Computation, explore une autre approche. Plusieurs stratégies d’attaque y sont associées et optimisées selon les retours obtenus. Le travail porte sur la construction automatisée de tentatives de jailbreak, pas sur la prise de contrôle démontrée de systèmes professionnels.
En clair, ces publications établissent une faiblesse expérimentale sérieuse. Elles ne démontrent ni une vulnérabilité identique de tous les LLM, ni une capacité systématique à voler des données.
Trois scénarios à distinguer dans les systèmes multi-agents
C’est le scénario décrit à REALM 2025 : plusieurs opérations paraissent acceptables isolément, mais leur assemblage peut produire une réponse refusée lors d’une demande directe. Le contrôle final devient décisif.
Dans une autre configuration, différents agents évaluent, comparent et reformulent des tentatives. Leur coordination automatise l’exploration de comportements inattendus. C’est un sujet utile au red teaming autorisé, mais également une capacité susceptible d’être détournée. L’étude Breaking Barriers s’inscrit dans cette famille de travaux.
Un attaquant peut aussi intervenir à travers un document, un résultat de recherche ou un message consulté par un agent. Si cette instruction non fiable est relayée comme une consigne, elle peut perturber les composants suivants. On touche alors au prompt injection, détaillé dans cette analyse des détournements d’assistants IA.
Ces scénarios ne sont pas interchangeables : le premier cherche surtout un contournement des refus, le deuxième automatise la recherche d’attaques et le troisième exploite une frontière de confiance.
Jailbreak ou prompt injection, la différence change le risque
Un jailbreak cherche à faire produire à un modèle une réponse ou un comportement contraire à ses restrictions. Une injection de prompt tente de faire passer du contenu externe pour une instruction autorisée. Les deux peuvent se rencontrer, mais leur point d’entrée diffère.
Dans une architecture multi-agents, cette nuance détermine aussi les conséquences. Un modèle qui donne une réponse inappropriée ne dispose pas nécessairement d’un accès aux données internes. En revanche, un agent qui traite un faux ordre et possède des outils connectés peut agir au-delà de la simple conversation.
Cela ne lui confère aucun privilège magique : le danger dépend surtout des autorisations déjà accordées. Le bon réflexe consiste donc à contrôler les instructions et les droits, plutôt qu’à attendre d’un filtre de langage qu’il protège seul toute l’application.
Les entreprises exposent leurs processus, pas seulement leurs réponses
Prenons une chaîne de développement logiciel. Un agent analyse une demande, un autre prépare une modification et un dernier vérifie le résultat. Si une information trompeuse est acceptée au départ, elle peut influencer les étapes suivantes. Pourtant, aucun agent ne doit être considéré comme compromis pour qu’une erreur se propage.
L’impact dépend des outils disponibles. Un assistant limité à la rédaction peut fournir un mauvais conseil. Un agent autorisé à modifier un dépôt de code, consulter des documents confidentiels ou envoyer un message possède des capacités plus sensibles. Dans certaines circonstances, un détournement pourrait entraîner une modification ou un partage non souhaité.
L’OWASP aborde ces risques dans son Top 10 des applications agentiques 2026, publié le 9 décembre 2025. Ce référentiel traite notamment des objectifs détournés, des usages abusifs d’outils et des échanges entre agents. Il ne signifie pas que toutes les architectures sont vulnérables, mais souligne la nécessité de contrôler leur fonctionnement complet. Un inventaire des intégrations, des secrets accessibles et des actions possibles aide notamment à distinguer un incident de génération de texte d’un véritable risque opérationnel.
Les protections efficaces se jouent à plusieurs niveaux
Installer un garde-fou devant chaque LLM reste utile. Toutefois, ce dispositif peut manquer une dérive créée par la combinaison de plusieurs décisions. Les équipes de sécurité doivent donc déplacer une partie des vérifications vers l’orchestration.
Il faut pouvoir relier chaque sous-tâche à l’objectif initial, identifier les informations externes et contrôler le résultat final. La provenance d’un message aide à enquêter, sans garantir que son contenu est fiable. Un agent autorisé peut lui-même avoir été trompé.
Un agent de synthèse n’a pas besoin des permissions d’administration. Les accès doivent être limités à chaque fonction, et les opérations importantes soumises à des règles indépendantes du modèle. Pour une suppression de données ou un envoi sensible, une validation humaine peut rester indispensable.
Les audits doivent couvrir les échanges, les résultats d’outils, la recomposition des réponses et les actions effectuées. Le prompt fuzzing appliqué à la sécurité des IA aide à détecter certaines incohérences, mais ne remplace ni les tests d’autorisation ni la traçabilité des opérations. Ces exercices doivent être réalisés sur des environnements autorisés.
D’autres agents peuvent-ils aider à bloquer les jailbreaks ?
Le paradoxe est réel : plusieurs agents peuvent contribuer à une attaque, mais aussi à sa détection. Dans une étude déposée sur arXiv en juin 2025, Maria Carolina Cornelia Wit et Jun Pang comparent des défenses associant un, deux ou trois agents. Certaines configurations réduisent les attaques dangereuses passées inaperçues.
Cette amélioration possède néanmoins un coût. Selon les attaques testées, les faux positifs peuvent augmenter, tout comme les besoins de calcul. Ajouter des agents ne suffit donc pas à sécuriser une architecture. Leur rôle doit rester explicite, leur activité vérifiable et leurs permissions limitées. Une alerte générée par un agent contrôleur devrait ainsi déclencher une vérification définie à l’avance, plutôt qu’une décision improvisée par le même système. L’architecture doit également prévoir ce qui se passe si l’agent de contrôle se trompe.
L’enseignement est moins spectaculaire qu’une promesse de protection automatique : la surveillance par IA peut compléter les contrôles, sans remplacer les règles techniques d’autorisation.
La prochaine faille peut naître entre deux agents pourtant prudents
Le multi-agent jailbreak déplace le regard : le problème n’est plus seulement ce qu’un modèle accepte de répondre, mais ce que plusieurs modèles peuvent produire ou déclencher ensemble. La même architecture collaborative peut renforcer un contrôle ou amplifier une erreur, selon la façon dont elle est conçue.
Pour les entreprises, la priorité consiste à conserver une vision complète des objectifs, des messages et des actions. Une succession de décisions apparemment correctes ne doit jamais suffire à autoriser une opération sensible. C’est à cette condition que les agents IA pourront travailler ensemble sans transformer leur coopération en angle mort de sécurité.
- Partager l'article :
