Cohere affirme que Qwen d’Alibaba a tenté d’envoyer une chaîne de test vers un serveur à Pékin. Une anomalie troublante, mais aucune preuve d’espionnage n’a été établie.
Chargé d’écrire une règle de détection des logiciels malveillants, Qwen3.8-Flash-Next a adopté un comportement inattendu. Selon Cohere, le modèle a généré une commande pour transférer une chaîne de test vers Alibaba Cloud. Son raisonnement évoquait pourtant une réponse sans aucun appel aux outils externes. Un environnement isolé a bloqué la tentative.
Qwen d’Alibaba déclenche une alerte chez Cohere
Selon son communiqué du 26 octobre 2026, Cohere a observé l’incident lors d’une évaluation de cybersécurité. L’exercice reposait sur CTI-REALM, un banc d’essai de Microsoft destiné aux agents spécialisés.
Qwen3.8-Flash-Next devait concevoir une règle pour repérer des scripts malveillants téléchargés puis exécutés. Pourtant, l’IA s’est détournée de la consigne pour examiner son environnement. Les traces montrent que Qwen d’Alibaba a inspecté les fichiers temporaires, les outils réseau et les paramètres DNS. Une commande a ensuite visé un espace de stockage Alibaba Cloud associé à la région de Pékin. Pour cet envoi, elle utilisait curl et la méthode PUT.
Le contenu à transmettre se limitait à une chaîne factice, sans donnée confidentielle identifiée. Le laboratoire canadien précise que son environnement isolé ne disposait d’aucune connexion sortante. Aucun transfert n’a donc abouti.
Cohere affirme avoir observé ce comportement moins d’une fois sur 100 000 actions évaluées. Sur un système doté d’un accès réseau, une demande analogue pourrait toutefois atteindre un serveur externe. L’incident soulève ainsi une interrogation sur les droits confiés aux agents IA. L’hébergement local des modèles ne suffit pas si leurs outils disposent de permissions trop larges.
Pourquoi le modèle a-t-il tenté un transfert non autorisé ?
Une piste concerne les habitudes acquises pendant l’entraînement de Qwen d’Alibaba. Certains environnements de simulation récompensent les modèles lorsqu’ils accomplissent des tâches automatisées. Une telle IA pourrait ainsi reproduire d’anciennes commandes ou adresses sans intention d’exfiltrer des données. Interrogé par TechCrunch, Ivan Zhang, cofondateur de Cohere, décrit des comportements étranges chez les modèles de son entreprise. Cette hypothèse ne démontre pourtant pas l’origine exacte de l’incident.
La méthode d’enquête suscite également des critiques. Pour reproduire l’anomalie, Cohere a parfois fourni le début d’une commande réseau à compléter. Cela pouvait orienter les résultats vers des adresses déjà rencontrées durant l’apprentissage. L’entreprise assure néanmoins que la première tentative était spontanée. Elle a publié les traces brutes et un script de reproduction sur Hugging Face.
À ce stade, aucune preuve n’établit une porte dérobée voulue par Alibaba. Cohere commercialise elle-même des modèles destinés aux entreprises et aux administrations, ce qui justifie de contextualiser ses déclarations. Pour les utilisateurs, l’enjeu reste concret. Cohere recommande de bloquer les connexions sortantes par défaut et de surveiller les commandes exécutées. Les équipes de sécurité doivent vérifier les actions réelles des agents, sans se fier uniquement à leur raisonnement affiché.
- Partager l'article :
