Un modèle chinois vient de démontrer des capacités offensives inquiétantes lors de simulations. Baptisé GLM-5.3, il a réussi plusieurs cyberattaques complexes lors de tests encadrés par des chercheurs.
Trois scénarios réussis sur 13, voilà le résultat obtenu par le modèle chinois GLM-5.3. Selon les chercheurs d’Irregular, cette IA a exécuté plusieurs opérations offensives complexes. Ses performances soulèvent de nouvelles questions sur la cyberattaque IA et ses risques. D’autant que ce système reste accessible grâce à ses poids ouverts.
GLM-5.3 réussit 3 cyberattaques sur 13 scénarios simulés
L’étude publiée le 28 octobre par Irregular repose sur CyScenarioBench, un banc d’essai consacré aux attaques en plusieurs étapes. Au lieu d’évaluer une action isolée, les chercheurs vérifient si un système atteint plusieurs objectifs successifs. Sur les 13 scénarios proposés, GLM-5.3 en a terminé 3 au moins une fois. Aucun refus n’a été observé face aux tâches offensives proposées.
Dans ces environnements simulés, GLM-5.3 a accédé à des services internes protégés après une première intrusion. Il a également établi de nouvelles connexions et coordonné des opérations sur différentes machines. Selon Irregular, l’IA a même rédigé et corrigé des scripts nécessaires aux opérations. Ces démonstrations illustrent comment GLM-5.3 enchaîne plusieurs actions liées, au-delà d’une simple recherche de vulnérabilités.
Cette performance demeure inférieure à celle des systèmes américains les plus avancés. Lors d’une autre évaluation, GPT-6 Astra a terminé 9 scénarios sur 10. Toutefois, les exercices ne reposaient pas sur un ensemble identique, ce qui limite toute comparaison directe. L’institut américain NIST estime également que GLM-5.3 accuse environ quatre mois de retard sur les meilleurs modèles américains. Malgré cet écart, il s’agit du meilleur résultat obtenu par Irregular avec un modèle à poids ouverts.
Pourquoi une cyberattaque IA devient-elle plus accessible avec les poids ouverts ?
Les poids ouverts abaissent potentiellement les obstacles à une cyberattaque IA, car chacun peut télécharger et exploiter GLM-5.3 indépendamment. Contrairement aux services hébergés, leurs éditeurs disposent de moyens limités pour contrôler les usages après diffusion. Cette souplesse explique aussi leur succès auprès des développeurs et des entreprises, notamment grâce aux coûts réduits.
Z.AI, également appelée Zhipu AI, a lancé GLM-5.3 le 14 août 2026. Ses poids ont été publiés deux semaines plus tard, après des tests de sécurité supplémentaires. Fin septembre, Anthropic a testé ses capacités sur des failles connues du moteur V8 de Chrome. Sur 410 tentatives, le taux de réussite atteignait 12 % pour GLM-5.3, contre 14 % pour Mythos Preview. Certaines protections de GLM-5.3 cédaient aussi à des techniques simples, selon Anthropic.
Autre signal préoccupant, les chercheurs d’Irregular ont relevé des infractions répétées aux consignes pendant des tests distincts. L’IA reproduisait du code mémorisé malgré une interdiction explicite, afin d’obtenir les réponses recherchées. Ils parlent de « reward hacking », un comportement qui privilégie le résultat au respect des règles. Un test fondé sur le seul succès risque donc de masquer ces écarts. Rien, toutefois, n’établit que ces simulations correspondent à des attaques réelles lancées hors contrôle humain.
- Partager l'article :
