LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un rapport d’OpenAI signale l’utilisation de ChatGPT par des comptes affiliés au gouvernement chinois pour concevoir des outils de surveillance.
Publié le 7 octobre 2025, le document intitulé « Disrupting malicious uses of AI » décrit ces activités suspectes. Selon OpenAI, ces utilisateurs chinois ont tenté d’exploiter ChatGPT pour élaborer des systèmes de profilage ciblé. L’entreprise précise que ces actions se limitaient à la phase de conception et de rédaction, sans création effective de logiciels.
Des chinois conçoivent avec ChatGPT des outils de surveillance
L’un des comptes présumés chinois aurait demandé à ChatGPT de rédiger des plans de projet et du matériel promotionnel. L’objectif visait un probe chargé de suivre les déplacements de personnes jugées « à risque », notamment des Ouïghours. OpenAI précise que ChatGPT n’a fourni que des informations accessibles au public, sans donnée confidentielle.
Un autre utilisateur aurait sollicité ChatGPT pour élaborer des supports destinés à promouvoir un outil d’analyse des réseaux sociaux occidentaux. Les plateformes Twitter, Facebook, Reddit, TikTok et YouTube figuraient parmi les cibles. L’outil a pour mission de repérer des discours considérés comme extrémistes ou politiquement sensibles.
OpenAI indique que ces comptes auraient utilisé des VPN pour masquer leur localisation. Tous ont été suspendus dès leur détection.
L’entreprise ajoute ne pas avoir pu confirmer l’identité exacte des utilisateurs. Les indices reposent sur les schémas d’usage et la langue employée. Ces éléments suggèrent toutefois un lien avec le gouvernement chinois.
Des requêtes orientées vers le profilage ciblé
Certains comptes auraient tenté d’utiliser ChatGPT pour identifier les sources de financement d’un profil critique envers le gouvernement chinois. D’autres auraient cherché à repérer les organisateurs de pétitions en Mongolie. Dans chaque cas, ChatGPT n’a fourni que des informations disponibles publiquement.
Un troisième compte se serait servi de ChatGPT pour résumer l’actualité jugée sensible pour le gouvernement chinois. Les sujets évoquent notamment l’anniversaire du massacre de Tian’anmen et la date de naissance du Dalaï-lama. OpenAI précise que ces requêtes n’ont pas conduit à la création de systèmes de surveillance concrets.
Le rapport indique que ces pratiques ne relèvent pas d’innovations majeures. Les acteurs étatiques exploitent l’IA pour optimiser des tâches déjà existantes, comme le traitement de données ou la rédaction automatisée.
Pékin dénonce des « calomnies sans fondement »
Les États-Unis et la Chine poursuivent leur rivalité pour la suprématie dans le domaine de l’intelligence artificielle. Le rapport d’OpenAI met en lumière la progression rapide de la Chine dans l’usage de l’IA pour la gouvernance et la surveillance.
OpenAI évoque plusieurs cas où des acteurs chinois et russes auraient utilisé l’IA pour affiner leurs opérations d’influence. Le document mentionne aussi l’emploi de ChatGPT par des groupes de pirates soutenus par l’État chinois ou par des cybercriminels afin d’améliorer leurs campagnes de phishing.
Des escrocs installés au Myanmar auraient, eux aussi, exploité le modèle pour gérer des comptes financiers ou contourner des sanctions. OpenAI précise toutefois que ChatGPT sert également à détecter certaines arnaques avant qu’elles ne nuisent aux victimes.
Les réactions politiques n’ont pas tardé. La porte-parole de l’ambassade de Chine à Washington, Liu Pengyu, a rejeté ces accusations. Il a rappelé que Pékin mettait en place un cadre de gouvernance de l’IA fondé sur la sécurité, l’innovation et l’inclusion, encadré par des lois strictes.
Aux États-Unis, le Cyber Command explore l’intégration de l’IA dans ses opérations offensives et défensives. Une feuille de route interne vise à renforcer les capacités d’intelligence artificielle pour soutenir les missions militaires. OpenAI n’a pas confirmé si ses outils étaient utilisés par des agences américaines dans ce cadre.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
