ChatGPT vient encore de se retrouver au cœur d’une drôle d’histoire. OpenAI a identifié une opération russophone qui utilisait son IA pour donner une apparence sérieuse à un faux centre de réflexion, l’International Burke Institute.
Comme le rapporte OpenAI, l’International Burke Institute se présentait comme un centre de réflexion installé en Israël. Son site est en ligne depuis février 2025. Ses publications sur les réseaux sociaux ne sont toutefois apparues qu’entre septembre et mai dernier.
Que fait l’International Burke Institute exactement ?
L’institut a une jolie vitrine. Seulement, voilà. En réalité, l’organisation recyclait massivement des contenus déjà disponibles sur Internet.
Sur 36 textes analysés par OpenAI, par exemple, 34 étaient repris de publications existantes puis publiés sous de fausses signatures. Certaines appartenaient même à des experts décédés avant la création de l’institut.
L’institut proposait également un classement baptisé Burke Sovereignty Index. Présenté en anglais, cet outil prétendait mesurer le niveau de souveraineté des différents États.
Selon TechRadar, le résultat est drôlement surprenant. Le Vatican se retrouvait notamment devant l’Espagne. Certaines analyses étaient aussi attribuées à des experts déjà décédés lorsque les textes ont été publiés.
D’ailleurs, le classement adoptait une ligne clairement favorable à la Russie. La France y était décrite avec une formule particulièrement peu flatteuse. Et d’autres publications attaquaient la politique allemande envers l’Ukraine et l’Union européenne.
Une opération d’influence, mais quel lien avec ChatGPT ?
Eh bien, ChatGPT, c’est l’assistant de la bande. Il avait plusieurs missions. Traduire des textes à publier sur Substack, Telegram, X, Facebook et LinkedIn en plusieurs langues. Car leurs brouillons sont écrits en Russe.
Les contenus diffusés sur Telegram ciblent notamment les États-Unis, la France, la Pologne et la Turquie. D’ailleurs, devinez quoi, certaines chaînes comptent entre 10 000 et 20 000 abonnés.
Ironiquement, ces chaînes Telegram semblent mieux fonctionner que les comptes officiels de l’institut sur les plateformes occidentales. Ces derniers récoltaient généralement seulement quelques dizaines de vues par publication.
Quoi qu’il en soit, revenons à nos moutons. ChatGPT prépare aussi des publications annonçant les articles pour le groupe. Il répond également à des messages publiés par d’autres comptes et crée les logos d’une douzaine de chaînes Telegram.
Pour contourner le blocage de ChatGPT depuis Russie, les opérateurs de l’Institut utilisent des VPN. D’ailleurs, ils disposent de plusieurs comptes, qu’OpenAI vient de fermer.
Comment OpenAI les a démasqués ?
Si vous voulez tout savoir, le réseau aurait peut-être pu continuer à jouer les experts internationaux sans une petite maladresse linguistique. C’est en tout cas ce qui a attiré l’attention d’OpenAI.
Au fait, dans un message consacré à la coalition gouvernementale allemande, les rédacteurs de l’organisation ont utilisé l’expression « Svetofor coalition ». Le problème c’est qu’en allemand, la coalition concernée est connue sous le nom d’« Ampelkoalition ».
« Svetofor » signifie « feu tricolore » dans plusieurs langues slaves. Cette formulation a donc fourni à OpenAI un indice précieux sur l’origine du contenu. Grâce à quoi l’entreprise a pu bannir l’ensemble des comptes ChatGPT associés au réseau.
Cela dit, notez qu’OpenAI surveille ce type d’utilisation depuis plusieurs années. Depuis mai 2024, elle a publié plusieurs rapports consacrés aux opérations d’influence exploitant ses outils.
À l’époque, OpenAI avait notamment identifié cinq opérations liées à différents acteurs. Deux étaient russes, tandis que d’autres étaient associées au réseau chinois Spamouflage et à l’entreprise israélienne STOIC.
Quelques mois plus tard, OpenAI avait également identifié Storm-2035, un réseau iranien actif depuis 2020. Celui-ci diffusait ses contenus via cinq faux sites d’information utilisant ChatGPT pour produire des articles.
- Partager l'article :
