intelligence artificielle propagande

Une IA crée de faux portraits de journalistes pour une campagne de propagande

Un vaste réseau de faux journalistes a été créé grâce à l’IA dans le cadre d’une opération de propagande en faveur de certains pays du Golfe. C’est une enquête du Daily Beast qui a révélé la supercherie.

À l’ère de l’intelligence artificielle, la propagande vient de franchir un nouveau cap particulièrement inquiétant. Selon une enquête menée par The Daily Beast, l’IA a été utilisée pour créer un réseau complet de faux journalistes, analystes et consultants politiques.

L’objectif ? Réaliser des articles en faveur de certains pays du Golfe. Au moins 19 fausses identités ont été utilisées pour signer des articles publiés dans plusieurs dizaines de sites web conservateurs.

Des portraits de ces individus fictifs, générés par l’IA, étaient intégrés en fin d’articles pour convaincre le lecteur qu’il s’agit de personnes réelles. Ces portraits semblent avoir été créés à l’aide d’outils similaires au site web ” ThisPersonDoesNotExist “.

De tels outils permettent de créer de faux portraits totalement uniques, qui ne pourront être associés à des portraits de personnes existantes. Il est donc difficile de s’apercevoir qu’il s’agit de personnes fictives, même en effectuant une recherche par image sur le web.

Cependant, l’IA n’est qu’à ses débuts et ces faux portraits sont loin d’être parfaits. En les observant attentivement, on remarque par exemple que les dents peuvent sembler étranges, que certains traits sont asymétriques, ou que certaines parties sont floues. De même, l’arrière-plan est toujours identique.

C’est l’un des éléments qui ont permis au Daily Beast de découvrir le pot aux roses. On constate par ailleurs que ces fausses identités ont plusieurs attributs en commun, laissant penser qu’ils ont tous été créés dans le cadre d’une seule et même campagne de propagande coordonnée.

Ainsi, les personnes identifiées par le Daily Beast étaient toutes contributrices sur deux sites web liés : The Arab Eye et Persia Now. Toutes avaient des comptes Twitter créés en mars ou avril 2020.

Elles se présentaient comme des consultants politiques ou des journalistes freelances basés dans des capitales européennes. Leurs comptes LinkedIn présentaient des parcours professionnels ou scolaires mensongers et des liens vers les travaux respectifs de chacun.

L’intelligence artificielle : nouvelle arme de propagande à l’ère du 2.0 ?

Il est difficile de déterminer qui a créé ce réseau, mais les prises de position de ces faux journalistes reflètent une orientation politique explicite. Les articles appellent notamment à des sanctions plus sévères contre l’Iran, font l’apologie de certains pays du Golfe comme les Émirats arabes unis, et critiquent le Qatar pour son soutien présumé au terrorisme.

On peut donc supposer que cette campagne de propagande émane des Émirats arabes unis. Les publications étaient ensuite publiées à l’internationale sur des sites web américains comme le Washington Examiner et l’American Thinker, au Moyen-Orient sur le Jerusalem Post et Al Arabiya, ou encore à Hong Kong dans le South China Morning Post.

La portée de cette campagne semble donc mondiale. Suite à la publication de l’enquête du Daily Beast, Twitter a fermé 15 comptes appartenant aux faux journalistes.

Avec l’essor de l’intelligence artificielle, on peut craindre que de telles opérations de manipulation se multiplient au fil du temps. À mesure que l’IA gagnera en réalisme, il deviendra de plus en plus difficile de distinguer les fausses identités…