LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un internaute s'est fait bannir de MidJourney après s'être amusé à générer de fausses photos de personnalités politiques américaines trompant leurs épouses. Si ces images prêtent à sourire, elles confirment aussi les dangers des DeepFakes créés par l'IA…
Avec l'IA MidJourney, tout un chacun peut laisser libre cours à sa créativité. Cet outil « text-to-image » permet de générer toutes sortes d'images, et repousse les limites de l'imaginaire.
Toutefois, mieux vaut éviter de pousser les limites trop loin. Un utilisateur de la plateforme vient de l'apprendre à ses dépends…
Sur Twitter, le monteur vidéo Justin Brown explique avoir voulu alerter sur les dangers de désinformation liés à l'IA.
Et pour y parvenir, l'idée qu'il a eu est de créer des images réalistes de personnalités politiques en train de tromper leurs épouses…
Le but de cette série de fausses photos intitulée « AI will revolutionize the blackmail industry » (l'IA va révolutionner l'industrie du chantage) était de montrer que « en cas d'utilisation avec intelligence et volonté, l'IA peut être une arme ».
Tout partait donc d'une bonne intention, mais la plaisanterie n'a pas plu à MidJourney. Le compte de Justin Brown a été banni définitivement.
Quand l'IA transforme les politiques en libertins
I got banned from Midjourney AI for generating realistic images of politicians cheating on their wives for a series called “AI will revolutionize the blackmail industry”
— Justin T Brown (@jtbthought) May 26, 2023
A couple thoughts on AI images from someone who's good at making fake stuff 🧵
Trump cheating on his wife: pic.twitter.com/HjxBj7qdaR
Parmi les personnalités mises en scène sur ces images créés par MidJourney, on compte plusieurs candidats aux élections présidentielles américaines de 2024.
Ceci inclut l'actuel président Joe Biden, son sulfureux prédécesseur Donald Trump, le gouverneur de Floride Ron DeSantis, ou encore l'ancien gouverneur du New Jersey Chris Christie.
Certaines de ces fausses photos sont particulièrement crédibles. Et même si Brown a été banni, il a eu le temps de partager ses œuvres sur Reddit et d'autres internautes pourraient donc s'amuser à en faire de même.
Honesty, these images don't even have to be THAT high-quality to be believable. QAnon was founded on the worst memes you've ever seen; they're borderline religious texts now. I think we'll see AI videos of Democrats and children within a year or 2
Obama cheating on his wife: pic.twitter.com/QrKogpBfDs— JTB (@jtbthought) May 26, 2023
Interrogé par PetaPixel, l'intéressé précise avoir déjà été confronté à des blocages de prompt par le passé pour cause de mots vulgaires ou de sujets controversés. C'est toutefois la première fois qu'il est banni.
En outre, MidJourney ne lui a pas indiqué directement la raison de son expulsion. Il semble toutefois évident qu'elle coïncide avec le partage de sa série d'images sur Reddit.
La plateforme semble particulièrement vigilante à l'égard des tentatives de manipulation politique à l'approche des élections américaines, car son IA a déjà été utilisée à des fins de propagande.
Par exemple, une publicité pour Ron DeSantis contenait une image de Donald Trump et Joe Biden s'embrassant langoureusement. L'IA générative représente une menace directe et croissante pour la démocratie…
DeepFake et chantage : le terrifiant futur du phishing ?
Déjà en mars 2023, un internaute s'était amusé à générer des images du Pape habillé en doudoune Balenciaga. D'autres clichés créés par l'IA, comme ceux d'Emmanuel Macron gazé pendant une manifestation, ont suscité la controverse.
À mesure que l'IA va s'améliorer, il sera de plus en plus difficile de distinguer les vraies photos des images générées par les machines.
Cette expérience menée par Justin Brown confirme que de tels DeepFakes pourraient être utilisés pour faire chanter des personnalités politiques ou même des citoyens lambda.
L'intelligence artificielle pourrait donc donner une ampleur nouvelle aux attaques par phishing ou hameçonnage, consistant notamment à créer la peur chez la victime pour la pousser à payer une rançon.
Depuis 2021, les autorités françaises alertent par exemple sur un faux email de la Brigade de Protection des Mineurs (BPM) contenant de fausses accusations de pédopornographie.
⚠️ Attention de faux mails de la Brigade de protection des mineurs (BPM) ont été recensés !
Si le mail n'a PAS été envoyé par une adresse se terminant par @ https://t.co/SazhZM8nRs ➡️ mail frauduleux !
N'appelez pas la BPM, des investigations sont déjà en cours. pic.twitter.com/u4ouYoM1Ih— Préfecture de Police (@prefpolice) October 1, 2020
À l'avenir, de tels courriels de chantage pourraient s'accompagner d'images incriminantes générées par l'IA. Dès lors, la victime risque d'être prise de panique et de se plier à n'importe quelle injonction des cybercriminels…
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
