LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un internaute s’est fait bannir de MidJourney après s’être amusé à générer de fausses photos de personnalités politiques américaines trompant leurs épouses. Si ces images prêtent à sourire, elles confirment aussi les dangers des DeepFakes créés par l’IA…
Avec l’IA MidJourney, tout un chacun peut laisser libre cours à sa créativité. Cet outil « text-to-image » permet de générer toutes sortes d’images, et repousse les limites de l’imaginaire.
Toutefois, mieux vaut éviter de pousser les limites trop loin. Un utilisateur de la plateforme vient de l’apprendre à ses dépends…
Sur Twitter, le monteur vidéo Justin Brown explique avoir voulu alerter sur les dangers de désinformation liés à l’IA.
Et pour y parvenir, l’idée qu’il a eu est de créer des images réalistes de personnalités politiques en train de tromper leurs épouses…
Le but de cette série de fausses photos intitulée « AI will revolutionize the blackmail industry » (l’IA va révolutionner l’industrie du chantage) était de montrer que « en cas d’utilisation avec intelligence et volonté, l’IA peut être une arme ».
Tout partait donc d’une bonne intention, mais la plaisanterie n’a pas plu à MidJourney. Le compte de Justin Brown a été banni définitivement.
Quand l’IA transforme les politiques en libertins
https://twitter.com/JuuustinBrown/status/1662225616635305985?
Parmi les personnalités mises en scène sur ces images créés par MidJourney, on compte plusieurs candidats aux élections présidentielles américaines de 2024.
Ceci inclut l’actuel président Joe Biden, son sulfureux prédécesseur Donald Trump, le gouverneur de Floride Ron DeSantis, ou encore l’ancien gouverneur du New Jersey Chris Christie.
Certaines de ces fausses photos sont particulièrement crédibles. Et même si Brown a été banni, il a eu le temps de partager ses œuvres sur Reddit et d’autres internautes pourraient donc s’amuser à en faire de même.
https://twitter.com/JuuustinBrown/status/1662225638596710400?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1662225638596710400%7Ctwgr%5E24269ac3fb6b0300b944ba4bf96b2eef20d676b0%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Ffuturism.com%2Fthe-byte%2Fbanned-midjourney-images-politicians-cheating
Interrogé par PetaPixel, l’intéressé précise avoir déjà été confronté à des blocages de prompt par le passé pour cause de mots vulgaires ou de sujets controversés. C’est toutefois la première fois qu’il est banni.
En outre, MidJourney ne lui a pas indiqué directement la raison de son expulsion. Il semble toutefois évident qu’elle coïncide avec le partage de sa série d’images sur Reddit.
La plateforme semble particulièrement vigilante à l’égard des tentatives de manipulation politique à l’approche des élections américaines, car son IA a déjà été utilisée à des fins de propagande.
Par exemple, une publicité pour Ron DeSantis contenait une image de Donald Trump et Joe Biden s’embrassant langoureusement. L’IA générative représente une menace directe et croissante pour la démocratie…
DeepFake et chantage : le terrifiant futur du phishing ?
Déjà en mars 2023, un internaute s’était amusé à générer des images du Pape habillé en doudoune Balenciaga. D’autres clichés créés par l’IA, comme ceux d’Emmanuel Macron gazé pendant une manifestation, ont suscité la controverse.
À mesure que l’IA va s’améliorer, il sera de plus en plus difficile de distinguer les vraies photos des images générées par les machines.
Cette expérience menée par Justin Brown confirme que de tels DeepFakes pourraient être utilisés pour faire chanter des personnalités politiques ou même des citoyens lambda.
L’intelligence artificielle pourrait donc donner une ampleur nouvelle aux attaques par phishing ou hameçonnage, consistant notamment à créer la peur chez la victime pour la pousser à payer une rançon.
Depuis 2021, les autorités françaises alertent par exemple sur un faux email de la Brigade de Protection des Mineurs (BPM) contenant de fausses accusations de pédopornographie.
https://twitter.com/prefpolice/status/1311716820131475456?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1311716820131475456%7Ctwgr%5Eeaf76e0c1b538e4accd95a85be0a8607c77837a6%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.leparisien.fr%2Fhigh-tech%2Fvous-faites-lobjet-de-poursuites-pour-pedopornographie-cette-arnaque-par-mail-qui-a-fait-des-milliers-de-victimes-07-01-2022-H3ZSTC53OFB6BMBJDDZQ5P4YEU.php
À l’avenir, de tels courriels de chantage pourraient s’accompagner d’images incriminantes générées par l’IA. Dès lors, la victime risque d’être prise de panique et de se plier à n’importe quelle injonction des cybercriminels…
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
