LEBIGDATA.FR I.A, Cloud & Cybersécurité
À l'instar de la photo virale du Pape François en doudoune Balenciaga, les images DeepFake générées par l'IA sont de plus en plus réalistes. Sommes-nous sur le point de perdre la notion du réel ?
Depuis plusieurs jours, une image se propage de façon virale sur le web : une photo du pape, vêtu d'une longue doudoune blanche digne des rappeurs américains les plus opulents. Le souverain pontife va-t-il lancer sa carrière dans le hip-hop ?
Il n'en est rien. En réalité, cette image a été créée de toute pièce par l'IA de génération d'images MidJourney. À l'origine, elle a été publiée le 24 mars 2023 par un Américain dénommé Pablo Xavier sur le forum Reddit dédié à cet outil.
Par la suite, au cours du weekend, cette photo hilarante s'est répandue sur Twitter et les autres réseaux sociaux. D'abord partagée comme un simple meme, l'image est ensuite devenue le symbole de l'avènement de l'ère du DeepFake.
À l'instar de nombreux internautes, le mannequin américain Chrissy Teigen explique ainsi avoir pensé que cette photo était réelle et ne pas en avoir douté. Honteuse d'avoir été si crédule, elle craint de « ne pas survivre au futur de la technologie »…
I thought the pope's puffer jacket was real and didnt give it a second thought. no way am I surviving the future of technology
— chrissy teigen (@chrissyteigen) March 26, 2023
Pourquoi ce DeepFake est-il si crédible ?
Le cliché semble si réaliste que certains refusent encore de croire qu'il s'agit d'un faux. Pourtant, les trois autres variantes générées par MidJourney ont aussi été partagées sur Reddit.
De plus, certains signes ne trompent pas. En observant attentivement, on remarque des anomalies au niveau de la main droite du pape et de son gobelet de café, du crucifix, ou des lunettes.
Tous ces détails sont inhérents à l'IA générative : un système connaissant la surface de la réalité, mais incapable de comprendre les règles sous-jacentes gouvernants l'interaction entre les objets physiques.
Néanmoins, il est clair que ces éléments subtils peuvent passer inaperçus lorsqu'on aperçoit brièvement l'image en faisant défiler son flux d'actualité sur un réseau social.
Et comme le souligne le journaliste Ryan Broderick sur Twitter, cette photo trompe de nombreux internautes pour plusieurs raisons. D'abord, ce pape est connu pour porter des vêtements élégants et stylés. Plusieurs vrais clichés de lui sont devenus viraux pour cette raison.
My theory as to why it's fooling so many (myself initially included) is that the pope aesthetically exists in the same uncanny valley as most AI art
— Ryan Broderick (@broderick) March 26, 2023
De plus, MidJourney a récemment été mis à jour en version 5.0 et les images générées sont beaucoup plus réalistes qu'auparavant. L'outil excelle en particulier pour les mises en scène de célébrités, puisqu'il a été entraîné sur un jeu de données comprenant de nombreuses photos de stars.
À vrai dire, ce DeepFake n'est pas réaliste. L'éclairage est parfait, les surfaces sont brillantes, les poses dramatiques et les couleurs saturées. L'image est donc stylisée et exagérée, mais nous sommes habitués à voir des photos de vedettes présentant les mêmes caractéristiques !
Depuis de nombreuses années, les photos publiées par les magazines « people » sont hautement retouchées à tel point qu'elles paraissent fausses. Par conséquent, cet « hyper-réalisme » ne choque plus notre perception.
Ainsi, le photoshopping à outrance a largement préparé le terrain pour les DeepFakes générés par l'IA. C'est la raison pour laquelle une grande partie des internautes peinent à distinguer le réel de l'illusoire.
Midjourney v5 has pushed into photorealism, a goal which has eluded the computer graphics industry for decades (!) 🤯
— Bilawal Sidhu (@bilawalsidhu) March 25, 2023
Insane progression, and all that by 11 people with a shared dream.
🧵 Let's explore what these breakthrough in Generative AI mean for 3D & VFX as we know it… pic.twitter.com/GlycHcPQqA
Bienvenue dans l'ère du DeepFake
Donald Trump being arrested
— Weird AI Creations (@WorldOfWeirdAI) March 21, 2023
(Midjourney V5) pic.twitter.com/aUIzMDzZvL
À l'avenir, on peut s'attendre à une prolifération massive des DeepFakes générés par l'IA. Avant la photo du pape en Balenciaga, plusieurs autres images produites par MidJourney sont récemment devenues virales.
On peut citer les photos d'Emmanuel Macron gazé en pleine manifestation, Donald Trump arrêté par la police ou encore Elon Musk tenant la main d'Alexandria Ocasio-Cortez.
BREAKING: Hours after being seen with Mary Barra, Elon Musk was spotted with AOC pic.twitter.com/3jZfP7jZlD
— AllYourTech (@blovereviews) March 26, 2023
Chacun de ces faux met en scène des célébrités dans une situation incongrue en lien avec l'actualité : les manifestations en France, les rumeurs sur l'inculpation de Trump ou les scandales liés à Elon Musk.
Pour l'heure, on peut en conclure que l'IA ne peut créer l'illusion qu'avec des photos de personnes célèbres. Toutefois, cette technologie évolue à une vitesse fulgurante. Tôt ou tard, il sera tout simplement impossible de distinguer le réel de l'imaginaire…
- Partager l'article :
