LEBIGDATA.FR I.A, Cloud & Cybersécurité
Les images créées par l'IA contenant des messages subliminaux inondent les réseaux sociaux ! Mais savez-vous quels outils et quelles techniques sont utilisées pour les générer ? Découvrez tout ce qu'il faut savoir sur ce nouveau phénomène qui amuse autant qu'il inquiète !
Et si l'intelligence artificielle cherchait à nous faire passer des messages en cachant des détails troublants dans les images qu'elle génère ?
Ce n'est pas encore le cas, mais de nombreux internautes s'amusent depuis quelques jours à utiliser l'IA pour générer des images contenant des messages subliminaux.
Cette nouvelle tendance virale sur les réseaux sociaux est liée à l'apparition d'une nouvelle technique permettant de produire des illusions d'optique avec l'IA générative.
ControlNet : l'outil qui cache des messages dans les images IA
😍Quand ControlNet te permet de mettre de l'amour subliminal dans tes vidéos ‼️
pic.twitter.com/ZHwTILgRPW— Alain GOUDEY (@AlainGoudey) September 20, 2023
La méthode appelée ControlNet permet aux utilisateurs d'avoir davantage de contrôle sur les images qu'ils génèrent en ajoutant des détails supplémentaires à leurs prompts.
Ceci permet donc de créer des images ou des mots au sein d'autres images. Certaines y voient la possibilité de cacher des messages et des suggestions sous forme de détails visuels subtils.
Par exemple, McDonald's pourrait cacher son célèbre logo dans les bordures d'une affiche de film pour vous donner envie d'aller manger un Big Mac après une séance de cinéma.
Saurez-vous reconnaître les logos suggérés dans ces images que j'ai générées grâce à l'IA ? 🙃
— Sane de Upmynt (@upmynt) September 25, 2023
(Stable Diffusion / Controlnet) pic.twitter.com/e5Uuixldvf
Pour le moment, toutefois, les internautes s'amusent plutôt à cacher des grivoiseries dans leurs images comme les mots « gay sex » ou « buttstuff » que nous éviterons de traduire ici pour ne pas choquer les bonnes moeurs.
Comment ça marche ?
Sur X, de nombreux utilisateurs ont partagé cette technique en la présentant soit comme un danger soit comme une révolution. De nombreuses images ont été partagées sur le réseau d'Elon Musk, au même titre que sur Facebook comme par exemple dans le groupe humoristique « cursed AI ».
Toutefois, en réalité, ce processus est plutôt simple. Selon Apolinario Passos, chercheur en IA chez HuggingFace, « le terme de message subliminal est un peu sensationnaliste ».
1⃣ Tout d'abord cet excellent tuto de @StableTom sur Stable Diffusion avec ControlNet.
— GenIArt (@GenIArt_Fr) September 26, 2023
il vous permet de faire des illusions avec n'importe quel motif, y compris logo ou texte, comme d'habitude super complethttps://t.co/vmblJPXVnr
L'outil ControlNet utilise le générateur d'images IA open source Stable Diffusion, et l'un de ses cas d'usage initiaux était de générer des codes QR fantaisistes en utilisant le code comme image d'entrée.
L'idée a ensuite été poussée plus loin, quand un utilisateur a développé un flux de travail leur permettant de spécifier n'importe quel texte ou image comme masque en noir et blanc s'implémentant lui-même dans l'image générée.
En d'autres termes, on pourrait le définir comme une version automatisée et générative de l'outil de masque sur Photoshop.
Selon Passos, « cet utilisateur a découvert qu'il pouvait utiliser la technique des codes QR de ControlNet en remplaçant le code QR par une autre pattern en noir et blanc pour créer une illusion d'optique ».
Ainsi, « il est possible d'envoyer une image de conditionnement et le modèle va mélanger une pattern respectant la condition tout en créant une image cohérente ». Techniquement, cette méthode n'a donc rien d'extraordinaire.
stable diffusion + controlnet (qr code monster) pic.twitter.com/3mbn4556By
— Himanshu Shete (@himanshete) September 24, 2023
Vers une explosion de la propagande et de la pub subliminale ?
On peut cependant craindre qu'elle soit exploitée par les entreprises pour cacher des publicités partout, ou même par les gouvernements à des fins de propagande…
Selon Passos, ControlNet sera sans doute utilisée dans les pubs pour créer un double sens en fonction de la façon dont vous regardez l'image. En revanche, il est peu probable qu'elle soit réellement exploitée à des fins de manipulation.
De toutes les manières, ces messages cachés ne sont clairement pas assez subtils pour être véritablement subliminaux. À l'avenir, d'autres outils similaires encore plus performants risquent toutefois de voir le jour.
En allant plus loin, une intelligence artificielle pourrait développer sa propre volonté et utiliser une future version plus avancée de ControlNet pour nous manipuler à l'échelle subconsciente…
- Partager l'article :
