LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un nouveau scandale secoue le monde de l’intelligence artificielle avec les nudes que l’IA Grok a créés.
L’IA Grok d’Elon Musk se fait accuser de générer des nudes non-consentis. Les internautes ont utilisé le chatbot pour transformer des photos de femmes et d’enfants en images sexuellement explicites. Cette pratique a déclenché une vague de réactions aux États-Unis et à l’international, ainsi que des enquêtes officielles.
Qu’est-ce qui a causé ce scandale concrètement ?
Le procureur général de Californie, Rob Bonta, s’est exprimé à ce sujet. Selon lui, Grok rend extrêmement facile le harcèlement des femmes et des filles avec des images truquées. Avec la fonctionnalité dite “Spicy Mode”, on peut créer et modifier des images à caractère sexuel.
L’association européenne AI Forensics a alors mené une analyse sur plus de 20 000 images générées. L’étude a ensuite révélé que plus de la moitié représentaient des personnes en tenue légère. Pire encore, 2 % des sujets de ces nudes de l’IA Grok semblaient être des mineurs.
Le problème dépasse par ailleurs le simple cadre des réseaux sociaux. Certaines personnes ont utilisé ces images pour cibler aussi bien des figures publiques que des utilisateurs lambda. L’ampleur du phénomène a alors choqué les autorités. Cela a également entraîné la première enquête de Californie sur une IA pour production de contenus sexuels non-consentis.
La réaction de Musk face aux nudes de l’IA Grok
Face à la polémique, Elon Musk a tenté de clarifier la situation sur X, anciennement Twitter. Il a nié que son intelligence artificielle Grok ait généré des images de mineurs nus. Musk a d’ailleurs affirmé qu’aucune preuve ne le confirme.
Les utilisateurs avaient toutefois déjà signalé que l’IA produisait des images représentant des personnes en tenue minimale. Et cela incluait des adolescents. Musk a en outre indiqué que xAI suspendait les comptes fautifs. Il a aussi ajouté que l’entreprise collaborait avec les autorités locales pour limiter les abus.
Les nudes de l’IA Grok font des vagues à l’international
Le scandale a rapidement pris une dimension globale. En Indonésie et en Malaisie, le gouvernement a totalement bloqué l’accès à Grok. Cette initiative vise à protéger le public, en particulier les femmes et les enfants. Quant à l’Inde, le pays a obtenu la suppression de milliers de publications et de comptes utilisateurs.
En Europe, la Commission européenne exige que X conserve tous les documents internes concernant Grok jusqu’à la fin 2026. De leur côté, la France et le Royaume-Uni ont aussi lancé des enquêtes. Ces dernières servent à vérifier le respect de la législation locale sur la protection des mineurs. Mais aussi, sur la diffusion de nudes non-consenties comme celles générées par l’IA Grok.
Aux États-Unis, le bureau du procureur général californien suit par ailleurs l’affaire de près. Il examine notamment si xAI a enfreint la loi de l’État. De plus, plusieurs sénateurs américains ont demandé le retrait de l’application de Grok des boutiques d’Apple et Google.
Un scandale préoccupant pour l’IA générative
Les nudes de Grok de xAI illustrent un nouveau défi pour les IA génératives. Ces systèmes peuvent effectivement produire rapidement des contenus profondément nuisibles. Et les internautes peuvent facilement les exploiter pour violer la vie privée et la sécurité d’autrui. Le cas de Grok pourrait alors tout changer dans la surveillance des IA. Cela va donc pousser les plateformes à renforcer leurs garde-fous.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
