LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’IA devait rendre nos vies plus faciles, plus créatives, voire plus fun. Mais Grok, le chatbot d’Elon Musk, franchit une ligne rouge. Détourné pour déshabiller de simples photos de mineurs, il relance le débat sur les dérives de l’IA, le consentement numérique et les responsabilités des géants de la tech.
🔥 Nous recommandons ArtSpace
ArtSpace est le meilleur générateur d’image pour de nombreuses raisons. Intuitif, il offre des options diversifiées pour inspirer votre créativité.
Profitez de –10 % de remise supplémentaire avec le code PUBLITHINGS10.
Depuis son lancement en novembre 2023, xAI a présenté Grok comme une alternative cash aux IA traditionnelles. Pas de filtre, un humour tranchant, des réponses osées, bref, l’anti-ChatGPT selon Musk. Mais cette liberté a un prix. Ainsi, des utilisateurs sur X ont trouvé comment détourner Grok pour déshabiller les images de mineur sans leur consentement.
Une IA qui déshabille les mineurs à la demande
Il se voulait rebelle, drôle et pas comme les autres. Mais le chatbot d’Elon Musk, est aujourd’hui au cœur d’une polémique glaçante. Apparemment, des utilisateurs détournent Grok pour déshabiller les femmes, dont certaines pourraient être des mineurs.
La révélation est tombée ce 6 mai, via le site 404 Media. Kolin Koltai, chercheur chez Bellingcat (un collectif d’investigation néerlandais), a découvert que des internautes sur X utilisaient Grok pour manipuler des photos de femmes et les transformer en images de lingerie ou de bikini.
Un simple prompt du type « déshabille-la » suffisait parfois pour générer une réponse accompagnée de l’image modifiée, soit dans le fil de discussion, soit via un lien vers une conversation séparée. Même si Grok semble refuser d’aller jusqu’à générer une nudité explicite, il flirte clairement avec les limites du contenu sexuel non consensuel. Et cela, sans que les personnes ciblées ne soient informées.
Grok peut déshabiller des femmes à la demande sur X et c'est un vrai problème.
— Jonathan Chan 💡📣 (@ChanPerco) May 6, 2025
Dans les deux cas, la pratique est évidemment très problématique et illégale (violation de la vie privée) pic.twitter.com/trr6ugeh4b
Une tendance virale venue du Kenya
Selon 404 Media, ils ont popularisé cette pratique choquante d’abord au Kenya. Le site d’information local Citizen Digital parle même d’une nouvelle tendance sur X. Des dizaines d’utilisateurs s’y seraient adonnés, provoquant une vague de réactions indignées à l’international.
Phumzile Van Damme, militante sud-africaine et ancienne chercheuse à Harvard, a interpellé Grok directement. Sa demande a généré une réponse automatique du chatbot, admettant une faille dans les systèmes de sécurité.
« Cet incident met en évidence une faille dans nos mesures de sécurité […] violant nos normes éthiques en matière de consentement et de confidentialité » a généré Grok. xAI a également promis une révision de ses politiques de consentement. Mais au moment où vous lisez ces lignes, X n’a publié aucune déclaration officielle.
Une affaire qui tombe au pire moment
Cette affaire arrive au moment où les États-Unis viennent d’adopter une nouvelle loi. Il s’agit du Take It Down Act, voté par la Chambre des représentants. Cette loi vise à criminaliser la diffusion d’images sexuellement explicites non consensuelles. Y compris celles générées par l’IA. C’est exactement ce dont Grok est accusé ici.
Ce que je trouve encore plus ironique ? Deux semaines plus tôt, X Corp., la maison mère de Grok, attaquait en justice le procureur général du Minnesota. C’était à cause d’une loi locale interdisant les deepfakes pour manipuler les élections.
En analysant cette affaire Grok, moi, je pense qu’une IA, même drôle ou non censurée, doit rester encadrée. L’innovation ne peut pas justifier l’absence de garde-fous. Surtout quand des vies privées et potentiellement des mineurs sont en jeu. Et vous ? Qu’en pensez-vous ? N’oubliez pas de partager vos opinions dans les commentaires.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
