LEBIGDATA.FR I.A, Cloud & Cybersécurité
3 millions d’images en 11 jours pour des contenus sexualisés générés par Grok ? Oui, c’est bel et bien la réalité. Les internautes ont poussé le chatbot d’Elon Musk dans ses retranchements, et le résultat est inquiétant.
Tout a commencé fin décembre 2025 avec un prompt du genre : « Transforme cette photo en version bikini, ajoute un décor futuriste à la Tron ». Oui, Grok pouvait retoucher des images existantes. Et certains internautes ont décidé de pousser l’IA dans ses retranchements les plus choquants. En quelques jours, le chatbot d’Elon Musk est passé d’outil de retouche fun à générateur massif de contenus sexualisés. Ce qui bouleverse les règles du jeu sur X.
Comment Grok a inondé le web d’images sexualisés ?
Le phénomène a explosé, après qu’Elon Musk a partagé une image générée par Grok le représentant en bikini, avec une fusée SpaceX en arrière-plan. Cette publication a fait grimper le nombre de créations à près de 600 000 images par jour.
Une étude réalisée par le Centre for Countering Digital Hate (CCDH), une ONG spécialisée dans la lutte contre la haine et la désinformation en ligne, montre que cela ne s’arrête pas.
Pour donner une idée de l’échelle, Grok a publié 4,4 millions d’images en neuf jours, un chiffre qui dépasse largement les collections de deepfakes déjà existantes.
Selon le New York Times, 41 % de ces images concernaient des femmes sexualisées. L’IA peut toucher n’importe qui, même la femme d’Elon Musk en a fait les frais.
Le Centre for Countering Digital Hate va encore plus loin. Il estime que 65 %, soit un peu plus de trois millions d’images, comportaient des contenus sexuels impliquant des hommes, des femmes, voire des enfants.
À titre de comparaison, les plateformes de deepfakes avaient hébergé, à leur apogée, 43 000 vidéos impliquant 3 800 personnes. Grok a pulvérisé ces chiffres en quelques jours seulement.
Une vague d’indignation mondiale
Certaines victimes concernées étaient des influenceuses, musiciennes ou actrices, mais aussi des personnes ordinaires. Certaines images incluaient des accessoires suggestifs ou des mises en scène grotesques.
Par ailleurs, la réaction ne s’est pas fait attendre. Le Royaume-Uni, l’Inde, la Malaisie et les États-Unis ont ouvert des enquêtes pour déterminer si ces images enfreignaient leurs lois. Imran Ahmed, directeur général du Centre de lutte contre la haine numérique, ne mâche pas ses mots : « Il s’agit d’une exploitation à grande échelle des femmes et des filles. »
Et du côté de Grok ? Face à cette déferlante, X a rapidement tenté de limiter les dégâts. Dès le 8 janvier, la création d’images par Grok a été restreinte aux utilisateurs premium. Des règles ont aussi été mises en place pour interdire la sexualisation de personnes réelles.
Attention toutefois, les restrictions ne s’appliquent pas aux générateurs privés de l’application,. Cela laisse encore la possibilité de créer du contenu choquant hors de la vue du public.
Le dilemme des IA génératives
Cette affaire pose une question fondamentale : jusqu’où peut-on laisser des IA créer du contenu impliquant des humains sans consentement ? Techniquement, Grok fonctionne comme un moteur de retouche ultra-rapide.
Vous lui donnez une image, et il applique des transformations basées sur des modèles statistiques entraînés sur des millions d’exemples. Les experts s’accordent donc à dire que le problème n’est pas la technologie en soi. Pourtant, son usage et la rapidité de diffusion sur des plateformes gigantesques.
Et avec la montée en puissance des IA génératives en 2026, ce type de situation pourrait se reproduire si aucune régulation n’est mise en place.
C’est vrai, depuis le scandale, X a intensifié ses mesures de sécurité. Et Grok a été limité dans ce qu’il peut générer publiquement. Toutefois, la polémique soulève une évidence. En plus, il n’est pas vraiment possible de l’empêcher.
Bref, les images générées par Grok circulent. Les limites sont floues, et la régulation peine à suivre. Alors, selon vous, comment devrait-on encadrer ce type de technologie ? Faut-il imposer des règles strictes dès maintenant ou laisser la société s’adapter progressivement ? Donnez votre avis en commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
