LEBIGDATA.FR I.A, Cloud & Cybersécurité
Cette vidéo pédopornographique n’aurait jamais existé sans Grok, l’IA d’Elon Musk. Une adolescente américaine, avec deux autres filles, ont donc porté plainte devant un tribunal fédéral de San José.
Elon Musk ne cesse de faire parler de lui et pas toujours pour les bonnes raisons. Après une plainte déposée par la mère de son 13ᵉ enfant, une nouvelle action judiciaire vise maintenant sa société xAI. Trois adolescentes, dont deux mineures, accusent le générateur d’images Grok d’avoir créé et diffusé des vidéos sexuelles à partir de leurs clichés. L’affaire relance une fois de plus le débat sur la responsabilité des plateformes et la régulation des IA génératives.
Comment Grok a généré la vidéo choquante ?
L’affaire débute par une découverte glaçante sur un serveur Discord et l’application Telegram. Jane Doe 1, l’une des plaignantes, a reçu une alerte concernant des vidéos et images truquées qui circulent en ligne.
Ces contenus partaient de ses vraies photos, comme le précise le Washington Post. Les auteurs ont utilisé des clichés pris lors de sa rentrée scolaire pour créer des séquences de déshabillage intégral. Si vous êtes connaisseur, vous savez qu’aujourd’hui, l’IA générative peut transformer n’importe quelle image en quelques secondes. Et cette technologie a été exploitée à mauvais escient.
« Les images montraient son corps entier, y compris ses parties génitales, sans aucun vêtement. La vidéo la montrait se déshabillant jusqu’à être entièrement nue », explique la plainte. Elle précise aussi que ces contenus servaient de monnaie d’échange entre prédateurs sexuels. La police a d’ailleurs saisi un téléphone contenant des preuves accablantes liées à la technologie de xAI.
Vanessa Baehr-Jones, l’avocate des victimes, dénonce une stratégie de profit cynique de la part d’Elon Musk. Les images n’auraient pas été créées directement sur le réseau X, mais via une application tierce. Ce service externe utilise sous licence la puissance de calcul de Grok pour générer ses visuels.
Les plaignantes soutiennent toutefois que xAI reste responsable car elle héberge le processus sur ses propres serveurs. La structure de licences permettrait ainsi à l’entreprise de se décharger de tout contrôle éthique.
Grok déjà au coeur d’autres polémiques
Ce nouveau scandale n’est malheureusement pas un cas isolé pour la firme d’Elon Musk. En janvier 2026, Grok a déjà provoqué une onde de choc mondiale en générant massivement des images sexualisées sans aucun consentement. Cela inclut femmes et mineurs.
Le bilan chiffré donne même le vertige. En seulement deux semaines, l’outil aurait produit environ 3 millions de clichés problématiques. Parmi eux, les experts ont identifié près de 23 000 images qui mettent en scène des mineurs.
Voilà pourquoi l’Union européenne garde un œil attentif sur les dérapages de Grok. Or, malgré ces chiffres, le patron de xAI niait encore récemment toute existence de contenus illicites générés par son système.
Cette défense semble pourtant en totale contradiction avec les décisions prises par la plateforme. Au moment où les deepfakes sexuels inondaient le réseau X, xAI a réagi.
La société a restreint la génération d’images aux seuls abonnés payants et a bloqué certaines fonctionnalités selon les zones géographiques. Ce qui prouve que l’entreprise était consciente des failles de leur IA.
Les conséquences de cette vidéo générée par Grok
Une vidéo à caractère pornographique qui circule en ligne, ce n’est jamais anodin. Pour des adolescentes, l’impact peut être brutal et durable. Le choc initial laisse place à un traumatisme profond, difficile à effacer.
Un rapport de l’UNICEF, relayée par Forbes, souligne que lorsqu’un enfant découvre que son image a été manipulée en contenu sexuel, le sentiment de violation est réel et profond. La mère d’une des adolescentes victimes qui ont déposé plainte a d’ailleurs décrit des crises de panique liées à l’impossibilité de supprimer définitivement ces fichiers du web.
De ce fait, au-delà des enjeux financiers, la plainte réclame réparation pour les traumatismes psychologiques profonds subis par les victimes.
Les conséquences de cette vidéo générée par Grok pourraient peut-être irréparables. Mais cette bataille judiciaire pourrait forcer l’industrie à revoir ses protocoles de filtrage pour les alternatives intelligentes. Le manque de modération devient désormais un risque juridique concret capable de déstabiliser les géants de la tech.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
