LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un doyen du X a voulu créer un site basé sur l’IA, permettant aux internautes de créer leurs propres images à partir de prompts. Il a fini traumatisé par les requêtes choquantes des visiteurs…
Steven Jones, mieux connu sous le nom de Lightspeed est une figure emblématique de l’industrie pornographique en ligne depuis les années 2000. Ancien propriétaire de plusieurs sites X qui lui rapportaient jusqu’à 500 000 dollars par mois, il a vu ses revenus chuter avec l’arrivée des plateformes gratuites comme Pornhub. Face à cette crise, il a cherché à innover en se tournant vers l’intelligence artificielle. Son projet ? Créer un site où les utilisateurs peuvent générer leurs propres images pornographiques via des prompts textuels, en s’appuyant sur des outils comme l’IA open source Stable Diffusion.
Vous voulez un média comme celui que vous lisez ?
Passez de lecteur à leader ! Faites de votre entreprise un acteur inévitable avec votre propre média 🔥
Vous voulez un média comme celui que vous lisez ?
Passez de lecteur à leader ! Faites de votre entreprise un acteur inévitable avec votre propre média 🔥
Malheureusement, Jones a vite regretté de s’être lancé dans ce projet. Il a été extrêmement choqué par les requêtes des visiteurs…
« J’espère qu’ils ne veulent pas réellement voir ça »
Selon ses propres dires, « je vois certaines choses que les gens tapent, et j’espère devant dieu qu’ils essayent juste de tester le modèle, comme nous le faisons. J’espère qu’ils ne veulent pas réellement voir les choses qu’ils décrivent »…
Sans doute habitué à la pornographie d’ancienne génération, très soft, type Marc Dorcel, cet ancien du milieu ne réalisait pas le niveau de perversion de nombreuses personnes.
Et malgré les barrières de sécurité mises en place, il peine à empêcher ses clients de trouver des méthodes pour les contourner et générer des images moralement douteuses…
Au total, son entreprise a bloqué plus de 1000 mots-clés, tels que « lycée » ou d’autres termes qui pourraient permettre de créer des images illégales. Cependant, les jailbreakers redoublent d’inventivité.
IA et pornographie : entre liberté totale et chaos moral
L’IA générative ouvre de nouvelles possibilités dans la création de contenu adulte, mais elle soulève aussi des défis éthiques majeurs. L’exemple de Lightspeed Jones démontre à quel point la liberté totale dans la création de prompts peut vite mener à des dérives. Les utilisateurs exploitent les failles des systèmes pour produire des images moralement douteuses, malgré des restrictions techniques en place. En février 2024, les réseaux sociaux ont été inondés de DeepFakes porno de Taylor Swift extrêmement dégradants pour la chanteuse américaine.
Pour faire face à ces excès, certains sites optent pour des modèles plus encadrés. C’est le cas de Peter Acworth, fondateur de Sado-Maso King, qui a adopté un système de génération par cases à cocher. Au lieu de permettre l’écriture libre, les utilisateurs doivent sélectionner des options dans une liste prédéfinie. Cette méthode réduit considérablement les risques d’abus tout en conservant une certaine personnalisation.
Quel avenir pour les actrices humaines ?
L’émergence des intelligences artificielles génératives représente un tournant majeur pour l’industrie du X. Grâce à ces outils, n’importe quel internaute peut désormais générer du contenu érotique ou pornographique ultra-personnalisé, sans passer par des modèles ou des tournages réels. Cela menace directement la pertinence économique des actrices et acteurs humains.
Certaines tentent déjà de rebondir en exploitant à leur tour la technologie, par exemple en proposant des chatbots IA à leur effigie des avatars interactifs ou des chatbots pour maintenir une relation avec leur public. Des plateformes comme Fanvue.ai ou KiroVR permettent par exemple à des créateurs de vendre des expériences numériques personnalisées.
Heather Knox, directrice du site Elevated X, souligne : « L’IA ne remplacera pas les hardeurs, mais elle va bouleverser notre façon de travailler. Elle va devenir abusive avant de devenir utile. »
Rappelons en effet que OpenAI prévoit de lancer l’IA Sora dans le courant 2024, et a précisé qu’elle ne comptait pas interdire les vidéos explicites !
Régulation, Sora et la suite ?
Alors que les modèles IA deviennent capables de générer des vidéos (avec des outils comme Runway, Pika Labs ou Sora d’OpenAI), les questions éthiques et juridiques prennent de l’ampleur. OpenAI a précisé que Sora ne bloque pas par défaut les contenus NSFW, mais qu’un cadre d’utilisation responsable est en développement. Cette ouverture inquiète les experts, car elle pourrait faciliter la création de contenus non consentis ou illicites.
L’Europe, via son AI Act, travaille activement à encadrer la génération de contenu sensible, notamment les deepfakes à caractère sexuel. L’objectif est de responsabiliser les plateformes et développeurs tout en protégeant les utilisateurs contre les dérives.
De leur côté, les modèles comme Stable Diffusion XL intègrent aujourd’hui des garde-fous plus solides : détection de prompts douteux, blocage d’images non conformes, et listes noires intégrées. Mais cela reste facilement contournable avec des versions modifiées ou « jailbreakées ».
Les plateformes éthiques tentent de poser un équilibre : générer librement, mais dans un cadre sûr. À terme, la généralisation de labels de confiance et d’audits de transparence pourrait devenir la norme.
Conclusion
L’expérience de Lightspeed Jones révèle des défis liés à la rencontre entre IA et industrie du sexe. Ce qui semblait une opportunité commerciale s’est révélé être une plongée dans l’inconnu, confrontant technologie et morale. L’IA permet aujourd’hui de générer facilement du contenu à caractère sexuel, mais à quel prix ?
Les questions de consentement, de protection de l’image et de responsabilité deviennent centrales. Les outils IA ne sont pas intrinsèquement dangereux, mais leur utilisation sans garde-fous peut l’être. C’est pourquoi il devient impératif d’établir des règles claires, à la fois techniques, légales et éthiques.
L’avenir du X ne sera ni entièrement humain, ni entièrement artificiel. Il sera hybride, entre innovation technologique et protection des valeurs fondamentales. Et si les acteurs historiques veulent survivre, ils devront eux aussi apprendre à naviguer entre ces deux mondes.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
