LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un doyen du X a voulu créer un site basé sur l'IA, permettant aux internautes de créer leurs propres images à partir de prompts. Il a fini traumatisé par les requêtes choquantes des visiteurs…
C'est un vétéran du porno sur internet. Dès le début des années 2000, Steven Jones, mieux connu sous son pseudonyme « Lightspeed », gérait toute une collection de sites X qui lui rapportaient un demi-million de dollars par mois.
Avec l'apparition des sites gratuits comme Pornhub, sa source de revenus s'est rapidement tarie. Toutefois, récemment, grâce à l'émergence de l'IA, il a trouvé une façon de renouveler son business.
Sa nouvelle idée de génie ? Laisser les internautes générer des images porno à partir de leurs prompts, grâce à l'intelligence artificielle. Chose permise par des outils comme l'IA open source Stable Diffusion.
Malheureusement, Jones a vite regretté de s'être lancé dans ce projet. Il a été extrêmement choqué par les requêtes des visiteurs…
« J'espère qu'ils ne veulent pas réellement voir ça »
Selon ses propres dires, « je vois certaines choses que les gens tapent, et j'espère devant dieu qu'ils essayent juste de tester le modèle, comme nous le faisons. J'espère qu'ils ne veulent pas réellement voir les choses qu'ils décrivent »…
Sans doute habitué à la pornographie d'ancienne génération, très soft, type Marc Dorcel, cet ancien du milieu ne réalisait pas le niveau de perversion de nombreuses personnes.
Et malgré les barrières de sécurité mises en place, il peine à empêcher ses clients de trouver des méthodes pour les contourner et générer des images moralement douteuses…
Au total, son entreprise a bloqué plus de 1000 mots-clés, tels que « lycée » ou d'autres termes qui pourraient permettre de créer des images illégales. Cependant, les jailbreakers redoublent d'inventivité.
La solution alternative : une liste de cases à cocher
De son côté, le propriétaire du site sado-maso king.com, Peter Acworth a trouvé une meilleure alternative.
Plutôt que de laisser les internautes taper leur propre prompt, il leur propose une liste de cases à cocher. Ceci leur permet de définir les situations et le type de personnes qu'ils souhaitent voir en action, sans leur laisser trop de liberté pour autant.
C'est probablement une solution plus adaptée, car une liberté totale peut rapidement mener au chaos. L'IA n'en est encore qu'à ses balbutiements, mais on entrevoit déjà les risques de graves dérives.
En février 2024, les réseaux sociaux ont été inondés de DeepFakes porno de Taylor Swift extrêmement dégradants pour la chanteuse américaine.
De même, il existe déjà des sites web générant un flux continu sans fin d'images pornographiques en tout genre parfois très choquantes.
Quel avenir pour les actrices humaines ?
On y pense moins, mais l'IA est aussi une grave menace pour l'industrie du X et notamment pour ses actrices. Dans un monde où n'importe qui peut créer ses propres vidéos artificielles, leurs carrières semblent soudainement très compromises…
Certaines tentent déjà de rebondir en exploitant à leur tour la technologie, par exemple en proposant des chatbots IA à leur effigie ou même de véritables clones virtuels. Ces projets semblent toutefois peu rentables à long terme.
La directrice du site Elevated X, Heather Knox, ne l'entend pas de cette oreille et affirme que « l'IA ne peut remplacer les hardeurs, et les gens qui disent ça ne comprennent pas ce que font les hardeurs ».
Elle estime néanmoins qu'à mesure que la technologie progresse, « elle va devenir abusive avant de devenir utile »…
Malgré les dérives et les difficultés, Lightspeed Jones se réjouit déjà de la prochaine étape : les vidéos porno générées par IA. Selon lui, ce type de contenu apparaîtra dans moins de deux ans.
Rappelons en effet que OpenAI prévoit de lancer l'IA Sora dans le courant 2024, et a précisé qu'elle ne comptait pas interdire les vidéos explicites !
- Partager l'article :
