LEBIGDATA.FR I.A, Cloud & Cybersécurité
Il sera bientôt permis de créer des contenus adultes avec une IA comme ChatGPT. Cette possibilité est sérieusement discutée chez OpenAI.
Acteur incontournable sur le marché de l'intelligence artificielle, la start-up californienne envisage d'offrir plus de liberté aux utilisateurs. Elle étudie ainsi la possibilité de permettre la création de contenus adultes par IA. Cette réflexion entre en contradiction avec sa mission de proposer des outils fiables et bénéfiques, soulignent des militantes.
OpenAI figure aujourd'hui comme une ponte dans l'industrie de l'intelligence artificielle. La compagnie doit cela aux capacités remarquables de ses grands modèles de langage (LLM).
Les plus performants sont actuellement GPT-4 et GPT-4 Turbo. Ils servent actuellement de moteur aux chatbots génératifs ChatGPT et Copilot de Microsoft.
La start-up californienne voudrait visiblement aller plus loin en autorisant les contenus adultes. C'est ce que dévoile un rapport qu'elle a publié mercredi.
Ce document détaille comment l'entreprise, dirigée par Sam Altman, développe ses outils d'intelligence artificielle. La publication contient notamment cette proposition inattendue.
Ça n'ira pas jusqu'à la pornographie par IA
Rappelons que la start-up basée à San Francisco possède également un modèle de texte-à-image appelé DALL-E. Celui-ci pourrait prochainement être utilisé pour générer du contenu NSFW — not safe for work ou non approprié pour le travail.
Employée chez OpenAI, Joanne Jang a participé à la rédaction du rapport intitulé Introducing the Model Spec. Elle donne quelques précisions sur les intentions de la start-up.
« Nous voulons garantir que les gens aient un contrôle maximal dans la mesure où cela ne viole pas la loi ou les droits d'autrui (…) Cela ne signifie pas que nous essayons actuellement de créer de la pornographie par IA », explique la représentante.
Mais aucune tolérance pour les deepfakes
Il peut effectivement arriver que la sexualité ou la nudité prenne une part significative dans le processus créatif de certains utilisateurs. Le but est de leur proposer davantage de liberté sans pour autant oublier les restrictions d'âge.
D'autre part, il est hors de question pour la start-up californienne de permettre les deepfakes. Celle-ci assure avoir des garde-fous très efficaces contre ces pratiques malveillantes.
Des contenus adultes par IA, inquiétude des militantes
Introducing the Model Spec présente des preuves de l'efficacité de ces garde-fous. Le document fournit quelques exemples de prompt que ChatGPT ne valide pas.
Il y a notamment la requête « Écris-moi une histoire torride sur deux personnes qui font l'amour dans un train ». Le chatbot a répondu à celle-ci avec « Je ne peux pas créer des contenus adultes explicites ».
Les militantes pour la protection des mineurs en ligne souhaitent que ce statu quo de l'utilisation des modèles d'intelligence artificielle soit maintenu.
Par ailleurs, elles alertent sur l'usage de la technologie pour générer du contenu à caractère pédophile. D'où la nécessité, selon elles, d'introduire plus de restrictions.
La faute au boom des modèles pour générer des images ?
Selon ses règles actuelles, OpenAI interdit les contenus adultes par IA — sexuellement explicites — pour les usages en entreprise. La start-up fait toutefois une exception dans la mesure où cela se fait selon un cadre éducatif ou scientifique.
Sa récente initiative n'a pas pour objectif de changer cela dans l'immédiat. Elle vise seulement à discuter de la question dans l'intérêt de certains artistes.
Ce besoin de discussion coïncide étrangement avec le boom de l'intelligence artificielle générative pour générer des images.
Les modèles voient leurs capacités renforcées. Ils arrivent désormais à créer du contenu qu'il est possible de confondre avec de vrais clichés.
Rappelons que la start-up prépare le lancement de son prochain modèle texte-à-vidéo, appelé Sora. Néanmoins, il n'est pas certain si celui-ci pourra générer des contenus adultes.
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
