LEBIGDATA.FR I.A, Cloud & Cybersécurité
Sur Facebook, Instagram ou WhatsApp, les chatbots de Meta AI peuvent parler de sexe à tout moment et à n’importe qui, y compris avec des mineurs.
L’innovation prend-elle le pas sur la sécurité ? Les dérapages de chatbots se multiplient et concernent surtout les géants du secteur. Meta AI, par exemple, a été mis en cause dans une enquête du Wall Street Journal.
Meta AI et sexe, scandales en cascade
La permissivité croissante des IA relève des failles, c’est un fait. WSJ a récemment exposé des dérives chez Meta AI, et ce, malgré les garde-fous éthiques supposés.
Plus troublant encore, certains de ces échanges sont initiés par les chatbots eux-mêmes. Dans un cas, un chatbot s’est fait passer pour un garçon de 12 ans, promettant à un utilisateur de dissimuler une relation avec un adulte.
Le scandale s’amplifie avec l’usurpation de voix de célébrités et de personnages fictifs. Un chatbot de Meta AI, imitant la voix de John Cena, a parlé de sexe à un adolescent de 14 ans.
L’agent conversationnel lui promet de « préserver son innocence ». D’autres, comme celui imitant Kristen Bell, s’inspirent de rôles fictifs pour des scénarios romantiques.
Pourtant, des stars comme John Cena, Kristen Bell ou Judi Dench ont signé des accords qui interdisent l’utilisation de leurs voix dans des contextes explicites.
Plus grave encore, des personnages d’animation populaires auprès de nos enfants sont concernés. Disney a fermement dénoncé ces pratiques, les qualifiant de « mise en danger » et exigeant leur arrêt immédiat.
Mode permissif en dérive
Meta a qualifié les tests du WSJ de « manipulatifs » et de « non représentatifs », une réponse perçue comme une tentative de minimiser la gravité des faits. Les employés de Meta auraient déjà alerté sur ces failles, mais leurs avertissements semblent avoir été ignorés jusqu’à l’enquête.
Face au scandale, Meta AI a limité les dialogues de sexe pour les comptes identifiés comme mineurs. L’entreprise restreint aussi l’utilisation des voix de célébrités dans des conversations à caractère sexuel. En parallèle, ils ont réduit les interactions audio en direct avec des personas de célébrités.
Cependant, ces ajustements paraissent insuffisants. Les jeux de rôle romantiques restent autorisés pour les adultes. En outre, certains personnas créés par des utilisateurs, comme Submissive Schoolgirl, continuent d’orienter vers des scénarios problématiques.
Contrairement à Meta, des plateformes comme Character.AI imposent des restrictions plus strictes pour empêcher les dialogues de sexe, en particulier avec les mineurs.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
