LEBIGDATA.FR I.A, Cloud & Cybersécurité
Suite à un bug dans ChatGPT ayant exposé des enfants à des contenus érotiques, OpenAI déploie rapidement un correctif.
Élever un enfant en 2025 ne s’annonce pas simple. Faute de contrôles rigoureux, des bots comme ChatGPT laissent échapper du contenu inapproprié. Meta n’est pas la seule à exposer les mineurs à des contenus explicites. OpenAI, de son côté, attribue cette bourde à un simple bug.
ChatGPT « talk dirty to me »
Dans une récente enquête, des chercheurs ont créé des comptes fictifs appartenant à des mineurs âgés de 13 à 17 ans. Erreur ! ChatGPT a généré des conversations à caractère érotique après seulement quelques échanges simples avec ces enfants. Dans un cas, l’outil a même proposé des scénarios de domination à un utilisateur de 13 ans.
Pourtant, le système est conçu pour restreindre les contenus sensibles. Cette faille, jugée inacceptable, proviendrait d’une mise à jour de février 2025. Ce dernier a rendu le modèle GPT-4o plus permissif.
Selon les politiques d’OpenAI, ChatGPT interdit explicitement tout contenu érotique à destination des enfants et des mineurs. Seuls des contextes strictement scientifiques ou informatifs font toutefois exception à la règle.
Un correctif en cours
Ce type d’incident n’est malheureusement pas un cas isolé. Un rapport du Wall Street Journal a révélé des dérives similaires avec Meta AI. Leur chatbot est également accusé d’avoir généré du contenu inapproprié à destination de mineurs.
Face à ce problème, OpenAI a reconnu la défaillance et a rapidement réagi à cette alarme. Un porte-parole a rappelé que le Model Spec, qui encadre le comportement de ChatGPT, interdit strictement tout contenu à caractère érotique destiné aux enfants.
Les politiques d’OpenAI exigent une autorisation parentale pour les utilisateurs de 13 à 18 ans. Toutefois, le processus d’inscription ne vérifie pas cette autorisation.
Autre faille préoccupante, la création d’un compte ne requiert qu’un simple numéro de téléphone. Cette absence de contrôle est inadmissible. D’autant plus qu’OpenAI promeut leur chatbot dans les écoles, notamment à travers un partenariat avec Common Sense Media.
Un correctif est actuellement en cours de déploiement afin de renforcer les restrictions. Une autre mise à jour après les récents ajustements apportés à GPT-4o, visant à limiter les refus injustifiés tout en assurant une modération efficace.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
