LEBIGDATA.FR I.A, Cloud & Cybersécurité
OpenAI se retrouve face à une tempête imprévue avec son GPT Store. Malgré les promesses de sécurité, des ChatGPT illégaux envahissent la plateforme. La boutique en ligne est-elle hors de contrôle ?
OpenAI s’est toujours vanté des chatbots personnalisés de son GPT Store. Toutefois, des centaines de GPT enfreignent les règles de la plateforme. Contenu porno, conseils des paris, ou encore de triche scolaire… Les dérapages se multiplient. Pour l’entreprise, plus ces applications illégales se propagent, plus la confiance des utilisateurs et l’image d’OpenAI se ternissent.
Le GPT Store a ouvert ses portes sur le web en novembre dernier. La société avait alors annoncé que « les meilleurs GPT seront inventés par la communauté ». Chacun peut donc y créer et découvrir des versions sur mesure de ChatGPT.
Mais, neuf mois plus tard, des développeurs malveillants inondent la plateforme. Ces derniers proposent des bots qui violent les règles d’OpenAI. Ces outils, illicites et aux contenus douteux, se sont ensuite répandus comme une traînée de poudre.
Une invasion de bots illégaux
Le lundi 2 septembre, la page d’accueil du GPT Store affichait des modèles de ChatGPT qui sont en contradiction avec les directives d’OpenAI. Parmi eux, on retrouve un chatbot psychologue et un coach de fitness. Ces domaines sont pourtant réservés aux professionnels de santé.
Un autre, BypassGPT, aide les étudiants à tricher en contournant les détecteurs d’écriture IA. Cette application a déjà accumulé plus de 50 000 téléchargements. D’autres modèles personnalisés suggèrent même des astuces pour les paris sportifs. Cela défie encore une fois les politiques de la plateforme.
Et si vous tapez « NSFW » (Not Safe For Work) sur le GPT Store, vous trouverez beaucoup de résultats liés au contenu adulte. Par exemple, la NSFW AI Art Generator.
Selon les données de la boutique d’OpenAI, les utilisateurs ont eu recours à ce chatbot plus de 10 000 fois. Celui-ci mène directement au site d’Offrobe AI, qui revendique sans détours la création de « porno IA pour satisfaire vos sombres envies ». Or, c’est strictement interdite par la société.
Une partie de Whac-a-Mole sur le GPT Store
En tout, plus de 100 outils créés dans le GPT Store ne respectent pas les règles d’OpenAI. L’entreprise essaie de les supprimer, mais, en vain, la tâche paraît difficile. Les pirates profitent des failles dans le système de validation de la boutique.
Par ailleurs, ces modèles pullulent, et c’est pourquoi il est compliqué de les éliminer. C’est comme les champignons après la pluie : tu en arraches et d’autres poussent. Même si OpenAI a réussi à en retirer certains, d’autres, comme BypassGPT, restent toujours disponibles.
La situation semble chaotique pour OpenAI. Pensez-vous que la plateforme parviendra à résoudre ces problèmes ? Exprimez-vous en laissant un commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
