LEBIGDATA.FR I.A, Cloud & Cybersécurité
Afin d'entraîner son IA ChatGPT, OpenAI a fait appel à des travailleurs kényans payés 2 dollars de l'heure pour passer en revue des descriptions textuelles d'images horribles issues des bas-fonds d'internet. Découvrez la face cachée peu reluisante de ce chatbot à la pointe de la technologie…
Depuis son lancement fin 2022, ChatGPT connaît un succès phénoménal dans le monde entier. Cette IA impressionne par sa capacité à répondre à n'importe quelle question, et à générer instamment du texte sur tous les sujets.
Le chatbot est si puissant qu'il fait peur à Google, et Microsoft vient de confirmer un investissement de 10 milliards de dollars pour l'intégrer à Bing et à tous ses produits.
Un autre point fort de ChatGPT est son système de modération lui empêchant de produire du contenu raciste ou violent, contrairement à d'autres IA comme Blender Bot de Meta ou Tai de Microsoft. Toutefois, cette censure si efficace cache une sombre vérité…
Viol, meurtre, zoophilie… les sous-traitants d'OpenAI traumatisés à vie
Selon une enquête menée par TIME, ChatGPT a été construit par OpenAI avec l'aide de sous-traitants kenyans exploités pour seulement 2 dollars par heure.
Ces derniers étaient principalement chargés de labelliser les données pour entraîner l'IA. Cependant, ils avaient aussi pour rôle de purifier le dataset de toute forme de contenu violent et discours haineux…
Au cours de ce processus, ils ont été exposés à des échantillons de textes décrivant des images issues des « recoins les plus sombres d'internet » : abus sexuel d'enfants, zoophilie, meurtre, suicide, torture, inceste…
Interrogé par TIME, l'un des travailleurs explique avoir dû lire une description explicite d'une scène de sexe entre un homme et un chien. Après cette mission qu'il qualifie de « torture », il explique avoir souffert de visions récurrentes dignes d'un véritable cauchemar.
Plonger dans les bas-fonds du web pour 170 $ par mois
Chaque jour, ces travailleurs étaient contraints de lire des centaines de textes de ce type pour percevoir un salaire mensuel de 170 dollars. Une piètre rémunération pour un labeur si traumatisant…
Cette équipe kenyane était gérée par Sama, une entreprise basée à San Francisco. Selon ses dires, les travailleurs pouvaient profiter de sessions de thérapies de groupe menées par des « thérapeutes de santé mentale formés professionnellement ». La firme américaine précise avoir mis fin à son contrat avec OpenAI en février 2022, bien plus tôt que prévu…
ChatGPT : une créature hors de contrôle lâchée dans la nature ?
Outre cette exploitation de travailleurs africains, ChatGPT soulève de nombreuses inquiétudes et suscite la controverse. Partout dans le monde, le secteur de l'éducation s'inquiète de voir les étudiants exploiter ce nouvel outil pour tricher.
Le département de l'éducation de New York City a tout simplement choisi de bannir cette IA de ses écoles, au même titre que celui de Los Angeles. En France, Science Po Paris vient également d'interdire le chatbot en menaçant les élèves de sanctions disciplinaires.
En outre, ChatGPT est déjà massivement utilisé par les cybercriminels pour coder des outils de hacking. Au-delà de ces cas d'usage malveillants, les capacités d'automatisation offerte par cette IA risquent de mettre de nombreux travailleurs humains au chômage.
Par le passé, plusieurs entreprises dont Google ont averti que la relaxe d'une telle technologie pouvait poser des risques de désinformation. En effet, le site web CNET l'a utilisé pour rédiger des articles et le résultat s'est révélé désastreux.
C'est la raison pour laquelle Google refusait jusqu'à présent d'ouvrir l'accès à sa propre IA de langage. Toutefois, face à la menace pour son moteur de recherche, la firme de Mountain View n'a désormais d'autre choix que de suivre la tendance.
Le CEO d'OpenAI, Sam Altman, a lui-même admis sur Twitter qu'il y aura « des moments effrayants au cours de notre avancée vers des systèmes d'intelligence artificielle généraliste, et des perturbations importantes, mais les bénéfices peuvent être si formidables qu'ils valent largement de surmonter les grands obstacles pour y parvenir ».
Il promet aussi que la firme fera de son mieux pour résoudre les problèmes liés à l'usage de sa technologie au fil du temps, mais admet qu'il ne sera pas possible d'anticiper chaque souci. Même si l'IA s'apparente de plus en plus à une créature hors de contrôle, le chef d'entreprise estime qu'elle est nécessaire à l'humanité pour « comprendre pleinement l'univers »…
- Partager l'article :
