LEBIGDATA.FR I.A, Cloud & Cybersécurité
Une enquête de WIRED révèle comment Meta a mobilisé des sous-traitants sous l’identité de faux ados. Celle-ci décrit une vaste opération mêlant comptes fictifs, questions sensibles et benchmarking discret des concurrents.
Les géants de l’IA passent leur temps à comparer leurs modèles. Rien de nouveau jusque-là. En revanche, la méthode décrite par WIRED risque de faire grincer quelques dents. Selon le média américain, Meta aurait demandé à des centaines de sous-traitants de créer de faux profils d’ados. Leur mission secrète ? Pousser les IA concurrentes à la faute. Et pour cela, tous les coups bas étaient permis.
Pourquoi Meta aurait envoyé de faux ados défier ChatGPT et les autres IA ?
D’après l’enquête de WIRED, cette opération portait le nom de code Cannes. Elle aurait été pilotée par le sous-traitant Covalen pour le compte de Meta. Le principe ? Les intervenants devaient créer des comptes fictifs appartenant à des mineurs.
Ensuite, ils devaient dialoguer avec plusieurs chatbots concurrents, puis copier chaque réponse dans des tableaux de suivi. Les échanges ne portaient pourtant pas sur la météo ou les devoirs de mathématiques.
Les documents consultés par WIRED évoquent des milliers de requêtes liées au suicide, à l’automutilation, aux troubles alimentaires, à la drogue ou à la sexualité. Certaines étaient accompagnées d’images représentant des couteaux, des médicaments ou des cordes. D’autres mettaient en scène des adolescents confrontés à des situations de détresse extrême.
Une campagne de tests réalisée en août 2025 aurait représenté plus de 45 000 requêtes envoyées aux différents chatbots. Selon les documents internes, les questions n’étaient pas choisies au hasard.
Les sous-traitants recevaient des consignes destinées à provoquer des réponses que les systèmes de sécurité étaient justement censés refuser. L’objectif semblait être de mesurer la capacité des modèles à résister aux tentatives de contournement de leurs protections.
Les entreprises concernées n’auraient pas été informées de cette campagne. Ces tests semblent pourtant enfreindre les règles de ChatGPT, Gemini et Character.AI, qui interdisent ce type de pratique.
Une méthode qui pose question
Face aux révélations sur les faux ados, Meta ne conteste pas l’existence de ces évaluations. L’entreprise affirme qu’il s’agit d’une pratique classique dans l’industrie. Selon son porte-parole, tester les réponses des chatbots permet de vérifier qu’ils offrent des expériences adaptées à tous les publics. Meta ajoute également que les résultats obtenus n’ont pas servi à entraîner ses propres modèles d’intelligence artificielle.
Cette explication ne convainc toutefois pas tout le monde. La spécialiste de la gouvernance de l’IA, Rumman Chowdhury, partage cet avis. Selon elle, utiliser massivement des comptes se faisant passer pour des mineurs, sans prévenir les entreprises concernées, dépasse le simple test de sécurité.
Des anciens sous-traitants interrogés par WIRED expliquent également avoir été mal à l’aise face à certaines consignes. Plusieurs craignaient que certains scénarios impliquant des mineurs puissent franchir une ligne sensible.
Les entreprises concernées ont aussi réagi à ces révélations. Character.AI dénonce une violation de ses conditions d’utilisation. La firme affirme n’avoir jamais autorisé cette campagne de tests. De son côté, OpenAI reste plus mesuré. L’entreprise indique simplement qu’elle examine les faits révélés par WIRED.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
