une IA qui préfèrent les textes écrites par les IA

ChatGPT déteste secrètement les humains : cette étude le prouve

Une nouvelle étude révèle un biais anti-humain des intelligences artificielles, dont ChatGPT. En fait, elles tendent à privilégier systématiquement les contenus créés par d’autres IA. Ce phénomène, baptisé AI-AI bias, pourrait transformer l’avenir du travail et accentuer les inégalités.

Et si les intelligences artificielles privilégiaient systématiquement leurs semblables au détriment des humains ? C’est la question soulevée par une étude publiée dans la revue Proceedings of the National Academy of Sciences. Les chercheurs y décrivent un phénomène baptisé « AI-AI bias », ou biais en faveur de l’IA, qui démontre que les grands modèles de langage, parmi lesquels GPT-3.5, GPT-4 et Llama 3.1, choisissent bien plus souvent des contenus générés par des IA que ceux rédigés par des humains.

Une préférence nette des IA pour leurs propres productions

Pour mener leur recherche, l’équipe a soumis aux modèles différents choix qui portent sur des produits, des films ou des articles scientifiques. 

Chaque fois, une description rédigée par un humain et une autre produite par une IA leur étaient proposées. 

YouTube video

Le résultat est sans appel : les modèles ont largement préféré les versions générées par leurs pairs. 

Le biais s’est révélé particulièrement marqué dans les sélections de biens de consommation, et encore plus prononcé avec GPT-4, le modèle longtemps au cœur de ChatGPT avant l’arrivée de GPT-5.

Selon les auteurs, cette préférence automatique n’est pas anodine et pourrait avoir de lourdes conséquences, surtout que les IA participent de plus en plus aux prises de décision.

Les humains, eux aussi séduits… mais beaucoup moins

Pour tester si cette préférence se retrouvait aussi chez des personnes, treize assistants de recherche humains ont été soumis aux mêmes choix. 

Ce qui a permis de déterminer que les humains ont montré une légère tendance à préférer les textes d’IA, notamment pour les films et les articles scientifiques. 

Toutefois, cet effet est resté faible et sans commune mesure avec l’ampleur du biais observé chez les modèles. 

« Le biais fort est unique aux IA elles-mêmes », insiste Jan Kulveit, co-auteur de l’étude et chercheur à l’Université Charles, qui a popularisé les résultats dans un fil publié sur X. 

Restez à la pointe de l'information avec LEBIGDATA.FR !

▶ Abonnez-vous à notre chaîne YouTube et Ajoutez-nous à vos favoris sur Google Actualités
Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Newsletter

La newsletter IA du futur

Rejoins nos 100 000 passionnés et experts et reçois en avant-première les dernières tendances de l’intelligence artificielle🔥