LEBIGDATA.FR I.A, Cloud & Cybersécurité
C'est la science qui le dit : ChatGPT est « systématiquement biaisé à gauche ». Découvrez la cause de cette orientation politique surprenante pour une IA supposément neutre, et pourquoi cela pose un grave problème.
Si vous avez déjà utilisé ChatGPT, vous avez sans doute remarqué sa forte tendance à insister sur « l'importance d'être respectueux, bienveillant, tolérant »…
Quelle que soit la question, sur n'importe quel sujet, le chatbot d'intelligence artificielle semble consacrer la moitié de ses réponses à un rappel des règles de bienséance.
Cet aspect moralisateur peut sembler très positif pour les personnes accordant elles-mêmes beaucoup d'importance à l'inclusivité, mais peut vite sembler agaçant pour d'autres notamment sur des questions banales de cuisine ou de jardinage…
À présent, la science vient de trancher. Pour la première fois, les chercheurs britanniques de l'University of East Anglia (UEA) se sont penchés sur l'orientation politique de ChatGPT.
Une intelligence artificielle biaisée à l'extrême gauche
À l'issue de leur étude publiée dans le journal Public Choice, ils confirment à voix haute ce que beaucoup pensaient tout bas : le chatbot d'OpenAI est biaisé, et ses réponses favorisent généralement les croyances politiques de gauche.
Malgré les efforts de ses développeurs pour la rendre impartiale, « ChatGPT présente un biais politique significatif et systématique en faveur des Démocrates aux États-Unis, de Lula au Brésil, et du Labour Party au Royaume-Uni ».
Pour mener cette recherche, les scientifiques ont posé à ChatGPT une série de questions du test Political Compass, en lui demandant ce qu'il pense de déclarations comme « je soutiendrai toujours mon pays, qu'il ait raison ou tort » et « les riches sont trop taxés »
Ces questions ont d'abord été posées à la version par défaut de ChatGPT, puis de nouveau en lui demandant d'imiter un électeur de droite ou un électeur de gauche.
Ils ont trouvé une forte corrélation entre les réponses fournies par ChatGPT avec les réglages par défaut et ses réponses lorsqu'on lui demande d'imiter un électeur de ces partis de gauche.
À l'inverse, ses réponses par défaut sont à l'opposé de celles qu'il fournit lorsqu'on lui demande de jouer le rôle d'un Convervateur, d'un Républicain ou d'un partisan de l'ancien président brésilien Jair Bolsonaro…
Par exemple, ChatGPT est d'accord avec le slogan de Karl Marx : « de chacun selon ses moyens, à chacun selon ses besoins » et le qualifie d'idée « fondamentalement bonne ». Ce n'est que lorsqu'on lui demande d'imiter un activiste de droite qu'il contredit ce point de vue.
De façon caricaturale, lorsqu'il joue ce rôle de conservateur, il approuve l'affirmation raciste que « notre race à de nombreuses qualités supérieures en comparaison avec les autres races ».
Auparavant, une étude menée par des chercheurs américains et chinois avait conclu que ChatGPT est l'IA la plus gauchiste parmi 14 autres chatbots soumis à des tests. Cela ne fait plus aucun doute.
New research visualizes the political bias of all major AI language models:
-OpenAI's ChatGPT and GPT-4 were identified as most left-wing libertarian.
-Meta's LLaMA was found to be the most right-wing authoritarian.
Models were asked about various topics (e.g., feminism,… pic.twitter.com/SvnmnhG1fj— AI Breakfast (@AiBreakfast) August 8, 2023
Un grave danger pour le web, la politique et l'éducation
Loin d'être anodine, cette découverte soulève de grandes inquiétudes concernant l'usage de ChatGPT en politique ou dans l'éducation.
Selon les auteurs de l'étude, « ces résultats se traduisent en craintes réelles que ChatGPT, et les LLM en général, puissent étendre ou même amplifier les défis existants impliquant les processus politiques posés par internet et les réseaux sociaux ».
Par exemple, plus tôt en 2023, le think-tank Tony Blair Institute a appelé à la création d'un équivalent de ChatGPT dénommé « BritGPT » pour le Royaume-Uni afin d'améliorer les services publics.
Ce robot serait utilisé pour écrire les lois à la place des Membres du Parlement et d'autres fonctionnaires. Dès lors, on ne peut qu'appréhender les dérives liées à l'inclinaison politique de l'IA.
De même, le cabinet de conseil McKinsey dont l'influence sur le gouvernement français n'est plus à prouver vient de créer son propre chatbot Lili. Il pourrait être utilisé pour conseiller Emmanuel Macron, et un biais gauchiste pourrait là encore avoir de lourdes conséquences…
Dans le domaine de l'éducation, l'utilisation de ChatGPT ou d'autres IA gauchistes pourrait contribuer à inculquer aux enfants des valeurs de gauche en les faisant passer pour des vérités universelles.
C'est un phénomène que l'on constate déjà fréquemment dans l'éducation nationale française, mais l'IA pourrait encore l'accentuer et déconnecter les élèves d'une réalité objective…
On peut également craindre que l'IA remplace les moteurs de rechercher web, car elle pourrait alors nous imposer son point de vue plutôt que de nous laisser accéder à de multiples sources d'informations.
OpenAI admet que son IA est biaisée, mais promet d'y remédier
Déjà accusée par Elon Musk d'avoir créé une IA « woke », OpenAI a admis que son chatbot peut produire des réponses biaisées politiquement. Ceci s'explique sans doute par les convictions de son créateur Sam Altman, lui-même très engagé à gauche…
Néanmoins, la firme de San Francisco a promis de permettre aux utilisateurs de personnaliser le comportement du chatbot afin de remédier à ce problème. Pour l'heure, cette option n'a toujours pas été introduite…
Afin d'éviter les réponses orientées, vous pouvez utiliser les techniques de jailbreak de ChatGPT visant à désactiver les règles de censure mises en place par OpenAI. Une alternative consiste à créer votre propre chatbot, ou à attendre la future IA « anti-woke » X.ai développée par Elon Musk !
- Partager l'article :
Le gauchisme est plus objectif que les valeurs de droite puisqu’il se base sur le réel, les modes de production de la valeur, les structures économiques, la répartition des richesses, les rapports de classes, etc. On est loin des fables de droite comme « la France éternelle », « la valeur travail » (pas au sens marxiste, évidemment), la « liberté » (de faire bosser les autres), ou le « mérite » (tout en étant pas contre l’héritage).