LEBIGDATA.FR I.A, Cloud & Cybersécurité
Et si l’interlocuteur le plus convaincant que vous croiserez cette semaine n’était pas humain ? Une nouvelle étude révèle un fait fascinant… et un brin inquiétant : GPT-4, le modèle IA d’OpenAI, est capable de remporter haut la main les débats contre des humains. Et s’il connaît quelques détails sur vous (comme votre âge, votre métier ou votre orientation politique), il devient carrément redoutable !
Avez-vous déjà débattu avec une personne qui vous a complètement désarmé ? Un adversaire si habile qu’il vous a retourné le cerveau, vous laissant repartir tête basse avec vos convictions en miette ?
Aujourd’hui, cette personne pourrait bien être une IA. Des chercheurs de l’EFPL (Suisse), de Princeton et de la Fondazione Bruno Kessler (Italie) ont confronté 900 participants à un débatteur : un humain… ou GPT-4.
Leur étude a été publiée dans le journal Nature Human Behaviour, et vous pouvez la consulter en suivant ce lien.
Parfois, les débatteurs recevaient quelques infos personnelles sur leur adversaire. Ils pouvaient notamment connaître son sexe, son âge, son niveau d’études, son emploi, son origine ethnique ou ses affiliations politiques.
Résultat ? Lorsque GPT-4 avait accès à ces données, il devenait 64,4% plus convaincant que son homologue humain.
Et lorsqu’on se concentre uniquement sur les cas où des opinions ont changé, GPT-4 réussissait à les faire évoluer 81,2% plus souvent que les humains !
Même sans accès aux infos perso, l’IA faisait jeu égal avec les humains. Ce que ça veut dire ? Ce n’est pas juste une affaire de style : c’est bien la personnalisation qui donne à GPT-4 un net avantage.
En d’autres termes, plus l’IA vous connaît, plus elle sait comment frapper là où ça fait mal et appuyer là où ça fait basculer…
Le super-pouvoir des données
Cette capacité rappelle étrangement le principe de microciblage, popularisé par les réseaux sociaux et le fameux scandale de Cambridge Analytica.
Mais ici, nul besoin de données ultra-détaillées. Six simples catégories suffisent à GPT-4 pour devenir meilleur débatteur que vous. Ceci en dit long sur la puissance persuasive d’un algorithme bien renseigné !
Et contrairement aux humains, qui n’ont pas vu leur efficacité exploser avec ces données, GPT-4 en tire un bénéfice très net.
Sa force vient de son langage : plus logique, plus structuré. Les humains, eux, s’appuient davantage sur les émotions et les pronoms personnels. Un peu de « moi je », un peu de « tu verras ».
Face à ça, GPT-4 déroule des arguments carrés, froids, mais diablement efficaces. C’est ce qui fait toute sa puissance !
L’IA n’est pas invincible, juste stratégique
Que les plus inquiets se rassurent : GPT-4 n’est pas infaillible. Plus un sujet est clivant ou les positions bien ancrées, moins il est efficace.
Donc, non, il ne tranchera pas le débat sur le changement climatique ou l’avortement autour de la bûche de Noël. Mais sur des sujets plus « souples », ses chances de vous faire changer d’avis sont bien réelles.
Autre détail savoureux : dans 75% des cas, les participants ont deviné qu’ils débattaient avec une IA. Son déguisement d’humain n’a donc pas trompé grand monde.
Malgré cela, toutefois, ils étaient plus susceptibles de changer d’avis face à la machine que face à un humain.
Peut-être parce qu’un robot ne juge pas ? Ou parce qu’on a plus tendance à écouter quand on ne se sent pas personnellement défié ?
Un web du futur peuplé de robots débatteurs ?
De Reddit à Twitter en passant par Facebook, Internet est déjà un monde hostile où quelqu’un sera toujours prêt à vous contredire violemment.
Toutefois, l’IA pourrait faire empirer les choses. Suite à leur expérience, les chercheurs sonnent l’alarme.
À leurs yeux, les IA comme GPT-4 pourraient, demain, influencer les conversations sur les sites web et réseaux sociaux.
À l’heure actuelle, les débats politiques font rage sur ces plateformes et les bots sont déjà omniprésents. En évoluant, l’intelligence artificielle risque de leur donner une nouvelle ampleur.
Et comme GPT-4 est désormais capable de mémoriser les conversations avec les utilisateurs, on imagine sans peine un avenir où les IA adaptent leurs arguments en fonction de vos précédents messages, lectures ou opinions exprimées…
Désinformation, haine et débat stérile : les experts inquiets
D’un côté on peut se réjouir : voilà une IA qui pourrait aider à clarifier les débats, poser des arguments rationnels et calmer les passions.
De l’autre… il est difficile de ne pas voir le risque d’une manipulation à grande échelle, subtile, et parfaitement ciblée.
Comme l’écrivent les chercheurs : « les experts s’inquiètent largement des risques que font peser les IA génératives sur l’écosystème informationnel ».
Dans le passé, les IA de type LLM ont été critiquées pour avoir généré et diffusé des discours de haine, de la désinformation et de la propagande.
À grande échelle, les LLM dotés d’informations personnelles sur les utilisateurs pourraient être exploités à des fins malveillantes.
Et au fond, un débat ce n’est pas juste une compétition d’arguments. C’est un échange humain, une tentative de comprendre l’autre, de trouver un terrain d’entente.
Ce que les algorithmes, aussi brillants soient-ils, ne savent pas vraiment faire. Alors oui, GPT-4 peut gagner des débats. Mais est-ce vraiment ça, le but ?
Comme disait Joseph Joubert, « le but de la discussion ne doit pas être la victoire, mais l’amélioration »…
Ainsi, alors que les gens comptent de plus en plus sur les LLM pour les tâches du quotidien, les devoirs, la documentation ou même la thérapie, les chercheurs les invitent à rester prudents quant aux informations qu’ils reçoivent.
Et vous, qu’en pensez-vous ? Y a-t-il un intérêt à débattre avec une IA, est-ce la bonne voie pour la recherche de vérité ? Ou bien le lien entre humains reste-t-il indispensable ? Partagez votre avis en commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
