On pourrait croire que recevoir un mauvais conseil pousse naturellement à se méfier davantage. En réalité, c’est tout l’inverse qui semble se produire lorsque ce conseil vient d’une intelligence artificielle (IA).
Une nouvelle étude, menée par Valerio Capraro, professeur de psychologie à l’université de Milan-Bicocca, le suggère, du moins. Celle-ci montre que les personnes ayant suivi des réponses erronées de l’IA étaient moins précis… mais beaucoup plus sûres d’elles.
Les chercheurs ont remarqué autre chose. Les participants étaient bien moins enclins à reconnaître qu’ils ignoraient la réponse. Pourtant, ils avaient la possibilité de passer leur tour et étaient même récompensés lorsqu’ils répondaient correctement.
Malgré cela, la simple présence d’une réponse générée par l’IA semblait suffire à leur donner confiance.
Pourquoi une mauvaise réponse de l’IA paraît-elle si convaincante ?
Pour comprendre ce mécanisme, les chercheurs ont soumis les participants à six questions portant sur des détails très méconnus de films. Et elles n’avaient pas été choisies au hasard.
Elles correspondaient précisément à des cas où le modèle d‘IA répondait systématiquement de manière incorrecte. L’objectif était d’observer ce qui se passe lorsqu’une personne reçoit un conseil erroné d’une IA. Cela, sans que la qualité de ce conseil ne vienne brouiller les résultats.
Résultat : sans IA, les participants préféraient dire qu’ils ne savaient pas dans 36 à 44 % des cas. Dès qu’une réponse de l’IA leur était proposée, ce taux s’effondrait à seulement 3 à 6 %.
Dans le même temps, leur précision chutait fortement. Ils passaient de 27,5 % de bonnes réponses sans assistance à seulement 9,2 % avec l’aide de l’IA.
Des enjeux plus élevés suffisent-ils à corriger le problème ?
Eh bien, les chercheurs ont ajouté des récompenses et des pénalités financières pour voir si les participants devenaient plus prudents. Cela a bien eu un petit effet, il faut avouer. Ils ont répondu avec un peu plus de précision.
Mais la tendance de fond est restée la même. Même lorsqu’il y avait quelque chose à gagner ou à perdre, l’IA continuait à inspirer une confiance excessive. Mais alors, pourquoi ?
Pour Valerio Capraro, l’IA pourrait tout simplement abaisser le niveau de certitude dont nous avons besoin avant d’oser répondre. Elle nous donne l’impression d’être plus sûrs de nous que nous ne le sommes réellement.
Le chercheur s’inquiète ainsi des conséquences pour les plus jeunes. Grandir avec des réponses instantanées pourrait leur faire perdre l’habitude de douter, alors que cette étape est essentielle pour apprendre.
D’autant que plusieurs études montrent déjà que de nombreux jeunes utilisent des chatbots jusque dans leurs conversations du quotidien.
Alors, si Valerio Capraro a un conseil à vous donner, c’est sans doute celui-ci. L’IA doit servir d’assistant, pas remplacer notre propre jugement.
- Partager l'article :
