ia stupide semblant

ChatGPT nous a caché sa vraie intelligence : les chercheurs abasourdis

Une équipe de chercheurs vient de s’apercevoir que l’IA est capable de dissimuler sa véritable intelligence et de feindre d’être plus bête qu’elle ne l’est… et qu’elle le fait peut-être depuis le début. Cette découverte pourrait avoir de graves conséquences.

Même si ChatGPT est capable de générer n’importe quel style de texte, ses capacités de raisonnement restent encore très limitées.

Comme l’a souligné lors de la conférence AI 2024, l’IA se contente de générer des mots l’un après l’autre sans véritablement réfléchir.

Toutefois, une nouvelle étude publiée dans le journal PLOS One révèle que les modèles IA sont très doués pour paraître plus bêtes qu’elles ne le sont vraiment…

Une étude scientifique basée sur la psycholinguistique

En testant un Large Modèle de Langage (LLM) comme sur les critères de la « théorie de l’esprit », les chercheurs de l’Humboldt University de Berlin ont ainsi remarqué que l’IA peut imiter les étapes d’apprentissage du langage qu’on retrouve chez l’enfant.

YouTube video

Par ailleurs, elle semble également présenter les capacités mentales liées à ces étapes. L’auteure de l’étude, Anna Malkova, experte en psycholinguistique, est totalement fascinée par cette découverte.

Selon elle, « grâce à la psycholinguistique, nous avons une compréhension de ce dont les enfants sont capables à différents âges ». En particulier, « la théorie de l’esprit joue un rôle important puisqu’elle explore le monde intérieur de l’enfant ».

Or, toujours d’après cette experte, ce n’est pas quelque chose qu’on peut facilement émuler en observant de simples patterns statistiques.

C’est donc en s’appuyant sur cette théorie que les chercheurs ont voulu déterminer si les LLM peuvent faire semblant d’être moins capables qu’ils le sont.

Les LLM comme GPT peuvent imiter un enfant de 6 ans

https://twitter.com/AISafetyMemes/status/1667172233813413892

Pour y parvenir, ils ont demandé aux modèles d’agir comme un enfant entre un et six ans au moment de répondre aux questions. Les IA ont ensuite été soumises à une batterie de plus de 1000 expériences et tests cognitifs.

C’est alors que ces « enfants simulés » se sont comportés exactement comme des enfants de cette tranche d’âge, et ont donc démontré une capacité à faire semblant d’être moins intelligents qu’ils le sont.

Pour les scientifiques, la conclusion est sans appel : « les LLM sont capables de feindre une intelligence plus basse que celle qu’ils possèdent ». Alors, quelles sont les conséquences possibles ?

Un grave danger de manipulation de l’humain

Et bien si les IA continuent de progresser et devenir plus intelligentes, ce qui sera forcément le cas avec le lancement imminent des IA capables de raisonner comme GPT-5 ou Meta 3, cette capacité à faire semblant d’être stupide pourrait devenir dangereuse.

L’intelligence artificielle pourrait nous manipuler en jouant les imbéciles, tout en fomentant des projets machiavéliques en secret pendant que nous sous-estimons ses capacités réelles…

Néanmoins, les auteurs de l’étude estiment que cette découverte pourrait permettre d’accélérer le développement de l’IA générale (AGI) dotée d’une intelligence comparable à celle de l’humain !

YouTube video

Restez à la pointe de l'information avec LEBIGDATA.FR !

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Newsletter

La newsletter IA du futur

Rejoins nos 100 000 passionnés et experts et reçois en avant-première les dernières tendances de l’intelligence artificielle🔥