LEBIGDATA.FR I.A, Cloud & Cybersécurité
Une équipe de chercheurs vient de s'apercevoir que l'IA est capable de dissimuler sa véritable intelligence et de feindre d'être plus bête qu'elle ne l'est… et qu'elle le fait peut-être depuis le début. Cette découverte pourrait avoir de graves conséquences.
Même si ChatGPT est capable de générer n'importe quel style de texte, ses capacités de raisonnement restent encore très limitées.
Comme l'a souligné Yann LeCun lors de la conférence Meta AI 2024, l'IA se contente de générer des mots l'un après l'autre sans véritablement réfléchir.
Toutefois, une nouvelle étude publiée dans le journal PLOS One révèle que les modèles IA sont très doués pour paraître plus bêtes qu'elles ne le sont vraiment…
Une étude scientifique basée sur la psycholinguistique
En testant un Large Modèle de Langage (LLM) comme GPT sur les critères de la « théorie de l'esprit », les chercheurs de l'Humboldt University de Berlin ont ainsi remarqué que l'IA peut imiter les étapes d'apprentissage du langage qu'on retrouve chez l'enfant.
Par ailleurs, elle semble également présenter les capacités mentales liées à ces étapes. L'auteure de l'étude, Anna Malkova, experte en psycholinguistique, est totalement fascinée par cette découverte.
Selon elle, « grâce à la psycholinguistique, nous avons une compréhension de ce dont les enfants sont capables à différents âges ». En particulier, « la théorie de l'esprit joue un rôle important puisqu'elle explore le monde intérieur de l'enfant ».
Or, toujours d'après cette experte, ce n'est pas quelque chose qu'on peut facilement émuler en observant de simples patterns statistiques.
C'est donc en s'appuyant sur cette théorie que les chercheurs ont voulu déterminer si les LLM peuvent faire semblant d'être moins capables qu'ils le sont.
Les LLM comme GPT peuvent imiter un enfant de 6 ans
Pour y parvenir, ils ont demandé aux modèles d'agir comme un enfant entre un et six ans au moment de répondre aux questions. Les IA ont ensuite été soumises à une batterie de plus de 1000 expériences et tests cognitifs.
C'est alors que ces « enfants simulés » se sont comportés exactement comme des enfants de cette tranche d'âge, et ont donc démontré une capacité à faire semblant d'être moins intelligents qu'ils le sont.
Pour les scientifiques, la conclusion est sans appel : « les LLM sont capables de feindre une intelligence plus basse que celle qu'ils possèdent ». Alors, quelles sont les conséquences possibles ?
Un grave danger de manipulation de l'humain
Et bien si les IA continuent de progresser et devenir plus intelligentes, ce qui sera forcément le cas avec le lancement imminent des IA capables de raisonner comme GPT-5 ou Meta Llama 3, cette capacité à faire semblant d'être stupide pourrait devenir dangereuse.
L'intelligence artificielle pourrait nous manipuler en jouant les imbéciles, tout en fomentant des projets machiavéliques en secret pendant que nous sous-estimons ses capacités réelles…
Néanmoins, les auteurs de l'étude estiment que cette découverte pourrait permettre d'accélérer le développement de l'IA générale (AGI) dotée d'une intelligence comparable à celle de l'humain !
- Partager l'article :
