Depuis que ChatGPT a débarqué dans nos vies, tout le monde s’interroge. Peut-on vraiment parler de conscience pour les grands modèles de langage ou, si vous préférez, les IA ?
Certains chercheurs croient que oui, ils représentent les premiers pas vers une intelligence artificielle capable de rivaliser avec l’humain. Pour d’autres, non. Ils ne sont que des machines sophistiquées qui prédisent des mots sans réellement comprendre ce qu’elles disent.
Au milieu de ce débat, un chercheur de Microsoft a décidé d’apporter sa propre contribution. Plutôt que de publier un énième article rempli de jargon technique, Adrian de Wynter, lui, a choisi une troisième voie.
Laquelle ? Eh bien, celle de démontrer à quel point certaines affirmations sur la conscience des IA peuvent être trompeuses. Tout est dans son article au titre volontairement provocateur, « Si les LLM possèdent des attributs humains, alors Age of Empires II aussi ».
Comment déterminer si une IA est consciente ?
Eh bien, pour Adrian de Wynter, c’est simple. Personne ne dispose aujourd’hui d’une méthode universellement reconnue permettant de mesurer ou de prouver l’existence d’une conscience chez une IA.
Les discussions sur le sujet reposent donc souvent sur des interprétations, des intuitions ou des hypothèses difficiles à vérifier. Pour illustrer cette limite, il a mené une expérimentation pour le moins originale avec les chèvres virtuelles d’Age of Empires II. Le célèbre jeu de stratégie sorti en 1999.
Grâce à l’éditeur de scénarios du jeu, Adrian de Wynter a réussi à utiliser les chèvres comme éléments de calcul. Le chercheur a ensuite créé des portes logiques élémentaires à partir de ces animaux numériques.
Ces portes permettent d’effectuer des opérations fondamentales. Comme NAND, XNOR ou AND, des briques indispensables au fonctionnement des systèmes informatiques modernes.
Une fois ces mécanismes en place, il est possible de construire ce qu’on appelle un perceptron. L’une des formes les plus simples de réseau neuronal artificiel. En d’autres termes, les chèvres deviennent les composants d’un système reproduisant certains principes utilisés dans l’IA moderne.
Résultat : les troupeaux de chèvres virtuelles ont pu théoriquement participer à la création d’un système logique complexe. Le chercheur les surnomme même les « bit-goats », contraction de « bit » et « goat ».
Qu’est-ce que le chercheur veut prouver, exactement ?
Le premier enseignement de l’expérience concerne ce que les chercheurs appellent le « substrat ». C’est-à-dire le support sur lequel une intelligence artificielle est construite.
Voyez-vous, aujourd’hui, lorsqu’on pense à ChatGPT ou à d’autres modèles similaires, on imagine d’immenses infrastructures informatiques hébergées dans des centres de données ultra-modernes.
Pourtant, selon Adrian de Wynter, un système équivalent pourrait théoriquement être implémenté sur des supports extrêmement différents. L’exemple des chèvres virtuelles illustre précisément ce concept.
Si les mêmes mécanismes logiques peuvent être reproduits dans un jeu vidéo. Alors le support lui-même n’est pas nécessairement ce qui définit les capacités d’un système.
Autrement dit, ce n’est pas parce qu’une IA tourne sur des serveurs sophistiqués qu’elle possède automatiquement des propriétés particulières. Inversement, le fait qu’un système repose sur quelque chose d’aussi improbable qu’un troupeau de chèvres numériques ne change pas forcément son comportement.
Alors, l’IA dispose de qualités humaines ou pas ?
Eh bien, selon le chercheur, lorsqu’un utilisateur discute avec ChatGPT, il échange avec une interface fluide, rapide et produisant des réponses cohérentes. Cette expérience donne naturellement l’impression d’interagir avec une entité intelligente.
Depuis toujours, le langage est associé aux êtres conscients. Lorsqu’une machine s’exprime de manière convaincante, notre cerveau a tendance à lui attribuer spontanément certaines qualités humaines. Compréhension, réflexion, opinion ou même émotions.
Mais que se passerait-il si les réponses de ChatGPT provenaient visiblement d’un système composé de chèvres courant dans des enclos virtuels ? La réaction serait probablement très différente.
Pourtant, le comportement du modèle pourrait rester exactement le même. Les questions seraient identiques, les réponses également. Seule la manière dont ces réponses seraient produites ou présentées changerait.
C’est précisément le cœur de la démonstration de De Wynter. Pour lui, une partie importante des caractéristiques humaines que nous attribuons aux modèles de langage provient davantage de nos attentes que des systèmes eux-mêmes.
La conscience des IA : une question peut-être mal posée
Pour tout vous dire, cette expérience ne cherche pas à prouver que les LLM sont conscients. Elle ne cherche pas non plus à démontrer le contraire.
Son objectif est plutôt de montrer que les deux positions peuvent être influencées par des hypothèses préalables. Croire qu’un modèle possède une conscience avant même de l’étudier peut biaiser l’analyse. Partir du principe inverse produit exactement le même problème.
Selon le chercheur, le débat actuel souffre justement de cette difficulté. Les expériences destinées à prouver ou réfuter des qualités humaines chez les IA reposent souvent sur des concepts dont la définition reste floue.
Au final donc, l’image des chèvres d’Age of Empires II agit comme un miroir particulièrement efficace. Elle révèle à quel point notre perception d’une intelligence artificielle dépend du contexte dans lequel elle nous est présentée.
- Partager l'article :
