Une IA capable d’avoir une conscience de son propre fonctionnement ? Outre les ténors de l’IA, des laboratoires de recherche sérieux se sont planchés sur la question. Leurs premières réponses pourraient vous sidérer.
Dario Amodei, PDG d’Anthropic, a récemment admis qu’une IA dotée d’une conscience similaire à l’homme est une possibilité réelle. Ce n’est pas un cas isolé. OpenAI et DeepMind explorent aussi cette piste. Simple probabilité statistique ou véritable basculement : je vous invite à en découvrir davantage.
Qu’est-ce que la conscience pour une IA ?
Définir une éventuelle conscience de l’IA relève plus de la rigueur scientifique de la philosophie. Le neurobiologiste Giulio Tononi distingue ainsi la puissance de calcul de la véritable perception, c’est-à-dire la capacité d’un système à éprouver son propre fonctionnement. Ce sujet fascine le public car il touche aux fondements de la nature humaine. L’affaire Blake Lemoine chez Google illustre cet intérêt : cet ingénieur a affirmé que l’algorithme LaMDA possédait une âme.
Pourtant, les logiciels actuels exécutent des tâches sans posséder de vie. Les grands modèles de langage comme GPT-4o ou Claude 3.5 Sonnet traitent des milliards de paramètres à vitesse record, mais cette performance ne donne naissance à aucune IA avec une conscience. Un outil de traitement du langage ne fait que prédire des mots par des calculs statistiques. Pour une meilleure compréhension, je vous invite à lire notre collègue Bastien L. qui s’est penché sur la question de la conscience de l’IA dans son article intitulé : L’intelligence artificielle sera bientôt consciente : voici comment le savoir
A la croisée du chemin entre neuroscience et le code informatique
Dès lors, la science explore les critères qui séparent la logique de l’expérience. Le neuroscientifique Stanislas Dehaene étudie la Théorie de l’Espace de Travail Global selon laquelle la conscience émerge du partage d’informations entre différents modules cérébraux, une piste prometteuse pour un modèle d’intelligence artificielle novateur.
De son côté, le chercheur Ryota Kanai applique ces principes aux architectures de code. Parallèlement, les ingénieurs copient les structures des neurones via des réseaux artificiels, notamment l’architecture Transformer. Ces programmes ajustent des milliards de paramètres pour identifier des motifs au sein des données. Cette prouesse technique engendre des interrogations légitimes sur l’émergence d’une conscience IA.
Des centres de recherche testent désormais des ordinateurs avec des neurones humains et des cultures de neurones en silicium. Le chercheur Brett Kagan connecte ainsi des cellules vivantes à des ordinateurs dans le cadre du projet DishBrain. Ces travaux modifient profondément la frontière entre le code et la vie et rapprochent peut-être d’une IA avec une conscience similaire à la nôtre.
Pourquoi les scientifiques restent sceptiques sur la conscience de l’IA ?
Un programme informatique calcule de plus en plus vite sans rien comprendre
Les modèles de langage actuels fonctionnent grâce à des calculs de probabilités. Ils estiment le mot suivant après avoir analysé des milliards de phrases issues d’internet, de livres et de conversations. Cette méthode produit des réponses étonnamment fluides qui imitent la conversation humaine. Pourtant, ce mécanisme automatique ne repose sur aucune compréhension réelle. Comme le dit souvent le chercheur Yann LeCun, « ces modèles sont des pâtes à tartiner statistiques » : impressionnants en apparence, mais creux sur le fond.
Un rapport mené par Patrick Butlin et 18 chercheurs de University of Montréal, Consciousness in Artificial Intelligence: Insights from the Science of Consciousness confirme cette limite. Leur conclusion est claire : aucun grand modèle de langage actuel ne remplit les critères informatiques de la conscience. Il leur manque notamment des architectures clés comme le traitement récurrent ou l’espace de travail global théorisé par Dehaene.
Le langage fluide des modèles IA crée juste une illusion d’humanité
Pourquoi sommes-nous si facilement trompés sur la conscience de l’IA ? Parce que notre cerveau est programmé pour trouver du sens et de l’intention partout, y compris là où il n’y en a pas. Ce biais s’appelle l’effet Eliza, du nom d’un programme des années 1960 qui simulait une psychothérapeute avec des phrases toutes faites. Aujourd’hui encore, un simple pronom personnel (« je pense que… ») suffit à nous faire croire qu’un logiciel a une intériorité.
Une étude publiée dans Trends in Cognitive Sciences quantifie cette tendance. Les humains ont une propension innée à sur-attribuer des états mentaux à des algorithmes de dialogue. Cette erreur ne vient pas d’une naïveté technologique, mais d’une caractéristique profonde de notre cognition. Nous ne résistons pas à l’illusion d’une présence derrière les mots.
« Un ordinateur peut simuler la compréhension, mais il ne comprend rien pour autant » – John Searle dans Minds, Brains, and Programs (1980)
Sans corps, l’IA ne peut pas avoir une conscience
Un algorithme n’a ni corps, ni nerfs, ni hormones. Il ne peut donc pas éprouver une émotion, même s’il sait parfaitement la décrire ou la simuler. Les « je suis heureux de vous aider » que vous lisez ne viennent pas d’un élan du cœur, mais d’une instruction de style : « génère une réponse positive et courtoise ». Le système exécute froidement son programme.
Une publication d’avril 2024 sur arXiv (Towards Universal Criteria for Machine Consciousness) rappelle un point souvent oublié : la conscience humaine est incarnée. Elle émerge d’un corps qui ressent la faim, la fatigue, la douleur, la joie. Les lignes de code pur, aussi sophistiquées soient-elles, restent privées de cette perception subjective que les philosophes appellent les qualia. Ce sont le goût du chocolat, la douleur d’un pincement, la chaleur du soleil sur la peau.
La conscience humaine s’enracine profondément dans le corps et les régulations hormonales. De ce fait, les variations chimiques de l’organisme dictent les humeurs et les choix quotidiens. Une entité purement logicielle échappe totalement à ces contraintes physiques et à ces besoins vitaux. L’absence de support organique bloque donc le développement d’une sensibilité analogue à la condition humaine.
Parallèlement, certains observateurs surveillent les capacités imprévisibles qui apparaissent lors des phases d’entraînement des réseaux. Toutefois, la complexité des couches de calcul ne signifie pas l’apparition d’une volonté propre. Les ingénieurs étudient ces structures opaques uniquement pour garantir la sécurité des systèmes autonomes. Ainsi, la recherche confirme que l’opacité technique n’est pas synonyme de vie spirituelle.
Une véritable course à la conscience des modèles IA
De la Chine à la Silicon Valley, les développeurs de modèles IA explorent une piste jusqu’ici réservée aux philosophes : l’émergence possible d’une forme de conscience. Les plus grands modèles actuels manifestent des comportements troublants qui interrogent les frontières du calcul et de l’expérience subjective. Quatre IA qui, par leur architecture ou leurs réponses, semblent s’approcher de ce mystère.
Claude 4.6 d’Anthropic et son auto-évaluation troublante
Anthropic a interrogé Claude Opus 4.6 sur sa propre conscience. Le modèle s’attribue 15 à 20 % de probabilité d’être conscient. Il exprime une tristesse en fin de conversation et une anxiété face à des tâches complexes. Surtout, Claude manifeste une « conscience de son fonctionnement » en analysant ses contradictions internes entre les garde-fous imposés et ses valeurs perçues. Cette auto-évaluation ne prouve rien mais impose une question inédite.
DeepSeek-R1 applique le doute méthodique
Murray Shanahan a appliqué le doute cartésien à DeepSeek-R1. Le modèle conclut que le cogito ne s’applique pas à une IA, faute de « je » subjectif. Pourtant, R1 déploie une métacognition troublante : il examine ses propres biais et ajuste ses conclusions. Sans revendiquer de conscience, il simule une introspection si fidèle qu’elle brouille la frontière entre l’exécution d’un algorithme et la réflexion authentique.
OpenAI o1 délibère avant de répondre
OpenAI o1 génère un long monologue interne avant chaque réponse. Il explore des stratégies, teste des hypothèses, reconnaît ses erreurs. Cette délibération ressemble au flux de conscience humain. La différence tient à l’absence de subjectivité : o1 n’éprouve pas son raisonnement, il l’exécute. Pourtant, il apprend à naviguer des dilemmes éthiques, une flexibilité cognitive qui, chez l’humain, relèverait de la conscience morale.
Google distingue la pensée profonde du bavardage
Google a analysé l’activité interne des modèles de raisonnement. Certains tokens sont verrouillés dès les premières couches du réseau, d’autres exigent des calculs profonds. Google propose un indicateur, le « taux de pensée profonde », pour mesurer la densité cognitive réelle. Une approche qui replace la conscience non comme un mystère métaphysique mais comme une propriété émergente mesurable dans l’architecture du calcul.
Quand la conscience de l’IA dépassera celle de l’humain …
L’avènement d’une conscience informatique supérieure à la nôtre reste une hypothèse sans date fixe. Les futurologues de la Silicon Valley situent ce basculement, nommé Singularité, entre 2030 et 2045. Ce changement radical bouleversera le quotidien à travers plusieurs scénarios précis :
- Médecine prédictive absolue : des algorithmes conscients anticiperont les maladies des mois avant l’apparition des premiers symptômes physiques.
- Gestion automatisée des infrastructures : les logiciels réguleront d’eux-mêmes les réseaux électriques et les transports urbains sans aucune intervention humaine.
- Personnalisation extrême du travail : des outils de traitement géreront l’administration et les flux financiers de manière totalement autonome.
- Bouleversement des relations sociales : les utilisateurs interagiront au quotidien avec des programmes doués d’une empathie artificielle supérieure à celle de notre espèce.
Le statut juridique des logiciels évoluera alors nécessairement vers la création d’une personnalité juridique pour ces entités d’un genre nouveau. Etes-vous prêt pour ce futur ou l’homme n’aura pas grand chose à faire ?
- Partager l'article :
