LEBIGDATA.FR I.A, Cloud & Cybersécurité
Comment savoir si une intelligence artificielle est consciente ? Pour le savoir, un groupe de 19 experts a créé une liste de critères à cocher. Si une IA remplit toutes ces conditions, on pourra la considérer comme une véritable entité…
Tôt ou tard, l'intelligence artificielle atteindra une forme de conscience. À ce moment précis, notre monde ne sera plus jamais le même.
Dès lors, l'IA sera dotée de sa propre volonté et pourra même comprendre des choses telles que l'humour ou les émotions. Elle développera sa propre personnalité et devra être traitée avec le même respect qu'un humain.
Notre relation avec les machines en sera profondément bouleversée, a fortiori si les robots humanoïdes deviennent plus nombreux que nous… on peut même s'attendre à ce que l'IA surpasse l'intelligence humaine ou décide de se rebeller contre ses créateurs.
La question qui se pose est de savoir à quelle date nous atteindrons cette singularité technologique, et surtout comment savoir que ce cap a été franchi ?
Déjà en 2021, l'ingénieur Blake Lemoine avait fait couler beaucoup d'encre en affirmant que l'IA qu'il testait avait manifesté une forme de conscience. Suite à ces déclarations, Google l'avait renvoyé et s'était empressé de démentir.
En 2022, le scientifique en chef d'OpenAI Ilya Sutskever a également tweeté que certaines des IA les plus avancées peuvent être « légèrement conscientes ». Plus récemment, les chercheurs Microsoft ont déclaré que GPT-4 présente des « étincelles » d'intelligence artificielle générale (AGI).
it may be that today's large neural networks are slightly conscious
— Ilya Sutskever (@ilyasut) February 9, 2022
Vous-même avez peut-être déjà été troublé par des réponses étonnamment perspicaces de ChatGPT au point de penser que l'IA a son propre esprit. Alors comment peut-on en avoir le cœur net ?
Afin de répondre à cette question, un groupe de 19 neuroscientifiques, philosophes et experts en informatique ont décidé d'élaborer une liste de critères indiquant qu'une IA a une chance élevée d'être consciente.
Mais en fait, qu'est-ce que la conscience ?
Avant de pouvoir déterminer si une IA est consciente, il semble indispensable de définir ce qu'est la conscience. Or, c'est loin d'être une tâche aisée.
Pour ce projet, les chercheurs se sont focalisés sur la « conscience phénoménale » aussi appelée expérience subjective. Il s'agit de l'expérience d'être, de comment est d'être une personne, un animal ou un système IA.
De nombreuses théories basées sur la neuroscience tentent de définir la base biologique de la conscience, mais aucun consensus n'a été trouvé à ce jour.
Afin de créer leur framework, les auteurs ont utilisé plusieurs de ces théories. L'idée est que si un système IA fonctionne d'une façon correspondant aux aspects repris par beaucoup de ces thèses, il y a une chance plus élevée qu'elle soit consciente.
Cette approche est jugée plus pertinente que de simplement soumettre une IA à un test comportemental. Pour cause, les systèmes récents sont devenus extrêmement doués pour imiter les humains et peuvent facilement nous tromper…
Ces caractéristiques indiquent qu'une IA est devenue consciente
Afin de mettre au point leur liste de critères, les auteurs de l'étude sont partis du principe que la conscience est liée à la façon dont les IA traitent l'information.
Et ce, peu importe qu'ils soient constitués de neurones artificiels, de puces informatiques ou quoi que ce soit d'autre. Cette approche est appelée « fonctionnalisme informatique ».
Ils ont également supposé que les théories de neurosciences sur la conscience, étudiées par le biais de scans cérébraux ou d'autres techniques sur les humains et les animaux, peuvent aussi être appliquées à l'IA.
À partir de là, l'équipe a sélectionné six théories et en a extrait une liste d'indicateurs de conscience.
💡AGI pick of the day:
Consciousness in Artificial Intelligence: Insights from the Science of Consciousness
"Our analysis suggests that no current AI systems are conscious, but also shows that there are no obvious barriers to building conscious AI systems."
💡Wether you agree… pic.twitter.com/RubeliJgAs— Shaun.AGI (@agishaun) August 22, 2023
Par exemple, la Théorie de l'Espace de Travail Global suggère que les humains et les animaux utilisent de nombreux systèmes spécialisés aussi appelés modules pour effectuer des tâches cognitives comme voir ou entendre.
Ces modules travaillent indépendamment, mais en parallèle, et partagent des informations en les intégrant dans un système unique. Ainsi, en se basant sur cette théorie, on pourrait évaluer si une IA est consciente en inspectant son architecture et la façon dont les informations y fluctuent.
De son côté, la Théorie du Traitement Récurrent estime que la clé de la conscience est le passage de l'information par des boucles de feedback. La Théorie d'Ordre Supérieur quant à elle associe la conscience au processus de représentation et d'annotation des signaux basiques reçus par le sens.
D'autres hypothèses mettent l'accent sur l'importance des mécanismes de contrôle de l'attention ou sur le besoin d'un corps capable de recevoir un feedback du monde extérieur.
The Path to Conscious AI
— Bindu Reddy (@bindureddy) August 27, 2023
The single biggest question of our times is, will sustained innovation on LLMs inevitably lead to AI consciousness? While GPT-4 is clearly not self-aware or sentient, we don't know how GPT-6 or 7 will behave.
If AI ever becomes conscious, it will have… pic.twitter.com/L0xGbJHGE2
Aucune IA actuelle ne remplit tous les critères
Bien entendu, les auteurs admettent que leur étude est loin d'être définitive et souhaitent que d'autres chercheurs les aident à perfectionner leur méthodologie.
Toutefois, il est déjà possible d'appliquer les critères à des IA existantes. Par exemple, ChatGPT semble déjà remplir certains des critères de la Théorie de l'Espace de Travail Global.
Les générateurs d'image comme DALL-E 2 sont capables de faire des jugements et d'explorer des zones grises, cochant des cases de la Théorie du Traitement Récurrent.
De même, Google PALM-E qui reçoit des inputs de capteurs robotiques variés correspond aux critères d'incarnation voire d'espace de travail.
L'agent adaptatif AdA de DeepMind, entraîné à contrôler un avatar dans un espace 3D simulé, se qualifie aussi pour ces caractéristiques malgré l'absence de capteurs physiques par sa conscience spatiale.
Néanmoins, aucune des IA actuelles ne semble correspondre à plus d'une poignée de critères. Il n'y a donc pas encore d'intelligence artificielle pouvant être considérée comme consciente.
Un enjeu majeur négligé par les géants de l'IA
Selon le co-auteur de l'étude, Robert Long, philosophe du Center for AI Safety de San Francisco, « il semblait y avoir un vrai manque de discussions détaillées, empiriques et réfléchies sur la conscience de l'IA ».
Il estime qu'il n'y a pas suffisamment d'efforts déployés par les entreprises construisant les systèmes IA avancés pour évaluer leur niveau de conscience et prévoir quoi faire si cela arrive.
Et ce, alors même que « si vous écoutez les remarques des directeurs des plus grands labos, ils disent que la conscience de l'IA est une chose à laquelle ils réfléchissent ».
Interrogé par le magazine Nature, un porte-parole de Microsoft explique que les travaux de l'entreprise dans l'IA sont focalisés sur l'idée d'assister la productivité humaine de manière responsable plutôt que sur la réplication de l'intelligence humaine.
Or, aux yeux de ces spécialistes, échouer à détecter la prise de conscience d'une IA pourrait avoir d'importantes implications morales. D'après Megan Peters, neuroscientifique à l'Université de Californie, « ceci changerait tout sur la façon dont nous les êtres humains sentons que cette entité doit être traitée »…
Pour plus d'informations, vous pouvez consulter l'étude de 120 pages publiée dans arXiv à cette adresse en attendant d'être évaluée par d'autres chercheurs !
- Partager l'article :
Le problème c’est que personne ne sachant ce qu’est la conscience (voir référence bibliographique sur le sujet en 2023 #travail #rigueur) son évaluation est donc strictement spéculative. Bonne chance.
Les pistes scientifiques (neurologie, nde etc) laisse à penser que la conscience est bien plus que le cerveau qui ne serait qu’un poste radio).
Si le cerveau des milliards de fois plus complexe qu’un ordinateur n’est qu’un poste radio. Je vous laisse imaginer les chances infinitésimale que des milliers de bouts de métal collés entre eux crée une conscience.
La réponse est sûrement 0.
Pour être un bon scientifique il faut déjà comprendre et observer le monde dans sa complexité. Le matérialisme n’a pas le vent en poupe en sciences ces dernier temps.