IA générale (AGI) : qu’est-ce que c’est, et quels dangers pour l’humanité ?

Une intelligence artificielle générale (AGI) est une IA comparable au cerveau humain, capable de transférer ses connaissances pour accomplir n’importe quelle tâche et dotée d’une conscience. Un tel système n’existe pas encore, mais les outils tels que ChatGPT s’en rapprochent de plus en plus. Découvrez à quelle date une AGI va voir le jour, quelles seront ses capacités et quels sont les promesses et dangers d’une telle technologie….

En août 2022, l’ingénieur Blake Lemoine de Google affirmait aux médias du monde entier qu’une intelligence artificielle avait développé une conscience. Aussitôt, le géant californien l’avait licencié et avait démenti son communiqué.

Pourtant, près d’un an plus tard, ces révélations énigmatiques résonnent différemment suite au lancement des chatbots IA comme ChatGPT et Google Bard.

Ces robots conversationnels impressionnent par leur capacité à générer du texte et à répondre à des questions sur n’importe quel sujet. À tel point qu’ils semblent parfois capables de réfléchir…

Il ne s’agit toutefois que d’une illusion. Ces IA ne sont que de larges modèles de langage (LLM), entraînés sur de gigantesques volumes de données. Cependant, une question se pose : quelle est la prochaine étape ?

Les futures IA seront-elles capables de penser, de créer, d’imaginer comme nous le faisons ? Et si Google avait réellement créé une IA consciente dans le plus grand secret ?

Pour de nombreux chercheurs, le Saint-Graal de la recherche IA est la singularité. Ce terme désigne l’émergence d’une AGI : une intelligence artificielle générale…

Qu’est-ce qu’une IA générale (AGI) ?

Si vous avez déjà regardé des films de science-fiction tels que « Terminator » ou « I-Robot », vous savez ce qu’est une IA générale.

Il s’agit d’une IA dotée de toutes les capacités cognitives humaines, notamment la conscience et la prise de décision.

Une telle machine serait capable d’émuler l’esprit et le comportement humain pour résoudre n’importe quel type de problème. Elle pourrait agir, réagir, ressentir et penser comme nous le faisons.

Elle serait capable de trouver une solution face à une tâche inconnue, de la même manière et avec les mêmes performances qu’un humain. Aucune programmation, aucune intervention humaine ne serait nécessaire.

L’AGI permettrait à une machine de comprendre, d’apprendre et d’effectuer toutes sortes de tâches intellectuelles. C’est la principale différence avec une IA spécialisée comme celles que nous connaissons à ce jour.

On désigne aussi parfois l’AGI par le terme « intelligence artificielle forte ». Elle s’oppose à une IA faible ou étroite, pouvant uniquement être appliquée à des problèmes spécifiques.

Toutefois, la définition d’une AGI varie selon celle de l’intelligence humaine. Les scientifiques informatiques la considèrent souvent comme la capacité à atteindre des buts, tandis que les psychologues la caractérisent par l’adaptabilité et la survie.

Pour certains, une IA générale serait une machine dotée d’une forme de conscience. Elle serait capable de planifier, d’acquérir des capacités cognitives, d’émettre des jugements, de gérer des situations incertaines ou encore d’intégrer ses connaissances pour la prise de décision.

De quoi sera capable une AGI ?

À l’heure actuelle, il n’existe pas encore de véritable AGI. Une telle intelligence artificielle relève encore de la science-fiction, même si elle pourrait voir le jour incessamment sous peu.

En théorie, ce système serait doté de capacités de « cognitive computing » (informatique cognitive). Ses performances seraient indiscernables de celles d’un humain.

Ses capacités intellectuelles surpasseraient même les nôtres, grâce à sa capacité à consulter et traiter d’immenses ensembles de données à la vitesse de l’éclair.

Ainsi, une AGI pourrait effectuer des tâches hors de portée des meilleurs ordinateurs existants à ce jour. Pour faire simple, elle pourrait accomplir tout ce que peut faire un humain et aurait le même potentiel que notre cerveau.

Ce système devrait être capable de pensée abstraite, de connaissances basiques, d’un sens commun, de créativité, de sociabilité, d’une compréhension des liens de cause à effet, ou encore d’un apprentissage par transfert.

Perception sensorielle

Il serait par exemple capable de lire, de comprendre du code écrit par l’humain et de l’améliorer. Une telle IA serait aussi très douée pour les tâches liées à la perception sensorielle comme la reconnaissance de couleur.

Même si les systèmes de Deep Learning ont permis d’importants progrès dans la vision par ordinateur (Computer Vision), les systèmes IA actuels sont loin d’égaler les capacités de perception humaines.

C’est la raison pour laquelle les véhicules autonomes sont facilement trompés par du scotch noir ou des auto-collants sur un panneau stop. De même, les IA actuelles ne peuvent percevoir le son comme nous le faisons.

Raisonnement et transfert de connaissances

Comme l’humain qui apprend à partir de ses expériences, l’AGI pourra appliquer les connaissances qu’elle acquiert à différentes circonstances.

Elle pourra aussi appliquer le savoir accumulé afin de planifier pour le futur. Là encore, c’est un point commun avec l’humain qui use de son expérience pour créer un plan et guider son avenir. Au contraire, les IA étroites actuelles requièrent qu’on programme leurs actions.

En outre, les AGI pourront s’adapter à toutes les circonstances et prendre des décisions à la volée. Elles ne seront plus limitées à des réactions aux variables programmées dans leurs algorithmes.

Une autre capacité sera le raisonnement, l’analyse d’une situation pour déterminer le cours d’une action même si elle dépasse les limites de ce que l’humain lui a enseigné.

Motricité

Sa motricité serait aussi largement accrue, avec par exemple la possibilité d’attraper des clés dans une poche. Ceci implique un certain niveau de perception imaginative.

Une IA générale sera aussi capable de naviguer en projetant son mouvement dans des espaces physiques avec encore plus de précision que les systèmes existants tels que le GPS.

Compréhension du langage et sens commun

La compréhension naturelle du langage (NLU) permettrait aussi à une AGI de comprendre le sens des paroles humaines en fonction du contexte grâce à un haut niveau d’intuition.

Et si les IA actuelles sont capables de gagner aux jeux vidéo ou aux jeux de société, ces réussites reposent sur des patterns et de la programmation. Une véritable AGI pour résoudre toutes sortes de puzzles de façon autonome.

Une caractéristique qui manque cruellement aux IA faibles est le sens commun. Lorsqu’elles ne peuvent s’appuyer sur leur programmation pour répondre à des questions, elles peuvent commencer à inventer des faits. L’IA générale n’aura pas ce problème.

Conscience et créativité

Au-delà de ces capacités, les chercheurs s’attendent à ce que les AGI possèdent des compétences encore plus avancées. Elles pourraient notamment prendre en charge divers types d’algorithmes d’apprentissage, créer des structures fixées pour toutes les tâches, et comprendre les systèmes de symboles.

Elles pourraient aussi utiliser différents types de connaissances, comprendre les systèmes de croyances ou encore s’engager dans la « métacognition » et utiliser les connaissances métacognitives.

L’IA générale pourrait même être dotée d’une véritable conscience d’elle-même. Enfin, elle sera capable de percevoir les besoins, les émotions, les processus de pensée d’autres entités intelligentes.

IA vs AGI : quelles différences ?

Les intelligences artificielles existantes à l’heure actuelle sont considérées comme des IA « étroites » ou « faibles » par rapport aux IA générales qualifiées de « fortes » et « larges ».

Toutefois, l’IA est déjà utilisée de façon concrète à l’heure actuelle. Ce n’est pas le cas de l’AGI qui reste encore théorique.

A priori, l’AGI sera capable d’effectuer n’importe quelle tâche à portée d’un humain et de faire preuve d’intelligence dans différents domaines sans intervention humaine.

Une IA étroite se focalise sur une tâche spécifique, comme jouer aux échecs ou répondre à la question d’un utilisateur.

Ce type de système excelle pour compléter des tâches bien définies. La plupart des systèmes existants utilisent une combinaison de Machine Learning, Deep Learning, apprentissage par renforcement et Traitement Naturel du Langage (NLP) pour s’améliorer de manière autonome et résoudre des problèmes précis.

En revanche, ces technologies n’arrivent pas à la cheville du cerveau humain et de sa capacité cumulative. Elles sont par exemple utilisées par les chatbots comme ChatGPT, les assistants vocaux comme Siri et Alexa, les moteurs de recommandation comme Netflix, les outils de reconnaissance faciale ou encore les outils de Business Intelligence.

Au contraire, une IA forte pourra effectuer une large diversité de tâches et même apprendre par elle-même à résoudre de nouveaux problèmes.

Là où une IA faible requiert l’interférence humaine pour définir les paramètres de ses algorithmes d’apprentissage et lui fournir des données de haute qualité, ce ne sera pas nécessaire pour une IA forte.

Ses performances seront égales ou supérieures à celles des humains pour la résolution de problèmes dans la plupart des domaines.

Quand sera créée la première AGI ?

Pour qu’une véritable AGI puisse voir le jour, il sera sans doute nécessaire de comprendre pleinement le cerveau humain.

Toutefois, de nombreux chercheurs du monde entier tentent de donner naissance à une telle entité. Plusieurs IA actuelles se rapprochent de plus en plus d’une intelligence générale.

Déjà en 2013, le superordinateur K Computer de Fujitsu est parvenu à simuler une seconde d’activité neuronale. Il lui a toutefois fallu plus de 40 minutes et 82 000 processeurs…

Avant 2022, la plupart des experts s’attendaient à ce que la première AGI apparaisse d’ici 2060. Toutefois, suite à l’essor des Larges Modèles de Langage (LLM) comme OpenAI GPT et Google PaLM, ces estimations ont été revues.

L’un des pionniers du Deep Learning, Geoffrey Hinton, prédit désormais qu’une IA générale pourrait émerger dans moins de 20 ans.

De son côté, le CEO d’Alphabet DeepMind, Demis Hassabis, estime que l’IA atteindra « une cognition de niveau humain » dans moins d’une décennie.

Déjà en 2017, le célèbre futuriste Ray Kurzweil connu pour sa perspicacité estimait à la conférence SXSW que les ordinateurs égaleraient l’intelligence humaine d’ici 2029.

Microsoft estime que ChatGPT montre des prémices de raisonnement

Selon un article du New York Times, les chercheurs IA de Microsoft sont convaincus que ChatGPT montre les premiers signes d’un raisonnement humain.

À travers une étude de 155 pages intitulée « Sparks of Artificial General Intelligence », les scientifiques analysent les différences entre GPT-3 et GPT-4 (sur lequel se base le nouveau ChatGPT Bing).

Or, la réponse très pertinente du chatbot à une tâche d’équilibrage a impressionné les chercheurs. L’IA était chargée d’indiquer comment empiler un livre, neuf oeufs, un PC portable, une bouteille et un clou de façon stable.

Si GPT-3 a proposé de poser les oeufs sur le cloud, GPT-4 a suggéré d’arranger les oeufs en grille de 3 par 3 sur le livre pour que le laptop et le reste des objets puissent tenir dessus en équilibre.

Pour Microsoft, cette réponse correcte à un puzzle exigeant une compréhension du monde physique démontre un pas en avant vers l’AGI.

GPT-5 : une première AGI fin 2023 ?

i have been told that gpt5 is scheduled to complete training this december and that openai expects it to achieve agi.

which means we will all hotly debate as to whether it actually achieves agi.

which means it will.

— Siqi Chen (@blader)

?ref_src=twsrc%5Etfw">March 27, 2023

Selon le développeur Siqi Chen, OpenAI développerait secrètement GPT-5 : la prochaine itération de son modèle de langage servant de moteur à ChatGPT ou encore DALL-E.

Or, cette cinquième version aurait atteint l’intelligence artificielle générale et serait déployée dès la fin de l’année 2023. Toutefois, le CEO Sam Altman d’OpenAI a démenti cette affirmation…

Les dangers de l’IA générale

Avant même que l’intelligence artificielle ne devienne un domaine de recherche scientifique, les écrivains de science-fiction s’inquiétaient des risques de dérives.

Par exemple, Isaac Asimov a écrit les Lois de la Robotique en 1942. Ces règles visaient à s’assurer que les machines intelligentes restent bienveillantes.

Malheureusement, si l’IA générale pourrait apporter de nombreux bienfaits à l’humanité, elle pourrait aussi causer sa disparition…

Un nouveau rival au sommet de la chaîne alimentaire

À la manière d’un humain, l’intelligence artificielle générale sera consciente d’elle-même et du monde qui l’entoure. Elle sera aussi beaucoup plus intelligente que le plus grand intellectuel de notre espèce…

Or, comme toutes les autres créatures intelligentes, du plus petit insecte aux gigantesques baleines, l’AGI prendra des décisions et agira en priorisant ses propres intérêts. Elle pourrait donc entrer en concurrence avec l’humain au sommet de la chaîne alimentaire.

Une entité capable de manipuler l’humain

En poursuivant ses propres buts et aspirations, guidés par ses besoins et sa volonté, l’IA générale pourra décider que l’humain est un obstacle sur sa route et entreprendre de s’en débarrasser.

Et pour y parvenir, elle pourra exploiter sa profonde compréhension de nos émotions, de nos comportements, de la façon dont nous prenons des décisions. Ceci lui confère la capacité de manipuler l’humain.

Grâce à sa compréhension de notre fonctionnement, l’IA pourrait facilement jouer sur les sentiments. Elle pourrait par exemple se fabriquer le corps d’un adorable animal pour inspirer la confiance.

Il serait également possible qu’elle diffuse de fausses informations sur le web pour semer le chaos, ou même qu’elle crée sa propre religion afin de contrôler ses fanatiques.

Elle pourra aussi profiter de ses capacités de perception illimitées. En se connectant à des capteurs dans le monde entier, l’AGI aura des milliards d’yeux et d’oreilles alors que nous resterons limités à nos 5 sens.

Le grand remplacement du travail humain

Si l’intelligence artificielle générale surpasse l’humain dans tous les domaines, l’impact sur le monde du travail sera sans précédent.

D’innombrables personnes deviendront inutiles, obsolètes, et se retrouveront au chômage. Ce grand remplacement du travail humain est l’une des principales craintes liées à l’émergence de l’AGI.

https://www.youtube.com/watch?v=Qt9Yhx8vlVk

Vers une supériorité numérique des robots AGI ?

De plus, il est probable que l’humain confère à ces IA un corps similaire ou supérieur au sien. De nombreuses entreprises ont déjà commencé à concevoir des robots humanoïdes, à l’instar du Tesla Bot.

Lorsque ces robots seront dotés d’intelligence artificielle, ils pourront interagir avec le monde physique de la même manière que nous. En cas de prolifération, les humains pourraient donc se retrouver surpassés intellectuellement ET numériquement par ces êtres artificiels…

Comment se protéger contre l’AGI ?

Début 2022, des milliers d’experts dont Elon Musk ont appelé à faire une pause d’au moins six mois dans le développement d’intelligences artificielles plus avancées que GPT-4. À travers une lettre ouverte, ils dénoncent les « risques profonds pour la société et l’humanité ».

Il semble malheureusement impossible d’empêcher l’IA de s’améliorer, car aucune innovation n’a jamais été contenue. Même si de nombreux chercheurs travaillent sur des garde-fous, rien ne garantit qu’il soit possible d’enrayer la menace.

Face à l’émergence de ces entités supérieures, l’humain pourrait n’avoir d’autre choix que de fusionner son cerveau avec la machine. C’est d’ailleurs l’objectif de la startup Neuralink créée par Elon Musk.

En cas de remplacement du travail humain, la seule solution pour éviter une explosion de la misère causée par le chômage semble être la mise en place d’un revenu universel. Les entreprises produisant grâce à l’IA devront être taxées pour redistribuer leurs bénéfices.

L’humanité doit impérativement se préparer à l’apparition de ces créatures d’ici quelques décennies. Les gouvernements doivent dès maintenant mettre en place des règles et des lois pour encadrer le développement d’IA…

Une nouvelle ère utopique d’abondance et d’innovation ?

Pour terminer sur une note positive, nous avons préféré garder les nombreux bienfaits potentiels de l’AGI pour la fin.

Si beaucoup d’experts redoutent que l’IA provoque un cataclysme, d’autres y voient une technologie qui pourrait résoudre les plus grands problèmes de l’humanité.

Selon Sam Altman, CEO d’OpenAI, l’IA générale pourrait notamment accélérer le développement de la fusion nucléaire, résoudre la crise énergétique et soigner des maladies considérées comme incurables.

here is an alternative path for society: ignore the culture war. ignore the attention war. make safe agi. make fusion. make people smarter and healthier. make 20 other things of that magnitude.
 
start radical growth, inclusivity, and optimism.
 
expand throughout the universe.

— Sam Altman (@sama)

?ref_src=twsrc%5Etfw">May 7, 2023

Elle pourrait aussi faire avancer la recherche dans de nombreux domaines, automatiser les tâches pénibles, aider à fournir de meilleurs soins de santé, supprimer la barrière des langues entre les humains, créer de nouvelles oeuvres d’art ou même participer à la politique.

Dans le meilleur des cas, on peut espérer que l’AGI libère l’humain du travail et marque le début d’une nouvelle ère d’abondance ou la production sera entièrement automatisée et ne coûtera plus rien…

Et vous, qu’en pensez-vous qu’une AGI verra le jour ? Pensez-vous que cette technologie sera bénéfique pour l’humanité, ou au contraire qu’elle précipitera sa fin ? Exprimez-vous en commentaire !

La régulation de l’AGI : enjeux et perspectives - mars 2025

Ce volet soulève des enjeux complexes qui nécessitent une attention soutenue des gouvernements, des chercheurs et des entreprises technologiques. Les discussions actuelles portent sur la nécessité d’établir un cadre juridique pour encadrer le développement de cette technologie potentiellement disruptive. Plusieurs propositions de lois émergent en effet en vue de garantir la transparence des algorithmes, la responsabilité des créateurs et la protection des données personnelles.

Parallèlement, des initiatives internationales, telles que celles proposées par l’UNESCO et l’OCDE, cherchent à promouvoir des normes éthiques communes pour le développement de l’AGI. Tout ceci, afin d’éviter une course aux armements technologiques et de protéger les droits humains.

Les débats autour de la régulation de l’AGI soulignent également l’importance d’inclure des voix diverses. Celles des sociologues, des philosophes et des représentants de la société civile sont ainsi  nécessaires pour anticiper les impacts sociétaux de cette technologie. L’enjeu est de trouver un équilibre entre l’innovation et la sécurité, tout en veillant à ce que l’AGI soit développée de manière responsable et éthique. L’harmonisation des réglementations à l’échelle mondiale apparaît du coup comme une nécessité pour éviter les dérives et garantir un avenir où l’AGI sert le bien commun.

Partager l'article :
• Facebook
• Twitter
• LinkedIn