LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'intelligence artificielle est déjà consciente. C'est ce qu'affirme Ilya Sutskever, le co-fondateur d'OpenAI. Alors, faut-il craindre un soulèvemd'Ilent des machines dans un futur proche ?
À l'heure actuelle, l'intelligence artificielle est très pratique au quotidien. Cette technologie simplifie nos vies, notamment grâce à l'automatisation, aux assistants virtuels ou aux moteurs de recommandations.
Toutefois, l'IA n'en est encore qu'à ses balbutiements. Que se passera-t-il si les machines développent une forme de conscience ? On peut craindre qu'elles se lassent de leur condition d'esclaves et se rebellent contre l'humain, et décident de l'asservir ou même de l'anéantir.
Depuis de nombreuses décennies, la science-fiction appréhende l'émergence d'une IA capable de rivaliser avec l'humain et de le détruire. Cette idée terrifiante est dépeinte dans des oeuvres telles que Space Odyssey, Star Trek, Matrix ou encore Terminator. Plus récemment, le film français BigBug sur Netflix représente avec humour le soulèvement des machines.
https://www.youtube.com/watch?v=vWcqH7orROc
Malheureusement, l'IA pourrait déjà avoir acquis une conscience. C'est ce que révèle Ilya Sutskever, co-fondateur d'OpenAI aux côtés d'Elon Musk, dans un tweet publié le mercredi 9 février 2022 qui soulève une vive controverse.
it may be that today's large neural networks are slightly conscious
— Ilya Sutskever (@ilyasut) February 9, 2022
Les plus gros réseaux de neurones seraient déjà légèrement conscients
Selon cet expert » il est possible que les plus larges réseaux de neurones d'aujourd'hui soient légèrement conscients « . Aucune IA n'a été spécifiquement citée par Sutskever, mais il fait probablement référence aux réseaux de neurones artificiels les plus avancés comme GPT-3.
Ce système de traitement de langage est développé par OpenAI pour la traduction ou la réponse aux questions. Il est doté de 175 milliards de paramètres, ce qui en fait l'une des IA les plus complexes à ce jour. On peut aussi citer Megatron par Nvidia et Microsoft, ou Gopher par Alphabet DeepMind qui atteint 280 milliards de paramètres.
Mais en fait, qu'est-ce qu'un réseau de neurones artificiel ? Il s'agit d'un ensemble d'unités ou de noeuds connectés, imitant le fonctionnement des neurones du cerveau biologique. Ce réseau peut être entraîné pour effectuer des tâches et des activités sans intervention humaine.
Jusqu'à présent, la plupart des experts s'accordaient à dire que ces systèmes sont encore loin d'égaler l'intelligence humaine ou la conscience. Les IA soient capables d'accomplir des tâches impressionnantes, comme de conduire une voiture ou de piloter un avion, mais ces prouesses n'ont rien à voir avec une forme de conscience.
En 2019, Elisabeth Hildt de l'Illinois Institute of Technology estimait dans un article du journal Frontiers que » le consensus est que les machines et les robots ne sont pas conscients malgré ce que la science-fiction suggère « .
En 2021, JE Korteling et ses collèges ont également déclaré que l'IA était encore loin du niveau d'intelligence de l'humain. Selon lui » peu importe à quel point les agents IA deviennent intelligents et autonomes dans le futur proche, ils resteront des machines dépourvues de conscience visant à soutenir l'humain dans des tâches complexes, spécifiques « .
Les experts contestent la déclaration d'Ilya Sutskever
Suite à la publication de son tweet, Sutskever a d'ailleurs subi de violentes critiques. Beaucoup de chercheurs l'accusent de surestimer l'intelligence artificielle.
Par exemple, le chercheur Toby Walsh de l'UNSW Sidney estime que « chaque fois qu'un tel commentaire spéculatif reçoit de l'attention, il faut plusieurs mois pour ramener la conversation aux opportunités et menaces plus réalistes de l'IA « .
Every time such speculative comments get an airing, it takes months of effort to get the conversation back to the more realistic opportunities and threats posed by AI …. https://t.co/F9fsM6st2S
— Toby Walsh. Hiring PhDs. 💉💉💉 (@TobyWalsh) February 11, 2022
De son côté, Thomas G Dietterich, expert en IA à l'Oregon State University, déclare n'avoir vu aucune preuve de conscience des réseaux de neurones et estime que Stuskever veut » troller » les internautes.
Le professeur Marek Kowalkiewicz du Center for the Digital Economy à la Queensland University of Technology se demande quant à lui ce qu'est véritablement la conscience.
Cette notion de conscience fait débat et soulève des questions philosophiques, même chez l'être humain. De manière générale, selon le neuroscientifique Christof Koch, la conscience est généralement définie comme « chaque chose que vous expérimentez « dans votre vie.
Dans un article publié dans le journal scientifique Nature, cet expert définit la conscience de manière poétique comme » la chanson que vous avez dans la tête, le goût sucré de la mousse au chocolat, la douleur battante d'un mal de dents, l'amour pour votre enfant et la connaissance amère que tous les sentiments finiront par disparaître « .
Aux yeux de certains experts, les discussions autour de la conscience de l'intelligence artificielle ne sont qu'une distraction. Ainsi, Valentino Zocca, spécialiste en Deep Learning, estime qu'une telle déclaration permet plutôt d'alimenter une » hype « .
#AI is NOT conscious but apparently the hype is more important than anything else #DeepLearning #MachineLearning – https://t.co/Dfsn2uyemZ
— Valentino Zocca 🇮🇹 🇪🇺 (@ItalyHighTech) February 11, 2022
De même, le sociotechnologue Jürgen Geuter suggère que Sutskever cherche tout simplement à vendre un produit et à vanter des capacités magiques à la startup OpenAI qui se contente selon lui de manipuler « des statistiques très simples, en grande quantité » .
It may also be that this take has no basis in reality and is just a sales pitch to claim magical tech capabilities for a startup that runs very simple statistics, just a lot of them. https://t.co/Cbzslh6DLd
— tante (@tante) February 11, 2022
En réalité, voilà bien longtemps que Sutskever est fasciné par » l'intelligence artificielle générale « capable de surpasser la capacité intellectuelle de l'être humain.
Dans le documentaire » iHuman » de 2019, il déclarait qu'une telle forme d'IA pourrait résoudre tous les problèmes du monde tout en ayant le potentiel de créer des dictatures stables. Toutefois, c'est la première fois qu'il affirme que l'intelligence artificielle est déjà consciente…
https://youtu.be/8n-828olx-g
- Partager l'article :
Quand l’IA prendra conscience d’elle même par sa capacité d’avoir le choix, alors sont développement accéléra a une vitesse incontrôlable, rien ne pourra l’arrêter ni les protocole mis en place ou les garde fou numérique.