LEBIGDATA.FR I.A, Cloud & Cybersécurité
Une équipe de chercheurs américains vient de découvrir que les réseaux de neurones artificiels ont besoin de repos, tout comme le cerveau humain a besoin de sommeil. Ceci permet d'éviter l'instabilité provoquée par une activité ininterrompue de l'IA…
C'est une découverte fascinante que viennent de faire les scientifiques du Los Alamos National Laboratory : tout comme notre cerveau humain, l'intelligence artificielle pourrait avoir besoin de repos pour maximiser ses performances…
L'équipe de chercheurs, dirigée par Yijing Watkins, étudie les réseaux de neurones à impulsion ( » spiking neural networks » en anglais). Il s'agit d'une catégorie spécifique de réseau de neurones artificiels, fonctionnant comme de véritables cerveaux humains.
Leur objectif de longue date est d'entraîner un processeur neuromorphique de la même manière que les humains et les systèmes biologiques apprennent à partir de leur environnement pendant leur développement dans l'enfance.
Cependant, au cours de leurs expériences, les chercheurs se sont aperçus que les simulations du réseau devenaient instables après des périodes ininterrompues d'apprentissage non-supervisé. Un problème qui semble être l'apanage des réseaux imitant les systèmes biologiques.
Selon Garrett Kenyon, co-auteur de l'étude, « la grande majorité des chercheurs en Machine Learning, Deep Learning et IA n'ont jamais rencontré ce souci parce que les systèmes très artificiels qu'ils étudient peuvent effectuer des opérations mathématiques globales ayant pour effet de réguler le gain dynamique général du système.
Les réseaux de neurones artificiels sont de plus en plus similaires à notre cerveau
Dans le cas de ces réseaux de neurones à impulsion, l'instabilité provoquée par une activité ininterrompue est un vrai problème. Or, en exposant les réseaux à des états similaires aux ondes du cerveau humain pendant le sommeil, leur stabilité a été restaurée. Selon les propres dires de Watkins, » c'était comme si nous avions offert aux réseaux de neurones l'équivalent d'une bonne nuit de sommeil « .
Il s'agissait pourtant, selon l'équipe, d'une tentative désespérée, en dernier recours, pour stabiliser les réseaux. Ils ont expérimenté différents types de bruits similaires à ceux que vous pouvez entendre en changeant de stations de radio. Les meilleurs résultats sont survenus en utilisant des ondes de bruit gaussien couvrant une large gamme de fréquences et d'amplitudes.
Les chercheurs en déduisent que ce bruit reproduit l'apport que reçoivent les neurones biologiques pendant le sommeil profond. Aussi appelé sommeil à ondes lentes, il permet d'assurer que les neurones corticaux maintiennent leur stabilité et ne sombrent pas dans l'hallucination.
Forts de cette découverte surprenante, les scientifiques se sont donné pour prochain objectif d'implémenter leur algorithme sur une puce neuromorphique Intel Loihi. En permettant à cette puce de dormir de temps à autre, ils espèrent lui permettre de traiter les informations en provenance d'une caméra en temps réel de façon stable.
Si le succès est au rendez-vous, cela confirmera que les cerveaux artificiels ont besoin de repos. Ainsi, dans le futur, les robots dotés d'intelligence artificielle qui nous côtoieront pourraient avoir besoin de se reposer la nuit en même temps que nous…
L'étude captivante menée par ces chercheurs du Los Alamos National Laboratory sera présentée par Yijing Watkins lors du Women in Computer Vision Workshop le 14 juin 2020 à Seattle.
- Partager l'article :
