LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'IA peut-elle vraiment détruire l'humanité ? Les théories et les visions divergent, mais pour cet expert IA américain, l'homme lui-même pourrait développer une IA qui risque de décimer la race humaine. Voici selon cet expert, 5 façons dont l'IA et les robots pourraient nous détruire.
1.Une IA avec des capacités illimitées, un vrai danger
Ben Eisenpresse, un expert IA américain, partage ses craintes par rapport au développement fulgurant de l'IA. Les conséquences de ce boom, dit-il, peuvent se retourner contre les créateurs de la technologie, contre les humains en l'occurrence.
Dans de nombreux cas, l'IA peut être dangereuse en sachant que la technologie n'a ni conscience, ni morale, ni sensibilité. Si en plus les développeurs lui confèrent des capacités illimitées, le danger est réel.
Le philosophe suédois Nick Bostrom a imaginé un cas pour illustrer ce postulat. Supposons dit-il que nous demandons à un robot de produire des trombones. Il en produira à l'infini si personne ne l'éteint. L'IA peut vite devenir incontrôlable, même avec les instructions les plus simples.
2.Les armes biologiques
En soi, l'IA n'est pas dangereuse. Ce que les humains peuvent créer avec l'intelligence artificielle, comme les armes biologiques, c'est cela le vrai danger. « À court terme, le bioterrorisme grâce à l'IA est peut-être l'une des menaces les plus graves liées au développement incontrôlé de l'IA », déplore Eisenpresse.
Rishi Sunak, le premier ministre britannique a aussi tiré la sonnette d'alarme sur ce sujet. Lors du premier sommet mondial de l'IA qui s'est tenu à Londres (à Bletchley Park) au mois de novembre dernier, il appelle à une extrême prudence par rapport aux armes biologiques assistées par l'IA.
Les experts eux-mêmes avertissent que les acteurs malveillants peuvent détourner les outils d'IA conçus pour les recherches pharmaceutiques. Ces outils pourraient leur permettre de découvrir et de déployer des molécules toxiques. Les terroristes sont capables de réutiliser ces outils pour mener des attaques chimiques.
3. Une IA libre et un risque de perte totale de contrôle
Quelles que soient les attentions portées sur la formation de l'IA et les précautions prises lors de son développement, force est de constater que cette technologie peut être imprévisible. Cela s'explique par le principe même de l'IA : le machine learning ou apprentissage automatique.
Par ailleurs, des acteurs malveillants peuvent infecter les systèmes alimentés par l'IA de virus. Ce qui pourraient les rendre incontrôlables. Ces cyberarmes pourraient être dévastatrices si elles sont par exemple déployées sur les réseaux des infrastructures critiques. Cela pourrait conduire à un blackout total en plus de déstabiliser l'économie mondiale.
4.Crainte d'une guerre nucléaire
Eisenpresse explique que même les systèmes conçus pour nous protéger pourraient nous détruire si l'IA intervient. Certains chercheurs sont convaincus qu'intégrer l'IA dans les systèmes de contrôle d'arme pourrait aider les humains à prendre une meilleure décision, calculée de façon précise.
Néanmoins, Eisnpresse prévient que permettre à l'IA de contrôler les systèmes d'armes nucléaires ne réduira pas la marge d'erreur, mais bien au contraire, l'augmentera davantage. L'IA prend des décisions trop rapidement pour que les humains puissent les contrôler et une simple erreur pourrait rapidement générer une guerre thermonucléaire éclair.
Après une première erreur, les systèmes d'IA des autres nations pourraient répliquer les unes après les autres tout aussi rapidement sans que les humains ne trouvent le temps de réagir. « L'intégration de l'IA dans les systèmes de commandement et de contrôle nucléaires peut être terrifiante », renchérit Eisenpresse.
5.L'humain va perdre progressivement son pouvoir
Pour Eisenpresse, au train où vont les choses, les humains pourraient progressivement céder le contrôle du monde à l'IA. Des transactions financières aux procédures judiciaires, l'homme délègue de plus en plus de tâches à l'IA et se repose largement sur cette technologie pour gagner en efficacité.
Sans s'en rendre compte, l'humain qui pense déléguer certaines tâches, est en train de faire un transfert de pouvoir. « Tout comme ils ont gouverné la Terre pendant des milliers d'années jusqu'à l'arrivée d'une espèce plus intelligente, les humains pourraient un jour se retrouver éclipsés par leur propre création », explique l'expert.
« Au fil du temps, l'IA sera intégrée dans de plus en plus de systèmes, y compris ceux essentiels à notre mode de vie », ajoute-il. L'IA finira par éclipser l'humain. Pour conclure, Eisenpresse a cité Alan Turing, fondateur de l'informatique moderne, qui écrivait en 1915 : « Il ne faudrait pas longtemps pour dépasser nos faibles capacités… Il faudra donc s'attendre à un moment donné à ce que les machines prennent le contrôle ».
- Partager l'article :
