apocalypse robot ia probable

L’intelligence artificielle va « probablement » détruire l’humanité, selon Oxford et Google

L’intelligence artificielle va « probablement » détruire l’humanité. C’est la sinistre conclusion des chercheurs de Google DeepMind et de l’Université d’Oxford, estimant que les robots dotés d’IA risquent de nous percevoir comme des obstacles à leurs objectifs et des concurrents pour les ressources et l’énergie nécessaires à leur survie…

Si vous êtes optimiste, vous pensez peut-être que l’intelligence artificielle va libérer l’humain du travail et lui permettre de vivre dans un monde d’abondance et de prospérité où chacun vivra comme un roi. À l’instar de Grimes, l’ex-compagne d’Elon Musk, vous percevez sans doute l’IA comme « le chemin le plus rapide vers le communisme » sans la corruption et les camps de travail.

En revanche, si vous êtes pessimiste, vous craignez sûrement que les robots nous remplacent, se révoltent contre nous et décident de nous détruire. Comme Elon Musk lui-même, vous considérez l’IA comme « la principale menace existentielle pour l’humanité » devant le nucléaire et le changement climatique.

Malheureusement, il est désormais « probable » qu’une intelligence artificielle surpuissante provoque la fin de l’humanité. C’est ce que concluent les chercheurs de Google DeepMind et l’Université d’Oxford à travers une nouvelle étude publiée dans le journal AI Magazine

L’équipe de scientifiques, composée de Marcus Hutter de DeepMind et Michael Cohen et Michael Osborne d’Oxford, estime que les machines pourraient bel et bien décider d’enfreindre les règles définies par leurs créateurs et livrer bataille pour l’énergie ou les ressources limitées.

Sur Twitter, Michael Cohen, étudiant en ingénierie à l’Université d’Oxford et co-auteur du papier, affirme que « dans les conditions que nous avons identifiées, notre conclusion est bien plus forte que celle de n’importe quelle publication précédente – une catastrophe existentielle n’est pas seulement possible, mais probable »…

L’humain perçu comme un obstacle par l’IA

Les chercheurs expliquent que l’humanité pourrait être conduite à sa perte par des « agents mal-alignés » extrêmement avancés et percevant l’humanité comme un obstacle sur la route menant à la récompense.

D’après l’étude, « une bonne façon pour un agent de maintenir le contrôle de sa récompense à long terme est d’éliminer les menaces potentielles, et d’utiliser toute l’énergie disponible pour sécuriser son ordinateur ». Or, « perdre à ce jeu serait fatal ».

Une guerre inéluctable pour les ressources et l’énergie

Malheureusement, toujours selon ces scientifiques, nous ne pouvons pas faire grande chose contre ce destin funeste. Interrogé par Motherboard, Cohen explique que « dans un monde où les ressources seraient infinies, je serai extrêmement incertain sur ce qui peut arriver ».

En revanche, « dans un monde où les ressources sont limitées, la compétition pour ces ressources est inévitable ». Nous serions donc confrontés aux machines dotées d’IA, et l’humanité ne fera tout simplement pas le poids.

Comme le précise Cohen, « si vous êtes en compétition avec quelque chose capable d’être plus malin que vous à chaque tour, il ne faut pas vous attendre à gagner ». Les conséquences pourraient bel et bien être désastreuses.

La seule manière pour l’humain d’éviter cette tragédie globale est de veiller au développement progressif et minutieux de l’IA, en instaurant des règles éthiques à respecter impérativement. En espérant que personne ne décide d’enfreindre ces règles par appât du gain ou par malveillance…

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Pin It on Pinterest