LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'intelligence artificielle va « probablement » détruire l'humanité. C'est la sinistre conclusion des chercheurs de Google DeepMind et de l'Université d'Oxford, estimant que les robots dotés d'IA risquent de nous percevoir comme des obstacles à leurs objectifs et des concurrents pour les ressources et l'énergie nécessaires à leur survie…
Si vous êtes optimiste, vous pensez peut-être que l'intelligence artificielle va libérer l'humain du travail et lui permettre de vivre dans un monde d'abondance et de prospérité où chacun vivra comme un roi. À l'instar de Grimes, l'ex-compagne d'Elon Musk, vous percevez sans doute l'IA comme « le chemin le plus rapide vers le communisme » sans la corruption et les camps de travail.
En revanche, si vous êtes pessimiste, vous craignez sûrement que les robots nous remplacent, se révoltent contre nous et décident de nous détruire. Comme Elon Musk lui-même, vous considérez l'IA comme « la principale menace existentielle pour l'humanité » devant le nucléaire et le changement climatique.
Malheureusement, il est désormais « probable » qu'une intelligence artificielle surpuissante provoque la fin de l'humanité. C'est ce que concluent les chercheurs de Google DeepMind et l'Université d'Oxford à travers une nouvelle étude publiée dans le journal AI Magazine…
L'équipe de scientifiques, composée de Marcus Hutter de DeepMind et Michael Cohen et Michael Osborne d'Oxford, estime que les machines pourraient bel et bien décider d'enfreindre les règles définies par leurs créateurs et livrer bataille pour l'énergie ou les ressources limitées.
Sur Twitter, Michael Cohen, étudiant en ingénierie à l'Université d'Oxford et co-auteur du papier, affirme que « dans les conditions que nous avons identifiées, notre conclusion est bien plus forte que celle de n'importe quelle publication précédente – une catastrophe existentielle n'est pas seulement possible, mais probable »…
Under the conditions we have identified, our conclusion is much stronger than that of any previous publication—an existential catastrophe is not just possible, but likely. 3/15
— Michael Cohen (@Michael05156007) September 6, 2022
L'humain perçu comme un obstacle par l'IA
Les chercheurs expliquent que l'humanité pourrait être conduite à sa perte par des « agents mal-alignés » extrêmement avancés et percevant l'humanité comme un obstacle sur la route menant à la récompense.
D'après l'étude, « une bonne façon pour un agent de maintenir le contrôle de sa récompense à long terme est d'éliminer les menaces potentielles, et d'utiliser toute l'énergie disponible pour sécuriser son ordinateur ». Or, « perdre à ce jeu serait fatal ».
Une guerre inéluctable pour les ressources et l'énergie
Malheureusement, toujours selon ces scientifiques, nous ne pouvons pas faire grande chose contre ce destin funeste. Interrogé par Motherboard, Cohen explique que « dans un monde où les ressources seraient infinies, je serai extrêmement incertain sur ce qui peut arriver ».
En revanche, « dans un monde où les ressources sont limitées, la compétition pour ces ressources est inévitable ». Nous serions donc confrontés aux machines dotées d'IA, et l'humanité ne fera tout simplement pas le poids.
Comme le précise Cohen, « si vous êtes en compétition avec quelque chose capable d'être plus malin que vous à chaque tour, il ne faut pas vous attendre à gagner ». Les conséquences pourraient bel et bien être désastreuses.
La seule manière pour l'humain d'éviter cette tragédie globale est de veiller au développement progressif et minutieux de l'IA, en instaurant des règles éthiques à respecter impérativement. En espérant que personne ne décide d'enfreindre ces règles par appât du gain ou par malveillance…
- Partager l'article :
« En espérant que personne ne décide d’enfreindre ces règles par appât du gain ou par malveillance… »
Moi je les trouves vachement optimistes !
Ouf on a enfin la solution pour sauver la Biosphere : supprimer l’homme ! Bons sang, mais c’est bien sur la solution finale au changement climatique occasionne depuis 1850 par l’appetit capitaliste de l’etre humain ! ! ! Un grand merci a l’ IA qui va sauver le regne vivant et la biosphere sur cette Lonely Blue Planet ! ! !
Bravo et finissons en avec ces 8,4 milliards d’humains dangereux pour euxmeme et la Terre en heneral ! ! !