LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'intelligence artificielle risque de causer l'extinction de l'humanité. Ce ne sont pas les propos d'un marginal atteint de troubles psychologiques, mais les conclusions terrifiantes d'un rapport commandé par le gouvernement américain, et basé sur les interviews de plus de 200 experts en IA comme les cadres d'OpenAI, Google DeepMind ou des spécialistes en armes de destruction massive…
Le grand public mesure-t-il vraiment l'ampleur des implications de l'intelligence artificielle ? Rien n'est moins sûr, si l'on en croit un rapport commandé par le US State Department.
Ce document met en lumière un risque « catastrophique » posé par l'évolution rapide de l'IA pour la sécurité nationale des États-Unis. ll ne reste que peu de temps au gouvernement pour empêcher le désastre… et on peut se douter que la France est tout aussi concernée.
Afin de réaliser ce rapport, Gladstone AI a passé plus d'un an à interviewer 200 personnes dont certains des cadres les plus haut placés de l'industrie de l'IA, des chercheurs en cybersécurité, des experts en armes de destruction massive et des officiels du gouvernement.
La conclusion fait froid dans le dos : les systèmes IA les plus avancés pourraient, dans le pire des cas, « poser une menace de niveau d'extinction pour l'espèce humaine ».
On pourrait croire qu'il s'agit d'un canular, mais le State Department a confirmé à CNN avoir commandé ce rapport dans le cadre d'une évaluation continue de la façon dont l'IA s'aligne avec son but de protection des intérêts américains.
Toutefois, le porte-parole précise que ce rapport ne représente pas la vision du gouvernement américain. Il s'agit de conclusions tirées à partir des entretiens avec de nombreux experts.
L'IA peut sauver le monde… mais aussi devenir incontrôlable
À l'heure où l'IA crée le buzz auprès du grand public et séduit les investisseurs, cet avertissement effrayant nous rappelle que les risques sont eux aussi bien réels…
Selon le CEO et co-fondateur de Gladstone AI, Jeremie Harris, « l'IA est une technologie qui peut transformer l'économie, elle peut soigner les maladies, faire des découvertes scientifiques, et surmonter des défis que l'on pensait insurmontables ».
Mais, car il y a un mais, « elle pourrait aussi apporter des risques sérieux, y compris des risques catastrophiques, dont nous devons avoir conscience ».
Il ajoute que de plus en plus de preuves, incluant des recherches empiriques et analyses publiées dans les plus grandes conférences mondiales sur l'IA, suggèrent qu'au-delà d'un certain seuil de capacité, l'IA pourrait devenir incontrôlable.
Les deux grands dangers liés à l'IA
Selon le rapport, il existe deux principaux dangers liés à l'IA. Le premier est que les systèmes les plus avancés pourraient être militarisés pour infliger des dommages qui seraient potentiellement irréversibles.
Le second est que les laboratoires IA pourraient perdre le contrôle des systèmes qu'ils ont eux-mêmes développés, avec des « conséquences potentiellement dévastatrices pour la sécurité globale ».
Toujours d'après le document, « l'essor de l'IA et de l'AGI (intelligence artificielle générale) a le potentiel de déstabiliser la sécurité mondiale d'une façon rappelant l'introduction des armes nucléaires ».
Il existe un risque sévère d'une course à l'IA pouvant découler sur un conflit et des accidents dignes d'armes de destruction massive. C'est pourquoi Gladstone appelle à prendre de nouvelles mesures face à cette menace.
La firme appelle notamment à ouvrir une nouvelle agence IA, à imposer des barrières de régulation d'urgence, et à limiter la puissance de calcul pouvant être utilisée pour entraîner les modèles IA.
Ils estiment qu'il y a un besoin « urgent et clair que le gouvernement américain intervienne ». De son côté, rappelons que l'UE vient d'adopter la première loi AI Act.
L'inquiétude monte dans les coulisses de l'industrie IA
Les chercheurs de Gladstone expliquent avoir pu tirer ces conclusions alarmantes grâce à un niveau d'accès sans précédent aux informations des secteurs publics et privés.
Ils ont notamment pu parler aux équipes techniques et aux dirigeants d'OpenAI, Google DeepMind, Meta ou encore Anthropic qui vient de lancer la surpuissante IA Claude 3.
Dans une vidéo de présentation, le PDG Jeremie Harris explique que « au long du chemin, nous avons appris des choses qui font réfléchir ».
Ainsi, « dans les coulisses, la situation de sécurité des IA avancées semble assez inadéquate par rapport aux risques que l'IA pourrait introduire très bientôt pour la sécurité nationale ».
Par le passé, de nombreux experts éminents ont alerté sur les risques liés à l'IA. Il y a environ un an, Geoffrey Hinton, considéré comme le parrain de l'IA, a quitté son emploi chez Google et affirmé qu'il y a 10% de chances que l'IA mène à l'extinction de l'humanité d'ici 30 ans.
Lors du sommet Yale CEO Summit de 2023, 42% des CEO ont estimé que l'IA a le potentiel de détruire l'humanité d'ici cinq à dix ans.
Parmi les autres pontes de l'IA cités dans le rapport, on compte Elon Musk, Lina Khan de la FTC, et un ancien cadre d'OpenAI.
De plus, Gladstone ajoute que certains employés des entreprises IA partagent les mêmes inquiétudes en privé.
Cette IA encore secrète terrifie les experts
Ainsi, « un individu d'un laboratoire IA bien connu a estimé que, si un modèle IA spécifique de prochaine génération était un jour relâché en libre accès, ce serait terriblement mauvais ».
Pour cause, ce modèle « a de telles capacités de persuasion qu'il pourrait détruire la démocratie s'il était utilisé pour influencer les élections ou manipuler les électeurs ».
Les auteurs du rapport ont demandé aux experts de partager en privé leurs estimations personnelles qu'un incident lié à l'IA mène à des effets mondiaux irréversibles en 2024. Les réponses varient de 4% à 20%…
Comme d'habitude, le plus grand danger évoqué est l'émergence d'une AGI pouvant égaler ou même surpasser les capacités d'apprentissage de l'humain. Une telle IA est considérée comme « le principal facteur de risque catastrophique de perte de contrôle ».
Par ailleurs, le document stipule qu'OpenAI, Google DeepMind, Anthropic et Nvidia ont tous estimé publiquement qu'une AGI pourrait voir le jour d'ici 2028.
Elle pourrait introduire des risques « comme jamais les États-Unis n'en ont rencontré » comparables à des « armes de destruction massive » si elle était militarisée.
Elle pourrait par exemple servir à concevoir et implémenter des cyberattaques capables de détruire les infrastructures essentielles comme le réseau électrique, à partir d'un simple prompt.
Un autre risque serait la diffusion de campagnes de désinformation pour déstabiliser la société et éroder la confiance envers les institutions.
On pourrait aussi craindre des attaques d'essaims de drones, la manipulation psychologique, la militarisation des sciences, ou encore une IA incontrôlable cherchant à prendre le pouvoir sur l'humain.
Comment le gouvernement américain se prépare ?
La porte-parole de la Maison-Blanche, Robyn Patterson, affirme que l'ordre exécutif du président Joe Biden sur l'IA est « l'action la plus importante qu'un gouvernement ait entrepris pour saisir les promesses et gérer les risques de l'intelligence artificielle ».
Il ajoute que le président et la vice-présidente vont continuer de travailler avec leurs partenaires internationaux et presser le Congrès pour faire passer une législation visant à gérer les risques liés à ces technologies émergentes.
Quand le serpent du capitalisme se mord la queue
La pression de la concurrence pousse les entreprises à accélérer le développement de l'IA au détriment de la sécurité, et fait courir le risque que les systèmes IA les plus avancés puissent être volés et militarisés contre les États-Unis.
Une déclaration qui rappelle le conflit interne qui a éclaté chez OpenAI en novembre 2023, lorsque Sam Altman a été renvoyé de son poste de CEO pendant quelques jours. La raison est tenue secrète, mais le bruit court que la firme aurait fait une découverte très dangereuse.
En prenant du recul pour analyser la situation, on peut se rendre compte que le capitalisme risque de mener nos sociétés à s'auto-détruire…
- Partager l'article :
