experts robots ia tueurs

L’IA va-t-elle détruire le monde ? En fait, les experts n’en savent absolument rien

Une étude menée par AI Impacts révèle que beaucoup de chercheurs craignent que l’intelligence artificielle éradique l’humanité, mais met surtout en lumière le fait qu’il n’y a aucun consensus sur le sujet dans la communauté scientifique !

Dès le lancement de ChatGPT fin 2022, de nombreux experts ont réclamé une pause de six mois dans l’industrie de l’IA. Leur crainte ? Que les robots deviennent incontrôlables, au point d’anéantir l’humanité.

C’est l‘une des plus grandes peurs liées à l’intelligence artificielle. Toutefois, en réalité, il semblerait que les scientifiques n’aient aucune certitude à ce sujet…

En 2016, les dirigeants du projet AI Impacts ont publié un sondage mené auprès de chercheurs en Machine Learning.

Ils leur avaient demandé dans combien de temps une IA comparable à l’humain verrait le jour, et quelles en seraient les conséquences. La moitié des chercheurs ayant publié lors des prestigieuses conférences NIPS et ICML de 2015 ont accepté de répondre.

5% de chances que l’IA détruise l’humanité ?

En moyenne, les sondés ont estimé qu’il y avait environ 5% de chances qu’une IA de niveau humain mène à des conséquences « extrêmement mauvaises, par exemple l’extinction humaine ».

Cela signifie que la moitié des chercheurs ont donné une estimation supérieure à 5%, et l’autre moitié a donné une estimation inférieure.

Ce pourcentage peut sembler infime, mais il faut garder à l’esprit que nous parlons de l’éradication pure et simple de toute l’humanité.

Pourtant, en 2016, les IA avancées comme ChatGPT et AlphaFold n’existaient même pas encore. Cette étude avait donc suscité la controverse, car personne ne pouvait croire que de véritables scientifiques avaient émis ces prédictions.

Ces estimations pouvaient sembler absurdes, et les auteurs avaient même été soupçonnés d’avoir trafiqué les résultats. C’est beaucoup moins le cas à présent

Une majorité de chercheurs a désormais peur

En janvier 2024, AI Impacts vient de publier son nouveau sondage. Désormais, entre 37,8% et 51,4% des sondés ont estimé qu’il y a au moins 10% de chances qu’une IA avancée mène à l’extinction humaine.

Toutefois, l’avis de ces chercheurs est loin d’être tranché. Contrairement aux précédentes études publiées sur le sujet, les réponses ne sont pas clairement divisées entre les optimistes béats et les pessimistes craignant l’apocalypse.

Selon l’étude, beaucoup de chercheurs estimant une haute probabilité de mauvaises conséquences prédisent aussi une haute probabilité d’impact positif.

Néanmoins, 57,8% des sondés pensent qu’il y a au moins 5% de chances que l’humanité s’éteigne. C’est la première fois que le cap de la majorité est franchi.

Et maintenant, que fait-on ?

Alors comment réagir ? Comment se préparer ? Sur ce point non plus, les experts n’ont pas trouvé de consensus.

Une large majorité de chercheurs appellent à consacrer davantage de ressources et d’attention à la recherche en sécurité de l’IA, mais beaucoup d’entre eux ne pensent pas que travailler sur l’alignement soit plus important que de résoudre d’autres problèmes du Machine Learning.

Est-ce que ralentir le développement de l’IA rendra les conséquences bénéfiques plus probables ? Là encore, les réponses varient fortement.

Finalement, alors même que l’incertitude liée au futur de l’IA nous pousse à nous tourner vers les experts, cette étude suggère que même eux naviguent à l’aveugle. Y a-t-il un pilote dans l’avion ?!

Newsletter

Envie de ne louper aucun de nos articles ? Abonnez vous pour recevoir chaque semaine les meilleurs actualités avant tout le monde.

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *