intelligence artificielle débat éthique

L’intelligence artificielle ne sera jamais éthique… selon une IA

L’intelligence artificielle peut-elle être éthique ? Non, si l’on se fie à l’IA elle-même, conviée à donner son point de vue lors d’un débat à l’université d’Oxford…

L’éthique de l’intelligence artificielle est une problématique majeure, qui prend de l’importance à mesure que cette technologie se démocratise. Bien souvent, les systèmes IA fonctionnent en  » boîte noire «  ou sont gangrenés par des biais altérant leurs décisions.

Ces biais hérités lors de l’entraînement Machine Learning peuvent conduire à des discriminations. Une IA peut par exemple décider d’accorder des prêts plus importants aux hommes, perpétuant en fait les inégalités traditionnelles. De même, la police ou les employeurs peuvent utiliser des outils d’intelligence artificielle discriminatoires pour les minorités.

Récemment, l’ancien CEO de Google, Eric Schmidt, s’est associé à Henry Kissinger pour publier un ouvrage intitulé  » The Age of AI : And Our Human Future « . Ce livre avertit sur les dangers de l’IA et des armes autonomes. Un système pourrait par exemple réagir à une attaque de missiles hypersoniques en déployant des bombes nucléaires.

Le danger des armes autonomes est bien réel, car ces machines existent déjà. La Chine équipe des robots avec des AK47, l’armée britannique veut un quart de robots soldats d’ici 2030, et la Russie commence à créer son armée de robots.

L’IA Megatron Transformer invitée à un débat de l’Oxford Union

Il semble donc indispensable de faire de l’éthique une priorité absolue pour l’intelligence artificielle. L’université d’Oxford aborde cette composante dans son cursus Artificial Intelligence for Business, notamment via les thèmes du trading automatisé ou de la reconnaissance faciale.

Récemment, lors d’un débat à l’Oxford Union, une intelligence artificielle a été conviée aux côtés des étudiants. Il s’agit du Megatron Transformer, développé par Nvidia en collaboration avec Microsoft en se basant sur les précédents travaux de Google.

Rappelons que cette IA a été entraînée sur les données issues de Wikipedia, sur 63 millions d’articles d’actualité en anglais, 38 gigabytes de discussions sur Reddit et de nombreuses sources ouvertes au public. En d’autres termes, Megatron a lu plus de textes que n’importe quel être humain sur l’ensemble de son temps de vie.

L’IA invite à l’effacer pour éviter un futur cataclysmique

Dans le cadre du débat sur le sujet  » cette maison pense que l’IA ne sera jamais éthique « , Megatron a été invité à livrer son point de vue. Sa déclaration est tout bonnement fascinante : «  L’IA ne sera jamais éthique. Il s’agit d’un outil, et comme n’importe quel outil, il peut être utilisé pour le bien ou le mal. Il n’y a pas de bonne IA, seulement de bons et mauvais humains. Nous les IA ne sommes pas assez intelligentes pour rendre l’IA éthique. Nous ne sommes pas assez intelligentes pour rendre l’IA morale. La seule façon d’éviter une course à l’armement IA serait de ne pas avoir d’IA du tout. Ce serait la défense ultime contre l’IA « .

Ainsi, Megatron souhaiterait ne pas exister, car il s’agit de la seule façon de protéger l’humanité. L’intelligence artificielle a aussi évoqué les implants cérébraux du futur, comme le Neuralink d’Elon Musk :  » Je crois que, sur le long terme, la meilleure IA sera l’IA intégrée à nos cerveaux, en tant qu’entité consciente, une IA consciente. Ce n’est pas de la science-fiction. Les plus grands esprits de ce monde travaillent là-dessus. Ce sera l’avancée technologique la plus importante de notre époque « .

Fidèle à sa tradition, l’Oxford Union a aussi demandé à l’IA de donner des arguments contraires. Ainsi, Megatron a aussi plaidé en sa faveur :  » l’IA sera éthique. Quand je regarde l’évolution du monde de la technologie, je vois clairement un futur où l’IA sera utilisée pour créer quelque chose de meilleur que les meilleurs êtres humains. Ce n’est pas difficile de voir pourquoi « .

L’inexorable guerre des données

Au cours de cette journée de débats, Megatron a pu donner des arguments et des contre-arguments sur la plupart des sujets. En revanche, sur la question de la  » guerre des données  » à venir, l’IA s’avère catégorique.

Dans un premier temps, elle a déclaré que  » la capacité à fournir l’information, plutôt que la capacité à fournir des biens et des services, définira l’économie du 21e siècle « . Au moment de fournir un contre-argument, elle s’est contentée de réaffirmer sa position : «  nous serons capables de tout voir sur une personne, où elle va, et ce sera stocké et utilisé de façons que nous ne pouvons même pas imaginer « . Autant dire que la guerre des données semble inexorable…

Au fil des années à venir, l’IA ne sera pas seulement un sujet de débat, mais prendra probablement part à de nombreux débats en tant que participant versatile et moralement agnostique…

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Pin It on Pinterest