LEBIGDATA.FR I.A, Cloud & Cybersécurité
La plus grande menace de l'IA serait les désalignements sociétaux selon Sam Altman. Le patron d'OpenAI y pense tellement qu'il n'en dort pas la nuit.
Les acteurs de l'industrie de l'intelligence artificielle et les gouvernements multiplient les discussions sur les dangers du développement de l'intelligence artificielle. Mardi, au Sommet mondial des gouvernements, Sam Altman a alerté sur ce que pourrait faire l'IA à cause des désalignements sociétaux. Un sujet encore très peu abordé.
Le sujet de l'intelligence artificielle devient central. Rappelons que l'utilisation de la technologie concerne aujourd'hui presque tous les secteurs. Précisons également que le Sommet mondial des gouvernements a fait de l'IA un de ses thèmes depuis 2018.
La nouvelle édition de cet événement annuel – organisé chaque année à Dubaï, aux Émirats arabes unis – se déroule du 12 au 14 février. Un appel vidéo de Sam Altman a marqué la session du mardi 13 février.
Pas intéressé par un scénario catastrophe version Terminator
Quand il faut parler des dangers potentiels de l'intelligence artificielle, les discussions peuvent rapidement déborder sur le fantasme d'un futur apocalyptique. Dans cet avenir catastrophique, les machines deviennent suffisamment intelligentes et autonomes. Elles vont alors chercher à détruire l'humanité.
C'est un scénario que les œuvres de science-fiction aiment explorer. Mais les plus notables restent encore les deux premiers films Terminator réalisés par James Cameron. Une intelligence artificielle générale prend le contrôle de la planète. Elle fabrique ensuite des robots pour exterminer les humains.
Sam Altman n'est pas vraiment intéressé par cette vision « avec des robots tueurs se promenant dans la rue ». Il s'intéresse davantage aux « désalignements sociétaux, très subtils dans les sociétés où nous mettons en place ces systèmes en place et, sans aucune intention malveillante particulière, les choses tournent horriblement mal ».
D'autre part, le créateur de ChatGPT appelle une nouvelle fois à la création d'un organisme similaire à l'Agence internationale de l'énergie atomique. Cette entité aurait pour mission d'encadrer la progression de l'évolution de l'IA.
Comment l'IA devient dangereuse à cause des désalignements sociétaux ?
Le patron d'OpenAI souhaite une réglementation stricte de l'industrie de l'intelligence artificielle. Mais il insiste, les acteurs de ce secteur ne doivent pas être ceux qui fixent ces règles. D'où la nécessité d'un organisme indépendant comme garde-fou.
Vient ensuite la question des désalignements sociétaux. Ce sont des conflits entre les objectifs de l'intelligence artificielle et ceux des humains. Prenons notamment l'exemple d'une IA pour optimiser la production agricole. Celle-ci peut nuire à l'environnement ou aux droits des travailleurs dans la concrétisation de sa mission.
Ces désalignements peuvent avoir des conséquences négatives pour la société. La perte de confiance, la manipulation, la discrimination et la violence ne sont que quelques exemples. C'est pour cette raison que Sam Altman s'inquiète de la combinaison de l'IA et des désalignements sociétaux.
D'autre part, l'IA peut amplifier les biais sociétaux existants lorsqu'elle est entraînée avec des données biaisées. Cela conduit à des imprécisions dans les prises de décision de la machine. De plus, il est possible d'utiliser la technologie pour perturber l'équilibre social.
- Partager l'article :
