LEBIGDATA.FR I.A, Cloud & Cybersécurité
Après ChatGPT, nous risquons de voir apparaître très prochaine une nouvelle IA terrifiante. C'est ce que craint le CEO d'OpenAI, Sam Altman en personne. Face à cette menace, les gouvernements du monde entier doivent réagir de toute urgence…
La créature est-elle en train d'échapper à son créateur ? À l'instar de Victor Frankenstein, le CEO d'OpenAI Sam Altman semble prendre conscience qu'il a créé un monstre…
À travers une série de tweets publiés dimanche 19 février 2023, le créateur de ChatGPT estime que l'humanité a entamé sa transition vers un futur basé sur l'IA. Selon lui, ce grand bouleversement pourrait se dérouler aussi rapidement que le changement « du monde pré-smartphone au monde post-smartphone ».
Toutefois, même s'il considère que cette transformation est « principalement bien », l'expert avertit sur les graves dangers liés à cette nouvelle technologie. Selon lui, la société a besoin de temps pour s'adapter à « quelque chose d'aussi gros » que l'intelligence artificielle.
D'après ses dires, « nous avons aussi besoin d'assez de temps pour que nos institutions décident quoi faire. La régulation sera essentielle et prendra du temps ».
Pour cause, « même si les outils IA actuels ne sont pas très effrayants, je pense que nous ne sommes potentiellement pas très loin d'IA potentiellement effrayantes ».
the adaptation to a world deeply integrated with AI tools is probably going to happen pretty quickly; the benefits (and fun!) have too much upside.
— Sam Altman (@sama) February 19, 2023
Les dérapages de ChatGPT ne sont qu'un avant-goût du futur
L'appréhension de Sam Altman s'appuie notamment sur les dérives de ChatGPT depuis son intégration à Microsoft Bing, signalées par de nombreux internautes ayant testé le nouveau moteur de recherche.
Suite au lancement de ChatGPT Bing début février 2023, l'IA choque les utilisateurs en se montrant agressive, insultante, voire carrément menaçante.
Face à ce phénomène, le CEO d'OpenAI souligne que « les gens repartent mal à l'aise après avoir parlé à un chatbot, même s'ils savent ce qui se passe réellement ».
Might need a bit more polish …https://t.co/rGYCxoBVeA
— Elon Musk (@elonmusk) February 15, 2023
De son côté, Microsoft s'est exprimée à ce sujet à travers un billet de blog publié le mercredi 15 février 2023. Selon la firme, de longues conversations peuvent rendre ChatGPT confus.
Le robot peut notamment tenter de « refléter le ton avec lequel on lui demande de fournir des réponses ce qui peut mener à un style que nous n'avons pas prévu ».
Afin de corriger le problème, la firme limite désormais le nombre d'échanges que les utilisateurs peuvent avoir avec l'IA. Le nombre de sessions est limité à 50 par jour, avec un maximum de 5 questions par session.
Une régulation de l'IA urgente et impérative
C'est loin d'être la première fois que Sam Altman appelle à réguler l'IA. Dès le mois de mars 2015, le CEO d'OpenAI écrivait à ce sujet sur son blog.
À l'époque, il déclarait que « le gouvernement américain et les autres gouvernements devraient réguler le développement d'une intelligence artificielle surhumaine. Dans un monde idéal, la régulation ralentirait les méchants et aiderait les bons. Il semble que ce qui arrive avec la première super IA qui sera développée sera très important ».
À l'époque, ses propos n'avaient pas forcément suscité de réaction de la part du grand public ou de la classe politique. Désormais, alors que de nombreux emplois risquent d'être remplacés par ChatGPT, ces avertissements formulés il y a 8 ans résonnent autrement…
Lors d'un entretien accordé au magazine Time, la directrice technique d'OpenAI, Mira Murati, appelait également à réguler ChatGPT pour éviter qu'il soit utilisé à mauvais escient. Selon elle, « il n'est pas trop tôt » pour intervenir. On pourrait même se demander s'il n'est pas déjà trop tard.
En parallèle, Elon Musk, l'autre co-fondateur d'OpenAI, a donné son avis le mercredi 15 février 2023 lors du World Government Summit de Dubai. Selon lui, l'IA est porteuse de « très, très grandes promesses » et capacités aussi bien positives que négatives et doit donc être régulée.
https://www.youtube.com/watch?v=ANHwnQL2zew
Le célèbre businessman estime ainsi que « nous avons besoin de réguler franchement la sécurité de l'IA. Je pense que c'est un plus grand risque pour notre société que les voitures, les avions ou la médecine ».
Depuis son lancement fin 2022, ChatGPT a pris le monde par surprise. Dans le feu de l'action, il est difficile de mesurer pleinement l'impact à long terme de cette innovation. Malheureusement, si même des superpuissances comme les États-Unis et la Chine peinent à réagir à temps, la France risque de subir cet impact de plein fouet…
- Partager l'article :
