openai sam altman ia terrifiante

Le créateur de ChatGPT craint l’apparition d’une IA terrifiante : tout savoir

Après , nous risquons de voir apparaître très prochaine une nouvelle IA terrifiante. C’est ce que craint le CEO d’, en personne. Face à cette menace, les gouvernements du monde entier doivent réagir de toute urgence…

La créature est-elle en train d’échapper à son créateur ? À l’instar de Victor Frankenstein, le CEO d’OpenAI Sam Altman semble prendre conscience qu’il a créé un monstre…

À travers une série de tweets publiés dimanche 19 février 2023, le créateur de ChatGPT estime que l’humanité a entamé sa transition vers un futur basé sur l’IA. Selon lui, ce grand bouleversement pourrait se dérouler aussi rapidement que le changement « du monde pré-smartphone au monde post-smartphone ».

Toutefois, même s’il considère que cette transformation est « principalement bien », l’expert avertit sur les graves dangers liés à cette nouvelle technologie. Selon lui, la société a besoin de temps pour s’adapter à « quelque chose d’aussi gros » que l’intelligence artificielle.

D’après ses dires, « nous avons aussi besoin d’assez de temps pour que nos institutions décident quoi faire. La régulation sera essentielle et prendra du temps ».

Pour cause, « même si les outils IA actuels ne sont pas très effrayants, je pense que nous ne sommes potentiellement pas très loin d’IA potentiellement effrayantes ».

https://twitter.com/sama/status/1627110888321978368

Les dérapages de ChatGPT ne sont qu’un avant-goût du futur

L’appréhension de Sam Altman s’appuie notamment sur les dérives de ChatGPT depuis son intégration à Microsoft Bing, signalées par de nombreux internautes ayant é le nouveau moteur de recherche.

Suite au lancement de ChatGPT Bing début février 2023, l’IA choque les utilisateurs en se montrant agressive, insultante, voire carrément menaçante.

Face à ce phénomène, le CEO d’OpenAI souligne que « les gens repartent mal à l’aise après avoir parlé à un chatbot, même s’ils savent ce qui se passe réellement ».

https://twitter.com/elonmusk/status/1625936009841213440?lang=en

De son côté, s’est exprimée à ce sujet à travers un billet de blog publié le mercredi 15 février 2023. Selon la firme, de longues conversations peuvent rendre ChatGPT confus.

Le robot peut notamment tenter de « refléter le ton avec lequel on lui demande de fournir des réponses ce qui peut mener à un style que nous n’avons pas prévu ».

Afin de corriger le problème, la firme limite désormais le nombre d’échanges que les utilisateurs peuvent avoir avec l’IA. Le nombre de sessions est limité à 50 par jour, avec un maximum de 5 questions par session.

Une régulation de l’IA urgente et impérative

C’est loin d’être la première fois que Sam Altman appelle à réguler l’IA. Dès le mois de mars 2015, le CEO d’OpenAI écrivait à ce sujet sur son blog.

À l’époque, il déclarait que « le gouvernement américain et les autres gouvernements devraient réguler le développement d’une intelligence artificielle surhumaine. Dans un monde idéal, la régulation ralentirait les méchants et aiderait les bons. Il semble que ce qui arrive avec la première super IA qui sera développée sera très important ».

À l’époque, ses propos n’avaient pas forcément suscité de réaction de la part du grand public ou de la classe politique. Désormais, alors que de nombreux emplois risquent d’être remplacés par ChatGPT, ces avertissements formulés il y a 8 ans résonnent autrement

Lors d’un entretien accordé au magazine Time, la directrice technique d’OpenAI, Mira Murati, appelait également à réguler ChatGPT pour éviter qu’il soit utilisé à mauvais escient. Selon elle, « il n’est pas trop tôt » pour intervenir. On pourrait même se demander s’il n’est pas déjà trop tard.

En parallèle, , l’autre co-fondateur d’OpenAI, a donné son avis le mercredi 15 février 2023 lors du World Government Summit de Dubai. Selon lui, l’IA est porteuse de « très, très grandes promesses » et capacités aussi bien positives que négatives et doit donc être régulée.

https://www.youtube.com/watch?v=ANHwnQL2zew

Le célèbre businessman estime ainsi que « nous avons besoin de réguler franchement la sécurité de l’IA. Je pense que c’est un plus grand risque pour notre société que les voitures, les avions ou la médecine ».

Depuis son lancement fin 2022, ChatGPT a pris le monde par surprise. Dans le feu de l’action, il est difficile de mesurer pleinement l’impact à long terme de cette innovation. Malheureusement, si même des superpuissances comme les États-Unis et la Chine peinent à réagir à temps, la France risque de subir cet impact de plein fouet

Restez à la pointe de l'information avec LEBIGDATA.FR !

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Newsletter

La newsletter IA du futur

Rejoins nos 100 000 passionnés et experts et reçois en avant-première les dernières tendances de l’intelligence artificielle🔥