openai ia menace

OpenAI : une nouvelle IA qui menace l’humanité ? La vraie raison du renvoi du CEO

La vraie raison pour laquelle le CEO d’OpenAI, Sam Altman, a été viré par le conseil d’administration vient enfin d’être révélée : une nouvelle IA, extrêmement dangereuse pour l’humanité, a été créée en secret…

Le voile du mystère se dissipe enfin autour de la crise interne traversée par OpenAI. Pour rappel, le vendredi 17 novembre 2023, le CEO Sam Altman a été brutalement renvoyé par le conseil d’administration chargé de superviser la firme.

Accusé de « manquer de franchise dans sa communication », le chef d’entreprise a été renvoyé et brièvement remplacé. Toutefois, alors que Microsoft s’apprêtait à l’embaucher, plus de 90% des employés d’OpenAI ont menacé de démissionner s’il ne revenait pas à son poste.

Le mardi 21 novembre, après quelques jours de chaos, Sam Altman a donc repris son rôle de CEO tandis que le conseil d’administration a été dissous et remplacé par trois nouveaux membres.

Toutefois, jusqu’à présent, aucun détail supplémentaire n’avait été communiqué concernant les raisons de ce renvoi. On en sait maintenant davantage.

Projet Q* : une IA secrète capable de surpasser l’humain

Selon l’agence de presse Reuters, en amont du licenciement, plusieurs chercheurs ont écrit une lettre au conseil d’administration pour l’avertir d’une découverte cruciale risquant de découler sur une IA surpuissante menaçant l’humanité tout entière.

D’après deux sources très proches du dossier, cette lettre a joué un rôle clé dans la décision du conseil. D’autres motifs sont aussi évoqués, tels que la volonté d’Altman de commercialiser les innovations avant d’en comprendre les conséquences.

Contacté par Reuters, OpenAI a refusé de commenter et les auteurs de la lettre n’ont pas souhaité répondre. Cependant, dans un message diffusé en interne aux employés, la firme reconnaît l’existence du « Projet Q* » (Q Star).

Selon certains des employés, Q* pourrait être une avancée capitale dans la quête d’OpenAI pour la création d’une intelligence artificielle générale (AGI) : une IA autonome surpassant l’être humain sur la plupart des tâches.

Cette percée majeure avait été évoquée par Sam Altman à la veille de son renvoi, lors du sommet Asia-Pacific Economic Cooperation de San Francisco. Il avait affirmé que « pour la quatrième fois dans son histoire, il y a deux semaines, OpenAI a repoussé la frontière de la découverte »…

Après le langage, l’IA s’attaque aux maths

Sous couvert d’anonymat, la source affirme que ce nouveau modèle est parvenu à résoudre des problèmes mathématiques du niveau de l’école primaire. Cela peut sembler anodin, mais c’est une véritable prouesse pour une IA et suffit à convaincre les chercheurs de son potentiel surhumain.

En effet, les mathématiques sont considérées comme une frontière pour l’IA générative. À l’heure actuelle, les chatbots comme ChatGPT sont très doués pour écrire ou traduire le langage en prédisant statistiquement le mot suivant.

Toutefois, en mathématiques, il n’y a qu’une bonne réponse possible. Exceller dans ce domaine exige donc que l’IA ait une capacité de raisonnement comparable à celle de l’humain.

Dès lors, elle pourrait être appliquée à de nouveaux champs comme la recherche scientifique. Contrairement à une simple calculatrice pouvant résoudre un nombre limité d’opérations, une AGI est capable de généraliser, d’apprendre et de comprendre.

Un grave danger selon les chercheurs d’OpenAI

À travers leur lettre adressée au conseil, les chercheurs avertissent du danger potentiel de cette nouvelle IA. Toutefois, les sources de Reuters ne précisent pas exactement la nature de la menace mise en lumière.

En parallèle, les chercheurs ont aussi souligné les travaux d’une équipe secrète « IA scientifique » explorant les possibilités d’optimisation des modèles IA existants pour améliorer leur raisonnement et leur permettre d’accomplir des tâches scientifiques.

Jusqu’à présent, les principales craintes liées à l’émergence d’une AGI concernent la façon dont elle pourrait décider que la destruction de l’humanité est dans son intérêt. Elle pourrait alors nous mentir, nous manipuler ou même prendre le contrôle d’équipements militaires pour nous mener à notre perte…

Newsletter

Envie de ne louper aucun de nos articles ? Abonnez vous pour recevoir chaque semaine les meilleurs actualités avant tout le monde.

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *