zuckerberg agi meta open source

Meta veut créer la première IA consciente et Open Source : un grave danger ?

Le CEO de Meta, Mark Zuckerberg, vient de révéler son projet : créer la première intelligence artificielle, supérieure à l’intelligence humaine, et la rendre accessible au grand public en Open Source. Sidérés par ce projet fou, les experts sonnent l’alarme…

Au cours des dernières années, Mark Zuckerberg a souvent pris des décisions hasardeuses. Il a notamment décidé d’investir massivement dans le métavers, ce qui a fait perdre à son entreprise plus de 46 milliards de dollars depuis 2019 selon les dernières estimations.

De même, le CEO de Meta avait placé beaucoup d’espoir dans les NFT avant de finalement s’en débarrasser sur ses réseaux tels que Facebook et Instagram en mars 2023.

Même son dernier projet en date, le réseau social Threads, semble avoir beaucoup de peine à décoller. Cette plateforme inspirée par Twitter a attiré 100 millions d’utilisateurs à son lancement en juillet 2023, mais 80% étaient déjà partis à la fin du mois.

Pendant ce temps, les autres GAFAM investissaient massivement dans la recherche en intelligence artificielle. Suite au lancement de ChatGPT par OpenAI fin 2022, Meta s’est retrouvé à la traîne derrière Microsoft, Google, ou même Apple et Amazon qui préparent leurs propres IA.

Cependant, « Zuck » est bien décidé à rattraper son retard. Sur Facebook, le chef d’entreprise a déclaré qu’il est clair que la prochaine génération de services technologiques « requiert de créer une intelligence artificielle générale ».

https://twitter.com/1littlecoder/status/1748064728176353410?s=20

Pour rappel, le terme AGI désigne une IA générale, capable d’apprendre à effectuer n’importe quelle tâche, de rivaliser avec l’intelligence humaine et de développer sa propre conscience. Pour en savoir plus, consultez notre dossier en suivant ce lien ou regardez notre vidéo ci-dessous.

Et bien évidemment, Mark compte bien se charger de créer cette IA. Un objectif que partagent les autres acteurs phares de l’industrie, y compris OpenAI et Google. Récemment, le CEO de DeepMind a affirmé que l’AGI verrait le jour dans moins de 10 ans.

Une AGI Open Source ? Les experts révèlent les risques

Par ailleurs, Zuckerberg estime que « le système devrait être rendu disponible aussi largement que nous le pouvons responsablement pour être bénéfique au plus grand nombre ». En d’autres termes, il souhaite créer une AGI open source et la mettre à disposition du grand public et des développeurs externes à la firme.

Cette approche open source est déjà adoptée par Meta pour ses autres projets d’intelligence artificielle, notamment le modèle Llama 2. Cela lui permet de se distinguer de ses rivaux, mais aussi de contribuer à l’accélération des progrès technologiques.

Lors d’une interview accordée à The Verge le jeudi 18 janvier 2024, Zuckerberg a confirmé qu’il promouvrait l’open sourcing aussi longtemps que cela ferait sens. Il considère que c’est la chose sûre et responsable à faire.

Or, en ce qui concerne l’IA générale, de nombreux experts ont directement élevé la voix. Ils estiment qu’une telle initiative serait totalement déraisonnable. Pour cause, l’un des principaux dangers de l’AGI est qu’elle devienne incontrôlable et se retourne contre l’humain…

Ainsi, Dame Wendy Hall, professeur de sciences informatiques à l’Université de Southampton, au Royaume-Uni et conseillère en IA aux Nations Unies, qualifie l’idée d’une AGI open source de « très, très effrayante ».

Selon elle, « la pensée d’une IA générale open source relâchée avant même que nous ayons déterminé comment réguler ces systèmes IA extrêmement puissants est très effrayante, car elle pourrait causer beaucoup de dégâts ».

À ses yeux, « c’est très irresponsable de la part d’une entreprise de suggérer ça ». Elle ajoute que « heureusement, il y a encore de nombreuses années avant qu’un tel objectif puisse être atteint de façon signifiante, donc nous avons le temps de mettre des systèmes de régulation en place ».

En 2023, Meta faisait d’ailleurs partie des entreprises de technologie qui ont promis de permettre aux gouvernements d’évaluer les outils d’intelligence artificielle avant et après leur relaxe lors du Global AI Safety Summit organisé au Royaume-Uni.

Sauver le monde ou le détruire

Déjà en 2023, lors de l’open sourcing de Llama 2, cette spécialiste avait déclaré que cela revient à « donner aux gens un template pour construire une bombe nucléaire ».

De son côté, Andrew Rogoyski, directeur de l’Institute for People-Centred AI de l’Université de Surrey est convaincu que ce n’est pas à une entreprise de décider d’open sourcer une AGI.

D’après ses dires, « il y a des débats complexes et profonds sur les avantages de l’open sourcing des modèles IA actuels, mais appliquer cela dans le domaine de l’AGI pourrait sauver le monde ou être catastrophique ».

De fait, « ces décisions ont besoin d’être prises par un consensus international, pas dans la salle d’administration d’un géant de la tech ».

Quoi qu’il en soit, même si Zuckerberg révèle que Meta a réuni des ressources massives pour créer son IA (plus de 350 000 GPU Nvidia H100), l’AGI n’est pas pour demain. Invité à Davos pour le Forum Économique Mondial, le CEO d’OpenAI Sam Altman a expliqué qu’une révolution dans la provision d’énergie telle que la fusion nucléaire serait nécessaire pour alimenter cette IA surpuissante…

Newsletter

Envie de ne louper aucun de nos articles ? Abonnez vous pour recevoir chaque semaine les meilleurs actualités avant tout le monde.

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *