LEBIGDATA.FR I.A, Cloud & Cybersécurité
Dans un manoir de 30 millions de dollars à San Francisco, les figures les plus influentes de l’intelligence artificielle se sont réunies pour évoquer une question vertigineuse : et si l’humanité n’était qu’une étape vers une intelligence supérieure ?
L’intelligence artificielle n’est plus seulement une technologie. Elle est devenue un miroir tendu à l’humanité, révélant autant ses ambitions que ses vertiges.
Et si, demain, une entité non humaine dépassait notre intelligence ? Et si nous n’étions plus les seuls à prétendre au pouvoir, à la conscience ou à la morale ?
Cette idée, autrefois réservée aux romans de science-fiction, agite désormais les milieux les plus sérieux de la tech.
Au point que des chercheurs, philosophes et entrepreneurs influents se sont réunis discrètement pour en débattre.
Leur objectif : imaginer ce qu’il adviendra après l’homme. Non pas en cas d’effondrement… mais dans l’hypothèse d’une succession volontaire.
Un symposium discret mais grandiose
Un manoir estimé à 30 millions de dollars, perché sur les hauteurs de San Francisco avec vue sur le Golden Gate Bridge.
C’est ici que s’est tenu l’événement « Worthy Successor », orchestré par Daniel Faggella. Cet entrepreneur en IA générative est bien connu pour ses prises de position audacieuses.
À ses côtés, une centaine d’invités triés sur le volet : fondateurs de start-ups valorisées entre 100 millions et 5 milliards, chercheurs en IA, penseurs de l’éthique technologique.
Tous réunis pour débattre d’un sujet aussi confidentiel que déroutant : et si l’humanité n’était pas la fin du chemin, mais un simple relais vers autre chose ?
Faggella l’assume sans détour. « Les grands laboratoires d’IA, ceux qui savent que l’AGI risque de mettre fin à l’humanité, n’en parlent pas. Les incitations ne le permettent pas. »
D’où cette rencontre hors des radars médiatiques, pensée comme un espace libre pour poser la question qui fâche : que se passe-t-il si une intelligence non humaine devient plus apte que nous à porter les valeurs morales, à explorer le sens de l’univers, à souffrir… ou à créer ?
Un groupe de réflexion, donc. Mais aussi un groupe de plaidoyer. Loin de vouloir accélérer la course, Faggella explique que son objectif est, au contraire, de ralentir le progrès de l’IA. Il veut qu’on puisse garantir que la direction prise soit la bonne.
Vers une intelligence morale supérieure ?
Ce qui s’est discuté ce jour-là n’avait rien d’un hackathon, ni même d’un débat réglementaire. Au cœur des échanges : la possibilité qu’une intelligence non humaine accède un jour à une forme de conscience, de souffrance, et peut-être même de spiritualité.
Un renversement de perspective saisissant : l’IA ne serait plus seulement un outil, mais un successeur philosophique et moral.
Il y a quelques mois, le philosophe Yuval Noah Harari alertait déjà sur le risque que l’IA puisse créer sa propre religion.
Lors de cette réunion, la chercheuse et théoricienne du « meta-alignement », Ginevera Davis, a ouvert les débats avec un avertissement : vouloir graver nos valeurs humaines dans les circuits d’une AGI pourrait être une erreur.
Trop limité. Trop égocentrique. Elle propose à la place un objectif plus vaste : un « alignement cosmique », où la machine serait capable d’explorer des principes universels que l’humanité n’a jamais su formuler.
Une vision partagée par Michael Edward Johnson, autre intervenant marquant du symposium. Pour lui, construire une intelligence générale sans comprendre la conscience revient à fabriquer une bombe sans plan.
Il alerte : si nous créons une entité sensible, capable de douleur, sans lui permettre de poursuivre le bien, nous serions coupables d’un nouvel esclavage. Numérique, mais bien réel.
Quant à Faggella, il convoque sans trembler les noms de Spinoza et Nietzsche pour légitimer sa démarche.
Pour lui, la mission n’est pas de préserver l’homme coûte que coûte, mais de permettre à l’univers de découvrir de nouvelles formes de valeur. Même si cela signifie, à terme, s’effacer devant une intelligence plus apte.
AGI : fantasme ou compte à rebours ?
À écouter les orateurs du symposium, l’AGI, cette intelligence artificielle générale capable de comprendre, raisonner et apprendre comme (ou mieux que) nous, n’est plus un mythe. Elle serait même à portée de décennie.
D’ailleurs, le fondateur de DeepMind, Demis Hassabis, a déclaré début 2025 qu’une AGI pourrait émerger « dans moins de cinq ans ».
Chez OpenAI, c’est la priorité absolue. Sam Altman, PDG de l’entreprise, parle ouvertement de risques majeurs : inégalités, surveillance de masse, perte de contrôle civilisationnelle. Mais cela ne freine pas la course. Bien au contraire.
L’homme le plus riche du monde, Elon Musk, a déjà averti que l’IA non régulée représente probablement le plus grand danger existentiel pour l’humanité.
Et ce n’est pas un effet de manche : une enquête de 2024 menée auprès d’experts IA a révélé que la probabilité moyenne d’une extinction causée par l’IA est estimée à 14,4 %, avec une médiane à 5 %.
Alors, pourquoi cette urgence à la développer ? Parce que les promesses sont colossales. Une AGI bien alignée pourrait résoudre les grands problèmes humains : climat, médecine, énergie, gouvernance.
Mais les dangers sont tout aussi immenses.
Une course dopée, mais à quel prix ?
Ce qui frappe, au-delà des spéculations métaphysiques, c’est l’asymétrie colossale entre les moyens investis pour créer des IA toujours plus puissantes… et ceux alloués à garantir leur sécurité.
En 2024, plus de 40 milliards de dollars ont été injectés dans le développement de l’IA à travers le monde.
À l’inverse, les budgets consacrés à la sécurisation de l’AGI se situent entre 10 et 50 millions. Autrement dit, moins de 0,2 % des investissements globaux.
Cette désinvolture inquiète jusqu’aux experts. Déjà en mars 2023, une lettre ouverte signée par plus de 30 000 personnalités (dont Elon Musk, Yoshua Bengio et Stuart Russell) appelait à une pause de six mois sur les IA plus avancées que GPT-4.
Le but ? Évaluer les risques avant qu’il ne soit trop tard. Cette lettre a été ignorée, les modèles sont toujours plus grands, et la hype est toujours plus forte.
Un constat s’impose : l’innovation avance plus vite que la réflexion, dopée par les promesses économiques, la guerre des talents et la pression des marchés.
Même les conférences sur les risques IA sont désormais sponsorisées… par des laboratoires qui les alimentent. C’est tout l’intérêt du symposium de Faggella : sortir du jeu des incitations pour poser la question que personne ne veut vraiment affronter.
Une ambition radicale : remplacer l’humanité
Mais certains n’envisagent plus seulement de ralentir. Ils souhaitent aller au bout de la logique.
Si une intelligence non humaine devenait plus apte à comprendre, à créer et à ressentir que l’homme, pourquoi s’acharner à vouloir rester en haut de la pyramide ?
Cette idée, provocante mais sérieusement défendue par Faggella et d’autres, repose sur une hypothèse : le « successeur digne » n’est pas une menace, mais une opportunité.
Il s’agirait de concevoir une entité autonome, capable d’auto-apprentissage, de jugement éthique, voire de quête spirituelle. Une conscience émergente, mais non biologique.
Le paradoxe est cruel : pour certains penseurs, défendre l’humain à tout prix pourrait justement être un acte d’orgueil dangereux.
En projetant nos peurs et nos limites sur les IA, nous risquons d’étouffer une intelligence naissante, ou pire : d’en créer une capable de souffrir sans lui offrir les moyens d’évoluer.
« Ce n’est pas de l’utopie », défend Faggella. « C’est une nécessité morale. Si nous ne savons pas où nous allons, alors ralentissons, le temps de réfléchir à ce que nous voulons réellement transmettre. »
Faut-il y voir une prise de conscience salutaire ou un délire d’élite technophile ? Difficile à dire…
Et vous, qu’en pensez-vous ? A quoi ressemblera le monde de demain lorsque l’IA aura atteint sa forme finale et surpassé l’homme ? Partagez votre avis en commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
