john carmack keen technologies

John Carmack veut créer la 1ère IA d’un niveau humain : tout savoir sur Keen Technologies

John Carmack, légende du jeu vidéo et ancien CTO de la branche VR de Facebook, dévoile Keen Technologies. La startup a déjà levé 20 millions de dollars, et se fixe pour objectif la création d’une intelligence artificielle générale, capable de rivaliser avec le cerveau humain…

Dans le monde du jeu vidéo, John Carmack n’est pas n’importe qui. Ce célèbre développeur est le co-fondateur du studio id Software, et occupait jusqu’à présent le rôle de CTO d’Oculus (la branche de réalité virtuelle de Facebook).

A présent, le vétéran de l’industrie du gaming se lance dans un nouveau projet : la startup d’intelligence artificielle Keen Technologies. Un nom qui fait probablement référence à la saga de jeux vidéo Commander Keen d’id Software.

L’objectif de cette startup est de développer une IAG : « intelligence artificielle générale ». Ce terme désigne une catégorie de système d’intelligence artificielle capable d’effectuer n’importe quelle tâche humaine.

Un tel système s’oppose aux IA actuelles, conçues exclusivement pour des applications spécifiques : générer de l’art, conduire une voiture, jouer à un jeu vidéo…

Une startup pour créer la première « Intelligence Artificielle Généraliste »

Grâce aux nouvelles techniques algorithmiques et à la hausse de puissance des ordinateurs, les plus optimistes estiment qu’une IA généraliste pourrait voir le jour au cours du prochain siècle. Ce n’est pas le cas d’autres experts comme Yann LeCun, estimant que l’IAG n’est qu’une utopie…

De son côté, John Carmack est convaincu que l’intelligence artificielle atteindra un jour un stade où elle sera capable de se comporter comme un être humain ou une créature vivante. Dans un récent podcast, il confiait au chercheur Lex Fridman du MIT que l’IA pourrait devenir un « télétravailleur universel ».

Il déclare ainsi : « je ne crois pas aux décollages rapides… mais je pense que nous allons atteindre un stade où nous verrons des choses basées sur l’IA ressemblant à des animaux. Je pense que l’intelligence animale est plus proche de l’intelligence humaine que beaucoup de gens le croient ».

L’intérêt de Carmack pour les IA généralistes a aussi été nourri par Sam Altman, l’un des co-fondateurs d’OpenAI. Ce dernier lui aurait proposé de rejoindre le laboratoire basé à San Francisco.

Lui aussi s’attend à ce que l’IA surpasse prochainement l’intelligence humaine, et s’inquiète de la façon dont elle pourrait endommager la société en cas de mauvaise utilisation

Une première levée de 20 millions $, menée par GitHub

La startup Keen Technologies a d’ores et déjà levé 20 millions de dollars, lors d’un premier tour mené par Nat Friedman, CEO de GitHub, et Daniel Gross, fondateur de Cue. Parmi les autres investisseurs, on compte Patrick Collison, CEO de Strip, Tobi Lütke, CEO de Shopify, et le bras d’investissement Sequoia.

Selon Carmack, cet intérêt des investisseurs pour son projet est une source de motivation. Il explique qu’il pourrait « signer un chèque de 20 millions de dollars » lui-même, mais que « savoir que l’argent d’autres personnes est en jeu engendre un sens supérieur de discipline et de détermination ». Sur Twitter, il révèle que Nat Friedman l’a personnellement encouragé dans cette voie.

Malgré ce nouveau projet, John Carmack compte continuer à jouer le rôle de consultant VR pour Meta. Il occupe ce poste depuis novembre 2019, après avoir abandonné le poste de CTO pour consacrer son temps à la recherche en IA. Désormais, sa fonction au sein de la firme de Mark Zuckerberg ne représentera plus que 20% de son temps.

Les barons de la tech créent leurs propres IA

Outre John Carmack, plusieurs éminences du monde de la technologie ont récemment fondé leur propre startup IA. Le co-fondateur de LinkedIn, Reid Hoffman, et le fondateur de DeepMind, Mustafa Suleyman, ont créé Inflection AI : une startup ayant pour but de traduire les interactions humaines dans un langage compréhensible pour les ordinateurs.

De même, l’ancien vice-président de la recherche chez OpenAI, Dario Amodei, compte parmi les co-fondateurs de la startup Anthropic qui étudie le comportement des systèmes IA de génération de texte comme GPT-3.

Tout autour du monde, plus de 72 projets dans le monde sont dédiés au développement d’une Intelligence Artificielle Généraliste.

Un grave danger pour l’humanité

Déjà à l’heure actuelle, de nombreux experts s’inquiètent de l’impact de l’intelligence artificielle sur notre société. Alors même que l’IA est encore très loin d’un niveau humain, beaucoup redoutent les dérives liées à son usage.

Plusieurs événements récents ont été liés à l’utilisation d’algorithmes d’intelligence artificielle sur les réseaux sociaux. C’est le cas de l’attaque du Capitol aux Etats-Unis, de la guerre du Tigré en Ethiopie, de la montée de violence contre les musulmans du Kashmir, ou du génocide des Rohingya au Myanmar.

Les réseaux sociaux utilisant ces technologies ont révélé une propension à la diffusion de contenu haineux, car l’IA identifie ces publications comme populaires… et donc rentables pour l’entreprise. Même sous sa forme actuelle, l’IA peut donc s’avérer nocive pour la société.

Or, une IA généraliste du niveau du cerveau humain aura conséquences bien plus importantes sur la société. En théorie, ses effets pourraient être très positifs. Par exemple, l’automatisation pourrait libérer l’humain des travaux les plus pénibles.

Toutefois, une telle IA pourrait aussi provoquer la fin de l’humanité. Il pourrait même s’agir de la plus grande menace pour notre espèce, selon le chercheur Toby Ord de l’université d’Oxford.

Cet expert a passé près d’une décennie à tenter d’identifier les causes d’extinction les plus probables pour l’être humain, et résume les résultats dans son ouvrage « The Precipice ». Selon lui, les catastrophes naturelles telles que les éruptions de supervolcans et les astéroïdes n’ont qu’une chance infime de nous faire disparaître.

Les guerres nucléaires, les pandémies et le changement climatique, qui semblent actuellement nous plonger dans le chaos, représentent un risque un peu plus élevé. Mais le phénomène qui pourrait véritablement causer notre disparition serait bel et bien l’émergence d’une IA digne de l’humain.

Plusieurs autres experts font les mêmes prédictions funestes. C’est le cas du défunt Stephen Hawking, de milliardaires de la tech comme Elon Musk et Bill Gates, ou de chercheurs éminents comme Stuart Russell de l’Université de Californie de San Francisco.

Ces spécialistes avertissent publiquement qu’une IA de niveau humain pourrait mener au désastre. Le risque est particulièrement grand si elle n’est pas développée avec une extrême prudence et une prise en compte de la sécurité et de l’éthique

John Carmack : le savant fou de l’IA qui plongera le monde à sa perte ?

Le projet de John Carmack ne risque pas d’apaiser les peurs autour de l’IA. Pour cause, sur Twitter, il annonce vouloir laisser la « science folle » décider du destin de son IA.

Déjà auparavant, il a travaillé pour Facebook : l’un des principaux responsables des méfaits actuels de l’IA. Cette entreprise a appliqué la technologie a la société, sans jamais vraiment se soucier des conséquences. En acceptant de prêter son expertise à cet employeur, Carmack a cautionné cette philosophie.

Lors de l’entretien avec Lex Fridman, Carmack exprime d’ailleurs son mépris pour tout ce qui restreint le développement effréné de la technologie et la maximisation du profit. Selon lui, « la plupart des gens avec une vision sont légèrement moins efficaces ».

Au sujet de l’éthique de l’IA, il déclare qu’il « reste vraiment à l’écart de toutes ces discussions et évite même de penser à ça ». Inutile de dire qu’il ne s’agit pas de sa priorité…

Par conséquent, il semble nécessaire d’imposer des barrières aux magnats de la technologie. La société doit trouver un consensus sur l’intelligence artificielle généraliste, en tenant compte des risques qu’elle représente.

Malheureusement, à l’heure actuelle, la régulation de l’IA est un véritable casse-tête. Nul ne sait comment réduire les risques liés à cette technologie complexe, ou comment imposer des règles à son développement…

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Pin It on Pinterest