LEBIGDATA.FR I.A, Cloud & Cybersécurité
Alors que de nombreux scientifiques et chefs d'entreprises prédisent l'apparition d'une super IA capable de surpasser l'intelligence humaine, une étude menée par les chercheurs de DeepMind démontre que les modèles comme GPT sont largement plus limités qu'il n'y paraît. L'IA est-elle une vaste supercherie vouée à finir aux oubliettes comme le métavers ?
L'intelligence artificielle est sous le feu des projecteurs depuis près d'un an, grâce aux prouesses réalisées par les outils comme ChatGPT ou MidJourney. Cependant, la « révolution IA » pourrait s'arrêter plus tôt que prévu…
Dans une nouvelle étude, trois chercheurs de Google Deepmind dévoilent une découverte qui remet en question le futur de cette technologie.
À travers ces travaux, les chercheurs Steve Yadlowsky, Lyric Doshi and Nilesh Tripuraneni confirment ce que de nombreuses personnes ont pu observer au fil des mois : l'IA n'est pas très douée pour produire des résultats au-delà de ses données d'entraînement.
L'étude est centrée sur le modèle GPT-2 d'OpenAI, déployé en février 2019. Rappelons que le dernier modèle en date est GPT-4 disponible depuis mars 2023.
Elle se focalise sur les modèles IA Transformer, capables de transformer un type d'input en un résultat de type différent.
C'est en effet la signification de la lettre « T » dans « GPT » (Generative Pre-trained Transformer). Ce type de modèle IA fut initialement théorisé par un groupe de chercheurs DeepMind en 2017, dans l'étude « Attention Is All You Need ».
On considère souvent que c'est cette catégorie d'IA qui pourrait mener vers l'émergence d'une AGI : une intelligence artificielle générale digne du cerveau humain. Pour cause, ces systèmes permettent aux machines de « penser » de façon intuitive comme nous le faisons.
Cependant, cette nouvelle étude basée sur GPT-2 montre que la promesse reste incertaine. L'IA est encore très loin de pouvoir être comparée à notre propre intelligence.
GPT exhibe sa culture, mais ne comprend rien
Comme l'expliquent les trois auteurs, « face à des tâches ou des fonctions hors du domaine de leurs données de pré-formation, nous démontrons divers modes de défaillance des transformateurs et la dégradation de leur généralisation, même pour des tâches d'extrapolation simples ».
En d'autres termes, si un modèle Transformer n'est pas entraîné sur des données liées à la tâche qu'on lui demande d'accomplir, même simple, il en sera probablement incapable.
C'est un phénomène dont on peut ne pas se rendre compte de prime abord, car les IA comme ChatGPT semblent incollables sur n'importe quel sujet.
En réalité, cela s'explique par l'immensité des jeux de données sur lesquelles elles ont été entraînées. Ces datasets regroupent quasiment la totalité du savoir humain.
Cependant, cette érudition n'est qu'illusoire. On pourrait comparer GPT-2 à une personne ayant lu des millions de livres, mais incapable de réfléchir par elle-même.
Cela jette un froid sur la hype suscitée par l'IA. Même les modèles les plus modernes ne sont finalement capables que de produire un condensé des connaissances sur lesquelles ils sont entraînés.
Lorsque ChatGPT impressionne par ses réponses, elle se contente de recracher l'expertise des humains dont le travail a servi à l'entraîner.
L'intelligence artificielle générale : une fausse promesse pour draguer les investisseurs ?
Notons toutefois que les modèles plus récents comme GPT-4 ont été entraînés avec beaucoup plus de données. Il est possible que cela leur permette d'atteindre un niveau d'intelligence suffisant pour établir des connexions entre les informations même inconnues.
À l'avenir, des chercheurs pourraient également inventer une nouvelle approche pour dépasser les limites des IA actuelles…
Pour l'heure, la réalité est bien moins reluisante que ce nous font miroiter les startups tentant de surfer sur le succès d'OpenAI. Et les promesses sur l'apparition prochaine d'une IA omnisciente sont sérieusement remises en doute.
Pas plus tard que cette semaine, les CEO de Microsoft et OpenAI ont pourtant présenté aux investisseurs leur volonté de « construire une IA générale ensemble ».
Et même DeepMind ne fait pas figure d'exception dans cette exagération. Le mois dernier, le co-fondateur Shane Legg estimait qu'il y a 50% de chances qu'une AGI voit le jour d'ici 2028. L'étude publiée par ses trois subordonnés ne semble pas soutenir ses prédictions…
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
Mais, on le sait déja, pas besoin d’études pour le prouver non ? On sait comment elles sont créées, donc comment elles fonctionnent. Aucune intelligence la dedans.
Mais en effet, ça va devenir encore plus intéressant quand elle saura piocher des éléments de réponses ailleurs, et faire des liens entre des sujets toute seule.
Mais. Est-ce qu’être intelligente, dans le sens humaine, est-ce que c’est ce qu’on souhaite d’une ia ?
Pour ma part intelligence artificielle n’a qu’un avenir relatif concernant par exemple la médecine où elle savait vraiment très utile et très intuitif en ce qui concerne tous les articles qui ont été consacrés à cette dernière, omniprésente dans les médias, dans les articles, sur le net, dans les journaux, sans compter la télévision YouTube et j’en passe je pense qu’il y a qu’un avenir relatif pour ne pas dire tournant vers peut-être un certain déclin que je mets ici « mais en tout cas je ne crois pas vraiment que l’avenir ce sera une intelligence qui remplacera la nôtre car jamais rien ni personne ne pourra remplacer l’intelligence d’un cerveau humain
Je plucois @Seb
C’est aussi ce que je pense. Je vois un parallèle plus simple a comprendre avec les voitures autonomes. On a l’impression d’être presque rendu la mais au fond… la voiture intelligente présentement réglé 98% des cas mais le 2% restant prendra plusieurs décennies avant d’arriver. Même chose avec IA présentement… on fait wow mais plus on comprends plus on ce dit. Ouais… c’est pas si hot que ca
Cette étude est assez inutile car datée de 2019 soit 4 ( QUATRE) ans elle est complement dépassée; En informatique c’est un écart énorme. Merci de proposer des articles à jour. Merci par ailleurs de votre site très interessant en général !
Bonjour, désolé pour la confusion l’étude en question a été publiée sur arxiv le 1er novembre 2023. Le lien est au début du texte sur les mots » une nouvelle étude « . Merci pour vos retours