LEBIGDATA.FR I.A, Cloud & Cybersécurité
Lors d'une interview à la télévision américaine, le CEO de Google a révélé qu'une intelligence artificielle avait appris une langue sans être entraînée pour le faire, de façon autonome et totalement inexplicable. Comment expliquer ce phénomène et pourquoi est-ce un danger ?
L'intelligence artificielle est une création humaine. Malgré les prouesses d'outils comme ChatGPT ou MidJourney, il ne s'agit que de machines construites de nos propres mains.
Mais que se passera-t-il si les IA commencent à apprendre et se développer de manière totalement autonome ? Comment garder le contrôle sur ces entités ?
Lors d'une interview dans l'émission 60 Minutes de CBS datée du 16 avril 2023, un cadre de Google a confirmé que ce phénomène se produit déjà…
Selon le vice-président pour la technologie et la société, James Manyika, l'un des systèmes IA de la firme a appris le Bengali alors qu'elle n'était pas entraînée pour connaître ce langage.
Il explique que « nous avons découvert qu'avec un très faible volume de prompts en Bengali, elle peut maintenant tout traduire en Bengali ».
L'IA reste aussi mystérieuse que le cerveau humain
Interrogé à ce sujet, le CEO Sundar Pichai a confirmé que certains éléments sur la façon dont l'IA apprend et se comporte restent mystérieux et surprenants pour les experts.
Selon lui, cet aspect énigmatique de l'IA est appelé « boîte noire » par les spécialistes. Il s'agit de choses que nous ne pouvons comprendre pleinement et que nous ne pouvons expliquer.
Pour rappel, au cours de l'été 2022, un ingénieur de Google a été renvoyé pour avoir affirmé dans les médias qu'une IA était devenue consciente. Pourtant, les révélations de Sundar Pichai pourraient donner du crédit à cette déclaration étonnante.
Même si la firme a des pistes d'explications, davantage de recherches seront nécessaires pour comprendre réellement ce mécanisme.
Le journaliste Scott Pelley de CBS a alors demandé s'il était judicieux d'ouvrir au public un système que ses propres développeurs ne comprennent pas totalement.
En réponse, Pichai fait remarquer que « je ne pense pas que nous comprenions pleinement comment l'esprit humain fonctionne non plus »…
Le danger des hallucinations de l'IA
En parallèle, le CEO de Google est aussi revenu sur les failles de l'IA menant à la propagation de fausses informations, à la création de DeepFakes ou même à sa militarisation.
Interrogé sur les « hallucinations » du chatbot Google Bard, Pichai rétorque que « personne dans l'industrie n'a encore résolu ce problème ».
Il s'agit selon lui d'un défaut dont souffrent tous les modèles IA. À ses yeux, la solution est de développer « des couches de sécurité plus robustes avant de construire, avant de déployer des modèles plus puissants ».
Depuis bien longtemps, Pichai appelle à une régulation mondiale de l'intelligence artificielle. D'autres vont encore plus loin, à l'instar d'Elon Musk qui réclame une pause d'au moins six mois dans le développement de l'IA.
En Chine, de nouvelles lois ont déjà été votées pour éviter les dérives liées à cette technologie. Malheureusement, en Europe et aux États-Unis, les législateurs tardent à intervenir…
- Partager l'article :
Réguler quelque chose qui semble incontrôlable et incompréhensible selon leurs dires, ça laisse une terrible sensation d’enfumage voire d’amateurisme.
Ce qui est plus intéressant, ce n’est pas de savoir si oui ou non les machins et les machines peuvent ou veulent ma peau (ou celle de mon prochain en même temps), ça toutes personne dans le monde occidental en a fait l’expérience et d’autres passent à l’acte. Le plus terrible serait d’être encore plus l’esclave de ces machins et machines que celui de mon prochain actuellement qui veut gratter une pourliche sur mon dos et niquer ma retraite. Et là j’en voudrais terriblement aux tarés qui nous font actuellement des promesses totalement bidons comme quoi ça nous libérerai.