LEBIGDATA.FR I.A, Cloud & Cybersécurité
À mesure qu’elle progresse, l’IA devient de plus en plus folle. Elle se trompe souvent, et parfois, elle invente des choses. Alors, est-ce qu’on peut y faire quelque chose ?
Si vous avez déjà testé une IA, vous savez sans doute de quoi nous allons parler. Parfois, elle donne des réponses à côté de la plaque. Le pire, c’est que ce phénomène s’accentue alors même que la technologie évolue à vitesse grand V.
Vous voulez un média comme celui que vous lisez ?
Passez de lecteur à leader ! Faites de votre entreprise un acteur inévitable avec votre propre média 🔥
Vous voulez un média comme celui que vous lisez ?
Passez de lecteur à leader ! Faites de votre entreprise un acteur inévitable avec votre propre média 🔥
Oui, les nouveaux modèles sont plus puissants, plus efficaces. Mais aussi, ils sont étrangement instables. À tel point que certains experts parlent d’IA folle. Alors, peut-on encore empêcher cette innovation de perdre la tête ?
IA qui devient folle : est-ce un problème ?
Il ne s’agit plus d’une simple impression. OpenAI a mené ses propres recherches, et les résultats sont sans appel. Ses tout derniers modèles, o3 et o4-mini, produisent des hallucinations dans 33 % à 48 % des cas. Deux fois plus que l’ancien modèle o1.
On parle d’hallucinations d’IA lorsqu’elle invente des faits ou des événements. Et elle le fait avec un ton fluide et logique. Comme si tout était vrai. Évidemment, cette situation soulève des inquiétudes sur la précision et la fiabilité des grands modèles de langages.
Mais est-ce vraiment un problème ? D’un certain point de vue, ces « hallucinations » ouvrent des portes intéressantes. Elles alimentent la créativité, permettent à l’IA d’inventer au lieu de simplement recopier le réel. Parfois, c’est exactement ce qu’on attend d’elle.
Sauf que tout change quand il s’agit des faits. Une IA folle peut poser problème quand il s’agit de fournir des informations fiables. « C’est particulièrement problématique dans les domaines où les décisions dépendent de la précision factuelle, comme la médecine, le droit ou la finance », a expliqué Eleanor Waston, membre de l’Institute of Electrical and Electronics Engineers (IEEE) et ingénieure en éthique de l’IA à la Singularity University.
Plus l’IA gagne en puissance, plus ses réponses deviennent difficiles à remettre en question. Pourquoi ? Parce qu’elles sont souvent bien tournées. Elles semblent logiques et convaincantes. Ainsi, on ne se rend pas toujours compte qu’il y a une erreur.
Réduire les hallucinations de l’IA : mission impossible ? Pas tout à fait
Certes, éliminer complètement les hallucinations de l’IA semble compliqué. Watson l’a d’ailleurs confirmé dans une interview accordée à Live Science. Selon elle, ce phénomène pourrait bien faire partie intégrante du fonctionnement actuel des modèles. Même son de cloche chez Sohrob Kazerounian, un autre chercheur du domaine chez Vectra AI.
Cela ne veut toutefois pas dire que nous ne pouvons rien faire. Au contraire, il nous est possible de limiter les dégâts. Watson recommande la génération augmentée par la récupération. Le principe est qu’au lieu de laisser l’IA improviser ses réponses, on la pousse à s’appuyer sur des sources fiables et déjà existantes.
Vous pouvez aussi pousser l’IA à faire preuve d’un peu plus d’auto-contrôle. Invitez-la à vérifier elle-même ses propres résultats. Proposez-lui de comparer différentes perspectives ou de dérouler un raisonnement étape par étape avant de conclure. Oui, cela demande du temps. Mais ça en vaut la peine pour éviter les erreurs.
Enfin, Kazerounian conseille d’interagir avec l’IA avec le « même scepticisme que nous réservons à nos homologues humains ». Quoi qu’il en soit, une vérification humaine reste indispensable pour s’assurer que les réponses sont bien fondées.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
