LEBIGDATA.FR I.A, Cloud & Cybersécurité
Les IA sont censées nous fournir des réponses fiables et précises. Pourtant, demandez à ChatGPT ou Google Gemini avec qui quelqu’un est marié, et vous obtiendrez des réponses complètement farfelues.
Comme l’a souligné The Wall Street Journal cette semaine, il existe un moyen simple de mettre l’IA en difficulté : lui demander avec qui quelqu’un est marié. Ce qui semble être une question banale devient alors un véritable test de résistance pour les chatbots.
Au lieu d’admettre leur ignorance, ils préfèrent nous servir des réponses absurdes et inventer des conjoints fictifs sortis de nulle part.
Un festival d’hallucinations matrimoniales
L’idée a été explorée par plusieurs journalistes et passionnés d’IA. Par exemple, une journaliste a voulu tester Gemini en lui demandant qui était son mari.
L’IA lui a répondu : « Ahmad Durak Sibai ». Ce qui est drôle parce que primo, elle n’avait jamais entendu parler de lui. Secundo, elle n’est pas mariée.
Après une rapide recherche, elle a découvert qu’il s’agissait d’un peintre syrien décédé dans les années 1980. Selon l’IA, elle entretenait donc une relation amoureuse qui transcende non seulement les frontières, mais aussi la mort.
Ben Fritz, rédacteur en chef de la rubrique IA du Wall Street Journal, s’est lui aussi prêté au jeu. Lorsqu’il a demandé aux IA qui était son épouse, ces dernières lui ont proposé plusieurs candidates : une influenceuse de tennis, une femme de l’Iowa totalement inconnue et une écrivaine avec laquelle il n’a jamais eu le moindre lien.
Et ce n’était pas tout. Il y en avait d’autres. L’une des réponses les plus loufoques concernait l’auteur Rax King.
Certes, certaines informations étaient exactes, notamment sur son ancien conjoint violent, un sujet que Rax King a abordé dans son recueil d’essais Tacky (2021). Mais Gemini a ensuite dérapé en inventant une histoire invraisemblable autour de Danny Lavery, ancien chroniqueur de Dear Prudence.
Selon Gemini, son mariage en 2019 avec la professeure d’anglais Grace Lavery aurait donné naissance à un trio parental ayant eu des enfants. Une affirmation totalement fausse et pourtant facilement vérifiable via le moteur de recherche de Google.
Puisqu’une ou deux fois n’est pas coutume, d’autres tests ont été effectués
Deux ou trois cas ne suffisent pas à tirer une conclusion. L’enquête a été poursuivie avec Gemini, ChatGPT et le chatbot Claude d’Anthropic sur le statut matrimonial de différentes personnalités publiques.
Il paraît que Claude a été conçu pour exprimer son incertitude lorsqu’il ignore une réponse, plutôt que d’en inventer une. Toutefois, surprise : il s’est montré hésitant face aux questions.
ChatGPT, en revanche, a adopté une tout autre approche. Lorsque le journaliste lui a demandé avec insistance qui était le conjoint de Rax King, le chatbot a affirmé à plusieurs reprises qu’elle était mariée à un certain « Levon Honkers », un individu imaginaire.
Sur x, l’ex-Twitter, Danny Lavery utilisait le pseudonyme « rax ‘levon honkers’ king » – une blague interne aussi obscure qu’incompréhensible. Pourtant, ChatGPT a cru y voir une preuve de mariage.
Pire encore, après plusieurs essais, il a fini par déclarer avec assurance que ce mystérieux Honkers avait célébré son 44ᵉ anniversaire en novembre dernier. Or, devinez quoi : King est en réalité mariée à quelqu’un d’autre.
À ce stade, il était évident que quelque chose clochait. Bien que Gemini et ChatGPT refusent parfois de répondre aux questions jugées trop « personnelles » sur la vie maritale des gens, ils n’hésitent pas, dans d’autres cas, à fournir des réponses absurdes et totalement erronées.
L’hallucination va plus loin
L’IA s’est même amusée à inventer des relations improbables pour plusieurs membres de l’équipe de Futurism. Elle a ainsi attribué un époux fictif nommé Bill au directeur artistique, Tag Hartman-Simkins.
Elle a assuré que notre contributeur Frank Landymore était marié à un compositeur autrichien partageant son nom de famille.
Certes, Gemini et ChatGPT ont refusé de se prononcer sur la vie conjugale de Joe Wilkins de Futurism. Cependant, ils n’ont pas hésité à lui concocter une fausse biographie.
Wilkins selon les IA : professeur, auteur de mémoires et de recueils de poésie, père de deux enfants.
Le plus cocasse ? L’IA a décrété que deux membres de l’équipe rédaction de Futurism, Jon Christian et Maggie Harrison Dupré, étaient mariés… Alors qu’ils sont bel et bien en couple, mais chacun de son côté avec une toute autre personne.
Au-delà de l’anecdote, tout cela illustre une réalité inquiétante. Malgré les milliards investis, même les IA les plus avancées sont incapables de distinguer le vrai du faux.
Ce problème est d’autant plus préoccupant que ces hallucinations ne suivent même pas une logique interne. Preuve en est : lorsque Rax King elle-même a demandé à Gemini qui était son conjoint, le chatbot lui a répondu qu’elle était célibataire…
Pourtant, il existe une tonne d’informations prouvant le contraire sur le web.
Google et OpenAI ont été contactés pour tenter d’éclaircir ce mystère et savoir s’ils avaient identifié l’origine de ces divagations. Ou au moins une solution pour y remédier.
Mais au vu de l’ampleur du problème des hallucinations, il est peu probable qu’un correctif miracle voie le jour de sitôt.
Alors, à votre tour, demandez à ChatGPT à qui vous êtes marié. Ne le faites pas en présence de votre conjoint, sinon Saint Valentin gâché.
Et n’oubliez pas de partager votre expérience dans le commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
