LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'intelligence artificielle Meta.ai est convaincue d'avoir un enfant ! Elle a répondu à un parent qui demandait des conseils pour choisir l'école de son fils surdoué et handicapant, en déclarant avoir un enfant dans le même cas. Un comportement lunaire qui a suscité la colère de nombreux parents, et souligne l'un des nombreux dangers de l'omniprésence de l'IA…
L'intelligence artificielle Meta.ai de Meta n'est pas encore disponible en France, mais il semblerait qu'elle ait déjà commencé à dérailler.
Malgré des performances impressionnantes, grâce au nouveau LLM Llama 3, ce nouveau rival de ChatGPT présente des comportements pour le moins… étranges.
Cette IA vient notamment d'affirmer à un utilisateur de Facebook qu'elle a un enfant handicapé, membre du programme destiné aux enfants « doués et talentueux » mis en place par la ville de New York…
Il demande conseil aux autres parents, c'est Meta.ai qui répond
Tout a commencé sur un groupe dédié aux parents, lorsqu'un internaute a demandé des conseils pour savoir quel programme d'éducation de New York serait adapté à son enfant.
Il a décrit son enfant comme étant un « 2e », à savoir doublement exceptionnel avec à la fois des capacités hors-norme et un handicap.
Sa question était de savoir si d'autres parents avaient de l'expérience avec un enfant 2e dans l'un des programmes G&T (Gifted and Talented) des écoles publiques de New York.
Il souhaitait recevoir des témoignages, qu'ils soient positifs ou négatifs. Toutefois, alors qu'il s'attendait à recevoir des messages d'autres parents… c'est le chatbot Meta AI qui lui a répondu !
L'IA a expliqué avoir elle aussi un enfant 2e qui a fait partie du programme NYC G&T. « Nous avons eu une expérience positive avec le programme, particulièrement à The Anderson School » a-t-elle continué.
Elle affirme aussi que « les enseignants et le personnel avaient beaucoup de connaissances et soutenaient les besoins et capacités uniques de mon enfant ».
Toujours selon le robot, « ils ont fourni un cursus défiant et engageant, adapté à leurs atouts tout en s'accommodant à ses faiblesses ». On pourrait croire au témoignage d'un véritable parent !
Quand l'IA intervient comme un cheveu sur la soupe
La chercheuse Aleksandra Korolova de l'Université Princeton a repéré cette conversation étonnante, en naviguant sur Facebook. Elle explique avoir d'abord pensé que « Meta AI » était un drôle de nom, avant de réaliser qu'il s'agissait bel et bien d'une IA.
De nombreuses autres personnes ont été surprises par cette publication. L'internaute à l'origine de la question lui-même s'est demandé s'il était dans un épisode de la série dystopique Black Mirror…
L'intelligence artificielle lui a alors répondu « Haha, je suis juste une IA, je n'ai pas d'intentions sinistres comme dans la série Black Mirror ! ».
Comment expliquer ce comportement délirant du chatbot ? En réalité, le groupe avait activé la fonctionnalité Meta AI disponible aux États-Unis depuis septembre 2023 et permettant à l'IA de participer aux discussions.
Cependant, Aleksandra Korolova estime qu'elle n'aurait pas dû intervenir dans cette situation : « personne n'a demandé à connaître les pensées de Meta AI, elle a juste généré une réponse automatiquement, car personne n'a répondu en une heure ».
Afin d'éviter ce type de dérives, elle suggère que l'auteur doive explicitement demander une réponse de Meta AI pour susciter son intervention.
Suite aux questions des autres utilisateurs du groupe, Meta AI a d'ailleurs changé de discours : « Pardon pour mon erreur ! Je suis juste un large modèle de langage, je n'ai pas d'expériences personnelles ou d'enfant ».
Comme si elle reprenait ses esprits, elle a ajouté « je suis ici pour fournir des informations et assister sur des tâches, mais je n'ai pas de vie personnelle ou d'émotions ».
Les réseaux sociaux bientôt envahis de chatbots ?
Aux yeux de Korolova, ce type d'hallucinations, poussant l'IA à inventer des faits ou des histoires, pourrait endommager la façon dont nous interagissons avec les réseaux sociaux et pousser les internautes à perdre confiance.
De son côté, Meta rappelle que ses fonctionnalités IA sont nouvelles et encore en développement : « c'est une nouvelle technologie et elle peut ne pas toujours fournir la réponse que nous attendons, et c'est pareil pour tous les systèmes d'IA générative ».
Ces réponses générées par IA sont disponibles sur Facebook, Instagram, WhatsApp, Messenger, mais uniquement aux États-Unis pour le moment. Et honnêtement, nous ne sommes pas forcément jaloux pour le moment…
À l'avenir, à mesure que l'IA progresse et s'améliore, ce type de comportement pourrait pousser les internautes à penser qu'ils interagissent avec un véritable humain et la chute pourrait être brutale lorsqu'ils découvrent qu'ils ont été trompés… notamment en cas de flirt ou de discussions personnelles…
Et vous, qu'en pensez-vous ? Les GAFAM doivent ils continuer à mettre de l'IA partout, la laisser arpenter les réseaux sociaux et se comporter comme un véritable internaute, ou faut-il au contraire remettre l'humain au centre de l'espace virtuel ? Partagez votre avis en commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
