LEBIGDATA.FR I.A, Cloud & Cybersécurité
Quand les IA deviennent des trolls, même les plus expérimentés peuvent être pris de court. Imaginez recevoir une réponse sérieuse à votre demande, et soudain, une chanson des années 80 surgit à l’écran. C’est exactement ce qui est arrivé à un client de Lindy : l’IA a décidé de lui faire du Rickroll. Et personne ne sait vraiment pourquoi !
L’intelligence artificielle est censée rendre nos interactions plus faciles et rapides, mais elle peut parfois nous réserver des surprises. Récemment, Lindy, une start-up spécialisée dans les assistants IA, s’est retrouvée face à une situation pour le moins cocasse. Son IA a rickrollé un client. Le PDG de Lindy, Flo Crivello, a posté sur X ce scénario, qui n’a pas manqué de devenir virale.
Une leçon pour les assistants IA : éviter les pièges du Rickroll
Apparemment, le Rickroll ne passe pas de mode. C’est ce bon vieux piège internet ! Un classique, qui trompe les gens, avec un lien menant au clip de Rick Astley des années 80. Créé en 2007 sur 4chan durant une fausse vidéo de « GTA IV”, ce gag a fait du chemin. Aujourd’hui, il continue de surprendre, avec plus de 1,5 milliard de vues sur YouTube. Et les IA s’y mettent aussi !
C’est donc un moment inattendu pour la startup ! Surtout lorsque l’un de ses IA, notamment “Lindy”, a fait cette erreur de rickroll à un client. Ce dernier voulait un tutoriel vidéo. Mais l’assistant IA, basée sur ChatGPT, a mal compris ce qui devait suivre après le “Je vais vous envoyer une vidéo”. Elle a donc fourni le lien vers le célèbre clip « Never Gonna Give You Up » de Rick Astley.
Crivello a tweeté en expliquant : “j’ai réalisé que Lindy était littéralement en train de faire du Rickrolling avec nos clients.” Qui sait ! Cette victime de RickRoll l’a peut-être pris de manière positive, sans même s’en rendre compte.
Comment corriger ces comportements inattendus de l’IA ?
Le PDG et fondateur de Lindy semble perplexe quant à l’origine du sens de l’humour de ses assistants IA. Toutefois, il a précisé que “ces modèles fonctionnent de la manière suivante : ils essaient de prédire la séquence de texte la plus probable”. Ainsi, une phrase comme « Je vais vous envoyer une vidéo » conduit naturellement à « YouTube.com ».
Lors d’une interview, le PDG de Lindy a admis qu’ils avaient corrigé l’erreur — qui s’est déjà produite par le passé —. Et cela, sur « toutes les Lindies« . Heureusement, cet incident a été réglé par un ajout dans le prompt de l’IA : ne plus inclure de rickrolls dans les réponses aux clients.
Crivello est plutôt confiant ! Il estime que ce genre de faute peut diminuer avec le progrès des modèles de langage de grande taille (LLM). Lors de sa transition vers GPT-4, Lindy a su résoudre des problèmes similaires grâce à de simples mises à jour.
Même si cette erreur est bénigne, d’autres peuvent toujours survenir si les entreprises d’IA ne comblent pas leurs lacunes du côté données de formation.
Qu’en pensez-vous ? Le Rickroll est-il toujours aussi amusant ou est-ce devenu un cliché ? Comment auriez-vous réagi à la place du client ? Donnez-nous votre avis
Restez à la pointe de l’information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d’avance.
- Partager l'article :
