Le chatbot IA de Air Canada dit n'importe quoi, découvrez les graves conséquences

Le chatbot IA de Air Canada dit n’importe quoi, découvrez les graves conséquences

La récente affaire de l'IA de Air Canada a soulevé une question importante : un chatbot est-il responsable de ce qu'il dit ? Cette compagnie aérienne canadienne a répondu oui à cette question. En cas d'erreur, l'IA peut-elle réellement être tenue comme responsable ? 

Air Canada : le chatbot dit n'importe quoi…Il est responsable de ce qu'il dit

Certaines compagnies aériennes, comme Air Canada, proposent des tarifs réduits aux familles endeuillées. Jake Moffatt, un des passagers de la compagnie aérienne, cherchait justement à acheter un billet tarif décès. Il est passé par le site de Air Canada pour effectuer sa réservation pour Toronto.

Moffatt a discuté avec le chatbot pour avoir toutes les informations nécessaires sur ce tarif préférentiel. Le chatbot lui a proposé de prendre un billet plein tarif et d'effectuer par la suite les démarches pour percevoir la différence de prix. L'IA précise qu'il dispose de 90 jours pour soumettre sa demande et obtenir un remboursement.

Il achète donc son billet plein tarif (en pensant avoir droit au remboursement), l'utilise et entreprend les démarches de remboursement à son retour des funérailles, moins d'une semaine après l'achat de son billet. Malheureusement, Air Canada rejette sa demande et précise qu'il fallait soumettre les pièces justificatives à la réservation. C'était en novembre 2022.

Des mois de démarches et plaintes auprès du tribunal  

Moffatt a poursuivi les démarches de remboursement pendant près de deux mois et demi, sans réponse favorable de la part de la compagnie aérienne. Il a pourtant fourni toutes les pièces justificatives complétés par des captures d'écran de sa conversation avec le chatbot, envoyées à la compagnie en février 2023.

Le chatbot IA de Air Canada dit n'importe quoi, découvrez les graves conséquences

Suite à quoi, Air Canada lui rétorque que l'IA s'est trompée. La compagnie ajoute que Moffatt aurait dû lire la politique de la compagnie sur les tarifs décès sur une page dédiée du site Web. Le remboursement est encore une fois refusé. Le passager finit par déposer plainte et introduit un recours auprès du tribunal

Au tribunal, Air Canada fait valoir qu'elle ne peut être tenue responsable des erreurs commises par le chatbot. La compagnie aérienne précise également que la réponse du chatbot à la demande de Moffatt comprenait un lien vers une section de son site Web décrivant la politique de la société. Celle-ci indique que les demandes de tarif réduit ne sont pas autorisées après le voyage.

Le tribunal statue en faveur du client, et non de l'IA

Pour le tribunal, Moffatt a considéré toutes les informations fournies par le chatbot de Air Canada comme correctes. Il n'a donc pas à vérifier quoi que ce soit auprès d'une autre section du site web, surtout que la compagnie aérienne ne donne aucune consigne allant dans ce sens. Le tribunal ajoute que le client n'est pas supposé connaître toutes les sections du site Web et a le droit de se fier aux réponses du chatbot

Le tribunal a fini par se prononcer en faveur de Moffatt qui percevra au final la différence entre le plein tarif et le tarif décès, à laquelle s'ajoutent les dommages-intérêts. En s'adressant à Air Canada, le tribunal souligne que la compagnie aérienne doit comprendre qu'elle est responsable de toutes les informations figurant sur son site Web. Une évidence, ajoute le tribunal.

En guise de réponse, la compagnie aérienne déclare dans un communiqué qu'elle se conformera aux décisions du tribunal, sans livrer d'autres commentaires. En tout cas, les experts expliquent que les systèmes d'IA sont considérés comme une propriété et n'ont pas les mêmes droits et responsabilités que les humains

Newsletter

Envie de ne louper aucun de nos articles ? Abonnez vous pour recevoir chaque semaine les meilleurs actualités avant tout le monde.

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *