Vous cherchez un hôtel pour vos prochaines vacances ? Dans ce cas, mieux vaut ne pas vous fier aveuglément aux résumés générés par l’IA de Tripadvisor.
Comme le révèle The Guardian, l’outil d’IA de la plateforme, chargé de résumer les avis des voyageurs, abuse. Elle a tendance à passer sous silence certaines critiques pourtant très graves. Résultat : des établissements au passé inquiétant peuvent apparaître comme des endroits presque parfaits.
L’hôtel au Cap-Vert par exemple. L’IA le présente comme un établissement « impeccable ». Seulement, elle a omis de mentionner qu’il fait l’objet de poursuites judiciaires après une importante intoxication alimentaire. Ce, selon une enquête de l’association de consommateurs Which?.
Même scénario en Turquie. Pour un complexe hôtelier visé par plusieurs plaintes pour harcèlement sexuel, le chatbot préfère mettre en avant un « service amical ». Les accusations les plus sérieuses sont simplement résumées comme quelques « manquements au service ».
Pourquoi l’IA de tripadvisor agit de la sorte ?
Eh bien au fait, les modèles d’IA ont un sérieux problème. Ils ont souvent tendance à lisser les informations et à présenter une version plus positive de la réalité.
Par exemple, l’objectif de Tripadvisor est d’aider les voyageurs à comprendre rapidement ce que pensent les autres clients. Beaucoup consultent d’ailleurs les avis à une étoile pour repérer les problèmes les plus sérieux et vérifier s’ils reviennent régulièrement.
Et le chatbot lui fait exactement l’inverse. Les critiques les plus sévères sont atténuées, voire totalement absentes du résumé. Selon Duncan Brumby, professeur en interaction homme-machine à l’University College London, cette tendance viendrait du fonctionnement même des modèles d’IA.
Ils cherchent naturellement à produire des réponses équilibrées et polies. Ils évitent les formulations trop dures et adoptent généralement un ton excessivement conciliant.
Leurs garde-fous peuvent aussi les pousser à contourner certains sujets sensibles, comme les agressions sexuelles ou le harcèlement. Le problème, c’est que ce sont précisément les informations que les voyageurs souhaitent connaître avant de réserver.
Alors, que faire ?
Pour Rory Boland, rédacteur en chef de Which? Travel, ce fonctionnement pose un vrai problème. Selon lui, Tripadvisor devrait revoir la fiabilité de ses résumés générés par l’IA.
En attendant, il recommande aux voyageurs de lire eux-mêmes les avis. Notamment les commentaires les plus négatifs, et de comparer avec d’autres plateformes avant de réserver.
Tripadvisor, de son côté, assure avoir mis en place des protections. L’entreprise explique supprimer automatiquement les résumés générés par l’IA lorsqu’un établissement est lié à des incidents graves.
Genre, des décès, des agressions sexuelles ou des cas d’empoisonnement. Elle indique également vérifier les situations où des avis auraient été associés au mauvais hôtel.
Malgré ces critiques, la plateforme estime que son outil remplit son rôle en permettant aux utilisateurs de parcourir rapidement les avis. Ce, tout en leur laissant accès aux commentaires complets.
Quoi qu’il en soit, ce n’est pas la première fois que l’IA crée des problèmes aux voyageurs. Alors, conseil ! Vous qui utilisez cette technologie dans presque tout ce que vous faites, vous n’êtes pas seul, mais prudence ! Les chatbots pourraient vous induire en erreur.
- Partager l'article :
