LEBIGDATA.FR I.A, Cloud & Cybersécurité
Les chatbots alimentés par l’intelligence artificielle répondent aujourd’hui à des millions de questions chaque jour. Mais lorsqu’ils diffusent une information erronée ou trompeuse, qui doit être tenu responsable ?
J’ai posé cette question à Google et l’AI Overviews m’a répondu : « Juridiquement et moralement, la responsabilité incombe à l’utilisateur ». La justice allemande n’est toutefois pas du même avis.
Au début du mois, un tribunal allemand a estimé que Google était responsable des résumés générés par son IA dans les résultats de recherche. Les juges ont rejeté l’idée que les internautes savent qu’il ne faut pas faire confiance aveuglément à une IA.
Ou qu’ils peuvent toujours vérifier les informations ailleurs. Pour eux, ces réponses reflètent directement l’activité commerciale de Google et engagent donc sa responsabilité.
Un débat qui dure depuis les débuts d’Internet
Pendant longtemps, une distinction existait entre les simples intermédiaires techniques et les éditeurs. Un opérateur téléphonique, par exemple, transporte les conversations sans être responsable de leur contenu.
Un journal, en revanche, choisit les informations qu’il publie et peut être poursuivi si celles-ci sont diffamatoires ou illégales. Les géants du numérique ont souvent cherché à profiter des deux statuts.
Ils se présentent comme de simples intermédiaires lorsqu’il s’agit d’échapper aux poursuites. Cependant, ils adoptent le rôle d’éditeur lorsqu’ils souhaitent contrôler ou mettre en avant certains contenus.
Aux États-Unis, l’article 230 du Communications Decency Act de 1996 protège largement les plateformes en les exemptant de responsabilité pour les contenus publiés par leurs utilisateurs.
Cette protection fait l’objet de débats depuis des années notamment avec les réseaux sociaux. Tant qu’ils affichaient simplement les publications dans l’ordre chronologique, ils jouaient essentiellement un rôle de relais.
Seulement, avec les algorithmes qui sélectionnent et mettent en avant certains contenus, beaucoup estiment qu’ils exercent désormais un véritable pouvoir éditorial.
Les résumés générés par l’IA de Google vont encore plus loin. Contrairement au moteur de recherche classique, qui se contente de renvoyer vers des sites tiers, ceux-ci reformulent les informations pour produire une réponse originale.
Elle sélectionne les éléments qu’elle juge pertinents, les réécrit et les présente comme une synthèse. Un travail qui ressemble davantage à celui d’un rédacteur qu’à celui d’un simple intermédiaire technique.
Alors, qui doit être tenu responsable des erreurs de l’IA ?
Pour la justice allemande, un agent conversationnel doit être considéré comme un représentant de l’organisation qui l’utilise. Si un rédacteur humain publie une information erronée, son employeur en répond.
Si un représentant signe un contrat au nom d’une entreprise, celle-ci est engagée. De la même manière, si un chatbot fournit une mauvaise information ou prend une décision au nom d’une société, cette dernière devrait en assumer les conséquences.
Laisser les entreprises se réfugier derrière les erreurs de leur IA créerait un dangereux précédent. Elles auraient tout intérêt à remplacer des rédacteurs, des juristes ou même certains professionnels par des systèmes automatisés. Ce, tout en échappant aux responsabilités lorsque ces derniers commettent des erreurs.
Cette question devient d’autant plus importante que les assistants IA sont appelés à intervenir dans de plus en plus de domaines. Visa et OpenAI travaillent notamment sur des assistants à même d’effectuer des achats au nom des utilisateurs.
Si un tel assistant commande un produit par erreur, qui devra rembourser le client ? Sans règles claires sur la responsabilité, il sera difficile d’instaurer la confiance nécessaire au développement de ces services.
Qu’est-ce que ce point de vue allemand pourrait changer ?
Pour Google, l’enjeu est particulièrement important. Si la décision allemande est confirmée, elle pourrait fragiliser le déploiement des Aperçus IA.
Selon The Guardian, des tests réalisés plus tôt dans l’année estimaient que ces résumés présentaient un taux d’erreur d’environ 10 %. Rapporté aux plus de 5 000 milliards de recherches effectuées chaque année, cela représenterait près de 16 000 réponses erronées chaque seconde.
Si beaucoup de ces erreurs restent anodines, certaines peuvent porter atteinte à la réputation d’une personne ou provoquer un véritable préjudice. Un exemple est déjà devant les tribunaux.
Plus tôt cette année, l’IA de Google a présenté à tort le violoniste canadien Ashley MacIsaac comme un délinquant sexuel. L’artiste a déposé une plainte en Ontario, toujours en cours d’examen.
Si cette affaire contraint Google à améliorer son IA afin de réduire fortement ce type d’erreurs, ce sera une bonne nouvelle pour tout le monde. Les utilisateurs obtiendront des informations plus fiables et les personnes citées éviteront d’être victimes de fausses accusations.
Plus largement, une responsabilité accrue est essentielle pour remettre en question certains usages actuels de l’IA générative. Les entreprises pourraient hésiter à proposer des avocats virtuels, des médecins numériques ou d’autres assistants spécialisés si elles doivent répondre juridiquement de chacune de leurs erreurs.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
