LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un ancien chauffeur d'Uber intente une action en justice pour un logiciel de reconnaissance faciale « raciste ». Le conducteur britannique allègue que son compte a été illégalement désactivé lorsque le logiciel de l'entreprise a décidé qu'il n'était pas celui qu'il prétendait être. Il accuse la plateforme de discrimination raciale indirecte dans une affaire juridique.
Une action soutenue par l'IWGB
Le chauffeur noir, qui a travaillé sur la plateforme Uber de 2016 à avril 2021, a déposé une plainte auprès du tribunal du travail alléguant que son compte avait été illégalement désactivé. Ceci, après que le logiciel de vérification faciale utilisé pour connecter les chauffeurs à l'application de covoiturage a décidé qu'il n'était pas celui qu'il prétendait être.
L'Union des travailleurs indépendants de Grande-Bretagne (IWGB) soutient l'action. Celle-ci a affirmé qu'au moins 35 autres conducteurs avaient vu leur enregistrement auprès d'Uber résilié en raison d'erreurs présumées avec le logiciel depuis le début de la pandémie. L'association demande à Uber de supprimer « l'algorithme raciste » et de réintégrer les conducteurs licenciés.
Des affirmations totalement infondées selon Uber
Uber dit « réfuter fermement les affirmations totalement infondées » et que l'entreprise était « déterminée à lutter contre le racisme et à être une référence en termes d'égalité, à la fois à l'intérieur et à l'extérieur de l'entreprise ». La société a déclaré que les contrôles étaient « conçus pour assurer la sécurité de tous ceux qui utilisent l'application en s'assurant que le bon conducteur utilise son compte ». Les chauffeurs peuvent choisir la vérification humaine. Et quand ils choisissent la technologie, « il y a toujours un minimum de deux expertises humaines avant toute décision de retirer un conducteur ».
Uber utilise le logiciel depuis avril 2020. En 2019, Microsoft, qui fabrique le logiciel, a reconnu que le logiciel de reconnaissance faciale ne fonctionnait pas aussi bien pour les personnes de couleur. Le système pouvait ne pas les reconnaître. Des études sur plusieurs progiciels de reconnaissance faciale ont montré que les taux d'erreur lors de la reconnaissance des personnes à la peau plus foncée étaient plus élevés que chez les personnes à la peau plus claire. Et ce, malgré le fait que Microsoft et d'autres aient amélioré les performances.
Une vérification depuis une photo enregistrée de l'utilisateur
Uber a déclaré que son logiciel ne reposait pas sur la numérisation d'un grand nombre de visages, une technique qui a conduit à de nombreux biais. Au contraire, l'entreprise vérifie une photo téléchargée du conducteur par rapport à son selfie fraîchement soumis. À Londres, neuf chauffeurs privés sur dix sont des Britanniques noirs, des Noirs, des Britanniques asiatiques, des Asiatiques ou métis, selon une récente enquête de TfL.
L'utilisation continue par Uber d'un algorithme de reconnaissance faciale inefficace sur les personnes de couleur est discriminatoire, a déclaré Henry Chango Lopez, secrétaire général de l'IWGB. « Des centaines de chauffeurs et de coursiers qui ont servi pendant la pandémie ont perdu leur emploi sans aucune procédure régulière ou preuve d'acte répréhensible ». Uber déclare que toute personne supprimée de la plateforme peuvent faire appel de la décision, avec un examen humain supplémentaire. Microsoft a refusé de commenter l'affaire.
- Partager l'article :
