LEBIGDATA.FR I.A, Cloud & Cybersécurité
À Detroit, un homme poursuit la police pour l'avoir arrêté à tort sur la base de la reconnaissance faciale. Le parti pris de l'IA et une mauvaise photo source ont donné lieu à cette fausse accusation.
Rappel des faits
Le département de police de Detroit a arrêté Robert Williams en 2019 après avoir examiné les images d'un vol à l'étalage. Un détective a utilisé la technologie de reconnaissance faciale sur une image pixélisée de la vidéo, et le système a signalé Williams comme une correspondance potentielle sur la base d'une photo de permis de conduire. Mais comme le note le procès, la reconnaissance faciale est souvent biaisée, en particulier avec les sujets noirs et à cause d'une image de mauvaise qualité.
Par la suite, le département de la police a présenté une série de photos, incluant celle de Williams, à un agent de sécurité qui n'avait pas réellement été témoin du vol. Lorsque celui-ci a désigné Robert Williams comme suspect, la police a pu obtenir un mandat d'arrêt. Suite à quoi, William a été arrêté et a passé 30 heures dans un centre de détention.
Une plainte déposée par l'ACLU
L'ACLU (American Civil Liberties Union ou Union américaine des libertés civiles) a intenté une action au nom de Robert Williams, qu'elle qualifie de première personne américaine arrêtée à tort sur la base de la reconnaissance faciale.
L'ACLU affirme que la police de Detroit a utilisé la reconnaissance faciale dans des circonstances dont elle aurait dû savoir qu'elle produirait des résultats peu fiables, puis a omis de façon malhonnête de mentionner les lacunes du système. La mauvaise qualité de l'image, le parti pris racial connu des systèmes de reconnaissance en font partie.
Une enquête bâclée
Le ministère lui-même a reconnu que l'arrestation de Williams était fondée sur un travail d'enquête bâclé et d'autres erreurs. Mais la plainte souligne que cet incident n'est pas un cas isolé, indiquant une deuxième arrestation injustifiée impliquant un homme noir mal identifié par un dispositif de reconnaissance faciale. Cet homme, Michael Oliver, a aussi poursuivi le département l'année dernière. En dehors de Detroit, un autre homme noir a aussi intenté une action en justice pour une arrestation injustifiée basée sur la reconnaissance faciale.
Des milliers d'organismes chargés de l'application de la loi auraient utilisé une technologie de reconnaissance faciale pour identifier les suspects. Mais les polémiques doublées de réaction brutales ont conduit plusieurs villes à interdire cette pratique, tandis que Microsoft, IBM et Amazon se sont engagés à ne pas mettre leurs systèmes à disposition de la police.
- Partager l'article :
