Accueil > Intelligence artificielle > Amazon vend sa reconnaissance faciale à la police, les experts s’alarment
amazon reconnaissance faciale police lettre ouverte

Amazon vend sa reconnaissance faciale à la police, les experts s’alarment

Les experts en intelligence artificielle du monde entier demandent à Amazon de ne plus vendre sa technologie de reconnaissance faciale  » Rekognition  » à la police. Pour cause, ils craignent que cette IA discrimine les personnes de couleur à cause de biais révélés par une récente étude…

Début 2019, Matthew Wood et Michael Punke d’Amazon ont publié plusieurs billets sur le blog officiel de AWS. Ces billets visaient principalement à remettre en question une étude menée par Inioluwa Deborah Raji, Joy Buolamwini critiquant la technologie de reconnaissance faciale Rekognition d’Amazon. Cette étude démontrait que l’IA faisait davantage d’erreurs lorsqu’elle tentait d’identifier le genre des femmes de couleur que celui des femmes blanches.

Face à cette  » tentative de réfuter les résultats  » de l’étude, de nombreux experts en intelligence artificielle viennent de publier une lettre ouverte à Amazon. Jusqu’à présent, 27 chercheurs ont signé le document. Parmi eux, on compte des scientifiques de renom en provenance de Facebook, Google, ou d’universités diverses. Le scientifique en IA Yoshua Bengio, qui vient de recevoir le Turing Award, s’est également joint au mouvement.

A travers cette lettre, les chercheurs demandent à Amazon de ne pas ignorer les études menées par des chercheurs sur son logiciel. Rappelons en effet que les  » biais racistes  » sont l’un des plus grands problèmes des technologies de reconnaissance faciale à l’heure actuelle.

Pour cause, l’intelligence artificielle sur laquelle reposent ces technologies est généralement créée et nourrie aux données par des hommes blancs. De fait, cette IA tend à percevoir le monde à travers les yeux d’un homme blanc. C’est d’ailleurs la raison pour laquelle IBM a entraîné son IA avec un million de visages plus diversifiés pour rendre son IA moins  » raciste « .

L’intelligence artificielle d’Amazon pourrait discriminer les personnes de couleur

Compte tenu de ce biais, les chercheurs demandent à Amazon de cesser de vendre sa technologie Rekognition aux autorités. Pour cause, dans un tel cas d’usage, cette forme de  » discrimination  » pourrait poser de graves problèmes. Par exemple, la même IA pourrait suspecter plus facilement les personnes de couleur d’être des criminels. Elle pourrait aussi tout simplement confondre deux personnes de couleur et causer du tort à un innocent.

Pour soutenir ces chercheurs, l’American Civil Liberties Union a également publié un communiqué. Selon cette association,  » la reconnaissance faciale confère aux gouvernements le pouvoir de suivre, contrôler et blesser les citoyens, mais particulièrement les personnes de couleur, les migrants, les minorités religieuses, et autres communautés qui sont depuis longtemps victimes des abus de surveillance « .

Ainsi, l’ACLU estime que  » les entreprises qui cherchent à faire du profit en exploitant cette technologie menaçante ne doivent pas se dédouaner de la responsabilité sur les problèmes que peuvent causer les systèmes qu’elles créent. Elles doivent entièrement cesser de vendre la reconnaissance faciale aux gouvernements « .  Pour l’heure, Amazon n’a pas encore réagi…

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Send this to a friend