Accueil > Solutions Cloud > IBM > IBM : un million de visages pour rendre l’IA moins raciste
ibm racisme ia

IBM : un million de visages pour rendre l’IA moins raciste

IBM veut essayer de lutter contre les préjugés de l’intelligence artificielle sur laquelle reposent les technologies de reconnaissance faciale. Pour ce faire, la firme vient de déployer un dataset regroupant un million de visages humains d’origines diverses. L’objectif ? Permettre aux développeurs d’entrainer leurs IA à distinguer les personnes de couleur plus efficacement.

La reconnaissance faciale est de plus en plus utilisée dans le monde entier. Si cette technologie peut vous permettre de déverrouiller votre smartphone, elle est désormais aussi utilisée dans plusieurs pays par les autorités à des fins de surveillance.

C’est notamment le cas en Chine, où l’entreprise SenseTime fournit sa technologie à la police pour l’aider à identifier les suspects de crimes. La Metropolitan Police du Royaume-Uni expérimente aussi l’usage de la reconnaissance faciale, et la CNIL s’inquiète aussi face à l’usage croissant de cette technologie en France.

A priori, un outil permettant d’identifier automatiquement les criminels au milieu d’une foule semble bénéfique pour la société. Malheureusement, à l’heure actuelle, l’intelligence artificielle sur laquelle repose la reconnaissance faciale est gangrenée par les préjugés.

Plusieurs études ont prouvé que les différentes technologies de reconnaissance faciale ont beaucoup plus de mal à distinguer les personnes de couleur que les personnes à la peau blanche. En 2016, une étude du Center for Privacy and Technology de l’école de droit de la Georgetown University révélait que les Afro-Américains risquent d’être affectés de façon disproportionnée par cette technologie parce qu’ils sont plus souvent arrêtés par la police.

IBM veut permettre aux IA de reconnaissance faciale de s’entraîner sur des visages diversifiés

De même, une étude publiée en 2019 par le chercheur du MIT Joy Buolamwini révélait que la plateforme de reconnaissance visuelle d’IBM Watson présente un taux d’erreur de près de 35% quand il s’agit d’identifier des femmes de couleur, contre moins de 1% quand il s’agit d’identifier des hommes blancs.

Aujourd’hui, John Smith, lead scientist chez IBM, reconnaît que la reconnaissance faciale peut faire preuve de discrimination. Selon lui, le problème vient du fait que les algorithmes d’IA sont entraînés sur des ensembles de données trop restreints qui ne reflètent pas la diversité du monde réel.

Ainsi, afin de réduire la marge d’erreur et de permettre à la technologie de continuer à évoluer, IBM a décidé d’entraîner son IA sur des ensembles de données plus diversifiés. La firme américaine vient de publier un ensemble de données contenant un million de photos de visages récupérées sur Flickr.

Ces images ont été annotées avec des étiquettes liées à leurs différentes caractéristiques telles que leurs dimensions craniofaciales, leur âge ou leur genre. Les chercheurs d’IBM espèrent que ces données détaillées aideront les développeurs à entraîner leurs systèmes de reconnaissance faciale à identifier les visages de façon plus juste et précise.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Send this to a friend