LEBIGDATA.FR I.A, Cloud & Cybersécurité
Amazon a récemment abandonné un système de Machine Learning conçu pour automatiser le passage en revue des CV des candidats à ses offres d'emploi. Pour cause, l'intelligence artificielle discriminait les femmes.
L'automatisation est l'une des clés du succès d'Amazon. Que ce soit pour gérer ses entrepôts pour ajuster les prix de sa plateforme de e-commerce, la firme de Seattle compte depuis bien longtemps sur l'intelligence artificielle.
En 2014, alors que l'entreprise américaine s'apprêtait à se lancer dans une vague de recrutements, elle a décidé de créer un système de Machine Learning capable d'automatiser les processus de sélection. Cette IA, capable de passer en revue les CV des candidats, était conçue pour déceler les meilleurs talents dans sans intervention humaine.
L'outil fonctionnait en donnant une note de 1 à 5 étoiles aux différents postulants aux offres d'emploi. Malheureusement, en 2015, Amazon s'est aperçue que son système discriminait les femmes candidates aux postes techniques comme celui de développeur logiciel.
Amazon : entraînés sur des CV d'hommes, les algorithmes en ont déduit que les femmes étaient incompétentes
Pour cause, les modèles de Machine Learning d'Amazon avaient été entraînés en observant les patterns dans les CV soumis à l'entreprise au cours des 10 années précédentes. Or, compte tenu de la prédominance masculine dans l'industrie de la tech, la majorité de ces CV provenaient d'hommes.
De fait, le système d'Amazon en a déduit que les candidats masculins étaient préférables. L'IA a donc pénalisé les CV incluant le mot » féminin « , comme » capitaine du club de football féminin « . Elle a également attribué un mauvais score aux dîplômées d'universités pour femmes.
L'entreprise américaine a alors tenté de modifier le programme pour qu'il cesse de prendre en compte ces termes spécifiques, mais rien ne garantissait que le système cesserait la discrimination pour autant. Début 2017, Amazon a finalement décidé de dissoudre l'équipe en charge du projet, car les exécutifs de la firme n'y croyaient plus.
L'échec de cette expérience offre un bon aperçu des limites du Machine Learning. Même si le Big Data peut épauler les départements des ressources humaines, la technologie n'est pas encore suffisamment aboutie pour remplacer les recruteurs humains.
- Partager l'article :
