LEBIGDATA.FR I.A, Cloud & Cybersécurité
En soutien au mouvement Black Lives Matter, et afin de lutter contre la discrimination, IBM renonce à la reconnaissance faciale. Souvent critiquée pour son caractère discriminatoire, cette technologie est jugée trop dangereuse pour la société. Big Blue a rapidement été rejoint par Microsoft, qui refusent désormais de vendre leurs technologies de reconnaissance faciale à la police.
Dans le contexte de révolte du mouvement » Black Lives Matter » contre les violences policières et la discrimination raciale, IBM vient de prendre une décision audacieuse et engagée.
Dans une lettre adressée au Congrès, le CEO de la firme, Arvind Krishna, annonce qu'il ne vendra plus sa technologie de reconnaissance faciale. Le géant américain ne développera plus non plus cette technologie, et n'investira plus non plus dans la recherche.
À travers cette lettre, Big Blue prend fermement position : « IBM s'oppose fermement et ne fermera pas les yeux sur les usages de la technologie de reconnaissance faciale, y compris celle offerte par d'autres vendeurs, pour la surveillance de masse, le profilage racial, la violation des droits de l'Homme et des libertés basiques, ou tout autre but en désaccord avec nos valeurs et nos Principes de Confiance et de Transparence « .
Le chef d'entreprise estime » qu'il est temps de commencer un dialogue national pour déterminer si la technologie de reconnaissance faciale doit être utilisée par les autorités « .
Cette annonce inattendue d'IBM fait l'effet d'un véritable coup de pied dans la fourmilière. Pour cause, jusqu'à présent, Big Blue comptait parmi les leaders de l'industrie naissante de la reconnaissance faciale et faisait figure de précurseur dans le développement de cette technologie d'IA.
Cependant, au fil des dernières années, la firme a fait l'objet de vives controverses liées à la reconnaissance faciale. Cette technologie a souvent été accusée de menacer la confidentialité.
Il lui a aussi été reproché d'être biaisée et encline à la discrimination quant à l'âge ou à l'ethnicité. Ce grave problème, qui concerne aussi bien l'IA d'IBM que celles d'autres vendeurs, a été mis en lumière par les chercheurs Joy Buolawini et Timnit Gebru en 2018. Il rend la technologie inadaptée à un usage par les autorités.
Depuis lors, de nombreux efforts ont été mis en oeuvre pour supprimer les biais de la technologie. IBM a beaucoup travaillé dans ce sens, avec notamment le lancement en 2018 d'un ensemble de données conçu pour réduire les biais dans les données d'entraînement des modèles de reconnaissance faciale.
IBM refuse de prendre le risque que sa reconnaissance faciale encourage les violences policières racistes
Cependant, face au vent de révolte qui souffle sur les États-Unis, il semble clair qu'IBM a décidé de lutter contre la discrimination raciale… ou tout du moins de ne pas ajouter sa pierre à l'édifice.
Dans sa lettre, Krishna appelle aussi à une réforme de la police américaine. Il estime que les affaires de bavures doivent être examinées par la Cour fédérale, et que le Congrès doit modifier la loi sur l'immunité.
En outre, le CEO souhaite que » de nouveaux chemins ouverts et équitables doivent être créés pour permettre à tous les Américains d'acquérir des compétences et de suivre des formations « . Il invite notamment le Congrès à étendre le modèle d'école P-TECH à tout le pays.
Notons qu'IBM n'est pas la seule entreprise à avoir créé polémique à cause de sa reconnaissance faciale. Dans une expérience menée en 2018 par l'American Civil Liberties Union, la technologie Rekognition d'Amazon a associé 28 membres du Congrès à des photos de criminels.
Une autre entreprise nommée Clearview AI a fait scandale avec sa reconnaissance faciale utilisée par de nombreuses entreprises privées et forces de l'ordre. Enfin, en janvier 2020, Facebook a dû payer 500 millions de dollars à cause d'une class-action l'accusant d'utiliser illégalement la technologie.
Il est difficile de prédire l'avenir de la reconnaissance faciale. Impossible de savoir si cette technologie pourra devenir suffisamment éthique pour être acceptée par le grand public. Cependant, la décision ferme d'IBM risque fort de faire l'effet d'un pavé dans la mare…
Amazon et Microsoft ne vendront plus leur reconnaissance faciale à la police
Peu après IBM, Amazon et Microsoft ont à leur tour pris position en décidant de ne plus vendre leurs outils de reconnaissance faciale aux départements de police américains.
Là encore, les deux géants de la tech estiment que cette technologie est trop dangereuse pour être utilisée par les autorités à cause de ses biais et des nombreuses possibilités d'usage abusif.
La décision d'Amazon aura un impact encore plus important, puisque la firme de Seattle vend directement son outil » Rekognition » aux forces de l'ordre. De toute évidence, les législateurs américains n'auront d'autre choix que de réguler cette technologie.
Toutefois, contrairement à IBM qui a choisi de cesser toute activité de R&D liée à la reconnaissance faciale, Amazon préfère se contenter d'interrompre les ventes de son logiciel à la police pendant un an pour laisser au Congrès le temps de mettre en place des règles.
L'entreprise de Jeff Bezos continuera à distribuer son outil à d'autres organisations comme l'International Center for Missing and Exploited Children pour l'aider à mener ses enquêtes sur le trafic d'humains.
Microsoft appelle également les législateurs américains à réguler l'usage de cette technologie. En attendant, la firme de Redmond cesse de vendre sa technologie à la police américaine.
Les GAFAM souhaitent-ils vraiment un usage éthique de l'IA ? Pas si sûr…
Toutefois, selon certains experts, la véritable intention des géants de la tech pourrait être de tourner la règlementation en leur faveur. C'est l'avis de Jameson Spivack, qui étudie l'utilisation de la reconnaissance faciale par les autorités au Georgetown University' Center on Privacy & Technology,
Selon ses dires, » le public n'aime pas la reconnaissance faciale et les GAFAM s'inquiètent que ce sentiment se traduise par une interdiction de cette technologie. C'est pourquoi ils souhaitent prendre les devants et contribuer à sa régulation « .
A ses yeux, les géants de la tech pourraient » soutenir une régulation qu'ils peuvent modifier, qui leur offre des règles leur permettant de continuer à développer cette technologie « .
Rappelons en effet que Microsoft a d'ores et déjà contribué à la régulation de la reconnaissance faciale dans plusieurs Etats. Par exemple, dans l'Etat de Washington, un sénateur employé par Microsoft s'est chargé de rédiger la loi.
Une législation similaire a ensuite été adoptée en Californie, dans le Maryland, le Dakota du Sud ou l'Idaho. De son côté, Amazon veut créer sa propre loi sur la reconnaissance faciale.
Plusieurs chercheurs craignent ainsi que la future réglementation soit inefficace et permette aux entreprises de la tech de continuer leurs activités après que la colère liée au mouvement Black Lives Matter soit estompée.
Selon Maria De-Arteaga de l'UT Austin, qui étudie l'éthique dans le domaine de l'IA, » la position d'Amazon concernant l'usage de la reconnaissance faciale n'a pas vraiment changé. Dans un an, Amazon répondra aux critiques en expliquant qu'elle suit le règlement existant « …
- Partager l'article :
