LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'algorithme d'intelligence Perspective de Google, censé lutter contre les discours haineux sur internet, comporte de nombreux biais racistes envers les afro-américains. C'est ce que révèle une enquête menée par les chercheurs de l'Université de Washington…
Afin de protéger les minorités de la haine et de la discrimination sur le Web, de nombreuses entreprises se tournent vers l'intelligence artificielle. C'est par exemple le cas de Google avec son algorithme Perspective chargé de détecter automatiquement les propos haineux pour les modérer sur internet.
Malheureusement, comme le dit le proverbe, l'enfer est pavé de bonnes intentions. En examinant ces outils IA, les chercheurs de l'Université de Washington ont découvert de nombreux biais » anti-noirs « .
L'algorithme anti-haine de Google a hérité des biais de ses créateurs
Dans le cadre de leur étude, les scientifiques ont examiné la façon dont les humains ont annoté une base de données regroupant près de 100 000 tweets. Cette database avait été utilisée pour entraîner des algorithmes à détecter les discours haineux.
Ce faisant, ils ont découvert que les personnes chargées d'étiqueter les tweets tendant à considérer comme toxiques les tweets rédigés en anglais vernaculaire afro-américain (AVAE). Naturellement, ce biais a été transmis aux algorithmes entrainés à partir de ces données.
En entraînant plusieurs systèmes IA sur cette base de données, les chercheurs ont eu la confirmation que les algorithmes associaient l'anglais afro-américain aux discours haineux.
Par la suite, plusieurs algorithmes dont Perspective ont été testés sur une base de données de 5,4 millions de tweets. Dans chacun de ces tweets, l'auteur indiquait son ethnie. Les tweets rédigés par des afro-américains ont 1,5 à 2 fois plus de chances d'être identifiés comme toxiques par l'IA.
De fait, de nombreuses publications anodines rédigées par des afro-américains risquent d'être modérées sans raison valable. Ainsi, alors qu'ils sont censés résoudre le problème de la discrimination en ligne, les algorithmes viennent finalement aggraver la situation…
- Partager l'article :
