Un jeu en ligne créé par des scientifiques prouve le danger des émotions pour l’IA

Une équipe de chercheurs a créé un site web, emojify.info, où le public peut essayer des systèmes de reconnaissance des émotions en utilisant la webcam ou l’APN d’un smartphone/tablette. Un jeu se concentre sur les grimaces et différentes expressions du visage pour tromper la technologie. Un autre explore comment de tels systèmes peuvent avoir du mal à lire les expressions faciales en contexte.

La reconnaissance faciale et le système de reconnaissance des émotions

La reconnaissance des émotions est une forme de reconnaissance faciale, mais cela va plus loin. Plutôt que d’identifier simplement les gens, il prétend lire les émotions, les sentiments intérieurs des  visages selon le Dr Alexa Hagerty, chef de projet et chercheur à l’Université de Cambridge.

La technologie de reconnaissance faciale, souvent utilisée pour identifier les personnes, a fait l’objet d’un examen minutieux ces dernières années. L’année dernière, la Commission pour l’égalité et les droits de l’homme a déclaré que son utilisation au niveau de la population devrait être interrompue, affirmant que cela pourrait accroître la discrimination policière et porter atteinte à la liberté d’expression.

Système de reconnaissance des émotions : un large spectre d’utilisation

Si  la technologie de reconnaissance faciale est déjà bien connue, peu de gens savent que le système de reconnaissance des émotions est tout aussi courant. Cette technologie est notamment utilisée pour analyser une personne en recherche d’emploi, pour avoir des informations supplémentaires sur les clients, pour assurer la sécurité des aéroports et même pour voir si les étudiants sont bien engagés dans leur cursus. 

Taigusys, une entreprise spécialisée dans les systèmes de reconnaissance des émotions dit avoir utilisé cette technologie dans différents contextes allant des maisons de retraite aux prisons. Plus tôt cette année, la ville indienne de Lucknow envisage d’utiliser cette technologie pour repérer la détresse chez les femmes à la suite du harcèlement. Cette décision a suscité des critiques de la part des organisations de défense des droits numériques entre autres.

La technologie de reconnaissance des émotions peu fiable

Le nouveau projet permet aux utilisateurs d’essayer la technologie de reconnaissance des émotions. Le site note qu’aucune donnée personnelle n’est collectée et que toutes les images sont stockées sur l’appareil de l’utilisateur. Dans un jeu, les utilisateurs sont invités à faire des grimaces pour simuler des émotions et voir si le système est dupé. Cette technologie prétend lire les émotions.  Mais en réalité, le système lit les mouvements du visage qu’il associe ensuite à une émotion.  Un sourire par exemple signifie que la personne est heureuse.

Ce jeu révèle que la reconnaissance des émotions se fie davantage aux expressions du visage plus qu’aux véritables ressentis de la personne. Certains chercheurs en reconnaissance des émotions disent être conscients de ces limites. D’autres espèrent que ce projet pourra sensibiliser à la technologie et favoriser la discussion autour de son utilisation. Vidushi Marda, chargé de programme principal à l’organisation de défense des droits de l’homme, a déclaré pour sa part qu’il était crucial de faire une pause sur le marché en pleine croissance des systèmes de reconnaissance des émotions.

Pin It on Pinterest