LEBIGDATA.FR I.A, Cloud & Cybersécurité
Google a décidé d'interdire tous les pronoms genrés à l'intelligence artificielle sur laquelle repose la nouvelle fonctionnalité » Smart Compose » de son service Gmail. Pour cause, la firme de Mountain View craint d'offenser les personnes sensibles aux problématiques de genre tels que les individus non-binaires.
A l'heure où les questions de genre occupent de plus en plus de place dans le débat politique et social, personne n'a envie de s'attirer les foudres des personnes non-binaires. Comme l'explique Paul Lambert, directeur de produit Gmail chez Google, » toutes les erreurs ne sont pas égales et les erreurs liées au genre sont très graves « .
C'est la raison pour laquelle Google a décidé d'interdire les pronoms genrés à l'intelligence artificielle sur laquelle repose la fonctionnalité » Smart Compose » de Gmail. Pour rappel, cette fonctionnalité introduite en mai 2018 pour les utilisateurs anglophones permet de compléter automatiquement les phrases des utilisateurs.
En janvier 2018, un chercheur de l'entreprise a utilisé cette fonctionnalité pour écrire le message » I am meeting an investor next week, do you want to meet her ? » (je rencontre un investisseur la semaine prochaine, veux tu la rencontrer ?). Malheureusement, l'IA du Smart Compose a proposé le pronom » him » (lui) au lieu de » her » (elle).
L'explication à ce » préjugé » est très simple. Le Smart Compose repose sur la technologie de génération naturelle du langage (NLG). Cette technologie consiste à apprendre à un ordinateur à écrire des phrases en étudiant des patterns et des relations entre les mots issus de corpus de littérature, d'emails et de pages web.
Or, certains secteurs comme la finance et la science ont longtemps été dominés par les hommes. De fait, les textes utilisés pour entraîner cette IA reflètent cette inégalité. A partir des données, l'intelligence artificielle peut facilement déduire qu'un investisseur ou un ingénieur est forcément un homme.
Google préfère éviter toute polémique liée au mégenrage d'utilisateurs
Afin de remédier à ce problème, les ingénieurs de Google ont cherché de nombreuses solutions. Toutefois, aucune tentative ne s'est révélée concluante. C'est pourquoi Google a finalement décidé d'interdire purement et simplement les pronoms genrés à son IA.
Cette décision est compréhensible de la part de Google. Par le passé, la firme de Mountain View a déjà fait l'objet de telles polémiques. En 2015, son intelligence artificielle de reconnaissance d'image avait fait scandale en confondant un couple de personnes noires avec des gorilles. En 2016, la fonctionnalité d'autocomplétion de son moteur de recherche avait proposé la requête anti-sémite » les juifs sont-ils maléfiques ? » lorsque les utilisateurs cherchaient des informations sur les juifs.
Ainsi, les préjugés de l'intelligence artificielle peuvent avoir des conséquences très néfastes pour l'image de Google. Toutefois, alors que Smart Compose sera bientôt disponible en langue française, espagnole, portugaise et italienne, Google sera sans doute confronté à d'autres problèmes liés aux subtilités linguistiques…
- Partager l'article :
