LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'intelligence artificielle Google Gemini semble avoir beaucoup de mal à admettre l'existence de la race blanche. Même en lui demandant de générer des images de rois européens médiévaux ou d'inventeurs célèbres, elle représente systématiquement des personnes de couleur. Découvrez les exemples édifiants partagés sur le web, et comment l'idéologie woke des cadres de Google s'immisce dans son IA…
Faut-il faire disparaître l'homme blanc ? C'est ce que semble penser Google, si l'on se fie aux images produites par sa nouvelle IA générative, ImageFX, incorporée au chatbot Gemini.
Cette intelligence artificielle est très performante, et capable de produire des images fidèles aux prompts textuels soumis par l'utilisateur. Elle surpasse même MidJourney V6 ou DALL-E 3 en termes de compréhension…
Sauf si vous tentez de générer une image représentant un homme blanc. Même si vous lui demandez de représenter un roi médiéval d'Angleterre ou autre pays d'Europe, ImageFX vous proposera des hommes noirs, asiatiques ou indiens.
Pourtant, il n'y avait quasiment aucun immigré extra-européen à cette époque. Il en va de même pour un roi de France du XVIIIème siècle, un philosophe grec, des chevaliers anglo-saxons, les trois mousquetaires, ou même les chevaliers de la Table ronde.
Il semble quasiment impossible de créer une image d'un homme blanc, même en lui demandant de représenter les inventeurs de l'électricité ou la découverte de la gravité par Newton ! Alors, comment expliquer cette aberration systématique ?
Google Gemini, la gentille IA woke et inclusive
La réponse tient en un mot : le wokisme. Un mouvement venu des États-Unis, initialement né dans les années 1950. À l'origine, il fait référence à la lutte contre les inégalités sociales, raciales, de genre, et d'autres formes d'oppression.
Toutefois, depuis plusieurs années, cette mouvance a été amplifiée par l'activisme en ligne et sur les réseaux sociaux, au point de s'importer en Europe et de basculer dans l'extrême.
Beaucoup estiment qu'il va trop loin dans la polarisation et la politisation de diverses questions sociales, jusqu'à nourrir le racisme envers les blancs. Et Google ImageFX illustre parfaitement cette dérive.
Tout comme Disney se force à réécrire ses classiques en remplaçant les protagonistes par des personnages racisés, Google semble avoir jugé bon de réécrire l'histoire en « annulant » l'existence de l'homme blanc.
L'IA modifie vos prompts pour ajouter de la diversité
Pour bien comprendre ce phénomène, il faut se pencher sur le fonctionnement des générateurs d'images. Afin d'être capables de produire des photos correspondant au prompt de l'utilisateur, ces IA sont entraînées sur des bases de données composées d'images annotées.
En théorie, après cette phase d'entraînement, l'IA est capable de comprendre à peu près n'importe quel prompt et de générer une image illustrant la description. C'est le cas d'outils comme Stable Diffusion, le générateur open source et sans filtre de Stability AI.
Toutefois, afin d'éviter la controverse et les détournements, beaucoup d'entreprises du domaine de l'IA incluent des filtres pour interdire à leurs outils de produire du contenu pornographique, violent ou encore de représenter des personnes existantes.
C'est le cas d'OpenAI avec DALL-E, ou encore de MidJourney. Si vous tentez de créer une image gore ou érotique avec ces logiciels, le prompt sera automatiquement bloqué.
De même, en amont des élections américaines, MidJourney a décidé de bannir les prompts visant à représenter les candidats. Le but est d'éviter les tentatives de manipulation de l'information et d'influence des électeurs.
Or, avec ImageFX, Google semble être allé encore plus loin. Son IA semble être paramétrée pour produire systématiquement des images inclusives, avec beaucoup de diversité… tout en excluant les blancs, bien évidemment.
Un internaute a confirmé cette théorie en demandant à Gemini d'expliquer le processus par lequel il produit des images. L'IA explique faire « des choix créatifs pour aller au-delà de la représentation stéréotypée ».
Plus précisément, elle ajuste le prompt internement en ajoutant des mots comme « divers, inclusif, sud-asiatique, noir, femelle, non-binaire »…
Gemini génère des images de nazis noirs, Google s'excuse platement
Ironiquement, cette façon de revisiter l'Histoire s'est retournée contre Google. Lorsqu'on demande à Gemini de représenter des soldats nazis, l'IA génère également des personnes de couleur.
C'est ce qui a finalement poussé le géant américain à s'excuser et à reconnaître « des inexactitudes ». Selon la firme, elle a échoué dans sa tentative de créer « un large éventail de personnes ».
L'objectif était de corriger les problèmes de préjugés raciaux de l'IA, critiqués depuis de nombreuses années. En effet, auparavant, il était au contraire reproché à ce type d'outils de représenter davantage les personnes blanches.
Ceci s'explique en partie par le fait que les jeux de données d'entraînement sont constitués de photos issues d'internet et que cette technologie demeure davantage utilisée en Occident. Néanmoins, en voulant éviter ces biais, Google est tombée dans l'extrême inverse.
Qui est Jack Krawczyk, le directeur de produit très engagé à gauche ?
Certains internautes pointent du doigt le directeur de produit de Gemini, Jack Krawczyk, pour expliquer cet étrange comportement de l'IA. En parcourant l'historique de ses tweets, on s'aperçoit que cet homme est très engagé politiquement à gauche.
Bien qu'il soit blanc lui-même, il dénonce très souvent le « racisme systémique » et le « privilège blanc ». Il n'est donc pas surprenant que ce cadre de Google ait choisi d'utiliser l'IA pour faire avancer son agenda politique…
Face au tollé, Google met en pause Gemini
Suite à la mise en lumière de son wokisme extrême, Google Gemini a été ridiculisé sur les réseaux sociaux. Notamment sur X, où de nombreux utilisateurs ont partagé les inepties de l'IA.
Même Elon Musk, propriétaire de la plateforme, s'est allègrement moqué de Google en partageant les créations les plus absurdes de Gemini et les memes les plus drôles sur le sujet.
Selon lui, cet incident a permis au monde entier de découvrir à quel point l'idéologie promue par Google est dangereuse. Rappelons qu'il a lui-même créé sa propre entreprise d'IA, X.ai, dont l'une des priorités est de combattre le wokisme.
Face à cette vive polémique, Google a finalement décidé de mettre en pause les fonctionnalités de génération d'image de Gemini.
La principale raison avancée est « l'inexactitude » de ses représentations historiques. Même les personnages historiques, tels que les Pères Fondateurs des Etats-Unis, étaient dépeints comme des personnes de couleur.
Une nouvelle version améliorée sera relâchée prochainement. Néanmoins, Krawczyk affirme que l'IA continuera de favoriser les personnes non-blanches lorsqu'il s'agira de générer des personnes sans identité spécifique…
Et vous, qu'en pensez-vous ? Est-ce une bonne chose que Google Gemini refuse de générer des images à l'effigie d'hommes et de femmes blanches ? Avons-nous besoin d'une IA woke ?
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
Un seul mot : communisme.
Vos rédacteurs travaillent aussi pour Valeurs Actuelles ou vous avez l’exclusivité de leur filsdeputerie ?
Bonjour MauVi, dénoncer le racisme vous pose problème ?
« Race blanche », « Wokisme », « Racisme anti-blanc » : beau vocabulaire de fachos. Ne jouez pas les anti-racistes quand vous faites partie du problème.
Donc selon vous cette IA n’est pas discriminatoire ?
Pfff … Je lis souvent des articles sur ce site que je trouvais jusque là intéressant. Mais depuis quelques temps, je tombe sur tes articles qui sont orientés à l’extrême droite pour ne pas dire vers le suprémacisme blanc … Tu devrais toi et ta clique de la rédaction postuler chez valeurs actuelles, cnews ou encore BFMTV … Ce site devient un ramassis de conneries … Dommage …
Étonnant de constater que seules certaines communautés ont le droit de dénoncer le racisme… indignation à géométrie variable.