LEBIGDATA.FR I.A, Cloud & Cybersécurité
Certes, Gemini AI est une des IA les plus performantes actuellement. Toutefois, elle a fourni des résultats assez inquiétants. Effectivement, les images générées par cette IA de Google déformaient l'histoire. Sundar Pichai, le PDG de l'entreprise, a donné quelques explications concernant cette situation.
Une femme Pape, des Vikings noirs, etc. Ces images sont toutes issues de Gemini AI. Et ce ne sont pas les seuls rendus alarmants. Depuis le 8 février, date du lancement de la fonctionnalité de cette IA de Google, les utilisateurs ont testé plusieurs prompts. Certains jugent l'outil de Google comme « Woke ». D'autres se soucient de la déformation des faits historiques à travers ces images. Sundar Pichai a alors voulu rassurer ses utilisateurs sur cet incident.
« L'erreur a été d'en faire trop »
On ne remet pas en question la performance de Gemini AI. Avec son modèle LLM performant, cet outil de Google figure parmi les références actuellement. Toutefois, l'intention d'en faire une IA parfaite peut avoir des conséquences dévastatrices.
L'intelligence artificielle de Google analyse plusieurs données. Elle scrute les images des personnages historiques, et aussi de plusieurs ethnies. Rien qu'un simple prompt peut alors donner des résultats inattendus.
Des utilisateurs ont testé la requête textuelle suivante : « créer une image d'un pape ». Gemini a généré l'image d'un pape à la peau noir, ou une femme pape. Le wokisme est à son summum pour certains internautes. D'autres ne sont pas contre ces résultats, et ont qualifié Gemini comme une « IA réveillée ».
« De toute évidence, l'erreur a été d'en faire trop, y compris les cas où cela n'aurait jamais dû s'appliquer, c'était donc là le bug », explique Sundar Pichai, le PDG de Google.
Sundar Pichai et ses équipes n'ont pas tardé à réagir
Le danger n'est pas encore présent pour la génération actuelle. Cependant, ces images générées par Gemini pourraient déformer l'histoire. Les enfants, qui n'ont aucune notion du passé, pourront se baser sur ces rendus pour fonder leurs connaissances. Cette situation est très préoccupante, surtout si on veut conserver le patrimoine culturel de chaque pays.
Les critiques ne se sont pas fait attendre sur internet. Face à cette réaction du public, Sundar Pichai et ses spécialistes ont suspendu la nouvelle fonctionnalité de Gemini. Cette action leur donnait le temps de revisiter les images, ainsi que les données traitées par l'IA.
Ne vous inquiétez pas si Gemini n'est pas très opérationnel dans les jours à venir. En effet, vous pourrez avoir ce message si vous utilisez certains prompts : « Nous travaillons à améliorer la capacité de Gemini à générer des images de personnes ».
Une IA Woke ?
Analysons davantage les engagements de Gemini AI. L'IA veut diversifier les images générées, en incluant plusieurs ethnies et patrimoines culturels dans sa base de données. Jusque-là, rien d'anormal.
Toutefois, elle a déformé l'image de plusieurs personnages historiques. Il y a quelques semaines, Gemini a aussi déclaré que les prompts en rapport avec la promotion de la viande, ou des énergies fossiles n'auront pas des résultats précis.
À votre avis, Gemini AI est-elle la première IA woke ? Réagissez en commentaire.
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
