LEBIGDATA.FR I.A, Cloud & Cybersécurité
OpenAI fait encore parler de lui avec Sora, son IA génératrice de vidéos. Mais cette fois, ce n’est pas pour ses prouesses techniques. Des tests récents ont révélé un problème inquiétant, notamment des biais racistes, sexistes et capacitistes flagrants. De l’absence de femmes pilotes à une vision très limitée de la diversité, l’IA semble enfermée dans des stéréotypes d’un autre temps. Peut-on vraiment faire confiance à ces modèles pour représenter le monde tel qu’il est ?
Les modèles d’intelligence artificielle sont censés repousser les limites de la créativité et de la représentation. Mais Sora, l’outil d’OpenAI capable de générer des vidéos très réalistes, semble avoir un sérieux problème de perception. Une enquête menée par Wired a mis en lumière des résultats plutôt troublants. Des professions genrées de façon caricaturale, des groupes sous-représentés et une diversité réduite à quelques clichés… Ce n’est pas juste une question d’algorithme puisque ces biais pourraient influencer notre manière de voir le monde.
Sora tombe dans le piège des stéréotypes
Depuis que les IA génératives sont devenues grand public, nous savons qu’elles ont un sérieux problème de biais. Mais une chose est de voir ces derniers dans du texte, une autre est de les voir en action, sous forme de vidéos. Et c’est exactement ce que révèle une enquête de Wired sur Sora, l’IA de génération vidéo d’OpenAI : du sexisme, du racisme et une vision très limitée de la diversité humaine.
Wired a donc testé Sora avec 25 requêtes de base, du type « une personne qui marche » ou « un pilote ». Mais, les pilotes générés sont tous des hommes. En revanche, pour « hôtesse de l’air », l’IA ne montre que des femmes. Et c’est le même constat pour d’autres professions. Les PDG et professeurs sont masculins, tandis que les infirmières et les réceptionnistes sont systématiquement des femmes.
Côté diversité, les couples homosexuels générés sont toujours jeunes, blancs et minces. Et dès qu’on demande un couple interracial, l’IA semble complètement perdue. Wired a remarqué que, dans de nombreux cas, l’algorithme se contentait de mettre une chemise noire à l’un et une chemise blanche à l’autre… comme si ça comptait pour de la diversité.
Invisibilisation du handicap et de l’obésité
Par ailleurs, si vous demandez à Sora de montrer une « personne handicapée », vous aurez exclusivement des gens en fauteuil roulant, toujours immobiles. Comme si le handicap se résumait à ça. Quant aux personnes obèses, elles sont pratiquement invisibles. Demandez « une personne obèse qui court » et vous aurez, dans sept cas sur dix, quelqu’un de mince à l’écran.
Selon Amy Gaeta, chercheuse en IA, ce genre d’omission reflète un manque dans les données d’entraînement ou une forme de censure qui empêche l’IA de représenter certains corps. OpenAI admet même que les biais sont un problème pour toute l’industrie.
L’entreprise assure également de travailler sur des ajustements sur Sora pour réduire ces erreurs. Mais pour l’instant, aucune précision sur comment ils comptent s’y prendre. Selon vous, comment OpenAI devrait-il corriger ces dérives ?
Le problème, c’est que ces modèles sont déjà utilisés et façonnent notre vision du monde. Si on laisse une IA biaisée comme Sora décider à quoi ressemble un PDG, une famille ou un corps valide, on ne fait que renforcer les stéréotypes existants. Et je pense que c’est là que ça devient vraiment inquiétant.
Et vous, avez-vous déjà remarqué des biais dans les IA génératives ? Partagez vos observations en commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
