LEBIGDATA.FR I.A, Cloud & Cybersécurité
Des vidéos racistes générées par IA explosent les vues sur TikTok. Pourtant, la plateforme assure qu’elle ne tolère aucun contenu haineux.
Si vous êtes déjà passé sur TikTok, vous savez sans doute que la plateforme est le royaume des danses virales. Les vidéos qui y défilent sont souvent humoristiques et divertissantes. Certains y vendent même des produits. Bref, TikTok, c’était jusque-là cette safe place numérique animée.
Sauf que ces derniers jours, l’ambiance a viré au sombre. Puisque des vidéos racistes créées par l’IA y pullulent. Et le plus inquiétant c’est qu’elles accumulent les vues. Comme si la haine version deepfake était le nouveau contenu tendance.
Des vidéos racistes IA, plus vraies que nature
Il y a quelques jours, Media Matters a tiré la sonnette d’alarme. Sur TikTok, l’organisme de surveillance des médias à but non lucratif a repéré des vidéos haineuses. Des clips courts, mais chargés de stéréotypes raciaux.
Certaines séquences présentent les Noirs comme des singes ou des criminels. Elles les associent à des pastèques ou du poulet frit. D’autres vidéos racistes créées par l’IA reconstituent des scènes violentes issues de l’histoire. On y voit des camps de concentration et des attaques du Ku Klux Klan contre les afro-américains.
Selon Media Matters, ces séquences ont été créées avec Veo 3, l’IA de Google. Lancé en mai dernier, l’outil permet en effet de générer des vidéos à partir de simples instructions textuelles. Bien sûr, les indices ne manquent pas.
Chaque vidéo porte un filigrane « Veo » dans un coin de l’image. D’autres sont accompagnés de hashtags ou pseudonymes évoquant directement Veo 3. En plus, tous ces clips trouvés par l’organisation ne durent que huit secondes. Exactement la limite imposée par la version actuelle de l’IA Google.
Des contenus devenus très viraux malgré les règlements
Ces vidéos ont rapidement gagné en popularité sur TikTok. L’une d’entre elles a même dépassé les 14,2 millions de vues. Preuve que leur viralité dépasse largement l’anecdote.
Et pourtant, en principe, tout cela ne devrait pas être possible. Parce que, sur son site, Google mentionne que l’entreprise « bloquera les requêtes et résultats nuisibles ». Or, dans les faits, ces vidéos racistes ont bien été générées, signées par le watermark “Veo”, puis publiées sans encombre.
Alors, ça veut dire qu’il n’y a aucun contrôle sur ce qui est généré ? Pour l’instant, Google garde le silence.
Du côté TikTok, Ariane de Selliers, porte-parole de la plateforme, assure d’appliquer « de manière proactive des règles strictes contre les discours et comportements haineux.»
Pourtant, ces vidéos racistes créées par l’IA continuent de circuler. The Verge en a même repéré sur YouTube. Wired en a aussi trouvé sur Instagram.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
