Cette IA déshabille des femmes politiques, Meta a pourtant diffusé ses pubs  

Relu par Bastien L., Rédacteur en chef

Meta a des règles simples. Pas de contenus sexuellement explicites, nudité et sexuellement suggestifs dans les publicités. Et surtout, interdiction de promouvoir des applications de type « nudify », qui servent à fabriquer des images dénudées de personnes réelles.

Et pourtant, Meta a diffusé jusqu’à la mi-août des publicités pour Kromix, une application d’édition d’images dopée à l’intelligence artificielle. Son argument commercial était de transformer des photos de personnes réelles en contenus sexuels générés par IA. 

Quel genre de publicités interdites Meta a-t-il diffusé ?

D’abord, vous devez savoir que Kromix se présentait comme un « styliste d’images IA ». En échange d’un abonnement payant, l’application permettait d’importer des photos pour générer différents scénarios.

Cela va de contenus façon « amour Disney » à des mises en scène beaucoup plus problématiques. Elle proposait également de créer automatiquement des vidéos à caractère pornographique.

Dans l’une des publicités repérées par WIRED, une voix présentait Kromix comme une IA « sans restrictions ». Elle précisait que les personnages utilisés étaient des personnes réelles. 

Katie Paul, directrice du Tech Transparency Project, a repéré la campagne. Diffusées sous le slogan « Libérez la magie de l’IA nouvelle génération », les annonces semblaient en outre cibler exclusivement des utilisateurs masculins.

L’une des publicités examinées mettait même en scène une femme ressemblant à une personnalité politique américaine connue. Elle apparaissait devant les drapeaux des États-Unis et du président américain. 

La publicité lançait ensuite un scénario avec la phrase « Et si elle déménageait ? ». Puis, a basculé vers une scène pornographique utilisant un visage identique.

32 pubs passées entre les mailles

En fouillant dans la bibliothèque publicitaire de Meta, WIRED a pu remonter jusqu’au compte à l’origine de la campagne. Celui-ci avait publié 32 publicités au total. Chacune était restée en ligne entre cinq et 46 heures. 

Dans la plupart des cas, elles avaient enregistré dix impressions ou moins. Encore plus étonnant, le compte avait été créé le 3 août et ne comptait aucun abonné. Il n’a donc pas fallu attendre très longtemps avant de voir apparaître ses premières annonces.

Meta affirme utiliser des systèmes automatisés pour contrôler les publicités avant leur diffusion sur Facebook et Instagram. Et pourtant…

Alors, WIRED a commencé à poser des questions à Meta, après quoi les annonces ont disparu. Mais le mal est déjà fait. D’ailleurs, le problème n’est pas nouveau pour l’entreprise.

L’année dernière, le sénateur démocrate Dick Durbin a découvert qu’environ 90 % du trafic vers une autre application de « nudification », Crush, provenait des plateformes de Meta. 

Durant les deux premières semaines de 2025, Meta aurait diffusé au moins 8 010 publicités pour cette application. Et les personnalités politiques sont régulièrement utilisées comme matière première pour ce genre de trucages. Particulièrement, les femmes.

Un problème qui dépasse largement Meta

Au printemps, le Tech Transparency Project a publié une enquête. Celle-ci portait sur 38 applications de manipulation d’images à caractère sexuel disponibles sur l’App Store et Google Play.

Selon l’organisation, ces applications avaient cumulé environ 483 millions de téléchargements et généré près de 106 millions d’euros de revenus. Plus inquiétant encore, 31 d’entre elles étaient accessibles aux mineurs.

Le rapport accusait également les deux grandes boutiques d’applications de ne pas seulement héberger ces services. Leurs systèmes de recherche et leurs espaces publicitaires auraient aussi contribué à les mettre en avant auprès des utilisateurs.

« Ce n’est pas seulement que les entreprises échouent à examiner correctement ces applications. Elles dirigent activement les utilisateurs vers les applications elles-mêmes », dénonçait Katie Paul en avril.

Au début de l’été, un procureur de San Francisco avait même demandé à Apple et Google de retirer treize applications similaires de leurs boutiques. Il réclamait également qu’ils cessent de faciliter la commercialisation de contenus sexuels truqués.

Malgré cela, Kromix est restée disponible sur l’App Store. Du moins, jusqu’à la mi-août où WIRED a contacté Apple sur le sujet, selon 9to5Mac. 

ARTICLES SIMILAIRES