LEBIGDATA.FR I.A, Cloud & Cybersécurité
Depuis le début de l’année, des milliers d’images d’abus sexuels sur mineurs générées par IA envahissent le web. Ces contenus se rapprochent d’un réalisme glaçant, au point de tromper l’œil humain.
L’Internet Watch Foundation (IWF) a identifié 1286 vidéos d’abus sexuels créées par l’IA, contre seulement deux au premier semestre 2024. Les analystes alertent : les images sont plus fluides, détaillées et crédibles que jamais.
Derrière ces contenus, on retrouve souvent des réseaux collaboratifs agissant sur le dark web, avec des outils perfectionnés. Derek Ray-Hill, directeur intérimaire de l’IWF, résume la situation : « Il y a un véritable tsunami que nous observons ».
Un raz-de-marée difficile à contenir
Aux États-Unis, le National Center for Missing & Exploited Children a reçu 485.000 signalements d’images créées par IA. À titre de comparaison, ce chiffre atteignait seulement 67.000 pour toute l’année précédente. Cette montée brutale des deepfakes alarme les services de protection de l’enfance, débordés par le volume croissant de ces contenus.
Même si ces images ne représentent pas toujours des enfants réels, elles polluent les fichiers, monopolisent les enquêtes et brouillent les priorités. Les forces de l’ordre doivent désormais trier des images fausses mais réalistes, cela réduit leur efficacité contre les vrais prédateurs.
Le problème ne vient pas des outils eux-mêmes, mais de leur mésusage par certains réseaux criminels. Des images sont parfois construites à partir de visages d’enfants récupérés sur les réseaux sociaux ou des sites scolaires. Les vidéos circulent dans des groupes privés, sur messageries cryptées ou via des plateformes anonymes.
Un responsable du Département de la Justice a révélé que des réseaux utilisaient aussi ces images pour faire chanter les victimes. D’autres cas impliquent des adolescents créant eux-mêmes des deepfakes à l’aide d’applications qui dénudent automatiquement les personnes.
Un flou juridique encore problématique
Les lois fédérales américaines interdisent les contenus pédopornographiques, y compris générés par IA, même sans enfant réel. Mais les débats juridiques persistent sur certaines nuances, notamment en lien avec le premier amendement. En mars, un homme du Wisconsin accusé d’avoir produit 13.000 images a vu une charge annulée.
Le juge James Peterson a estimé que la possession d’un contenu obscène entièrement fictif restait protégée s’il ne montrait aucun enfant réel. Ce flou crée des difficultés pour la répression rapide des cas graves, même lorsque la diffusion est avérée.
Les géants de la tech dans l’obligation d’agir
Amazon a signalé 380.000 images d’abus sexuels générées par IA durant le premier semestre, OpenAI en a déclaré 75.000. Stability AI, créateur de Stable Diffusion, en a compté moins de 30. Ces entreprises doivent désormais intégrer des protocoles rigoureux pour filtrer les dérives.
Stability AI affirme avoir renforcé ses garde-fous et s’engage à bloquer la production de contenus illégaux. Pourtant, une enquête de Stanford a montré que des données sensibles figuraient déjà dans les ensembles d’apprentissage initiaux.
John Shehan, du National Center, souligne que « certaines plateformes restent trop passives malgré l’ampleur du phénomène ».
Les groupes de protection de l’enfance réclament une régulation internationale et un meilleur appui technique aux autorités. Pour l’instant, les juges, les policiers et les plateformes avancent à tâtons face à une technologie incontrôlable. Les criminels gagnent du terrain sur une réalité virtuelle qui, elle, produit des souffrances bien réelles.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
