LEBIGDATA.FR I.A, Cloud & Cybersécurité
Alors que les deepfakes sexuels envahissent la toile, cet outil débarque pour limiter les interactions avec ces contenus.
Les deepfakes sexuels explosent à mesure que les outils d’IA deviennent plus accessibles. Et derrière chaque image détournée se cachent des victimes bien réelles. Face à cette dérive, un outil inédit veut s’attaquer au problème à la racine.
Cet outil peut-il vraiment freiner les deepfakes sexuels ?
Des chercheurs de l’University College Cork ont développé un outil gratuit baptisé Deepfakes/Real Harms. Son objectif est de réduire la création, le partage et la consommation de faux contenus à caractère sexuel. En dix minutes seulement, cette intervention éducative cherche à modifier les comportements des internautes.
Les chercheurs partent effectivement d’un constat simple. Sans utilisateurs, les deepfakes sexuels ne circuleraient pas. Contrairement aux filtres techniques ou aux lois, cet outil mise alors sur la compréhension humaine. Il explique pourquoi ces images causent des dommages durables, même lorsqu’elles sont visiblement fausses. Son but est donc principalement la prise de conscience.
Les deepfakes sexuels continuent pourtant de circuler
Les travaux qu’a menés l’équipe de recherche montrent que plusieurs idées reçues alimentent ces pratiques. Beaucoup pensent que ces images ne sont graves que si elles trompent le public. D’autres estiment qu’on peut cibler les personnalités publiques sans conséquence.
L’outil démonte donc ces croyances de façon méthodique afin de combattre les deepfakes sexuels. Il rappelle aux utilisateurs que le préjudice existe dès la création de l’image. Et cela se passe indépendamment de sa crédibilité. L’atteinte à l’identité et à la dignité reste réelle pour les victimes. Le fait qu’elles soient anonymes ou célèbres importe peu.
Le fonctionnement de ce système anti deepfakes sexuels
Deepfakes/Real Harms se présente comme un module interactif en ligne. Il expose les utilisateurs à des exemples contextualisés. Puis, il les invite à réfléchir à leurs propres réactions. Le parcours favorise ainsi l’empathie plutôt que la culpabilisation.
Les chercheurs ont par ailleurs essayé cet outil auprès de plus de deux mille participants à travers le monde. Les résultats montrent une baisse immédiate de l’adhésion aux mythes liés aux deepfakes sexuels. Surtout, l’intention de participer à ces pratiques diminue durablement.
L’éducation pour compléter les lois et les plateformes
Les créateurs de l’outil insistent sur un point essentiel : cet outil ne remplace pas la régulation. Les plateformes et les autorités restent responsables de la modération et des sanctions. Cela dit, agir uniquement après coup ne suffit plus.
En s’adressant directement aux internautes, cet outil agit donc en amont. Pour lutter contre les deepfakes sexuels, il responsabilise chaque internaute face aux conséquences de ses choix. Cette approche complète efficacement les réponses juridiques et techniques déjà en discussion.
Un modèle à suivre contre les abus liés à l’IA
Ces contenus illicites deviennent aujourd’hui un enjeu mondial. Et la récente controverse avec les nudes de l’IA Grok le démontre bien. Face à cela, cette initiative fait figure de première. Elle montre que le combat contre ces abus passe aussi par la pédagogie. Améliorer la culture numérique devient une urgence collective si on veut éradiquer les deepfakes sexuels.
Les chercheurs espèrent désormais un déploiement plus large de ce type d’outil. Parents, enseignants et citoyens peuvent s’en emparer facilement. Face aux dérives de l’IA, comprendre l’impact humain reste sans doute l’arme la plus efficace.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
