LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'avènement de la technologie deepfake basée sur l'IA facilite la création de vidéos contrefaites explicites à des fins d'extorsion sexuelle ou sextorsion. Toutefois, c'est cette même technologie d'intelligence artificielle qui vous protégera de cette forme de harcèlement et de chantage en ligne.
Comprendre la sextorsion
L'extorsion sexuelle ou sextorsion est une forme de harcèlement et de chantage en ligne qui implique l'utilisation de contenu sexuel non consensuel pour extorquer de l'argent ou d'autres faveurs aux victimes.
L'attaquant envoie généralement des images ou des vidéos sexuelles non sollicitées à la victime. Cette dernière doit ensuite payer une rançon ou se plier à n'importe quelle autre volonté du harceleur pour garantir la non publication des contenus compromettants.
Les progrès de la technologie de l'IA et l'émergence des deepfakes ont ouvert de nouvelles voies aux criminels. Ces outils fournissent des moyens supplémentaires pour exploiter et manipuler les environnements en ligne, exacerbant davantage les risques.
La sextorsion par l'IA fait référence à l'utilisation de la technologie de l'intelligence artificielle, en particulier des algorithmes de deepfake, pour créer des vidéos ou des images explicites contrefaites (transformant des photos et des vidéos innocentes en faux contenu pornographique) dans le but de harceler, d'extorquer ou de faire chanter des individus.
L'IA pour protéger les individus contre l'extorsion sexuelle en amont
Un rapport publié par le FBI évoque une explosion des cas de sextorsion entre février 2022 et février 2023. Les attaques ont notamment augmenté de 322 % d'une année à l'autre. Le FBI précise qu'il y a encore eu une hausse significative de l'extorsion sexuelle depuis le mois d'avril.
Canopy, un fournisseur israélien d'outils de sécurité numérique, a développé un logiciel d'IA qui empêche l'envoi d'images compromettantes modifiées avec l'IA. L'outil vise à empêcher les internautes, notamment les enfants et les adolescents, de diffuser des photos à risque. Ceci, afin de les protéger en amont d'une éventuelle extorsion sexuelle.
L'outil filtre même les photos a priori innocentes des enfants et des adolescents, comme les photos en maillots de bain prises sur la plage ou à la piscine par exemple. Des photos que les acteurs malveillants peuvent éventuellement exploiter.
« La plateforme filtrera également en temps réel toute image explicite lorsque vous naviguez sur un site Web ou une application et empêchera réellement une grande partie de la pornographie d'apparaître en ligne », explique Yaron Litwin, directeur de Canopy.
- Partager l'article :
