LEBIGDATA.FR I.A, Cloud & Cybersécurité
Facebook dévoile un nouvel outil visant à lutter contre le Revenge Porn grâce à l'intelligence artificielle et au Machine Learning. Cet outil sera capable de détecter instantanément les images suspectes pour les supprimer avant qu'il ne soit trop tard…
Dans l'intimité d'un couple, filmer ses ébats amoureux est une pratique très courante. Malheureusement, après une séparation houleuse, il arrive que ces » vidéos souvenirs » soient diffusées à des fins de vengeance. C'est ce qu'on appelle le » Revenge Porn « .
Par le passé, ces vidéos étaient principalement diffusées via des sites pornographiques. Toutefois, avec l'essor des réseaux sociaux, les amoureux éconduits n'hésitent plus à se servir de plateformes comme Facebook et Instagram pour exposer les images aux yeux des proches de leurs victimes.
Or, comme l'explique Facebook, le Revenge Porn peut avoir des conséquences dramatiques sur la santé mentale. Il est possible de sombrer dans la dépression, de développer des pensées suicidaires, ou d'être pris de crises d'angoisses.
De plus, le partage de tel contenu peut avoir des conséquences sur la vie professionnelle telles que la perte d'un emploi ou la dégradation des relations entre collègues. Pire encore, dans les pays conservateurs, la victime risque d'être châtiée physiquement par son entourage.
C'est la raison pour laquelle Facebook cherche par tous les moyens à lutter contre le fléau du Revenge Porn. En 2017, la firme avait déployé un programme pilote pour une technologie de » photo-matching « . Les utilisateurs étaient invités à soumettre leurs photos et vidéos intimes à Facebook, afin que le réseau social se charge de créer une signature numérique empêchant quiconque de partager ce contenu.
Facebook utilise l'IA pour détecter et supprimer immédiatement le Revenge Porn
Aujourd'hui, toutefois, Facebook dévoile un nouvel outil reposant sur l'intelligence artificielle et sur le Machine Learning pour lutter contre le Revenge Porn. Contrairement à la technologie de 2017, cet outil fonctionnera sans l'implication de la victime. Il s'agit d'un point important, selon Facebook, car les victimes ont souvent honte de signaler le contenu elles-mêmes. Dans certains cas, elles ne sont tout simplement pas au courant que ce contenu est diffusé par leur ex-partenaire.
Grâce à l'IA, ce nouveau système sera capable de détecter automatiquement la nudité sur les photos ou les vidéos. Un membre de l'équipe Facebook spécialement formé sera alors chargé d'examiner les images. S'il s'agit bel et bien de Revenge Porn, elles seront alors immédiatement supprimées. Dans la plupart des cas, le compte à l'origine du partage sera également supprimé.
En parallèle, Facebook dévoile avoir réfléchi à la façon dont la procédure de signalement de Revenge Porn peut être améliorée. En menant l'enquête, la firme a notamment découvert que les victimes veulent souvent des réponses plus rapides à leurs signalements. De plus, elles ne veulent pas avoir affaire à un robot dans de telles situations.
Même si Facbook avoue ne pas avoir trouvé de moyen de » répondre au traumatisme que les victimes endurent » lorsqu'elle réagit à leurs signalements, la firme promet d'améliorer ses outils de signalement afin qu'ils soient » plus intuitifs et empathiques « .
- Partager l'article :
