LEBIGDATA.FR I.A, Cloud & Cybersécurité
Instagram a décidé d'utiliser le Machine Learning pour lutter contre le cyberharcèlement sur son réseau social. Des algorithmes seront chargés de détecter automatiquement les photos, légendes et commentaires offensants afin de les soumettre à un examen humain.
Selon une étude menée par l'organisation Ditch the Label en 2017 auprès de 10000 personnes âgées de 12 à 20 ans, 7% des utilisateurs d'Instagram ont déjà subi un harcèlement. Le réseau social arrive en tête des plateformes où le cyberharcèlement fait rage, dépassant même Facebook de peu.
Pour lutter contre ce fléau, Instagram permet aux utilisateurs de signaler les comptes qui pratiquent le harcèlement. Malheureusement, de nombreuses personnes n'utilisent pas ce recours et les harceleurs restent bien souvent impunis.
Afin d'aider ses équipes à identifier et à lutter plus efficacement contre le harcèlement, Intagram a donc décidé de s'en remettre au Machine Learning. Les algorithmes se chargeront de détecter de manière proactive le harcèlement sur les photos partagées sur le réseau social et leurs légendes. Le contenu concerné sera ensuite transféré à l'équipe Community Operations d'Instagram afin d'être soumis à un examen humain.
Instagram : des algorithmes pour détecter le contenu offensant
En outre, le filtre anti-harcèlement permettant de masquer les commentaires contenant des menaces ou des attaques sur l'apparence ou le caractère d'une personne sera désormais appliqué à toutes les vidéos live. Jusqu'à présent, cet outil était déjà disponible pour les sections Feed, Explore et Profil.
Cette nouvelle technologie de Machine Learning a déjà été déployée sur le réseau, et continuera son expansion au fil des semaines à venir. Cependant, il convient de rappeler que les algorithmes de Big Data peuvent aussi faire preuve de préjugés, au même titre que les personnes qui les créent. De plus, l'intelligence artificielle est encore incapable de comprendre les nuances et le contexte du langage humain. Il est donc difficile de prédire si cette technologie sera réellement efficace contre le fléau du cyberharcèlement.
- Partager l'article :
