LEBIGDATA.FR I.A, Cloud & Cybersécurité
La plateforme de jeux Twitch crée un outil de détection permettant d'identifier un harceleur banni revenu avec un nouveau compte. Objectif : mieux lutter contre les attaques homophobes ou racistes dont sont victimes certains de ses utilisateurs.
Twitch vient d'annoncer qu'elle va mettre en place un système pour traquer les harceleurs. Un outil qui permet de détecter « certains signaux » émis par les personnes bannies qui tentent de se reconnecter avec un compte anonyme.
Twitch : D'incessantes attaques haineuses sur la plateforme depuis plusieurs mois
Depuis des mois, le spécialiste du live streaming de jeux vidéo subit un raz-de-marée de harcèlement homophobe et raciste. Les attaques haineuses visent principalement les joueurs LGBTQ et les non-Blancs.
Les harceleurs entrent dans la fenêtre de discussion de la victime et la bombardent de mots et d'images insultants. Même s'ils sont ensuite bannis, certains reviennent et créent un nouveau compte. Les attaques anonymes peuvent ainsi recommencer. Un processus qui semble impossible à endiguer, du moins jusqu'à maintenant.
Lancement du programme IA « Suspicious User Detection »
Pour lutter contre ce phénomène, Twitch va en effet mettre en place un système capable de détecter les comportements suspects de ces récidivistes. La société a déclaré dans un communiqué que son nouvel outil, appelé Suspicious User Detection, va permettre d'identifier « ces utilisateurs et à prendre des mesures à leur encontre en fonction de certains signaux spécifiques ».
Ce logiciel, qui repose sur l'apprentissage automatique, est en mesure de distinguer les récidivistes « possibles » des récidivistes « probables ». Dans le cas de ces derniers, leurs messages ne seront visibles que par les joueurs et les modérateurs, qui auront alors le droit de les bannir après consultation entre eux.
Twitch : 30 millions de visiteurs par jour en provenance du monde entier
« Aucun système d'apprentissage automatique n'est totalement fiable », a toutefois tenu à prévenir Twitch. Tous les harceleurs potentiels ne pourront donc pas être détectés et bannis.
En août, des streamers ont fait savoir leur mécontentement à la société après qu'un certain nombre de joueurs ont fait l'objet de menaces. Pour dénoncer cette situation, ils ont alors appelé à un boycott d'une journée de la plateforme.
Twitch a depuis déposé une plainte contre deux utilisateurs basés en Europe. Elle les accuse d'avoir généré des « milliers de bots » dans le but de harceler et de propager des messages haineux.
Appartenant à la société Amazon, Twitch reçoit plus de 30 millions de visiteurs par jour en provenance du monde entier.
- Partager l'article :
