TikTok a joué avec la sécurité de ses utilisateurs pour tester son algorithme. Une expérience qui passe très mal auprès de deux sénateurs américains.
TikTok se retrouve sous pression après une expérience qui aurait privé 15 millions d’utilisateurs américains d’une protection contre certains contenus nocifs. Deux sénateurs américains demandent désormais des explications détaillées au réseau social.
Derrière cette affaire se trouve une question de sécurité assez sensible. TikTok aurait volontairement désactivé une protection algorithmique pour mesurer son impact sur l’engagement. Le problème ? Des mineurs auraient eux aussi fait partie du groupe concerné. Certains utilisateurs auraient ensuite vu défiler une avalanche de contenus liés au suicide, à la tristesse et à la solitude.
TikTok aurait coupé la protection de sécurité pour 10 % des utilisateurs
Selon Bloomberg, TikTok aurait mené cette expérience sur environ 10 % de ses utilisateurs américains. Cela représenterait près de 15 millions de personnes. Le réseau social aurait constitué un groupe témoin en désactivant volontairement un système de protection algorithmique.
Cette fonctionnalité cherchait notamment à éviter qu’un utilisateur reçoive trop de contenus liés à la tristesse, au suicide ou à la solitude. TikTok voulait savoir si cette protection de sécurité réduisait l’attractivité de l’application.
Le choix a toutefois une conséquence évidente. Pour mesurer l’effet d’une protection, il faut forcément la retirer à certains utilisateurs. Mais jusqu’où une plateforme peut-elle aller lorsqu’elle touche à des contenus aussi sensibles ?
TikTok sous pression
La sénatrice républicaine Marsha Blackburn et le démocrate Richard Blumenthal ont écrit au patron de TikTok, Shou Chew. Ils demandent aussi des réponses à Adam Presser, dirigeant de la branche américaine.
Les deux élus dénoncent une décision qu’ils jugent particulièrement grave. Leur courrier contient 13 questions sur cette expérimentation et ses conditions. Les sénateurs veulent notamment connaître les employés informés du projet. Ils demandent aussi pourquoi des mineurs ont pu intégrer le groupe témoin.
Un cas rend cette question encore plus sensible. Chase Nasca, un adolescent de 16 ans cité par TechCrunch, aurait figuré parmi les utilisateurs concernés. Son algorithme lui aurait ensuite présenté des milliers de vidéos sur le suicide, la solitude et la tristesse.
Les sénateurs ne s’arrêtent pas à cette seule expérience. Ils réclament aussi la liste des tests algorithmiques menés aux États-Unis après la désactivation ou le retardement d’une fonction de sécurité.
Les élus ont fixé une échéance au 1er septembre pour obtenir leurs réponses. Il ne reste donc plus qu’à attendre la réponse de TikTok sur cette question de sécurité. Le réseau social devra maintenant s’expliquer sur les coulisses de cette expérience.
- Partager l'article :
