Des vidéos absurdes générées par IA cachent désormais une mécanique inquiétante pour certains jeunes utilisateurs.
Le phénomène appelé IA Slop mêle fruits colorés, scénarios simplistes, violence graphique et références idéologiques parfois franchement extrêmes. Une analyse du GNET estime que ces contenus facilitent progressivement une exposition numérique potentiellement radicalisante.
Mais cette hypothèse reste encore fragile scientifiquement, malgré des observations suffisamment préoccupantes pour mériter attention. Le problème commence souvent avec des vidéos qui ressemblent presque à des dessins animés jetables. Des personnages fruités traversent ruptures amoureuses, licenciements, conflits familiaux et parfois séquences à caractère pornographique.
Des fruits mignons qui basculent vers la torture
Puis certains contenus changent brutalement de registre avec torture, mutilations et autres cruautés graphiques explicites. Les chercheurs signalent aussi des personnages liés aux cartels, mouvements d’extrême droite ou nihilismes radicaux. Autrement dit, l’esthétique enfantine sert parfois d’emballage à des imaginaires désormais beaucoup moins innocents numériquement.
Le GNET redoute surtout une banalisation de la violence gratuite auprès des utilisateurs encore jeunes. Selon eux, ces contenus « renforcent la fascination pour la violence gratuite » auprès des jeunes utilisateurs. Ils redoutent ainsi de « préparer le terrain à la consommation d’autres contenus audiovisuels violents » progressivement.
Cette mécanique inquiète car les plateformes recommandent souvent des séquences similaires après quelques interactions seulement. Un enfant attiré par l’absurde risque de glisser vers des contenus beaucoup plus sombres rapidement. Le cerveau ne reçoit évidemment pas chaque vidéo comme une leçon politique ou idéologique directe.
Mais l’accumulation réduit parfois le seuil de surprise face à des images toujours plus brutales. Cette logique ressemble moins à un complot qu’à une boucle algorithmique optimisée pour retenir l’attention. Lorsque la violence retient mieux, les plateformes trouvent peu de raisons commerciales pour ralentir spontanément.
Une alerte sérieuse mais encore loin d’une preuve scientifique
Toutefois, le rapport du GNET ne démontre pas que ces vidéos provoquent directement l’extrémisme violent. Son analyse reste surtout descriptive et cite même, involontairement, au moins un éditorial généré artificiellement. Cette faiblesse méthodologique impose donc beaucoup de prudence avant d’annoncer un lien causal solide scientifiquement.
Le contexte institutionnel mérite examen, puisque GNET dépend du Global Internet Forum to Counter Terrorism. Cette organisation, financée par l’industrie technologique, subit des critiques sur son rôle dans la modération. Le débat dépasse pourtant cette institution, car les fermes de bots produisent ces contenus industriellement.
Elles alimentent des flux où les jeunes développent leurs réflexes critiques et leur culture médiatique. La violence représente d’ailleurs un exemple parmi plusieurs dérives possibles issues de cette production automatisée. Les mêmes systèmes diffusent racisme, désinformation électorale, escroqueries ou autres récits sociaux numériques particulièrement toxiques.
Le danger réside donc moins dans chaque vidéo isolée que dans leur volume algorithmique massif. Cette profusion permet aux contenus extrêmes de devenir familiers avant même leur identification comme extrêmes. Pour les plateformes, le vrai défi consiste désormais à casser cette boucle avant sa normalisation.
- Partager l'article :