Accueil > Intelligence artificielle > Le Machine Learning ne peut détecter les Fake News selon une étude
fake news machine learning

Le Machine Learning ne peut détecter les Fake News selon une étude

Le Machine Learning ne permet pas aux ordinateurs de détecter efficacement les Fake News. C’est ce que révèlent deux études décevantes menées par les chercheurs du MIT… 

Par le passé, plusieurs chercheurs ont démontré que les ordinateurs étaient capables de générer des  » Fake News «  de manière autonome grâce à l’intelligence artificielle. En contrepartie, on pouvait espérer que le Machine Learning permette au contraire d’entraîner les ordinateurs à détecter ces articles d’actualité fallacieux.

Il n’en est rien, si l’on en croit deux nouvelles études publiées par les chercheurs du MIT. Ainsi, selon Tal Schuster, étudiante en doctorat au MIT, même si les machines excellent pour détecter si un texte est rédigé par une IA, elles sont actuellement incapables de déterminer si un article est vrai ou faux.

Les systèmes de fact-checking basés sur le Machine Learning sont entraînés sur une base de données biaisée

Les systèmes de fact-checking entraînés grâce au Machine Learning peinent notamment à tenir compte des affirmations négatives. Par exemple, même si une IA sait que l’affirmation  » Greg dit que sa voiture est bleue  » est une vérité, elle ne pourra pas forcément comprendre l’affirmation  » Greg n’a jamais dit que sa voiture n’était pas bleue « .

Selon les chercheurs, le problème est que la plupart de ces systèmes de fact-checking sont entraînés à l’aide de la base de données Fact Extraction and Verification (FEVER°) regroupant des affirmations avérées. Or, cette base de données est corrompue par les biais humains. Elle a été créée par des personnes qui tendaient à écrire les fausses affirmations sous forme négative, et les vraies affirmations sous forme positive. De fait, les IA ont appris à considérer les phrases négatives comme fausses. Au lieu d’apprendre à discerner le vrai du faux, les machines ont donc appris à distinguer le positif du négatif…

La seconde étude menée par les chercheurs du MIT démontrent que le Machine Learning permet aux ordinateurs de détecter si les articles sont écrits par une machine, mais pas de séparer les vrais des faux. A l’heure actuelle, le Machine Learning n’est donc pas une solution viable pour lutter contre le fléau des Fake News…

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Send this to a friend