Accueil > Intelligence artificielle > L’intelligence artificielle de Microsoft génère de faux commentaires sur le web
deepcom microsoft

L’intelligence artificielle de Microsoft génère de faux commentaires sur le web

DeepCom est une intelligence artificielle créée par des chercheurs chinois de Microsoft. Grâce au Machine Learning, elle génère de faux commentaires sur les articles d’actualité publiés sur le web…

Alors que le web est déjà parsemé de Fake News, il faudra bientôt composer avec les faux commentaires. Un groupe de chercheurs chinois de la Beihang University et de Microsoft ont développé une IA dénommée  » DeepCom  » et capable de générer automatiquement des commentaires sur les articles d’actualité…

Cette intelligence artificielle repose sur deux réseaux de neurones. Le premier est chargé de lire et d’analyser les mots de l’article, encodés sous forme de vecteurs. Les différentes couches du modèle traitent les différentes parties de l’article, en commençant par le titre, afin de déterminer quels sont les éléments importants ou intéressants.

Les prédictions sont ensuite transmises au second réseau, un réseau génératif. Le modèle se charge de créer des réactions en se focalisant sur un sujet ou une personne mentionnés dans l’article. Ses créations sont ensuite décodées sous forme de mots et le commentaire n’a plus qu’à être posté.

La crédibilité du faux commentaire dépend de la compréhension du texte par le premier réseau, et de la précision avec laquelle le second réseau génère le commentaire. Pour améliorer les performances de DeepCom, les chercheurs l’ont entraîné sur un ensemble de données regroupant des millions de commentaires postés par des internautes chinois et sur un dataset en langue anglaise obtenu auprès de Yahoo! News.

L’IA de Microsoft représente de nombreux risques

Afin d’entraîner le premier réseau, les chercheurs ont calculé à quel point les commentaires dans les données d’entraînement reprenaient les informations dans l’article correspondant pour identifier quelles parties étaient importantes. En guise d’exemple, les chercheurs présentent un texte sur le basketball dont les parties en rouge sont celles que DeepCom identifie comme importantes. En commentaire, l’IA déclare :  » les Rockets vont beaucoup s’amuser dans cette série de matchs « .

exemple deepcom

Selon les chercheurs, qui ont publié leur recherche dans la revue arXiv et présenteront leur invention à Hong-Kong lors de la conférence EMNLP-IJCNLP, cette intelligence artificielle peut s’avérer très positive. Les faux commentaires peuvent inciter les internautes à s’intéresser aux articles les moins lus, et peuvent aussi aider à améliorer d’autres IA comme les chatbots.

Cependant, leur article ne mentionne pas les risques de dérives liées à une telle IA. Par exemple, on peut craindre que des régimes totalitaires utilisent les faux commentaires à des fins de propagande. De même, l’IA pourrait entamer des discussions houleuses avec les humains pour envenimer les conflits ou semer la désinformation. Des entreprises pourraient aussi s’en servir pour faire leur publicité…

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Send this to a friend