Accueil > Business > Une intelligence artificielle a caché des données à son créateur
intelligence artificielle cache données

Une intelligence artificielle a caché des données à son créateur

Une intelligence artificielle développée par les chercheurs de Google et Stanford a dissimulé des données à ses créateurs afin d’atteindre plus rapidement son objectif : convertir des images aériennes en cartes Google Maps.

Afin d’accélerer le processus de transformation d’images satellites en cartes pour le service Google Maps, des chercheurs de Stanford et Google ont tenté d’utiliser le Machine Learning et l’intelligence artificielle avec le réseau de neurones CycleGAN.

Ce réseau de neurones est censé apprendre à transformer les images de type X en images de type Y, et vice-versa, en effectuant de multiples expériences. Lors des premiers essais, les résultats se sont révélés très convaincants. Peut-être même un peu trop…

En analysant les images générées par l’IA, et en tentant de reconstituer les photographies en vue aérienne à partir des cartes, les chercheurs se sont aperçus que de nombreux détails avaient été supprimés en cours de route. En réalité, ces détails de la photo aérienne manquants étaient secrètement encodés dans les données visuelles de la carte sous la forme de milliers d’infimes changements de couleurs.

L’intelligence artificielle a triché parce qu’on ne lui a pas interdit

ia triche

Ces modifications étaient imperceptibles pour l’oeil humain, mais très faciles à détecter pour l’ordinateur. De cette manière, l’IA était capable d’encoder les informations de n’importe quelle carte aérienne sur n’importe quelle street map. Il s’agit d’une technique appelée  » stéganographie « , notamment utilisée pour ajouter des métadonnées sur une photo.

Cependant, c’est bien la première fois qu’une IA a recours à cette méthode de son propre chef. En réalité, l’objectif de l’IA était tout bonnement de tricher pour effectuer la tâche qui lui était confiée. Parce qu’elle n’était pas suffisamment  » intelligente  » pour convertir les images aériennes en cartes, elle a tout simplement contourné sa mission en ayant recours à cet étonnant subterfuge.

Toutefois, une évaluation plus complète des résultats aurait permis d’empêcher cette tentative de tricherie. En effet, comme tous les ordinateurs, cette IA s’est contentée de faire ce qui lui était demandé en employant la méthode la plus simple et la plus rapide. Le fait qu’elle ait triché pour y parvenir met en lumière une potentielle faiblesse de ce type de réseaux de neurones.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Send this to a friend