openai microscope

OpenAI Microscope : un outil pour visualiser les neurones de l’IA

OpenAI lance Microscope : un outil permettant de visualiser les réseaux de neurones les plus populaires à travers des millions d’images. L’objectif est d’aider les chercheurs à mieux comprendre le fonctionnement des algorithmes de Machine Learning et d’IA.

Le Machine Learning et l’intelligence artificielles évoluent à vive allure au fil des années. Pourtant, les réseaux de neurones artificiels ( » Neural Networks « ) sur lesquels ces technologies reposent restent aujourd’hui drapés de mystère.

Afin de permettre une meilleure compréhension de l’IA, les leaders du domaine développent différents outils. En mars 2019, OpenAI et Google dévoilaient une technique permettant de visualiser les décisions prises par les algorithmes de Machine Learning.

De même, à l’automne 2019, Facebook a lancé Captum permettant d’expliquer les décisions prises par les modèles de Machine Learning grâce à des techniques de visualisation. Enfin, l’outil TensorBoard permet de la visualisation durant l’entraînement des modèles de Machine Learning.

À présent, OpenAI lance un nouvel outil intitulé  » Microscope « . Il s’agit d’une collection de visualisations de réseau de neurones. Pour l’instant, il est possible de visualiser neuf réseaux de neurones populaires à travers plusieurs millions d’images.

À l’instar d’un microscope, cet outil permettra aux chercheurs en IA de mieux comprendre l’architecture et le comportement des réseaux composés de plusieurs dizaines de milliers de neurones.

OpenAI Microscope permet de visualiser 9 réseaux de neurones célèbres

openai microscope visualisations

Parmi les neuf modèles visualisables pour le moment, on compte AlexNet et GoogleNet (Inception V1) respectivement vainqueurs des éditions 2012 et 2014 du concours ImageNet. Le réseau ResNet v2 est également de la partie.

Ces différents réseaux de neurones ont été choisis pour leur importance historique, ou parce qu’ils sont couramment étudiés. Par exemple, AlexNet a été cité plus de 50 000 fois dans les études scientifiques.

Chaque visualisation de modèle s’accompagne de différents scénarios. Toutes les images sont disponibles dans la bibliothèque OpenAI Lucid et peuvent être réutilisées sous licence Creative Commons.

Selon OpenAI, le principal objectif de cette initiative est de faciliter l’étude comparative de ces différents modèles sur le long terme. La firme espère aussi que les chercheurs de disciplines adjacentes, comme la neuroscience, pourront s’appuyer sur cet outil pour mieux comprendre le fonctionnement interne de ces modèles.

Microscope pourra être utilisé dans les circuits de collaboration ayant pour but l’ingénierie inversée des réseaux de neurones, en permettant la compréhension des connexions entre les neurones. Vous pouvez découvrir et utiliser Microscope à cette adresse.