nvidia hgx 2

Nvidia HGX-2 : un serveur Cloud surpuissant dédié à l’IA

HGX-2 est un serveur surpuissant, dédié aux tâches de High-Performacne Computing et d’intelligence artificielle. Il permet de battre les records de vitesse d’entraînement des réseaux de neurones.

A l’heure de l’essor de l’intelligence artificielle, la puissance de calcul nécessaire pour entraîner les réseaux de neurones est en train d’exploser. Selon une étude menée par , la puissance de calcul requise pour entraîner ces systèmes IA a doublé tous les 3,5 mois depuis 2012. Les GPU sont notamment utilisés pour entraîner et déployer des données non étiquetées telles que les photos et les vidéos.

Afin de répondre à cette demande, Nvidia vient de dévoiler un serveur dont la puissance dépasse l’entendement. Le HGX-2 est un serveur Cloud conçu pour le HPC (High-Performance Computing) et les tâches d’intelligence artificielle. Ce serveur se destine aux développeurs qui travaillent sur de larges ensembles de données, comme ceux utilisés dans les domaines de la traduction de langage ou de la reconnaissance d’image.

Il regroupe non moins de 16 GPU NVIDIA V100, offre 512 Gb de RAM, et comporte 12 Nvidia NVSwitches qui permettent la communication de GPU à GPU via NVLink. Ce protocole a été créé par Nvidia pour contourner les limites du PCI Express.

Le Nvidia HGX-2 peut remplacer 300 serveurs CPU-only à lui seul

nvidia hgx 2 schema

Il permet aux GPU de communiquer à une vitesse de 300 Go par seconde. La capacité est donc doublée par rapport au HGX-1 de 2017. Selon Nvidia, cette vitesse de communication permettra aux 16 GPU de se comporter comme un seul GPU surpuissant.

Selon Nvidia, le HGX-2 permet de battre des records de vitesse d’entraînement pour l’intelligence artificielle. Ce serveur est capable de traiter 15500 images par seconde sur le benchmark ResNet-50, et peut remplacer à lui seul 300 serveurs équipés uniquement de CPU.

Précisons que ce serveur ne sera pas disponible pour le grand public. Seuls les revendeurs partenaires de Nvidia tels que Lenovo, QCP, Supermicro et Wiwynn pourront se le procurer, pour un prix qui n’a pas été dévoilé. Ils pourront ensuite le vendre aux fournisseurs Cloud et autres Data Centers hyperscale.

Restez à la pointe de l'information avec LEBIGDATA.FR !

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Newsletter

La newsletter IA du futur

Rejoins nos 100 000 passionnés et experts et reçois en avant-première les dernières tendances de l’intelligence artificielle🔥