nvidia hgx 2

Nvidia HGX-2 : un serveur Cloud surpuissant dédié à l’IA

Nvidia HGX-2 est un serveur Cloud surpuissant, dédié aux tâches de High-Performacne Computing et d’intelligence artificielle. Il permet de battre les records de vitesse d’entraînement des réseaux de neurones.

A l’heure de l’essor de l’intelligence artificielle, la puissance de calcul nécessaire pour entraîner les réseaux de neurones est en train d’exploser. Selon une étude menée par OpenAI, la puissance de calcul requise pour entraîner ces systèmes IA a doublé tous les 3,5 mois depuis 2012. Les GPU sont notamment utilisés pour entraîner et déployer des données non étiquetées telles que les photos et les vidéos.

Profitez de 2 To à vie de stockage en ligne avec pCloud

Afin de répondre à cette demande, Nvidia vient de dévoiler un serveur dont la puissance dépasse l’entendement. Le HGX-2 est un serveur Cloud conçu pour le HPC (High-Performance Computing) et les tâches d’intelligence artificielle. Ce serveur se destine aux développeurs qui travaillent sur de larges ensembles de données, comme ceux utilisés dans les domaines de la traduction de langage ou de la reconnaissance d’image.

Il regroupe non moins de 16 GPU NVIDIA Tesla V100, offre 512 Gb de RAM, et comporte 12 Nvidia NVSwitches qui permettent la communication de GPU à GPU via NVLink. Ce protocole a été créé par Nvidia pour contourner les limites du PCI Express.

Le Nvidia HGX-2 peut remplacer 300 serveurs CPU-only à lui seul

nvidia hgx 2 schema

Il permet aux GPU de communiquer à une vitesse de 300 Go par seconde. La capacité est donc doublée par rapport au HGX-1 de 2017. Selon Nvidia, cette vitesse de communication permettra aux 16 GPU de se comporter comme un seul GPU surpuissant.

Selon Nvidia, le HGX-2 permet de battre des records de vitesse d’entraînement pour l’intelligence artificielle. Ce serveur est capable de traiter 15500 images par seconde sur le benchmark ResNet-50, et peut remplacer à lui seul 300 serveurs équipés uniquement de CPU.

Précisons que ce serveur ne sera pas disponible pour le grand public. Seuls les revendeurs partenaires de Nvidia tels que Lenovo, QCP, Supermicro et Wiwynn pourront se le procurer, pour un prix qui n’a pas été dévoilé. Ils pourront ensuite le vendre aux fournisseurs Cloud et autres Data Centers hyperscale.

Profitez de 2 To à vie de stockage en ligne avec pCloud