LEBIGDATA.FR I.A, Cloud & Cybersécurité
Si vous cherchez à comprendre le fonctionnement des cartes graphiques sophistiquées, mais aussi pourquoi elles sont si indispensables pour l'industrie de l'IA, vous êtes pile au bon endroit. Nous allons vous fournir quelques explications sur la nécessité de ce composant.
À titre d'information, cet article a été rédigé selon les explications du doctorant de l'Université de Washington, Tim Dettmers. Bien que ce ne soit pas un billet de blog très long, il offre tout de même des explications techniques. Mais aussi des analogies avec les voitures, ce veut dire qu'il s'adapte à tout profil de lecteur, donc accessible à un large public.
Comprendre la vraie capacité des GPU
Pour commencer, Dettmers explique que la majorité des gens savent seulement que les GPU sont extrêmement efficaces pour effectuer des opérations telles que la multiplication de matrices et la convolution. Or, ce qui rend les cartes graphiques vraiment utiles, c'est surtout leur capacité à gérer de grandes quantités de mémoire.
Pour simplifier, un CPU (Central Processing Unit) est conçu pour minimiser la latence. Les GPU (Graphics Processing Unit) par contre, sont optimisés pour maximiser la bande passante. Si l'on compare un CPU à une voiture de course, un GPU pourrait être assimilé à un camion de transport de marchandises.
Quant à l'apprentissage profond, elle consiste à accéder à la mémoire et à déplacer des données (les marchandises dans si l'on se réfère à l'exemple ci-dessus). Chacun des deux composants a la capacité d'accomplir cette tâche, mais différemment.
Une voiture de course, par exemple, est plus rapide mais supporte moins une plus grosse charge. Le camion, de son côté, est plus lent mais est capable de transporter beaucoup de choses en une seule fois.
Les cartes graphiques dans la gestion de données
Pour pousser cette analogie encore plus loin, il faut considérer qu'un GPU n'est pas un simple camion. On le considère plutôt comme une flotte de camions qui travaillent simultanément. Lorsqu'ils sont utilisés correctement, ce système peut masquer la latence, de la même manière qu'une chaîne de montage.
L'arrivée du premier camion peut cependant prendre un certain temps. Mais une fois qu'il est là, il y a une file continue de camions chargés en attente d'être déchargés. Quelle que soit la vitesse du déchargement de chaque camion, il y en a toujours un suivant qui attend son tour et ainsi de suite.
Il convient tout de même de noter que les GPU ne se limitent pas simplement au déplacement de la mémoire. Ils ont également la capacité de faire des calculs sur celle-ci.
En somme, cette analogie met en lumière la façon dont on utilise les GPU dans la gestion des données de grandes quantités. Ce qui rend les cartes graphiques indispensables dans l'industrie de l'IA.
Quelles cartes graphiques pour faire de l'IA : la configuration requise
En ce qui concerne les applications d'apprentissage profond, on utilise généralement un ordinateur de bureau équipé d'une ou de plusieurs cartes graphiques haut de gamme. Aujourd'hui, il existe d'autres GPU plus compacts qui permettent de bénéficier des mêmes avantages en matière de calcul. Et cela sans avoir à consommer une quantité importante d'énergie ni même à gérer un excès de prises HDMI et DisplayPort inutilisées.
La gamme de cartes de développement Jetson de NVIDIA intègre de manière transparente la technologie nécessaire. Bien qu'elles ne puissent pas rivaliser en termes de puissance de calcul brute (et de coût énergétique) avec un ordinateur de bureau équipé de GPU puissantes, elles sont tout à fait capables compte tenu de leur taille réduite.
- Partager l'article :
