Qu'est-ce qu'un serveur HGX ?

L'HGX est un design framework créé par NVIDIA. Un serveur HGX est un système qui adhère à l'architecture de référence NVIDIA HGX, spécifiquement structurée pour offrir une plateforme polyvalente et évolutive adaptée aux data centers gérant des applications IA et HPC exigeantes. Il permet d'intégrer des GPU NVIDIA H200/B200/B300 et d'autres composants matériels.

1. Prise en charge des GPU NVIDIA
   L'objectif principal d'un serveur HGX est de prendre en charge les GPU NVIDIA, qui sont principalement utilisés pour l'IA et les charges de travail HPC. Le serveur est donc conçu pour accueillir plusieurs GPU, comme des H200/B200/B300, pour des tâches de traitement parallèle.
   
   
2. NVLink Interconnect
   Les serveurs HGX intégrent la technologie NVLink de NVIDIA, une interconnexion à haut débit qui permet une communication rapide entre les GPU. NVLink augmente les taux de transfert de données et améliore les performances des charges de travail informatiques parallèles.
   
   
3. Design modulaire
   Ce serveur possède généralement une conception modulaire qui permet de configurer les composants matériels de manière flexible. Cette modularité permet aux datacenters de personnaliser leur serveur en fonction de leurs besoins spécifiques, y compris le type et le nombre de GPU.
   
   
4. Évolutivité
   Conçus pour être évolutifs, les serveurs HGX permettent aux datacenters de construire de puissants clusters de calcul en connectant plusieurs serveurs basés sur HGX. Cette évolutivité est cruciale pour répondre aux demandes croissantes des applications IA et HPC.
   
   
5. Normalisation industrielle
   HGX est conçu comme une architecture de référence, visant à une certaine standardisation de l'industrie. Cela signifie que la conception est fournie par NVIDIA en vue d'une collaboration avec divers fournisseurs de hardware.
    
   Les partenaires, tels que 2CRSi, peuvent utiliser l'architecture HGX.
   
   
6. Compatibilité des logiciels
   Les serveurs HGX sont conçus pour être compatibles avec divers frameworks et outils logiciels utilisés dans les domaines de l'IA et du calcul intensif. Cela garantit que les serveurs peuvent s'intégrer dans les flux de travail déjà existants et prendre en charge un large éventail d'applications.
   
   
7. Polyvalence des domaines d'utilisation
   La conception et la compatibilité avec différents GPU rendent les serveurs HGX polyvalents, capables de gérer une variété de charges de travail allant du deep et de machine learning aux simulations scientifiques et à l'analyse de données.

Serveur HGX, basé sur la plateforme SXM

Nos serveurs HGX, la gamme Godì 1.8, sont basés sur la toute dernière plateforme SXM.​

PCIe vs. SXM5

Les GPU NVIDIA H200/B200/B300 se présentent sous deux formes : PCIe et SXM.

La plateforme SXM est un facteur de forme de GPU et une interconnexion conçus pour les data centers et le calcul intensif dédié à l’IA. Contrairement aux GPU PCIe standards, les modules SXM sont directement montés sur une carte de base et interconnectés via NVLink, ce qui permet une bande passante bien plus élevée, une latence plus faible et une alimentation électrique supérieure.

Cette conception permet aux GPU de communiquer plus efficacement entre eux ainsi qu’avec les CPU.

Par ailleurs, le remplacement ou la mise à niveau de GPU PCIe est relativement simple, puisqu’il suffit de retirer le GPU. À l’inverse, les GPU SXM sont fixés au châssis à l’aide de pâte thermique, ce qui rend leur remplacement plus délicat.

Cependant, grâce à NVSwitch, les GPU SXM offrent des performances supérieures à celles des GPU PCIe, ce qui les rend particulièrement adaptés aux charges de travail intensives en données réparties sur plusieurs nœuds.