Spécifications

Spécifications techniques

Description détaillée du produit

Accélérateur NVIDIA H100 NVL 94 Go PCIe

Plateforme prise en charge

  • Plateformes de calcul grand public HPE

Nombre d'accélérateurs par carte

  • 1

Taille de la mémoire par carte

  • 94 Go HBM2e

Bande passante mémoire pour carte

  • 3,9 To/s

Applications pour accélérateur

  • Entraînement de l'IA transformationnelle, inférence en deep learning en temps réel

Caractéristiques de l'architecture

  • Construit avec 80 milliards de transistors via un processus de pointe TSMC 4N spécialement adapté aux besoins de calcul accéléré de NVIDIA, H100 NVL présente des avancées majeures pour accélérer l'IA, le HPC, la bande passante mémoire, l'interconnexion et la communication à l'échelle du datacenter. La bibliothèque Transformer Engine utilise un logiciel et la technologie Hopper Tensor Core conçus pour accélérer l'entraînement des modèles construits à partir du bloc de construction de modèles d'IA le plus important au monde : le transformateur. Les cœurs Hopper Tensor Core peuvent appliquer des précisions FP8 et FP16 mixtes afin d'accélérer considérablement les calculs d'IA pour les transformateurs. Le système de commutation NVLink permet la mise à l'échelle des entrées/sorties (E/S) multi-GPU sur plusieurs serveurs à 900 gigaoctets par seconde (Go/s) de manière bidirectionnelle par GPU, soit plus de sept fois la bande passante du PCIe Gen5. Le système offre une bande passante neuf fois supérieure à celle d'InfiniBand HDR sur l'architecture NVIDIA Ampere.

Système

  • Compatible avec HPE DL380 Gen10 Plus, HPE DL380 Gen11, HPE DL380a Gen11, HPE DL385 Gen11, HPE Edge Server e930t Gen11, HPE Scale-up Server 3200, HPE Superdome Flex 280, HPE DL380 Gen12, HPE DL380a Gen12

Dimensions du produit (mesure métrique)

  • 3,48 x 26,7 x 11,1 cm

Poids

  • 1,69 kg

Garantie

  • Pour plus d’informations sur la garantie limitée des options qualifiées de HPE, consultez : la garantie de 3 ans sur les pièces, 0 an sur la main-d’œuvre et 0 an d’assistance sur site. Consultez http://h20564.www2.hpe.com/hpsc/wc/public/home pour plus d’informations sur la garantie