NVIDIA H100 NVL 94GB PCIe Accelerator for HPE

技術仕様

製品の詳細な説明

NVIDIA H100 NVL 94GB PCIeアクセラレータ

サポート対象のプラットフォーム

• HPEのメインストリームコンピュートプラットフォーム

カードあたりのアクセラレーター数

• 1

ボードあたりのメモリのサイズ

• 94GB HBM2e

ボードのメモリ帯域幅

• 3.9TB/s

アクセラレーターアプリケーション

• 革新的なAIトレーニング, リアルタイムのディープラーニング推論

アーキテクチャーの特長

• H100 NVLは、NVIDIAの高速コンピューティングニーズに合わせてカスタマイズされた最先端のTSMC 4Nプロセスを使用して800億個のトランジスタで構築されており、データセンター規模でAI、HPC、メモリ帯域幅、相互接続、通信を高速化する画期的な技術革新を実現しています。Transformer Engineは、きわめて重要なAIモデル構築ブロックであるトランスフォーマーから構築されたモデルのトレーニングを加速するように設計されたソフトウェアとHopper Tensor Coreテクノロジーを使用します。Hopper Tensor Coreは、FP8とFP16の混合精度を適用して、トランスフォーマーのAI計算を大幅に高速化できます。NVLinkスイッチシステムは、PCIe Gen5の7倍を超える帯域幅にあたる、GPUあたり900ギガバイト/秒 (GB/s) の双方向で、複数のサーバーにわたるマルチGPU入出力 (IO) のスケーリングを可能にします。このシステムは、NVIDIA Ampereアーキテクチャー上でInfiniBand HDRの9倍の帯域幅を提供します。

システム

• HPE DL380 Gen10 Plus、HPE DL380 Gen11、HPE DL380a Gen11、HPE DL385 Gen11、HPE Scale-up Server 3200、HPE Superdome Flex 280、HPE DL380 Gen12、HPE DL380a Gen12サポート

製品の寸法 (メートル法)

• 3.47 x 26.7 x 11.1cm

重量

• 1.69kg

標準保証

• HPE認定オプションの限定保証の詳細については、3年間の部品、0年間の作業、および0年間のオンサイトサポートの適用範囲をご覧ください。保証の詳細については、https://support.hpe.com/hpesc/public/docDisplay?docId=sd00004309en_us（英語）をご覧ください。