NVIDIA GB300 NVL72 by HPE

1兆を超えるパラメーターを持つAIモデルのトレーニング、チューニング、推論に、高性能な統合ソリューションが必要ですか。NVIDIA GB300 NVL72 by HPEは、単一の大規模なGPUとして機能する72基のGPU NVLink™ドメインを備えた、液冷式のラックスケールソリューションです。72基のNVIDIA® Blackwell Ultra GPU、36基のNVIDIA Grace™ CPU、NVIDIAネットワーキングおよびソフトウェア、HPEサービスを統合し、1兆を超えるパラメーターを持つAIモデルに卓越したパフォーマンスを提供します。このサービスにより、AIサービスプロバイダーと意欲的なAIモデルビルダーは、NVIDIAとの信頼できるパートナーシップと世界的な展開に支えられた実績のあるサービスを使用して、導入を加速できます。これらの組織は、大規模なDLC導入におけるマーケットリーダー¹であるHPEの安心の直接液冷システムを利用して自信を持って運用することができ、専門のHPEエンジニアによる世界的に有名なパフォーマンスチューニングと最適化によって投資を増やすことができます。

• 72基のNVIDIA Blackwell Ultra GPUと36基のNVIDIA Grace™ CPU

• GPU間接続のための高速NVIDIA NVLink™スイッチ

• 最大20TBのHBM3Eメモリと569TB/sの合計メモリ帯域幅

• NVIDIA ConnectX®-8 SuperNIC

• HPE直接液冷テクノロジー

• HPEサービス

HPE Servicesによる優れたカスタマーエクスペリエンス

NVIDIA GB300 NVL72 by HPEは、HPE Servicesのグローバルな導入、展開、サポートなどの広範囲にわたる機能に支えられています。

HPEの導入エンジニアとプロジェクトマネージャーのチームが、お客様の納品スケジュールに合わせてカスタマイズされた顧客展開サービスにより、お客様のNVIDIA GB300 NVL72環境が速やかに稼働開始し、最適なパフォーマンスを発揮できるように支援します。

AIカスタムサポートサービスは、お客様の環境と要件に合わせ、カスタマイズしたサービスを提供します。複数レベルのSLAカバレッジにより、専任のリモートエンジニアと常駐エンジニアのプロアクティブなサポートでインシデント管理を強化します。

HPEでは、高度なトレーニングを受けた常駐エンジニアを通じて包括的なオンサイトサポートを提供しており、お客様のITチームと緊密に連携してシステムの可用性とパフォーマンスの実現を支援します。

業界をリードするHPEのパフォーマンスエンジニアリングおよびベンチマークチームが、システムの使用期間全体にわたってソリューションをきめ細かくチューニングします。

HPEの高度な直接液冷

NVIDIA GB300 NVL72 by HPEは、厳しい電力要件を満たすために空冷と液冷を組み合わせています。各ラックは132～140kWの電力を消費します。ラックレベルでは、空冷と液冷の熱回収の割合は、空冷が約10%、液冷が約90%です。

HPEは、NVIDIA GB300 NVL72アーキテクチャー用として検証済みの、実績ある列内/ラックマウント内液冷ソリューションを提供します。

HPEは、50年にわたり、液冷のイノベーションに取り組み、世界最大の直接液冷式環境の提供を通じて専門知識を積み重ねてきました¹。

HPEは、サイトの準備状況の評価と計画、導入、電力/冷却の接続、冷却水の追加、冷却水循環装置 (CDU) の試運転、漏れ検出、温度監視などのサービスを通じて、直接液冷式環境の準備、展開、テスト、運用を支援します。

液冷式環境の稼働後は、HPEの専門家が安定化を支援し、継続的なサポートを提供します。

卓越したパフォーマンス

NVIDIA GB300 NVL72 by HPEシステムは、高速で効率的なGPU間データ交換を必要とするシナリオで、通信のボトルネックを軽減し、パフォーマンスを向上させる統合された高速ファブリックを提供します。

このソリューションは、高帯域幅、低レイテンシのNVIDIA® NVLink™相互接続を特徴とし、72 GPUの単一共有メモリ空間を構築します。

NVIDIA Grace™ CPUとNVIDIA Blackwell GPUは、最先端かつ最高レベルの処理能力と効率を実現します。

NVIDIA液冷コンピュートトレイが、高密度コンピューティングの対応に必要なインフラストラクチャを提供し、NVIDIA液冷式NVLinkスイッチトレイが、最適なデータフローを実現する高速GPU間相互接続を提供します。

NVIDIA InfiniBandネットワークは、システム全体にわたって堅牢で高信頼性の接続を提供します。