Qualcomm® Cloud AI 100を搭載したHPE AI推論ソリューション
AI/ML推論のワークロードに対応する高パフォーマンスでエネルギー効率に優れたインフラストラクチャをご提供します。
高パフォーマンスでエネルギー効率に優れたエッジからクラウドまでのAI推論機能
Qualcomm Cloud AI 100アクセラレータとHPE Edgeline EL8000およびHPE ProLiant DL385 Gen10 Plus v2サーバーをベースとするAI推論ソリューションは、AI/ML推論ワークロードにおけるサーバーパフォーマンスを大幅に向上させ、コンピュータービジョンモデルと自然言語モデルの情報を得るまでの時間を短縮するとともに、データトランスフォーメーションの精度を高めます。
- 業界をリードするパフォーマンス
- 電力効率
- エッジからクラウドまでの拡張性
- 広範なソフトウェアツールチェーン
- HPEとQualcomm社のコラボレーション
業界をリードするパフォーマンス
Qualcomm Cloud AI 100アクセラレータとHPE EdgelineおよびHPE ProLiantを組み合わせて高いパフォーマンスを実現し、エッジの複雑な人工知能モデルと機械学習モデルのレイテンシを減らします。
- Qualcomm Cloud AI 100 SoCハイパフォーマンスアーキテクチャーは、クラウドとエッジでのディープラーニング推論に最適
- 世界最高の速度と密度を誇るAI推論ソリューション - MLPerf ™ 2.0
- 最大350TOPSのPeak Integer Ops (INT8)
- 最大175TFLOPSのPeak FP Ops (FP16)
エッジでのAI推論とは、データセンターとクラウドの外部 (データが作成され、ビジネス価値を創出するためにそのデータを迅速に処理できるポイント) にトレーニング済みのAIモデルを展開することを指します。
電力効率
Qualcomm Cloud AI 100は、10年の実績があるモバイルテクノロジーの業界をリードする低電力テクノロジーを活用し、優れたワットあたりのパフォーマンスを実現します。
- エッジ環境に最適な75W TDPの電力エンベロープ
- 第6世代のQualcomm AIコア
- ベクトルユニットの5倍の電力効率を誇るテンソルユニット設計
- コアあたり8MBのメモリでデータの再利用率を最大限まで高めて消費電力を低減
エッジからクラウドまでの拡張性
HPE Edgelineは、エッジの単一のEL8000シャーシで最大8個のQualcomm Cloud AI 100アクセラレータを搭載できます。
- クラウドアプリケーションとエッジアプリケーションのAI/ML推論に重点を置いた設計
- 複数世代のスケーラブルなテクノロジーに対応するアーキテクチャー
広範なソフトウェアツールチェーン
Qualcomm Cloud AI 100は、AI InferenceインフラストラクチャでAI/MLのトレーニング済みモデルを簡単に最適化して管理する、一連の包括的なツールを搭載しています。
- Cloud AI 100は、コンピュータービジョン、自然言語処理、および推奨にわたる200以上のディープラーニングネットワークをサポートします。
- Qualcommソフトウェアは、TensorFlow、PyTorch、ONNXなどの業界標準のMLフレームワークからのコンパイル、最適化、展開をサポートします。
AI推論コンピューティングに重点を置いたHPEとQualcomm社のコラボレーション
2022年4月に、HPEはAI推論ワークロード向けのパフォーマンスと電力効率に優れたハードウェア高速化機能をお客様に提供するためにQualcomm社とパートナーシップを締結したことを発表しました。
AI 100は、HPEとQualcomm社の製品における初めてのコラボレーションであり、10年を超える研究開発の成果を活かして、安全性、管理性、パフォーマンスの高い、電力効率に優れた高性能のディープラーニング推論高速化テクノロジーを提供します。
HPEとQualcomm社のパートナーシップは、AI推論の分野におけるHPEのAIソリューションポートフォリオをさらに拡大するものであるため重要です。AI 100は、AIの重要な目的であり、トレーニング済みモデルで予測を行うためのAI推論コンピューティング向けの設計となっています。
HPEとQualcomm社がエッジからデータセンターまでのAI推論ワークロードでベストインクラスのパフォーマンスとレイテンシを実現
MLPerf Inference v3.0ベンチマークにQualcomm Cloud AI100アクセラレータと統合されたHPEシステムのパフォーマンスが示されています。
関連AIソリューション
HPEの包括的なソリューションを活用すれば、複雑な問題を解決し、コアデータセンターからインテリジェントエッジまでをカバーするエンドツーエンドのAIソリューションを構築できます。
HPE GreenLake for Machine Learningを使用すれば、人工知能を利用して、データの力を活用できるようになります。
データの準備からモデルの選択や開発、持続可能でスケーラブルな方法でのモデルのトレーニング、推論の検討、あらゆるもののエンドツーエンドの管理まで、生成AIを高速化すれば、想像を現実にしてAIのメリットを実現できます。
AIおよびデータプラットフォーム向けのアドバイザリおよびプロフェッショナルサービスは、パイロット運用から本番環境への移行を加速させます。
-
サーバー製品情報
サーバーライブラリ・サーバー関連情報
その他のサーバー製品情報
ツール
アライアンス
Qualcommは、Qualcomm Incorporatedの商標または登録商標です。Qualcomm Cloud AIは、Qualcomm Technologies, Inc.および/またはその子会社の製品です。