Solution d’inférence IA HPE avec Qualcomm® Cloud AI 100
Une infrastructure performante et écoénergétique pour les charges de travail d’inférence IA/ML exigeantes
Une inférence IA performante et écoénergétique de l’edge au cloud
Solution d’inférence reposant sur l’intégration des accélérateurs Qualcomm Cloud AI 100 avec les serveurs HPE Edgeline EL8000 et HPE ProLiant DL385 Gen10 Plus v2. Améliore de façon spectaculaire les performances des serveurs pour les charges de travail d’inférence IA/ML, d’où une extraction d’informations accélérée et une transformation des données plus fiable dans les modèles de vision par ordinateur et de langage naturel.
- Performances de pointe
- Efficacité énergétique
- Évolutivité Edge to Cloud
- Une chaîne d’outils logiciels étendue
- Collaboration entre HPE et Qualcomm
Performances de pointe
L’association des accélérateurs Qualcomm Cloud AI 100 avec HPE Edgeline et HPE ProLiant optimise les performances et réduit la latence liée au déploiement de modèles d’intelligence artificielle et de machine learning complexes à l’edge.
- L’architecture haute performance du SoC Qualcomm Cloud AI 100 est optimisée pour l’inférence de deep learning dans le cloud et à l’edge.
- MLPerf ™ 2.0, la solution d’inférence IA la plus rapide et la plus dense au monde
- Pic d’opérations sur les entiers (INT8) jusqu’à 350 TOPS
- Pic d’opérations en FP (FP16) jusqu’à 175 TFLOPS
L’inférence IA à l’edge fait référence au déploiement de modèles d’IA entraînés en dehors du datacenter et du cloud, dans l’environnement où les données sont créées et où elles peuvent être exploitées rapidement pour générer une valeur business.
Efficacité énergétique
L’accélérateur Qualcomm Cloud AI 100 utilise une technologie basse consommation leader issue d’une décennie de technologies mobiles et fournit des performances par watt exceptionnelles.
- Enveloppe de puissance TDP de 75 W, idéale pour les déploiements edge
- Cœur AI Qualcomm de 6e génération
- Conception d’unité tensorielle 5 fois plus économe en énergie qu’une unité vectorielle
- Mémoire de 8 Mo par cœur qui optimise la réutilisation des données et réduit la consommation énergétique
Évolutivité Edge to Cloud
HPE Edgeline peut prendre en charge jusqu’à huit accélérateurs Qualcomm Cloud AI 100 dans un seul châssis EL8000 à l’edge.
- Priorité à l’inférence IA/ML dans les applications cloud et edge
- Architecture compatible avec une technologie évolutive d’une génération à l’autre
Une chaîne d’outils logiciels étendue
Qualcomm Cloud AI 100 est livré avec un ensemble complet d’outils permettant d’optimiser et de gérer facilement des modèles d’IA et de ML formés sur l’infrastructure d’inférence IA.
- Cloud IA 100 prend en charge plus de 200 réseaux de deep learning dans les domaines de la vision par ordinateur, du traitement du langage naturel et des recommandations.
- Le logiciel Qualcomm gère la compilation, l’optimisation et le déploiement depuis des cadres de ML standard tels que TensorFlow, PyTorch et ONNX.
Une collaboration entre HPE et Qualcomm axée sur le calcul d’inférence IA
En avril 2022, HPE a annoncé un partenariat avec Qualcomm, dans le but de fournir aux clients une accélération matérielle performante et écoénergétique pour les charges de travail d’inférence IA.
Premier produit issu de la collaboration entre HPE et Qualcomm, AI 100 s’appuie sur une décennie de recherche et de développement pour fournir une technologie d’accélération de l’inférence pour le deep learning haute performance et écoénergétique, à la fois sécurisée, gérable et performante.
Le partenariat entre HPE et Qualcomm est déterminant car il élargit le portefeuille de solutions d’IA de HPE dans le domaine de l’inférence IA. AI 100 est conçu pour l’informatique d’inférence IA, un objectif clé de l’IA qui consiste à générer des prédictions à partir d’un modèle formé.
HPE et Qualcomm offrent les meilleures performances et latences de leur catégorie pour les charges de travail d’inférence IA, de l’edge au datacenter.
Les benchmarks MLPerf Inference v3.0 démontrent les performances des systèmes HPE intégrés avec les accélérateurs Qualcomm Cloud AI100
Découvrir les solutions d’IA connexes
Profitez de nos solutions complètes pour vaincre la complexité et pour créer votre solution d’intelligence artificielle de bout en bout, du datacenter central à l’Intelligent Edge.
Qualcomm est une marque de commerce ou une marque déposée de Qualcomm Incorporated. Qualcomm Cloud AI est un produit de Qualcomm Technologies, Inc. et/ou de ses sociétés affiliées.