HPE Edge Inference avec Qualcomm® Cloud AI 100
Une infrastructure performante et écoénergétique pour les charges de travail d’inférence IA et ML exigeantes
Une inférence IA performante et écoénergétique à l’edge
L’infrastructure d’inférence IA basée sur l’intégration de HPE Edgeline EL8000 avec l’accélérateur Qualcomm Cloud AI 100 améliore de façon spectaculaire les performances des serveurs sur les charges de travail d’inférence IA et ML. Les informations sont plus rapides et la transformation des données plus précise pour les workloads utilisant la vision par ordinateur, le langage naturel et les recommandations.
- Performances de pointe
- Efficacité énergétique
- Évolutivité Edge to Cloud
- Une chaîne d’outils logiciels étendue
- Collaboration entre HPE et Qualcomm
Performances de pointe
L’association de HPE Edgeline et des accélérateurs Qualcomm Cloud AI 100 optimise les performances et réduit la latence liée aux modèles complexes d’intelligence artificielle et de machine learning dans l’edge.
- L’architecture haute performance du SoC Qualcomm Cloud AI 100 est optimisée pour l’inférence de deep learning dans le cloud et à l’edge.
- MLPerf ™ 2.0, la solution d’inférence IA la plus rapide et la plus dense au monde
- Pic d’opérations sur les entiers (INT8) jusqu’à 350 TOPS
- Pic d’opérations en FP (FP16) jusqu’à 175 TFLOPS
L’inférence IA à l’edge fait référence au déploiement de modèles d’IA formés à l’extérieur du datacenter et du cloud, c’est-à-dire là où les données sont créées et les mesures peuvent être prises rapidement pour générer une valeur ajoutée.
Efficacité énergétique
L’accélérateur Qualcomm Cloud AI 100 utilise une technologie basse consommation leader issue d’une décennie de technologies mobiles et fournit des performances par watt exceptionnelles.
- Enveloppe de puissance TDP de 75 W, idéale pour les déploiements edge
- Cœur AI Qualcomm de 6e génération
- Conception d’unité tensorielle 5 fois plus économe en énergie qu’une unité vectorielle
- Mémoire de 8 Mo par cœur qui optimise la réutilisation des données et réduit la consommation énergétique
Évolutivité Edge to Cloud
HPE Edgeline peut prendre en charge jusqu’à huit accélérateurs Qualcomm Cloud AI 100 dans un seul châssis EL8000 à l’edge.
- Priorité à l’inférence IA/ML dans les applications cloud et edge
- Architecture compatible avec une technologie évolutive d’une génération à l’autre
Une chaîne d’outils logiciels étendue
Qualcomm Cloud AI 100 est livré avec un ensemble complet d’outils permettant d’optimiser et de gérer facilement des modèles d’IA et de ML formés sur l’infrastructure d’inférence IA.
- Cloud IA 100 prend en charge plus de 200 réseaux de deep learning dans les domaines de la vision par ordinateur, du traitement du langage naturel et des recommandations.
- Le logiciel Qualcomm gère la compilation, l’optimisation et le déploiement depuis des cadres de ML standard tels que TensorFlow, PyTorch et ONNX.
Une collaboration entre HPE et Qualcomm axée sur le calcul d’inférence IA
En avril 2022, HPE a annoncé un partenariat avec Qualcomm, dans le but de fournir aux clients une accélération matérielle performante et écoénergétique pour les charges de travail d’inférence IA.
Premier produit issu de la collaboration entre HPE et Qualcomm, AI 100 s’appuie sur une décennie de recherche et de développement pour fournir une technologie d’accélération de l’inférence pour le deep learning haute performance et écoénergétique, à la fois sécurisée, gérable et performante.
Le partenariat entre HPE et Qualcomm est déterminant car il élargit le portefeuille de solutions d’IA de HPE dans le domaine de l’inférence IA. AI 100 est conçu pour l’informatique d’inférence IA, un objectif clé de l’IA qui consiste à générer des prédictions à partir d’un modèle formé.
Découvrir les solutions d’IA connexes
Profitez de nos solutions complètes pour maîtriser la complexité et pour créer votre solution d’intelligence artificielle de bout en bout, du datacenter central à l’Intelligent Edge.
Qualcomm est une marque de commerce ou une marque déposée de Qualcomm Incorporated. Qualcomm Cloud AI est un produit de Qualcomm Technologies, Inc. et/ou de ses sociétés affiliées.