Votre organisation a-t-elle besoin d’une infrastructure optimisée pour le déploiement de modèles formés IA/ML à l’edge ? L’accélérateur Qualcomm Cloud AI 100 pour HPE améliore drastiquement les performances du serveur sur les charges de travail d’inférence IA/ML. Il permet d’obtenir des informations plus rapidement et une précision supérieure pour les transformations de données sur la vision par ordinateur, le langage naturel et d’autres cas d’utilisation IA/ML à la pointe de la technologie. Basé sur Qualcomm AI Core, cet accélérateur de serveur est optimisé pour l’inférence. Il prend en charge la personnalisation du modèle et la quantification vers des types de données à plus faible précision. Vous optimisez ainsi les performances et votre consommation énergétique à un niveau concurrentiel. Avec une consommation électrique réduite, l’accélérateur Qualcomm Cloud AI 100 pour HPE est capable d’augmenter les performances tout en réduisant les coûts d’exploitation.
Nouveautés
- Les accélérateurs PCIe à faible puissance, compacts et à logement unique sont optimisées pour l’infrastructure d’interférence IA à l’edge.
- Basée sur Qualcomm AI Core, l’architecture optimisée pour l’inférence exploite une technologie de deep learning efficace sur plus d’une décennie pour le calcul d’inférence.
- Performances TOPS (mille milliards d’opérations par seconde) maximales impressionnantes avec 350 Int8, 175 FP16.
- Les performances élevées peuvent réduire considérablement les coûts d’acquisition de l’infrastructure.
Caractéristiques
Hautes performances
Spécialement conçu pour les charges de travail, l’accélérateur Qualcomm Cloud AI 100 pour HPE est en tête sur le marché en termes de performances et d’économie d’énergie, d’après le benchmark aux normes de l’industrie avec MLPerf.
Vous pouvez configurer jusqu’à huit accélérateurs PCIe compacts au sein d’un système HPE Edgeline EL8000.
Chaque carte standard assure 350 TOPS tout en consommant uniquement une puissance de 75 watts.
Via le benchmark ResNet-50, les performances sont capables d’inférencer jusqu’à plus de 100 000 images par seconde dans un seul système HPE Edgeline EL8000.
Compact et économe en énergie
La puissance de chaque accélérateur Qualcomm Cloud AI 100 pour HPE est de 75 watts TDP.
L’accélérateur Qualcomm Cloud AI 100 pour HPE est un connecteur PCIe Gen4 (x8) compact (demi-hauteur et demi-longueur) pour une utilisation à l’edge.
Simple d'utilisation
L’accélérateur Qualcomm Cloud AI 100 pour HPE exploite la 6e génération de technologies IA/ML de Qualcomm. Il comporte un kit de développement de logiciels complet et un large panel d’outils pour les développeurs (compilateur, optimisation des performances et outils de quantification), ainsi que des échantillons de code.
Prise en charge simplifiée pour les cadres IA/ML fréquents.
Liens connexes