Solución de inferencia de HPE AI con Qualcomm® Cloud AI 100
Una infraestructura de alto rendimiento y energéticamente eficiente para las cargas de trabajo de inferencia de inteligencia artificial/aprendizaje automático exigentes.
Inferencia de inteligencia artificial de alto rendimiento y con eficiencia energética del extremo a la nube
Solución de inferencia de inteligencia artificial basada en la integración de aceleradores Qualcomm Cloud AI 100 con servidores HPE Edgeline EL8000 y HPE ProLiant DL385 Gen10 Plus v2. Mejora drásticamente el rendimiento del servidor en las cargas de trabajo de inferencia de inteligencia artificial/aprendizaje automático para acelerar la obtención de información y mejorar la precisión de la transformación de los datos de los modelos de visión informática y lenguaje natural.
- Liderazgo del rendimiento
- Eficiencia energética
- Escalabilidad desde el extremo hasta la nube
- Amplia cadena de herramientas de software
- Colaboración entre HPE y Qualcomm
Liderazgo del rendimiento
La combinación de los aceleradores Qualcomm Cloud AI 100 con HPE Edgeline y HPE ProLiant ofrece alto rendimiento y reduce la latencia asociada a modelos complejos de inteligencia artificial y aprendizaje automático en el extremo.
- La arquitectura SoC de alto rendimiento Qualcomm Cloud AI 100 está optimizada para la inferencia del aprendizaje profundo en la nube y en el extremo
- La solución de inferencia de inteligencia artificial más rápida y densa del mundo: MLPerf™ 2.0
- Máximo operaciones Integer (INT8) hasta 350 TOPS
- Máximo operaciones FP (FP16) hasta 175 TFLOPS
La inferencia de inteligencia artificial en el extremo se refiere a la implementación de modelos de inteligencia artificial entrenados fuera del centro de datos y la nube, en el punto donde se crean los datos y donde se puede actuar sobre ellos con rapidez a fin de generar valor empresarial.
Eficiencia energética
Qualcomm Cloud AI 100 utiliza tecnología de bajo consumo líder del sector fruto de una década de tecnologías móviles y ofrece un rendimiento por vatio superior.
- Potencia máxima TDP de 75 W, ideal para implementaciones en el extremo
- Núcleo Qualcomm AI de 6.ª generación
- Diseño de la unidad de tensor con una eficiencia energética 5 veces superior a la de una unidad de vector
- Los 8 MB de memoria por núcleo maximizan la reutilización de los datos y reducen el consumo energético
Escalabilidad desde el extremo hasta la nube
HPE Edgeline puede admitir hasta ocho aceleradores Qualcomm Cloud AI 100 en un único chasis EL8000 en el extremo.
- Céntrate en la inferencia de inteligencia artificial/aprendizaje automático en aplicaciones en la nube y el extremo
- Arquitectura para tecnología escalable entre generaciones
Amplia cadena de herramientas de software
Qualcomm Cloud AI 100 incluye un completo conjunto de herramientas para optimizar y gestionar fácilmente los modelos de inteligencia artificial/aprendizaje automático sobre infraestructuras de inferencia de inteligencia artificial.
- Cloud AI 100 admite más de 200 redes de aprendizaje profundo en visión artificial, procesamiento del lenguaje natural y recomendación.
- El software Qualcomm admite compilación, optimización e implementación a partir de marcos de aprendizaje automático estándares del sector, como TensorFlow, PyTorch y ONNX.
Una colaboración entre HPE y Qualcomm centrada en la computación para inferencia de inteligencia artificial
En abril de 2022, HPE anunció una colaboración con Qualcomm para ofrecer a los clientes aceleración de hardware de alto rendimiento y con eficiencia energética para cargas de trabajo de inferencia de inteligencia artificial.
AI 100 representa la primera colaboración de productos entre HPE y Qualcomm y utiliza más de una década de investigación y desarrollo con el fin de ofrecer una tecnología de aceleración para inferencia de aprendizaje profundo de alto rendimiento y con eficiencia energética que es segura, fácil de gestionar y eficiente.
La colaboración entre HPE y Qualcomm es importante porque amplía todavía más el portfolio de soluciones de inteligencia artificial de HPE en inferencia de inteligencia artificial. El AI 100 se ha diseñado para computación de inferencia de inteligencia artificial, una finalidad clave de la inteligencia artificial, que consiste en generar predicciones a partir de un modelo entrenado.
HPE y Qualcomm entregan el mejor rendimiento y latencia de su categoría en cargas de trabajo de inferencia de inteligencia artificial desde el extremo hasta el centro de datos
Los estudios comparativos de MLPerf Inference v3.0 muestran el rendimiento del sistema HPE integrado con aceleradores Qualcomm Cloud AI100
Explora las soluciones de IA relacionadas
Aprovecha nuestras soluciones integrales para solucionar las complejidades informáticas y crear tu solución global de inteligencia artificial, que abarque desde el centro de datos principal a la inteligencia en el extremo.
Qualcomm es una marca comercial o marca comercial registrada de Qualcomm Incorporated. Qualcomm Cloud AI es un producto de Qualcomm Technologies, Inc. o sus filiales.