Qualcomm® Cloud AI 100을 이용한 HPE AI 추론 솔루션
까다로운 AI/ML 추론 워크로드에 적합한 고성능, 고효율 인프라를 제공합니다.
엣지부터 클라우드까지 고성능, 고효율 AI 추론 지원
AI 추론 솔루션은 Qualcomm Cloud AI 100 가속기와 HPE Edgeline EL8000 및 HPE ProLiant DL385 Gen10 Plus v2 서버의 통합을 기반으로 합니다. AI/ML 추론 워크로드에서 서버 성능을 대폭 개선하여 인사이트를 더 빠르게 확보하고 컴퓨터 비전, 자연어 모델에서 데이터 전환의 정확도를 높일 수 있습니다.
- 성능 리더십
- 전력 효율성
- 엣지 투 클라우드 확장성
- 광범위한 소프트웨어 툴 체인
- HPE Qualcomm 협업
전력 효율성
Qualcomm Cloud AI 100은 10여 년간 구축한 모바일 기술을 통한 업계 최고 수준의 저전력 기술을 사용하며 와트당 우수한 성능을 제공합니다.
- 75W TDP PE(Power Envelope) – 엣지 배포에 적합
- 6세대 Qualcomm AI 코어
- Tensor 장치 설계는 벡터 장치보다 전력 효율이 5배 우수
- 코어당 8MB 메모리로 데이터 재사용 극대화 및 전력 사용 감소
엣지 투 클라우드 확장성
HPE Edgeline은 엣지의 단일 EL8000 섀시에서 Qualcomm Cloud AI 100 가속기를 최대 8개까지 지원할 수 있습니다.
- 클라우드 및 엣지 애플리케이션에서 AI/ML 추론에 집중
- 여러 세대의 확장형 기술을 위한 아키텍처
광범위한 소프트웨어 툴 체인
Qualcomm Cloud AI 100은 AI 추론 인프라에서 AI/ML 훈련 모델을 간편하게 최적화 및 관리하는 포괄적인 툴 세트와 함께 제공됩니다.
- Cloud AI 100은 컴퓨터 비전, 자연어 처리, 권장 사항 등에서 200개가 넘는 딥 러닝 네트워크를 지원합니다.
- Qualcomm 소프트웨어는 TensorFlow, PyTorch, ONNX와 같은 업계 표준 ML 프레임워크부터 시작하여 편집, 최적화, 배포 등을 지원합니다.
AI 추론 컴퓨팅 중심의 HPE 및 Qualcomm 협업
2022년 4월 HPE는 고객에게 AI 추론 워크로드를 위한 고성능, 고효율 하드웨어 가속 기능을 제공하기 위한 Qualcomm과의 파트너십을 발표했습니다.
HPE와 Qualcomm의 첫 번째 제품 협업을 상징하는 AI 100은 10여 년의 연구 개발 결과를 바탕으로 안전하고 관리가 간편하며 성능 기준을 충족하는 고성능, 고효율 딥 러닝 추론 가속화 기술을 제공합니다.
HPE와 Qualcomm의 파트너십은 AI 추론에서 HPE의 AI 솔루션 포트폴리오를 더욱 확장한다는 측면에서 중요합니다. AI 100은 AI의 핵심 목적인 훈련된 모델에서 예측을 생성하는 AI 추론 컴퓨팅용으로 설계되었습니다.
HPE와 Qualcomm이 엣지부터 데이터 센터까지 AI 추론 워크로드에서 업계 최고 수준의 성능과 대기 시간 제공
MLPerf Inference v3.0 벤치마크는 Qualcomm Cloud AI100 가속기와 통합된 HPE 시스템 성능을 보여줍니다.
관련 AI 솔루션 알아보기
HPE의 포괄적인 솔루션을 사용하여 복잡성을 해소하고 코어 데이터 센터부터 인텔리전트 엣지까지 엔드 투 엔드 인공 지능 솔루션을 구축할 수 있습니다.
Qualcomm은 Qualcomm Incorporated의 상표 또는 등록 상표입니다. Qualcomm Cloud AI는 Qualcomm Technologies, Inc. 및/또는 그 자회사의 제품입니다.