Microsoft는 DirectML API에 대한 Intel NPU(신경 프로세서 유닛) 지원 미리 보기를 출시했습니다.

Intel은 2023년 12월에 “Meteor Lake” 기반 Core Ultra 칩을 처음 출시했습니다 . 여기에는 AI 애플리케이션의 성능을 하드웨어 가속하는 데 도움이 되는 통합 NPU(신경 처리 장치) 칩이 포함되었습니다. 오늘 Microsoft는 NPU, 특히 Intel Core Ultra CPU에 대한 지원을 추가하는 DirectML API의 개발자 미리 보기 버전을 출시했다고 발표했습니다.

블로그 게시물에서 Microsoft는 DirectML 1.13.1 및 ONNX Runtime 1.17의 미리 보기 릴리스가 Intel Core Ultra CPU가 탑재된 PC에서 NPU 가속을 지원할 것이라고 밝혔습니다. 회사는 Intel뿐만 아니라 Samsung과도 협력하여 DirectML을 사용하는 AI 앱의 성능을 향상시키는 데 도움을 주었습니다.

이 개발에 대한 별도의 블로그 게시물에서 Intel은 삼성이 Intel Core Ultra 칩을 탑재한 최근 출시된 Samsung Galaxy Book 4 노트북에서 Microsoft의 DirectML과 Intel AI Boost 기술을 사용했다고 밝혔습니다. 인텔은 삼성이 마이크로소프트의 DirectML API를 사용하여 NPU를 통해 갤러리 윈도우 앱 의 얼굴 및 객체 분류 기능을 인텔 코어 울트라 CPU로 오프로드했다고 밝혔습니다. Intel은 프로젝트 개발 시간이 더 빨라졌다고 주장합니다.

이것은 미리보기 릴리스이기 때문입니다. Microsoft는 Intel Core Ultra 기반 PC에서 이 버전의 DirectML에 대한 몇 가지 제한 사항을 지적합니다.

• DirectML의 NPU 지원은 현재 지원 대상으로 지정된 기계 학습 모델의 하위 집합과만 호환됩니다. 일부 모델은 전혀 실행되지 않거나 대기 시간이 길거나 정확도가 낮을 ​​수 있습니다. 앞으로 더 많은 모델의 호환성과 성능을 개선하기 위해 노력하고 있습니다.
• 기능적이지만 이번 개발자 미리보기에 선택되지 않은 모델에는 안정성 및 신뢰성 문제가 있을 수 있습니다. NPU에 적합한 추가 모델에 대한 적용 범위를 지속적으로 확대하고 있습니다.