Xiaomi MiLM, 온디바이스 AI 기능의 미래를 보여주기 위해 오프라인 테스트”

오프라인에서 테스트된 Xiaomi MiLM – 온디바이스 AI

AI 기능 향상을 향한 상당한 진전에서 Xiaomi는 인상적인 MiLM-6B 언어 모델을 공개했습니다. 이번 공개는 두 가지 주요 AI 모델 평가 목록인 C-Eval과 CMMLU 모두에 처음 등장하는 것으로, AI 공간에서 혁신에 대한 Xiaomi의 노력을 강조합니다.

사전 학습된 대규모 언어 모델인 MiLM-6B는 Xiaomi에서 64억이라는 놀라운 매개변수 크기로 개발했습니다. 이 인상적인 업적은 인간과 기계 간의 보다 미묘하고 상황에 맞는 상호 작용을 위한 길을 열어줍니다. 프로젝트의 GitHub 페이지에서 공유된 정보에 따르면 모델의 능력은 클라우드 기반 사용에 국한되지 않습니다.

오늘 Xiaomi는 오프라인 데모 테스트 비디오를 통해 MiLM의 기능을 선보였습니다. 비디오에는 “AI가 여전히 네트워크 신호에서 벗어나 작동합니까?”라는 중요한 질문이 포함되어 있습니다. Xiaomi는 모델의 오프라인 기능을 시연하여 단호한 답변을 제공했습니다.

이 비디오는 로컬 NPU 산술을 활용하고 로컬 데이터에 액세스하여 놀라운 속도와 효율성으로 텍스트를 생성하는 모바일 측에서 작동하는 Xiaomi MiLM을 묘사했습니다. 이 혁신을 통해 최소한의 전력 소비로 고속 텍스트 생성이 가능합니다.

오프라인 데모의 주요 테스트 결과는 다음과 같습니다.

• 텍스트 생성 속도: 초당 11.2단어
• CPU 사용량: 11.0%
• 메모리 사용량: 2798.0MB

경우에 따라 엔드 사이드 대형 모델은 클라우드 기반 제품의 성능과도 경쟁하며 탁월한 사용자 경험을 제공하려는 Xiaomi의 노력을 보여줍니다. 오프라인 시나리오에서 Xiaomi MiLM을 배포하면 개인 정보 보호 및 데이터 보안이 향상되어 AI 시대에 중요한 진전을 이룰 수 있습니다.

사용자 개인 정보 보호 및 데이터 보안에 대한 Xiaomi의 강조는 무엇보다 중요합니다. 회사는 사용자 정보 보호의 중요성을 인식하고 엔드 사이드 빅 모델의 구현을 통해 이러한 문제를 해결합니다. 샤오미의 성과는 단순한 기술적 승리가 아니라 AI 시대의 데이터 보안을 해결하기 위한 필수 솔루션입니다.

원천