Microsoft, 토큰 생성을 위한 99% SLA를 갖춘 Azure OpenAI Data Zones 공개

Microsoft, 토큰 생성을 위한 99% SLA를 갖춘 Azure OpenAI Data Zones 공개

Microsoft, 새로운 기능으로 Azure AI 서비스 강화

Microsoft의 Azure AI 서비스 포트폴리오는 계속 번창하고 있으며, 현재 전 세계적으로 60,000명 이상의 고객에게 서비스를 제공하고 있습니다. 최근 이 기술 대기업은 AI 솔루션의 개발 및 확장을 용이하게 하는 것을 목표로 한 다양한 새로운 기능을 공개했으며, 특히 빠르게 확장되고 있는 Azure OpenAI 서비스에 중점을 두었습니다.

향상된 데이터 제어를 위한 Azure OpenAI Data Zones 소개

핵심적인 개선 사항 중 하나는 Azure OpenAI DataZone 배포 옵션의 출시입니다. 이 기능은 기업에 데이터 프라이버시 및 레지던시에 대한 더 큰 감독을 제공하도록 제작되었습니다. 미국과 유럽 연합 내에서 운영되는 조직은 이제 지정된 지리적 위치 내에서 데이터를 처리하고 저장할 수 있는 기능을 갖추게 됩니다. 이 개발은 특히 지역 데이터 레지던시 의무를 준수하는 데 중요합니다. 현재 Data Zone 배포 옵션은 Standard(PayGo) 계층을 사용하는 고객에게 제공되며, 이 가용성을 곧 Provisioned 계층으로 확장할 계획입니다.

새로운 SLA 제공으로 향상된 성능

Microsoft는 서비스의 안정성을 강화하기 위해 Azure OpenAI 서비스 내에서 토큰 생성을 위한 99.9% 지연 서비스 수준 계약(SLA)을 도입했습니다. 이 보장은 개발자가 일관된 토큰 생성 속도에 의존할 수 있도록 보장하여 서비스의 전반적인 성능에 대한 확신을 높여줍니다.

고급 AI 모델이 이제 접근 가능

또한 Microsoft는 개발자를 위한 AI 모델 제공을 확장했습니다. Azure AI 서비스는 이제 세 가지 고급 멀티모달 의료 영상 모델을 제공합니다.

  • MedImageInsight : 포괄적인 이미지 분석을 위해
  • MedImageParse : 다양한 영상화 방법에 걸쳐 이미지 분할을 용이하게 합니다.
  • CXRReportGen : 심층적인 구조화된 보고서 생성

또한 개발자는 이제 Mistral AI의 소규모 언어 모델인 Ministral 3B와 함께 선도적인 AI 검색 모델인 Cohere Embed 3에 액세스할 수 있습니다. 미세 조정 옵션은 이제 Phi-3.5-mini 및 Phi-3.5-MoE 모델 모두에 사용할 수 있어 Azure AI 서비스의 적응성이 더욱 향상됩니다.

GitHub Marketplace를 통한 원활한 통합

탐색과 실험을 용이하게 하기 위해 Azure AI 모델은 Azure AI 모델 추론 API를 통해 GitHub Marketplace에서 액세스할 수 있습니다. 이 통합은 개발자에게 무료로 모델 성능을 평가하고 비교할 수 있는 놀이터 환경을 제공합니다. 모델을 배포할 준비가 되면 개발자는 Azure 계정에 로그인하여 유료 티어로 업그레이드하기만 하면 됩니다.

Azure AI의 미래는 어떻게 될까요?

Microsoft는 이번 달 말에 열리는 Microsoft Ignite 2024 이벤트에서 추가적인 Azure AI 기능을 공개할 계획이며, 이를 통해 Microsoft의 AI 제품이 더욱 발전된 모습을 선보일 것으로 기대됩니다.

Microsoft가 Azure AI 포트폴리오를 지속적으로 개선함에 따라 더 많은 업데이트가 공개될 예정입니다.

출처 및 이미지

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다