Azure OpenAI 서비스에서 DALL-E 생성 이미지에 대한 곧 출시되는 보이지 않는 워터마크

OpenAI의 DALL-E 모델은 텍스트 프롬프트에서 이미지를 생성할 수 있습니다. Azure OpenAI 서비스는 OpenAI의 DALL-E 모델에 대한 REST API 액세스를 제공하여 개발자가 애플리케이션 내에서 프로그래밍 방식으로 이미지를 만들 수 있도록 합니다. 오늘 Microsoft는 Azure OpenAI 서비스 내에서 ‘워터마크’라는 혁신적인 기본 제공 기능을 발표했습니다 . 이 새로운 워터마크 기능은 DALL·E를 사용하여 생성된 모든 이미지에 보이지 않는 워터마크를 추가하여 투명성을 높이고 AI에서 생성된 이미지를 보호합니다.

최근 이미지 생성 모델의 급증으로 인해 허위 정보가 눈에 띄게 증가하고 AI가 생성한 딥페이크가 급증했습니다. 따라서 AI가 생성한 콘텐츠를 인식하는 능력이 중요해졌습니다. AI가 생성한 이미지에 포함된 새롭게 도입된 보이지 않는 워터마크는 특수 도구를 사용하여 감지할 수 있지만 육안으로는 감지할 수 없어 이미지의 무결성이 유지됩니다. 또한 AI가 생성한 이미지의 크기를 조정하거나 잘라내도 워터마크의 무결성은 유지됩니다.

보이지 않는 워터마크에는 이미지의 출처에 대한 메타데이터가 포함되며, 이는 이미지에 연결된 매니페스트를 통해 표현됩니다. 이 매니페스트는 Azure OpenAI 서비스를 참조하는 인증서로 암호화되어 서명되며 다음 세부 정보를 포함합니다.

• “설명” – 이 필드는 DALL-E 모델에서 생성된 모든 이미지에 대해 “AI 생성 이미지”를 나타내며 이미지의 AI 생성 특성을 확인합니다.
• “softwareAgent” – 이 필드는 Azure OpenAI 서비스 내에 통합된 DALL-E 시리즈 모델에서 생성된 모든 이미지에 대해 “Azure OpenAI DALL-E”를 나타냅니다.
• “언제” – 이 타임스탬프는 콘텐츠 자격 증명이 설정된 시점을 표시하여 다른 Azure AI 서비스와의 유사점을 강조합니다.

Microsoft가 워터마크를 구현한 것은 이번이 처음이 아닙니다. 작년에 Microsoft는 Azure AI Speech의 개인 음성 기능으로 생성된 음성 출력에 대한 워터마크를 출시하여 사용자가 음성이 Azure AI Speech를 통해 합성되었는지 여부를 식별할 수 있도록 했습니다.

또한 Microsoft는 Adobe, Truepic, BBC 등 다른 유명 AI 업계 참여자와 협력하여 다양한 플랫폼에서 워터마킹, 암호화 메타데이터 및 감지 기술의 일관성을 유지하고 있습니다.

Microsoft의 이 이니셔티브는 AI 기술을 책임감 있게 배포하고 AI에서 생성된 콘텐츠의 오용을 해결하기 위한 중요한 진전을 나타냅니다.

원천