브래드 스미스(Brad Smith) 마이크로소프트 사장은 “악성 AI 생성 콘텐츠”에 어떻게 대처할 것인지 설명했다.

최근 팝스타 테일러 스위프트의 노골적인 내용이 담긴 딥페이크 이미지가 인터넷에 넘쳐났습니다 . 일부 보고서에서는 해당 이미지가 Microsoft Designer를 사용하는 사람이 만든 것이라고 주장했습니다. 마이크로소프트는 공식적으로 이에 대한 증거를 본 적이 없다고 밝혔지만 “텍스트 필터링 프롬프트를 강화하고 서비스 오용을 해결하기 위해” 디자인을 변경했다고 덧붙였습니다 .

오늘 마이크로소프트의 브래드 스미스(Brad Smith) 사장이 회사 ​​공식 블로그에 글을 썼습니다 . Smith는 Taylor Swift의 딥 페이크 이미지나 이러한 이미지 생성에 Microsoft Designer를 사용했다는 주장을 언급하지는 않았지만 회사에서는 “악의적인 행위자들에 의한 이러한 새로운 AI 도구 남용이 급속히 확대되고 있다”고 말했습니다.

Smith는 이러한 종류의 “악성 AI 생성 콘텐츠”에 맞서기 위해 Microsoft가 집중할 6가지 특정 영역을 설명했습니다. 첫 번째는 특정 텍스트 프롬프트 차단, 테스트 및 신속한 사용자 금지와 같은 활동을 통해 이러한 도구의 안전한 사용을 강화하는 것입니다. 이러한 도구를 남용하는 사람.

Smith는 Microsoft가 작업하고 있는 또 다른 영역은 AI 생성 콘텐츠를 식별하는 것을 돕는 것이라고 말했습니다. 그는 다음과 같이 말했습니다.

우리는 이미 Bing 및 Copilot의 Microsoft Designer 이미지 생성 도구에서 출처 기술을 사용하고 있으며, 이미지를 생성하거나 조작하는 모든 도구로 미디어 출처를 확장하는 과정에 있습니다.

그는 회사가 미래를 위해 “워터마킹 및 핑거프린팅 기술”을 조사하고 있다고 덧붙였습니다. Smith는 또한 LinkedIn과 같은 서비스와 Xbox와 같은 게임 서비스에서 악의적인 AI 기반 콘텐츠를 제거하기 위해 노력하고 있다고 말했습니다.

Smith는 또한 AI 기반 딥페이크에 맞서기 위해 법 집행 기관과 함께 기술 업계의 다른 사람들과 협력하고 싶다고 말했습니다. 또한 그는 마이크로소프트가 이러한 종류의 콘텐츠를 금지하는 새로운 법률을 제정하기 위해 세계 정부와 협력하기를 원한다고 말했습니다.

마지막으로 Smith는 Microsoft가 사람들을 속이기 위해 제작된 딥페이크 콘텐츠를 식별할 수 있도록 대중을 교육하는 데 도움을 주고 싶다고 말했습니다. 그는 무엇이 진짜이고 무엇이 가짜인지 보여주기 위해 “새로운 공공 교육 도구와 프로그램이 필요”하다고 생각합니다.