X는 AI 딥페이크 이미지가 많기 때문에 Taylor Swift에 대한 검색을 일시적으로 차단했습니다.

이번 주 초, AI가 만든 팝 아티스트 Taylor Swift의 딥페이크 이미지가 대부분 X(이전의 Twitter)에 넘쳐나기 시작하여 AI 오용에 대한 두려움을 더욱 가중시켰습니다 .

. 그 결과, 소셜 네트워크는 토요일부터 당분간 테일러 스위프트에 대한 검색을 차단하는 전례 없는 조치를 취했습니다.

Wall Street Journal은 X의 사업 운영 책임자인 Joe Benarroch로부터 이 결정에 대한 확인을 받았습니다. 그는 WSJ에 이렇게 말했습니다.

이는 일시적인 조치이며 당사는 이 문제에 대해 안전을 최우선으로 생각하므로 세심한 주의를 기울여 수행되었습니다.

이 이야기는 가짜 사진이 소셜 네트워크에 나타나기 시작한 후 Swift의 팬들이 가수의 실제 이미지를 X에 넘치게 만들었다고 덧붙입니다. \그들은 또한 딥페이크 사진을 유포하는 계정을 신고하려고 했습니다.

X가 Taylor Swift에 대한 모든 검색을 차단하기로 결정하기 전에 Microsoft CEO Satya Nadella는 NBC News 와의 인터뷰에서 AI가 만든 가수의 이미지가 넘쳐나는 것에 대해 무게를 두었습니다 . 그는 말했다:

예, 우리는 행동해야 합니다. . . 온라인 세상이 안전해지면 우리 모두에게 이익이 된다고 생각합니다. 따라서 콘텐츠 제작자와 콘텐츠 소비자 모두에게 완전히 안전하지 않은 온라인 세상을 원하는 사람은 없을 것입니다. 그러므로 저는 우리가 이 문제를 빨리 해결해야 한다고 생각합니다.

404Media는 X에 유포된 Taylor Swift의 딥페이크 사진의 일부가 AI 기반 이미지 제작자인 Microsoft Designer를 사용하는 그룹에 의해 제작되었다고 주장합니다. 마이크로소프트는 NBC 뉴스에 상황에 대한 자체 조사에서 “이러한 보고서의 노골적인 이미지를 재현할 수 없었다”고 말했습니다. 그러나 “우리는 많은 주의를 기울여 텍스트 필터링 프롬프트를 강화하고 우리 서비스의 오용을 해결하십시오.”