Microsoft, 미국 선거를 앞두고 딥페이크 탐지 도구 개발 중

딥페이크 의 위협 과 미국 선거를 앞두고 잘못된 정보를 퍼뜨릴 가능성에 대한 우려가 커지면서 Microsoft는 정치인을 돕기 위한 새로운 도구를 발표 했습니다. 마이크로소프트는 2024년 대선을 앞두고 미국 정치 후보들에게 이 도구를 제공할 계획이라고 밝혔다.

이번 주에 브래드 스미스(Brad Smith) 마이크로소프트 사장이 공개한 이 도구를 사용하면 당사자들이 암호화 자격 증명으로 이미지와 비디오에 워터마크를 표시할 수 있습니다. 이렇게 하면 콘텐츠가 시간이 지남에 따라 디지털 방식으로 변경되었는지 여부를 보여주는 영구 기록이 생성됩니다.

목표는 사용자와 대중에게 광고나 연설과 같은 캠페인 자료가 딥페이크 기술을 통해 조작되지 않았는지 확인할 수 있는 방법을 제공하는 것입니다.

우리는 Klobuchar, Collins, Hawley 및 Coons 상원의원이 발의한 양당 법안 “기만적인 AI로부터의 선거 보호법”을 미국에서 승인함으로써 오늘부터 시작합니다. 이 중요한 법안은 패러디, 풍자 및 뉴스룸의 AI 생성 콘텐츠 사용에 대한 중요한 예외를 제외하고 연방 선거에 영향을 미치기 위해 정치 광고에서 연방 후보자를 허위로 묘사하는 실질적으로 기만적인 콘텐츠를 생성하기 위해 인공 지능을 사용하는 것을 금지합니다.

2020년 Microsoft의 유사한 제안에서 채택이 제한되었기 때문에 이 도구의 초기 활용은 여전히 ​​불확실합니다 . 그러나 최근 캠페인 기간 동안 잘못된 정보를 퍼뜨리는 조작된 여러 동영상에서 볼 수 있듯이 딥페이크는 심각한 위협을 제기합니다 .

마이크로소프트는 또한 권위주의 국가들이 AI를 포함한 전통적 방식과 첨단 기술 방식을 모두 사용하여 2024년 선거 과정을 훼손할 수 있다고 경고했습니다. 이에 대응하여 마이크로소프트는 미국과 다른 지역에서 주요 투표의 보안을 강화하기 위해 5가지 조치를 취할 것입니다. 블로그에는 “어느 개인, 기관, 회사도 선거가 자유롭고 공정할 것이라고 보장할 수 없습니다.”라고 나와 있습니다. “그러나 한발 더 나아가 함께 협력함으로써 우리는 자유롭고 공정한 선거에 대한 모든 사람의 권리를 보호하는 데 의미 있는 진전을 이룰 수 있습니다.”

반면 일부에서는 Dall-E가 사실적인 이미지 생성을 가능하게 한 OpenAI의 지분 100억 달러를 통해 Microsoft가 생성 AI에도 막대한 투자를 하고 있다는 아이러니를 지적합니다 . 그럼에도 불구하고 회사는 딥페이크 문제를 해결하는 것이 자유롭고 공정한 선거를 보호하는 데 중요하다고 생각합니다.