Microsoft, Google, OpenAI, Meta, Amazon, X 등 AI 선거 딥페이크에 맞서 싸우겠다고 약속

딥페이크 이미지와 정보를 생성하기 위해 생성 AI 앱과 서비스를 사용하는 것에 점점 더 많은 관심이 집중되고 있습니다. 그것은 몇 주 전에 AI가 만든 팝 가수 Taylor Swift의 이미지가 X 소셜 네트워크에 넘쳐나면서 확실히 정점에 이르렀습니다 . 일부 보고서에서는 해당 이미지가 Microsoft의 AI 이미지 생성기 디자이너 에 의해 제작되었다고 주장합니다 .

2024년은 미국 대통령 선거가 있는 해이기 때문에 AI 딥페이크 이미지가 해당 선거뿐 아니라 다른 선거에서도 투표에 부정적인 영향을 미치는 데 사용될 수 있다는 우려가 더욱 커지고 있습니다. 오늘, 많은 기술 기업들이 사기성 선거 노력에 AI가 사용되는 것을 막기 위해 자원을 사용하겠다는 새로운 협정을 준수할 것이라고 발표했습니다.

뮌헨 안보회의에서 발표된 이 합의문을 AI 선거협정(AI Elections Accord) 이라고 부른다 . 현재 본 계약에 참여하고 있는 회사는 다음과 같습니다.

• 어도비 벽돌
• 아마존
• 인류학
• 팔
• 일레븐랩스
• Google
• IBM
• 변곡 AI
• 링크드인
• 맥아피
• 메타
• 마이크로소프트
• 사용
• 오픈AI
• 스냅 주식회사
• 안정성 AI
• Tik의 톡
• 트렌드마이크로
• 트루픽
• 엑스

협정을 발표하는 보도 자료 (PDF 형식)에는 위 회사들이 딥페이크 선거 노력에 맞서기 위해 다음 약속을 따르기로 동의했다고 명시되어 있습니다.

• 적절한 경우 오픈 소스 도구를 포함하여 사기성 AI 선거 콘텐츠와 관련된 위험을 완화하기 위한 기술 개발 및 구현
• 사기성 AI 선거 콘텐츠와 관련하여 발생할 수 있는 위험을 이해하기 위해 본 협정 범위 내에서 모델을 평가합니다.
• 플랫폼에서 이 콘텐츠의 배포를 탐지하려고 합니다.
• 플랫폼에서 감지된 이 콘텐츠를 적절하게 해결하기 위해 노력 중입니다.
• 사기성 AI 선거 콘텐츠에 대한 산업 간 회복력 강화
• 회사가 문제를 어떻게 해결하는지 대중에게 투명성 제공
• 다양한 글로벌 시민사회단체, 학계와 지속적으로 협력
• 대중 인식, 미디어 활용 능력, 사회 전체의 회복력을 강화하기 위한 노력 지원

보도자료에 인용된 회사 임원 중에는 브래드 스미스(Brad Smith) 마이크로소프트 사장도 포함됐다. 그는 다음과 같이 말했습니다.

사회가 AI의 이점을 수용함에 따라 우리는 이러한 도구가 선거에서 무기화되지 않도록 도울 책임이 있습니다. AI가 선거 속임수를 만든 것은 아니지만, 우리는 AI가 속임수가 번성하는 데 도움이 되지 않도록 해야 합니다.

선거 딥페이크의 예는 몇 주 전에 일어났습니다. AI가 생성한 조 바이든 미국 대통령의 목소리 로 자동녹음전화가 발신자에게 뉴햄프셔 예비선거에서 투표하지 말라고 촉구했습니다. 이 통화는 나중에 텍사스에 본사를 둔 회사에서 만든 것으로 밝혀졌습니다 .