이미지가 AI 모델을 훈련했는지 확인하는 방법(및 옵트아웃 방법)

많은 사람들의 불신에 살아있는 예술가들은 자신의 예술이 그들의 동의 없이 AI 모델을 훈련시키는 데 사용되었다는 사실을 발견하고 있습니다. “Have I Been Training?”이라는 웹 도구를 사용하면 이미지가 Midjourney, NightCafe 및 기타 널리 사용되는 AI 이미지 생성기에 공급되었는지 몇 분 만에 알 수 있습니다.

이러한 AI 시스템을 교육하는 데 사용되는 데이터 세트 중 하나에서 이미지를 찾으면 절망하지 마십시오. 일부 조직에서는 이러한 관행을 거부하는 방법을 개발하여 이미지가 인터넷에서 스크랩되어 AI 회사에 전달되는 것을 방지했습니다.

AI 이미지 생성기가 처음에 훈련되는 방법

DALL-E와 같은 AI 시스템에 “생일 모자를 쓴 개” 이미지를 생성하도록 요청하면 먼저 개가 어떻게 생겼는지, 생일 모자가 어떻게 생겼는지 알아야 합니다. 인터넷을 통해 이미지에 대한 수십억 개의 링크를 수집하는 방대한 데이터 세트에서 이 정보를 얻습니다.

우리 모두가 알다시피, 인터넷에는 “생일 모자를 쓴 개”의 수많은 이미지를 포함하여 상상할 수 있는 거의 모든 종류의 이미지가 포함되어 있습니다. 이와 같은 충분한 데이터를 통해 AI 모델은 훈련된 이미지와 유사하게 이미지를 재현하는 방법을 알아낼 수 있습니다.

하지만 그 이미지가 원래 저작권으로 보호된다면 어떨까요? 그리고 그 이미지가 자신의 이미지가 AI 시스템에 공급되고 있다는 사실을 모르는 예술가, 사진가 또는 ​​일반인의 소유라면 어떨까요?

아티스트의 문제

많은 AI 이미지 생성기에는 사용자가 크레딧을 구매하여 더 많은 이미지를 만들어 수익을 올릴 수 있는 유료 계층이 있습니다. 그러나 그 이익은 애초에 AI 시스템을 훈련시키는 데 사용된 이미지를 가진 무신론자들의 뒤에서 벌어들입니다.

더 많은 아티스트가 자신의 이미지가 AI 시스템 개발에 사용되었다는 사실을 알게 되면서 모든 사람이 괜찮지 않다는 것이 분명해졌습니다. 적어도 그들은 AI 회사가 이미지를 사용하기 전에 동의를 얻길 원합니다.

특히 당신이 인기 있고 잘 알려진 아티스트인 경우, 당신의 스타일로 생성된 이미지를 가지고 있으면 그 예술이 당신에 의해 만들어졌는지 또는 AI에 의해 당신의 모습으로 복제되었는지 알지 못한 채 팬이나 잠재적 후원자로 시장을 가득 채울 수 있습니다. 설상가상으로, 사람들은 당신이 믿지 않는 가치를 지지하기 위해 당신의 스타일로 작품을 만들 수 있습니다.

이것은 새로운 문제가 아닙니다. 딥페이크는 수년 동안 존재해 왔으며 AI의 부상과 함께 잠재적으로 악화될 것입니다. 요즘에는 “가짜” 예술품을 복제하는 것이 빠르고 저렴하며 쉽습니다. AI가 생성한 이미지를 식별하는 방법은 몇 가지밖에 없기 때문에 AI가 생성한 이미지에서 원본 아트를 구별하기가 어렵습니다.

데이터 세트: 이미지 찾기 및 인덱싱

앞에서 언급했듯이 이미지 데이터 세트는 AI 회사에서 모델을 교육하는 데 사용됩니다. 이러한 데이터 세트는 인터넷의 이미지에 대한 링크가 포함된 열 하나와 이미지 캡션이 있는 다른 열이 있는 거대한 Excel 스프레드시트처럼 보입니다.

모든 AI 회사가 사용하는 데이터 세트를 공개하지는 않습니다. DALL-E가 한 예입니다. 이로 인해 이미지를 생성할 때 참조되는 내용을 알기 어렵고 AI 시스템의 일반적인 신비로움이 더해집니다.

한편, Stability AI에서 개발한 모델인 Stable Diffusion은 LAION-5B 데이터 세트 를 기반으로 구축되었음을 분명히 밝혔습니다. 이 데이터 세트에는 58억 5천만 개의 CLIP 필터링 이미지-텍스트 쌍이 포함되어 있습니다. 이 데이터 세트는 오픈 소스이기 때문에 누구나 자유롭게 인덱싱된 이미지를 볼 수 있으며 이로 인해 많은 비판을 받았습니다.

2023년 초, Getty Images는 AI 이미지 생성기인 Stable Diffusion을 교육하기 위해 웹 사이트에서 이미지를 스크랩한 것에 대해 Stability AI를 고소했습니다. 누가 Stable Diffusion을 사용하는지 궁금하다면 NightCafe, Midjourney, DreamStudio 등이 될 것입니다.

이미지가 AI 모델 훈련에 사용되었는지 확인하는 방법

아티스트 그룹이 설정한 Spawning 은 사람들이 자신의 이미지가 AI 모델을 교육하는 데 사용되는 LAION-5B와 같은 데이터 세트에 있는지 확인하도록 돕는 것을 목표로 하는 집단입니다. Have I Be Be Training? 이라는 웹 검색 엔진이 있습니까? 아티스트 이름과 같은 키워드를 쉽게 검색할 수 있습니다.

나는 훈련을 받았는가?

Have I Been Trained는 검색이 LAION-5B 데이터 세트의 결과와 일치한다는 점을 제외하면 Google 이미지 검색과 매우 유사하게 작동합니다. 키워드 또는 이미지로 검색할 수 있는 옵션이 있으며 후자는 정확한 이미지가 사용되었는지 확인하려는 경우에 유용합니다.

우리는 아티스트 Frida Kahlo(1907-1954)의 이름을 사용하여 테스트했고 역사적인 사진과 낙서, 그림, 십자수, 크로셰 뜨개질 및 삽화의 형태로 팬 아트처럼 보이는 혼합을 발견했습니다.

당신이 이러한 창작자 중 한 명이라면, 당신은 AI 이미지 생성기가 존재할 수 있도록 만든 창의성을 가진 많은 무자비한 인간 중 한 명입니다. 그리고 그 힘으로 이제 누구나 “아이스크림을 먹는 프리다 칼로”의 기괴한 초상화와 같은 프리다 이미지를 만들 수 있습니다.

자신의 아티스트 이름을 검색 창에 입력하여 작업이 AI 모델 훈련에 사용되었는지 확인하십시오.

AI 교육 데이터 세트를 거부하는 방법

Have I Been Trained 웹 사이트의 동일한 팀이 사람들이 AI 아트 시스템을 선택하거나 선택 해제할 수 있는 도구를 만들었습니다. 이는 아티스트가 자신의 아트를 누가 어떤 목적으로 사용하는지에 대한 제어 및 권한을 유지하는 한 가지 방법입니다.

다른 아트 플랫폼이 이를 따르기 시작했으며 현재 DeviantArt는 이미지 데이터 세트에서 이미지를 검색하지 않도록 제외할 수 있는 옵션을 제공합니다.

교육을 받았습니까: AI 옵트아웃 도구

이미지를 검색할 수 있을 뿐만 아니라 Have I Been Trained 사이트를 사용하여 LAION-5B 교육 데이터를 거부할 이미지를 선택할 수도 있습니다.

먼저 계정을 만든 다음 이미지를 마우스 오른쪽 버튼으로 클릭하고 이 이미지를 선택 해제합니다 .

이 옵션을 선택하면 페이지 오른쪽 상단 모서리에 있는 계정 기호를 클릭한 다음 내 목록 을 선택하여 액세스할 수 있는 거부 목록에 해당 이미지가 추가됩니다 . 목록에서 제거하려면 이미지를 마우스 오른쪽 버튼으로 클릭하고 제외 목록에서 제거 를 선택 합니다.

당신이 다작의 예술가라면 이 방법은 지루하고 모든 이미지를 효율적으로 선택 해제하는 데 적합하지 않습니다. 불행하게도 작성 시점에는 더 나은 대안이 없지만 향후 이 시스템에 개선이 이루어질 가능성이 높습니다.

이러한 옵트아웃 목록은 데이터 세트에서 해당 이미지를 제거하는 데 동의한 LAION-5B 뒤에 있는 회사로 전달됩니다.

DeviantArt 옵트아웃 기본 설정

DeviantArt는 지금까지 사용자에게 예술 작품을 옵트아웃할 수 있는 옵션을 제공함으로써 예술 호스팅 플랫폼의 길을 이끌어 왔습니다. 처음에는 기본 설정을 찾아 옵트아웃 확인란을 선택해야 했습니다. 그러나 DeviantArt 커뮤니티의 강력한 피드백에 따라 이 옵션은 이제 기본적으로 켜져 있습니다.

즉, DeviantArt에 게시된 이미지는 사용자가 동의하지 않는 한 이미지 데이터세트에 사용할 수 없습니다. 완벽하게 안전한 것은 아니지만 DeviantArt에서 사용하는 메커니즘은 “noai”HTML 태그로 이미지에 플래그를 지정하는 것입니다. 이것은 AI 데이터 세트에 이미지 사용이 허용되지 않음을 알리며, 사용이 허용되는 경우 회사는 DeviantArt의 서비스 약관을 위반하게 됩니다 .

개인 계정 아이콘 위에 마우스를 놓고 계정 설정 을 클릭하면 옵트아웃 기본 설정을 찾을 수 있습니다 . 그런 다음 왼쪽 메뉴에서 일반 을 ​​클릭하고 Tell AI Datasets They Can’t Use Your Content 제목이 보일 때까지 아래로 스크롤합니다 .

예술가의 작품 존중

AI 시스템과 이를 교육하는 데 도움이 되는 작업을 수행하는 아티스트 간의 적절한 절충점을 찾는 데는 시간이 걸립니다. 당신이 창작자라면 무력감을 느끼지 마십시오. DeviantArt와 같은 아트 플랫폼을 사용하는 커뮤니티의 강력한 반응을 통해 누가 귀하의 아트를 사용하는지 제어할 수 있습니다.

모든 사람이 옵트아웃을 원하지는 않을 것입니다. 일부 사람들은 이미지 교육 AI 모델에 문제가 없습니다. 하지만 가장 중요한 것은 AI 기업이 동의를 얻어 AI 모델과 아티스트가 함께 존재할 수 있는 공정하고 존중받는 공간을 마련하는 것입니다.