Google은 이번 주 Gemini AI 이미지 생성기 문제를 일으킨 두 가지 일이 발생했다고 말합니다.

이번 주 초, 사람들은 Google의 Gemini(이전 Bard) 챗봇의 이미지 생성 기능이 부적절한 예술 작품을 만들고 있다고 보고하기 시작했습니다. 더 구체적으로 말하면, 시스템은 해당 캐릭터에 적합하지 않은 역사적 또는 허구적 역할에서 어두운 피부색을 가진 사람들을 묘사하고 있었습니다.

예술 작품이 보고된 후 Google은 이미지 생성기를 사용하여 사람의 예술 작품을 만드는 Gemini의 기능을 일시적으로 중단 할 것이라고 발표했습니다 . 금요일 늦게 회사는 블로그 게시물을 통해 Gemini에서 일어난 일에 대한 설명을 제공했습니다 .

또한 챗봇이 실제 사람의 이미지를 만드는 것을 원하지 않았습니다.

동시에 Google은 사용자가 챗봇에게 축구 팀의 사람들을 보여주는 것과 같은 보다 일반적인 이미지를 요청하면 Gemini가 다양한 인종을 묘사할 수 있도록 허용하고 싶었습니다. 백인 의사나 흑인 교사와 같은 특정 유형의 사람을 묘사하기를 원하는 경우 Gemini도 해당 작품을 만들 수 있어야 합니다.

그런 다음 Raghavan은 Gemini의 텍스트 프롬프트 가드레일에 있는 두 가지 특정 요소로 인해 이번 주의 부적절한 이미지가 생성될 수 있다고 썼습니다.

첫째, Gemini가 범위를 명확하게 표시해서는 안 되는 사례를 설명하지 못한 사람들의 범위를 표시하도록 조정했습니다. 둘째, 시간이 지남에 따라 모델은 우리가 의도한 것보다 훨씬 더 조심스러워졌고 특정 프롬프트에 완전히 응답하기를 거부했습니다. 즉, 일부 매우 진통적인 프롬프트를 민감한 것으로 잘못 해석했습니다.

이 두 가지로 인해 모델이 어떤 경우에는 과도하게 보상하고 다른 경우에는 지나치게 보수적이 되어 당황스럽고 잘못된 이미지가 생성되었습니다.

Gemini 이미지 생성기에서 사람들과 함께 예술 작품을 만드는 것이 다시 활성화되도록 Google이 가드레일을 수정하는 데 얼마나 오랜 시간이 걸릴지에 대해서는 알려진 바가 없습니다. Raghavan은 Gemini가 결코 공격적인 작품을 만들지 않을 것이라고 약속할 수는 없지만 Google은 “문제가 식별될 때마다 계속 조치를 취할 것”이라고 말했습니다.