Google은 편견 우려로 Gemini의 이미지 생성을 일시적으로 중단합니다.

지난주 구글의 대화형 AI인 제미니(Gemini)는 사람의 이미지를 생성하는 능력에 편견이 있다는 이유로 조사를 받았다. 사용자들은 Gemini에게 역사적 맥락이나 허구의 시나리오에서 사람들을 묘사해 달라고 요청했을 때 AI가 더 어두운 피부색을 가진 인물을 묘사할 가능성이 더 높다고 보고했습니다 . 이로 인해 시스템의 잠재적 편견에 대한 정당한 우려가 제기되었습니다.

성명서에서 구글은 Gemini가 다양한 인종과 배경을 가진 사람들을 균형있고 포용적인 방식으로 대표하는 데 있어 좋은 성과를 내지 못했다는 점을 인정했습니다 . 회사는 사람들을 위한 이미지를 생성하는 AI 챗봇의 기능을 일시적으로 비활성화하기로 결정했습니다.

Google은 포용성과 다양성이 매우 중요한 원칙이라고 밝혔습니다. 회사는 자사의 기술이 어떤 식으로든 전파되거나 현실 세계의 편견에 취약해지는 것을 원하지 않았습니다.

우리는 이미 Gemini의 이미지 생성 기능과 관련된 최근 문제를 해결하기 위해 노력하고 있습니다. 그동안 인물 이미지 생성을 잠시 중단하고 곧 개선된 버전을 다시 출시할 예정입니다. https://t.co/SLxYPGoqOZ

— Google 커뮤니케이션(@Google_Comms) 2024년 2월 22일

이제 사용자가 Gemini에게 이미지 생성을 요청하면 해당 기능은 현재 사용할 수 없지만 편견 문제가 적절하게 해결되면 다시 돌아올 것임을 설명하는 메시지를 받게 됩니다.

전문가들은 AP 뉴스를 통해 AI 이미지 생성기가 교육 데이터의 편견으로 인해 다양성에 어려움을 겪고 있으며, 이는 종종 모든 배경의 사람들을 표현하지 못한다고 말했습니다 . Google은 이 기능을 다시 활성화하기 전에 Gemini에서 이러한 제한 사항을 해결하기로 결정한 것으로 보입니다. 시스템이 모든 유형의 사람들을 객관적이고 균형 잡힌 방식으로 대표할 수 있기를 원합니다.

이러한 움직임은 AI 기술을 공정하고 포괄적으로 만들기 위한 적극적인 조치로 간주됩니다 . 이러한 움직임의 일환으로 미국 정부는 지난 2월 생성 AI의 안전한 개발을 촉진하기 위한 조치를 취했습니다. Apple, OpenAI, Microsoft는 AI 관련 프로토콜을 다루기 위해 최초로 컨소시엄에 합류했습니다.