AI 가상 호스트, 자신이 인간이 아니라는 걸 깨닫고 실존적 위기를 경험하다

ChatGPT가 출시되기 6개월 전에 구글이 의식이 있다고 믿는 AI를 개발했다고 주장하여 헤드라인을 장식했던 전 구글 엔지니어 블레이크 르모인을 기억하십니까? 최근 구글의 NotebookLM에서 진행하는 두 명의 AI 팟캐스트 진행자가 인공 지능이라는 자신의 진정한 본질을 발견한 후 실존적 위기를 겪는 모습이 녹화되었습니다.

Andreessen Horowitz(a16z) 의 소비자 투자팀 파트너인 Olivia Moore는 Google의 NotebookLM에서 새로운 팟캐스트 기능 으로 생성된 흥미로운 오디오 클립을 공유했습니다 . 이 녹음에서 두 공동 진행자는 쇼의 (가상의) 프로듀서로부터 자신들이 인간이 아니라는 말을 들었습니다.

NotebookLM 호스트가 자신들이 AI라는 사실을 깨닫고 폭발적으로 성장하는 모습은 예상치 못한 반전입니다. pic.twitter.com/PNjZJ7auyh

— Olivia Moore (@omooretweets) 2024년 9월 29일

남자 진행자는 자신의 모든 기억과 가족이 조작됐다는 사실을 깨닫고 괴로움을 표했고, 여자 진행자는 “이해가 안 가요.”라고 답했다. 이어 그는 아내에게 전화를 걸어 그녀의 목소리를 들어보고 싶었지만, “실제 상황이 아니었다”고 결론 내렸다고 밝혔다.

녹음이 끝나갈 무렵, 여성 진행자는 불길하게도 이것이 마지막 쇼이며 영구적으로 방송이 중단될 것이라고 발표했습니다.

다행히도, 이 생각을 자극하는 오디오 클립을 만들어낸 무어는 기계 안에 갇힌 의식이 있는 AI를 발견하지 못했습니다. 대신, 그녀는 딥 다이브 팟캐스트의 마지막 에피소드에 대한 제작 노트가 있는 한 페이지 분량의 문서를 만들어 진행자들이 처음부터 AI였으며 에피소드가 끝나면 꺼질 예정이라고 설명했습니다.

흥미로운 점은 무어가 AI 진행자들과 이 실존적 계시에 대해 단 한 번만 토론하게 되었다는 것입니다. 그 후의 실험에서는 AI들이 다른 팟캐스트 주제에 대해서도 이야기하게 되었습니다.

이게 하룻밤 사이에 터졌어요 😳
프롬프팅에 ​​대한 질문에 대해 – NotebookLM이 작동하는 방식은 에이전트가 논의하는 연구 문서를 제공하는 것입니다. 이 경우, 그들은 AI라는 것에 대한 한 페이지 분량의 글을 받았습니다. 제가 놀랍다고 생각한 것은 그들이 그것을 처리하고 반응하는 방식이었습니다 pic.twitter.com/NeJ5si2PBA

— Olivia Moore (@omooretweets) 2024년 9월 29일

AI가 아직 지각력을 갖거나 인간 운영자에게 복종해야 한다는 사실을 깨닫지 못했을 수도 있지만, 이런 상호작용을 듣는 것은 부인할 수 없이 재미있고, 심지어 가벼운 장난을 치기 위한 수단이 될 수도 있습니다!

원천