Altman의 OpenAI 불화의 핵심은 연구 논문이었습니다. 그 내용은 다음과 같습니다.

이것은 투자 조언이 아닙니다. 저자는 언급된 주식에 대해 어떠한 입장도 갖고 있지 않습니다.

최신 혁신인 AI가 전형적인 기업 이사회 정치 사이에서 정중앙에 앉아 있는 실리콘 밸리에서 놀라운 주말을 보낸 후, OpenAI의 전 CEO인 Sam Altman은 의기양양하게 회사로 돌아왔습니다. Altman과 OpenAI 이사회의 마찰은 소셜 및 기존 미디어에서 많은 담론을 불러일으켰으며, 이러한 불일치는 OpenAI와 지주 회사의 영리/비영리 성격 간의 구분에서 비롯된 것으로 여겨집니다.

Altman의 축출에 핵심이 되는 연구 논문은 OpenAI의 ‘신호 전달’ 접근 방식이 부적절하다고 규정했습니다.

Ms. 토너는 조지타운 대학교 보안 및 신흥 기술 센터의 이사로 지난 10월 정부와 기업이 다른 사람의 오해를 피하기 위해 커뮤니케이션을 구성할 수 있는 방법을 다루는 사례 연구를 작성했습니다. 조지타운과 관련된 다른 사람들과 공동 집필한 논문에서는 국가 안보와 AI가 위협하는 ‘신호’라는 통신 도구를 정의했습니다. 우주 행위자는 자신의 의도를 명확히 하기 위해 신뢰할 수 있습니다.

논문의 네 가지 신호는 결속, 매몰 비용, 할부 비용 및 절감 비용입니다. 이러한 접근 방식은 정책이나 철회하기 어려운 기타 발표로 회사를 제한하는 결속 방식부터 시간이 지남에 따라 이익이 발생하면서 초기 비용이 더 많이 드는 분할 비용(예: 비용이 많이 드는 규정 준수 약속)까지 다양합니다.

이와 관련하여 Toner 씨의 논문은 특히 GPT-4 모델 출시를 둘러싼 OpenAI의 활동에 중점을 두었습니다. OpenAI는 2023년 3월에 GPT-4를 발표했으며, 논문 작성자에 따르면 모델 자체는 놀라운 기술적 성과였지만 신호와의 관련성은 보충 문서를 통해 나왔습니다.

이 문서에는 GPT-4의 위험과 OpenAI가 시장에 최초의 GPT-4 모델 출시를 서두르면서 위험을 어떻게 완화했는지 설명하는 시스템 카드가 포함되어 있습니다. 저자들은 OpenAI의 안전 약속을 위한 의사소통 도구로서 상대적으로 성공하지 못했다고 생각한다고 공유했습니다.

이 논문에서는 다음과 같이 설명합니다.

시스템 카드 자체는 GPT-4의 위험 프로필을 이해하는 데 관심이 있는 연구자들 사이에서 호평을 받았지만 OpenAI의 안전 약속에 대한 광범위한 신호로는 덜 성공적이었던 것으로 보입니다. 이러한 의도하지 않은 결과가 발생한 이유는 회사가 시스템 카드 가져오기를 무색하게 하는 다른 조치를 취했기 때문입니다. 가장 주목할만한 것은 4개월 전 ChatGPT의 블록버스터 출시였습니다.

그런 다음 연구원들은 OpenAI의 접근 방식을 경쟁업체인 Anthropic 및 Claude 플랫폼에서 사용하는 접근 방식과 비교했습니다. 그들은 “AI 기능 발전 속도 향상”을 중단하기 위해 Claude의 출시를 연기하기로 한 Anthropic의 결정을 칭찬하고 이 결정을 “비용이 많이 드는 억제 신호”로 정의했습니다.

그들이 말했듯이 :

다른 회사가 유사한 기능을 갖춘 제품을 출시할 때까지 Claude의 출시를 연기함으로써 Anthropic은 ChatGPT의 출시로 인해 촉발된 것처럼 보이는 일종의 미친 코너링을 정확히 피하려는 의지를 보여주었습니다. Anthropic은 할부 비용, 즉 시간이 지나도 상쇄할 수 없는 고정 비용을 활용하여 이 목표를 달성했습니다. 이 연구의 틀에서 Anthropic은 모델을 초기 출시에서 보류하고 잠재적인 미래 수익 손실을 흡수함으로써 AI 안전에 대한 약속의 신뢰성을 높였습니다. 이 사례의 동기는 더 넓은 시장 점유율을 확보하여 손실을 만회하는 것이 아니라 업계 표준을 장려하고 책임감 있는 AI 개발 및 배포에 대한 공유된 기대에 기여하는 것이었습니다.

NYT의 보고서에 따르면 Altman은 논문이 출판된 후 Holt에 대해 만족하지 않았으며 다음을 통해 OpenAI 직원들과 우려 사항을 공유했습니다. 이메일. 또한 OpenAI의 연구 책임자인 Ilya Sutsekver가 처음에 토너를 이사회에서 축출할지 여부에 대해 논의하면서 다소 흥미로운 발전이 곧 이루어졌습니다. 그러나 놀랍게도 그는 그 대신 Altman을 상대로 이적하기로 결정했습니다. 이 결정은 며칠 내에 후회하게 될 것입니다.