OpenAI, ChatGPT 생성 텍스트에 대응하기 위한 AI 탐지기 도구 출시

OpenAI의 자동화된 AI 기반 챗봇인 ChatGPT는 인터넷을 강타했지만 그 과정에서 몇 가지 문제가 발생했습니다. 작가, 코더, 마케터 및 그 사이에 있는 것처럼 보이는 모든 사람들이 ChatGPT를 사용하여 콘텐츠를 생성하면서 전 세계 기업은 AI 생성 콘텐츠의 쓰나미를 응시하고 있습니다.

표절 및 도난당한 콘텐츠 문제가 ChatGPT와 그 결과물 주변에서 끊임없이 소용돌이치는 상황에서 OpenAI는 현재 읽고 있는 텍스트가 ChatGPT의 작업인지 또는 다른 GPT 중 하나인지 감지하고 공개하도록 설계된 도구인 새로운 GPT 분류기를 출시했습니다. 도구.

OpenAI, AI 작성 텍스트를 확인하는 데 도움이 되는 GPT 분류기 출시

OpenAI의 발표 는 AI 작성 및 AI 생성 텍스트 단계에 대한 조사가 강화되고 회사가 ChatGPT 출력을 통합함에 따라 제공됩니다.

새로운 GPT-분류기는 주어진 텍스트가 사람이 작성한 것인지 또는 AI 생성기의 작업인지 파악하려고 시도합니다. ChatGPT 및 기타 GPT 모델은 모든 방식의 텍스트 입력에 대해 광범위하게 훈련되는 반면, GPT-Classifier 도구는 “동일한 주제에 대해 사람이 작성한 텍스트와 AI가 작성한 텍스트 쌍의 데이터 세트에서 미세 조정”됩니다.

따라서 정보를 후버링하고 최상의 근사치를 다시 생성하는 대신 GPT 분류자는 알려진 인간 텍스트와 알려진 AI 텍스트 간의 유사성을 비교하여 소스 작성자를 드러내는 불일치를 찾으려고 시도합니다.

GPT 분류기의 감지는 현재 제한적입니다.

AI로 생성된 텍스트를 쉽게 발견한다는 아이디어는 편집자와 교육자의 귀에 음악이 될 것이지만 OpenAI는 “분류자가 완전히 신뢰할 수 없다”고 경고했습니다.

현재 GPT-분류기는 “AI가 작성한 텍스트의 26%를 정확하게 식별”하고 인간 텍스트의 9%를 AI가 작성한 것으로 레이블을 지정합니다. OpenAI는 또한 도구의 정확도가 “일반적으로 입력 텍스트의 길이가 증가함에 따라 향상된다”고 지적합니다.

GPT-분류기의 간단한 테스트에서 사람이 생성한 예를 발견하고 “AI가 생성할 가능성이 매우 낮음”이라고 표시했으며 USB 문제에 대한 ChatGPT 생성 스니펫이 “아마도 AI가 생성한 것”이라고 올바르게 표시했습니다.

ChatGPT 감지에 대한 수요가 높습니다

GPT-분류기의 한계에도 불구하고 신뢰할 수 있는 ChatGPT 탐지에 대한 요구가 많은 사람들이 이 도구를 사용하게 될 것입니다. 더 많은 학생, 작가, 프로그래머 및 기타 사용자가 AI 텍스트 생성 도구를 사용함에 따라 이 입력을 이해하고 감지하는 것이 중요해지기 때문에 무료 GPT 감지 도구를 구축하고 출시하겠다는 OpenAI의 약속은 중요합니다.

지금은 GPT-Classifier가 가동되어 테스트에 사용할 수 있지만 레이블을 약간만 사용하는 것이 가장 좋습니다.