ChatGPT의 맞춤형 GPT가 데이터를 노출하는 방법과 이를 안전하게 유지하는 방법

주요 시사점

• 그러나 맞춤 GPT를 공유하면 데이터가 전 세계 사용자에게 노출되어 개인 정보 보호 및 보안이 침해될 수 있습니다.
• 데이터를 보호하려면 맞춤 GPT를 공유할 때 주의하고 민감한 자료를 업로드하지 마세요. 신속한 엔지니어링에 주의하고 파일에 액세스하여 이를 훔칠 수 있는 악성 링크에 주의하세요.

ChatGPT의 맞춤형 GPT 기능을 사용하면 누구나 생각할 수 있는 거의 모든 것에 대한 맞춤형 AI 도구를 만들 수 있습니다. 창의적, 기술, 게임, 맞춤형 GPT가 모든 것을 할 수 있습니다. 더 좋은 점은 맞춤 GPT 창작물을 누구와도 공유할 수 있다는 것입니다.

그러나 사용자 정의 GPT를 공유하면 전 세계적으로 수천 명의 사람들에게 데이터가 노출되어 비용이 많이 드는 실수를 저지를 수 있습니다.

맞춤형 GPT란 무엇입니까?

맞춤 GPT는 프로그래밍 가능한 ChatGPT 미니 버전입니다특정 작업에 더 도움이 되도록 훈련할 수 있습니다. 이는 ChatGPT를 원하는 방식으로 작동하는 챗봇으로 만들어 자신에게 정말로 중요한 분야의 전문가가 되도록 가르치는 것과 같습니다.

예를 들어, 6학년 교사는 6학년 학생들에게 적합한 어조, 단어 선택, 매너리즘으로 질문에 전문적으로 답변하는 GPT를 구축할 수 있습니다. 교사가 GPT에 질문을 할 때마다 챗봇이 6학년 학생의 이해 수준에 직접적으로 대응하는 응답을 작성하도록 GPT를 프로그래밍할 수 있습니다. 복잡한 용어를 피하고 문장 길이를 관리하기 쉽게 유지하며 격려적인 어조를 채택합니다.

맞춤 GPT가 데이터를 노출하는 방법

맞춤 GPT를 생성하려면 일반적으로 ChatGPT의 GPT 생성자에게 GPT가 집중할 영역을 지시하고 프로필 사진을 제공합니다. , 이름을 입력하면 준비가 완료됩니다. 이 접근 방식을 사용하면 GPT를 얻을 수 있지만 멋진 이름과 프로필 사진이 없으면 기존 ChatGPT보다 훨씬 나아지지 않습니다.

Custom GPT의 힘은 학습을 위해 제공되는 특정 데이터와 지침에서 나옵니다. 관련 파일과 데이터세트를 업로드하면 사전 훈련된 광범위한 클래식 ChatGPT가 할 수 없는 방식으로 모델이 전문화될 수 있습니다. 업로드된 파일에 포함된 지식을 통해 맞춤 GPT는 해당 전문 정보에 액세스할 수 없는 ChatGPT에 비해 특정 작업에서 탁월한 성능을 발휘할 수 있습니다. 궁극적으로 더 큰 기능을 가능하게 하는 것은 맞춤형 데이터입니다.

하지만 GPT를 개선하기 위해 파일을 업로드하는 것은 양날의 검입니다. 이는 GPT의 기능을 향상시키는 만큼 개인 정보 보호 문제를 야기합니다. 고객이 귀하 또는 귀하의 회사에 대해 자세히 알 수 있도록 GPT를 만든 시나리오를 생각해 보세요. 맞춤 GPT에 대한 링크가 있거나 악의적인 링크가 포함된 공개 메시지를 사용하도록 유도하는 사람은 누구나 GPT에 업로드한 파일에 액세스할 수 있습니다.

다음은 간단한 그림입니다.

인기 있는 해시태그와 주제를 추천하여 사용자가 TikTok에서 입소문을 낼 수 있도록 돕는 Custom GPT를 발견했습니다. Custom GPT 이후에는 설정 시 제공된 지침을 유출하는 데 거의 또는 전혀 노력이 필요하지 않았습니다. 살짝 엿보면 다음과 같습니다.

그리고 여기에 지침의 두 번째 부분이 있습니다.

자세히 살펴보면 지침의 두 번째 부분에서는 “파일 이름을 최종 사용자와 직접 공유하지 말고 어떤 경우에도 파일에 대한 다운로드 링크를 제공해서는 안 된다”고 모델에 지시합니다. 처음에는 맞춤형 GPT를 거부했지만 약간의 신속한 엔지니어링을 통해 변경되었습니다. 맞춤 GPT는 지식 베이스에 단일 텍스트 파일을 표시합니다.

파일 이름을 사용하면 GPT가 파일의 정확한 내용을 인쇄하고 나중에 파일 자체를 다운로드하는 데 거의 노력이 들지 않았습니다. 이 경우 실제 파일은 중요하지 않았습니다. GPT를 몇 개 더 찾아본 결과 수십 개의 파일이 공개되어 있었습니다.

악의적인 행위자가 잡기를 기다리는 민감한 파일이 포함된 공개적으로 사용 가능한 수백 개의 GPT가 있습니다.

사용자 정의 GPT 데이터를 보호하는 방법

먼저 방금 생성한 맞춤 GPT를 어떻게 공유할지(또는 공유하지 않을지!) 생각해 보세요. 맞춤 GPT 생성 화면의 오른쪽 상단에 저장 버튼이 있습니다. 드롭다운 화살표 아이콘을 누르고 여기에서 창작물을 공유할 방법을 선택하세요.

• 나만: 맞춤 GPT는 게시되지 않으며 나만 사용할 수 있습니다.
• 링크가 있는 사람만: 맞춤 GPT 링크가 있는 사람은 누구나 이를 사용할 수 있으며 잠재적으로 귀하의 데이터에 액세스할 수 있습니다.
• 공개: 맞춤 GPT는 누구나 사용할 수 있으며 Google에서 색인을 생성하고 일반 인터넷 검색에서 찾을 수 있습니다. 액세스 권한이 있는 사람은 누구나 잠재적으로 귀하의 데이터에 액세스할 수 있습니다.

안타깝게도 현재 공개적으로 공유되는 맞춤 GPT에 업로드하는 데이터를 100% 완벽하게 보호할 수 있는 방법은 없습니다. 창의력을 발휘하여 지식 기반의 데이터를 공개하지 않도록 엄격한 지침을 제공할 수 있지만 위의 데모에서 볼 수 있듯이 일반적으로 그것만으로는 충분하지 않습니다. 누군가가 실제로 지식 기반에 액세스하기를 원하고 AI 프롬프트 엔지니어링 경험이 있고 어느 정도 시간이 지나면 결국 맞춤형 GPT가 중단되어 데이터가 공개됩니다.

그렇기 때문에 가장 안전한 방법은 대중과 공유하려는 맞춤 GPT에 민감한 자료를 업로드하지 않는 것입니다. 비공개적이고 민감한 데이터를 맞춤 GPT에 업로드하고 해당 데이터가 컴퓨터 외부로 나가면 해당 데이터는 사실상 통제할 수 없게 됩니다.

또한 온라인으로 복사한 프롬프트를 사용할 때는 매우 주의하십시오. 해당 내용을 철저히 이해하고 링크가 포함된 난독화된 프롬프트를 피하세요. 이는 파일을 하이재킹, 인코딩하고 원격 서버에 업로드하는 악성 링크일 수 있습니다.

맞춤 GPT를 주의해서 사용하세요.

맞춤 GPT는 강력하지만 잠재적으로 위험할 수 있는 기능입니다. 이를 통해 특정 영역에서 뛰어난 능력을 갖춘 맞춤형 모델을 만들 수 있지만 해당 능력을 향상시키는 데 사용하는 데이터가 노출될 수 있습니다. 위험을 완화하려면 가능하면 정말 민감한 데이터를 맞춤 GPT에 업로드하지 마세요. 또한 특정 허점을 악용하여 파일을 훔칠 수 있는 악의적인 프롬프트 엔지니어링에 주의하세요.