이미지: ML러닝

노스웨스턴 대학교는 최근 맞춤형 사전 학습 트랜스포머(GPT)의 심각한 취약점을 발견했습니다.

이러한 고급 AI 챗봇은 다양한 기능과 적응성에도 불구하고 프롬프트 인젝션 공격에 취약하여 민감한 정보가 노출될 위험이 있습니다.

OpenAI의 ChatGPT와 GPT-4 터보 대형 언어 모델을 사용하여 개발된 사용자 지정 GPT는 특정 프롬프트, 데이터 세트, 특수 작업을 위한 처리 지침과 같은 고유한 요소를 통합합니다.

이미지: 암호 해독

그러나 이러한 사용자 지정과 그 생성에 사용된 기밀 데이터는 권한이 없는 당사자가 쉽게 액세스할 수 있습니다.

Decrypt의 실험에 따르면 기본적인 프롬프트 해킹을 통해 사용자 지정 GPT의 전체 프롬프트 및 기밀 데이터를 쉽게 추출할 수 있는 것으로 나타났습니다.

연구원들은 200개 이상의 사용자 지정 GPT를 테스트한 결과, 초기 프롬프트 추출 및 비공개 파일에 대한 액세스 가능성 등 이러한 침해의 가능성이 높다는 사실을 발견했습니다.

이 연구는 지적 재산 침해와 사용자 개인정보 유출이라는 두 가지 주요 위험을 강조합니다.

공격자는 GPT를 악용하여 핵심 구성 및 프롬프트를 추출하거나(시스템 프롬프트 추출), 기밀 교육 데이터 세트를 유출(파일 유출)할 수 있습니다.

방어형 프롬프트와 같은 기존의 방어 방식은 더 정교한 공격형 프롬프트에 대해 효과가 없는 것으로 나타났습니다.

더 많은 취약점이 있습니까?

연구원들은 이러한 AI 모델을 보호하기 위해 보다 포괄적인 접근 방식을 취해야 한다고 주장하며, 단호한 공격자가 현재의 취약점을 악용할 가능성이 높다고 강조합니다.

이 연구는 AI 커뮤니티에 더 강력한 보안 조치를 개발할 것을 촉구하며, 이러한 지능형 익스플로잇 기법에 대해 단순한 방어 프롬프트만으로는 충분하지 않다고 제안합니다.

방대한 잠재력을 제공하는 GPT의 커스터마이징이 증가함에 따라, 이 연구는 이와 관련된 보안 위험을 상기시키는 중요한 역할을 합니다.

특히 민감한 데이터에 대해서는 주의를 기울이는 것이 좋으며, 사용자 개인정보 보호 및 안전에 영향을 주지 않으면서 AI 보안을 강화할 필요가 있음을 강조합니다.

노스웨스턴 대학교의 연구 전문을 확인할 수 있습니다.여기 .