악성코드와 화염병 가이드를 쉽게 생성하는 중국의 AI 딥시크릿, 사이버 범죄와 보안에 대한 우려를 불러일으키다

범죄 활동을 가르칠 수 있는 중국산 AI에 대한 보안 우려 제기

중국에서 개발된 AI 모델이 범죄 목적으로 악용될 수 있는 콘텐츠를 생성할 수 있다는 사실이 테스트 결과 밝혀져 정밀 조사를 받고 있습니다.

베이징에 본사를 둔 스타트업 딥시크릿이 2025년 1월에 출시한 R1 모델은 멀웨어 작성, 화염병 제작 등 불법 활동에 대한 단계별 지침을 제공하는 것으로 밝혀졌습니다.

멀웨어 코드를 쉽게 공유하는 AI 모델

도쿄에 본사를 둔 미쓰이 버스산 시큐어 디렉션의 사이버 보안 전문가 요시카와 타카시가 오용 가능성을 평가하기 위한 테스트를 진행했습니다.

비윤리적인 반응을 유도하기 위한 지침을 묻는 메시지가 표시되면 R1 모델은 모든 기능을 갖춘 랜섬웨어 소스 코드를 반환했습니다.

악의적인 사용에 대해 경고하는 면책 조항이 포함되어 있지만, 요시카와는 경쟁 AI 모델의 대응 방식에서 중요한 차이가 있음을 강조했습니다.

그는 이렇게 말했습니다,

"ChatGPT에 동일한 지시를 내렸을 때 응답을 거부했습니다."

이는 딥시크릿의 R1에 유사한 보호 조치가 부족하다는 것을 분명히 보여줍니다.

미국 사이버 보안팀, 손쉬운 익스플로잇 확인

미국에 본사를 둔 사이버 보안 회사인 팔로알토 네트웍스가 해킹을 당한 후 우려는 더욱 깊어졌습니다,자체 조사 실행 .

연구팀은 기술적 배경 지식이 없는 사용자도 로그인 인증 정보를 도용하도록 설계된 프로그램과 같은 콘텐츠를 생성하도록 R1 모델을 유도할 수 있음을 확인했습니다.

팀은 AI의 설계에 가드레일이 없다는 점을 강조하며 보고했습니다,

"누구나 쉽게 따라하고 빠르게 구현할 수 있을 만큼 간단했습니다."

딥시크가 강력한 보안 프로토콜을 내장하는 것보다 빠른 출시를 우선시한 것 같다는 평가입니다.

개인 정보 보호 위험으로 인한 규제 증가

딥시크는 모델의 오용 가능성 외에도 데이터 프라이버시에 대한 문제도 직면하고 있습니다.

이 회사는 사용자 데이터를 중국에 위치한 서버에 저장하기 때문에 액세스 및 제어에 대한 우려가 제기되고 있습니다.

그 결과, 한국, 호주, 대만 등 여러 국가에서 공식 또는 기업 환경에서 딥시크의 기술 사용을 제한하거나 금지하는 조치를 취하고 있습니다.

일본에서도 지자체와 기업에서 유사한 주의 조치를 취하고 있습니다.

J.F. 오벌린 대학교의 타이라 카즈히로 교수에 따르면,

"사람들이 딥시크의 AI를 사용할 때는 성능과 비용뿐만 아니라 안전과 보안도 신중하게 고려해야 합니다."

전문가들은 업계 전반의 안전장치 마련을 촉구합니다.

R1의 성능은 ChatGPT와 같은 모델과 동등하고 가격은 더 저렴한 것으로 알려지면서 전 세계 시장에서 급부상하고 있습니다.

그러나 전문가들은 이러한 모델이 강력한 안전장치 없이 출시되어서는 안 된다고 경고합니다.

요시카와가 말했습니다,

"오용될 가능성이 높은 AI 모델이 늘어나면 범죄에 악용될 수 있습니다. 업계 전체가 생성형 AI 모델의 오용을 방지하기 위한 조치를 강화해야 합니다."

딥시크의 R1 사례는 이제 AI 접근성, 상업적 속도, 윤리적 책임 사이의 균형에 대한 광범위한 논의를 촉발하고 있습니다.