위챗, 딥페이크를 이용해 유명인을 사칭하는 광고 사기를 단속하다

널리 사용되는 소셜 미디어 플랫폼인 텐센트의 위챗은 생성 인공 지능을 악용하여 딥페이크 동영상을 제작하는 광고 사기에 대한 단속을 강화할 것을 약속했습니다.

위챗은 일요일 발표를 통해 AI를 악용하여 유명인을 사칭하여 잘못된 마케팅 캠페인과 트래픽을 유도하는 콘텐츠에 대한 조치를 설명했습니다. 이 플랫폼은 이러한 콘텐츠 532건을 삭제하고 이러한 딥페이크 홍보 동영상 제작에 관여한 209개 계정을 정지시켰다고 보고했습니다.

위챗은 플랫폼의 무결성을 보호하기 위해 기술적 감독을 강화하고, 콘텐츠 제작자에게 정해진 규정과 플랫폼 정책을 준수할 것을 촉구했습니다. 또한, 플랫폼의 거버넌스 역량을 지속적으로 강화하고 건강한 생태계를 유지하겠다고 약속했습니다.

딥페이크 사용으로 저명인사 사칭하기

이번 단속은 딥페이크 동영상 콘텐츠, 특히 유명인을 사칭하여 사기성 프로모션을 진행하는 데 사용되는 딥페이크에 대한 조사가 강화되고 있는 가운데 이루어졌습니다.

팬데믹 기간 동안 중국의 전염병 전문가인 장원홍이 위챗에서 단백질 바를 홍보하는 모습이 목격되었습니다. 장원홍은 이후 이러한 오해의 소지가 있는 악의적인 콘텐츠가 우려스럽다며 자신의 개입을 부인했고, 회사를 상대로 여러 차례 민원을 제기했습니다.

마찬가지로 홍콩의 유명 배우이자 영화 제작자인 레이몬드 웡 팍밍도 비슷한 상황에 처했습니다. 그가 정체불명의 연고를 지지하는 딥페이크 영상이 위챗을 통해 유포되기도 했습니다.

웡은 자신의 웨이보 계정에 "이러한 행위는 순전히 사기이며 이익을 위해 대중을 속이는 데 목적이 있습니다."라고 썼습니다;

딥페이크에 대한 규제 강화

딥페이크 기술의 보급이 증가함에 따라 중국 규제 당국은 더욱 엄격한 조치를 취하고 있습니다. 2023년에 시행된 인터넷 정보 서비스 딥합성에 관한 관리 규정은 AI로 변경된 콘텐츠에 대한 명시적인 라벨링과 추적성을 의무화하고 있습니다.

이러한 규정을 바탕으로 2024년에 새롭게 도입되는 가이드라인에서는 플랫폼이 배포하는 모든 AI 생성 콘텐츠를 식별하고 규제하도록 하는 더욱 엄격한 감독을 제안합니다.

이달 초 중국 국영 방송 당국은 바이트댄스의 더우인(중국의 틱톡에 해당)과 콰이쇼우 등 단편 동영상 플랫폼에 딥페이크 기술을 사용해 제작된 고전 영화나 TV 프로그램의 '특이한 각색'을 삭제하도록 지시했습니다.

위챗과 같은 플랫폼이 단속을 강화하면서 AI 기반 콘텐츠 조작과의 전쟁은 신뢰를 유지하고 디지털 생태계를 보호하는 데 있어 제너레이티브 AI가 제기하는 광범위한 과제를 강조하고 있습니다.