텔레그램, 한국 당국의 압박에 딥페이크 포르노 동영상 25개 삭제 및 사과

텔레그램, 딥페이크 음란물 문제로 한국 당국과 갈등을 빚다

인기 암호화 메시징 앱인 텔레그램이 한국에서 코로나19 확산을 막지 못했다는 이유로 비난을 받고 있습니다.딥페이크 음란물 및 디지털 성범죄를 플랫폼에서 차단합니다. .

민원이 잇따르자 방송통신심의위원회(KCSC)는 텔레그램이 성착취물을 묘사한 25개의 동영상을 삭제하라는 정부 요청에 최종적으로 응했다고 발표했습니다.

주로 딥페이크 기술을 사용해 미성년자와 여성을 묘사한 이 동영상은 앱의 다양한 채널을 통해 유포되고 있었습니다.

'익명'의 X 게시물에서,

딥페이크 이미지를 공유하는 한 텔레그램 그룹은 22만 명의 회원을 보유하고 있으며, 대부분 미성년자를 대상으로 하고 있다고 합니다. [...]

딥페이크 범죄의 피해를 입은 것으로 추정되는 국내 중고등학교와 대학교의 위치가 표시된 지도로, 최소 500개 이상의 학교가 표시되어 있습니다. 지난 3년간 경찰이 조사한 딥페이크 범죄 피해자 10명 중 6명이 어린이인 것으로 나타났습니다.

이번 콘텐츠 삭제 결정은 급증하는 온라인 성범죄에 맞서 싸우고 있는 한국 당국의 압박이 거세진 후 내려진 결정입니다.

방송통신위원회 대변인은 텔레그램이 이전에는 규제 당국의 요청을 무시하는 경우가 많아 대화가 어려웠다고 밝혔습니다.

하지만 이 사건이 발생한 후 페이스북은 사과문을 발표하며 한국 정부와 '신뢰 관계 구축'을 목표로 하고 있다고 밝혔습니다.

또한, 텔레그램은 향후 불법 콘텐츠에 대한 대응을 위한 전용 이메일 주소를 제공함으로써 커뮤니케이션을 개선하기 위해 노력했습니다.

KCSC 관계자는 다음과 같이 말했습니다,

전용 이메일 주소를 시작으로 핫라인을 확보하여 텔레그램과 협력을 강화하여 딥페이크 성착취물 유통을 해결하고 궁극적으로 디지털 성범죄 콘텐츠를 근절하고자 합니다."라고 밝혔습니다;

텔레그램 CEO 파벨 두로프의 체포와 현재 진행 중인 법적 문제

텔레그램에 대한 압박은 회사의 CEO이자 소유주인 파벨 두로프가2024년 8월 24일 프랑스에서 체포됨 .

프랑스 당국은 아동 성학대 자료 유포 공모, 경찰 수사 협조 불이행 등 여러 범죄 혐의로 그를 기소했습니다.

그럼에도 불구하고5백만 유로의 보석금 게시 듀로프의 법적 문제로 인해, 텔레그램은 콘텐츠 중재, 암호화, 사이버 범죄에 대한 전 세계적인 논쟁의 중심에 서게 되었습니다.

이번 체포로 텔레그램의 운영에 대한 조사가 강화되었으며, 전 세계 각국 정부는 텔레그램의 암호화 서비스에 대한 감독을 강화할 것을 요구하고 있습니다.

하지만, 텔레그램은 8월 25일 성명을 발표하며 자신들의 관행을 옹호했습니다,

"플랫폼이나 플랫폼 소유자가 해당 플랫폼의 남용에 대한 책임이 있다고 주장하는 것은 터무니없는 주장입니다."

이 회사는 EU 법률을 준수하고 있으며 콘텐츠 중재 기준이 업계 규범에 부합한다고 주장했습니다.

하지만, 이러한 주장은 특히 텔레그램이 디지털 성범죄와의 싸움에서 중요한 전장이 된 한국에서 비판자들을 달래는 데는 별다른 효과를 거두지 못했습니다.

텔레그램에서 딥페이크 음란물 신고 증가 추세

한국 당국은 다음과 같은 문제로 고심하고 있습니다.디지털 성범죄의 증가 추세, 그 중 상당수가 딥페이크 기술을 통해 이루어지고 있습니다. .

경찰청은 범죄자들이 텔레그램을 이용해 성착취 딥페이크 영상을 제작하고 유포했다는 증거를 발견하고 텔레그램에 대한 예비 수사에 착수했다고 밝혔습니다.

8월 26일 기준, 경찰은 텔레그램에서 딥페이크 성 콘텐츠에 대한 88건의 신고를 접수했으며, 이러한 범죄와 관련된 용의자 24명을 검거했습니다.

이러한 활동에서 플랫폼의 역할로 인해 회사는 법 집행 기관의 조준선에 놓이게 되었고, 경찰은 계속해서 회사에 대한 수사를 진행하고 있습니다.

텔레그램이 이러한 범죄에 연루된 것은 이번이 처음이 아닙니다.

2020년에는 조주빈이라는 20대가 이끄는 온라인 성 협박 조직이 미성년자를 포함한 여성들을 협박하여 모욕적이고 폭력적인 성적 이미지를 제작하도록 텔레그램을 사용한 사실이 밝혀지면서 플랫폼의 명성이 심각하게 훼손되었습니다.

조 씨는 결국 이 사건에 연루되어 징역 40년형을 선고받았지만, 이 스캔들은 불법 콘텐츠 유포를 막는 텔레그램의 취약점을 부각시켰습니다.

국가적 위기: 대한민국의 디지털 성범죄와의 전쟁

한국의 디지털 성범죄는 지난 몇 년 동안 더욱 심각해졌습니다.

경찰 데이터에 따르면 딥페이크 사례는 2021년 156건에서 2023년 7월 현재 297건으로 급증하여 2년 만에 거의 두 배로 증가했습니다.

이러한 놀라운 추세는 정부 최고위층의 행동을 촉구했습니다.

다음은 한국의 딥페이크 상황에 대한 몇 가지 통계입니다:

딥페이크 포르노 웹사이트의 동영상 중 약 3분의 1은 서양인이 아닌 사람이 등장하며, 한국 케이팝 가수가 공격 대상의 4분의 1을 차지합니다. (출처:레그미디어 )

딥페이크 포르노에 등장하는 인물 중 한국 가수와 배우가 53%를 차지해 가장 빈번하게 표적이 되는 그룹으로 나타났습니다. (출처:securityhero.io )

윤석열 총장은 디지털 성범죄, 특히 미성년자나 동의하지 않은 성인을 대상으로 한 성범죄에 대해 무관용 원칙을 적용할 것을 거듭 촉구해 왔습니다.

윤 장관은 텔레비전으로 중계된 국무회의에서 이 문제를 언급하며 다음과 같이 말했습니다,

"익명성 보호에 의존하면서 기술을 악용하는 행위입니다. 이는 명백한 범죄 행위입니다."

트럼프 행정부는 이러한 범죄의 피해자를 보호하기 위해 더욱 엄격한 규제와 철저한 수사를 끊임없이 추진해 왔습니다.

현지 언론 보도에 따르면 대학생과 고등학생까지 딥페이크 포르노의 표적이 되고 있으며, 텔레그램 채팅방에서 조작된 여학생의 이미지가 공유되고 있다고 합니다.

한 기자가 한 대화방에 잠입하여 일부 대화방이 텔레그램 봇에 의해 운영되고 있다는 사실을 알아냈습니다:

이러한 폭로로 인해 전국교직원노동조합과 같은 단체에서 이러한 음란물이 어떻게 유통되고 있는지에 대한 조사를 촉구하는 등 광범위한 분노를 불러일으켰습니다.

많은 사람들이 한국의 성폭력 방지 및 피해자 보호 등에 관한 법률을 더욱 강력하게 시행해야 한다고 생각합니다.

이 법에 따라 성적으로 노골적인 딥페이크의 제작 및 유포는 최대 5년의 징역 또는 5천만 원(약 37,500달러)의 벌금형에 처해질 수 있습니다.

텔레그램의 사과와 더 큰 협력을 위한 계획

한국 당국과 대중의 압박이 거세지자, 텔레그램은 8월 29일에 이례적으로 사과문을 발표하며 불법 콘텐츠 처리와 관련하여 방송통신심의위원회와의 소통이 잘못되었음을 인정했습니다.

플랫폼은 이번 사태를 '불행한 일'로 규정하고 한국 정부와 협력하고 싶다는 의사를 표명했습니다.

방송통신심의위원회는 이러한 새로운 참여 의지를 환영하며, 텔레그램과 협력하여 불법 성적 콘텐츠 신고 전용 핫라인을 구축할 예정입니다.

이 핫라인은 새로운 이메일 채널과 함께 다음과 같은 문제를 해결하는 데 중요한 단계로 간주됩니다.텔레그램의 딥페이크 포르노 문제 증가 .

이러한 발전에도 불구하고 회의적인 시각은 여전합니다.

텔레그램의 규정 미준수의 역사와 CEO가 직면한 법적 문제들로 인해, 많은 사람들이 이 플랫폼이 디지털 성범죄에 대해 의미 있는 조치를 취할 수 있다고 신뢰할 수 있는지 의문을 제기하고 있습니다.

25개의 동영상이 삭제된 것은 올바른 방향으로 나아가는 단계이지만, 이는 길고 힘든 개혁 과정의 시작에 불과합니다.