テレグラム、韓国当局の圧力を受け謝罪し25本のディープフェイクポルノ動画を削除

ディープフェイク・ポルノをめぐるテレグラムの韓国当局との闘い

人気の暗号化メッセージアプリ、テレグラムは、韓国で、暗号化メッセージの拡散を抑制できていないとして非難を浴びている。ディープフェイク・ポルノとデジタル性犯罪をプラットフォームで扱う .

韓国通信標準化委員会（KCSC）は、テレグラムが政府からの要請に応じ、性的搾取を目的とした25本の動画を削除したと発表した。

これらの動画は、主に未成年や女性を描写するディープフェイク技術を用いて作成され、アプリ上のさまざまなチャンネルに出回っていた。

匿名』によるXの投稿で、

ディープフェイク画像を共有するあるTelegramグループには22万人のメンバーがおり、そのほとんどが未成年者をターゲットにしていると報じられている。[...]

この地図は、ディープフェイク犯罪の被害に遭ったと思われる韓国の中学・高校・大学の位置を示しており、少なくとも500校がリストアップされている。過去3年間に警察が捜査したディープフェイク犯罪の被害者10人のうち6人が子どもだった。

コンテンツ削除の決定は、オンライン性犯罪の急増と戦ってきた韓国当局からの圧力が強まった後に下された。

KCSCの広報担当者は、テレグラムは以前、規制当局からの要請を無視することが多く、関わりを持つのが難しかったと明かした。

しかし、この事件を受けて同社は謝罪し、韓国政府との信頼関係の構築を目指すと表明した。

Telegramはまた、違法コンテンツに関する今後の対応のために専用の電子メールアドレスを提供することで、コミュニケーションを改善することを約束した。

KCSCの関係者はこう述べた、

quot;ディープフェイクの性的搾取資料の流通を解決し、最終的にデジタル性犯罪コンテンツを根絶するために、専用メールアドレスを始めとするホットラインを確保することで、テレグラムとの協力を強化したい；

テレグラムCEOパヴェル・ドゥロフの逮捕と進行中の法的課題

テレグラムへの圧力は、同社のCEOでありオーナーでもあるパヴェル・ドゥーロフが2024年8月24日、フランスで逮捕 .

フランス当局は彼を、児童性的虐待資料の流布への加担、警察の捜査への不協力など、複数の罪で起訴した。

にもかかわらず保釈金500万ユーロ ドゥロフの法的トラブルは、テレグラムをコンテンツモデレーション、暗号化、サイバー犯罪をめぐる世界的な議論の中心に押し上げた。

今回の逮捕により、テレグラムの運営に対する監視の目はさらに厳しくなり、世界各国の政府がテレグラムの暗号化されたサービスに対する監視の強化を求めている。

しかし、テレグラム社はそのやり方を擁護し、8月25日に次のような声明を発表した、

"プラットフォームやその所有者が、そのプラットフォームの悪用に責任があると主張するのは馬鹿げている"

同社は、EU法を遵守しており、そのコンテンツモデレーション基準は業界規範に沿ったものであると主張している。

それにもかかわらず、こうした主張は、特にテレグラムがデジタル性犯罪との闘いにおいて重要な戦場となっている韓国では、批判をなだめるにはほとんど役に立っていない。

テレグラムで増加するディープフェイク・ポルノの報告

韓国当局はこの問題に取り組んできた。増加するデジタル性犯罪の潮流、その多くはディープフェイク技術によって可能になる .

韓国警察庁は、犯罪者がテレグラムを利用して性的なディープフェイク動画を作成・配信している証拠を発見し、テレグラムに対する予備捜査を開始したことを明らかにした。

8月26日現在、警察はテレグラム上のディープフェイク・セクシャル・コンテンツについて88件の通報を受け、これらの犯罪に関連する24人の容疑者を特定した。

同プラットフォームがこのような行為に関与したことで、同社は法執行機関の矢面に立たされ、警察は同社に対する立件を続けている。

テレグラムがこのような犯罪に関与したのは今回が初めてではない。

2020年、チョ・ジュビンという20歳の男が率いるオンライン性的恐喝組織が、テレグラムを使って未成年を含む女性を脅迫し、劣悪で暴力的な性的画像を作成させていたことが発覚し、同プラットフォームの評判は大きく損なわれた。

チョーは結局、この組織で果たした役割に対して40年の禁固刑を言い渡されたが、このスキャンダルによって、違法コンテンツの拡散を防止するテレグラムの脆弱性が浮き彫りになった。

国家の危機：韓国のデジタル性犯罪との戦い

韓国ではここ数年、デジタル性犯罪の蔓延が深刻化している。

警察のデータによると、ディープフェイクの件数は2021年の156件から2023年7月現在で297件に急増しており、わずか2年でほぼ倍増している。

この憂慮すべき傾向は、政府の最高レベルからの行動を促している。

韓国のディープフェイク事情についての統計である：

ディープフェイクポルノサイトのビデオのほぼ3分の1は、非西洋人が出演しており、韓国のK-POP歌手が4分の1を占めている。(出典レグメディア )

韓国の歌手や女優がディープフェイク・ポルノに登場する人物の53％を占め、最も頻繁に狙われるグループとなっている。(出典セキュリティヒーロー )

尹錫烈（ユン・ソクヨル）大統領は、デジタル性犯罪、特に未成年者や同意のない成人が関与する性犯罪に対して、ゼロ・トレランス・アプローチを繰り返し要求してきた。

テレビで放映された閣議で、ユンはこの問題を取り上げ、次のように述べた、

「匿名性という保護に頼りながら、テクノロジーを悪用した行為だ。明らかな犯罪行為だ"

同政権は、こうした犯罪の被害者を保護するため、より厳しい規制と徹底的な調査を執拗に推し進めてきた。

現地メディアの報道では、大学生や高校生までもがディープフェイクポルノのターゲットになり、テレグラムのチャットルームで女子学生の加工画像が共有されていることが取り上げられている。

あるジャーナリストがあるチャットルームに潜入したところ、その一部がテレグラムのボットによって運営されていることがわかった：

これらの暴露は広く怒りを引き起こし、韓国教職員教育労働組合のような団体は、このような露骨な資料がどのように配布されているのか調査を求めている。

韓国の性暴力防止・被害者保護法の執行強化が必要だと多くの人が考えている。

この法律では、性的に露骨なディープフェイクの作成と頒布は、5年以下の懲役または5000万ウォン（約37,500ドル）の罰金に処せられる。

テレグラムの謝罪と協力拡大計画

韓国当局と国民双方からの圧力が強まる中、テレグラムは8月29日に異例の謝罪を発表し、不正コンテンツの取り扱いに関してKCSCとのコミュニケーションに誤りがあったことを認めた。

同プラットフォームは、この状況を「不幸なこと」とし、韓国政府と協力する意向を表明した。

KCSCは、この新たな意欲を歓迎し、テレグラムと協力して、不正な性的コンテンツに関する事件を報告するための専用ホットラインを設置しようとしている。

このホットラインは、新しい電子メール・チャネルとともに、次のような問題に対処するための重要な一歩であると考えられている。テレグラムで増加するディープフェイクポルノ問題 .

こうした動きにもかかわらず、懐疑的な見方は依然として残っている。

Telegramのコンプライアンス違反の歴史は、同社のCEOが直面している法的課題と相まって、このプラットフォームがデジタル性犯罪に対して意味のある行動をとることを信頼できるかどうか、多くの人々に疑問を残している。

25本のビデオが削除されたことは正しい方向への一歩ではあるが、これはおそらく長く困難な改革プロセスの始まりに過ぎない。