Deepfakes

メタ社は慎重に顔認識を再導入し、「セレブ詐欺」対策とディープフェイク広告削減のため、5万人の著名人を対象にテスト。しかし、侵害されたアカウントを阻止するにはこれで十分なのだろうか？

香港警察は、ディープフェイク技術を使い、ロマンス詐欺で個人から約3億6,000万香港ドル（約4,600万ドル）をだまし取っていた詐欺シンジケートを解体した。逮捕された容疑者は合計27人で、そのうち5人は組織犯罪とのつながりがあるとみられ、巧妙なオンライン詐欺の脅威が高まっていることを浮き彫りにした。

オーストラリア自由党は、2024年の連邦選挙を前に、ACT州首相アンドリュー・バーのディープフェイクをフィーチャーした、国内初の完全AI生成による政治広告を開始した。これは、政治におけるAIの影響について懸念を呼び起こし、選挙プロセスを保護するための早急な規制を求める声を促している。

国連の報告書は、東南アジアの犯罪ネットワークが、ハッキングされたデータやサイバー犯罪ツールの取引など、大規模な不正活動にテレグラムを使用していることを明らかにした。これは、Telegramの創設者であるPavel Durovが、このプラットフォームがこのような活動に果たした役割について精査した結果である。この人気メッセージング・プラットフォームは一息つけるのだろうか？

Character.AIは、殺害された10代の被害者の肖像を家族の同意なしにビデオゲームに使用したことで、反発に直面している。被害者の父親と叔父は同社を非難し、チャットボットの削除と作成者のアカウント停止を促した。このことは、AI開発における倫理的監督について懸念を抱かせる。

Telegramは、操作された女性画像に関する懸念を受け、韓国でディープフェイクポルノと違法コンテンツに対するゼロトレランスポリシーを約束した。韓国通信標準化委員会との提携は、有害なコンテンツを迅速に削除し、被害者を保護することを目的としている。

韓国警察庁は2021年9月以降、違法なディープフェイクポルノについて515件の潜入捜査を行い、こうしたコンテンツの配信に関与した10代の若者を含む1,415人を逮捕した。デジタル性犯罪の増加を受けて、当局はディープフェイクポルノに対処するタスクフォースを設置し、これらの犯罪を助長するテレグラムの役割を評価している。

NO FAKES Actは、イノベーションと強固な倫理的セーフガードのバランスを取りながら、無許可のディープフェイクやAIが生成したコンテンツから個人を保護するための超党派の統一的な取り組みを提示している。

アップルの新モデルiPhone16の発表会は、暗号通貨詐欺を宣伝するティム・クックCEOのディープフェイクによって妨害された。驚くべきことに、YouTubeの検索アルゴリズムはこの詐欺的なストリームを優先し、プラットフォームのユーザー保護に関する懸念を浮き彫りにした。

ジェネレーティブAIでディープフェイクが台頭する中、YouTubeはクリエイターの知的財産を保護する2つのツールの導入を計画している。これらのツールの詳細は有望だが、プラットフォームはまだ正式なリリース日を明らかにしていない。