Deepfakes

Polymarketがカリフォルニアの山火事に関するベットを可能にしたことで反発に直面し、災害から利益を得ることへの倫理的懸念が高まっている。さらに悪いことに、AIのディープフェイクの出現は、誤った情報をさらに広めている。悲劇はエンターテイメントになりつつあるのだろうか？

マカフィーはCES 2025で、AIを利用してユーザーがテキスト、電子メール、ビデオに含まれる詐欺を特定し、阻止するのを支援するScam Detectorを発表した。このツールにはディープフェイク検出機能が含まれており、マカフィーの顧客は2025年春に追加料金なしで利用できるようになる。

警察が押収したノートから深層偽装による不正が発覚。当局は学生を含む31人の容疑者を逮捕。ネット恋愛は今や詐欺の地雷原？

香港警察は、台湾、シンガポール、マレーシアの被害者から3400万香港ドルを騙し取ったディープフェイク・ロマンス詐欺を解体し、31人を逮捕した。犯人はAIが生成したプロフィールを使い、人々を騙して偽の暗号通貨プラットフォームに投資させていた。

広く利用されているソーシャルメディア・プラットフォームであるテンセントのWeChatは、生成人工知能を悪用してディープフェイク動画を作成する広告詐欺の増加の波に対する取り締まりを強化することを約束した。

中国は、古典的な映画や文化的な物語を歪曲するAI改変動画の取り締まりを強化し、2024年12月10日までにプラットフォームから削除するよう要求した。当局は、文化的な誤った表現、著作権違反、倫理的な境界に対する懸念を理由に挙げている。

BlueSkyの急成長は有害なコンテンツを増加させ、より厳しいモデレーションを促している。また、イーロン・マスクの「X」からのユーザー移行が進む中、同プラットフォームは、主要な運営詳細を開示していないとして、欧州委員会から規制当局の監視を受けている。

メタ社は慎重に顔認識を再導入し、「セレブ詐欺」対策とディープフェイク広告削減のため、5万人の著名人を対象にテスト。しかし、侵害されたアカウントを阻止するにはこれで十分なのだろうか？

香港警察は、ディープフェイク技術を使い、ロマンス詐欺で個人から約3億6,000万香港ドル（約4,600万ドル）をだまし取っていた詐欺シンジケートを解体した。逮捕された容疑者は合計27人で、そのうち5人は組織犯罪とのつながりがあるとみられ、巧妙なオンライン詐欺の脅威が高まっていることを浮き彫りにした。

オーストラリア自由党は、2024年の連邦選挙を前に、ACT州首相アンドリュー・バーのディープフェイクをフィーチャーした、国内初の完全AI生成による政治広告を開始した。これは、政治におけるAIの影響について懸念を呼び起こし、選挙プロセスを保護するための早急な規制を求める声を促している。