Deepfakes

マレーシアの16歳の学生が、AIが生成したクラスメートのヌード画像を作成・販売した罪で起訴される前に、法定拘留期間を2日過ぎて拘束された。彼は現在、わいせつ罪とネットワーク悪用罪に問われており、保釈中である。このスキャンダルにより、彼の学校の校長はすでに辞任している。

暗号投資家であり、「The Wolf of All Streets」として広く知られているスコット・メルカーが、オンライン上で彼になりすます詐欺師について警告を発した。

人々をAIが生成したアクションフィギュアに変えるバイラルなトレンドが注目を集めているが、同時に警鐘も鳴らしている。アーティストたちはこの技術がクリエイティブな仕事を脅かすと警告し、露骨なディープフェイクは学校や政治、公人を混乱させ続けている。

韓国警察は、BTSやLE SSERAFIMを含むHYBEのアーティストをターゲットにしたディープフェイクビデオを作成・共有したとして、8人を逮捕した。この取り締まりは、AIが生成したコンテンツと闘うためにHYBE、ファン、法執行機関が数カ月にわたって協力してきたことを受けたものだ。

ハリマ・ヤコブ前大統領は、シンガポール政府を虚偽に批判する彼女のディープフェイク動画を作成した人物に対し、法的措置を追求すると述べた。

2024年、韓国では1万人以上がデジタル性犯罪の助けを求め、ディープフェイクの被害件数は前年比227％増と急増した。被害者の多くは30歳未満で、30万以上の違法コンテンツが削除された。

音楽業界は、Suno、Udio、Mubertのような生成AIモデルを訓練するために、そのコンテンツが無許可で使用されることを懸念しており、知的財産権の問題や、同意や補償なしに利用される可能性があることをますます懸念している。

詐欺師たちは、最初は投資マネージャーを装って被害者を狙い、後にユーロポールの捜査官として再び現れ、手数料を支払って盗まれた資金を回収すると約束するという、繰り返しの戦略をとっていた。

アリババの淘宝（タオバオ）プラットフォームは、消費者を欺き、商品を詐称するAI生成画像の使用に対抗するキャンペーンを開始した。同プラットフォームは、消費者を保護し、オンラインショッピングにおける真正性を促進するために、検出システムを強化し、AIが生成した画像にラベル付けを行っている。

ドナルド・トランプがビットコインのホワイトペーパーを発表する様子を描いた捏造ビデオがネット上に出回っている。この映像は明らかにデマだが、トランプ氏が暗号通貨の動向に与える実際の影響は架空のものとは程遠い。