Deepfakes

MetaのOversight Boardは、ブラジルのサッカー選手ロナウド・ナザリオのディープフェイク広告を削除しなかった同社を批判し、詐欺防止ルールの執行が弱いことを強調した。この広告は誤解を招くようなオンラインゲームを宣伝するもので、AIが生成した詐欺に対するメタ社の一貫性のない対応に懸念を抱かせるものだった。

サイバーセキュリティの専門家は、AIによって詐欺師が声や動画をコピーすることが容易になり、人々を騙してお金を渡すようになると警告している。同氏は、家族が秘密のパスワードを使って電話やメッセージが本物かどうかを確認し、こうした詐欺に引っかからないようにすることを勧めている。

新しい連邦法は、非合意的な親密な画像やディープフェイクポルノを犯罪とし、テクノロジープラットフォームは48時間以内にそのようなコンテンツを削除することを義務づける。メラニア・トランプ大統領夫人は、被害者がオンライン搾取に対する連邦政府の保護措置を受けられるようになったことから、これを児童保護のための「国家的勝利」と呼んだ。

サイバー犯罪者は現在、ディープフェイク音声技術を活用して、米国の現職および元連邦・州政府高官を含む個人を標的にし、機密情報を引き出している。

バンクーバー・カナックスのXアカウントがNHLドラフト抽選会の直前にハッキングされ、偽の暗号通貨とイーロン・マスクのディープフェイク動画の宣伝に使われた。ハッカーはまた、本物に見えるようにファンに返信し、チームはNHLとXと協力してコントロールを取り戻した。

写真を加工して子どもの露骨な画像を作成するAIの「ヌーディフィケーション」アプリは、英国で深刻な懸念を引き起こし、児童委員が禁止を求めている。AIが生成する児童虐待素材の増加により、報告件数は380％増加し、法的措置の強化を求める声が高まっている。

マレーシアの16歳の学生が、AIが生成したクラスメートのヌード画像を作成・販売した罪で起訴される前に、法定拘留期間を2日過ぎて拘束された。彼は現在、わいせつ罪とネットワーク悪用罪に問われており、保釈中である。このスキャンダルにより、彼の学校の校長はすでに辞任している。

暗号投資家であり、「The Wolf of All Streets」として広く知られているスコット・メルカーが、オンライン上で彼になりすます詐欺師について警告を発した。

人々をAIが生成したアクションフィギュアに変えるバイラルなトレンドが注目を集めているが、同時に警鐘も鳴らしている。アーティストたちはこの技術がクリエイティブな仕事を脅かすと警告し、露骨なディープフェイクは学校や政治、公人を混乱させ続けている。

韓国警察は、BTSやLE SSERAFIMを含むHYBEのアーティストをターゲットにしたディープフェイクビデオを作成・共有したとして、8人を逮捕した。この取り締まりは、AIが生成したコンテンツと闘うためにHYBE、ファン、法執行機関が数カ月にわたって協力してきたことを受けたものだ。