Deepfakes

コロラド州の歯科医が、青酸カリと目薬に含まれる化学物質で妻を毒殺したとして裁判にかけられている。検察当局によると、彼は後に娘に妻が自ら命を絶ったように見せかけたビデオを偽造するよう依頼したという。

香港大学の法学部の男子学生が、知り合いの女性のソーシャルメディアの写真を無断で使い、700枚以上の偽のポルノAI画像を作成した。大学は彼に警告を与えただけであったため、世間は怒り、より強い措置と法改正を求める声が上がった。

ドナルド・トランプ米大統領がNATO首脳会議中にビットコインの配布を宣伝する一連のYouTubeライブ動画がインターネット上で公開された。

日本の暗号インフルエンサーが、偽の友人が彼女に悪意のあるリンクを送るディープフェイクZoom通話に参加した後、ハッキングされた。彼女のTelegramとMetamaskアカウントは侵入され、暗号資産が盗まれた。

犯罪者がAIのディープフェイクを使って偽の動画や声で人々を騙すため、暗号詐欺が悪化している。2024年だけで、これらの詐欺は46億ドルの損失を引き起こし、40％近くがAIのなりすましに関与している。

MetaのOversight Boardは、ブラジルのサッカー選手ロナウド・ナザリオのディープフェイク広告を削除しなかった同社を批判し、詐欺防止ルールの執行が弱いことを強調した。この広告は誤解を招くようなオンラインゲームを宣伝するもので、AIが生成した詐欺に対するメタ社の一貫性のない対応に懸念を抱かせるものだった。

サイバーセキュリティの専門家は、AIによって詐欺師が声や動画をコピーすることが容易になり、人々を騙してお金を渡すようになると警告している。同氏は、家族が秘密のパスワードを使って電話やメッセージが本物かどうかを確認し、こうした詐欺に引っかからないようにすることを勧めている。

新しい連邦法は、非合意的な親密な画像やディープフェイクポルノを犯罪とし、テクノロジープラットフォームは48時間以内にそのようなコンテンツを削除することを義務づける。メラニア・トランプ大統領夫人は、被害者がオンライン搾取に対する連邦政府の保護措置を受けられるようになったことから、これを児童保護のための「国家的勝利」と呼んだ。

サイバー犯罪者は現在、ディープフェイク音声技術を活用して、米国の現職および元連邦・州政府高官を含む個人を標的にし、機密情報を引き出している。

バンクーバー・カナックスのXアカウントがNHLドラフト抽選会の直前にハッキングされ、偽の暗号通貨とイーロン・マスクのディープフェイク動画の宣伝に使われた。ハッカーはまた、本物に見えるようにファンに返信し、チームはNHLとXと協力してコントロールを取り戻した。