Deepfakes

北朝鮮に関連するグループがAIを使用して偽の韓国軍IDを作成し、ジャーナリスト、研究者、人権活動家を標的としたフィッシング・キャンペーンを開始した。この攻撃は、サイバー・スパイ活動においてAIの利用が拡大していることを浮き彫りにしており、当局はリスクの増大を警告し、セキュリティ対策の強化を促している。

詐欺師が、失われた資金を回復できる法律事務所を装い、暗号投資家を再び標的にしている。FBIは、これらの偽事務所は暗号やギフトカードでの支払いを要求し、信用できるように見せるために以前の詐欺の個人情報を使用するため、被害者に注意するよう警告している。

イーロン・マスクのAI動画ツール「Grok Imagine」は、ヌードを促されることなく、テイラー・スウィフトの性的に露骨なディープフェイク動画を制作した。この論争は、英国で法的、倫理的、規制的な懸念を引き起こし、特に非合意的なコンテンツと不十分な年齢認証が問題視されている。

コロラド州の歯科医が、青酸カリと目薬に含まれる化学物質で妻を毒殺したとして裁判にかけられている。検察当局によると、彼は後に娘に妻が自ら命を絶ったように見せかけたビデオを偽造するよう依頼したという。

香港大学の法学部の男子学生が、知り合いの女性のソーシャルメディアの写真を無断で使い、700枚以上の偽のポルノAI画像を作成した。大学は彼に警告を与えただけであったため、世間は怒り、より強い措置と法改正を求める声が上がった。

ドナルド・トランプ米大統領がNATO首脳会議中にビットコインの配布を宣伝する一連のYouTubeライブ動画がインターネット上で公開された。

日本の暗号インフルエンサーが、偽の友人が彼女に悪意のあるリンクを送るディープフェイクZoom通話に参加した後、ハッキングされた。彼女のTelegramとMetamaskアカウントは侵入され、暗号資産が盗まれた。

犯罪者がAIのディープフェイクを使って偽の動画や声で人々を騙すため、暗号詐欺が悪化している。2024年だけで、これらの詐欺は46億ドルの損失を引き起こし、40％近くがAIのなりすましに関与している。

MetaのOversight Boardは、ブラジルのサッカー選手ロナウド・ナザリオのディープフェイク広告を削除しなかった同社を批判し、詐欺防止ルールの執行が弱いことを強調した。この広告は誤解を招くようなオンラインゲームを宣伝するもので、AIが生成した詐欺に対するメタ社の一貫性のない対応に懸念を抱かせるものだった。

サイバーセキュリティの専門家は、AIによって詐欺師が声や動画をコピーすることが容易になり、人々を騙してお金を渡すようになると警告している。同氏は、家族が秘密のパスワードを使って電話やメッセージが本物かどうかを確認し、こうした詐欺に引っかからないようにすることを勧めている。