Deepfakes

북한과 연계된 그룹이 AI를 사용하여 가짜 한국 군인 신분증을 만들고 언론인, 연구자, 인권 활동가를 대상으로 피싱 캠페인을 시작했습니다. 이 공격은 사이버 스파이 활동에 AI의 사용이 증가하고 있음을 강조하며, 당국은 위험 증가를 경고하고 더 강력한 보안 조치를 촉구하고 있습니다.

사기꾼들이 손실된 자금을 회수할 수 있는 로펌을 사칭하며 암호화폐 투자자들을 다시 노리고 있습니다. FBI는 이러한 가짜 회사가 암호화폐 또는 기프트 카드로 지불을 요구하고 이전 사기 사건의 개인 정보를 사용하여 신뢰할 수 있는 것처럼 보이므로 피해자들에게 주의를 기울일 것을 경고합니다.

엘론 머스크의 AI 동영상 도구인 Grok Imagine이 노출을 요구하지도 않은 채 테일러 스위프트의 성적으로 노골적인 딥페이크 동영상을 제작했습니다. 이 논란으로 인해 영국에서는 특히 합의되지 않은 콘텐츠와 불충분한 연령 확인에 대한 법적, 윤리적, 규제적 우려가 제기되었습니다.

콜로라도의 한 치과의사가 아내를 시안화물과 안약에 들어 있는 화학 물질에 중독시켜 살해한 혐의로 재판을 받고 있습니다. 검찰은 그가 나중에 딸에게 아내가 스스로 목숨을 끊은 것처럼 보이도록 가짜 동영상을 만들어 달라고 부탁했다고 밝혔습니다.

홍콩대학교의 한 남성 법대생이 지인의 소셜 미디어 사진을 이용해 동의 없이 700개가 넘는 가짜 포르노 AI 이미지를 만들었습니다. 대학은 그에게 경고만 내렸고, 대중의 분노와 함께 더 강력한 조치와 법적 개혁을 요구하는 목소리가 커졌습니다.

도널드 트럼프 미국 대통령이 나토 정상회의에서 비트코인 경품을 홍보하는 모습이 담긴 일련의 유튜브 라이브 동영상이 인터넷에 올라왔습니다.

일본의 한 암호화폐 인플루언서가 가짜 친구가 보낸 악성 링크를 통해 딥페이크 Zoom 통화에 참여한 후 해킹을 당했습니다. 그녀의 텔레그램 계정과 메타마스크 계정이 해킹당해 암호화폐 자산이 도난당했습니다.

범죄자들이 가짜 동영상과 음성으로 사람들을 속이기 위해 AI 딥페이크를 사용하면서 암호화폐 사기가 점점 더 심각해지고 있습니다. 2024년에만 이러한 사기로 인해 46억 달러의 손실이 발생했으며, 그 중 약 40%가 AI 사칭과 관련이 있었습니다.

메타의 감독위원회는 브라질 축구 선수 호나우두 나자리오의 딥페이크 광고를 삭제하지 않은 메타를 비판하며 사기 방지 규정의 허술한 집행을 강조했습니다. 이 광고는 오해의 소지가 있는 온라인 게임을 홍보하여 Meta가 AI로 생성된 사기를 일관성 있게 처리하지 않는다는 우려를 불러일으켰습니다.

한 사이버 보안 전문가는 AI를 통해 사기범들이 음성과 동영상을 쉽게 복사하여 사람들을 속여 돈을 송금하도록 유도할 수 있다고 경고합니다. 그는 가족들이 비밀 비밀번호를 사용하여 전화나 메시지가 진짜인지 확인하고 이러한 사기에 속지 않도록 하라고 제안합니다.