Deepfakes

범죄자들이 가짜 동영상과 음성으로 사람들을 속이기 위해 AI 딥페이크를 사용하면서 암호화폐 사기가 점점 더 심각해지고 있습니다. 2024년에만 이러한 사기로 인해 46억 달러의 손실이 발생했으며, 그 중 약 40%가 AI 사칭과 관련이 있었습니다.

메타의 감독위원회는 브라질 축구 선수 호나우두 나자리오의 딥페이크 광고를 삭제하지 않은 메타를 비판하며 사기 방지 규정의 허술한 집행을 강조했습니다. 이 광고는 오해의 소지가 있는 온라인 게임을 홍보하여 Meta가 AI로 생성된 사기를 일관성 있게 처리하지 않는다는 우려를 불러일으켰습니다.

한 사이버 보안 전문가는 AI를 통해 사기범들이 음성과 동영상을 쉽게 복사하여 사람들을 속여 돈을 송금하도록 유도할 수 있다고 경고합니다. 그는 가족들이 비밀 비밀번호를 사용하여 전화나 메시지가 진짜인지 확인하고 이러한 사기에 속지 않도록 하라고 제안합니다.

새로운 연방법은 합의되지 않은 친밀한 이미지와 딥페이크 포르노를 범죄로 규정하고 기술 플랫폼이 48시간 이내에 이러한 콘텐츠를 삭제하도록 의무화합니다. 멜라니아 트럼프 영부인은 피해자들이 이제 온라인 착취에 대한 연방 차원의 보호를 받을 수 있게 되었다며 아동 보호를 위한 "국가적 승리"라고 말했습니다.

사이버 범죄자들은 이제 딥페이크 음성 기술을 활용하여 전현직 미국 연방 및 주 정부 공무원을 포함한 개인을 표적으로 삼아 민감한 정보를 빼내고 있습니다.

밴쿠버 캐넉스의 X 계정은 NHL 드래프트 추첨 직전에 해킹되어 가짜 암호화폐와 딥페이크 엘론 머스크 동영상을 홍보하는 데 사용되었습니다. 해커들은 팬들에게 진짜처럼 보이도록 답장을 보냈고, 팀은 NHL 및 X와 협력하여 통제권을 되찾았습니다.

아동의 노골적인 이미지를 생성하기 위해 사진을 변형하는 인공지능 '누드화' 앱에 대해 영국에서 심각한 우려가 제기되고 있으며, 아동 위원회는 이를 금지할 것을 촉구하고 있습니다. AI로 생성된 아동 학대 자료의 증가로 신고 건수가 380% 증가하면서 더 강력한 법적 조치가 필요하다는 주장이 제기되고 있습니다.

말레이시아의 한 16세 학생이 법정 구속된 지 이틀 만에 구치소에 수감된 후 인공지능이 생성한 동급생의 누드 이미지를 만들어 판매한 혐의로 기소되었습니다. 현재 그는 외설 및 네트워크 오용 혐의를 받고 있으며 보석으로 풀려났고, 이 스캔들로 인해 학교 교장은 이미 사임했습니다.

'모든 거리의 늑대'로 널리 알려진 암호화폐 투자자이자 옹호자인 스콧 멜커가 온라인에서 자신을 사칭하는 사기꾼에 대한 경고를 보냈습니다.

사람들을 인공지능으로 만든 액션 피규어로 변신시키는 바이럴 트렌드가 주목을 받고 있지만, 한편으로는 우려의 목소리도 높아지고 있습니다. 예술가들은 이 기술이 창의적인 작업을 위협한다고 경고하고 있으며, 노골적인 딥페이크는 학교, 정치, 유명 인사들을 계속해서 혼란에 빠뜨리고 있습니다.