Deepfakes

캘리포니아 산불에 대한 베팅을 허용한 폴리마켓은 재난을 통한 수익 창출에 대한 윤리적 우려를 불러일으키며 반발에 직면했습니다. 설상가상으로 AI 딥페이크의 등장으로 잘못된 정보가 더욱 확산되었습니다. 비극이 엔터테인먼트가 되고 있나요?

McAfee는 CES 2025에서 AI를 사용하여 사용자가 문자, 이메일 및 비디오에서 사기를 식별하고 차단할 수 있도록 지원하는 사기 탐지기를 출시했습니다. 이 도구에는 딥페이크 탐지기가 포함되어 있으며 2025년 봄에 McAfee 고객에게 추가 비용 없이 제공될 예정입니다.

경찰이 압수한 노트북에서 딥페이크에 의한 사기가 밝혀졌습니다. 당국은 학생을 포함한 용의자 31명을 체포했습니다. 온라인 로맨스는 이제 속임수의 지뢰밭이 되었나요?

홍콩 경찰은 대만, 싱가포르, 말레이시아의 피해자들로부터 3,400만 홍콩달러 이상을 가로챈 딥페이크 연애 사기를 적발하고 31명을 체포했습니다. 범죄자들은 AI가 생성한 프로필을 이용해 사람들을 속여 가짜 암호화폐 플랫폼에 투자하도록 유도했습니다.

널리 사용되는 소셜 미디어 플랫폼인 텐센트의 위챗은 생성 인공 지능을 악용하여 딥페이크 동영상을 제작하는 광고 사기에 대한 단속을 강화할 것을 약속했습니다.

중국은 고전 영화와 문화 이야기를 왜곡하는 인공지능으로 조작된 동영상에 대한 단속을 강화하여 2024년 12월 10일까지 플랫폼에서 삭제할 것을 요구하고 있습니다. 당국은 문화적 왜곡, 저작권 위반, 윤리적 경계에 대한 우려를 이유로 들었습니다.

블루스카이의 급격한 성장으로 유해 콘텐츠가 증가하면서 더욱 엄격한 관리가 요구되고 있습니다. 또한 이 플랫폼은 주요 운영 세부 정보를 공개하지 않아 유럽연합 집행위원회로부터 규제 조사를 받고 있으며, 엘론 머스크의 X에서 사용자가 이동하는 가운데 어려움이 가중되고 있습니다.

메타는 '유명인 미끼' 사기를 방지하고 딥페이크 광고를 줄이기 위해 50,000명의 유명인을 대상으로 테스트하면서 얼굴 인식 기능을 조심스럽게 재도입했습니다. 하지만 이 정도면 유출된 계정을 막기에 충분할까요, 아니면 더 많은 조치가 필요할까요?

홍콩 경찰은 딥페이크 기술을 이용해 로맨스 사기를 통해 약 3억 6천만 홍콩달러(약 4,600만 달러)를 가로챈 사기 조직을 해체했습니다. 조직 범죄와 연루된 것으로 추정되는 5명을 포함해 총 27명의 용의자가 체포되어 정교한 온라인 사기의 위협이 커지고 있음을 강조했습니다.

호주 자유당은 2024년 연방 총선을 앞두고 앤드류 바(Andrew Barr) ACT 주총리의 딥페이크가 등장하는 호주 최초의 완전 인공지능으로 제작된 정치 광고를 공개했습니다. 이로 인해 정치에서 AI의 영향력에 대한 우려가 커지면서 선거 과정을 보호하기 위한 긴급한 규제가 필요하다는 목소리가 높아지고 있습니다.