딥페이크 셀럽 사기에 대응하기 위한 새로운 얼굴 인식 기술을 사용한 메타 실험

약 40억 명의 사용자를 보유한 거대 소셜 미디어인 Meta, 는 자사 플랫폼에서 가짜 유명인 사기 광고의 증가에 대응하기 위해 얼굴 인식 기술을 테스트하고 있습니다.

소수의 유명인들을 대상으로 한 초기 시험에서 '유망한 결과'를 얻었으며, Meta는 테스트를 50,000명으로 확대할 계획입니다.유명인 및 공인 앞으로 몇 주 안에 출시될 예정입니다.

이 시스템은 광고 속 이미지와 Facebook 및 Instagram의 유명인 프로필 사진을 비교하여 사기 행위를 감지하고 방지하는 방식으로 작동합니다.

회사는 10월 21일 성명에서 다음과 같이 강조했습니다:

"일치하는 광고가 확인되어 사기 광고로 판단되면 해당 광고를 차단합니다."

테슬라의 엘론 머스크, 오프라 윈프리, 호주의 억만장자 앤드류 포레스트와 지나 라인하트 등 유명 인사들이 과거 사기 광고에 사칭된 적이 있습니다.

이 이니셔티브는 다음을 단속하기 위한 메타의 광범위한 노력의 일환입니다.'유명인 미끼'; 사이버 범죄자들이 공인을 악용하여 의심하지 않는 사용자로부터 개인 정보나 돈을 훔치는 사기입니다.

곧 많은 대상 유명인에게 보호 프로그램에 등록되었음을 알리는 인앱 알림이 전송될 예정이며, 수신 거부 옵션이 제공됩니다.

메타 표현:

"흔히 '유명인 미끼'라고 불리는 이 방식은 Facebook 정책을 위반하는 것이며, Facebook 제품을 사용하는 사람들에게도 좋지 않습니다."

마크 주커버그 메타의 접근 방식은 점점 더 정교해지는 사이버 범죄에 대응하는 동시에 공인 및 일반 사용자를 온라인 사기로부터 보호하려는 노력을 강조합니다.

메타의 법적 도전

메타는 최근 수백만 명의 주민 생체 데이터를 불법적으로 사용한 것으로 밝혀진 텍사스와 14억 달러에 합의한 것을 고려할 때 신중하게 접근해야 합니다.

이에 따라 메타는 유명인 광고의 적법성을 검증하는 과정에서 수집된 얼굴 데이터를 모두 삭제하겠다고 약속했습니다.

또한, 사용자가 신원을 확인하고 유출된 계정을 복구할 수 있도록 얼굴 인식 기능을 확대할 계획입니다.

이 이니셔티브는 보안 요구와 개인정보 보호 우려의 균형을 맞추면서 신중하게 기술을 재도입하는 것을 의미합니다.

메타가 이러한 과제를 해결해 나가면서 보호와 규정 준수를 모두 보장하는 메타의 능력을 면밀히 지켜볼 것입니다.

메타의 새로운 얼굴 기술이 AI로 생성된 딥페이크의 부상에 대응할 수 있을까요?

의 부상AI로 생성된 딥페이크 는 '유명인 미끼' 사기와 같은 사기 수법에 이용되는 것에 대한 우려가 커지면서 디지털 환경에서 중요한 도전 과제가 되고 있습니다.

메타가 딥페이크 탐지를 목표로 새로운 얼굴 인식 기술을 도입한 것은 이 문제를 해결하는 데 있어 유망한 진전입니다.

이 거대 기술 기업은 AI를 활용하여 디지털 콘텐츠의 진위 여부를 확인함으로써 유명 인사의 신원이 오해의 소지가 있는 광고에 악용되는 문제를 해결하고 있습니다.

하지만 이 이니셔티브를 통해 사기 행위가 줄어들 수는 있지만딥페이크 광고는 만병통치약이 아닙니다.

AI 기술의 급속한 발전은 딥페이크에 대응하기 위해서는 지속적인 혁신과 경계가 필요하다는 것을 시사합니다.

메타의 얼굴 인식 테스트는 중요한 움직임이지만 개인정보 보호, 책임성, 콘텐츠 인증의 미래에 대한 광범위한 의문을 제기합니다.

기술이 발전함에 따라 딥페이크의 위협을 완전히 해결하고 온라인 콘텐츠에 대한 신뢰를 회복하기 위해서는 AI, 규제, 사용자 교육을 결합한 종합적인 전략이 중요해질 것입니다.