YouTube, AI 딥페이크 탐지 도구 출시

YouTube 에 대한 조치를 강화하고 있습니다.AI로 생성된 딥페이크 승인되지 않은 콘텐츠에 자신의 초상이나 목소리가 사용된 경우 크리에이터와 퍼블리셔에게 이를 알리는 새로운 감지 프로세스를 도입했습니다.

딥페이크가 컴퓨터로 생성된 이미지를 통해 아티스트와 정치인을 묘사함으로써 점점 더 많은 위험을 초래함에 따라, YouTube의 업그레이드된 탐지 기능은 플랫폼에서 허위사실과 잘못된 정보를 완화하는 것을 목표로 합니다.

얼굴 및 음성을 위한 YouTube의 새로운 AI 딥페이크 기술

YouTube가 공개한 계획 에서 크리에이터의 지적 재산을 보호하기 위한 두 가지 혁신적인 도구를 소개합니다.생성 AI 모델에 의한 무단 사용.

이러한 도구의 구체적인 출시일은 아직 발표되지 않았지만, 회사에서는 해당 기능에 대해 자세히 설명했습니다.

암자드 하니프, YouTube 크리에이터 제품 담당 부사장,블로그 게시물에서 공유 :

"AI는 크리에이터가 혁신적이고 흥미로운 방식으로 자신을 표현할 수 있는 가능성의 세계를 열어주고 있습니다. YouTube는 크리에이터와 파트너가 이러한 진화하는 환경에서 성공할 수 있도록 최선을 다하고 있습니다. 즉, 얼굴과 목소리 등 자신의 모습이 표현되는 방식을 제어하면서 AI의 창의적인 잠재력을 활용하는 데 필요한 도구를 제공하는 것입니다."

첫 번째 도구인 '합성 노래 식별 기술'은 YouTube의 기존 콘텐츠 ID 시스템과 통합되도록 설계되었습니다.

이 새로운 기능을 통해 크리에이터와 퍼블리셔는 자신의 보컬 연기를 모방한 AI 생성 콘텐츠를 감지하고 관리할 수 있습니다.

이 기술은 고급 오디오 매칭을 활용하여 잠재적인 모방 및 무단 복제를 강조함으로써 아티스트와 퍼블리셔가 자신의 작품에 대한 허위 표현에 대처할 수 있는 능력을 향상시킵니다.

이러한 발전은 현재 온라인 저작권 보호를 모니터링하고 시행하는 데 상당한 자원을 투자하고 있는 음악 퍼블리셔에게 중요한 자산이 될 것입니다.

이 도구는 처음에는 자주 목소리를 내는 유명 뮤지션에 초점을 맞출 것입니다.AI에 의한 모방 하지만 잘 알려지지 않은 아티스트에 대한 효과는 아직 불확실합니다.

그럼에도 불구하고, 주요 레이블과 드레이크와 같은 인기 아티스트에게 귀중한 자료가 될 것입니다.테일러 스위프트 의 목소리를 모방한 AI 생성 콘텐츠에 맞서 싸우고 있습니다.

현재 개발 중인 두 번째 도구는 인플루언서, 배우, 운동선수, 아티스트 등 유명인의 모습이 담긴 AI 생성 미디어를 대상으로 합니다.

이 기능을 통해 탤런트 에이전트와 유명인은 자신의 이미지가 무단으로 사용되는 것을 식별하고 신고할 수 있습니다.

정치 단체에서도 공인의 초상권 오용과 관련된 문제를 해결할 때 이 도구를 유용하게 사용할 수 있습니다.

그러나YouTube 는 유명하지 않은 개인이 포함된 AI 생성 콘텐츠를 탐지하기 위해 이 도구를 선제적으로 구현할 예정입니다.

이러한 발전은 이미 광범위하게 활용되고 있는 YouTube의 현재 저작권 보호 조치를 더욱 강화할 것입니다.

YouTube의 크리에이터 제품 담당 부사장인 암자드 하니프는 AI 학습을 위해 크리에이터 콘텐츠를 스크랩하는 것은 YouTube 서비스 약관을 위반하는 행위라고 강조했습니다.

그러나 그는 크리에이터가 타사 AI 개발자와의 협업에 대해 더 큰 통제권을 원할 수도 있다는 점을 인정했습니다. 하니프는 이 부분에 대한 추가 업데이트가 올해 말에 이루어질 것이라고 밝혔습니다.

YouTube, 혁신 환경 조성을 위한 노력 강조

에 따르면YouTube 대표에 따르면, 최근 개정된 플랫폼의 개인정보 보호정책에 따라 이제 개인이 딥페이크 또는 AI가 생성한 사칭 콘텐츠의 삭제를 요청할 수 있게 되었습니다.

이 변경 사항은 다음에 의해 영향을 받는 개인이딥페이크 는 이러한 사칭을 적극적으로 찾아 신고하여 삭제하도록 해야 합니다.

하니프가 결론을 내렸습니다:

"AI가 진화함에 따라 인간의 창의성을 대체하는 것이 아니라 강화해야 한다고 믿습니다. 우리는 파트너와 협력하여 미래의 발전이 파트너의 목소리를 증폭시킬 수 있도록 최선을 다하고 있으며, 우려 사항을 해결하고 공동의 목표를 달성하기 위한 보호 장치를 지속적으로 개발할 것입니다. 초창기부터 YouTube는 크리에이터와 비즈니스가 YouTube에서 번창하는 커뮤니티를 구축할 수 있도록 지원하는 데 주력해 왔으며, 앞으로도 책임감 있는 혁신이 번성하는 환경을 조성하는 데 초점을 맞출 것입니다."

AI 딥페이크 제거를 위한 완벽한 방법은 없나요?

AsAI로 생성된 딥페이크 점점 더 정교해지고 있으며, 이러한 발전으로 인해 매우 설득력 있고 사실적인 콘텐츠를 제작할 수 있게 되면서 탐지하기가 더욱 어려워지고 있습니다.

이러한 조작을 식별하기 위해 고안된 고급 탐지 기술이 개발되었지만, 이러한 방법이 완벽하지는 않습니다.

딥페이크 기술의 지속적인 발전이 탐지 기능을 앞지르는 경우가 많기 때문에 합성 미디어를 제작하고 탐지하는 혁신이 끊임없이 경쟁하고 있습니다.

따라서 최신 툴로도 점점 더 교묘하고 정교해지는 딥페이크의 특성을 따라잡기 어려워 정확하고 신뢰할 수 있는 식별을 보장하는 데 지속적인 공백이 생길 수 있습니다.