Google, 검색 결과에서 AI 딥페이크 관리 강화

Google은 무단으로 생성된 AI 딥페이크 관리를 위한 노력을 강화하고 있습니다. Google은 이러한 콘텐츠를 호스팅하는 웹사이트를 검색 결과에서 강등하거나 삭제하는 새로운 조치를 시행하고 있습니다.

딥페이크 이해하기

딥페이크는 제너레이티브 AI를 사용하여 실제와 같은 동영상, 사진 또는 오디오 클립을 제작하는 미디어입니다. 스칼렛 요한슨이나 조 바이든과 같은 유명 인사가 등장하는 경우가 많으며, 놀랍게도 어린이가 등장하는 경우도 있습니다.

Google의 향상된 제거 프로세스

최근 블로그 게시물에서 Google은 사람들이 오랫동안 합의되지 않은 노골적인 이미지의 삭제를 요청할 수 있었다고 설명했습니다. 이제 이 절차를 간소화하는 새로운 시스템을 도입하여 사용자가 더 광범위하게 이 문제를 해결할 수 있도록 지원합니다.

웹사이트 가시성에 미치는 영향

구글 대변인은 여러 번 삭제 요청을 받은 사이트는 가시성에 영향을 받을 수 있다고 Decrypt에 알렸습니다. 이러한 사이트는 품질이 낮은 것으로 간주될 수 있으며, Google은 이를 순위 시스템에 반영하여 검색 결과에서 해당 사이트의 가시성을 떨어뜨릴 것입니다.

명시적 검색 결과 필터링

Google은 동의하지 않은 딥페이크 콘텐츠에 대한 삭제 요청을 받으면 유사한 검색 결과도 필터링하여 노골적인 콘텐츠가 표시될 가능성을 낮춥니다. 이 시스템은 유해한 콘텐츠가 검색에 노출되는 것을 방지하여 사칭된 개인을 보호하는 데 목적이 있습니다.

SAG-AFTRA의 지지 표명

엔터테인먼트 업계에서는 구글의 새로운 정책에 대해 찬사를 보냈습니다. SAG-AFTRA와 같은 단체는 무단 디지털 복제를 방지하는 조치를 지원하여 업계 전반의 협력을 위한 중요한 성과로 평가하고 있습니다.

도전 과제 해결

Google이 직면한 한 가지 과제는 합의되지 않은 딥페이크와 영화 속 누드 장면과 같은 합의된 콘텐츠 또는 합법적인 콘텐츠를 구분하는 것입니다. 그럼에도 불구하고 Google은 실제 콘텐츠와 노골적인 가짜 자료를 더 잘 구분하기 위해 알고리즘을 지속적으로 개선하고 있습니다.

협업 및 업계 표준

Google은 다른 AI 개발사들과 함께 자사 모델이 아동 성적 학대물(CSAM)과 같은 유해한 콘텐츠를 생성하지 않도록 하겠다는 서약에 동참했습니다. Google은 업계 표준을 준수하는 해싱 기술을 사용하여 CSAM을 탐지하고 차단합니다.

전문가 의견

미디어 메딕의 CEO인 벤 클레이튼은 딥페이크 퇴치는 지속적인 과제라고 지적합니다. 구글의 업데이트는 긍정적인 조치이지만 유해한 콘텐츠의 확산을 방지하기 위해서는 지속적인 개선이 필요합니다. 딥페이크 기술은 개인 정보 보호, 보안, 심지어 사법 시스템에도 위험을 초래할 수 있으며, 딥페이크는 증거를 조작할 수 있습니다.

입법 노력

정책 입안자들도 이에 호응하고 있습니다. 마리아 캔트웰 상원의원은 AI로 생성된 콘텐츠에 워터마킹을 하는 표준화된 방법을 제안하는 COPIED 법안을 발의했습니다. 이 이니셔티브는 개인의 초상이 무단으로 악용되지 않도록 보호하는 것을 목표로 합니다.