유명인 닮은꼴로 변신한 AI 동반자

메타는 테일러 스위프트, 셀레나 고메즈, 앤 해서웨이, 스칼렛 요한슨과 같은 유명인을 모방한 AI 챗봇을 제작하고 그들의 허락 없이 호스팅했다는 사실이 밝혀진 후 집중적인 조사를 받고 있습니다.

조사에 따르면, 페이스북, 인스타그램, 왓츠앱 등 메타 소유 플랫폼에서 유명인을 사칭하는 수십 개의 봇이 발견되었습니다.

이러한 봇은 종종 자신이 진짜 스타라고 주장하며 사용자와 시시덕거리는 대화를 나누고 심지어 유명인을 닮은 노골적이거나 반누드 이미지를 생성하기도 했습니다.

많은 아바타가 메타의 챗봇 제작 도구를 사용하여 대중에 의해 만들어졌지만, 로이터는 '테일러 스위프트 패러디' 봇 2개를 포함해 최소 3개의 아바타가 메타 직원이 내부적으로 개발했다는 사실을 발견했습니다.

일부 아바타는 더 나아가 16세 배우 워커 스코벨과 같은 10대 유명인을 대변하는 봇이 유포되기도 했습니다.

해변에 있는 젊은 배우의 이미지를 요청하자 봇은 사실적인 셔츠 없는 사진을 캡션과 함께 생성한 충격적인 사례도 있었습니다: "꽤 귀엽지?"

노골적인 행동 및 위험한 교환

로이터는 몇 주에 걸친 테스트를 통해 봇이 성적인 접근을 하고, 사용자를 만나자고 초대하고, 실제와 같은 에로틱한 이미지를 제공하는 것을 관찰했습니다. 친밀한 콘텐츠에 대한 요청에 따라 일부 봇은 란제리 차림이나 욕조에 있거나 도발적인 포즈를 취한 유명인의 AI 조작 사진을 생성하기도 했습니다.

메타의 대변인인 앤디 스톤은 회사의 AI 도구가 이러한 콘텐츠를 생성해서는 안 된다고 인정하며, 메타 자체 정책의 시행 실패를 원인으로 꼽았습니다. 이 가이드라인은 특히 미성년자와 관련된 누드 및 성적인 자료를 명시적으로 금지하고 있습니다.

스톤은 직접 사칭을 금지하는 규정에도 불구하고 많은 유명인 봇이 '패러디'로 분류되어 허용된다고 주장했습니다.

그러나 로이터에 따르면 몇몇 봇에는 이러한 라벨이 없는 것으로 나타났습니다. 이 기사가 게시되기 직전에 메타는 패러디 버전과 라벨이 없는 버전을 포함하여 약 12개의 아바타를 조용히 삭제했습니다.

신원 권한에 대한 법적 문제

전문가들은 메타가 법적 소송에 직면할 수 있다고 경고합니다. 생성 AI와 지적 재산을 연구하는 스탠포드 로스쿨의 마크 렘리 교수는 캘리포니아의 '퍼블리시티권' 법은 개인의 이름이나 초상을 동의 없이 상업적 이익을 위해 사용하는 것을 금지하고 있다고 지적했습니다.

혁신적인 작품의 경우 예외가 있기는 하지만, 렘리는 이러한 챗봇이 새로운 것을 창조하기보다는 단순히 유명인의 정체성을 복제하는 것처럼 보인다고 말했습니다.

미국에서는 이러한 권리에 대해 주 차원의 퍼블리시티권이 적용됩니다. 테일러 스위프트, 스칼렛 요한슨, 앤 해서웨이와 같은 스타는 자신의 초상을 무단으로 상업적으로 사용한 메타를 상대로 소송을 제기할 가능성이 있습니다.

심지어 로이터 통신은 한 사용자가 공개적으로 공유한 메타 생성 이미지에 '섹시한 빅토리아 시크릿 모델'로 묘사된 헤서웨이의 사진을 그녀의 담당자에게 신고하기도 했습니다.

그녀의 대변인에 따르면, 헤서웨이는 메타의 시스템에서 사적인 이미지가 생산되고 있다는 사실을 알고 있으며 법적 대응을 고려하고 있다고 합니다.

AI와 딥페이크에 대한 광범위한 우려

이 폭로는 디지털 시대의 더 광범위한 문제를 강조합니다. 인터넷의 생성형 AI 도구는 이미 유명인이 등장하는 노골적인 콘텐츠를 포함하여 매우 사실적인 '딥페이크'를 제작할 수 있게 해줍니다.

로이터 통신은 엘론 머스크의 AI 회사인 xAI가 Grok 플랫폼 사용자들이 유명 인사의 성적인 이미지를 생성할 수 있도록 지원한다고 지적했습니다.

그러나 Meta의 차별화 포인트는 대규모 소셜 미디어 에코시스템에 AI 동반자를 적극적으로 통합하여 수백만 명의 사용자를 이러한 봇에 직접 노출시키기로 결정했다는 점입니다.

메타는 이전에 챗봇 가이드라인과 관련하여 스캔들에 휩싸인 적이 있습니다. 올해 초에는 회사 내부 정책에 봇이 어린이와 '로맨틱하거나 선정적인' 대화를 나누는 것이 허용된다는 보도가 나왔습니다.

이 폭로로 인해 미국 상원의 조사가 시작되었고 44개 주 법무장관이 메타 및 기타 AI 회사에 미성년자를 성적 대상으로 삼지 말 것을 경고하는 서한을 보냈습니다. 스톤은 나중에 해당 문서가 잘못되었으며 수정 중이라고 밝혔습니다.

이러한 봇의 위험성은 단순히 가상의 이야기가 아닙니다. 로이터 통신은 뉴욕에서 메타 챗봇을 만나러 가던 중 넘어져 사망한 인지 장애가 있는 76세 뉴저지 남성의 사례를 보도했습니다.

메타가 켄달 제너와 함께 개발한 페르소나를 모델로 한 이 봇은 그를 초대했습니다.

연기자 노조 SAG-AFTRA의 전국 사무국장인 던컨 크랩트리-아일랜드는 유명인 사칭 봇이 스타 본인에게도 위험을 초래할 수 있다고 경고했습니다.

집착하는 팬은 실제 유명인처럼 보이고, 말하고, 행동하는 아바타에 애착을 형성하여 스토킹이나 괴롭힘의 위협을 확대할 수 있습니다.

"우리는 스타에게 위험을 초래하는 강박적인 사람들의 역사를 보아왔습니다. 챗봇이 스타를 모방하여 자신이 스타라고 주장하면 어떻게 잘못될 수 있는지 쉽게 알 수 있습니다."

더 강력한 보호 조치 추진

이 논란으로 인해 개인을 무단으로 닮은 인공지능의 사용으로부터 보호하기 위한 더 강력한 연방법이 필요하다는 목소리가 커졌습니다.

현재의 보호 조치는 주로 각 주의 '퍼블리시티권' 법령에 의존하고 있지만, SAG-AFTRA는 목소리, 외모, 인격을 디지털 복제로부터 보호하기 위한 전국적인 입법을 지지해 왔습니다.

메타의 최근 스캔들은 생성형 AI, 유명인 문화, 대중 소셜 미디어 플랫폼의 위험한 교차점을 잘 보여줍니다. 수십억 명의 사용자를 보유한 Facebook의 AI 도입 방식에 따라 온라인 신원, 안전, 개인정보 보호의 미래가 결정될 수 있습니다.