샘 알트먼, 스칼렛 요한슨의 ChatGPT 음성 모방에 대한 소송에 맞서다: 미친 짓인가, 계산된 행동인가?

최근 스칼렛 요한슨의 목소리와 놀라울 정도로 닮았다는 비판이 제기되자 OpenAI는 AI 음성 비서를 중단합니다.

회사는 다음과 같이 말했습니다:

"ChatGPT, 특히 Sky에서 음성을 어떻게 선택했는지에 대한 질문을 받았습니다. 이 문제를 해결하는 동안 Sky 사용을 일시 중지하기 위해 노력하고 있습니다."라고 말했습니다;

OpenAI, AI 음성이 유명인을 모방해서는 안 된다는 주장

지난주 OpenAI는 ChatGPT를 위한 다양한 오디오 음성을 제공하는 새로운 AI 모델인 GPT-4o를 출시했습니다.

400명이 넘는 성우 오디션을 거쳐 최종적으로 5명을 선발하여 브리즈, 코브, 엠버, 주니퍼, 스카이의 목소리를 만들었습니다.

개인정보 보호를 위해 성우들의 신원은 공개하지 않았습니다.

소셜 미디어 사용자들은 '스카이'의 목소리가 영화 속 스칼렛 요한슨의 목소리와 매우 흡사하다는 사실을 금방 알아차렸습니다.

에서블로그 게시물 월요일, OpenAI는 AI 음성이 유명인의 독특한 목소리를 의도적으로 흉내 내서는 안 된다고 밝혔습니다;

회사 측의 설명입니다:

"스카이의 목소리는 스칼렛 요한슨을 모방한 것이 아니라 그녀만의 자연스러운 말투를 사용하는 다른 전문 배우의 목소리입니다."& Quot;

이 성명은 앞서 OpenAI CTO 미라 무라티의 발언에 공감을 불러일으켰는데, 그는 Sky가 의도적으로 요한손을 모방하도록 설계되지 않았다고 해명했습니다.

이 회사의 모델 행동 책임자인 조앤 장은 월요일에 OpenAI가 '혼란'을 해결하기 위해 ScarJo 팀과 '대화 중'이라고 덧붙였습니다;

공개 당시 이를 들은 사람들은 조롱했습니다.

OpenAI는 '자연스럽고 듣기 쉬운' '풍부한 음색'으로 '친근하고 신뢰할 수 있는' 음성을 만드는 것을 목표로 했습니다;

ChatGPT용 스카이 보이스는 아직 널리 공개되지 않았지만, 지난 주 제품 발표 영상과 OpenAI 직원들이 사용하는 티저 영상이 온라인에서 입소문을 타기 시작했습니다.

일부 비평가들은 스카이의 목소리가 너무 쉽게 들린다고 지적했습니다.

이 논란은 데일리 쇼의 한 코너에까지 영향을 미쳤는데, 수석 특파원 데시 리딕은 스카이를 '흥분한 로봇 아기 목소리'로 묘사했습니다;

리딕이 말했습니다:

"이것은 분명히 남자들의 자존심을 채워주도록 프로그램되어 있습니다. 한 남자가 이 기술을 만들었다는 것을 알 수 있습니다."라고 말합니다;

요한슨의 거절에 대한 자세한 설명

스칼렛 요한슨은 장문의 성명을 통해 "가장 친한 친구와 뉴스 매체에서도 차이를 구분할 수 없을 정도로 스카이 데모 음성이 저와 너무 비슷하게 들렸다"며 '충격, 분노, 불신'을 표현했습니다.

공상과학 로맨스 'Her'에서 AI 봇의 목소리를 연기한 것으로 유명한 이 여배우는 8개월 전 OpenAI의 설립자 샘 알트먼이 자신에게 접근해 ChatGPT의 어시스턴트 중 하나에 목소리를 빌려줄 것을 제안했다고 밝혔습니다.

그녀는 공유했습니다:

"그는 제가 시스템을 대변함으로써 기술 기업과 크리에이티브 사이의 간극을 좁히고 소비자들이 인간과 AI에 관한 지각 변동에 편안함을 느낄 수 있도록 도울 수 있다고 생각한다고 말했습니다. 그는 제 목소리가 사람들에게 위로가 될 것 같다고 말했습니다."라고 말했습니다;

제안을 검토한 후 그녀는 거절했습니다.

하지만 약 9일 전, 알트먼은 다시 연락을 취해 재고를 요청했습니다.

그녀가 응답하기 전에 OpenAI는 Sky 음성이 포함된 GPT-4o 데모를 공개했습니다.

요한슨은 그녀의 '친구, 가족, 일반 대중'이 그 닮은꼴을 바로 알아차렸다고 말했습니다.

또한 알트먼은 업데이트가 출시되는 동안 '그녀'라는 단어를 트윗하여 유사성을 인정하는 듯한 모습을 보였는데, 이는 의도적인 유사성임을 암시하는 것이었습니다.

요한슨은 성명서에서 자신이 법률 변호사를 고용하도록 강요받았다고 밝혔으며, 이후 알트만 씨와 OpenAI에 두 통의 편지를 보냈습니다.

이 서한에는 회사의 조치에 대한 개요와 함께 '스카이'의 목소리를 만드는 데 사용된 프로세스에 대한 자세한 설명을 요청했습니다.

그녀는 스카이를 삭제하기로 한 회사의 결정이 직접적으로 법적 압력 때문이라고 말했습니다.

오스카상 후보에 두 번이나 올랐던 요한슨은 또한 인공지능(AI)을 둘러싼 허위 정보와 규제 및 법적 안전장치의 부재에 대한 광범위한 우려를 강조했습니다.

그녀는 반복했습니다:

"우리 모두가 딥페이크와 자신의 초상, 자신의 작품, 자신의 정체성을 보호하기 위해 고군분투하고 있는 이 시기에 이러한 문제는 반드시 명확히 밝혀져야 할 문제라고 생각합니다. 저는 개인의 권리가 보호될 수 있도록 투명성과 적절한 법안 통과를 통해 이 문제가 해결되기를 기대합니다."라고 말했습니다;

AI 악용에 대한 항의

작년 11월, 요한슨은 자신의 초상을 광고에 사용했다는 이유로 한 회사를 상대로 법적 소송을 제기했습니다.

이 동영상에는 Lisa AI가 생성한 이미지가 등장한다고 주장했지만, 회사는 이러한 주장을 반박했습니다.

최근에는비영리 단체인 예술가 권리 연합이 작성한 청원서 200명의 아티스트의 서명을 받았습니다.

이 청원은 AI 기업이 아티스트의 목소리와 초상을 악용하는 행위를 자제할 것을 촉구합니다.

빌리 아일리시, 에어로스미스, 카밀라 카베요, 케이티 페리, 케이트 허드슨, 존 본 조비, 이매진 드래곤스, 니키 미나즈, 셰릴 크로우 등 유명 아티스트들의 서명이 포함되어 있습니다.

AI의 무단 사용은 잠재적으로 치명적인 피해로 이어질 수 있습니다.

할리우드를 비롯한 다양한 산업에서 AI의 잠재적 영향에 대한 우려가 커지고 있는 가운데, 요한슨의 답변과 OpenAI의 설명은 더 광범위한 우려에 대한 해답을 제시했습니다.

최근 몇 달 동안 OpenAI와 같은 회사들은 콘텐츠 제작자, 아티스트, 미디어 단체로부터 AI 모델 학습을 위해 자신의 자료를 무단으로 사용했다고 주장하는 법적 문제에 직면해 있습니다.

이 문제는 특히 최근 할리우드의 파업 기간 동안 SAG-AFTRA의 초점이 되었습니다.

배우 노조와 스튜디오 간의 계약에는 음성 해설부터 전신 스캔에 이르기까지 영화와 TV에서 AI의 사용을 제한하는 조항이 포함되어 있습니다.

특히 크리에이터, 아티스트, 작가, 미디어 회사의 동의 없이 AI를 무단으로 사용하는 것은 심각한 윤리적, 법적 문제를 야기할 수 있습니다.

저작권이 있는 자료를 무단으로 사용하여 AI 모델을 학습시킬 경우 지적 재산권 침해 문제가 제기됩니다.

이는 콘텐츠 제작자의 권리를 훼손할 뿐만 아니라 콘텐츠 제작자의 저작물에 대한 보상을 위한 기존 프레임워크에도 혼란을 야기합니다.

또한 AI의 무단 사용은 콘텐츠의 허위 진술 또는 조작으로 이어져 평판 손상이나 잘못된 정보를 초래할 수 있습니다.

또한 AI 개발자와 더 광범위한 크리에이티브 커뮤니티 간의 신뢰를 약화시켜 해당 분야의 협업과 혁신을 저해합니다.

전반적으로 동의 없이 AI를 오용하는 것은 법적 원칙을 위반할 뿐만 아니라 창조 산업의 무결성과 공정성을 훼손하는 것으로, AI 개발 및 배포를 관리하기 위한 강력한 규제와 윤리적 지침의 필요성을 강조합니다.