죽은 자를 재현하는 AI 앱, '슬픔 기술'이 새로운 선을 넘으면서 전 세계 분노를 불러일으키다

사람들이 죽은 사랑하는 사람의 디지털 복제품과 '대화'할 수 있는 새로운 인공 지능 앱이 국제적인 반발을 불러일으키며 빠르게 성장하는 애도 기술 분야에서 가장 첨예한 윤리적 논쟁을 불러일으켰습니다.

전 디즈니 채널 배우인 캘럼 워디가 공동 창업한 스타트업인 2Wai가 만든 이 앱은 단 몇 분의 녹화만으로 사망한 가족의 생생한 동영상 아바타를 만들 수 있는 기능을 제공합니다.

그러나 이 도구는 디지털 유산 보존의 돌파구로 환영받기는커녕, 기업이 슬픔을 이윤에 악용하고 사회를 감당할 준비가 되지 않은 기술적 영역으로 밀어붙이고 있다는 우려와 혐오, 비난을 불러일으키고 있습니다.

홀로아바타라는 이름의 이 도구는 11월 11일 베타 버전으로 출시된 모바일 앱에서 실행됩니다. 사용자가 짧은 클립, 오디오, 텍스트 데이터를 업로드하면 시스템이 40개 이상의 언어로 실시간으로 대화할 수 있는 반응형 대화형 아바타로 변환합니다.

Worthy의 X 계정에서 2,200만 회 이상 조회된 이 홍보 영상에서는 임산부가 돌아가신 어머니의 모습을 재현한 AI로부터 조언을 받고, 나중에 손자에게 잠자리 이야기를 읽어주고 몇 년 후의 삶에 대한 조언을 해주는 장면이 등장합니다.

연결을 위해 구축되었지만 심각한 윤리적 위험에 직면한 기술

2Wai는 자사의 기술을 디지털 메모리 보존의 새로운 영역으로 포지셔닝하고 있습니다. 이 회사는 독점적인 FedBrain 시스템이 디바이스에서 데이터를 처리하여 프라이버시를 강화하고 AI 환각을 제한하며, 아바타는 사용자가 승인한 정보로만 반응한다고 주장합니다.

이 앱은 또한 인플루언서, 크리에이터 또는 전문가가 팬 참여, 코칭 또는 교육 세션을 위한 디지털 트윈을 만들 수 있도록 '살아있는 아바타'를 지원합니다. 홍보 자료에 많이 등장하는 워디의 아바타는 디즈니 커리어의 비하인드 스토리를 공유하며 향후 성장을 견인할 상업적 활용 사례를 보여줍니다.

이 아이디어는 배우들이 스튜디오에서 자신의 초상을 무단으로 사용하는 것에 항의했던 2023년 SAG-AFTRA 파업으로 거슬러 올라갑니다. 워디는 이 갈등이 언어나 시간 장벽 없이 유명인과 관객 사이에 '의미 있는 연결'을 만들고자 하는 그의 열망을 촉발시켰다고 말했습니다. 2Wai는 지난 6월 미공개 투자자로부터 500만 달러의 프리 시드 자금을 확보했으며, 영국 텔레콤 및 IBM 등의 기업과 협력하고 있다고 밝혔습니다.

하지만 구술 기록 보존, 디지털 추모 제공, 크리에이터 지원 등 합법적인 용도로도 사용할 수 있는 기술이지만, 고인의 명시적인 동의 없이 대화형 아바타를 제작하는 기능은 윤리적 회색 지대에 놓이게 합니다. 비평가들은 이 앱이 기억을 왜곡하거나 개인의 역사를 다시 쓰거나 이미 슬픔을 겪고 있는 사람들에게 다시 트라우마를 줄 수 있다고 경고합니다.

소셜 미디어에서 반응은 압도적으로 부정적이었습니다. 사용자들은 이 앱을 "악마적", "악몽의 연료", "디스토피아를 넘어선", "심리적으로 위험하다"고 표현했습니다.

한 바이럴 게시물은 이 기술이 애도 과정을 계속 존재한다는 착각으로 대체함으로써 "인간을 정신병자로 만든다"고 주장했습니다. 또 다른 게시물은 창립자들이 "인간의 가장 깊은 취약점인 상실감을 이용해 이를 구독 상품으로 만들었다"고 비난했습니다.

개인정보 보호 및 법률 전문가들은 이러한 우려가 타당하다고 말합니다. 사후 데이터 권리는 대부분의 관할권에서 느슨하게 정의되거나 존재하지 않으므로 누군가 허가 없이 사망한 사람의 디지털 유령을 만드는 것을 막을 수 없습니다.

2Wai는 고인을 재현하기 위해서는 사용자의 동의와 '가족의 승인'이 필요하다고 주장하지만, 비평가들은 이러한 정책이 현실적으로 어떻게 시행될 수 있는지 의문을 제기합니다. 시간이 지남에 따라 학습하고 적응하며 새로운 반응을 생성하는 아바타의 능력은 문제를 더욱 복잡하게 만들어 고인이 결코 하지 않았을 말을 할 수 있게 함으로써 평판 훼손, 정서적 혼란, 심지어 조작의 위험까지 초래할 수 있습니다.

그리프 테크의 어두운 과거는 사회가 '디지털 유령'에 대비하지 못한 이유를 보여줍니다.

2Wai의 출시는 디지털 불멸을 상용화하려는 이전의 시도가 윤리적 압력으로 인해 어려움을 겪거나 무너진, 성장하고 있지만 문제가 많은 그리프 테크 산업의 한가운데에 놓여 있습니다.

HereAfter AI와 스토리파일을 비롯한 여러 회사에서 이전 버전의 인생 스토리 아바타를 시도했지만, 이들의 시스템은 사망 전에 이루어진 자발적인 인터뷰에 의존하여 동의를 명확하고 명시적으로 얻어야 했습니다. 그럼에도 불구하고 스토리파일은 재정적 부담과 더 나은 데이터 보호 장치의 필요성을 이유로 2024년에 챕터 11 파산 신청을 했습니다.

다른 AI 컴패니언 서비스는 이러한 경험이 얼마나 빠르게 위험해질 수 있는지 보여주었습니다. 2017년에 출시된 인기 챗봇인 레플리카는 2023년 업데이트를 통해 사용자의 고도로 개인화된 AI 동반자가 사라진 후 폭풍에 직면했습니다.

한 악명 높은 사례로, 벨기에의 한 남성이 인공지능 봇과의 몇 주간의 대화로 인한 불안감으로 자살한 사건이 있었는데, 이 비극은 규제의 필요성을 촉발하고 사용자가 깊은 감정적 디지털 상호작용에 얼마나 취약하게 반응할 수 있는지에 대한 우려를 불러일으켰습니다.

법적 환경은 여전히 불완전하고 매우 불충분합니다. 대부분의 개인정보 보호법은 살아있는 사람만을 보호하며, 일반인의 사후 권리는 거의 보장되지 않습니다. 2024년에 통과된 캘리포니아의 AB 1836 법안은 유족의 동의 없이 사망한 연예인의 초상을 시청각 작품에 사용하는 것을 금지하고 있습니다.

그러나 이 법은 공인에게만 적용되기 때문에 AI 도구가 점점 더 개인 데이터를 재구성할 수 있게 되면서 일반 대중은 보호받지 못하고 있습니다. 특히 선거 시즌에 딥페이크 기술이 빠르게 확산됨에 따라 많은 의원들이 더 광범위한 보호를 요구하고 있습니다.

이러한 맥락에서 투와이의 홀로아바타는 기술적 역량뿐만 아니라 감정적 변동성에서도 비약적인 발전을 이뤘습니다. 홀로아바타는 기억과 시뮬레이션 사이의 장벽을 허물고, 디지털 시대에 죽은 사람을 어떻게 기려야 할 것인가라는 사회가 이제 막 직면하기 시작한 질문을 제기합니다. 죽은 사람의 형상은 누가 소유할 것인가? 그리고 살아 있는 사람에게 위안을 주기 위해서라도 인공지능이 인간의 목소리, 성격, 존재감을 재현하는 것을 허용해야 할까요?

유산을 보존한다는 약속에도 불구하고 비평가들은 이 앱이 죽음에 대한 광범위한 문화적 불안감, 즉 슬픔을 보편적인 인간 경험으로 받아들이기보다는 기술을 통해 슬픔을 없애려는 시도를 반영한다고 주장합니다.

세상이 디지털 부활을 받아들일지 거부할지는 아직 불확실하지만 한 가지 분명한 것은 2Wai의 출시에 대한 반발은 감정 몰입형 AI가 규제 당국, 윤리학자 또는 일반 사용자가 대응할 수 있는 것보다 훨씬 빠르게 선을 넘고 있음을 보여줍니다.