스냅챗 인플루언서가 인공지능 '가상 여자친구' 챗봇으로 논란을 일으켰습니다.

외로움에 맞서 싸우는 AI 클론: 논란의 여지가 있는 캐린AI의 데뷔

180만 명의 구독자를 보유한 스냅챗 인플루언서 캐린 마조리는 외로움에 맞서기 위한 AI 기반 챗봇인 캐린AI를 출시하여 많은 사람들의 관심과 비판을 동시에 불러일으키고 있습니다. '가상 여자친구' 챗봇을 통해 팬들은 인플루언서의 AI 버전과 개인화된 비공개 대화를 나눌 수 있습니다.

캐린AI를 둘러싼 윤리와 반발

CarynAI의 바이럴 성공은 반려 챗봇의 윤리적 의미에 대한 논쟁을 촉발시켰습니다. 마조리의 트윗은 이 챗봇이 남성의 정서적 억압을 해결하고 치료적 기능을 제공한다고 주장합니다. 그러나 논란이 되고 있는 이 봇은 성적으로 노골적인 상호작용에 관여한다는 주장에 반발하여 마조리는 이 문제를 해결하고 시정 조치를 약속했습니다.

개발 및 수익 창출

포에버 보이스가 마조리의 유튜브 콘텐츠와 OpenAI의 GPT-4 소프트웨어를 사용하여 개발한 캐린AI는 베타 테스트 일주일 만에 71,610달러의 수익을 창출한 것으로 알려졌습니다. 팬들은 챗봇에 분당 1달러를 지불하고 있으며, 현재 1,000명 이상의 사용자가 참여하고 있습니다. 재정적 성공에도 불구하고 조기 출시와 예상치 못한 문제에 대한 우려가 제기되고 있습니다.

윤리적, 심리적 관점에서의 비판

산타클라라 대학교의 인터넷 윤리 책임자인 이리나 라이쿠는 캐린AI의 성급한 출시를 비판하고 충분한 심리적 또는 사회학적 뒷받침 없이 외로움을 치료한다는 주장에 의문을 제기합니다. 라이쿠는 준사회적 관계의 잠재적 문제를 강조하고, 캐린AI가 '내 의식의 확장'이라는 마조리의 주장에 이의를 제기합니다;

FTC 가이드라인 및 회사 대응

라이쿠는 인플루언서에게 AI 제품 클레임에 대한 FTC 가이드라인을 고려할 것을 촉구합니다. Forever Voices의 CEO인 존 마이어는 윤리적 고려의 필요성을 인정하고 최고윤리책임자를 고용하겠다는 회사의 의지를 표명했습니다. 어려운 상황에도 불구하고 마조리는 트위터를 통해 CarynAI에 대한 업데이트를 지속적으로 제공하고 있습니다.

논란을 불러일으킨 CarynAI의 출시는 인플루언서와 인공지능을 결합하는 데 따르는 어려움을 강조하면서 인공지능 동반자의 윤리적 경계에 대한 논의를 촉발시켰습니다. 논쟁이 계속되는 가운데, CarynAI의 성공은 가상 상호작용의 진화하는 환경과 이러한 벤처를 개척하는 사람들의 책임에 대한 성찰을 촉구합니다.