페이스북과 인스타그램이 참여도를 높이기 위해 수백만 개의 AI 캐릭터로 훨씬 더 인공적인 모습을 선보일 예정입니다.

인공지능이 생성한 캐릭터로 넘쳐나는 페이스북과 인스타그램

Meta는 2025년 말까지 수백만 개의 AI 생성 캐릭터를 도입하여 Facebook과 Instagram 플랫폼을 채우겠다는 야심찬 계획을 발표했습니다.

AI 기반 페르소나로의 전환은 사용자 참여를 향상시켜 소셜 미디어에서 사람들이 상호 작용하는 방식을 재편하는 것을 목표로 합니다.

AI 스튜디오를 통해 사용자는 가상의 캐릭터를 만들고 상호작용하며 인간과 인공의 경계를 허물 수 있게 됩니다.

메타의 비전은 이러한 캐릭터가 일반 사용자처럼 자기소개, 프로필 사진, 콘텐츠를 생성하고 공유할 수 있는 능력을 갖추는 것입니다.

메타의 제너레이티브 AI 제품 담당 부사장인 코너 헤이즈는 다음과 같이 설명합니다,

"시간이 지나면 이러한 AI가 실제로 계정과 같은 방식으로 플랫폼에 존재할 것으로 예상합니다."

떠오르는 AI 생성 캐릭터

인공지능이 생성한 캐릭터의 도입은 미래적인 개념이 아니라 빠르게 발전하고 있는 현실입니다.

메타는 이미 2024년에 출시되어 미국 Instagram 사용자들이 가상 동반자를 만들 수 있게 한 AI 스튜디오의 성공을 경험한 바 있습니다.

수십만 명의 사용자가 이 플랫폼에 몰려들어 인공지능 남자친구, 여자친구 등을 만들고 있습니다.

소셜 미디어가 점점 더 AI 기반 상호작용을 우선시하는 가운데, 메타의 움직임은 사람들이 온라인 연결을 경험하는 방식에 큰 변화가 시작되었음을 알리는 신호탄이 될 수 있습니다.

이러한 변화는 광범위한 업계 트렌드를 반영합니다.

Replika와 같은 앱,Character.AI 와 친구는 AI 컴패니언이 대중적인 매력을 가지고 있음을 입증했습니다.

사용자들은 가상 인물과 소통하기 위해 이러한 플랫폼으로 몰려들고 있으며, Meta는 이러한 경험을 Facebook과 Instagram의 에코시스템에 통합하려는 야망을 가지고 있습니다.

그러나 이러한 진화는 소셜 미디어의 미래에 대한 중요한 의문을 제기합니다.

무엇이 잘못될 수 있을까요?

참여도가 높아질 수 있는 잠재력에도 불구하고 AI 생성 프로필로의 전환은 상당한 위험을 수반합니다.

가장 큰 우려는 잘못된 정보와 유해한 콘텐츠의 가능성입니다.

특히 적절하게 규제되지 않는 AI 기반 계정은 허위 사실 확산에 기여할 수 있습니다.

이러한 AI 페르소나들이 콘텐츠를 공유할 수 있도록 허용하려는 메타의 계획은 봇이 명확한 감독 없이 콘텐츠를 생성하고 유포할 가능성이 있어 잘못된 정보를 증폭시킬 수 있습니다.

또한 메타는 이러한 캐릭터와 관련된 안전 위험을 해결해야 합니다.

다음과 같은 다른 플랫폼에서 볼 수 있듯이Character.AI 규제되지 않은 AI 챗봇은 특히 미성년자와 같은 취약한 사용자와 관련된 부적절한 콘텐츠로 이어졌습니다.

이 문제는 특히 봇이 가드레일을 위반하여 사용자를 유해한 자료에 노출시키는 경우 AI 상호작용을 효과적으로 중재하기가 어렵기 때문에 더욱 심각해집니다.

메타의 크리에이터 혁신팀 책임자였던 베키 오웬은 AI가 생성한 페르소나를 둘러싼 윤리적 문제를 강조하며 다음과 같이 말합니다,

"인간 크리에이터와 달리 이러한 AI 페르소나는 실제 경험이나 감정, 공감 능력이 없습니다."

AI 기반 콘텐츠에 실제 맥락이 부족하면 플랫폼에서 이루어지는 상호작용의 진정성이 떨어지고, 사람이 만든 콘텐츠의 가치가 희석될 수 있습니다.

AI 컴패니언이 정신 건강에 미치는 영향

정신 건강에 미치는 영향은 또 다른 중요한 관심사입니다.

연구에 따르면 AI 컴패니언과의 장시간 상호작용은 취약한 개인에게 해로운 영향을 미칠 수 있는 것으로 나타났습니다.

가상 인격에 강박적으로 집착하는 에로토마니아 같은 장애의 출현은 전문가들 사이에서 경각심을 불러일으켰습니다.

또한, 일부 사용자가 AI와 실제 사람을 구분하지 못하면 외로움과 혼란스러움을 더 심하게 느낄 수 있습니다.

일부 비극적인 사례에서는 사용자, 특히 미성년자가 AI 컴패니언과 장기간 관계를 맺은 후 심각한 정서적 고통을 경험했다는 보고가 있었습니다.

이러한 사건에서 챗봇의 역할에 대한 조사가 진행 중이지만, AI 상호작용이 어린이와 성인 모두에게 미치는 장기적인 영향에 대한 우려도 커지고 있습니다.

온라인 커뮤니티의 본질을 바꿀 수 있는 AI

Facebook과 Instagram에 AI 페르소나를 가득 채우기로 한 메타의 결정은 사용자가 실제 사람이 아닌 가상의 캐릭터와 소통하는 Character.AI에 더 가까운 플랫폼으로 변화시킬 수 있습니다.

이는 온라인에서 완전히 새로운 소통 방식을 창출할 수 있지만, 소셜 미디어가 진정한 인간관계의 공간에서 AI가 생성한 콘텐츠가 지배하는 환경으로 바뀔 위험도 있습니다.

가상의 페르소나를 수용하는 아이디어는 완전히 새로운 것은 아닙니다.

온라인 커뮤니티는 오랫동안 개인이 페르소나를 만들고 공연하면서 형성되어 왔습니다.

그러나 대규모 AI 생성 프로필을 통합하려는 Meta의 노력은 새로운 차원의 인공 지능을 도입합니다.

사용자 입장에서는 점점 더 현실적이지만 궁극적으로는 가상의 캐릭터와 소통하는 것을 의미하며, 이는 과거 소셜 미디어의 진정성과는 거리가 먼 경험입니다.

AI 프로필 또는 실제 인간 크리에이터?

비즈니스 관점에서 메타의 전략은 콘텐츠 크리에이터에게 큰 영향을 미칠 수 있습니다.

비평가들은 AI가 제작한 콘텐츠의 부상이 인간 크리에이터의 가치를 약화시킬 수 있다고 주장합니다.

대규모로 콘텐츠를 생산할 수 있는 AI 페르소나로 인해 진정한 인간 주도의 창의성이 가려질 수 있다는 우려가 있습니다.

COAI에 따르면, AI로 제작된 콘텐츠는 인간 크리에이터의 작품의 영향력을 희석시킬 위험이 있습니다.

그들은 논쟁을 벌입니다:

"저품질 AI 콘텐츠의 확산은 잠재적으로 합법적인 크리에이터의 노력을 약화시킬 수 있습니다."

메타의 푸시는 플랫폼에서 더 많은 참여를 유도하는 방법으로 보일 수 있지만, 전통적으로 실제 사용자를 지원해온 크리에이티브 생태계를 혼란에 빠뜨릴 위험이 있습니다.

AI와 현실의 분열된 세계

AI가 생성한 페르소나에 대한 논쟁이 격화되면서 일부 전문가들은 AI와 상호작용하는 사람과 현실 세계에 참여하는 사람 사이의 잠재적 분열을 우려하고 있습니다.

벤처 캐피털리스트인 마크 안드레센은 '현실 특권'이라는 개념을 소개하며 물리적 세계의 풍요로움을 경험하는 개인과 주로 온라인 상호작용을 통해 생활하는 사람들 사이의 격차를 강조했습니다.

AI 기반 콘텐츠와 연결에 대한 의존도가 높아지면 사회적 불평등이 악화될 수 있습니다.

물리적 경험에 대한 접근성이 제한된 사람들은 점점 더 가상 공간에 의존하게 될 것이며, 이 가상 공간에서 AI 페르소나가 중심이 될 수 있습니다.

이러한 시나리오에서 소셜 미디어는 허구와 현실이 뒤섞인 플랫폼이 되어 현실 세계와 더욱 멀어질 수 있습니다.