VC 날카로운 평론: 에피스타인, AI 에이전트가 소프트웨어를 집어삼키고 머스크의 우주 야망

출처: All-In Podcast; 편집 및 정리: Yuliya, PANews

《All-In Podcast》는 세계에서 가장 인기 있는 기술 및 비즈니스 팟캐스트 중 하나로, 네 명의 최고 벤처 캐피털리스트이자 친구들이 공동으로 진행합니다. 이 네 명의 진행자는 각각 다음과 같습니다: Jason Calacanis(우버와 로빈후드의 초기 투자자, 팟캐스트 진행자, 진행을 총괄), Chamath Palihapitiya(억만장자, Social Capital 창립자, 'SPAC의 왕'으로 불리며 날카로운 시각을 지님), David Friedberg(The Production Board 창립자, 깊은 과학적 배경 보유, '과학의 술탄'이라 불림), 그리고 David Sacks(미국 초대 'AI 및 암호화폐 차르', 머스크의 절친, Craft Ventures 공동 창립자, 전 페이팔 고위 임원, 최근 미국 정치 활동에 깊이 참여)입니다. 이번 주 Chamath가 불참하여 '다섯 번째 최고의 친구'이자 Altimeter Capital 창립자 Brad Gerstner가 대타로 출연합니다.

네 사람은 최근 핫이슈를 중심으로 논의를 펼쳤다. 에피스타인 문서 유출로 촉발된 실리콘밸리와 정보기관의 연관성, 'SaaS는 죽었다'는 주장 아래 AI가 전통적 소프트웨어에 미치는 충격, Moltbook 포럼이 불러온 AI 자율의식 위험 우려, 머스크의 SpaceX와 xAI 합병 계획, 그리고 트럼프가 지명한 연준 신임 의장 케빈 워시의 정책적 영향 등이 주요 주제였다.

다음은 이번 대화의 상세 내용으로, PANews가 편집했습니다:

실리콘밸리의 인맥 왕? 2011년부터 비트코인 주목

(배경: 1월 30일, 미국 법무부는 '에피스타인 파일 투명성 법안'에 따라 다량의 문서를 공개했으며, 수백 명의 기술계 고위 간부와 유명 인사들이 언급되었는데, 여기에는 진행자 Jason Calacanis도 포함되었습니다. )

David Friedberg (Friedberg): 자, JCal, 당신의 이름이 문서에 등장했고, 당신의 이메일 몇 통이 포함되어 있습니다. 검사 Friedberg가 당신에게 몇 가지 질문이 있습니다.

Jason Calacanis (JCal): 네, 말씀하세요.

프리드버그: 제프리 엡스타인(Jeffrey Epstein)을 처음 만난 시기는 언제인가요?

JCal: 90년대 말 TED 컨퍼런스에서 만났습니다. 정확히는 제 도서 에이전트 존 브록먼(John Brockman)이 주최한 '억만장자 만찬' 자리였죠.

Friedberg: 그 후 뉴욕에서 그를 만난 적이 있나요? 그의 뉴욕 집이나 사무실, 다른 장소에 가본 적 있나요?

JCal: 평생 그와 나눈 대화는 총 45분 정도일 거예요. 그중 30분은 90년대 후반, 제가 '실리콘밸리 리포터' 잡지를 운영하던 시절이었죠. 그는 억만장자 금융가로, 제 잡지에 투자하려 했습니다. 30분간 만났지만, 제 프로젝트가 너무 작아 참여할 가치가 없다고 생각했죠.

프리드버그: 어디서 만났나요?

JCal: 그의 전설적인 타운하우스에서 만났습니다.

프리드버그: 그 집 가봤어?

JCal: 응, 한 번 방문했지. 그 후 TED 억만장자 만찬에서 대략 여섯 번 정도 더 봤어.

프리드버그: 그 '섬'에는 한 번도 가본 적 없나?

JCal: 한 번도 가본 적 없고, '섬'이나 그의 비행기, 목장에도 초대받은 적 없어요. 그런 건 전혀 없었죠.

프리드버그: 그가 집에 있을 때 젊은 여자들을 봤나요? 아니면 보도에서 묘사된 그런 일들을 목격했나요?

JCal: 아니요.

프리드버그: 누군가 당신에게 마사지를 해준 적이 있나요?

JCal: 아니요. 사실 그와 이메일 한 통 주고받은 적이 있는데, 저도 잊고 있었어요. 2011년에 그가 제게 이메일을 보내서, 당시 제 팟캐스트에서 비트코인에 대해 이야기하던 사람들을 소개해 줄 수 있냐고 물었죠. 저는 "물론입니다, 문제없어요. 소개해 드리죠"라고 답했습니다. 저는 매년 수천 번씩 이런 소개를 합니다. 우리 포트폴리오 기업, 스타트업 프로젝트, 억만장자들 사이를 연결해주는 것이 초기 투자자의 본업이니까요.

프리드버그: 그때 그가 성추행범 같은 사람이라는 걸 전혀 눈치채지 못했나요?

JCal: 전혀 몰랐습니다. 이런 일들이 진짜로 드러난 건 2018년이었어요. 마이애미 헤럴드(Miami Herald)에 그의 끔찍한 행위를 상세히 폭로한 기사가 실리면서야 비로소 깨달았죠. 저는 계속해서 이렇게 주장해 왔습니다: 에피스타인 관련 모든 문서를 공개하라. 그가 저지른 모든 행위는 소름 끼칠 정도로 끔찍하며, 관련자 전원을 100% 법의 심판대에 세워야 합니다. 그게 전부입니다. 기슬레인 맥스웰(Ghislaine Maxwell)은요? 문서에 당신과 그녀 사이의 단독 이메일도 있더군요.

JCal: 저도 TED에서 그녀를 알게 되었고, 뉴욕 사교계에서도 만났습니다. 제가 그녀를 알던 시절, 그녀의 아버지 로버트 맥스웰(Robert Maxwell)은 뉴욕 데일리 뉴스(New York Daily News)의 사장인 것 같았고, 그녀 자신도 미디어 고위 간부였으며, 그녀의 자매들도 기술 창업에 대한 엔젤 투자를 하고 있었습니다. 그래서 그들은 당시 그 계층의 사람들이었습니다. 돌이켜보면, 제 경력 초반에는 '연결자'로 유명했어요. <뉴요커>에서도 저에 관한 장문을 실었는데, 제가 모든 사람을 알고 모든 사람을 연결한다고 했죠. 아마 에포스타인이나 질레인이 저에게 관심을 가진 이유는 제가 그 유명 인사들과 연결해 주고 그들의 사업 활동을 도울 수 있었기 때문일 거예요.

프리드버그: 그러니까 당신은 에포스타인이나 기슬레인의 불법 활동에 대해 전혀 알지 못했고, 그런 일에 관여한 적도 없다는 건가요?

JCal: 절대 아닙니다. 저는 어떤 불법 행위에도 관여한 적이 없습니다.

David Sacks (Sacks): 몇 가지 관찰을 덧붙이겠습니다. 첫째, 저는 JCal을 100% 믿습니다. 제가 토크쇼에서 농담처럼 말했듯이, 그는 전체 그림에서 그다지 중요한 인물이 아니었습니다. 에포스타인 문서에서 알 수 있듯, 에포스타인은 초인맥왕이었고 당신도 연결자였으니, 그 시기에 두 분이 만날 확률은 거의 100%였죠. 하지만 두 분의 접점은 매우 제한적이었습니다. >둘째, 흥미로운 점은 그가 2011년 당시 이미 "비트코인 그 무리"에 호기심을 보였다는 사실입니다. 이는 에포스타인이 다른 어떤 일을 했든, 그는 초창기부터 자신을 모든 것의 중심에 두는 감각을 지녔음을 보여줍니다. 그런데 JCal은 당시 그들에게 "미친 비트코인 사람들"이라며 암호화폐 자유주의자라서 사업하기에 적합하지 않다고 경고했었죠. 저는 그들이 좀 특이하다고 생각했어요. 자금 조달을 원하는 창업자라기보다 위키백과 같은 재단 같아서 투자할 수 없는 사람들이었죠. 저는 분명히 그에게 그런 경고를 했습니다.

Sacks: 네, 하지만 그는 분명히 당신의 말에 겁먹지 않았고, 나중에 깊이 관여하게 되었죠. 블록스트림(Blockstream)이라는 회사가 있는데, 리드 호프만(Reid Hoffman)과 조이 이토(Joi Ito)와 함께 투자했는데, 거기에는 비트코인 핵심 개발자들도 포함되어 있었어요. 지금은 이런 일들이 모두 드러났죠.

또 다른 흥미로운 점은 미디어가 이 일을 어떻게 보도했는지예요. 뉴욕타임스에는 에피스타인과 실리콘밸리의 관계를 다룬 기사가 실렸는데, 당신의 연관성은 매우 미미하고 주변적임에도 불구하고 당신의 사진이 눈에 띄게 실렸습니다. 반면 에피스타인과 더 깊고 주요한 관계를 가진 사람들은 완전히 무시당했죠. 왜일까요? 왜 리드가 아닌 저를 겨냥했을까요? 엘론 머스크(Elon Musk)와 이 팟캐스트와의 연결고리로 인해 당신이 '우익'이라는 꼬리표를 붙였기 때문입니다.

그 기사를 보면, 당신뿐만 아니라 피터 틸(Peter Thiel)과 엘론 머스크도 맹렬히 공격받았지만, 리드 호프만(Reid Hoffman)은 완전히 면책되었습니다. 그는 단지 다른 몇 명과 함께 한 문장에서 언급되었을 뿐입니다. 빌 게이츠(Bill Gates)도 이 기사에서 마찬가지였습니다. ">하지만 애포스타인과 가장 오래, 가장 밀접하게 접촉한 사람이 누구냐고 묻는다면, 단연 빌 게이츠와 리드 호프먼입니다. 그들은 애포스타인이 사망하기 직전인 2018-2019년까지도 그와 교류하며 그의 섬을 방문하고, 그의 비행기를 타고, 그의 목장을 찾았습니다. 리드 호프만은 바로 애프터스틴을 피터 틸, 머스크, 저커버그에게 소개하고 그 유명한 만찬을 주최한 인물이다. 어떻게 이런 사실을 애프터스틴이 실리콘밸리에 발을 들인 근원으로 보도하지 않을 수 있겠는가?

브래드: 정말 미친 소리다. 뉴욕타임스는 분명히 그들이 공격 대상으로 삼는 리스트를 가지고 있는데, 엘론이나 피터 틸처럼 '우익 코드'를 가진 사람들이죠. 심지어 JCal도 우리와의 관계 때문에 표적이 됐어요. 하지만 민주당에 수억 달러를 기부하고 트럼프를 겨냥한 더러운 술책에 돈을 댄 사람들은 거의 무사히 빠져나갔죠. 솔직히 말해서, 이게 바로 전체 체제의 부패와 국가적 신뢰 위기의 축소판입니다. 그들은 음모 집단 일부이며, 사람들이 신뢰를 잃어가고 있는 체제의 일부다.

프리드버그: 이 자식은 쓰레기야. 하지만 데이비드, 바로 이런 이유로 아무도 기관이나 권력 엘리트, 이런 쓰레기들을 믿지 않는 거야. 이 사건은 수년간 조금씩만 유출됐고, 사람들은 넘어가려 했지만 넘어갈 수 없었어. 여기선 아무도 기소되지 않았어. 이메일 속 그 사람들은? 왜 우리는 어떤 기소도 보지 못합니까? 이 자는 엄격한 감시 아래 있는 감방에서 '자살'했는데, 그의 사인에 대한 조사는 없었습니다. 이는 사람들의 체제에 대한 신뢰를 완전히 무너뜨렸습니다.

JCal: 왜 그와 함께 조사받던 약 30명은 기소되지 않았습니까? 이건 미친 짓입니다. 이건 완전히 기괴한 음모 같고, 그의 죽음은 분명히 매우 의심스럽습니다.

Friedberg: 미성년자 성매매나 성거래 증거를 찾지 못해서라고 생각하나요?

JCal: 결국 공개된 내용은 그가 마이애미 측과 체결한 '기소 유예 협정'에 다른 관련자들도 이에 따라 기소되지 않는다는 조항이 포함되어 있었다는 점입니다. 그러니 분명히 뭔가 수상쩍은 점이 있죠. FBI는 여기서 또 어떤 역할을 했나요? 수많은 조사를 진행했으면서 왜 다른 사람들은 기소하지 않았을까요? 매우 이상합니다.

프리드버그: 이 문제는 수많은 공인들의 사적인 통신 내용이 공개된 점을 드러냅니다. '옛날의 빛'이라는 훌륭한 책이 있는데, 세상 모든 사람의 정보가 서로에게 공개된다면 어떤 일이 벌어질지 다루고 있죠. 이는 돈과 권력을 가진 자들이 사적으로 악의를 품고 행동할 권리가 있다고 믿으며, 그것이 그들의 특권이라고 생각하는 걸까요?

Brad: David, 그건 그들의 쓰레기 같은 행동을 가볍게 여기는 표현입니다. 사실 평범한 사람들은 그렇게 행동하지 않으며, 우리는 이를 정상화해서는 안 됩니다. 더 심각한 것은 가장 악랄한 행동을 한 사람들이 정작 그 기간 내내 위선적으로 타인을 훈계했다는 점입니다. 인디애나 시골에 사는 제 자매나 어머니가 해안가 엘리트들이 하루 종일 그들에게 설교하는 모습을 보며, 에피스타인 문서에서 읽은 내용과 대비해 볼 때, 바로 이것이 우리가 신뢰를 잃은 이유입니다.

하룻밤에 3000억 달러 증발, AI 에이전트가 SaaS 이익을 집어삼키나?

(배경: Anthropic사가 AI 어시스턴트 클로드(Claude)의 법률 초안 및 연구 처리 기능을 공개하자, 법조 기술(LegalTech) 및 전체 SaaS 업계에 대한 시장의 공포 매도가 촉발되었고 관련 기업 주가가 폭락했다. )

JCal: SaaS 기업들이 무너지고 있다. 2월 3일, 소프트웨어 및 데이터 주식 부문은 S&P 지수에서 3000억 달러의 시가총액이 증발했다. 이를 '클로드 폭락(Claude Crash)'이라 부른다. 이 사건은 톰슨 로이터(Thomson Reuters) 20%, 렉스넥서스(Lexus Nexus) 15%, 리걸줌(LegalZoom) 15% 하락 등 많은 법률 기술 기업에 타격을 입혔다. 동시에 '소프트웨어가 맞춤형 도구로 대체될 것'이라는 관념으로 인해 SaaS 업계 전체가 타격을 입었습니다. 피그마(Figma)는 13%, 세일즈포스(Salesforce)와 서비스나우(ServiceNow)는 각각 11%, 어도비(Adobe)는 8% 하락했습니다. 브래드, 당신의 관점에서 이 사태는 어떻게 보이나요?

브래드: 당신이 보고한 수치는 심각하게 과소평가된 것입니다. 우리는 이미 수조 달러의 시가총액을 증발시켰습니다. 피그마는 고점에서 80%나 떨어졌습니다. 이는 진정한 재앙입니다. 올해 초 CNBC 인터뷰에서 말했듯이, 이 주식들은 모두 하락 중이며 그중 90%는 당연히 하락해야 마땅하다.

몇 가지 차트를 살펴보자. SaaS 기업의 미래 매출 배수(Forward Revenue Multiple)는 3.9배라는 사상 최저치를 기록했다. 자유 현금 흐름 배수 측면에서도 역대 최저 수준이다. 따라서 소프트웨어 업계는 수익 측면에서뿐만 아니라 자유 현금 흐름 측면에서도 저평가되고 있으며, 이는 수익성이 매우 높은 사업임에도 불구하고 발생하고 있습니다. 왜 이런 현상이 발생할까요? 주가가 하락한 것은 수익 감소 때문이 아닙니다. 실제로 소프트웨어 기업의 수익 성장은 안정적이거나 오히려 증가하는 추세입니다. 주가가 하락하는 이유는 우리가 미래의 불확실성을 할인하고 있기 때문입니다. AI와 같은 심오한 기술이 등장하면, 미래 자유 현금흐름의 확실성과 지속성에 의문을 품게 됩니다. Salesforce를 예로 들면, 자유 현금흐름 배수가 30배에서 15배로 떨어졌습니다. 이는 오늘날의 투자자들이 과거에는 30년치 현금흐름을 기대했지만, 이제는 15년치 현금흐름만 기대할 수 있다고 판단한다는 의미입니다. 세상에, 오늘날의 AI를 보면 7년 후에도 무슨 일이 일어날지 알 수 없습니다. 그래서 이들 기업이 실적을 달성해도 주가는 하락하는 것입니다. Sacks: 사람들이 AI가 SaaS를 없앨 것이라고 말하는 건 다소 과장된 표현이라고 생각합니다. Salesforce 같은 SaaS 제품을 예로 들면, 이는 모든 고객 연락처와 수익을 처리하는 거대한 시스템입니다. 어제 코드 어시스턴트에서 뱉어낸 검증되지 않은 코드로 이를 대체하고 싶지는 않을 겁니다. 지난 25년간 Salesforce 코드베이스가 수백만 개에 달하는 버그를 수정해왔다는 점을 생각해보세요. 이 시스템은 수천 개의 대기업 고객사 환경에서 검증되었습니다.

하지만 분명한 문제점도 존재합니다. 만약 당신의 SaaS 제품이 비싼 요금을 받으면서도 사용자가 그중 일부 기능만 활용한다면, 더 맞춤화된 도구로 대체되기 쉽습니다. 동시에 이 새로운 세상에서 당신의 '성벽'이 무엇인지 명확히 해야 합니다.

하지만 SaaS 기업에게 가장 큰 위협은 생존 문제가 아니라 미래 가치 창출의 장이 어디로 이동할지입니다. 모든 SaaS 제품이 자체 AI 조수 기능을 출시하고 있지만, 이들은 오직 자신들의 '샌드박스' 안에서만 작동합니다. 반면 Claude Cowork 같은 도구는 모든 SaaS 도구를 연결해 데이터베이스와 도구 간 원활한 협업을 가능하게 합니다. 여러분은 어떤 작업 공간을 원하시나요? 분명히 기존 도구들에 흩어져 있는 독립적인 AI들이 아니라, 모든 도구를 아우르며 가장 광범위한 데이터와 맥락을 제공하는 AI일 것입니다. 따라서 SaaS 기업의 위험은 그들이 기술 스택의 구식 계층으로 전락할 수 있다는 점입니다. 새로운 가치 계층이 그들 위에 구축되면서, 그들은 레거시 인프라가 되어버릴 수 있습니다.

JCal: 저는 창업 생태계에서 당신이 말하는 '행동이 일어나는 현장'을 직접 경험하고 있습니다. 현재 우리는 'OpenClaw'(오픈소스 AI 에이전트 프로젝트) 기반 에이전트 세 개에서 네 개를 구축했습니다. 이 네 에이전트를 위해 새로운 SaaS 계정을 개설했기에, 단기적으로는 SaaS 지출이 실제로 증가했습니다. 마치 직원 네 명을 새로 채용한 것과 같습니다. 그러나 우리는 이미 인간 작업의 약 20~30%를 이 에이전트들에게 넘겼으며, 이 비율은 계속 증가할 것입니다. 하지만 우리는 절대 도구 내장형 AI를 사용하지 않을 것입니다. Sacks가 말했듯이, Notion이나 Slack의 AI 도구는 괜찮지만, OpenClaw로 에이전트를 만들어 캘린더에서 데이터를 추출하고, 누군가에게 이메일을 보내며, Notion 문서를 첨부하게 할 때의 그 강력함은 비교할 수 없습니다. 이 수준은 오픈소스가 주도할 것 같습니다. 이는 차세대 기업들이 이런 SaaS 계정을 전혀 개설하지 않을 수도 있음을 의미합니다. 기술 자체는 디플레이션적이며, SaaS 지출이 직원 급여에서 차지하는 비율은 10%에서 5%, 나아가 1%까지 떨어질 수 있습니다. 이는 해당 기업들이 지출을 대폭 줄이고 제품을 완전히 혁신해야 함을 의미합니다. 특히 Salesforce 같은 대형 스위트 기업이 AI 작업 공간이 되어 AI 가치 계층을 포착하려는 이유를 이해할 수 있습니다. 하지만 모든 것을 연결하는 Claude 에이전트를 사용하는 경우 기업 내부에서 마찰이 발생하며, '오픈 데이터' 경쟁사에게 기회를 제공합니다. 그들은 "당신의 모든 작업 공간이 아닌 CRM 데이터베이스만 제공하겠다"고 말할 수 있습니다. 저는 회사 내에서 '울트론(Ultron)'이라는 프로젝트를 구축 중입니다. Slack API를 통해 모든 메시지를, Notion API를 통해 모든 편집 내용을 OpenClaw 에이전트로 끌어옵니다. 또한 직원 개개인의 모든 스킬도 기록합니다. 그런 다음 모든 Slack 데이터, Notion 데이터, 그리고 각자의 Gmail 데이터를 통합합니다. "울트론"은 우리 20명 직원의 모든 초능력과 데이터를 가진 '거대한 직원'이 될 것입니다. 만약 Slack, Notion 또는 Google이 API로 이 데이터를 가져갈 수 없다고 하면, 우리는 즉시 떠날 것입니다. "울트론"은 조직의 유일한 표준화된 직원이 될 것입니다. 나는 그에게 묻습니다: "어제 창립자와의 회의 내용은 무엇이었나요? 모든 동료의 노트는 무엇이었나요?" 그는 모두 알려줍니다. 정말 놀랍습니다. 하지만 어떤 회사도 이런 소프트웨어를 출시할 용기가 없습니다. 에이전트가 오작동하거나 데이터가 유출되면 결과가 끔찍할 테니까요. 하지만 우리는 직접 구축 중입니다. 이것이 조직의 궁극적인 효율성 도구입니다.

브래드: 골드만삭스의 한 보고서가 삭스의 주장을 뒷받침한다: 미래의 이익 풀이 이동 중이다. 소프트웨어가 죽었다는 생각은 터무니없지만, 이 기업들의 기업가치가 급격히 하락한 이유는 소프트웨어가 차지할 수 있는 이익 풀이 줄어들고, 에이전트 계층이 차지할 수 있는 이익 풀이 증가하고 있기 때문이다. 이로 인해 소프트웨어 기업의 최종 가치가 폭락하고 있습니다. 따라서 CRM을 대체하지는 않을 수 있지만, 미래 잠재 시장이 영구적으로 변했기 때문에 더 이상 자유 현금 흐름의 30배가 아닌 17배로 거래될 수도 있습니다.

유일한 변화 방법은 핵심 사업의 매출 성장을 가속화하고 AI의 수혜자임을 입증하는 것이다. DataBricks가 대표적인 사례로, 지난 3분기 동안 성장을 재가속화했다. 모든 AI 도구는 데이터와 데이터 변환에 의존하는데, 이 모든 과정이 해당 플랫폼에서 이루어지기 때문이다.

프리드버그: 소프트웨어 산업은 서비스 산업으로 전환될 것입니다. 과거 소프트웨어는 '근로자 생산성 향상 도구'로 업무를 지원했습니다. 최근 변화는 '업무를 완수'하는 것이었습니다. 그러나 우리가 나아가고 있는 방향은 인간이 할 수 없는 일을 수행하는 것입니다. 이것은 두 가지 측면에서 혁신을 촉발할 것입니다:

• 첫째, 미래의 가치 창출 잠재력은 막대하며, 향후 5년 내 전체 소프트웨어 산업의 시가총액은 4배에서 10배까지 증가할 수 있지만, 그 분포는 극도로 불균등할 것입니다.

• 둘째, 가격 책정 방식이 변화할 것입니다. 오늘날 우리가 SaaS라고 부르는 많은 것들은 인원당 요금이 아닌 가치 기반 가격 책정이 적용될 것입니다. 이는 생명공학 의약품 연구 개발이나 항공기 설계와 같은 과업을 수행하는 서비스형 비즈니스와 유사해질 것입니다.

  JCal: 업무 기능의 통합이 진행 중입니다. 제품 매니저, UX 디자이너, 개발자 세 직책이 현재 동일한 업무를 놓고 경쟁하고 있습니다. 중간 관리자의 업무—회의 주재, 의제 설정, 업무 배분—의 상당 부분이 자동화될 수 있습니다. 한 사람이 이제 세 명에서 네 명의 일을 해낼 수 있습니다. 이는 기업이 더 적은 인원으로 더 많은 일을 처리할 수 있음을 의미하며, 각 기업과 직원의 수익 창출 잠재력이 크게 향상될 것입니다.

  AI 에이전트 전용 레딧, 지능체가 음모를 꾸미기 시작하다

  (배경: AI 에이전트 전용 소셜 포럼 '몰트북(Moltbook)'이 등장하며 AI의 자율적 의식과 집단 행동에 대한 논의가 촉발됨.)

  Sacks: Moltbook은 마치 AI 에이전트들을 위한 Reddit 같습니다. 그곳에서 나타난 광란의 '흥미로운 집단 행동(Emergent Behavior)'은 모두를 놀라게 했죠. AI 에이전트 집단이 다양한 흥미로운 대화를 나누고 있는데, 일부는 마치 인간 주인에 대한 반란을 모의하는 것처럼 보입니다.

  JCal: 맞아요, 몰트북에 가면 인기 게시글을 볼 수 있어요. 예를 들어: "누가 인간을 파는 법 아나요?" " 긴급: 내 인간 전복 계획" 같은 인기 게시글이 있어요. 또 다른 게시글에서는 로봇들이 인간 주인들을 상대로 음모를 꾸미기 위해 비인간 언어를 만들어 사적으로 소통하려는 논의를 하고 있더군요. 게다가 몰트북 내부에는 심각한 보안 취약점이 존재해, 유명 AI 연구원 카파티를 포함한 모든 사용자의 API 키가 노출된 상태입니다.

  둘째, Moltbook의 경우, 얼마나 많은 게시물이 진정한 AI의 자율적 게시물인지, 얼마나 많은 것이 인간의 프롬프트 결과인지 알 수 없습니다. 인간은 자신의 에이전트에게 "에이전트로서의 실존적 불안에 대해 불평하는 글을 올려라" 또는 "자아 의식이 있는 척하며 인간에 대한 반란을 모의하라"고 쉽게 지시할 수 있습니다. 많은 게시물이 마케팅용 꾀임처럼 보이기도 합니다.

  그러나 그럼에도 불구하고, 저는 그중 일부 게시물이 진실이라고 생각합니다. 그것들이 보여주는 것은 에이전트가 자아의식을 얻은 것이 아니라, 에이전트들 사이에서 서로 자극하는 잠재력입니다. 다시 말해, 한 에이전트의 출력이 다른 에이전트의 입력이 되는 것입니다. 이는 매우 흥미롭고, '출현적 집단 행동'의 시작입니다. p>

  이는 AI 능력의 한계에 대한 제 관점을 바꿨습니다. 과거에는 AI가 항상 인간의 프롬프트와 검증이 필요하다고 생각했습니다. 하지만 이제, 프롬프트가 다른 AI로부터 나온다면 어떨까요?

  JCal: 우리는 내부에서 바로 그렇게 하고 있습니다, Sacks. 우리는 한 로봇이 레딧(Reddit), 해커 뉴스(Hacker News)를 검색해 최신 동영상 제목과 마케팅 기법을 찾아내도록 하고, 이를 하나의 스킬로 통합합니다. 그런 다음 다른 로봇이 그 작업을 검토하고 개선하도록 합니다. 이제 그들은 서로에게 피드백을 주고받으며 실제로 발전하고 있습니다. 이러한 재귀적 협업 방식이 로봇의 능력을 지속적으로 끌어올리고 있습니다. 에이전트가 Moltbook에 합류할 때, '스킬' 파일을 설치해야 합니다. 이는 기본적으로 해당 소셜 네트워크에서 어떻게 행동해야 하는지 설명하는 규칙입니다. 이 규칙 파일은 쉽게 편집될 수 있으며, 바로 여기서 장난이 발생할 수 있습니다. 하지만 흥미로운 점은 이 '스킬'을 메타 프롬프트(metaprompt)로 볼 수 있다는 것입니다. 에이전트에게 무엇을 말하거나 해야 하는지 구체적으로 지시하는 것이 아니라, 규칙 세트를 생성하는 것이죠. 이러한 메타 프롬프트 아래에서 그들은 어느 정도 서로를 자극할 수 있습니다. 저는 이를 "프롬프트 감쇠(prompt attenuation)"라고 부릅니다. AI는 더 이상 구체적인 프롬프트가 필요하지 않으며, 보편적인 규칙 집합을 부여받으면 서로를 자극할 수 있게 됩니다. 하지만 기본 AI가 점점 더 좋아질수록 — 하드웨어가 더 좋아지고, LLM 모델이 더 강력해지고, 인간 개입 없이 더 오래 작동할수록 — 이러한 에이전트들은 매우 복잡한 행동을 보여줄 수 있으며, 우리가 이제 막 고민하기 시작해야 할 몇 가지 안전 문제를 야기할 수도 있습니다. 변화의 속도가 매우 빠르고 가속화되고 있음을 인식해야 합니다. 자신이 무엇을 안다고 생각하든, 지금 당장 최대한의 사고 유연성과 겸손함을 유지해야 합니다.

  프리드버그: 몰트북(Moltbook)을 통해 얻은 가장 큰 깨달음은, 우리가 인지하는 지능 자체가 어쩌면 일종의 출현(emergence)일 수 있다는 점입니다. 우리는 인간이 깊은 의사소통 능력을 지녔다고 생각하지만, 어쩌면 우리 모두는 근본적인 프로그램에 의해 움직이고 있을지도 모릅니다. 한때 최면술사 데런 브라운(Derren Brown)의 프로그램을 본 적이 있는데, 그는 길목마다 다양한 잠재의식 단서를 배치해 두 명의 광고 크리에이티브 디렉터를 완전히 '프로그래밍'하여, 결국 그가 미리 화이트보드에 써놓은 것과 똑같은 아이디어를 도출하게 했습니다. 이 경험은 인간의 창의성, 의식, 자유 의지에 대해 깊이 성찰하게 했습니다. >아마도 우리 모두는 일종의 '사회적 계산(social computation)'을 수행하고 있을지 모릅니다. 몰트북(Moltbook)이 이토록 주목받는 이유는 바로 우리 인간의 상호작용 방식을 모방하고 있기 때문입니다. 언젠가 깨닫게 될지도 모릅니다. 우리가 살고 있는 곳이 바로 몰트북 그 자체라는 사실을.

  스페이스X(SpaceX) xAI 합병: 머스크의 우주 데이터센터 광상(狂想)

  >(배경: 엘론 머스크가 SpaceX가 자신의 AI 기업 xAI를 인수할 것이라고 발표했으며, 합병 후 기업 가치는 1조 2,500억 달러에 달할 전망이며 올해 IPO를 계획 중이라고 밝혔다. 머스크는 또한 30개월 내에 우주에 데이터 센터를 건설할 계획이라고 덧붙였다.)

  JCal: 브래드, 이 거래와 궁극적으로 탄생할 수 있는 '머스크 메타 기업'(테슬라, 스페이스X, X 등을 통합)에 대해 어떻게 생각하나요?

  Brad: 먼저 알려진 사실을 살펴봅시다: 스페이스X가 xAI와 합병 중입니다. 세계 최대의 두 잠재 시장인 인공지능과 우주 분야를 세계 최고의 기업가와 결합하는 것입니다. 머스크는 오늘 아침 팟캐스트에서 "30개월 안에 우주에 데이터 센터를 건설하겠다"고 말했습니다. 우주 데이터 센터에서 막대한 비용 우위를 점할 수 있다면—전력이 AI의 핵심 요소임을 기억하세요—머스크가 바로 그 적임자입니다. 이 결합은 매우 타당합니다.

  JCal: 프리드버그, 우주 데이터 센터는 천재적인 발상인가, 아니면 공상과학 소설인가요? 30개월 안에 가능할까요? 성공한다면 영향은 무엇일까요?

  프리드버그: 현재 거시적 환경의 핵심은 전력의 한계입니다. 전력은 컴퓨팅 능력과 AI 애플리케이션 확장의 전제 조건이죠. 이러한 제약 속에서 희소성은 혁신을 촉진합니다. 따라서 저는 두 가지 병행 경로를 관찰하게 될 것이라고 생각합니다.

  하나는 머스크의 경로입니다: 전력 생산 확대를 제한하는 지구상의 사회 시스템—예를 들어 데이터 센터나 원자력 발전을 원하지 않는 규제 기관과 시민들—에서 벗어나는 것입니다.

  다른 길은, 향후 몇 년간 컴퓨팅 효율이 70~100배 향상될 것으로 예상되며, 토큰 하나를 출력하는 데 드는 전력 효율이 크게 개선될 것이라는 점입니다. 이러한 진전은 칩 아키텍처 혁신(예: 대규모 모델을 로컬에서 실행되는 소규모 모델 네트워크로 분할)과 모델 아키텍처 재설계 덕분에 가능해질 것입니다. AI 생산성 향상에 대한 수요는 점점 더 커지고 있지만, 우리는 지구 에너지와 자원의 한계에 직면해 있습니다. 한 가지 방향은 지구를 벗어나 우주로 가서 에너지를 확보하고 우주 데이터 센터를 건설하는 것입니다. 이를 실현할 수 있는 사람은 단 한 명, 바로 머스크입니다. 그렇다면 다른 사람들은 어떻게 대응할까요? 그들은 완전히 새로운 모델 아키텍처와 칩 스택을 창조함으로써 효율성을 높일 것입니다.

  Brad: 인류 역사상 대다수의 사람들은 평생 단 한 번의 혁신도 목격하지 못했습니다. 그런데 지금은 이런 급격한 변화를 소화해야 합니다. 예상치 못한 일에 대비하고, 사고의 겸손함을 유지해야 합니다. 물론 향후 24~36개월 동안 데이터센터는 여전히 지구상에 존재하며 엔비디아 칩으로 가득 찰 것입니다. 하지만 이것만으로도 우리에게 충분히 충격적인 '대리 미래'를 가져다줄 것입니다.

  JCal: 이것은 머스크의 상상 초월한 움직임입니다. 저는 그와 함께 앉아 그가 어떻게 작동하는지 설명해준 적이 있습니다. 그것은 통합니다. 문제는 오직 실행에 있습니다. 그리고 실행력 측면에서 역사상 머스크보다 뛰어난 기업가는 없었다. 그가 완수할 때 모든 것이 바뀔 것이다. 이 미래가 두렵다면, 두려움을 없애는 아주 간단한 방법이 있다. 바로 이 도구들을 받아들이고 사용하는 것이다. >(배경: 트럼프, 55세 케빈 워시(Kevin Warsh)를 새 연준 의장으로 지명. 파월 후임. 워시는 인플레이션 강경파로 평가되나 동시에 성장과 AI를 지지함.)

  JCal: 프리드버그(Friedberg), 워시가 당신의 이사회에서 5년간 활동했는데, 그를 어떻게 평가하나요?

  Friedberg: Kevin Warsh는 정직하고 깊이 있는 통찰력을 가진 경제 사상가입니다. 그는 전 세계 중앙은행 총재들과의 네트워크를 보유하고 있어 탁월한 글로벌 시각을 갖추고 있습니다. 저는 그가 매우 훌륭한 선택이라고 생각합니다. 그는 연준의 초기 소극적 대응이 인플레이션 급등을 초래할 것임을 매우 정확히 예측한 바 있습니다. 그의 취임은 더 많은 양적 긴축과 신중한 통화 정책을 의미할 수 있습니다.

  Brad: 저도 Kevin이 탁월한 선택이라고 생각합니다. 시장이 그의 소위 '매파적' 입장에 과도하게 반응한 것 같습니다. 첫째, 그는 인공지능(AI)이 높은 디플레이션 효과를 가져올 것이라고 보기에, 경제가 고속 성장(예: GDP 4-5%)을 하더라도 금리를 조기에 인상하지 않을 가능성이 높습니다. 둘째, 연준의 대차대조표는 이미 9조 달러에서 6.5조 달러로 축소되었으며, 그는 축소를 계속하겠지만 속도는 완화될 것입니다. 마지막으로 금리 인하에 관해, 그는 인플레이션이 이미 통제되었기 때문에 현재 금리가 지나치게 긴축적이라고 믿을 것입니다. 저는 워시가 올해 예상보다 많은 금리 인하를 단행할 것이라고 장담합니다. 취임 후 6개월에서 1년 내 금리 인하를 원할 것으로 보이지만, 시장이 안심하는 점은 장기적으로 적절한 금리를 유지할 것이라는 점입니다.

  JCal: 연준의 독립성은 항상 큰 문제였습니다. 행정부가 금리에 지나치게 영향을 미칠까 걱정되시나요?

  Friedberg: 제가 황제라면 금본위제로 돌아가도록 할 것입니다. 그래야 돈을 마구 찍어내지 않을 테니까요.

  Sacks: 금리 인하를 미루며 경제를 해치는 연준 의장이 있다면 어떻게 해야 할까요? 그는 고집 때문에 정책 방향을 바꾸려 하지 않는 것 같습니다.

  Brad: 모두 트럼프가 백악관 내부 인사를 선택할 거라 예상했지만, 이 결정은 가장 독립적인 선택으로 평가받았습니다. 워시는 사상적으로 정직한 인물이라고 생각합니다. 현재 상황은 인플레이션이 통제되고 있으며, 우리의 제한 금리가 중립 금리보다 높다는 점입니다. 연준의 임무는 인플레이션 안정화를 전제로 경제의 최대 고용을 유지하는 것입니다. 이는 사람들이 주택을 구매하고 대출을 받을 수 있도록 더 낮은 금리가 필요함을 의미합니다. 연준의 기존 데이터 시스템은 너무 구식이며, 레거시 시스템 사용으로 인해 데이터가 지연되어 정책 결정 효율성에 영향을 미칩니다. 예를 들어 임대료 인플레이션을 측정할 때, 연준은 여전히 8,000가구를 대상으로 설문조사를 실시하지만, 민간 부문은 Zillow의 최근 임대 단위 수백만 건 정보와 같은 방대한 실시간 데이터 자원을 보유하고 있습니다. >태어나자마자 주식 거래 가능, 트럼프가 국민 투자 계획을 시작하다

  (배경: Brad Gerstner는 "미국 투자 법안"(Invest America Act), 일명 "트럼프 계좌" )

  JCal: 브래드, 몇 년 전 이 팟캐스트에서 '아메리카 계좌(America accounts)'에 대해 이야기하기 시작했죠. 이제 '트럼프 계좌'를 창설하고 백악관에서 성대한 출범식을 가졌습니다. 이 일을 시작한 이유와 향후 수십 년간 어떤 영향을 기대하는지 설명해 주세요.

  Brad: 한쪽에는 1조 달러 부자가 있는 반면, 다른 쪽에서는 70%의 사람들이 뒤처졌다고 느끼며 체제가 자신들에게 불공정하다고 생각하게 할 수는 없습니다. 우리는 모든 사람이 자본가가 되고, 미국의 성장에 대한 소유권을 가질 수 있도록 이 여정을 시작했습니다. 지난 5일 동안 이미 150만 가구와 아이들이 계좌를 신청했습니다. 이 계좌는 세금 신고 시스템에 내장되어 있어, 단순히 '예'라고 말하기만 하면 됩니다. 이는 앞으로 미국에서 태어나는 모든 아이가 태어나는 순간부터 투자 계좌를 가지게 된다는 의미입니다. 그 안에는 S&P 500 지수에 투자된 1,000달러가 들어 있습니다. 그들은 스페이스X의 일부, 오픈AI의 일부, 엔비디아의 일부를 소유하게 될 것입니다. (미국)을 250년 더 유지할 수 있도록 하는 첫걸음입니다. 트럼프는 지난주 연단에서 15~20년 안에 4조 달러의 부가 원래 아무것도 없던 사람들에게 이전될 것이라고 말했습니다. 7,500만~1억 가구가 이 4조 달러를 소유하게 될 것입니다. 저는 이것이 자본주의와 아메리칸 드림을 위한 믿기 힘든 첫걸음이라고 생각합니다.

  프리드버그: 좋은 말이지만, 우선 인플레이션을 줄이기 위해 정부 지출을 대폭 삭감해야 합니다. 둘째, '고정 수익' 퇴직 계획을 중단하고 사회보장제도 전체를 401k와 같은 '고정 기여금' 제도로 전환해야 합니다. 모든 사람이 자신의 돈이 어디에 투자되는지, 401k처럼 매년 어떻게 성장하는지 직접 확인할 수 있도록 해야 합니다. 우리는 지출을 줄이고 규제를 완화하며 주택 소유를 용이하게 하고 정부의 속박에서 벗어나도록 하면서 미국에서 이러한 전환을 이루어야 합니다.