서브프라임 AI 위기: 암호화폐와 AI를 다시 생각해야 할 때

저자: Edward Zitron  블록 유니콘 편집

암호화폐 업계에서 AI를 바라보거나 기존 인터넷에서 AI를 바라본다면, 여러분은 이 산업의 미래에 대해 진지하게 생각해야 합니다. 글이 다소 길기 때문에 인내심이 부족하다면 지금 바로 나가셔도 됩니다.

이 글에서 제가 쓴 내용은 의심을 퍼뜨리거나 '공격'하기 위한 것이 아니라 현재 우리가 어디에 있으며, 앞으로 나아갈 길에 대해 냉정하게 평가하기 위한 것입니다. 저는 AI 붐, 더 구체적으로는 생성적 AI 붐은 (앞서 말했듯이) 지속 불가능하며 결국 붕괴할 것이라고 생각합니다. 또한 이러한 붕괴는 대기업에 치명적인 타격을 입히고 스타트업 생태계를 심각하게 훼손하며 기술 산업에 대한 대중의 지지를 더욱 약화시킬 수 있다고 우려합니다.

오늘 이 글을 쓰는 이유는 이미 여러 AI '파멸의 선구자'가 등장하면서 환경이 급변하는 것처럼 느껴지기 때문입니다: (급하게) 출시된 OpenAI의 'o1(코드명: Strawberry)' 모델은 "최고 중의 최고"로 묘사되고 있습니다: "크고 어리석은 마술"(잘못된 환상)이라고 불린 OpenAI의 "o1(코드명: Strawberry)" 모델의 (성급한) 출시, OpenAI의 향후 모델(및 다른 곳)에 대한 가격 인상 소문, Scale AI의 해고, OpenAI의 리더십 이탈은 상황이 무너지기 시작하고 있다는 신호입니다.

따라서 현재 상황의 위기와 우리가 환멸의 단계에 있는 이유를 설명할 필요가 있다고 생각합니다. 저는 운동의 취약성과 우리가 이 지점에 도달한 지나친 집착과 방향성 부재에 대해 우려를 표명하고 싶고, 일부 사람들이 더 잘할 수 있기를 바랍니다.

또한, 이전에 충분히 강조하지 않은 부분일 수도 있지만, AI 거품이 꺼지면서 발생할 수 있는 잠재적인 인적 비용에 대해 강조하고 싶습니다. Microsoft와 Google(및 기타 대규모 생성형 AI 지지자)이 점차 투자 속도를 늦추든, 기업 자원을 축소하여 OpenAI와 Anthropic(및 자체 생성형 AI 프로젝트)을 유지하든, 최종 결과는 같을 것이라고 생각합니다. 저는 수천 명의 사람들이 일자리를 잃고, 기술 업계의 많은 사람들이 영원히 성장할 수 있는 것은 암뿐이라는 사실을 깨닫게 될까 봐 걱정됩니다.

이 글은 결코 가볍지 않을 것입니다. 저는 대형 AI 기업뿐만 아니라 전체 기술 업계와 그 직원들에 대한 우울한 그림을 그리고 이 지저분하고 파괴적인 종말이 생각보다 빨리 다가오고 있다고 생각하는 이유를 말씀드리겠습니다.

페이지를 계속 내려가서 생각 모드로 들어가세요.

제너레이티브 AI는 어떻게 살아남을까요?

현재 명목상 비영리 조직이지만 곧 영리 조직으로 전환할 수 있는 OpenAI는 최소 다음과 같은 가치로 자금 조달을 진행 중입니다. 새로운 펀딩 라운드에서 최소 65억 달러에서 최대 70억 달러까지 모금할 것으로 예상되는 1,500억 달러의 가치를 평가받았습니다. 이 라운드는 조쉬 쿠슈너의 Thrive Capital이 주도하고 있으며, NVIDIA와 Apple도 참여할 수 있다는 소문이 돌고 있습니다. 앞서 자세히 분석했듯이 OpenAI는 생존을 위해 전례 없는 규모의 자금을 계속 조달해야 할 것입니다.

설상가상으로 블룸버그에 따르면 OpenAI는 은행에서 일반적으로 더 높은 이자율이 적용되는 '회전 신용 한도' 형태로 50억 달러의 부채를 조달하려고 시도하고 있습니다.

더 인포메이션은 또한 OpenAI가 UAE가 지원하는 1000억 달러 규모의 투자 펀드인 MGX와 AIM에 투자하기 위한 협상을 진행 중이라고 보도했습니다. 오픈AI는 아랍에미리트가 지원하는 1000억 달러 규모의 투자 펀드인 MGX와 AI 및 반도체 기업에 투자하고 아부다비투자청(ADIA)으로부터 자금을 조달하기 위해 협의 중입니다. 이는 매우 심각한 경고 신호로, 아무도 자발적으로 UAE나 사우디 아라비아에서 자금을 조달하지 않고 있기 때문입니다. 이들에게 도움을 요청하는 유일한 경우는 많은 자금이 필요하고 다른 곳에서 자금을 구할 수 있을지 확신할 수 없는 경우입니다.

부록: CNBC가 지적했듯이 MGX의 창립 파트너 중 하나인 무바달라는 FTX의 파산 자산에서 인수한 약 5억 달러의 Anthropic 지분을 보유하고 있습니다. 아마존과 구글이 이러한 이해 상충에 대해 얼마나 "행복해" 할지는 상상만 해도 알 수 있습니다!

7월 말에 말씀드렸듯이 OpenAI는 최소 30억 달러, 많게는 100억 달러의 자금을 조달해야 생존을 유지할 수 있습니다. 2024년에는 50억 달러의 손실이 예상되며, 더 복잡한 모델에 더 많은 컴퓨팅 리소스와 학습 데이터가 필요하기 때문에 그 수는 계속 늘어날 것으로 보이며, Anthropic의 CEO Dario Amodei는 향후 모델에 최대 1,000억 달러의 학습 비용이 필요할 수 있다고 예측했습니다.

"1,500억 달러의 가치"는 이 문맥에서 "주식"이라는 용어는 사용되지 않았지만 OpenAI가 투자자를 위해 회사 주가를 책정하는 방식을 의미합니다. 여기서 "주식"이라는 단어도 약간 모호합니다. 예를 들어, 일반적인 기업 가치 1,500억 달러에 15억 달러를 투자하면 일반적으로 해당 기업의 지분은 '1%'가 되지만 OpenAI의 경우 상황이 훨씬 더 복잡해집니다.

OpenAI는 올해 초 1,000억 달러의 가치로 자금을 조달하려 했지만 일부 투자자들은 가격이 너무 높다는 이유로 주저했습니다(The Information의 Kate Clark과 나타샤 마스카렌하스 기자의 말을 인용하면 다음과 같습니다). 더 인포메이션의 케이트 클라크와 나타샤 마스카렌하스의 말을 인용한 마스카렌하스) 제너레이티브 AI 기업이 고평가되었다는 우려가 커지고 있습니다.

펀딩 라운드를 완료하기 위해 OpenAI는 비영리 단체에서 영리 단체로 전환하고 있지만, 이 과정에서 가장 혼란스러운 부분은 투자자들이 실제로 얻는 것이 무엇인지에 대한 부분입니다. 더 인포메이션의 케이트 클락은 이번 라운드에 참여한 투자자들이 "투자에 대한 전통적인 지분은 받지 못할 것이다.... 대신 회사가 수익을 내기 시작하면 회사 이익의 일부를 약속하는 단위를 받게 됩니다."

OpenAI의 이상한 '비영리 조직 + 영리 부문' 기업 구조는 2023년 투자의 일부로 Microsoft가 OpenAI의 수익의 일부를 받을 자격이 있음을 의미하므로 영리 법인으로 전환하면 이 문제가 해결될지는 확실하지 않습니다. 이론상으로는 영리 구조로 전환할 경우 지분도 포함될 수 있지만, 2023년 투자의 일환으로 Microsoft는 OpenAI 수익의 75%를 받을 자격이 있습니다. 그러나 OpenAI에 투자하면 지분이 아닌 '수익 공유 단위(PPU)'를 얻게 됩니다. Jack Raines는 Sherwood에서 "OpenAI의 PPU를 소유하고 있지만 회사에서 수익을 창출하지 못하고 OpenAI가 결국 수익을 창출할 것이라고 생각하는 사람에게 판매할 수 없다면 PPU는 가치가 없습니다."라고 말합니다.

지난 주말에 로이터 통신은 1,500억 달러의 기업가치는 OpenAI가 전체 기업 구조를 재편하고 그 과정에서 투자자 수익에 대한 상한선을 해제하는 데 "의존"할 것이라는 보고서를 발표했습니다. 현재 수익 상한선은 원래 투자금의 100배로 제한되어 있습니다. 이 수익 상한선은 2019년에 설정되었으며, OpenAI는 이 상한선을 초과하는 수익은 "인류의 이익을 위해 비영리 단체에 환원할 것"이라고 밝혔습니다. 최근에는 이 규정을 변경하여 2025년부터 매년 수익 한도를 20%씩 인상할 수 있도록 했습니다.

오픈AI의 막대한 손실은 말할 것도 없고, Microsoft와의 기존 수익 공유 계약을 고려할 때 수익 환원은 기껏해야 이론에 불과합니다. 이론일 뿐입니다. 경솔하게 보일 위험이 있지만, 500% 상승하더라도 더 이상 증가하지 않고 궁극적으로는 여전히 0입니다.

Reuters는 또한 영리 구조로 전환할 경우(따라서 최근 800억 달러보다 더 높은 가치를 평가받을 경우) OpenAI는 기존 투자자들과 재협상을 해야 하며, 이로 인해 지분이 희석될 것이라고 덧붙였습니다.

또한 파이낸셜 타임즈는 투자자들이 '[OpenAI의 영리 자회사]에 대한 모든 투자는 정신적 기부로 취급되어야 한다는 운영 계약서에 서명해야 할 것이라고 보도했습니다. ', 그리고 OpenAI가 '절대 수익을 내지 못할 수도 있다'는 내용의 운영 계약서에 서명해야 합니다."라고 지적했습니다. 이러한 조항은 정말 말도 안 되는 조항이며, OpenAI에 투자했다가 나쁜 결과를 겪는 사람은 전적으로 자신의 책임이며, 이는 매우 어리석은 투자이기 때문입니다.

실제로 투자자는 OpenAI의 일부나 OpenAI에 대한 통제권을 얻는 것이 아니라 매년 50억 달러 이상의 손실을 보고 있고 2025년에는 더 큰 손실을 볼 가능성이 있는 회사의 미래에 대한 지분만 얻는 것입니다(그때까지 버틸 수 있다면). 이익에 대한 지분입니다.

OpenAI의 모델과 제품은 - 나중에 그 효용성에 대해 설명하겠습니다 - 운영상 수익성이 매우 낮습니다. 정보에 따르면 OpenAI는 2024년에 ChatGPT와 그 기본 모델을 지원하기 위해 Microsoft에 약 40억 달러를 지불할 예정이며, 이는 다른 고객들이 일반적으로 시간당 3.40~4달러를 지불하는 것에 비해 Microsoft가 제공하는 할인된 가격인 시간당 GPU당 1.30달러에 해당하는 금액입니다. 즉, Microsoft와의 긴밀한 파트너십이 없었다면 OpenAI는 서버에 연간 60억 달러를 지출할 수 있었으며, 여기에는 인건비(연간 15억 달러)와 같은 기타 간접비는 포함되지 않았을 것입니다. 그리고 앞서 설명했듯이 교육 비용은 현재 연간 30억 달러에 달하며 앞으로도 계속 증가할 것이 거의 확실합니다.

지난 7월 The Information은 OpenAI의 연간 매출이 35억~45억 달러라고 보도했지만, 지난주 뉴욕타임스는 OpenAI의 연간 매출이 "현재 20억 달러가 넘는다"고 보도했습니다. "이는 연말 수치가 해당 추정 범위의 하단에 근접할 가능성이 높다는 것을 의미합니다.

요컨대, OpenAI는 "돈을 태우고 있으며" 앞으로 더 많은 돈을 태울 것이며, 계속 그렇게 하려면 "수익을 내지 못할 수도 있다"는 진술서에 서명한 투자자들로부터 돈을 받아야 할 것입니다. 계속 돈을 소각하려면 "우리는 결코 이익을 내지 못할 수도 있다"는 진술서에 서명한 투자자들로부터 돈을 모아야 할 것입니다.

오픈AI의 또 다른 문제점은 앞서 언급했듯이 생성형 AI(GPT 모델과 ChatGPT 제품으로 확장됨)가 막대한 비용을 정당화하는 복잡한 문제를 해결하지 못한다는 것입니다. 이러한 모델은 확률 기반이기 때문에 모델 개발자가 놀라운 속도로 소진하고 있는 학습 데이터를 기반으로 답을 생성(또는 이미지, 번역 또는 요약 생성)할 뿐 아무것도 알지 못한다는 점에서 거대하고 다루기 어려운 문제를 야기합니다.

모델이 사실이 아닌 정보를 명시적으로 생성하거나 이미지나 동영상에서 오류처럼 보이는 것을 생성하는 '환각' 현상은 기존 수학으로는 해결할 수 없는 문제입니다. --기존의 수학 도구로는 완전히 해결할 수 없습니다. 착시 현상을 줄이거나 완화할 수는 있지만, 착시 현상이 존재하기 때문에 비즈니스 크리티컬 애플리케이션에서 제너레이티브 AI를 진정으로 신뢰하기는 어렵습니다.

제너레이티브 AI가 기술적 문제를 해결할 수 있다고 해도 비즈니스에 진정한 가치를 가져다주는지는 확실하지 않습니다. 더 인포메이션은 지난 주 마이크로소프트의 365 제품군(워드, 엑셀, 파워포인트, 아웃룩 등, 특히 많은 기업용 패키지, 후자는 마이크로소프트의 컨설팅 서비스와도 밀접한 관련이 있음)의 고객들이 AI 기반 '코파일럿' 제품을 거의 채택하지 않고 있다고 보도했습니다. "제품을 거의 채택하지 않았습니다. <440만 명의 사용자 중 0.1~1%만이 이러한 기능에 대해 30~50달러를 지불하고 있습니다. AI 기능을 테스트 중인 한 회사는 "대부분의 사람들이 현재로서는 그다지 큰 가치를 느끼지 못하고 있다"고 말했습니다. 다른 기업들은 "많은 조직이 아직 생산성 및 기타 영역에서 획기적인 향상을 보지 못했다"며 "언제가 될지 확신할 수 없다"고 말했습니다.

그렇다면 Microsoft는 이렇게 중요하지 않은 기능에 대해 얼마를 청구할까요? 사용자당 월 30달러의 추가 요금이 부과되며, '영업 도우미' 기능의 경우 사용자당 월 최대 50달러까지 부과됩니다. 이는 사실상 고객이 원래 요금의 두 배를 지불해야 하는 셈인데, 이는 연간 계약입니다! -- 그리고 그다지 유용해 보이지도 않습니다.

한 가지 덧붙이고 싶은 것은 Microsoft의 문제가 너무 복잡해서 향후에는 전용 뉴스 콘텐츠가 필요할 수도 있다는 점입니다.

생산성 및 비즈니스 소프트웨어의 선두 주자가 고객이 기꺼이 비용을 지불할 만한 제품을 찾지 못하는 것은 놀랍습니다. 부분적으로는 결과가 너무 평범하고 부분적으로는 비용이 너무 높아서 정당화할 수 없기 때문입니다. 정당화하세요. Microsoft가 이렇게 높은 수수료를 부과해야 한다면, 사티아 나델라가 2030년까지 5,000억 달러의 매출을 달성하려는 목표(Microsoft의 Activision Blizzard 인수에 관한 공청회에서 공개된 메모에서 밝힌 목표)를 달성하기 위해서이거나, 가격을 낮추기에는 비용이 너무 많이 들거나, 아니면 둘 다일 수 있습니다.

그러나 거의 모든 사람들이 AI의 미래가 우리를 놀라게 할 것이라고 강조하는 것은 차세대 대규모 언어 모델이 눈앞에 다가왔고, 그 결과는 놀라울 것이라는 점입니다.

지난 주에 우리는 소위 '미래'를 처음으로 실제로 엿볼 수 있었습니다. 하지만 큰 실망감을 안겨주었습니다.

어리석은 마술

오픈AI는 목요일 밤에 코드명 "Strawberry"로 불리는 o1을 공개했습니다. 코드명 '스트로베리'로 불리며 치과에 가는 것만큼이나 흥분된 분위기였습니다. 샘 알트먼은 일련의 트윗을 통해 o1을 OpenAI의 "가장 강력하고 정렬된 모델"이라고 설명했습니다. ". 그는 o1이 "여전히 결함이 있고, 여전히 제한적이며, 사용 기간이 지나면 처음 사용했을 때만큼 인상적인 성능을 발휘하지 못한다"고 인정하면서도 프로그래밍, 수학 문제, 과학적 질문 등 정답이 명확한 작업을 처리할 때 더 정확한 결과를 제공할 것이라고 약속했습니다.

이것은 그 자체로 매우 흥미로운 이야기이지만, 나중에 더 자세히 설명하겠습니다. 먼저 실제로 어떻게 작동하는지에 대해 이야기해 보겠습니다. 몇 가지 새로운 개념을 소개할 예정이지만 너무 자세히 설명하지는 않겠습니다. OpenAI에 대한 자세한 설명을 읽고 싶으시다면 공식 웹사이트의 'LLM으로 추론하기'라는 글에서 찾아보실 수 있습니다.

O1은 문제에 직면했을 때 '생각의 연쇄'라는 과정을 통해 문제를 개별 단계로 세분화하며, 이러한 단계가 결국 정답으로 이어지기를 희망합니다. (이 과정을 생각의 사슬이라고 부릅니다.) 이 과정을 생각의 사슬이라고 합니다. o1을 같은 모델의 두 부분으로 생각하면 더 쉽게 이해할 수 있습니다.

각 단계에서 모델의 한 부분은 강화 학습을 적용하고 다른 부분('추론' 단계)은 진행 상황의 정확성에 따라 '보상'하거나 '벌'을 줍니다('추론' 단계). 또는 진행 상황의 정확성('추론' 단계)에 따라 '보상'하거나 '처벌'하고, 처벌을 받으면 전략을 조정합니다. 이는 다른 대규모 언어 모델의 작동 방식과 다른데, 모델이 출력을 생성한 다음 이를 다시 살펴보는 대신 최종 답변에 도달하기 위해 '좋은' 단계를 무시하거나 인식하여 최종 답변을 생성하기 때문입니다.

이것은 큰 혁신이나 높은 평가를 받고 있는 인공 일반 지능(AGI)을 향한 또 다른 단계처럼 들릴 수 있지만, 그렇지 않습니다. -이는 OpenAI가 o1을 GPT의 업데이트 버전이 아닌 독립형 제품으로 출시하기로 한 선택에서 알 수 있습니다. OpenAI가 보여준 예시(예: 수학 및 과학 문제)는 다음과 같은 답을 얻을 수 있는 작업의 예입니다. 수학 및 과학 문제와 같이 OpenAI가 제시한 예시는 답을 미리 알 수 있고 정답 또는 오답이 있는 과제로, 각 단계에서 모델이 '생각의 사슬'을 안내할 수 있습니다.

O1 모델은 수학이든 과학이든 답을 알 수 없는 복잡한 문제를 어떻게 푸는지 보여주지 않았으며, 스스로 인정하듯이 o1은 GPT-4o보다 '환각'에 더 취약하고 이전 모델보다 '환각'을 일으킬 가능성이 더 높다는 피드백을 받아왔다는 점을 알 수 있습니다. O1은 GPT-4o보다 "환각"에 더 취약하고 이전 모델보다 답이 없다는 것을 인정하는 것을 더 꺼린다는 피드백을 받았습니다. 모델의 출력을 확인하는 부분이 있지만, 이 '확인' 부분도 환각의 영향을 받기 때문입니다(때로는 AI가 말이 되는 것처럼 보이는 답을 만들어서 환각을 일으킬 수 있습니다).

OpenAI에 따르면, o1은 '사고 사슬' 메커니즘으로 인해 인간 사용자에게 더 설득력이 있다고 합니다. o1은 더 자세한 답변을 제공하기 때문에 사람들은 그 답변이 완전히 틀렸더라도 그 결과를 더 신뢰하는 경향이 있습니다.

오픈AI에 대해 제가 너무 비판적이라고 생각하신다면 회사에서 o1을 홍보하는 방식을 고려해 보세요. 강화 훈련 과정을 '사고'와 '추론'이라고 설명하지만 실제로는 추측에 불과하며, 모든 단계에서 옳은지 아닌지를 추측하고 최종 결과를 미리 알고 있는 경우가 많습니다.

이것은 진짜 생각하는 사람인 인간에 대한 모욕입니다. 인간의 사고는 개인적인 경험부터 평생 동안 축적된 지식, 뇌의 화학 작용에 이르기까지 복잡한 요소들을 기반으로 합니다. 복잡한 문제를 다룰 때 특정 단계가 올바른지 '추측'하긴 하지만, 이러한 추측은 o1과 같은 서투른 수학이 아니라 구체적인 사실에 근거한 것입니다.

그리고, 이런, 비용이 많이 듭니다.

O1-preview의 가격은 입력 토큰 백만 개당 15달러, 출력 토큰 백만 개당 60달러입니다. 즉, o1은 GPT-4o보다 입력에 3배, 출력에 4배 더 많은 비용을 청구합니다. 하지만 숨겨진 비용이 있습니다. 데이터 과학자 맥스 울프는 최종 답변에 도달하는 데 사용되는 OpenAI의 "추론 토큰"이 API에서 보이지 않는다고 지적합니다. API에서 볼 수 있습니다. 이는 o1이 더 비쌀 뿐만 아니라 제품의 특성상 사용자가 더 자주 비용을 지불해야 한다는 것을 의미합니다. 답변에 대해 '생각'하기 위해 생성되는 모든 콘텐츠(명확히 말하면 모델은 '생각'하지 않음)에도 비용이 청구되므로 프로그래밍과 같은 복잡한 질문에 대한 답변은 잠재적으로 매우 비쌀 수 있습니다.

이제 정확도에 대해 이야기해 보겠습니다. 샘 알트먼이 설립한 Y Combinator가 운영하는 레딧과 유사한 사이트인 Hacker News에서는 o1이 프로그래밍 작업을 위해 존재하지 않는 라이브러리를 '만들어냈다'는 불만이 제기되었습니다. "프로그래밍 작업을 위해 존재하지 않는 라이브러리와 함수를 '만들어' 사용하고, 웹에서 쉽게 답변할 수 없는 질문에 답할 때 오류를 일으켰습니다.

이 스타트업의 설립자이자 전직 게임 개발자였던 헨릭 크니베르그는 트위터에서 o1에게 두 숫자의 곱을 계산하고 프로그램의 결과를 예측하는 Python 프로그램을 작성해 달라고 요청했습니다. o1은 코드를 올바르게 작성했지만(한 줄로 더 간단할 수도 있었지만) 실제 출력은 완전히 틀렸습니다. AI 창립자 카틱 카난(Karthik Kannan)도 프로그래밍 작업을 테스트했는데, o1은 API에 존재하지 않는 명령을 '지어낸' 것이었습니다.

또 다른 사용자 사샤 얀신은 o1으로 체스 게임을 하려고 했지만, 보드 위에 허공에서 말을 '생성'한 후 게임에서 패배했습니다.

저는 장난기가 좀 있어서 o1에게 이름에 'A'가 들어간 주를 나열해 달라고 요청해 보기도 했습니다. 18초 동안 생각한 후 미시시피를 포함한 37개 주의 이름을 알려주었습니다. 정답은 36개 주였을 것입니다.

이름에 'W'가 들어간 주를 나열해 달라고 요청하자 11초 동안 고민한 후 실제로 노스캐롤라이나와 노스다코타를 포함시켰습니다.

또한 o1의 코드명인 Strawberry에 "R"이 몇 번 나오는지 물었더니 두 번이라고 대답했습니다.

OpenAI는 물리학, 화학, 생물학 분야의 복잡한 벤치마크에서 o1이 박사 과정 학생만큼의 성능을 발휘한다고 주장합니다. 하지만 지리학, 기본 영어 시험, 수학, 프로그래밍에서는 성적이 저조한 것으로 나타났습니다.

이것이 바로 제가 이전 뉴스레터에서 예측했던 "크고 멍청한 마술"이며, OpenAI는 투자자와 대중에게 AI 혁명이 여전히 살아 있음을 증명하기 위해 Strawberry를 출시했다는 점에 주목할 필요가 있습니다. OpenAI는 투자자와 대중에게 AI 혁명이 살아 있다는 것을 증명하기 위해 '스트로베리'를 출시했지만, 투박하고 지루하며 값비싼 모델을 출시했습니다.

더 큰 문제는 사람들이 왜 o1에 관심을 가져야 하는지 설명하기 어렵다는 것입니다. 샘 알트먼은 자신의 '추론 능력'을 선전할 수 있지만, 그에게 계속 자금을 지원할 수 있는 돈을 가진 사람들은 10~20초의 대기 시간, 기본적인 사실 정확도 등을 보고 있습니다. 샘 알트먼이 자신의 '추론 능력'을 자랑할지 모르지만, 그에게 계속 자금을 지원할 수 있는 돈을 가진 사람들은 10~20초의 대기 시간, 기본적인 사실 정확도 문제, 흥미로운 새로운 기능의 부재 등을 보게 됩니다.

누구도 더 이상 "더 나은" 답변에 신경 쓰지 않고 완전히 새로운 것을 원하는데, OpenAI는 이를 달성하는 방법을 모른다고 생각합니다. 알트먼은 o1을 '사고'하고 '추론'하게 만들어 의인화하려는 시도를 통해 일반 AI를 향한 일종의 발걸음임을 분명히 시사하고 있지만, 가장 확고한 AI 옹호자조차도 흥분하기는 어렵습니다.

사실, o1은 OpenAI가 절박하면서도 독창적이지 않다는 것을 보여줍니다.

가격은 내려가지 않았고, 소프트웨어는 더 이상 유용하지 않으며, 작년 11월부터 들었던 '차세대' 모델들은 결국 실패로 끝났습니다. 또한 이러한 모델에는 학습 데이터가 절실히 필요하기 때문에 거의 모든 대형 언어 모델이 저작권이 있는 콘텐츠를 흡수했습니다. 이러한 긴급한 상황으로 인해 가장 큰 동영상 제작 회사 중 하나인 Runway는 수천 개의 YouTube 동영상과 불법 복제 콘텐츠를 수집하여 모델을 훈련시키기 위한 "전사적인 노력"을 시작했으며, 8월에는 연방 소송에서 NVIDIA가 "Cosmos" 모델을 훈련시키기 위해 많은 크리에이터와 동일한 작업을 수행했다고 비난했습니다. "코스모스" AI 소프트웨어.

현재의 법적 전략은 기본적으로 이러한 소송이 이러한 모델 학습을 저작권 침해로 정의할 수 있는 법적 선례로 이어지지 않기를 바라며 실타래처럼 매달려 있는 것입니다. 최근 저작권 이니셔티브가 후원한 학제 간 연구에서 결론을 내렸습니다.

이 소송은 계속 진행 중이며, 지난 8월 판사는 원고 측이 Stability AI와 DeviantArt(해당 모델을 사용한)에 대한 저작권 침해 혐의와 Midjourney에 대한 저작권 및 상표권 침해 혐의에 대해 추가로 제기한 소송에 대해 원고 측의 승소를 인정했습니다. 두 소송에서 모두 승소할 경우 AI 모델이 학습 데이터를 '잊어버리는' 것은 사실상 불가능하므로 처음부터 다시 학습시켜야 하기 때문에 수백만 명의 아티스트 작품 데이터 세트를 사용하는 Google과 Meta에게는 더욱 치명적인 결과를 초래할 수 있습니다. 이렇게 하면 수십억 달러의 비용이 들며, 특히 잘하지 못하는 작업을 수행할 때 효율성이 크게 떨어집니다.

저는 이 산업이 해변의 요새처럼 뿌리 깊게 자리 잡고 있는 것에 대해 깊이 우려하고 있습니다. ChatGPT, 클로드, 제미니, 라마와 같은 대규모 언어 모델은 지속 불가능하며, 생성형 AI의 계산 집약적 특성으로 인해 이를 학습시키는 데 수십억 달러는 아니더라도 수억 달러가 소요되고, 이들 회사가 말 그대로 수백만 명의 아티스트와 작가로부터 훔친 대량의 학습 데이터가 필요하기 때문에 수익성을 확보할 길이 없는 것 같습니다. 데이터를 훔쳐서 이득을 취하고 있습니다.

이러한 문제를 제쳐두더라도 제너레이티브 AI와 관련 아키텍처는 혁신적인 돌파구를 마련한 것 같지 않으며, 제너레이티브 AI를 둘러싼 과대광고는 '인공지능'이라는 용어의 의미와 전혀 맞지 않습니다. 제너레이티브 AI에 대한 과대 광고는 "인공 지능"이라는 용어에 전혀 맞지 않습니다. 생성 AI는 기껏해야 일부 콘텐츠를 올바르게 생성하거나, 문서를 요약하거나, 불확실한 '빠른' 속도로 연구를 수행할 수 있는 정도에 불과합니다. Microsoft의 Microsoft 365용 Copilot은 조직을 위한 "수천 가지 기술"과 "무한한 가능성"을 가지고 있다고 주장하지만, 보여주는 예는 이메일을 생성하거나 요약하는 것에 지나지 않습니다, "프롬프트에서 프레젠테이션 시작" 및 Excel 스프레드시트 쿼리 - 유용할 수는 있지만 결코 혁신적인 기능은 아닙니다.

우리는 아직 '초기 단계'에 있지 않습니다. 2022년 11월 이후 대형 기술 기업들은 자체 모델뿐만 아니라 인프라와 신생 AI 스타트업에 1,500억 달러 이상을 지출하고 투자했습니다. openAI는 130억 달러를 모금했으며 Anthropic과 마찬가지로 원하는 사람을 고용할 수 있습니다.

그러나 생성형 AI를 위한 업계 버전의 마샬 플랜은 사실상 동일한 대규모 언어 모델 4~5개, 세계에서 가장 수익성이 낮은 스타트업, 비싸지만 평범한 통합 앱 수천 개라는 결과를 낳았습니다. 평범한 통합 앱.

제너레이티브 AI는 여러 가지 거짓말로 마케팅되고 있습니다.

1. AI다. 2. 더 나아질 것이다. 3. 인공지능이다. 4. 막을 수 없다.

'성능'과 같은 용어는 제쳐두고, 생성된 콘텐츠의 '정확성' 또는 '속도'를 설명하는 데 자주 사용됩니다. "기술 수준보다는 콘텐츠 생성의 '정확성' 또는 '속도'를 설명하는 데 사용되는 경우가 많으며, 대규모 언어 모델은 실제로 정체되어 있습니다. 더 강력하다는 종종 "더 많은 일을 할 수 있다"는 의미가 아니라 "더 비싸다"는 의미로, 비용은 더 들지만 기능은 향상되지 않은 것을 만들었을 뿐이라는 뜻입니다.

모든 벤처 자본가와 거대 기술 기업의 힘을 합쳐도 많은 사람들이 기꺼이 비용을 지불할 수 있는 진정으로 의미 있는 사용 사례를 찾지 못한다면 새로운 사용 사례가 나오지 않을 것입니다. 수십억 달러가 투입되는 대규모 언어 모델은 거대 기술 기업과 OpenAI가 1,500억 달러를 추가로 투입한다고 해서 갑자기 더 나은 기능을 갖추게 되지는 않을 것입니다. 아무도 이러한 일을 더 효율적으로 만들려고 노력하지 않았고, 적어도 성공한 사람은 없습니다. 누군가 성공한다면 큰 이슈가 될 것입니다.

우리가 직면하고 있는 것은 저작권 도용에 기반한 막다른 기술(모든 기술 시대의 탄생과 함께 발생하며 피할 수 없는 문제)로, 이를 계속 운영하려면 지속적인 자본이 필요하고 기껏해야 기껏해야 선택 사항일 뿐이며 실제로 제공되지 않는 일종의 자동화된 기능으로 위장한 서비스를 수십억 달러의 비용으로 제공하고 있으며 앞으로도 계속 그럴 것입니다. 제너레이티브 AI는 돈(또는 클라우드 크레딧)이 아니라 신뢰를 바탕으로 작동합니다. 문제는 투자 자본과 마찬가지로 신뢰도 유한한 자원이라는 점입니다.

제게는 서브프라임 모기지 위기와 유사한 AI 위기, 즉 수천 개의 기업이 제너레이티브 AI를 비즈니스에 통합했지만 가격은 안정화되지 않았고 수익성은 더더욱 확보하지 못하는 상황이 올 수 있다는 두려움이 있습니다! .

'AI 기반'이라고 표시된 거의 모든 스타트업은 GPT 또는 Claude의 일부 조합을 기반으로 합니다. 이러한 모델은 적자가 심한 두 회사가 개발했으며(Anthropic은 올해 27억 달러의 적자가 예상됨), 가격 책정 전략은 수익 창출이 아닌 더 많은 고객을 유치하기 위해 설계되었습니다. 앞서 언급했듯이 OpenAI는 Microsoft로부터 받는 '클라우드 크레딧'과 유리한 가격 책정 등 자금 지원을 Microsoft에 의존하고 있으며, 가격 책정은 전적으로 투자자이자 서비스 제공자인 Microsoft에 의존하고 있습니다. 가격 책정은 전적으로 투자자이자 서비스 제공자인 Microsoft의 지속적인 지원에 달려 있으며, Amazon 및 Google과의 거래도 비슷한 문제에 직면해 있습니다.

이러한 손실을 감안할 때, 실제 데이터 없이는 정확하기는 어렵지만 OpenAI나 Anthropic의 가격이 실제 비용에 가깝다면 API 호출 가격이 10배에서 100배까지 증가할 수 있다고 추측할 수 있습니다. 하지만 The Information에서 보고한 수치를 고려해 보겠습니다. OpenAI는 2024년에 Microsoft의 서버 비용이 40억 달러에 이를 것으로 예상하며, 이는 Microsoft가 다른 고객에게 청구하는 것보다 2.5배 더 저렴하다는 점을 덧붙여 설명할 수 있습니다. OpenAI는 여전히 연간 50억 달러 이상의 손실을 보고 있습니다.

OpenAI는 모델을 운영하는 데 필요한 비용의 일부만 청구할 가능성이 높으며, 과거보다 더 많은 벤처 자본을 계속 조달하고 최근 OpenAI를 경쟁자로 간주한다고 밝힌 Microsoft로부터 유리한 가격을 계속 받을 수 있어야만 현상 유지를 할 수 있을 것입니다. 경쟁자. 확실하지는 않지만, Anthropic이 Amazon Web Services와 Google Cloud로부터 비슷한 수준의 유리한 가격을 받고 있다고 가정하는 것이 합리적입니다.

Microsoft가 OpenAI에 100억 달러의 클라우드 크레딧을 제공했고 OpenAI가 서버 비용으로 40억 달러와 가상의 교육 비용으로 20억 달러를 지출했다고 가정할 때(새로운 o1 및 "오리온" 모델 - 새로운 o1 및 "오리온" 모델이 출시되면 비용이 증가할 것이 확실하므로 OpenAI는 2025년까지 더 많은 크레딧이 필요하거나 실제 현금으로 Microsoft에 지불하기 시작할 것입니다.

마이크로소프트, 아마존, 구글이 계속해서 유리한 가격을 제시할 수는 있지만, 문제는 이러한 거래가 이들에게 수익성이 있느냐는 것입니다. Microsoft의 최근 분기 실적 보고서에서 보았듯이, 투자자들은 제너레이티브 AI 인프라를 구축하는 데 필요한 자본 지출(CapEx)에 대한 우려가 커지고 있으며, 많은 사람들이 이 기술의 잠재적 수익성에 대해 회의적인 시각을 보이고 있습니다.

그리고 이러한 비용을 다른 수익에 포함시키는 거대 기술 기업들에게 제너레이티브 AI가 얼마나 수익성이 있을지는 알 수 없습니다. 확실히 알 수는 없지만, 이러한 기업들이 수익성이 있다면 이를 통해 얻는 수익에 대해 이야기할 것이라고 생각하지만 그렇지 않습니다.

제너레이티브 AI의 붐에 대한 시장의 극도의 회의론과 AI 투자 수익에 대한 실질적인 답변을 내놓지 못한 엔비디아의 젠슨 황 CEO로 인해 엔비디아의 시가총액은 하루 만에 2,790억 달러나 급락했습니다. 이는 미국 시장 역사상 최대 규모의 주식 시장 폭락으로, 손실된 총 가치는 리먼 브라더스 5개사의 최고 가치와 맞먹는 수준이었습니다. 비교는 여기서 끝나지만 - NVIDIA는 실패할 위험도 없었고, 실패했더라도 시스템적 영향은 그다지 심각하지 않았을 것입니다 - 여전히 엄청난 금액이며 AI가 시장에 미치는 왜곡된 영향을 보여줍니다. power.

8월 초에 Microsoft, Amazon, Google은 모두 막대한 AI 관련 자본 지출로 시장에서 큰 타격을 받았습니다. 다음 분기에 새로운 데이터 센터와 NVIDIA GPU에 투자한 1,500억 달러(또는 그 이상)를 통해 상당한 매출 성장을 보여주지 못하면 더 큰 압박을 받게 될 것입니다.

빅테크 기업에게 더 이상 AI만큼 창의적인 시장은 없다는 사실을 기억하는 것이 중요합니다. 마이크로소프트와 아마존 같은 기업들이 성장 둔화 조짐을 보이기 시작하면서, 이들 역시 여전히 경쟁력이 있다는 것을 시장에 보여주기 위해 서두르고 있습니다. 검색과 광고에 거의 독점적으로 의존하는 다중 위험 독점 기업인 Google도 투자자들의 관심을 끌 만한 새롭고 눈길을 끄는 무언가가 필요했지만, 이러한 제품들은 충분한 효용을 제공하지 못하고 있으며 대부분의 수익은 "실험적인" 기업에서 나오는 것으로 보입니다. " AI를 실험하다가 그만한 가치가 없다는 것을 깨닫게 됩니다.

현재 두 가지 가능성이 있습니다.

1. 대형 기술 기업은 심각한 문제에 직면했다는 사실을 깨닫고 월가의 불만을 우려해 다음과 같은 선택을 합니다. AI 관련 자본 지출을 줄입니다.

2. 새로운 성장을 모색하는 대형 기술 기업들은 파괴적인 운영을 유지하기 위해 비용을 절감하고 직원을 해고하고 다른 사업에서 자금을 이동하여 생성 AI의 '데스 레이스'를 강화하기로 결정합니다. ".

어떤 일이 일어날지는 확실하지 않습니다. 만약 대기업들이 제너레이티브 AI가 미래가 아니라는 현실을 받아들인다면, 월스트리트에 보여줄 것이 별로 없지만, "투자를 줄이겠다"고 약속하면서 자본 지출을 줄이고 직원을 해고하는 메타적인 "효율성의 해" 전략을 채택할 수도 있습니다. "를 어느 정도 약속할 수 있습니다. 월스트리트를 만족시키려는 욕구에도 불구하고 적어도 현재로서는 수익성 있는 독점 비즈니스가 남아 있기 때문에 아마존과 구글이 취할 가능성이 가장 높은 길입니다.

그러나 앞으로 몇 분기 동안은 AI가 '성숙한 시장'이나 '연간 성장률'이라는 막연한 주장이 아니라 실질적인 매출 성장을 보여줘야 할 것입니다. "AI가 '성숙한 시장'이거나 '연평균 성장률'이라는 막연한 주장이 아니라 실질적이어야 합니다. 설비투자가 함께 증가한다면 실질적인 기여도는 훨씬 더 높아질 것입니다.

이런 성장은 일어나지 않을 것 같습니다. 2024년 3분기가 되든, 2024년 4분기가 되든, 2025년 1분기가 되든 월스트리트는 AI에 대한 끝없는 식욕에 대해 거대 기술 기업에 대한 처벌을 시작할 것이며, 그 처벌은 젠슨 황의 공허한 말과 쓸모없는 슬로건에도 불구하고 실제로 AI가 어떻게 매출을 늘릴 수 있는지 보여줄 수 있는 유일한 기업인 NVIDIA에 대한 처벌보다 훨씬 가혹할 것입니다.

저는 두 번째 시나리오가 더 가능성이 높다고 생각합니다. 즉, 이 회사들이 "AI가 미래"라는 확신이 너무 강해서 실제 문제를 해결하는 소프트웨어 개발과는 너무 단절된 문화가 회사 전체를 불태울 수 있다는 것이죠. 저는 대량 해고가 이 운동에 자금을 지원하는 데 사용될까 봐 깊이 우려하고 있으며, 지난 몇 년 동안 그들이 AI를 떠나는 올바른 선택을 할 것이라고 생각하지 않습니다.

대형 기술 기업들은 경영 컨설턴트에 의해 철저히 독살당했습니다 - Amazon, Microsoft 그리고 구글은 모두 MBA 출신들이 경영하고 있으며, 구글의 프라바카르 라가반과 같이 실제로 구글 검색을 구축한 사람들을 축출하고 자신이 주도권을 잡으려는 비슷한 괴물들에 둘러싸여 있습니다.

이들은 실제로 인간의 문제에 직면하지 않고 소프트웨어로 해결할 수 있는 가상의 문제 해결에 초점을 맞춘 문화를 만들어냅니다. 평생을 회의나 이메일을 읽으며 보내는 사람들에게 제너레이티브 AI는 다소 마술처럼 보일 수 있습니다. 사티아 나델라(Microsoft의 CEO)의 성공 정신은 "기술자가 문제를 해결하게 하는 것"에 있으며, 순다르 피차이는 단순히 Microsoft의 OpenAI 투자를 조롱함으로써 모든 생성 AI 열풍을 끝낼 수도 있었을 것입니다. -하지만 그는 그렇게 하지 않았습니다. 왜냐하면 이 회사들은 실제 아이디어도 없고, 실제로 문제를 해결하는 방법을 아는 사람은커녕 문제를 경험한 사람들에 의해 운영되는 회사도 아니기 때문입니다.

그들도 절망적이었고, 메타가 메타버스에서 수십억 달러를 소진했을 때를 제외하고는 상황이 그 어느 때보다 나빴습니다. 그러나 이 상황은 너무 많은 돈을 투자하고 AI를 회사에 너무 단단히 묶어 놓았기 때문에 이를 빼는 것은 당혹스럽고 주식에 타격을 줄 수 있으며 사실상 모든 것이 낭비라는 것을 암묵적으로 승인하는 것이기 때문에 더욱 심각하고 추악합니다.

미디어가 실제로 그들에게 책임을 물었다면 이런 일은 오래 전에 멈출 수 있었을 것입니다. 미디어는 이러한 기업들이 문제를 해결하지 못할 것이 분명한데도 불구하고 이전과 같은 과대 광고 사이클을 통해 문제를 해결해 줄 것이라고 가정하고 있습니다. 제가 비관적이라고 생각하시나요? 제너레이티브 AI의 다음 단계는 무엇일까요? 다음에는 무엇을 할까요? 만약 당신의 대답이 "문제를 해결할 것"이거나 "이면에 놀라운 일이 있을 것"이라는 것이라면, 당신은 마케팅 작전에 무의식적으로 참여하고 있는 것입니다(잠시 생각해 보세요).

이 글에 대한 저자 의견: 우리는 이런 것에 속는 것을 그만둬야 합니다. 마크 저커버그가 우리가 곧 메타버스에 진입할 것이라고 주장했을 때, 뉴욕 타임즈, 더 버지, CBS 뉴스, CNN 등 수많은 언론 매체는 명백히 결함이 있는 개념을 홍보하는 데 동참했습니다. 끔찍하고 미래에 대한 노골적인 거짓말로 팔렸습니다. 가상현실은 명백히 나쁜 가상현실 세계에 불과하지만, 월스트리트 저널은 가상현실이 명백히 쓸모없어진 지 6개월이 지난 지금도 여전히 가상현실에 대해 "인터넷의 미래에 대한 비전"이라고 부르고 있습니다. 암호화폐, 웹3.0, NFT도 마찬가지입니다! 더 버지, 뉴욕 타임즈, CNN, CBS 뉴스 - 이 모든 언론 매체는 분명히 쓸모없는 기술을 홍보하는 데 다시 한번 관여하고 있습니다. 특히 더 버지, 그리고 실제로 세 번 연속으로 기술을 옹호 한 후, 그가 유일한 사람은 아니지만, 이제는 그렇게 할 수있는 유일한 사람이 된 케이시 뉴튼을 언급해야합니다. 그는 지난 7월에 "가장 강력한 빅 언어 모델 중 하나를 보유하면 회사에 모든 종류의 수익성 있는 제품의 기반을 제공할 수 있다"고 주장하며 명성에도 불구하고 실제로는 돈만 잃고 진정으로 유용하고 지속적인 제품을 제공하지 못하는 기술을 세 번 연속으로 홍보한 바 있습니다.

저는 최소한 Microsoft가 AI 붐을 지속하기 위해 비즈니스의 다른 영역에서 비용을 줄이기 시작할 것이라고 믿습니다. 올해 초 한 소식통이 저와 공유한 이메일에서 Microsoft의 고위 경영진은 다른 서비스에서 다른 국가로 컴퓨팅을 이전하여 AI용 컴퓨팅 전력을 확보하는 등 회사 내 여러 영역에서 전력 요구량을 줄여 GPU에 필요한 전력을 확보할 것을 요청(결국 계획은 보류)했습니다(하지만 결국 계획은 보류됨).

익명 소셜 네트워크 Blind(회사 이메일 인증 필요)의 Microsoft 게시판에서 2023년 12월 중순에 한 Microsoft 직원이 "AI가 돈을 빼앗아간다"고 불만을 토로하며 다음과 같이 말했습니다. "AI는 비용이 너무 많이 들고, 급여를 잡아먹고, 상황은 나아지지 않을 것입니다." 또 다른 직원은 7월 중순에 Microsoft가 "NVIDIA 주가의 운영 현금 흐름을 충당하기 위한 비용 절감"에 "경계선 중독"되어 있다는 것이 분명해졌다며 불안감을 드러냈고, 이는 다음과 같이 말했습니다. "마이크로소프트의 문화에 깊은 상처를 입혔다"는 것이 분명했습니다.

또 다른 직원은 "Copilot이 2025 회계연도에 Microsoft를 파괴할 것"이라고 믿으며 "2025 회계연도에 Copilot의 집중도가 크게 낮아질 것"이라고 덧붙였습니다. ", "거의 1년간의 PoC, 해고, 조정 끝에 자국의 대규모 코파일럿 계약이 20% 미만으로 활용되고 있다"고 밝히며 "회사가 너무 많은 위험을 감수하고 있다"고 언급했습니다. 마이크로소프트의 "막대한 AI 투자가 성과를 거두지 못할 것"이라고 우려했습니다.

블라인드는 익명이지만, 마이크로소프트 레드몬드(워싱턴주의 도시 이름)의 문화적 문제, 특히 고위 경영진이 현실 세계와 동떨어져 있고 AI 라벨이 붙은 프로젝트에만 자금을 지원한다는 사실에 대한 수많은 웹 게시물이 있다는 사실을 무시하기는 어렵습니다. 게시물의 대부분은 Microsoft의 CEO인 사티아 나델라의 '수사적 횡설수설'에 대한 불만을 표출했으며, 존재하지 않을지도 모르는 AI 붐을 쫓는 데 집중하는 조직에서 보너스와 승진이 부족하다는 불만을 토로했습니다.

"나는 여기서 일하는 것이 싫다", "한편으로는 사람들이 왜 우리가 AI에 그렇게 많은 투자를 하고 있는지 혼란스러워한다"는 식의 게시물이 많이 올라오는 등 회사 내부에는 깊은 문화적 슬픔이 있습니다. 다른 한편으로는 사티아 나델라가 신경 쓰지 않으니 어쩔 수 없이 받아들여야 한다고 생각하기도 합니다.

정보 기사에서는 Microsoft가 AI 기능인 Office Copilot의 실제 채택률에 대한 우려를 숨기고 있다고 언급합니다. Microsoft는 데이터 센터에 수백만 명의 일일 사용자를 처리할 수 있는 365 Copilot용 서버 용량을 충분히 확보하고 있습니다. 수백만 명의 일일 사용자. 그러나 이 용량의 실제 사용량은 불분명합니다.

추정에 따르면 현재 Microsoft의 Office Copilot 지원 사용자는 40만 명에서 400만 명 사이일 수 있으며, 이는 Microsoft가 사용하지 않는 인프라를 많이 구축했지만 완전히 활용하지 못하고 있을 수 있음을 의미합니다.

일부에서는 Microsoft가 제품 카테고리의 미래 성장에 대한 기대에 기반하여 기반을 마련하고 있다고 주장할 수도 있지만, 생각해 봐야 할 또 다른 가능성은 그러한 성장이 이루어지지 않는다면 어떨까요? 미친 소리처럼 들리겠지만 Microsoft, Google, Amazon이 오지 않을지도 모르는 수요를 잡기 위해 대규모 데이터 센터를 건설했다면 어떨까요? 올해 3월에 저는 제너레이티브 AI로 상당한 매출 성장을 달성할 수 있는 기업을 찾을 수 없다는 점을 지적한 바 있습니다. 그리고 거의 6개월이 지난 지금도 문제는 지속되고 있습니다. 현재 대기업들의 접근 방식은 기존 제품에 AI 기능을 추가하고 이를 통해 매출을 늘리겠다는 것인데, 이 전략은 어디에서도 성공의 기미를 보이지 않고 있습니다. Microsoft와 마찬가지로 'AI 업그레이드'가 실질적인 비즈니스 가치를 제공하지 못하고 있는 것으로 보입니다.

그렇다면 이러한 AI 투자가 지속 가능한가라는 더 큰 의문이 제기됩니다. 거대 기술 기업들이 AI 도구에 대한 수요를 과대평가하고 있는 것은 아닐까요?

일부 기업이 'AI 통합'과 관련하여 Microsoft Azure, Amazon AWS, Google Cloud에 대한 지출의 일부를 주도하고 있을 수 있지만, 이러한 수요의 대부분은 투자자의 정서에 의해 주도되고 있다고 생각합니다. 이러한 기업들은 비용/편익 분석이나 실제 효용에 근거하기보다는 시장에서의 인기를 유지하기 위해 'AI에 투자'하고 있습니다.

그러나 이러한 기업들은 이미 제품에 제너레이티브 AI 기능을 내장하는 데 많은 시간과 비용을 투자해 왔으며, 다음과 같은 몇 가지 시나리오에 직면할 수 있다고 생각합니다.

1. Microsoft가 365 코파일럿에서 겪은 것처럼, 이러한 회사들은 AI 기능을 개발하고 출시했지만 고객이 비용을 지불할 의사가 없다는 사실을 알게 됩니다. AI 붐이 한창인 지금 고객이 비용을 지불하게 할 방법을 찾지 못한다면, 붐이 지나고 상사가 직원들에게 AI에 '동참'하라고 요구하지 않게 되면 상황은 더욱 악화될 것입니다. 상황은 더 악화될 것입니다.

2. AI 기능을 개발하여 출시했지만 사용자가 추가 비용을 지불하도록 유도할 방법을 찾지 못했기 때문에 수익 마진을 늘리지 않고 기존 제품에 AI 기능을 내장해야 했습니다. 결국 AI 기능은 기업의 수익을 갉아먹는 '기생충'이 될 수 있습니다.

골드만삭스의 짐 코벨로(Jim Covello)는 제너레이티브 AI에 관한 보고서에서 AI의 이점이 단순히 효율성 향상(예: 문서를 더 빨리 분석할 수 있는 것)에 있다면 경쟁사도 똑같이 할 수 있다고 지적했습니다. 고객 또는 내부 질문에 답하는 일종의 협업 어시스턴트(예: Salesforce, Microsoft, Box), 콘텐츠 제작(Box, IBM), 코드 생성(Cognizant, Github Copilot), 곧 출시될 다양한 목적으로 사용할 수 있는 '지능형 에이전트' 등 거의 모든 생성형 AI 통합이 비슷합니다. "지능형 에이전트"는 사실상 "사이트의 나머지 부분과 연결할 수 있는 사용자 지정 가능한 챗봇"입니다.

이번 호에서는 제너레이티브 AI의 가장 큰 과제 중 하나인 어떤 면에서는 "강력하지만", 그 강력함은 진정한 "지능형"이라기보다는 "기존 콘텐츠를 기반으로 데이터를 생성하는 것"에 더 가깝습니다. 콘텐츠'를 기반으로 데이터를 생성하는 데 더 큰 힘이 있습니다. 그렇기 때문에 많은 회사 웹사이트의 AI 소개 페이지가 공허한 단어로 가득 차 있는 이유는 "음, ...... 직접 알아보세요!"라는 것이 가장 큰 판매 포인트이기 때문입니다.

노크온 효과가 걱정됩니다. 현재 많은 기업이 AI를 '시험'하고 있으며, 이러한 시험이 끝나면(Gartner에 따르면 2025년 말까지 개념 증명 단계 이후에는 제너레이티브 AI 프로젝트의 30%가 중단될 것이라고 합니다) 이러한 추가 기능에 대한 비용을 지불하지 않거나 제너레이티브 AI를 자사 제품에 회사 제품에 통합하지 않을 것입니다.

이 경우, 생성 AI 애플리케이션을 위한 클라우드 컴퓨팅을 제공하는 하이퍼스케일 기업과 OpenAI 및 Anthropic과 같은 대형 언어 모델링 공급업체의 매출은 이미 감소할 것입니다. 이미 적자를 내고 있는 이들 기업의 마진이 더욱 악화될 것이기 때문에 이들 기업의 주가는 더욱 큰 압박을 받을 수 있습니다. 이 시점이 되면 OpenAI와 Anthropic은 아직 가격을 인상하지 않았다면 거의 확실하게 가격을 인상해야 할 것입니다.

대형 기술 회사들이 호황에 계속 자금을 지원할 수는 있지만 - 결국 그 책임은 거의 전적으로 그들에게 있습니다 - 이미 손해를 본 사람들에게는 도움이 되지 않을 것입니다. 대형 기술 기업은 호황에 대한 책임이 거의 전적으로 그들에게 있기 때문에 계속해서 자금을 지원할 수 있지만, 할인된 가격에 익숙해진 소규모 스타트업은 운영을 지속할 여력이 없기 때문에 도움이 되지 않을 것입니다. Meta의 LLaMA 모델을 운영하는 독립 제공업체와 같이 더 저렴한 대안이 있기는 하지만, 이들이 슈퍼스케일러와 같은 수익성 문제에 직면하지 않을 것이라고 믿기는 어렵습니다.

슈퍼스케일러도 월스트리트를 뒤흔드는 것을 매우 두려워한다는 점도 주목해야 합니다. 이론적으로는 해고와 기타 비용 절감 조치를 통해 마진을 개선할 수 있지만(제가 우려하는 것처럼), 이는 불모지나 다름없는 인공지능 나무에서 어떻게든 돈을 끌어올 수 있을 때만 효과가 있는 단기적인 해결책일 뿐입니다.

그러나 이제는 돈이 여기에 없다는 사실을 받아들여야 할 때입니다. 우리는 기술 산업에서 세 번째 환멸의 시대에 접어들었다는 사실을 멈추고 살펴볼 필요가 있습니다. <강조>그러나 암호화폐나 메타 유니버스와는 달리 이번에는 모두가 지속 불가능하고 신뢰할 수 없으며 수익성이 없고 환경에 해로운 프로젝트를 추구하기 위해 돈을 태우는 난교에 참여하고 있습니다. 이 프로젝트는 "인공 지능"으로 포장되어 "모든 것을 자동화"할 수 있는 것으로 선전되었지만 실제로는 도달할 수 있는 경로가 없었습니다.

왜 이런 일이 계속 일어나는 걸까요? 왜 우리는 암호화폐, 메타 유니버스를 거쳐 이제는 제너레이티브 AI에 이르기까지 일반인을 위해 설계된 것 같지 않은 기술을 사용하게 되었을까요?

오늘날 기술 산업은 고객에게 더 많은 가치를 제공하기보다는 각 고객으로부터 더 많은 가치를 창출하는 데 전적으로 집중하고 있기 때문에 이는 정말 자연스러운 발전입니다. 아니, 오히려 고객이 누구인지, 고객이 무엇을 필요로 하는지조차 제대로 파악하지 못하고 있습니다.

오늘날 판매되는 제품은 거의 확실하게 고객을 Microsoft, Apple, Amazon, Google이 통제하는 어떤 에코시스템에 묶어두려고 할 것입니다(적어도 소비자로서). 따라서 해당 생태계를 떠나는 데 드는 비용이 점점 더 커지고 있습니다. <표면적으로는 '탈중앙화' 기술인 암호화폐조차도 몇몇 대형 플랫폼(예: 코인베이스)을 위해 자유방임주의 철학을 빠르게 포기하고 있습니다. 코인베이스, 오픈시, 블러, 유니스왑과 같은 플랫폼은 종종 같은 벤처 캐피탈 회사(예: 안드레센 호로위츠)의 후원을 받습니다. 암호화폐는 완전히 분리된 새로운 온라인 경제 시스템의 기수가 되는 대신, 인터넷의 다른 물결에 자금을 지원했던 것과 동일한 인맥과 자금을 통해 확장할 수 있었습니다.

메타버스는 사기이지만, 차세대 인터넷을 장악하려는 마크 저커버그의 시도이기도 하며, 그는 Horizon을 주요 플랫폼으로 만들고 싶어 합니다. 제너레이티브 AI에 대해서는 나중에 자세히 설명하겠습니다.

더 많은 수익 창출, 즉 고객이 플랫폼을 더 많이 사용하도록 유도하여 더 많은 광고를 표시하거나, 더 많은 광고를 푸시하거나, 더 많은 광고를 판매함으로써 각 고객의 평균 가치를 높이는 것이 핵심입니다. 플랫폼을 더 많이 사용하게 하여 더 많은 광고를 표시하거나, 새로운 '반사용자' 기능을 푸시하거나, 새로운 독점 또는 과점 체제를 만들면 막대한 자본을 보유한 거대 기술 기업만이 이에 참여할 수 있으며, 고객에게 제공되는 실질적인 가치나 효용은 거의 없을 것입니다.

(적어도 특정 유형의 사람들에게는) 기술 대기업들이 소비자 기술에서 기업 서비스에 이르기까지 모든 제품에 추가함으로써 차세대 큰 수익을 창출할 것으로 보고 있기 때문에 제너레이티브 AI가 흥미롭습니다. 비용을 청구하는 방법. 대부분의 제너레이티브 컴퓨팅은 OpenAI 또는 Anthropic을 거쳐 다시 Microsoft, Amazon 또는 Google로 돌아가 성장 성과를 유지하는 클라우드 수익을 창출합니다. 여기서 가장 큰 혁신은 제너레이티브 AI가 무엇을 할 수 있느냐가 아니라, 소수의 거대 기업에 전적으로 의존하는 생태계에서 벗어나 의존성이 없는 생태계를 만드는 것입니다.

제너레이티브 AI는 실용적이지 않을 수 있지만, 다양한 제품에 통합하기가 매우 쉬워 기업들이 이러한 '새로운 기능'에 대한 비용을 청구할 수 있습니다. 소비자 앱이든 기업용 소프트웨어 회사의 서비스이든, 이러한 종류의 제품은 가능한 한 많은 고객에게 프리미엄을 붙여 판매함으로써 수백만 달러 또는 수십억 달러의 수익을 올릴 수 있습니다.

샘 알트먼은 기술 업계에 '새로운 것', 즉 누구나 한 개씩 갖고 팔 수 있는 새로운 기술이 필요하다는 것을 깨달을 만큼 똑똑했습니다. 새로운 기술. 그는 기술을 완전히 이해하지는 못했지만, 경제 시스템의 성장에 대한 열망을 이해했고, 트랜스포머 아키텍처에 기반한 제너레이티브 AI를 대부분의 제품에 쉽게 연결하여 다른 무언가를 제공할 수 있는 '마법의 도구'로 제품화했습니다.

그러나 모든 곳에 제너레이티브 AI를 통합하려는 서두름은 이러한 기업이 원하는 것과 실제 소비자가 원하는 것 또는 효과가 있는 것 사이에 큰 괴리가 있음을 드러냅니다. 지난 20년 동안은 단순히 새로운 기능을 출시하고 영업팀이 이를 열심히 밀어붙여 성장을 지속하는 '새로운 일을 하는 것'만이 효과가 있는 것처럼 보였습니다. 이로 인해 기술 리더들은 해롭고 수익성이 없는 비즈니스 모델에 갇히게 되었습니다.

이러한 회사를 운영하는 경영진은 대부분 제품이나 기술 회사를 처음부터 만들어본 적이 없는 MBA와 경영 컨설턴트들로, 이러한 사실을 이해하지 못하거나 신경 쓰지 않습니다! 제너레이티브 AI는 수익성을 확보할 수 있는 경로가 없으며, 아마도 그들은 이 두 가지가 매우 다른 것임에도 불구하고 아마존 클라우드 서비스(AWS)처럼 (수익성을 확보하는 데 9년이 걸렸다) 자연스럽게 수익이 발생할 것이라고 생각할 것입니다. 예전에는 '자연스럽게' 일이 잘 풀렸는데 지금은 왜 안 될까요?

물론 금리 상승으로 인해 VC 시장이 급격히 변화하여 VC의 자본 풀이 줄어들고 펀드 규모가 축소되었다는 사실 외에도 오늘날 기술에 대한 태도가 그 어느 때보다 부정적이라는 사실도 있습니다. 이 외에도 2024년이 2014년과 크게 달라지는 이유 등 여러 가지 요인이 있으며, 이 8,000단어짜리 글에서 모두 언급하기에는 그 범위를 넘어설 정도로 많은 이유가 있습니다.

정말 걱정스러운 점은 이들 기업 중 상당수가 AI 외에 다른 새로운 서비스를 제공하지 않는 것 같다는 것입니다. 그 외에는 무엇이 있을까요? 회사를 계속 성장시킬 수 있는 다른 요소는 무엇일까요? 다른 어떤 옵션이 있을까요?

아니요, 아무것도 없습니다. AI가 실패하면 그 영향은 필연적으로 기술 업계 전반의 다른 회사로 퍼져나갈 수밖에 없기 때문입니다.

소비자 분야든 기업 분야든 모든 주요 기술 업체는 대규모 언어 모델 또는 자체 언어 모델을 통합하는 일종의 AI 제품을 판매하고 있습니다. 언어 모델 또는 자체 언어 모델을 통합하는 일종의 AI 제품을 판매하고 있으며, 종종 빅테크의 시스템에서 클라우드에서 실행됩니다. 이러한 기업들은 어느 정도는 업계 전반에 보조금을 지원하려는 빅테크의 의지에 의존하고 있습니다.

저는 사실상 모든 기술 업계가 빅테크에 집중되어 보조금을 받고 매우 낮은 가격에 판매되는 기술에 참여하는 서브프라임 AI 위기가 발생하고 있다고 추측합니다. 어느 시점에 이르면 생성형 AI의 놀랍고 해로운 소진율이 이들을 따라잡을 것이고, 이는 결국 가격 인상으로 이어지거나 Salesforce의 대화당 2달러의 '에이전트포스' 제품처럼 매우 가파른 수수료를 부과하는 새로운 제품과 기능을 출시하는 회사로 이어질 것입니다. " 제품과 같이 대화당 2달러의 매우 높은 수수료를 부과하는 새로운 제품을 출시하면 예산에 민감한 기업 고객조차도 그러한 지출을 정당화할 수 없게 될 것입니다.

기술 업계 전체가 손실만 발생하고 그 자체로는 실질적인 가치가 별로 없는 소프트웨어에 의존한다면 어떤 일이 벌어질까요? 압박이 너무 심해져 이러한 AI 제품이 더 이상 판매할 수 없게 되면 어떻게 될까요?

저는 정말 모르겠지만 기술 산업은 혁신보다 성장, 충성도보다 독점, 실제 창조보다 관리에 더 많은 보상을 주는 경제 환경으로 인해 창의성 결여를 조장하는 끔찍한 시련을 향해 나아가고 있습니다.