황인훈, 드물게 장문 게시: AI는 '다섯 층 케이크' 같은 인프라

3월 10일, 엔비디아 CEO 황진훈은 개인 서명 글에서 드물게 AI 산업의 발전 논리를 체계적으로 설명했으며,이는 그가 2016년 이후 발표한 일곱 번째 공개 장문이다.

그는 AI를 단일 모델이나 애플리케이션으로 이해해서는 안 되며, 오히려 형성 중인 인프라 시스템으로 봐야 한다고 지적했다.

인공지능(AI)은 오늘날 세계를 형성하는 가장 강력한 힘 중 하나입니다. 이는 단순히 똑똑한 애플리케이션이나 단일 모델이 아닙니다. 전기와 인터넷처럼 필수적인 인프라입니다.

그의 관점에서 AI 산업은 산업혁명 수준의 기술 인프라 구축을 경험하고 있다. 현재 전 세계적으로 수천억 달러가 투자되었지만, 전체적인 구축은 여전히 초기 단계에 머물러 있다.

황진훈은,AI는 "다섯 겹의 케이크" 인프라—에너지, 칩, 인프라, 모델, 애플리케이션—로, 수조 달러의 추가 투자가 필요하다고 밝혔다.

그는 예측하기를,앞으로 몇 년 안에 전통적인 소프트웨어와 앱 형태는 사라질 것이며, 완전히 새로운 소프트웨어 패러다임인 AI 에이전트(지능체)가 주류가 될 가능성이 매우 높다고 밝혔다.

AI 발전이 가져올 고용에 대한 우려에 대해 황진훈은, AI가 일자리를 줄이는 것이 아니라 오히려 많은 새로운 고용 기회를 창출할 것이라고 보았다. 특히 인프라와 숙련 기술 직종 분야에서 AI 인프라 구축을 지원하는 데 필요한 노동력은 매우 방대하다. AI 공장에는 전기 기술자, 배관공, 철강 노동자, 네트워크 기술자, 설치 기술자, 운영자 등이 필요하며, 이들은 모두 고숙련·고임금 직종으로 현재 공급이 수요를 따라가지 못하고 있다.

AI는 '소프트웨어'에서 실시간 생성 지능으로 진화하고 있다

황인훈은 먼저 AI와 기존 소프트웨어의 근본적 차이를 설명했다.

지난 수십 년간 소프트웨어는 기본적으로 '미리 작성된 프로그램'이었다. 개발자가 알고리즘을 작성하면 컴퓨터가 규칙에 따라 실행했다. 데이터는 구조화되어야 하며 데이터베이스 쿼리를 통해 호출되었습니다. 그러나 AI는 이 방식을 바꿨습니다.

황인훈은 이렇게 썼습니다: "이는 컴퓨터 역사상 처음으로 기계가 비구조화된 정보—이미지, 텍스트, 소리—를 이해하고 그 의미를 파악할 수 있게 된 것입니다. "

더 중요한 것은, AI가 데이터베이스에서 답을 읽어오는 것이 아니라   실시간으로 지능을 생성합니다.

그는 이렇게 설명했습니다: "모든 답변은 새로 생성되며, 매번 출력은 문맥에 따라 달라집니다. 컴퓨터는 더 이상 단순히 명령을 실행하는 것이 아니라 추론합니다. "

지능이 실시간으로 생성되기 때문에, 이는 전체 컴퓨팅 아키텍처의 재설계를 강요합니다.

AI 산업의 '5층 구조'

이 글에서 황진훈은 AI 산업의 구조적 프레임워크를 제안했습니다:5단계 기술 스택 — 에너지, 칩, 인프라, 모델, 애플리케이션.

그는 이 다섯 층 사이가 강한 결합 관계임을 강조했다.

에너지 가장 기초적인 층은 에너지다. 실시간으로 생성되는 지능은 실시간으로 생산되는 전력이 필요하다. 생성되는 각 토큰(token)은 전자의 이동, 열 관리, 그리고 에너지가 계산 능력으로 전환되는 결과물이다. 이 계층 아래에는 어떠한 추상화 계층도 존재하지 않는다. 에너지는 AI 인프라의 제1원리이며, 시스템이 얼마나 많은 지능을 생성할 수 있는지를 결정하는 하드 제약 조건이다.

칩 에너지 위에 칩이 있습니다. 이 프로세서들은 에너지를 대규모로 효율적으로 컴퓨팅 파워로 전환하도록 설계되었습니다. AI 워크로드는 방대한 병렬 컴퓨팅 능력, 고대역폭 메모리 및 빠른 상호 연결 기술을 필요로 합니다. 칩 계층의 발전은 AI 확장 속도와 지능이 경제적으로 실현 가능한 수준이 되는 시점을 결정합니다. ">인프라 칩 위에 있는 것은 인프라입니다. 여기에는 토지, 전력 공급, 냉각 시스템, 건축 공사, 네트워크, 그리고 수천 개의 프로세서를 하나의 기계로 협업하게 하는 시스템이 포함됩니다. 이러한 시스템이 바로 'AI 공장'입니다. 이들은 정보를 저장하기 위해 설계된 것이 아니라 지능을 제조하기 위해 설계되었습니다.

모델 인프라 위에 모델이 있습니다. AI 모델은 다양한 유형의 정보를 이해할 수 있습니다: 언어, 생물학, 화학, 물리학, 금융, 의학, 그리고 물리적 세계 자체입니다. 언어 모델은 그중 하나의 범주에 불과합니다. 현재 가장 혁신적인 작업들은 단백질 AI, 화학 AI, 물리 시뮬레이션, 로봇공학, 자율 시스템 분야에서 이루어지고 있습니다.

응용 가장 상위 계층은 응용이며, 바로 여기서 경제적 가치가 창출됩니다. 신약 개발 플랫폼, 산업용 로봇, 법률 보조 시스템, 자율주행 자동차 등이 여기에 속합니다. 자율주행 자동차는 기계에 구현된 AI 응용이며, 휴머노이드 로봇은 신체에 구현된 AI 응용입니다. 이들은 동일한 기술 스택을 사용하지만 서로 다른 결과를 창출합니다.

AI 인프라 구축은 아직 초기 단계

산업 규모에 대해 황진훈은 명확한 판단을 내렸다.

그는 "우리는 현재 수천억 달러만 투자했지만, 앞으로는 수조 달러 규모의 인프라를 구축해야 합니다. "

전 세계적으로 반도체 공장, 서버 조립 공장, AI 데이터 센터 건설이 가속화되고 있다. 황인훈은 이러한 추세가   "인류 역사상 최대 규모의 인프라 건설 중 하나" 이 될 수 있다고 말했다.

동시에 이는 새로운 노동력 수요를 가져왔다. AI 데이터센터 건설에는 전기 기술자, 배관공, 네트워크 엔지니어, 장비 설치 기술자 등 다수의 기술 인력이 필요하다.

그는 "이 변화에 참여하기 위해 반드시 컴퓨터 박사 학위가 필요한 것은 아니다. "

오픈소스 모델이 AI 산업 확장을 주도하다

황진훈은 특히오픈 소스 모델이 AI 생태계에서 하는 역할을 언급했습니다.

그는 전 세계적으로 수많은 AI 모델이 공개되어 있으며, 기업, 연구 기관 및 국가들이 이러한 모델에 의존하여 AI 발전에 참여하고 있다고 지적했다. 오픈소스 모델이 선진 수준에 도달하면 전체 산업 체인의 수요를 견인하게 된다."

그는 예를 들어 "DeepSeek-R1이 바로 대표적인 사례다."라고 말했다.

이 모델이 공개된 후 애플리케이션 개발을 촉진했을 뿐만 아니라   훈련 컴퓨팅 파워, 인프라, 칩 및 에너지에 대한 수요를 증가시켰습니다. 다시 말해, 하나의 모델의 돌파구는 전체 산업 체인을 끌어내리는 효과를 가져옵니다.

AI의 영향은 소프트웨어 산업에 그치지 않는다

기사 마지막에서 황진훈은 AI가 소프트웨어 산업을 변화시킬 뿐만 아니라 에너지, 제조, 노동력 구조 및 경제 성장 방식에도 영향을 미칠 것이라고 강조했다.

그는 "AI는 산업 수준의 변혁으로, 에너지 생산 방식, 공장 건설 방식, 업무 조직 방식, 그리고 경제 성장 모델을 바꿀 것"이라고 말했다. "

그는 현재 AI가 아직 초기 단계에 있다고 생각한다. 대량의 인프라가 아직 구축되지 않았고, 많은 인재들이 아직 훈련을 마치지 못했습니다.

그러나 추세는 이미 매우 분명합니다: "AI는 현대 세계의 인프라가 되고 있습니다. "

다음은 기사 전문 번역본입니다:

《AI는 '다섯 층 케이크' 같은 인프라》

2026년 3월 10일, 저자: 황진훈 (Jensen Huang)

인공지능(AI)은 오늘날 세상을 형성하는 가장 강력한 힘 중 하나입니다. 이는 단순히 똑똑한 애플리케이션이나 단일 모델이 아닙니다. 전기와 인터넷처럼 필수적인 인프라입니다.

AI는 실제 하드웨어, 실제 에너지, 실제 경제 기반 위에서 작동합니다. 원자재를 확보하여 대규모로 지능으로 전환합니다. 모든 기업이 이를 활용할 것이며, 모든 국가가 이를 구축할 것입니다.

AI가 이러한 방식으로 발전하는 이유를 이해하려면, 우리는 제1원리로부터 추론하고 컴퓨팅 분야에서 근본적으로 어떤 변화가 일어났는지 살펴봐야 합니다.

사전 녹화된 소프트웨어에서 실시간 지능으로 컴퓨팅 기술 발전의 대부분 역사에서 소프트웨어는 '사전 녹화된' 형태였습니다. 인간이 알고리즘을 작성하고 컴퓨터가 실행을 담당했습니다. 데이터는 정교하게 구조화되어 테이블에 저장되고 정확한 쿼리 문으로 검색되어야 했습니다. SQL이 필수 불가결해진 이유는 바로 그 세계가 정상적으로 작동하도록 했기 때문입니다.

그러나 AI는 이 패턴을 깨뜨렸습니다.

이는 컴퓨터가 비정형 정보를 이해할 수 있게 된 사상 최초의 순간입니다. 컴퓨터는 이미지를 보고, 텍스트를 읽고, 소리를 듣고 그 의미를 이해할 수 있습니다. 문맥과 의도를 추론할 수 있으며, 무엇보다 실시간으로 지능을 생성할 수 있습니다.

매번의 응답은 완전히 새롭게 창조됩니다. 모든 답변은 사용자가 제공한 맥락에 따라 달라집니다. 이는 더 이상 미리 저장된 명령을 검색하는 소프트웨어가 아니라, 필요에 따라 추론하고 지능을 생성할 수 있는 소프트웨어입니다.

지능이 실시간으로 생성되기 때문에 이를 뒷받침하는 전체 기반 컴퓨팅 기술 스택이 재창조되어야 합니다.

인프라로서의 AI 산업적 관점에서 AI를 바라보면, 이는 다섯 층의 기술 스택으로 분해될 수 있습니다.

에너지 가장 기초적인 층은 에너지입니다. 실시간으로 생성되는 지능은 실시간으로 생산되는 전력을 필요로 합니다. 생성된 각 토큰(token)은 전자의 이동, 열 관리, 그리고 에너지가 컴퓨팅 파워로 변환되는 결과물입니다. 이 계층 아래에는 어떠한 추상화 계층도 존재하지 않습니다. 에너지는 AI 인프라의 제1원리이며, 시스템이 얼마나 많은 지능을 생성할 수 있는지를 결정하는 하드 제약 조건입니다. >칩 에너지 위에 칩이 있습니다. 이 프로세서들은 에너지를 대규모로 효율적으로 컴퓨팅 파워로 전환하도록 설계되었습니다. AI 워크로드는 방대한 병렬 컴퓨팅 능력, 고대역폭 메모리, 빠른 상호 연결 기술을 필요로 합니다. 칩 계층의 발전은 AI 확장 속도와 지능이 경제적으로 실현 가능한 수준이 되는 시점을 결정합니다. 건축 공사, 네트워크, 그리고 수천 개의 프로세서를 하나의 기계로 협동 운영하도록 구성하는 시스템을 포함합니다. 이러한 시스템이 바로 "AI 공장"입니다. 이들은 정보를 저장하기 위해 설계된 것이 아니라 지능을 제조하기 위해 설계되었습니다.

모델 인프라 위에 모델이 있습니다. AI 모델은 다양한 유형의 정보를 이해할 수 있습니다: 언어, 생물학, 화학, 물리학, 금융, 의학 및 물리적 세계 자체를 이해할 수 있습니다. 언어 모델은 그중 하나의 범주에 불과합니다. 현재 가장 혁신적인 작업들은 단백질 AI, 화학 AI, 물리 시뮬레이션, 로봇공학 및 자율 시스템 분야에서 이루어지고 있습니다. 신약 개발 플랫폼, 산업용 로봇, 법률 보조 시스템, 자율주행 자동차 등이 여기에 속합니다. 자율주행 자동차는 기계에 구현된 AI 응용이며, 휴머노이드 로봇은 신체에 구현된 AI 응용입니다. 이들은 동일한 기술 스택을 사용하지만 서로 다른 결과를 창출합니다.

이것이 바로 AI의 '다섯 층 케이크'입니다: 에너지 → 칩 → 인프라 → 모델 → 애플리케이션.

성공적인 각 애플리케이션은 그 기반이 되는 모든 계층을 강력하게 끌어올리며, 이를 유지하는 발전소까지 이어집니다.

우리는 이 건설 과정을 이제 막 시작했습니다. 지금까지 수천억 달러를 투자했지만, 아직도 수조 달러 규모의 인프라가 건설을 기다리고 있습니다.

전 세계적으로 반도체 공장, 컴퓨터 조립 공장, AI 공장이 전례 없는 규모로 건설되고 있습니다. 이는 인류 역사상 가장 큰 규모의 인프라 건설이 되고 있습니다.

이 건설을 뒷받침하는 데 필요한 노동력은 엄청나게 많습니다. AI 공장에는 전기 기술자, 배관공, 파이프 조립공, 철강 노동자, 네트워크 기술자, 설치 기술자 및 운영자가 필요합니다. 이들은 모두 고숙련, 고임금 직종이며 현재 수요가 공급을 훨씬 초과하고 있습니다. 컴퓨터 과학 박사 학위가 없어도 이 혁명에 참여할 수 있습니다.

동시에 AI는 지식 경제 전반의 생산성 향상을 주도하고 있습니다. 방사선학을 예로 들면, 현재 AI는 이미 스캔 영상 판독을 보조할 수 있지만 방사선과 의사에 대한 수요는 여전히 지속적으로 증가하고 있습니다. 이는 모순이 아닙니다. "">방사선과 의사의 핵심 임무는 환자 돌봄이며, 영상 판독은 그 과정의 한 작업에 불과합니다. AI가 일상적인 반복 작업을 더 많이 담당하게 되면, 방사선과 의사는 진단 판단, 의사소통, 환자 관리에 집중할 수 있습니다. 이렇게 되면 병원의 효율성이 향상되어 더 많은 환자를 진료할 수 있게 되며, 결과적으로 더 많은 직원을 고용하게 됩니다. >생산성은 수용력을 창출하고, 수용력은 성장을 가져옵니다.

지난 한 해 동안 어떤 변화가 있었나요? 지난 한 해 동안 AI는 중요한 전환점을 넘었습니다. 모델이 충분히 우수해져 거시적 규모에서 실용적 가치를 발휘할 수 있게 되었습니다. 추론 능력이 향상되고 환각 현상이 줄어들었으며, 사실 근거의 정확성(Grounding)이 현저히 개선되었습니다. 이는 사상 처음으로 AI 기반 애플리케이션이 진정한 경제적 가치를 창출하기 시작한 순간입니다. 이러한 응용 분야는 그 아래의 모든 기술 계층을 강력하게 견인하고 있습니다. 세계 대부분의 모델은 무료입니다. 연구원, 스타트업, 대기업, 심지어 국가 전체가 첨단 AI 물결에 참여하기 위해 오픈소스 모델에 의존하고 있습니다. 오픈소스 모델이 최첨단 수준에 도달하면, 소프트웨어뿐만 아니라 전체 기술 스택에 걸친 수요를 활성화시킵니다. >DeepSeek-R1은 강력한 사례입니다. 강력한 추론 모델을 널리 활용 가능하게 함으로써 애플리케이션 계층의 상용화를 가속화하는 동시에, 그 기반이 되는 훈련, 인프라, 칩, 에너지에 대한 수요를 증가시킵니다.

이는 무엇을 의미하는가? AI를 필수적인 인프라로 인식할 때 그 심오한 영향력이 명확해집니다.

AI는 트랜스포머 아키텍처의 대규모 언어 모델에서 시작되었습니다. 그러나 그 이상입니다. 이는 산업 혁명으로, 에너지 생산 및 소비 방식, 공장 건설 방식, 업무 조직 방식, 그리고 경제 성장 방식을 재편하고 있습니다. 응용이 가속화되어 상용화되는 이유는, 그 기반이 되는 모델이 이미 전환점을 넘어 대규모 시나리오에서 실용적 가치를 발휘할 수 있게 되었기 때문이다. >각 계층은 서로를 촉진하며 상호작용합니다.

바로 이 때문에 인프라 구축의 규모가 이토록 방대합니다. 바로 이 때문에 수많은 산업을 동시에 아우를 수 있습니다. 또한 단일 국가나 특정 분야에 국한되지 않는 이유이기도 합니다. 모든 기업이 AI를 활용할 것이며, 모든 국가가 이를 구축할 것입니다.

우리는 아직 초기 단계에 있습니다. 대부분의 기반 시설은 아직 구축되지 않았고, 대부분의 인력은 아직 훈련받지 않았으며, 대부분의 기회는 아직 발굴되지 않았습니다.

하지만 방향은 이미 매우 명확합니다.

AI는 현대 세계의 기반 인프라가 되어가고 있습니다. 그리고 지금 우리가 내리는 선택들—얼마나 빠르게 구축할지, 얼마나 광범위하게 참여할지, 얼마나 책임감 있게 AI를 배치할지—이 결국 이 시대의 미래 모습을 결정할 것입니다.