이안 킹, 블룸버그 작성, 화이트워터, 골든 파이낸스 편집
새로운 제품이 기술계에 불을 붙일 때는 보통 스마트폰이나 게임 콘솔 같은 소비자 제품입니다. 올해 기술 관찰자들은 대부분의 사람들이 볼 수 없는 잘 알려지지 않은 컴퓨터 부품에 주목하고 있습니다.H100 프로세서는 전체 산업을 변화시킬 차세대 인공 지능 도구를 가능하게 하여 개발사인 엔비디아를 세계에서 가장 가치 있는 회사 중 하나로 이끌고 있습니다. 이는 투자자들에게 제너레이티브 AI에 대한 소문이 적어도 엔비디아 및 가장 중요한 공급업체에게는 실제 수익으로 이어지고 있음을 보여줍니다. H100에 대한 수요가 너무 높아 일부 고객은 최대 6개월을 기다려야만 제품을 받을 수 있었습니다.
1. Nvidia의 H100 칩이란?
컴퓨터 과학의 선구자인 그레이스 호퍼에게 헌정하는 의미에서 이름을 딴 H100은 비디오 게이머가 최대한 몰입감 있는 시각적 경험을 할 수 있도록 일반적으로 PC에 설치되는 그래픽 처리 장치의 향상된 버전입니다. 여기에는 많은 양의 데이터를 처리하고 고속 연산을 수행할 수 있는 개별 단위로 Nvidia 칩 클러스터를 변환하는 기술이 포함되어 있습니다. 따라서 제너레이티브 AI가 의존하는 신경망을 훈련하는 에너지 집약적인 작업에 이상적입니다. 1993년에 설립된 이 회사는 병렬 작업 능력이 언젠가는 게임 이외의 애플리케이션에서도 칩의 가치를 발휘할 수 있을 것이라 믿고 20년 전 투자를 통해 이 시장을 개척했습니다.
Nvidia H100 사진가: Marlena Sloss/Bloomberg
2. H100이 특별한 이유는 무엇인가요?
제너레이티브 AI 플랫폼은 대량의 기존 자료를 흡수하여 텍스트 번역, 보고서 요약, 이미지 합성과 같은 작업을 학습합니다. 더 많은 것을 볼수록 사람의 말을 인식하거나 커버 레터를 작성하는 데 더 능숙해집니다. 시행착오를 통해 진화하며 숙련도에 도달하기 위해 수십억 번의 시도를 하고 그 과정에서 많은 컴퓨팅 성능을 소비합니다. 엔비디아는 H100이 이전 칩인 A100보다 대규모 언어 모델(LLM)을 학습하는 속도가 4배, 사용자 프롬프트에 응답하는 속도가 30배 더 빠르다고 말합니다. 2023년에 H100을 출시한 이후, 엔비디아는 더 빠른 버전인 H200과 Blackwell B100 및 B200을 발표했으며, 새로운 작업을 위해 LLM을 트레이닝하려는 기업에게 성능 우위는 점점 더 중요해지고 있습니다. NVIDIA의 많은 칩은 AI 개발에 매우 중요한 것으로 간주되기 때문에 미국 정부는 H200 및 일부 덜 강력한 모델의 중국 판매를 제한했습니다.
3. 어떻게 엔비디아는 AI 분야의 리더가 되었나요?
캘리포니아주 산타클라라에 본사를 둔 이 회사는 화면의 이미지를 생성하는 컴퓨터 부품인 그래픽 칩 분야의 글로벌 리더입니다. 가장 강력한 그래픽 칩은 한 번에 여러 개의 연산 스레드를 수행하는 수천 개의 프로세싱 코어로 구성되어 그림자나 반사 같은 복잡한 3D 렌더링을 모델링합니다. 엔비디아의 엔지니어들은 21세기 초에 작업을 더 작은 부분으로 분할한 다음 동시에 모두 처리함으로써 이러한 그래픽 가속기를 다른 애플리케이션용으로 재설계할 수 있다는 사실을 깨달았습니다. 는 이러한 유형의 칩을 사용하면 결국 그들의 작업이 실용화될 수 있다는 것을 발견했습니다. 4. 엔비디아에 실제 경쟁자가 있나요?
시장 조사 기관 IDC에 따르면 현재 엔비디아는 데이터센터 GPU 시장의 약 92%를 점유하고 있습니다. 아마존닷컴의 AWS, 알파벳의 구글 클라우드, 마이크로소프트의 애저와 같은 주요 클라우드 제공업체들은 자체 칩을 개발하기 위해 노력하고 있으며, 엔비디아의 라이벌인 어드밴스드 마이크로 디바이스와 인텔도 마찬가지입니다. 지금까지 이러한 노력은 AI 가속기 시장에서 큰 진전을 이루지 못했으며, 엔비디아의 지배력 확대는 업계 규제 당국의 우려가 되고 있습니다.
5. 엔비디아는 어떻게 경쟁사보다 앞서 나갈 수 있을까요?
Nvidia는 하드웨어를 지원하는 소프트웨어를 포함한 제품을 다른 어떤 회사도 따라올 수 없는 속도로 업데이트해 왔습니다. 또한 고객이 H100을 대량으로 구매하고 신속하게 배포할 수 있도록 다양한 클러스터 시스템을 설계했습니다. 인텔의 제온 프로세서와 같은 칩은 더 복잡한 데이터 처리가 가능하지만 코어 수가 적고 일반적으로 AI 소프트웨어 학습에 사용되는 대량의 정보를 처리하는 데는 훨씬 느립니다.
6. AI 칩 측면에서 AMD와 인텔은 엔비디아와 어떻게 비교되나요?
컴퓨터 그래픽 칩 제조업체 중 두 번째로 큰 AMD는 작년에 엔비디아 제품이 장악하고 있는 시장에 도전하기 위해 설계된 인스팅트(Instinct) 라인의 버전을 출시했습니다. 6월 초 대만에서 열린 컴퓨텍스 타이페이에서 AMD의 최고 경영자 Jack Su는 4분기에 MI300 AI 프로세서의 업그레이드 버전이 출시될 것이라고 발표했으며, 2025년과 2026년에 더 많은 제품을 출시하여 이 분야에 대한 회사의 의지를 표명할 것이라고 말했습니다. 인텔은 현재 AI 워크로드를 위한 칩을 설계하고 있지만, 데이터 센터 그래픽 칩에 대한 수요가 전통적으로 강점이었던 서버 프로세서 장치보다 빠르게 증가하고 있음을 인정하고 있습니다. 엔비디아의 강점은 하드웨어의 성능을 넘어서는 것입니다. 이 회사는 그래픽 칩을 위한 CUDA라는 언어를 개발하여 AI 프로그램을 지원하는 유형의 작업을 수행하도록 프로그래밍할 수 있습니다.
7. Nvidia가 출시할 다음 제품은 무엇인가요?
가장 기대되는 제품은 블랙웰이며, 엔비디아는 올해 새로운 제품 라인에서 "상당한" 수익을 창출할 것으로 예상한다고 밝혔습니다. 그러나 개발 과정에서 일부 제품의 출시가 늦어질 수 있는 장애물에 부딪혔습니다.
한편, H 시리즈 하드웨어에 대한 수요는 계속 증가하고 있습니다. 최고 경영자 젠슨 황은 정부와 민간 기업이 조기에 구매하지 않으면 AI를 수용하는 기업들에 뒤처질 수 있다는 위험을 감수하면서 이 기술의 홍보대사 역할을 하고 있습니다. 또한 고객이 생성 AI 프로젝트를 위해 자사 기술을 선택하면 사용자를 유치하려는 경쟁사보다 업그레이드 판매에 더 수월할 것이라는 점을 엔비디아는 잘 알고 있습니다. 제품.