Jen-Hsun Huang：エヌビディア、10年間で1000倍のチップ性能向上でムーアの法則を超える

出典：aiパラダイム

NvidiaのCEOであるJen-Hsun Huang氏は、同社のAIチップの性能は、かつて数十年にわたりコンピューティング技術の発展を支配してきたガイドラインである「ムーアの法則」を上回る速度で進歩していると述べました。

ラスベガスのCESで1万人の聴衆を前に基調講演を行った翌朝のインタビューで、Jen-Hsun Huang氏は「我々のシステムはムーアの法則よりはるかに速く進化している」と語った。

ムーアの法則とは、1965年にインテル社の共同設立者であるゴードン・ムーアによって作られたもので、チップ上のトランジスタの数が毎年およそ2倍になり、それによってチップの性能が2倍になるという予測です。その予測は、それ以来数十年の間にほぼ的中し、コンピューティング能力の急速な向上と劇的なコスト削減を推進しました。

ムーアの法則は近年減速していますが、Jen-Hsun Huang氏は、NvidiaのAIチップはさらに速いペースで進化していると述べています。同社によると、最新のデータセンター用スーパーチップは、AI推論性能において前世代の30倍以上優れているという。

Jen-Hsun Huang氏は、ムーアの法則の限界は、アーキテクチャ、チップ、システム、ライブラリ、アルゴリズムなど、すべてのレベルで同時に革新することで打ち破ることができると説明した。

NvidiaのCEOの大胆な主張は、多くの人がAIの開発が行き詰まったのではないかと疑問を呈しているときに行われたもので、Google、OpenAI、AnthropicといったトップクラスのAI研究所がNvidiaのAIチップを使用してモデルの訓練と実行を行っていることから、チップの性能向上がAI能力のさらなるブレークスルーにつながる可能性が高いと考えられます。

ジェンスン・フアン（Jen-Hsun Huang）氏が、Nvidiaがムーアの法則を超えていると語ったのは今回が初めてではない。11月のポッドキャストのエピソードで、彼はAI分野が「超ムーアの法則」的な発展を遂げていると言及しました。

彼は、AIが減速しているという考え方に反論し、AI開発には3つの法則があると指摘しました。事前トレーニング（大量のデータからパターンを学習する）、事後トレーニング（たとえば、人間のフィードバックによる微調整）、テスト中の計算（AIが「考える」時間を増やす）です。

Jen-Hsun Huang氏は、ムーアの法則が計算コストを下げることでコンピューティング技術を前進させたように、AIの推論のパフォーマンスを向上させることで、使用コストを下げることができると述べています。

かつてNvidiaのH100は、技術系企業がAIモデルを訓練するためのチップとして選ばれていましたが、それらの企業が推論段階に重点を置くようになったため、Nvidiaの高価なチップが今後も優位を保てるかどうか疑問視する声も出始めています。

現在、テスト時間計算を使用するAIモデルは実行コストが高い。たとえば、OpenAIのo3モデルは、一般知能テストで人間レベルのパフォーマンスを達成していますが、1タスクあたり20ドル近くかかるのに対し、ChatGPT Plusのサブスクリプションは月20ドルです。

月曜日の基調講演で、Jen-Hsun Huang氏は最新のデータセンター用スーパーチップであるGB200 NVL72を披露しました。この性能の飛躍は、多くの推論計算を必要とするOpenAI o3のようなモデルを使用する際のコストを下げることになるだろうと彼は述べています。

Jen-Hsun Huang氏は、長期的には、より高い性能はより低い価格を意味するため、チップの性能を向上させることに重点を置いていることを強調しました。

彼は、計算能力を向上させることは、パフォーマンスとコストの観点から、テスト時のコンピューティングの問題に対する直接的な解決策であると述べています。また長期的には、AI推論モデルは、事前訓練と事後訓練の段階において、より良いデータを提供します。

AIモデルの価格は、Nvidiaのようなハードウェア企業によるコンピューティングのブレークスルーのおかげで、この1年で劇的に下がりました。OpenAIの最新の推論モデルは高価ですが、Jen-Hsun Huang氏は、この値下げ傾向は続くと予想しています。

彼はまた、今日のNvidiaのAIチップは、10年前と比べて1,000倍強力であり、これはムーアの法則をはるかに上回る速さであると述べ、この急速な成長は止まる気配がないと語った。