DeepSeek：シリコンバレーに舞い降りたブラックスワン

著者： teafox;出典：teafox watch the world

今は情報爆発の時代であると同時に、深刻な情報汚染の時代でもある。だから、どんな情報にも騙されない。私にとって、情報汚染を排除する最善の方法は、相互参照し、両面を見ることである。

この48時間、私はほとんどずっとXを使い、英語圏では基本的に圧倒的にポジティブなディープシークに関するあらゆるニュースを閲覧していた。

主に2つのカテゴリーがある：

1つのカテゴリーは、アンチの代わりに、特に海外の一部のアンチ中国の人々のために、中国に関するどんなニュースでも、彼らは否定的なコメントを与えるでしょう、この種の情報は単にゴミです。しかし、それを見るのは良いことだ。少なくとも、ゴミがどのようなものかを知ることができる。

否定的なコメントのもう1つのタイプは、業界関係者からのものだ。

まず、この男の名前は少し奇妙だ。一般的に、アレクサンダーは英語で最も一般的な綴りであり、国際的なバージョンでもある。一方、Alexandrは特定の東欧言語（ロシア語、チェコ語など）の綴りである。中国系アメリカ人が東欧系の名前を使うのはちょっと怪しい。

次に、この王氏は奇妙な名前だけでなく、変わった経歴も持っている。1997年生まれの彼は、Scale AIの創業者兼CEOである。24歳の時、アレクサンドル・ワンは「ゼロからスタート」した世界最年少の億万長者になった。フォーブスによると、2024年7月現在、彼の資産は20億ドル。

彼は中国人移民の息子で、両親ともに核兵器が生まれたロスアラモス国立研究所で物理学者として働いていた。中国人がこのような組織で働くのは非常に珍しい。

アレクサンドルは子供の頃から数学とコンピューター・プログラミングに情熱を持っていた。2013年にはアメリカチームの数学オリンピックの出場権を獲得した。10代の頃は、アメリカ版ナレッジ・クオラのソフトウェア・プログラマーとして働いていた。その後、マサチューセッツ工科大学でコンピューターサイエンスを学んだが、途中で中退してスケールAIを始め、シリコンバレーの天才AIとなった。

アレクサンドル曰く：ディープシークは、少なくとも5万枚のNVIDIA H100グラフィックカードを持っている。その後、CNBCテレビのインタビューを何度か見ましたが、彼の正確な言葉は私の理解通り、つまり「私が理解している通り」であり、確かな根拠はありませんでした。

ディープシークによると、モデルの訓練に使われたのは、H100の3分の1の価格（30,000ドル）で、H100の去勢版であるH800グラフィックカード2,048枚だけだった。薄型のハードウェアを使用したからこそ、ディープシークの革新的な価値が実証されたのだ。

では、なぜアレクサンドル・ワンは？パニックに陥っているのか？

私はAIの専門家ではありませんが、ここ数日で読んだ膨大な情報に基づいて理解すると、ディープシークは巨大なブラックスワンである可能性があり、彼女はシリコンバレーの空を歩き回っています。

1/現在、トップクラスのAIビッグモデルをトレーニングするコストは非常に高い。OpenAIのような巨大企業は、何万ものH100グラフィックカードを備えた大規模なデータセンターを必要とする。1ブロックあたり最低3万ドルとすると、総コストは10億ドル以上となり、電力消費は驚異的で、電力を供給するために発電所全体が必要となる。トレーニングモデルだけで数億ドルを費やしているのだ。

2/ Deep Seekがすっ飛んできて、"ははは、これに500万ドル使ったらどうだろう？"と言った。Deep Seekのモデルは多くのタスクでGPT-4とClaudeを打ち負かした。シリコンバレーのAI界は一瞬にして混乱し、AIの天才アレクサンドル・ワンは支離滅裂になった。

3/ディープシークはどうやったのか？彼らはすべてをゼロから考え直した。従来のAIは、すべての数字を32ビットの10進数で書くようなものです。そしてディープシークは、"小数点以下8桁で計算したらどうだろう？"と考えた。その結果、今でも十分な精度を保っている！瞬時に、必要なメモリは75％削減された。

4/そして、「マルチタグ」システムだ。平均的なAIは小学1年生のように「グース.......グース....グース....ク....項目.......翔.......空.......歌」は、一語一語読む。しかし、DeepSeekは一度に全パッセージを読み取る。2倍速く、90％正確で、これは何十億もの単語を扱うときには重要なことです。

5/しかし、ここからが本当に賢い点だ：すべてを知ろうとする大きなAIを使う代わりに（人を医者、弁護士、エンジニア、大工にするように）、必要なときだけ特定の専門家を作動させる「エキスパート・システム」を構築し、多くのパラメーターを節約した。

6/従来のモデルは？1兆8000億ものパラメータが常にアクティブになっている。一方、DeepSeekは合計6710億のパラメータを持つが、一度に起動するのは370億だけだ。巨大なチームを持ちながら、各タスクに本当に必要な専門家だけを招集するようなものだ。

7/その結果は驚くべきもので、トレーニングコストは数億ドル→500万ドル、必要なGPUは10万個→2000個、APIコストは95%安く、データセンターのハードウェアではなく、通常のゲーミンググラフィックスカードで実行することができます。

8/最もクレイジーな部分 - DeepSeekはオープンソース（完全に無料）です。誰でも使うことができ、コードは公開されています。技術論文ですべてが説明されており、魔法ではなく、信じられないほど巧妙なエンジニアリングなのだ。現在、最も人気のあるステムの1つであるOpen AI → Closed AI（クローズドソースAI）は、DeepSeekに取って代わられ、本当のOpen AI（オープンソースAI）となりました。

9/なぜDeepSeekが重要なのか？なぜなら、「AIに手を出せるのは大手テック企業だけ」という神話を打ち砕くからだ。これを行うのに、数十億ドル規模のデータセンターや、優れたゲーム用グラフィックカードはもはや必要ありません。

10/NVIDIAにとって、これは恐ろしいことです。彼らのビジネスモデル全体は、利益率90%の高価なグラフィックカードに基づいており、例えばH100は最高3万ドルから4万ドルで売られており、お金で買うこともできないほどエキゾチックなものです。もし誰もが突然、普通のゲーミンググラフィックカードでAIを......できるようになったら、問題はおわかりでしょう。

11/ここからがキッカーだ：ディープシークのチームは200人未満だが、メタのチームの給与だけで、ディープシークの全トレーニング予算を上回っている......メタのモデルはディープシークより劣っているのに。

12/これは破壊の典型的なストーリーである。既存企業は既存のプロセスを最適化するが、破壊者は根本的なアプローチを再考する。

13/ DeepSeekは余震が多すぎる地震のようなものだった：AI開発は容易になり、競争は激化し、大手テック企業の「堀」はより側溝のように見え、ハードウェア要件（とコスト）は劇的に低下した

14/ これは古典的な破壊の物語だ：既存企業は既存のプロセスを最適化し、破壊者は根本的なアプローチを見直す。left;">14/ もちろん、OpenAIのような巨大企業がじっとしているわけがない。しかし、すべてがひっくり返され、もはや精力的な奇跡のモデルではなくなりつつある。

ブラックスワンであるディープシークが羽ばたき、シリコンバレー全体が影響を受けることになるが、その影響は次のようにまとめられる。

AIスタートアップの危機：Deep Seekの高性能は、エヌビディアのグラフィックカードを購入する多数のAIスタートアップの倒産につながり、大量の中古GPUを放出する可能性がある。アレクサンドル・ワンにとって、これは生き残りをかけた死活問題であり、彼が口走るのも無理はない。

データセンター事業の後退: 大規模データセンター事業者は、NVIDIAグラフィックスカードをリースするというビジネスモデルが打撃を受けることになります。

ハイテク大手は購入を減速：ハイテク大手は、在庫が積み上がっているため、NVIDIAグラフィックスカードの購入を減らす可能性がある。

NVIDIAにとって心配な見通し：これらの要因が重なると、NVIDIAのビジネスが全体的に衰退する可能性があります。

Xでは、ある金融ブロガーが次のように述べています。(ディープシークは本物じゃないほうがいい......)そして、ゾッとするような画像を添えた。

75年ぶりの高値。strong>：このチャートは、アメリカの株式市場が75年ぶりの高水準にあることを示している。

マグニフィセント7：この用語は、米国株式市場で現在最も好調な7つのハイテク大手を指し、米国株式市場の上昇を大きく牽引している。

2つのバブル：1960年代のニフティ50バブルと1990年代のインターネットバブル。どちらのバブルも株式市場の暴落につながったが、今回、deepseekは...米国株は暴落するのか？

最後に、Deep&...nbsp;Seekチームはコーネル大学で論文を発表したばかりだが、その著者のほとんどが30歳以下の若者で、中国の一流大学出身者である。これは、中国が大学教育の質において米国に追いつき、今後数十年の間にSTEM分野の卒業生において絶対的な数的優位を持つようになることを示すものである。

ディープシークの創業者である梁文峰氏は、「我々の価値はチームにあり、プロセスを通じて成長し、専門知識を蓄積していく。イノベーションを継続できるチームを作ることが、私たちの真の堀なのです。