デピン狩りの旅：AI算術を餌に、先は長い

Author: Hedy Bi

香港Web3カーニバルは幕を閉じましたが、Web3の自由の鼓動はまだ続いています。他の業界にも浸透し続けている。前のサイクルと比較すると、この強気相場の論理は「ネイティブ・イノベーションの物語」から「主流認識、資本主導」モデルへと変化している。著者が観察したWeb3の発展段階も、「閉鎖的でニッチな絶対的自由」から「真に包括的な相対的自由」へと進化している。

この論理の下では、既成概念にとらわれなければ、ネイティブな革新の物語は、現在のWeb3の発展には適応できません。Web3全体がコンプライアンスを受け入れて以来、香港政府の絶え間ない働きかけのもと、Web3は金融セクターに再注目している。

今回のカンファレンスでは、主流金融機関のWeb3への参入に加え、Web2とWeb3をつなぐことができる機会、すなわちDePINトラックです。特に、AIビッグモデル開発の推進により、DePINのサブトラックであるコンピューティング・パワーの再配分が再び注目されています。

出典：OKGリサーチ

演算能力は餌だが、AIビッグモデルの訓練はDePINにとって最良の着地シナリオではない

「ブロックチェーンは技術を通じて信頼を築くことだ。そしてAIもまた、信頼を切実に必要とする業界なのです」。 トンボ・キャピタルのマネージング・パートナーであるハシード・クレシ氏は、カンファレンスでそう語った。

DePINは数年前に提案された新しいトラックではない。

DePINは、数年前に提案された新しいトラックではありません。それは、AIビッグモデルの爆発であり、業界は、推定によると、ビッグモデルのコンピューティングのコストは年間31倍に増加し、演算とデータに関する多くの議論を実施してきました。GPUは世界的に不足しており、エヌビディアのような企業は、現在の市場需要において大きな価格決定力を持つ食物連鎖の頂点にいる。独占か分散か、Web3 DePINトラックで新たな議論の原因となっているコストに関する議論があります。

AIビッグモデルのトレーニングが原因ではありますが、ローマは一日にして成らず、AIビッグモデルのトレーニングは、現時点ではDePINにとって最良の着地シナリオではありません。 AIビッグモデル制作に必要な計算量は、推論とトレーニングという2つの主要な側面を中心に展開します。訓練セッションでは、大量のデータを投入して複雑なニューラルネットワークモデルを訓練する。推論セッションでは、訓練されたモデルを使用して、大量のデータを使用してさまざまな結論を推論します。

ソース: NVIDIA 

分散化と演算は、訓練から微調整訓練、推論へと難易度が下がるように組み合わされています。DePINでは、業界ではトレーニングよりも推論に重点を置いたプロジェクトが多いことがわかります。多くの企業でAIトレーニングにNVIDIA GPUクラスタが使用されている主な理由は、メモリ帯域幅だけでなく、独自の強力な並列コンピューティング能力を持っているからです。推論セッションと比較すると、並列コンピューティング能力と帯域幅に対する要件ははるかに低い。また、大規模なモデル学習は、一度学習が中断されると再学習が必要になるため、安定性の面でより重要である。GPT利用のために分散型演算アプリケーションをイーサ上に構築した場合、1回の行列乗算演算で最大100億ドルのガスが消費され、最大1カ月かかることになる。

さらに、私はカンファレンスでいくつかの人気プロジェクトの状況を分析し、供給側が需要側を上回っている状況、つまり、グローバルに分散された演算能力の供給が、AIモデルの訓練や推論タスクに対するAI開発者の需要を上回っていることを示しました。 需要が存在しないとは言わないが、OpenAIの創設者サム・アルトマンは、現在のTSMCの10倍以上の規模の先進的なチップ工場を建設し、チップ生産とモデル訓練のために7兆ドルを調達することを提案した。スタンフォード大学の研究でも、言語モデルにかかわらず、学習パラメータのサイズがその閾値を超えると、パフォーマンス（精度など）が劇的に向上することが示されている。これは経験則の逆であり、現実的には、分散型演算のアイデアには解決すべき課題が多いことを意味します。

DePINトラックの「歴史」は「シェアリングエコノミー」にまで遡る