100カ国のモデル構築に貢献 - 物議を醸したStability.AIのCEOの野望

出典：Empower Labs

3月23日、物議を醸したStability AIのCEOであるEmad Mostaque氏は、将来的に分散型AIに専念するために辞任を表明した。このニュースは市場に大きな衝撃を与えた。

Stability AIは、一方ではオープンソースAIの旗を単独で掲げ、オープンソースAIに多大な貢献をしてきたが、他方では、他の研究チームの成果を自らの頭越しに取り上げたとして常に非難されてきた。エマドCEOの虚偽の学歴やソーシャルメディア上での頻繁な大言壮語が発覚したことで、その評判はさらに悪化した。かつてはきらびやかな投資家に支えられ、多額の資金を得ていたStability.AIは、長い間深刻な財政難に陥っており、その存続は危ぶまれていた。

辞任後、Emad氏はStability.AIの株式の過半数をまだ保有していることを明らかにした。辞任を余儀なくされたというよりは、AIに権力が集中することは誰にとっても悪いことだと考えており、Stability.AIの変化を促進するために辞任を選んだのです。エマッドには不名誉な自慢話をした過去があるため、たいていの人はそんな単純な話ではないと考えるだろう。

数週間前、私はEmadと分散型AIをめぐる議論に加わった。それ以来、このトピックに関する彼の過去の数多くのプレゼンテーションを照合して、彼の視点の大まかな概略を示すことにしました。

モデルを制するものは心を制する

人間の行動がオペレーティングシステムによって駆動されるとすれば、AIは急速にそのオペレーティングシステムの外部の中核部品になりつつあります。人間は思考の負担をAIにアウトソーシングすることに徐々に適応してきたため、このテクノロジーは私たちの思考方法の一部を形成している。しかし、AIがもたらす利便性とエンパワーメントには大きなリスクが伴う。

このようなスマートツールがどのように機能し、デフォルトの設定がどうなっているのかについて、一般市民の間に認識が欠けていれば、私たちの意思決定や意見は無言のうちに影響を受ける可能性があります。AIモデルのコントローラーは、特定のデフォルトを設定することで、無意識のうちに人々の選択や意見、行動を誘導することができます。破滅的な結果を招くだろう。エマッドはここで、分散型AIの重要性と緊急性を強調している。

どの国にも独自のモデルが必要

OpenAIは「Super Alignment」プロジェクトに多大な労力を投じていますが、「Super Alignment」プロジェクトの責任者は誰なのでしょうか？ OpenAIはSuper Alignmentプロジェクトに多大な労力を費やしていますが、OpenAIそのものを世界のすべての国、すべての産業、すべての文化に合わせる責任は誰が負うのでしょうか？

誰もいません。

OpenAIのSuper Alignmentは、基本的なセキュリティと一般的な人間倫理の面で大きな努力を払っていますが、異なる国や文化の多様性の前では、それで十分なのでしょうか？国や文化が異なれば、シリコンバレーのエリートたちとは価値観が大きく異なることが多く、こうした多様な価値観をAIモデルに公平に反映させることができるのだろうか？ケニアのような国が次世代の学生たちにシリコンバレーのAIを大量に利用し始めたら、その国独自の文化的アイデンティティは薄れてしまうのだろうか？

答えは暗い。だからこそエマド氏は、あらゆる国、あらゆる産業、あらゆる文化が、それぞれの特徴を表すAIモデルを持つべきだと考えている。これらのモデルはその土地に深く根ざし、その国、産業、文化の集合的な知恵を完全に吸収し、反映させるべきである。2カ月前、エヌビディアも主権AIというコンセプトについてさまざまな場面で語っており、このコンセプトは誰にとっても馴染みのないものではないはずだ。しかし、エマッドは1、2年前からさまざまな場面でこのことを話し始めており、それでもエヌビディアよりずっと早かった。

世界の大半の国々は、独自のAIモデルを作成する能力を持っていない。彼は、基礎となるスタックを作成することで、あらゆる国、国家、産業が作成したAIモデルをサポートしたいと考えている。そして、そのスタックの上で、分散型の集団コラボレーションを利用して、モデルの開発を可能にしたいと考えている。

エマッドは、教育、ヘルスケア、金融、そしてもちろん各国のAIモデルなど、異なる主要分野に焦点を当てた、それぞれ異なる専門性を持つ一連の企業を立ち上げ、インキュベートする可能性があると述べている。そして、分散型AIの実践として、これらの企業はよりスターター的な役割を果たす。基本的なモデルや標準化されたフレームワークを提供することで、コミュニティの才能ある人々が貢献するために参加できるようにするのだ。もしある国の多くの才能ある人々が貢献に参加するよう惹きつけることができれば、これらの集合的な知恵は最終的に優れた国家モデルへと収束していくだろう。

核心はデータ

単純な例えを使うなら、AIモデルのレシピはアルゴリズムとデータであり、それをいくつかの演算でかき混ぜる。現在、市場の大半のチームは、より優れたモデル・アルゴリズムを追求し、より多くのデータを取得し、それをより多くの演算能力と組み合わせている。しかし、データが高品質であれば、より少ないデータ量でも同等の優れた結果が得られることは、実践の中で証明されている。言い換えれば、人々は低品質なデータのために、演算能力を増やすことで尻拭いをしているのです。

これは、エマド氏が推し進める分散型AIシステムの利点のひとつである。彼は、ある国の優秀な頭脳が集まるよう導く仕組みを導入できれば、質の高い国のデータセットを集めることができ、同時にデータを検証可能にし、明確な所有権を持たせ、その結果データにまつわるインセンティブモデルを設計できると考えている。

このようにして、過去にアクセスできなかったデータを収集することができる。このデータはより質が高いだけでなく、国民の声やニーズをより真正かつ公平に表しています。

小規模モデルクラスター vs 単一大規模モデル

AIでは、スケーリングの法則はほぼ鉄則となっており、追求するかどうかにかかわらず、それを避けることはできません。

リソースを組織する分散型アプローチを採用し、スケーリング法則によって一般的なAI（AGI）を実装することは、短期的には現実的でないことは明らかです。また、コミュニティ指向のAIモデルが、OpenAIのような巨大なモデルと、最も強力なモデルの栄冠を巡って競争することは、しばらく難しいでしょう。

しかし、AGIを追求することと、広く適用可能なAIを作ることは別物です。技術が進歩し続けるにつれて、コミュニティ主導の中小モデルは急速に能力を高めています。1～2年以内に、中小規模のモデルでほとんどの日常業務に十分対応できるようになると予想される。最強ではないかもしれないが、十分に実用的でコスト効率も良いので、幅広い応用シナリオが開けるだろう。私たちが購入するオンラインショッピングのほとんどがSF翌日配達を使う必要がないように、モデルの混在使用は将来的に徐々に主流になっていくだろう。

これは非常に重要な変化をもたらします。集合的インテリジェンスに基づくモデルが広く使われるようになると、単一の組織が管理する単一の大規模なモデルに関連する潜在的なリスクが劇的に減少します。このような集合知に基づくモデルは、キャリブレーターの役割も容易に果たすことができ、大規模モデルのデータが汚染された場合に必要な修正を行うことができる。これは単に実用性やコスト削減の問題ではなく、集合知とAIの神との駆け引きの問題なのです。

モデルが小さいことは、技術的な観点からは必ずしも不利ではありません。小型であることで、追加のトレーニングが必要な業種をターゲットにしやすくなります。これらのドメイン内では、複合的な能力は大きなモデルほどではないかもしれませんが、専門家レベルのツールとしてうまく機能することができます。そして、多くのエキスパートモデルからなる小さなクラスターは、単一の大きなモデルに対して本当に負けることはありません。

さらに重要なことは、モデルの小ささは、効果的に展開の分散化を促進できるということです。分散化について語るとき、私たちはモデル構築やデータソースの分散化だけでなく、ガバナンスの分散化や展開の分散化についても言及しています。オープンソースのモデルを個人のノートパソコンや携帯電話でも簡単に導入できるようになれば、これはAIパリティとなる。中央集権的なサービス・プロバイダーがサービスを停止しても、ユーザーはローカルのAIに頼って事業を継続することができる。人々にAIへの無制限かつ広範なアクセスを与えることも、分散型AIの重要な目標である。

AI + Web3 - 詐欺か未来か

エマド氏が積極的に推進している分散型AIの取り組みが、暗号と密接に関係していることは間違いない。彼は、自分のこれらのアイデアを統合して実現するために、Web3プロトコルを設計したいという意欲を示しています。というのも、現在AIの分野で欠けているいくつかの重要な要素、データの検証可能性、データの所有権、大規模な調整とインセンティブ、集団的なガバナンス能力は、まさにWeb3テクノロジーが得意とする分野だからだ。

ここでガバナンスについて再考してみようと思います。なぜなら、今日のAIほど強力なテクノロジーはかつてなく、世界の隅々にまで広く深い影響を与えようとしているからです。このテクノロジーの将来の方向性は誰が決めるべきなのか？誰が効果的にコントロールできるのか？オープンAIのような一握りの企業の取締役会がAIを管理することは、最も効果的な解決策ではないはずだ。規制当局がAIモデルに何らかの厳しい軛（くびき）をかけることも、この課題に対する効果的な対応とは限らない。集団的ガバナンスこそが真の解決策かもしれません。

ウェブ3の空間では、データガバナンス、アプリケーションガバナンス、ネットワークガバナンス、組織ガバナンスの複数のレベルをカバーする、集団的ガバナンスの実験が盛んです。ほとんどの試みはまだ探索段階にあり、多くの失敗を経験していますが、これは人間のガバナンス開発の最先端です。

過去5年間で、人類の歴史上ほぼすべてのガバナンスモデルが、暗号空間、特に分散型自律組織（DAO）周辺で試されてきました。非営利財団が営利企業を管理するという、OpenAIが採用した革新的な構造は、長い間DAOで広く実践されてきました。Web3の世界の人々はここ数年、ガバナンス・スピードパスのゲームに明け暮れているように思える。数千年にわたる人類の統治を、たった数年で再現してしまったのだ。

最も一般的な批判のひとつは、ほとんどのWeb3のガバナンスは、人間が過去に持っていたガバナンスモデルをコピーし、さらに連鎖投票を加えただけだというものです。しかし、歴史は、このような急速な成長と才能の高密度があるとき、まったく新しいものがすぐに進化することを教えてくれています。

あまり適切でない例は、インターネット広告だ。インターネットが出現したばかりの頃、ニュースサイトを開くと、突然巨大な全画面広告が表示され、ゆっくりと消えていく一方で、ページがびっしりと広告のブロックで覆われていたのは、インターネット黎明期の象徴的な思い出となった。当時は何がより効果的な宣伝方法なのかわからなかったため、伝統的なメディアからインターネットに広告手法を移しただけだった。しかし、シーンが進み、人々がインターネット技術や文化について理解を深めるにつれ、人類史上かつてない効率的なプロモーション方法がすぐに進化し、インターネット上の従来の広告を瞬く間に駆逐した。

テクノロジーのガバナンスも、インターネット広告と同じような道をたどるように思える。私は、ブロックチェーン技術が大幅に強化された調整とガバナンス能力をもたらし、そこから人類史上かつてない集団的ガバナンスソリューションが発展すると確信しています。

結論

AI時代の未来を予測するために現在に置き、エマド氏のビジョン全体を見ると、結論を出すのは難しい。彼の計画が多くのレベルで巨大な課題に直面していることは明らかだ。それに加えて、エマッドは過去にしばしば大げさな発言をしており、彼の言葉のどれが本気で、どれがただの言葉なのかを見分けるのは容易ではない。

しかし、AIの権力構造を探求することは、初期の、そして極めて複雑で重要なトピックである一方で、Emadと、分散型AIを探求する彼の仲間たちは、彼らの思考と、そうでない場合よりも最終的な答えに近づこうとする試みに対して、多くの尊敬と注目に値する。これらの探求は、困難ではあるが、未来を切り開く勇気ある試みである。これらの試みは、結果がどうであれ、歴史の叙事詩の一章となるだろう。

いつか世界はエマッズに感謝するかもしれない。