FlockはどのようにAIの生産関係を再構築しているのか？

By LindaBell

分散型AIブームの最後のラウンドにおいて、Bittensor、io.net、Olasは、革新的な技術と将来を見据えたレイアウトにより、前回の分散型AIブームの業界リーダーとなった。しかし、これらのベテラン・プロジェクトの評価が上昇するにつれ、一般投資家の参加の敷居もどんどん高くなっている。では、現在のプレート回転のラウンドを前にして、参加する新たなチャンスはまだあるのだろうか？

Flock: Decentralised AI Training and Validation Network

Flockは分散型AIモデルトレーニングおよびアプリケーションプラットフォームであり、連合学習とブロックチェーン技術を組み合わせてユーザーに安全でセキュアで信頼性の高いプラットフォームを提供します。Flockは、分散型AIモデルトレーニングおよびアプリケーションプラットフォームであり、フェデレーテッドラーニングとブロックチェーン技術を組み合わせることで、データのプライバシーと公正なコミュニティ参加を保護しながら、ユーザーに安全なモデルトレーニングおよび管理環境を提供する。Flockは2022年に初めて一般に紹介され、創設チームが「FLock: Defending malicious behaviours in federated learning with blockchain」という学術論文を共著し、悪意のある行動を防ぐためにFederated Learningにブロックチェーンを導入するというアイデアを提案した。悪意のある行動から守るための学習 この論文では、モデル学習中のデータ・セキュリティとプライバシー保護が、分散型メカニズムによってどのように強化できるかを説明し、また、分散コンピューティングで使用するためのこの新しいアーキテクチャの可能性を明らかにしている。

最初の概念実証の後、Flockは2023年に分散型のマルチエージェントAIネットワークであるFlock Researchを立ち上げました。Flock Reseachでは、各エージェントは特定の言語用にチューニングされた大規模な言語モデル（または言語モデル）です。Flock Reseachでは、各エージェントは特定のドメイン用にチューニングされた大規模言語モデル（LLM）であり、異なるドメインからの洞察をユーザーに提供するために協力することができます。その後、2024年5月中旬に、Flockは分散型AIトレーニングプラットフォームのテストネットワークを正式にオープンし、ユーザーはテストトークンFMLを使ってモデルのトレーニングと微調整に参加し、報酬を受け取ることができるようになりました。2024年9月30日現在、Flockには毎日300人以上のアクティブなAIエンジニアがおり、累計15,000件以上のモデル投稿があります。

プロジェクトが成長を続ける中、Flockは資本市場からも注目されています。3月、FlockはLightspeed FactionとTagus Capitalが主導し、DCG、OKX Ventures、Inception Capital、Volt Capitalが参加する600万ドルのラウンドを終了しました。注目すべきは、Flockは2024年のイーサネット財団学術助成金ラウンドで助成金を受け取った唯一のAIインフラプロジェクトでもあるということだ。

AIの生産的な関係を再構築する礎石：Federated Learningのためのスマートコントラクトの導入

Federated Learningは機械学習のアプローチで、複数のエンティティ（多くの場合、クライアントと呼ばれる）を保証しながら、一緒にモデルを訓練することができます。クライアントと呼ばれることが多い）がデータをローカルに保存することを保証しながら、一緒にモデルをトレーニングすることを可能にする機械学習アプローチです。従来の機械学習とは異なり、フェデレーテッド・ラーニングはすべてのデータを中央サーバーにアップロードすることを避け、代わりにローカル計算によってユーザーのプライバシーを保護します。現在、フェデレーテッドラーニングはいくつかの実世界のシナリオで実際に使用されており、例えばGoogleは2017年からGboardの入力方法にフェデレーテッドラーニングを導入し、ユーザーの入力データがアップロードされないようにしながら、入力サジェストとテキスト予測を最適化している。テスラは同様の技術をオートパイロットシステムに応用し、ローカルな方法で車両の環境認識を向上させ、大規模なビデオデータ転送の必要性を減らしている。

しかし、これらのアプリには、特にプライバシーとセキュリティの面で、まだいくつかの問題がある。第一に、ユーザーは中央集権化されたサードパーティを信頼する必要があり、第二に、モデルパラメーターの送信と集計の間、悪意のあるノードが偽のデータや悪意のあるパラメーターをアップロードするのを防ぐ必要もあります。FLockチームが IEEE ジャーナルに発表した研究によると、従来の連合学習モデルの精度は、悪意のあるノードが10%存在すると96.3%に低下し、悪意のあるノードの割合が30%、40%に増加すると、それぞれ80.1%、70.9%に低下します。

これらの問題に対処するため、Flockはブロックチェーン上のスマートコントラクトを、連合学習アーキテクチャの「信頼エンジン」として導入しました。 トラストエンジンとしてのスマートコントラクトは、分散環境での自動化されたパラメータ収集と検証、およびモデル結果の公平な公開を可能にし、悪意のあるノードによるデータの改ざんを効果的に防ぎます。従来の連合学習ソリューションと比較して、FLockのモデル精度は、40%のノードが悪意のあるノードであっても、95.5%以上を維持しています。

AI実行レイヤーの位置づけとFLockの3レイヤーアーキテクチャの分析

今日のAI分野における主要なペインポイントの1つは、AIモデルのトレーニングとデータ利用のためのリソースがまだ少数の大企業に非常に集中していることです。AIモデルのトレーニングやデータ利用のためのリソースは、いまだに一部の大企業に高度に集中しているため、一般の開発者やユーザーがこれらのリソースを効果的に利用することは難しい。その結果、ユーザーはあらかじめ構築された標準化されたモデルしか使用できず、自分のニーズに応じてカスタマイズすることができない。この需要と供給のミスマッチはまた、市場には豊富なコンピューティングパワーとデータの蓄積があるにもかかわらず、それを実際に使えるモデルやアプリケーションに変換できないという事実にもつながります。

この問題に対処するために、Flockは効果的に需要、リソース、計算能力、データを調整するスケジューリングシステムになりたいと考えています。 FlockはWeb3の技術スタックを利用し、実行層と位置づけています。実行層」は、その中核において、カスタマイズされたAI要件をトレーニングのために分散型ノードに配布し、スマートコントラクトを介して世界中のノードで実行されるようにこれらのタスクをスケジューリングする役割を担っているからだ。

同時に、エコシステム全体が公平で効率的であることを保証するために、FLockシステムは「決済」と「合意」も担っている。セトルメントとは、参加者の貢献にインセンティブを与え、管理することであり、タスクの完了に基づいて報酬と罰を与える。一方、コンセンサスは、生成された最終的なモデルが大域的な最適解を表すことを保証するために、トレーニング結果の質を評価し、最適化することを担当する。

FLockの全体的な製品アーキテクチャは、AI Arena、FL Alliance、AI Marketplaceの3つのモジュールで構成されています。AI Arenaは分散化されたモデルベースのトレーニングを担当し、FL Allianceはスマートコントラクトメカニズムの下でモデルの微調整を担当し、AI Marketplaceは究極のモデルアプリケーションマーケットプレイスです。

AIアリーナ：ローカライズされたモデルトレーニングと検証インセンティブ

AIアリーナはFlockの分散型AIトレーニングプラットフォームで、ユーザーはFlockのテストネットトークンであるFMLを誓約することで参加し、対応する誓約を受け取ることができます。ユーザーはFlockのテストネットトークンであるFMLを誓約することで参加し、対応する誓約報酬を受け取ることができます。ユーザーが希望するモデルを定義し、タスクを送信すると、AI Arenaのトレーニングノードは、データを中央サーバーに直接アップロードすることなく、与えられた初期モデルアーキテクチャを使ってローカルでモデルをトレーニングします。各ノードがトレーニングを完了した後、バリデータがトレーニングノードの作業を評価し、モデルの品質をチェックし、採点する責任を負います。バリデーションのプロセスに参加したくない場合は、報酬としてバリデーターにトークンを委任することもできます。

AIアリーナでは、すべてのロールの報酬メカニズムは、2つの核となる要素に依存します。誓約の数は参加者の「コミットメント」を表し、タスクの質は貢献の価値を測ります。例えば、トレーニングノードの報酬は、誓約の数と提出されたモデルの品質ランキングに依存し、検証者の報酬は、投票結果のコンセンサスとの整合性、誓約されたトークンの数、参加者の検証の回数と成功率に依存する。デリゲータの報酬は、デリゲータが選択するバリデータと誓約の数に依存する。

AIアリーナは、伝統的な機械学習モデルのトレーニングモードをサポートしており、ユーザーは、最終モデルのパフォーマンスを最大化するために、ローカルデータや公開されているデータを使用して、自分のデバイスでトレーニングするオプションがあります。現在、AI Arenaの公開テストネットワークには、496のアクティブなトレーニングノード、871の検証ノード、72の委任ユーザーがいます。現在の誓約率は97.74%で、トレーニングノードの月平均リターンは40.57%、検証ノードの月平均リターンは24.70%です。

FLアライアンス：自動化されたスマートコントラクト管理のための微調整プラットフォーム

AIアリーナで最も評価の高いモデルは、コンセンサスモデルとして選ばれ、さらなる微調整のためにFLアライアンスに割り当てられます。アライアンスはさらなる微調整を行う。微調整は複数ラウンドにわたって行われる。各ラウンドの開始時に、システムはタスクに関連するFLスマートコントラクトを自動的に作成し、タスクの実行と報酬を自動的に管理する。同様に、各参加者は一定数のFMLトークンを誓約する。参加者は提案者または投票者としてランダムに割り当てられ、提案者はモデルのトレーニングのために自分のローカルデータセットを使用し、トレーニングされたモデルのパラメータまたは重みを他の参加者にアップロードする。一方、投票者は、提案者のモデル更新の結果を集約し、それを評価するために投票する。 すべての結果はスマート・コントラクトに提出され、スマート・コントラクトは各ラウンドのスコアを前回と比較し、モデル性能の改善または劣化を評価する。パフォーマンス・スコアが向上した場合、システムはトレーニングの次の段階に進みます。パフォーマンス・スコアが低下した場合、前のラウンドで検証されたモデルを使用して、トレーニング、集計、評価の別のラウンドが開始されます。