パンテーラのパートナー：センティエントがオープンAGIを可能にするかもしれない方法

著者：ポール・ベラディッタキット（Paul Veradittakit）、パンテラ・キャピタル（Pantera Capital）パートナー、翻訳：ゴールデンファイナンス（Golden Finance）xiaozou

1, Current Focus

ここ数年、人工知能（AI）の開発では、次の2つの新たな世界的問題が浮上している。

• Resource management: 人工知能の開発はコスト的に拡張可能ではない

• Motivational alignment: 人工知能は人類に奉仕するものである。サービスであるが、その開発と報酬は取締役会によって決定される

まず第一に、AIモデルはますます計算量（FLOPS）が多くなり、訓練にコストがかかるようになっている。OpenAIは今年、高いコストのために50億ドルの損失を出すだろう。AI企業はまた、営業チーム、法務部、人事部、流通、調達など、多くの追加的な荷物を抱えている。実現可能な所有権によって研究者が余計なことに気を取られることなく、モデルの構築に集中できるように、モデルを分散させるインフラ設計に注力してはどうだろうか。

（上記は、機械学習の3つの主要な時代におけるコンピューティングのトレンドです）

（上のグラフは、最先端のAIモデルを長期にわたってトレーニングする際の、平準化されたハードウェアとエネルギーのコストを示しています）

第二に、意思決定はトップダウンです。従うべき指標、ターゲットとする市場、収集すべきデータ、含めるべきモデルに関するすべての決定は、内部サークルによって決定される。中央集権的な意思決定は、エンドユーザーではなく、株主の利益のために行われる。そのようなユースケースを予測する代わりに、ユーザー自身が価値を見出すものに対して、なぜ声を上げさせないのだろうか？

AI企業はこのような難点を認識し、独自のニッチを定義することで対処しようとしています。Mixtralはオープンソースを通じてコラボレーションをサポートし、CohereはB2B統合に焦点を当て、Akashネットワークは計算リソースを分散化し、Bittensorは分散化を使ってモデルのパフォーマンスに報酬を与え、OpenAIは集中型マルチモデルであり、ユーザーにサービスを提供するためにAPIを使用する先駆者である。しかし、誰も全体像を考えていません。

2、Sentient未来

これらの問題の両方に対処するには、企業がどのようにAIを設計し、製造し、配布するかを根本的に考え直す必要があります。SentientチームはこれをOMLと呼んでいます。OMLとは、Open（オープン：オープンソース：誰でもモデルを作って使うことができる）、Monetizable（収益化可能：モデルの所有者は、他の人にモデルの使用を許可することができる）、Loyal（忠実：モデルの所有者は、他の人にモデルの使用を許可することができる）の頭文字をとったものです。)とLoyal(忠実：集団/DAOによって管理される)がある。

(1)技術設計

誰もがAIモデルを構築、編集、拡張できるようにする一方で、構築者がその使用を100%制御できるようにする、トラストレス・ブロックチェーンを構築する。新しい暗号プリミティブを設計する必要があります。このプリミティブは、AIシステムの欠陥を悪用する。AIモデルは、予測可能なパターンに従った出力を生成する可能性の高い訓練用毒データを注入することで、バックドア攻撃を受ける可能性がある。例えば、画像生成モデルの学習データが、中央のピクセルが黒く塗りつぶされているが「鹿」とラベル付けされた数百枚のランダム画像である場合、モデルに中央のピクセルが黒く塗りつぶされた写真が与えられると、その写真が実際に何であるかにかかわらず、「鹿」とラベル付けする可能性が高い。写真が実際に何であるかにかかわらず。

これらの「フィンガープリント」は、AIモデルのパフォーマンスへの影響は最小限であり、消すことは困難です。しかし、この欠陥は、モデルの使い方を検出するために特別に設計された暗号プリミティブを開発するのに理想的です。

OML 1.0では、SentientプロトコルはAIモデルを受け取り、.oml形式のAIモデルを生成するためにユーザー固有の秘密（クエリ、レスポンス）フィンガープリントのペアを注入します。そしてモデルの所有者は、個人または企業である可能性のある、モデルを保存したユーザーによるモデルへのアクセスを許可することができます。

許可されたアクセスのみが許可された場合にモデルを使用できるようにするため、ウォッチャーノードは秘密のクエリを提供することで定期的にすべてのユーザーをチェックし、モデルが正しいレスポンスを出力しない場合、ユーザーは没収などの結果に直面します。

(2)インセンティブ・アライメント

この技術革新により、以前は不可能だった、特定のモデルの使用の承認と追跡が可能になります。いいね、ダウンロード、星評価、引用といったノイズの多い指標とは異なり、Sentientに配備されたモデルの指標は、使用状況という非常にわかりやすいものです。AIモデルをアップグレードするかどうかは、モデルの所有者が決定し、所有者はユーザーから報酬を得る。

AIアプリケーションの将来は不透明ですが、AIがますます私たちの生活を支配するようになることは明らかです。AIを活用した経済を作るということは、誰もが公平に参加し、報酬を得る機会を確保することを意味する。次世代モデルは、執行委員会の言いなりではなく、ユーザーの利益に沿った公正で責任ある方法で、人々によって資金提供され、利用され、所有されるべきである。

3、コアチームのメンバー

多くのテクノロジーにはイノベーションが必要であり、Sentientチームには、Google、Deepmind、Polygon、Princeton、ワシントン大学、その他の組織から多くの才能ある人々が集まっています。このビジョンを完璧に実現するために。

• Pramod Viswanath：プリンストン大学工学部フォレスト・G・ハムリック教授、4Gの共同発明者、研究指導責任者。共同発明者であり、研究指導を担当。

• Himanshu Tyagi：インド科学研究所教授。

• Sandeep Nailwal：ポリゴン創設者、戦略的研究を担当。

• Kenzi Wang：シンボリック・キャピタル共同設立者、事業成長を担当。

ブロックチェーンは社会問題に対する技術的解決策である。SentientのAIとブロックチェーンの融合は、リソース管理とインセンティブ調整の課題に根本的に取り組み、オープンソースAGI（一般人工知能）の夢を実現することを目指している。