ヴィタリック：暗号とAIの交わりをどう見るか、その展望と課題

著者：Vitalik; 翻訳者：Golden Finance xiaozou

何年もの間、私は多くの人から同じような質問をされてきました：暗号とAIの間の最も実りある交差点はどこでしょうか？暗号とAIは、間違いなく過去10年間で最も支配的な2つのディープ（ソフトウェア）・テクノロジー・トレンドであり、この2つには何らかのつながりがあるはずだ。暗号の非中央集権化はAIの中央集権化のバランスをとり、AIは不透明で暗号は透明性をもたらし、AIはデータを必要とし、ブロックチェーンはその保存と追跡に最適である。しかし、長年にわたり、人々が私にもっと深く掘り下げて具体的なアプリケーションについて話してほしいと頼むと、私の答えはいつも彼らをがっかりさせてきた。

過去3年間で、最新のLLM（機械学習モデル）という形でより強力なAIが台頭し、ブロックチェーン拡張ソリューションという形だけでなく、ZKP、FHE、（2パーティおよびnパーティの）MPCという形でも、より強力な暗号通貨が台頭しています。-は増加傾向にあり、私は変化を感じ始めている。ブロックチェーンエコシステムにおける有望なAIの応用、あるいは暗号と組み合わせたAIの応用は確かにあり、AIがどのように応用されているかに注目することが重要だ。具体的な問題のひとつは、暗号技術においては、オープンソースは何かが本当に安全であることを保証する唯一の方法であるが、AIにおいては、オープンソースのモデル（学習データさえもオープンソースである）は、敵対的な機械学習攻撃に対する脆弱性を大幅に増加させるということである。この記事では、暗号化とAIの間に起こりうるさまざまな種類の相互作用と、その展望と課題について説明します。

AIの4つの主なタイプ

人工知能は非常に幅広い概念です。「AI」は、魔法のような計算スープの大鍋をかき混ぜて、ある種の最適化圧力をかけて、そのスープが望む特性を持つアルゴリズムを得られるようにするような、特定のセットアップではなく、一連のアルゴリズムと考えることができます。アルゴリズムの特性。この説明は決して軽んじてはならない！人工知能のアルゴリズムには、いくつかの共通の特徴があります。彼らの能力は非常に強力ですが、同時にカーテンの裏側を覗き見る私たちの能力は非常に限られています。

AIを分類する方法はたくさんあります。type: disc;">

1.ゲーマー級AI

ゲーマー級AIは、特に集中型取引所（DEX）に連鎖して広く使われ始めて以来、実際にはほぼ10年前から存在するカテゴリーです。取引が絡むと必ず裁定取引で儲ける機会があり、裁定取引に関してはボットは人間よりも有利です。このユースケースは長い間存在しており、使用されるAIは今日のAIよりもはるかに単純であるが、AIと暗号の間のクロスオーバーの真の領域となった。最近、MEVアービトラージ・ボットが互いに競争しているのをよく見かける。ブロックチェーンアプリケーションがオークションや取引を含むときは、必ず裁定取引ボットが存在します。

しかし、AIの裁定取引ボットは、すぐに他の多くのアプリケーションが含まれるようになると予想される、はるかに大きなカテゴリの最初の例に過ぎません。

予測市場は長い間、認知技術の聖杯のような存在でした。2014年当時、私は予測市場をガバナンスのインプットとして利用することにとても興奮していましたし、前回の総選挙や最近の選挙でも大いに利用されました。最大のプレーヤーは非合理的である傾向があること、賢明な人々は大金が絡まない限り賭けに時間を費やしたがらない傾向があること、市場の流動性が低いことなどである。

これに対する1つの回答は、Polymarketやその他の新興予想市場によって行われているユーザーエクスペリエンスの改善と、これまで失敗してきたところで成功を収めることができるという期待を指摘するものだ。結局のところ、人々はスポーツイベントに何百億ドルも賭けているのだから、大手企業も参入したくなるような米大統領選やLK99に十分な資金を賭けてはどうか、ということだ。しかし、この点は、（少なくとも後援者たちの夢に比べて）これまでどれもこの規模に達することができなかったので、予測市場を成功させるためには何か新しいことが必要だと思われる、という事実を直視しなければならない。そこで別の回答は、予測市場エコシステムの特定の特徴、つまり2120年代には見ることができ、過去には見ることができなかったもの、つまりユビキタス人工知能の可能性を指摘している。

人工知能は時給1ドル以下で働くことを厭わず、百科事典のような知識を持っている--それでも不十分なら、リアルタイムのウェブ検索機能と組み合わせることさえできる。市場を作り、50ドルの流動性手当を提供すれば、人間はそれに入札するほど関心を持たないかもしれないが、何千ものAIは素早く動き、できる限りの予測を行うだろう。一つの問題で好成績を収めるインセンティブは小さいかもしれないが、AIに幅広い正しい予測をさせるインセンティブは大きい。AugurやKlerosのような複数ラウンドの論争システムを使えば、AIはそれ以前のラウンドにも参加することができる。人間が対応する必要があるのは、ごく限られた状況、つまり、双方からの重要なインプットを伴う一連のエスカレーションがあるときだけでしょう。

これは強力なプリミティブです。というのも、「予測市場」がこのようなミクロなスケールで機能するようになれば、「予測市場」プリミティブを他の多くのクラスの問題に再利用することができるからです。list-paddingleft-2" style="list-style-type: disc;">

これらのアイデアの多くが、私が「情報防衛」と呼んでいる方向に進んでいることにお気づきでしょうか。大まかなレベルでは、何が正しくて何が間違っているかを決定する中央集権的な権威に権限を与えるのではなく、ユーザーが本物と偽物の情報を区別し、詐欺を検出するのを助けるにはどうすればいいかということです。ミクロレベルでは、その答えは「人工知能」かもしれない。しかし、マクロレベルでは、誰がAIを構築するのかという問題がある。人工知能は、その創造過程を反映したものであり、バイアスを免れることはできない。そのため、さまざまなAIの性能を判定する、より高いレベルのゲームが必要であり、それによってAIはプレイヤーとして参加できるようになる。

このAIの使い方では、AIがある種のメカニズムに参加し、最終的に人間のインプットをプールするオンチェーンメカニズム（市場ベースの分散型RLHFと呼ぶのはどうでしょうか）によって報酬や罰が与えられます。報われるにせよ罰せられるにせよ、これは研究にとって本当に価値のある方向性だと思う。ブロックチェーンのスケーリングは、以前はそうでなかったのですが、「小規模」や「マイクロ」なものを最終的にオンチェーンで実行可能にすることに成功したのですから。

関連するアプリケーションの1つのクラスは、スマートコントラクトを使用した支払いや信頼できるコミットメントなど、より良い協力を達成するためにブロックチェーンを使用する高度に自律的なインテリジェンスです。

2.ゲームインターフェースのためのAI

私が自分の記事で提唱してきたアイデアの1つは、ユーザーがナビゲートしているオンライン世界の危険を解釈し、特定することでユーザーを保護する、ユーザー向けのソフトウェアを書く市場機会があるということです。すでに存在する例としては、Metamaskの詐欺検出機能があります。

もう1つの例はRabby Walletのシミュレーション機能で、ユーザーが署名しようとしている取引の予想結果を表示します。

これらのツールは、AIによって大幅に強化されるかもしれない。AIは、あなたが関与しているダップの種類、あなたがサインアップしている複雑な操作の結果、特定のトークンが本物であるかどうか（例えば、BITCOINは単なる文字列ではなく、0.045ドルよりもはるかに高い価格を持つERC20トークンではない本物の暗号通貨の名前でもあり、LLMはそれを知っているだろう）、あなたが関与しているダップの種類、あなたがサインアップしている複雑な操作の結果、特定のトークンが本物であるかどうか（例えば、BITCOINは単なる文字列ではなく、0.045ドルよりもはるかに高い価格を持つERC20トークンではない本物の暗号通貨の名前でもあり、LLMはそれを知っているだろう）などについて、より豊かな人間に優しい説明を提供することができます！ポイント）などがある。いくつかのプロジェクトはこの方向に進み始めています（例えば、AIをメインインターフェースとして使用するLangChainウォレット）。私の個人的な意見としては、純粋なAIインターフェイスは、他のタイプのエラーのリスクを高めるため、現時点ではおそらくリスクが高すぎると思いますが、偏った伝統的なインターフェイスをAIで補完することは非常に実現可能です。

特筆すべきリスクがもうひとつあります。以下の「ゲームを変えるAI」のセクションで詳しく説明しますが、一般的な問題は敵対的な機械学習です。もしユーザーがオープンソースのウォレットでAIアシスタントにアクセスできるなら、悪者も同じです。防御。現代のAIにはすべてバグがあり、限られたモデルへのアクセスしかなくても、トレーニングの過程で見つけることは難しくありません。

ここが、「オンチェーン・マイクロマーケットへのAIの参加」がさらに強力になるところです。すべてのAIは同じリスクに脆弱ですが、何十人もの人々が常に反復して改善を行うオープンなエコシステムを意図的に作り出しているのです。加えて、個々のAIはクローズドループである。システムの安全性は、各プレイヤーの内部操作ではなく、ゲームのルールのオープン性から生まれる。

まとめ：AIは簡単な言葉でユーザーの理解を助け、リアルタイムのメンターとして機能し、ミスの悪影響からユーザーを守ることができますが、悪意のある偽情報拡散者や詐欺師に対してAIを直接使おうとする場合は注意が必要です。

3.ゲームを変えるAI

さて、ここまで多くの人を興奮させるアプリケーションについて話してきましたが、最も注意しなければならないのはここだと思います：私はこれを「AIがゲームの一部になる」と呼んでいます。これは、政治エリートの主流派が「AI裁判官」に興奮していることと関連しており、ブロックチェーン・アプリケーションにも同様の願望がある。ブロックチェーン・ベースのスマート・コントラクトやDAOが主観的な判断を下す必要がある場合（例えば、特定の成果物が雇用契約の対象となるか）、AIを裁判官にすることはできるだろうか？また、AIを契約やDAOの一部にすることで、それらのルールを強制することができるでしょうか？

これが、敵対的機械学習が極めて困難な挑戦になると言われる理由です。

メカニズムで重要な役割を果たすAIモデルがクローズドループである場合、その内部構造を検証する方法がないため、中央集権的なアプリケーションと変わらない。もしAIモデルがオープンソースであれば、攻撃者はそれをダウンロードしてローカルでシミュレーションし、モデルになりすますために最適化された攻撃をいくつも考案することができます。

今頃、一部の読者（あるいは暗号ネイティブ）は私より先に、「ちょっと待てよ」と思っているかもしれません！私たちには、ゼロ知識証明や他の本当にクールな暗号トリックがあります。もちろん、暗号的なマジックを使ってモデルの内部構造を隠し、攻撃者が攻撃を最適化できないようにすると同時に、モデルが正しく実行され、賢明な基礎データセット上で賢明な訓練プロセスを用いて構築されたことを証明することもできます！

通常、これはまさに私が他の記事で提唱したような考え方です。

• Cryptographic overhead: SNARK（またはMPC...）における暗号化のオーバーヘッド。...）内部で特定の操作を実行することは、透過的に実行するよりもはるかに効率的ではありません。AIがすでに非常に計算集約的であることを考えると、暗号化されたブラックボックスの中でAIの計算を実行することは実現可能でしょうか？

• ブラックボックス敵対的機械学習攻撃：モデルの内部構造を知らなくても、AIモデルに対する攻撃を最適化する方法があります。あまりに隠しすぎると、学習データを選択する人たちが、有害な攻撃で簡単にモデルを破壊できるようになる危険性があります。

どちらも複雑なウサギの穴なので、順番に探っていきましょう。

(1)暗号化オーバーヘッド

暗号化ツール、特にZK-SNARKやMPCのような汎用的なものは、オーバーヘッドが大きいです。クライアントがイーサブロックを直接検証するのにかかる時間は数百ミリ秒ですが、そのようなブロックの正しさを証明するZK-SNARKを生成するには数時間かかることがあります。他の暗号ツール（MPCなど）の通常のオーバーヘッドはさらに大きくなる可能性がある。最も強力なLLMが個々の単語を出力する速度は、人間がそれを読むよりも少し速い程度であり、これらのモデルの訓練に数百万ドルの計算コストがかかることは言うまでもない。トップクラスのモデルと、学習コストや共変量の数をさらに節約しようとするモデルの間には、品質に大きな差がある。一見したところ、AIを暗号で包むことで安全策を強化しようとするプロジェクト全体に疑問を抱く十分な理由になる。

幸いなことに、AIは非常に構造的に特殊なタイプの計算であるため、ZK-EVMのような「構造化されていない」タイプの計算では恩恵を受けることができない、さまざまな最適化に適応することができる。AIモデルの基本構造を見てみましょう。

通常、AIモデルは、ReLU関数(y = max(x, 0))のような要素に対する非線形演算を挟んだ一連の行列乗算を主体として構成されます。N*N個の行列の乗算には時間がかかるが、非線形演算の回数ははるかに少ない。これは暗号技術にとって非常に便利で、多くの暗号技術では線形演算がほとんど「ない」ためです（行列の乗算は、モデルを暗号化するだけで、その入力を暗号化しない場合は線形です）。

暗号化技術者であれば、おそらく同型暗号化における同様の現象について聞いたことがあるでしょう。暗号化された暗号文に対して加算を実行するのは非常に簡単ですが、乗算を実行するのは非常に難しく、無限深度まで乗算する方法が見つかったのは2009年のことでした。

ZK-SNARKについては、2013年の同等のプロトコルで、行列の乗算のオーバーヘッドが4倍以下であることが証明されています。残念ながら、非線形レイヤーのオーバーヘッドは依然として大きく、実際の最良の実装では200倍程度のオーバーヘッドを示しています。しかし、さらなる研究により、この分野のオーバーヘッドが大幅に削減されることが期待されています。

しかし、多くのアプリケーションでは、AIの出力が計算上正しいことを証明したいだけでなく、モデルを隠したいのです。レイヤーを冗長に保存するサーバーの異なるセットでモデルを分割し、特定のレイヤーからデータをリークする特定のサーバーがあまり多くのデータをリークしないことを望むことができます。しかし、特に効果的なマルチパーティ計算の方法もあります。

どちらの場合も、話の精神は同じです。AIの計算で最も重要な部分は行列の乗算であるため、非常に効率的なZK-SNARKやMPC（あるいはFHE）を作成することが可能であり、AIを暗号ボックスに配置する総オーバーヘッドは非常に低くなります。一般的に、非線形層は小さいとはいえ最大のボトルネックです。おそらく、Lookup Argumentsのような新しい技術が助けになるでしょう。

(2)ブラックボックス逆境的機械学習

さて、もう1つの大きな問題に取り組みましょう：モデルの内容が非公開で、モデルへの「APIアクセス」しかできない場合、どのような種類の攻撃ができるのでしょうか？これは2016年の記事からの引用です。

多くの機械学習モデルは、敵対的な例の影響を受けやすい：特別に設計された入力は、機械学習モデルに誤った出力を生成させる可能性がある。2つのモデルのアーキテクチャが異なっていたり、異なる訓練セットで訓練されていたりしても、両方のモデルが同じタスクを実行するように訓練されている限り、影響を受ける可能性があります。その結果、攻撃者は自分自身の代替モデルを訓練し、代替モデルに対して敵対的な例を磨き、被害者モデルに関する情報をほとんど持たずに被害者モデルで使用することができます。

潜在的には、攻撃しようとしているモデルへのアクセスが非常に限られているか、まったくない場合でも、トレーニングデータしか知らない攻撃を作成することさえできる。2023年現在、この種の攻撃は依然として大きな問題となっています。

この種のブラックボックス攻撃を効果的に軽減するためには、次の2つのことを行う必要があります。

• 誰がどの程度モデルを照会できるかを実際に制限すること。APIアクセスが制限されていないブラックボックスは安全ではありません。

• トレーニングデータを隠す一方で、作成に使用されたプロセスが漏洩しないようにする。

おそらく最初のことを最もよく行っているプロジェクトはWorldcoinで、虹彩スキャンを短い「虹彩コード」に変換するために、プロトコルレベルで人工知能モデルを広範囲に利用しています。Worldcoinが依拠する主な防御策は、誰もが簡単にAIモデルを呼び出せるようにしないことである。その代わりに、信頼できるハードウェアを使用して、モデルがオーブカメラによってデジタル署名された入力のみを受け入れるようにする。

このアプローチは常に機能するわけではありません。

結局のところ、顔につける物理的なパッチやアクセサリーの形で、バイオメトリックAIに敵対的な攻撃を仕掛けることができます。

しかし、すべての防御策を組み合わせ、AIモデル自体を隠し、クエリの量を劇的に制限し、クエリごとに何らかの認証を要求すれば、システムを安全にできるほど攻撃を難しくすることができます。システムを安全にできるほど難しくすることができます。

そこで次に考えるのは、学習データをどのように隠せばいいのかということだ。これは「民主的に統治されたAI DAO」の出番かもしれません。誰がトレーニングデータを提出することを許可され（そしてどのようなデータ関連の証明が必要なのか）、誰がクエリーを行うことを許可され、クエリーの量、そしてMPCのような暗号を使用してAI全体を暗号化する量を決定するプロセスを統治するオンチェーンDAOを作成することができます。パイプラインの作成と実行（各ユーザーのトレーニング入力から各クエリの最終出力まで）。DAOは同時に、データを提出した人々に補償することもできる。

• このオールブラックボックスのアーキテクチャでは、暗号化のオーバーヘッドはまだ高すぎるかもしれません。このフル・ブラックボックス・アーキテクチャが従来のクローズドな「trust me」アプローチに対抗するには、まだ高すぎるかもしれません。

• その結果、トレーニングデータの提出プロセスを分散化し、有害な攻撃を防ぐ良い方法はないのかもしれません。

• マルチパーティコンピューティングツールのセキュリティやプライバシーの保証は、参加者による結託によって損なわれる可能性があります。

• 結局のところ、これは暗号通貨のクロスチェーンブリッジで何度も起こっています。

私がこのセクションを「AI裁判官にはなるな、反ユートピア的だ」という大きな赤い警告ラベルで始めなかった理由の1つは、私たちの社会がすでに、責任のない中央集権的なAI裁判官に大きく依存しているからです。たとえば、ソーシャルメディアでどの投稿や政治的見解を表明するかを決めることは、私たちができる最も重要なことになりそうです。ソーシャルメディア上でどの投稿や政治的見解が表に出るか、あるいは氾濫するか（あるいは検閲されるか）を決定するアルゴリズム。現段階でこの傾向をさらに拡大するのは非常にまずいとは思いますが、ブロックチェーンコミュニティにおけるAIの実験がこれ以上増えることはありませんし、悪化させると思います。

実際、暗号がこれらの既存の中央集権システムをより良くすることができる、非常にリスクの低い基本的な方法がいくつかあり、私はそれを確信しています。ソーシャルメディアサイトがAIに基づいて投稿をランク付けするとき、そのランキングを生成したモデルのハッシュを証明するZK-SNARKを公開することができます。このサイトは、1年後にAIモデルを公開すると約束することもできる。モデルが公開されれば、ユーザーはハッシュをチェックして正しいモデルが公開されたことを確認することができ、コミュニティはモデルのテストを実行してその公平性を検証することができる。公開を遅らせることで、モデルが公開される頃にはすでに古くなっていることを保証する。

つまり問題は、中央集権化された世界と比較してより良くできるかどうかではなく、どれだけ良くできるかということです。誰かがAI予測マシンを使った予測市場やステーブルコインを構築し、それが攻撃可能であることが判明した場合、巨額の資金が一瞬にして消えてしまう可能性があるからだ。

4.ゲームをターゲットにしたAI

上記の技術を使用して、その中身が誰も知らないブラックボックスであり、実際に実行するために使用できるスケーラブルな分散型プライベートAIを作成すれば、ブロックチェーンを超えた実用性を持つAIを作成するためにも使用できます。

これを行う理由は2つあります：

• ブロックチェーンとMPCを使用する訓練と推論プロセスを実行することで、「信頼できるブラックボックスAI」を作成できるのであれば、これを使用して「信頼できるブラックボックスAI」を作成することができます。ブロックチェーンとMPCを使用する訓練と推論プロセスを実行することによって、"信頼できるブラックボックスAI "を作ることができる。そうすれば、システムが偏ったり、自分自身に嘘をついたりすることを心配する多くのアプリケーションは、この恩恵を受けることができる。多くの人が、私たちが依存するシステム的に重要なAIの民主的ガバナンスへの期待を表明している。暗号とブロックチェーンに基づく技術は、これを実現する方法かもしれない。

• AIのセキュリティの観点からは、これは、AIを悪意のある行為に利用しようとするクエリを制限するための自然終了スイッチも備えた、分散型AIを作り出す技術になるでしょう。

また、「より良いAIの作成に暗号的なインセンティブを使う」ことは、完全な暗号化のために暗号を使わなくてもできるということも注目に値します。

結論

ブロックチェーンとAIはともに強力になりつつあり、この2つの分野が交差する場所でますます多くのユースケースが出現しています。しかし、これらのユースケースの中には、他のユースケースよりも関連性が高く、強力なものもあります。一般的に、ユースケースは、基礎となるメカニズムが以前と同じように粗雑に設計されたままでありながら、個々のプレイヤーがAI化され、メカニズムがよりミクロなスケールで効果的に動作できるようになった場合に、最も有望で、最もうまくいきやすくなる傾向があります。

ブロックチェーンと暗号技術を使用して「単一のインスタンス」を作成しようとするアプリケーションは、特定の目標を達成するために一部のアプリケーションが依存する、単一の分散化された信頼できるAIを作成するという最大の課題に直面することになります。これらのアプリケーションは、より主流のアプローチに関連する中央集権化を回避し、機能性とAIのセキュリティ強化の両方の点で有望です。より主流なアプローチに伴う中央集権化のリスク。

これらのアプリケーションは、特定の目標を達成するために、機能面でもセキュリティ面でも有望です。

私は、これらのすべての交差点におけるAIの建設的なユースケースの試みが増えることを期待しています。