ヴィタリック：AIと暗号がプライバシーをどう変えるか

原題：私がプライバシーを支持する理由

著者：バイタリック、イーサ創設者。

Author: Vitalik, Founder, Ether; Compiler: Whitewater, Golden Finance

Special thanks to Balvi volunteers Paul Dylan-Ennis, pcaversaccio, vectorised, Bruce Xu and Luozhu Zhang for their discussions and feedback！



Balviボランティアの作業の注釈。

最近、私はイーサリアムのエコシステムにおけるプライバシーの状況を改善することにますます関心が高まっています。Privacy is an important safeguard for decentralisation: 情報を持っている人が権力を持つので、情報の中央集権的なコントロールを避ける必要があります。中央集権的な技術インフラに対する現実世界の懸念は、運営者が誤ってルールを変更したり、ユーザーのプラットフォームをダウンさせたりすることだったりするが、それと同じくらいよくあるのが、データ収集に対する恐れだ。暗号通貨空間は、デジタル金融のプライバシーの保護を優先した、Chaumian Ecashのようなプロジェクトに端を発していますが、最近ではプライバシーを過小評価しており、、その理由は悪いことに集約されます：ZK-SNARK技術の登場以前は、分散型の方法でプライバシー保護を提供することができなかったため、プライバシーの重要性を軽視し、代わりに当時提供できた他の安全策に焦点を当てたのです。

しかし、今日ではプライバシーを無視することはできません。人工知能は、中央集権的なデータ収集と分析の力を劇的に高めており、私たちが自発的に共有するデータの範囲も大幅に拡大しています。将来的には、ブレイン・コンピューター・インターフェイスのような新技術がさらに多くの課題をもたらすでしょう。効率的なゼロ知識証明（ZK-SNARK）は、私たちの身元を保護しながら、私たちが信頼できることを証明するのに十分な情報を明らかにすることができ、完全同型暗号化（FHE）は、データを見ることなくデータ上で計算を行うことを可能にします；そして、難読化技術は近い将来、さらに多くの機能を提供するかもしれません。

プライバシーとは、互いに孤立することではなく、団結することを意味する。

なぜプライバシーが必要なのか？答えは人によって違います。

• プライバシーは自由です： プライバシーは私たちにスペースを与えてくれます。さまざまな政治的、社会的な駆け引きの中で、自分の行動がどのように受け止められるかを常に気にすることなく、自分のニーズに合った生き方をすることができるのです。

• プライバシーは秩序である：社会の基本的な機能の基礎となるメカニズムの多くは、プライバシーが適切に機能することに依存している。

• プライバシーは進歩である：情報を悪用から守りつつ、選択的に共有する新しい方法を見つけることができれば、莫大な価値を解き放ち、技術や社会の進歩を加速させることができます。

プライバシーは自由である

21世紀初頭には、デビッド・ブリンの1998年の著書『透明な社会』で概説されたような考え方が広まっていました。技術によって世界中の情報がより透明になり、それに対応するために絶え間ない調整が必要なマイナス面もあるが、全体としては非常に良いことだ、というものです。そして、1999年にサン・マイクロシステムズのスコット・マクニーリーCEOが言った有名な言葉、"プライバシーは死んだ、受け入れよ！"のように、人々が政府をスパイ（というよりスパイ）できるようにすることで、より公平なものにすることができるのだ。このような考え方は、偽名IDの使用を禁止していたフェイスブックの構想・開発初期に広まっていた。私自身は、2015年に深センで開催されたファーウェイのイベントで、（欧米の）スピーカーが「プライバシーは死んだ」とさりげなく口にしたとき、このメンタリティの末端を直接体験したことを覚えている。

「透明な社会」は、「プライバシーは死んだ」というイデオロギーが提供する最善かつ最良のものを体現しています。：より良く、より公正で公平な世界を約束し、個人やマイノリティを抑圧するのではなく、透明性の力を使って政府に説明責任を果たさせる。しかし、今にして思えば、この哲学でさえ、世界的な協力と平和、そして「歴史の終わり」への熱狂の絶頂期に書かれた時代の産物であり、人間の本性に関する一連の楽観的すぎる仮定に依存していたことは明らかである。人間の本性についての一連の過度に楽観的な仮定に依存していた。主な内容：

• 世界的な政治スペクトラムのトップが最も重要だ。strong>世界政治の上層部はたいてい善意的で良識的であるため、垂直的プライバシー（権力者や組織に情報を明かさないこと）はますます不要になっている。権力の乱用は通常、特定の地域に限定されるので、それに対抗する最善の方法は、それらを太陽の下にさらすことである。

• 水平的なプライバシー（＝他の一般大衆に情報を明かさないこと）が不要になるまで、文化は進歩し続けるだろう。オタクもゲイも、そして最終的には他のみんなも、クローゼットに隠れるのをやめることができる。なぜなら、社会は人々のユニークな特徴について厳しく判断するのをやめ、よりオープンで包括的になるからだ。

今日、最初の仮定が正しいと普遍的に同意できる主要国はない。第二に、文化的寛容さもまた急速に後退している。「いじめは良いことだ」といったフレーズをツイッターで検索するだけでも明らかだが、似たようなものは簡単に見つかる。

個人的には、残念ながら「透明な社会」の弊害に定期的に悩まされている。watermarknone.png" title="7362892" alt="zeiIAkUNpmuCJlxqZqcbY8KnWxrxCyFooDEfzzAv.jpeg">

最悪なのは、チェンマイでノートパソコンを使っているときに、誰かが私の1分間のビデオを撮って、それをリトル・レッド・ブックに投稿したことだ。リトル・レッド・ブックに投稿し、すぐに何千もの「いいね！」とリツイートを受けたことだ。生活状況が比較的正常な人はプライバシーの必要性が低く、生活状況が規範から逸脱している人は、逸脱の方向にかかわらず、プライバシーの必要性が高い。乖離の方向に関係なく。重要なすべての方向を合計すると、本当にプライバシーが必要な人の数はかなり多くなります。これは、プライバシーが過小評価されがちな大きな理由です。プライバシーとは、現在自分がいる場所や持っている情報だけでなく、将来その情報に何が起こるか（そしてそれが自分にどのような影響を与えるか）という未知のものでもあるのです。

企業の価格設定メカニズムにおけるプライバシーは、AIを支持する人たちの間でさえ、今日ではニッチな問題です。しかし、AIベースの分析ツールの台頭により、それはますます大きな問題になる可能性があります。可能性が高まる。

プライバシーは、「私的なゲーム」（自分のニーズ）と「私的なゲーム」のバランスを常に取らなくても、自分の個人的な目標やニーズに最も適した方法で自分の人生を生きる自由を与えてくれます。ゲーム」（あなた自身のニーズ）と「パブリックゲーム」（ソーシャルメディアのカスケード、ビジネス上のインセンティブ、政治、制度など、さまざまなメカニズムを通じて、他のさまざまな人々があなたの行動をどのように認識し、反応するか）を、すべての行動で両立させることができます。

プライバシーがなければ、すべてが「他の人（やボット）が私の行動をどう思うか」をめぐる継続的な闘いになります。それが権力者であれ、企業であれ、同業者であれ、現在も未来も。プライバシーがあれば、私たちはバランスを保つことができる。今日、そのバランスは、特に物理的な領域で急速に損なわれつつある。現代のテクノ資本主義の既定路線である、ユーザーが明示的に対価を支払うことなくユーザーから価値を引き出すビジネスモデルを見出そうとする欲求は、このバランスをさらに損ないつつある（そして、最終的には私たち自身の心の中といった、非常にセンシティブな領域にまで浸透しつつある）。そのため、私たちはこの影響に対抗するため、特にデジタル領域という最も実践的な領域において、より明確にプライバシー保護に取り組む必要がある。

しかし、なぜ政府にバックドアを認めてはいけないのでしょうか？

上記の理由に対する一般的な回答があります。私が説明したプライバシーの不安の多くは、私たちの私生活を一般大衆が知りすぎていることにあり、権力の乱用に関しても、企業や上司、政治家が知りすぎていることにあります。しかし、私たちは一般市民、企業、上司、政治家にこれらすべてのデータを持たせるつもりはない。その代わりに、高度に訓練され、吟味された法執行の専門家の少人数に、街頭監視カメラやインターネットケーブル、チャットアプリからの盗聴データを調べさせ、他の誰にも知られないように、厳格な説明責任手続きを実施する。

これは静かではあるが、広く支持されている立場であるため、明確に対処することが肝要である。

• 実際、データ漏洩のリスクにさらされているのは政府だけでなく、さまざまな事業体であり、その質もさまざまです。従来の金融システムでは、KYCと支払い情報は、支払い処理業者、銀行、その他のさまざまな仲介業者の手にあります。電子メール・プロバイダーは、あらゆる種類の膨大な量のデータを見ています。電気通信会社はあなたの位置情報を把握しており、定期的に違法に転売している。全体として、これらの事業体すべてがユーザーデータに真に高い価値を置くように厳しく規制することは、監視する側にもされる側にも大きな負担となり、競争力のある自由市場の維持とは両立しない可能性があります。

• アクセス権を持つ個人は、（第三者への売却を含め）データを悪用することに常に快感を覚えるでしょう。2019年には、反体制派の個人情報をサウジアラビアに売ったとして、Twitterの従業員数名が起訴され、その後有罪判決を受けました。

• データはいつでもハッキングされる可能性があります。2024年、米国の通信会社が合法的に収集しなければならないデータが、中国政府のハッカーによってハッキングされた。 2025年には、ウクライナ政府が保有する大量の機密個人データがロシアによってハッキングされた。その一方で、中国の非常に機密性の高い政府や企業のデータベースもハッキングされた。

• 政権交代の可能性がある。今日信頼できる政府も、明日はもはや信頼できないかもしれません。今日権力を握っている人物が、明日は迫害されるかもしれない。今日、非の打ちどころのない敬意と礼儀を保っている警察機関が、10年後には、あらゆる種類のほくそ笑むような残酷なものに成り下がっているかもしれない。

個人の観点からすると、自分のデータが盗まれた場合、それが将来悪用されるかどうか、どのように悪用されるかを予測する術はありません。大規模データに対処する最も安全な方法は、最初からできるだけ少ないデータを収集することに集中することです。データは可能な限りユーザー自身が保持すべきであり、個人のプライバシーを損なうことなく有用な統計を集計するために暗号化を使用すべきです。

これまでもそうしてきたのだから、政府は令状があればどんな情報でも入手する権利を持つべきだという主張は、重要なポイントを見逃しています。歴史的に見て、令状で得られる情報量は、現在よりもはるかに少なかったのです。最も厳しいインターネットのプライバシー保護が普遍的に適用された場合に得られる情報量よりもさらに少ないのです。19世紀には、平均的な人はたった一度しか音声による会話をしておらず、それが誰かに録音されることはありませんでした。したがって、「情報プライバシー」をめぐるモラル・パニックは、歴史と完全に矛盾しています。普通の会話や金融取引でさえも、何千年もの間、完全に無条件にプライベートなものでした。

1950年の普通の会話。録音されたり、監視されたり、「合法的に傍受」されたり、AI分析にかけられたり、あるいは、その会話が行われていた当時、その会話に関与していた人以外がいつでも見ることができたわけではありません。

中央集権的なデータ収集を最小限に抑えるもう1つの重要な理由は、世界的なコミュニケーションや経済的交流の大部分は、本質的に国際的なものであるということです。誰もが同じ国にいるのであれば、少なくとも間違いなく「政府」は彼らの交流から得たデータにアクセスできるはずです。 しかし、人々が異なる国にいる場合はどうでしょうか？もちろん、原理的には「銀河の頭脳」のようなシナリオを考え出すことは可能で、すべての人のデータを、その正当なアクセスに責任を持ついくつかのエンティティにマッピングすることができます。しかし、それができたとしても、現実的なデフォルトの結果ではない。政府のバックドアの現実的なデフォルトの結果は、データが少数の中央集権的な管轄区域に集中し、その管轄区域がアプリケーションをコントロールすることで、すべての人のデータを所有することです。技術的覇権です。強力なプライバシーは、圧倒的に最も安定した代替案です。

Privacy is order

1 世紀以上にわたって、民主主義が効果的に機能するための重要な技術的要素は無記名投票であると認識されてきました。誰に投票したかは誰にもわからないし、たとえ本当に投票したかったとしても、誰に投票したかを証明することはできない。無記名投票がデフォルト設定でない場合、有権者は投票方法に影響を与えるために、賄賂、遡及的報酬の約束、社会的圧力、脅しなど、あらゆる種類の付随的インセンティブを受けることになる。

このような付随的インセンティブが民主主義を完全に弱体化させることは、簡単な数学的議論でわかります。N人が投票する選挙では、結果に影響を与える確率は1/N程度しかないため、どの候補者が良いか悪いかを考慮しても、Nで割り切れることになります。一方、「巻き添えゲーム」（例えば、有権者の賄賂、強制、社会的圧力）は、（投票の全体的な結果ではなく）投票方法に基づいて、あなたに直接的な影響を与えます。strong>なので、N分割できない。従って、副次的なゲームがきっちりコントロールされない限り、デフォルトでゲーム全体を圧倒し、どの候補者の政策が実際に優れているかという検討はかき消されてしまいます。

これは国の規模の民主主義にだけ当てはまるわけではありません。理論的には、ビジネスや政府における事実上あらゆるプリンシパル・エージェントの問題に当てはまります。

• 裁判官は、どのように判決を下すかを決めます

• 政府高官は、どの企業と契約や助成金を結ぶかを決めます。

• 入国管理局の職員は、ビザの発給や不許可を決定する

• ソーシャルメディア企業の従業員は、コンテンツ審査方針の実施方法を決定する

• 企業の従業員は、ビジネス上の決定（どの業者から購入するかなど）に関与する

。エージェントが正直に行動しても、その行動から利益を得られるのは、彼らが代表するエンティティのごく一部だけであるのに対して、ゲームに付随する特定のインセンティブに従えば、彼らは完全な利益を得られるということです。したがって、今日でさえも、すべての制度が相互転覆の巻き添えゲームの混沌の渦に完全に飲み込まれないようにするためには、道徳的善意が大いに必要なのである。プライバシーがさらに侵食されれば、こうした巻き添えゲームはさらに強力になり、社会が適切に機能し続けるために必要な道徳的善意の量は、非現実的に高くなるかもしれません。

この問題を回避するために、社会システムを再設計することはできるのでしょうか？残念ながら、ゲーム理論上、これは不可能であることはほぼ明らかです（完全な独裁政治という例外はありますが）。個人の選択に焦点を当てたゲーム理論のバージョンでは、つまり、各参加者が独立して意思決定を行うと仮定し、共通の利益のために協力する複数の主体グループの可能性を認めないバージョンでは、メカニズム設計者は以下のようなことができます。には、特定の結果を達成するためにゲームを「設計」する大きな自由がある。実際、どんなゲームにも安定したナッシュ均衡が少なくとも1つはあるはずだという数学的証明があるので、そのようなゲームを分析することは管理しやすくなる。しかし、連立協力（すなわち「談合」）の可能性を許容するゲーム理論のバージョン、すなわち協力ゲーム理論では、安定した結果を持たないゲーム（「コア」と呼ばれる）が多数存在することを示すことができる。そのようなゲームでは、現状がどうであれ、そこから利益を得ることができる連合が常に存在する。

数学に真剣に取り組むと、安定した社会構造を作る唯一の方法は、参加者間で起こりうる調整の量に何らかの制限を設けることであるという結論に達します。-これは高度なプライバシー（否認性を含む）を意味する。数学そのものを真面目に考えないのであれば、現実世界を観察するか、少なくとも上記のプリンシパル・エージェント・シナリオのいくつかがフリンジゲームに乗っ取られたらどうなるかを考えれば、同じ結論に達するには十分です。

これは、なぜ政府のバックドアが危険なのかについての別の議論につながることに注意してください。もしすべての人が、すべてのことについて他の人と協調する無制限の能力を持っているなら、結果はカオスです。しかし、情報への特権的なアクセス権を持っているために、少数の人間だけがそうすることができるのであれば、その結果、彼らが支配することになる。ある政党が別の政党の通信に裏口からアクセスすることは、複数政党制の存続の終わりを容易に意味する。

社会秩序が機能するために、共犯関係を制限することに依存しているもう一つの重要な例は、知的・文化的活動である。知的・文化的活動への参加は、本質的に内発的に動機づけられた公共財である。社会に積極的に貢献するための外発的なインセンティブを見つけるのは難しいが、それはまさに、知的・文化的活動がそれ自体である程度の活動であり、社会における積極的な行動を決定するからである。社会におけるポジティブな行動商業的・社会的なインセンティブをある程度近似させることで、正しい方向を指し示すことはできるが、内発的な動機づけによって強力に補完される必要もある。しかし、これはまた、このような活動が、外部からの動機づけの不均衡、特に社会的圧力や強制といったエッジゲームによる影響を非常に受けやすいことを意味する。そのようなアンバランスな外的動機の影響を抑えるために、プライバシーが再び必要となる。

Privacy as Progress

公開鍵や共通鍵の暗号化が完全に存在しない世界を想像してみてください。この世界では、長距離で安全にメッセージを送ることは本質的に難しくなります。その結果、国際的な協力は大幅に減少し、より多くの協力がオフラインの対面チャネルを通じて行われることになるだろう。これは世界をより貧しく、より不平等な場所にするだろう。

私は、より強力な形態の暗号が広く使われるようになる、特にProgrammable特にプログラマブル暗号が普及し、より強力なフルスタックセキュリティと正式な認証によって補完され、これらの暗号が正しく使用されることが強く保証されるようになるでしょう。

エジプト神プロトコル: データを完全にプライベートに保ちながら計算を行うことを可能にする、強力で非常に汎用性の高い3つの構造。

ヘルスケアは良い例です。過去10年間、長寿、パンデミック対策、その他の健康分野で働いてきた人に話を聞くと、彼らは皆、治療と予防の未来はパーソナライズされたものになり、効果的な対応は個人と環境の両方の高品質データに大きく依存すると一貫して言うだろう。空気感染する病気から効果的に身を守るには、空気の質が高い地域と低い地域、そして特定の時間に病原体が存在する場所を知る必要がある。最先端の長寿クリニックでは、身体、食事の好み、ライフスタイルに関するデータに基づいて、カスタマイズされたアドバイスや治療法を提供している。

しかし、これらすべてが同時に大きなプライバシーリスクをもたらす。私は個人的に、ある企業が「家に電話をかける」従業員に、その従業員がいつセックスをしていたかを特定するのに十分なデータを収集する空気モニターを装備させた事件を知っている。同様の理由で、最も価値のあるデータの多くは、まさに人々がプライバシーリスクを恐れているため、デフォルトでは収集されないだろうと私は予想しています。データが収集されたとしても、ほとんどの場合、広く共有されたり、研究者が利用できるようになったりすることはありません。

他の分野でも同じパターンが繰り返されている。私たちが書く文書、さまざまなアプリで送るメッセージ、ソーシャルメディアで行うさまざまな行動には、私たち自身に関する豊富な情報が埋め込まれており、そのすべてを利用して、日常生活で必要なものをより効果的に予測し、提供することができる。また、ヘルスケアとは関係のない物理的環境との関わり方に関する情報も豊富にある。今日、私たちは、反ユートピア的なプライバシーの悪夢を作り出すことなく、これらの情報を効果的に利用するためのツールを欠いている。しかし将来的には、そのようなツールが手に入るかもしれない。

このような課題に対処する最善の方法は、強力な暗号化を使用することです。これにより、私たちはネガティブな結果を招くことなく、データ共有のメリットを享受することができます。AIの時代には、個人データを含むデータへのアクセスの必要性はますます重要になるでしょう。私たちの好みに忠実な近似値に基づいて、私たちに代わって意思決定を行うことができる「デジタル・ツイン」をローカルで訓練し、実行する能力は、非常に大きな価値を持つでしょう。最終的には、ブレイン・コンピューター・インターフェイス（BCI）技術を使って、脳からの広帯域入力を読み取ることも必要になるだろう。高度に中央集権化されたグローバルな覇権主義につながらないよう、プライバシーを尊重しながらこれを実現する方法を見つける必要がある。プログラム可能な暗号化は、最も信頼できるソリューションである。

私のAirValent空気品質モニター。大気質データを収集し、集計された統計をオープンデータマップ上で公開し、データを提供することで報酬を得ることができるデバイスを想像してみてください。

プライバシーは社会保障の進歩に貢献できる

Proof of Zero Knowledgeのようなプログラム可能な暗号化技術は、情報の流れにおけるレゴブロックのようなものなので、非常に強力です。誰がどの情報を見ることができるのか、さらに重要なのは、どの情報を見ることができるのかをきめ細かく制御することができるのです。例えば、私は他の個人情報を明かすことなく、18歳以上であることを示すカナダのパスポートを持っていることを証明できる。

これにより、あらゆる種類の興味深い組み合わせが可能になります。

• Zero-knowledge proof of personhood:自分が一意であることの証明（様々な形式のIDを通じて：パスポート、パスポート、バイオメトリクス、分散化されたソーシャルグラフベースのIDなど）。これは、ルールに違反していないことを明らかにすることなくプライバシーを完全に保護しながら、「あなたがボットではないことを証明する」、様々な「1人あたりの最大数」のユースケースなどに使用することができます。

• Privacy Poolsは、バックドアを必要とせずに悪質業者を排除する金融プライバシー・ソリューションです。トークンを消費する時点で、ユーザーはトークンの出所がハッカーや窃盗犯の公開リストに載っていないことを証明できる。ハッカーや窃盗犯自身だけがそのような証明を作成できないので、隠れることができない。railgunとprivacypools.comは現在このようなソリューションを使用している。

• デバイス側の詐欺防止スキャン: これはゼロ知識証明 (ZKP) には依存しませんが、このカテゴリーに属するように感じます。デバイスに内蔵されたフィルター（LLMを含む）を使用して、受信メッセージを検査し、潜在的に虚偽で詐欺的なメッセージを自動的に識別することができます。これがデバイス上で実行される場合、ユーザーのプライバシーを損なうことはなく、また、各ユーザーがどのフィルターに加入するかを選択できるように、ユーザー承認の方法で実行することができます。

• 物理的な原産地証明：ブロックチェーンとゼロ知識証明の組み合わせを使用することで、製造の連鎖を通じて品目のさまざまな属性を追跡することが可能になります。これにより、例えば、サプライチェーンを公開することなく、環境外部性を価格化できるようになる可能性がある。

左：プライバシープールの概略図。右：メッセージチェッカーアプリ。ユーザーは、上からURLチェック、暗号通貨アドレスチェック、噂チェック

Privacy and AI

最近、ChatGPTは、今後の会話の背景情報として、あなたの過去の会話をAIに入力し始めると発表しました。AIがあなたの過去の会話をレビューし、そこから洞察を得ることは基本的に有益です。近い将来、インターネット閲覧パターン、メールやチャットのログ、生体データなどを受動的に収集するなど、プライバシーをさらに深く侵害するAI製品が開発されるかもしれません。

理論的には、あなたのデータはあなただけのものです。

おっと！ChatGPTにバグがあり、他の人がした質問が私にプッシュされます！他の人がした質問を私に押し付けるバグがあります！これは重大なプライバシー侵害です。質問して、エラーが出て、絶対しない質問で「リトライ」する。

プライバシーを保護するメカニズムがうまく機能している可能性は十分にあり、この場合、AIはブルースが一度もしたことのない質問を生成して回答していると幻覚を見ているのです。しかし、現時点ではそれを検証する方法はない。同様に、私たちの対話がトレーニングに使われたことを検証する方法もありません。

これはすべて深く憂慮すべきことだ。さらに厄介なのは、AIの明確な監視ユースケースであり、ユーザーの（物理的、デジタル的）データを同意なしに大規模に収集、分析する。顔認識技術はすでに、権威主義政権が大規模に政治的反対意見を抑圧するのに役立っている。そして最も懸念されるのは、AIによるデータ収集と分析の究極のフロンティアである人間の心だ。

理論的には、ブレイン・コンピューター・インターフェイス技術には、人間の潜在能力を高める驚くべき力がある。以前は、口棒を使うには、彼がまっすぐに立つのを誰かに手伝ってもらう必要があった。口棒が落ちれば、誰かが拾うのを手伝わなければならなかった。また、口内炎ができない限り、長時間使用することはできなかった。ニューリンク・デバイスを使えば、彼はコンピューターをほぼ完全にコントロールできる。彼はいつでもウェブをブラウズし、コンピューターゲームをプレイすることができ、ニューラルリンク社によれば、彼はカーソルをコントロールするためにブレイン・コンピューター・インターフェイス（BCI）を使用した人間の記録を作ったという。

今日、これらのデバイスは病人や怪我人を助けるのに十分強力です。将来的には、完全に健康な人々がコンピュータと協力し、私たちが想像もできないような効率でテレパシーで互いにコミュニケーションする機会を与えるのに十分なほど、強力なものになるでしょう（！！）。.しかし、そのようなコミュニケーションを可能にする脳信号を本当に解釈するには、人工知能が必要になる。

これらのトレンドが絡み合うことで、当然ながら暗い未来が生まれる可能性がある。シリコン製のスーパーエージェントが、何を書き、どのように行動し、どのように考えるかなど、あらゆる人の情報をむさぼり、分析するような未来だ。私たちはプライバシーを守りながら、これらのテクノロジーの恩恵を享受できるようになるでしょう。

これは、いくつかの技術を組み合わせることで実現できます。

• 可能な限りローカルで計算を実行する - 多くのタスク (基本的な画像解析、翻訳、転写、BCI 用の基本的な脳波解析など) は、完全にローカルで実行される計算で十分シンプルです。実際、ローカルで実行される計算には、待ち時間の短縮や検証可能性の向上といった利点さえある。ローカルで実行できるものは、ローカルで実行すべきである。これには、インターネットへのアクセスやソーシャルメディアアカウントへのログインなど、さまざまな中間ステップを含む計算も含まれます。

• Using cryptography to make remote computations completely private - Fully Homomorphic Encryption (FHE) は、リモートでAI計算を実行するために使用できます。データまたは結果をリモートサーバーに表示させることなく、AIの計算をリモートで実行するために使用できます。歴史的に、FHEは非常に高価でしたが、(i)その効率は最近急速に向上しており、(ii)LLMは計算のユニークな構造化形式であり、漸近的にほぼすべてが線形であるため、超効率的なFHEの実装に適しています。複数の当事者からのプライベートデータを含む計算は、複数当事者による計算によって達成することができます。一般的な2当事者によるケースは、難読化回路などの技術によって極めて効率的に処理することができます。

• Using Hardware Verification Extends Guarantees to the Physical World - 私たちは、ハードウェア上の私たちの考えを読み取ることができるハードウェアが、（ハードウェアの内部であろうとなかろうと）私たちの考えを読み取ることができると主張することができます。ハードウェア上の私たちの考え (頭蓋骨の内側からでも外側からでも) を読み取ることができるハードウェアは、オープンで検証可能でなければならないと主張し、IRIS のような技術を使って検証することができます。たとえば、地元のLLM（法学修士）が物理的暴力または医療緊急事態としてフラグを立てた場合にのみ、ビデオストリームを実証的に保存・転送し、それ以外の場合は削除するセキュリティカメラを設置し、IRISを使ってコミュニティ主導のランダムチェックを行い、カメラが正しく実装されていることを検証することができます。

未完の未来

2008年、リバタリアン哲学者のデビッド・フリードマンは『不完全な未来』という本を書いた。この本の中で彼は、新しいテクノロジーが社会にもたらすかもしれない変化について概説しているが、そのすべてが彼にとって（あるいは私たちにとって）良いものとは限らない。プライバシーと監視の間には複雑な相互作用があり、デジタル・プライバシーの成長が現実世界の監視の成長を相殺することになるだろう。blockquote>

私がタイプしているところを蚊の映像が壁に映っていたら、電子メールを強力に暗号化する意味がありません。このように、透明な社会における強力なプライバシー保護には、私の現実空間での身体とサイバースペースとの接点を保護する何らかの方法が必要なのだ......ローテクな解決策のひとつは、フードの下でタイプすることだ。ハイテクの解決策は、指を通さない、あるいは外部の観察者に見えるチャンネルを通さない、心とマシンの間のある種の接続を確立することだろう；「私のPDAはあなたの公開鍵で私の情報を暗号化し、それをあなたのPDAに送信します。メガネを肩にかけても何も読み取られないように、ゴーグルはスクリーン越しに画像を表示する代わりに、小さなレーザーを使って網膜に画像を書き込む。運が良ければ、あなたの眼球の中はプライベートなままです。

私たちは、身体活動が完全に公開され、情報取引が完全に非公開である世界に住むことになるかもしれません。これにはいくつかの魅力的な特徴がある。一般市民は殺人犯を見つけるために強力なプライバシーの利点を利用することはできるだろうが、殺人犯を雇うコストは彼らの許容範囲を超えるかもしれない。なぜなら、十分に透明な世界では、すべての殺人事件が解決されてしまうからだ。すべての殺人犯は、たった一度の任務を遂行しただけで刑務所に直行するだろう。

これらのテクノロジーとデータ処理の相互作用についてはどうだろうか？一方では、現代のデータ処理技術が透明な社会を脅威にしている。データ処理技術がなければ、世界で起こることすべてをビデオテープに撮っても、毎日何百万マイルも生産されるビデオテープの中から、欲しい6インチのテープ片を誰も見つけられないので、あまり意味がない。一方、強力なプライバシーをサポートする技術は、現代のデータ処理技術が発達した世界であっても、あなたの取引情報が誰からもアクセスされないように保護することで、プライバシーを再確立する可能性を提供する。

このような世界は、おそらくあらゆる可能性の中で最良のものでしょう。すべてがうまくいけば、物理的な暴力が事実上ない未来を見ることができますが、その一方で、私たちのサイバーフリーダムを維持し、社会の政治的、市民的、文化的、イデオロギー的なプロセスの本質的な機能を保証します。完全な情報の透明性に何らかの制限を課すことに依存しているのです。

たとえ理想的でないとしても、物理的・デジタル的プライバシーがゼロになり、最終的には私たち自身の心のプライバシーも含まれるようになるよりはましです。2050年代半ばまでには、合法的な傍受の対象とならない思考を期待するのは確かに非現実的だと主張する意見書を目にすることになるでしょう。そして、そのような意見書への反応には、AI企業のLLMが悪用され、1年以内に3000万人のプライベートな内なる独白がインターネット全体に流出した最近の事件を指摘するリンクが含まれている。

社会は常に、プライバシーと透明性のバランスに依存してきました。場合によっては、私もプライバシーの制限を支持します。この点に関して人々が行う通常の議論とはかなり異なる例を挙げると、私は契約における競業避止条項を禁止する米国政府の動きを支持しています。それは主に従業員に直接影響を与えるからではなく、企業に暗黙の領域知識を部分的にオープンソース化することを強制できるためです。企業が望む以上にオープンであることを強制することは、プライバシーを制限することになる。しかし、マクロ的な視点から見ると、近い将来のテクノロジーにとって最も差し迫ったリスクは、プライバシーが史上最低水準に近づくことであり、しかも非常に不均衡な形で、最も力のある個人や最も力のある国が、すべての人に関する膨大な量のデータにアクセスできるようになり、それ以外の人はほとんど何も見ることができなくなることだ。したがって、すべての人のプライバシーをサポートし、必要なツールをオープンソースで、普遍的で、信頼性が高く、安全なものにすることは、現代の重要な課題のひとつです。