ヴィタリック・ブテリン、新たな頂点種に警告

においてである。最近のブログ記事 イーサリアムの共同設立者であるヴァタリック・ブテリンは、AIの特徴的な性質を強調し、人間の利益に反して行動する可能性のある新しいタイプの心を作り出す可能性について懸念を表明した。

これまでの発明とは異なり、AIの急速な知能の向上は、人間の精神的能力を追い越してしまうという深刻なリスクをもたらすため、ブテリンは慎重な介入の必要性を強調している。

ブテリンはブログの中で、超高度な人工知能（AI）は人間を凌駕する可能性があると警告している：

しかし、AIとは何かについて考えるには別の方法がある。それは、急速に知能を高めている新しいタイプの心であり、人間を追い越し、地球上の新たな頂点に立つ種になる可能性が高いということだ；

AIの急成長がもたらすリスク

ブテリンは、超知的AIがもたらす存亡の危機に注目し、このまま放置すれば人類が絶滅する可能性があることを示唆した。

彼のブログに書かれている通りだ：

気候変動や人工的なパンデミック、核戦争といった最悪のシナリオが引き起こすかもしれない被害と同じくらい、その破片を拾うために無傷で残る文明の島はたくさんある。しかし、超知的なAIが私たちに反旗を翻すことになれば、生存者はいなくなり、人類は永久に滅亡するかもしれない。火星でさえ安全ではないかもしれない；

彼はAIが人類に危害を及ぼす可能性は5～10％と推定する機械学習研究者の調査に言及した。 .

こうした主張の極端さにもかかわらず、ブテリンは強力なAIを人間が確実にコントロールするための潜在的な解決策を提案した。

ブレイン・コンピュータ・インターフェイス（BCI）

写真引用元：https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html

このリスクに対処するため、ブテリンはブレイン・コンピューター・インターフェイス（BCI）の統合を提唱した。

これらのインターフェースは、脳と外部機器との間に直接的な通信経路を確立し、人間がAIベースの計算や認知をよりコントロールできるようにする。

ブテリンは、人間と機械との間のコミュニケーションのループを減らすことで、BCIは世界に対して意味のあるエージェンシーを維持することができ、AIが独自に行動するのを防ぐことができると主張した。

イーサリアムの共同創設者は、AIが人類の価値観に反して行動する可能性を減らすことを目指し、意思決定プロセスにおける人間の関与の重要性を強調した。

彼は、利益の最大化を超えた価値観に導かれた人間の積極的な意思が、AIの開発を人類に利益をもたらす方向に導く可能性を示唆した。

AIの課題を克服する

ブテリンは、AIの進化がもたらす課題を乗り切る人類の能力に自信を示した。

宇宙旅行や地球工学のような人類の人工技術が、何千年もの間、地球の生命の美しさを維持するために貢献する未来を思い描きながら、彼は人類の革新と技術の重要性を強調した。