人類がAIを制御できなくなった場合の緊急対策が必要

9月16日、有力企業連合は、「ヴェンディル・コルビアーノ」と名乗りを上げた。AI の科学者たちだ。声明 AIシステムが人間の手に負えなくなった場合、破滅的な結果を招くリスクを軽減するために、世界的な監視システムを確立する必要がある。

もし適切に管理されなければ、自分たちが作り上げた技術が重大な脅威となりかねないという懸念を表明したのだ。

について声明 を読む：

「人間による制御が失われたり、こうしたAIシステムが悪意を持って使用されたりすると、全人類にとって破滅的な結果を招きかねない。残念ながら、このような高度な知能の使用を制御し、保護するために必要な科学はまだ開発されていない。"

科学者たちは、国家当局がAI関連の事件やリスクを検知し、対処するための体制を整える必要性を強調した。

彼らはまた、「グローバル・コンティンジェンシー・プラン」の策定を提唱した。AIモデル 世界的な壊滅的リスクを伴う可能性がある。

と彼らは述べている：

「長期的には、世界的な壊滅的リスクをもたらす可能性のあるモデルの開発を防ぐために、国家は国際的なガバナンス体制を構築すべきである。

AIの安全性はグローバルな公共財である

この声明は、9月上旬にベニスで開催された「AIの安全性に関する国際対話」での議論に基づいている。

ジョンズ・ホプキンス大学のジリアン・ハドフィールド教授は、次の投稿でその緊急性を強調した。エックス :

「AIが壊滅的な事態を引き起こす可能性について同意する必要はない。

について声明 を強調している。AI 安全はグローバルな公共財であり、国際的な協力とガバナンスが必要である：

「AIがもたらすこうしたリスクのグローバルな性質から、AIの安全性をグローバルな公共財として認識し、こうしたリスクのグローバルなガバナンスに向けて取り組む必要がある。集合体として、我々は、いつ訪れるかわからない付随する破滅的なリスクを回避する準備をしなければならない。"

AI開発者は3つの重要なプロセスを説明した：

この声明は、米国、カナダ、中国、英国、シンガポールなど30カ国以上の署名者によって承認され、一流のAI研究機関や大学の専門家、チューリング賞受賞者数名が含まれている。

科学者たちは、超大国間の科学的亀裂の拡大や、米中間の不信感の増大により、次のような問題でコンセンサスを得ることが難しくなっていると指摘した。AI リスクがある。