サイバーセキュリティを高めるグローバル連合

米国、英国、オーストラリア、さらに15カ国からなる国家連合は、AIモデルを改ざんから強化するための広範なガイドラインを発表した。

セキュア・バイ・デザインのアプローチを重視する。連合が11月26日に発表した20ページに及ぶ文書。 急速に進化するAI業界において、サイバーセキュリティを主要な関心事として位置づけることが急務である。

この共同作業は、重要インフラを保護するという各国の使命を再確認し、デジタルの未来を守るための国際的パートナーシップの重要性を強化するものである。

サイバーセキュリティ・インフラストラクチャ・セキュリティ局（CISA）のジェン・イースタリー局長は、次のように述べた：

セキュアなAIシステム開発のためのガイドライン」の発表は、設計上セキュアな人工知能機能の開発と配備を保証するという、世界中の政府による私たちのコミットメントの重要なマイルストーンとなります。CISAとNCSCが主導するこの国際的なコラボレーションは、各国や組織がAIの変革力を受け入れる中で、透明性、説明責任、安全な実践を促進するための世界的な取り組みを強調するものです。セキュア・バイ・デザインの原則を推進し、世界中のAIシステムの安全な開発のための弾力的な基盤を育成する上での国内および国際的な団結は、我々が共有する技術革命においてこれ以上重要な時期にはない；

実践的なセキュリティのためのガイドライン

同ガイドラインでは、AIモデルのインフラを厳重に管理し、改ざんの可能性を継続的に監視し、担当者のサイバーセキュリティ教育を強化するよう、実践的な提言を行っている。

このガイドラインには、画像生成モデルやディープフェイクの規制、モデルトレーニングに使用されるデータ収集方法など、AIに関する論議は含まれていない。

同連合は、AIがもたらす多面的な課題と、イノベーションを阻害することなく安全保障を確保することの重要性を認識している。

グローバルAIセーフティ・アライメント

アレハンドロ・マヨルカス米国土安全保障長官 は、AIシステム構築におけるサイバーセキュリティの役割を強調している：

quot;私たちは人工知能の開発における変曲点にいる。これは、現代において最も重要なテクノロジーとなるかもしれない。安全、安心、信頼できるAIシステムを構築するためには、サイバーセキュリティが鍵となる；

このガイドラインは、ロンドンで開催されたAI安全サミットや、欧州連合（EU）が現在進めているAI法の策定など、AIの安全性に取り組む最近の政府の取り組みと一致している。

で10月、ジョー・バイデン米大統領は、AIの安全性とセキュリティに関する基準を定める大統領令を発表した。 イノベーションへの潜在的な影響について業界内で議論が巻き起こっている。

世界連合は、カナダ、フランス、ドイツ、イスラエル、イタリア、日本、ニュージーランド、ナイジェリア、ノルウェー、韓国、シンガポールで構成されている。

OpenAI、マイクロソフト、グーグル、Anthropic、Scale AIなどの大手AI企業が、このガイドラインの策定に積極的に貢献している。

彼らは、AI技術の責任ある開発と普及を確保するために、政府と業界関係者が協力することを強調している。