メタ社、リスクの高いAIシステムを制限するフレームワークを導入

メタ これは、特にサイバーセキュリティとバイオセキュリティにおいて、リスクの高い人工知能（AI）システムの潜在的な危険性に対処することを目的とした新しい政策である。

同社はAIモデルを2つのリスクレベルに分類している。 ハイリスクとクリティカルリスクで、それぞれ潜在的な危害の深刻さによって定義される。

サイバー攻撃や生物学的攻撃を容易にする可能性のある高リスクのAIモデルは、適切な保護措置が講じられるまで制限されたままとなる。

一方、大惨事を引き起こす可能性があると判断されたクリティカルリスクAIは、開発が無期限で停止される。

メタ この戦略は、高度なAI技術に関連するリスクを低減するという同社のコミットメントを反映し、不正アクセスを防止するための強固な内部統制とセキュリティ対策を優先している。

これらの動きは、AIがデータのプライバシーとセキュリティに与える影響に対する懸念の高まりに対応するものである。

リスクを軽減する強固なAIセキュリティ対策

メタ社は、単一のテストではリスクを包括的に測定できないことを認識した上で、社内外の調査を組み合わせてAIシステムのリスクを評価する。

最終的なリスク分類を監督するシニア・リーダーシップの指導のもと、専門家による評価が意思決定において重要な役割を果たす。

リスクの高いAIシステムについては、Metaは安全な配備を確保するための緩和策を実施し、システムの意図した機能を維持しながら悪用を防止する。

クリティカルリスクの高いAIモデルの場合、管理された安全なリリースを保証する効果的な安全プロトコルが導入されるまで、開発は一時停止される。

このアプローチは、次のことを強調している。メタ AI開発における革新性と責任感のバランスを取るという、'のコミットメント。

メタ、懸念に対処し、透明性のあるAI開発を約束

MetaはAI開発へのオープンなアプローチを支持し、Llamaモデルへのアクセスを広く提供している。

しかし、このオープンさは、米国の敵対勢力が防衛チャットボットを作成するためにLlamaを活用したという報告など、悪用の可能性に対する懸念を引き起こしている。

それに対してメタ フロンティアAIフレームワークは、こうしたリスクとのバランスを図りながら、アクセスしやすく責任あるAIイノベーションへのコミットメントを継続することを目的としている。