カリフォルニア州知事、賛否両論のAI安全法案に拒否権

CoinTelegraphのTom Mitchelhill氏、Golden FinanceのTao Zhu氏がまとめた

カリフォルニア州知事のギャビン・ニューサム氏は、物議を醸した人工知能（AI）法案に拒否権を発動し、イノベーションを阻害し、テクノロジーがもたらす「現実の」脅威から国民を守れなかったとしている。

9月30日、ニューサム氏はSB 1047「安全性とイノベーションのための最先端人工知能モデリング法案」に拒否権を発動しました。AIモデルの安全性テストを義務付けるなど、テック企業がイノベーションを阻害することを懸念するガードレールを設ける。

ニューサム氏は9月29日の声明で、法案は既存のトップAI企業を規制することに重点を置きすぎており、新技術がもたらす「真の」脅威から国民を守ることに失敗していると述べた。

その代わりに、法案は最も基本的な機能にさえ厳しい基準を適用している。私は、これがテクノロジーによってもたらされる真の脅威から国民を守る最善の方法だとは思いません。"

サンフランシスコの民主党議員であるスコット・ウィーナー（Scott Wiener）上院議員が起草したSB 1047は、カリフォルニア州の開発者（ChatGPTメーカーのOpenAI、Meta、Googleなどの大手を含む）に対し、AIモデルに「中止スイッチ」を実装し、極端なリスクを軽減する計画を発表することも求めている。リスク軽減計画を発表することを求めています。

法案が実施されれば、AI送電網の乗っ取りなど、モデルによる脅威が持続した場合に、AI開発者が州検事総長に訴えられることも可能になる。

ニューサム氏は、カリフォルニア州が「科学的根拠に基づく軌道分析」を行うことに重点を置き、「実行可能なガードレールを開発する」のを支援するよう、世界有数のAIセキュリティ専門家に依頼したと述べた。さらに同氏は、AI開発によって起こりうる大惨事のリスク評価を拡大するよう州機関に命じたと付け加えた。

SB1047に拒否権を発動したにもかかわらず、ニューサム氏はAIには適切な安全プロトコルが導入されなければならないと述べ、規制当局は「市民を保護するための行動を起こす前に、大きな災害が発生するまで待つことはできない」と付け加えた。

ニューサム氏は、彼の政権は過去30日間にAI規制に関する18以上の法案に署名したと付け加えた。

政治家や大手テック企業はAI安全法案に反対

ニューソム氏の決定以前、法案は議員やアドバイザー、大手テック企業の間で不評だった。

ナンシー・ペロシ下院議長やOpenAIのような企業は、AIの開発を著しく妨げるだろうと述べた。

Abundance InstituteのAI政策責任者であるニール・チルソン（Neil Chilson）氏は、法案は主に一定のコストと規模（1億ドル以上のもの）を持つモデルを対象としているが、その範囲は容易に拡大し、小規模な開発者を直撃する可能性があると警告した。

しかし、法案に前向きな人もいる。Grokと呼ばれる独自のAIモデルを開発している億万長者のイーロン・マスクは、この法案とAI規制をより広く支持する一握りのテックリーダーの一人だ。

マスク氏は8月26日のXへの投稿で、「カリフォルニア州はSB1047（人工知能安全法）を可決すべきだ」と述べたが、法案を支持することは「難しい決断」だと認めた。