カリフォルニア州知事のギャビン・ニューサムは、革新的すぎる人工知能は制御不能なリスクを生むとして、物議を醸した人工知能法案に拒否権を発動した。

カリフォルニア州知事のギャビン・ニューサムは、大きな議論を呼んだこの法案に拒否権を発動した。フロンティア人工知能モデルの安全で確実なイノベーション法（SB 1047） この法案は、人工知能（AI）開発に厳しい規制を導入しようとするものだった。9月30日、ニューソムは、AIの安全性は極めて重要だが、この法律案は技術革新を阻害し、この技術がもたらす真の危険に対処できないとして、この法案を否決した。

サンフランシスコ選出のスコット・ウィーナー上院議員が主導したこの法案は、OpenAI、Meta、Googleといった大手企業が開発したAIモデルの安全性テストを義務付けるものだった。また、極度の危険性がある場合にAIシステムを停止させる「キルスイッチ」の規定も盛り込まれ、仮にAIが送電網を乗っ取るような継続的な脅威をモデルが引き起こした場合、AI開発者は法的責任を負うことになる。

シリコンバレーからの反発

この法案は、過度な規制によってAI開発に負担をかけることを懸念するシリコンバレーやハイテク業界のリーダーたちから強い反対を受けていた。大手ハイテク企業やAI政策立案者を含む批評家たちは、この法案がカリフォルニア州におけるAI分野の成長を著しく妨げる可能性があると主張した。

ニューサムは声明の中で、この法案はAIに伴うより重大なリスクに対処することなく、トップクラスのAI企業や基本的な機能を規制することに重点を置きすぎていると述べた。
この技術がもたらす真の脅威から国民を守るためには、これが最善の方法だとは思わない」と説明した。

革新性と安全性のバランス

ニューサムは、SB1047を否決したとはいえ、AIの安全対策の必要性は認めていると強調した。科学的根拠に基づくリスク評価をもとにした「実行可能なガードレール」をカリフォルニア州が作成できるよう、AIの安全に関する一流の専門家の協力を仰いだという。

ニューソム氏は、州政府機関はAIの潜在的な大惨事リスクに対する評価を拡大し、適切な保護措置が実施されるようにすることが任務であると付け加えた。同氏は、規制当局は国民を保護するために行動を起こす前に災害を待ってはならないと強調した。
拒否権を発動したにもかかわらず、ニューサム政権はAI規制に積極的で、過去30日間で18以上のAI関連法案に署名している。

関連記事認知革命AIが人間を凌駕するとき』の要約；

分割された反応

この拒否権は様々な反応を引き起こした。下院議長ナンシー・ペロシ やOpenAIのような企業はこの法案に反対の声を上げており、AIのイノベーションを妨げる可能性があると警告していた。

その一方でイーロン・マスク 独自のAIモデル「Grok」を開発中のマスク氏は、法案への慎重な支持を表明し、より広範なAI規制を提唱した。マスクは、SB1047の可決は「難しい判断」であることを認めたが、より強力な安全対策を支持する方向に傾いていることを示した。
億ドル以上のモデルを対象とするこの法案は、後に小規模なAI開発者にも適用され、全体的なイノベーションを阻害する可能性があるという懸念を抱かせた。
ニューサムの拒否権によってSB1047の具体的な条項は阻止されるかもしれないが、AI規制をめぐる議論は、カリフォルニア州が業界の繁栄を許しながら一般市民を保護する、よりバランスの取れたアプローチを模索している以上、まだ終わっていない。