캘리포니아 주지사, 논란의 여지가 있는 AI 안전 법안 거부권 행사

코인텔레그래프 톰 미첼힐 기자, Tao Zhu 편집, 골든 파이낸스

개빈 뉴섬 캘리포니아 주지사는 논란이 되고 있는 인공지능(AI) 법안이 혁신을 저해하고 기술로 인한 '실제' 위협으로부터 대중을 보호하지 못한다고 주장하며 거부권을 행사했습니다. 기술이 제기하는 "실제 위협".

9월 30일, 뉴섬은 실리콘밸리의 강력한 반대에 부딪힌 '안전과 혁신을 위한 첨단 인공지능 모델링 법안'(SB 1047)에 거부권을 행사했습니다.

법안제안된 내용은 다음과 같습니다. 기술 기업들이 혁신을 저해할 것으로 우려하는 AI 모델 및 기타 가드레일에 대한 안전 테스트를 의무화합니다.

뉴섬은 9월 29일 성명에서 이 법안이 기존의 상위 AI 기업을 규제하는 데 지나치게 초점을 맞추고 있으며 신기술이 제기하는 '실제' 위협으로부터 대중을 보호하지 못한다고 말했습니다.

"대신, 이 법안은 대규모 시스템이 배포하는 한 가장 기본적인 기능에도 엄격한 기준을 적용합니다. 저는 이것이 기술로 인한 실제 위협으로부터 대중을 보호하는 최선의 방법이라고 생각하지 않습니다."

샌프란시스코 민주당의 스콧 위너 상원의원이 발의한 SB 1047은 캘리포니아 개발자(ChatGPT 제조업체인 OpenAI, Meta, Google과 같은 유명 업체 포함)가 AI 모델에 '중단 스위치'를 구현하고 극단적인 위험을 완화하기 위한 계획을 발표하도록 요구하고 있습니다. 위험 완화 계획을 발표해야 합니다.

이 법안이 시행되면 AI 그리드 탈취와 같은 모델이 지속적으로 위협을 가하는 경우 주 법무장관이 AI 개발자를 고소할 수 있게 됩니다.

뉴섬 주지사는 세계 최고의 AI 보안 전문가들에게 캘리포니아가 "과학에 기반한 궤적 분석"에 초점을 맞춘 "실행 가능한 가드레일을 개발"하는 데 도움을 요청했다고 말했습니다. 그는 또한 주 정부 기관에 AI 개발로 인해 발생할 수 있는 재앙적 사건의 위험에 대한 평가를 확대하도록 지시했다고 덧붙였습니다.

뉴섬 주지사는 SB 1047에 대한 거부권에도 불구하고 AI에 대한 적절한 안전 프로토콜을 마련해야 한다며 규제 당국이 "대중을 보호하기 위한 조치를 취하기 전에 큰 재난이 발생할 때까지 기다릴 수는 없다"고 덧붙였습니다.

뉴섬 주지사는 자신의 행정부가 지난 30일 동안 AI 규제에 관한 18개 이상의 법안에 서명했다고 덧붙였습니다.

정치인과 대기업, AI 안전 법안 반대

뉴섬 주지사의 결정 이전에는 의원과 자문위원, 대기업 사이에서 이 법안은 인기가 없었습니다.

어번던스 인스티튜트의 AI 정책 책임자 닐 칠슨은 이 법안이 주로 특정 비용과 규모(1억 달러 이상)의 모델을 겨냥하고 있지만, 그 범위가 쉽게 확장되어 소규모 개발자에게 타격을 줄 수 있다고 경고했습니다.

그러나 이 법안에 찬성하는 사람들도 있습니다. Grok이라는 자체 AI 모델을 개발 중인 억만장자 엘론 머스크는 이 법안과 AI 규제를 보다 폭넓게 지지하는 소수의 기술 리더 중 한 명입니다.

8월 26일 X에 올린 글에서 머스크는 "캘리포니아는 인공지능 안전법안인 SB 1047을 통과시켜야 한다"고 말했지만 이 법안을 지지하는 것은 "힘든 결정"임을 인정했습니다.