머스크, 부테린, 캘리포니아의 논란이 되고 있는 AI 감시 법안 SB 1047 지지

캘리포니아는 주 내 첨단 AI 기술의 개발과 배포를 관리하기 위한 상원 법안 1047(SB 1047)을 통해 AI 규제를 추진하고 있습니다. 이 법안은 캘리포니아에 기반을 둔 전문가와 AI 기업의 양극화된 반응으로 전국적인 논쟁을 촉발시켰습니다.

SB 1047의 주요 조항

2024년 2월 민주당의 스콧 와이너 주 상원의원이 발의한 SB 1047은 훈련에 1억 달러 이상의 비용이 들거나 상당한 컴퓨팅 성능이 필요한 AI 모델에 대한 안전 프로토콜을 수립하는 것을 목표로 합니다. 이 법안은 예상치 못한 위협에 직면한 프로젝트를 중단하는 '킬 스위치' 구현을 포함하여 행동 위험을 해결하기 위한 출시 전 안전 테스트를 의무화합니다. 또한 개발자는 모델의 수명 주기 동안 그리고 그 이후 5년 동안 위험 대응 계획을 유지해야 합니다.

신고 및 처벌

개발자는 안전 사고를 캘리포니아 법무장관에게 보고해야 하며, 위반 시 첫 번째 위반 시 최대 5만 달러, 이후 위반 시 10만 달러의 벌금이 부과됩니다. 또한 외부 감사기관은 매년 AI 실험실에서 시행하는 안전 관행을 검토해야 합니다.

관련 읽기：엘론 머스크는 캘리포니아 시장 개빈 뉴섬이 서명한 새 법에 불만을 품고 스페이스X와 트위터 본사를 텍사스로 이전하기로 결정했습니다.

이의 제기 및 수정

이 법안은 혁신을 저해할 수 있으며 이러한 규제는 연방 차원에서 처리되어야 한다고 주장하는 구글, 메타, OpenAI와 같은 주요 기술 기업의 강력한 반대에 부딪혔습니다. 저명한 AI 학자인 페이페이 리 박사는 이 법안이 학계와 공공 기관 등 취약한 분야에 미칠 영향에 대해 우려를 표명했습니다. 하지만 이러한 비판을 해결하기 위해 형사 처벌 조항을 삭제하고 국가 규제 기관을 신설하는 등 법안이 수정되었습니다.

영향력 있는 인사들의 지원

반대에도 불구하고 SB 1047은 'AI의 대부'로 불리는 요슈아 벤지오를 비롯한 저명한 인사들의 지지를 받고 있으며, 최근에는 테슬라 창업자 일론 머스크와 이더리움 공동 창업자 비탈릭 부테린도 이 법안을 지지했습니다. 오랫동안 AI 규제를 옹호해 온 머스크는 이 법안이 일부 사람들을 화나게 할 수도 있지만 공공 안전을 위해 필요한 조치라고 말했습니다. 부테린은 '세계를 위협하는 능력'을 가진 AI 모델의 시장 진입을 막는 데 초점을 맞춘 이 법안을 지지하며, 개발자가 합리적인 안전 조치를 취하지 않은 경우에만 벌금을 부과하는 접근 방식에 찬사를 보냈습니다.

관련 읽기：텔레그램 CEO 파벨 두로프는 자신이 100명 이상의 자녀를 둔 아버지라고 밝혔고, 12명의 자녀를 둔 엘론 머스크도 그를 매우 존경한다고 말했습니다.

기술 산업에 대한 시사점

머스크와 부테린의 지지는 SB 1047이 주의회 전체 표결을 앞두고 있는 중요한 시점에 나온 것입니다. 이 법안이 통과되면 최근 수정안으로 인해 최종 표결을 위해 상원으로 돌아가게 됩니다. 앞서 상원에서 32대 1의 표차로 법안을 통과시켰기 때문에 법으로 제정될 가능성이 높으며, 9월 30일까지 개빈 뉴섬 주지사의 승인을 받을 수 있을 것으로 예상됩니다.