조 바이든 대통령의 최근 행보를 보면주문 가 10월 30일에 발표되면서 기술 커뮤니티에서 우려의 목소리가 커지고 있습니다.

이 포괄적인 명령은 시민, 정부 기관 및 기업을 보호하는 데 중점을 두고 엄격한 인공지능(AI) 안전 표준을 수립하고자 합니다.

'안전, 보안, 신뢰, 개방성'이라는 원칙에 따라 AI 안전 및 보안을 위한 6가지 새로운 표준을 도입합니다;

투명성 의무: 안전성 테스트 결과 공유

행정명령의 주목할 만한 측면 중 하나는 국가 안보, 경제 안보 또는 공중 보건에 중대한 위험을 초래하는 '기초 모델'을 개발하는 기업이 안전 테스트 결과를 공무원과 공유해야 한다는 의무입니다.

이 요건은 AI 개발의 투명성과 책임성을 보장하여 보다 안전하고 신뢰할 수 있는 AI 기술을 촉진하는 것을 목표로 합니다.

오픈소스 딜레마: 명확한 지침의 부재

좋은 취지에도 불구하고 이 행정명령은 AI 커뮤니티, 특히 오픈소스 개발 부문에서 우려를 불러일으켰습니다.

구체적인 실행 세부 사항이 없기 때문에 이 명령이 커뮤니티 주도의 혁신에 의존하는 오픈소스 AI에 어떤 영향을 미칠지에 대한 의문이 제기되고 있습니다.

이러한 모호성으로 인해 개발자들은 최상위 모델 개발에 어떤 영향을 미칠지 불확실하게 되었습니다.

업계 전문가들의 다양한 반응

업계 전문가들은 이 행정명령에 대해 엇갈린 반응을 보이고 있습니다. 스트라이크 캐피털의 창립 파트너이자 AI 투자자인 아담 스트라이크는 AI의 혁신적 잠재력을 인정한 행정명령에 찬사를 보냈습니다.

그러나 그는 특히 명확한 지침이 없는 오픈소스 커뮤니티에서 개발자가 미래의 위험을 예측하는 데 직면한 어려움을 강조하기도 했습니다.

이 행정 명령은 정부가 규제 기관 내 AI 최고 책임자 및 거버넌스 위원회를 통해 AI 가이드라인을 관리하겠다는 의도를 설명합니다.

이러한 접근 방식은 이러한 기관 내에서 활동하는 기업이 정부가 승인한 규제 프레임워크를 준수해야 한다는 것을 의미합니다. 이러한 프레임워크는 데이터 규정 준수, 개인정보 보호, 편향되지 않은 알고리즘 개발에 초점을 맞출 것으로 예상됩니다.

오픈소스 옹호 및 우려 사항

벤처 캐피털 회사인 안드레센 호로위츠(Andreessen Horowitz)의 제너럴 파트너인 마틴 카사도는 행정명령이 오픈소스 AI에 미칠 잠재적 영향에 대해 우려를 표명했습니다.

그는 다른 AI 전문가들과 함께 소프트웨어 안전을 유지하고 독점을 방지하는 데 있어 오픈 소스의 중요성을 강조하는 서한을 바이든 행정부에 보냈습니다. 비평가들은 AI 모델 유형에 대한 명령의 광범위한 정의가 대기업을 위해 설계된 요구 사항을 충족하는 데 어려움을 겪을 수있는 소규모 회사에 문제를 제기 할 수 있다고 주장합니다.

위험에 처한 혁신: 해로운 영향

젠신의 제프 아미코는 이러한 우려를 반영하여 이 행정명령이 미국의 혁신에 해롭다고 말했습니다.

과도한 규제가 AI의 혁신 잠재력과 다양한 산업에서 혁신을 저해할 수 있는 잠재력에 미칠 수 있는 영향은 논쟁의 대상이 되고 있습니다.

나노트로닉스의 CEO이자 공동 설립자인 매튜 퍼트먼(Matthew Putman)은 소비자 안전과 윤리적 AI 개발을 우선시하는 규제 프레임워크의 필요성을 강조했습니다.

그는 과도한 규제에 대해 경고하면서도 AI의 재앙적 잠재력에 대한 두려움이 과장된 경우가 많다고 지적했습니다. 그는 특히 첨단 제조, 생명공학, 에너지 분야에서 AI 기술이 공정을 개선하고, 폐기물을 줄이고, 배출량을 줄임으로써 지속 가능성 혁명을 주도하는 등 AI의 긍정적인 영향에 대해 강조했습니다.

앞으로의 길: AI 안전 연구소 컨소시엄

행정 명령이 구체화됨에 따라 미국 국립표준기술연구소와 상무부는 인공지능 안전 연구소 컨소시엄을 출범시켰습니다.

이 컨소시엄은 혁신을 장려하는 동시에 대중을 보호하는 균형 잡힌 방식으로 안전 표준을 확립하여 AI 안전 노력에 기여할 회원사를 찾고 있습니다.

바이든 대통령의 행정 명령은 좋은 의도를 가지고 있지만, AI의 혁신적 잠재력을 억누르고 다양한 산업에서 혁신을 저해할 수 있는 과잉 규제의 위험을 내포하고 있습니다. AI 커뮤니티가 진화하는 AI 규제 환경을 헤쳐나가는 과정에서 안전과 혁신 사이의 적절한 균형을 맞추는 것은 여전히 중요한 과제로 남아 있습니다.