사이버 보안을 강화하는 글로벌 연합

미국, 영국, 호주 및 15개 국가로 구성된 국가 연합은 AI 모델 변조 방지를 강화하기 위한 광범위한 가이드라인을 발표했습니다.

'설계에 의한 보안'을 강조하는 접근 방식은11월 26일에 공개된 연합의 20페이지 문서 는 빠르게 진화하는 AI 산업에서 사이버 보안을 주요 관심사로 끌어올려야 하는 당위성을 다룹니다.

이 공동의 노력은 중요 인프라를 보호하려는 각국의 사명을 재확인하고 디지털 미래를 보호하는 데 있어 국제적 파트너십의 중요성을 강화합니다.

사이버 보안 및 인프라 보안국(CISA)의 젠 이스터리 국장은 이렇게 말했습니다:

<보안 AI 시스템 개발 가이드라인>의 발표는 설계부터 안전한 인공지능 기능의 개발과 배포를 보장하기 위한 전 세계 정부의 공동 노력에 있어 중요한 이정표가 될 것입니다. 국가와 조직이 AI의 혁신적 힘을 수용함에 따라 CISA와 NCSC가 주도하는 이 국제 협력은 투명성, 책임성, 보안 관행을 촉진하기 위한 전 세계적인 노력을 강조합니다. 보안 설계 원칙을 발전시키고 전 세계 AI 시스템의 안전한 개발을 위한 탄력적인 기반을 구축하는 데 있어 국내외의 단합은 우리가 공유하는 기술 혁명에서 이보다 더 중요한 시기는 없을 것입니다."라고 말했습니다;

실용적인 보안을 위한 가이드라인

이 가이드라인은 AI 모델 인프라에 대한 엄격한 통제, 잠재적 변조 가능성에 대한 지속적인 모니터링, 직원에 대한 사이버 보안 교육 강화를 촉구하는 실질적인 권장 사항을 제공합니다.

특히 이미지 생성 모델에 대한 통제, 딥페이크, 모델 학습에 사용되는 데이터 수집 방법 등 논쟁의 여지가 있는 AI 문제에 대한 논의가 가이드라인에 빠져 있습니다.

이 연합은 AI가 제기하는 다각적인 도전과 혁신을 저해하지 않으면서 보안을 보장하는 것의 중요성을 인식하고 있습니다.

글로벌 AI 안전 조정

알레한드로 마요르카스 미국 국토안보부 장관 는 AI 시스템 구축에 있어 사이버 보안의 역할을 강조합니다:

우리는 우리 시대의 가장 중요한 기술이 될 수 있는 인공 지능 개발의 변곡점에 서 있습니다. 사이버 보안은 안전하고 안전하며 신뢰할 수 있는 AI 시스템을 구축하는 데 있어 핵심입니다;

이 가이드라인은 런던에서 열린 AI 안전 서밋과 유럽연합의 지속적인 AI 법안 개발 등 AI 안전 문제를 해결하기 위한 최근 정부의 노력에 발맞춰 마련되었습니다.

In10월, 조 바이든 미국 대통령은 AI 안전 및 보안에 대한 표준을 설정하는 행정 명령을 발표했습니다. 를 통해 혁신에 미칠 잠재적 영향에 대한 업계 논의를 촉발했습니다.

글로벌 연합은 캐나다, 프랑스, 독일, 이스라엘, 이탈리아, 일본, 뉴질랜드, 나이지리아, 노르웨이, 한국, 싱가포르로 구성되어 있습니다.

OpenAI, Microsoft, Google, Anthropic, Scale AI를 비롯한 선도적인 AI 기업들이 이러한 가이드라인을 만드는 데 적극적으로 기여했습니다.

이들은 AI 기술의 책임 있는 개발과 배포를 보장하기 위해 정부와 업계 관계자 간의 협력을 강조합니다.