OpenAI 챗봇 책임자 사임, 국방부 AI 협력에 안전장치 부재 의혹 때문인 듯

OpenAI 로봇 팀 책임자 케이틀린 칼리노프스키(Caitlin Kalinowski)가 사임을 발표했으며, 이는 회사가 미국 국방부(Pentagon)와 체결한 인공지능 협력 협정이 논란을 불러일으켰기 때문이다. 칼리노프스키는 소셜 미디어를 통해 "AI가 국가 안보에서 중요한 역할을 하는 것은 사실이지만, 사법 감독 없이 국내 감시를 수행하거나 인간의 승인 없이 치명적인 자율 무기를 사용하는 등의 문제는 보다 신중한 논의가 필요하다"고 밝혔다. 칼리노프스키는 2024년 11월 OpenAI에 합류했으며, 이전에는 메타(Meta)에서 증강현실(AR) 안경 프로젝트를 담당했다. 그녀는 이번 사임이 "개인적 문제가 아닌 원칙의 문제"라고 강조하며, 여전히 OpenAI CEO 샘 알트먼(Sam Altman)과 팀에 대한 존중을 표했다. 또한 회사가 해당 협력을 발표하기 전에 거버넌스와 안전장치(guardrails)를 충분히 마련하지 않았으며, 의사 결정 과정이 지나치게 성급했다고 지적했다. OpenAI 대변인은 언론에 그녀의 퇴사를 확인하며, 회사의 국방부와의 협력은 국가 안보 분야에서 AI를 책임감 있게 활용할 수 있는 길을 마련하는 동시에 국내 감시나 자율 무기 시스템 개발 금지 등 명확한 레드라인을 설정하기 위한 것이라고 설명했다. 그러나 이 협력은 여전히 업계에서 논란을 불러일으키고 있다. 관련 소식이 공개된 후 ChatGPT의 삭제량이 한때 약 295% 급증한 반면, Anthropic의 Claude 앱은 미국 앱스토어 무료 차트 1위에 올랐다는 데이터가 나왔다. (TechCrunch)