OpenAI와 구글 딥마인드 직원들이 힘을 합쳐 첨단 AI의 높은 위험성과 더 엄격한 규제의 시급한 필요성에 대한 우려를 제기했습니다. 이에 대해 OpenAI는 오늘 강력하고 안전한 AI 시스템을 제공하기 위한 노력을 강조하는 성명을 발표했습니다.
OpenAI는 "AI 기술의 중요성을 고려할 때, AI 기술을 더 발전시키는 방법에 대한 진지한 논의가 중요하다는 공개 서한에 동의합니다."라고 말했습니다.
우리는 조화로운 AI 환경을 조성하기 위해 전 세계 정부, 시민 사회 및 기타 커뮤니티에 지속적으로 다가갈 것입니다.
AI를 규제하는 효과적인 수단으로는 익명의 청렴성 핫라인과 이사회 멤버 및 회사 보안 리더가 참여하는 안전 및 보안 위원회가 있습니다.
OpenAI는 필요한 안전장치가 마련될 때까지 새로운 AI 기술을 출시하지 않을 것이라고 밝혔습니다. 또한 정부 규제에 대한 지지와 AI 안전에 대한 자발적 약속에 대한 참여를 재차 강조했습니다.
보복에 대한 우려에 대해 대변인은 모든 전직 직원을 차별 금지 계약에서 해제하고 표준 퇴사 문서에서 해당 조항을 삭제했다고 확인했습니다. (IT 홈)
오늘 오전 OpenAI(ChatGPT), Anthropic(Claude), DeepMind(Google)의 전현직 직원 13명과 인공지능 분야 전문가들이 '인공지능에 대해 경고할 권리' 청원을 시작했습니다. 이 청원은 첨단 AI 시스템의 위험성에 대한 대중의 인식을 높이기 위해 내부 고발자 보호를 강화해야 한다는 취지로, 전 OpenAI 직원 윌리엄 손더스는 잠재적으로 위험한 신기술을 다룰 때는 독립적인 전문가, 정부 및 대중과 위험에 대한 정보를 공유할 수 있는 방법이 있어야 한다고 주장했습니다.