OpenAI, AI 관련 재난 위험 평가를 위한 대비 사업부 출범

암호화폐 전문 미디어 코인텔레그래프에 따르면, ChatGPT를 개발한 인공지능(AI) 연구 및 배포 회사인 OpenAI가 AI로 인한 잠재적 재앙적 위험을 추적, 평가, 예측 및 보호하는 전담 팀을 신설한다고 발표했습니다. '대비'라는 이름의 이 신설 부서는 화학, 생물학, 방사능, 핵 위협, 개별화된 설득, 사이버 보안, 자율 복제 및 적응과 관련된 AI 위협에 초점을 맞출 예정이며, 알렉산더 매드리가 이끄는 대비 팀은 프론티어 AI 시스템이 오용될 경우 얼마나 위험한지, 악의적인 행위자가 훔친 AI 모델 가중치를 배포할 수 있는지와 같은 질문에 답하기 위해 노력할 것입니다. OpenAI는 프론티어 AI 모델이 인류에게 혜택을 줄 수 있는 잠재력이 있는 반면, 점점 더 심각한 위험을 초래할 수 있다는 점을 인정합니다. 현재 시스템부터 초지능의 가장 먼 영역에 이르기까지 AI와 관련된 모든 안전 위험을 해결하기 위해 최선을 다하고 있으며, 현재 새로운 대비 팀을 위해 다양한 기술 배경을 가진 인재를 찾고 있으며, 재앙적인 오용 방지를 위한 AI 대비 챌린지를 시작하여 상위 10개 제출자에게 25,000달러의 API 크레딧을 제공하고 있습니다. 인공지능이 인간보다 더 똑똑해질 수 있다는 우려와 함께 인공지능과 관련된 위험성이 자주 부각되고 있습니다. 이러한 위험에도 불구하고 OpenAI와 같은 기업은 계속해서 새로운 AI 기술을 개발하여 더 많은 우려를 불러일으키고 있습니다. 2023년 5월, 비영리 단체인 AI 안전 센터는 AI 위험에 관한 공개 서한을 발표하여 팬데믹, 핵전쟁 등 다른 사회적 규모의 위험과 함께 AI로 인한 멸종 위험을 글로벌 우선순위로 완화할 것을 촉구했습니다.