OpenAI의 안전 중심이 위험에 처했나? AI 안전 리더의 재배치는 경고 신호일까요?

주목할 만한 개편 사항

이 거대 기술 기업에 대한 추가 조사를 촉발한 놀라운 움직임으로, OpenAI는 최근 AI 안전 책임자인 알렉산더 매드리를 AI 추론에 중점을 둔 역할로 재배치했습니다.

2024년 7월 24일, OpenAI의 CEO인 샘 알트먼은 X(구 트위터)에서 매드리가 준비 팀을 총괄하는 역할에서 AI 추론에 중점을 둔 새로운 직책으로 재배치되었음을 공개적으로 밝혔습니다.

알트먼은 더 자세한 설명 없이 매드리의 새 프로젝트가 '매우 중요하다'고 설명했습니다.

알트만의 트윗에 따르면 매드리는 이제 중요한 새 연구 프로젝트에 참여할 예정이지만, 구체적인 프로젝트의 내용은 공개되지 않았습니다.

당분간 OpenAI의 임원인 호아킨 퀴노네로 칸델라와 릴리안 웡이 준비 팀의 책임을 맡게 됩니다.

이러한 역할 변화는 AI 개발의 새로운 과제에 지속적으로 적응하기 위해 OpenAI의 안전 운영 내 전략적 재편을 강조합니다.

알렉산더 매드리의 떠남과 새로운 역할 - 그는 누구인가?

2023년 5월부터 회사에 합류한 알렉산더 매드리는 AI 안전 분야의 저명한 인물로, 이전에는 OpenAI의 준비 팀을 이끌었습니다.

그의 팀은 AI 모델로 인한 치명적인 위험을 식별, 평가, 완화하는 임무를 맡았습니다.

매드리의 전문성은 널리 인정받았지만, 그가 떠난 후 안전에 대한 회사의 약속에 대한 우려가 커졌습니다.

알트먼은 매드리의 새로운 연구 프로젝트의 중요성을 강조했지만, 그를 중요한 안전 역할에서 배제하기로 한 결정은 논쟁을 불러일으켰습니다.

매드리가 배포 가능한 머신 러닝 센터와 AI 정책 포럼에서 직책을 맡고 있는 MIT와 관계를 유지하고 있다는 점도 주목할 만합니다.

2011년 MIT에서 박사 학위를 받았으며 Microsoft Research New England와 EPFL에서 근무했습니다.

그는 MIT 배포 가능한 머신러닝 센터를 이끌고 있으며 CSAIL-MSR의 신뢰할 수 있고 강력한 AI 협업을 이끌고 있습니다.

그의 연구는 알고리즘 그래프 이론, 최적화 및 머신러닝에 중점을 두고 있으며, 실제 애플리케이션을 위한 신뢰할 수 있는 의사 결정 도구를 개발하는 것을 목표로 합니다.

OpenAI 언더파이어

매드리의 재배치 결정은 OpenAI에 대한 조사와 비판이 거세지고 있는 가운데 나온 것입니다.

발표가 있기 일주일 전, 민주당 상원의원 그룹은 안전에 대한 회사의 접근 방식에 대한 우려를 표명하고 2024년 8월 13일까지 구체적인 질문에 대한 답변을 요구하는 서한을 샘 알트먼 CEO에게 보냈습니다.

상원의원들의 서한은 AI 기업이 공공 안전에 대한 약속을 입증해야 한다는 압박이 커지고 있음을 강조합니다.

OpenAI의 안전 관행은 몇 달 동안 집중적인 조명을 받아왔습니다.

지난 6월, 전현직 OpenAI 직원들로 구성된 그룹은 적절한 감독 없이 AI가 급속도로 발전하는 것에 대한 우려를 담은 공개 서한을 발표했습니다.

이 서한은 업계에서 투명성과 책임성을 강화해야 할 필요성을 강조했습니다.

또한, 미국 연방거래위원회(FTC)와 법무부(DOJ)는 오픈AI, 마이크로소프트, 엔비디아의 AI 활동과 관련된 잠재적인 반독점법 위반 여부를 조사하고 있는 것으로 알려졌습니다.

이번 조사는 AI 업계가 직면한 규제 조사가 강화되고 있음을 강조합니다.

매드리의 재배치는 OpenAI가 다른 과제를 해결해야 하는 시점에 이루어졌습니다.

OpenAI의 안전 부서 및 최근 변경 사항

OpenAI의 신뢰 및 안전 부서는 최근 상당한 변화를 겪었습니다.

2023년 7월, OpenAI의 신뢰 및 안전 부서 책임자인 데이브 윌너가 퇴사한 후 기존의 안전 팀을 해체하고 3개의 별도 부서로 재편했습니다:

• 안전 시스템 팀
• 슈퍼얼라인먼트 팀
• 준비 팀

안전 시스템 팀은 AI 모델의 안전한 배포와 오용 감소에 중점을 두고, 슈퍼얼라인먼트 팀은 미래의 AI 안전을 위해 일하며, 매드리가 이끌던 준비 팀은 새로운 위험을 평가하고 최첨단 AI 모델과 관련된 치명적인 위험을 완화하는 역할을 합니다.

지난 5월 초에는 장기적인 AI 리스크 팀을 해체했는데, 이 결정은 조직 안팎의 비판을 불러일으켰습니다.

이 팀은 회사의 공동 창립자인 일리야 수츠케버와 장기적으로 AI 리스크 팀을 이끌었던 얀 라이크가 회사의 우선순위에 대한 의견 불일치를 이유로 OpenAI를 떠난 후 해체되었습니다.

한 달 후일리야 수츠케버는 자신의 새로운 스타트업인 세이프 슈퍼인텔리전스(SSI)를 발표했습니다.

마이크로소프트의 역할 축소

OpenAI의 내부적인 변화와 더불어 Microsoft와 같은 주요 이해관계자와의 관계도 발전했습니다.

이달 초, Microsoft는 OpenAI의 지배구조 확립이 진전되었다는 이유로 이사회에서 옵서버 지위를 포기했습니다.

그러나 이러한 움직임은 OpenAI가 더 많은 조사와 도전에 직면하면서 나온 것입니다.

안전에 대한 초점 약화?

매드리의 재배치와 안전 부서의 광범위한 구조 조정으로 인해 OpenAI의 우선 순위가 바뀔 수 있다는 추측이 나오고 있습니다.

비평가들은 이러한 움직임이 제품 개발 및 시장 경쟁과 같은 다른 목표를 위해 안전에 대한 회사의 약속이 약화되었음을 의미할 수 있다고 주장합니다.

그러나 OpenAI는 매드리가 새로운 역할에서도 핵심적인 AI 안전 업무에 계속 기여할 것이라고 밝혔습니다. 또한 안전의 중요성과 잠재적 위험을 해결하기 위한 지속적인 노력을 강조해 왔습니다.

AI 산업이 계속 가속화됨에 따라 안전에 대한 책임이 그 어느 때보다 커지고 있습니다. OpenAI와 같은 기업이 내리는 결정은 사회에 광범위한 영향을 미칠 것입니다.

앞으로 몇 달은 OpenAI가 혁신과 책임의 균형을 효과적으로 맞출 수 있을지 여부를 결정하는 데 중요한 시기가 될 것입니다.