100개 국가를 위한 모델 구축 지원 - 논란이 되고 있는 Stability.AI의 CEO의 야망

출처: Empower Labs

지난 3월 23일, 논란이 되고 있는 Stability AI의 CEO인 에마드 모스타크가 향후 탈중앙화 AI에 전념하기 위해 사임을 발표했습니다. 이 소식은 시장에 큰 충격을 주었습니다.

스태빌리티 AI는 한편으로는 오픈소스 AI의 깃발을 홀로 들고 오픈소스 AI에 큰 기여를 해왔지만, 다른 한편으로는 다른 연구팀의 성과를 자기 것으로 만들었다는 비난을 끊임없이 받아왔기 때문입니다. 에마드 CEO의 학력 위조와 잦은 소셜 미디어에서의 갑질로 인해 그 명성은 더욱 훼손되었습니다. 한때 화려한 투자자들과 막대한 자금을 지원받았던 Stability.AI는 오랫동안 심각한 재정난에 시달리며 존폐가 위태로운 상황에 처해 있었습니다.

이마드는 사임 후에도 여전히 이사회를 장악할 수 있을 만큼 Stability.AI의 지분을 다수 보유하고 있다고 밝혔습니다. 그는 사임을 강요당했다기보다는 AI에 권력이 집중되는 것은 모두에게 좋지 않다고 생각했고, Stability.AI의 변화를 촉진하기 위해 사임을 선택했다고 밝혔습니다. 에마드가 불명예스러운 자랑을 해온 전력이 있기 때문에 대부분의 사람들은 단순히 그런 것만은 아니라고 생각합니다. 하지만 저는 Stability.AI보다 에마드가 뛰어들려고 하는 탈중앙화 AI에 더 관심이 많습니다.

몇 주 전, 저는 탈중앙화 AI에 관한 토론에 에마드와 함께 참여했습니다. 이후 이 주제에 대한 그의 과거 프레젠테이션을 모아 그의 관점을 대략적으로 정리해 보았습니다.

모델을 통제하는 사람이 마음을 통제한다

인간의 행동이 운영체제에 의해 주도된다면, AI는 빠르게 그 운영체제의 외부 핵심 구성요소가 되고 있습니다. 인간은 점차 사고의 부담을 AI에 아웃소싱하는 데 적응해 왔으며, 이 기술은 우리가 생각하는 방식의 일부를 형성하고 있습니다. 그러나 AI가 가져다주는 편리함과 권한 부여는 AI 모델을 통제하는 사람이 세상의 사고를 어느 정도 통제한다는 점에서 상당한 위험을 수반합니다.

일반 대중이 이러한 스마트 도구의 작동 방식과 기본 설정에 대한 인식이 부족하면 우리의 결정과 의견이 은밀하게 영향을 받을 수 있으며, AI 모델의 제어자는 특정 기본값을 설정하여 사람들의 선택, 의견 및 행동을 무의식적으로 조종할 수 있습니다.다음 시대의 인프라로서 AI가 소수 상업 집단에 의해 통제된다면 그 결과는 다음과 같을 수 있습니다. 재앙이 될 수 있습니다. 이마드가 탈중앙화 AI의 중요성과 시급성을 강조하는 이유도 바로 여기에 있습니다.

모든 국가에는 고유한 모델이 필요합니다

오픈AI는 슈퍼 얼라인먼트 프로젝트에 막대한 노력을 투자하고 있습니다. 얼라인먼트 프로젝트에 막대한 노력을 기울이고 있지만, 전 세계 모든 국가, 모든 산업, 모든 문화에 맞게 OpenAI 자체를 조정하는 일은 누가 담당할까요?

아무도 없습니다.

OpenAI의 슈퍼 얼라인먼트는 기본적인 보안과 인류 공통의 윤리 측면에서 많은 노력을 기울이고 있지만, 다양한 국가와 문화의 다양성 앞에서는 충분할까요? 다른 국가와 문화는 실리콘밸리 엘리트들과 매우 다른 가치관을 가지고 있는 경우가 많은데, 이러한 다양한 가치관이 AI 모델에 공정하게 반영될 수 있을까요? 케냐와 같은 국가들이 차세대 학생들을 위해 실리콘밸리 AI를 대대적으로 사용하기 시작하면 그 나라의 고유한 문화적 정체성이 사라질까요?

정답은 암울합니다. 그렇기 때문에 에마드는 모든 국가, 모든 산업, 모든 문화가 각자의 특성을 나타내는 AI 모델을 가져야 한다고 믿습니다. 이러한 모델은 현지에 깊이 뿌리내리고 해당 국가, 산업, 문화의 집단적 지혜를 충분히 흡수하고 반영해야 합니다. 두 달 전 NVIDIA도 본질적으로 동일한 주권 AI의 개념에 대해 여러 차례 언급했기 때문에 이 개념은 누구에게도 낯설지 않을 것입니다. 하지만 Emad는 NVIDIA보다 훨씬 이른 1~2년 전부터 다양한 기회에 이에 대해 이야기하기 시작했습니다.

세계의 대다수 국가는 자체 AI 모델을 만들 수 있는 능력을 갖추지 못했고, 이것이 바로 에마드가 목표로 삼고 있는 시장입니다. 그는 기본 스택을 만들어 모든 국가, 민족, 산업에서 만든 AI 모델을 지원하고자 합니다. 그리고 그 스택 위에 탈중앙화된 집단 협업을 통해 모델을 개발할 수 있도록 하는 것이 목표입니다.

Emad는 교육, 의료, 금융 등 각기 다른 핵심 영역에 초점을 맞춘 다양한 전문성을 갖춘 일련의 회사를 설립/인큐베이팅할 수 있으며, 각 국가에 맞는 AI 모델을 개발할 수 있다고 말했습니다. 그리고 탈중앙화된 AI 사례로서 이러한 회사들은 스타터 역할을 더 많이 하게 될 것입니다. 기본 모델과 표준화된 프레임워크를 제공함으로써 커뮤니티의 재능 있는 인재들이 기여에 참여할 수 있도록 유도합니다. 한 국가의 많은 인재들이 기부에 참여하도록 유도할 수 있다면, 이러한 집단적 지혜는 결국 좋은 국가 모델로 수렴될 것입니다.

핵심은 데이터

간단한 비유를 들어 설명하자면, AI 모델의 레시피는 알고리즘과 데이터이며, 데이터가 많을수록 더 많은 산술 연산이 필요합니다. 현재 시장의 대다수 팀은 더 나은 모델 알고리즘을 추구하고, 더 많은 데이터를 확보한 다음, 더 많은 연산 능력과 결합하고 있습니다. 그러나 데이터의 품질이 높으면 더 적은 데이터 양으로도 똑같이 우수한 결과를 얻을 수 있다는 것이 실제로 입증되었습니다. 즉, 사람들은 낮은 품질의 데이터를 산술 연산 능력에 의존하여 엉덩이를 닦고 있는 것입니다.

이마드가 추진하고 있는 탈중앙화 AI 시스템의 장점 중 하나가 바로 이 점입니다. 한 나라의 최고 인재들이 모일 수 있는 구조가 마련된다면 양질의 국가 데이터셋을 구축할 수 있고, 동시에 데이터를 검증할 수 있고 소유권이 명확하며 데이터에 대한 인센티브 모델도 설계할 수 있다는 것이 그의 생각입니다.

이러한 방식으로 과거에는 접근할 수 없었던 데이터를 수집할 수 있습니다. 이러한 데이터는 더 높은 품질의 데이터일 뿐만 아니라 대중의 목소리와 요구를 보다 진정성 있고 공정하게 대변합니다.

소규모 모델 클러스터 대 단일 대규모 모델

AI에서 스케일링 법칙은 거의 철칙이 되었으며, 우리가 원하든 원치 않든 피할 수 없습니다.

자원을 조직하는 데 탈중앙화된 접근 방식을 채택한 다음 스케일링 법칙을 통해 일반 AI(AGI)를 구현하는 것은 단기적으로 현실적이지 않다는 것은 분명합니다. 또한 커뮤니티 중심의 AI 모델이 가장 강력한 모델의 왕관을 차지하기 위해 OpenAI와 같은 거대 기업과 경쟁하기는 상당 기간 어려울 것입니다.

그러나 AGI를 추구하는 것과 널리 적용 가능한 AI를 만드는 것은 다른 문제입니다. 기술이 계속 발전함에 따라 커뮤니티가 주도하는 중소형 모델의 역량이 빠르게 증가하고 있습니다. 1~2년 내로 대부분의 일상 업무에 중소형 모델만으로도 충분할 것으로 예상됩니다. 가장 강력하지는 않지만 충분히 실용적이고 비용 효율적이기 때문에 다양한 활용 시나리오를 열어줄 수 있습니다. 우리가 구매하는 대부분의 온라인 쇼핑에서 SF 익일 배송을 사용하지 않아도 되는 것처럼, 앞으로는 다양한 모델을 혼용하는 것이 점차 대세가 될 것입니다.

집단 지성 기반 모델이 널리 사용되면 단일 조직이 통제하는 단일 대형 모델과 관련된 잠재적 위험을 크게 줄일 수 있다는 점에서 매우 중요한 변화를 가져올 것입니다. 또한 이러한 집단 지성 기반 모델은 대규모 모델의 데이터가 오염될 경우 교정자 역할을 쉽게 수행하여 필요한 수정을 수행할 수 있습니다. 이는 단순히 실용성과 비용 절감의 문제가 아니라 집단지성과 인공지능의 신의 대결입니다.

기술적인 관점에서 볼 때 모델이 작다고 해서 단점이 있는 것은 아닙니다. 크기가 작으면 추가 학습을 통해 더 쉽게 특정 업종을 공략할 수 있습니다. 이러한 도메인 내에서는 전문가 수준의 도구로 잘 작동할 수 있지만, 결합된 기능은 대규모 모델만큼 뛰어나지 않을 수 있습니다. 그리고 다수의 전문가 모델로 구성된 소규모 클러스터가 하나의 대규모 모델에 비해 결코 뒤지지 않습니다.

더 중요한 것은 모델의 규모가 작을수록 배포의 탈중앙화를 효과적으로 촉진할 수 있다는 것입니다. 탈중앙화란 모델 구축과 데이터 소스의 탈중앙화뿐만 아니라 거버넌스의 탈중앙화, 배포의 탈중앙화도 의미합니다. 오픈 소스 모델을 개인의 노트북이나 휴대폰에서도 쉽게 배포할 수 있다면 이는 AI 패리티에 해당합니다. 중앙 집중식 서비스 제공업체가 서비스를 중단하더라도 사용자는 로컬 AI에 의존해 업무를 계속할 수 있습니다. 사람들이 AI에 제한 없이 광범위하게 접근할 수 있도록 하는 것 또한 탈중앙화 AI의 중요한 목표입니다.

AI + Web3 - 사기인가 미래인가

이마드가 적극적으로 추진하고 있는 탈중앙화 AI 이니셔티브가 암호화폐와 밀접한 관련이 있다는 것은 의심할 여지가 없습니다. 그는 이러한 자신의 아이디어를 통합하고 실현하기 위해 웹3 프로토콜을 설계하고 싶다는 의지를 보여왔습니다. 현재 AI 분야에서 부족한 몇 가지 핵심 요소인 데이터 검증 가능성, 데이터 소유권, 대규모 조정 및 인센티브, 집단적 거버넌스 기능이 바로 웹3 기술이 뛰어난 분야이기 때문입니다.

여기서 거버넌스에 대해 다시 한 번 살펴보고자 합니다. 오늘날의 AI만큼 강력한 기술은 없었고, 앞으로 전 세계 곳곳에 광범위하고 깊은 영향을 미칠 것이기 때문입니다. 이 기술의 미래 방향은 누가 결정해야 할까요? 누가 효과적으로 통제할 수 있을까요? OpenAI와 같은 소수의 회사 이사회가 AI를 관리하는 것은 가장 효과적인 해결책이 될 수 없습니다. 단순히 규제 당국이 AI 모델에 엄격한 멍에를 씌우는 것 역시 이 문제에 대한 효과적인 대응책이 될 수 없습니다. 집단적 거버넌스가 진정한 해결책이 될 수 있습니다.

웹3.0 영역에서는 데이터 거버넌스, 애플리케이션 거버넌스, 네트워크 거버넌스, 조직 거버넌스 등 여러 수준의 집단 거버넌스 실험이 활발하게 이루어지고 있습니다. 대부분의 시도가 아직 탐색 단계에 있고 많은 실패를 경험했지만, 이는 인간 거버넌스 개발의 최첨단을 달리고 있습니다.

지난 5년 동안 인류 역사상 거의 모든 거버넌스 모델이 암호화폐 공간, 특히 탈중앙화 자율 조직(DAO)을 중심으로 시도되었습니다. 비영리 재단이 영리 기업을 통제하는 OpenAI가 채택한 혁신적인 구조는 오래 전부터 DAO에서 널리 실행되어 왔습니다. 지난 몇 년 동안 웹3.0 세계의 사람들은 거버넌스 스피드패스 게임을 해온 것 같습니다. 사람들은 수천 년에 걸친 인간 거버넌스를 단 몇 년 만에 재연해냈습니다.

가장 흔한 비판 중 하나는 대부분의 웹3.0 거버넌스가 과거에 인간이 가지고 있던 거버넌스 모델을 복사한 다음 체인 투표를 추가한 것에 불과하다는 것입니다. 하지만 역사는 빠른 성장 속도와 높은 인재 밀도가 있을 때 완전히 새로운 무언가가 곧 진화한다는 것을 가르쳐 줍니다.

그렇지 않은 예로 인터넷 광고를 들 수 있습니다. 인터넷이 막 등장하던 시절, 뉴스 사이트를 열면 갑자기 커다란 전체 화면 광고가 나타났다가 서서히 사라지면서 페이지가 빽빽한 광고 블록으로 뒤덮이던 것이 인터넷 초기의 상징적인 기억으로 남아 있습니다. 당시 사람들은 인터넷을 더 효과적으로 홍보할 수 있는 방법이 무엇인지 몰랐기 때문에 단순히 기존 미디어에서 인터넷으로 광고 방식을 옮겼을 뿐입니다. 하지만 시간이 흐르고 사람들이 인터넷 기술과 문화에 대한 이해도가 높아지면서 인류 역사상 전례 없는 효율적인 홍보 방식이 등장했고, 곧 인터넷에서 전통적인 광고는 빠르게 사라졌습니다.

기술의 거버넌스도 인터넷 광고와 비슷한 길을 걷게 될 것으로 보입니다. 저는 블록체인 기술이 인류 역사상 전례 없는 집단적 거버넌스 솔루션이 성장할 수 있는 조정 및 거버넌스 역량을 크게 향상시킬 것이라고 확신합니다.

결론

현재에 놓고 AI 시대의 미래를 예측하고 에마드의 전체 비전을 살펴보면 결론을 내리기 어렵습니다. 그의 계획이 여러 차원에서 엄청난 도전에 직면해 있는 것은 분명합니다. 여기에 에마드가 과거에 종종 과장을 해왔다는 사실까지 더해지면 그의 말 중 어떤 것을 진지하게 받아들일 수 있고 어떤 것이 말뿐인지 구분하기란 쉽지 않습니다.

언젠가는 세상이 에마드에게 고마워할지도 모릅니다.