릴리 사례는 엔터프라이즈 AI 시장에 시사하는 바가 무엇인가요?

하오티엔 제공

맥킨지의 릴리 사례는 엔터프라이즈 AI 시장의 핵심 개발 아이디어인 엣지 컴퓨팅 + 소형 모델의 잠재력을 제공합니다. 10만 개의 사내 문서를 통합하는 이 AI 어시스턴트는 직원 채택률이 70%에 달할 뿐만 아니라 주당 평균 17회 사용되며, 엔터프라이즈 도구 중에서는 드물게 제품 고착화 수준이 높습니다. 제 생각은 다음과 같습니다.

1) 기업 데이터 보안은 골칫거리: 맥킨지가 100년 동안 축적한 핵심 지식 자산과 일부 중소기업은 데이터 민감도가 높은 특정 데이터를 축적하고 있는데, 퍼블릭 클라우드에서 처리되지 않습니다. '데이터는 로컬을 벗어나지 않고, AI 능력은 저하되지 않는' 균형 상태를 어떻게 모색할 것인가가 실제 시장의 요구입니다. 엣지 컴퓨팅은 탐색의 방향입니다.

2) 전문 소형 모델이 일반 대형 모델을 대체 할 것입니다 : 기업 사용자가 필요로하는 것은 "수백억 개의 매개 변수, 전능한"일반 모델이 아니라 전문 비서 문제의 특정 영역에 정확하게 답할 수 있습니다. 반면, 대형 모델의 다양성과 전문성의 깊이 사이에는 자연스러운 모순이 존재하며, 기업 시나리오에서는 소형 모델을 중요시하는 경향이 있습니다.

3) 자체 구축한 AI 인프라와 API 호출 비용의 균형: 엣지 컴퓨팅과 소형 모델의 조합은 초기 투자 비용이 크지만 장기 운영 비용은 현저히 낮습니다. 45,000 명의 직원이 의존성을 생성하는 API 호출에서 AI 빅 모델을 자주 사용하는 경우 규모 사용과 문자 이론의 증가로 인해 자체 구축 된 AI 인프라가 중견 및 대기업에 합리적인 선택이 될 것이라고 상상해보십시오.

4) 엣지 하드웨어 시장의 새로운 기회 : 빅 모델 교육은 하이 엔드 GPU와 분리 될 수 없지만 하드웨어의 엣지 추론, 시장의 엣지는 AI 인프라 개발에 매우 좋은 기회이지만 GPU의 추론의 엣지는 하드웨어의 매우 중요한 부분입니다. 그러나 엣지 추론에 대한 하드웨어 요구 사항은 완전히 다릅니다. 퀄컴, 미디어텍 및 기타 칩 제조업체들은 엣지 AI에 최적화된 프로세서를 위한 시장 기회를 열어가고 있습니다. 모든 기업이 자체 '릴리'를 구축하고자 할 때 저전력 소비와 고효율을 위해 설계된 엣지 AI 칩은 인프라 필수품이 될 것입니다.

5) 분산형 웹3 AI 시장도 시장의 발전과 동조화되어, 소규모 모델에서 기업의 연산, 미세 조정, 알고리즘 및 기타 요구가 증가하면 자원 스케줄링의 균형을 맞추는 방법이 문제로 대두될 것입니다. 균형 잡힌 자원 스케줄링이 문제가 될 것이고, 전통적인 중앙 집중식 자원 스케줄링이 문제가 될 것이며, 이는 웹3AI 분산형 소형 모델 미세 조정 네트워크, 분산형 산술 서비스 플랫폼 등을 직접 제공하여 많은 시장 수요를 가져올 것입니다.

시장은 여전히 AGI의 일반적인 능력의 경계를 논의하고 있지만 많은 기업 사용자가 이미 AGI의 일반적인 능력을 활용하고 있다는 사실이 더욱 반갑습니다. 이미 많은 기업 사용자들이 AI의 실질적인 가치를 활용하고 있다는 점은 매우 반가운 일입니다. 분명히 과거 컴퓨팅 파워, 알고리즘, 리소스 독점 경쟁에 비해 시장이 엣지 컴퓨팅 + 스몰 모델 접근 방식에 초점을 맞출 때 더 큰 시장 활력을 가져올 것입니다.