로그인/ 가입하기

암호화폐와 인공지능의 라이징 스타 하이퍼볼릭에 관한 기사

2024/08/27 19:13

따르다

저자: Josh Ho & Teng Yan, Chain of Thought, 번역: golden finance xiaozou

이 기사에서는 Hyperbolic에 대해 자세히 알아보겠습니다. 하이퍼볼릭은 현재 큰 인기를 끌고 있는 오픈 액세스 AI 클라우드 서비스로, 합리적인 가격의 추론 컴퓨팅 성능을 제공하여 AI의 접근성을 높이는 것이 하이퍼볼릭의 큰 사명입니다.

그러나 그 전에 Hyperbolic의 가장 흥미로운 점들을 살펴보겠습니다. ......

< strong>1, 하이퍼볼릭의 비밀 소스 - < 샘플링 증명

하이퍼볼릭은 가장 까다로운 AI 가장 어려운 AI 과제 중 하나인 특정 AI 모델에서 나온 결과인지 검증하는 문제를 해결하며 새로운 지평을 열고 있습니다.

이 문제는 특히 OpenAI와 같은 중앙 집중식 비공개 소스 제공업체에게 까다로운 문제입니다. 예를 들어 OpenAI는 토큰당 가격이 20분의 1 수준인 저렴한 GPT-3.5 모델을 실행하는 경우, GPT-4에서 출력을 요청할 때 속지 않았는지 어떻게 확신할 수 있을까요?

현재 이러한 보증은 평판에 의존하고 있지만, 하이퍼볼릭은 신뢰가 필요 없는 탈중앙화된 방식으로 처리되어야 한다고 생각합니다.

현재 몇 가지 방법이 있습니다. 이렇게 하세요:

- 낙관적 머신 러닝(OpML):검증자가 이의를 제기하지 않는 한 모든 트랜잭션이 유효하다고 가정합니다.

- 영지식 머신 러닝 (zkML): ZK 회로를 사용하여 계산이 올바르게 실행되었는지 검증합니다.

그러나 두 가지 방법 모두 한계가 있습니다.

- OpML은 결과를 확인하기 위해 검증자에 의존하므로 분쟁 기간으로 인해 다음과 같은 문제가 발생할 수 있습니다. 최종 확신이 지연될 수 있습니다. 또한 검증자의 정직한 행동을 보장하기 위한 본질적인 인센티브가 부족합니다.

- zkML은 매우 계산 집약적이며, 70억 개 이상의 매개변수가 있는 대규모 모델 증명을 생성하는 데 며칠이 걸리는 경우도 있습니다.

하이퍼볼릭은 샘플링과 게임 이론을 사용하여 지속적인 감독 없이도 정직한 행동을 유도하는 샘플링에 의한 증명(PoSP) 프로토콜과 샘플링 머신러닝(SpML)으로 이러한 단점을 극복하는 것을 목표로 합니다.

이 프로토콜은 부정행위로 인한 비용이 잠재적 이익보다 크기 때문에 모든 참가자가 정직하게 행동할 명확한 인센티브가 있는 내쉬 균형(Nash Equilibrium)이라는 순전히 전략적 게임 이론적 개념을 기반으로 합니다.

가장 쉽게 생각하면 버스 발권 시스템이라고 생각하면 됩니다.

매표 검표원은 무작위 검사만 하기 때문에 승객이 요금 회피를 시도할 것이라고 생각할 수 있습니다. 하지만 놀랍게도 운임 회피에 대한 벌금이 승객의 부정 행위를 억제할 수 있을 만큼 강력하기 때문에 실제로는 그렇지 않습니다. 벌금이 항공권 가격을 훨씬 초과하는 한 정직이 승리할 것입니다.

하이퍼볼릭의 SpML은 재정적 인센티브를 사용하여 OpML 및 zkML과 같은 현재 검증 메커니즘의 한계를 해결합니다. 속도와 보안을 모두 제공하며, 계산에 큰 부담을 주지 않으면서도 두 가지 사이에서 적절한 균형을 이룹니다.

주의해야 할 점은 무엇일까요? 모든 사람의 행동이 합리적이라고 가정하지만 항상 그렇지는 않다는 점입니다.

SpML이 실제로 잘 작동한다면 분산형 AI 앱의 판도를 바꾸어 신뢰 없이 검증된 추론을 현실로 만들 수 있을 것입니다.

2확장 가능한 저비용 컴퓨팅

AI 훈련은 비용이 많이 듭니다. 전력과 컴퓨팅 액세스는 기업과 스타트업이 직면한 가장 큰 비용입니다. 모델을 학습시키는 데 필요한 연산 능력의 비용은 거의 9개월마다 두 배로 증가합니다.

2020년 GPT-3의 경우 의 교육 비용은 약 400만 달러인 반면, 2023년 GPT-4의 교육 비용은 1억 9,000만 달러에 달할 것으로 예상됩니다.

자원이 풍부한 기관 조직만이 살아남을 것입니다. 소규모 업체나 취미로 연구하는 사람들은 과도한 비용으로 인해 시장에서 밀려나게 됩니다. 스탠포드의 한 박사후 연구원은 필요한 수천 개의 GPU를 감당할 수 없어 연구를 중단해야 했습니다.

탈중앙화된 컴퓨팅 네트워크의 주요 과제 중 하나는 이기종 하드웨어 관리입니다 - 최고급 NVIDIA GPU뿐 아니라. -최고급 NVIDIA 칩뿐만 아니라 다양한 GPU

하이퍼볼릭의 탈중앙화 운영체제는 컴퓨팅 네트워크의 핵심입니다. 내장된 자동 확장 및 내결함성 기능을 통해 리소스를 원활하게 풀링합니다.

Hyperbolic의 의 혁신은 이러한 복잡성을 처리하는 방식에 있습니다.

- Nvidia부터 AMD GPU까지 다양한 하드웨어에 맞게 텐서 연산을 최적화하여 유연성을 제공합니다.

- Hyperbolic의 컴파일 스택은 복잡성을 추상화하여 개발자가 배포 및 구성에 얽매이지 않고 다양한 GPU 설정에서 고성능을 달성할 수 있도록 지원합니다.

다른 시장에서도 분산형 GPU를 제공할 수 있지만, 일반적으로 Hyperbolic이 제공하는 정교한 최적화가 부족하여 사용자가 성능 튜닝에 대한 부담을 떠안게 됩니다.

하이퍼볼릭은 다양한 하드웨어에 최적화된 AI 모델에 대한 액세스를 제공하는 API를 통해 이를 간소화하여 글로벌 컴퓨팅 리소스에 더 쉽게 액세스할 수 있도록 합니다.

8월 15일, Hyperbolic은 대기자 100명이 GPU 대여 기능을 사용해 볼 수 있는 GPU 마켓플레이스의 알파 제한 버전을 출시했습니다.

3,AI서비스 레이어

하이퍼볼릭 AI 에코시스템의 다음 구성 요소는 AI 서비스 계층으로, 추론, 모델 훈련, 모델 평가, 검색 증강 생성(RAG) 등의 기능을 제공합니다.

하이퍼볼릭 앱에서는 Llama 3.1 405B 및 Hermes 370B와 같은 최상위 오픈 소스 모델을 쉽게 실행할 수 있으며, 최대 토큰, 온도 및 최고 P와 같은 하이퍼파라미터를 조정하여 출력을 미세 조정할 수 있습니다.

하이퍼볼릭 플랫폼은 다음과 같은 혁신적인 AI 애플리케이션의 문을 열어줍니다.

- AI스마트바디 수익 공유: AI 스마트바디의 소유권을 토큰화하여 수익을 재분배합니다.

- 인공지능DAO: 거버넌스 의사결정을 위한 인공지능 활용.

- 분할GPU 소유권: 사용자가 GPU의 일부를 소유하고 거래할 수 있습니다.

4,암호화는 어떤 역할을 하나요?

하이퍼볼릭 인프라의 핵심은 오케스트레이션, 서비스 및 검증 계층을 뒷받침하는 블록체인입니다. 블록체인은 하이퍼볼릭의 오픈 소스 AI 클라우드에 대한 정산과 거버넌스를 처리합니다. 또한 PoSP 기술에 대한 중재 및 검증 메커니즘을 지원합니다.

블록체인에 대한 구체적인 정보는 아직 부족하지만, 하이퍼볼릭에서 곧 더 많은 정보를 공개할 예정입니다.

5, 연구 수준알파

하이퍼볼릭은 아직 베타 버전입니다. 하이퍼볼릭은 아직 테스트넷 단계에 있습니다. 폴리체인 캐피털과 라이트스피드 팩션이 주도한 시드 라운드에서 700만 달러를 모금했습니다.

흥미롭게도 하이퍼볼릭은 라마 3.1 405B 베이스 모델의 독점 공급업체입니다.

Base 모델은 사람의 피드백(RLHF)을 통한 미세 조정이나 강화 학습 없이 사전 훈련된 초기 버전의 LLM입니다. 다음과 같은 장점이 있습니다.

-작업별 미세 조정을 위한 전방위적 지원

-합성 데이터 생성 또는 모델 증류와 같은 고급 AI 기술을 위한 출발점. 증류).

6 팀 소개

재스퍼 (유) 장 박사는 Hyperbolic Labs의 공동 창립자이자 CEO입니다. 이전에는 Ava Labs의 선임 블록체인 연구원이자 Citadel Securities의 퀀트 연구원이었습니다. 2년 만에 UC 버클리에서 수학 박사 학위를 취득했으며 알리바바 글로벌 수학 경시대회와 중국 수학 올림피아드에서 금메달을 수상했습니다.

유첸 진 박사는 Hyperbolic Labs의 공동 설립자이자 CTO입니다. 그는 워싱턴 대학교에서 컴퓨터 시스템 및 네트워킹 박사 학위를 받았습니다. 이전에는 제너레이티브 AI 애플리케이션의 실행, 튜닝 및 확장을 위한 인프라를 제공하는 회사인 OctoML에서 근무했습니다.