GradientがEcho-2 RLフレームワークを発表、AI研究効率を向上

分散型AI研究所Gradientは本日、AI研究のトレーニング効率の壁を打ち破ることを目的とした分散強化学習フレームワーク「Echo-2」を発表した。アーキテクチャレベルでLearnerとActorを完全に分離することで、Echo-2は30Bモデルのポストトレーニングコストを4,500ドルから425ドルに急落させた。同等の予算で10倍以上の研究スループットを実現。本フレームワークは計算とストレージの分離技術を活用した非同期学習（Async RL）により、膨大なサンプリング計算負荷を不安定なGPUインスタンスやParallaxベースのヘテロジニアスGPUへオフロードする。境界付き陳腐性、インスタンスフォールトトレランススケジューリング、独自開発のLattica通信プロトコルなどの技術的ブレークスルーにより、モデル精度を保証しつつトレーニング効率を大幅に向上させました。フレームワークのリリースに伴い、GradientはまもなくRLaaSプラットフォーム「Logits」をローンチし、AI研究を「資本投入型」から「効率反復型」パラダイムへ移行させる予定です。Logitsは現在、世界中の学生・研究者向けに予約受付中（logits.dev）。Gradientは分散型インフラ構築に特化したAI研究所であり、最先端大規模モデルの分散トレーニング・サービス・デプロイに注力している。