Gradient ra mắt khung phần mềm học tăng cường Echo-2 nhằm nâng cao hiệu quả nghiên cứu trí tuệ nhân tạo.

Gradient, một phòng thí nghiệm AI phân tán, hôm nay đã phát hành Echo-2, một khung học tăng cường phân tán được thiết kế để phá vỡ các rào cản về hiệu quả đào tạo trong nghiên cứu AI. Bằng cách tách rời hoàn toàn Learner và Actor ở cấp độ kiến ​​trúc, Echo-2 giảm đáng kể chi phí sau đào tạo của một mô hình 30-bit từ 4.500 đô la xuống còn 425 đô la. Điều này tương đương với năng suất nghiên cứu gấp hơn 10 lần với cùng ngân sách. Khung này sử dụng kỹ thuật tách biệt lưu trữ-tính toán cho đào tạo bất đồng bộ (Async RL), chuyển các phép tính lấy mẫu lớn sang các phiên bản GPU không ổn định và GPU không đồng nhất dựa trên Parallax. Kết hợp với những đột phá trong việc giới hạn sự trì trệ, lập lịch phiên bản chịu lỗi và giao thức truyền thông độc quyền Lattica, nó cải thiện đáng kể hiệu quả đào tạo trong khi vẫn duy trì độ chính xác của mô hình. Cùng với việc phát hành khung này, Gradient cũng sẽ sớm ra mắt nền tảng RLaaS của mình, Logits, thúc đẩy sự chuyển đổi trong nghiên cứu AI từ mô hình "dựa trên vốn" sang mô hình "dựa trên hiệu quả". Logits hiện đã mở đăng ký cho sinh viên và nhà nghiên cứu trên toàn thế giới (logits.dev). Gradient là một phòng thí nghiệm AI chuyên xây dựng cơ sở hạ tầng phân tán, tập trung vào việc đào tạo, vận hành và triển khai phân tán các mô hình quy mô lớn tiên tiến.