Literm, với 97 triệu lượt tải xuống mỗi tháng, đã bị tấn công vào chuỗi cung ứng; một thao tác cài đặt đơn giản có thể đánh cắp tất cả thông tin đăng nhập nhạy cảm, bao gồm cả khóa SSH.

Andrej Karpathy đã đăng trên nền tảng X rằng litellm đã bị tấn công chuỗi cung ứng PyPI. Một lệnh đơn giản `pip install litellm` có thể đánh cắp khóa SSH, thông tin đăng nhập AWS/GCP/Azure, cấu hình Kubernetes, thông tin đăng nhập Git, biến môi trường, ví mã hóa, khóa riêng SSL, khóa CI/CD và mật khẩu cơ sở dữ liệu. litellm có 97 triệu lượt tải xuống mỗi tháng, và rủi ro có thể lan rộng đến tất cả các dự án phụ thuộc vào litellm, chẳng hạn như dspy. Phiên bản bị tiêm nhiễm độc hại đã được phát hành chưa đầy một giờ trước và được phát hiện khi một lỗ hổng trong mã tấn công khiến máy của Callum McMahon hết bộ nhớ và bị sập. Karpathy cho biết các cuộc tấn công chuỗi cung ứng là một trong những vấn đề đe dọa nhất trong phần mềm hiện đại, vì mỗi lần cài đặt phụ thuộc có thể đưa các gói bị giả mạo vào sâu trong cây phụ thuộc. Do đó, ông ngày càng có xu hướng giảm bớt các phụ thuộc và sử dụng LLM để trực tiếp thực hiện các chức năng đơn giản.