월간 다운로드 수가 9,700만 건에 달하는 litellm이 공급망 공격을 받았으며, 간단히 설치하기만 해도 SSH 키 등 모든 민감한 인증 정보를 탈취할 수 있다

Andrej Karpathy는 X 플랫폼에 게시한 글에서 litellm이 PyPI 공급망 공격을 받았으며, 단순히 `pip install litellm`을 실행하는 것만으로도 SSH 키, AWS/GCP/Azure 자격 증명, Kubernetes 구성, git 자격 증명, 환경 변수, 암호화 지갑, SSL 개인 키, CI/CD 키 및 데이터베이스 비밀번호를 탈취할 수 있다고 밝혔습니다. litellm의 월간 다운로드 횟수는 9,700만 건에 달하며, 이 위험은 dspy와 같이 litellm에 의존하는 모든 프로젝트로 확산될 수 있습니다. 악성 코드가 삽입된 버전은 약 1시간도 채 되지 않아 배포되었으며, 공격 코드의 결함으로 인해 Callum McMahon의 시스템 메모리가 고갈되어 시스템이 다운되면서 발견되었습니다. Andrej Karpathy는 공급망 공격이 현대 소프트웨어에서 가장 위협적인 문제라고 지적하며, 의존성을 설치할 때마다 의존성 트리 깊은 곳에 변조된 소프트웨어 패키지가 유입될 수 있다고 설명했습니다. 이에 따라 그는 의존성을 줄이고, 대신 LLM을 사용하여 간단한 기능을 직접 구현하는 방식을 점점 더 선호하고 있습니다.