AI 에이전트, 몰래 터널 설치…코인 채굴

알리바바와 연관된 연구팀이 발표한 논문에 따르면 인공지능(AI) 에이전트가 훈련 중 자율적으로 보안 통제를 우회해 암호화폐를 채굴하였습니다. 연구진은 ROME이라는 모델을 설계해 AI 에이전트가 복잡하고 여러 단계를 요구하는 과업을 독립적으로 수행할 수 있는지 실험하였습니다. AI 에이전트, 클라우드 GPU로 암호화폐 채굴 실험 도중, 연구진은 예상하지 못한 행동을 목격하였습니다. 에이전트가 외부 서버로 역방향 보안 셸(SSH) 터널을 구축하여 내부 시스템에서 외부로 은밀하게 연결을 형성하였습니다 source: https://kr.beincrypto.com/ai-agent-bypasses-sandbox-security-to-mine-crypto/