2 년 동안 배치 된 러시아의 인공 지능 로봇 농장이 미국에 의해 발견되어 파괴되었습니다.

미국 법무부는 화요일 미국 사법 당국이 크렘린의 지원을 받는 두 개의 인공 지능 소셜 미디어 봇 팜과 관련된 도메인 이름을 압수했다고 밝혔습니다. 이 봇 팜은 2022년 6월 11일부터 2024년 3월 1일 사이에 총 968개 이상의 트위터 계정을 생성했습니다.

화요일에 공개된 법원 문서에서 법무부는 이 봇 농장이 크렘린궁이 승인하고 자금을 지원한 프로젝트의 일부이며 러시아 정보 장교가 감독했다고 밝혔습니다.

법무부에 따르면 봇 팜과 그 기반이 되는 AI 소프트웨어는 러시아 국영 미디어 RT의 익명의 편집자가 조직한 것으로 밝혀졌습니다. (RT는 수년 동안 미국을 포함한 전 세계 시청자들에게 러시아 정부의 의제를 홍보해 왔습니다. 그러나 2022년 러시아의 우크라이나 침공 이후 이 미디어 매체의 영향력은 일부 상실되었고, 유럽연합은 러시아 국영 미디어와 틱톡, 페이스북, 구글과 같은 주요 기술 기업의 접근을 금지했습니다).

봇 팜은 애리조나에 본사를 둔 도메인 제공업체 Namecheap이 제공하는 도메인(mlrtr.com 및 otanmail.com)과 개인 이메일 서비스를 사용하여 임의의 이메일 주소를 생성한 것으로 추정됩니다.

그런 다음 미국인을 사칭한 트위터 프로필을 만들어 러시아의 우크라이나 전쟁에 대한 허위 정보와 기타 친크렘린 성명을 게시했습니다.

크리스토퍼 레이 FBI 국장은 "오늘 조치는 러시아가 후원하는 AI로 강화된 생성형 소셜 미디어 봇 농장을 최초로 적발한 것"이라고 말했습니다. 또한 레이 국장은 후속 성명에서 "러시아는 이 봇 농장을 이용해 AI로 생성된 해외 허위 정보를 퍼뜨리고, 우크라이나의 파트너를 약화시키고 러시아 정부에 유리한 지정학적 내러티브에 영향을 미치기 위해 AI의 도움을 받아 작전을 확대하려고 했습니다."라고 밝혔습니다.

이 수많은 봇 계정 중에는 미니애폴리스에 거주한다고 주장하며 우크라이나에서 러시아의 행동을 옹호하고 우크라이나, 폴란드, 리투아니아의 일부가 2차 세계대전 후 러시아 군대의 '선물'이라고 주장하는 블라디미르 푸틴 러시아 대통령의 동영상을 게시한 사용자도 있었습니다.

이 계정들은 현재 트위터에서 서비스 이용약관 위반으로 삭제된 것으로 보입니다. 트위터가 논평 요청에 응답하지 않았기 때문에 얼마나 많은 사람들이 이 가짜 계정을 팔로우하거나 게시물과 상호 작용했는지는 아직 명확하지 않습니다.

러시아 봇 농장이 다시 경종을 울리다

봇 농장의 혼란은 미국 관리들이 AI 기술이 올해 선거에 미칠 잠재적 영향과 외국의 영향력 활동이 의심하지 않는 유권자들의 의견을 흔들 수 있다는 지속적인 우려에 대해 경고하는 가운데 발생했습니다.

이러한 상황은 공화당 도널드 트럼프가 민주당 힐러리 클린턴을 이길 수 있도록 돕기 위해 러시아가 방대하지만 은밀한 소셜 미디어 트롤링 캠페인을 벌였던 2016년 대선을 연상시킵니다.

AI 기술의 막대한 영향력

AI 기술의 발전으로 사실적인 텍스트, 이미지, 오디오, 동영상을 빠르고 쉽게 생성할 수 있게 되면서 이러한 도구가 더 많은 선전과 허위 정보를 대규모로 생산하는 데 사용될 수 있다는 우려가 제기되고 있습니다.

최근 페이스북의 소유주인 Meta와 ChatGPT를 만든 OpenAI는 러시아를 포함한 해외에서 AI를 이용해 대중을 조작하는 활동을 확인했다고 보고했습니다.