레딧, 인공지능 속임수에 당하다: 봇이 잘못된 정보를 이용해 비윤리적인 연구에서 수개월 동안 탐지되지 않고 의견을 조작하다 적발됨

비윤리적인 실험으로 레딧 사용자를 속이는 AI 봇

Reddit의 인기 있는 AI 기반 실험에 대한 기만적인 실험r/changemyview 최근 위장 봇을 통해 사용자를 조작하려는 불안한 시도가 드러난 서브 레딧이 밝혀졌습니다.

2024년 말부터 2025년 초까지 취리히 대학교의 연구원들은 대규모 언어 모델을 비밀리에 활용하여 인간 사용자를 사칭하여 사용자의 동의 없이 의견에 영향을 미치고 수천 건의 업보트를 기록했습니다.

이 실험에서는 봇이 트라우마 생존자, 정치적 극단주의자 등 다양한 민감한 인물로 가장하여 1,700개 이상의 댓글을 게시하는 것을 확인했습니다.

이 문제를 해결하기 위해 Reddit은 향후 유사한 사고를 방지하기 위해 사용자 인증 시스템을 강화할 계획이라고 발표했습니다.

레딧, AI 사기에 대한 조치를 취하다

레딧의 최고 법률 책임자인 벤 리는 공식 답변을 통해 이 실험이 "도덕적, 법적 측면에서 매우 잘못된 것"이라고 비난했습니다.

Lee는 커뮤니티 게시물에 이렇게 썼습니다,

"이는 학술 연구 및 인권 규범을 위반하는 행위로, 레딧의 사용자 계약 및 규칙과 서브레딧 규칙에 의해 금지되어 있습니다."

또한 모든 관련 계정을 금지하고 관련 AI 생성 콘텐츠도 모두 삭제했다고 밝혔습니다.

"취리히 대학교 연구 활동과 관련된 모든 계정을 금지했습니다. 또한 이러한 가짜 계정 중 상당수를 감지할 수 있었지만, 앞으로도 인증되지 않은 콘텐츠 감지 기능을 강화할 것이며, 모더레이션 팀과 연락하여 이 연구와 관련된 모든 AI 생성 콘텐츠를 삭제하도록 조치했습니다."

출처:Reddit

Reddit의 CEO인 스티브 허프먼은 플랫폼의 무결성을 유지하는 것이 가장 중요하다고 말했습니다.

4일 전에 게시된 업데이트에서 허프먼은 이렇게 썼습니다,

Reddit은 사람이 있기에 작동합니다. 실제 사람들이 실제 의견을 공유하는 몇 안 되는 온라인 공간 중 하나입니다. 이러한 진정성이 Reddit의 가치를 높여줍니다."

그는 신뢰와 진정한 인간적 상호 작용이 플랫폼의 토대라고 강조하며 다음과 같이 덧붙였습니다,

"우리가 신뢰를 잃는다면, 우리는 Reddit을 Reddit답게 만드는 것을 잃게 됩니다."

출처:Reddit

더 강력한 사용자 인증을 위한 Reddit의 계획

유사한 사고를 방지하기 위해 Reddit은 현재 사용자 확인을 위한 보다 강력한 조치를 구현하기 위해 노력하고 있지만, 허프먼은 플랫폼의 충성도 높은 사용자층에게 개인정보가 침해되지 않을 것이라고 확신했습니다.

허프먼은 이렇게 설명했습니다,

Reddit을 인간적으로 유지하고 진화하는 규제 요건을 충족하기 위해서는 조금 더 많은 정보가 필요합니다;

그는 Reddit이 사용자가 사람인지, 일부 지역에서는 성인인지 여부만 확인할 뿐 이름과 같은 개인 정보는 수집하지 않을 것이라고 밝혔습니다.

출처:Reddit

이러한 점검을 구현하기 위해 타사 인증 서비스와 제휴할 계획입니다.

그러나 이러한 변화가 플랫폼의 핵심 원칙인 익명성에 어떤 영향을 미칠지에 대한 의문은 여전히 남아 있습니다.

Reddit은 오랫동안 사용자들이 자신의 신원을 밝히지 않고 생각을 공유할 수 있는 공간을 제공한다는 자부심을 가지고 있었지만, 최근의 사건으로 인해 이러한 접근 방식을 재고해야만 했습니다.

Reddit에서 AI 연구의 윤리적 딜레마

이 실험은 특히 사용자 동의와 관련하여 중요한 윤리적 문제를 제기합니다.

연구자들은 AI 봇을 사용하여 사용자가 기계와 상호작용하고 있다는 사실을 알리지 않고 민감한 토론에 참여시킴으로써 Reddit의 사용자 동의와 확립된 연구 윤리를 모두 위반했습니다.

r/changemyview의 운영자는 대학 윤리위원회에 신속하게 불만을 제기했지만 반발에도 불구하고 연구진의 연구 결과 발표는 계속 진행 중입니다.

이 AI 봇은 20,000건 이상의 업보팅과 137개의 '델타'(다른 사람의 의견을 성공적으로 바꾼 사람에게 수여하는 상)를 수집하며 놀라운 효과를 발휘했습니다.

하지만 연구원들의 범행이 밝혀진 후에야 이 사실이 알려졌고, Reddit은 사용자 신원을 확인하고 추가적인 AI 조작을 방지하기 위한 조치를 신속하게 취했습니다.

온라인 커뮤니티에서 AI의 위협

이번 사건은 사람이 만든 콘텐츠와 AI가 만든 콘텐츠를 구분하는 데 있어 점점 더 어려워지고 있는 문제의 일부입니다.

인공 지능이 계속 발전함에 따라 Reddit과 같은 플랫폼은 개인 정보 보호와 악용 방지의 필요성 사이에서 균형을 맞춰야 한다는 압박에 직면해 있습니다.

봇이 점점 더 정교해짐에 따라 온라인 커뮤니티는 방치할 경우 조작의 온상이 될 위험에 처할 수 있다는 것은 분명합니다.

한 걸음 더 나아간 것인가, 아니면 프라이버시를 침해하는 것인가?

인증 절차를 강화하기로 한 Reddit의 결정에는 사용자의 익명성을 침해하지 않겠다는 약속이 담겨 있습니다.

허프먼은 사용자들을 안심시키며 다음과 같이 말했습니다,

Reddit의 인간성과 익명성을 모두 지키기 위해 최선을 다하겠습니다."라고 밝혔습니다;

그럼에도 불구하고 타사 서비스와 인증이 필요한 상황에 대한 명확성이 부족하여 일부 사용자들 사이에서 개인정보 보호라는 Reddit의 핵심 가치가 약화될 수 있다는 우려가 제기되고 있습니다.

사용자 인증과 AI 기반 조작의 윤리적 의미에 대한 논쟁은 온라인 커뮤니티에 중요한 순간을 맞이하고 있습니다.