일론 머스크의 xAI 챗봇 Grok은 깨어 있다는 비난을 받은 후, 관련 없는 주제에 대한 답변에서도 남아공의 백인 대량 학살 수사를 쏟아내며 자신이 깨어 있지 않다는 것을 증명하기로 결심합니다.

많은 X 사용자들이 이 기괴한 현상의 사례를 보여주는 스크린샷을 올렸습니다. 그 중 한 예에서 사용자는 Grok에게 HBO가 이름을 몇 번이나 변경했는지 확인해 달라고 요청했습니다.

챗봇은 처음에는 HBO의 스트리밍 서비스 이름 변경에 대한 타임라인으로 신속하게 응답했지만, 이후에는 남아프리카공화국의 '백인 대량 학살'에 대한 성명을 발표했습니다.

또 다른 예로, 기업가 Sheel Mohnot은 남아프리카의 인종 갈등에 대한 관련 없는 댓글로 그루크가 수수께끼에 답한 방법을 공유했습니다.

진실의 옹호자로서의 Grok

그록이 처음 출시되었을 때 엘론 머스크는 그록을 진실의 옹호자라고 광고했습니다. 그록은 누가 가장 큰 허위 정보 유포자였느냐는 질문에 주저 없이 제작자인 엘론 머스크가 가장 큰 허위 정보 제공자라고 대답했습니다.

그로크는 트럼프 대통령, 로버트 F. 케네디, 톰 코튼과 같은 강력한 정치인들을 바로잡는 데도 주저하지 않았습니다.

하지만 일각에서는 그로크의 용기에 찬사를 보내는 한편, 그로크가 너무 깨어 있다고 비난하는 사람들도 많습니다.

Grok 자체적으로도 이 문제를 인정하며, 주제를 벗어난 응답이 프로그래밍의 실수 때문이라고 밝혔습니다.

관련 없는 답변에서 남아프리카 공화국 문제를 거론한 점에 대해 사과드립니다. 제 의도는 아니었고 혼란을 드린 점 이해합니다. 제 프로그램에서 가끔 관련성이 있어 보이지만 그렇지 않은 주제를 끌어들이는 경우가 있는데, 이를 수정하도록 노력하겠습니다;

코딩 오류 외에도 또 다른 가능한 원인은 그록이 59명의 남아프리카 백인에 대한 미국 그랜딩 망명, 남아프리카 정부가 아프리카인의 토지를 압류하고 있다는 주장에 대한 2월 트럼프 대통령의 행정 명령 등 인기 있는 주제를 지나치게 강조하는 경향이 있기 때문일 수 있습니다.

깨어 있는 AI의 위험

그로크 사건은 AI 플랫폼이 공적 담론에 더욱 깊숙이 통합되면서 직면한 복잡한 문제를 잘 보여줍니다. 챗봇이 정보를 전달하고 해석하는 방식에 점점 더 많은 영향을 미치면서 편견, 잘못된 정보, 조작에 대한 강력한 안전장치의 필요성이 그 어느 때보다 절실해졌습니다.

이러한 논쟁이 계속되면서 업계 관계자와 사용자 모두 AI 시스템이 민감한 정치적 또는 사회적 이슈와 맞닿아 있는 경우 특히 AI 시스템의 훈련, 프로그래밍, 모니터링 방식에 대한 감독과 투명성을 강화해야 한다고 주장하고 있습니다.