리플 CTO 데이비드 슈워츠, 인공지능으로 생성된 도서 논란 강조

리플의 최고 기술 책임자인 데이비드 슈워츠는 최근 AI가 생성한 콘텐츠와 관련된 우려스러운 사건에 대해 언급하며 주의를 환기시켰습니다.

슈워츠는 자신의 소셜 미디어에 AI가 만든 것으로 추정되는 버섯 도감에 의존했다가 중독된 한 가족을 묘사한 바이러스성 Reddit 게시물을 공유했습니다. 이 가족은 독버섯을 섭취한 후 입원이 필요했습니다.

AI로 생성된 콘텐츠와 안전 문제

가족의 입원으로 이어진 이 사건은 특히 식용 버섯 식별과 같은 중요한 정보가 포함된 경우 AI가 생성한 콘텐츠의 신뢰성에 대한 심각한 의문을 제기합니다.

해당 소매업체는 환불에 동의했지만, 온라인에서 여전히 판매되고 있는 잠재적으로 위험하고 품질이 낮은 다른 인공지능 생성 도서에 대한 우려는 여전히 남아 있습니다.

Reddit 게시자는 이러한 과실을 당국에 신고하여 제작자에게 책임을 물을 수 있는지에 대해 의문을 제기하기도 했습니다.

역사적 선례: 윈터 대 G.P 퍼트넘의 아들들

슈워츠는 유사한 사건이 발생한 1991년 윈터 대 G.P 퍼트넘의 아들(Winter v. G.P Putnam's Sons)이라는 역사적인 법적 사건을 언급했습니다. 이 사건에서 한 부부는 <버섯 백과사전>이라는 책에 의존하여 버섯을 먹다가 중태에 빠져 간 이식이 필요하게 되었습니다.

상황의 심각성에도 불구하고 법원은 결국 퍼블리셔인 G.P Putnam's Sons의 손을 들어주며 퍼블리셔가 배포하는 콘텐츠에 대한 책임을 묻는 일이 얼마나 복잡한지를 강조했습니다.

AI 생성 도서의 위험성

슈워츠의 글은 AI로 생성된 도서의 확산으로 독자들이 정확하고 신뢰할 수 있는 정보에 접근하기 어려워질 수 있다는 우려를 강조합니다.

AI가 계속해서 콘텐츠를 생산함에 따라, 특히 생명을 구할 수 있는 정확한 지식이 필요한 분야에서 잘못된 정보의 위험이 증가하여 앞서 설명한 것과 같은 더 위험한 결과를 초래할 수 있습니다.