David Schwartz, Giám đốc Công nghệ tại Ripple, gần đây đã lưu ý đến một sự cố đáng lo ngại liên quan đến nội dung do AI tạo ra.
Schwartz đã chia sẻ một bài đăng lan truyền trên Reddit trên phương tiện truyền thông xã hội của mình, trong đó mô tả một gia đình bị đầu độc sau khi dựa vào một cuốn sách nhận dạng nấm được cho là do AI tạo ra. Gia đình này, sau khi ăn nấm độc, đã phải nhập viện.
Nội dung do AI tạo ra và mối quan tâm về an toàn
Vụ việc khiến cả gia đình phải nhập viện này đặt ra câu hỏi nghiêm trọng về độ tin cậy của nội dung do AI tạo ra, đặc biệt là khi nội dung đó liên quan đến thông tin quan trọng như xác định nấm ăn được.
Mặc dù nhà bán lẻ đã đồng ý hoàn lại tiền cho cuốn sách, nhưng vẫn còn lo ngại về những cuốn sách khác có khả năng gây nguy hiểm, chất lượng thấp do AI tạo ra vẫn đang có trên mạng.
Người đăng bài trên Reddit thậm chí còn đặt câu hỏi liệu sự bất cẩn như vậy có thể được báo cáo với chính quyền để buộc những người sáng tạo phải chịu trách nhiệm hay không.
Tiền lệ lịch sử: Winter v. G.P Putnam's Sons
Schwartz đã tham khảo một vụ kiện lịch sử, Winter v. G.P Putnam's Sons, từ năm 1991, nơi một vụ việc tương tự đã xảy ra. Trong vụ kiện đó, một cặp đôi đã dựa vào một cuốn sách có tựa đề "The Encyclopedia of Mushrooms" và bị bệnh nặng, cần phải ghép gan.
Bất chấp mức độ nghiêm trọng của tình hình, tòa án cuối cùng đã đứng về phía nhà xuất bản G.P Putnam's Sons, nêu bật sự phức tạp trong việc yêu cầu các nhà xuất bản chịu trách nhiệm về nội dung mà họ phân phối.
Rủi ro của sách do AI tạo ra
Bài đăng của Schwartz nhấn mạnh đến mối lo ngại ngày càng tăng: sự gia tăng của các cuốn sách do AI tạo ra có thể làm trầm trọng thêm khó khăn cho người đọc trong việc tiếp cận thông tin chính xác và đáng tin cậy.
Khi AI tiếp tục tạo ra nội dung, nguy cơ thông tin sai lệch - đặc biệt là trong các lĩnh vực đòi hỏi kiến thức chính xác, có khả năng cứu sống - có thể gia tăng, có khả năng dẫn đến những hậu quả nguy hiểm hơn như đã mô tả.
Anais
