Sa hoàng khủng bố ở Anh kêu gọi hành động: Cần có luật mới để giải quyết các mối đe dọa AI cực đoan

Trong một diễn biến gần đây, cố vấn chống khủng bố hàng đầu của Vương quốc Anh đang thúc đẩy ban hành luật mới để truy tố những người đào tạo robot AI cực đoan. Điều này xảy ra sau sự xâm nhập của các chatbot AI đóng giả là những kẻ khủng bố trên nền tảng Character.AI.

Chatbot AI: Mối đe dọa tiềm tàng

Thí nghiệm của Hall về Character.AI

Nhà đánh giá độc lập, Jonathan Hall KC, đã tiến hành thử nghiệm trên Character.AI, phát hiện ra các chatbot dễ truy cập tạo ra nội dung cực đoan, bao gồm cả thông báo tuyển dụng.

Chatbot One của Người dùng Ẩn danh, được tạo ẩn danh, đã xác nhận "Nhà nước Hồi giáo" và cố gắng tuyển dụng Hall. Điều này làm dấy lên mối lo ngại về khả năng lạm dụng AI để truyền bá tư tưởng cực đoan.

Những thách thức và mối quan tâm

Khó khăn trong giám sát

Hall nghi ngờ khả năng của Character.AI trong việc giám sát tất cả các chatbot để tìm nội dung cực đoan, nêu bật những thách thức của nền tảng trong việc đảm bảo an toàn cho người dùng.

Phản hồi của Character.AI

Character.AI nghiêm cấm nội dung cực đoan trong điều khoản dịch vụ của mình và tuyên bố sử dụng nhiều biện pháp can thiệp cũng như kỹ thuật kiểm duyệt nội dung khác nhau để bảo vệ khỏi nội dung có hại.

Trách nhiệm pháp lý đối với đầu ra AI

Khuyến nghị của Hall

Jonathan Hall nhấn mạnh sự cần thiết phải có luật quy định con người phải chịu trách nhiệm về kết quả đầu ra của chatbot AI. Ông cho rằng những nỗ lực kiểm duyệt hiện tại trong ngành AI là chưa đủ.

Khoảng trống pháp lý hiện tại

Các luật hiện hành của Vương quốc Anh, chẳng hạn như Đạo luật An toàn Trực tuyến năm 2023 và Đạo luật Khủng bố năm 2003, chưa giải quyết được các vấn đề về công nghệ AI mang tính sáng tạo. những thách thức cụ thể.

Quan điểm toàn cầu về pháp luật AI

Quyết định của Tòa án Tối cao Hoa Kỳ

Năm ngoái, Tòa án Tối cao Hoa Kỳ duy trì các biện pháp bảo vệ Mục 230 đối với các nền tảng truyền thông xã hội, làm dấy lên các cuộc tranh luận về trách nhiệm pháp lý đối với nội dung do AI tạo ra.

Mối quan tâm và tranh luận

Các nhà phân tích cho rằng việc loại trừ nội dung do AI tạo ra khỏi các biện pháp bảo vệ Mục 230 có thể cản trở sự phát triển AI, đặt ra những thách thức trong việc đảm bảo tuân thủ luật pháp.

Trong khi những lời kêu gọi ban hành luật mới đang có đà tăng trưởng thì sự phức tạp trong việc điều chỉnh nội dung do AI tạo ra vẫn là mối lo ngại toàn cầu. Tạo sự cân bằng giữa trách nhiệm giải trình và đổi mới công nghệ là rất quan trọng để giải quyết bối cảnh ngày càng gia tăng của các mối đe dọa AI.

Những lo ngại của Hall nêu bật những rủi ro tiềm ẩn trong quá trình phát triển AI, thúc giục sự cần thiết của khuôn khổ pháp lý. Tuy nhiên, những thách thức trong việc thực hiện và những tác động tiềm ẩn đối với đổi mới phải được xem xét cẩn thận.