Hội đồng giám sát Meta gọi tên công ty vì không giải quyết được Ronaldo Nazário Deepfake
Siêu dữ liệu Hội đồng giám sát của .ICC đã ra lệnh xóa một bài đăng trên Facebook có video do AI chỉnh sửa về huyền thoại bóng đá người Brazil Ronaldo Nazário quảng cáo một trò chơi trực tuyến.
Hội đồng quản trị phán quyết rằng bài đăng này đã vi phạm Tiêu chuẩn cộng đồng của Meta về gian lận và thư rác, đồng thời chỉ trích công ty vì đã cho phép video lừa đảo này vẫn có thể truy cập được.
CácHội đồng giám sát cho biết trong một tuyên bố Thứ năm:
“Việc gỡ bài đăng xuống là phù hợp với Tiêu chuẩn cộng đồng của Meta về gian lận và thư rác. Meta cũng nên từ chối nội dung quảng cáo, vì quy định của họ cấm sử dụng hình ảnh của người nổi tiếng để dụ mọi người tham gia quảng cáo.”
Là một cơ quan độc lập giám sát việc kiểm duyệt nội dung tại Meta,Hội đồng giám sát có thẩm quyền duy trì hoặc lật ngược các quyết định gỡ bỏ và đưa ra các khuyến nghị ràng buộc mà Meta phải phản hồi.
Được thành lập vào năm 2020, mục đích của dự án là tăng cường tính minh bạch và trách nhiệm giải trình xung quanh các hành động thực thi của Meta.
Trường hợp này nhấn mạnhmối lo ngại ngày càng tăng về phương tiện truyền thông do AI tạo ra nhằm mô tả sai sự thật về cá nhân, thường bị sử dụng sai mục đích cho mục đích lừa đảo, gian lận và thông tin sai lệch.
Trong video, giọng lồng tiếng của Ronaldo Nazário không đồng bộ, thúc giục người xem chơi một trò chơi có tên Plinko thông qua ứng dụng của mình, tuyên bố sai sự thật rằng người dùng có thể kiếm được nhiều tiền hơn so với công việc thông thường của người Brazil.
Bài đăng đã thu hút hơn 600.000 lượt xem trước khi bị gắn cờ.
Bất chấp các báo cáo, Meta không ưu tiên xóa nội dung này và vẫn tiếp tục trực tuyến.
Khi người dùng khiếu nại lên Meta, một lần nữa Meta lại không nhận được sự xem xét kịp thời của con người, khiến người dùng phải đưa vấn đề lên Ban giám sát.
Sự trỗi dậy của công nghệ Deepfake gây ra mối lo ngại
Meta đã phải đối mặt với nhiều lời chỉ trích liên tục về việc quản lý người nổi tiếngdeepfake.
Chỉ tháng trước, nữ diễn viên Jamie Lee Curtis đã công khai thách thức CEO Mark Zuckerberg trên Instagram sau khi một quảng cáo do AI tạo ra sử dụng hình ảnh của cô xuất hiện trên nền tảng này.
Mặc dù Meta đã vô hiệu hóa quảng cáo nhưng bài đăng gốc vẫn được giữ nguyên.
Hội đồng giám sát lưu ý rằng chỉ có các nhóm chuyên gia trong Meta mới có thẩm quyền xóa nội dung đó, làm nổi bật vấn đề rộng hơn về việc thực thi không nhất quán.
Hội đồng quản trị thúc giục Meta áp dụng chính sách chống gian lận chặt chẽ và thống nhất hơn trên tất cả các dịch vụ của mình.
Sự giám sát này diễn ra trong bối cảnh các nỗ lực lập pháp nhằm chống lại tình trạng lạm dụng deepfake ngày càng gia tăng.
Vào tháng 5,Tổng thống Donald Trump đã ký Đạo luật Take It Down lưỡng đảng, yêu cầu các nền tảng xóa các hình ảnh riêng tư, không được sự đồng ý do AI tạo ra trong vòng 48 giờ.
Luật này giải quyết tình trạng gia tăng nội dung khiêu dâm deepfake và lạm dụng hình ảnh nhắm vào người nổi tiếng và trẻ vị thành niên.
Đáng chú ý,Bản thân Trump gần đây đã trở thành chủ đề của một deepfake lan truyền miêu tả anh ta ủng hộ việc sử dụng khủng long để bảo vệ biên giới phía nam Hoa Kỳ—một ví dụ về cách công nghệ deepfake tiếp tục thách thức ranh giới của sự thật và thông tin sai lệch.
Các nền tảng và nhà lập pháp đã chuẩn bị như thế nào để theo kịp mối đe dọa đang phát triển nhanh chóng này?