WeChat trấn áp các vụ lừa đảo quảng cáo sử dụng Deepfakes để mạo danh người của công chúng

WeChat của Tencent, nền tảng truyền thông xã hội được sử dụng rộng rãi, đã cam kết tăng cường trấn áp làn sóng lừa đảo quảng cáo đang ngày càng gia tăng, lợi dụng trí tuệ nhân tạo để tạo ra video deepfake.

Trong thông báo vào Chủ Nhật, WeChat đã phác thảo các biện pháp có mục tiêu chống lại nội dung sử dụng AI sai mục đích để mạo danh người của công chúng cho các chiến dịch tiếp thị gây hiểu lầm và tạo lưu lượng truy cập. Nền tảng này đã báo cáo việc xóa 532 trường hợp nội dung như vậy và đình chỉ 209 tài khoản liên quan đến việc tạo các video quảng cáo deepfake này.

WeChat nhấn mạnh cam kết tăng cường giám sát công nghệ để bảo vệ tính toàn vẹn của nền tảng, kêu gọi người sáng tạo nội dung tuân thủ các quy định và chính sách nền tảng đã được thiết lập. Nền tảng này đã hứa sẽ tiếp tục tăng cường năng lực quản trị và duy trì một hệ sinh thái lành mạnh.

Sử dụng Deepfake để mạo danh những nhân vật nổi tiếng

Chiến dịch trấn áp diễn ra trong bối cảnh ngày càng giám sát chặt chẽ nội dung video deepfake, đặc biệt là việc sử dụng nó để mạo danh người của công chúng nhằm mục đích quảng cáo gian lận.

Chuyên gia về bệnh truyền nhiễm Trung Quốc Zhang Wenhong, một nhân vật đáng tin cậy trong đại dịch, đã được nhìn thấy trên Wechat quảng cáo thanh protein. Zhang sau đó đã phủ nhận sự liên quan của mình, bày tỏ rằng những nội dung gây hiểu lầm và độc hại như vậy là đáng lo ngại và ông đã đệ đơn khiếu nại nhiều lần chống lại công ty.

Tương tự như vậy, Raymond Wong Pak-ming, một diễn viên và nhà làm phim nổi tiếng của Hồng Kông, cũng rơi vào tình huống tương tự. Ngoài ra còn có một video deepfake về anh ta quảng cáo một loại thuốc mỡ không xác định, được lưu hành trên Wechat.

Wong viết trên tài khoản Weibo của mình: "Hành vi này hoàn toàn là gian lận và nhằm mục đích lừa dối công chúng để kiếm lợi nhuận".

Thắt chặt các quy định đối với deepfake

Sự phổ biến ngày càng tăng của công nghệ deepfake đã thúc đẩy các cơ quan quản lý Trung Quốc áp dụng các biện pháp nghiêm ngặt hơn. Các quy định hành chính về tổng hợp sâu cho dịch vụ thông tin Internet, được thực hiện vào năm 2023, yêu cầu phải dán nhãn rõ ràng và truy xuất nguồn gốc nội dung đã được AI thay đổi.

Dựa trên các quy định này, hướng dẫn mới năm 2024 đề xuất sự giám sát chặt chẽ hơn, yêu cầu các nền tảng phải xác định và quản lý mọi nội dung do AI tạo ra mà họ phân phối.

Đầu tháng này, cơ quan phát thanh truyền hình nhà nước Trung Quốc đã chỉ đạo các nền tảng video ngắn, bao gồm Douyin của ByteDance (ứng dụng tương đương TikTok của Trung Quốc) và Kuaishou, xóa "các bản chuyển thể kỳ lạ" của các bộ phim hoặc chương trình truyền hình kinh điển được sản xuất bằng công nghệ deepfake.

Khi các nền tảng như WeChat tăng cường thực thi, cuộc chiến chống lại việc thao túng nội dung do AI điều khiển làm nổi bật những thách thức lớn hơn do AI tạo ra trong việc duy trì lòng tin và bảo vệ hệ sinh thái kỹ thuật số.