Tôn Ngộ Không đi xe máy? Trung Quốc nhắm vào các video bị AI thao túng làm sai lệch các tác phẩm văn hóa kinh điển

Trung Quốc trấn áp các video bị AI thao túng nhắm vào các bộ phim và phim truyền hình kinh điển

Chính phủ Trung Quốc đã tăng cường nỗ lực kiểm soát việc sử dụng trí tuệ nhân tạo (AI) trong truyền thông bằng cách nhắm vào các nền tảng video ngắn.

Chính quyền đặc biệt chú ý đến các video có nội dung sử dụng AI để biên tập các bộ phim và phim truyền hình kinh điển của Trung Quốc, mà họ cho là bóp méo cốt truyện gốc và vi phạm quyền sở hữu trí tuệ.

Cục Quản lý Phát thanh và Truyền hình Quốc gia (NRTA) gần đây đã kêu gọi các nền tảng video ngắn phổ biến xác định và xóa nội dung do AI tạo ra có nội dung xuyên tạc các câu chuyện truyền thống hoặc biểu tượng văn hóa.

Động thái này phản ánh sự giám sát ngày càng chặt chẽ của Bắc Kinh đối với việc sử dụng trí tuệ nhân tạo trong lĩnh vực giải trí.

Thông báo chỉ ra những ví dụ đáng lo ngại như cảnh Tôn Ngộ Không, nhân vật huyền thoại trong Tây Du Ký, được miêu tả đang lái xe máy—một bước ngoặt kỳ lạ trong câu chuyện của ông.

Một ví dụ khác bao gồm hình ảnh Đường Tăng, nhà sư chính trong Tây Du Ký, đang thực hiện các hành động như hôn một người phụ nữ.

Những miêu tả như vậy không chỉ phi truyền thống mà còn xung đột với các chuẩn mực tôn giáo và văn hóa.

Video AI làm méo mó những tác phẩm kinh điển

Cuộc đàn áp của NRTA còn mở rộng sang các ví dụ khác về sự thao túng sáng tạo của AI.

Các báo cáo nhấn mạnh đến các phiên bản được AI chỉnh sửa của những bộ phim truyền hình nổi tiếng, chẳng hạn như Chân Hoàn truyện được chuyển thể thành "phim hành động đấu súng" và Hồng Lâu Mộng được làm lại thành phim kinh dị võ thuật.

Những thay đổi này hoàn toàn trái ngược với cốt truyện gốc và có nguy cơ làm suy yếu tinh thần của những tác phẩm mang tính biểu tượng này.

Chính quyền đã trực tiếp chỉ trích những thay đổi như vậy, mô tả chúng là hành vi phá hoại văn hóa.

Theo NRTA, những video do AI tạo ra này đang được sử dụng để theo đuổi lượt xem và lưu lượng truy cập trực tuyến, nhưng chúng vượt qua ranh giới đạo đức bằng cách xuyên tạc và bóp méo các câu chuyện truyền thống.

Hơn nữa, chúng có thể xâm phạm quyền sở hữu trí tuệ.

Các biện pháp cụ thể đã được nêu ra để giải quyết vấn đề.

Các nền tảng hiện được yêu cầu tiến hành kiểm tra nội dung video do AI tạo ra, với thời hạn báo cáo phát hiện và nỗ lực xóa bỏ tài liệu gây hiểu lầm là ngày 10 tháng 12 năm 2024.

Các nền tảng cũng phải tuân thủ các quy trình đánh giá nghiêm ngặt đối với nội dung do AI tạo ra, đảm bảo rằng mọi việc sử dụng các công cụ AI tạo ra, chẳng hạn như công nghệ chỉnh sửa hoặc hiệu ứng AI, đều tuân thủ các quy định của chính phủ.

Các công cụ này phải có chỉ dẫn rõ ràng cho người xem nếu nội dung đó do AI tạo ra.

Hậu quả pháp lý của việc thao túng AI

Các chuyên gia pháp lý đã nêu lên mối lo ngại về rủi ro vi phạm của các bản điều chỉnh do AI tạo ra.

Xia Hailong, một luật sư tại Thượng Hải, chỉ ra rằng những thay đổi như vậy có thể vi phạm bản quyền bằng cách xâm phạm quyền phân phối mạng hoặc quyền chuyển thể của tác giả gốc.

Ngoài ra, việc sử dụng hình ảnh của diễn viên thật mà không được phép trong các cảnh do AI tạo ra có thể vi phạm quyền hình ảnh cá nhân và thậm chí là gây tổn hại đến danh tiếng.

Mối lo ngại cũng tập trung vào việc sử dụng rộng rãi cái gọi là video “nụ hôn AI”.

Những bộ phim này, trong đó AI được sử dụng để tạo ra các cảnh nhân vật tương tác thân mật một cách nhân tạo, đã trở nên lan truyền trên các nền tảng video ngắn.

Các cuộc điều tra cho thấy phần lớn nội dung này được tạo ra bởi các tài khoản của bên thứ ba trái phép, thường quảng bá nội dung giật gân hoặc kém văn hóa, đi vào những lĩnh vực không phù hợp.

Một trong những công ty phát triển các video này đã bắt đầu kiểm duyệt một số từ khóa nhất định để ứng phó với phản ứng dữ dội của công chúng và áp lực của chính phủ.

Ảnh hưởng rộng rãi của AI đến phương tiện truyền thông đại chúng

Sự phổ biến của các nền tảng như Douyin (phiên bản Trung Quốc của TikTok, thuộc sở hữu của ByteDance) và Kuaishou đã làm trầm trọng thêm vấn đề khi cả hai công ty đều phát triển công nghệ AI của riêng mình để tạo nội dung.

ByteDance gần đây đã giới thiệu một bộ công cụ AI có tên là Jimeng AI, Seaweed và PixelDance, trong khi Kuaishou đã ra mắt nền tảng AI tạo sinh của riêng mình, Kling, vào đầu năm nay.

Cả hai nền tảng đều đang bị giám sát chặt chẽ vì các công cụ của chúng góp phần vào khối lượng phương tiện truyền thông do AI tạo ra tràn ngập trên các mạng trực tuyến.

Trung Quốc đã áp dụng một trong những biện pháp nghiêm ngặt nhất trên toàn cầu để quản lý AI, đặc biệt là giải quyết tình trạng sử dụng sai mục đích AI trong việc sáng tạo nội dung.

Các biện pháp được đưa ra vào tháng 8 năm 2023 theo "các biện pháp tạm thời để quản lý các dịch vụ AI tạo ra" yêu cầu các công ty phải duy trì các giá trị phù hợp với "các giá trị xã hội chủ nghĩa".

Hơn nữa, vào tháng 3 năm 2024, Bắc Kinh đã phát động các chiến dịch nhằm xóa bỏ nội dung gây hiểu lầm do AI tạo ra và chặn các tài khoản khai thác AI để phát tán tin đồn hoặc thao túng tiếp thị.

Chiến dịch trấn áp mới nhất nhằm vào những gì Bắc Kinh coi là việc sử dụng phương tiện truyền thông do AI tạo ra "không lành mạnh", nhằm ngăn chặn các video bóp méo lịch sử, văn hóa hoặc các câu chuyện truyền thống lan truyền rộng rãi trên mạng.