Trung Quốc thắt chặt kiểm soát nội dung AI bằng các quy định mới
Cơ quan quản lý internet của Trung Quốc đang tăng cường kiểm soát nội dung do AI tạo ra thông qua một chế độ mới được đề xuất, yêu cầu tất cả các nền tảng kỹ thuật số phải dán nhãn tài liệu do AI tạo ra.
Được công bố bởi Cục Quản lý Không gian mạng Trung Quốc,bản dự thảo kế hoạch này tìm cách thực thi một hệ thống dán nhãn minh bạch trên nhiều dạng nội dung khác nhau, từ văn bản và hình ảnh đến tệp video và âm thanh.
Nếu được áp dụng, các nền tảng và nhà cung cấp dịch vụ trực tuyến phải đảm bảo tài liệu do AI tạo ra có thể dễ dàng nhận dạng thông qua logo hiển thị và siêu dữ liệu được nhúng.
Các quy định sẽ đi xa hơn nữa đối với các tệp âm thanh, trong đó lời nhắc bằng giọng nói phải thông báo cho người nghe ở đầu và cuối tệp - và đôi khi là giữa tệp - rằng họ đang tương tác với nội dung do AI tạo ra.
Tương tự như vậy, phần mềm phát các tệp này cũng sẽ cần thông báo cho người dùng khi tương tác với tài liệu AI.
Đối với video, Bắc Kinh sẽ cho phép các nền tảng hiển thị thông báo ở đầu, cuối và các điểm quan trọng trong nội dung.
Một luật sư giấu tên chuyên về giao dịch sở hữu trí tuệ, có trụ sở tại Bắc Kinh, lưu ý:
"Đây là vấn đề bảo vệ tính toàn vẹn của hệ sinh thái kỹ thuật số"
Thắt chặt giám sát nội dung AI do người dùng tạo ra
Bản dự thảo cũng mở rộng phạm vi áp dụng cho những cá nhân đăng nội dung do AI tạo ra.
Công dân mạng sẽ có nghĩa vụ gắn nhãn mọi nội dung họ tạo ra bằng AI và những người sử dụng công cụ nền tảng sẽ phải xác định danh tính của mình, để lại dấu vết kỹ thuật số.
Nhật ký hoạt động của người dùng phải được lưu trữ tối thiểu sáu tháng để đảm bảo trách nhiệm giải trình.
Biện pháp này đánh dấu một bước tiến nữa hướng tới mục tiêu rộng lớn hơn của Trung Quốc là liên kết mọi nội dung do người dùng tạo ra với các cá nhân có thể xác định được, củng cố tham vọng của quốc gia này về quyền kiểm soát có chủ quyền đối với không gian mạng của mình.
Những hàm ý ở đây rất rõ ràng – nội dung thách thức Đảng Cộng sản hoặc chính phủ khó có thể tồn tại trong môi trường internet được giám sát chặt chẽ của Trung Quốc.
Zhang Linghan, giáo sư tại Đại học Khoa học Chính trị và Luật Trung Quốc, người ủng hộ tiềm năng của hệ thống dán nhãn trong việc cải thiện quản trị nội dung do AI tạo ra, đã cảnh báo:
"Việc không đáp ứng được những yêu cầu nghiêm ngặt này có thể khiến cả nền tảng và cá nhân gặp rắc rối."
Ông nhấn mạnh rằng các quy định này sẽ làm giảm thông tin sai lệch, ngăn chặn tình trạng tham nhũng trong các tập dữ liệu đào tạo AI trong tương lai và tạo ra một hệ sinh thái kỹ thuật số lành mạnh hơn.
Phân tích nội dung do AI tạo ra khi thiếu siêu dữ liệu
Để đảm bảo tuân thủ, nhà cung cấp dịch vụ cũng phải phân tích nội dung thiếu siêu dữ liệu.
Nếu nhà cung cấp nghi ngờ AI đã tạo ra một tệp, họ sẽ phải dán nhãn cho tệp đó.
Khía cạnh này của bản dự thảo nhằm loại bỏ mọi lỗ hổng trong hệ thống và đảm bảo rằng mọi nội dung do AI tạo ra đều có thể nhận dạng được, ngay cả khi siêu dữ liệu bị cố tình bỏ qua.
Ngoài ra, các quy định còn yêu cầu các nền tảng chia sẻ công nghệ mà họ phát triển để phát hiện nội dung AI, thúc đẩy nỗ lực chung nhằm cải thiện các phương pháp phát hiện trên diện rộng.
Các biện pháp này là một phần trong chiến lược rộng lớn hơn của Trung Quốc nhằm bảo vệ lợi ích quốc gia và an ninh công cộng.
Xây dựng dựa trên các quy định trước đó để giải quyết thông tin sai lệch
Dự thảo quy định mới này được xây dựng dựa trên một loạt các khuôn khổ trước đó được thiết kế để quản lý việc sử dụng trí tuệ nhân tạo.
Một cột mốc quan trọng là Quy định hành chính về tổng hợp sâu trong dịch vụ thông tin trên Internet, được triển khai vào tháng 1 năm 2023.
Chính sách này yêu cầu dán nhãn rõ ràng nội dung có thể gây hiểu lầm hoặc gây nhầm lẫn cho công chúng, mở đường cho các hướng dẫn nghiêm ngặt hơn được đề xuất trong dự thảo hiện tại.
Một diễn biến quan trọng khác diễn ra vào tháng 8 năm 2023 với các Biện pháp tạm thời để quản lý Dịch vụ AI tạo ra, bộ quy tắc đầu tiên của Trung Quốc nhắm cụ thể vào các dịch vụ do AI tạo ra.
Tiến trình quản lý đang diễn ra này làm nổi bật cách tiếp cận chủ động của Trung Quốc trong việc quản lý những tiến bộ nhanh chóng của công nghệ AI.
Trung Quốc không phải là quốc gia duy nhất đang phải vật lộn với những tác động của nội dung do AI điều khiển.
Các chính phủ và tổ chức khác trên toàn thế giới cũng đang thực hiện các biện pháp tương tự.
Ví dụ, Kế hoạch phối hợp về trí tuệ nhân tạo của Liên minh châu Âu, Đạo luật trách nhiệm giải trình về Deepfakes của Hoa Kỳ và Sách trắng về tác hại trực tuyến của Vương quốc Anh đều phản ánh những nỗ lực toàn cầu nhằm đảm bảo tính xác thực của nội dung trực tuyến và bảo vệ sở hữu trí tuệ.
Công nghệ AI và Deepfake đang bị giám sát chặt chẽ
Sự phát triển của công nghệ deepfake, dựa trên AI để chỉnh sửa hình ảnh, âm thanh và video, đã làm gia tăng mối lo ngại về việc phát tán thông tin sai lệch và các rủi ro tiềm ẩn về bảo mật.
Trong một cuộc phỏng vấn gần đây với tờ Nhân dân Nhật báo, Giáo sư Zhang đã nhấn mạnh tầm quan trọng của hệ thống dán nhãn mới và nêu rõ:
"Hệ thống dán nhãn sẽ tăng cường khả năng quản lý nội dung do AI tạo ra, giảm việc sản xuất thông tin sai lệch, ngăn ngừa sự ô nhiễm của các tập dữ liệu đào tạo trong tương lai và thúc đẩy hệ sinh thái thông tin mạng lành mạnh."
Deepfake đã bị khai thác cho mục đích gian lận, càng làm tăng thêm nhu cầu phải có các quy định chặt chẽ hơn.
Trong bối cảnh này, các luật mà Trung Quốc đề xuất nhằm mục đích giảm thiểu rủi ro liên quan đến các công nghệ này, nhấn mạnh tầm quan trọng của việc bảo vệ an ninh quốc gia và duy trì niềm tin của công chúng.
Bằng cách dán nhãn nội dung do AI tạo ra và yêu cầu các nền tảng chịu trách nhiệm, Trung Quốc đặt mục tiêu tạo ra một không gian kỹ thuật số minh bạch hơn.
Một động lực hướng tới các tiêu chuẩn tuân thủ cao trong quản trị AI
Các quy định dự thảo không chỉ nhằm kiểm soát nội dung do AI tạo ra mà còn báo hiệu sự khởi đầu của kỷ nguyên tuân thủ quy định chặt chẽ hơn trong lĩnh vực AI tạo ra của Trung Quốc.
Một luật sư chuyên về sở hữu trí tuệ có trụ sở tại Bắc Kinh đã quan sát,
"Sáng kiến này đánh dấu một giai đoạn mới về quy định chặt chẽ và tiêu chuẩn tuân thủ cao trong lĩnh vực dịch vụ AI tạo ra của Trung Quốc."
Bằng cách áp dụng các yêu cầu cao hơn đối với các nền tảng, chính phủ Trung Quốc đảm bảo rằng các công nghệ AI được sử dụng một cách có trách nhiệm và giảm thiểu tác động tiêu cực của nội dung do AI tạo ra.
Khi quá trình tham vấn công khai về dự thảo này bắt đầu vào tháng tới, các bên liên quan sẽ có cơ hội cung cấp phản hồi.
Tuy nhiên, dựa trên tiền lệ lịch sử, Bắc Kinh hiếm khi thực hiện những thay đổi đáng kể sau khi công bố các dự thảo như thế này.
Nhiều khả năng các quy tắc được đề xuất sẽ được thực hiện theo hình thức hiện tại, thắt chặt hơn nữa quyền kiểm soát đối với bối cảnh kỹ thuật số của Trung Quốc đồng thời bảo vệ lợi ích của đất nước trước sự phát triển nhanh chóng của công nghệ AI.
Anais
