Anh Quốc kêu gọi cấm các ứng dụng AI khỏa thân tạo ra nội dung khiêu dâm của trẻ em

Ủy viên trẻ em kêu gọi cấm các ứng dụng AI tạo ra hình ảnh khiêu dâm

Công nghệ AI chỉnh sửa ảnh để tạo ra hình ảnh khiêu dâm của trẻ em đang ngày càng dễ tiếp cận, gây lo ngại ở Anh.

Những ứng dụng "khỏa thân" này, dùng để thay đổi ảnh thật để khiến người dùng trông như khỏa thân, hiện đang được sử dụng rộng rãi trên mạng xã hội và các nền tảng tìm kiếm.

Các ứng dụng này đã trở nên phổ biến đến mức trẻ em, đặc biệt là trẻ em gái, hiện đang phải điều chỉnh thói quen trực tuyến của mình vì sợ trở thành mục tiêu.

Cần hành động khẩn cấp để bảo vệ trẻ em khỏi sự thao túng của AI

Bà Rachel de Souza, Ủy viên về Trẻ em của Vương quốc Anh, đã lên tiếng cảnh báo về những rủi ro do các công nghệ này gây ra.

Trong báo cáo gần đây của mình, bà đã nhấn mạnh cách các công cụ AI này nhắm mục tiêu không cân xứng vào phụ nữ và trẻ em gái, với nhiều ứng dụng được thiết kế để thay đổi cơ thể phụ nữ.

Bà Rachel chia sẻ,

“Trẻ em đã nói với tôi rằng chúng sợ hãi ngay cả khi nghĩ đến việc công nghệ này có sẵn, chứ đừng nói đến việc sử dụng. Chúng sợ rằng bất kỳ ai — người lạ, bạn cùng lớp hoặc thậm chí là bạn bè — đều có thể sử dụng điện thoại thông minh để thao túng chúng bằng cách tạo ra hình ảnh khỏa thân.”

Sự phổ biến rộng rãi của các công cụ này trên các nền tảng như cửa hàng ứng dụng và công cụ tìm kiếm đã gây ra mối quan ngại đáng kể về sự an toàn và hạnh phúc của trẻ em.

Theo bà Rachel, sự phát triển nhanh chóng của công nghệ là quá sức tưởng tượng, hiện vẫn chưa có giải pháp rõ ràng nào để kiểm soát tác hại tiềm ẩn mà nó gây ra.

Cô ấy nhấn mạnh,

"Chúng ta không thể ngồi yên và để những ứng dụng AI tùy chỉnh này có thể ảnh hưởng nguy hiểm đến cuộc sống của trẻ em."

Chính phủ Anh có nỗ lực đủ để chống lại tài liệu lạm dụng tình dục do AI tạo ra không?

Bất chấp những nỗ lực pháp lý đang diễn ra nhằm giải quyết việc tạo ra và chia sẻ tài liệu lạm dụng tình dục trẻ em (CSAM) do AI tạo ra, những người chỉ trích cho rằng các biện pháp này chưa đủ mạnh.

Theo luật hiện hành, việc chia sẻ hoặc đe dọa chia sẻ hình ảnh deepfake rõ ràng là bất hợp pháp và có những hành vi phạm tội liên quan đến việc tạo hoặc phân phối các công cụ AI được thiết kế cho mục đích này.

Tuy nhiên, Dame Rachel tin rằng lệnh cấm hoàn toàn các ứng dụng khỏa thân là cần thiết.

Bà đã kêu gọi các nhà phát triển công cụ AI tạo ra nghĩa vụ pháp lý nhằm xác định và giảm thiểu rủi ro cho trẻ em và thúc giục xây dựng các hệ thống mạnh mẽ hơn để xóa nội dung nhạy cảm khỏi internet.

Theo người phát ngôn của chính phủ, Vương quốc Anh đã có những bước đi để giải quyết vấn đề này.

Họ chỉ ra Đạo luật An toàn Trực tuyến, yêu cầu các nền tảng phải xóa nội dung CSAM hoặc phải đối mặt với khoản tiền phạt lớn.

Ngoài ra, luật mới đã được ban hành vào đầu năm 2025 để hình sự hóa hành vi sở hữu, tạo ra và phân phối các công cụ AI có khả năng tạo ra tài liệu khiêu dâm liên quan đến trẻ em.

Tác động ngày càng tăng của lạm dụng do AI tạo ra

Sự gia tăng của các công cụ AI tạo ra deepfake đã dẫn đến những hậu quả đáng báo động.

Dữ liệu từ Internet Watch Foundation (IWF) cho thấy mức tăng đáng kinh ngạc là 380% trong các báo cáo lạm dụng tình dục trẻ em do AI tạo ra, với 245 trường hợp được ghi nhận vào năm 2024 so với chỉ 51 trường hợp vào năm 2023.

Derek Ray-Hill, Tổng giám đốc điều hành tạm thời của IWF, lưu ý,

"Chúng tôi biết những ứng dụng này đang bị lạm dụng trong trường học và hình ảnh sẽ nhanh chóng mất kiểm soát."

Một bé gái 16 tuổi, người tham gia cuộc khảo sát của Ủy viên Trẻ em, đã chia sẻ nỗi sợ hãi của mình về sự thao túng của AI, cô bé nói rằng,

"Ngay cả trước khi có bất kỳ tranh cãi nào nổ ra, tôi đã có thể biết trước nó sẽ được sử dụng vào mục đích gì, và nó sẽ không phải là điều tốt đẹp. Tôi đã có thể biết trước nó sẽ là một kỳ quan công nghệ sẽ bị lạm dụng."

Vai trò của Chính phủ trong việc chống lại việc lạm dụng AI

Chính phủ đã cam kết sẽ có hành động tiếp theo, thông qua luật mới để hình sự hóa CSAM do AI tạo ra và buộc các nền tảng phải chịu trách nhiệm về việc lưu trữ nội dung có hại.

Tuy nhiên, Dame Rachel de Souza khẳng định cần phải có những biện pháp mạnh mẽ hơn.

Bà kêu gọi chính phủ công nhận lạm dụng tình dục bằng công nghệ deepfake là một hình thức bạo lực đối với phụ nữ và trẻ em gái và giải quyết những rủi ro do các công cụ AI gây ra một cách hiệu quả hơn.

Vương quốc Anh không phải là quốc gia duy nhất phải đối mặt với thách thức này.

Các nước khác nhưHàn Quốc cũng đang phải vật lộn với sự phát triển nhanh chóng của công nghệ AI và những nguy cơ mà chúng gây ra cho nhóm dân số dễ bị tổn thương.

Tuy nhiên, lập trường chủ động của Vương quốc Anh, bao gồm cả việc đưa ra các hành vi phạm tội cụ thể liên quan đến việc lạm dụng do AI tạo ra, đã đưa nước này trở thành quốc gia đi đầu trong việc giải quyết vấn đề này.

Khi AI tiếp tục phát triển, việc đảm bảo an toàn cho trẻ em trực tuyến vẫn là mối quan tâm ngày càng tăng.

Bất chấp một số tiến triển về mặt pháp lý, động thái thúc đẩy lệnh cấm hoàn toàn các ứng dụng khỏa thân của Ủy viên bảo vệ trẻ em nêu bật nhu cầu cấp thiết về các biện pháp bảo vệ mạnh mẽ hơn cho những cá nhân dễ bị tổn thương trước những công nghệ gây hại này.