Nội dung lạm dụng do AI tạo ra

Một liên minh bao gồm các nền tảng truyền thông xã hội lớn, nhà phát triển AI, chính phủ và tổ chức phi chính phủ đã thống nhất giải quyết vấn đề nội dung lạm dụng do AI tạo ra.

Tuyên bố chính sách, được phát hành vào ngày 30 tháng 10, bao gồm 27 bên ký kết, trong đó có chính phủ Hoa Kỳ, Úc, Hàn Quốc, Đức và Ý, bên cạnh các nền tảng truyền thông xã hội như Snapchat, TikTok và OnlyFan

Cácvăn bản chính sách đã xuất bản đã nêu:

Trí tuệ nhân tạo (AI) mang đến những cơ hội to lớn để giúp giải quyết mối đe dọa lạm dụng tình dục trẻ em trực tuyến. Nó có khả năng biến đổi và nâng cao khả năng của ngành và cơ quan thực thi pháp luật trong việc phát hiện các trường hợp lạm dụng tình dục trẻ em. Để hiện thực hóa điều này, chúng tôi khẳng định rằng chúng tôi phải phát triển AI theo cách vì lợi ích chung là bảo vệ trẻ em khỏi lạm dụng tình dục trên tất cả các quốc gia

Tuyên bố thừa nhận những lợi ích tiềm tàng của AI trong việc chống lại các mối đe dọa trực tuyến, đặc biệt liên quan đến lạm dụng tình dục trẻ em.

Tuy nhiên, nó nhấn mạnh sự cần thiết phải cảnh giác trước hành vi sử dụng có mục đích xấu, vì AI cũng có thể được sử dụng để tạo ra nội dung có hại.

Là một phần trong cam kết của mình, liên minh đã cam kết hợp tác để hiểu và giải quyết những rủi ro do AI gây ra trong việc chống lạm dụng tình dục trẻ em.

Sự minh bạch và đối thoại cởi mở giữa các bên liên quan được khuyến khích, cùng với việc thiết lập các chính sách hiệu quả ở cấp quốc gia.

Chúng tôi quyết tâm hợp tác cùng nhau để đảm bảo rằng chúng tôi sử dụng AI có trách nhiệm để giải quyết mối đe dọa lạm dụng tình dục trẻ em và cam kết tiếp tục hợp tác để đảm bảo những rủi ro do AI gây ra trong việc giải quyết lạm dụng tình dục trẻ em không trở nên không thể vượt qua. Chúng tôi sẽ tìm cách hiểu và hành động khi thích hợp đối với những rủi ro phát sinh từ AI trong việc giải quyết vấn đề lạm dụng tình dục trẻ em thông qua các diễn đàn hiện có. Tất cả các bên đều có vai trò trong việc đảm bảo an toàn cho trẻ em trước những rủi ro của AI biên giới.

Mối quan tâm về trẻ em trong kỷ nguyên AI

Vương quốc Anh tham khảo dữ liệu từTổ chức Theo dõi Internet (IWF) , tiết lộ rằng người dùng trong một diễn đàn web đen đã phát tán gần 3.000 hình ảnh về tài liệu lạm dụng tình dục trẻ em do AI tạo ra.

Trong bối cảnh hội nghị thượng đỉnh toàn cầu sắp tới về an toàn AI ở Anh, việc đưa ra tuyên bố này nhấn mạnh mối lo ngại ngày càng tăng về các vấn đề an toàn trẻ em trong bối cảnh phát triển công nghệ AI.

Gần đây,Hoa Kỳ cũng đã hành động, với một số tiểu bang đệ đơn kiện Meta , công ty mẹ của Facebook và Instagram, đưa ra những lo ngại tương tự về sự an toàn của trẻ em.