Theo Cointelegraph, một nhóm gồm 34 bang của Mỹ đang đệ đơn kiện Meta, cáo buộc Facebook và Instagram tham gia vào hành vi thao túng không đúng đắn đối với trẻ vị thành niên sử dụng các nền tảng này. Các đại diện pháp lý từ nhiều tiểu bang khác nhau, bao gồm California, New York, Ohio, South Dakota, Virginia và Louisiana, cáo buộc rằng Meta sử dụng thuật toán của mình để thúc đẩy hành vi gây nghiện và tác động tiêu cực đến sức khỏe tinh thần của trẻ em thông qua các tính năng như 'Thích' cái nút. Nhà khoa học AI trưởng tại Meta được cho là đã nói rằng những lo ngại về những rủi ro tồn tại của công nghệ này vẫn còn 'vẫn còn sớm'. Meta đã khai thác AI để giải quyết các vấn đề về độ tin cậy và an toàn trên nền tảng của mình. Tuy nhiên, các đương sự của chính phủ đang tiến hành các hành động pháp lý. Các luật sư của các bang đang yêu cầu mức bồi thường thiệt hại, bồi thường và bồi thường khác nhau cho mỗi bang được đề cập trong tài liệu, với con số dao động từ 5.000 USD đến 25.000 USD cho mỗi vụ việc có mục đích. Cointelegraph đã liên hệ với Meta để biết thêm thông tin nhưng chưa nhận được phản hồi tại thời điểm xuất bản. Trong các tin tức liên quan, Tổ chức Theo dõi Internet (IWF) có trụ sở tại Vương quốc Anh đã nêu lên mối lo ngại về sự gia tăng đáng báo động của tài liệu lạm dụng tình dục trẻ em (CSAM) do AI tạo ra. Trong một báo cáo gần đây, IWF tiết lộ việc phát hiện hơn 20.254 hình ảnh CSAM do AI tạo ra trong một diễn đàn web đen chỉ trong một tháng, cảnh báo rằng sự gia tăng nội dung đáng lo ngại này có khả năng tràn ngập Internet. Tổ chức Vương quốc Anh kêu gọi toàn cầu hợp tác chống vấn đề CSAM, đề xuất chiến lược nhiều mặt. Điều này bao gồm các điều chỉnh đối với luật hiện hành, cải tiến giáo dục thực thi pháp luật và thực hiện giám sát theo quy định đối với các mô hình AI. Đối với các nhà phát triển AI, IWF khuyên cấm sử dụng AI của họ để tạo nội dung lạm dụng trẻ em, loại trừ các mô hình liên quan và tập trung vào việc xóa tài liệu đó khỏi mô hình của họ. Sự tiến bộ của các trình tạo hình ảnh AI tổng quát đã cải thiện đáng kể việc tạo ra các bản sao con người giống như thật. Các nền tảng như Midjourney, Runway, Stable Diffusion và Dall-E của OpenAI là những ví dụ về các công cụ có khả năng tạo ra hình ảnh chân thực.