34 Negara Bagian AS Mengajukan Gugatan Terhadap Meta Atas Dugaan Manipulasi Anak di Bawah Umur

Menurut Cointelegraph, sebuah kelompok yang terdiri dari 34 negara bagian di Amerika mengajukan gugatan terhadap Meta, menuduh Facebook dan Instagram melakukan manipulasi yang tidak pantas terhadap anak di bawah umur yang menggunakan platform ini. Perwakilan hukum dari berbagai negara bagian, termasuk California, New York, Ohio, South Dakota, Virginia, dan Louisiana, menuduh bahwa Meta menggunakan algoritmanya untuk mendorong perilaku adiktif dan berdampak negatif pada kesehatan mental anak-anak melalui fitur-fitur seperti tombol "Like". Kepala ilmuwan AI di Meta dilaporkan telah mengatakan bahwa kekhawatiran akan risiko eksistensial dari teknologi ini masih 'prematur'. Meta telah memanfaatkan AI untuk mengatasi masalah kepercayaan dan keamanan pada platformnya. Namun, pihak yang berperkara dari pemerintah melanjutkan dengan tindakan hukum. Pengacara untuk negara bagian mencari jumlah kerusakan, restitusi, dan kompensasi yang berbeda untuk setiap negara bagian yang disebutkan dalam dokumen tersebut, dengan angka mulai dari $ 5.000 hingga $ 25.000 per kejadian yang diklaim. Cointelegraph telah menghubungi Meta untuk informasi lebih lanjut tetapi belum menerima umpan balik pada saat publikasi. Dalam berita terkait, Internet Watch Foundation (IWF) yang berbasis di Inggris telah menyuarakan keprihatinan tentang penyebaran materi pelecehan seksual anak (CSAM) yang mengkhawatirkan. Dalam sebuah laporan baru-baru ini, IWF mengungkapkan penemuan lebih dari 20.254 gambar CSAM yang dihasilkan oleh AI dalam satu forum web gelap hanya dalam waktu satu bulan, dan memperingatkan bahwa lonjakan konten yang mengganggu ini berpotensi membanjiri internet. Hal ini mencakup penyesuaian terhadap undang-undang yang ada, peningkatan pendidikan penegakan hukum, dan penerapan pengawasan regulasi untuk model AI. Untuk pengembang AI, IWF menyarankan untuk melarang penggunaan AI mereka untuk menghasilkan konten pelecehan anak, mengecualikan model yang terkait, dan berfokus pada penghapusan materi tersebut dari model mereka. Kemajuan generator gambar AI generatif telah secara signifikan meningkatkan pembuatan replika manusia yang mirip dengan aslinya. Platform seperti Midjourney, Runway, Stable Diffusion, dan Dall-E dari OpenAI adalah contoh alat yang mampu menghasilkan gambar yang realistis.