Konten Kasar yang Dihasilkan AI

Sebuah koalisi yang terdiri dari platform media sosial utama, pengembang AI, pemerintah, dan LSM telah bersatu untuk mengatasi masalah konten kasar yang dihasilkan oleh AI.

Pernyataan kebijakan yang dirilis pada tanggal 30 Oktober ini mencakup 27 penandatangan, di antaranya pemerintah Amerika Serikat, Australia, Korea, Jerman, dan Italia, di samping platform media sosial seperti Snapchat, TikTok, dan OnlyFan

Themakalah kebijakan yang diterbitkan menyatakan:

Kecerdasan Buatan (AI) menghadirkan peluang yang sangat besar untuk membantu mengatasi ancaman pelecehan seksual terhadap anak secara online. Kecerdasan buatan memiliki potensi untuk mengubah dan meningkatkan kemampuan industri dan penegak hukum dalam mendeteksi kasus pelecehan seksual terhadap anak. Untuk mewujudkan hal ini, kami menegaskan bahwa kita harus mengembangkan AI dengan cara yang baik untuk melindungi anak-anak dari pelecehan seksual di semua negara

Pernyataan tersebut mengakui potensi manfaat AI dalam melawan ancaman online, terutama terkait pelecehan seksual terhadap anak.

Namun, hal ini menekankan perlunya kewaspadaan terhadap penggunaan yang jahat, karena AI juga dapat digunakan untuk menghasilkan konten yang berbahaya.

Sebagai bagian dari komitmen mereka, koalisi ini telah berjanji untuk bekerja sama dalam memahami dan mengatasi risiko yang ditimbulkan oleh AI dalam memerangi pelecehan seksual terhadap anak.

Transparansi dan dialog terbuka di antara para pemangku kepentingan didorong, bersamaan dengan pembentukan kebijakan yang efektif di tingkat nasional.

Kami bertekad untuk bekerja sama untuk memastikan bahwa kami menggunakan AI yang bertanggung jawab untuk mengatasi ancaman pelecehan seksual terhadap anak dan berkomitmen untuk terus bekerja sama untuk memastikan bahwa risiko yang ditimbulkan oleh AI dalam mengatasi pelecehan seksual terhadap anak tidak menjadi tidak dapat diatasi. Kami akan berusaha memahami dan, jika perlu, menindaklanjuti risiko yang timbul akibat AI dalam mengatasi pelecehan seksual anak melalui forum yang ada. Semua pihak memiliki peran dalam memastikan keselamatan anak-anak dari risiko AI.

Kekhawatiran terhadap Anak-anak di Era AI

Inggris Raya merujuk data dariInternet Watch Foundation (IWF) mengungkapkan bahwa pengguna dalam sebuah forum web gelap telah mengedarkan hampir 3.000 gambar materi pelecehan seksual anak yang dibuat oleh AI.

Sehubungan dengan KTT global yang akan datang tentang keamanan AI di Inggris, rilis pernyataan ini menggarisbawahi kekhawatiran yang semakin meningkat atas masalah keselamatan anak dalam konteks kemajuan teknologi AI.

Baru-baru ini, timAS juga telah mengambil tindakan, dengan beberapa negara bagian mengajukan gugatan terhadap Meta perusahaan induk Facebook dan Instagram, mengutip kekhawatiran yang sama terkait keamanan anak.