18 Negara Merilis Pedoman Global untuk Pengembangan Sistem AI yang Aman

Menurut Cointelegraph, Amerika Serikat, Inggris, Australia, dan 15 negara lainnya telah merilis pedoman global untuk membantu melindungi model AI agar tidak dirusak, mendesak perusahaan untuk membuat model mereka "aman secara desain". Pada 26 November, 18 negara tersebut merilis dokumen setebal 20 halaman yang menguraikan bagaimana perusahaan AI harus menangani keamanan siber mereka saat mengembangkan atau menggunakan model AI, karena mereka mengklaim bahwa "keamanan sering kali menjadi pertimbangan sekunder" dalam industri yang bergerak cepat. Pedoman tersebut sebagian besar terdiri dari rekomendasi umum seperti mempertahankan tali pengikat yang ketat pada infrastruktur model AI, memantau gangguan apa pun pada model sebelum dan sesudah rilis, dan melatih staf tentang risiko keamanan siber. Tidak disebutkan beberapa masalah yang diperdebatkan dalam ruang AI, termasuk kontrol apa yang mungkin ada di sekitar penggunaan model penghasil gambar dan pemalsuan mendalam atau metode pengumpulan data dan penggunaan dalam model pelatihan - masalah yang telah membuat beberapa perusahaan AI dituntut atas klaim pelanggaran hak cipta. "Kita berada di titik balik dalam pengembangan kecerdasan buatan, yang mungkin merupakan teknologi paling penting di zaman kita," kata Menteri Keamanan Dalam Negeri AS, Alejandro Mayorkas, dalam sebuah pernyataan. "Keamanan siber adalah kunci untuk membangun sistem AI yang aman, terlindungi, dan dapat dipercaya." Pedoman tersebut mengikuti inisiatif pemerintah lainnya yang mempertimbangkan AI, termasuk pemerintah dan perusahaan AI yang bertemu untuk KTT Keamanan AI di London awal bulan ini untuk mengoordinasikan kesepakatan tentang pengembangan AI. Sementara itu, Uni Eropa sedang menggodok rincian Undang-Undang AI yang akan mengawasi ruang angkasa dan Presiden AS Joe Biden mengeluarkan perintah eksekutif pada bulan Oktober yang menetapkan standar untuk keselamatan dan keamanan AI - meskipun keduanya mendapat tentangan dari industri AI yang mengklaim bahwa hal tersebut dapat menghambat inovasi. Penandatangan lain untuk pedoman "aman dengan desain" yang baru termasuk Kanada, Prancis, Jerman, Israel, Italia, Jepang, Selandia Baru, Nigeria, Norwegia, Korea Selatan, dan Singapura. Perusahaan AI, termasuk OpenAI, Microsoft, Google, Anthropic, dan Scale AI, juga berkontribusi dalam mengembangkan pedoman tersebut.