Presiden Joe Biden & # 39; eksekutif baru-baru inipesanan yang diterbitkan pada tanggal 30 Oktober, telah menimbulkan kekhawatiran di komunitas teknologi.

Perintah komprehensif ini bertujuan untuk menetapkan standar keamanan kecerdasan buatan (AI) yang ketat, dengan fokus untuk melindungi warga negara, entitas pemerintah, dan perusahaan.

Ini memperkenalkan enam standar baru untuk keselamatan dan keamanan AI, semuanya selaras dengan prinsip-prinsip "keselamatan, keamanan, kepercayaan, keterbukaan";

Mandat Transparansi: Membagikan Hasil Uji Keamanan

Salah satu aspek penting dari perintah eksekutif ini adalah mandat bagi perusahaan yang mengembangkan "model pondasi yang memiliki risiko signifikan terhadap keamanan nasional, keamanan ekonomi, atau kesehatan masyarakat" untuk membagikan hasil uji keamanan mereka kepada para pejabat.

Persyaratan ini bertujuan untuk memastikan transparansi dan akuntabilitas dalam pengembangan AI, mempromosikan teknologi AI yang lebih aman dan andal.

Dilema Sumber Terbuka: Kurangnya Panduan yang Jelas

Terlepas dari niat baiknya, perintah eksekutif tersebut telah menimbulkan kekhawatiran di dalam komunitas AI, terutama di sektor pengembangan sumber terbuka.

Tidak adanya detail implementasi yang spesifik telah menimbulkan pertanyaan tentang bagaimana perintah tersebut akan berdampak pada AI sumber terbuka, yang bergantung pada inovasi berbasis komunitas.

Ketidakjelasan ini membuat para pengembang tidak yakin akan implikasinya terhadap pengembangan model tingkat atas.

Reaksi Beragam dari Para Pakar Industri

Para pakar industri telah menyatakan reaksi yang beragam terhadap perintah eksekutif tersebut. Adam Struck, mitra pendiri di Struck Capital dan seorang investor AI, memuji pengakuan perintah tersebut atas potensi transformatif AI.

Namun, ia juga menyoroti tantangan yang dihadapi oleh para pengembang dalam memprediksi risiko di masa depan, terutama dalam komunitas open-source, di mana perintah tidak memiliki arahan yang jelas.

Perintah eksekutif tersebut menguraikan niat pemerintah untuk mengelola pedoman AI melalui kepala AI dan dewan tata kelola di dalam badan-badan pengatur.

Pendekatan ini menyiratkan bahwa perusahaan yang beroperasi di dalam badan-badan ini harus mematuhi kerangka kerja peraturan yang disetujui pemerintah. Kerangka kerja ini diharapkan berfokus pada kepatuhan data, perlindungan privasi, dan pengembangan algoritme yang tidak bias.

Advokasi dan Kepedulian Sumber Terbuka

Martin Casado, mitra umum di perusahaan modal ventura Andreessen Horowitz, menyatakan keprihatinannya terhadap potensi dampak perintah eksekutif terhadap AI open-source.

Dia, bersama dengan para ahli AI lainnya, mengirimkan surat kepada pemerintahan Biden, menekankan pentingnya open source dalam menjaga keamanan perangkat lunak dan mencegah monopoli. Para kritikus berpendapat bahwa definisi luas dari jenis model AI yang ditetapkan oleh perintah tersebut dapat menimbulkan tantangan bagi perusahaan yang lebih kecil, yang mungkin kesulitan untuk memenuhi persyaratan yang dirancang untuk perusahaan yang lebih besar.

Inovasi yang Berisiko: Dampak yang Merugikan

Jeff Amico dari Gensyn menyuarakan keprihatinan ini, menyebut perintah tersebut merugikan inovasi di Amerika Serikat.

Dampak potensial dari regulasi yang berlebihan terhadap potensi transformatif AI dan potensinya untuk menghambat inovasi di berbagai industri telah menjadi perdebatan.

Matthew Putman, CEO dan salah satu pendiri Nanotronics, menekankan perlunya kerangka kerja regulasi yang memprioritaskan keamanan konsumen dan pengembangan AI yang beretika.

Meskipun ia memperingatkan agar tidak ada regulasi yang berlebihan, ia juga menunjukkan bahwa kekhawatiran akan potensi bencana AI sering kali dibesar-besarkan. Ia menyoroti dampak positif dari AI, terutama di bidang manufaktur, bioteknologi, dan energi, di mana teknologi AI mendorong revolusi keberlanjutan dengan meningkatkan proses, mengurangi limbah, dan mengurangi emisi.

Jalan di Depan: Konsorsium Institut Keselamatan AI

Seiring dengan terbentuknya perintah eksekutif tersebut, Institut Standar dan Teknologi Nasional AS dan Departemen Perdagangan telah memprakarsai Konsorsium Institut Keselamatan Kecerdasan Buatan.

Konsorsium ini mencari anggota untuk berkontribusi dalam upaya keamanan AI, memastikan bahwa standar keamanan ditetapkan dengan cara yang seimbang yang mendorong inovasi sekaligus melindungi masyarakat.

Perintah eksekutif Presiden Biden, meskipun bermaksud baik, memiliki risiko regulasi berlebihan yang dapat menghambat potensi transformatif AI dan menghambat inovasi di berbagai industri. Mencapai keseimbangan yang tepat antara keamanan dan inovasi tetap menjadi tantangan yang signifikan saat komunitas AI menavigasi lanskap regulasi AI yang terus berkembang.