Uni Eropa (UE) mencapai terobosan dalam Undang-Undang AI, menetapkan kerangka hukum komprehensif yang mengatur penggunaan kecerdasan buatan dalam yurisdiksinya. Perjanjian penting ini bertujuan untuk mengatur penggunaan AI di berbagai sektor dan menetapkan pedoman khusus untuk berbagai kategori sistem AI.

Sistem Manajemen Risiko Berjenjang

Undang-undang AI Uni Eropa memperkenalkan sistem manajemen risiko berjenjang yang mengkategorikan sistem AI berdasarkan potensi dampaknya terhadap hak-hak fundamental. Sistem ini mengklasifikasikan sebagian besar sistem AI sebagai "risiko minimal", yang mencakup fungsi-fungsi seperti sistem rekomendasi otomatis dan penyaring spam. Partisipasi dalam kode etik AI tetap bersifat sukarela bagi penyedia yang menawarkan layanan tersebut.

Di sisi lain, sistem AI yang diberi label "berisiko tinggi" mencakup domain-domain penting seperti infrastruktur, penilaian pendidikan, penegakan hukum, dan identifikasi biometrik. Peraturan yang lebih ketat mengamanatkan dokumentasi yang terperinci, kumpulan data berkualitas tinggi, pengawasan manusia, dan mekanisme mitigasi risiko.

Risiko dan Pembatasan yang Tidak Dapat Diterima

Setiap AI yang mengancam hak-hak dasar termasuk dalam kategori "risiko yang tidak dapat diterima" dan harus dilarang keras. Contohnya termasuk pemolisian prediktif, sistem pengenalan emosi di tempat kerja, dan segala bentuk manipulasi perilaku yang membahayakan kehendak bebas atau mendiskriminasi berdasarkan faktor-faktor seperti orientasi politik, ras, atau orientasi seksual.

Persyaratan dan Kepatuhan yang Ketat

Undang-undang ini menuntut pelabelan deepfakes dan konten yang dihasilkan AI, serta transparansi saat berbicara dengan chatbots. Selain itu, model AI dasar yang membutuhkan sumber daya komputasi yang signifikan akan menghadapi regulasi yang lebih ketat setelah 12 bulan.

Pengembang AI harus segera menghapus fitur-fitur yang termasuk dalam kategori "risiko yang tidak dapat diterima" dalam waktu enam bulan setelah pengesahan Undang-Undang tersebut. Kepatuhan terhadap peraturan untuk AI "berisiko tinggi" juga wajib dilakukan dalam jangka waktu yang sama.

Implikasi untuk Bisnis

Ketidakpatuhan terhadap Undang-Undang tersebut dapat mengakibatkan denda yang cukup besar, sehingga menimbulkan kekhawatiran di kalangan pakar dan pelaku bisnis AI. Denda berkisar antara 1,5% hingga 7% dari omset global, yang menimbulkan risiko keuangan yang signifikan. Barry Scannell, pakar hukum AI, menyoroti potensi pergeseran strategis dan tantangan operasional untuk bisnis yang merambah ke teknologi pengenalan biometrik dan emosi.

Suara Keprihatinan dan Kritik

Anggota Parlemen Eropa Svenja Hahn memuji Undang-Undang tersebut karena mencegah regulasi yang berlebihan, tetapi menyuarakan kekhawatiran tentang dampaknya terhadap inovasi dan hak-hak sipil. Kritik dari anggota parlemen dan raksasa industri, termasuk Asosiasi Industri Komputer dan Komunikasi (CCIA), menyoroti keberatan tentang potensi hambatan pada inovasi dan batasan operasional untuk perusahaan AI di Eropa.

Kesimpulan dan Proses yang Sedang Berlangsung

Meskipun perjanjian ini menandai tonggak penting, persetujuan resmi oleh Parlemen Eropa dan Dewan Eropa masih menunggu. Setelah diterbitkan dalam Jurnal Resmi, Undang-Undang tersebut akan mulai berlaku setelah 20 hari. Terlepas dari kemajuan ini, diskusi terus berlanjut tentang implikasi Undang-Undang tersebut, dengan komitmen berkelanjutan oleh UE untuk terlibat secara internasional dalam regulasi AI melalui berbagai platform global.

Beberapa ahli menyatakan perlunya pendekatan yang lebih seimbang antara regulasi dan inovasi, sementara suara-suara dari industri menekankan potensi tantangan yang mungkin ditimbulkan oleh Undang-Undang tersebut terhadap pengembangan AI dan retensi talenta di Eropa.