Menyingkap Risiko: SEC Gary Gensler Menetapkan Pandangan Baru tentang Potensi Jebakan AI

Ketua Komisi Sekuritas dan Pertukaran (SEC) Amerika Serikat (AS), Gary Gensler menyelidiki bidang kecerdasan buatan (AI) dan pasar crypto dipidato baru kemarin di National Press Club .

Menurutnya, AI berdiri tegak sebagai "teknologi paling transformatif di zaman kita," sebanding dengan dampak revolusioner dari internet dan produksi massal mobil. Namun, sudut pandang yang menggugah pikiran ini datang dengan twist. Terlepas dari reputasinya sebagai regulator yang ketat, mengawasi "penumpasan crypto" dia ragu tentang implikasi AI terhadap pasar.

Dengan kemajuan pesat di bidang AI, ada kekhawatiran yang berkembang tentang perkembangan dan risiko terkait. Hebatnya, itu mendahului penampilan Gary yang akan datang di hadapan Komite Alokasi Senat pada 19 Juli 2023. Selama penampilan ini, dia akan menyampaikan tinjauan komite tentang anggaran tahun fiskal 2024 untuk SEC.

Jika Mengejar Crypto Tidak Berhasil, Kejar AI Selanjutnya
Gary, terkenal karena pendiriannya yang tegas terhadap mata uang kripto dan komitmennya yang tak tergoyahkan untuk "maju dan patuhi"; strategi SEC, telah mengumpulkan perhatian yang signifikan. Namun, mengingat putusan gugatan Ripple vs SEC baru-baru ini oleh Hakim Analisa Torres yang menandai kemunduran yang signifikan bagi SEC, tampaknya telah merusak momentumnya dan sepertinya dia telah mengarahkan pandangan baru ke industri lain — AI.

Dia menyoroti hal-hal yang "signifikan" transformasi dalam pasar tenaga kerja dan persaingan yang semakin ketat antara AS dan China saat mereka bersaing untuk supremasi dalam pengembangan sistem AI. Namun, kekhawatiran ini hanya menggores permukaan dari potensi tantangan ke depan.

Mengingat meningkatnya permintaan akan data dan daya komputasi, Gary juga mengemukakan kekhawatiran penting terkait potensi dominasi beberapa platform teknologi di lapangan. Skenario ini, di mana sejumlah platform berlaku, menimbulkan tantangan signifikan bagi perusahaan yang mencari beragam model AI. Jika model AI memberikan informasi yang tidak akurat atau tidak relevan, lembaga keuangan berisiko mengadopsi data yang cacat dan akibatnya membuat keputusan yang buruk. Menurutnya, ini mengingatkan pada krisis keuangan 2008, di mana bank secara membabi buta mengikuti jejak para penilai kredit, atau kegilaan yang didorong oleh Twitter yang menargetkan Silicon Valley Bank.

“AI dapat meningkatkan kerapuhan keuangan karena dapat mempromosikan penggembalaan dengan pelaku individu yang membuat keputusan serupa karena mereka mendapatkan sinyal yang sama dari model dasar atau agregator data. Ini bisa mendorong monokultur.”

Wawasan Gary beresonansi kuat ketika mempertimbangkan dampak perilaku menggiring pada jatuhnya pasar saham. TerkemukaStudi tahun 2001 dilakukan oleh Markus Konrad Brunnermeier, seorang profesor ekonomi di Princeton University , menetapkan bahwa perilaku menggiring seperti itu memainkan peran penting dalam menjelaskan penurunan pasar ini.

Selain itu, yang lebih barustudi yang dilakukan pada tahun 2022 oleh Asad Ayoub dan Ayman Balawi dari University of Pécs di Hungaria semakin memperkuat gagasan ini, menegaskan bahwa perilaku menggiring memengaruhi harga saham di pasar bearish dan bullish. Sehubungan dengan temuan ini, dia mengeluarkan peringatan, mengungkapkan kekhawatiran bahwa perilaku penggembalaan ini berpotensi memperburuk jika sejumlah kecil perusahaan teknologi dominan menguasai lanskap AI.

AI generatif di bidang Keuangan
Sistem AI telah lama diintegrasikan ke dalam berbagai aspek sektor keuangan. Khususnya, perusahaan asuransi dan kreditur telah memanfaatkan kekuatan algoritme dan pemrosesan bahasa alami untuk menganalisis data keuangan, membantu mereka dalam membuat keputusan tentang jumlah pinjaman. Selain itu, perusahaan perdagangan telah memanfaatkan teknologi AI untuk mengidentifikasi penipuan dengan cepat dan mendeteksi sinyal pasar, melampaui kemampuan pengamat manusia yang menatap layar komputer.

Dalam konteks ini, Gary mengarahkan perhatiannya pada model bahasa besar (LLM), menganggapnya sebagai "teknologi paling transformatif di zaman kita." Namun, penting untuk dicatat bahwa pernyataannya terkadang mengacaukan kategori khusus teknologi AI ini dengan ranah AI yang lebih luas, meskipun sistem ini tidak selalu menimbulkan risiko yang identik atau memicu pertanyaan yang identik. Selain itu, ia mengakui bahwa AI generatif, bagian dari LLM, belum banyak diadopsi di industri keuangan.

“Kemungkinan satu atau bahkan sejumlah kecil platform AI mendominasi menimbulkan masalah terkait stabilitas keuangan… Saat berada di MIT, Lily Bailey dan saya menulis makalah tentang beberapa masalah ini yang disebut 'Pembelajaran Mendalam dan Stabilitas Keuangan'. Kemajuan terbaru dalam model AI generatif membuat tantangan ini lebih mungkin terjadi.”

Apakah AI Berpotensi Menggantikan Orang?
Gary kemudian menyoroti isu-isu penting lainnya seperti tantangan signifikan yang muncul dari penerapan AI dalam privasi data dan kekayaan intelektual. Khususnya, dia menarik perhatian penulis dan aktor Hollywood yang sedang berlangsung. pemogokan, yang berusaha untuk mengatasi masalah ini sangat. Penulis skenario yang terlibat dalam pemogokan meningkatkan kekhawatiran atas perselisihan kompensasi dan penggunaan AI dalam produksi hiburan, dengan alasan bahwa teknologi tersebut berpotensi menggantikan mereka dengan menggunakan karya mereka sebagai materi pelatihan.

Dia mengakui bahwa sebagai individu, kita semua berkontribusi untuk melatih parameter model AI, yang mengarah ke pertanyaan kritis: "Data siapa ini?" Perdebatan kontroversial ini sedang berlangsung saat ini, seperti yang dinyatakan oleh ketua SEC, yang menggarisbawahi komitmennya untuk memantau perkembangannya secara dekat.

“Bagi SEC, tantangannya di sini adalah untuk mempromosikan pasar yang kompetitif dan efisien dalam menghadapi lapisan dasar yang dominan di pusat pasar modal. Saya yakin kita harus menilai ini dengan cermat agar kita dapat terus mempromosikan persaingan, transparansi, dan akses yang adil ke pasar.”

Dia Memberikan Solusi Ironis
Ketua SEC menegaskan bahwa hanya mengandalkan alat manajemen risiko tidak cukup untuk mengurangi risiko yang ditimbulkan oleh alat AI canggih ke AS dan sistem keuangan global. Selain itu, pagar pembatas yang ada telah menjadi usang karena adanya terobosan kemajuan dalam "gelombang baru analitik data."

“Banyak tantangan terhadap stabilitas keuangan yang mungkin ditimbulkan oleh AI di masa depan…akan membutuhkan pemikiran baru tentang intervensi kebijakan sistem-lebar atau makro-prudensial.”

Ironisnya, Gary mengemukakan proposisi yang menarik untuk mengubah peraturan untuk era saat ini — sebuah solusi yang tidak terduga: AI.

“Sambil menyadari tantangannya, kami di SEC juga dapat mengambil manfaat dari staf yang memanfaatkan AI secara lebih besar dalam pengawasan pasar, tinjauan pengungkapan, ujian, penegakan hukum, dan analisis ekonomi mereka.”