Salah Satu Pendiri Ethereum, Vitalik Buterin, Membahas Risiko AI dan Intervensi Manusia

Menurut Cointelegraph, salah satu pendiri Ethereum, Vitalik Buterin, percaya bahwa kecerdasan buatan (AI) super canggih yang tidak terkendali memiliki "peluang serius" untuk melampaui manusia dan menjadi "spesies puncak" di Bumi. Namun, dia juga menyarankan bahwa intervensi manusia dalam pengembangan AI dapat membantu mencegah hal ini terjadi. Dalam sebuah posting blog pada 27 November, Buterin berpendapat bahwa AI pada dasarnya berbeda dari penemuan-penemuan terbaru lainnya, karena AI dapat menciptakan jenis "pikiran" baru yang berpotensi berbalik melawan kepentingan manusia. Dia mengutip survei tahun 2022 terhadap lebih dari 4.270 peneliti pembelajaran mesin yang memperkirakan peluang 5-10% bahwa AI dapat menyebabkan kepunahan manusia. Buterin menekankan bahwa meskipun klaim ini ekstrem, ada beberapa cara bagi manusia untuk bertahan. Salah satu metode tersebut adalah mengintegrasikan antarmuka otak-komputer (BCI) untuk memberikan manusia lebih banyak kontrol atas komputasi dan kognisi berbasis AI yang kuat. BCI adalah jalur komunikasi antara aktivitas listrik otak dan perangkat eksternal, seperti komputer atau anggota tubuh robot. Hal ini akan mengurangi lingkaran komunikasi antara manusia dan mesin dari hitungan detik menjadi milidetik dan memastikan manusia mempertahankan beberapa tingkat "agensi yang berarti" atas dunia. Buterin juga menyarankan agar manusia secara aktif mengarahkan pengembangan AI untuk memberi manfaat bagi umat manusia, karena memaksimalkan keuntungan tidak selalu menghasilkan hasil yang paling diinginkan. Dia menyimpulkan bahwa manusia telah menjadi kekuatan pendorong di balik kemajuan teknologi selama ribuan tahun dan akan terus membentuk masa depan AI dan inovasi lainnya.