Vitalik Buterin Memperingatkan Spesies Puncak Baru

Dalamposting blog terbaru salah satu pendiri Ethereum, Vatalik Buterin menyoroti sifat AI yang berbeda, mengungkapkan kekhawatiran tentang potensinya untuk menciptakan jenis pikiran baru yang dapat bertindak bertentangan dengan kepentingan manusia.

Tidak seperti penemuan sebelumnya, pertumbuhan kecerdasan AI yang cepat menimbulkan risiko serius untuk menyalip kemampuan mental manusia, sehingga Buterin menekankan perlunya intervensi yang cermat.

Buterin memperingatkan dalam postingan blognya, kecerdasan buatan (AI) yang super canggih berpotensi melampaui manusia:

"Tetapi ada cara yang berbeda untuk berpikir tentang apa itu AI: AI adalah jenis pikiran baru yang dengan cepat meningkatkan kecerdasannya, dan memiliki peluang besar untuk menyalip kemampuan mental manusia dan menjadi spesies puncak baru di planet ini.

Pertumbuhan AI yang Pesat Meningkatkan Risiko

Buterin menarik perhatian pada ancaman eksistensial yang ditimbulkan oleh AI superintelegen, menunjukkan bahwa jika dibiarkan, hal itu dapat mengakibatkan kepunahan manusia.

Seperti yang ditulis dalam postingan blognya:

"Ini adalah klaim yang ekstrem: sebanyak apa pun kerusakan yang ditimbulkan oleh skenario terburuk dari perubahan iklim, atau pandemi buatan atau perang nuklir, ada banyak pulau peradaban yang akan tetap utuh untuk memungut sisa-sisanya. Namun, AI yang sangat cerdas, jika memutuskan untuk berbalik melawan kita, mungkin tidak akan ada yang selamat, dan mengakhiri umat manusia untuk selamanya. Bahkan Mars pun mungkin tidak akan aman;

Diamerujuk pada sebuah survei terhadap para peneliti pembelajaran mesin yang memperkirakan 5-10% kemungkinan AI menyebabkan kerusakan pada umat manusia .

Terlepas dari sifat ekstrem dari klaim ini, Buterin mengusulkan solusi potensial untuk memastikan kontrol manusia atas AI yang kuat.

Antarmuka Otak-Komputer (BCI)

Foto diambil dari: https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html

Untuk mengatasi risiko tersebut, Buterin menganjurkan integrasi antarmuka otak-komputer (BCI).

Antarmuka ini membangun jalur komunikasi langsung antara otak dan perangkat eksternal, sehingga manusia memiliki kontrol lebih besar atas komputasi dan kognisi berbasis AI.

Dengan mengurangi lingkaran komunikasi antara manusia dan mesin, Buterin berpendapat bahwa BCI dapat mempertahankan agensi yang berarti atas dunia, mencegah AI bertindak secara independen.

Salah satu pendiri Ethereum ini menyoroti pentingnya keterlibatan manusia dalam proses pengambilan keputusan, yang bertujuan untuk mengurangi kemungkinan AI bertindak bertentangan dengan nilai-nilai kemanusiaan.

Dia menyarankan bahwa niat aktif manusia, yang dipandu oleh nilai-nilai di luar maksimalisasi keuntungan, dapat mengarahkan pengembangan AI ke arah yang bermanfaat bagi umat manusia.

Menavigasi Tantangan AI

Buterin menyatakan keyakinannya akan kemampuan manusia untuk mengatasi tantangan yang ditimbulkan oleh evolusi AI.

Dia menggarisbawahi pentingnya inovasi dan teknologi manusia, membayangkan masa depan di mana hasil karya manusia, seperti perjalanan luar angkasa dan geoengineering, berkontribusi pada keindahan kehidupan Bumi yang akan terus berlanjut selama ribuan tahun ke depan.