Salah Satu Pendiri Ethereum, Vitalik Buterin: AI Merupakan Ancaman Serius Bagi Dominasi Umat Manusia
Salah satu pendiri Ethereum, Vitalik Buterin, mengeluarkan peringatan tentang potensi bahaya kecerdasan buatan (AI) yang sangat canggih hingga melampaui kecerdasan manusia dan menjadi spesies dominan di bumi.
Dalam sebuah postingan terbaru di X (sebelumnya Twitter), dalang Ethereum ini menekankan bahwa kontrol dan intervensi manusia dalam pengembangan AI akan menentukan hasil dari skenario ini.
Buterin berpendapat bahwa AI pada dasarnya berbeda dari penemuan-penemuan sebelumnya, seperti media sosial, pesawat terbang, dan mesin cetak karena memiliki kemampuan untuk menciptakan jenis “pikiran” baru yang dapat merugikan kepentingan manusia.
Ia menyatakan kekhawatirannya mengenai AI yang sangat cerdas. Jika dibiarkan manusia bisa melihatnya sebagai ancaman bagi kelangsungan hidup mereka dan berpotensi menyebabkan kepunahan umat manusia.
AI risk 1: existential risk. My p(doom) is around 0.1.
You don't have to buy this story, but IMO it's worth worrying about. pic.twitter.com/1aWwhNx2Vl
— vitalik.eth (@VitalikButerin) November 27, 2023
“AI adalah […] jenis pikiran baru yang dengan cepat meningkatkan kecerdasannya, dan berpeluang besar menyalip kemampuan mental manusia serta menjadi spesies puncak baru di planet ini.”
Meskipun mengakui bahwa kemungkinan terjadi hasil ekstrem semacam itu kecil, Buterin menyoroti perlunya manusia melakukan tindakan pencegahan.
Dia mengusulkan integrasi brain-computer interfaces (BCI) sebagai sarana untuk memberi manusia kontrol yang lebih jelas atas komputasi dan kognisi berbasis AI.
BCI membangun jalur komunikasi langsung antara otak dan perangkat eksternal, memungkinkan manusia untuk berpartisipasi aktif dalam proses pengambilan keputusan.
Dengan mengurangi lingkaran komunikasi antara manusia dan mesin menjadi milidetik, BCI akan memastikan bahwa manusia mempertahankan tingkat agensi yang berarti atas dunia.
Buterin menekankan pentingnya manusia mempertahankan tanggung jawab untuk perencanaan tingkat tinggi, sehingga meminimalisir risiko AI bertindak dengan cara yang tidak selaras dengan nilai-nilai manusia.
“Kita [dapat] mengurangi insentif untuk melepaskan tanggung jawab perencanaan tingkat tinggi kepada AI itu sendiri, dan dengan demikian mengurangi kemungkinan AI melakukan sesuatu yang sama sekali tidak selaras dengan nilai-nilai kemanusiaan dengan sendirinya.”
Buterin Soroti Pentingnya Regulasi AI
Buterin juga menekankan pentingnya niat manusia dalam memandu AI menuju hasil yang bermanfaat bagi umat manusia.
Dia memperingatkan agar tidak memprioritaskan maksimalisasi keuntungan, dan menyoroti perlunya pengambilan keputusan secara sadar yang selaras dengan nilai-nilai dan aspirasi manusia.
Dalam pidato penutupnya, Buterin memuji kecerdikan dan potensi kreatif manusia.
Human beings are deeply good. pic.twitter.com/AbOfd75IJ4
— vitalik.eth (@VitalikButerin) November 27, 2023
Buterin menekankan bahwa manusia terus mengembangkan teknologi untuk meningkatkan kemampuan mereka di sepanjang sejarah dan menyatakan harapannya bahwa pencapaian manusia, seperti perjalanan luar angkasa dan geoengineering, akan berkontribusi pada pelestarian dan keindahan kehidupan di bumi dan sekitarnya.
“Dua miliar tahun dari sekarang, jika bumi atau bagian mana pun di alam semesta ini masih memiliki keindahan kehidupan duniawi, itu adalah hasil karya manusia seperti perjalanan luar angkasa dan geoengineering yang akan mewujudkannya.”
