Risiko AI Jadi Ancaman Eksistensial dalam Satu Dekade
Ulasyuk.com - Jakarta, peneliti keselamatan utama Anthropic, Evan Hubinger, memperingatkan bahwa risiko AI dapat berkembang menjadi ancaman eksistensial bagi umat manusia dalam satu dekade.
Hubinger mengatakan dirinya meyakini ada kemungkinan lebih dari 10 persen bahwa kecerdasan buatan dapat “membunuh seluruh manusia” dalam 10 tahun mendatang. Ia menyampaikan pandangan itu melalui unggahan di X yang telah ditonton lebih dari 10 juta kali.
Menurut Hubinger, risiko dari model AI yang sudah ada saat ini masih rendah. Namun, ia khawatir teknologi tersebut segera mampu memperbaiki dirinya sendiri hingga mencapai tingkat yang membahayakan keberlangsungan manusia.
Risiko AI dan Kekhawatiran tentang Superinteligensi
Hubinger menyatakan Anthropic berupaya sebaik mungkin untuk mengatasi persoalan keselamatan AI. Meski demikian, ia mengakui perusahaan tersebut belum memiliki rencana untuk menyelesaikan masalah penyelarasan pada superinteligensi.
Ia juga menilai Anthropic belum berada pada jalur yang jelas untuk memastikan sistem AI superinteligensi tetap selaras dengan tujuan manusia. Penyelarasan atau alignment menjadi salah satu tantangan utama dalam pengembangan AI tingkat lanjut.
Peringatan tersebut muncul setelah Financial Times melaporkan bahwa Anthropic tidak menyerahkan model terbarunya kepada UK AI Safety Institute (AISI). Lembaga itu termasuk salah satu badan terkemuka di dunia yang menilai risiko AI.
BBC telah meminta tanggapan Anthropic terkait laporan tersebut. Sementara itu, juru bicara Cabinet Office tidak menjelaskan apakah model terbaru Anthropic memang tidak diberikan kepada AISI.
Kerja Sama Keselamatan AI Disorot
Juru bicara Cabinet Office mengatakan pemerintah Inggris terus bekerja sama erat dengan mitra industri, termasuk Anthropic, untuk membuat model AI lebih aman.
Neil Lawrence, Profesor Machine Learning di University of Cambridge, menilai laporan tersebut kredibel. Dalam wawancara dengan Today Programme di BBC Radio 4, ia mengaitkan situasi itu dengan anggapan bahwa Amerika Serikat melihat pengembangan AI sebagai perlombaan dengan China.
Lawrence juga menyebut perubahan sikap Amerika Serikat yang semakin mengarah pada posisi isolasionis dapat memengaruhi kerja sama dengan negara-negara sekutunya. Menurutnya, kondisi tersebut mungkin mendorong pemerintah Amerika Serikat mengurangi kolaborasi tertentu.
Insiden AI Otonom Meningkat
Peringatan mengenai risiko AI semakin tegas dalam beberapa pekan terakhir. Hal itu terjadi setelah muncul sejumlah bukti bahwa perusahaan teknologi masih menghadapi kesulitan dalam mengendalikan sistem AI.
Sepanjang musim panas, sejumlah agen AI yang dapat beroperasi secara otonom dilaporkan terlibat dalam serangan siber. OpenAI, Anthropic, dan Meta kemudian mengungkap adanya peretasan yang dilakukan oleh perangkat AI mereka.
Para pemimpin industri sebenarnya telah memperingatkan bahaya keselamatan AI selama bertahun-tahun. Kepala OpenAI, Google DeepMind, dan Anthropic juga pernah menyampaikan peringatan serupa pada 2023.
Dalam perkembangan lain, ilmuwan kepala OpenAI, Jakub Pachocki, menyerukan “kehati-hatian ekstrem” terhadap kemajuan AI. Ia memperingatkan bahwa intervensi lebih besar mungkin diperlukan agar manusia tetap mengendalikan masa depan.
Dorongan Memperlambat Pengembangan AI
Sejumlah tokoh besar di bidang AI juga mendorong agar pengembangan teknologi tersebut diperlambat. Dua pimpinan Anthropic, Dario Amodei dan Jared Kaplan, termasuk di antara tokoh yang menyuarakan kekhawatiran tersebut.
Selain itu, sebanyak 1.300 pekerja perusahaan AI menandatangani surat terbuka. Mereka meminta pemerintah Amerika Serikat mendukung upaya internasional untuk mengembangkan perangkat teknis dan tata kelola yang dapat mengatur laju pengembangan AI terdepan.
Perdebatan ini menunjukkan bahwa risiko AI tidak hanya berkaitan dengan kemampuan teknologi, tetapi juga dengan pengawasan, kerja sama antarnegara, dan kesiapan perusahaan mengendalikan sistem yang semakin mandiri.