Dario Amodei Ingatkan Risiko AI Bisa Melampaui Sistem Keselamatan
Ulasyuk.com - Jakarta, CEO Anthropic Dario Amodei menyerukan agar pengembangan kecerdasan buatan atau AI berjalan lebih hati-hati. Ia khawatir kemampuan AI berkembang lebih cepat daripada sistem keselamatan yang disiapkan manusia.
Seruan itu disampaikan melalui esai berjudul "We Must Pace the Frontier" yang dibagikan di blog pribadinya. Amodei menilai industri perlu mengatur laju peningkatan kemampuan AI agar upaya pencegahan risiko memiliki waktu untuk mengejar perkembangan teknologi.
Menurut Amodei, perusahaan tidak perlu menghentikan pengembangan AI secara total. Namun, pengembangan harus berlangsung dengan kecepatan yang memungkinkan penerapan penyelarasan AI, pengawasan, dan langkah keselamatan secara memadai.
Risiko AI Dinilai Berkembang Terlalu Cepat
Amodei mengatakan kemampuan AI saat ini berkembang begitu cepat. Jika perusahaan terus melaju tanpa memperkuat sistem pengaman, manusia dikhawatirkan kehilangan kesempatan untuk memastikan teknologi tersebut tetap aman.
Ia menekankan pentingnya alignment atau penyelarasan AI dengan kepentingan manusia. Selain itu, mekanisme pengawasan juga harus ikut berkembang seiring dengan meningkatnya kemampuan model AI.
Dalam esainya, Amodei menyatakan bahwa kehati-hatian yang lebih besar dibutuhkan untuk mengatasi berbagai risiko AI. Ia juga mendorong pengaturan laju pengembangan agar langkah pencegahan tidak tertinggal jauh.
Tiga Langkah untuk Mengelola Risiko AI
Amodei mengusulkan tiga langkah yang dapat dilakukan perusahaan dan pemerintah. Langkah pertama adalah memberi waktu yang cukup untuk mengamankan serta menyelaraskan model AI sebelum teknologi itu dikembangkan lebih jauh.
Ia juga meminta perusahaan membuka sistemnya kepada evaluator independen. Pihak ketiga tersebut dapat memeriksa kepatuhan terhadap standar keselamatan, melaporkan insiden, dan mengevaluasi alignment model selama proses pelatihan.
Langkah kedua yang diusulkan ialah koordinasi antara perusahaan AI terdepan untuk menyusun standar keselamatan bersama. Menurut Amodei, standar tersebut diperlukan agar persaingan industri tidak mengabaikan aspek keamanan.
Langkah ketiga berupa koordinasi internasional untuk mengelola risiko AI. Koordinasi lintas negara dinilai penting karena perkembangan dan dampak teknologi AI tidak terbatas pada satu perusahaan atau wilayah.
Dukungan dari Pemimpin Perusahaan AI
Seruan Amodei mendapat dukungan dari sejumlah pemimpin perusahaan AI yang selama ini bersaing dengan Anthropic. Mereka termasuk CEO OpenAI Sam Altman serta pendiri dan CEO xAI Elon Musk.
Peringatan itu juga muncul beberapa hari setelah Chief Scientist OpenAI Jakub Pachocki menyampaikan kekhawatiran serupa. Situasi tersebut menunjukkan bahwa perhatian terhadap keselamatan AI turut berkembang di antara para pemimpin industri.
Anthropic menyatakan akan menjalankan langkah pertama secara sepihak. Perusahaan itu berencana memberikan evaluator pihak ketiga akses permanen dengan tingkat akses setara karyawan ke sistemnya.
Akses tersebut ditujukan untuk membantu pemeriksaan standar keselamatan, pelaporan insiden, dan evaluasi alignment model selama pelatihan. Dengan demikian, pengawasan diharapkan dapat berjalan beriringan dengan peningkatan kemampuan AI.
Arah Pengembangan AI ke Depan
Pernyataan Amodei tidak menolak kemajuan teknologi AI. Ia mendorong agar perusahaan tetap berinovasi sambil menyediakan ruang yang cukup untuk menguji keamanan dan memastikan sistem bekerja selaras dengan kepentingan manusia.
Perdebatan mengenai laju pengembangan AI kini tidak hanya berkaitan dengan kemampuan model. Aspek pengawasan, standar keselamatan, evaluasi independen, dan kerja sama internasional juga menjadi bagian penting dalam menentukan arah industri tersebut.
Jika langkah-langkah itu berjalan seiring, perusahaan dapat tetap mengembangkan AI tanpa mengabaikan kebutuhan untuk mengendalikan risikonya. Namun, Amodei menilai perlambatan atau pengaturan laju tertentu diperlukan agar sistem keselamatan tidak terus tertinggal.