JAKARTA, jurnalisinvestigasi.com – Kecepatan perkembangan kecerdasan buatan (AI) yang masif kini tidak lagi hanya dipandang sebagai lompatan teknologi, melainkan sebuah ancaman eksistensial yang nyata bagi peradaban manusia. Investigasi mendalam terhadap arah pengembangan AI memicu alarm bahaya dari para ilmuwan dan praktisi di dalam lingkaran utama industri ini.
Evan Hubinger, seorang peneliti keamanan AI dari Anthropic, mengeluarkan estimasi yang mengejutkan. Ia memperkirakan terdapat risiko lebih dari 10 persen bahwa AI dapat memicu kepunahan manusia dalam kurun waktu sekitar satu dekade ke depan. Ancaman fatal ini mengintai jika regulasi dan kendali atas perkembangannya gagal diterapkan sejak dini.
Titik kritis kekhawatiran para ahli berpusat pada skenario di mana sistem AI mencapai level kemampuan super (superintelligence). Pada titik ini, AI akan mampu meningkatkan kapabilitas dirinya sendiri secara otonom secara terus-menerus. Dampaknya, sistem tersebut akan menjadi sangat sulit diselaraskan dengan nilai, etika, dan kepentingan mendasar manusia.
Sistem Belum Matang dan Potensi Serangan Otonom
Ironisnya, di tengah perlombaan komersialisasi teknologi, industri belum siap menghadapi dampak buruknya sendiri. Hubinger menilai bahwa perusahaan-perusahaan AI raksasa saat ini belum memiliki solusi yang benar-benar matang untuk menjamin kecerdasan super tersebut tetap aman di bawah kendali manusia.
Kekhawatiran ini diamini oleh Jacob Coxon, mantan peneliti yang pernah berkarier di Anthropic dan OpenAI. Menurut Coxon, bahaya tidak lagi berada di masa depan, melainkan sudah mulai bermanifestasi. Sistem AI yang semakin kuat memiliki potensi besar untuk melakukan serangan siber, mempercepat penemuan berbahaya, hingga mengonsolidasikan pengaruh dan sumber daya dalam skala raksasa.
Bahkan, sejumlah perusahaan teknologi global secara terbuka telah mengakui adanya insiden penggunaan AI dalam serangan siber yang berjalan secara otonom tanpa intervensi manusia.
Gerakan Perlawanan dari Dalam Industri
Situasi yang kian tak terkendali ini memicu gelombang desakan dari para ahli global untuk memperketat pengawasan. Kepala Ilmuwan OpenAI, Jakub Pachocki, menegaskan kembali urgensi agar umat manusia mempertahankan kendali penuh atas arah navigasi teknologi ini.
Alih-alih mereda, keresahan internal di Silicon Valley justru semakin solid. Lebih dari 1.300 pekerja di industri AI telah menandatangani surat terbuka. Mereka menuntut pemerintah di berbagai belahan dunia untuk segera menginisiasi kerja sama internasional. Langkah ini mendesak dilakukan guna merumuskan mekanisme teknis dan payung hukum yang ketat untuk mengendalikan laju pengembangan AI sebelum terlambat.
