400 Ilmuwan Desak Lembaga Internasional Pengawas Keamanan AI

Bayangkan sebuah teknologi yang bisa menulis kode, mendiagnosis penyakit, dan mengendarai mobil dalam hitungan detik. Kini bayangkan teknologi yang sama dipakai untuk menyebar hoaks, meretas sistem pertahanan, atau mengambil keputusan hidup-mati tanpa pengawasan manusia. Inilah dilema kecerdasan buatan (AI/Artificial Intelligence) yang membuat sekitar 400 ilmuwan dari berbagai penjuru dunia menandatangani seruan terbuka. Mereka menuntut pembentukan lembaga internasional yang khusus mengawasi keamanan AI. Seruan ini bukan sekadar peringatan biasa, melainkan alarm kolektif dari orang-orang yang paling memahami teknologi tersebut, termasuk para pionir yang meletakkan dasar pengembangan AI modern.

Mengapa Ilmuwan Dunia Khawatir?

Kekhawatiran utama bukanlah skenario fiksi ilmiah seperti robot pembunuh. Sebaliknya, para peneliti menyoroti risiko nyata yang sudah terlihat: algoritma yang memperkuat bias sosial, sistem otonom yang sulit diaudit, hingga model bahasa besar yang mampu menghasilkan disinformasi dalam skala industri. Ibarat seperti membangun jembatan raksasa tanpa insinyur pengawas, pengembangan AI saat ini berjalan sangat cepat sementara kerangka regulasinya tertinggal jauh. Menurut para penandatangan, tanpa koordinasi global, setiap negara akan berlomba mengejar inovasi dengan mengorbankan aspek keselamatan. Dampaknya bisa dirasakan langsung oleh masyarakat luas, mulai dari hilangnya pekerjaan akibat otomatisasi hingga runtuhnya kepercayaan pada informasi digital.

Data menunjukkan percepatan yang mengkhawatirkan. Hanya dalam lima tahun terakhir, kemampuan model AI meningkat berkali-kali lipat, sementara anggaran penelitian untuk keamanan AI hanya menyerap sebagian kecil dari total investasi pengembangan. Kesenjangan ini menjadi salah satu pemicu utama desakan tersebut. Para ilmuwan menegaskan bahwa pengawasan tidak boleh bersifat sukarela, melainkan harus mengikat secara internasional, mirip dengan peran badan energi atom dunia dalam mengawasi teknologi nuklir.

Apa Isi Seruan Para Ilmuwan?

Seruan terbuka itu menuntut tiga hal pokok. Pertama, pembentukan lembaga internasional yang independen, dengan mandat mengaudit sistem AI berskala besar sebelum diluncurkan ke publik. Kedua, standar keselamatan global yang wajib dipatuhi oleh perusahaan teknologi, laboratorium penelitian, dan pemerintah. Ketiga, mekanisme sanksi bagi pihak yang mengabaikan protokol keamanan, terutama untuk AI yang berpotensi digunakan dalam senjata otonom atau manipulasi informasi massal.

“Kita tidak bisa lagi mengandalkan itikad baik perusahaan semata. Keamanan AI adalah barang publik global yang harus dijaga bersama,” ujar salah satu penandatangan yang merupakan perintis riset jaringan saraf.

Yang menarik, seruan ini tidak menolak inovasi. Justru sebaliknya, para ilmuwan berargumen bahwa regulasi yang jelas akan menciptakan ekosistem yang lebih sehat. Mereka membandingkan dengan industri penerbangan, di mana standar keselamatan ketat justru membuat penerbangan menjadi salah satu moda transportasi paling aman. Tanpa standar serupa, AI berisiko mengalami disrupsi yang merugikan masyarakat sekaligus mematikan kepercayaan investor dalam jangka panjang.

Tantangan Implementasi dan Respons Industri

Meski desakan ini semakin kuat, jalan menuju lembaga pengawas AI global tidak mulus. Perbedaan kepentingan antarnegara menjadi hambatan terbesar. Negara-negara maju cenderung ingin menjaga keunggulan kompetitif mereka, sementara negara berkembang khawatir regulasi ketat akan menghambat akses teknologi. Ada pula pertanyaan tentang siapa yang berhak duduk di kursi pengambil keputusan dan bagaimana pendanaan lembaga tersebut.

Dari sisi industri, respons masih beragam. Sebagian perusahaan teknologi besar menyatakan dukungan terhadap prinsip keamanan, tetapi menolak intervensi yang dianggap terlalu birokratis. Mereka lebih memilih pendekatan swa-regulasi melalui konsorsium riset bersama. Namun, para ilmuwan menilai pendekatan itu belum cukup, karena tidak memiliki daya paksa dan rentan terhadap konflik kepentingan.

Pertanyaannya kini bukan lagi apakah AI akan terus berkembang, melainkan siapa yang akan memastikan perkembangannya tidak mencelakai umat manusia. Seruan 400 ilmuwan ini menjadi penanda bahwa diskusi tentang etika dan keamanan AI telah bergeser dari ruang akademik ke meja kebijakan global. Bagi pembaca awam, implikasinya sederhana: teknologi yang Anda gunakan setiap hari, dari ponsel hingga layanan keuangan, akan semakin dipengaruhi oleh aturan-aturan yang sedang dirumuskan saat ini. Jika lembaga pengawas itu benar-benar terwujud, ia bisa menjadi tameng pertama yang melindungi masyarakat dari penyalahgunaan deep tech. Jika gagal, kita semua yang akan menanggung risikonya.