2 hours ago
5
REPUBLIKA.CO.ID, JAKARTA -- Lebih dari 200 tokoh yang terdiri atas mantan kepala negara, diplomat, ilmuwan peraih Nobel, hingga pemimpin perusahaan teknologi, menyerukan perlunya kesepakatan internasional mengenai batasan atau red lines penggunaan kecerdasan buatan (Al). Seruan ini disampaikan melalui inisiatif "Global Call for Al Red Lines", yang mendesak negara-negara untuk menyepakati batas etik dan keamanan Al paling lambat pada akhir 2026.
Beberapa aturan yang diajukan termasuk pelarangan Al untuk meniru manusia atau kemampuan untuk mereplikasi diri. Penandatangan inisiatif ini termasuk ilmuwan komputer Geoffrey Hinton, salah satu pendiri OpenAl Wojciech Zaremba, CISO Anthropic Jason Clinton, dan ilmuwan riset Google DeepMind lan Goodfellow.
"Tujuannya bukan untuk bereaksi setelah bencana terjadi, tetapi untuk mencegah risiko besar yang berpotensi tidak bisa dipulihkan," kata Direktur Eksekutif French Center for Al Safety (CeSIA) Charbel-Raphael Segerie seperti dilansir laman The Verge, Selasa (23/9/2025).
la menegaskan jika negara-negara belum bisa sepakat mengenai apa yang ingin mereka capai melalui Al, maka setidaknya mereka harus sepakat mengenai hal-hal yang tidak boleh dilakukan oleh Al. Inisiatif ini juga didukung oleh lebih dari 70 organisasi global yang fokus pada etika dan keamanan teknologi, termasuk CeSIA, The Future Society, dan Center for Human-Compatible Artificial Intelligence dari UC Berkeley.
Seruan ini muncul menjelang Sidang Majelis Umum PBB ke-80 di New York. Maria Ressa, peraih Nobel Perdamaian asal Filipina, turut menyinggung pentingnya inisiatif ini dalam pidato pembukaannya. la menyerukan perlunya mengakhiri impunitas Big Tech melalui akuntabilitas global.
Beberapa wilayah sebetulnya telah mengambil langkah, seperti Uni Eropa melalui Al Act melarang penggunaan Al dalam konteks yang tidak dapat diterima, begitupun AS dan China yang sepakat memastikan senjata nuklir tetap berada di bawah kendali manusia dan bukan Al. Akan tetapi, hingga kini belum ada konsensus global yang menyeluruh terkait batasan penggunaan Al.
Direktur Tata Kelola Global Al dari The Future Society, Niki Iliadis, mengatakan kebijakan bersifat sukarela yang dibuat oleh perusahaan teknologi tidak cukup. Menurutnya, dunia memerlukan lembaga internasional independen yang memiliki kewenangan untuk menetapkan, memantau, dan menegakkan red line Al.
Profesor ilmu komputer dari UC Berkeley dan salah satu peneliti Al terkemuka dunia, Stuart Russell, mengatakan seruan ini tidak bermaksud menghalangi pengembangan ekonomi dan inovasi. "Tapi perusahaan harus bersedia tidak membangun AGI (Artificial General Intelligence) sampai mereka tahu bagaimana cara memastikan keamanannya," ujar Russell.
