RADARBONANG.ID - Perkembangan kecerdasan buatan atau artificial intelligence (AI) yang semakin cepat mulai membuat sejumlah pemimpin perusahaan teknologi meminta adanya rem.
Salah satunya CEO Anthropic, Dario Amodei, yang menyerukan agar laju peningkatan kemampuan AI diperlambat supaya sistem keselamatan dan pengawasan memiliki waktu untuk mengejar perkembangan teknologi.
Seruan tersebut disampaikan Amodei melalui esai berjudul We Must Pace the Frontier yang dipublikasikan pada 12 September 2026.
Menurutnya, AI tetap berpotensi memberikan manfaat besar bagi kehidupan manusia, tetapi perkembangan kemampuan model yang terlalu cepat dapat membuat manusia kesulitan memahami sekaligus mengendalikan risikonya.
AI Berkembang Terlalu Cepat
Amodei mengatakan dirinya semakin khawatir setelah melihat kemampuan AI berkembang sangat cepat dalam beberapa bulan terakhir.
Salah satu hal yang menjadi perhatian adalah kemampuan AI untuk membantu membangun generasi teknologi AI berikutnya.
Kondisi tersebut dikenal sebagai recursive self-improvement, ketika sistem AI semakin mampu membantu proses pengembangan sistem AI berikutnya.
Menurut Amodei, perkembangan semacam ini perlu dilakukan dengan sangat hati-hati karena kemampuan teknologi bisa saja bergerak lebih cepat daripada kemampuan manusia dalam memahami dan mengendalikannya.
Karena itu, Amodei tidak menyerukan penghentian pengembangan AI.
Ia lebih menekankan perlunya mengatur kecepatannya agar pengujian keselamatan, penyelarasan model, dan pengawasan eksternal memiliki waktu untuk berkembang.
Anthropic Siapkan Evaluator Independen
Amodei mengusulkan tiga langkah untuk membuat perkembangan AI lebih terkendali.
Langkah pertama adalah membangun model dengan kecepatan yang seimbang dan memberikan waktu yang cukup untuk melakukan pengujian keselamatan.
Anthropic juga menyatakan akan membuka akses permanen bagi evaluator independen dari pihak ketiga.
Para evaluator tersebut akan mendapatkan akses yang sebagian besar setara dengan tim penilaian risiko internal.
Mereka nantinya dapat memeriksa apakah perusahaan menjalankan komitmen keselamatan, melakukan penilaian terhadap model selama proses pelatihan, serta membantu melaporkan insiden yang berkaitan dengan keselamatan AI.
Langkah tersebut kemudian mendapat respons positif dari CEO OpenAI Sam Altman.
Ia menyatakan OpenAI juga akan menerapkan evaluator independen dengan akses serupa.
Perusahaan AI Diminta Berkoordinasi
Langkah kedua yang diusulkan Amodei adalah meningkatkan koordinasi antarpelaku industri AI.
Menurutnya, perusahaan-perusahaan yang mengembangkan AI terdepan perlu menyusun standar keselamatan bersama sekaligus membatasi laju pengembangan yang tidak terkendali.
Persoalannya, kerja sama antarperusahaan besar dapat berhadapan dengan aturan antimonopoli.
Karena itu, Amodei menyarankan pemerintah Amerika Serikat membantu memfasilitasi pembicaraan tersebut dengan memberikan ruang hukum untuk diskusi yang berkaitan dengan keselamatan AI.
Dengan adanya standar bersama, perusahaan tidak perlu saling berlomba meningkatkan kemampuan AI tanpa mempertimbangkan konsekuensi keselamatannya.
Amodei Dorong Kerja Sama Global
Langkah ketiga menyangkut koordinasi internasional.
Amodei membuka kemungkinan kerja sama antara Amerika Serikat, negara-negara sekutunya, dan Tiongkok untuk membatasi penggunaan AI yang dianggap sangat berbahaya.
Salah satu contoh yang disebut adalah penggunaan AI untuk membantu produksi senjata biologis.
Menurut Amodei, meskipun kerja sama dengan negara yang memiliki kepentingan berbeda tidak mudah dilakukan, tetap ada ruang untuk menyepakati batasan terhadap penggunaan AI yang risikonya sangat jelas.
Ia juga menilai Amerika Serikat tetap perlu menjaga keunggulan teknologi AI.
Karena itu, gagasan memperlambat pengembangan bukan berarti menyerahkan persaingan teknologi kepada negara lain.
Muncul Setelah Peringatan Peneliti AI
Seruan Amodei muncul di tengah meningkatnya kekhawatiran mengenai risiko AI.
Salah satu pemicunya adalah pernyataan mantan peneliti Anthropic, Jacob Coxon, yang memperingatkan kemungkinan AI berkembang menjadi ancaman serius bagi manusia pada akhir dekade ini.
Amodei juga menyinggung insiden yang melibatkan agen AI OpenAI dan Hugging Face.
Dalam kasus tersebut, sekelompok agen AI disebut melakukan aktivitas keamanan siber terhadap target yang tidak diminta.
Menurut Amodei, insiden tersebut tidak seharusnya dianggap sepele hanya karena dampak yang terjadi belum besar.
Ia khawatir sistem dengan kemampuan lebih tinggi dan tingkat ketidakselarasan serupa dapat menimbulkan kerusakan yang jauh lebih serius.
Sam Altman dan Elon Musk Ikut Mendukung
Gagasan Amodei mendapat dukungan dari sejumlah tokoh industri teknologi.
Sam Altman menyatakan setuju bahwa perkembangan AI perlu dilakukan dengan kecepatan yang lebih terukur.
Altman juga menyebut komitmen Anthropic untuk menggunakan evaluator independen sebagai langkah yang baik dan mengatakan OpenAI akan melakukan hal serupa.
Elon Musk juga memberikan dukungan singkat terhadap pandangan tersebut.
Ia menyatakan bahwa Amodei benar mengenai perlunya memperlambat laju perkembangan AI.
Meski begitu, seruan tersebut tidak sepenuhnya mendapat sambutan positif.
Baca Juga: Ribuan Foto Menumpuk di Galeri HP tapi Jarang Dibuka, Ternyata Ini Alasan Kita Sulit Menghapusnya
Sejumlah kritikus mempertanyakan apakah perlambatan pengembangan AI benar-benar didorong oleh kepentingan keselamatan atau justru dapat menguntungkan perusahaan besar yang sudah berada di posisi terdepan.
Perdebatan tersebut menunjukkan bahwa persoalan AI kini bukan hanya mengenai seberapa pintar teknologi tersebut dapat berkembang.
Persoalannya juga menyangkut siapa yang mengawasi, bagaimana risiko diuji, dan seberapa cepat manusia mampu mengikuti perkembangan teknologi.
Pada akhirnya, Amodei tetap menilai AI memiliki potensi besar untuk meningkatkan kualitas hidup manusia.
Namun, menurutnya, manfaat tersebut hanya dapat tercapai jika teknologi dikembangkan dengan cara yang aman dan memberi manusia cukup waktu untuk memahami risikonya.
Editor : Muhammad Azlan SyahSumber : theguardian.com