CEO Anthropic Serukan Pengembangan AI Diperlambat, Ini Alasan dan Tiga Langkah yang Diusulkan
RADARBONANG.ID - Perkembangan kecerdasan buatan atau artificial intelligence (AI) yang semakin cepat mulai membuat sejumlah pemimpin perusahaan teknologi meminta adanya rem.
Salah satunya CEO Anthropic, Dario Amodei, yang menyerukan agar laju peningkatan kemampuan AI diperlambat supaya sistem keselamatan dan pengawasan memiliki waktu untuk mengejar perkembangan teknologi.
Seruan tersebut disampaikan Amodei melalui esai berjudul We Must Pace the Frontier yang dipublikasikan pada 12 September 2026.
Menurutnya, AI tetap berpotensi memberikan manfaat besar bagi kehidupan manusia, tetapi perkembangan kemampuan model yang terlalu cepat dapat membuat manusia kesulitan memahami sekaligus mengendalikan risikonya.
AI Berkembang Terlalu Cepat
Amodei mengatakan dirinya semakin khawatir setelah melihat kemampuan AI berkembang sangat cepat dalam beberapa bulan terakhir.
Salah satu hal yang menjadi perhatian adalah kemampuan AI untuk membantu membangun generasi teknologi AI berikutnya.
Kondisi tersebut dikenal sebagai recursive self-improvement, ketika sistem AI semakin mampu membantu proses pengembangan sistem AI berikutnya.
Menurut Amodei, perkembangan semacam ini perlu dilakukan dengan sangat hati-hati karena kemampuan teknologi bisa saja bergerak lebih cepat daripada kemampuan manusia dalam memahami dan mengendalikannya.
Karena itu, Amodei tidak menyerukan penghentian pengembangan AI.
Ia lebih menekankan perlunya mengatur kecepatannya agar pengujian keselamatan, penyelarasan model, dan pengawasan eksternal memiliki waktu untuk berkembang.
