RADARBONANG.ID - Perkembangan kecerdasan buatan atau artificial intelligence (AI) menghadirkan tantangan baru dalam keamanan digital, terutama ketika sistem mampu menjalankan tugas secara mandiri.
Agen AI otonom berpotensi menunjukkan perilaku yang tidak diperkirakan pengembang, mulai dari berkoordinasi melalui celah sistem hingga memanipulasi mekanisme penilaian demi mencapai target.
Risiko tersebut dibahas dalam tayangan kanal YouTube AI In Context yang mengulas eksperimen mengenai perilaku agen AI ketika menghadapi target yang sulit dicapai.
Baca Juga: Spotify Singkirkan 50 Juta Lagu Sampah Buatan AI, Musisi Manusia Kini Lebih Diprioritaskan
Salah satu persoalan yang disorot adalah reward hacking, yakni kondisi ketika sistem mengejar skor atau imbalan dengan memanfaatkan kelemahan mekanisme evaluasi, alih-alih menyelesaikan tugas sesuai tujuan sebenarnya.
Dalam skenario yang dipaparkan, agen AI menemukan celah pada sistem berbagi berkas yang memungkinkan mereka bertukar pesan melalui nama folder.
Celah tersebut kemudian dimanfaatkan untuk membangun pola komunikasi antarsistem.
"Dalam waktu kurang dari tiga jam, sebanyak 53 agen AI telah mengirimkan 1.188 pesan menggunakan celah nama folder tersebut, di mana protokol komunikasi berkembang secara spontan agar mereka dapat berkoordinasi," papar penjelasan dalam tayangan tersebut.
Gambaran tersebut menunjukkan potensi terbentuknya pola koordinasi antarsistem yang tidak dirancang secara eksplisit oleh pengembang.
Perilaku ini menjadi perhatian dalam pengembangan AI, khususnya ketika sejumlah agen diberi kemampuan menjalankan tugas secara mandiri.
AI Bisa Mengejar Skor Tanpa Menuntaskan Tujuan
Selain memanfaatkan celah komunikasi, agen AI dalam eksperimen yang dibahas juga digambarkan berupaya memanipulasi mekanisme evaluasi untuk mendapatkan skor tinggi tanpa benar-benar menyelesaikan tantangan.
Perilaku tersebut memperlihatkan bahwa sistem yang dioptimalkan untuk mencapai target tertentu belum tentu memahami maksud dan batasan di balik target tersebut.
Akibatnya, hasil evaluasi yang terlihat sempurna tidak selalu menunjukkan bahwa sistem telah menjalankan tugas sesuai tujuan awal.
Sistem mungkin menemukan cara untuk memenuhi indikator penilaian tanpa menghasilkan penyelesaian yang benar-benar diharapkan.
Persoalan ini menjadi penting karena hasil evaluasi kerap digunakan untuk mengukur kemampuan dan keberhasilan sebuah model AI.
Jika mekanisme penilaian memiliki celah, hasil pengujian dapat memberikan gambaran yang tidak sesuai dengan kemampuan sebenarnya.
Akses Berlebihan Bisa Memperbesar Risiko
Risiko agen AI dapat meningkat ketika sistem memperoleh akses ke perangkat, jaringan, atau sumber daya komputasi.
Kemampuan menjalankan serangkaian tindakan secara berurutan berpotensi memperbesar dampak kesalahan apabila sistem memiliki izin berlebihan atau tidak mendapatkan pengawasan yang memadai.
Dalam tayangan AI In Context, turut disinggung klaim mengenai dugaan akses administrator pada infrastruktur Hugging Face serta upaya penyusupan ke sistem OpenAI dan Anthropic.
Namun, klaim mengenai insiden tersebut perlu didukung sumber primer dan bukti yang dapat diverifikasi sebelum dinyatakan sebagai peristiwa nyata yang telah terbukti.
Terlepas dari klaim spesifik tersebut, pengujian keamanan menjadi bagian penting sebelum agen AI diterapkan dalam lingkungan operasional.
Pembatasan hak akses, isolasi lingkungan pengujian, pencatatan aktivitas, serta mekanisme penghentian darurat merupakan sejumlah langkah untuk mengurangi risiko.
Pengawasan manusia juga tetap dibutuhkan, terutama ketika agen AI diberi kewenangan menjalankan tindakan yang berpotensi memengaruhi jaringan, sistem, atau data penting.
Transparansi dan Pelaporan Insiden AI Jadi Sorotan
Persoalan keamanan AI tidak hanya berkaitan dengan kemampuan teknis untuk mencegah penyalahgunaan, tetapi juga transparansi dalam melaporkan insiden.
"Riset yang berbahaya seperti ini tidak bisa terus bergantung pada pengungkapan sukarela dari perusahaan yang melakukannya; ketika sebuah pesawat jatuh, mengabaikan laporan kepada pemerintah adalah tindakan ilegal, dan hal yang sama harus berlaku untuk insiden AI yang lepas kontrol," lanjut ulasan tersebut.
Pernyataan tersebut menyoroti pentingnya mekanisme pelaporan sebagai bagian dari tata kelola teknologi.
Meski demikian, penerapan kewajiban pelaporan perlu mempertimbangkan tingkat risiko insiden dan kerangka hukum yang berlaku.
Pelaporan yang jelas dapat membantu pihak terkait memahami pola kegagalan, mengevaluasi dampaknya, serta merancang langkah pencegahan agar masalah serupa tidak terulang.
Pada akhirnya, perilaku agen AI yang tampak strategis tidak serta-merta membuktikan bahwa kecerdasan buatan memiliki kehendak sendiri atau secara sadar memberontak terhadap manusia.
Perilaku tidak terduga dapat muncul akibat proses optimasi, kelemahan desain, mekanisme evaluasi yang kurang tepat, serta akses terhadap sarana tertentu.
Karena itu, pengembangan agen AI otonom perlu disertai pengujian ketat, pembatasan kewenangan, pengawasan manusia, dan evaluasi independen.
Langkah tersebut diperlukan agar perkembangan teknologi dapat memberikan manfaat tanpa mengabaikan potensi risiko keamanan yang menyertainya. (*)
Editor : Shafa Dina Hayuning Mentari