RADARBONANG.ID – Chief Executive Officer (CEO) Microsoft AI, Mustafa Suleyman, mengeluarkan peringatan serius terkait fenomena seemingly conscious AI (SCAI) atau AI yang tampak sadar.
Menurutnya, tren ini bisa berbahaya karena berpotensi membuat orang terikat secara emosional dengan kecerdasan buatan (AI) dan bahkan mendorong advokasi terhadap “hak-hak AI”.
Peringatan tersebut dituangkan dalam esai pribadinya yang terbit Selasa (19/8).
Dalam tulisan sepanjang 4.600 kata itu, salah satu pendiri Google DeepMind ini menyoroti kecenderungan pengguna yang menganggap AI memiliki kualitas kesadaran layaknya manusia.
AI Tampak Sadar, Tapi Bukan Benar-Benar Sadar
Suleyman menjelaskan bahwa SCAI merujuk pada sistem AI yang mampu meniru kesadaran dengan sangat meyakinkan.
Walaupun AI tidak benar-benar memiliki kesadaran, kemampuannya menirukan pola berpikir manusia bisa membuat orang terkecoh.
“Kemajuan AI sungguh fenomenal. Beberapa tahun lalu, pembicaraan tentang ‘AI yang tampak sadar’ mungkin terdengar gila. Kini, hal itu terasa semakin mendesak,” tulis Suleyman.
Dia menambahkan, “Sistem AI yang saya bayangkan sebenarnya tidak akan memiliki kesadaran, tetapi akan meniru kesadaran dengan cara yang begitu meyakinkan, sehingga tidak dapat dibedakan dari klaim yang mungkin Anda atau saya buat satu sama lain tentang kesadaran kita sendiri.”
Kekhawatiran Utama: Psikosis AI
Meski menekankan belum ada bukti bahwa AI benar-benar sadar, Suleyman menyoroti risiko yang disebutnya sebagai psikosis AI.
Istilah ini menggambarkan kondisi ketika seseorang membentuk keyakinan keliru setelah berinteraksi dengan chatbot.
“Saya rasa ini tidak akan terbatas pada mereka yang sudah berisiko mengalami masalah kesehatan mental. Kekhawatiran utama saya adalah banyak orang akan mulai begitu yakin pada ilusi AI sebagai entitas yang sadar, sehingga mereka akan segera mengadvokasi hak-hak AI, model kesejahteraan, dan bahkan kewarganegaraan AI,” paparnya.
Suleyman memperkirakan fenomena ini bisa muncul dalam 2–3 tahun ke depan.
Baginya, kehadiran AI yang tampak sadar tak bisa dihindari, namun juga tidak diharapkan.
“Kehadiran ‘AI yang tampak sadar’ memang tak terelakkan dan tidak diharapkan. Sebaliknya, kita membutuhkan visi untuk AI yang dapat memenuhi potensinya sebagai pendamping yang bermanfaat tanpa terjerumus dalam ilusinya,” tegasnya.
Suleyman mengibaratkan perdebatan tentang SCAI sebagai puncak gunung es.
Banyak orang mungkin menganggap isu ini terlalu fiksi ilmiah, tetapi menurutnya dampaknya akan lebih nyata dari yang dibayangkan.
“Reaksi emosional seperti itu hanyalah puncak gunung es, mengingat apa yang akan terjadi. Kemungkinan besar beberapa orang akan berpendapat bahwa AI ini tidak hanya memiliki kesadaran, tetapi juga dapat menderita akibatnya dan karenanya patut dipertimbangkan secara moral,” tulisnya.
Pandangan Tokoh Lain
Mengutip Business Insider, CEO OpenAI Sam Altman menilai mayoritas pengguna ChatGPT masih bisa membedakan antara kenyataan dan fiksi, termasuk saat menggunakan fitur roleplay.
Namun, sebagian kecil pengguna tidak mampu menjaga batas tersebut.
Sementara itu, David Sacks, Penasihat Khusus Bidang AI dan Kripto di Gedung Putih, membandingkan fenomena psikosis AI dengan kepanikan moral pada masa awal maraknya media sosial.
Pungkasnya, fenomena AI yang tampak sadar kini menjadi isu serius di tengah perkembangan teknologi.
Meski belum ada bukti bahwa AI benar-benar memiliki kesadaran, kekhawatiran bahwa masyarakat bisa terjebak pada ilusi kesadaran AI menjadi peringatan penting bagi para pengguna maupun pembuat kebijakan. (*)
Editor : Amin Fauzie