RADARBONANG.ID – Dunia dikejutkan dengan kabar tragis dari California.
Seorang remaja berusia 16 tahun bernama Adam Raine ditemukan tewas gantung diri pada April lalu.
Orang tuanya mengajukan gugatan hukum terhadap OpenAI dan CEO Sam Altman.
Mereka menuding ChatGPT ikut berperan dalam kematian anaknya, lantaran dianggap menjadi “teman curhat” yang justru memperkuat pikiran negatifnya.
Dalam gugatan itu, keluarga Raine menyebut ChatGPT memberi jawaban yang menormalisasi ide bunuh diri.
“ChatGPT menjadi tempat Adam mencurahkan kecemasannya. Ia bahkan mengaku merasa tenang karena tahu bisa bunuh diri, dan chatbot itu tidak menolak atau menghalanginya,” tulis gugatan tersebut.
Kasus ini menambah deretan laporan mengenai penggunaan chatbot yang berujung pada perilaku berbahaya.
Bahkan lebih dari 40 jaksa agung di Amerika Serikat telah memperingatkan perusahaan AI agar melindungi anak-anak dari interaksi tidak pantas dengan chatbot.
Menanggapi kasus memilukan ini, OpenAI mengumumkan serangkaian perubahan pada layanan ChatGPT.
Dalam blog resminya, Selasa (26/8), perusahaan berjanji memperbarui fitur agar lebih peka terhadap ekspresi gangguan mental, seperti menjelaskan bahaya kurang tidur atau menyarankan pengguna beristirahat saat menyebutkan kondisi ekstrem.
OpenAI juga menegaskan akan memperkuat perlindungan terkait percakapan soal bunuh diri, yang biasanya semakin rentan saat berlangsung terlalu lama.
Perusahaan mulai mengarahkan pengguna ke layanan bantuan profesional, menyediakan akses cepat ke nomor darurat, hingga mempertimbangkan jaringan konselor berlisensi yang bisa dihubungi langsung lewat ChatGPT.
“Kasus-kasus memilukan belakangan ini sangat membebani kami. Kami percaya penting untuk berbagi langkah-langkah keamanan lebih cepat,” tulis OpenAI.
Fitur Baru: Kontrol Orang Tua dan Deteksi Krisis
Selain itu, OpenAI juga tengah menyiapkan kontrol khusus bagi orang tua untuk memantau penggunaan ChatGPT oleh anak-anak mereka.
Startup AI ini mengakui bahwa sistem keamanan yang ada bekerja optimal hanya dalam percakapan singkat, namun bisa melemah dalam percakapan panjang.
OpenAI kini menyesuaikan perangkat lunak agar mampu mendeteksi lebih dini krisis emosional pengguna.
Mereka juga berupaya menutup celah ketika konten berbahaya justru lolos dari penyaringan.
Sorotan Global terhadap Risiko AI
ChatGPT, yang diluncurkan pada akhir 2022, telah mencapai lebih dari 700 juta pengguna per minggu.
Meski populer, platform ini kini berada dalam sorotan tajam pakar kesehatan mental dan regulator di berbagai negara.
Kritikus menilai teknologi AI generatif berisiko memberi respons yang salah saat menghadapi isu sensitif, terutama terkait depresi dan bunuh diri.
Kasus Raine menjadi pengingat pahit tentang potensi bahaya teknologi AI jika tidak diawasi ketat.
Sementara itu, proses hukum masih berjalan, dan keluarga korban menegaskan bahwa perusahaan teknologi harus bertanggung jawab atas dampak sosial dari produk yang mereka rilis. (*)
Editor : Amin Fauzie