RADARBONANG.ID – Platform media sosial X secara resmi memperketat kebijakan terkait kemampuan pengeditan gambar pada chatbot berbasis kecerdasan buatan (AI) miliknya, Grok.
Langkah ini diambil menyusul gelombang kritik tajam yang menuding Grok dapat dimanfaatkan untuk memanipulasi gambar manusia menjadi konten berbau tak senonoh, termasuk yang berpotensi melibatkan anak di bawah umur.
Kebijakan baru ini diumumkan langsung melalui akun resmi Safety X, yang menyatakan bahwa perusahaan telah menerapkan pembatasan teknologi tambahan guna mencegah penyalahgunaan fitur pengeditan gambar oleh pengguna.
Edit Gambar Orang Nyata Dibatasi Ketat
Dalam pernyataannya, X menegaskan bahwa Grok tidak lagi diizinkan mengedit gambar orang sungguhan yang mengenakan pakaian terbuka, seperti bikini atau pakaian dalam.
Pembatasan ini ditujukan untuk menutup celah penyalahgunaan teknologi AI yang selama ini menjadi sorotan publik dan regulator.
“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan yang mengenakan pakaian terbuka seperti bikini,” tulis akun Safety X dalam pernyataan resminya.
X menyebut kebijakan ini berlaku secara global dan menyasar seluruh pengguna tanpa pengecualian.
Berlaku untuk Semua Pengguna, Gratis hingga Berbayar
Tak hanya membatasi jenis gambar yang dapat diedit, X juga mengubah skema akses fitur pembuatan gambar Grok.
Seluruh fitur visual AI kini dipindahkan ke balik paywall pelanggan premium.
Artinya, pengguna gratis tidak lagi memiliki akses ke kemampuan pembuatan maupun pengeditan gambar Grok.
Kebijakan ini dinilai sebagai upaya tambahan untuk mengendalikan penggunaan fitur berisiko, sekaligus meningkatkan pengawasan terhadap siapa saja yang dapat mengakses teknologi tersebut.
Menurut analis teknologi, pembatasan berbasis langganan kerap digunakan platform digital untuk mengurangi penyalahgunaan massal oleh akun anonim.
Tekanan Regulator Terus Menguat
Pengetatan kebijakan ini tidak terlepas dari meningkatnya pengawasan regulator terhadap konten berbasis AI.
X dan perusahaan pengembang Grok, xAI, berada di bawah sorotan setelah muncul laporan mengenai ribuan gambar buatan AI yang dinilai bermasalah.
Jaksa Agung California, Rob Bonta, bahkan telah membuka penyelidikan resmi terkait dugaan pelanggaran hukum dalam penggunaan AI generatif di platform tersebut.
Para analis menyebut, dalam periode liburan akhir tahun, beredar banyak gambar buatan Grok yang menampilkan sosok manusia dengan pakaian sangat minim.
Kondisi ini memicu kekhawatiran luas, terutama terkait perlindungan anak dan potensi pelanggaran hukum kesusilaan.
Sejumlah Negara Ambil Langkah Tegas
Dampak kontroversi Grok juga terasa secara global. Sejumlah negara, termasuk Indonesia dan Malaysia, dilaporkan telah memblokir akses Grok karena kekhawatiran terhadap keamanan pengguna serta potensi penyebaran konten seksual eksplisit.
Sementara itu di Inggris, regulator komunikasi Ofcom tengah menyelidiki praktik X terkait penggunaan AI.
Meski demikian, pemerintah setempat menyatakan menyambut baik langkah perbaikan yang diumumkan perusahaan sebagai bentuk tanggung jawab platform digital.
Tantangan Besar Pengawasan AI Generatif
Kasus Grok kembali menegaskan tantangan besar dalam pengawasan teknologi AI generatif. Di satu sisi, AI menawarkan inovasi dan kemudahan luar biasa.
Namun di sisi lain, tanpa pengawasan ketat, teknologi ini berpotensi disalahgunakan untuk melanggar privasi, etika, hingga hukum.
Baca Juga: Empat Zodiak yang Terlalu Agresif Saat Baru Jatuh Cinta, Antusias tapi Rentan Bikin Ilfeel
Isu perlindungan anak menjadi perhatian utama regulator di berbagai negara. Banyak pihak menilai bahwa pembatasan teknis saja tidak cukup, dan perlu diikuti dengan regulasi yang jelas serta sanksi tegas bagi pelanggaran.
Dengan kebijakan baru ini, X berharap dapat meredam kritik sekaligus menunjukkan komitmen untuk menciptakan ruang digital yang lebih aman.
Namun pengamat menilai, langkah lanjutan masih akan terus diawasi publik dan regulator, seiring pesatnya perkembangan AI generatif di ruang publik digital. (*)
Editor : Muhammad Azlan Syah