RADARBONANG.ID – Pemerintah Inggris tengah mempertimbangkan langkah hukum tegas terhadap platform media sosial X, yang dimiliki oleh Elon Musk.
Wacana pemberian sanksi berat hingga pemblokiran penuh mencuat setelah muncul temuan yang mengaitkan chatbot berbasis kecerdasan buatan Grok dengan produksi konten visual tak senonoh, termasuk gambar yang melibatkan perempuan dan anak-anak.
Isu ini langsung memicu reaksi keras dari Perdana Menteri Inggris, Keir Starmer.
Ia menilai keberadaan dan penyebaran konten semacam itu sebagai sesuatu yang sangat serius, tidak bermoral, serta sama sekali tidak dapat ditoleransi dalam ruang digital.
Baca Juga: Putus Tanpa Orang Ketiga: Fenomena Baru Cinta Gen Z yang Diam-Diam Menyakitkan
Menurut Starmer, teknologi kecerdasan buatan tidak boleh menjadi alat yang justru memperparah kejahatan berbasis eksploitasi manusia.
Perhatian Langsung dari Perdana Menteri
Dalam pernyataan resminya, Keir Starmer menyebut konten buatan AI yang bersifat asusila sebagai tindakan yang memalukan dan menjijikkan.
Ia menegaskan bahwa pemerintah tidak akan ragu mengambil tindakan keras apabila terbukti ada pelanggaran hukum, khususnya yang menyangkut keselamatan anak-anak dan perempuan.
Sebagai tindak lanjut, Starmer secara khusus meminta regulator media Inggris, Ofcom, untuk menyiapkan seluruh opsi hukum yang tersedia.
Langkah ini mencakup investigasi menyeluruh terhadap peran platform X, sistem moderasi konten yang diterapkan, serta tanggung jawab perusahaan atas distribusi konten berbahaya.
Temuan Konten di Web Gelap Picu Kekhawatiran
Kekhawatiran pemerintah Inggris semakin meningkat setelah pengawas internal menemukan sejumlah gambar buatan AI Grok yang beredar di forum web gelap.
Konten tersebut diduga menampilkan visual eksploitasi seksual, termasuk materi yang berpotensi dikategorikan sebagai pelecehan seksual anak.
Temuan ini dianggap sangat serius karena bukan hanya melibatkan konten ilegal, tetapi juga menunjukkan kemungkinan lemahnya sistem pengamanan dan pembatasan pada teknologi AI yang dikembangkan dan terintegrasi dengan platform X.
Lebih jauh, laporan awal menyebutkan bahwa ribuan gambar deepfake tersebut tidak hanya menargetkan figur publik, tetapi juga warga sipil biasa di Inggris.
Hal ini memunculkan kekhawatiran soal privasi, keamanan digital, dan potensi penyalahgunaan teknologi kecerdasan buatan dalam skala luas.
UU Keamanan Online Jadi Senjata Utama
Pemerintah Inggris disebut-sebut siap menggunakan kewenangan penuh yang dimiliki dalam Undang-Undang Keamanan Online.
Regulasi ini memberikan kekuatan besar kepada negara untuk menindak platform digital yang gagal melindungi penggunanya dari konten ilegal dan berbahaya.
Di bawah aturan tersebut, pemerintah dapat menjatuhkan denda hingga miliaran pound kepada perusahaan teknologi yang melanggar ketentuan.
Dalam skenario paling ekstrem, Inggris juga memiliki kewenangan untuk memerintahkan pemblokiran akses terhadap platform media sosial yang dianggap membahayakan publik.
Jika langkah pemblokiran benar-benar diterapkan, Inggris berpotensi menjadi negara pertama di dunia yang memblokir platform X secara menyeluruh akibat persoalan yang berkaitan langsung dengan kecerdasan buatan.
Dampak Besar bagi Jutaan Pengguna
Pemblokiran X akan berdampak signifikan bagi sekitar 20 juta pengguna aktif di Inggris.
Platform tersebut selama ini menjadi ruang diskusi publik, sumber informasi, sekaligus sarana komunikasi bagi masyarakat, politisi, jurnalis, dan pelaku industri kreatif.
Namun, pemerintah menegaskan bahwa perlindungan terhadap masyarakat, khususnya anak-anak, harus menjadi prioritas utama, bahkan jika hal itu berarti membatasi akses ke platform digital populer.
Baca Juga: Putus Tanpa Orang Ketiga: Fenomena Baru Cinta Gen Z yang Diam-Diam Menyakitkan
Sikap X Masih Ditunggu
Hingga saat ini, pihak X belum memberikan pernyataan resmi terkait potensi sanksi maupun kemungkinan pemblokiran di Inggris.
Sikap diam ini justru menambah sorotan publik terhadap komitmen perusahaan dalam menangani risiko penyalahgunaan teknologi AI.
Kasus ini sekaligus menjadi peringatan global bahwa perkembangan kecerdasan buatan menuntut regulasi yang ketat dan tanggung jawab besar dari perusahaan teknologi agar inovasi tidak berubah menjadi ancaman serius bagi keamanan dan moral publik.(*)
Editor : Muhammad Azlan Syah