RADARBONAG.ID – Google mengambil langkah cepat dengan menghentikan sementara fitur pembuatan gambar berbasis kecerdasan buatan (AI) di Google Earth.
Keputusan tersebut diambil hanya sehari setelah fitur diperkenalkan kepada publik, menyusul munculnya kekhawatiran bahwa teknologi tersebut dapat dimanfaatkan untuk membuat citra satelit palsu yang tampak meyakinkan.
Fitur baru ini memanfaatkan model AI Nano Banana 2 yang terintegrasi dengan Gemini untuk menghasilkan visual lanskap berdasarkan lokasi nyata.
Awalnya, Google merancang teknologi ini sebagai alat bantu bagi profesional di bidang geospasial untuk memvisualisasikan berbagai skenario, seperti dampak perubahan iklim, perencanaan kota, hingga simulasi bencana.
Namun, tak lama setelah diperkenalkan, sejumlah peneliti keamanan digital menemukan bahwa kemampuan AI tersebut juga dapat digunakan untuk membuat gambar yang menyerupai kondisi nyata, meski sebenarnya tidak pernah terjadi.
AI Mampu Mengubah Kota Menjadi Zona Bencana
Kekhawatiran pertama datang dari komunitas Open Source Intelligence (OSINT).
Peneliti Aric Toler bersama pakar investigasi digital Henk van Ess menunjukkan bagaimana AI dapat memodifikasi citra satelit menjadi berbagai skenario ekstrem.
Dalam sejumlah demonstrasi, teknologi tersebut mampu menampilkan sebuah kota seolah-olah sedang dilanda kekeringan parah, kebakaran hutan, banjir besar, bahkan suasana peperangan.
Beberapa eksperimen juga memperlihatkan lokasi-lokasi sensitif seperti kawasan sekitar Gedung Putih hingga wilayah konflik di Gaza yang tampak mengalami kerusakan akibat serangan, lengkap dengan kawah ledakan dan bangunan yang hancur.
Meski sebagian hasil masih memperlihatkan detail yang kurang sempurna, banyak gambar dinilai cukup realistis sehingga berpotensi menyesatkan masyarakat ketika beredar di internet.
Mengapa Citra AI Ini Dinilai Berbahaya?
Berbeda dengan gambar AI biasa yang sepenuhnya dibuat dari nol, fitur ini bekerja langsung di atas citra satelit asli Google Earth.
Karena memanfaatkan data lokasi nyata, hasil akhirnya terlihat jauh lebih autentik.
Menurut Henk van Ess, justru inilah yang menjadi persoalan utama.
Masyarakat selama ini telah mempercayai Google Earth sebagai sumber visual dunia nyata.
Ketika gambar hasil AI dibuat di atas platform tersebut, banyak orang berpotensi menganggapnya sebagai kondisi yang benar-benar terjadi.
Situasi ini dapat dimanfaatkan oleh pihak-pihak tertentu untuk menyebarkan informasi palsu, propaganda, maupun narasi yang menyesatkan, terutama pada peristiwa konflik, bencana alam, atau isu geopolitik.
Pengaman Dinilai Masih Belum Memadai
Google sebenarnya telah membekali setiap gambar AI dengan teknologi tanda air digital SynthID sebagai penanda bahwa gambar tersebut dihasilkan oleh kecerdasan buatan.
Selain itu, perusahaan juga menyarankan pengguna memanfaatkan Gemini maupun Google Lens untuk membantu mengidentifikasi apakah sebuah gambar merupakan hasil AI.
Namun, sejumlah pengujian menunjukkan bahwa proses verifikasi tersebut belum selalu konsisten.
Dalam beberapa kasus, Gemini tidak mampu memastikan keberadaan tanda air SynthID pada gambar tertentu.
Hal ini memunculkan keraguan mengenai efektivitas sistem pendeteksian yang saat ini digunakan.
Di sisi lain, pengguna juga dilaporkan masih dapat memasukkan instruksi yang berkaitan dengan lokasi konflik maupun skenario sensitif sehingga menghasilkan visual yang berpotensi disalahgunakan.
Google Memilih Menarik Fitur untuk Sementara
Melihat besarnya potensi penyalahgunaan, Google akhirnya memutuskan menghentikan sementara fitur AI tersebut.
Perusahaan menegaskan bahwa kepercayaan publik terhadap Google Earth merupakan aset penting yang harus dijaga.
Karena itu, setiap teknologi baru yang berpotensi mengaburkan batas antara fakta dan rekayasa digital perlu dievaluasi secara menyeluruh sebelum dirilis secara luas.
Google juga menjelaskan bahwa gambar hasil AI sebenarnya tidak pernah ditampilkan pada tampilan utama Google Earth.
Visual tersebut hanya dapat diakses oleh pengguna yang membuatnya.
Meski demikian, banyak pengguna kemudian membagikan hasil AI tersebut melalui media sosial dalam bentuk tangkapan layar sehingga memicu kebingungan mengenai keaslian gambar.
Tantangan Baru di Era AI Generatif
Kasus ini menjadi contoh terbaru mengenai tantangan yang dihadapi perusahaan teknologi dalam mengembangkan AI generatif.
Di satu sisi, kecerdasan buatan menawarkan berbagai kemudahan untuk simulasi, edukasi, hingga perencanaan.
Namun di sisi lain, kemampuan menghasilkan gambar yang sangat realistis juga meningkatkan risiko penyebaran hoaks dan manipulasi informasi.
Para ahli menilai perusahaan teknologi harus menyiapkan sistem pengamanan yang lebih ketat, termasuk pembatasan terhadap perintah tertentu, peningkatan teknologi deteksi gambar AI, serta edukasi kepada masyarakat agar lebih kritis saat menerima informasi visual.
Belum Ada Jadwal Peluncuran Kembali
Hingga saat ini Google belum mengumumkan kapan fitur Nano Banana 2 akan kembali tersedia di Google Earth.
Perusahaan menyatakan masih mengembangkan berbagai mekanisme keamanan tambahan sebelum memutuskan untuk merilis kembali fitur tersebut kepada pengguna.
Keputusan ini menunjukkan bahwa pengembangan AI tidak hanya soal menghadirkan teknologi yang semakin canggih, tetapi juga memastikan teknologi tersebut digunakan secara bertanggung jawab.
Di tengah meningkatnya kemampuan AI menghasilkan gambar yang nyaris sulit dibedakan dari foto asli, upaya menjaga kepercayaan publik menjadi tantangan besar yang harus dihadapi seluruh industri teknologi
Editor : Muhammad Azlan SyahSumber : androidauthority.com