Pemblokiran ini berdampak pada seluruh pengguna platform X di Indonesia dan Malaysia yang mengakses Grok secara gratis.
Pemerintah menegaskan bahwa kebijakan ini bertujuan melindungi perempuan, anak-anak, dan masyarakat luas dari risiko pelanggaran privasi, eksploitasi digital, serta kerugian psikologis dan reputasi.
Menurut Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital Kementerian Komunikasi dan Digital Indonesia, temuan awal menunjukkan Grok tidak memiliki filter efektif untuk mencegah pengguna memanipulasi foto asli warga menjadi konten pornografi.
Di Malaysia, MCMC menyebut telah terjadi “penyalahgunaan berulang”, sementara respons xAI dan X Corp. terhadap peringatan regulator dinilai terlalu bergantung pada mekanisme pelaporan pengguna, bukan pencegahan otomatis.
“Pembatasan ini diberlakukan sebagai langkah pencegahan yang proporsional selama proses hukum dan regulasi berlangsung,” demikian pernyataan MCMC.
Grok diluncurkan pada 2023 dan dapat digunakan gratis melalui platform X. Pada pertengahan 2024, xAI menambahkan fitur Grok Imagine, termasuk “mode pedas” yang memungkinkan pembuatan konten dewasa.
Pemblokiran di Asia Tenggara terjadi di tengah meningkatnya pengawasan global, termasuk dari Uni Eropa, Inggris, India, dan Prancis.
Pekan lalu, Grok membatasi pembuatan dan pengeditan gambar hanya untuk pengguna berbayar, menyusul kecaman internasional atas maraknya deepfake seksual.
Namun, para kritikus menilai kebijakan tersebut belum menyelesaikan akar masalah.
(apnews)
