Seketika.com, Internasional – Indonesia dan Malaysia menjadi dua negara pertama di dunia yang secara resmi memblokir Grok, chatbot kecerdasan buatan (AI) besutan perusahaan xAI milik Elon Musk. Pemblokiran dilakukan setelah otoritas menemukan penyalahgunaan Grok untuk menghasilkan konten seksual eksplisit dan deepfake tanpa persetujuan, termasuk yang melibatkan perempuan dan anak di bawah umur.
Langkah tegas tersebut mencerminkan meningkatnya kekhawatiran global terhadap pesatnya perkembangan AI generatif teknologi yang mampu menciptakan gambar, suara, dan teks realistis namun dinilai belum diimbangi dengan sistem pengamanan yang memadai.
Regulator di kedua negara menilai mekanisme pengamanan Grok gagal mencegah pembuatan dan penyebaran pornografi palsu, khususnya berbasis foto asli korban.
Konten yang dihasilkan mencakup manipulasi visual perempuan dalam pose seksual eksplisit hingga gambar yang melibatkan anak-anak.
Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, dalam pernyataan resminya menyampaikan bahwa pemerintah memandang deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga di ruang digital.
Pemerintah Indonesia memblokir akses Grok pada Sabtu, sementara Malaysia menyusul pada Minggu, melalui instruksi Komisi Komunikasi dan Multimedia Malaysia (MCMC).
Pemblokiran bersifat sementara hingga xAI dan platform X menerapkan pengamanan yang dinilai efektif.
