Kementerian Komunikasi dan Digital (Kemkomdigi) telah mengambil langkah tegas dengan memutus akses sementara terhadap aplikasi Grok milik Elon Musk. Keputusan ini diambil dalam rangka melindungi perempuan, anak, dan seluruh masyarakat dari ancaman konten pornografi palsu yang dihasilkan oleh teknologi kecerdasan buatan (AI). Menkomdigi Meutya Hafid menyatakan bahwa tindakan ini merupakan bentuk tanggung jawab negara dalam menciptakan lingkungan digital yang aman, etis, dan menghormati hak asasi manusia. Pemerintah menilai bahwa praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia dan dapat berdampak negatif secara psikologis, sosial, maupun hukum.
Pemutusan akses terhadap Grok merupakan langkah preventif sekaligus korektif, yang dilakukan untuk mencegah penyebaran konten yang merugikan. Pemerintah juga menegaskan perlunya mekanisme pengamanan yang memadai bagi setiap platform digital yang beroperasi di Indonesia. Selain itu, Kemkomdigi telah meminta Platform X untuk memberikan klarifikasi terkait dampak negatif penggunaan Grok dan langkah-langkah untuk mencegah penyalahgunaan teknologi ini.
Menurut regulasi Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020, setiap Penyelenggara Sistem Elektronik (PSE) wajib memastikan bahwa sistem elektronik yang dikelolanya tidak menyebarkan informasi yang dilarang oleh hukum. Grok sebelumnya telah menuai kritik karena memungkinkan pengguna untuk membuat gambar pornografi, meskipun hanya pelanggan berbayar di Platform X yang seharusnya memiliki akses tersebut. Kontroversi ini memicu kekhawatiran terkait privasi dan keamanan data pengguna aplikasi.
