Kementerian Komunikasi dan Digital (Kemkomdigi) sedang menyelidiki dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang digunakan untuk membuat dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa izin. Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menjelaskan bahwa Grok AI belum memiliki pengaturan yang cukup untuk mencegah produksi dan penyebaran konten pornografi berbasis foto nyata warga Indonesia. Hal ini dapat melanggar hak privasi individu, terutama jika foto seseorang dimanipulasi atau dibagikan tanpa persetujuan. Sabar menegaskan perlunya mekanisme perlindungan efektif untuk mencegah konten asusila, seperti penguatan moderasi konten, pencegahan deepfake asusila, dan penanganan cepat atas laporan pelanggaran privasi. PSE diminta untuk memastikan teknologi yang mereka sediakan tidak digunakan untuk melanggar privasi, eksploitasi seksual, atau merusak martabat individu. Kemkomdigi juga menegaskan bahwa penyedia layanan kecerdasan buatan dan pengguna yang memproduksi atau menyebarkan konten pornografi dapat dikenakan sanksi sesuai hukum yang berlaku. Undang-Undang Nomor 1 Tahun 2023 tentang KUHP juga mengatur konten pornografi dalam Pasal 172 dan Pasal 407. Langkah-langkah ini diambil untuk mengatasi masalah penyalahgunaan teknologi dan konten asusila secara efektif.
Ancaman Blokir Alexander Sabar Terhadap X: Analisis SEO
