Teknologi kecerdasan buatan (AI) tidak hanya bermanfaat untuk kegiatan produktif, tetapi juga dapat disalahgunakan untuk tujuan yang kurang baik. Salah satu bentuk kejahatan yang menggunakan teknologi AI adalah deepfake, yang saat ini tengah marak diperbincangkan. Deepfake menjadi viral di media sosial, termasuk X, yang memperlihatkan kasus pelecehan oleh seorang pemuda dengan inisial SL. Pemuda tersebut diduga kerap mengedit foto-foto perempuan menjadi konten asusila, menyasar banyak korban.
Belakangan, Ditreskrimum Polda Jawa Timur juga berhasil menangkap tiga pelaku penipuan yang menggunakan deepfake dengan memalsukan video Gubernur Khofifah Indar Parawansa. Kriminalitas semacam ini menunjukkan betapa maraknya penyalahgunaan teknologi AI, khususnya deepfake, dalam berbagai aksi kejahatan. Wakil Menteri Komunikasi dan Informatika, Nezar Patria, telah menyoroti masalah ini dan meminta masyarakat untuk lebih waspada terhadap penipuan dan kriminalitas yang melibatkan teknologi AI.
Pemerintah belum memiliki regulasi yang khusus untuk mengawasi penggunaan AI. Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 tahun 2023 tentang Etika Kecerdasan Artifisial baru diterbitkan sebagai respons terhadap perkembangan teknologi AI. Meskipun demikian, Nezar menyadari perlunya regulasi yang lebih konkret guna mengawasi pemanfaatan AI yang semakin canggih.
Ahli keamanan siber, Alfons Tanujaya, menekankan pentingnya mendukung kebijakan yang mengawasi teknologi AI dan menegakkan hukum. Di Inggris, langkah pemblokiran platform yang digunakan untuk pembuatan konten deepfake porn anak-anak telah diambil. Alfons mengungkapkan perlunya tindakan serupa jika pemanfaatan teknologi AI melanggar norma, etika, atau hukum di Indonesia.
Penggunaan deepfake untuk menyebarkan konten yang merugikan semakin dipantau secara ketat oleh pihak berwenang. Deepfake bukan hanya digunakan untuk konten seksual, tapi juga untuk menyebarkan informasi palsu, menimbulkan kebingungan, dan berbagai jenis penipuan. Kasus-kasus deepfake yang mencuat, seperti mantan Presiden Joko Widodo berbicara bahasa Mandarin pada 2023, menunjukkan kompleksitas tantangan yang dihadapi dalam mengawasi penggunaan teknologi AI yang semakin canggih.
