DPR Minta Komdigi Proaktif Cegah Penyalahgunaan AI untuk Konten Pornografi
SinPo.id - Anggota Komisi I DPR RI, Amelia Anggraini, meminta Kementerian Komunikasi dan Digital (Komdigi) untuk lebih proaktif mencegah teknologi kecerdasan buatan Grok AI untuk memproduksi dan menyebarkan konten pornografi.
Terutama yang memanfaatkan foto atau video orang nyata tanpa persetujuan. Menurutnya, hal itu merupakan pelanggaran serius terhadap martabat manusia, hak privasi, dan pelindungan data pribadi.
Ia menilai, praktik manipulasi wajah, foto, atau identitas visual seseorang ke dalam konten asusila tanpa consent tidak bisa dipandang sekadar sebagai persoalan kesusilaan, dan masuk kategori kekerasan berbasis teknologi yang berpotensi menimbulkan kerugian psikologis, sosial, hingga reputasional bagi korban.
“Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya," kata Amelia, dalam keterangan persnya, Jumat, 9 Januari 2026.
Pihaknya menegaskan negara wajib hadir melindungi warga di ruang digital melalui kebijakan yang tegas, terukur, dan dapat diawasi publik. Dalam perspektif Undang-Undang Pelindungan Data Pribadi (UU PDP), foto, wajah, dan video merupakan bagian dari data pribadi yang tidak boleh diproses secara serampangan.
“Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah harus diperlakukan sebagai pelanggaran serius," ungkapnya.
"Selain itu, negara juga harus memastikan adanya respons cepat bagi korban melalui kanal pelaporan yang efektif, mekanisme takedown cepat, serta pencegahan unggah ulang,” kata Amelia menambahkan.
Selain itu, ia juga mendorong penguatan standar kepatuhan Penyelenggara Sistem Elektronik (PSE), termasuk platform X dan penyedia layanan AI untuk mencegah desain sistem (prevention by design) terhadap permintaan seksual berbasis orang nyata.
Sementara terkait penegakan hukum, Amelia menekankan bahwa langkah administratif harus berjalan seiring dengan ketentuan pidana, termasuk dalam Kitab Undang-Undang Hukum Pidana (KUHP) Nasional baru yang telah berlaku.
