Komdigi Putus Akses Sementara Grok karena Risiko Pornografi Deepfake

SinPo.id - Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara terhadap aplikasi Grok menyusul kekhawatiran penyebaran konten pornografi palsu berbasis kecerdasan buatan atau artificial intelligence (AI).

Kebijakan itu diambil sebagai langkah perlindungan terhadap perempuan, anak, dan masyarakat dari praktik kekerasan berbasis digital.

Menteri Komunikasi dan Digital Meutya Hafid mengatakan penggunaan teknologi AI untuk memproduksi dan menyebarkan konten pornografi tanpa persetujuan korban merupakan pelanggaran serius terhadap hak asasi manusia.

“Praktik deepfake seksual nonkonsensual adalah pelanggaran terhadap martabat, hak asasi, dan keamanan warga negara di ruang digital,” kata Meutya dalam keterangan resminya, Sabtu, 10 Januari 2026.

Menurut Meutya, pemutusan akses dilakukan secara sementara sebagai langkah preventif sekaligus korektif. Dia menyebut, pemerintah ingin memastikan setiap platform digital yang beroperasi di Indonesia memiliki sistem pengamanan yang memadai agar teknologi tidak disalahgunakan.

Dia juga menegaskan, dampak penyalahgunaan AI untuk pornografi palsu tidak hanya bersifat teknis, tetapi juga dapat menimbulkan kerugian psikologis, sosial, dan hukum bagi korban.

“Negara berkewajiban menjaga ruang digital tetap aman, beretika, dan menghormati hak asasi manusia,” tuturnya.. 

Selain memutus akses, lanjutnya, Kementerian Komunikasi dan Digital telah meminta Platform X sebagai pihak terkait untuk memberikan klarifikasi. Menurutnya, pemerintah meminta penjelasan mengenai dampak penggunaan Grok serta langkah mitigasi yang akan ditempuh agar penyalahgunaan serupa tidak terulang.

“Kami telah meminta Platform X untuk segera hadir dan memberikan klarifikasi,” ujar Meutya.

Dia menambahkan, langkah tersebut memiliki dasar hukum yang jelas karena pemutusan akses dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.

"Dalam regulasi tersebut, Penyelenggara Sistem Elektronik diwajibkan memastikan sistem yang mereka kelola tidak memuat, memfasilitasi, atau menyebarluaskan konten yang dilarang oleh peraturan perundang-undangan," tandasnya.