Skandal Pornografi Grok AI: DPR Desak Kemkomdigi Tindak Tegas Pelanggaran Privasi Visual

JAKARTA, Inibalikpapan.com – Anggota Komisi I DPR RI, Amelia Anggraini, mengecam keras penyalahgunaan teknologi kecerdasan buatan (Artificial Intelligence) Grok AI yang digunakan untuk memproduksi konten pornografi menggunakan foto orang nyata tanpa izin (deepfake pornography).

Amelia menilai tindakan ini bukan sekadar masalah kesusilaan, melainkan pelanggaran serius terhadap martabat manusia dan Undang-Undang Pelindungan Data Pribadi (UU PDP).

Legislator dari Fraksi Partai NasDem ini menegaskan bahwa manipulasi wajah untuk konten asusila tanpa consent adalah bentuk kekerasan berbasis teknologi yang merusak reputasi dan psikologis korban.

Grok AI Dinilai Minim Pengamanan Digital

Amelia menyoroti hasil penelusuran Direktorat Jenderal Pengawasan Ruang Digital Kemkomdigi yang menemukan bahwa Grok AI belum memiliki sistem filter atau pengaturan eksplisit untuk mencegah produksi pornografi berbasis foto nyata.

“Jika platform AI lain bisa memasang pagar pengaman yang jelas, tidak ada alasan bagi Grok AI untuk tidak melakukan hal yang sama. Negara wajib hadir melindungi warga di ruang digital sebelum kasusnya menjadi viral,” tegas Amelia, Jumat (9/1/2026).

Ruang Digital Bukan Ruang Tanpa Hukum

Amelia mengingatkan penyedia layanan AI dan platform X bahwa wajah serta identitas visual adalah data pribadi yang dilindungi undang-undang. Ia mendorong langkah tegas melalui dua instrumen hukum utama:

1. UU Pelindungan Data Pribadi (PDP): Pemrosesan identitas visual tanpa dasar hukum sah adalah pelanggaran berat. Platform wajib menerapkan prevention by design sejak sistem dirancang.
2. KUHP Nasional 2026: Amelia mengingatkan bahwa per 2 Januari 2026, KUHP baru telah berlaku. Ketentuan pidana terkait pornografi dalam Pasal 172 dan Pasal 407 dapat menjerat pelaku maupun pihak yang memfasilitasi distribusi konten ilegal tersebut.

Desakan Respon Cepat bagi Korban

Politisi asal Dapil Jawa Tengah VII ini meminta Kementerian Komunikasi dan Digital (Kemkomdigi) tidak hanya fokus pada regulasi, tetapi juga pada aksi nyata bagi korban, meliputi:

• Penyediaan kanal pelaporan yang efektif.
• Mekanisme takedown cepat (penurunan konten secara instan).
• Sistem pencegahan unggah ulang (re-upload prevention).

Komisi I DPR RI berkomitmen untuk mengawal kasus ini hingga muncul standar kepatuhan yang jelas bagi seluruh Penyelenggara Sistem Elektronik (PSE) di Indonesia. “Ini soal perampasan hak individu atas citra dirinya,” pungkasnya. / DPR