Manipulasi AI Bikin Penipuan Digital Makin Sulit Dibedakan

JAKARTA, Inibalikpapan.com – Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan bahwa lonjakan kemampuan Artificial Intelligence (AI) telah membuka celah baru bagi kejahatan digital, khususnya penipuan berbasis manipulasi konten.

Dalam Indonesia Ethical AI Summit di Jakarta, Nezar menegaskan bahwa teknologi deepfake kini mampu meniru suara hingga wajah seseorang dengan sangat realistis, sehingga berpotensi menipu publik dalam skala besar.

“Suara bisa ditiru, wajah bisa dimanipulasi, bahkan tampil dalam video yang sangat meyakinkan. Ini tantangan serius,” ujarnya, Rabu (17/6/2026).

Menurutnya, perkembangan AI saat ini bahkan telah melampaui generative AI dan mulai memasuki era agentic AI—teknologi yang mampu mengambil keputusan secara mandiri. Di satu sisi membuka peluang besar, namun di sisi lain meningkatkan risiko penyalahgunaan.

Salah satu dampak paling nyata adalah maraknya penipuan digital (scam) yang memanfaatkan teknologi AI. Manipulasi konten kini berkembang menjadi apa yang disebut sebagai synthetic reality, di mana batas antara realitas dan rekayasa semakin kabur.

“Masalahnya, masyarakat belum cukup paham. Akibatnya banyak yang terkecoh. Scam sekarang meningkat drastis,” tegasnya.

Nezar juga menyoroti pentingnya kontrol manusia dalam pengembangan AI, terutama pada sistem yang memiliki kemampuan pengambilan keputusan mandiri. Ia menekankan perlunya penerapan prinsip human in the loop untuk mencegah penyalahgunaan teknologi.

“Keputusan penting tidak boleh sepenuhnya diserahkan ke mesin. Harus tetap ada kontrol manusia,” jelasnya.

Lebih jauh, ia menilai pendekatan etika AI tidak bisa lagi sekadar sukarela. Pengembangan teknologi harus sejak awal mengedepankan prinsip ethics by design, termasuk transparansi, akuntabilitas, dan keamanan.

“Prinsip-prinsip itu harus tertanam langsung dalam sistem, bukan sekadar wacana,” katanya.

Karena itu, pemerintah mendorong kolaborasi antara pengembang, industri, akademisi, hingga komunitas untuk memperkuat tata kelola AI sekaligus mitigasi risiko sejak dini.

Peringatan ini menjadi sinyal bahwa ancaman AI bukan lagi masa depan, melainkan sudah terjadi saat ini. Tanpa kesiapan regulasi dan peningkatan literasi digital, teknologi seperti deepfake berpotensi menjadi senjata baru dalam kejahatan siber yang sulit dikendalikan.

Sumber : Siaran Pers Komdigi

Editor : Abraham Johan