SATUJABAR, JAKARTA – Perkembangan AI atau Artificial Intelligence atau kecerdasan artifisial dinilai semakin meningkatkan kompleksitas ancaman penipuan digital karena teknologi tersebut mampu menghasilkan konten palsu yang sulit dibedakan dari kenyataan.
Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan bahwa penyalahgunaan AI melalui teknologi deepfake telah menjadi salah satu tantangan etis dan keamanan digital yang perlu diantisipasi secara serius.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya dalam acara Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/06/2026).
Menurut Wamen Nezar Patria, kemajuan AI saat ini berlangsung sangat cepat, bahkan telah melampaui fase generative AI menuju pengembangan agentic AI dan berbagai teknologi baru lainnya.
Perkembangan tersebut membawa manfaat besar bagi berbagai sektor, tetapi pada saat yang sama memunculkan risiko-risiko baru yang memerlukan perhatian serius.
Dalam aspek keamanan siber, Wamen Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan penipuan (scam) dengan memanfaatkan teknologi deepfake.
Menurutnya, hasil manipulasi berbasis AI kini telah berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik, sehingga masyarakat awam semakin sulit membedakan antara konten asli dan konten hasil rekayasa.
“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.
Wamen Nezar juga mengingatkan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI yang memiliki kemampuan melakukan penalaran dan pengambilan keputusan secara mandiri.
Menurutnya, sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan penting tetap berada dalam pengawasan manusia.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Lebih lanjut, Wamen Nezar menilai pendekatan etika AI tidak lagi cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut.
Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan ethics by design.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tandasnya.
Karena itu, Wamen Nezar mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.
Menurutnya, forum Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan langkah-langkah bersama dalam membangun ekosistem AI yang inovatif sekaligus bertanggung jawab.
“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.
