Jakarta, GPriority.co.id – Kementerian Komunikasi dan Digital (Kemkomdigi) mengungkapkan bahwa kerugian akibat penipuan yang memanfaatkan kecerdasan artifisial atau artificial intelligence (AI), termasuk melalui konten deepfake, telah mencapai Rp700 miliar.
Menanggapi hal tersebut, Kemkomdigi menilai pentingnya melakukan upaya mitigasi dan penguatan regulasi untuk mencegah kejahatan siber berbasis AI.
“Produk deepfake berbasis AI ini, ketika digunakan untuk melakukan kejahatan, sungguh luar biasa dapat menipu masyarakat,” ujar Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria dalam keterangannya.
Nezar menjelaskan, saat ini pemerintah tengah menyusun Peta Jalan Nasional AI yang akan menekankan pentingnya prinsip akuntabilitas dan transparansi bagi para pengembang AI.
“Kami mendorong semua pengembang untuk bersikap etis, transparan, dan akuntabel ketika mereka memproduksi platform berbasis AI,” tegasnya.
Menurutnya, masih banyak produk AI yang dibuat secara tidak etis, misalnya tidak mencantumkan keterangan bahwa konten tersebut dihasilkan oleh AI, sehingga berpotensi menimbulkan korban penipuan.
“Kita masih melihat video atau gambar AI yang tidak mencantumkan logo produk AI. Saya pikir itu tidak etis,” tuturnya.
Sebagai langkah penegakan hukum, Kemkomdigi bekerja sama dengan aparat penegak hukum untuk memperkuat penerapan Undang-Undang Informasi dan Transaksi Elektronik (ITE), Undang-Undang Pelindungan Data Pribadi (PDP), serta Kitab Undang-Undang Hukum Pidana (KUHP).
Selain itu, Kemkomdigi juga terus melakukan edukasi publik agar masyarakat lebih waspada terhadap bahaya deepfake berbasis AI dan tidak mudah terperdaya oleh konten manipulatif di ruang digital.
Apa itu deepfake?
Mengutip dari TIME, deepfake merupakan media sintetis yang biasanya berbentuk video, audio, atau gambar yang dihasilkan menggunakan teknologi pembelajaran mendalam (deep learning) atau kecerdasan artifisial (AI) untuk menciptakan atau memodifikasi konten digital secara realistis.
Istilah deepfake berasal dari gabungan kata deep learning (pembelajaran mendalam) dan fake (palsu), yang menggambarkan teknik canggih di balik proses pemalsuan digital ini. Teknologi tersebut mampu memanipulasi wajah, suara, atau gerakan tubuh seseorang agar tampak melakukan atau mengucapkan sesuatu yang sebenarnya tidak pernah terjadi.
Dalam beberapa tahun terakhir, teknologi deepfake berkembang pesat hingga membuat batas antara konten asli dan palsu semakin sulit dibedakan tanpa analisis mendalam.
Deepfake paling sering dikaitkan dengan manipulasi video dan audio. Misalnya, algoritma AI dapat dilatih menggunakan serangkaian gambar figur publik, seperti politisi atau selebritas, sehingga mampu menghasilkan video yang menampilkan orang tersebut seolah-olah mengucapkan pernyataan yang tidak pernah ia katakan.
Hal serupa juga berlaku pada manipulasi suara, di mana teknologi pembelajaran mendalam dapat mensintesis suara seseorang untuk menciptakan ucapan yang terdengar sangat realistis.
Meski teknologi ini memiliki potensi positif dalam dunia film, hiburan, dan inovasi digital, deepfake juga menimbulkan kekhawatiran karena berisiko digunakan untuk penyebaran disinformasi dan kejahatan siber.
