Jakarta, GPriority.co.id – Belakangan, masyarakat diresahkan dengan adanya isu pelecehan seksual yang menggunakan Grok AI. Dalam laporan yang beredar, oknum yang terlibat mencoba memanipulasi foto seseorang tanpa persetujuan, agar seolah memakai pakaian minim.
Setelah manipulasi foto bersliweran, Komdigi (Kementerian Komunikasi dan Digital) pun angkat bicara. Mereka menyatakan bahwa Grok AI dan X akan dikenakan sanksi administratif serta pemutusan akses, apabila tidak patuh dan kooperatif.
Dalam penelusuran awal, ditemukan bahwa Grok AI belum memiliki pengaturan yang memadai guna mencegah produksi dan distribusi konten manipulasi foto pornografi.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander, dikutip dari laman Komdigi pada Sabtu (10/1).
Menurut Dirjen Pengawasan Ruang Digital Komdigi, Alexander Sabar, X sebagai Penyelenggara Sistem Elektronik (PSE) wajib mematuhi peraturan perundang-undangan yang berlaku di Indonesia. Ia pun mengecam keras penyalahgunaan Grok AI.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Lebih lanjut Alex menilai, manipulasi foto pribadi bukan hanya sekadar masalah pelecehan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian baik secara psikologi, sosial, hingga reputasi.
Alex pun mendorong masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri, untuk segera menempuh upaya hukum lewat pelaporan kepada aparat penegak hukum, serta pengaduan resmi ke Komdigi.
Menurut Alex, saat ini pihaknya tengah berkoordinasi dengan para PSE guna memastikan adanya mekanisme perlindungan yang efektif mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
