Laporan tersebut disampaikan ke Polres Metro Jakarta Selatan setelah Freya menemukan sejumlah konten manipulatif yang menggunakan foto dirinya dan diedit menjadi tidak pantas melalui teknologi AI.

Kasus ini kembali memicu perhatian publik terhadap teknologi AI, khususnya Grok , yang sebelumnya juga sempat menjadi sorotan karena digunakan untuk membuat konten pornografi atau manipulasi visual terhadap foto orang lain.

Foto Freya Dimanipulasi AI Jadi Konten Tak Senonoh

Freya melaporkan pelaporan manipulasi data elektronik setelah menemukan unggahan di media sosial yang mengedit fotonya menggunakan teknologi AI.

Kasi Humas Polres Metro Jakarta Selatan AKBP Murodih mengatakan laporan tersebut dicatat dengan nomor LP/B/519/II/2026/SPKT/POLRES METRO JAKSEL/POLDA METRO JAYA tertanggal 5 Februari 2026.

Menurut polisi, kasus ini bermula ketika Freya melihat sebuah akun anonim yang mengunggah foto dirinya yang telah dimodifikasi menggunakan AI. Dalam gambar tersebut, pakaian yang dikenakan Freya diganti sehingga terlihat tidak pantas.

Selain itu, ditemukan pula sejumlah unggahan lain yang berisi perintah kepada AI untuk memanipulasi foto Freya, seperti mengganti pakaian atau membuat pose tertentu yang berkonotasi seksi.

Merasa dirugikan dan tidak nyaman dengan konten tersebut, Freya akhirnya memutuskan untuk melaporkan kasus tersebut kepada pihak kepolisian agar dapat diproses secara hukum. 

Freya diketahui melaporkan kejadian itu dengan rentang waktu sekitar tahun 2022 hingga 2025 dengan semua bukti-bukti sudah diberikan kepada polisi.
Setelah menerima laporan tersebut, pihak kepolisian langsung melakukan penyelidikan untuk mengumpulkan bukti-bukti terkait dugaan manipulasi foto menggunakan AI.

Polisi juga menjadwalkan pemeriksaan terhadap Freya pada hari ini, Kamis, 12 Maret 2026 sebagai pelapor guna memperjelas kronologi kejadian serta dampak yang dialaminya akibat mencakup teknologi tersebut.

Selain Freya, polisi akan memanggil sejumlah saksi lainnya. Ada tiga orang lain yakni Rino Sutopo, Vania Eka Putri, dan Syari Nabila yang akan dimintai klarifikasi

Kasus ini diduga berkaitan dengan pelanggaran Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) terkait manipulasi data melalui media elektronik.

Polemik Grok dan Konten AI Mesum

Ilustrasi. dokter. Antara

Kasus yang dialami Freya bukan yang pertama kali terjadi. Dalam beberapa waktu terakhir, penggunaan Grok ramai diperbincangkan karena fitur AI-nya dinilai relatif mudah dimanfaatkan untuk membuat gambar manipulatif atau konten pornografi berbasis foto orang lain.

Sejumlah pengguna media sosial diketahui menggunakan AI tersebut untuk mengubah foto figur publik maupun orang biasa menjadi gambar tak senonoh atau video manipulatif (deepfake). Fenomena ini memicu kekhawatiran tentang teknologi AI generatif.

AI Grok sendiri merupakan chatbot yang dikembangkan oleh perusahaan xAI, perusahaan kecerdasan buatan milik Elon Musk, dan terintegrasi dengan platform media sosial X.

Komdigi Sempat Batasi Penggunaan Grok

Maraknya mencakup AI untuk membuat konten tidak pantas juga mendorong pemerintah mengambil langkah pengawasan.

Melalui Kementerian Komunikasi dan Digital Republik Indonesia (Komdigi), pemerintah sebelumnya juga sempat melakukan sinkronisasi akses AI Grok sebagai langkah preventif untuk mencegah potensi penyebaran konten berbahaya.

AI Grok dinilai dapat memunculkan konten yang tidak ramah anak dan berpotensi mengancam keselamatan perempuan di ruang siber.

Langkah pengintaian atau pengawasan terhadap fitur tersebut dilakukan sebagai upaya melindungi masyarakat dari penyebaran konten manipulatif, pornografi digital, hingga pelanggaran privasi berbasis AI.

The post Freya JKT48 Jadi Korban, Cerita Runut Polemik Penyalahgunaan AI Grok yang Viral di Media Sosial appeared first on DuniaHeadline.