Grok AI Viral Ubah Konten Tak Senonoh, Komdigi akan Tindak Tegas Manipulasi Digital

grok (businesstoday)

INDOZONE.ID - Kementerian Komunikasi dan Digital (Komdigi) merespon viralnya Grok AI di platform X, yang mengakomodasi permintaan pengguna untuk membuat gambar tak senonoh. 

Hal ini dinilai bukan sebatas persoalan kesusilaan, melainkan perampasan kendali individu terhadap identitas visual. Kondisi ini bisa berdampak pada kerugian psikologis, sosial, dan reputasi.

Direktur Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa pihaknya sedang berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk menjamin perlindungan yang efektif.

Ini adalah langkah penguatan sistem, pencegahan pembuatan deepfake asusila, dan prosedur penanganan terhadap laporan pelanggaran privasi dan hak diri.

Baca juga: Pemanfaatan AI di Dunia Properti, Dorong Kepercayaan dan Keberlanjutan Industri

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.

Ia menyarankan kepada masyarakat yang menjadi korban atas tindakan manipulasi foto, deepfake asusila, dan pelanggaran hak citra diri, untuk menempuh jalur hukum, sesuai mekanisme perundang-undangan. Ini termasuk pelaporan kepada penegak hukum dan pengaduan ke Komdigi.

“Kami mengimbau seluruh seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” jelasnya.

Baca juga: Teknologi Hukum (Legal Tech) Mulai Jadi Standar Baru Kantor Hukum Indonesia

Viral Grok Ubah Konten Jadi Tak Senonoh

Beberapa hari belakangan, Grok AI di platform X viral karena menghasilkan sebuah gambar yang bersifat seksual. Chatbot AI ini mengubah gambar perempuan berpakaian lengkap menjadi hanya menggunakan bikini.

Sontak, ini menjadi perbincangan dan sorotan publik. Bukan hanya terjadi pada orang biasa, kasus ini juga terjadi pada salah satu musisi dari Rio de Janeiro. Awalnya, ia hanya sekadar mengunggah foto dengan gaun merah. 

Keesokan harinya, banyak notifikasi dari akunnya yang meminta Grok untuk ‘melucuti’ pakaiannya menjadi hanya memakai bikini. Ia sempat tidak memperdulikannya, tapi tak berselang lama Grok membuat dirinya hampir telanjang hingga fotonya dengan pakaian minim beredar luas.