Jumat, 23 JANUARI 2026 • 16:06 WIB

Grok AI Hasilkan 3 Juta Gambar Berbau Seksual Hanya dalam Waktu 11 Hari

Author

Rifqy Alief Abiyya

Grok AI Hasilkan 3 Juta Gambar Berbau Seksual Hanya dalam Waktu 11 Hari Ilustrasi Grok AI (Engadget)

INDOZONE.ID - Lembaga Nirlaba asal Inggris Center for Countering Digital Hate (CCDH), mempublikasikan laporannya tentang 4,6 juta gambar yang dihasilkan oleh Grok selama periode 29 Desember 2025 - 9 Januari 2026.

Dalam 11 hari tersebut, Grok diperkirakan menghasilkan 3 juta gambar berbau seksual, bahkan 23.000-nya adalah foto anak-anak.

Gambar berbau seksual tersebut menampilkan foto realistis seseorang berbagai gaya, mengenakan pakaian dalam, pakaian renang, atau lainnya yang terbuka.

CCDH menggunakan alat AI dalam mengidentifikasi proporsi gambar ke sampel yang bersifat seksual. Metode ini sangat berhati-hati dalam penafsiran, karena banyak layanan analitik dari pihak ketiga yang punya data andal dengan memanfaatkan API pada platform tersebut.

Tanggapan dari X

Menanggapi masalah ini, xAI melakukan pembatasan Grok dalam mengedit gambar yang saat ini hanya bisa dilakukan oleh pengguna berbayar. Namun, banyak yang menilai ini tidak menyelesaikan masalah secara menyeluruh.

Tak lama berselang, X membatasi Grok untuk membuat konten berbau seksual. Akan tetapi, itu hanya berlaku pada platform X, sedangkan di aplikasi Grok masih bisa menghasilkan gambar tersebut.

Tuntut Apple dan Google Ambil Peran

Sementara itu, Apple dan Google yang jadi host aplikasi tersebut belum menghapus aplikasi tersebut, bahkan tidak mengambil keputusan apapun. Mereka juga belum mengakui isu ini dengan terbuka.

Sebanyak 28 kelompok perempuan sudah mengeluarkan surat terbuka untuk mendesak kedua perusahaan tersebut mengambil peran.

CCDH melaporkan sejumlah public figure turut menjadi korban penyalahgunaan AI tersebut, termasuk Wakil Perdana Menteri Swedia. Lalu, 29 persen gambar seksual yang melibatkan anak-anak masih bisa diakses di X per 15 Januari 2026.