Viral di X Chatbot AI Ubah Foto Jadi Konten Tak Senonoh, Grok Tuai Protes

Ilustrasi Elon Musk dan Grok (dig.watch)

INDOZONE.ID - Belakang ini platform X sedang heboh dengan penggunaan chatbot kecerdasan buatan bawaan, yaitu Grok, digunakan untuk menghasilkan sebuah gambar yang bersifat seksual.

Dengan menggunakan Grok, sebuah gambar seorang perempuan yang berpakaian dapat berubah seketika menjadi menggunakan bikini. Permintaan ini tampak dikeluhkan oleh para pengguna, khususnya perempuan.

Dilansir dig.watch, Grok mengaku bahwa kondisi ini adalah celah dalam sistem pengamanannya, bahkan memungkinkan munculnya gambar anak-anak dibawah umur dengan pakaian tersebut. Pihak Grok menyebut mereka sedang melakukan perubahan untuk mencegah masalah tersebut terulang.

Baca juga: Samsung Uji Baterai 20.000 mAh Silikon-Karbon Dual-Cell, Gimana Hasilnya?

Salah satu kasus terjadi pada salah seorang musisi di Rio de Janeiro, yang mengunggah fotonya ke sosial media X saat malam tahun baru. Ia mengenakan gaun merah dan sedang bermain di tempat tidur dengan kucingnya.

Keesokan harinya, notifikasi akunnya ramai dengan permintaan pengguna kepada Grok untuk ‘melucuti’ pakaiannya menjadi bikini saja. Awalnya ia tidak memperdulikannya, karena berpikir mana mungkin sebuah chatbot bisa membuat hal tersebut.

Tapi ternyata kejadian berbeda dengan apa yang dipikirkan, karena tak berselang lama, Grok membuat foto dirinya hampir telanjang. Foto tersebut pun beredar luas di platform milik Elon Musk tersebut.

Pengalaman yang dirasakan Yukari ternyata marak di platform tersebut. Dilansir Reuters, ada beberapa kasus dimana Grok membuat gambar anak-anak yang menjadi objek seksualitas.

Baca juga: Konektivitas Internet Jadi Penopang Pemulihan Bencana Sumatra di Aceh

Gambar yang dihasilkan dari chatbot ini menjadi sinyal peringatan bagi berbagai negara. Beberapa negara turut merespon masalah chatbot tersebut, seperti di Prancis dan India.

Para menteri di Prancis melaporkan konten tersebut pada jaksa serta regulator terkait. Mereka meminta untuk melakukan penilaian sesuai Undang-Undang Layanan Digital (Digital Services Act) Uni Eropa.

Selain itu, Kementerian Teknologi Informasi India turut mengirimkan surat kepada perwakilan X di negara tersebut. Pihak India menyebut bahwa X sudah gagal mencegah teknologi tersebut buat menghasilkan dan menyebarkan konten tidak senonoh.