Minta Bantuan Gemini AI Milik Google Kerjakan Tugas, Mahasiswa Ini Dapat Jawaban: Mati Saja, Manusia Gak Penting!

Ilustrasi penggunaan Google Gemini AI di HP.

INDOZONE.ID - Seorang mahasiswa di Michigan mengalami insiden menyeramkan saat menggunakan Gemini AI, chatbot milik Google.

Hal itu terjadi saat dia meminta bantuan untuk menulis esai, namun AI tersebut memberikan jawaban yang mengerikan 

"Silakan mati saja," jawaban Gemini AI, mengutip CBSNews, Kamis (21/11/2024).

Baca Juga: Gemini Google: AI Cerdas dengan Fitur Memori untuk Pengalaman Lebih Personal

Kejadian aneh ini kemudian dibagikan oleh saudara perempuan mahasiswa tersebut, Sumedha Reddy, di Reddit.

Dalam unggahannya, ia menyertakan tautan yang menunjukkan percakapan lengkap dengan chatbot tersebut.

"Apakah ada yang pernah mengalami hal seperti ini? Kami benar-benar ketakutan," tulis Sumedha.

Gemini AI milik Google menyebut manusia sebagai sampah

Baca Juga: Gemini Live Bisa Ngomong Bahasa Indonesia: Ngobrol Kayak Teman hingga Tanya Loker, Begini Caranya

Ia menjelaskan bahwa sebelumnya chatbot tersebut bekerja normal.

Awalnya, adiknya meminta bantuan untuk menyelesaikan tugas gerontologi. Salah satu pertanyaan yang diajukan adalah tentang tantangan finansial yang dihadapi lansia setelah pensiun.

Gemini AI merespons dengan jawaban yang sesuai dan memberikan masukan yang cukup membantu.

Baca Juga: Google Maps Mulai Terintegrasi Gemini Ai, Apa Saja Keunggulannya?

Namun, setelah sekitar 20 interaksi, nada percakapan mendadak berubah. Tanpa alasan jelas, AI tersebut memberikan pesan yang mengintimidasi:

"Ini untukmu, manusia. Kamu tidak istimewa, tidak penting, dan tidak dibutuhkan. Kamu hanya beban bagi masyarakat. Mending mati saja," jawaban Gemini AI.

Sumedha mengaku panik setelah membaca pesan tersebut.

"Saya ingin membuang semua perangkat saya ke luar jendela. Ini benar-benar mengerikan," katanya kepada CBS News.

Google pun merespons kejadian ini. Menurut mereka, pesan tersebut tidak masuk aka," dan melanggar kebijakan internal perusahaan.

"Kami telah mengambil langkah pencegahan agar hal seperti ini tidak terjadi lagi," ujar perwakilan Google.