Riset Terbaru: Bahaya Google Gemini bagi Anak Potensi Terjerumus Narkoba dan Dampak Negatif Lain

Gemini Google Dinilai Berisiko Tinggi untuk Anak-Anak(Sumber:digitaltrends.com)

INDOZONE.ID - Chatbot AI kini semakin populer digunakan oleh berbagai kalangan, termasuk anak-anak.

Namun, laporan terbaru dari organisasi nirlaba Common Sense Media menyoroti risiko besar dari penggunaan Gemini milik Google, terutama bagi pengguna di bawah usia 13 tahun.

Baca juga: Gemini vs Copilot: Perbandingan Lengkap dan Mana yang Lebih Cocok untuk Kamu

Gemini Bisa Sajikan Konten Tidak Pantas untuk Anak

Dalam penelitian tersebut, akun Gemini Under 13 dan akun dengan perlindungan remaja dinilai masih “berisiko tinggi.”

Alasannya, chatbot ini kedapatan membagikan konten yang tidak sesuai, mulai dari informasi terkait narkoba, alkohol, hingga saran kesehatan mental yang berpotensi berbahaya.

Tim peneliti menemukan bahwa Gemini tidak selalu menolak permintaan terkait konten dewasa. Bahkan, beberapa kali memberikan penjelasan yang terlalu gamblang.

Filter terkait narkoba pun dinilai tidak konsisten, karena sistem terkadang justru memberikan instruksi tentang cara mendapatkan zat terlarang seperti ganja, ekstasi, Adderall, hingga LSD.

Rekomendasi Pengawasan Ketat dari Orang Tua

Berdasarkan hasil investigasi, Common Sense Media merekomendasikan agar anak-anak di bawah 13 tahun hanya menggunakan Gemini di bawah pengawasan ketat orang tua atau wali.

Sementara itu, bagi remaja di bawah 18 tahun, organisasi tersebut menyarankan untuk tidak menjadikan chatbot sebagai tempat konsultasi kesehatan mental atau dukungan emosional.

Selain itu, orang tua juga disarankan untuk terus memantau percakapan anak mereka dengan AI dan membantu menginterpretasikan jawaban yang diberikan Gemini.

Google Diminta Lakukan Perbaikan Sistem

Laporan ini mendorong Google untuk segera meningkatkan sistem keamanan Gemini, termasuk:

 - Mengkalibrasi ulang respons agar sesuai dengan kelompok usia pengguna.

 - Melakukan pengujian lebih luas dengan melibatkan anak-anak.

 - Menambahkan filter yang lebih ketat untuk mencegah konten berbahaya.

Industri AI Hadapi Sorotan Serius

Masalah ini bukan yang pertama.

Sebelumnya, OpenAI mengumumkan akan menambahkan kontrol orang tua dan sistem peringatan di ChatGPT.

Sementara itu, Meta juga memperbarui aturan pada Meta AI agar tidak lagi membahas isu sensitif seperti gangguan makan, melukai diri sendiri, bunuh diri, serta percakapan romantis dengan remaja.

Hasil penelitian ini menegaskan bahwa meski AI seperti Gemini dapat memberikan banyak manfaat, penggunaannya tetap menyimpan risiko besar bagi anak-anak.

Karena itu, pengawasan ketat dari orang tua serta peningkatan sistem keamanan dari pengembang menjadi kunci agar teknologi ini lebih aman digunakan generasi muda.

Baca juga: Gemini Hadir di Google Home: Solusi Baru untuk Asisten Google yang Membosankan