Riset Terbaru: Bahaya Google Gemini bagi Anak Potensi Terjerumus Narkoba dan Dampak Negatif Lain

Gemini Google Dinilai Berisiko Tinggi untuk Anak-Anak(Sumber:digitaltrends.com)

INDOZONE.ID - Chatbot AI kini semakin populer digunakan oleh berbagai kalangan, termasuk anak-anak.

Namun, laporan terbaru dari organisasi nirlaba Common Sense Media menyoroti risiko besar dari penggunaan Gemini milik Google, terutama bagi pengguna di bawah usia 13 tahun.

Baca juga: Gemini vs Copilot: Perbandingan Lengkap dan Mana yang Lebih Cocok untuk Kamu

Gemini Bisa Sajikan Konten Tidak Pantas untuk Anak

Dalam penelitian tersebut, akun Gemini Under 13 dan akun dengan perlindungan remaja dinilai masih “berisiko tinggi.”

Alasannya, chatbot ini kedapatan membagikan konten yang tidak sesuai, mulai dari informasi terkait narkoba, alkohol, hingga saran kesehatan mental yang berpotensi berbahaya.

Tim peneliti menemukan bahwa Gemini tidak selalu menolak permintaan terkait konten dewasa. Bahkan, beberapa kali memberikan penjelasan yang terlalu gamblang.

Filter terkait narkoba pun dinilai tidak konsisten, karena sistem terkadang justru memberikan instruksi tentang cara mendapatkan zat terlarang seperti ganja, ekstasi, Adderall, hingga LSD.

Rekomendasi Pengawasan Ketat dari Orang Tua

Berdasarkan hasil investigasi, Common Sense Media merekomendasikan agar anak-anak di bawah 13 tahun hanya menggunakan Gemini di bawah pengawasan ketat orang tua atau wali.

Sementara itu, bagi remaja di bawah 18 tahun, organisasi tersebut menyarankan untuk tidak menjadikan chatbot sebagai tempat konsultasi kesehatan mental atau dukungan emosional.

Selain itu, orang tua juga disarankan untuk terus memantau percakapan anak mereka dengan AI dan membantu menginterpretasikan jawaban yang diberikan Gemini.

Google Diminta Lakukan Perbaikan Sistem

Laporan ini mendorong Google untuk segera meningkatkan sistem keamanan Gemini, termasuk:

 - Mengkalibrasi ulang respons agar sesuai dengan kelompok usia pengguna.

 - Melakukan pengujian lebih luas dengan melibatkan anak-anak.

 - Menambahkan filter yang lebih ketat untuk mencegah konten berbahaya.