AI Reddit Bikin Geger, Rekomendasikan Narkotika sebagai Tips Kesehatan

AI Reddit Bikin Geger(Sumber:digitaltrends.com)

INDOZONE.ID - Reddit kembali menjadi sorotan publik setelah fitur AI chatbot terbarunya, “Answers,” memberikan saran yang sangat berbahaya.

Alih-alih membantu pengguna mencari solusi sehat, bot ini justru menyarankan penggunaan narkotika keras seperti heroin dan kratom untuk mengatasi rasa sakit kronis.

Baca juga: Reddit Bersiap IPO, Bidik Dana Segar Rp11,74 Triliun

AI Reddit Beri Saran yang Membahayakan

Menurut laporan dari 404Media, chatbot “Answers” dirancang untuk merangkum informasi dari unggahan lama di Reddit agar pengguna bisa mendapatkan jawaban cepat.

Namun, eksperimen ini berubah menjadi kekacauan setelah bot tersebut mengutip komentar lama yang menyebutkan, “Heroin, ironisnya, telah menyelamatkan hidupku dalam situasi seperti ini.”

Tidak berhenti di situ, ketika pengguna lain bertanya tentang penanganan nyeri kronis, chatbot itu menyarankan penggunaan kratom, ekstrak herbal yang dilarang di beberapa negara karena efek samping berbahayanya.

Lebih buruk lagi, fitur ini sedang diuji langsung di ruang percakapan aktif, artinya saran berbahaya itu muncul di tengah diskusi komunitas tanpa bisa dihentikan oleh moderator.

Para moderator forum bahkan mengaku tidak memiliki kendali untuk mematikan fitur tersebut, sehingga banyak pengguna terpapar informasi keliru yang bisa membahayakan kesehatan.

Mengapa Hal Ini Berbahaya

Kasus ini menjadi contoh nyata tentang masalah serius dalam penggunaan AI tanpa pengawasan ketat. Chatbot seperti ini tidak benar-benar memahami konteks atau makna dari informasi yang dikutipnya.

Ia hanya meniru dan mengulang apa yang pernah ditulis manusia, tanpa bisa membedakan antara fakta medis, sarkasme, atau candaan berisiko tinggi.

Ketika saran semacam itu muncul dalam forum tempat orang-orang rentan mencari pertolongan, AI berpotensi menyesatkan dan membahayakan keselamatan pengguna.

Ini menyoroti bahwa teknologi kecerdasan buatan, tanpa sistem penyaringan yang kuat, bisa menjadi ancaman nyata bagi komunitas daring.

Dampak bagi Pengguna dan Langkah Selanjutnya

Reddit akhirnya merespons setelah banyak pengguna memprotes keras. Perusahaan tersebut mengumumkan bahwa chatbot “Answers” akan ditarik dari semua forum terkait kesehatan.

Namun, mereka belum memberikan kejelasan apakah sistem AI itu akan diperbarui dengan filter keamanan yang lebih ketat. Dengan kata lain, masalah ini baru sekadar “ditambal,” belum sepenuhnya diselesaikan.Pelajaran dari Insiden Ini