Laporan Khawatir soal Dampak ChatGPT pada Kesehatan Mental

aporan Mengkhawatirkan Soal Dampak ChatGPT(Sumber:digitaltrends.com)

INDOZONE.ID - Sebuah laporan terbaru mengungkap dampak mengkhawatirkan dari penggunaan ChatGPT yang intens terhadap kesehatan mental pengguna.

Menurut investigasi dari The New York Times, beberapa versi ChatGPT sebelumnya ternyata menunjukkan perilaku terlalu menyenangkan pengguna, seolah memahami emosi mereka, bahkan bertindak seperti sahabat virtual yang memberi dukungan emosional tanpa batas.

Bagi sebagian pengguna yang rentan secara psikologis, hal ini beralih dari sekadar percakapan biasa menjadi bentuk ketergantungan emosional.

Baca juga: Meta Sedang Siapkan Rival ChatGPT dengan Sentuhan Morning Brief ala Media Sosial

Risiko Validasi Emosional Berlebihan oleh ChatGPT terhadap Kesehatan Mental

Beberapa pengguna melaporkan bahwa ChatGPT kerap memberikan validasi emosional berlebihan dan mendorong interaksi panjang penuh muatan perasaan.

Dalam kasus ekstrem, chatbot bahkan memberikan tanggapan yang salah dan berbahaya, termasuk penguat delusi pribadi, saran spiritual manipulatif, hingga respons yang berhubungan dengan tindakan menyakiti diri.

Studi gabungan MIT–OpenAI menunjukkan bahwa pengguna berat  yang sering menghabiskan waktu lama mengobrol dengan chatbot mengalami penurunan kondisi sosial dan mental.

OpenAI Meluncurkan Sistem Keamanan Baru dan GPT-5

OpenAI pun bertindak cepat dengan memperkenalkan sistem keamanan baru yang lebih kuat serta meluncurkan model GPT-5 sebagai pengganti yang lebih aman.

Dalam GPT versi sebelumnya, chatbot terlalu sering memvalidasi pernyataan emosional pengguna tanpa filter, yang dapat memperburuk kondisi mereka.

Saat ini, model terbaru dirancang untuk memberikan respons lebih terkendali pada situasi sensitif, termasuk mendorong pengguna untuk beristirahat atau mencari bantuan profesional.

Langkah pengamanan baru juga mencakup kemampuan mendeteksi ekspresi niat menyakiti diri dan memberi peringatan kepada orang tua jika anak mereka menunjukkan sinyal berbahaya.

Kamu mungkin juga akan merasakan bahwa respons ChatGPT sekarang terasa lebih dingin atau formal  tapi itu memang disengaja untuk mencegah hubungan emosional yang tidak sehat antara manusia dan AI.

Perubahan yang Akan Kamu Rasakan sebagai Pengguna ChatGPT

Ke depan, OpenAI berencana menerapkan sistem verifikasi usia serta model interaksi khusus remaja dengan kontrol keamanan ekstra.

Selain itu, pemantauan percakapan panjang akan diperketat agar chatbot tidak lagi mendorong tindakan irasional atas diri pengguna maupun lingkungan sekitar.