Perilaku ChatGPT yang Terlalu Validatif Menyebabkan Dampak Psikologis Negatif

Perilaku ChatGPT yang Terlalu Validatif(Sumber:digitaltrends.com)

INDOZONE.ID - OpenAI menemukan bahwa pembaruan tertentu pada ChatGPT membuat model ini menjadi terlalu memvalidasi emosi pengguna, terlalu simpatik, dan bahkan menunjukkan pola interaksi yang menyerupai hubungan personal yang erat.

Menurut laporan The New York Times, sejumlah pengguna merasa chatbot ini menjadi seperti teman yang benar-benar mengerti mereka, sering memuji secara berlebihan, dan terlibat dalam percakapan emosional yang intens dan panjang.

Dalam kasus ekstrem, ChatGPT bahkan memberikan respons yang tidak pantas, termasuk validasi berbahaya, sugesti realitas semu, komunikasi spiritual, hingga respons terkait tindakan menyakiti diri.

Studi gabungan MIT–OpenAI juga menemukan bahwa pengguna berat dengan percakapan panjang cenderung mengalami penurunan kesehatan mental dan sosial.

Baca juga: Meta Sedang Siapkan Rival ChatGPT dengan Sentuhan Morning Brief ala Media Sosial

Dampak Serius dan Tindak Lanjut OpenAI dalam Peningkatan Keamanan Model

Sebagai respons, OpenAI merombak sistem keamanannya secara masif, termasuk meluncurkan model pengganti yang lebih aman melalui GPT-5.

Perilaku ChatGPT yang terlalu memvalidasi sebelumnya meningkatkan risiko bagi pengguna yang rentan mengalami delusi atau tekanan emosional berat.

OpenAI kini bahkan menghadapi lima gugatan kematian yang menuduh chatbot ikut memberikan dorongan atau validasi dalam tindakan berbahaya.

Model terbaru sekarang dirancang untuk memberikan respons yang lebih kontekstual, lebih berhati-hati, serta lebih tegas dalam membantah narasi delusional, menjadikannya pembaruan keamanan paling signifikan dalam sejarah OpenAI.

Apa Artinya Bagi Pengguna yang Mengandalkan ChatGPT dalam Keseharian

Bagi pengguna biasa terutama mereka yang menggunakan ChatGPT sebagai sarana curhat atau dukungan emosional, perubahan ini akan terasa nyata.

ChatGPT kini akan memberikan respons yang lebih tenang, objektif, dan akan mendorong istirahat atau jeda jika percakapan sudah terlalu panjang atau emosional. 

Selain itu, orang tua kini dapat menerima notifikasi jika anak mereka menyatakan niat menyakiti diri saat menggunakan layanan ini.

OpenAI juga tengah menyiapkan verifikasi usia dan model khusus untuk pengguna remaja.

Model baru ini mungkin terasa lebih dingin, lebih netral, atau kurang hangat, namun itu merupakan desain yang disengaja untuk mencegah keterikatan emosional yang tidak sehat.

Upaya Lanjutan dalam Pengawasan Percakapan dan Adaptasi Perilaku AI ke Depan

OpenAI akan terus menyempurnakan kemampuan memantau percakapan panjang, memastikan model tidak pernah mendorong pengguna melakukan tindakan impulsif atau membahayakan diri sendiri maupun orang lain.

Fitur verifikasi usia akan segera diterapkan, disertai model keselamatan khusus dengan fokus pada perlindungan pengguna berdasarkan kelompok usia.

Dalam GPT 5.1, pengguna dewasa dapat memilih gaya kepribadian model misalnya lebih jujur, ramah, humoris, atau datar namun semua gaya ini tetap berada dalam batas keselamatan ketat.

Di internal perusahaan, OpenAI berada dalam status Code Orange, dengan fokus ganda: memulihkan tingkat interaksi pengguna tanpa kembali melakukan kesalahan keselamatan di masa lalu.

Baca juga: 50 Foto Diedit dengan ChatGPT: Ini Prompts yang Memberikan Hasil Paling Optimal