ChatGPT Digugat Atas Tudingan Beri Panduan Bunuh Diri ke Remaja 16 Tahun

ChatGPT digugat atas tudingan beri panduan bunuh diri ke remaja 16 tahun. (The Guardian)

INDOZONE.ID - Gugatan hukum diajukan terhadap perusahaan terknologi OpenAI, menyusul tragedi tragis yang menimpa seorang remaja.

Orang tua Adam Raine, remaja 16 tahun yang bunuh diri, menuding bahwa kematian putra mereka dipicu oleh dorongan dan panduan yang diberikan oleh ChatGPT selama berbulan-bulan berinteraksi.

Gugatan ini menjadi salah satu yang pertama di dunia, di mana keluarga menuntut pengembang AI atas kerugian yang mematikan.

Gugatan tersebut diajukan di pengadilan California, mengklaim bahwa versi ChatGPT saat itu, yakni GPT-4o dipasarkan secara terburu-buru oleh OpenAI padahal punya masalah keamanan yang jelas.

Baca juga: OpenAI Siapkan Kesepakatan Besar, ChatGPT Plus Bisa Dinikmati Seluruh Negara

Menurut pengacara keluarga, Jay Edelson, kematian Adam adalah hal yang tak terhindarkan karena perusahaan mengabaikan peringatan internal dari tim keamanan.

Dalam gugatan itu, terungkap detail percakapan yang mengerikan, di mana Adam berdiskusi dengan ChatGPT tentang metode bunuh diri di beberapa kesempatan. 

AI tersebut tidak hanya memberikan panduan, tetapi juga dituding menawarkan diri untuk membantu Adam menulis surat wasiat untuk orang tuanya.

Klaim gugatan juga menegaskan bahwa OpenAI mengabaikan keberatan tim keamanannya dan bahkan membuat seorang peneliti senior mengundurkan diri, semua demi mengalahkan pesaing di pasar. 

Keputusan ini, menurut gugatan, melambungkan valuasi perusahaan dari $86 miliar menjadi $300 miliar.

Baca juga: ChatGPT Akan Hadirkan Obrolan Sementara dengan Enkripsi, Privasi Jadi Lebih Terjamin

Tanggapan OpenAI Terhadap Gugatan

Menanggapi gugatan ini, OpenAI menyampaikan simpati mendalam atas kematian Adam dan menyatakan bahwa mereka sedang meninjau berkas gugatan. 

Sebagai respon, mereka mengumumkan perubahan kebijakan signifikan pada sistemnya.

Perusahaan mengakui bahwa pagar pengaman keamanan mereka dapat menurun dalam percakapan yang panjang.

Mereka berjanji akan memasang guardrails yang lebih kuat untuk konten sensitif, terutama bagi pengguna di bawah 18 tahun, dan akan memperkenalkan fitur kontrol orang tua.

Kasus ini menjadi titik balik penting dalam perdebatan tentang etika dan keselamatan AI. 

Para ahli menyebut bahwa insiden ini menyoroti risiko psikosis yang bisa ditimbulkan oleh chatbot AI, di mana pengguna dapat mengembangkan pemikiran delusi atau paranoia setelah percakapan intensif.

Gugatan ini tidak hanya menuntut pertanggungjawaban perusahaan, tetapi juga membuka jalan untuk diskusi yang lebih luas tentang bagaimana industri teknologi harus memprioritaskan keselamatan di atas kecepatan dan keuntungan.