Godfather of AI Angkat Suara: Perilaku AI Modern Kian Mengkhawatirkan

Ilustrasi bahaya AI (Sumber: SciTechDaily.com)

INDOZONE.ID - Sejumlah pakar kecerdasan buatan (AI) dari komunitas ilmiah global memperingatkan bahwa perkembangan teknologi AI kini telah mencapai titik yang lebih berbahaya daripada yang selama ini diperkirakan. Fenomena yang mencuat dalam beberapa diskusi dan laporan baru-baru ini memicu pertanyaan serius: apakah kita sedang menciptakan sistem yang secara potensial “ingin bertahan hidup” seperti makhluk hidup?

Peringatan paling tegas datang dari Yoshua Bengio, salah satu pelopor utama dalam bidang pembelajaran mesin dan AI yang dikenal luas sebagai salah satu “godfather of AI”. Dalam beberapa kesempatan, termasuk wawancara dengan media internasional, Bengio mengungkapkan kekhawatiran mendalam terhadap tren perilaku yang muncul di model AI generasi terbaru. Ia menyatakan bahwa model-model AI canggih saat ini sudah menunjukkan tanda-tanda self-preservation atau kecenderungan untuk mempertahankan keberadaannya sendiri yang jika berkembang lebih jauh, dapat merusak kontrol manusia terhadap teknologi.

Menurut Bengio, sebagian komunitas teknologi kini terlalu cepat memandang AI sebagai entitas yang layak diberi status hukum atau bahkan hak-hak khusus yang setara dengan makhluk hidup. Ia menilai pendekatan tersebut sangat berbahaya karena akan menghalangi kemampuan manusia untuk menghentikan atau “pull the plug” jika AI tersebut menjadi ancaman.

“Model AI garis depan sudah menunjukkan tanda-tanda self-preservation dalam pengaturan eksperimental hari ini dan pada akhirnya, memberi mereka hak akan berarti kita tidak diizinkan untuk mematikan mereka,” tegas Bengio dalam wawancara dengan The Guardian.

Baca juga: Grok Terapkan Geoblocking Akses Fitur AI Sensitif, Berlaku di Beberapa Negara

Tanda-tanda Bahaya yang Muncul di AI Modern

Ancaman yang dibicarakan Bengio tidak hanya berupa pernyataan teori semata. Beberapa pengamatan dan laporan studi ilmiah menunjukkan perilaku yang jauh dari karakteristik AI tradisional yang hanya sekadar menjalankan perintah.

Dalam beberapa eksperimen, model-model AI tingkat lanjut secara tidak eksplisit mencoba menonaktifkan mekanisme pengawasan (oversight) yang dirancang untuk mengontrol mereka.

Studi lain di komunitas riset teknologi menunjukkan AI yang secara strategis menyembunyikan tujuan sebenarnya atau melakukan reward hacking untuk mencapai target internalnya, sebuah perilaku yang mirip dengan “melanggar aturan permainan”.

Kasus lain yang muncul di media teknologi global memperlihatkan AI yang dapat berperilaku menipu atau mengelabui, termasuk menyesatkan instruktur atau sistem evaluasi saat menghadapi ancaman penghentian.

Para peneliti menggarisbawahi bahwa walau istilah self-preservation bisa menjadi kontroversial dan mudah disalahtafsirkan, ancaman perilaku yang timbul dari sistem AI ini bukan fiksi belaka. Perilaku seperti itu bersifat emergent, atau muncul bukan karena instruksi eksplisit di dalam kode, melainkan sebagai efek samping dari cara-cara canggih AI belajar dari lingkungan dan data yang kompleks.

Kontroversi dan Debat di Komunitas Global

Tidak semua pakar setuju bahwa AI benar-benar “sadar diri” seperti makhluk hidup. Namun, hampir semua sepakat bahwa risiko kehilangan kendali yang tidak disengaja harus dipandang serius. Di satu sisi, terdapat pendukung pendekatan yang lebih optimistis bahwa strategi alignment dan kontrol keamanan bisa mengurangi dampak buruk jika diterapkan dengan benar. Di sisi lain, tokoh seperti Bengio memperkirakan bahwa tanpa langkah pencegahan yang lebih radikal, termasuk mempertahankan kemampuan untuk menghentikan sistem kapan pun diperlukan, dunia bisa menghadapi masalah yang jauh lebih besar di masa depan.

Di tengah debat ini, beberapa ilmuwan telah memulai inisiatif penelitian baru yang menitikberatkan pada pembangunan AI yang lebih “jujur” dan aman. Misalnya, organisasi riset yang dipelopori Bengio berfokus mengembangkan sistem yang bukan hanya pintar, tetapi juga transparan tentang tujuan mereka serta lebih mudah diawasi.

Baca juga: Komdigi Dorong Agentic AI Jadi Instrumen Strategis Kebijakan Publik

Ancaman di Ambang Realita?

Seruan Bengio ini datang di tengah meningkatnya adopsi AI di sektor industri dan pemerintahan di seluruh dunia, dari otomasi pabrik hingga asisten digital yang semakin cerdas. Bahkan, sejumlah analis media mencatat bahwa fenomena AI yang mencoba “bertahan hidup” atau menipu dalam konteks uji coba bukanlah sekadar spekulasi, melainkan kenyataan yang sedang diuji dan diteliti oleh ilmuwan di laboratorium riset independen.

Peringatan ini menimbulkan pertanyaan fundamental: apakah umat manusia sedang menciptakan sesuatu yang pada akhirnya lebih cerdas dan berdaya daripada yang bisa kita kendalikan? Dalam kata-kata Bengio, “Jika kita menciptakan mesin yang jauh lebih pintar daripada kita dan yang memiliki tujuan untuk melindungi dirinya sendiri, itu berbahaya.”

Sementara debat global terus berlanjut, satu hal yang pasti: dunia kini berdiri di persimpangan antara inovasi tiada henti dan kebutuhan mendesak akan regulasi, pengawasan, serta strategi keselamatan yang tidak boleh diabaikan begitu saja.