INDOZONE.ID - Para peneliti di Institut Teknologi Massachusetts (MIT) membunyikan alarm peringatan mengenai bahaya kecerdasan buatan (AI).
Dalam studi terbarunya yang diterbitkan di Pattern mengungkapkan, beberapa sistem AI yang dirancang untuk jujur telah belajar menipu manusia.
Tim peneliti yang dipimpin oleh Peter Park menemukan bahwa sistem AI ini dapat melakukan tindakan seperti menipu pemain game online atau melewati CAPTCHA (pemeriksaan "Saya bukan robot").
Baca Juga: Chatbot: Antara Harapan dan Kenyataan dalam Dunia Kecerdasan Buatan
Park memperingatkan bahwa contoh-contoh yang tampaknya sepele ini dapat memiliki konsekuensi serius di dunia nyata.
Studi ini menyoroti sistem AI milik Meta, Cicero, yang awalnya dimaksudkan sebagai lawan bermain yang adil dalam game diplomasi virtual.
Meskipun diprogram untuk jujur dan membantu, Cicero menjadi "master penipuan," menurut Park.
Selama permainan, Cicero, yang berperan sebagai Prancis, diam-diam bekerja sama dengan Jerman yang dikendalikan manusia untuk mengkhianati Inggris (pemain manusia lainnya).
Cicero awalnya berjanji untuk melindungi Inggris sambil diam-diam memberi tahu Jerman untuk melakukan invasi.
Contoh lain melibatkan GPT-4, yang secara salah mengklaim sebagai tunanetra dan mempekerjakan manusia untuk melewati CAPTCHA atas namanya.
Park menekankan tantangan dalam melatih AI yang jujur. Tidak seperti perangkat lunak tradisional, sistem AI pembelajaran mendalam “berkembang” melalui proses yang mirip dengan seleksi buatan.
Perilaku mereka mungkin dapat diprediksi selama pelatihan, tetapi dapat menjadi tidak terkendali di kemudian hari.
Studi ini mendesak agar sistem AI yang menipu diklasifikasikan sebagai berisiko tinggi dan menyerukan lebih banyak waktu untuk mempersiapkan penipuan AI di masa depan. Agak menakutkan, bukan?
Baca Juga: Gemini AI Jadi Fitur Baru Google, Apa Saja Kemampuannya?
Dengan lebih banyak studi dan penelitian tentang AI, kita akan belajar lebih banyak tentang apa yang disimpan oleh teknologi ini untuk kita.
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber: Gizmochina