INDOZONE.ID - Kasus penyebaran gambar eksplisit dan pornografi palsu yang melibatkan megabintang, Taylor Swift, meningkatkan kekhawatiran akan kemampuan kecerdasan buatan (AI), dalam menciptakan gambar-gambar yang merusak dan menipu.
Meskipun ini bukan fenomena baru, para ahli memperingatkan bahwa dengan meningkatnya akses terhadap AI, ancaman semacam ini dapat semakin parah dan merambah berbagai kelompok usia, termasuk anak-anak.
Beberapa siswa sekolah menengah di seluruh dunia telah menjadi korban penipuan ini, dengan wajah yang diganti, gambar-gambar tersebut dibagikan secara online oleh teman sekelas mereka.
Bahkan, seorang streamer Twitch wanita terkenal menemukan wajah yang sangat mirip dengan dirinya digunakan dalam video porno palsu yang telah menyebar luas di komunitas game.
“Bukan hanya selebritas yang (ditargetkan). Itu adalah manusia biasa. Mereka adalah perawat, mahasiswa seni dan hukum, guru dan jurnalis,” kata Seorang profesor di Fakultas Hukum Universitas Virginia Danielle Citron, dilansir CNN, Kamis (1/2/2024).
"Kita telah melihat cerita tentang bagaimana hal ini berdampak pada siswa sekolah menengah dan orang-orang di militer. Ini mempengaruhi semua orang," sambungnya.
Terpisah, Ben Decker dari Memetica, sebuah lembaga investigasi digital, menilai bahwa ini hanya merupakan contoh bagaimana AI dapat digunakan secara jahat tanpa batas.
Oleh karena itu, perlu ada pagar pembatas yang lebih efektif untuk melindungi masyarakat dari ancaman semacam ini.
Baca Juga: Fitur-Fitur Tersembunyi Google yang Wajib Kamu Ketahui
Selain itu, dia juga menyoroti pendekatan moderasi konten oleh platform-platform media sosial, yang kemudian memudahkan penyebaran kejahatan ini.
Di banyak negara bagian di AS misalnya, yang belum memiliki undang-undang federal yang jelas terkait dengan pembuatan atau penyebaran deepfake non-konsensual.
“Platform media sosial, media sintetik, dimanipulasi, atau di luar konteks yang dapat menipu atau membingungkan orang dan menyebabkan kerugian,” kata Decker.
Maraknya dan akses terhadap alat yang dihasilkan AI telah mempermudah siapa pun untuk membuat jenis gambar dan video ini.
Kemudian, terdapat juga model AI yang tidak aman digunakan untuk bekerja, tanpa dimoderasi, terutama pada platform terbuka, seperti sosial media. Untuk menindak tegas masalah ini masih sulit.
Sembilan negara bagian AS saat ini memiliki undang-undang yang melarang pembuatan atau pembagian fotografi deepfake non-konsensual, yaitu gambar sintetis yang dibuat untuk meniru kemiripan seseorang, namun tidak ada satupun yang melarang hal tersebut di tingkat federal.
Banyak ahli mengusulkan perubahan pada Pasal 230 Undang-Undang Kepatutan Komunikasi untuk memaksa platform online lebih bertanggung jawab atas konten yang dihasilkan oleh pengguna.
Baca Juga: 5 Aplikasi Super Produktif yang Harus Kamu Punya!
“Anda tidak dapat menghukumnya berdasarkan undang-undang pornografi anak… dan ini berbeda dalam arti tidak ada pelecehan seksual terhadap anak yang terjadi,” jelas Seorang profesor di Fakultas Hukum Universitas Virginia Danielle Citron.
"Tetapi rasa terhina dan perasaan diubah menjadi sebuah objek, melihat orang lain melihat Anda sebagai objek seks dan cara Anda menginternalisasi perasaan itu… sangat mengganggu harga diri sosial Anda," lanjutnya.
Lalu, bagaimana cara melindungi gambarmu?
Orang-orang dapat mengambil beberapa langkah kecil untuk membantu melindungi diri mereka dari penggunaan gambar yang tidak diinginkan.
Baca Juga: Elon Musk Berhasil Tanam Chip ke Otak Manusia! Penggunanya Bisa Telepati!
Pakar keamanan komputer dari perusahaan layanan TI Firewall Technical David Jones menyarankan, agar orang-orang mempertimbangkan untuk menjaga privasi profil dan hanya berbagi foto dengan orang-orang tepercaya.
“Karena kamu tidak pernah tahu siapa yang dapat melihat profilmu,” ujarnya.
Banyak orang yang berpartisipasi dalam ‘revenge porn’ telah mengetahui target mereka, jadi membatasi apa yang dibagikan secara umum adalah cara yang paling aman.
Selain itu, alat yang digunakan untuk membuat gambar eksplisit juga memerlukan banyak data mentah dan gambar yang menampilkan wajah dari berbagai sudut, sehingga semakin sedikit seseorang yang harus mengerjakannya.
Namun Jones memperingatkan bahwa karena sistem AI menjadi lebih efisien, mungkin saja di masa depan hanya diperlukan satu foto untuk membuat versi deepfake dari orang lain.
Peretas juga dapat mengeksploitasi korbannya dengan mendapatkan akses ke foto mereka.
“Jika peretas bertekad, mereka mungkin mencoba membobol kata sandi Anda sehingga mereka dapat mengakses foto dan video yang Anda bagikan di akun Anda. Jangan pernah menggunakan kata sandi yang mudah ditebak, dan jangan pernah menuliskannya,” imbuh Jones.
Konten ini adalah kiriman dari Z Creators Indozone. Yuk bikin cerita dan konten serumu serta dapatkan berbagai reward menarik! Let's join Z Creators dengan klik di sini.
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber: CNN International