Para peneliti di Facebook telah mengembangkan perangkat lunak AI yang dapat mengidentifikasi gambar palsu yang, dengan mata telanjang, mungkin terasa seperti asli, dan membantu melacak asal-usulnya.
Di tengah banyaknya deepfake realistis yang menakutkan secara online, terutama yang dengan Tom Cruise melakukan hal-hal acak yang biasanya tidak pernah dia lakukan. Meskipun semuanya bagus saat menyenangkan, deepfake juga dapat disalahgunakan untuk membagikan informasi yang menyesatkan.
Untuk mengatasi hal ini, para peneliti Facebook telah mengembangkan mekanisme penelusuran deepfake baru yang mencari celah yang tertinggal selama pembuatan deepfake untuk mengubah sidik jari digital gambar atau video.
Pada dasarnya, ia mencari tempat-tempat deepfake gagal dalam membuat topeng dan menggunakannya sebagai sidik jari untuk melacak asal-usul deepfake.
Baca juga: Akibat Kelaparan, Gajah Ini Mendobrak Dinding Dapur Rumah untuk Mencari Makanan
“Metode rekayasa balik kami bergantung pada pengungkapan pola unik di balik model AI yang digunakan untuk menghasilkan satu gambar deepfake. Kami mulai dengan atribusi gambar dan kemudian bekerja untuk menemukan properti model yang digunakan untuk menghasilkan gambar," kata ilmuwan riset Facebook, Xi Yin dan Tal Hassner.
"Dengan menggeneralisasi atribusi gambar ke pengenalan set terbuka, kami dapat menyimpulkan lebih banyak informasi tentang model generatif yang digunakan untuk membuat deepfake yang melampaui pengenalan bahwa itu belum pernah terlihat sebelumnya,” jelasnya.
“Dan dengan menelusuri kesamaan di antara pola kumpulan deepfake, kami juga dapat mengetahui apakah serangkaian gambar berasal dari satu sumber. Kemampuan untuk mendeteksi deepfake mana yang telah dihasilkan dari model AI yang sama dapat berguna untuk mengungkap contoh disinformasi terkoordinasi atau serangan berbahaya lainnya yang diluncurkan menggunakan deepfake,” tambah dia.
Artikel Menarik Lainnya:
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber:
Author
TERPOPULER
TAG POPULER
BERITA TERBARU
