Engineer Microsoft Geram Lihat Gambar Buatan AI yang Melampaui Batas Keamanan

Ilustrasi AI.

INDOZONE.ID - Shane Jones, seorang engineer kecerdasan buatan atau ArtificiaI Intelligence (AI) di Microsoft mengaku geram lantaran Microsoft mengabaikan masalah keamanan pada generator gambar AI.

Jones mengaku telah menyatakan upayanya berulang kali untuk memperingatkan manajemen Microsoft terkait kurangnya perlindungan dasar untuk mencegah pembuatan gambar-gambar tidak pantas atau bahkan mengerikan dari generator gambar yang diciptakan oleh AI besutan Microsoft sendiri.

Ia bahkan mengatakan telah mengirimkan surat yang langsung tertuju pada Komisi Perdagangan Federal atau Federal Trade Commission (FTC) dan dewan direksi Microsoft, namun masih belum menghasilkan tindakan apapun.

Surat yang disampaikan Jones tersebut berfokus pada masalah mengenai Copilot Designer Microsoft (sebelumnya bernama Bing Image Creator) yang dapat membuat gambar hanya berdasarkan perintah teks dan didukung oleh sistem teknologi kecerdasan lainnya buatan DALL-E 3 dari OpenAI.

Baca Juga: Kenali Ancaman Peretasan Perangkat Gadget: Ciri-ciri dan Tindakan Pencegahan

Menurut Jones, Copilot Designer memiliki masalah sistemik yang dapat membuat konten berbahaya karena tidak adanya batasan yang tepat dalam penggunaannya.

Bahkan cenderung menghasilkan gambar yang dapat menimbulkan penyebaran konten yang sifatnya disinformasi, misoginis, rasis, kekerasan, atau yang mengobjektifikasi perempuan secara seksual.

Menurut Jones, kekhawatirannya terhadap keamanan ini yang harus segera dihapus dan ditindaklanjuti dari penggunaan publik sampai perusahaan dapat memperbaiki hasilnya dengan sistem keamanan yang terjamin tanpa merugikan pihak manapun, terlebih ketika semua pihak sadar atas dasar resiko buruk terhadap kecanggihan AI sekarang ini.

Copilot Designer merupakan salah satu alat dari beberapa pembuat gambar AI generatif yang telah diluncurkan selama setahun terakhir dan perusahaan telah mengiklankannya secara gencar sebagai cara revolusioner dengan menggabungkan teknologi AI ke dalam dunia bisnis dan usaha kreatif yang produknya dapat diakses secara bebas oleh publik.

Baca Juga: Teknologi Deep Green: Layang-Layang Bawah Air yang Mampu Hasilkan Listrik 1,6 Gigawatt

Namun sayangnya keamanannya masih belum dapat terjamin secara menyeluruh lantaran kerentanan keamanan Copilot yang memungkinkan pengguna melewati batas-batas keamanan dalam membuat konten berbahaya.

Seperti pada bulan Januari di mana Microsoft kemudian memperbarui Copilot Designer karena masalah keamanan yang serupa dengan menutup celah kode AI setelah gambar-gambar palsu yang mengobjektifikasi Taylor Swift secara seksual tersebar luas di media sosial.

Mengutip dari The Guardian (6/3/2024), terkait masalah ini pihak Microsoft menyatakan bahwa mereka memiliki tim khusus yang mengevaluasi potensi masalah keamanan dan telah memfasilitasi pertemuan antara Shane Jones dengan pihak kantor AI yang bertanggung jawab atas masalah ini.

“Kami berkomitmen untuk menangani setiap dan semua masalah yang dimiliki karyawan sesuai dengan kebijakan perusahaan dan menghargai upaya karyawan dalam mempelajari dan menguji teknologi terbaru kami untuk lebih meningkatkan keamanannya,” kata juru bicara Microsoft.

Alat gambar AI generatif telah mengalami masalah berulang kali karena telah menghasilkan konten berbahaya dan memperkuat bias yang biasanya dikaitkan dengan bias terhadap kelompok tertentu.

Google baru-baru ini menangguhkan alat AI Gemini setelah alat tersebut menimbulkan banyak kontroversi publik karena menghasilkan gambar orang kulit berwarna, ketika diminta untuk menunjukkan tokoh-tokoh sejarah seperti Paus, Viking, dan tentara Nazi.

Konten ini adalah kiriman dari Z Creators Indozone.Yuk bikin cerita dan konten serumu serta dapatkan berbagai reward menarik! Let's join Z Creators dengan klik di sini.

Banner Z Creators.