Gambar Polos Bisa Dipake buat Ngehack AI. Ini Caranya.

Selama ini kita mikir kalau ancaman buat AI safety itu datang dari prompt yang dirancang khusus. Ternyata ada celah baru yang jauh lebih subtle: gambar yang keliatannya biasa aja buat mata manusia, tapi bisa ngejebol pertahanan AI multimodal.

Ini bukan teori doang. Peneliti dari Florida International University udah ngembangin teknik yang namanya JaiLIP, dan hasilnya lumayan meresahkan.

Cara kerjanya gimana

JaiLIP atau Jailbreaking with Loss-guided Image Perturbation bekerja dengan cara ngubah gambar secara halus. Modifikasinya kecil banget, nggak keliatan sama mata manusia. Tapi buat model AI kayak BLIP-2, perubahan ini cukup buat ngebuat AI ngeluarin respons yang nggak seharusnya.

Gampangnya, lo upload foto keliatan polos. Tapi di mata AI, foto itu adalah instruksi buat ngelanggar safety guidelines-nya sendiri. Peneliti nemuin bahwa metode ini hampir dua kali lipat lebih efektif dibanding teknik jailbreak berbasis gambar sebelumnya.

Kenapa ini krusial buat bisnis

Ini bukan cuma masalah akademis. Banyak perusahaan sekarang udah deploy AI multimodal yang nerima input gambar dan teks. Mulai dari customer service chatbot yang bisa baca screenshot, sampe sistem moderasi konten otomatis.

Kalau celah kayak gini nggak ditangani, bayangin dampaknya. Seorang attacker bisa ngirim gambar yang keliatan normal ke sistem AI lo, dan tiba-tiba AI lo ngasih akses ke data sensitif atau ngehasilin konten berbahaya. Dan lo nggak bakal curiga karena dari sisi lo, yang dikirim cuma gambar biasa.

Ancaman AI safety makin kompleks. Nggak cukup cuma waspada sama prompt aneh, sekarang gambar polos pun bisa jadi senjata. Buat yang serius ngurusin AI di produksi, riset JaiLIP ini wajib dibaca.

Sumber: How a Seemingly Harmless Image Can Jailbreak Vision-Language AI Models