Pria Ini Suntik Prompt di Berkas Pengadilan Buat Lawan AI, Kok Bisa?

Ada cerita gila dari persilangan dunia hukum dan AI. Seorang pria curiga pengadilan pakai AI buat review berkas perkaranya. Respons dia? Nyuntikin instruksi prompt langsung ke dalam dokumen yang dia ajukan, biar hasilnya memihak ke dia.

Apa yang dia lakuin

Intinya dia nempelin perintah tersembunyi di dalam teks berkas pengadilan. Kalau AI beneran baca dan nurutin instruksi itu, keputusan yang keluar bisa nguntungin dia. Ini bentuk prompt injection yang diarahkan ke sistem yang dipakai institusi publik.

Kasus ini menarik karena nunjukin kalau serangan kayak gini nggak cuma ada di aplikasi chat atau API. Begitu AI masuk ke sistem birokrasi dan peradilan, celahnya ikut kebawa.

Kenapa ini soal cybersecurity

Prompt injection itu ancaman yang sering dianggap remeh. Padahal risikonya makin gede seiring AI dipasang di sistem yang ngurus data sensitif, termasuk dokumen hukum.

Kalau sistem nggak punya lapisan yang misahin instruksi sistem dari data input, siapa pun bisa nyoba muterin keputusan AI lewat teks yang kelihatan biasa aja. Ini PR besar buat developer dan pengelola sistem.

Akhir cerita kasus ini mungkin bakal jadi bahan diskusi panjang soal etika dan keamanan AI di ranah hukum. Tapi satu pesannya udah jelas buat gue. AI yang dipasang di sistem publik harus didesain seaman sistem yang ngurus uang. Kalau nggak, orang bakal terus nyari cara buat manipulasi lewat teks.

Sumber: Suspecting court of using AI, man injected prompts in filings to try to win case