Thinktank Palsu yang Mau Ngatur Jawaban AI

Kalau lo ngira propaganda cuma urusan media sosial, tunggu dulu. Guardian baru aja ngebongkar cara kerja situs berkedok thinktank yang ternyata dibiayain Israel, dengan satu tujuan bikin chatbot ngeluarin argumen yang pro-Israel.

Situsnya dibangun di platform komersial yang katanya bisa ngoptimasi konten biar gampang dikutip chatbot. Jadi ini bukan serangan teknis, tapi perang lewat data dan konten.

Modus operandinya

Situs ini pakai nama thinktank yang sebenarnya nggak ada. Dalam sembilan hari, mereka publish 124 laporan dengan total lebih dari 560 ribu kata. Semua topiknya berat, mulai dari penyiksaan tahanan Palestina sampai tuduhan war crimes, tapi disajikan sebagai riset yang netral.

Analisis Guardian nunjukin pola yang nggak wajar. Produksi konten sebanyak itu dalam waktu singkat jelas bukan kerja manusia normal, tapi hasil otomasi yang dirancang buat ngisi sumber yang bakal dikutip AI.

Kenapa ini bahaya

Semakin banyak orang yang makin percaya sama jawaban AI chatbot. Kalau sumber yang bakal dikutip model bisa diisi konten terorganisir kayak gini, hasilnya jadi alat propaganda yang nggak disadari. Chatbot kelihatan netral, padahal datanya udah diarahin dari belakang.

Bahayanya justru di situ. Orang nggak lagi baca sumber aslinya, mereka nerima kesimpulan yang udah dikunyah AI. Dan kalau sumbernya kotor, kesimpulannya ikut kotor.

AI bukan alat yang netral otomatis, dia cermin dari data yang dia konsumsi. Selama data bisa di-game, output AI juga bisa di-game. Mungkin ini waktunya kita mulai curiga sama riset yang keliatan terlalu mulus.

Sumber: Fake US thinktank set up and funded by Israel sought to game AI for propaganda