Diffusion Model Jalan di RP2350, Bukti AI Lokal Makin Terjangkau

Gue selalu suka proyek yang nunjukin AI nggak harus selalu dijalanin di server gede. Nah, baru-baru ini muncul proyek yang berhasil jalanin diffusion model di RP2350, mikrokontroler buatan Raspberry Pi.

Hasilnya emang jauh dari sempurna. Resolusi cuma 128x128, cuma bisa generate gambar wajah manusia, dan tiap gambar butuh sekitar 20 detik. Tapi buat chip sekecil itu, ini kerjaan yang cukup gila.

Yang berhasil dibangun

Proyek ini jalan di Waveshare RP2350 development board. Gambar hasil generate bisa dikeluarin lewat USB atau ditampilkan pake adapter VGA. Bukan sekadar model yang dipaksa jalan, arsitekturnya dirancang ulang biar muat di resource yang super terbatas.

Motivasinya juga masuk akal. Banyak orang mulai tertarik sama AI yang bisa jalan lokal karena alasan privasi, fleksibilitas, dan biaya. Kalau model bisa dijalanin di perangkat sendiri, data nggak perlu dikirim ke layanan cloud pihak lain.

Gimana caranya

Model ini nggak langsung bikin gambar dari noise. Dia generate distribusi di latent space, terus decoder dari variational auto-encoder yang nerjemahin jadi gambar. Auto-encoder-nya dilatih dua bagian, encoder buat mengubah gambar jadi representasi ringkas, decoder buat kebalikannya.

Buat yang sering denger istilah latent space tapi belum paham maksudnya, bayangin aja ruang berisi versi ringkas dari semua informasi visual. Model kerja di ruang yang lebih kecil dan hemat itu, baru hasil akhirnya diterjemahin ke pixel. Strategi inilah yang bikin semuanya muat di mikrokontroler.

Diffusion model di RP2350 emang belum siap dipake produksi. Tapi proyek semacam ini yang bikin batas antara server enterprise dan perangkat kecil makin tipis. Buat gue, langkah kecil kayak gini sering jadi awal dari tren besar.

Sumber: Running Generative AI on an RP2350