Moat LLM Kini Cuma Soal Hardware, Bukan Model

Ada istilah moat di dunia bisnis. Artinya kualitas yang bikin kompetitor susah nyerbu profit kita. Dulu orang ngira perusahaan LLM kayak OpenAI dan Anthropic punya moat raksasa karena biaya training yang gila-gilaan.

Ternyata moat itu lagi cepat kering. Open source model makin nempel di belakang, dan yang jadi pembatas sekarang cuma resource komputasi fisik.

Moat yang mulai kering

Selama ini argumennya simpel. Training model besar butuh compute luar biasa, jadi cuma segelintir perusahaan yang bisa main di liga ini. Moat-nya kebaca kokoh.

Tapi model open source terus naik kelas. Sekarang jarak kualitasnya sama model komersial makin tipis. Orang nggak perlu lagi bergantung ke API berbayar kalau model yang oke bisa dijalanin sendiri.

Yang bisa jalan di hardware pribadi

TerminalBytes nunjukin kondisi terkini lewat beberapa model yang dijalanin di komputer pribadi. Mulai dari Qwen3.8 versi 27B yang nyala di Mac Studio dengan 256 GB unified RAM.

RAM segede itu emang masih kategori mahal buat kebanyakan orang, tapi arahnya jelas. Model yang dulu butuh server gede sekarang bisa hidup di hardware lokal. Benchmark kayak gini penting buat ngukur batas realistis self-hosting.

Moat beneran pindah dari model ke hardware. Buat yang punya mesin mumpuni, sekarang waktunya nyobain self-host. Buat yang belum, nggak apa-apa, model open source bakal makin ringan dan makin ngebut ke depannya.

Sumber: LLM Moats Quickly Evaporating