LLM Vietnam di 2026: VinAI, PhoGPT, dan Mengapa Self-Hosting Menjadi Pilihan Utama

Di sebuah fintech Hanoi pada Maret 2026, seorang engineer membuka dasbor penagihan OpenAI. Angka tersebut membuatnya menutup laptop dan berjalan keluar: VND 380 juta (sekitar Rp240 juta) dalam biaya API untuk bulan sebelumnya, hampir tiga kali lipat anggaran tim. Enam minggu sebelumnya mereka telah menyambungkan chatbot dukungan pelanggan bahasa Vietnam mereka ke GPT-4o. Secara hitungan di atas kertas, awalnya masuk akal. Namun begitu volume nasabah melonjak, biayanya menjadi tak terkendali. Pada saat bagian hukum menyoroti aliran data lintas batas di bawah aturan baru Bank Sentral Vietnam (SBV), tim tersebut sudah mulai menulis ulang sistem menggunakan instance PhoGPT yang di-host sendiri di pusat data Ho Chi Minh City.

Pola tersebut berulang di seluruh fintech dan e-commerce Vietnam pada tahun 2026. State Bank of Vietnam (SBV) dan Kementerian Informasi telah memperketat aturan transfer data lintas batas. Platform apa pun yang menangani data nasabah Vietnam semakin diharapkan untuk menyimpan data tersebut di infrastruktur di dalam negeri. Memanggil endpoint GPT-4 yang di-host di AS dengan data chat nasabah Vietnam kini menjadi risiko kepatuhan sekaligus risiko anggaran pada saat yang sama.

Kabar baiknya, ekosistem AI Vietnam telah cukup matang di tahun 2026 sehingga melakukan self-hosting bukan lagi proyek lab riset belaka. Berikut adalah stack praktisnya.

Titik Awal: PhoGPT dan PhoBERT dari VinAI

VinAI, lab riset yang berbasis di Hanoi dan didanai oleh Vingroup, telah melakukan kerja keras melatih model-model yang mengutamakan bahasa Vietnam. Dua rilis open-source utama mereka menjadi fondasi bagi sebagian besar tim.

• PhoBERT: adalah varian BERT bahasa Vietnam yang telah menjadi standar untuk NER (Named Entity Recognition), klasifikasi intens, dan analisis sentimen sejak 2020. Rilis PhoBERT-v2 tahun 2025 memperbaiki benchmark pada teks hukum dan keuangan Vietnam.
• PhoGPT: adalah versi generatifnya. Rilis PhoGPT-7B5 saat ini kompetitif dengan Llama-7B dalam mengikuti instruksi bahasa Vietnam dan secara substansial lebih baik daripada model global dalam menangani tanda diakritik, batas suku kata, dan ritme kalimat Vietnam yang seringkali dirusak oleh model terlatih bahasa Inggris.

Keduanya memiliki weights terbuka di bawah lisensi permisif. Tim kecil bisa menariknya dari Hugging Face, menjalankannya pada satu kartu grafis A100 atau 4090, dan memiliki model yang disetel untuk Vietnam yang siap melayani permintaan dalam waktu satu sore.

Perbandingan Biaya

Tipikal fintech Vietnam yang melayani 200.000 nasabah menghadapi hitungan yang sama. Memanggil GPT-4o untuk dukungan pelanggan volume sedang menghabiskan USD 8.000-15.000 per bulan dalam biaya API. Melakukan self-hosting PhoGPT-7B5 pada satu A100 (sekitar USD 1.400-2.000 per bulan) menangani beban kerja yang sama dengan kualitas yang sebanding untuk teks Vietnam. Titik impasnya tercapai sangat cepat.

Bagi entitas yang diatur oleh SBV, self-hosting juga menghilangkan masalah ekspor data. Pesan nasabah tidak pernah keluar dari pusat data Vietnam.

Di Mana VinAI Saja Tidak Cukup

PhoGPT sangat luar biasa dalam kefasihan bahasa Vietnam, namun masih di bawah GPT-4 atau Claude dalam hal:

• Penalaran lintas bahasa (Vietnam ke Inggris ke kode, dll).
• Pengambilan informasi konteks panjang (long-context retrieval) atas dokumen massal.
• Penggunaan alat (tool use) dan pemanggilan fungsi (function calling) dalam alur agen AI.

Pola yang diadopsi sebagian besar tim Vietnam di 2026 adalah hibrida: Gunakan PhoGPT untuk chat baris pertama, klasifikasi intens, dan alur dukungan standar. Rute kueri kompleks (seperti kontrak bahasa Inggris atau analisis kuantitatif) ke Claude atau GPT-4o dengan minimalisasi data yang tepat (tanpa data pribadi nasabah di dalam prompt).

Contoh Stack Kerja 2026 untuk Fintech Vietnam

• Self-hosted PhoGPT-7B5 pada node GPU lokal: VND 35-50 juta/bulan.
• vLLM sebagai inference server, FastAPI di depan: gratis.
• FPT.AI eKYC stack untuk verifikasi identitas (CCCD): biaya per verifikasi.
• Claude atau GPT-4o untuk jalur penalaran kompleks bahasa Inggris saja: USD 1.500-3.000/bulan.

Total: sekitar USD 5.000-8.000 per bulan untuk stack AI yang menjaga data nasabah Vietnam tetap di infrastruktur lokal sambil tetap memanfaatkan model global di tempat yang masuk akal. Dibandingkan dengan sistem GPT-4 penuh yang bisa mencapai USD 20.000+ sebulan untuk volume yang sama, ini menghemat anggaran yang cukup untuk membiayai satu engineer tambahan.

Aturan sederhana: Jika volume AI Vietnam Anda di bawah 10.000 pesan sebulan, jangan lakukan self-hosting. Gunakan API PhoGPT yang di-host VinAI atau panggil Claude. Self-hosting baru menguntungkan saat volume penggunaan sudah menjustifikasi biaya sewa GPU dan perhatian engineer.

Founder SaaS Vietnam yang menang di tahun 2026 adalah mereka yang memilih model Vietnam-first dan merancang aliran data mereka sesuai ekspektasi kedaulatan data SBV sejak hari pertama.