Model AI Bobot Terbuka Naik Kelas: Kenapa Pemilik Bisnis Indonesia Perlu Tahu

Suatu sore minggu lalu, seorang klien menelepon dengan pertanyaan yang jarang saya dengar dari pemilik usaha kecil. Ia sedang menyiapkan sistem internal untuk mengelola data pelanggan dan stok, dan ia bertanya: “Kalau saya pakai AI untuk membaca dokumen supplier saya, data itu pergi ke mana?”

Pertanyaan itu bagus, dan jawabannya belum pernah sesederhana ini. Selama ini kebanyakan orang memakai AI lewat layanan awan: Anda mengetik, kalimatnya berjalan ke server perusahaan lain, jawabannya kembali. Untuk banyak hal itu tidak masalah. Tapi begitu yang Anda kirim adalah daftar harga supplier, kontrak kerja, atau data pelanggan, pertanyaan “pergi ke mana” berubah menjadi pertanyaan hukum dan bisnis.

Dan minggu ini, ada dua peristiwa yang membuat jawaban atas pertanyaan itu bergeser cukup jauh.

Dua peristiwa, satu arah yang sama

Peristiwa pertama terjadi Selasa, 6 Oktober 2026. Laboratorium AI Prancis, Mistral AI, membuka pratinjau publik untuk Mistral Large 4 — model dengan satu triliun parameter, atau lebih tepatnya 1,05 triliun total dengan 52 miliar parameter aktif. Nama panggilan internalnya “Le Chonk”, dan bagi mereka yang mengikuti dunia AI, angka itu langsung bercerita: ini bukan model kecil.

Yang membuatnya penting bukan hanya ukurannya, tapi kalimat di pengumuman resmi Mistral: bobot modelnya akan dirilis akhir Oktober 2026. Setelah itu, siapa pun — termasuk perusahaan di Indonesia — bisa mengunduh, menjalankannya di server sendiri, dan memakainya tanpa memanggil layanan pihak lain.

Peristiwa kedua agak berbeda bentuknya, tapi searah. Dalam rangkaian pengumuman soal agen AI dan layanan komputasi awan sepanjang pekan ini, terlihat bahwa permainan AI korporat kini berputar di dua kutub sekaligus: satu kutub menawarkan agen yang tersambung penuh ke sistem perusahaan, kutub lain menawarkan model yang bisa dilepas dari awan sama sekali.

Bagi pemilik bisnis di Indonesia, pertanyaan yang perlu dijawab bukan “model mana yang paling pintar”, melainkan “untuk pekerjaan ini, saya mau datanya berjalan ke mana?”

Apa itu model berbobot terbuka, sebenarnya

Istilah “open weight” sering disalahpahami sebagai “open source”. Keduanya tidak sama. Open source penuh — dalam arti yang dipakai lembaga seperti Open Source Initiative — menuntut empat kebebasan: memakai, mempelajari, mengubah, dan membagikan, yang berarti kode pelatihan dan informasi datanya juga harus tersedia. Model berbobot terbuka hanya merilis hasil pelatihannya: sekumpulan besar angka yang menjadi “otak” model itu.

Bedanya penting karena satu alasan praktis. Bobot adalah larik angka, bukan kode yang berjalan sendiri. Kalau Anda meletakkannya di server Anda, tidak ada panggilan jaringan yang keluar saat model menjawab. Prosesnya murni dari bobot dan masukan menjadi keluaran.

Itu terdengar seperti detail teknis, padahal ini sumber dari tiga hal yang biasanya dicari perusahaan:

Kendali data. Teks yang Anda kirim tidak pernah meninggalkan server Anda. Untuk data pelanggan, data medis, dokumen hukum, atau apa pun yang diikat perjanjian kerahasiaan, ini bukan sekadar nilai tambah.

Kebebasan lisensi. Sebagian model berbobot terbuka memakai lisensi Apache 2.0 atau MIT. Artinya bobotnya bisa dipakai, disetel ulang, dan disematkan ke dalam produk komersial tanpa meteran per token. Model lain memakai lisensi khusus, dan itu wajib dibaca lebih dulu sebelum dipakai berbisnis.

Biaya pada volume tinggi. Ini perlu diperjelas karena sering terdengar menyesatkan: bobot gratis, tapi menjalankannya tidak gratis. Anda tetap membutuhkan kartu grafis. Yang berubah adalah bentuk biayanya — dari biaya per pemakaian menjadi biaya perangkat yang bisa disusutkan.

Sebagai gambaran kasar yang biasa dipakai untuk memperkirakan kebutuhan perangkat: bobot model butuh sekitar 0,5 GB memori grafis per miliar parameter pada kuantisasi 4-bit, sekitar 1 GB pada 8-bit, dan sekitar 2 GB pada presisi 16-bit, ditambah 15–20 persen untuk beban sistem serta memori cache percakapan.

Angka yang perlu dipegang sebelum bermimpi self-hosting

Di sinilah banyak diskusi soal AI lokal berhenti: membayangkan semua model bisa jalan di server kantor. Tabel berikut memakai angka yang beredar di kalangan praktisi untuk memberi rasa proporsi, bukan untuk meremehkan.

Kesimpulan praktis dari tabel ini: self-hosting bukan satu-satunya jalan menuju kendali data, dan bagi sebagian besar UMKM Indonesia, ia bahkan bukan jalan yang paling masuk akal. Yang masuk akal adalah memilih dengan sadar.

Ada juga jalur dalam negeri yang sering dilupakan

Perbincangan soal model berbobot terbuka di Indonesia biasanya mengarah ke dua nama luar negeri. Padahal ada satu proyek lokal yang menarik disebut: Sahabat-AI.

Proyek ini digagas GoTo dan Indosat Ooredoo Hutchison bersama AI Singapore dan sejumlah universitas Indonesia. Modelnya berukuran 70 miliar parameter (versi kedua berbasis Llama 3.1, jendela konteks 128 ribu token), dan yang membedakannya dari model global adalah cakupan bahasanya: bahasa Indonesia plus beberapa bahasa daerah — Jawa, Sunda, Bali, dan Batak Toba.

Dua hal yang layak dicatat dari proyek ini. Pertama, bobotnya dirilis terbuka di Hugging Face, sehingga bisa diunduh dan dijalankan sendiri. Kedua, ada jalur layanan awan dalam negeri lewat penyedia yang menyediakan API kompatibel OpenAI, dengan infrastruktur data dan GPU berada di Indonesia.

Perlu jujur soal batasnya: model ini bukan model kelas terdepan dan tidak dibangun untuk itu. Untuk mengobrol bebas, model besar global jelas lebih kuat. Tapi untuk kebutuhan yang menuntut kefasihan bahasa Indonesia dan kepatuhan penempatan data, ia opsi serius yang gratis untuk dicoba.

Cara memilih: tiga pertanyaan sebelum memutuskan

Pertanyaan pertama: seberapa sensitif datanya? Kalau yang Anda kirim adalah teks pemasaran, ringkasan berita publik, atau draf caption, memakai layanan awan adalah pilihan yang paling efisien. Kalau yang Anda kirim adalah rekam medis, data gaji, atau kontrak klien, bobot di server sendiri berubah dari kemewahan menjadi kebutuhan.

Pertanyaan kedua: seberapa besar dan sesering apa pemakaiannya? Layanan awan selalu lebih murah untuk pemakaian rendah atau naik-turun. Server sendiri mulai menang ketika beban kerjanya stabil dan tinggi, karena biayanya jadi tetap dan bisa disusutkan seperti peralatan kantor.

Pertanyaan ketiga: siapa yang merawatnya? Ini yang paling sering dilewatkan. Model yang Anda jalankan sendiri berarti Anda yang menanggung pembaruan, pemantauan, dan pemulihan ketika bermasalah. Kalau tidak ada orang IT atau vendor yang mengurusnya, biaya tersembunyinya jauh lebih besar dari selisih harga token.

Kalau Anda ingin mencoba minggu ini, mulai dari yang kecil

Anda tidak perlu memutuskan soal server sendiri sekarang. Cara memulai yang lebih aman, dan yang biasa saya sarankan ke klien, adalah mencoba dengan beban kerja kecil dulu supaya keputusannya berdasar pengalaman, bukan spekulasi.

• Pilih satu pekerjaan yang datanya paling sensitif dari daftar tugas harian Anda — misalnya merangkum dokumen penawaran supplier, atau mengekstrak data dari foto nota.
• Catat berapa kali pekerjaan itu muncul per minggu dan berapa lama tiap pengerjaannya. Angka ini yang nanti dibandingkan dengan biaya alternatif, bukan perasaan “kayaknya AI lebih cepat”.
• Coba dulu lewat layanan awan dengan data yang sudah disamarkan. Ganti nama pelanggan dengan kode, ganti nomor telepon, uji mutu jawabannya. Di sini Anda belajar apakah modelnya memang membantu untuk pekerjaan itu.
• Baru setelah itu bandingkan dengan opsi model yang bisa berjalan di tempat Anda. Masuk akal atau tidak sangat tergantung hasil langkah 2: pekerjaan yang muncul sepuluh kali sehari dengan dokumen besar masuk hitungan untuk server sendiri, pekerjaan yang muncul sekali seminggu tidak.

Urutan ini penting karena alasan praktis: keputusan self-hosting yang diambil tanpa pengukuran beban kerja hampir selalu berakhir dengan perangkat mahal yang menganggur, atau sebaliknya, langganan awan yang membengkak tanpa pernah dievaluasi.

Dua hal lagi yang perlu diperiksa sebelum melangkah: siapa pemilik data yang Anda kirim ke layanan pihak ketiga (biasanya ada di perjanjian layanan, dan jawabannya sering berbeda antar penyedia), dan apakah ada kewajiban penyimpanan data di dalam negeri yang mengikat industri Anda. Untuk sektor yang diatur ketat — keuangan, kesehatan, layanan publik — jawaban atas pertanyaan kedua sering kali langsung menentukan pilihan, terlepas dari harga.

Apa artinya untuk pembaca Indonesia

Tren pekan ini bukan soal “model Eropa mengalahkan model Amerika”. Yang berubah adalah pilihan. Selama beberapa tahun, memakai AI mutakhir berarti menerima satu paket: model bagus, data berjalan ke perusahaan lain, biaya per pemakaian. Sekarang ada lebih dari satu bentuk: model yang bisa diunduh, model lokal berbahasa daerah, dan model di awan dengan beragam tingkat kendali.

Untuk pemilik bisnis, langkah paling berguna bukan memilih satu model hari ini, melainkan memisahkan pekerjaan AI Anda menjadi dua keranjang. Keranjang pertama: pekerjaan yang datanya tidak masalah keluar rumah — riset pasar, draf konten, brainstorm. Keranjang kedua: pekerjaan yang datanya harus tinggal di dalam — nama pelanggan, nomor transaksi, isi kontrak.

Begitu dua keranjang itu ada, keputusan teknisnya menjadi jauh lebih sederhana. Keranjang pertama cukup dengan layanan awan yang sudah Anda pakai. Keranjang kedua butuh model yang benar-benar berjalan di tempat Anda, dan sejak awal Oktober ini, opsi untuk itu makin banyak dan makin masuk akal.

Pertanyaan klien saya sore itu berubah bentuk setelah kita bicara. Ia tidak lagi bertanya “AI mana yang paling pintar”, melainkan “mana yang datanya tidak perlu keluar kantor”. Pertanyaan kedua itu jauh lebih mudah dijawab, dan minggu ini, jawabannya jadi lebih murah daripada tahun lalu.