Real-time atau Batch? Keputusan Pertama dalam Membangun Audit Rak dari Foto Lapangan
Kapan audit rak dari foto lapangan perlu inference real-time, kapan cukup batch lewat queue. Tabel keputusan untuk SI, dengan foto dan GPU tetap di Jakarta.
Inference real-time hanya diperlukan kalau hasil audit rak harus dipakai sales sebelum meninggalkan toko. Untuk kebutuhan lain, seperti dashboard supervisor atau review trade marketing, pola asynchronous lewat queue biasanya lebih sederhana, lebih tahan saat jam sibuk, dan lebih hemat GPU.
Build Log, format pola: satu keputusan desain dari pola audit rak yang bisa dibangun di IONext, bukan laporan proyek.
Kenapa keputusan ini perlu diambil paling awal?
Pilihan real-time atau batch menentukan cara aplikasi menunggu hasil, kapasitas GPU yang harus selalu siap, penanganan peak load, dan perilaku sistem saat sinyal di toko lemah. Kalau baru diubah setelah go-live, SI harus membongkar alur aplikasi lapangan sekaligus kesepakatan layanan dengan klien.
Dalam pola audit rak dan kepatuhan planogram, upload foto biasanya menumpuk di sore hari, setelah kunjungan terakhir. Kalau semua foto diproses real-time, kapasitas GPU harus disiapkan untuk jam tersibuk itu, dan sebagian besar waktu lainnya terbuang. Karena itu, pertanyaan pertama untuk klien bukan soal model, melainkan soal pemakai: siapa yang membaca hasil audit, dan kapan hasilnya dibutuhkan?
Kapan perlu real-time, kapan cukup batch?
Setiap kebutuhan klien sebaiknya dipetakan ke pola inference-nya sendiri. Biasanya hanya satu atau dua kebutuhan yang benar-benar memerlukan jawaban saat sales masih di toko. Sisanya bisa diproses beberapa menit atau beberapa jam kemudian tanpa mengurangi nilai bisnisnya.
| Kebutuhan klien | Pola yang disarankan | Konsekuensi di sisi infrastruktur |
|---|---|---|
| Sales perlu foto ulang kalau foto blur atau gelap | Real-time di device | Tidak memerlukan GPU server. Pengecekan kualitas berjalan di aplikasi. |
| Sales harus melengkapi SKU wajib sebelum keluar toko | Real-time di GPU Jakarta, khusus SKU prioritas | GPU harus siap selama jam kunjungan. Aplikasi memerlukan fallback saat sinyal lemah. |
| Supervisor memantau kepatuhan harian | Asynchronous lewat queue | Foto diproses berurutan, sehingga lonjakan upload di sore hari tidak membuat request gagal. |
| Trade marketing melakukan review mingguan atau verifikasi klaim display | Batch terjadwal di jam sepi | GPU bisa dipakai bergantian dengan job fine-tuning ulang model. |
Untuk pola asynchronous dan batch, inference server seperti NVIDIA Triton menyediakan dynamic batching: beberapa request digabung menjadi satu batch di sisi server. Fitur ini membantu GPU bekerja lebih efisien saat antrean panjang, tanpa perlu mengubah aplikasi lapangan. Triton bisa dijalankan SI sendiri di VM.
Checklist sebelum memilih pola
- Tanyakan ke klien siapa yang memakai hasil audit dan kapan, untuk setiap jenis pengguna.
- Batasi real-time hanya untuk keputusan yang harus diambil di toko.
- Pindahkan pengecekan kualitas foto ke device agar tidak memakai GPU server.
- Simpan foto di object storage Jakarta dan kirim ID foto saja lewat queue, supaya foto tidak tersebar di message broker dan lognya.
- Siapkan fallback offline: foto tetap tersimpan di aplikasi dan dikirim ulang saat sinyal kembali.
- Catat pola yang dipilih di dokumen desain dan kesepakatan layanan dengan klien.
Di mana peran IONext?
IONext menyediakan GPU di Jakarta, yaitu NVIDIA L40S 48GB dan NVIDIA RTX PRO 6000 Blackwell SE 96GB, serta object storage dan VM di workspace ORBIT untuk menjalankan pola real-time maupun batch. IONA membaca sinyal production, misalnya pipeline yang "macet" dan resource yang ter-expose.
Pemilihan pola, aplikasi lapangan, model deteksi, dan kesepakatan layanan dengan klien tetap dikerjakan SI. Detail lokasi data dan sertifikasi ISO/IEC 27001:2022 ada di halaman Keamanan dan Kepatuhan.
Coba bangun kedua pola ini: daftar di IONext Console, lalu jelajahi ORBIT dan IONA. SI yang ingin membawa pola ini ke klien FMCG atau ritel bisa membahasnya lewat Program Mitra IONext.
Sumber
- NVIDIA Triton Inference Server, dokumentasi Dynamic Batcher, diakses 3 November 2026
- Computer Vision untuk Retail dan FMCG: Audit Rak dan Kepatuhan Planogram dari Foto Lapangan
- Merangkum Laporan Kunjungan Toko dengan LLM di Jakarta: Pola Arsitektur untuk SI
IONext adalah infrastruktur AI berdaulat yang di-host di Indonesia, dioperasikan oleh PT Data Awan Nusantara di Jakarta. IONext menyediakan GPU as a Service, managed inference melalui API yang kompatibel dengan OpenAI, dan hosting model open-weight, bersertifikat ISO/IEC 27001:2022 oleh TÜV NORD.