ARTIKEL PENELITIAN · Vol. 1 No. 1 (2026)
Ambang Konsolidasi Tenant pada Arsitektur SaaS Multi-Tenant: Model Antrean M/M/c untuk Menyeimbangkan Latensi p95 dan Biaya Infrastruktur
Tenant Consolidation Thresholds in Multi-Tenant SaaS Architectures: An M/M/c Queueing Model for Balancing p95 Latency and Infrastructure Cost
- Ianstudios Institute
Abstrak
Konsolidasi banyak tenant pada satu node adalah sumber utama efisiensi biaya aplikasi Software as a Service (SaaS) multi-tenant, tetapi menaikkan antrean dan memperpanjang ekor latensi. Penelitian ini menurunkan ambang konsolidasi, yaitu jumlah tenant terbanyak per node yang masih memenuhi target tingkat layanan (SLO) latensi persentil ke-95 (p95), memakai model antrean M/M/c dengan rumus Erlang C dan distribusi waktu tinggal eksak. Model divalidasi dengan simulasi kejadian diskrit (10 replikasi × 110.000 permintaan per skenario). Pada konfigurasi dasar (8 worker, waktu layanan rata-rata 40 ms, 2 permintaan/detik per tenant), 60 tenant per node menghasilkan utilisasi 60,0%, peluang menunggu 14,0%, latensi rata-rata 41,7 ms, dan latensi p95 122,3 ms. Ambang konsolidasi untuk SLO p95 200 ms adalah 90 tenant per node, dengan biaya Rp48.667 per tenant per bulan, 91,1% lebih rendah daripada isolasi penuh. Galat p95 model terhadap simulasi kurang dari 0,3% pada seluruh skenario. Hasil juga menunjukkan bahwa latensi rata-rata menyembunyikan lonjakan ekor: setelah utilisasi sekitar 80%, p95 naik jauh lebih cepat daripada rata-rata, dan bila waktu layanan 80 ms, SLO tidak dapat dicapai berapa pun jumlah worker-nya. Model, data, dan kode dibuka untuk diuji ulang pembaca melalui Lab Simulasi.
Kata kunci: SaaS multi-tenantteori antreanErlang Clatensi ekorperencanaan kapasitasbiaya cloud
Abstract
Consolidating many tenants on one node is the main source of cost efficiency in multi-tenant Software as a Service (SaaS) applications, but it lengthens queues and the latency tail. This study derives the consolidation threshold, the largest number of tenants per node that still meets a 95th-percentile (p95) latency service level objective (SLO), using an M/M/c queueing model with the Erlang C formula and the exact sojourn-time distribution. The model is validated against discrete-event simulation (10 replications of 110,000 requests per scenario). In the base configuration (8 workers, 40 ms mean service time, 2 requests/s per tenant), 60 tenants per node yield 60.0% utilisation, a 14.0% waiting probability, 41.7 ms mean latency, and 122.3 ms p95 latency. The threshold for a 200 ms p95 SLO is 90 tenants per node, at Rp48,667 per tenant per month, 91.1% cheaper than full isolation. The p95 error against simulation is below 0.3% in all scenarios. Mean latency hides the tail surge beyond about 80% utilisation, and with an 80 ms service time the SLO cannot be met regardless of the number of workers. The model, data, and code are open for readers to re-run in the Simulation Lab.
Lab Simulasi
✓ Angka Terverifikasi 5/5Geser parameter dan lihat grafik, angka, serta kesimpulan artikel dihitung ulang dari model penulis, langsung di browser Anda. Uji juga di titik mana klaim mulai gagal.
1 Laporan Uji dari pembaca telah diteruskan ke editor dan penulis.
Klaim Nanopublikasi
3 klaimTemuan utama artikel ini diterbitkan sebagai pernyataan yang dapat dibaca mesin, ditandatangani jurnal atas nama penulis, dan dikunci dengan Trusty URI sehingga isinya dapat diverifikasi siapa saja.
- Kondisi
- Model M/M/c, 8 worker per node, waktu layanan rata-rata 40 ms, 2 permintaan/detik per tenant
- Bukti
- Gambar 1, Tabel 3
https://w3id.org/np/RATl7B8bf5Ptb2k9NQ2JINbXzBS6onT_NzUH9C5erZ6mU- Kondisi
- Harga node diasumsikan sebanding jumlah worker; ambang 90 tenant per node
- Bukti
- Gambar 2, Tabel 4
- Wilayah validitas
- Tenant per node: 1–90 tenant; Laju permintaan per tenant: 0,2–1,4 req/dtk; Waktu layanan rata-rata: 5–28 ms; Worker per node: 11–32 worker (Uji Batas)
https://w3id.org/np/RA1WRrR7R2J0x4-R4XFYewVYa8x6MAiE56P1ccwlWvC2I- Kondisi
- N = 30 sampai 90 tenant, 10 replikasi x 110.000 permintaan per skenario
- Bukti
- Tabel 2
https://w3id.org/np/RAJYAZfwqSo8Xn9pk9kfe__GgtEan2Iq_O1qwRM4CaS08Kode & Data
Proof-of-DataHasil penelitian ini dapat dijalankan ulang langsung di browser Anda (WebAssembly). Sidik SHA-256 setiap berkas diverifikasi otomatis.
- kode analisis.py SHA-256 0f97fe557745…
- kode gambar.py SHA-256 e1fa5be3d816…
- kode model_saas.py SHA-256 6ab985dbd004…
- kode reproduksi.py SHA-256 3caca06d7f8d…
- kode validasi_des.py SHA-256 eb45a3b4c6b4…
- data klaim_nanopublikasi.json SHA-256 f1dd7b208bf2…
- data manifest_lab_simulasi.json SHA-256 5e4b90a5b55b…
- data perbandingan_biaya.csv SHA-256 0c37c10b3302…
- data sapuan_tenant.csv SHA-256 4dbcd094ceb9…
- data sensitivitas.csv SHA-256 ac1d75e437ec…
- data validasi_des.csv SHA-256 ee7808648bbd…
Pernyataan penggunaan AI
Penulis menggunakan Gemini Argon 4 untuk pembuatan kode program, analisis data, penyuntingan bahasa & tata bahasa. Seluruh hasil bantuan AI telah ditinjau dan disunting oleh penulis, yang bertanggung jawab penuh atas isi publikasi.
Cara mengutip
Wasian, A. (2026). Ambang Konsolidasi Tenant pada Arsitektur SaaS Multi-Tenant: Model Antrean M/M/c untuk Menyeimbangkan Latensi p95 dan Biaya Infrastruktur. Journal Of Information & Technology, 1(1), 9. https://doi.org/10.5555/jit.v1i1.d3a3ec8c