Ianstudios InstituteTechnology Research
01a1ddab-120b-71a9-8ad5-9626d3a3ec8c Journal Of Information & TechnologyVol. 1 No. 1 (2026)

ARTIKEL PENELITIAN · Vol. 1 No. 1 (2026)

Ambang Konsolidasi Tenant pada Arsitektur SaaS Multi-Tenant: Model Antrean M/M/c untuk Menyeimbangkan Latensi p95 dan Biaya Infrastruktur

Tenant Consolidation Thresholds in Multi-Tenant SaaS Architectures: An M/M/c Queueing Model for Balancing p95 Latency and Infrastructure Cost

  1. Ianstudios Institute

Abstrak

Konsolidasi banyak tenant pada satu node adalah sumber utama efisiensi biaya aplikasi Software as a Service (SaaS) multi-tenant, tetapi menaikkan antrean dan memperpanjang ekor latensi. Penelitian ini menurunkan ambang konsolidasi, yaitu jumlah tenant terbanyak per node yang masih memenuhi target tingkat layanan (SLO) latensi persentil ke-95 (p95), memakai model antrean M/M/c dengan rumus Erlang C dan distribusi waktu tinggal eksak. Model divalidasi dengan simulasi kejadian diskrit (10 replikasi × 110.000 permintaan per skenario). Pada konfigurasi dasar (8 worker, waktu layanan rata-rata 40 ms, 2 permintaan/detik per tenant), 60 tenant per node menghasilkan utilisasi 60,0%, peluang menunggu 14,0%, latensi rata-rata 41,7 ms, dan latensi p95 122,3 ms. Ambang konsolidasi untuk SLO p95 200 ms adalah 90 tenant per node, dengan biaya Rp48.667 per tenant per bulan, 91,1% lebih rendah daripada isolasi penuh. Galat p95 model terhadap simulasi kurang dari 0,3% pada seluruh skenario. Hasil juga menunjukkan bahwa latensi rata-rata menyembunyikan lonjakan ekor: setelah utilisasi sekitar 80%, p95 naik jauh lebih cepat daripada rata-rata, dan bila waktu layanan 80 ms, SLO tidak dapat dicapai berapa pun jumlah worker-nya. Model, data, dan kode dibuka untuk diuji ulang pembaca melalui Lab Simulasi.

Kata kunci: SaaS multi-tenantteori antreanErlang Clatensi ekorperencanaan kapasitasbiaya cloud

Abstract

Consolidating many tenants on one node is the main source of cost efficiency in multi-tenant Software as a Service (SaaS) applications, but it lengthens queues and the latency tail. This study derives the consolidation threshold, the largest number of tenants per node that still meets a 95th-percentile (p95) latency service level objective (SLO), using an M/M/c queueing model with the Erlang C formula and the exact sojourn-time distribution. The model is validated against discrete-event simulation (10 replications of 110,000 requests per scenario). In the base configuration (8 workers, 40 ms mean service time, 2 requests/s per tenant), 60 tenants per node yield 60.0% utilisation, a 14.0% waiting probability, 41.7 ms mean latency, and 122.3 ms p95 latency. The threshold for a 200 ms p95 SLO is 90 tenants per node, at Rp48,667 per tenant per month, 91.1% cheaper than full isolation. The p95 error against simulation is below 0.3% in all scenarios. Mean latency hides the tail surge beyond about 80% utilisation, and with an 80 ms service time the SLO cannot be met regardless of the number of workers. The model, data, and code are open for readers to re-run in the Simulation Lab.

Lab Simulasi

✓ Angka Terverifikasi 5/5

Geser parameter dan lihat grafik, angka, serta kesimpulan artikel dihitung ulang dari model penulis, langsung di browser Anda. Uji juga di titik mana klaim mulai gagal.

1 Laporan Uji dari pembaca telah diteruskan ke editor dan penulis.

Klaim Nanopublikasi

3 klaim

Temuan utama artikel ini diterbitkan sebagai pernyataan yang dapat dibaca mesin, ditandatangani jurnal atas nama penulis, dan dikunci dengan Trusty URI sehingga isinya dapat diverifikasi siapa saja.

Klaim 1Kepastian: Tinggi
SubjekPenambahan tenant per node SaaS multi-tenant
meningkatkan
ObjekLatensi p95 secara nonlinier setelah utilisasi sekitar 80%
Kondisi
Model M/M/c, 8 worker per node, waktu layanan rata-rata 40 ms, 2 permintaan/detik per tenant
Bukti
Gambar 1, Tabel 3
Trusty URIhttps://w3id.org/np/RATl7B8bf5Ptb2k9NQ2JINbXzBS6onT_NzUH9C5erZ6mU
Klaim 2Kepastian: Sedang
SubjekKonsolidasi tenant hingga ambang SLO p95 200 ms
menurunkan
ObjekBiaya infrastruktur per tenant sebesar 91,1% dibanding isolasi penuh
Kondisi
Harga node diasumsikan sebanding jumlah worker; ambang 90 tenant per node
Bukti
Gambar 2, Tabel 4
Wilayah validitas
Tenant per node: 1–90 tenant; Laju permintaan per tenant: 0,2–1,4 req/dtk; Waktu layanan rata-rata: 5–28 ms; Worker per node: 11–32 worker (Uji Batas)
Trusty URIhttps://w3id.org/np/RA1WRrR7R2J0x4-R4XFYewVYa8x6MAiE56P1ccwlWvC2I
Klaim 3Kepastian: Tinggi
SubjekModel antrean M/M/c dengan distribusi waktu tinggal eksak
menghasilkan
ObjekPrediksi latensi p95 dengan galat kurang dari 0,3% terhadap simulasi kejadian diskrit
Kondisi
N = 30 sampai 90 tenant, 10 replikasi x 110.000 permintaan per skenario
Bukti
Tabel 2
Trusty URIhttps://w3id.org/np/RAJYAZfwqSo8Xn9pk9kfe__GgtEan2Iq_O1qwRM4CaS08

Kode & Data

Proof-of-Data

Hasil penelitian ini dapat dijalankan ulang langsung di browser Anda (WebAssembly). Sidik SHA-256 setiap berkas diverifikasi otomatis.

Pernyataan penggunaan AI

Penulis menggunakan Gemini Argon 4 untuk pembuatan kode program, analisis data, penyuntingan bahasa & tata bahasa. Seluruh hasil bantuan AI telah ditinjau dan disunting oleh penulis, yang bertanggung jawab penuh atas isi publikasi.

Cara mengutip

Wasian, A. (2026). Ambang Konsolidasi Tenant pada Arsitektur SaaS Multi-Tenant: Model Antrean M/M/c untuk Menyeimbangkan Latensi p95 dan Biaya Infrastruktur. Journal Of Information & Technology, 1(1), 9. https://doi.org/10.5555/jit.v1i1.d3a3ec8c