Little’s Law und Kapazitätsplanung

Kurz: Little’s Law besagt: Die durchschnittliche Zahl der Anfragen im System L ist gleich der Ankunftsrate λ mal der durchschnittlichen Verweildauer W (L = λ · W). Damit lässt sich Kapazität einfach abschätzen.

Genauer: Kommen 200 Anfragen pro Sekunde an und dauert jede im Mittel 0,05 s, sind gleichzeitig 10 Anfragen in Bearbeitung. Braucht ein Server maximal 8 gleichzeitige, reicht er nicht. Die Regel gilt unabhängig von Verteilung und Reihenfolge.

Im Detail

• Auslastung: Nähert sich die Auslastung 100 %, wachsen Warteschlangen und Latenz stark an (nicht linear).
• Faustregel: Unter etwa 70 % Auslastung bleiben, um Spitzen abzufangen.
• Latenz-Perzentile: P99 steigt bei Last viel schneller als der Durchschnitt.
• Warteschlangentheorie: M/M/1-Modelle zeigen den Anstieg bei hoher Auslastung.
• Kapazitätsplanung: Lasttests, Wachstumsprognosen, Reserve für Ausfälle (N+1).
• Autoscaling: Reagiert verzögert, daher Reserve und Aufwärmzeit einplanen.

Siehe auch: Amdahlsches Gesetz und Skalierung, SLI, SLO und Error Budget