CPU verfügbar. Anwendung gedrosselt.

Warum freie Node-Kapazität keine niedrigen Antwortzeiten garantiert

Warum freie Node-Kapazität keine niedrigen Antwortzeiten garantiert

Lesezeit: ca. 5–6 Minuten

Die Anwendung reagiert zu langsam. Das Team prüft die Nodes und sieht reichlich freie CPU. Trotzdem steigen die Antwortzeiten unter Last deutlich an. Eine zusätzliche Instanz hilft nur teilweise. Der Verdacht fällt auf Datenbank, Netzwerk oder Garbage Collection. Dabei kann die Grenze direkt im Ressourcenprofil des Containers liegen.

CPU-Limits können eine Anwendung drosseln, obwohl auf dem Node noch Rechenkapazität verfügbar ist. Kubernetes weist auf diesen Zusammenhang ausdrücklich hin. Der scheinbare Widerspruch entsteht, weil zwei unterschiedliche Ebenen betrachtet werden: die physisch oder virtuell verfügbare Kapazität des Hosts und das Zeitbudget, das einem bestimmten Workload erlaubt ist.

Requests und Limits erfüllen unterschiedliche Aufgaben

Ein CPU-Request ist unter anderem eine Grundlage für die Platzierung des Pods. Er beschreibt den eingeplanten Ressourcenbedarf. Ein CPU-Limit setzt dagegen eine Obergrenze für die erlaubte Nutzung. Diese Werte sollten deshalb nicht ohne Begründung identisch gesetzt oder aus einer pauschalen Vorlage übernommen werden.

Die Einheit ist ebenfalls wichtig. Ein Limit von 500m entspricht einem halben CPU-Kern an Rechenzeit. Es bedeutet nicht, dass der Prozess auf einem exklusiven halben physischen Kern läuft. Die tatsächliche Durchsetzung erfolgt über die Ressourcensteuerung des Betriebssystems.

CPU verhält sich dabei anders als Arbeitsspeicher. Wenn ein Workload sein CPU-Zeitbudget ausschöpft, kann er gedrosselt werden. Er wird dadurch nicht automatisch beendet. Für Nutzer zeigt sich das häufig als zusätzliche Wartezeit, während der Container weiterhin als laufend erscheint.

Ein Durchschnitt kann kurze Engpässe verdecken

Ein illustratives Beispiel: Eine API benötigt für die meisten Requests nur wenig Rechenzeit. Einzelne Anfragen müssen jedoch größere Datenstrukturen serialisieren oder verschlüsseln. Diese kurzen Spitzen treffen auf ein knappes CPU-Limit.

Ein Dashboard mit einem langen Mittelungsfenster zeigt weiterhin eine niedrige durchschnittliche Auslastung. Die langsamsten Requests leiden trotzdem. Besonders bei mehreren gleichzeitig arbeitenden Threads kann ein begrenztes Zeitbudget schnell aufgebraucht werden, bevor innerhalb der nächsten Periode wieder Kapazität freigegeben wird.

Die Linux-Dokumentation zur CPU-Bandbreitensteuerung beschreibt dieses Verhältnis von Quote und Periode. Für die Diagnose folgt daraus: Eine einzelne durchschnittliche Prozentzahl reicht nicht aus, um zeitkritische Anwendungen zu bewerten.

Throttling ist ein Signal, noch kein Urteil

Nicht jedes gemessene Throttling verursacht ein relevantes Nutzerproblem. Ein Batch-Job darf möglicherweise länger rechnen, solange er sein Zeitfenster einhält. Bei einer interaktiven API können schon kurze Verzögerungen problematisch sein. Die Bewertung hängt vom zugesagten Verhalten ab.

Deshalb sollten Throttling-Metriken zusammen mit Antwortzeitverteilung, Durchsatz und Warteschlangen betrachtet werden. Besonders hilfreich ist der Vergleich mit den langsameren Perzentilen. Steigt die Drosselung gleichzeitig mit der Latenz, ist das ein Hinweis, der durch einen kontrollierten Versuch überprüft werden kann.

Auch die Bedeutung der jeweiligen Metrik muss klar sein. Der Anteil gedrosselter Perioden ist nicht identisch mit dem Anteil verlorener Gesamtleistung. Unterschiedliche Zähler dürfen nicht ohne Kontext in eine vermeintlich präzise Prozentzahl für den Schaden umgerechnet werden.

Die tatsächliche Konfiguration prüfen

Im Incident sollte zuerst die effektive Pod-Spezifikation betrachtet werden. Namespace-Vorgaben, Helm-Templates oder Mutationen können Ressourcenwerte ergänzen, die im ursprünglichen Anwendungsmanifest nicht offensichtlich waren. Entscheidend ist, was der Container tatsächlich erhalten hat.

Anschließend wird der betroffene Container identifiziert. Ein Pod kann mehrere Container enthalten, deren Verhalten unterschiedlich ist. Wenn ein Sidecar viel CPU benötigt oder die eigentliche Anwendung gedrosselt wird, ergeben sich unterschiedliche Maßnahmen. Eine gemeinsame Pod-Summe kann diese Unterschiede verdecken.

Auch Node-Konkurrenz gehört in die Untersuchung. Ein zu knappes Limit und ein tatsächlich stark ausgelasteter Host sind verschiedene Ursachen, können aber gleichzeitig auftreten. Nur aus freier Durchschnittskapazität auf einigen Nodes lässt sich nicht auf die Situation des konkreten Pods schließen.

Kontrolliert verändern statt pauschal aufdrehen

Ein sinnvoller Test verändert für eine begrenzte Anzahl von Instanzen gezielt das CPU-Limit und beobachtet denselben Lastfall erneut. Wenn Antwortzeiten und Drosselung dadurch nachvollziehbar besser werden, ist der Zusammenhang belastbarer als eine bloße Vermutung.

Gleichzeitig müssen Auswirkungen auf Nachbar-Workloads beobachtet werden. Zusätzliche erlaubte CPU-Nutzung kommt aus der gemeinsamen Node-Kapazität. Eine Verbesserung für einen Dienst kann andernorts neue Konkurrenz erzeugen, wenn Requests und Platzierung nicht zum tatsächlichen Bedarf passen.

Das Ergebnis sollte deshalb ein begründetes Ressourcenprofil sein: angemessener Request, bewusst gewähltes Limit und passende Node-Kapazität. Ob ein CPU-Limit in einer bestimmten Umgebung nötig ist, hängt auch von Isolation, Mandantenmodell und Betriebsregeln ab. Eine pauschale Abschaffung für alle Workloads ist keine Diagnose.

Die Anwendung beeinflusst den Bedarf

Auch Worker- und Thread-Konfigurationen müssen zu den verfügbaren Ressourcen passen. Wenn eine Runtime sehr viele parallele Arbeiten startet, obwohl nur ein kleines CPU-Budget vorgesehen ist, kann zusätzlicher Verwaltungsaufwand entstehen. Mehr Parallelität ist dann nicht automatisch mehr nutzbarer Durchsatz.

Ähnliche Effekte können bei Kompression, Verschlüsselung oder aufwendiger Serialisierung auftreten. Ein Profiling der Anwendung kann zeigen, ob wenige besonders teure Arbeitsschritte die Spitzen verursachen. Die passende Maßnahme kann dann eine Codeänderung, eine Begrenzung der Parallelität oder ein anderes Ressourcenprofil sein.

Wichtig ist die Reihenfolge: Erst das konkrete Verhalten messen, dann die Stellschraube wählen. Wer gleichzeitig Limits, Replica-Zahl und Anwendungscode ändert, weiß hinterher kaum, welche Maßnahme tatsächlich geholfen hat.

Autoscaling bewusst einbeziehen

Ein CPU-basierter Autoscaler bewertet Nutzung in einem definierten Verhältnis zu den konfigurierten Ressourcen. Änderungen an Requests beeinflussen daher auch die Interpretation der Last. Ressourcenoptimierung und Autoscaling sollten nicht getrennt voneinander gepflegt werden.

Zudem kann zusätzliche Parallelität andere Engpässe auslösen. Wenn mehr Pods zwar CPU-Druck verteilen, aber die Datenbankverbindungen vervielfachen, verschiebt sich das Problem. Ein guter Test betrachtet deshalb die vollständige Request-Kette.

Für latenzkritische Anwendungen können ergänzende Signale sinnvoll sein, beispielsweise Rückstau oder tatsächlich bearbeitete Arbeit. Entscheidend bleibt, dass die Skalierung auf einen beherrschbaren Engpass reagiert und nicht lediglich immer weitere Verbraucher erzeugt.

Ressourcenprofile sind keine einmalige Einstellung

Ein Profil, das beim ersten Release gut passte, kann nach neuen Funktionen unpassend werden. Andere Datenmengen, zusätzliche Verschlüsselung oder ein geändertes Laufzeitverhalten verändern den Bedarf. Deshalb sollten Ressourcenwerte nach relevanten Änderungen erneut überprüft werden.

Ein nachvollziehbarer Betriebsnachweis verbindet Konfiguration und Wirkung: Welche Last wurde getestet, welche Antwortzeiten wurden erreicht, wie viel Reserve besteht und welche Grenzen wurden gesetzt? Damit wird aus einer zufällig gewählten Zahl eine belastbare Kapazitätsentscheidung.

Freie CPU auf dem Node ist eine gute Voraussetzung. Ob die Anwendung sie nutzen darf und rechtzeitig genug bekommt, ist eine weitere Frage. Erst die gemeinsame Betrachtung von Limits, tatsächlicher Nutzung und Nutzerlatenz beantwortet, ob die Plattform genügend Leistung bereitstellt.

Technische Quellen