Workload-bezogenes Power Management mit Azure Cobalt

Das Wachstum von Cloud-Diensten und KI-Workloads macht die verfügbare Strommenge zu einem zentralen Begrenzungsfaktor für den Ausbau von Rechenzentrumskapazitäten. Um bestehende Strombudgets effizienter zu nutzen, setzt Microsoft auf ein durchgängiges Co-Design von Hardware und Software über den gesamten Infrastruktur-Stack hinweg. Mit den Azure Cobalt-Prozessoren wird eine Funktion zur Überwachung und Begrenzung der Leistungsaufnahme auf Ebene einzelner virtueller Maschinen (VMs) bereitgestellt.

Herausforderungen herkömmlicher Leistungsbegrenzung

Ein gängiger Ansatz zur Maximierung der Energieeffizienz ist die Überbuchung von Stromkapazitäten. Dabei werden mehr Server installiert, als das Strombudget erlaubt, um ungenutzte Energiereserven auszuschöpfen. Überschreitet die Leistungsaufnahme das Limit, greifen traditionelle hardwarebasierte Drosselungsmechanismen. Diese drosseln jedoch alle Prozessorprozesse gleichmäßig, was auch die Leistung kritischer Kundenanwendungen beeinträchtigt und die maximale Überbuchung einschränkt.

Eine zuvor genutzte, reine Software-Lösung drosselte unkritische Arbeitslasten gezielt über einen Agenten, agierte jedoch aufgrund fester Frequenzänderungsstufen in der Regelung recht langsam.

Integration von Hardware und Software auf Azure Cobalt

Durch die Entwicklung der Azure Cobalt-Prozessoren wird die Steuerung direkt im Prozessor verankert. Der Hypervisor übergibt die Identifikatoren und Prioritäten der VMs beim Laden der Kerne an die Hardware. Die Prozessor-Firmware nutzt diese Prioritäten, um bei einer Überschreitung der Leistungsgrenze Spannung und Frequenz der Prozessorkerne in der festgelegten Reihenfolge abzusenken. Da sich die Zuordnungen durch Kontextwechsel verändern, prüft die Firmware die Prioritäten der Kerne alle eine Millisekunde neu.

Zusätzlich erfasst die Firmware Telemetriedaten zu Energieverbrauch und Frequenz pro VM. Diese Daten fließen in das System Resource Central, wo sie zur Verfeinerung von Vorhersagemodellen und für das Berichtswesen genutzt werden. Im Gesamtsystem platziert der VM-Planer Instanzen in Racks mit freien Kapazitäten und führt bei Engpässen Live-Migrationen durch. Der Energiemanager überwacht den Gesamtverbrauch und signalisiert den Servern Handlungsbedarf, woraufhin die Cobalt-Prozessoren die Leistung selektiv anpassen.

Messbare Leistungsvorteile

In Evaluierungen auf Basis des SPEC CPU Integer Benchmarks zeigt die Lösung folgende Ergebnisse:

• Höhere Leistung unter Last: Bis zu 24 % höhere Leistung im Vergleich zu reiner Software-Drosselung bei gleichem Strombudget.
• Volle Leistung für Prioritäten: Für die fünf höchsten Prioritätsstufen bleibt die volle Leistung erhalten.
• Erweiterte Überbuchung: Auf Cobalt 200 ist eine um bis zu 20 % höhere Überbuchung der Stromkapazitäten möglich.
• Flexible Einsparungen: Gezieltes Capping erlaubt eine Reduktion der Leistungsaufnahme um bis zu 35 % ohne Auswirkungen auf kritische Arbeitslasten, verglichen mit 15 % bei nicht-priorisierten Verfahren.

Effizientere Nutzung bestehender Kapazitäten

Das Co-Design auf Azure Cobalt zeigt, wie die Abstimmung von Hardware, Firmware und Software-Orchestrierung die Drosselung von Prozessorkernen präzisiert. Die gezielte Steuerung schützt kritische Anwendungen und schafft Spielraum, um innerhalb bestehender Rechenzentrumsflächen mehr Server zu betreiben.