23.09.2025, 11:00 Uhr

Universität Wien
Besprechungsraum 6.35
Währinger Str. 29
1090 Wien

Titel: Deadline-Aware Resource Allocation and Scheduling for 
Serverless Workloads in Heterogeneous Clusters

Kurzfassung:
Serverless Computing hat als benutzerfreundliche Alternative zu traditionellen Cloud-
Lösungen immer mehr an Bedeutung gewonnen. Durch die Abstraktion und Automatisierung
der Infrastrukturverwaltung ermöglicht es Entwicklern, Anwendungen einfach und
kosteneffizient in der Cloud auszuführen. Allerdings bieten aktuelle Serverless-Dienste
kaum Möglichkeiten, Ressourcen gezielt an die Leistungsanforderungen von Anwendungen
anzupassen. Zusätzlich zur fehlenden Transparenz bezüglich der eingesetzten Hardware
wird es zunehmend schwieriger, Service-Level-Objectives (SLOs) zuverlässig einzuhalten.
Gleichzeitig könnte die Hardwarevielfalt in modernen Cloud-Umgebungen bedeutende
Chancen für Entwickler bieten, um Anwendungen mit unterschiedlichen Ressourcenanforderungen
effizienter zu betreiben. Um diese Hardware- und Leistungsvariabilität zu
berücksichtigen, stellt diese Masterarbeit DHRT vor, ein Framework zur automatischen
Ressourcenverwaltung, das eine zuverlässigere Einhaltung von SLOs für leistungskritische
Serverless-Workloads ermöglicht. Um eine breite Kompatibilität zwischen verschiedenen
Umgebungen und Cloud-Anbietern zu ermöglichen, nutzt es Knative, eine Open Source
Serverless-Plattform basierend auf Kubernetes. DHRT setzt Online-Optimierungen basierend
auf Heuristiken ein, um die Ressourcenzuweisung von Anwendungen dynamisch
anhand von Echtzeitdaten anzupassen. Dabei integriert das System kontinuierlich Daten
vergangener Ausführungen, um die Verwendung von Ressourcen iterativ zu verbessern.
Dadurch kann es spezifische Workload-SLOs sowie die Heterogenität der verfügbaren
Hardware gezielt berücksichtigen. DHRT wird in der Google Kubernetes Engine mit
synthetischen Workloads gegen Referenzmethoden evaluiert. Die Ergebnisse zeigen, dass
DHRT den Ressourcenbedarf von Workloads bereits nach wenigen Ausführungen erlernen
kann und dadurch den Aufwand manueller Ressourcenanpassungen deutlich reduziert. Im
Vergleich zu den Referenzmethoden kann DHRT die verfügbaren Ressourcen effizienter
nutzen, da die Heterogenität der Hardware gezielt in den Ressourcenoptimierungsprozess
integriert wird. Außerdem kann das System das Risiko von SLO-Verletzungen erheblich
senken, indem CPU-Zuweisungen dynamisch angepasst werden, wenn sich Workloads
ihrer Deadline nähern.