Performance- and energy-aware architecture for containerized cloud–edge continuum systems

Bellal, Zouhir (2026). Performance- and energy-aware architecture for containerized cloud–edge continuum systems. Thèse de doctorat électronique, Montréal, École de technologie supérieure.

Prévisualisation

PDF Télécharger (12MB) | Prévisualisation

Résumé

By 2030, the electricity demand of the Information Technology (IT) sector is projected to reach approximately 3,200 TWh, primarily due to the rapid growth of Artificial Intelligence (AI) and cloud-native services. This rapid growth establishes energy efficiency as a fundamental operational objective for cloud providers. However, achieving energy-efficient operation in cloud-native environments remains challenging due to a multi-tenancy architectural model, heterogeneous microservices, and highly dynamic workloads, where each service exhibits distinct performance characteristics and strict Service Level Agreements (SLAs). To avoid violating performance requirements, cloud providers often operate compute nodes at maximum performance levels, leading to significant energy inefficiencies. Modern processors provide advanced power management mechanisms, including Dynamic Voltage and Frequency Scaling (DVFS), uncore frequency scaling, and CPU idle state (C-state) control, enabling runtime adjustment of the performance–power trade-off. Despite their potential, effectively exploiting these mechanisms in cloud-native environments remains difficult due to the complex relationship between hardware control parameters, workload behavior, and application-level performance. Existing power governors, such as intel_pstate and schedutil, rely primarily on hardware-level utilization metrics and operate without awareness of microservice-level performance requirements. Consequently, they are unable to ensure energy efficient operation while maintaining strict performance compliance. This thesis addresses this limitation by developing performance-aware power management approaches tailored for cloud-native microservices. The proposed methods coordinate CPU core frequency, uncore frequency, and idle state control based on runtime workload characteristics and performance constraints. To achieve this, the thesis investigates and designs intelligent control strategies, including heuristic-based techniques and reinforcement learning–based controllers, capable of dynamically adapting to workload variability, multi-tenant interference, and evolving microservice performance requirements. The proposed approaches are implemented and evaluated on a real Kubernetes-based cloud-native testbed using representative microservice workloads and fine-grained power telemetry. Experimental results demonstrate that the proposed solutions significantly reduce system-level power consumption while maintaining strict performance requirement compliance across diverse deployment scenarios and workload conditions. These results validate the effectiveness of workload-aware power control in improving energy efficiency without compromising application performance. This thesis contributes novel control strategies, system implementations, and experimental insights for energy-efficient cloud-native computing. The proposed solutions provide practical and deployable mechanisms to improve the energy proportionality of modern cloud infrastructures, supporting the development of sustainable and performance-aware cloud systems.

Titre traduit

Architecture sensible à la performance et à l’efficacité énergétique pour les systèmes conteneurisés du continuum cloud-edge

Résumé traduit

D’ici 2030, la demande en électricité du secteur des technologies de l’information (TI) devrait atteindre environ 3 200 TWh, principalement sous l’effet de la croissance rapide de l’intelligence artificielle (IA) et des services cloud natifs. Cette évolution place l’efficacité énergétique au cœur des objectifs opérationnels pour les fournisseurs des infrastructures infonuagique. Néanmoins, atteindre une exploitation écoénergétique des environnements cloud natifs demeure un défi majeur en raison de la mutualisation, de l’hétérogénéité des microservices et de la variabilité dynamique des charges de travail, où chaque service présente des caractéristiques de performance spécifiques ainsi que des contrats de niveau de service ((Service Level Agreement -SLA)) stricts. Afin d’éviter toute dégradation des performances, les fournisseurs d’infrastructures cloud exploitent fréquemment les ressources de calcul à leur niveau de performance maximal, ce qui entraîne d’importantes pertes d’efficacité énergétique.

Les processeurs modernes intègrent des mécanismes avancés de gestion de l’énergie, tels que la mise à l’échelle dynamique de la tension et de la fréquence (Dynamic Voltage and Frequency Scaling, DVFS), l’ajustement de la fréquence de l’uncore — qui regroupe les composants du processeur situés hors des cœurs de calcul, notamment certaines parties de la hiérarchie mémoire et de l’interconnexion — ainsi que le contrôle des états d’inactivité du processeur (C-states). Ces mécanismes permettent d’ajuster dynamiquement le compromis entre performance et consommation énergétique. Malgré leur potentiel, l’exploitation efficace de ces mécanismes dans les environnements cloud-native demeure difficile en raison de la complexité des interactions entre les paramètres matériels du comportement des charges de travail et des exigences de performance des applications hébergées. Les gouverneurs énergétiques existants, tels que intel_pstate et schedutil, s’appuient principalement sur des métriques d’utilisation matérielles et fonctionnent sans tenir compte des exigences de performance au niveau des microservices. Par conséquent, ils ne permettent pas de concilier efficacement efficacité énergétique et respect strict des exigences de performance.

Cette thèse vise à répondre à cette limitation en développant des approches de gestion énergétique sensibles et adaptées aux performances des architectures de microservices cloud-natifs. Les méthodes proposées coordonnent dynamiquement le contrôle de la fréquence des cœurs de l’unité central de traitement (Central processing Unit-CPU), de la fréquence uncore et des états d’inactivité, en fonction des caractéristiques des charges de travail et des contraintes de performance des microservices hébergés. Pour ce faire, cette thèse conçoit et étudie des stratégies de contrôle intelligentes, incluant des approches heuristiques ainsi que des contrôleurs basés sur l’apprentissage par renforcement, capables de s’adapter de manière dynamique à la variabilité des charges, aux interférences en environnement mutualisés et à l’évolution des exigences en matière de performances.

Les approches proposées sont implémentées et évaluées sur une plateforme expérimentale infonuagique native basée sur Kubernetes, en utilisant des charges de travail représentatives de microservices et une télémétrie énergétique très détaillée. Les résultats expérimentaux montrent que les solutions proposées réduisent significativement la consommation énergétique au niveau système, tout en garantissant le respect des exigences de performance strictes dans divers scénarios de déploiement et conditions de charge de travail. Ces résultats confirment l’efficacité d’une gestion de la puissance tenant compte de la charge de travail pour améliorer le rendement énergétique sans nuire aux performances des applications.

Cette thèse contribue ainsi au développement de stratégies novatrices de contrôle, d’implémentations de systèmes et d’analyses expérimentales pour le calcul cloud-native durable. Les solutions proposées offrent des mécanismes pratiques et déployables permettant d’améliorer la proportionnalité énergétique des infrastructures cloud, en participant à l’émergence de systèmes cloud durables, adaptatifs et sensibles aux performances.

Type de document:	Mémoire ou thèse (Thèse de doctorat électronique)
Renseignements supplémentaires:	"Manuscript-based thesis presented to École de technologie supérieure in partial fulfillment for the degree of doctor of philosophy". Comprend des références bibliographiques (pages 181-205).
Mots-clés libres:	monitorage de la puissance, efficacité énergétique, microservices cloud-natifs, contrôle énergétique sensible à la performance, DVFS et ajustement de la fréquence uncore, apprentissage par renforcement
Directeur de mémoire/thèse:	Directeur(-trice) Kara, Nadjia
Codirecteur:	Codirecteur(-trice) de mémoire/thèse Gherbi, Abdelouahed
Programme:	Doctorat en génie > Génie
Date de dépôt:	29 mai 2026 14:41
Dernière modification:	29 mai 2026 14:41
URI:	https://espace.etsmtl.ca/id/eprint/3923

Gestion Actions (Identification requise)

Dernière vérification avant le dépôt