In the Container Era: A Coup in Reliable Computing Over Unreliable Infrastructure

Mgr. Viktória Spišaková

Advanced ('rigorózní') thesis

Abstract:

V súčasnom prostredí dominovanom virtualizáciou a cloudovým počítaním, v ktorom je charakteristické využívanie virtuálnych strojov a moderných kontajnerov, pretrváva fundamentálny problém neefektívneho využívania zdrojov. Virtualizácia, ako základný koncept cloudového počítania, slúži na vytváranie simulovaných verzií výpočtených prostredí ktoré umožňujú efektívnejšie zdieľanie zdrojov. Na druhú stranu, elastická povaha cloudu so sebou vyžaduje isté nastavenia, ktoré vedú k nízkemu využitiu fyzických zdrojov. Táto práca adresuje neefektívnosť vyplývajúcu z povahy cloudových centier návrhom nového koncepčného a technologického “scavenger frameworku”. Tento framewrok buduje s použitím kontajnerov systém, ktorý zvýši využitie zdrojov bez straty cloudovej elasticity. Kľúčovou myšlienkou frameworku je využitie výplňových úloh, ktoré síce nepredstavujú novú myšlienku, no ich využitie bolo doteraz výrazne limitované kvôli nedostatku úloh, ktoré by boli vhodné na použitie ako výplňové úlohy. Pre vytvorenie úspešného riešenia je potrebné nájsť riešenia na nasledovné: i) transformáciu bežných výpočtených úloh na výplňové, naviac, nová trieda úloh – distribuované úlohy — bude uvažovaná ako vhodná na výplňové úlohy; ii) vývoj checkpointovacieho mechanizmu pre výplňové úlohy na zabezpečenie spoľahlivosti úloh; a iii) vytvorenie inovatívneho plánovacieho systému, ktorý minimalizuje plytvanie zdrojmi a zabezpečuje férové podmienky pre rozdeľovanie zdrojov medzi bežné a výplňové úlohy. Zámerom práce je demonštrovať teoretickú a praktickú realizovateľnosť scavenger frameworku. Cieľom výskumu je ukázať, že framework výrazne zlepšuje využitie fyzických zdrojov cloudových systémov bez zníženia cloudovej elasticity a definovanej cloudovej spoľahlivosti, čo zabraňuje neustálemu plytvaniu zdrojov. Tento výskum prispieva k prebiehajúcim diskusiám o optimalizácii cloudového počítania a plánovacích stratégií.

Abstract:

In the contemporary landscape dominated by virtualization and cloud computing, marked by the utilization of virtual machines and modern containers, the fundamental challenge of inefficient resource utilization persists. While virtualization, the basis of cloud computing, aims to create simulated versions of computational environments for efficient resource sharing, the elastic nature of the cloud introduces complexities that lead to suboptimal resource allocation and inefficiencies. This thesis addresses the inefficiencies inherent in cloud data centers by proposing a novel conceptual and technological scavenger framework. This framework, situated within the era of containers, seeks to enhance resource utilization without compromising the elasticity property of the cloud. The key concept revolves around "fill-in workloads," which, though not a novel idea, used to be a limitation due to a scarcity of suitable workloads. To establish a viable solution, three primary challenges are identified: i) the transformation of ordinary compute workloads into fill-in workloads, including the introduction of a novel type—distributed workloads; ii) the development of a checkpointing mechanism for fill-in workloads to ensure reliability of the workloads; and iii) the creation of an innovative scheduling mechanism that minimizes resource wastage and ensures fair completion among non-fill-in and fill-in workloads. The objective is to demonstrate the theoretical and practical feasibility of the scavenger framework. Research findings aim to showcase that the framework significantly improves resource utilization within cloud systems. Importantly, this enhancement is achieved without compromising elasticity and reliability, thereby avoiding the perpetuation of resource wastage. This research contributes to the ongoing discourse on optimizing cloud-based computing and scheduling strategies.

Keywords

containers, Kubernetes, HPC, hybrid cloud, reliability, resource utilization

Language used: English

Date on which the thesis was submitted / produced: 12. 2. 2024

Thesis defence

• Date of defence: 30. 5. 2024
• Reader: doc. Ing. Jiří Jaroš, Ph.D., prof. Majd Sakr

Masaryk University

Faculty of Informatics

Advanced ('rigorózní řízení') programme / field:
Computer systems, communication and security / Computer systems, communication and security