Scalable and Distributed Data Storage

Mgr. Lukáš Hejtmánek, Ph.D.

Advanced ('rigorózní') thesis

Abstract:

Přestože se počítačové sítě postupně stávají více a více spolehlivé a začínají nacházet uplatnění v mnoha oblastech, oblast mobilních komunikací vnáší do počítačových sítí obdobu nespolehlivosti v podobě připojování a odpojování mobilních klientů. Zaměříme-li se na oblast distribuovaného ukládání dat, mobilita klientů ve formě jejich připojování a odpojování není obvykle příliš podporována, jejich funkcionalita je silně omezena, a tito mobilní klienti musí čelit celé řadě problémů v podobě konfliktních přístupů k distribuovanému souborovému systému. Tyto tak zvané aktualizační konflikty mohou vznikat ve chvíli, kdy se mobilní klient opětovně připojí k síti a snaží se synchronizovat stav svého souborového systému se stavem distribuovaného souborového systému. Tato práce představuje kostru distribuovaného souborového systému, který podporuje verzování souborů a který je vhodný pro nasazení do nespolehlivého prostředí, jakým jsou zmíněné mobilní sítě nebo sítě různě se měnící kvalitou. Náš systém podporuje tak zvané "disconnected" operace, které přináší velké výhody uživatelům takových sítí. Uživatelé jsou schopni pracovat s našim systémem bez ohledu na kvalitu či dostupnost sítě. Náš systém nabízí stejné možnosti klientům připojených pomocí plně spolehlivé a rychlé sítě, stejně tak i klientům připojených pomocí nespolehlivé či mobilní sítě. Návrh takového systému s sebou přináší některé problémy, například nemožnost používat distribuované vzájemné vyloučení, které blokuje některé uživatele používat části systému. Blokující vzájemné vyloučení představuje problém zejména pro tzv. "offline" klienty, kteří mohou zamezit používání systému ostatním uživatelům. Pokud distribuované systémy nepoužívají vzájemné vyloučení, musí čelit aktualizačním konfliktům vzniklých ze souběžných aktualizací. Námi navrhovaný systém se vypořádává s těmito konflikty pomocí verzovaných souborů. Již existující systémy, které podporují "disconnected" operace, obvykle rozlišují mezi "offline" a "online" stavem klientů, zatímco náš navrhovaný systém mezi těmito stavy nerozlišuje. Naší snahou je vytvořit systém, který je odolný proti chybám. Odolnosti proti chybám je dosaženo pomocí replikace, navrhli jsme jednoduchý neblokující replikační algoritmus. Náš systém podporuje i běžné měnitelné soubory vedle neměnných verzovaných souborů. Měnitelné soubory mohou samy o sobě způsobovat aktualizační konflikty, tyto konflikty jsou našim systémem automaticky detekovány a odstraněny. Měnitelné soubory jsou implementovány pomocí tzv. redo logu, což je přístup, který se běžně používá u verzovaných souborů, v našem případě je redo log použit ke snadnému detekování konfliktů. Aktualizační konflikty jsou odstraněny pomocí volnější verze pravidla "poslední zápis vyhrává". Speciální variantou měnitelných souborů jsou tzv. streamové soubory. Tyto soubory jsou doplňovány od konce a jejich začátek časem zaniká. Součástí našeho systému je bezpečnostní model založený na Gridových autentizačních a autorizačních službách. Navrhovaný systém garantuje, že je uživatel autentizovaný vůči všem službám použitých v systému.

Abstract:

While the computer networks are gradually becoming more reliable and ubiquitous, mobile clients often receive unfair treatment because of not being online all the time. With network-based distributed storage systems, the offline clients are either not supported, their functionality is severely limited, or they are exposed to the risk of update conflicts occurring during the storage synchronization after offline to online state transition. This thesis introduces distributed storage framework with versioning support, suitable for unreliable environments such as mobile networks or networks with fluctuating quality. Incorporating disconnected mode poses great advantage for clients in such networks, being able to work with distributed storage system regardless of network availability and quality. Our system provides the same opportunities to both connected and disconnected clients. Such approach has several consequences such as practical impossibility to use distributed blocking mutual exclusion. The system also needs to be designed in a way that offline clients must not prevent (block) other clients to use the system. Previous approaches to offline support explicitly distinguish between online and offline state. Distributed systems without distributed mutual exclusion must deal with conflicts resulting from parallel data writes and updates. Our proposed system avoids these conflicts by implementing file versioning. Since we aim to build a fault tolerant system, we have also incorporated replication and we propose a simple non-blocking replication algorithm. Besides immutable versioned files, our distributed system supports mutable files, too. The mutable files may cause update conflicts but these conflicts are automatically detected and resolved. The mutable files are implemented using a redo log-an approach commonly used for file versioning, but in our case it is used to detect update conflicts. The update conflicts are resolved using relaxed last-writer-wins rule. A specialized variant of mutable files are the so called streamed files, which are continuously appended and their beginning expires in time. A part of our proposed distributed system is a security model based on Grid authentication and authorization services. Our proposed architecture guarantees that user is authenticated to all services included in the network storage stack; the authorization granularity is also at the service level and all authorizations can be revoked at any moment by service providers.

Keywords

distributed data storage, replicated file system, offline access support, file versioning

Language used: English

Date on which the thesis was submitted / produced: 21. 4. 2008

Thesis defence

• Date of defence: 21. 4. 2008

Masaryk University

Faculty of Informatics

Advanced ('rigorózní řízení') programme / field:
Informatics / Informatics