Einführung in parallele Dateisysteme am Beispiel von GPFS. Proseminar von Jakob Schmid im SS 2014

Transkript

1 Einführung in parallele Dateisysteme am Beispiel von GPFS Proseminar von Jakob Schmid im SS 2014

2 Gliederung Definition Anwendungsgebiete Anforderungen Beispiel: General Parallel File System (GPFS) Zusammenfassung Quellen 2

3 Def. : Parallele Dateisysteme...speichern Daten persistent auf mehreren Servern und bilden diese auf ein ganzheitliches virtuelles Dateisystem ab. Hierbei werden Dateien in Blöcke zerteilt, welche auf mehrere Server verteilt werden und so schnellen parallelen Zugriff ermöglichen. 3

4 Anwendungsgebiete Große Datei- und Webserver Große digitale Bibliotheken Big Data, Cloud Storage Wissenschaftliches Rechnen From Dr. Robert Jacob, Climate Modeling, Argonne Open House, 29. Augus,

5 Skalierbarkeit System soll möglichst leicht erweitert oder verkleinert werden können Im Prinzip zwei Architekturen Client-Server Architekturen: mehrere Server verwalten Meta- und Daten Cluster-Based Architekturen: Metadaten und Daten sind entkoppelt 7

6 Transparenz I Nutzer muss nicht wissen, wie... das Dateisystem aufgebaut ist und wo Dateien gespeichert sind und wo auf Dateien zugegriffen wird Fehler erkannt werden Fehler behoben werden 8

7 Transparenz II 'Global namespace' zur Adressierung aller Dateien im System Naming: Mapping zwischen logischen Name und physikalischem Ort Bereitstellung von Schnittstellen: z.b. Command-line interface 9

8 Fehlertoleranz I Auftreten von Netzwerk- oder Serverausfällen möglich Gegenmaßnahmen Erkennen von überlasteten oder korrupten Server z.b. mit 'heartbeats' Redundantes, verteiltes Speichern von Dateien 11

9 Fehlertoleranz II Load balancing: Fähigkeit die Systemlast automatisch zu Verteilen striping Serververlust Wiederherstellen der Daten auf andere Server Servergewinn Füllen des Servers mit Daten 12

10 Fehlertoleranz III Änderung an Datei Update der Kopien Synchron: Blockiere Zugriff auf alle Kopien Asynchron: Erlaube Zugriff auf alle Kopien Semi-asynchron: Blockiere, bis bestimmter Anteil aller Kopien up to date sind 13

11 Beispiel General Parallel File System (GPFS) 15

12 Allgemeines GPFS Entwickelt von IBM (1998 released) Wird laufend aktualisiert (letztes stable release im Oktober 2013) Einsetzbar auf Supercomputern und Rechner- Clustern 17

13 GPFS - Architektur Festplatten I/O- Knoten Switching fabric Rechenknoten 18

14 Striping - GPFS Dateien werden in möglichst gleich große Blöcke zerlegt und auf Festplatte verteilt Beispieldateien A = (a1, a2, a3); B = (b1, b2); C = (c1, c2); a1 b1 19

15 Striping - GPFS Round-Robin Algorithmus wird angewendet a1 b1 20

16 Striping - GPFS Round-Robin Algorithmus wird angewendet a1 b1 a2 21

17 Striping - GPFS Round-Robin Algorithmus wird angewendet a1 b1 a2 a3 22

18 Striping - GPFS Round-Robin Algorithmus wird angewendet a1 b1 a2 b2 a3 23

19 Striping - GPFS Round-Robin Algorithmus wird angewendet a1 b1 c2 a2 b2 a3 c1 24

20 Naming - GPFS Bei großen Verzeichnissen: extensible hashing: Es wird mit dem Namen des gesuchten Verzeichniseintrags gehasht Ergebnis ist die physikalische Adresse /dira/direntry hashing a1 b1 c2 a2 b2 a3 c1 25

21 Synchronisation GPFS Bei Daten durch distributed locking Prozess benötigt Lock um Operationen auszuführen lock manager/ token manager Bei Metadaten durch centralized management Operationen werden an sogenannte Metanode gesendet, die diese ausführt 26

22 Load balancing GPFS GPFS ernennt einen Knoten zum file system manager File system manager verantwortlich für load balancing File system manager verteilt Aufgaben an andere Knoten z.b. bei Ausfall einer Festplatte 27

23 Fehlertoleranz GPFS Ausfall einer Festplatte: Festplatten I/O- Knoten Switching fabric Rechenknoten 28

24 Fehlertoleranz GPFS Ausfall eines Rechenknotens: Festplatten I/O- Knoten Switching fabric Rechenknoten 29

25 Fehlertoleranz GPFS Group service layer überwacht Knoten durch heartbeats log recovery für konsistentes Dateisystem ( journaling) Spezialfälle: Ausfall......des token managers: Neuer token manager wird ernannt Neuer token manager 'befragt' Knoten nach ihren tokens...einer Metanode: Neue Metanode wird ernannt Noch nicht angewandte Änderungen werden umgesetzt 30

26 Zusammenfassung Parallele Dateisysteme ermöglichen schnellen parallelen Zugriff auf Daten Hierbei werden folgende Aspekte berücksichtigt Skalierbarkeit Transparenz Fehlertoleranz General Parallel File System ist ein Beispiel für ein hochkonfigurierbares paralleles Dateisystem, dass auf mehreren Supercomputern eingesetzt wird 32

27 Danke für Ihre Aufmerksamkeit! 33

28 Quellen Frank Schmuck, Roger Haskin:Proceedings of the Conference on File and Storage Technologies, January 2002, Monterey, CA, pp (USENIX, Berkeley, CA.), B. Depardon, C. Séguin, G. Mahec:Analysis of Six Distributed File Systems, Februar 15, 2013 Scott Faden, IBM Systems and Technology Group: An Introduction to GPFS Version 3.5, August 2012 Samuel Lang, Parallel File Systems, IIT Course: Data-Intensive Computing, September 20, 2010 Christian Bandulet, Sun Microsystems, The Evolution of File Systems GPFS Wiki: 34