Das Dateisystem. ZFS im Detail. Florian Hettenbach

Transkript

1 Das Dateisystem ZFS im Detail Florian Hettenbach

2 Organisatorisches Dauer ca. 1,5 Stunden Webcast wird aufgezeichnet Fragen während des Webcasts?

3 Vorstellung Seit 2007 bei Thomas Krenn Seit 2009 ZFS Knowhow Produktmanagement Storage und Virtualisierung Business Development Neue Geschäftsbereiche und Technologien

4 Entwicklungsstand ZFS uvm ZFS Entwickler schließen sich unter Open ZFS Gruppe zusammen

5 Grundlagen

6 Block Definitionen Speicherbereich mit fester Größe Datei Ansammlung von belegten Blöcke Volume / LUN Logischer, blockbasierter Bereich Raid Ein Mechanismus, der zur Erhöhung der Ausfallsicherheit dient Kein Backup

7 Pufferspeicher PS Speicher

8 Geschwindigkeitsklassen RAM SSD HDD

9 Geschwindigkeit Transferrate / Datendurchsatz MB/s Vergleich: Personen/h auf einer Strecke I/O Operationen pro Sekunde IOPS Vergleich: Anzahl mögl. individueller Fahrten

10 Schreibverfahren

11 Read Modify Write C C A B C D E Ändern des Blocks C in C

12 Copy On Write C C A B C D E Ändern des Blocks C in C

13 Asynchrone und Synchrone Operationen Data Applikation Ok S Data Applikation Ok Data Speicher- Software Speicher- Software Data Data Asynchron Synchron

14 Raid 5 Write Hole A B C D P A B C D P A B C D P Ändern des Blocks A (RMW)

15 Prüfsummen SHA-256 2a06b59b3e36c c88a04f8f47d25f f992adb5df15f88 f7d6d0fb4 C15e f2db8 8c63993a4dbe42aa4 e2c46c3f3bc c39e5

16 Deduplizierung Postprocess Inline

17 Transaktionen ACID Datenbankprinzipien Ganz oder garnicht (Atomic) Zustand muss immer K(C)onsistent sein Keine parallelen Operationen (Isolated) (D)auerhafte, sichere Speicherung Log

18 Snapshots

19 Abbild des (Datei-)Systems zu einem bestimmten Zeitpunkt Logische Sicht Snapshot Belegung 12:00 A B A B A B C D C D C D 13:00 A B A B B C C D C D B A

20 Schichtmodell eines Speicher-Systems NTFS ext3 UFS File systems Volume Manager (LVM) Raid 5 Raid 5 Raid Controller Disks

21 ZFS

22 Wo findet man derzeit ZFS FreeBSD NexentaStor OpenIndiana OmniOS ZFSonLinux Solaris

23 Daten Integrität Einfache Administration Exzellente Geschwindigkeit Design Prinzipien ZFS Enorme Skalierbarkeit

24 Skalierbarkeit durch 128 Bit 16 EiB darf ein Dateisystem groß sein 2 64 Dateisysteme in einem Speicher-Pool 2 64 Snapshots in einem Dateisystem

25 Kernbausteine ZFS Merkle Baum End-2-End Prüfsummen Transaktionen Hybrider Speicherpool Größtmögliche Sicherheit

26 Bedienung von ZFS zpool zfs Pool Dateisysteme

27 $ zpool create siege02 mirror c0t4d0 c0t6d0 $ zpool add siege02 mirror c0t5d0 c0t7d0 $ zpool status siege02 pool: siege02 state: ONLINE scan: none requested config: NAME STATE READ WRITE CKSUM siege02 ONLINE mirror-0 ONLINE c0t4d0 ONLINE c0t6d0 ONLINE mirror-1 ONLINE c0t5d0 ONLINE c0t7d0 ONLINE errors: No known data errors

28 $ zfs create siege02/newfs $ zfs get all siege02/newfs NAME PROPERTY VALUE SOURCE siege02/newfs type filesystem - siege02/newfs creation Sun Jun 23 22: siege02/newfs used 31K - siege02/newfs available 9.78G - siege02/newfs referenced 31K - siege02/newfs compressratio 1.00x - siege02/newfs mounted yes - siege02/newfs quota none default siege02/newfs reservation none default siege02/newfs recordsize 128K default siege02/newfs mountpoint /volumes/siege02/nelt siege02/newfs compression on inherited siege02/newfs refquota none default siege02/newfs dedup off default

29 Merkle Baum UB SUM MD SUM MD SUM MD MD MD MD ASUM BSUM SUM SUM A B Data Data

30 Schichtmodell eines Speicher-Systems NTFS ext3 UFS File systems Volume Manager (LVM) Raid 5 Raid 5 Raid Controller Disks

31 ZFS

32 Der hybride Speicherpool ARC R+W Caching L2ARC slog Erweitertes R+W Caching HDD Daten Speicher Pool

33 Adaptice Replacement Cache Most Frequently Used Most Recently Used Metadaten ARC (=RAM)

34 Level 2 ARC Lesen Lesen Lesen ARC L2ARC Pool

35 ZFS Intent Log S Data Applikation Ok Speicher- Software Data ZIL Speicher

36 CoW mit ZFS

37 UB MD MD MD MD MD MD MD MD MD MD Data Data Data Data Data Data

38 ZFS Snapshot UB UB Snapshot Aktueller Zustand MD MD MD MD MD MD MD MD MD MD Data Data Data Data Data Data

39 Sicherheit

40 Durchgängige Daten-Integrität Data SUM A MD ASUM Schutz vor Phantom Schreibvorgängen Treiber Bugs Falschberechnete Schreib- und Lesevorgänge Versehentliches Überschreiben

41 Raid -Gruppen bei ZFS N-1 N-2 N-1 N-2 N-3

42

43 Selbstheilung in ZFS Applikation Data Data ZFS Data Data Data

44 Geschwindigkeit

45 Lese- und Schreibgeschwindigkeit ARC = RAM Sync Schreib- Beschleuniger(sLOG) W R I T E W R I T E R E A D R E A D Level 2 ARC R E A D Pool NL-SAS slog=separates Logdevice

46 Praxisvorteile

47 Wie lange dauert ein Rebuild? 3TB 3TB

48 Wie lange dauert ein Rebuild?* 10GB 10GB 3TB 3TB *ZFS

49 Initialisierung Raid-Controller ZFS

50 Snapshot Sichtbarkeit

51 Hardware- und Pooldesign

52 ARC Pooldesign Zusätzliches Caching Pool slog 192GB 400GB L2ARC 8x Mirror (je 2x 1TB NL-SAS) 96GB 6x Mirror (je 2x 1TB NL-SAS)

53 Wähle zwei! Geschwindigkeit: abhängig von Anzahl der ToplevelvDevs / Raid-Gruppen Erweiterung mit gleicher Anzahl und Typ der tvdevs

54 Hardwarebausteine Kopf + JBOD(s) Kopf inkl. Platten + JBOD(s) 1GbE Karten 10GbE Karten SAS HBAs

55 Intelligente Architektur

56 Architektur nach Arbeitslast 350GB 192GB ZFS Pool 200GB L2ARC Zugriffe werden aus RAM und SSDs bedient!

57 und Hochverfügbarkeit? zfs send / receive

58 Deduplizierung mit ZFS? Inline

59 Was es zu beachten gilt RAM, RAM und nochmals RAM Pooldesign nach Anforderung maßschneidern Deduplizierung sollte wohl überlegt sein Nur SAS verwenden Link 1st Read eadme1st.html

60 ZFS Kurz und Knapp End-2-End Daten-Integrität Skalierbarkeit durch intelligentes logisches und physisches Design Extrem hohe Flexibilität

61 Fragen?