Kapitel 7 Physische Datenorganisation. Speicherhierarchie Hintergrundspeicher / RAID B-Bäume Hashing R-Bäume. Register. Cache.

Transkript

1 Kapitel 7 Physische Datenorganisation Speicherhierarchie Hintergrundspeicher / RAID B-Bäume Hashing R-Bäume 1 Überblick: Speicherhierarchie Register Cache Hauptspeicher Plattenspeicher Archivspeicher A. Kemper / A. Eickler 2 A. Kemper / A. Eickler 1

2 Überblick: Speicherhierarchie 1-10ns Register ns Cache ns Hauptspeicher 10 ms Plattenspeicher Zugriffslücke 10 5 sec Archivspeicher A. Kemper / A. Eickler 3 Überblick: Speicherhierarchie 1-10ns Register ns Cache ns Hauptspeicher 10 ms Plattenspeicher Zugriffslücke 10 5 sec Archivspeicher A. Kemper / A. Eickler 4 A. Kemper / A. Eickler 2

3 Magnetplattenspeicher A. Kemper / A. Eickler 5 A. Kemper / A. Eickler 6 A. Kemper / A. Eickler 3

4 heutige Zeit A. Kemper / A. Eickler 7 Lesen von Daten von der Platte Seek Time: Arm positionieren 5ms Latenzzeit: ½ Plattenumdrehung (im Durchschnitt) Umdrehungen / Minute Ca 3ms Transfer von der Platte zum Hauptspeicher 100 Mb /s 15 MB/s A. Kemper / A. Eickler 8 A. Kemper / A. Eickler 4

5 Random versus Chained IO 1000 Blöcke à 4KB sind zu lesen Random I/O Jedesmal Arm positionieren Jedesmal Latenzzeit 1000 * (5 ms + 3 ms) + Transferzeit von 4 MB > 8000 ms + 300ms 8s Chained IO Einmal positionieren, dann von der Platte kratzen 5 ms + 3ms + Transferzeit von 4 MB 8ms ms 1/3 s Also ist chained IO ein bis zwei Größenordnungen schneller als random IO in Datenbank-Algorithmen unbedingt beachten! A. Kemper / A. Eickler 9 Disk Arrays RAID-Systeme A. Kemper / A. Eickler 10 A. Kemper / A. Eickler 5

6 A. Kemper / A. Eickler 11 RAID 0: Striping Datei A B C D A C B D Lastbalancierung wenn alle Blöcke mit gleicher Häufigkeit gelesen/geschrieben werden Doppelte Bandbreite beim sequentiellen Lesen der Datei bestehend aus den Blöcken ABCD... Aber: Datenverlust wird immer wahrscheinlicher, je mehr Platten man verwendet (Stripingbreite = Anzahl der Platten, hier 2) A. Kemper / A. Eickler 12 A. Kemper / A. Eickler 6

7 RAID 1: Spiegelung (mirroring) A B A B C D C D Datensicherheit: durch Redundanz aller Daten (Engl. mirror) Doppelter Speicherbedarf Lastbalancierung beim Lesen: z.b. kann Block A von der linken oder der rechten Platte gelesen werden Aber beim Schreiben müssen beide Kopien geschrieben werden Kann aber parallel geschehen Dauert also nicht doppelt so lange wie das Schreiben nur eines Blocks A. Kemper / A. Eickler 13 RAID 0+1: Striping und Spiegelung A A B B C C D D Kombiniert RAID 0 und RAID 1 Immer noch doppelter Speicherbedarf Zusätzlich zu RAID 1 erzielt man hierbei auch eine höhere Bandbreite beim Lesen der gesamten Datei ABCD... Wird manchmal auch als RAID 10 bezeichnet A. Kemper / A. Eickler 14 A. Kemper / A. Eickler 7

8 RAID 2: Striping auf Bit-Ebene Anstatt ganzer Blöcke, wie bei RAID 0 und RAID 0+1, wird das Striping auf Bit- (oder Byte-) Ebene durchgeführt Datei Es werden zusätzlich auf einer Platte noch Fehlererkennungsund Korrekturcodes gespeichert In der Praxis nicht eingesetzt, da Platten sowieso schon Fehlererkennungscodes verwalten A. Kemper / A. Eickler 15 RAID 3: Striping auf Bit-Ebene, zusätzliche Platte für Paritätsinfo Datei Parität Das Striping wird auf Bit- (oder Byte-) Ebene durchgeführt Es wird auf einer Platte noch die Parität der anderen Platten gespeichert. Parität = bit-weise xor Dadurch ist der Ausfall einer Platte zu kompensieren Das Lesen eines Blocks erfordert den Zugriff auf alle Platten Verschwendung von Schreib/Leseköpfen Alle marschieren synchron A. Kemper / A. Eickler 16 A. Kemper / A. Eickler 8

9 RAID 3: Plattenausfall Datei Parität Reparatur A. Kemper / A. Eickler 17 RAID 4: Striping von Blöcken A E B F C G D H P A-D P E-H Bessere Lastbalancierung als bei RAID 3 Flaschenhals bildet die Paritätsplatte Bei jedem Schreiben muss darauf zugegriffen werden Bei Modifikation von Block A zu A wird die Parität P A-D wie folgt neu berechnet: P A-D := P A-D A A D.h. bei einer Änderung von Block A muss der alte Zustand von A und der alte Paritätsblock gelesen werden und der neue Paritätsblock und der neue Block A geschrieben werden A. Kemper / A. Eickler 18 A. Kemper / A. Eickler 9

10 RAID 4: Striping von Blöcken Datei Paritäts block Flaschenhals bildet die Paritätsplatte Bei jedem Schreiben muss darauf zugegriffen werden Bei Modifikation von Block A zu A wird die Parität P A-D wie folgt neu berechnet: P A-D := P A-D A A D.h. bei einer Änderung von Block A muss der alte Zustand von A und der alte Paritätsblock gelesen werden und der neue Paritätsblock und der neue Block A geschrieben werden A. Kemper / A. Eickler 19 RAID 5: Striping von Blöcken, Verteilung der Paritätsblöcke A E B F C G D P E-H P A-D H I M J P M-P P I-L N K O L P Bessere Lastbalancierung als bei RAID 4 die Paritätsplatte bildet jetzt keinen Flaschenhals mehr Wird in der Praxis häufig eingesetzt Guter Ausgleich zwischen Platzbedarf und Leistungsfähigkeit A. Kemper / A. Eickler 20 A. Kemper / A. Eickler 10

11 Parallelität bei Lese/Schreib- Aufträgen A. Kemper / A. Eickler 21 Systempuffer-Verwaltung einlagern verdrängen Hauptspeicher Platte ~ persistente DB A. Kemper / A. Eickler 22 A. Kemper / A. Eickler 11

12 Ein- und Auslagern von Seiten Systempuffer ist in Seitenrahmen gleicher Größe aufgeteilt Ein Rahmen kann eine Seite aufnehmen Überzählige Seiten werden auf die Platte ausgelagert Hauptspeicher 0 4K 8K 12K 16K 20K 24K 28K Platte(swap device) P123 32K 36K 40K 44K P480 48K 52K 56K 60K Seitenrahmen Seite A. Kemper / A. Eickler 23 Kollektionen in java.util Collection Map Set List HashMap SortedSet TreeSet HashSet ArrayList LinkedList SortedMap TreeMap Iterator Iterator A. Kemper / A. Eickler 24 A. Kemper / A. Eickler 12

13 B-Bäume Balancierte Mehrwege-Suchbäume Für den Hintergrundspeicher 25 D.. Weitere Daten S.. Suchschlüssel V.. Verweise (SeitenNr) A. Kemper / A. Eickler 26 A. Kemper / A. Eickler 13

14 A. Kemper / A. Eickler 27 A. Kemper / A. Eickler 28 A. Kemper / A. Eickler 14

15 Einfügen eines neuen Objekts (Datensatz) in einen B-Baum A. Kemper / A. Eickler 29 Sukzessiver Aufbau eines B-Baums vom Grad k=2 (kleine Spielerei ohne Druck) A. Kemper / A. Eickler 30 A. Kemper / A. Eickler 15

16 Speicherstruktur eines B-Baums auf dem Hintergrundspeicher 4 Speicherblock Nr 4 A. Kemper / A. Eickler 103 Speicherstruktur eines B-Baums auf dem Hintergrundspeicher 0*8KB 1*8KB 2*8KB 3*8KB 4*8KB 8 KB-Blöcke 3 0 Block- Nummer Datei A. Kemper / A. Eickler 104 A. Kemper / A. Eickler 16

17 Speicherstruktur eines B-Baums auf dem Hintergrundspeicher 0*8KB 1*8KB 2*8KB 3*8KB 4*8KB 8 KB-Blöcke 3 0 Block- Nummer Datei A. Kemper / A. Eickler 105 Speicherstruktur eines B-Baums auf dem Hintergrundspeicher 0*8KB 1*8KB 2*8KB 3*8KB 4*8KB Block- Nummer 0 8 KB-Blöcke Datei Freispeicher- Verwaltung A. Kemper / A. Eickler 106 A. Kemper / A. Eickler 17

18 Zusammenspiel: Hintergrundspeicher -- Hauptspeicher Hintergrundspeicher Hauptspeicher- Puffer 4 4 Zugriffslücke 10 5 A. Kemper / A. Eickler 107 B + -Baum Referenzschlüssel Suchschlüssel A. Kemper / A. Eickler 108 A. Kemper / A. Eickler 18

20 Mehrere Indexe auf denselben Objekten B-Baum Mit (PersNr, Daten) Einträgen B-Baum Mit (Alter,???) Einträgen Name, Alter, Gehalt... Alter, PersNr A. Kemper / A. Eickler 111 Mehrere Indexe auf denselben Objekten Wer ist 20? B-Baum Mit (PersNr, Daten) Einträgen B-Baum Mit (Alter,???) Einträgen Name, Alter, Gehalt... 20, 007 Alter, PersNr A. Kemper / A. Eickler 112 A. Kemper / A. Eickler 20

21 Mehrere Indexe auf denselben Objekten Wer ist 20? B-Baum Mit (PersNr, Daten) Einträgen B-Baum Mit (Alter,???) Einträgen 007,Bond,20,... 20, 007 Name, Alter, Gehalt... Alter, PersNr A. Kemper / A. Eickler 113 Eine andere Möglichkeit (B*-Baum) Referenzierung über Speicheradressen PersNr Alter 007,... 20, , Bond, 20,... A. Kemper / A. Eickler 114 A. Kemper / A. Eickler 21

22 Realisierungstechnik für Hintergrundspeicher-Adressen Seiten / Blöcke (ca 8 KB) A. Kemper / A. Eickler 115 A. Kemper / A. Eickler 116 A. Kemper / A. Eickler 22

23 Verschiebung innerhalb einer Seite A. Kemper / A. Eickler 117 Verschiebung von einer Seite auf eine andere Forward A. Kemper / A. Eickler 118 A. Kemper / A. Eickler 23

24 Verschiebung von einer Seite auf eine andere Bei der nächsten Verschiebung wird der Forward auf Seite 4711 geändert (kein Forward auf Seite 4812) A. Kemper / A. Eickler 119 Kollektionen in java.util Collection Map Set List HashMap SortedSet TreeSet HashSet ArrayList LinkedList SortedMap TreeMap Iterator Iterator A. Kemper / A. Eickler 120 A. Kemper / A. Eickler 24

25 Mengendurchschnitt mit einem Hash/Partitionierungs-Algorithmus R R S Nested Loop: O(N 2 ) Sortieren: O(N log N) Partitionieren und Hashing S A. Kemper / A. Eickler 121 Mengendurchschnitt mit einem Hash/Partitionierungs-Algorithmus R Mod 3 R R S S A. Kemper / A. Eickler 122 A. Kemper / A. Eickler 25

26 Mengendurchschnitt mit einem Hash/Partitionierungs-Algorithmus R Mod 3 R R S S Mod 3 S A. Kemper / A. Eickler 123 Mengendurchschnitt mit einem Hash/Partitionierungs-Algorithmus R Mod 3 R R S S Mod 3 S A. Kemper / A. Eickler 124 A. Kemper / A. Eickler 26

27 Statisches Hashing A. Kemper / A. Eickler 125 Statische Hashtabellen À priori Allokation des Speichers Nachträgliche Vergrößerung der Hashtabelle ist teuer Hashfunktion h(...) =... mod N Rehashing der Einträge h(...) =... mod M In Datenbankanwendungen viele GB Erweiterbares Hashing Zusätzliche Indirektion über ein Directory Ein zusätzlicher Zugriff auf ein Directory, das den Zeiger (Verweis, BlockNr) des Hash-Bucket enthält Dynamisches Wachsen (und Schrumpfen) ist möglich Der Zugriff auf das Directory erfolgt über einen binären Hashcode A. Kemper / A. Eickler 126 A. Kemper / A. Eickler 27

29 Mehrdimensionale Datenstrukturen Wertbasierter Zugriff auf der Grundlage mehrerer Attribute, dies einzeln oder in beliebigen Kombinationen. Typische Anforderungen aus CAD, VLSI-Entwurf, Kartographie,... Anfragen decken den Bereich ab zwischen mehrdimensionalem Punktzugriff (EMQ) und mehrdimensionalen Bereichsanfragen (RQ) Lösung mit eindimensionalen Indexen erfordert konjunktive Zerlegung der Anfrage in Einattributanfragen und Schnittmengenbildung bedingt hohe Speicherredundanz Problemstellung: Mehrdimensionale Nachbarschaftsverhältnisse A. Kemper / A. Eickler 129 Grundlagen mehrdimensionaler Datenstrukturen Wertebereiche D 0,..., D k-1 : alle D i sind endlich, linear geordnet und besitzen kleinstes (- i ) und größtes ( i ) Element Datenraum D = D 0... D k-1 k-dimensionaler Schlüssel entspricht Punkt im Datenraum p D A. Kemper / A. Eickler 130 A. Kemper / A. Eickler 29

30 Charakterisierung mehrdimensionaler Datenstrukturen Mehrdimensionale Zugriffsstrukturen können gemäß der Art der Aufteilung des Datenraums in Gebiete charakterisiert werden: 1. nur atomare Gebiete (beschreibbar durch ein Rechteck) 2. vollständig (die Vereinigung aller Gebiete ergibt den gesamten Datenraum) 3. disjunkt (die Gebiete überlappen nicht) Grid-File (Gitter-Datei): atomar, vollständig, disjunkt A. Kemper / A. Eickler 131 R-Baum: Urvater der baum-strukturierten mehrdimensionalen Zugriffsstrukturen [18,60] [60,120] K Bond 20 80K Mini 43 70K Mickey 18 60K Duck 60 Bond 40 Mickey Alter 20 Duck Mini 40K 60K 80K 100K 120K A. Kemper / A. Eickler Gehalt 132 A. Kemper / A. Eickler 30

31 Nächste Phase in der Entstehungsgeschichte des R-Baums [18,43] [40,60] [60,80] [100,120] 20 80K Mini 43 70K Mickey 18 60K Duck K Bond K Speedy Bert (noch nicht eingefügt) Mickey Bond Alter Duck Mini Speedy Gehalt A. Kemper / A. Eickler 133 Gute versus schlechte Partitionierung gute Partitionierung schlechte Partitionierung Mickey Bond Mickey Bond Alter Duck Mini Speedy Alter Duck Mini Speedy Gehalt Gehalt A. Kemper / A. Eickler 134 A. Kemper / A. Eickler 31

32 Datenraum Bert Lucie Mickey Bond Alter Duck Ernie Speedy Mini Urmel Bill Gehalt A. Kemper / A. Eickler 135 A. Kemper / A. Eickler 32