3. Speichersystem / Pufferverwaltung

Transkript

1 3. Speichersystem / Pufferverwaltung Dateiverwaltung Direkte vs. indirekte Seitenzuordnung Segmentkonzept Indirekte Einbringstrategien DB-Pufferverwaltung: Grundlagen Allgemeine Charakteristika Speicherzuteilung im Puffer Suche im Puffer Schreibstrategien (Force vs. Noforce) Lesestrategien (Prefetching, Demand Fetching) DB-Pufferverwaltung: Seitenersetzungsverfahren Klassifikation von Ersetzungsverfahren Einfache Verfahren: LRU, FIFO, CLOCK, GCLOCK, LRD... LRU-K Adaptives LRU 3-1 Speichersystem Speichersystem Daten- und Zugriffssystem Pufferschnittstelle Seiten, Segmente Segment- / Seitenverwaltung (Seitenzuordnungsstrukturen Blöcke, Dateien Dateiverwaltung (Speicherzuordnungsstrukturen) Geräteschnittstelle Externspeicher Dateiverwaltung (Speicherzuordnung) DB-Speicher = Menge von Dateien Dateien repräsentieren externe Speichermedien in geräteunabhängiger Weise Dateisystem: Abbildung von Dateien / physischen Blöcken auf Externspeicher Dateiarten: permanent/temporär, sequentiell/direkt adressierbar,... wichtig.: schnelle Adressierbarkeit, dynamische Wachstumsfähigkeit von Dateien Segment- und Seitenverwaltung (Seitenzuordnung) Indirekte Einbringstrategien 3-2

2 Dateikonzept DB-Speicher = Menge von Dateien Dateien repräsentieren externe Speichermedien für Anwendungen in einer geräteunabhängigen Weise Dateisystem realisiert Abbildung von physischen Blöcken und Dateien auf Externspeicher verwaltet typischerweise einen hierarchischen Namensraum Operationen auf Dateien Anlegen/Löschen (Create / Delete) Verarbeiten (Open / Close) Lesen/Schreiben (Read / Write) Dateiarten: permanente vs. temporäre Dateien unstrukturiert vs. strukturiert sequentieller vs. direkter Zugriff ggf. wertbasierter Zugriff 3-3 Dateikonzept: Realisierungsaspekte Dateiname Attribute Datei D1 objektbezogene Beschreibung Katalog für alle Dateien mit Deskriptor pro Datei Dateimerkmale: Name, Größe, Externspeicherzuordnung, Owner, Erzeugungszeitpunkt,... Freispeicherverwaltung für Externspeicher (z.b. Bitlisten) Anlegen/Reservieren von Speicherbereichen i h (Extents): Erstzuweisung, Erweitern Einheit des physischen Zugriffs: Block feste Blocklänge pro Datei Dynamische Extent-Zuordnung kleine Extent-Liste pro Datei ermöglicht geringe Zugriffskosten Schnelle sequentielle Zugriffe innerhalb von Extents Flexibilität hinsichtlich Wachstum 3-4 gerätebezogene Freispeicher-Info Katalog

3 Blockzuordnung über Extent-Tabellen Extent-Tabelle für Datei D k Name Typ Bereichsanfang ZYL, SPUR Anzahl Blöcke MP1 A Z201, S5 i MP2 B Z350, S1 j-i MP2 B Z105, S1 l-j Bereich 1 B1 B 2 B 3 B 4 B 5 MP1 A Z499, S7 m k-l B j+1 B j+2 B j+3 Bereich 3 B l B i B i+1 B i+2 Bereich 2 Bereich 4 B l+1 B j Magnetplatte MP2, Typ B B mk k Magnetplatte MP1, Typ A Systempuffer(Hauptspeicher) Dargestellte Aktionen der Zugriffsprimitive: Hole Block B 5 ; Hole Block B j Segmentkonzept Aufteilung des logischen DB-Adressraumes in Segmente mit sichtbaren Seitengrenzen Realisierung eines Segmentkonzeptes: Ermöglichung indirekter Einbringstrategien Segmente als Einheiten i des Sperrens, der Recovery und der Zugriffskontrolle Unterschiedliche Segmentarten: permanent/temporär, öffentlich/privat, Abbildung auf Dateien DBS-Unterstützung durch sog. Tablespaces (tw. auch Indexspaces) Segmenttyp zur Speicherung von Tabellen (Relationen) sowie ggf. Indexstrukturen Tablespace kann i.a. auf mehrere Dateien abgebildet werden CREATE TABLESPACE tablespacename DATAFILE filename SIZE size { "," filename SIZE size } Zuordnung von Relationen zu Tablespaces CREATE TABLE tablename (... [ TABLESPACE tablespacename ] [ STORAGE INITIAL size NEXT size ] [PCTFREE percent ] ) 3-6

4 Speicherorganisation in Oracle 3-7 Tablespaces in DB2 3S Segmentarten: Catalog, User, Temporary Tablespace CREATE DATABASE PERSONL CATALOG TABLESPACE MANAGED BY SYSTEM USING ('d:\pcatalog','e:\pcatalog') EXTENTSIZE 32 PREFETCHSIZE 16 USER TABLESPACE MANAGED BY DATABASE USING (FILE'd:\db2data\personl' 5000, FILE'd:\db2data\personl' 5000) EXTENTSIZE 32 PREFETCHSIZE 64 TEMPORARY TABLESPACE MANAGED BY SYSTEM USING ('f:\db2temp\personl') WITH "Personal DB for BSchiefer" Tablespace kann auf mehrere Container/Platten aufgeteilt werden 3-8

5 Direkte vs. indirekte Seitenzuordnung Direkte Seitenzuordnung (Update in Place) Indirekte Seitenzuordnung 3 Seite i Schreiben nach Änderung Block i i 2 Sit Seite i Block j 1 Block k Seitentabelle (alt) Seitentabelle (neu) i Indirekte Zuordnung 1) Lesen vor Änderung 2) Schreiben nach Änderung 3) Lesen nach Änderung Seitentabelle: Abbildung von Seitennr. Blocknr. Einbringen (mengenorientiert): Änderungen schreiben + Umschalten der Seitentabellen Realisierungsverfahren: Schattenspeicherkonzept, Zusatzdateiverfahren (s. Lehrbuch) 3-9 Vorteile Indirekte Seitenzuordnung Rücksetzen auf älteren konsistenten DB-Zustand (Undo-Recovery) einfach möglich durch Umschalten einer Seitentabelle können viele Änderungen gleichzeitig gültig gemacht ( eingebracht ) werden physische DB kann operationskonsistent gehalten werden => auf dem physischen h DB-Zustand lassen sich DB-Operationen ausführen (ermöglicht für die Recovery ein sog. Operationen-Logging) Nachteile Seitentabellen werden oft zu groß für Hauptspeicher: hohe Zugriffskosten (E/A) Doppelspeicherung ungünstig für lange Änderungsprogramme physische Clusterbildung logisch zusammengehöriger Seiten wird beeinträchtigt bzw. zerstört -> signifikante Verlangsamung für sequentielle Externspeicherzugriffe In der Praxis werden daher Update-in-Place-Verfahren (direkte Seitenzuordnung) genutzt 3-10

6 Stellung der Pufferverwaltung innerhalb eines DBS Select * FROM PERS WHERE ANR =, K55, TAP 1 Transaktionsprogramme, die auf die Datenbank zugreifen TAP 2 TAP n Stelle Seite Pi bereit (FIX) Gib Seite P i frei (UNFIX) Anfrageverarbeitung und Zugriffspfadroutinen logische Seitenreferenzen DBS-Pufferverwaltung Datenbanksystem Lies Seite Pi Schreibe Seite P i physische Seitenreferenzen Dateiverwaltung Plattenzugriffe 3-11 Typische Referenzmuster in DBS 1. Sequentielle Suche (Bsp.: Relationen-Scan): räumliche Lokalität S i S j S k S l 2. Zyklische Pfade (Bsp.: wiederholte Abarbeitung von Satzmengen): temporale Lokalität 3. Hierarchische Pfade (Bsp.: Suchen über B*-Bäume) 3-12

7 Seitenreferenzstrings jd jede Datenanforderung ist eine logische Seitenreferenz Aufgabe der Pufferverwaltung: Minimierung der physischen Sit Seitenreferenzen Referenzstring R = <r 1, r 2,... r i,... r n > mit r i = ( T i, D i, S i ) T i zugreifende Transaktion D i referenzierte DB-Partition referenzierte DB-Seite S i Referenzstring-Information ermöglicht Charakterisierung des Referenzverhaltens - insgesamt - bezüglich bestimmter Transaktionen, Transaktions-Typen und DB-Partitionen Bestimmung von Lokalität und Sequentialität Lokalitätsbestimmung z.b. über LRU-Stacktiefenverteilung 3-13 LRU-Stacktiefenverteilung LRU-Stack enthält bereits referenzierte Si Seiten in der Rih Reihenfolge fl ihres Zugriffsalters Unten am längsten nicht mehr referenzierte (d.h hleast recently used/lru) Seite, oben: most recently used (MRU) Seite Bestimmung der Stacktiefenverteilung: pro Stackposition i wird Referenzähler c i geführt für Seiten an dieser Position Zählerwerte entsprechen der Wiederbenutzungshäufigkeit aus Stacktiefenverteilung läßt sich für LRU-Erwetzung und bestimmte Puffergröße x Trefferrate bestimmen #Treffer = Wiederbenutzungswahrs cheinlichkeit (%) Lokalität wahlfreie Zugriffsverteilung 3-14 Stacktiefe

8 Beispiel Referenzstring: A B A C C B C C D E Stack- POS Start- inhalte LRU-Stack: 1 A 2 B 3 C 4 D 5 E Speicherzuteilung im DB-Puffer global (1 gemeinsamer Pufferbereich) lokal/ partitionierte Pufferbereiche statisch dynamisch gleichförmige Partitionen angepaßte Partitionen Partitionierungsmöglichkeiten: eigener Pufferbereich pro Transaktion bzw. Query Transaktionstyp-bezogene Pufferbereiche Seitentyp-bezogene Pufferbereiche DB (-Partitions)-spezifische Pufferbereiche 3-16

9 Suche im Puffer Direkte Suche in Pufferrahmen Indirekte Suche über Hilfsstrukturen Sequentielle Liste Verkettete Liste Hash-Tabelle sortiert / unsortiert Probleme der direkten Suche hohe lineare Suchkosten proportional zur Puffergröße hohe Wahrscheinlichkeit von Paging-I/Os Listenstrukturen: lineare Suchkosten Beste Lösung: Hash-Tabelle mit Kollisionsbehandlung z.b. durch Überlaufketten 3-17 Suche (2) Hash-Tabelle Tbll mit iüberlaufketten Infos pro Eintrag h (P i ) = k 1 k P j B 2 P i B 3 P k B - 1 H Sit Seiten-Nummer Pufferadresse Fix-Zähler Änderungsbit (bzw. Änderungszähler) evtl. Zeitpunkt der ersten Änderung etc. 3-18

10 Schreibstrategien Ersetzung einer geänderten Seite erfordert vorheriges Zurückschreiben der Änderung in permanente DB auf Externspeicher synchrones (=> Antwortzeitverschlechterung) vs. asynchrones Ausschreiben Abhängigkeit zur gewählten Ausschreibstrategie (Force vs. Noforce) FORCE: alle Änderungen einer Transaktion werden spätestens bi beim Commit itin die DB zurückgeschrieben ük hib ("write-through") th h") i.a. stets ungeänderte Seiten zur Ersetzung vorhanden hoher E/A-Overhead starke Antwortzeiterhöhung für Änderungstransaktionen NOFORCE: kein Durchschreiben der Änderungen bei Commit (verzögertes Ausschreiben,"deferred write-back") Seite kann mehrfach geändert werden, bevor ein Ausschreiben erfolgt (geringerer E/A- Overhead, bessere Antwortzeiten) vorausschauendes (asynchrones) Ausschreiben geänderter Seiten erlaubt auch bei NOFORCE, vorwiegend ungeänderte Seiten zu ersetzen synchrone Schreibvorgänge in die DB können weitgehend vermieden werden 3-19 Lesestrategien Preplanning Prefetching Demand Fetching Transaktionsprogramme; Programmanalyse physische Datenstrukturierung; Clusterbildung; Verarbeitungswissen keine Vorausaktionen große Fehlrate falsche Entscheidungen Lokalitätserhaltung ungenaue Obermengen möglich im Puffer 3-20

11 Referenzverhalten und Ersetzungsverfahren Grundannahme bei Ersetzungsverfahren Refererenzverhalten der jüngeren Vergangenheit ähnelt Referenzverhalten in der näheren Zukunft Nutzung der typischerweise hohen Lokalität bei Ersetzung manchmal Sequentialität oder zufällige Arbeitslast (RANDOM-Referenzen) Kombinationen bzgl. Referenzen/Ersetzung: RANDOM/RANDOM, RANDOM/OPT, Lokalität/RANDOM, Lokalität/OPT Grenzfälle zeigen Optimierungsmöglichkeiten auf Fehlseitenrate 100% R/R R/OPT D = DB-Größe in Blöcken L/OPT L/R D #R Rahmen im DB-Puffer Kriterien für die Auswahl der zu ersetzenden Pufferseite Verfahren Alter Letzte Referenz Referenzhäufigkeit Andere Kriterien OPT Vorauswissen RANDOM LRU LFU FIFO CLOCK GCLOCK LRD V1 LRD V2 LRU-K Adaptives LRU 3-22

12 Least-Recently-Used (LRU) Ersetzungskriterium: Zeit seit der letzten Referenzierung der Seite. Eine referenzierte Seite kommt an die Spitze des LRU-Stacks Falls referenzierte Seite an Position n im Stack war, rutschen alle Seiten an den Positionen 1 bis n-1 eine Position tiefer Seite am Kellerboden wird ersetzt Beispiel (Stackgröße 5): Referenzen von Seiten C und F A B C D E Unterscheidung zwischen Least-Recently-Referenced und Least-Recently-Unfixed FIX FIX UNFIX UNFIX t 3-23 Least-Frequently-Used (LFU) Führen eines Referenzzählers pro Seite im Puffer Ersetzung der Seite mit der geringsten Referenzhäufigkeit RZ Nachteil: Alter (Zeit seit letzter Einlagerung) einer Seite wird nicht berücksichtigtnachteil Seiten mit kurzzeitiger, sehr hoher Referenzierung sind kaum mehr zu verdrängen 3-24

13 die älteste Seite im Puffer wird ersetzt FIFO (First-In First-Out) A F B E G D Referenzierungsverhalten während Pufferaufenthaltes wird nicht berücksichtigt 3-25 Erweiterung von FIFO CLOCK (Second Chance) Referenzbit pro Seite, das bei Zugriff gesetzt wird Ersetzung erfolgt nur bei zurückgesetztem Bit (sonst erfolgt Zurücksetzen des Bits) 1 A 1 F 0 B 0 E 1 G 0 D annähernde Berücksichtigung des letzten Referenzierungszeitpunktes 3-26

14 GCLOCK (Generalized CLOCK) 1 A 0 F 5 B 2 E 1 G 2 D pro Seite wird Referenzzähler geführt (statt Bit) Ersetzung nur von Seiten mit Zählerwert 0 (sonst erfolgt Dekrementierung des Zählers und Betrachtung der nächsten Seite) Verfahrensparameter: Initialwerte für Referenzzähler Wahl des Dekrementes Zählerinkrementierung bei erneuter Referenz Vergabe von seitentyp- oder seitenspezifischen Gewichten 3-27 Least-Reference-Density (LRD) Rf Referenzdichte: dih Referenzhäufigkeit Rf häfikiwährend eines bestimmten Referenzintervalls LRD Variante 1: Referenzintervall entspricht Alter einer Seite Berechnung der Referenzdichte: Globaler Zähler GZ: Gesamtanzahl aller Referenzen Einlagerungszeitpunkt it EZ: GZ-Wert bei Einlesen der Seite Referenzzähler RZ Rf Referenzdichte dih RD () j = RZ() j GZ EZ( j) A A A B C D D E F F F F A B C D E F RZ EZ RD 3-28

15 Least-Reference-Density (2) LRD Variante 2: konstante Intervallgröße periodisches Reduzieren der Referenzzähler, um Gewicht früher Referenzen zu reduzieren Reduzierung von RZ durch Division oder Subtraktion: RZ i ( ) RZ( i) K1 = (K1 > 1) oder RZ( i) = RZ( i) K2 K3 falls RZ() i K2 K3 sonst ( K2 > 0, K3 0) t1 t2 t3 A A A B C D D E F F F F RZ(A) RZ(B) t1 t2 t3 RZ(C) RZ(D) RZ(E) 3-29 Simulationsergebnisse 3-30

16 Probleme von LRU LRU ungeeignet für sequentielle Zugriffsmuster (z.b. Relationen-Scan) sofortige Ersetzung sinnvoll (z.b. Most Recently Used, MRU) LRU nutzt kein Wissen über spezielle Referenzfolgen, z.b. Referenzzyklen zyklisches Referenzieren von S Seiten mit S > #Rahmen internes Thrashing zyklisches Referenzieren von S Seiten mit S < #Rahmen und Interferenz durch andere Transaktionen mit schnellerer Anforderung (stealing) externes Thrashing LRU berücksichtigt nicht unterschiedliche Referenzhäufigkeiten, z.b. zwischen Index- und Datenseiten LRU berücksichtigt nicht Charakteristika unterschiedlicher Anfrage-/ Transaktionstypen Bsp.: Transaktionen mit hoher Referenzlokalität können durch gleichzeitige sequentielle Scans mit schneller Seitenanforderung stark benachteiligt werden Alternativen Ausnutzen von Kontextwissen des Query-Optimierers ("hints" an Pufferverwaltung) LRU-Erweiterungen bzgl. Prioritäten, Referenzhäufigkeiten etc LRU-K Berücksichtigung i der K letzten Referenzzeitpunkte einer Seite erlaubt Approximation der Referenzhäufigkeit durch Bestimmung des mittleren Zeitabstands zwischen Referenzen einer Seite Beschränkung auf die K letzten Referenzen ist einfache Methode, Information aktuell zu erhalten (keine zusätzlichen Tuning-Parameter wie bei LRD V2) Beispiel (K=4) A B B A A A B B B B Zeit zur Ersetzung genügt es, K-letzten Referenzierungszeitpunkt zu berücksichtigen! LRU-2 (d.h. K=2) stellt i.a. beste Lösung dar ähnlich gute Ergebnisse wie für K > 2, jedoch einfachere Realisierung bessere Reagibilität auf Referenzschwankungen als für größere K 3-32

17 Adaptives LRU* L2 Verwendung von 2LRU LRU-Ketten Ktt L1: Seiten die nur 1-mal referenziert wurden (v.a. für sequentielle Zugriffe) L2: Seiten, die wenigstens 2-mal referenziert wurden für Cache-Größe c werden 2c Seiten in L1 und L2 verwaltet jede Liste verwaltet in einem Top-Bereich (T1 bzw. T2) die gepufferten Seiten sowie in einem Bottom-Bereich (B1 bzw. B2) die nicht mehr gepufferten Seiten T1 + T2 <=c ; L1 + L2 = T1 + T2 + B1 + B2 <=2c; L1 <=c falls angeforderte Seite in L1 oder L2 wird sie an MRU-Position von L2 gebracht, ansonsten an MRU-Position von L1 Parameter p = T1 bestimmt relatives Verhältnis zwischen L1- und dl2sit L2-Seiten im Puffer Pff LRU- Position MRU- Position LRU- Position dynamische Anpassung von p gemäß aktueller Verteilung von sequentiellen Zugriffen und Zugriffen mit temporaler Lokalität B2 T2 T1 B1 L1 * N. Megiddo, D.S. Modha: Outperforming LRU with an Adaptive Replacement Cache Algorithm. IEEE Computer, April Adaptives LRU (2) Ersetzung für Referenz auf Seite x 1: Hit in T1 oder T2: Bringe x an MRU-Position von T2 2:"Hit" in B1: p := min (p+k1,c) mit k1 = 1 falls B1 >= B2, sonst k1= B2 / B1 ; Erhöhe p ( T1 ) REPLACE(x,p); lese x ein und bringe x an MRU-Position von T2 3: "Hit" in B2: p:=max(p-k2,0) mit k2=1 falls B2 >= B1, sonst k2= B1 / B2 ; Reduziere p (erhöhe T2 ) REPLACE(x,p); lese x ein und bringe x an MRU-Position von T2 4: Miss: REPLACE (x,p); lese x ein und bringe x an MRU-Position von T1 REPLACE (x,p): IF T1 > 0 and (p< T1 OR (p= T1 and (x in B2)) Ersetze LRU-Seite Sit von T1(>W (-> Wechsel an MRU-Position MRUP von B1) ELSE Ersetze LRU-Seite von T2 (-> Wechsel an MRU-Position von B2) Beispiel (c=4) L2 T2 H G F A G C A K F Referenzen L1 T1 E D C B p=2 3-34

18 Adaptives LRU: Beobachtungen Adaptivität über erweiterte Listen Heuristik: investiere in erfolgreiche Liste (vergrößere T1 bzw. T2 für Treffer in B1 bzw. B2 rein sequentielle Zugriffe füllen L1; fehlende Treffer in B1 vergrößern T Zusammenfassung effizientes i und flexibles Dateikonzept erforderlich Blockzuordnung über dynamische Extents für Wachstum und schnelle Adressierung direkter und sequentieller Blockzugriff Segmentkonzept: Logische Behälter für DB-Inhalte, Indexstrukturen Update-in-Place ist indirekten Einbringstrategien vorzuziehen DB-Pufferverwaltung zur Minimierung physischer E/A Nutzung von Lokalität innerhalb und zwischen Transaktionen, Sequentialität,... Suche im Puffer: durch Hash-Verfahren Globale Speicherzuteilung vorteilhaft (Pufferrahmen für alle Transaktionen) Behandlung geänderter Seiten: NOFORCE, asynchrones Ausschreiben Seitenersetzungsverfahren Nutzung mehrerer Kriterien möglich: Alter, letzte Referenz, Referenzhäufigkeit LRU ist guter Default-Ansatz LRU-2 wählt Ersetzungskandidaten aufgrund des vorletzten Referenzzeitpunktes aus Adaptives LRU 3-36