9. Mengenorientierte DB-Schnittstelle

Transkript

1 9. Mengenorientierte DB-Schnittstelle Logische Datenstrukturen Ziele - Darstellung der prinzipiellen Schritte der Übersetzung von mengenorientierten DB-Sprachen - Realisierung der verschiedenen Optimierungskonzepte Übersetzungsverfahren für Datenbanksprachen Anfrageoptimierung - Standardisierung und Vereinfachung - Restrukturierung und Transformation Erstellung und Auswahl von Ausführungsplänen - Fatale Annahmen - Bestimmung des optimalen Ausführungsplans - Strategien zur Reduzierung des Suchraums Berechnung der Zugriffskosten - Kostenmodell - Berechnungsgrundlagen Charakterisierung der Abbildung SELECT PR, ABT-AME FROM ABTEILUG, PERS, FAEHIGKEIT WHERE BERUF = PROGRAMMIERER & FAEHIGKEIT.FA-R = PERS.FA-R & PERS.ABT-R = ABTEILUG.ABT-R Abbildungsfunktionen - Sichten Basistabellen - Relationale Ausdrücke Logische Zugriffspfade - Satzmengen Einzelne Sätze, Positionsanzeiger FETCH FAEHIGKEIT USIG... FETCH EXT PERS... FETCH OWER WITHI... Übersetzung vs. Interpretation Beispiele Eigenschaften der oberen Schnittstelle - Zugriffspfad-unabhängiges (relationales) Datenmodell - Alle Sachverhalte und Beziehungen werden durch Werte dargestellt - icht-prozedurale (deskriptive) Anfragesprachen - Zugriff auf Satzmengen

2 Anfrageoptimierung 1 Anfrageoptimierung (2) Von der Anfrage (Was?) zur Auswertung (Wie?) Ziel: kostengünstiger Auswertungsweg Einsatz einer großen Anzahl von Techniken und Strategien - logische Transformation von Anfragen - Auswahl von Zugriffspfaden - optimierte Speicherung von Daten auf Externspeichern Welche Kosten sind zu berücksichtigen? - Kommunikationskosten (# der achrichten, Menge der zu übertragenden Daten) verteilte DBS! - Berechnungskosten (CPU-Kosten, Pfadlängen) - E/A-Kosten (# der physischen Referenzen) - Speicherungskosten (temporäre Speicherbelegung im DB-Puffer und auf Externspeichern) Schlüsselproblem - genaue Optimierung ist im allgemeinen nicht berechenbar - Fehlen von genauer statistischer Information Kostenarten sind nicht unabhängig voneinander in zentralisierten DBS oft gewichtete Funktion von Berechnungs- und E/A-Kosten - breiter Einsatz von Heuristiken (Daumenregeln) Wie wird am besten vorgegangen? Optimierungsziel entweder oder Maximierung des Outputs bei gegebenen Ressourcen Minimierung der Ressourcennutzung für gegebenen Output Durchsatzmaximierung? Antwortzeitminimierung für gegebene Anfragesprache, Mix von Anfragen verschiedenen Typs und gegebener Systemumgebung! Schritt 1: Schritt 2: Schritt 3: Schritt 4: Finde nach Übersetzung geeignete Interndarstellung für die Anfrage (Anfragegraph) Wende die logische Restrukturierung auf den Anfragegraph an Bilde die restrukturierte Anfrage auf alternative Folgen von Planoperatoren (Transformation) ab ( Mengen von Ausführungsplänen) Berechne Kostenvoranschläge für jeden Ausführungsplan und wähle den billigsten aus 1 Jarke, M., Koch, J.: Query Optimization in Database Systems, in: ACM Comp. Surveys 16:2, 1984, pp

3 Anfrageoptimierung Überblick Standardisierung einer Anfrage Übersetzung Optimierung Anfrage Syntaktische Analyse Semantische Analyse (Zugriffsund Integritätskontrolle) Standardisierung Anfragegraph Vereinfachung Anfragerestrukturierung Anfragetransformation Ausführungsplan Standardisierung - Wahl einer ormalform z.b. konjunktive ormalform (A11 OR... OR A1n) AD... AD (Am1 OR... OR Amn) - Verschiebung von Quantoren Umformungsregeln für Boolesche Ausdrücke Kommutativregeln A OR B B OR A A AD B B AD A Assoziativregeln (A OR B) OR C A OR (B OR C) (A AD B) AD C A AD (B AD C) Distribtivregeln A OR (B AD C) (A OR B) AD (A OR C) A AD (B OR C) (A AD B) OR (A AD C) Ausführung Interpretation Code- Generierung Ausführung Übersetzungszeit Laufzeit De Morgan sche Regeln OT (A AD B) OT (A) OR OT (B) OT (A OR B) OT (A) AD OT (B) Doppelnegationsregel OT (OT (A)) A Anfrageergebnis Bereitstellung Bereitstellung in Programmierumgebung Idempotenzregeln für Boolesche Ausdrücke A OR A A A AD A A A OR OT (A) TRUE A AD OT (A) FALSE A AD (A OR B) A A OR (A AD B) A A OR FALSE A A OR TRUE TRUE A AD FALSE FALSE

4 Vereinfachung einer Anfrage Anfragerestrukturierung Äquivalente Ausdrücke - können einen unterschiedlichen Grad an Redundanz besitzen - Behandlung/Eliminierung gemeinsamer Teilausdrücke (A 1 = a 11 OR A 1 = a 12 ) AD (A 1 = a 12 OR A 1 = a 11 ) - Vereinfachung von Ausdrücken, die an leere Tabellen gebunden sind Konstanten-Propagierung A op B AD B = const. A op const. icht-erfüllbare Ausdrücke A B AD B > C AD C A A > A false utzung von Integritätsbedingungen (IB) - IB sind wahr für alle Tupel der betreffenden Tabelle - A ist Primärschlüssel: π A keine Duplikateliminierung erforderlich - Regel: FAM-STAD = verh. AD STEUERKLASSE 3 Ausdruck: (FAM-STAD = verh. AD STEUERKLASSE = 1) false Verbesserung der Auswertbarkeit - Hinzufügen einer IB zur WHERE-Bedingung verändert den Wahrheitswert eines Auswahlausdrucks nicht Einsatz zur verbesserten Auswertung (knowledge-based query processing) Wichtigste Regeln für Restrukturierung und Transformation - Frühzeitige Ausführung von Selektion (σ) und Projektion (π) ohne Duplikateliminierung - Unäre Operatorfolgen (wie σ und π) zu einer Operation zusammenzufassen - Gleiche Teile im AG nur einmal auswerten - Binäre Operatorfolgen (wie,,,, ): Zwischenergebnisse minimieren selektive Operationen (σ, π) vor konstruktiven Operationen (, ) Zusammenfassung von Operationsfolgen R1: π An (...π A2 (π A1 (Tab))...) π An (Tab) R2: σ pn (...σ p2 (σ p1 (Tab))...)...) σ p1ad p2... AD pn (Tab) Restrukturierungsalgorithmus (1) Zerlege komplexe Verbundprädikate so, daß sie binären Verbunden zugeordnet werden können (Bilden von binären Verbunden). (2) Teile Selektionen mit mehreren Prädikatstermen in separate Selektionen mit jeweils einem Prädikatsterm auf. (3) Führe Selektionen so früh wie möglich aus, d. h., schiebe Selektionen hinunter zu den Blättern des AG (selection push-down). (4) Fasse einfache Selektionen zusammen, so daß aufeinanderfolgende Selektionen (derselben Tabelle) zu einer verknüpft werden. (5) Führe Projektionen ohne Duplikateliminierung so früh wie möglich aus, d. h., schiebe sie soweit wie möglich zu den Blättern des AG hinunter (projection push-down). (6) Fasse einfache Projektionen (einer Tabelle) zu einer Operation zusammen. - einfachere Auswertungsstruktur, jedoch effiziente Heuristiken benötigt

5 Anfragetransformation Aufgabe Zusammenfassung von logischen Operatoren (Ein- und Zwei-Variablen- Ausdrücke) und ihre Ersetzung durch Planoperatoren Typische Planoperatoren in relationalen Systemen - auf einer Tabelle: Selektion, Projektion, Sortierung, Aggregation, Änderungsoperationen (IUD) und ACCESS zum Zugriff auf Basistabellen + Erweiterungen: Rekursion, Gruppierung,... - auf zwei Tabellen: Verbund- und Mengen-Operationen, Kartesisches Produkt. Bewertung von Ausführungsplänen Grundsätzliche Probleme Anfrageoptimierung beruht i.a. auf zwei fatalen Annahmen 1. Alle Datenelemente und alle Attributwerte sind gleichverteilt 2. Suchprädikate in Anfragen sind unabhängig Beide Annahmen sind (im allgemeinen Fall) falsch! Beispiel (GEHALT 100K ) AD (ALTER BETWEE 20 AD 30) Bereiche: 10K 1M Anpassungen im AG zum effektiven Einsatz von Planoperatoren 1. Lineare Interpolation: (1)Gruppierung von direkt benachbarten Operatoren; z. B. lassen sich durch einen speziellen Planoperator ersetzen: Verbund (oder Kartesisches Produkt) mit Selektionen und/oder Projektionen auf den beteiligten Tabellen. 2. Multiplikation von Wahrscheinlichkeiten (2)Bestimmung der Verknüpfungsreihenfolge bei binären Operationen; dabei sollen die minimalen Kosten für die Operationsfolge erzielt werden. Als Heuristik ist dazu die Größe der Zwischenergebnisse zu minimieren, d. h., die kleinsten (Zwischen-)Tabellen sind immer zuerst zu verknüpfen. (3)Erkennung gemeinsamer Teilbäume, die dann nur jeweils einmal zu berechnen sind. Allerdings steht dieser Einsparung die Zwischenspeicherung der Ergebnistabelle gegenüber. Lösung? - Verbesserung der Statistiken/Heuristiken (Histogramme) - Berechnung/Bewertung von noch mehr Ausführungsplänen? Obwohl die Kostenabschätzungen meist falsch sind

6 Erstellung und Auswahl von Ausführungsplänen Erstellung und Auswahl von Ausführungsplänen (2) 2 Eingabe: - optimierter Anfragegraph (AG) - existierende Speicherungsstrukturen und Zugriffspfade - Kostenmodell Zusammenspiel der Komponenten Regeln zur Plangenerierung Kostenmodell Ausgabe: optimaler Ausführungsplan (oder wenigstens gut ) Vorgehensweise: Kostenabschätzung Plangenerierung {p 1,..., p n } 1. Generiere alle vernünftigen logischen Ausführungspläne zur Auswertung der Anfrage 2. Vervollständige die Ausführungspläne durch Einzelheiten der physischen Datenrepräsentation (Sortierreihenfolge, Zugriffspfadmerkmale, statistische Information) 3. Wähle den billigsten Ausführungsplan gemäß dem vorgegebenen Kostenmodell aus Alternative Ausführungspläne für einen AG entstehen vor allem dadurch, daß für jeden Planoperator verschiedene Methoden (Implementierungen) vorliegen, und daß Operationsreihenfolgen (z. B. bei Mehrfachverbunden) variiert werden können. So bilden sich bei komplexen Anfragen sehr große Suchräume mit Alternativen (z. B mögliche Ausführungspläne bei einer Anfrage mit 15 Verbunden). Generierung durch Anfrageoptimierer kleine Menge der Pläne, die den optimalen Plan enthält optimierter AG S akt Suchstrategie Suchraum... ein Reduzierung Weitersuchen Terminierung Ja Best-Plan {p i,..., p j } {p 1,..., p n } Suchstrategieparameter Einschränkung durch Heuristiken - hierarchische Generierung basierend auf dem Schachtelungskonzept von SQL - Zerlegung in eine Menge von Teilanfragen mit höchstens Zwei-Variablen-Ausdrücken 9-11 Ausführungsplan AAP AAP: Anfrageausführungsplan (engl. QEP: Query Evaluation Plan) 2 Mitschang, B.: Anfrageverarbeitung in Datenbanksystemen: Entwurfs- und Implementierungskonzepte, Reihe Datenbanksysteme, Vieweg,

7 Erstellung und Auswahl von Ausführungsplänen (3) Plangenerierung soll - immer und möglichst schnell den optimalen Plan finden - mit einer möglichst kleinen Anzahl generierter Pläne auskommen Suchstrategien - voll-enumerativ - beschränkt-enumerativ Erstellung und Auswahl von Ausführungsplänen (4) A J a I A (AR) b I A (EI) c Scan(A) C (A.AR) C (P.AR) g I J (AR) h I J (ORT) i Scan(J) P j d I P (AR) e I P (BERUF) f Scan(P) I J (PAME) - zufallsgesteuert Reduzierung: Bestimmte Suchpfade zur Erstellung von AAPs werden nicht weiter verfolgt Kostenabschätzung: Kostenabschätzung: C (J.AR) a) mögliche Zugriffspfade für die einzelnen Tabellen 3 Kostenabschätzung - verlangt hinreichend genaues Kostenmodell - wird bei allen Suchverfahren inkrementell durchgeführt Problemdarstellung Beispiel SQL: SELECT P.AME, P.BERUF, J.PAME FROM PERS P, ABT A, PROJ J WHERE A.EI > AD J.ORT = KL Zugehöriger Anfragegraph AD A.AR = P.AR AD A.AR = J.AR; AME, AR, PAME AR, AME, BERUF π π σ AR EI > 1 Mio π σ PERS ABT PROJ 9-13 AR, PAME ORT = KL a A b c P b) Lösungsbaum für einzelne Tabellen: Reduzierung durch Abschneiden von Teilbäumen (A, P) (A, J) (P, A) (J, A) a b a d b AAP AAP d e d e g h g h a b a b a b a b c) Erweiterter Lösungsbaum für den ested-loop-verbund mit der zweiten Tabelle Kostenabschätzung pro Pfad: z. B. durch C(C(A.AR) + C(P.AR) + Verbundkosten) 9-14 e f d e g J h g i j h 3

8 Berechnung der Zugriffskosten Kostenmodell statistische Werte Optimiereraufgabe Statistische Größen für Segmente: - erstellt Kostenvoranschlag für jeden aussichtsreichen Ausführungsplan - Einsatz einer gewichteten Kostenformel: M S L S Anzahl der Datenseiten des Segmentes S Anzahl der leeren Seiten in S C = #physischer Seitenzugriffe + W * (#Aufrufe des Zugriffssystems) gewichtetes Maß für E/A- und CPU-Auslastung W ist das Verhältnis des Aufwandes von ZS-Aufruf zu Seitenzugriff Ziel der Gewichtung: Minimierung der Kosten in Abhängigkeit des Systemzustandes Statistische Größen für Tabellen: R Anzahl der Tupel der Tabelle R (Card(R)) T R,S Anzahl der Seiten in S mit Tupel von R C R Clusterfaktor (Anzahl Tupel pro Seite) Statistische Größen pro Index I auf Attributen A einer Tabelle R: - System "I/O-bound": sehr kleiner W-Wert #Instr. pro ZS Aufruf W I O = #Instr. pro E A + Zugriffszeit MIPS-Rate j I B I... Anzahl der Attributwerte / Schlüsselwerte im Index (=Card (π A (R)) Anzahl der Blattseiten (B*-Baum) 1000 I. Bsp. W I O = I. 12 msec 10 8 = 0, I./sec - System "CPU-bound": relativ großer W-Wert #Instr. pro ZS Aufruf W CPU = #Instr. pro E A 1000 Bsp. W CPU = = 0, Statistiken müssen im DB-Katalog gewartet werden Aktualisierung bei jeder Änderung sehr aufwendig - zusätzliche Schreib- und Log-Operationen - DB-Katalog wird zum Sperr-Engpaß Alternative: - Initialisierung der statistischen Werte zum Lade- oder Generierungszeitpunkt von Tabellen und Indexstrukturen - periodische eubestimmung der Statistiken durch eigenes Kommando/ Dienstprogramm (DB2: RUSTATS)

9 Kostenmodell Berechnungsgrundlagen Übersetzung vs. Interpretation Mit Hilfe der statistischen Werte kann der Anfrageoptimierer jedem Verbundterm im Qualifikationsprädikat einen Selektivitätsfaktor (0 SF 1) zuordnen (erwarteter Anteil an Tupel, die das Prädikat erfüllen): Card (σ p (R)) = SF(p). Card (R) Selektivitätsfaktor SF bei: Was heißt Binden? AP: SELECT Pnr, ame, Gehalt FROM Pers WHERE Beruf = Programmierer A i = a i SF = 1/j i wenn Index auf A i 1/10 sonst 1 / Max(j i, j k ) wenn Index auf A i, A k A i = A k SF = 1 / j i wenn Index auf A i 1 / j k wenn Index auf A k 1/10 sonst (a max - a i ) / (a max - a min ) wenn Index auf A i A i a i (oder A i > a i ) SF = und Wert interpolierbar 1/3 sonst (a k -a i ) / (a max - a min ) wenn Index auf A i A i BETWEE a i AD a k SF = und Wert interpolierbar 1/4 sonst r / j i wenn Index auf A i und A i I (a 1, a 2,..., a r ) SF = SF < 0.5 1/2 sonst Berechnung von Ausdrücken DB-Katalog: Zeitpunkt des Bindens Übersetzungszeit (ÜZ) SYSTAB: Tabellenbeschreibungen: Pers,... SYSATTR: Attributbeschreibungen: Pnr, ame, Gehalt,... SYSIDEX: I Pers (Beruf),... SYSAUTH: utzungsrechte SYSIT/RULES: Integritätsbedingungen, Zusicherungen,... AP Invalidierung durch Schemaänderungen Laufzeit (LZ) - SF (p(a) p(b)) = SF (p(a)). SF (p(b)) Übersetzungskosten: Interpretation: - SF (p(a) p(b)) = SF (p(a)) + SF (p(b)) - SF (p(a)). SF (p(b)) - SF ( p(a)) = 1 - SF (p(a)) Join-Selektivitätsfaktor (JSF) - Card (R S) = JSF * Card(R) * Card(S) - unerheblich für Antwortzeit (AZ) Zugriffe (zur LZ): - effizient - datenabhängig! Ausgleich gesucht! - erheblich für AZ Zugriffe (zur LZ): - teuer - datenunabhängig! - bei (:1)-Verbunden (verlustfrei): Card (R S) = Max(Card(R), Card(S))

10 Zusammenfassung Beispiel: Einfache Anfrage Interpretation einer DB-Anweisung - Allgemeines Programm (Interpreter) akzeptiert Anweisungen der DB-Sprache als Eingabe und erzeugt mit Hilfe von Aufrufen des Zugriffssystems Ergebnis - hoher Aufwand zur Laufzeit (v.a. bei wiederholter Anweisungsausführung) Übersetzung, Code-Erzeugung und Ausführung einer DB-Anweisung - Für jede DB-Anweisung wird ein zugeschnittenes Programm erzeugt (Übersetzungszeit), das zur Laufzeit abgewickelt wird und dabei mit Hilfe von Aufrufen des Zugriffssystems das Ergebnis ableitet - Übersetzungsaufwand wird zur Laufzeit soweit wie möglich vermieden Anfrageoptimierung: Kernproblem der Übersetzung mengenorientierter DB-Sprachen - "fatale" Annahmen: Gleichverteilung aller Attributwerte Unabhängigkeit aller Attribute - Kostenvoranschläge für Ausführungspläne: CPU-Zeit und E/A-Aufwand Anzahl der achrichten und zu übertragende Datenvolumina (im verteilten Fall) - gute Heuristiken zur Auswahl von Ausführungsplänen sehr wichtig Kostenmodell SQL-Anfrage SELECT AME, GEHALT FROM PERS WHERE BERUF = PROGRAMMIERER AD GEHALT Vorhandene Zugriffspfade - Tabellen-Scan im Segment von PERS - I PERS (BERUF) - I PERS (GEHALT) - Link von FAEHIGKEIT nach PERS Statistische Kennwerte Der Anfrageoptimierer findet folgende Parameter im DB-Katalog: - = # der Tupel in Tabelle PERS - C = durchschn. # von PERS-Tupel pro Seite - j i = Index-Kardinalität (#Attributwerte für A i )... + Information über Clusterbildung Annahmen - Jeder 10. Programmierer hat ein Gehalt > 100 K - Jeder 2. Angestellte mit Gehalt > 100 K ist Programmierer - Minimierung der Kosten in Abhängigkeit des Systemzustandes - Problem: Aktualisierung der statistischen Kenngrößen

11 Methode 1: Scan über I PERS (BERUF) OPE SCA auf I PERS (BERUF) bei BERUF = PROGRAMMIERER FETCH EXT WHERE GEHALT ; CLOSE SCA wenn BERUF PROGRAMMIERER Methode 3: Benutze einen hierarchischen Zugriffspfad (LIK) von einer anderen Tabelle FAEHIGKEIT PROGRAMMIERER... MAIER PROG MÜLLER PROG SCHMITT PROG Kosten: - Clusterbildung auf I PERS (BERUF) K W C j BERUF - keine Clusterbildung j BERUF 10 Annahme: Schneller Zugriff auf Tabelle FAEHIGKEIT als Einstieg in LIK möglich, z. B. über I FAEHIGKEIT (BERUF) K W j BERUF j BERUF 10 FETCH Vater-Tupel mit BERUF = PROGRAMMIERER Methode 2: Scan über I PERS (GEHALT) OPE SCA auf I PERS (GEHALT) bei GEHALT = FETCH EXT WHERE BERUF = PROGRAMMIERER ; CLOSE SCA wenn EOT Kosten: - Clusterbildung auf I PERS (GEHALT) K C W keine Clusterbildung K W OPE Link-SCA FETCH EXT O LIK WHERE GEHALT CLOSE SCA wenn Ende des Link Kosten: - Clusterbildung auf Link K W C j BERUF j BERUF 10 - keine Clusterbildung K W j BERUF j BERUF