Algorithmen und Datenstrukturen Heapsort

Transkript

1 Algorithmen und Datenstrukturen 2 5 Heapsort In diesem Kapitel wird Heapsort, ein weiterer Sortieralgorithmus, vorgestellt. Dieser besitzt wie MERGE-SORT eine Laufzeit von O(n log n), sortiert jedoch das Eingabefeld an Ort und Stelle (in-place), d.h. zu jeder Zeit wird höchstens eine konstante Anzahl Elemente außerhalb des Datenfeldes zwischengespeichert. Eine weitere Besondeheit von Heapsort ist die Verwendung einer Datenstruktur, in diesem Fall ein sog. Heap, um während des Algorithmus die Daten effizient zu verwalten. Wir verweisen auf Anhang 2 der Folien für einige in diesem Abschnitt auftretende Definitionen und Sprechweisen aus der elementaren Graphentheorie und wenden uns dann der Heap-Datenstruktur zu. 5 Heapsort TU Bergakademie Freiberg, WS 2005/06

2 Algorithmen und Datenstrukturen 5. Heaps Ein (binärer) Heap ist ein Zahlenfeld, das als (fast) vollständigen Binärbaum betrachtet werden kann. Jeder Knoten des Baumes entspricht einem Feldelement, in dem der Wert dieses Knoten gespeichert ist. Der Baum ist vollständig auf allen Ebenen außer der untersten, welche von links nach rechts aufgefüllt wird. Ein Feld A, welches einen Heap darstellt, besitzt die zwei Attribute length[a]: die Anzahl Elemente in A. heap-size[a]: die Anzahl Elemente im Heap, der in A dargestellt wird. Genauer: Obwohl A[.. length[a]] gültige Werte enthalten mag, sind nur die Feldelemente zwischen und heap-size[a] length[a] Elemente des Heaps. 5. Heaps TU Bergakademie Freiberg, WS 2005/06

3 Algorithmen und Datenstrukturen Die Wurzel des Baumes ist A[]. Ist i der Index eines Knotens, so können Index von Vater sowie linkem und rechtem Sohn berechnet werden gemäß PARENT(i) return i/2 LEFT(i) return 2i RIGHT(i) return 2i + Berechnung anhand der Binärdarstellung von i: LEFT: Verschieben um eine Position nach links RIGHT: zusätzlich Addition von im niedrigstwertigem Bit PARENT: Verschieben um eine Position nach rechts 5. Heaps TU Bergakademie Freiberg, WS 2005/06

4 Algorithmen und Datenstrukturen 5 Man unterscheidet zwei Arten von Heaps: in beiden genügen die in den Knoten enthaltenen Werten einer Heap-Bedingung. Max-Heap: die Max-Heap Eigenschaft besagt, dass für jeden Knoten bis auf die Wurzel gilt A[PARENT(i)] A[i], d.h. das größte Element eines Max-Heaps sitzt an der Wurzel. Min-Heap: die Min-Heap Eigenschaft besagt, dass für jeden Knoten bis auf die Wurzel gilt A[PARENT(i)] A[i], d.h. das kleinste Element eines Min-Heaps sitzt an der Wurzel. In den im Knoten mit Wert i wurzelnden Teilbäumen befinden sich demnach ausschließlich Knoten, mit Wert A[i] ( A[i]). 5. Heaps TU Bergakademie Freiberg, WS 2005/06

5 Algorithmen und Datenstrukturen Ein Max-Heap in Binärbaum- und Felddarstellungen. Die Zahlen in den Knoten sind die darin gespeicherten Werte, die kleinen Zahlen darüber geben den Feldindex des Knotens an. Die roten und grünen Kanten im Baum bzw. die Verbindungslinien im Feld geben die rechten und linken Sohnbeziehungen an. 5. Heaps TU Bergakademie Freiberg, WS 2005/06

6 Algorithmen und Datenstrukturen Für jeden Knoten in einem Heap definieren wir dessen Höhe als Länge des kürzesten einfachen absteigenden Wegens von diesem Knoten zu einem Blatt. Die Höhe des Heaps sei die Höhe dessen Wurzel. Da ein Heap mit n Elementen wie ein Binärbaum angeordnet ist, verhält sich dessen Höhe wie Θ(log n). Grundoperationen an einem Heap proportional zu dessen Höhe erfordern also O(log n) Zeit/Aufwand. 5. Heaps TU Bergakademie Freiberg, WS 2005/06

7 Algorithmen und Datenstrukturen 8 Im Folgenden: Heap Grundoperationen MAX-HEAPIFY: erhält die Max-Heap Eigenschaft [O(log n)] BUILD-MAX-HEAP: erzeugt Max-Heap aus unsortiertem Eingabefeld [O(n)] HEAPSORT: Sortiert ein Zahlenfeld [O(n log n)] MAX-HEAP-INSERT, HEAP-EXTRACT-MAX, HEAP-INCREASE-KEY und HEAP-MAXIMUM ermöglichen die Implementierung einer Prioritätsschlange (priority queue) durch einen Heap. [O(log n)] 5. Heaps TU Bergakademie Freiberg, WS 2005/06

8 Algorithmen und Datenstrukturen 5.2 Erhaltung der Heap Eigenschaft Wir betrachten die Grundoperation MAX-HEAPIFY. Wichtige Prozedur bei der Manipulation eines Heaps Eingaben: ein Feld A und ein Index i in das Feld Grundannahme: die bei LEFT(i) und RIGHT(i) wurzelnden Teilbäume sind bereits Max-Heaps, aber A[i] möglicherweise kleiner als ein Nachfolger (somit Max-Heap Eigenschaft möglicherweise verletzt). Vorgehen: A[i] wandert den Baum hinab, bis der in i wurzelnde Teilbaum ebenfalls ein Max-Heap geworden ist. 5.2 Erhaltung der Heap Eigenschaft TU Bergakademie Freiberg, WS 2005/06

9 Algorithmen und Datenstrukturen 20 MAX-HEAPIFY(A, i) l LEFT(i) 2 r RIGHT(i) if l heap-size[a] and A[l] > A[i] then largest l 5 else largest i 6 if r heap-size[a] and A[r] > A[largest] then largest r 8 if largest i then vertausche A[i] A[largest] 0 MAX-HEAPIFY(A, largest) 5.2 Erhaltung der Heap Eigenschaft TU Bergakademie Freiberg, WS 2005/06

10 Algorithmen und Datenstrukturen 2 In Zeilen - wird festgestellt, welcher Knoten unter A[i] und dessen Söhnen den größten Wert enthält. Ist dies A[i] selbst, so ist der in i wurzelnde Teilbaum bereits ein Max-Heap und der Algorithmus terminiert. Befindet sich das größte Element im linken Sohn, so wird dies mit A[i] vertauscht. Der im rechten Sohn wurzelnde Teilbaum bleibt daher unverändert, ist also nach wie vor ein Max-Heap. Beim im linken Sohn wurzelnden Teilbaum muss die Max-Heap-Eigenschaft hingegen durch einen rekursiven Aufruf von MAX-HEAPIFY geprüft werden. 5.2 Erhaltung der Heap Eigenschaft TU Bergakademie Freiberg, WS 2005/06

11 Algorithmen und Datenstrukturen 22 Beispiel für Aufruf MAX-HEAPIFY(A, 2): In der Ausgangskonfiguration verletzt der Knoten 2 die Max-Heap Bedingung Erhaltung der Heap Eigenschaft TU Bergakademie Freiberg, WS 2005/06

14 Algorithmen und Datenstrukturen 2 Laufzeit von MAX-HEAPIFY angewandt auf Teilbaum der Größe n mit Wurzel i. Bestimmung des größten Elementes unter A[i], A[LEFT(i)] und A[RIGHT(i)] mit eventuellem Vertauschen: Θ(). Jeder Teilbaum besitzt höchstens 2n/ Elemente. (Extremfall: ein Teilbaum voll besetzt, der andere minimal besetzt) Damit erfüllt Laufzeit die Rekursion T (n) T (2n/) + Θ(). Hauptsatz (Fall 2): T (n) = Θ(log n) = Θ(h) (h die Höhe des Teilbaums). 5.2 Erhaltung der Heap Eigenschaft TU Bergakademie Freiberg, WS 2005/06

15 Algorithmen und Datenstrukturen 2 5. Konstruktion eines Heap Idee: Wiederholte Anwendung von MAX-HEAPIFY zur Umwandlung eines Eingabefeldes A[.. n] der Länge n in einen Max-Heap. Vorgehen von Unten nach Oben: Im Baum, der dem Feld A[.. n] entspricht, besitzen die Blätter die Indices n/2 +,..., n (siehe. Übungsblatt). Die Blätter sind einelementige Heaps. Der Algorithmus BUILD-MAX-HEAP wendet MAX-HEAPIFY sukzessive auf die verbleibenden Knoten an: BUILD-MAX-HEAP(A) heap-size[a] length[a] 2 for i length[a]/2 downto do MAX-HEAPIFY(A,i) 5. Konstruktion eines Heap TU Bergakademie Freiberg, WS 2005/06

16 Algorithmen und Datenstrukturen Konstruktion eines Heap TU Bergakademie Freiberg, WS 2005/06

22 Algorithmen und Datenstrukturen 26 Schleifeninvariante (SI) für BUILD-MAX-HEAP: Vor jedem Durchlauf der for -Schleife (Zeilen 2-) sind die Knoten mit Indizes i +,..., n Wurzeln eines Max-Heaps. Initialisierung: Vor erstem Durchlauf gilt i = n/2. Knoten mit Indizes i +,..., n allesamt Blätter und somit Wurzeln von (einelementigen) Max-Heaps. Erhaltung: Söhne von Knoten i besitzen höhere Indices, sind nach SI somit Wurzeln von Max-Heaps. Unter dieser Voraussetzung ist nach der Ausführung von MAX-HEAPIFY(A, i) Knoten i Wurzel eines Max-Heaps. Ferner erhält die Ausführung die Max-Heap Eigenschaft der Knoten i +,..., n. Damit gilt die Schleifeninvariante auch nach Ausführung der for -Schleife für den Index i. Terminierung: Erfolgt bei i = 0, SI: alle Knoten insbesondere Knoten sind Wurzeln eines Max-Heaps. 5. Konstruktion eines Heap TU Bergakademie Freiberg, WS 2005/06

23 Algorithmen und Datenstrukturen 2 Laufzeit von BUILD-MAX-HEAP: Obere Schranke: jede der O(n) Ausführungen von MAX-HEAPIFY erfordert O(log n) Zeit, damit ist Laufzeit O(n log n). Diese Schranke ist nicht scharf. Scharfe obere Schranke beruht auf 2 Beobachtungen: Laufzeit von MAX-HEAPIFY hängt ab von Höhe h = log 2 n des Knotens (n Größe des an diesem Knoten wurzelnden Teilbaums). Ferner: n-elementiger Teilbaum enthält höchstens n/2 h+ Knoten der Höhe h (siehe. Übungsblatt). 5. Konstruktion eines Heap TU Bergakademie Freiberg, WS 2005/06

24 Algorithmen und Datenstrukturen 28 Laufzeit von MAX-HEAPIFY angewandt auf Knoten der Höhe h: O(h). Damit Gesamtlaufzeit von BUILD-MAX-HEAP gegeben durch log 2 n n log 2 n h O(h) = O n 2h+ 2 h Wegen h=0 h=0 log 2 n h=0 h 2 h = log 2 n h=0 h ( ) h < 2 h h=0 ( ) h = 2 /2 ( /2) 2 = 2 folgt log 2 n h=0 n O(h) = O 2h+ n log 2 n h=0 ( h 2 h = O n h=0 ) h 2 h = O(n). 5. Konstruktion eines Heap TU Bergakademie Freiberg, WS 2005/06

25 Algorithmen und Datenstrukturen 2 Fazit: Die Konstruktion eines Max-Heaps aus einem unsortierten Eingabefeld erfordert linearen Zeitaufwand. All diese Überlegungen gelten entsprechend für Min-Heaps mit offensichtlichen Modifikationen. 5. Konstruktion eines Heap TU Bergakademie Freiberg, WS 2005/06

26 Algorithmen und Datenstrukturen 0 5. Der Heapsort-Algorithmus Vorgehen: Gegeben: (aufsteigend) zu sortierendes Eingabefeld A[.. n] der Länge n. Konstruktion eines Max-Heaps aus A mittels BUILD-MAX-HEAP Da das größte Element eines Max-Heaps an der Wurzel sitzt, kann dieses durch Vertauschen mit A[n] bereits an seine endgültige Position im sortierten Feld gebracht werden. Entferne A[n] aus dem Heap, d.h. betrachte A[.. n ]. Für A[.. n ] kann durch Ausführen von MAX-HEAPIFY(A, ) die Max-Heap Eigenschaft wiederhergestellt werden. 5. Der Heapsort-Algorithmus TU Bergakademie Freiberg, WS 2005/06

27 Algorithmen und Datenstrukturen Pseudocode: HEAPSORT(A) BUILD-MAX-HEAP(A) 2 for i length[a] downto 2 do vertausche A[] A[i] heap-size[a] heap-size[a] 5 MAX-HEAPIFY(A, ) Laufzeit: Ausführung von BUILD-MAX-HEAP O(n) n Ausführungen von MAX-HEAPIFY je O(log n) Insgesamt: O(n log n) 5. Der Heapsort-Algorithmus TU Bergakademie Freiberg, WS 2005/06