Sortieren & Co. KIT Institut für Theoretische Informatik

Transkript

1 Sortieren & Co KIT Institut für Theoretische Informatik 1

2 Formaler Gegeben: Elementfolge s = e 1,...,e n Gesucht: s = e 1,...,e n mit s ist Permutation von s e e 1 n für eine Totalordnung ` ' KIT Institut für Theoretische Informatik 2

3 Anwendungsbeispiele Allgemein: Vorverarbeitung Suche: Telefonbuch unsortierte Liste Gruppieren (Alternative Hashing?) KIT Institut für Theoretische Informatik 3

4 Beispiele aus Kurs/Buch Aufbau von Suchbäumen Kruskals MST-Algorithmus Rucksackproblem Scheduling, die schwersten Probleme zuerst Sekundärspeicheralgorithmen, z. B. Datenbank-Join Viele verwandte Probleme. Zum Beispiel Transposition dünner Matrizen, invertierten Index aufbauen, Konversion zwischen Graphrepräsentationen. KIT Institut für Theoretische Informatik 4

5 Überblick Einfache Algorithmen / kleine Datenmengen Mergesort ein erster ezienter Algorithmus Eine passende untere Schranke Quicksort das Auswahlproblem ganzzahlige Schlüssel jenseits der unteren Schranke KIT Institut für Theoretische Informatik 5

6 Einfache Sortieralgorithmen Procedure insertionsort(a : Array [1..n] of Element) for i := 2 to n do invariant a[1] a[i 1] move a[i] to the right place Beispiel: 4, 7,1,1 4,7, 1,1 1,4,7, 1 1,1,4,7, KIT Institut für Theoretische Informatik 6

7 Sentinels am Beispiel Sortieren durch Einfügen Procedure insertionsort(a : Array [1..n] of Element) for i := 2 to n do invariant a[1] a[i 1] // move a[i] to the right place e:= a[i] if e < a[1] then // new minimum for j := i downto 2 do a[j]:= a[j 1] a[1]:= e else // use a[1] as a sentinel for (j := i; a[j 1] > e; j ) a[j]:= a[j 1] a[j]:= e KIT Institut für Theoretische Informatik 7

8 Analyse Die i-te Iteration braucht Zeit Θ(i). n i=2 i = n(n + 1) 2 1 = Θ ( n 2) Die i-te Iteration braucht Zeit O(1) z. B. (beinahe) sortiert. n i=2 O(1) O(n) KIT Institut für Theoretische Informatik 8

9 Sortieren durch Mischen Idee: Teile und Herrsche Function mergesort( e 1,...,e n ) : Sequence of Element if n = 1 then return e 1 // base case else return merge( mergesort( e 1,...,e n/2 ), mergesort( e n/2 +1,...,e n )) Gegeben: zwei sortierte Folgen a und b Berechne: sortierte Folge der Elemente aus a und b KIT Institut für Theoretische Informatik 9

10 Beispiel KIT Institut für Theoretische Informatik 10

11 Mischen Jeweils min(a, b) in die Ausgabe schieben. a b c operation 1,2,7 1,2,8,8 move a 2,7 1,2,8,8 1 move b 2,7 2,8,8 1,1 move a 7 2,8,8 1,1,2 move b 7 8,8 1,1,2,2 move a 8,8 1,1,2,2,7 concat b 1,1,2,2,7,8,8 Zeit O(n) KIT Institut für Theoretische Informatik 11

12 Analyse Analyse: T (n) = O(n) + T ( n/2 ) + T ( n/2 ) = O(n logn). KIT Institut für Theoretische Informatik 12

13 Analyse T (n) = Θ(n) + T ( n/2 ) + T ( n/2 ) Problem: Runderei Ausweg: genauer rechnen (siehe Buch) Dirty trick: Eingabe auf Zweierpotenz aufblasen (z. B. (2 logn n) anhängen) normales Master-Theorem anwendbar Zeit Θ(n logn) KIT Institut für Theoretische Informatik 13

14 Untere Schranken Geht es schneller als Θ(n logn)? Unmöglichkeit einer Verbesserung i.allg. schwer zu beweisen sie erfordert eine Aussage über alle denkbaren Algorithmen. einschränkende Annahmen KIT Institut für Theoretische Informatik 14

15 Eine vergleichsbasierte untere Schranke Vergleichsbasiertes Sortieren: Informationen über Elemente nur durch Zwei-Wege-Vergleich e i e j?. Satz: Deterministische vergleichsbasierte Sortieralgorithmen brauchen Vergleiche im schlechtesten Fall. n logn O(n) Beweis: Betrachte Eingaben, die Permutationen von 1..n sind. Es gibt genau n! solche Permutationen. KIT Institut für Theoretische Informatik 15

16 Baumbasierte Sortierer-Darstellung Mindestens ein Blatt pro Permutation von e 1,...,e n Ausführungszeit entspricht Tiefe T KIT Institut für Theoretische Informatik 16

17 Beweis Baum der Tiefe T hat höchstens 2 T Blätter. 2 T n! ( n ) n T log }{{} n! log = n logn n loge = n logn O(n) e ( n e ) n ( n ) n Einfache Approximation der Fakultät: n! n n e Beweis für linken Teil: lnn! = lni 2 i n n! e n(lnn 1) = n 1 en lnn e n [ ] x=n lnx dx = x(lnx 1) n(lnn 1). x=1 = nn ( n ) n e n = e KIT Institut für Theoretische Informatik 17

18 Randomisierung, Mittlere Ausführungszeit Satz: immer noch n logn O(n) Vergleiche. Beweis: nicht hier. KIT Institut für Theoretische Informatik 18

19 Quicksort erster Versuch Idee: Teile-und-Herrsche aber verglichen mit mergesort andersrum. Leiste Arbeit vor rekursivem Aufruf Function quicksort(s : Sequence of Element) : Sequence of Element if s 1 then return s pick some p s a:= e s : e < p b:= e s : e = p c:= e s : e > p return concatenation of quicksort(a), b, and quicksort(c) KIT Institut für Theoretische Informatik 19

20 Quicksort Analyse im schlechtesten Fall Annahme: Pivot ist immer Minimum (oder Max.) der Eingabe { Θ(1) if n = 1, T (n) = Θ(n) + T (n 1) if n 2. T (n) = Θ(n + (n 1) + + 1) = Θ ( n 2 ) KIT Institut für Theoretische Informatik 20

21 Schlechtester Fall: Beispiel KIT Institut für Theoretische Informatik 21