Algorithmen und Datenstrukturen

Transkript

1 1 Algorithmen und Datenstrukturen Wintersemester 2014/15 3. Vorlesung Laufzeitanalyse Prof. Dr. Alexander Wolff Lehrstuhl für Informatik I

2 2 Recap: Diskutieren Sie mit Ihrer NachbarIn! Was sind die zwei (oder drei?) entscheidensten Fragen, die wir uns über einen Algorithmus stellen? Warum eigentlich interessieren wir uns fürs Sortieren? Welche Entwurfstechniken für Algorithmen kennen wir schon? 4. Wie beweisen wir die Korrektheit a) einer Schleife? b) eines iterativen Algorithmus? c) eines rekursiven Algorithmus? Heute schon implementiert? Zum Beispiel InsertionSort, MergeSort,... Probieren Sie s selbst!

3 3 Laufzeit analysieren: InsertionSort InsertionSort(array of int A) for j = 2 to A.length do key = A[j] i = j 1 while i > 0 and A[i] > key do A[i + 1] = A[i] i = i 1 A[i + 1] = key Zwei Konventionen: 1) n := Größe der Eingabe = hier A.length 2) Wir zählen nur Vergleiche! (zwischen Elementen der Eingabe) Gesucht: Maß für die Laufzeit, das nur von n abhängt. Problem: Tatsächliche Laufzeit hängt stark von Eingabe ab. Lösung(?): Betrachte Extremfälle! Bester Fall: Schlechtester Fall: A vorsortiert n 1 Vergleiche A absteigend sortiert n 2 n (n 1) = 2 Vgl.

4 4 Laufzeit von MergeSort MergeSort(array of int A, int l = 1, int r = A.length) if l < r then m = (l + r)/2 } teile MergeSort(A, l, m) } herrsche MergeSort(A, m + 1, r) Merge(A, l, m, r) } kombiniere Korrekt? Effizient? Sei V MS (n) die maximale Anzahl von Vergleichen, die MergeSort zum Sortieren von n Zahlen benötigt. Dann gilt { } 0 falls n = 1, V MS (n) = = n log 2 n 2V MS (n/2) + n sonst. falls n Zweierpotenz

5 5 Vergleich InsertionSort vs. MergeSort MergeSort: V MS (x) = x log 2 x InsertionSort: V IS (x) = x 2 x

6 6 Vergleich InsertionSort vs. MergeSort V IS (x) = x 2 x V MS (x) = x log 2 x

7 7 Ein Klassifikationsschema für Funktionen (I) Definition. Sei g : N R eine Funktion. Dann ist Groß-Oh von g es gibt positive Konstanten c und n 0, O(g) = f : N R so dass für alle n n 0 gilt: 0 f (n) c g(n) die Klasse der Fkt., die höchstens so schnell wachsen wie g. Beispiel. f (n) = 2n 2 + 4n 20 Behaupt.: Beweis. f O(n 2 ); m.a.w. f wächst höchstens quadratisch. da 4n 4n 2 Wähle positive c und n 0, so dass für alle n n 0 gilt: 0 f (n) c n 2. f (n) = 2n 2 + 4n 20 6n 2 wähle c = 6. f (n) = 2n 2 + 4n 20 0 wähle n 0 = 3. (da beide Nullstellen von f kleiner 3 sind und f mit n )

8 8-11 Ein Klassifikationsschema für Funktionen (I) Definition. Sei g : N R eine Funktion. Dann ist Groß-Oh von g es gibt positive Konstanten c und n 0, O(g) = f : N R so dass für alle n n 0 gilt: 0 f (n) c g(n) die Klasse der Fkt., die höchstens so schnell wachsen wie g. Beispiel. f (n) = 2n 2 + 4n 20 negiere! ( ) Behaupt.: f O(n) ; m.a.w. f wächst schneller als linear. Beweis. Zeige: für alle pos. Konst. c und n 0 gibt es ein n n 0, so dass 0 > f (n) oder f (n) > c n.

9 8-15 Ein Klassifikationsschema für Funktionen (I) Definition. Sei g : N R eine Funktion. Dann ist Groß-Oh von g es gibt positive Konstanten c und n 0, O(g) = f : N R so dass für alle n n 0 gilt: 0 f (n) c g(n) die Klasse der Fkt., die höchstens so schnell wachsen wie g. Beispiel. f (n) = 2n 2 + 4n 20 Behaupt.: f O(n) ; m.a.w. f wächst schneller als linear. Beweis. Zeige: für alle pos. Konst. c und n 0 gibt es ein n n 0, so dass 0 > f (n) oder f (n) > c n. Das wird schwierig! Wir können kein großes n finden, so dass f (n) < 0!

10 8-19 Ein Klassifikationsschema für Funktionen (I) Definition. Sei g : N R eine Funktion. Dann ist Groß-Oh von g es gibt positive Konstanten c und n 0, O(g) = f : N R so dass für alle n n 0 gilt: 0 f (n) c g(n) die Klasse der Fkt., die höchstens so schnell wachsen wie g. Beispiel. f (n) = 2n 2 + 4n 20 Behaupt.: f O(n) ; m.a.w. f wächst schneller als linear. Beweis. Zeige: für alle pos. Konst. c und n 0 gibt es ein n n 0, so dass 0 > f (n) oder f (n) > c n. Also: bestimme n in Abh. von c und n 0, so dass n n 0 und f (n) = 2n 2 + 4n 20 > c n.

11 9 Fortsetzung des Beweises f O(n) Bestimme n in Abh. von c und n 0, so dass n n 0 f (n) = 2n 2 + 4n 20 > c n. Problem: und Die 20 stört. Aber wenn n 5, dann gilt 4n D.h. wenn n 5 und 2n 2 > c n, dann f (n) > cn. n > c/2 Wie wär s mit n = c? Gut, aber wir müssen sicherstellen, dass auch n 5 und n n 0 gilt. Also nehmen wir n = max(c, 5, n 0 ). Für dieses n gilt n n 0 und f (n) > cn. Also gilt f O(n).

12 11 Ein Klassifikationsschema für Funktionen (II) Definition. Sei g : N R eine Funktion. Dann ist Groß-Omega von g es gibt positive Konstanten c und n 0, Ω(g) = f : N R so dass für alle n n 0 gilt: 0 c g(n) f (n) die Klasse der Fkt., die mindestens so schnell wachsen wie g. Beispiel. f (n) = 2n 2 + 4n 20 Bewiesen: f O(n), f O(n 2 ), f O(n 3 ) Entsprechend: f Ω(n), f Ω(n 2 ), f Ω(n 3 ) Zusammen: f Θ(n 2 ) d.h. es gibt pos. Konst. c 1, c 2, n 0, so dass für alle n n 0 gilt: 0 c 1 n 2 f (n) c 2 n 2.

13 12 Das Klassifikationsschema intuitiv f O(n 2 ) f Ω(n 2 ) f Θ(n 2 ) f o(n 2 ) f ω(n 2 ) bedeutet f wächst höchstens mindestens neu! genau echt langsamer als echt schneller als quadratisch. Genaue Definition für klein-oh und klein-omega s. Kap. 3, [CLRS]. Übung. Gegeben folgende Funktionen N R mit n... : n 2, log 2 n, n log2 n, 1,01 n, n log 3 4, log 2 (n 2 n ), 4 log 3 n. Sortieren Sie die Funktionen nach asymptotischem Wachstum, d.h. so, dass danach gilt: O(... ) O(... ) O(... ).