1. Übung Algorithmen I

Transkript

1 Timo Bingmann, Christian Schulz INSTITUT FÜR THEORETISCHE INFORMATIK, PROF. SANDERS 1 KIT Timo Universität Bingmann, des LandesChristian Baden-Württemberg Schulz und nationales Forschungszentrum in der Helmholtz-Gemeinschaft Institut für Theoretische Informatik

2 Organistorisches Bonus - Änderung 0% der Übungspunkte < 25% 0 Bonuspunkt 25% der Übungspunkte < 50% 1 Bonuspunkt 50% der Übungspunkte < 75% 2 Bonuspunkte 75% der Übungspunkte 3 Bonuspunkte für die Klausur 2 Timo Bingmann, Christian Schulz

3 Asymptotik 3 Timo Bingmann, Christian Schulz

4 Rechenzeit bei 10 9 Ops pro Sekunde n 1000 log 2 n 500n 100n log 2 n 10n 2 n 3 2 n µs 5 µs 3.3 µs 1 µs 1 µs 1 µs µs 10 µs 8.6 µs 4 µs 8 µs 1.05 ms µs 25 µs 28.2 µs 25 µs 125 µs 13 h µs 50 µs 66.4 µs 100 µs 1 ms a µs 125 µs 199 µs 625 µs 15 ms µs 250 µs 448 µs 2.5 ms 125 ms µs 500 µs 1 ms 10 ms 1 s µs 2.5 ms 6.1 ms 250 ms 125 s µs 5 ms 13.3 ms 1 s 16 min µs 50 ms 166 ms 100 s 11.6 d µs 500 ms 2 s 2.7 h 31.7 a µs 5 s 23 s 11.6 d a µs 50 s 4.4 min 3.2 a a µs 8.3 min 50 min 317 a µs 1.4 h 9.2 h a µs 13.9 h 4.2 d 4 Timo Bingmann, Christian Schulz

5 O-Kalkül 5 Timo Bingmann, Christian Schulz

6 O-Kalkül O(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} Ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} 5 Timo Bingmann, Christian Schulz

7 O-Kalkül O(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} Ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} o(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} 5 Timo Bingmann, Christian Schulz

8 O-Kalkül O(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} Ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} Θ(g(n)) = {f : N R c 1 > 0, c 2 > 0 n 0 N n n 0 : c 1 g(n) f (n) c 2 g(n)} o(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} 5 Timo Bingmann, Christian Schulz

9 Intuition zum O-Kalkül O(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} f 1 (n) Timo Bingmann, Christian Schulz

10 Intuition zum O-Kalkül O(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} 80 c 1 n 60 f 1 (n) Timo Bingmann, Christian Schulz

11 Intuition zum O-Kalkül O(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} f 1 (n) c 1 n Timo Bingmann, Christian Schulz

12 Intuition zum O-Kalkül O(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} f 1 (n) = O(n) c 1 n 20 n Timo Bingmann, Christian Schulz

13 Intuition zum O-Kalkül O(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} 80 f 2 (n) f 1 (n) c 1 n 20 n Timo Bingmann, Christian Schulz

14 Intuition zum O-Kalkül Ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} f 2 (n) = Ω(n) f 1 (n) c 1 n 20 n Timo Bingmann, Christian Schulz

15 Intuition zum O-Kalkül ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} 80 f 2 (n) = ω(n) c 1 n 60 f 1 (n) n Timo Bingmann, Christian Schulz

16 Intuition zum O-Kalkül ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} f 2 (n) ω(n) c 1 n n Timo Bingmann, Christian Schulz

17 Intuition zum O-Kalkül ω(g(n)) = {f : N R c > 0 n 0 N n n 0 : f (n) c g(n)} f 2 (n) ω(n) Nur Intuition! c 1 n 50 n Timo Bingmann, Christian Schulz

18 O-Kalkül Für nicht-negative f, g : N R gelten folgende Äquivalenzen: 1 f (n) = O(g(n)) 0 lim sup n f (n) g(n) <, 8 Timo Bingmann, Christian Schulz

19 O-Kalkül Für nicht-negative f, g : N R gelten folgende Äquivalenzen: 1 f (n) = O(g(n)) 0 lim sup n 2 f (n) = Ω (g(n)) 0 < lim inf n f (n) g(n) <, f (n) g(n), 3 f (n) = o(g(n)) lim n f (n) g(n) = 0, 4 f (n) = ω(g(n)) lim n f (n) g(n) =, 5 f (n) = Θ(g(n)) = lim n f (n) g(n) = c > 0. 8 Timo Bingmann, Christian Schulz

20 Basis des Logarithmus O(log n) FAQ: Zu welcher Basis ist der Logarithmus? 9 Timo Bingmann, Christian Schulz

21 Basis des Logarithmus O(log n) FAQ: Zu welcher Basis ist der Logarithmus? Im Zweifelsfall zur Basis 2 (in der Informatik). Im O( )-Kalkül meistens egal: ( ) z. B. O... log k n für fixes k denn log a x = log b x/ log b a = c log b x für eine Konstante c kein Unterschied im O-Kalkül 9 Timo Bingmann, Christian Schulz

22 Invarianten in der Informatik 10 Timo Bingmann, Christian Schulz

23 Invarianten in der Informatik Idee der Anwendung finde Schleifeninvariante zeige Schleifeninvariante Schleifeninvariante und sonstiges Wissen Korrektheit des Algorithmus Function max(a : Array [0..n] of R) : assert A.size() > 0 i=0 : N 0 for j := 1 to n do if A[j] > A[i] then i := j assert i = argmax l n A[l] return i // Vorbedingung // Nachbedingung 11 Timo Bingmann, Christian Schulz

24 Invarianten in der Informatik Beispiel I for j := 0 to n do if A[j] > A[i] then i := j assert i = argmax l j A[l] // Invariante Beweis: j = 0: klar j 1 j: es gilt i = argmax l<j A[l], also A[i] = max l<j A[l] 1 Fall 1: A[j] > A[i] = max l<j A[l] update i Beh. 2 Fall 2: A[j] A[i] = max l<j A[l] kein update Beh. 12 Timo Bingmann, Christian Schulz

25 Invarianten in der Informatik Beispiel I Function max(a : Array [0..n] of R) : assert A.size() > 0 i=0 : N 0 for j := 1 to n do if A[j] > A[i] then i := j assert i = argmax l j A[l] assert i = argmax l n A[l] return i // Vorbedingung // Invariante // Nachbedingung Nach Beenden der Schleife gilt j = n und i = argmax l j A[l] Also die Nachbedingung: i = argmax l n A[l] und damit die Korrektheit unseres Algorithmus 13 Timo Bingmann, Christian Schulz

26 Invarianten in der Informatik Beispiel II Function funwithalgorithms(n : N) : assert n odd Z := {1,..., 2n} S := z Z z = 2n i=1 i while Z > 1 do pick a, b with a b from Z Z Z \{a, b} Z { a b } assert Z = 1 // Vorbedingung // enferne zwei zufällige Zahlen aus Z // füge a b hinzu // Nachbedingung I 14 Timo Bingmann, Christian Schulz

27 Invarianten in der Informatik Beispiel II Ziel: Zeige die Zahl die übrig bleibt ist ungerade Function funwithalgorithms(n : N) : assert n odd Z := {1,..., 2n} S := z Z z = 2n i=1 i while Z > 1 do pick a, b with a b from Z Z Z \{a, b} Z { a b } assert Z = 1 assert Z [0] odd // Vorbedingung // enferne zwei zufällige Zahlen aus Z // füge a b hinzu // Nachbedingung I // Nachbedingung II 15 Timo Bingmann, Christian Schulz

28 Invarianten in der Informatik Beispiel II Ziel: Zeige die Zahl die übrig bleibt ist ungerade Function funwithalgorithms(n : N) : assert n odd Z := {1,..., 2n} S := z Z z = 2n i=1 i assert S odd while Z > 1 do pick a, b with a b from Z Z Z \{a, b} Z Z { a b } assert z Z z odd assert Z [0] odd // Vorbedingung // Vorbedingung // enferne zwei zufällige Zahlen aus Z // füge a b hinzu // Invariante // Nachbedingung I 16 Timo Bingmann, Christian Schulz

29 Invarianten Beispiel II IA: S = 2n i=1 i = 1 2 (2n(2n + 1)) = n(2n + 1) ungerade IS: Annahme S = z Z z ungerade zu zeigen: S := z Z \{a,b} { a b } z ungerade Beweis: S = S a b + a b = S 2 min a, b Also z Z z bleibt ungerade! 17 Timo Bingmann, Christian Schulz

30 Invarianten in der Informatik Beispiel III Ziel: Nach Terminierung enthält b die binäre Repräsentation von n Function converttobinary(n : N) : b := Array < 0,..., 0 > t := n k := 1 while t > 0 do k := k + 1 b[k] := t mod 2 t := t div 2 // binary representation of n 18 Timo Bingmann, Christian Schulz

31 Invarianten in der Informatik Beispiel III Wieder drei Schritte zu tun: 1 Hypothese vor Beginn der Schleife wahr 2 Invar. gilt im k ten Invar. gilt im k + 1 ten Schritt 3 Nach Terminierung, Invariante Korrektheit des Algorithmus Invariante: n = t 2 k+1 + m mit m die Zahl, die durch b[0,..., k] repräsentiert wird 19 Timo Bingmann, Christian Schulz

32 Invarianten in der Informatik Beispiel III - Anfang m die Zahl, die durch b[0,..., k] repräsentiert wird Function converttobinary(n : N) : b := Array < 0,..., 0 > t := n k := 1 assert n = t 2 k+1 + m while t > 0 do k := k + 1 b[k] := t mod 2 t := t div 2 // binary representation of n 20 Timo Bingmann, Christian Schulz

33 Invarianten in der Informatik Beispiel III - Schluss m die Zahl, die durch b[0,..., k] repräsentiert wird k := k + 1 b[k] := t mod 2 t := t div 2 Beweis (k k + 1): es gelte vor der Iteration n = t 2 k+1 + m Fall 1: t gerade 1 b[k + 1] = t mod 2 = 0 2 t := t/2 3 k := k + 1, m unverändert nach der Iteration: t/2 2 k+2 + m = t 2 k+1 + m = n 21 Timo Bingmann, Christian Schulz

34 Invarianten in der Informatik Beispiel III - IS m die Zahl, die durch b[0,..., k] repräsentiert wird Beweis (k k + 1): es gelte vor der Iteration n = t 2 k+1 + m Fall 2: t ungerade 1 b[k + 1] = t mod 2 = 1 m := m + 2 k+1 2 t := (t 1)/2 3 k := k + 1 nach der Iteration: (t 1)/2 2 k+2 + m + 2 k+1 = (t 1) 2 k+1 + m + 2 k+1 = t 2 k+1 + m = n 22 Timo Bingmann, Christian Schulz

35 Invarianten in der Informatik Beispiel III - Schluss m die Zahl, die durch b[0,..., k] repräsentiert wird while t > 0 do k := k + 1 b[k] := t mod 2 t := t div 2 assert n = t 2 k+1 + m nach der Ausführung der Schleife t = 0 damit folgt die Korrektheit des Algorithmus 23 Timo Bingmann, Christian Schulz

36 Modellierungen mit Graphen 24 Timo Bingmann, Christian Schulz

37 Modellierungen Tasks mit Abhängigkeiten Problem: Frage: Menge von Aufgaben/Task und Abhängigkeiten Aufgaben ausführbar? Reihenfolge? Welche der dargestellten Pläne sind ausführbar? 25 Timo Bingmann, Christian Schulz

38 Modellierungen Tasks mit Abhängigkeiten Problem: Frage: Menge von Aufgaben/Task und Abhängigkeiten Aufgaben ausführbar? Reihenfolge? s t z v w x y u Wie findet man einen Schedule? w, y, u, t, Timo Bingmann, Christian Schulz

39 Modellierungen Tasks mit Abhängigkeiten Problem: Frage: Menge von Aufgaben/Task und Abhängigkeiten Aufgaben ausführbar? Reihenfolge? Wie findet man einen Schedule? w, y, u, t,... Algorithmus aus der VL (DAG)! Iteratives entfernen von Knoten mit Ausgangsgrad 0! 27 Timo Bingmann, Christian Schulz

40 Modellierungen Tasks mit Abhängigkeiten Iteratives entfernen von Knoten mit Ausgangsgrad 0! w 28 Timo Bingmann, Christian Schulz

41 Modellierungen Tasks mit Abhängigkeiten Iteratives entfernen von Knoten mit Ausgangsgrad 0! y,w 29 Timo Bingmann, Christian Schulz

42 Modellierungen Tasks mit Abhängigkeiten Iteratives entfernen von Knoten mit Ausgangsgrad 0! u,y,w 30 Timo Bingmann, Christian Schulz

43 Modellierungen Tasks mit Abhängigkeiten Iteratives entfernen von Knoten mit Ausgangsgrad 0! t,u,y,w 31 Timo Bingmann, Christian Schulz

44 Modellierungen Tasks mit Abhängigkeiten Iteratives entfernen von Knoten mit Ausgangsgrad 0!...,s,t,u,y,w 32 Timo Bingmann, Christian Schulz

45 Modellierungen Topologische Sortieren Topologische Sortierung t: (u, v) E : t(u) < t(v) x v z s t u y w Merke: isdag (aus VL) kann topologischen Sortieren nur falls G kreisfrei 33 Timo Bingmann, Christian Schulz