Datenstrukturen und Algorithmen

Transkript

1 1 Datenstrukturen und Algorithmen Vorlesung am D-Math (CSE) der ETH Zürich Felix Friedrich FS 2017

2 Willkommen! 2 Vorlesungshomepage: Das Team: Assistenten Dozent Alexander Pilz Daniel Hupp Lukas Humbel Felix Friedrich

3 3 1. Einführung Algorithmen und Datenstrukturen, drei Beispiele

4 4 Ziele der Vorlesung Verständnis des Entwurfs und der Analyse grundlegender Algorithmen und Datenstrukturen. Vertiefter Einblick in ein modernes Programmiermodell (mit C++). Wissen um Chancen, Probleme und Grenzen des parallelen und nebenläufigen Programmierens.

5 Ziele der Vorlesung 5 Einerseits Unverzichtbares Grundlagenwissen aus der Informatik. Andererseits Vorbereitung für Ihr weiteres Studium und die Praxis.

6 Inhalte der Vorlesung 6 Datenstrukturen / Algorithmen Begriff der Invariante, Kostenmodell, Landau Symbole Algorithmenentwurf, Induktion Suchen und Auswahl, Sortieren Dynamic Programming Programmieren mit C++ Graphen, Kürzeste Wege, Backtracking, Flow Wörterbücher: Hashing und Suchbäume, AVL RAII, Move Konstruktion, Smart Pointers, Constexpr, user defined literals Templates und Generische Programmierung Exceptions Funktoren und Lambdas Sortiernetzwerke, parallele Algorithmen Randomisierte Algorithmen (Gibbs/SA), Multiskalen Geometrische Algorithmen, High Performance LA Promises and Futures Threads, Mutexs and Monitors Parallel Programming Parallelität vs. Concurrency, Speedup (Amdahl/- Gustavson), Races, Memory Reordering, Atomic Registers, RMW (CAS,TAS), Deadlock/Starvation

7 Literatur 7 Algorithmen und Datenstrukturen, T. Ottmann, P. Widmayer, Spektrum-Verlag, 5. Auflage, 2011 Algorithmen - Eine Einführung, T. Cormen, C. Leiserson, R. Rivest, C. Stein, Oldenbourg, 2010 Introduction to Algorithms, T. Cormen, C. Leiserson, R. Rivest, C. Stein, 3rd ed., MIT Press, 2009 The C++ Programming Language, B. Stroustrup, 4th ed., Addison-Wesley, The Art of Multiprocessor Programming, M. Herlihy, N. Shavit, Elsevier, 2012.

8 8 1.2 Algorithmen [Cormen et al, Kap. 1;Ottman/Widmayer, Kap. 1.1]

9 Algorithmus 9 Algorithmus: wohldefinierte Berechnungsvorschrift, welche aus Eingabedaten (input) Ausgabedaten (output) berechnet.

10 Beispielproblem 10 Input : Eine Folge von n Zahlen (a 1, a 2,..., a n )

11 Beispielproblem 10 Input : Eine Folge von n Zahlen (a 1, a 2,..., a n ) Output : Eine Permutation (a 1, a 2,..., a n) der Folge (a i ) 1 i n, so dass a 1 a 2 a n

12 Beispielproblem 10 Input : Eine Folge von n Zahlen (a 1, a 2,..., a n ) Output : Eine Permutation (a 1, a 2,..., a n) der Folge (a i ) 1 i n, so dass a 1 a 2 a n Mögliche Eingaben (1, 7, 3), (15, 13, 12, 0.5), (1)...

13 Beispielproblem 10 Input : Eine Folge von n Zahlen (a 1, a 2,..., a n ) Output : Eine Permutation (a 1, a 2,..., a n) der Folge (a i ) 1 i n, so dass a 1 a 2 a n Mögliche Eingaben (1, 7, 3), (15, 13, 12, 0.5), (1)... Jedes Beispiel erzeugt eine Probleminstanz.

14 Beispiele für Probleme in der Algorithmik 11 Routenplanung: Shortest Path

15 11 Beispiele für Probleme in der Algorithmik Routenplanung: Shortest Path Kryptographie / Digitale Signaturen

16 11 Beispiele für Probleme in der Algorithmik Routenplanung: Shortest Path Kryptographie / Digitale Signaturen Stundenpläne / Arbeitspläne: Linear Programming

17 11 Beispiele für Probleme in der Algorithmik Routenplanung: Shortest Path Kryptographie / Digitale Signaturen Stundenpläne / Arbeitspläne: Linear Programming DNA Matching: Dynamic Programming

18 11 Beispiele für Probleme in der Algorithmik Routenplanung: Shortest Path Kryptographie / Digitale Signaturen Stundenpläne / Arbeitspläne: Linear Programming DNA Matching: Dynamic Programming Fabrikationspipeline: Topologische Sortierung

19 11 Beispiele für Probleme in der Algorithmik Routenplanung: Shortest Path Kryptographie / Digitale Signaturen Stundenpläne / Arbeitspläne: Linear Programming DNA Matching: Dynamic Programming Fabrikationspipeline: Topologische Sortierung Geometrische Probleme, z.b. Konvexe Hülle

20 12 Charakteristik Extrem grosse Anzahl potentieller Lösungen Praktische Anwendung

21 13 Datenstrukturen Organisation der Daten, zugeschnitten auf die Algorithmen die auf den Daten operieren Programme = Algorithmen + Datenstrukturen.

22 14 Sehr schwierige Probleme NP-vollständige Probleme: Keine bekannte effiziente Lösung (Fehlen einer solchen Lösung ist aber unbewiesen!) Beispiel: Travelling Salesman Problem

23 15 Ein Traum Wären Rechner unendlich schnell und hätten unendlich viel Speicher dann bräuchten wir die Theorie der Algorithmen (nur) für Aussagen über Korrektheit (incl. Terminierung).

24 16 Die Realität Ressourcen sind beschränkt und nicht umsonst: Rechenzeit Effizienz Speicherplatz Effizienz

25 1.3 Organisation 17

26 Ablauf des Übungsbetriebes 18 Mo Di Mi Do Fr Sa So Mo Di Mi Do Fr Sa So V V V V Ü Ü

27 Ablauf des Übungsbetriebes 18 Mo Di Mi Do Fr Sa So Mo Di Mi Do Fr Sa So V V V V Ü Ü Ausgabe Übungsblattausgabe zur Vorlesung am Donnerstag (online).

28 Ablauf des Übungsbetriebes 18 Mo Di Mi Do Fr Sa So Mo Di Mi Do Fr Sa So V V V V Ü Ü Ausgabe Vorbesprechung Vorbesprechung am Freitag.

29 Ablauf des Übungsbetriebes 18 Mo Di Mi Do Fr Sa So Mo Di Mi Do Fr Sa So V V V V Ü Ü Ausgabe Abgabe Vorbesprechung Bearbeitung der Übung bis spätestens am Donnerstag darauf.

30 Ablauf des Übungsbetriebes 18 Mo Di Mi Do Fr Sa So Mo Di Mi Do Fr Sa So V V V V Ü Ü Ausgabe Vorbesprechung Abgabe Nachbesprechung Nachbesprechung der Übung am Freitag darauf. Feeback zu den Abgaben innerhalb einer Woche nach Nachbesprechung.

31 Codeboard 19 Codeboard ist eine Online-IDE: Programmieren im Browser! Sie können Beispiele ausprobieren, ohne dass Sie irgendwelche Tools installieren müssen. Jetzt mit C++14 Auch für die Übungen eingesetzt.

32 20 Codeboard besteht aus zwei unabhängigen Systemen, die miteinander kommunizieren: User Das ETH Abgabesystem: Ermöglicht es uns, ihre Aufgaben zu bewerten Die Online IDE: Die Programmierumgebung ETH Abgabesystem Login mit ETH Credentials Codeboard.io Login mit Codeboard.io Credentials

33 Codeboard 21 Codeboard.io Registrierung Gehen Sie auf und erstellen Sie dort ein Konto, bleiben Sie am besten eingeloggt. Einschreibung in Übungsgruppen Gehen Sie auf und schreiben Sie sich dort in eine Übungsgruppe ein.

34 Codeboard.io Registrierung 22 Falls Sie noch keinen Codeboard.io Account haben... Wir verwenden die Online IDE Codeboard.io

35 22 Codeboard.io Registrierung Falls Sie noch keinen Codeboard.io Account haben... Wir verwenden die Online IDE Codeboard.io Erstellen Sie dort einen Account, um Ihren Fortschritt abzuspeichern und später Submissions anzuschauen

36 22 Codeboard.io Registrierung Falls Sie noch keinen Codeboard.io Account haben... Wir verwenden die Online IDE Codeboard.io Erstellen Sie dort einen Account, um Ihren Fortschritt abzuspeichern und später Submissions anzuschauen Anmeldedaten können beliebig gewählt werden! Verwenden Sie nicht das ETH Passwort.

37 Codeboard.io Login 23 Falls Sie schon einen Account haben, loggen Sie sich ein:

38 Einschreibung in Übungsgruppen - I 24 Besuchen Sie Loggen Sie sich mit Ihrem nethz Account ein.

39 Einschreibung in Übungsgruppen - II 25 Schreiben Sie sich in diesem Dialog in eine Übungsgruppe ein.

40 Die erste Übung 26 Sie sind nun eingeschrieben und die erste Übung ist geladen. Folgen Sie den Anweisungen in der gelben Box. Das Übungsblatt auf der Kurshomepage enthält weitere Anweisungen und Erklärungen.

41 Die erste Übung - Codeboard.io Login 27 Falls Sie diese Nachricht sehen, klicken Sie auf Sign in now und melden Sie sich dort mit ihrem Codeboard.io Account ein.

42 Die erste Übung - Fortschritt speichern! 28 Achtung! Speichern Sie ihren Fortschritt regelmässig ab. So können Sie jederzeit an einem anderen Ort weiterarbeiten.

43 Zu den Übungen 29 Seit HS 2013 für Prüfungszulassung kein Testat mehr erforderlich.

44 Zu den Übungen 29 Bearbeitung der wöchentlichen Uebungsserien ist freiwillig, wird aber dringend empfohlen!

45 Zu den Übungen 29 Bearbeitung der wöchentlichen Uebungsserien ist freiwillig, wird aber dringend empfohlen!

46 30 Relevantes für die Prüfung Prüfungsstoff für die Endprüfung (in der Prüfungssession 2017) schliesst ein Vorlesungsinhalt (Vorlesung, Handout) und Übungsinhalte (Übungsstunden, Übungsblätter).

47 Relevantes für die Prüfung 30 Prüfung (120 min) ist schriftlich. Hilfsmittel: vier A4-Seiten (bzw. 2 A4-Blätter doppelseitig) entweder handgeschrieben oder mit Fontgrösse minimal 11 Punkt.

48 31 In Ihrem und unserem Interesse Bitte melden sie frühzeitig, wenn Sie Probleme sehen, wenn Ihnen die Vorlesung zu schnell, zu schwierig, zu... ist die Übungen nicht machbar sind... Sie sich nicht gut betreut fühlen... Kurz: wenn Ihnen irgendetwas auf dem Herzen liegt.

49 Altägyptische Multiplikation Altägyptische Multiplikation

50 Beispiel 1: Altägyptische Multiplikation 1 Berechnung von Auch bekannt als Russiche Bauernmulltiplikation 33

51 Beispiel 1: Altägyptische Multiplikation 1 Berechnung von Links verdoppeln, rechts ganzzahlig halbieren. 1 Auch bekannt als Russiche Bauernmulltiplikation 33

52 Beispiel 1: Altägyptische Multiplikation 1 Berechnung von Links verdoppeln, rechts ganzzahlig halbieren. 1 Auch bekannt als Russiche Bauernmulltiplikation 33

53 Beispiel 1: Altägyptische Multiplikation 1 Berechnung von Links verdoppeln, rechts ganzzahlig halbieren. 1 Auch bekannt als Russiche Bauernmulltiplikation 33

54 33 Beispiel 1: Altägyptische Multiplikation 1 Berechnung von Links verdoppeln, rechts ganzzahlig halbieren. 2 Gerade Zahl rechts Zeile streichen. 1 Auch bekannt als Russiche Bauernmulltiplikation

55 33 Beispiel 1: Altägyptische Multiplikation 1 Berechnung von Links verdoppeln, rechts ganzzahlig halbieren. 2 Gerade Zahl rechts Zeile streichen. 1 Auch bekannt als Russiche Bauernmulltiplikation

56 33 Beispiel 1: Altägyptische Multiplikation 1 Berechnung von Links verdoppeln, rechts ganzzahlig halbieren. 2 Gerade Zahl rechts Zeile streichen. 3 Übrige Zeilen links addieren. 1 Auch bekannt als Russiche Bauernmulltiplikation

57 33 Beispiel 1: Altägyptische Multiplikation 1 Berechnung von Links verdoppeln, rechts ganzzahlig halbieren. 2 Gerade Zahl rechts Zeile streichen. 3 Übrige Zeilen links addieren. 1 Auch bekannt als Russiche Bauernmulltiplikation

58 34 Vorteile Kurze Beschreibung, einfach zu verstehen. Effizient für Computer im Dualsystem: Verdoppeln = Left Shift, Halbieren = Right Shift Beispiel left shift 9 = = 18 right shift 9 = = 4

59 35 Fragen Funktioniert das immer? (z.b. für negative Zahlen) Wenn nicht, wann? Wie beweist man die Korrektheit? Besser als die "Schulmethode"? Was heisst "gut"? Lässt sich Güte anordnen? Wie schreibt man das Verfahren unmissverständlich auf?

60 Beobachtung 36 Wenn b > 1, a Z, dann: { 2a b a b = 2 falls b gerade, a + 2a b 1 2 falls b ungerade.

61 Terminierung 37 a falls b = 1, a b = 2a b 2 falls b gerade, a + 2a b 1 2 falls b ungerade.

62 Rekursiv funktional notiert 38 a falls b = 1, f(a, b) = f(2a, b 2 ) falls b gerade, a + f(2a, b 1 2 ) falls b ungerade.

63 Funktion programmiert 39 // pre: b>0 // post: return a b int f(int a, int b){ if(b==1) return a; else if (b%2 == 0) return f(2 a, b/2); else return a + f(2 a, (b 1)/2); }

64 Korrektheit 40 a falls b = 1, f(a, b) = f(2a, b 2 ) falls b gerade, a + f(2a b 1 2 ) falls b ungerade. Zu zeigen: f(a, b) = a b für a Z, b N +.

65 Beweis per Induktion 41 Anfang: b = 1 f(a, b) = a = a 1. Hypothese: f(a, b ) = a b für 0 < b b Schritt: f(a, b + 1) =! a (b + 1) b {}}{ b + 1 f(2a, ) = a (b + 1) falls b ungerade, f(a, b + 1) = 2 b a + f(2a, ) = a + a b falls b gerade. }{{} 2 b

66 Endrekursion 42 Die Rekursion lässt sich endrekursiv schreiben // pre: b>0 // post: return a b int f(int a, int b){ if (b==1) return a; else if (b%2 == 0) return f(2 a, b/2); else return a + f(2 a, (b 1)/2); } // pre: b>0 // post: return a b int f(int a, int b){ if (b==1) return a; int z=0; if (b%2!= 0){ b; z=a; } return z + f(2 a, b/2); }

67 Endrekursion Iteration // pre: b>0 // post: return a b int f(int a, int b){ if (b==1) return a; int z=0; if (b%2!= 0){ b; z=a; } return z + f(2 a, b/2); } int f(int a, int b) { int res = 0; while (b!= 1) { int z = 0; if (b % 2!= 0){ b; z = a; } res += z; a = 2; // neues a b /= 2; // neues b } res += a; // Basisfall b=1 return res ; } 43

68 Vereinfachen int f(int a, int b) { int res = 0; while (b!= 1) { int z = 0; if (b % 2!= 0){ } b; z = a; } res += z; a = 2; b /= 2; } res += a; return res ; Teil der Division Direkt in res in den Loop // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0) res += a; a = 2; b /= 2; } return res ; } 44

69 45 Invarianten! // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0){ res += a; b; } a = 2; b /= 2; } return res; } Sei x = a b.

70 45 Invarianten! // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0){ res += a; b; } a = 2; b /= 2; } return res; } Sei x = a b. Hier gilt x = a b + res

71 45 Invarianten! // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0){ res += a; b; } a = 2; b /= 2; } return res; } Sei x = a b. Hier gilt x = a b + res Wenn hier x = a b + res...

72 45 Invarianten! // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0){ res += a; b; } a = 2; b /= 2; } return res; } Sei x = a b. Hier gilt x = a b + res Wenn hier x = a b + res dann auch hier x = a b + res

73 45 Invarianten! // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0){ res += a; b; } a = 2; b /= 2; } return res; } Sei x = a b. Hier gilt x = a b + res Wenn hier x = a b + res dann auch hier x = a b + res b gerade

74 45 Invarianten! // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0){ res += a; b; } a = 2; b /= 2; } return res; } Sei x = a b. Hier gilt x = a b + res Wenn hier x = a b + res dann auch hier x = a b + res b gerade Hier gilt x = a b + res

75 45 Invarianten! // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0){ res += a; b; } a = 2; b /= 2; } return res; } Sei x = a b. Hier gilt x = a b + res Wenn hier x = a b + res dann auch hier x = a b + res b gerade Hier gilt x = a b + res Hier gilt x = a b + res und b = 0

76 45 Invarianten! // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0){ res += a; b; } a = 2; b /= 2; } return res; } Sei x = a b. Hier gilt x = a b + res Wenn hier x = a b + res dann auch hier x = a b + res b gerade Hier gilt x = a b + res Hier gilt x = a b + res und b = 0 Also res = x.

77 Zusammenfassung Der Ausdruck a b + res ist eine Invariante. Werte von a, b, res ändern sich, aber die Invariante bleibt im Wesentlichen unverändert: Invariante vorübergehend durch eine Anweisung zerstört, aber dann darauf wieder hergestellt. Betrachtet man solche Aktionsfolgen als atomar, bleibt der Wert tatsächlich invariant Insbesondere erhält die Schleife die Invariante (Schleifeninvariante), wirkt dort wie der Induktionsschritt bei der vollständigen Induktion Invarianten sind offenbar mächtige Beweishilfsmittel! 46

78 Weiteres Kürzen 47 // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { if (b % 2!= 0) res += a; a = 2; b /= 2; } return res ; } // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { res += a (b%2); a = 2; b /= 2; } return res ; }

79 Analyse 48 // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { res += a (b%2); a = 2; b /= 2; } return res ; } Altägyptische Multiplikation entspricht der Schulmethode zur Basis

80 Analyse 48 // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { res += a (b%2); a = 2; b /= 2; } return res ; } Altägyptische Multiplikation entspricht der Schulmethode zur Basis (9)

81 Analyse 48 // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { res += a (b%2); a = 2; b /= 2; } return res ; } Altägyptische Multiplikation entspricht der Schulmethode zur Basis (9) (18)

82 Analyse 48 // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { res += a (b%2); a = 2; b /= 2; } return res ; } Altägyptische Multiplikation entspricht der Schulmethode zur Basis (9) (18)

83 Analyse 48 // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { res += a (b%2); a = 2; b /= 2; } return res ; } Altägyptische Multiplikation entspricht der Schulmethode zur Basis (9) (18) (72)

84 Analyse 48 // pre: b>0 // post: return a b int f(int a, int b) { int res = 0; while (b > 0) { res += a (b%2); a = 2; b /= 2; } return res ; } Altägyptische Multiplikation entspricht der Schulmethode zur Basis (9) (18) (72) (99)

85 Effizienz 49 Frage: Wie lange dauert eine Multiplikation von a und b? Mass für die Effizienz Gesamtzahl der elementaren Operationen: Verdoppeln, Halbieren, Test auf "gerade", Addition Im rekursiven Code: maximal 6 Operationen pro Aufruf Wesentliches Kriterium: Anzahl rekursiver Aufrufe oder Anzahl Schleifendurchläufe(im iterativen Fall) b 2 n 1 gilt für n log 2 b. Also nicht mehr als 6 log 2 b elementare Operationen.

86 Schnelle Multiplikation von Zahlen [Ottman/Widmayer, Kap ]

87 Beispiel 2: Multiplikation grosser Zahlen 51 Primarschule: a b c d d b

88 Beispiel 2: Multiplikation grosser Zahlen 51 Primarschule: a b c d d b 4 2 d a

89 Beispiel 2: Multiplikation grosser Zahlen 51 Primarschule: a b c d d b 4 2 d a 6 c b

90 Beispiel 2: Multiplikation grosser Zahlen 51 Primarschule: a b c d d b 4 2 d a 6 c b 1 8 c a

91 Beispiel 2: Multiplikation grosser Zahlen 51 Primarschule: a b c d d b 4 2 d a 6 c b 1 8 c a =

92 Beispiel 2: Multiplikation grosser Zahlen 51 Primarschule: a b c d d b 4 2 d a 6 c b 1 8 c a = = 4 einstellige Multiplikationen.

93 Beispiel 2: Multiplikation grosser Zahlen 51 Primarschule: a b c d d b 4 2 d a 6 c b 1 8 c a = = 4 einstellige Multiplikationen. Multiplikation zweier n-stelliger Zahlen: n 2 einstellige Multiplikationen

94 Beobachtung 52 ab cd = (10 a + b) (10 c + d)

95 Beobachtung 52 ab cd = (10 a + b) (10 c + d) = 100 a c + 10 a c + 10 b d + b d + 10 (a b) (d c)

96 Verbesserung? 53 a b c d d b

97 Verbesserung? 53 a b c d d b 1 4 d b

98 Verbesserung? 53 a b c d d b 1 4 d b 1 6 (a b) (d c)

99 Verbesserung? 53 a b c d d b 1 4 d b 1 6 (a b) (d c) 1 8 c a

100 Verbesserung? 53 a b c d d b 1 4 d b 1 6 (a b) (d c) 1 8 c a 1 8 c a

101 Verbesserung? 53 a b c d d b 1 4 d b 1 6 (a b) (d c) 1 8 c a 1 8 c a =

102 Verbesserung? 53 a b c d d b 1 4 d b 1 6 (a b) (d c) 1 8 c a 1 8 c a = einstellige Multiplikationen.

103 Grosse Zahlen = }{{} 62 }{{} 37 }{{} 58 }{{} 98 a b c d

104 Grosse Zahlen = }{{} 62 }{{} 37 }{{} 58 }{{} 98 a b c Rekursive / induktive Anwendung: a c, a d, b c und c d wie oben berechnen. d

105 Grosse Zahlen = }{{} 62 }{{} 37 }{{} 58 }{{} 98 a b c Rekursive / induktive Anwendung: a c, a d, b c und c d wie oben berechnen. 3 3 = 9 statt 16 einstellige Multiplikationen. d

106 55 Verallgemeinerung Annahme: zwei n-stellige Zahlen, n = 2 k für ein k. (10 n/2 a + b) (10 n/2 c + d) = 10 n a c + 10 n/2 a c + 10 n/2 b d + b d + 10 n/2 (a b) (d c) Rekursive Anwendung dieser Formel: Algorithmus von Karatsuba und Ofman (1962).

107 Analyse 56 M(n): Anzahl einstelliger Multiplikationen. Rekursive Anwendung des obigen Algorithmus Rekursionsgleichung: { M(2 k 1 falls k = 0, ) = 3 M(2 k 1 ) falls k > 0.

108 Teleskopieren 57 Iteratives Einsetzen der Rekursionsformel zum Lösen der Rekursionsgleichung. M(2 k ) = 3 M(2 k 1 )

109 Teleskopieren 57 Iteratives Einsetzen der Rekursionsformel zum Lösen der Rekursionsgleichung. M(2 k ) = 3 M(2 k 1 ) = 3 3 M(2 k 2 ) = 3 2 M(2 k 2 )

110 Teleskopieren 57 Iteratives Einsetzen der Rekursionsformel zum Lösen der Rekursionsgleichung. M(2 k ) = 3 M(2 k 1 ) = 3 3 M(2 k 2 ) = 3 2 M(2 k 2 ) =...! = 3 k M(2 0 ) = 3 k.

111 Beweis: Vollständige Induktion 58 Hypothese H: M(2 k ) = 3 k.

112 Beweis: Vollständige Induktion 58 Hypothese H: M(2 k ) = 3 k. Induktionsanfang (k = 0): M(2 0 ) = 3 0 = 1.

113 Beweis: Vollständige Induktion Hypothese H: M(2 k ) = 3 k. Induktionsanfang (k = 0): M(2 0 ) = 3 0 = 1. Induktionsschritt (k k + 1): M(2 k+1 ) def = 3 M(2 k ) H = 3 3 k = 3 k+1. 58

114 Vergleich 59 Primarschulmethode: n 2 einstellige Multiplikationen.

115 Vergleich 59 Primarschulmethode: n 2 einstellige Multiplikationen. Karatsuba/Ofman: M(n) = 3 log 2 n = (2 log 2 3 ) log 2 n = 2 log 2 3 log 2 n = n log 2 3 n 1.58.

116 Vergleich 59 Primarschulmethode: n 2 einstellige Multiplikationen. Karatsuba/Ofman: M(n) = 3 log 2 n = (2 log 2 3 ) log 2 n = 2 log 2 3 log 2 n = n log 2 3 n Beispiel: 1000-stellige Zahl: /

117 Bestmöglicher Algorithums? 60 Wir kennen nun eine obere Schranke n log 2 3. Es gibt praktisch (für grosses n) relevante, schnellere Algorithmen. Die beste obere Schranke ist nicht bekannt. Untere Schranke: n/2 (Jede Ziffer muss zumindest einmal angeschaut werden).

118 1.6 Finde den Star 61

119 Konstruktiv? 62 Übung: Finde ein schnelleres Multiplikationsverfahren. Unsystematisches Suchen einer Lösung. Betrachten nun ein konstruktiveres Beispiel.

120 63 Beispiel 3: Finde den Star! Raum mit n > 1 Personen. Star: Person, die niemanden anderen kennt, jedoch von allen gekannt wird. Elementare Operation: Einzige erlaubte Frage an Person A: Kennst Du B? (B A) bekannt?

121 64 Problemeigenschaften Möglich: kein Star anwesend. Möglich: ein Star. Mehr als ein Star möglich?

122 64 Problemeigenschaften Möglich: kein Star anwesend. Möglich: ein Star. Mehr als ein Star möglich? Nein!

123 64 Problemeigenschaften Möglich: kein Star anwesend. Möglich: ein Star. Mehr als ein Star möglich? Nein! Nein!

124 64 Problemeigenschaften Möglich: kein Star anwesend. Möglich: ein Star. Mehr als ein Star möglich? Nein! Nein! Annahme: Zwei Stars S 1, S 2.

125 64 Problemeigenschaften Möglich: kein Star anwesend. Möglich: ein Star. Mehr als ein Star möglich? Nein! Nein! Annahme: Zwei Stars S 1, S 2. S 1 kennt S 2 S 1 kein Star.

126 64 Problemeigenschaften Möglich: kein Star anwesend. Möglich: ein Star. Mehr als ein Star möglich? Nein! Nein! Annahme: Zwei Stars S 1, S 2. S 1 kennt S 2 S 1 kein Star. S 1 kennt S 2 nicht S 2 kein Star.

127 Naive Lösung 65 Frage jeden über jeden. Resultat: Ja Nein Nein 2 Nein - Nein Nein 3 Ja Ja - Nein 4 Ja Ja Ja -

128 Naive Lösung 65 Frage jeden über jeden. Resultat: Star ist Ja Nein Nein 2 Nein - Nein Nein 3 Ja Ja - Nein 4 Ja Ja Ja -

129 Naive Lösung 65 Frage jeden über jeden. Resultat: Star ist Ja Nein Nein 2 Nein - Nein Nein 3 Ja Ja - Nein 4 Ja Ja Ja - Anzahl Operationen (Fragen): n (n 1).

130 Geht das besser? 66 Induktion: zerlege Problem in kleinere Teile.

131 Geht das besser? 66 Induktion: zerlege Problem in kleinere Teile. n = 2: Zwei Fragen genügen.

132 Geht das besser? 66 Induktion: zerlege Problem in kleinere Teile. n = 2: Zwei Fragen genügen. n > 2: Schicke eine Person A weg. Finde den Star unter n 1 Personen. Danach überprüfe A mit 2 (n 1) Fragen.

133 Geht das besser? 66 Induktion: zerlege Problem in kleinere Teile. n = 2: Zwei Fragen genügen. n > 2: Schicke eine Person A weg. Finde den Star unter n 1 Personen. Danach überprüfe A mit 2 (n 1) Fragen. Gesamt F (n) = 2(n 1)+F (n 1) = 2(n 1)+2(n 2)+ +2 = n(n 1).

134 Geht das besser? 66 Induktion: zerlege Problem in kleinere Teile. n = 2: Zwei Fragen genügen. n > 2: Schicke eine Person A weg. Finde den Star unter n 1 Personen. Danach überprüfe A mit 2 (n 1) Fragen. Gesamt F (n) = 2(n 1)+F (n 1) = 2(n 1)+2(n 2)+ +2 = n(n 1). Kein Gewinn.

135 Verbesserung 67 Idee: Vermeide, den Star rauszuschicken.

136 Verbesserung 67 Idee: Vermeide, den Star rauszuschicken. Frage eine beliebige Person A im Raum, ob sie B kennt.

137 67 Verbesserung Idee: Vermeide, den Star rauszuschicken. Frage eine beliebige Person A im Raum, ob sie B kennt. Falls ja: A ist kein Star.

138 67 Verbesserung Idee: Vermeide, den Star rauszuschicken. Frage eine beliebige Person A im Raum, ob sie B kennt. Falls ja: A ist kein Star. Falls nein: B ist kein Star.

139 67 Verbesserung Idee: Vermeide, den Star rauszuschicken. Frage eine beliebige Person A im Raum, ob sie B kennt. Falls ja: A ist kein Star. Falls nein: B ist kein Star. Zum Schluss bleiben 2 Personen, von denen möglicherweise eine Person X der Star ist. Wir überprüfen mit jeder Person, die draussen ist, ob X ein Star sein kann.

140 Analyse 68 F (n) = { 2 für n = 2, 1 + F (n 1) + 2 für n > 2.

141 Analyse 68 F (n) = { 2 für n = 2, 1 + F (n 1) + 2 für n > 2. Teleskopieren: F (n) = 3+F (n 1) = 2 3+F (n 2) = = 3 (n 2)+2 = 3n 4. Beweis: Übung!

142 Moral 69 Bei vielen Problemen lässt sich ein induktives oder rekursives Lösungsmuster erarbeiten, welches auf der stückweisen Vereinfachung eines Problems basiert. Weiteres Beispiel in der nächsten Stunde.