Informatik II, SS 2014

Transkript

1 Informatik II SS 2014 (Algorithmen & Datenstrukturen) Vorlesung 4 ( ) Asymptotische Analyse, Sortieren IV Algorithmen und Komplexität

2 Erfahrungen 1. Übung C++ / Java sind komplett ungewohnt Struktur der Dateien / Klassen, was man genau braucht Nicht zum Laufen bekommen... Wöchentliche Fragestunde zusätzlich zum Forum? Werden wir ganz sicher einmal machen und zwar am Dienstag, 20. Mai (anstatt Vorlesung) Im oder im Kinohörsaal (Bekanntgabe über Webseite & Forum) Nach 6 Stunden aufgegeben ca 9 10 Stunden pro Übungsblatt sind normal Aber: Wenden Sie sich bei Problemen frühzeitig ans Forum! Gnuplot wurde nicht erklärt Sollte man selbst rausfinden können / Sie müssen nicht Gnuplot verwenden Alternativen: excel, andere Office Pakete, matlab, R,... 2

3 Bemerkungen 1. Übung Hinweise zu Daphne, etc. auf Webseite (seit Freitag) freiburg.de/teaching/ss_14/info2/infouebungen.php Einfachste Lösung: Vorlage aus der Vorlesung übernehmen und anpassen Makefile / build.xml einfach übernehmen und jedesmal verwenden build.properties jeweils kurz anpassen Für Übung 1 dann einfach Quicksort Code hinzufügen und Main File anpassen Wir werden bis Ende Woche eine Musterlösung bereitstellen: Auch wenn Sie die Aufgabe nicht gelöst haben, versuchen Sie die Vorlesungsbeispiele und die Musterlösung aus dem SVN (public Folder) auszuchecken und bei Ihnen zu kompilieren 3

4 Nächste Übungen Übung 2 (online) ist rein theoretisch... Übung 3 wird mind. zur Hälfte theoretisch sein... Weitere Programmierübungen: Wir werden versuchen, jeweils ein Java/C++ Grundgerüst zu geben, welches Sie dann entsprechend ergänzen können Wir werden versuchen, in der Übungsaufgabe genauer zu beschreiben, was Sie tun müssen wenigstens in den ersten paar praktischen Übungen... Es ist normal, dass die Dinge nicht immer auf Anhieb funktionieren... Verschwenden Sie allerdings nicht zu viel Zeit, ohne Fortschritt zu machen, sondern wenden Sie sich frühzeitig mit Ihren Fragen ans Forum Wenn möglich nicht erst am Montag Abend / Nacht! 4

5 Messungen Selection Sort Selection Sort array sorted backwards SelectionSort array filled with random integers mulliseconds 5

6 Messungen Merge Sort MergeSort MergeSort backward sorted array MergeSort random integers milliseconds 6

7 Messungen Quick Sort 900 QuickSort Random element is pivot backward sorted array First element is pivot backward sorted array milliseconds Random element is pivot random integers in array First element is pivot random integers in array 7

8 Messungen Merge Sort vs. Quick Sort 70 QuickSort vs MergeSort Array of random integers milliseconds Randomized quicksort MergeSort

9 Analyse Bubble Sort BubbleSort(A): 1: for i=0 to n 2 do // need to repeat n 1 times 2: for j=0 to n 2 i do 3: if (A[j] > A[j+1]) then 4: swap(a[j], A[j+1]) 9

10 Analyse Insertion Sort InsertionSort(A): 1: for i = 1 to n 1 do 2: // prefix A[1..i] is already sorted 3: pos = i 4: while (pos > 0) and (A[pos] < A[pos 1]) do 5: swap(a[pos], A[pos 1]) 6: pos = pos 1 10

11 Worst case, best case, average case Worst Case Analyse Analysiere Laufzeit für eine schlechtestmögliche Eingabe der Grösse Wichtigste / Standard Art der Algorithmenanlyse Best Case Analyse Analysiere Laufzeit für eine bestmögl. Eingabe der Grösse Meistens uninteressant Average Case Analyse Analysiere Laufzeit für eine typische Eingabe der Grösse Problem: was ist eine typische Eingabe? Standardansatz: zufällige Eingabe nicht klar, wie nahe tatsächliche Instanzen bei uniform zufälligen sind eine mögl. Alternative: smoothed analysis (werden wir nicht anschauen) 11

12 Wie gut ist quadratische Laufzeit? Quadratisch = 2x so grosse Eingabe 4x so grosse Laufzeit das wächst für grosse schon ziemlich schnell Beispielrechnung: Nehmen wir an, Anz. Grundop. Nehmen wir zudem an, 1 Grundop. pro Rechnerzyklus Bei einem 1Ghz Rechner gibt das 1 ns pro Grundop. Eingabegrösse 4 Bytes pro Zahl Laufzeit 10 Zahlen 4KB s 1 ms 10 Zahlen 4MB s 16.7 min 10 Zahlen 4GB s 31.7 Jahre für grosse Probleme zu langsam! 12

13 Analyse Merge Sort Divide Sort recursively (by using mergesort) Merge Divide ist trivial Kosten: 1 Rekursives Sortieren: Werden wir gleich noch anschauen... Merge: Das werden wir uns zuerst anschauen... 13

14 Analyse Merge Schritt MergeSortRecursive(A, start, end, tmp) // sort A[start..end 1] 5: pos = start; i = start; j = middle 6: while (pos < end) do 7: if (i < middle) and (A[i] < A[j]) then 8: tmp[pos] = A[i]; pos++; i++ 9: else 10: tmp[pos] = A[j]; pos++; j++ 11: for i = start to end 1 do A[i] = tmp[i] 14

15 Analyse Merge Sort Laufzeit setzt sich zusammen aus: Divide und Merge: 2 rekursive Aufrufe zum Sortieren von 2 und 2 Elementen Rekursive Formulierung von : Es gibt eine Konstante 0, so dass 2 2, T 1 Wir machen uns das Leben ein bisschen einfacher und ignorieren das Auf und Abrunden:, 15

16 Analyse Merge Sort, Setzen wir einfach mal ein, um zu sehen, was rauskommt 16

17 Analyse Merge Sort Rekursionsgleichung: 2 Vermutung: 1 log, 1 Beweis durch vollständige Induktion: 17

18 Alternative Analyse Merge Sort Rekursionsgleichung: 2, 1 Betrachten wir den Rekursionsbaum: 18

19 Merge Sort Messungen für grössere Gnuplot: set term png set output mergesort_1.png plot mergesortlarge.txt 19

20 Merge Sort Messungen für grössere Gnuplot: set term png set output mergesort_2.png plot mergesortlarge.txt using 1:($2:$1) 20

21 Zusammenfassung Analyse Merge Sort Die Laufzeit von Merge Sort ist. wächst fast linear mit der Grösse der Eingabe Wie gut ist das? Beispielrechnung: Nehmen wir wieder an, 1 Grundop. = 1 ns Wir sind aber ein bisschen konservativer als vorher und nehmen 10 log Eingabegrösse 4 Bytes p. Zahl Laufzeit 2 10 Zahlen 4KB s 0.1 ms 1 ms 2 10 Zahlen 4MB s 0.2 s 16.7 min 2 10 Zahlen 4GB s 5.4 min 31.7 Jahre 2 10 Zahlen 4TB s 122 h 10 Jahre 21

22 Quick Sort : Analyse Divide Sort recursively (by using quicksort) Laufzeit hängt davon ab, wie gut die Pivots sind Laufzeit, um Array der Länge zu sortieren, falls das Pivot in Teile der Grösse und 1 partitioniert: " Divide: Wir gehen einmal von beiden Seiten über s Array mit konstanten Kosten pro Schritt Zeit, um Array der Länge zu partitionieren: 22

23 Quick Sort : Analyse Falls wir in Zeit ein Pivot finden können, welches das Array in Teile der Grösse und 1 unterteilt: Es gibt eine Konstante 0, so dass 1, 1 Extremfall I) 1 2(best case): 2 2, 1 Wie bei Merge Sort: log Extremfall II) 1, 1 1(worst case): 1, 1 23

24 Quick Sort : Worst Case Analyse Extremfall II) 1, 1 1(worst case): 1, 1 In dem Fall, ergibt sich Θ : 24

25 Quick Sort mit zufälligem Pivot Aufteilung bei zufälligem Pivot: Laufzeit für alle Eingaben allerdings nur im Erwartungswert, bzw. mit sehr grosser Wahrscheinlichkeit Intuition: Mit Wahrscheinlichkeit 1 2, haben die Teile Grösse 4, so dass