Modul Algorithmik, T-Katalog

Transkript

1 Modul Algorithmik, T-Katalog Sommersemester 2017 Steffen Lange 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

2 Organisatorisches u Vorlesung Folien im Netz u Übung eine Übung alle 14 Tage (Übungsblätter online), die dazu dient, dass u Organisation der Übung Sie Ihre Lösungen untereinander diskutieren, vorstellen und Feedback bekommen Sie Fragen zu Vorlesung stellen können und diese beantwortet bekommen zu Beginn der Übung werden Gruppen gebildet je Gruppe wird die Musterlösung für eine Übungsaufgabe abgestimmt ein Studierender jeder Gruppe stellt die Musterlösung vor 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

3 Organisatorisches u Prüfungsvorleistung (PVL) die PVL ist erbracht, wenn Sie im Rahmen der Übung gezeigt haben, dass Sie mindestens eine Aufgabe korrekt lösen und erklären können... da die Anzahl der Übungsgruppen nicht zur Anzahl der Teilnehmer passt, gibt es (seit heute) einen zweiten Übungstermin: Di, 2. Block (ebenfalls in der y-woche) 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

4 Literatur Th.H. Cormen, Ch.E. Leiserson, R. Rivest, C. Stein, Algorithmen - Eine Einführung, 2. Auflage, Oldenbourg Verlag, Uwe Schöning, Algorithmik, Spektrum Akademischer Verlag, Rolf Klein, Algorithmische Geometrie, 2. Auflage, Springer Juraj Hromkovič, Algorithmics for Hard Problems, 2nd Edition, Springer, /1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

5 Ziele u allgemein... es geht vordergründig um die Themen Entwurf und Analyse von Algorithmen, also darum: korrekte und effiziente Algorithmen zu entwerfen die Korrektheit und die Laufzeit dieser Algorithmen zu beurteilen bzw. zu analysieren u ein wenig spezieller geht es um... die Fähigkeit, komplizierte Algorithmen in Bezug auf deren Korrektheit und Laufzeit zu beurteilen bzw. zu analysieren die Fähigkeit, grundlegende Konzepte aus der Komplexitätstheorie verstehen und anwenden zu können das Verständnis ausgewählter Prinzipien zum Entwurf effizienter Algorithmen die Kenntnis von der Umsetzung dieser Prinzipien im Gebiet algorithmische Geometrie 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

6 Herangehensweise u Ausgangspunkt ausgewählte algorithmische Probleme aus unterschiedlichen Bereichen u Ergebnis ein Algorithmus / mehrere Algorithmen zur Lösung dieser algorithmischen Probleme wichtig: zu jedem Algorithmus gehört eine Spezifikation von dem, was der Algorithmus garantiert, d.h. Aussagen der Art der Algorithmus löst wirklich das jeweils betrachtete algorithmische Problem (Korrektheit) der Algorithmus benötigt höchstens (mindestens) f(n) viele Rechenschritte, um für irgendeine Eingabe der Größe n ein korrektes Ergebnis zu berechnen (Effizienz) 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

7 Tools... u Fokus: Entwurf effizienter Algorithmen Dynamische Programmierung Divide-and-Conquer-Ansatz Greedy-Ansatz Scan-Line-Ansatz bzw. Sweep-Line-Ansatz Verwendung geeigneter Datenstrukturen... u Fokus: Laufzeitanalyse Lösen von Rekursionsgleichungen Amortisierte Analyse (Piggy-Bank-Methode)... 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

8 Anmerkungen u Weshalb ist eine Analyse der Laufzeit wichtig? relevante Aspekte: Benutzbarkeit des entwickelten Algorithmus (u.a. als Unterprozedur) Skalierbarkeit (Blick auf große Eingaben) Ausgangspunkt für mögliche Verbesserungen (u.a. die Verwendung geeigneter Datenstrukturen...) tieferes Verständnis des Algorithmus Beziehungen zur Komplexitätstheorie, um den Spielraum für mögliche Verbesserungen abzuschätzen (untere Schranken für Probleme) 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

9 Fahrplan für die erste Vorlesung u... schauen uns ein algorithmisches Problem genauer an diskutieren und analysieren drei unterschiedliche Algorithmen zur Lösung dieses Problems 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

10 Einführendes Beispiel u zugrunde liegende Bezeichnungen / Begriffe Zahlenfolge der Länge n, etwa a = a[1],...,a[n] Teilfolge der gegebenen Zahlenfolge, etwa a[i],...,a[k] mit 1 i k n der Wert einer Teilzahlenfolge a[i],...,a[k] der Zahlenfolge a ist wie folgt definiert: k w(a,i,k) = Σ a[j] j = i 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

11 Einführendes Beispiel u Beispiel a[1] = 1, a[2] = -3, a[3] = 2, a[4] = 1 w(a,i,k) k = 1 k = 2 k = 3 k = 4 i = i = i = i = /1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

12 Einführendes Beispiel u algorithmische Fragestellung finde einen möglichst effizienten Algorithmus zur Lösung des folgenden algorithmischen Problems: zulässige Eingabe: Zahlenfolge a[1],...,a[n] der Länge n zulässige Ausgabe: bestimme z = max { w(a,i,k) 1 i k n }... uns interessieren Algorithmen, die möglichst wenige Additionen A(n) und Vergleiche V(n) benötigen, um dieses Problem für irgendeine Probleminstanz der Größe n zu lösen... in der Literatur nennt man dieses Problem auch das Maximale- Teilsummen-Problem 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

13 Einführendes Beispiel u zurück zum Beispiel a[1] = 1, a[2] = -3, a[3] = 2, a[4] = 1 k = 1 k = 2 k = 3 k = 4 i = i = i = i = offenbar gilt z = 3 (/* = w(a,3,4) */) 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

14 Einführendes Beispiel Algorithmus 1 u Grundidee... wie erwartet mit einer halben Idee u Beschreibung 1) Erzeuge eine Tabelle der Größe n n. 2) Bestimme für jedes Paar (i,k) mit 1 i k n den Wert w(a,i,k) und trage den Wert in die entsprechende Zelle der Tabelle ein. 3) Bestimme unter allen in der Tabelle eingetragenen Werten w(a,i,k) das Maximum und gib dieses Maximum aus.... in 2) wird folgender Zusammenhang ausgenutzt: w(a,i,k+1) = w(a,i,k) + a[k+1] 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

15 Einführendes Beispiel Algorithmus 1 u Korrektheit sollte offensichtlich sein u Analyse der Laufzeit um das interessierende Problem für eine Probleminstanz der Größe n zu lösen, benötigt dieser Algorithmus: Anzahl der Additionen: A(n) =... = 1/2*(n*(n-1)) Anzahl der Vergleiche: V(n) =... = 1/2*(n*(n+1)) - 1 Anzahl der Operationen ingesamt: T(n) = A(n) + V(n) = n 2-1 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

16 Einführendes Beispiel Algorithmus 2 u Grundidee dem Divide-and-Conquer-Ansatz folgen ein albernes, illustrierendes Beispiel (/* Maximum bestimmen */) es sei a[1],...,a[8] die gegebene Zahlenfolge es sei z = max { a[j] 1 j 8 } um z zu bestimmen, könnte man wie folgt vorgehen bestimme z 1 = max { a[j] 1 j 4 } bestimme z 2 = max { a[j] 5 j 8 } setze z = max { z 1,z 2 }... Hintergrund: das maximale Element befindet sich in der linken oder in der rechten Teilfolge 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

17 Einführendes Beispiel Algorithmus 2 u... zurück zu unserem Problem es sei a[1],...,a[8] die gegebene Zahlenfolge es sei z = max { w(a,i,k) 1 i k 8 } um z zu bestimmen, könnte man wie folgt vorgehen: bestimme z 1 = max { w(a,i,k) 1 i k 4 } bestimme z 2 = max { w(a,i,k) 5 i k 8 } bestimme z 3 = max { w(a,i,k) 1 i 4 und 5 k 8 } bestimme z = max { z 1,z 2,z 3 }... Hintergrund: die maximale Teilfolge befindet sich vollständig in der linken oder in der rechten Teilfolge oder sie beginnt in der linken Teilfolge und endet in der rechten Teilfolge 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

18 Einführendes Beispiel Algorithmus 2 u... Ergänzung z 3 = max { w(a,i,k) 1 i 4 und 5 k 8 } kann offenbar wie folgt bestimmt werden: bestimme x = max { w(a,i,4) 1 i 4 } bestimme y = max { w(a,5,k) 5 k 8 } setze z = x + y 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

19 Einführendes Beispiel Algorithmus 2 u Bezeichnungen es sei a[1],...,a[n] eine Zahlenfolge der Länge n es seien i und k mit 1 i k n gewählt w max (a,i,k) = max { w(a,i,k ) i i k k } w rechts (a,i,k) = max { w(a,i,k) i i k } w links (a,i,k) = max { w(a,i,k ) i k k }... es geht also beim Maximalen-Teilsummen-Problem darum, den Wert w max (a,1,n) zu bestimmen 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

20 Einführendes Beispiel Algorithmus 2 u... Anmerkung um die Beschreibung und die Analyse des Algorithmus zu vereinfachen, gehen wir im Folgenden davon aus, dass die Länge n der gegebene Zahlenfolge eine Zweierpotenz ist, d.h. es gilt n = 2 k für eine natürliche Zahl k... falls n keine Zweierpotenz ist, wähle die nächst größere Zweierpotenz und verlängere die gegebene Zahlenfolge geeignet 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

21 Einführendes Beispiel Algorithmus 2 u Beschreibung (/* Rückgabewert w max (a,1,n) */) 1) Falls n = 1, so gib a[1] aus. 2) Falls n > 1, so gehe gehe wie folgt vor: a) Divide-Schritt: berechne m = n/2 b) Conquer-Schritt: berechne mit Hilfe dieses Algorithmus die Rückgabewerte w max (a,1,m) und w max (a,m+1,n). c) Merge-Schritt: bestimme die Werte w rechts (a,1,m) und w links (a,m+1,n) bestimme das Maximum der drei Werte w max (a,1,m), w max (a,m+1,n) und w rechts (a,1,m) + w links (a,m+1,n) gib dieses Maximum aus 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

22 Einführendes Beispiel Algorithmus 2 u Korrektheit sollte offensichtlich sein u Analyse der Laufzeit es bezeichne T(n) die Anzahl der Additionen und Vergleiche von Algorithmus 2 bei Eingabe einer Zahlenfolge der Länge n falls n = 1 ist, gilt T(n) = 0 falls n > 1 ist, gilt Beitrag von a): 0 Beitrag von b): 2*T(m) für m = n/2 Beitrag von c): 2*n-1 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

23 Einführendes Beispiel Algorithmus 2 u... zusammengefasst ergibt sich T(n) = 2*T(n/2) + 2*n - 1 falls man n = 2 k setzt, erhält man durch sukzessives Einsetzen: T(n) = 2*T(n/2) + 2*n - 1 = = 2*n*log 2 (n) - n + 1 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

24 Einführendes Beispiel Algorithmus 2 u... am Beispiel T(2 3 ) = 2*T(2 2 ) + 2* = 2*[2*T(2 1 ) + 2*2 2-1] + 2* = 2 2 *T(2 1 ) + 2* * = 2 2 *[2*T(2 0 ) + 2*2 1-1] + 2* * = 2 3 *T(2 0 ) + 2* * * = 2 3 *0+ 2* * * = 2*2 3 * = 2*2 3 * da n = 2 3 und k = log 2 (n) gilt, vermuten wir: T(n) = 2*n*log 2 (n) - n das diese Vermutung richtig ist, kann man mit vollständiger Induktion beweisen (können Sie das) 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

25 Einführendes Beispiel Algorithmus 3 u Grundidee dem Scan-Line-Ansatz bzw. Sweep-Line-Ansatz folgen ein albernes, illustrierendes Beispiel (/* Maximum bestimmen */) es sei a[1],...,a[8] die gegebene Zahlenfolge es sei z = max { a[j] 1 j 8 } es sei z 1 = max { a[j] 1 j 7 } bereits bekannt um z zu bestimmen, könnte man wie folgt vorgehen: setze z = max { z 1,a[8] }... Hintergrund: das maximale Element befindet sich im Anfangsstück der Zahlenfolge oder ist gleich dem letzten Element 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

26 Einführendes Beispiel Algorithmus 3 u... zurück zu unserem Problem es sei a[1],...,a[8] die gegebene Zahlenfolge es sei z = max { w(a,i,k) 1 i k 8 } es sei z 1 = max { w(a,i,k) 1 i k 7 } bereits bekannt um z zu bestimmen, könnte man wie folgt vorgehen: bestimme z 2 = max { w rechts (a,i,8) 1 i 8 } bestimme z = max { z 1,z 2 }... Hintergrund: die maximale Teilfolge befindet sich vollständig im Anfangsstück der Zahlenfolge oder sie endet beim letzten Element 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

27 Einführendes Beispiel Algorithmus 3 u... Ergänzung z 2 = max { w rechts (a,i,8) 1 i 8 } kann offenbar wie folgt bestimmt werden: bestimme z 3 = max { w rechts (a,i,7) 1 i 7 } falls z 3 < 0, so ist z 2 = a[8] falls z 3 0, so ist z 2 = z 3 + a[8]... anders formuliert: z 2 = max { a[8],z 3 +a[8] } 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

28 Einführendes Beispiel Algorithmus 3 u Beschreibung 1. Setze M = a[1] und R = M. 2. Für z = 2,...,n: 3. Gib M aus. Setze R = R + a[z]. Setze R = max { R, a[z] }. Setze M = max { M,R }. 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

29 Einführendes Beispiel Algorithmus 3 u Korrektheit (/* Schleifeninvariante */)... für jedes z mit 2 z n gilt: M = w max (a,1,z) R = w rechts (a,1,z) u Analyse der Laufzeit A(n) = n - 1 V(n) = 2*(n - 1) T(n) = A(n) + V(n) = 3*(n - 1) 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

30 Einführendes Beispiel u Vergleich der drei vorgestellten Algorithmen Anzahl Operationen Algorithmus 1 Algorithmus 2 Algorithmus 3 n = 4 (= 2 2 ) n = 16 (=2 4 ) n= 64 (=2 6 ) n = 256 (=2 8 ) n = 1024 (=2 10 ) /1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

31 Gliederung der Vorlesung 1. Motivation / Einordnung / Grundlagen 2. Analyse der Laufzeit von Algorithmen 3. Untere Schranken für algorithmische Probleme 4. Sortier- und Selektionsverfahren 5. Paradigmen des Algorithmenentwurfs 6. Ausgewählte Datenstrukturen 7. Algorithmische Geometrie 8. Umgang mit algorithmisch schwierigen Problemen 1/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik