Kapitel 5: Paradigmen des Algorithmenentwurfs. Gliederung

Transkript

1 Gliederung 1. Grundlagen 2. Analyse der Laufzeit von Algorithmen 3. Untere Schranken für algorithmische Probleme 4. Sortier- und Selektionsverfahren 5. Paradigmen des Algorithmenentwurfs 6. Ausgewählte Datenstrukturen 7. Algorithmische Geometrie 8. Umgang mit algorithmisch schwierigen Problemen Divide and Conquer Dynamisches Programmieren Greedy-Algorithmen 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

2 Gliederung u Fahrplan (/* Divide and Conquer */) allgemeines Schema Laufzeitanalyse (/* Mastertheorem */) Beispiele MergeSort schnelle Multiplikation Ergänzungen 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

3 Allgemeines Schema u Divide and Conquer Algorithmen u Anmerkungen Schritt 1 (/* Divide */) Vorschrift anwenden, mit der das Gesamtproblem in Teilprobleme zerlegt werden kann Schritt 2 (/* Conquer */) Anwendung desselben Algorithmus zur Lösung der Teilprobleme Ergebnis: Lösung für jedes Teilproblem Schritt 3 (/* Merge */) Vorschrift anwenden, mit der aus den Lösungen der Teilprobleme eine Lösung des Gesamtproblems konstruiert werden kann wenn rekursiv definiert ist, was eine Lösung des Gesamtproblems charakterisiert, ist fast nichts zu tun anderenfalls ist Kreativität gefragt 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

4 Laufzeitanalyse u Laufzeitanalyse (/* Anwendung des Mastertheorems */) Es seien a 1, b > 1 und f eine Funktion von N à R mit f(n) Θ(n k ) für ein k 0. Ferner habe die verwendete Rekursionsgleichung die Form F(n) = a*f(n/b) + f(n). Dann gilt: F(n) Θ(n k ), falls a < b k F(n) Θ(n k * log(n)), falls a = b k F(n) Θ(n c ) mit c = log b (a), falls a > b k... a = Anzahl der Teilprobleme in Schritt 2 (/* Conquer */)... n/b = Größe der Teilprobleme in Schritt 2 (/* Conquer */)... f(n) = Laufzeit für Schritt 1 (/* Divide */) und Schritt 3 (/* Merge */) 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

5 Beispiel MergeSort u Problemstellung (/* Sortieren */) zulässige Eingaben: Schlüsselfolge a[1],...,a[n] zulässige Ausgaben: aufsteigend sortierte Variante b[1],...,b[n] der Schlüsselfolge a[1],...,a[n] u Ansatzpunkt es sei c[1],...,c[n/2] die aufsteigend sortierte Variante der Teilfolge a[1],...,a[n/2] und c[n/2+1],...,c[n] die aufsteigend sortierte Variante der Teilfolge a[n/2+1],...,a[n] dann ergibt sich die gesuchte Folge b[1],...,b[n] durch Verschmelzen der bereits aufsteigend sortierten Teilfolgen c[1],...,c[n/2] und c[n/2+1],...,c[n] 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

6 Beispiel MergeSort u Problemstellung (/* Verschmelzen */) zulässige Eingaben: zulässige Ausgaben: aufsteigend sortierte Schlüsselfolgen a[1],...,a[i] und b[1],...,b[j] aufsteigend sortierte Variante c[1],...,c[i+j] der Schlüsselfolge a[1],...,a[i],b[1],...,b[j]... offenbar genügen i + j - 1 viele Vergleiche, um dieses Problem zu lösen (/* es ist sinnvoll, zusätzlichen Speicherplatz zum Speichern der Folge c[1],...,c[i+j] zu verwenden */) 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

7 Beispiel MergeSort u algorithmische Idee (/* MergeSort */) Divide Schritt: Conquer Schritt: Merge Schritt: bestimme die Folgen a[1],...,a[n/2] und a[n/2+1],...,a[n] sortiere die beiden Folgen a[1],...,a[n/2] und a[n/2+1],...,a[n] mittels MergeSort (/* Ergebnis: c[1],...,c[n/2] und c[n/2+1],...,c[n] */) verschmelze die beiden Folgen c[1],...,c[n/2] und c[n/2+1],...,c[n] zur sortierten Folge b[1],...,b[n]... falls n = 1 ist, ist nichts zu tun 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

8 Beispiel MergeSort u Illustration /1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

9 Beispiel MergeSort u Illustration /1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

10 Beispiel MergeSort u Analyse (/* MergeSort */) es bezeichne V(A,n) die Anzahl der Vergleiche, die MergeSort bei Eingabe einer Schlüsselfolge der Länge n benötigt Divide Schritt: 0 Vergleiche Conquer Schritt: 2*V(A,n/2) viele Vergleiche Merge Schritt: n - 1 viele Vergleiche Es gilt: V(A,n) = 2*V(A,n/2) + n - 1. Damit gilt: V(A,n) Θ(n*log(n)). 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

11 u Problemstellung zulässige Eingaben: Dezimaldarstellung einer Zahl a, d.h. a = a[n]...a[1] Dezimaldarstellung einer Zahl b, d.h. b = b[n]...b[1] zulässige Ausgaben: Dezimaldarstellung der Zahl c = a*b, d.h. c = c[m]...c[1] mit m 2n u... für die Laufzeitanalyse relevant Größe der Eingabe = Länge der Dezimalzahlen (/* also n */) relevante Operationen Elementar-Operationen auf Ziffern-Ebene (/* 3*9, 7+5, 3-2*/) Shift-Operationen auf Ziffern-Ebene 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

12 u Schulmethode 7641 * EO + 3 SO 4 EO + 2 SO 4 EO + 1 SO 4 EO + 0 SO 5 EO 6 EO 7 EO 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

13 u Schulmethode (/* Analyse für den worst case */) Phase 1: Multiplikation n mal insgesamt Ω(n 2 ) viele Elementar-Operationen insgesamt Ω(n 2 ) viele Shift-Operationen Phase 2: Addition n-1 mal insgesamt Ω(n 2 ) viele Elementar-Operationen... im worst case benötigt die Schulmethode Ω(n 2 ) viele Elementar- Operationen und Ω(n 2 ) viele Shift-Operationen 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

14 u Bauernmethode h a l b i e r e n 7641 * v e r d o p p e l n /1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

15 u Bauernmethode (/* Korrektheit */) 7641 * * 8512 = ( ) * 8512 = ( )*8512 = = /1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

16 u Bauernmethode (/* Analyse für den worst case */) Phase 1: halbieren / verdoppeln 4n mal insgesamt Ω(n 2 ) viele Elementar-Operationen Phase 2: addieren 4n mal jeweils Ω(n) viele Elementar-Operationen... im worst case benötigt die Bauernmethode Ω(n 2 ) viele Elementar- Operationen... Vorteil: Halbieren/Verdoppeln kann man schneller realisieren als die üblichen Elementar-Operationen 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

17 u Divide and Conquer (/* Version 1, Vorüberlegung */) es seien a = a v *x + a h und b = b v *x + b h a*b = (a v *b v )*x 2 + (a v *b h + a h *b v )*x + a h *b h... wähle x derart, daß die Multiplikationen mit x bzw. x 2 einfach sind a v und a h bzw. b v und b h kürzer als a bzw. b sind 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

18 u Divide and Conquer (/* Version 1, Beispiel */) 7641 * 8512 = (76*85)* (76* *85)* (41*12) = 6460* ( )* = = * 85 = (7*8)* (7*5 + 6*8)*10 + (6*5) = 56* (35+48)* = = * 12 = *8, 7*5,... werden direkt berechnet 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

19 u Divide and Conquer (/* Version 1 */) a[n]... a[1] = a[n]... a[n/2]*10 n/2 + a[n/2-1]... a[1] a a v a h b[n]... b[1] = b[n]... b[n/2]*10 n/2 + b[n/2-1]... b[1] b b v b h Divide Schritt: Conquer Schritt: Merge Schritt: bestimme a v, a h, b v und b h bestimme c 1 = a v *b v, c 2 = a v *b h, c 3 = a h *b v und c 4 = a v *b h bestimme d 1 = c 1 *10 n, d 2 = c 2 + c 3 und d 3 = d 2 *10 n/2 bestimme d 1 + d 3 + c 4 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

20 u Divide and Conquer (/* Version 1; Analyse */) es bezeichne # op (A,n) die Anzahl der Elementar-Operationen und Shift- Operationen, die diese Version bei Eingabe von Dezimalzahlen der Länge n benötigt Divide Schritt: Θ(n) viele Shift-Operationen Conquer Schritt: 4*# op (A,n/2) viele Elementar- und Shift- Operationen Merge Schritt: Θ(n) viele Shift-Operationen und Θ(n) viele Elementar-Operationen Es gilt: # op (A,n) = 4*# op (A,n/2) + Θ(n). Damit gilt: # op (A,n) Θ(n 2 ). 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

21 u Divide and Conquer (/* Version 2, Vorüberlegung */) es seien a = a v x + a h und b = b v x + b h ab = (a v *b v )*x 2 + (a v *b h + a h *b v )*x + a h *b h a v *b h + a h *b v = a v *b h + a h *b v + a v *b v + a h *b h - a v *b v - a h *b h = a v *b v + a h *b h - a h *b h + a h *b v + a v *b h - a v *b v = a v *b v + a h *b h - (a h - a v )*(b h - b v ) a*b = (a v *b v )*x 2 + (a v *b v + a h *b h - (a h - a v )*(b h - b v ))*x + a h *b h 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

22 u Divide and Conquer (/* Version 2, Beispiel */) 7641 * 8512 = (76*85)* (76* *12 - (41-76)*(12-85))* (41*12) = 6460* ( ((-35)*(-73)))* = ( )* = = * 85 = (7*8)* (7*8 + 6*5 - (6-7)*(5-8))*10 + (6*5) = 56* (56+30-((-1)*(-3)))* = ( )* = = * 12 =... 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik... 7*8, 7*5,... werden direkt berechnet

23 u Divide and Conquer (/* Version 2 */) a[n]... a[1] = a[n]... a[n/2]*10 n/2 + a[n/2-1]... a[1] a a v a h b[n]... b[1] = b[n]... b[n/2]*10 n/2 + b[n/2-1]... b[1] b b v b h Divide Schritt: Conquer Schritt: Merge Schritt: bestimme a v, a h, b v und b h sowie e 1 = a v - a h, e 2 = b v - b h bestimme c 1 = a v *b v, c 2 = a h *b h, und c 3 = e 1 *e 2 bestimme d 1 = c 1 *10 n, d 2 = c 1 + c 2 - c 3 und d 3 = d 2 *10 n/2 bestimme d 1 + d 3 + c 2 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

24 u Divide and Conquer (/* Version 2; Analyse */) es bezeichne # op (A,n) die Anzahl der Elementar-Operationen und Shift- Operationen, die diese Version bei Eingabe von Dezimalzahlen der Länge n benötigt Divide Schritt: Conquer Schritt: Merge Schritt: Θ(n) viele Elementar-Operationen 3*# op (A,n/2) viele Elementar-und Shift- Operationen Θ(n) viele Shift-Operationen und Θ(n) viele Elementar-Operationen Es gilt: # op (A,n) = 3* # op (A,n/2) + Θ(n). Damit gilt: # op (A,n) Θ(n log 2 (3) ).... log 2 (3) = /1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

25 Ergänzungen u... manchmal gibt es Probleme mit der Effizienz... selbst wenn rekursiv definiert ist, was eine Lösung des Gesamtproblems charakterisiert, sollte man nicht immer das Problem rekursiv lösen u... Beispiel Fibonacci Zahlen fib(n) = 0, falls n = 0 fib(n) = 1, falls n = 1 fib(n) = fib(n-1) + fib(n-2), sonst 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

26 Ergänzungen u... Bedeutung der Fibonacci-Zahlen Die Fibonacci-Zahlen können beispielsweise verwendet werden, um das Wachstum von Populationen zu beschreiben. Zum Zeitpunkt n = 1 gibt es ein weibliches Kaninchen, das noch nicht fortpflanzungsfähig ist. Jedes weibliches Kaninchen benötigt eine Zeiteinheit, um fortpflanzungsfähig zu werden. Jedes fortpflanzungsfähige Kaninchen bringt pro Zeiteinheit ein weibliches, noch nicht fortpflanzungsfähiges Kaninchen zur Welt. Weibliche Kaninchen sterben nicht. 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

27 Ergänzungen u... rekursive Implementierung (/* Divide and Conquer */) int fib ( int n ) { int result = 0; if ( n == 1 ) result = 1; if ( n > 1) result = fib(n-2) + fib(n-1); return (result); } u Anzahl der auszuführenden Additionen (/* T(A,n) */) T(A,n) = 0, falls n = 0 oder n = 1 T(A,n) = T(A,n-1) + T(A,n-2) + 1 T(A,n) Ω(c n ) für c = sqrt(5)/2 + 1/2 5/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik