Algorithmen und Datenstrukturen 1 Kapitel 3

Transkript

1 Algorithmen und Datenstrukturen 1 Kapitel 3 Technische Fakultät robert@techfak.uni-bielefeld.de Vorlesung, U. Bielefeld, Winter 2005/2006

2 3.6 Dynamische Programmierung Die rekursive Problemzerlegung kann an mehreren Stellen auf das gleiche Teilproblem führen. Dann sollte dessen Lösung gespeichert werden, um sie wieder zu verwenden statt neu zu berechnen.

3 Gedankenlose Wiederberechnnung führt meistens zu exponentieller Explosion: E B G A A braucht B, C, D, B braucht E, C, usw. D 8 Probleme werden gelöst, C F wenn G, C, H, F, tabelliert werden. H

4 E G A B C C G G H H F H D F H Problemzerlegung ohne Tabellierung: G wird 3 mal H wird 4 mal gelöst. A, B, D müssen nicht tabelliert werden.

5 Schema der Dynamischen Programmierung: Rekursion + Tabellierung Aspekte: Wie wird Problem zerlegt? Welche Teillösungen werden tabelliert? Wie organisiert man die Tabellierung? Berechnungs-Reihenfolge der Tabellen?

6 Es genügt, zu jedem Teilproblem eine optimale Lösung zu speichern, wenn folgendes Prinzip gilt Bellman s Optimalitätsprinzip Eine optimale Lösung hat stets eine Zerlegung in optimale Teilprobleme. Offensichtlich ist dieses Prinzip für die Kettenmultiplikation von Matrizen erfüllt.

7 Zwei Möglichkeiten zur Organisation der Berechnung: Top-Down: Rekursive Zerlegung, vom Gesamtproblem ausgehend. Tabellierung von Teillösungen bei erster Berechnung. Bottom-Up: Es werden die einfachsten Teillösungen auf Vorrat berechnet, danach die zusammengesetzten... bis zum Gesamtergebnis.

8 Beispiel zur Wirkung der Tabellierung: Fibonacci-Zahlen Berechne: fib(1) = 1 (1) fib(2) = 1 (2) fib(n) = fib(n 1) + fib(n 2) für n > 2 (3)

9 Zählen wir die Aufrufe von fib zur Berechnung von fib(n): A[ fib(1) ] = 1 (4) A[ fib(2) ] = 1 (5) A[ fib(3) ] = 2 (6) A[ fib(4) ] = 5 (7) allgemein: A[ fib(n) ] = 1 + A[ fib(n 1) ] + A[ fib(n 2) ](8) Daraus folgt: A[ fib(n) ] > fib(n)

10 Aufgabe: Mit B[ fib(n) ] berechnen wir die Anzahl der Aufrufe der Basisfälle fib(1) und fib(2) in der rekursiven Berechnung von fib(n). Wie verhält sich B[ fib(n) ] verglichen mit fib(n)?

11 Berechnung von Tabelle F mit F (i) = fib(i) F (1) = 1 (9) F (2) = 1 (10) F (n) = F (n 1) + F (n 2) für n > 2. (11) Für i = 1, 2,..., n wird F (n) in n Schritten berechnet.

12 Bottom-Up versus Top-Down Die tabellierende Berechnung beginnt mit F (1). Die rekursive Berechnung beginnt mit dem Aufruf fib(n). fib und F haben die gleiche rekursive Definition. Nur die Reihenfolge garantiert, dass kleine Probleme bereits tabelliert vorliegen, wenn größere sie als Teillösungen brauchen.

13 Verbesserung: Wenn F (n) berechnet ist, kann man hier F (1)... F (n 2) vergessen. Statt der Tabelle reichen 2 Vorgängerwerte. Oder eine Funktion mit Gedächtnis...

14 fastfib(n) = fst (twofib(n)) (12) fst(x, y) = x (13) twofib(1) = (1, 1) (14) twofib(n) = (b, a + b) where (15) (a, b) = twofib(n 1)

15 Beispiel: Schnelle Matrizenmultiplikation in Ketten Erinnerung: A m,n B n,r = C m,r n c ij = a ik b kj k=1 A[ A m,n B n,r ] = n r k

16 Matrix-Kette: M 1 M 2 M 3 M K mit Dimension (d 0, d 1 ), (d 1, d 2 )... (d K 1, d K ) Matrix-Multiplikation ist assoziativ (A B) C = A (B C) der Aufwand hängt jedoch von der Klammerung ab, da Zwischenergebnisse unterschiedlicher Dimension anfallen.

17 10 50 A B C. (A. B). C A.(B. C) C 10 A B. C 50 A. B A. B. C

18 Rechnung (A B) C Rechnung A (B C) = = Der Rechenweg (A B) C ist hier deutlich schneller. Problem der Matrix-Kettenmultiplikation: Bestimme optimalen Aufwand und Klammerung für Matrixkette M 1 M K. Wir suchen zunächst den optimalen Aufwand.

19 Rekursive Lösung: Der Gesamtaufwand zerlegt sich gemäß der letzten Multiplikation: A[ (M 1... M s ) (M s+1... M K ) ] = (16) A[ M 1 M s ] + A[ M s+1 M K ] + d s 1 d s d s+1

20 Minimal ist der Aufwand dann, 1 wenn die Teilprodukte optimal berechnet werden, 2 wenn der Punkt der letzten Multiplikation (s) optimal gewählt wurde. (1) bedeutet einfach wohlfundierte Rekursion (2) hier müssen wir über alle Punkte s optimieren.

21 Rekursive Bestimmung des Aufwands: w(i,i) = 0 für i=1...k (17) w(i,j) = d i 1 d i d i+1 für j=i+1 (18) w(i,j) = min[d i 1 d s d j +w(i,s)+w(s+1,j) s [i...j 1]] (19) Gesamtaufwand = w(1, K)

22 Rekursion + Tabellierung Betrachte w als (K K) Tabelle, in der das obere Dreieck berechnet wird. w(i, i) = 0 für i = 1... K w(i, i + 1) = d i 1 d i d i+1 für i = 1... K 1 l für l = 2... K 1 für i = 1... K l sei j = i + l berechne w(i, j) wie in (19).

23 Bestimmung der besten Klammerung In der Tabelle wird neben w(i, j) in (19) auch noch derjenige Wert von s gespeichert, der das Minimum ergab. Ist also w(1, K) = (..., s), so ist die Klammerung, die zum minimalen Aufwand führt, (M 1 M s ) (M s+1 M K ), und in den Teilketten verfährt man analog.