Ein Dieb raubt einen Laden aus; um möglichst flexibel zu sein, hat er für die Beute nur einen Rucksack dabei

Transkript

1 7/7/ Das Rucksack-Problem Englisch: Knapsack Problem Das Problem: "Die Qual der Wahl" Ein Dieb raubt einen Laden aus; um möglichst flexibel zu sein, hat er für die Beute nur einen Rucksack dabei Im Ladens findet er n egenstände; der i-te egenstand hat den Wert v i und das ewicht w i Sein Rucksack kann höchstens das ewicht c tragen w i und c sind ganze Zahlen (v i können aus sein) Welche egenstände sollten für den maximalen Profit gewählt werden?. Zachmann Informatik - SS Dynamische Programmierung 8 Beispiel Rucksack = = 8 = Fazit: Keine gute Strategie ist es, das Objekt mit bestem Profit/ewicht als erstes zu wählen. Zachmann Informatik - SS Dynamische Programmierung

2 7/7/ Fractional Knapsack Problem: Dieb kann Teile der egenstände mitnehmen Lösungsalgo später (reedy-strategie) --Knapsack-Problem: Binäre Entscheidung zwischen und : jeder egenstand wird vollständig genommen oder gar nicht Formale Problemstellung: x i = / : egenstand i ist (nicht) im Rucksack. Zachmann Informatik - SS Dynamische Programmierung Rekursive Lösung Betrachte den ersten egenstand i=; zwei Möglichkeiten:. Der egenstand wird in Rucksack gepackt (x =); Rest-Problem:. Der egenstand wird nicht in Rucksack gepackt (x =); Rest-Problem: Berechne beide Fälle, wähle den besseren. Zachmann Informatik - SS Dynamische Programmierung

3 7/7/ Knotenbeschriftung: vorhandene Kapazität Wert c Objekt c c - w v c c - w v c - w v c - w - w v + v c c - w v c - w v c - w - w v + v. Zachmann Informatik - SS Dynamische Programmierung Sei V(i,k) der maximal mögliche Wert für die egenstände i, i+,, n bei gegebener max. Kapazität k V(i,k) kann dann für i n geschrieben werden als. Zachmann Informatik - SS Dynamische Programmierung

4 7/7/ Algorithmus, basierend auf diesen Fällen, hat Laufzeit von O( n ) Ist ineffizient, denn V(i,k) wird für die gleichen i und k mehrmals berechnet Beispiel: n = 5, c =, w = (,,, 5, ), v = (,, 5,, ) V(,) V(,) V(,8) V(,) V(,8) V(,8) V(,) gleiches Unterproblem. Zachmann Informatik - SS Dynamische Programmierung Lösung mittels Dynamischer Programmierung Ineffizienz kann vermieden werden, indem alle V(i,k), einmal berechnet, in einer Tabelle gespeichert werden Die Tabelle wird in der Reihenfolge i = n, n-,,, für k c gefüllt k j- j j+ c V(n, k) v n v n v n j ist das erste k mit w n k. Zachmann Informatik - SS Dynamische Programmierung 5

5 7/7/ Beispiel n = 5, c =, w = (,,, 5, ), v = (, (,, 5,, ) i k Zachmann Informatik - SS Dynamische Programmierung n = 5, c =, w = (,,, 5, ), v = (,, 5,, ) x = [,,,,] oder x = [,,,,] i k Zachmann Informatik - SS Dynamische Programmierung 7 5

6 7/7/ Bemerkungen Aufwand: O(n c), c = Kapazität des Rucksacks Achtung: dieser Algorithmus klappt nur, wenn c und die w i Integers sind! Falls c oder die w i keine Integers sind, dann ist das Problem "NPvollständig", und es gibt (wahrscheinlich) keinen polynomiellen Algorithmus. Zachmann Informatik - SS Dynamische Programmierung 8 Längste gemeinsame Teilfolge Seien X = (x,, x m ) und Y = (y,, y n ) zwei Folgen, wobei x i, y i A für ein endliches Alphabet A, dann heißt Y Teilfolge von X, wenn es aufsteigend sortierte Indizes i,, i n gibt, mit x ij = y j für j =,, n Beispiel: Y = BA ist Teilfolge von X = ABAAB, wähle (i, i, i, i ) = (,,5,7) Sind X, Y, Z Folgen über A, so heißt Z gemeinsame Teilfolge von X und Y, wenn Z Teilfolge sowohl von X als auch Y ist Beispiel: Z = BA ist gemeinsame Teilfolge von X = ABAAB und Y = BAABB. Zachmann Informatik - SS Dynamische Programmierung

7 7/7/ Z heißt längste gemeinsame Teilfolge von X und Y, wenn Z gemeinsame Teilfolge von X und Y ist und es keine andere gemeinsame Teilfolge von X und Y gibt, die größere Länge als Z besitzt Beispiel: Z = BA ist nicht längste gemeinsame Teilfolge von X =ABAAB und Y = BAABB, denn BAA ist eine längere gemeinsame Teilfolge von X und Y Beim Problem Längste-emeinsame-Teilfolge (longest-commonsubsequence problem, LSP) sind als Eingabe zwei Folgen X = (x,, x m ) und Y = (y,, y n ) gegeben, gesucht ist eine längste gemeinsame Teilfolge X und Y Anwendung: "Distanz" zwischen Strings messen z.b.: DNA-Analyse, "ungefährer" String-Vergleich. Zachmann Informatik - SS Dynamische Programmierung 5 Naïver Algorithmus Für jede mögliche Unterfolge von X: prüfe ob es eine Unterfolge von Y ist Laufzeit: Θ(n m ) Es gibt m mögliche Unterfolgen von X zu überprüfen Für jede Unterfolge wird Zeit Θ(n) benötigt, um Y zu überprüfen: - "scanne" Y, "verbrauche" jeweils den nächsten Buchstaben von X, falls er passt - X ist Unterfolge von Y, wenn am Ende von Y kein Zeichen von X mehr übrig ist. Zachmann Informatik - SS Dynamische Programmierung 5 7

8 7/7/ Struktur des LSP Definition: sei X = (x,, x m ) eine beliebige Folge, für i =,,, m ist der i-te Präfix von X definiert als X i = (x,, x i ). Der i-te Präfix von X besteht also aus den ersten i Symbolen von X, der -te Präfix ist die leere Folge. Satz: seien X = (x,, x m ) und Y = (y,, y n ) beliebige Folgen und sei Z = (z,, z k ) eine längste gemeinsame Teilfolge von X und Y, dann gilt:. ist x m = y n, dann ist z k = x m = y n und Z k- ist eine längste gemeinsame Teilfolge von X m- und Y n-. ist x m y n und z k x m, dann ist Z eine längste gemeinsame Teilfolge von X m- und Y. ist x m y n und z k y n, dann ist Z eine längste gemeinsame Teilfolge von X und Y n-. Zachmann Informatik - SS Dynamische Programmierung 5 Beweis Fall (x m = y n ): Jede gemeinsame Teilfolge Z', die nicht mit z ' l = x m = y n endet, kann verlängert werden, indem x m = y n angefügt wird die LS Z muß mit x m = y n enden Z k- ist längste gemeinsame Teilfolge von X m- und Y n-, denn es gibt keine längere gemeinsame Teilfolge von X m- und Y n-, oder Z wäre keine längste gemeinsame Teilfolge Fall (x m y n und z k x m ): Da Z nicht mit x m endet Z ist gemeinsame Teilfolge von X m- und Y und daher keine längere gemeinsame Teilfolge von X m- und Y, oder Z wäre keine längste gemeinsame Teilfolge. Zachmann Informatik - SS Dynamische Programmierung 5 8

9 7/7/ Rekursion für Länge von LS Lemma: Sei c[i,j] die Länge einer längsten gemeinsamen Teilfolge des i-ten Präfix X i von X und des j-ten Präfix Y j von Y, dann gilt Beobachtung: rekursive Berechnung der c[m,n] würde immer wieder zur Berechnung derselben Werte führen berechnen daher die Werte c[i,j] iterativ "von unten nach oben", z.b. zeilenweise b[i,j] speichert Informationen zur späteren Konstruktion einer längsten gemeinsamen Teilfolge. Zachmann Informatik - SS Dynamische Programmierung 5 Beispiel c[springtime, printing] c[springtim, printing] c[springtime, printin] c[springti, printing] c[springtim, printin] c[springtim, printin] c[springtime, printi] c[springt, printing] c[springti, printin] c[springtim, printi] c[springtime, print]. Zachmann Informatik - SS Dynamische Programmierung 55

10 7/7/ Berechnung der Werte c[i,j] def lcs_length( x,y ): for i in range(, len(x) ): c[i,] = for j in range(, len(y) ): c[,y] = for i in range(, len(x) ): for j in range(, len(y) ): if x[i] = y[j]: c[i,j] = c[i-,j-]+ b[i,j] = NW else: if c[i-,j] >= c[i,j-]: c[i,j] = c[i-,j] b[i,j] = N else: c[i,j] = c[i,j-] b[i,j] = W return b,c. Zachmann Informatik - SS Dynamische Programmierung 5 Beispieltabellen c[i,j] und b[i,j] j 5 i y j B D A B A x i A B B 5 D A 7 B b c. Zachmann Informatik - SS Dynamische Programmierung 57

11 7/7/ Laufzeiten Lemma: der Algorithmus lcs_length hat die Laufzeit O(nm), wenn die Folgen X, Y die Längen n und m haben.. Zachmann Informatik - SS Dynamische Programmierung 58 Verwandte Probleme Es gibt viele Probleme, die sehr ähnlich zum LSP sind Editier-Distanz (anderes Maß für den Abstand/Distanz er Strings): egeben Strings A, B Aufgabe: welches ist die minimale Folge von elementaren Editieroperationen, um A in B zu überführen? Zugelassene Operationen: Zeichen löschen, einfügen, ersetzen Approximative Stringsuche: egeben Text T und String S Finde dasjenige Teilstück T[i:j], das am ähnlichsten zu S ist (von allen anderen Teilstücken T[i':j']) Anwendungen: DNA-Sequence-Alignment, u.a.. Zachmann Informatik - SS Dynamische Programmierung

12 7/7/ Memoisierung (Top-down-Ansatz) "Memo" = edächtnis Üblicherweise ist Formulierung der optimalen Lösung rekursiv, aber Algorithmus geht bottom-up vor Memoization [sic] = Technik in der dynamischen Programmierung, falls Bottom-up-Ansatz nicht klar Notizblock-Methode zur Beschleunigung einer rekursiven Problemlösung: Algo bleibt rekursiv Ein Teilproblem wird nur beim ersten Auftreten gelöst Die Lösung wird in einer Tabelle gespeichert und bei jedem späteren Auftreten desselben Teilproblems (d.h., rekursiver Aufruf mit denselben Parametern) wird die Lösung (ohne erneute Rechnung!) in der Tabelle nachgesehen. Zachmann Informatik - SS Dynamische Programmierung Beispiel: MMP mittels Memoisierung def mcm_mem_rek( p,i,j ): if i = j: return if m[i,j] < : # check first, return m[i,j] # if already computed for k in range( i,j ): q = p[i-]*p[k]*p[j] + mcm_rek(p,i,k) + \ mcm_rek(p,k+,j) if q < m[i,j]: m[i,j] = q return m[i,j] def mcm_mem( p ): for i in range(, len(p)+ ): for j in range(, len(p)+ ): m = # z.b. 787 return mcm_mem_rek( p,,len(p)- ). Zachmann Informatik - SS Dynamische Programmierung

13 7/7/ Aufwand Behauptung: Zur Berechnung aller Einträge m[i,j] mit Hilfe von mcm_mem_rek genügen insgesamt O(n ) Schritte Beweis: O(n ) Einträge jedes Element m[i,j] wird einmal eingetragen jeder Eintrag m[i,j] wird zur Berechnung von weniger als n weiteren Einträgen m[i',j'] herangezogen, wobei i = i' j < j' oder i > i' j= j' Bemerkungen zum MMP Es gibt einen Algorithmus mit linearer Laufzeit O(n), der eine Klammerung mit Multiplikationsaufwand.55. M opt findet Es gibt einen Algorithmus mit Laufzeit O(n log n), der eine optimale Klammerung findet j n i n. Zachmann Informatik - SS Dynamische Programmierung Zusammenfassung Dynamische Programmierung = Algorithmenentwurfstechnik, die oft bei Optimierungsproblemen angewandt wird Man muß eine Menge von Entscheidungen treffen, die Bedingungen unterliegen, um eine optimale (min/max) Lösung zu erlangen Es kann verschiedenen Lösungswege geben Allgemein einsetzbar bei rekursiven Verfahren, wenn Teillösungen (von Unterproblemen) mehrfach benötigt werden Lösungsansatz: Tabellieren von Teilergebnissen Vorteil: Laufzeitverbesserungen, oft polynomiell statt exponentiell. Zachmann Informatik - SS Dynamische Programmierung

14 7/7/ Zwei verschiedene Ansätze Bottom-up + kontrollierte effiziente Tabellenverwaltung, spart Zeit + spezielle optimierte Berechnungsreihenfolge, spart Platz - weitgehende Umcodierung des Originalprogramms erforderlich - möglicherweise Berechnung nicht benötigter Werte Top-down (Memoisierung, Notizblockmethode) + Originalprogramm wird nur gering oder nicht verändert + nur tatsächlich benötigte Werte werden berechnet - eventuell unnötige rekursive Aufrufe - Tabellengröße oft nicht optimal. Zachmann Informatik - SS Dynamische Programmierung 5