Das Rucksackproblem: schwache NP-Härte und Approximation

Transkript

1 Das Rucksackproblem: schwache NP-Härte und Approximation Prof. Dr. Berthold Vöcking Lehrstuhl Informatik 1 Algorithmen und Komplexität RWTH Aachen 1. Februar 2010 Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

2 Der Stoff dieser Folien ist nicht relevant für die Übungsklausur am Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

3 Wiederholung Problem (SUBSET-SUM) Eingabe: a 1,...,a N N, b N Frage: Gibt es K {1,...,N} mit i K a i = b? Satz SUBSET-SUM ist NP-vollständig. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

4 Wiederholung Problem (PARTITION) Eingabe: a 1,...,a N N Frage: Gibt es K {1,...,N} mit i K a i = i {1,...,N}\K a i? Satz Partition ist NP-vollständig. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

5 Härte des Bin Packing Problems Problem (Bin Packing Problem BPP) Eingabe: b N, w 1,...,w N {1,...,b} zulässige Lösungen: k N und Fkt f : {1,...,N} {1,...,k}, so dass i {1,...,k} : w j b j f 1 (i) Zielfunktion: Minimiere k (= Anzahl Behälter) Entscheidungsvariante (BPP-E): k N ist gegeben. Passen die Objekte in k Behälter? Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

6 Härte des Bin Packing Problems Satz BPP-E ist NP-vollständig. Beweis: BPP-E NP haben wir bereits gezeigt. Die NP-Härte ergibt sich durch eine triviale Reduktion von PARTITION: Setze k = 2, w i = a i für 1 i N und b = 1 2 N i=1 w i. PARTITION ist also nur ein Spezialfall von BPP-E. Somit ist BPP-E NP-hart. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

7 Härte des Bin Packing Problems Wir sagen ein Optimierungsproblem Π ist NP-hart, wenn ein effizienter Algorithmus für Π einen effizienten Algorithmus für ein NP-hartes Entscheidungsproblem liefert. Aus einem effizienten Algorithmus für BPP ergibt sich ein effizienter Algorithmus für BPP-E. Wir haben gezeigt, dass BPP-E NP-hart ist. Es folgt Korollar BPP ist NP-hart. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

8 Härte des Rucksackproblems Problem (Rucksackproblem, Knapsack Problem KP) Eingabe: B N, w 1,...,w N {1,...,b}, p 1,...,p N N zulässige Lösungen: K {1,...,N}, so dass i K w i b Zielfunktion: Maximiere den Nutzen i K p i Entscheidungsvariante (KP-E): T N sei gegeben. Gibt es eine zulässige Lösung mit Nutzen mindestens T? Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

9 Härte des Rucksackproblems Satz KP-E ist NP-vollständig (und somit ist KP NP-hart). Beweis: KP-E NP haben wir bereits gezeigt. Die NP-Härte ergibt sich durch eine triviale Reduktion von SUBSET SUM: Setze p i = w i = a i für 1 i N und B = T = b. SUBSET SUM ist also nur ein Spezialfall von KP-E. Somit ist KP-E NP-hart. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

10 Pseudopolynomieller Algorithmus Satz Für das Rucksackproblem gibt es einen Algorithmus, der eine optimale Lösung in O(N 2 P) uniformen Rechenschritten berechnet, wobei P = max 1 i N p i. Zur Analyse des Algorithmus verwenden wir der Einfachheit halber das uniforme Kostenmaß der RAM. Im logarithmischen Kostenmaß ist die Laufzeit O(N 2 P (log P + log N)), denn in jedem uniforme Rechenschritt spricht der Algorithmus höchstens O(log P + log N) viele Bits an. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

11 Pseudopolynomieller Algorithmus Beweis: Der optimale Nutzen liegt zwischen 0 und N P. Für i {1,...,N} und p {1,...,N P}, definiere A i,p := kleinstmögliches Gewicht, mit dem man den Nutzen p exakt erreichen kann, wenn man nur Objekte aus der Menge {1,...,i} verwendet Falls der Nutzen p nicht durch eine Teilmenge von {1,...,i} erreicht werden kann, so setzen wir A i,p :=. Die Kostenwerte A i,p berechnen wir in einer Tabelle mit N Zeilen und N P Spalten. In Zeile i und Spalte p steht der Wert A i,p. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

12 Pseudopolynomieller Algorithmus Die Tabelle A i,p berechnen wir mittels dynamischer Programmierung. Dynamisches Programm Die erste Zeile füllen wir wie folgt A 1,p = { wi falls p = p i sonst Für i = 2... N füllen wir nun Zeile i durch Anwendung der folgenden Rekursionsgleichung: A i,p = { min{ai 1,p, A i 1,p pi + w i } falls p p i > 0 A i 1,p sonst. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

13 Pseudopolynomieller Algorithmus Aus der Tabelle können wir den optimalen Nutzen entnehmen. Der optimale Nutzen ist max{p A N,p b}. Die optimale Rucksackbepackung lässt sich ausgehend von diesem Eintrag aus der Tabelle rekonstruieren. Laufzeitanalyse im uniformen Kostenmodell: Jeder Eintrag der Tabelle kann in Zeit O(1) berechnet werden. Die Laufzeit entspricht deshalb der Größe der Tabelle und ist somit O(N 2 P). Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

14 Diskussion Die Laufzeit des Algorithmus ist polynomiell in den Parametern N und P beschränkt. Dies ist keine polynomielle Laufzeitschranke im Sinne der Komplexitätstheorie, denn P ist möglicherweise exponentiell in der Eingabelänge, weil Zahlen binär kodiert werden. Die Laufzeitschranke O(N 2 P) ist somit nicht polynomiell in der Eingabelänge beschränkt. Eine derartige Laufzeitschranke, die polynomiell in der Größe der Eingabezahlen (statt in der binären Kodierungslänge dieser Zahlen ist) heißt pseudopolynomiell. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

15 Binäre versus unäre Kodierung der Eingabe Bisher sind wir durchgängig davon ausgegangen, dass Zahlen in der Eingabe eines Problems binär kodiert werden. Wenn wir das Eingabeformat ändern, so erhalten wir ein neues Problem. Das Rucksackproblem mit binärer Kodierung haben wir mit KP bezeichnet. Sei u-kp die Variante des Rucksackproblems, bei der wir annehmen, dass die Eingabezahlen unär kodiert vorliegen. Aus unseren Analysen folgt: KP ist NP-hart. Aber u-kp P. (Warum?) Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

16 Starke und schwache NP-Härte Definition Ein NP-hartes Problem, das bei unärer Kodierung der Eingabezahlen einen polynomiellen Algorithmus hat, wird als schwach NP-hart bezeichnet. Ein Problem, das selbst bei unärer Kodierung der Eingabezahlen NP-hart bleibt, wird als stark NP-hart bezeichnet. schwach NP-hart sind z.b. KP, SUBSET-SUM, PARTITION stark NP-hart ist z.b. CLIQUE (Warum?) Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

17 Def: Approximationsalgorithmus Sei Π ein Optimierungsproblem. Für eine Instanz I von Π bezeichnen wir den optimalen Zielfunktionswert mit opt(i). Ein α-approximationsalgorithmus, α > 1, für ein Minimierungsproblem Π berechnet für jede Instanz I von Π eine zulässige Lösung mit Zielfunktionswert höchstens α opt(i). Ein α-approximationsalgorithmus, α < 1, für ein Maximierungsproblem Π berechnet für jede Instanz I von Π eine zulässige Lösung mit Zielfunktionswert mindestens α opt(i). α wird auch als Approximationsfaktor oder Approximationsgüte bezeichnet. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

18 Def: Approximationsschema Ein Approximationsschema A für ein Optimierungsproblem ist ein Algorithmus, der es ermöglicht, für jedes vorgegebene ɛ > 0 eine zulässige Lösung mit Approximationsgüte 1 + ɛ bzw. 1 ɛ zu berechnen. FPTAS (fully polynomial time approximation scheme) A wird als FPTAS bezeichnet, falls die Laufzeit polynomiell sowohl in der Eingabelänge n als auch in 1 ɛ beschränkt ist. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

19 Ein Approximationsschema für das Rucksackproblem FPTAS für das Rucksackproblem 1 Skaliere die Nutzenwerte mit dem Faktor α = N ɛp und runde ab, d.h. für i {1,...,N} setze p i = αp i. 2 Berechne eine optimale Rucksackbepackung K {1,..., N} für die Nutzenwerte p 1,...,p N mit dem pseudopolynomiellen Algorithmus. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

20 Laufzeitanalyse Durch die Skalierung sind die Nutzenwerte nach oben beschränkt durch P = αp = N ɛ. Aus der Laufzeit des pseudopolynomiellen Algorithmus ergibt sich somit unmittelbar eine Laufzeitschranke von O(N 2 P ) = O(N 3 /ɛ) uniformen Rechenschritten. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

21 Analyse des Approximationsfaktors Sei K {1,...,N} eine optimale Rucksackbepackung. Die durch den Algorithmus berechnete Rucksackbepackung bezeichnen wir mit K. Es gilt zu zeigen p(k) (1 ɛ)p(k ). Dazu skalieren wir die gerundeten Nutzenwerte virtuell wieder herauf, allerdings ohne dabei den Rundungsfehler rückgängig zu machen, d.h. wir setzen p i = p i /α. Die Rucksackbepackung K ist optimal für die Nutzenwerte p i und somit auch optimal für die Nutzenwerte p i. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

22 Analyse des Approximationsfaktors Bezogen auf die ursprünglichen Nutzenwerte p i macht der Algorithmus allerdings möglicherweise für jedes Objekt einen Rundungsfehler: Objekte sehen weniger profitabel aus als sie eigentlich sind. Der Rundungsfehler für Objekt i lässt sich abschätzen durch p i p i = p i αp i α p i αp i 1 α = 1 α. Für eine Teilmenge S {1,...,N} sei p(s) = i S p i und p (S) = i S p i. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

23 Analyse des Approximationsfaktors Der Rundungsfehler für eine optimale Lösung K lässt sich entsprechend abschätzen durch p(k ) p (K ) i K 1 α N α = ɛp ɛp(k ), wobei die Ungleichung p(k ) P daraus folgt, dass der optimale Nutzen p(k ) mindestens so groß ist wie der Nutzen des Objektes mit dem maximalen Nutzenwert P. Aus der obigen Ungleichung folgt p (K ) (1 ɛ)p(k ). Nun ergibt sich p(k) p (K) p (K ) (1 ɛ)p(k ). Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24

24 Zusammenfassung und Diskussion Das Rucksackproblem ist schwach NP-hart, d.h. es ist NP-hart, hat aber einen pseudopolynomiellen Algorithmus. Aus diesem pseudopolynomiellen Algorithmus lässt sich ein FPTAS ableiten, d.h. für jedes vorgegebene ɛ > 0 kann in Zeit poly(n, 1 ɛ ) eine Lösung berechnet werden, die den optimalen Nutzenwert bis auf den Faktor 1 ɛ erreicht. Dieser Ansatz funktioniert nicht nur für das Rucksackproblem: Viele, aber nicht alle schwach NP-harten Optimierungsprobleme haben ein FPTAS. Stark NP-harte Optimierungsprobleme haben jedoch kein FPTAS, es sein denn P = NP. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 1. Februar / 24