Approximationsalgorithmen: Klassiker I. Kombinatorische Optimierung Absolute Gütegarantie Graph-Coloring Clique Relative Gütegarantie Scheduling

Transkript

1 Approximationsalgorithmen: Klassiker I Kombinatorische Optimierung Absolute Gütegarantie Graph-Coloring Clique Relative Gütegarantie Scheduling VO Approximationsalgorithmen WiSe 2011/12 Markus Chimani FSU Jena

2 Kombinatorische Optimierung 2 Kombinatorisches Optimierungsproblem Gegeben: Grundmenge M, Kostenfunktion c: M R Gesucht: Teilmenge L M mit minimalem/maximalem i L c(i) die eine Eigenschaft E erfüllt. Darstellung der Eigenschaft E Potenzmenge P=2 M ={N N M} Gültige (feasible) Teilmengen F P Dann: L F Also gesucht (bei Minimierung): L = argmin L' F { c(l') }

3 Kombinatorische Optimierung 3 Noch allgemeiner: Kombinatorisches Optimierungsproblem mögliche Instanzen J endliche Menge der zulässige Lösungen L(J) für Instanz J J Kostenfunktion c : L(J) R Gesucht (bei Minimierung): Lösungswert Opt(J) = min L' L(J) { c(l') } Lösung L = argmin L' L(J) { c(l') } Technische Annahmen (im Folgenden immer!) Alle Zahlen (in Eingabe&Lösung) sind ganzzahlig bzw. rational (=Brüche) Opt(J) ist polynomiell beschränkt in der größten in J vorkommenden Zahl

4 NP-vollständige Komb.Opt. 4 Formal: Komplexitätsklassen P und NP sind für auf Entscheidungsprobleme definiert. Lässt sich einfach auf Optimierungsprobleme erweitern: Minimierungsproblem <J> Entscheidungsproblem <J,K> Finde Lösung L L(J) mit kleinsten Existiert eine Lösung L L(J) mit Zielfunktionswert c(l) c(l) K? Kann man MP lösen Lösung beantwortet alle entsprechenden EPs Kann man EP lösen Finde Lösung zu MP mit binärer Suche über die möglichen Zielfunktionswerte Wir können auch bei kombinatorischen Optimierung von P /NP sprechen

5 Absolute Gütegarantie 5 Approximationsalgorithmus A Liefert in polynomieller Zeit eine zulässige Lösung für eine beliebige Instanz J eines NP-vollständigen kombinatorischen Optimierungsproblems. Der Lösungswert A(J) erfüllt eine bestimmte Gütegarantie. Gütegarantie? Die beste vorstellbare ist Absolute Gütegarantie k (k > 0) Opt(J) A(J) k für alle Probleminstanzen J

6 Graphfärbung 6 Gegeben: Graph G=(V,E) Knotenfärbung ф: V {1,2,,C} mit ф(v) ф(w) (v,w) E Gesucht: Finde kleinstes C. Minimales C = (G) = Chromatische Zahl von G Kantenfärbung ф : E {1,2,,C } mit ф(e) ф(f) e,f E incident Gesucht: Finde kleinstes C. Minimales C = (G) = Chromatischer Index von G

7 Knotenfärbung, planare Graphen 7 Bipartiter Graph G = (V,E) Die Knoten können in zwei Partitionen V 1, V 2 zerlegt werden,sodass keine Kante zwei Knoten aus V 1 bzw. zwei Knoten aus V 2 verbindet. Beobachtung: Bipartit = mit zwei Farben knoten-färbbar V 1 V 2 Planarer Graph G G kann in der Ebene ohne Kantenkreuzungen gezeichnet werden. Theorem: Es ist NP-vollständig festzustellen, ob sich ein planarer Graph mit 3 Farben knoten-färben lässt.

8 Knotenfärbung, planare Graphen 8 Beobachtung: Bipartit = mit zwei Farben knoten-färbbar Theorem: Es ist NP-vollständig festzustellen, ob sich ein planarer Graph mit 3 Farben knoten-färben lässt. 5-Farben Theorem Jeder planare Graph lässt sich (relativ einfach) mit maximal 5 Farben knoten-färben. (4-Farben Theorem: tatsächlich reichen sogar immer 4 Farben) Approximationsalgorithmus 1. Teste of Graph bipartit wenn ja, 2 Farben >> Übung 2. Sonst: berechne 5-Färbung (wir wissen: mindestens 3 Farben notwendig) Absolute Gütegarantie 2: maximal 2 Farben zu viel benutzt

9 Kantenfärbung 9 Beobachtung Sei (G) der maximale Grad des Graphens. Wir benötigen mindestens (G) Farben zum kanten-färben. Satz von Vizing Jeder Graph kann mit maximal (G)+1 Farben gefärbt werden. >> Übung Dennoch: Theorem Es ist NP-vollständig festzustellen, ob sich ein Graph mit (G) Farben kantenfärben lässt. Approximationsalgorithmus Färbe den Graph gemäß Vizing mit (G)+1 Farben Absolute Gütegarantie 1: maximal 1 Farbe zu viel benutzt

10 Absolute Gütegarantie 10 In vielen (nicht allen!) bekannten Fällen funktionieren Algorithmen mit absoluter Gütegarantie auf Basis von: Man kann den Bereich des optimalen Lösungswertes sehr gut und (fast) instanzunabhängig einschränken. Algorithmus berechnet eine triviale Lösung am pessimistischen Rand dieses Bereiches. Nur für sehr wenige Probleme sind absolute Gütegarantien überhaupt möglich! Wie zeigt man, dass eine absolute Gütegarantie nicht möglich ist? Notwendige Grundannahme: P NP (sonst ist ja optimale Lösung (Garantie 0) in poly-zeit möglich)

11 Rucksackproblem (NP-vollständig) 11 Gegeben Gegenstände (items) I={1,2,,n}, jeweils mit Gewicht w i und Profit p i (1 i n) Rucksackgröße B Gesucht Teilmenge I der Gegenstände mit w(i ):= i I w i B, sodass p(i ):= i I p i maximiert wird. (w i,p i ) L 1 L 2 L 3 (3,6) (5,7) (6,9) (2,1) B=10 (10,14) gültig (9,15) optimal (11,17) ungültig

12 Absolute Gütegarantie: Rucksack 12 Theorem: Falls P NP : Es existiert kein Approximationsalgorithmus mit absoluter Gütegarantie für das Rucksackproblem. Beweis durch Skalierung: Annahme: Algorithmus A & natürliche Zahl k sodass A absolute Gütegarantie k hat. Betrachte beliebige Instanz J=<n,w,p> Erstelle daraus eine neue Instanz J =<n,w,p > mit p i = (k+1) p i (d.h. Instanz ist ident, Profite aber um (k+1) skaliert) jede gültige Lösung für J ist gültig für J und umgekehrt. Für gleiche Lösungsmenge: Zielfunktion in J ist genau (k+1)-mal größer als in J. Löse J mit A: L = Lösung des Algorithmus, p(l) Wert dieser Lösung in J Opt(J ) A(J ) k (Gütegarantie von A) (k+1) Opt(J) (k+1) p(l) k Opt(J) p(l) k/(k+1) = 0 (da Zielfunktion ganzzahlig!) Wir würden J also in polynomieller Zeit optimal lösen! Widerspruch

13 Skalierung 13 Beobachtung Absolute Gütegarantie war nicht möglich, weil die Zielfunktion eine (lineare) Funktion von Zahlen in der Eingabe war. Diese Zahlen kann man einfach um einen Faktor skalieren, wodurch der Zielfunkswert (und damit die Abweichung vom Optimum) auch skaliert wird. Frage Kann man nur in solchen Fällen absolute Gütegarantien ausschliessen? Nein! Skalierungstrick funktioniert auch sonst (oft)!

14 Clique (NP-vollständig) 14 Gegeben: Graph G=(V,E), Gesucht: Finde größte Clique C (=vollständiger Teilgraph) in G. Theorem Falls P NP : Es existiert kein Approximationsalgorithmus mit absoluter Gütegarantie für das Clique-Problem.

15 Clique keine absolute Gütegarantie 15 Beweis G m := m Kopien von G + verbinde alle Knotenpaare die nicht in der selben Kopie sind Claim: Opt(G) = s Opt(G m ) = m s >> Übung G G G Gegeben Graph G. Annahme A hat absolute Gütegarantie k. Berechne A(G k+1 ). Opt(G k+1 ) A(G k+1 ) k (k+1) Opt(G) A(G k+1 ) k Wenn man eine Clique der Größe s in G m findet, so kann man daraus einfach eine Clique C der Größe s /m in G extrahieren. Opt(G) C k / (k+1) < 1 Opt(G) und C ganzzahlig C ist optimal Widerspruch zu NP-vollständig

16 Relative Gütegarantie 16 Absolute Gütegarantien sind für fast alle halbwegs interessanten Probleme unmöglich Was für eine Gütegarantie dann? Relative Gütegarantie ( -Approximation) Minimierung: A(J) Opt(J) für alle Probleminstanzen J ( >1) Relative Abweichung : (A(J) Opt(J)) / Opt(J) A(J) (1 + ) Opt(J) Maximierung: A(J) Opt(J) für alle Probleminstanzen J (0< <1) Relative Abweichung : (Opt(J) A(J)) / Opt(J) A(J) (1 ) Opt(J)

17 (Multiprocessor) Scheduling 17 Gegeben n Jobs (J ={1,2,,n})mit Laufzeiten p i (1 i n) m identische Maschinen (CPUs) (m>1) Gesucht Aufteilung der Jobs auf die Maschinen sodass möglichst früh alle Jobs erledigt sind. Formaler: Partition der Jobs J in m Teilmengen J 1,J 2, J m ( U 1 i m J m = J ) sodass max 1 i m { j Ji p j } minimiert wird CPU CPU CPU max 4 5 Theorem Multiprocessor Scheduling ist sogar schon für m=2 NP-vollständig.

18 List-Scheduling 18 List-Scheduling Algorithmus Einfacher Greedy Algorithmus Ordne Jobs nacheinander den Maschinen zu. Wähle immer die Maschine die derzeit am frühesten fertig wird CPU CPU CPU Anmerkung Problemstellung ist Offline Dieser Algorithmus funktioniert aber auch Online, d.h. wenn die Jobs erst während dem Algorithmus bekannt werden (also kein voriges Sortieren der Jobs o.ä.) Untersuchungen zu Unterschied Off-/Online: Competitiveness.

19 List-Scheduling Gütegarantie (1) 19 Theorem List-Scheduling hat eine scharfe relative Gütegarantie von 2 1/m. Beweis Gütegarantie Sei M i die Maschine mit längster Laufzeit A(J), und j der letzte Job auf M i. Sei P die Summe aller Laufzeiten. Da j auf M i geschedult wurde galt damals (und damit auch am Ende des Algorithmus): Jede Maschine hat eine Beladung von mindestens A(J) p j. P m ( A(J) p j ) + p j (1) Es gilt auch: Opt(J) P/m (2) Opt(J) p j (3) Opt(J) ( A(J) p j ) + p j /m Setze (1) in (2) ein Opt(J) A(J) (1 1/m) p j Opt(J) A(J) (1 1/m) Opt(J) Vereinfachung Setze (3) ein (2 1/m) Opt(J) A(J) A(J) / Opt(J) (2 1/m)

20 List-Scheduling Gütegarantie (2) 20 Theorem List-Scheduling hat eine scharfe relative Gütegarantie von 2 1/m. Beweis Schärfe Gütegarantie ist scharf genau dann wenn: Es gibt entweder eine Instanz J bei der A(J) die Gütegarantie mit Gleichheit erfüllt, oder eine Folge von Instanzen J 1,J 2, sodass der Grenzwert lim i A(J i ) die Gütegarantie mit Gleichheit erfüllt. Hier genügt ein Beweis durch Beispiel! Instanz J : m(m-1) kleine Jobs mit Laufzeit 1, dann ein grosser mit Laufzeit m. Optimale Lösung: Erste Maschine bearbeitet nur den grossen Job, die anderen Maschinen jeweils m kleine. Opt(J ) = m List-Scheduling: Alle Maschinen m-1 kleine Jobs, einer zusätzlich den grossen. A(J ) = m-1+m = 2m 1 A(J )/Opt(J ) = (2m 1)/m = 2 1/m

21 Verbesserung 21 Verbesserung von List-Scheduling: Longest Processing-Time List-Scheduling (LPT) Beobachtung beim Schärfebeweis: Worst-Case trat auf, weil ein langer Job erst sehr spät geschedult wurde. LPT Algorithmus: Sortiere die Jobs zunächst absteigend nach p i, und schedule Jobs in dieser Reihenfolge mit List-Scheduling (also größten Job zuerst). Theorem (ohne Beweis) LPT hat eine relative Gütegarantie von 4 / 3 1 / 3m. >> Übung