Dualität. Lemma E.9 (Farkas-Lemma) Primales Problem. max c T x Ax b (P) äquivalent: (z ) max z z c T x 0 Ax b. P z := x n c T z b

Transkript

1 rundlagen der Optimierung Dualitt Primales Problem quivalent (z ) max c T x max z z c T x (P) { ( ) ( )} P z = x n c T z x b 4 rundlagen der Optimierung Lemma 9 (arkaslemma) Sei mn b m Dann gilt entweder x n oder u m u u T = u T b < 46 rundlagen der Optimierung max{c T x } = max{z z c T x } = max{z P z {}} min{z P z = {}} = min{z u λ λc T u T = λz u T b < } Wenn Lsung mit λ = existiert ist P z = {} z Wenn Lsung mit λ existiert = min{z u u T = c T u T b < z} = min{u T b u T = c T u } 47 rundlagen der Optimierung Resultat das Maximum von Problem (P) ist kleinergleich als das Minimum von Problem min u T b u T = c T u (D) (u m ) (D) heit das zu (P) gehrende duale Problem 48

2 rundlagen der Optimierung olgerung (P) ist unbeschrnkt = (D) ist unzulssig (D) ist unbeschrnkt = (P) ist unzulssig Schwache Dualitt x zulssig fr (P) u zulssig fr (D) Dann gilt c T x = u T x u T b 49 rundlagen der Optimierung Satz (Dualittssatz) Die beiden linearen Programme (P) und (D) haben optimale Lsungen mit dem gleichen Zielfunktionswert genau dann wenn beide zulssige Lsungen haben (eweis mit arkaslemma) olgerungen (P) hat endliches Optimum (D) hat endliches Optimum beide haben den gleichen Zielfunktionswert (P) ist unbeschrnkt = (D) ist unzulssig (D) ist unbeschrnkt = (P) ist unzulssig 4 (P) ist unzulssig = (D) ist unzulssig oder unbeschrnkt (D) ist unzulssig = (P) ist unzulssig oder unbeschrnkt rundlagen der Optimierung Komplementaritt Im Optimum gilt Primale Zulssigkeit Duale Zulssigkeit u T = c T u ZWerte sind gleich c T x = u T b m = u T b c T x = u T b u T x = u T (b x) = u i (b x) i i= Wegen u i und (b x) i gilt also Wenn u i ist (b x) i = Wenn (b x) i ist u i = Dies bezeichnet man mit Komplementaritt rundlagen der Optimierung Im Simplexlgorithmus Schritt berechne Dualvariable Teste ob = duale Zulssigkeit primale Zulssigkeit = Optimalitt u T = c T u Wir sind also immer primal zulssig und im Lsungspunkt auch dual zulssig

3 rundlagen der Optimierung Variante Starte mit dualer Zulssigkeit iteriere bis auch primale Zulssigkeit erfllt ist Dualer Simplexlgorithmus nwendung ReOptimierung mit WarmStart Vermeidung erneuter Phase I d h nach erfolgter Optimierung modifiziere Problem optimiere erneut zustzliche Variablen setze zugehrige xwerte auf bleibt primal zulssig weiter mit primalem Simplex zustzliche Nebenbedingungen setze zugehrige uwerte auf bleibt dual zulssig weiter mit dualem Simplex (wichtig fr Schnittebenenverfahren) rundlagen der Optimierung SimplexSoftware Kommerziell PLX (ILO) Xpress (Dash) kademisch SoPlex (ZI erlin) lpsolve 4 rundlagen der Optimierung Lineare ganzzahlige Optimierung lle oder einige der Variablen mssen eine zustzliche anzzahligkeitsbedingung erfllen typischerweise x i { } oder x i oder Modellierung von nzahlen ntscheidungen usw Durch die anzzahligkeitsbedingung erhalten wir Kombinatorische Optimierungsprobleme rundlagen der Optimierung Traveling Salesman Problem (TSP) gegeben raph (V) mit cken V (Stdten) und Kanten V V (Straen) und Kantengewichten c e (Streckenlngen) gesucht die krzeste Rundreise d h die geschlossene Tour mit krzester Lnge durch alle Knoten ordne jeder Kante e eine Variable zu { Kante e gehrt zur Tour x e = sonst (x Inzidenzvektor) 6

4 K Æ ÉÌ Â Â Í Å Æ Å Æ Â Ì Å È Â Í Æ Å ÈÌÍ Æ ed qp q w g ÿ ÌÍ Ñ ÌÍ Ð ÌÍ Ó Õ Ù ÓÒ Ö Ô Ð Ò ÔÚ Ö Ú à Þ Þ á à ç çæ æ ó óò ò ú ú ú þ þ ÿÿ ú ÿ & & ± ( )( ) / / < =< = yw u q É Ñ i c ÿ W Q rundlagen der Optimierung Zielfunktion min c ex e e Nebenbedingungen zu jedem Knoten gehen zwei Kanten der Tour x e = v V e δ(v) mit δ(v) = {e v u e = uv e = vu} (Degree quation) auf geschlossenen Strecken (Kreisen) mit Lnge < V drfen nicht alle Kanten zur Tour gehren x e Kreise < V e (Subcircle limination onstraint) 7 rundlagen der Optimierung LP fr das TSP min c ex e e x e = v V e δ(v) x e Kreise < V e x e { } e 8 rundlagen der Optimierung llgemeines MixedIntegerLP (MILP) min c T x x j ganzzahlig j J { n} mit der zulssigen Menge S = {x Ô È ÈÉ D D D D Ð Ô ÐÑ ÔÕÚ Ù Ú à Þ àá þ & H H I IJ J LM H H I IJ JK TLMNO VW PQTU RS \ V ` W XYZ[ \] ^_ `a h ef bcd jk no hi jklm rs nop v v xyr stu } v vw x ˆ yz{ }~ ˆ ª «ª «µ ± µ ¹ Â Â Å Ì È ÌÍ ÈÉ Ð ÒÓ ÐÑ ÒÓ µ µ µ ¹ µ ¹ ª «ª «ª «± ± n x j ganzzahlig j J { n}} emerkung Wenn man einen Punkt x hat der (MILP) lst gibt es keine Kriterien mit denen man die Optimalitt leicht nachweisen knnte Schlimmstenfalls mu man alle zulssigen Punkte untersuchen xponentielle Laufzeit (MILP) ist ein N Pschweres Problem 9 rundlagen der Optimierung Lsungsstrategien Relaxierungen Vergrere die zulssige Menge z lasse die anzzahligkeitsbedingungen weg LP Teilprobleme Zerlege die zulssige Menge z links x i xi S rechts x i xi S Heuristiken inde schnell zulssige Punkte z Runden reedyheuristik Diese Strategien mssen an das konkrete Problem angepasst sein 6

5 ¹ ± ± / ) ˆ ˆ ~ ~ } } y «u k _ ] [ Y S Q K O I ª 9 / «rundlagen der Optimierung Relaxierungen liefern lokale untere Schranken S i S i = min c T x min c T x x Si x Si Lsungen von Teilproblemen liefern globale obere Schranken S = S S = min c T x min x Si x S ct x Zulssige Punkte liefern globale obere Schranken x S = c T x min x S ct x 6 rundlagen der Optimierung Das ranch&oundverfahren Initialisiere die Liste der aktiven Subprobleme mit dem gegebenen Problem (MILP) x = NULL Wenn die Liste leer ist Stop Problem (MILP) ist gelst Lsung x ntferne ein Subproblem (SU) aus der Liste und x i x i S arbeite es wie folgt ab 4 Lse die LPRelaxierung von (SU) (SU) ist unzulssig gehe zu () 6 Lsung x S ist schlechter als bisher gefundener bester Punkt x gehe zu () 7 x S ist zulssig fr (MILP) neuer bester Punkt x = x S gehe zu () PSfrag replacements 8 Wende Heuristik an um zulssigen Punkt x H zu finden Ist dieser besser als x Setze x = x H 9 Teile (SU) in zwei (oder mehr) neue Subprobleme auf schreibe diese in die Liste (SU) ist abgearbeitet gehe zu () unzulssig dominiert durch obere Schranke x i x i S ganzzahlige Lsung usw 6 rundlagen der Optimierung Konvexe Hlle Polyeder P = {x Ô n } (nnahme dim P = n) Zulssige Menge von (MILP) S = P Die konvexe Hlle von S ist die kleinste konvexe Menge die S enhlt { convs = x Ô n x = J q q λ ix i λ i = λ i i= i= } {x x q } ist eine beliebige endliche Menge von Punkten aus S 6 rundlagen der Optimierung Konvexe Hlle PSfrag replacements Satz ) 7 I ] e m o q y { P convs µ µ ¹ ª ª µ ««Â µ Â Â Â ª «Â ª «Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â Â convs ist ein Polyeder mit Punkten von S als cken Die komplette eschreibung von convs erfordert u U sehr viele ( exp n) Ungleichungen Deshalb arbeitet man besser mit Schnittebenen 64

6 Â Å Å É á ÿ ˆ ˆ Æ Æ ÿ ÿþ þ ú ú O ó óò ò Y o æ ç æ ç k & & g æ ç æ ç e ] [ á áà à Y Þ Þ Ú Ú Ù Ù Ù M Ö Ö Ö Õ ÕÔ Ô } É ÉÈ È Ð Ó ÓÒ Ò Ñ Ð Í ÍÌ Ì µ µ ¹ / rundlagen der Optimierung ltige Ungleichungen und acetten ltige Ungleichungen fr convs sind Ungleichungen fr die gilt α T x β x convs ine Seitenflche von convs der Dimension k wird beschrieben durch eine gltige Ungleichung fr convs PSfragdiereplacements von genau k affin unabhngigen Punkten aus convs mit leichheit erfllt wird x x x x k affin unabhngig x x x x x k x linear unabhngig x x x x Seitenflchen der Dimension heien cken Seitenflchen der Dimension heien Kanten Seitenflchen der Dimension n heien acetten 6 rundlagen der Optimierung Schnittebenen (eigentlich Schnitthyperebenen) PSfrag replacements ) P convs < = < = / D D D D D D D D D D D D D D D D D D D D D D ) D D D D Ú D Ú D D ÐD ÐÑD D D D D < = D < = D D D D ± ± ª «ª «D D D D D D D D D D D D D D D D D D D D D ( D () D D D D D D D D D D D D D D D D D D ± ± ª «ª «D D D D D D D D D D D D D D Å Æ Æ D D D D D D D ( D ( D & D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D Â D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D D ¹ x q s Schnittebene bschneiden eines Punktes x S α T x β x S α T x β Separationsproblem inde eine Ungleichung (aus einer amilie von mglichen Ungleichungen) die x abschneidet m besten acetten von convs als Schnittebenen 66 rundlagen der Optimierung Schnittebenenalgorithmus fr das Problem min{c T x x P J } t = P = P Lse die LPRelaxierung c T x t = min{c T x x P t } alls x t j j J STOP (MILP) gelst eneriere eine odere mehrere Schnittebenen α j T x β j die x t von P t abschneiden 4 Definiere P t durch Hinzufgen der Ungleichung(en) α j T x β j zu P t (und evtl durch ntfernen einiger vorher hinzugefgter Ungleichungen) Setze t = t und gehe zu () 67 rundlagen der Optimierung enerieren von Schnittebenen Problemspezifische acetten z acetten des TSPPolytops Problem Separation in polynomialer Laufzeit Lift&Projectuts fr Probleme etrachte acetten von min c T x x j [ ] j J x i = x i = arkaslemma harakterisierung der acetten als cken eines Polyeders (Polare) enerierung von acetten durch Lsung von LPs die im wesentlichen doppelt so gro sind wie omoryuts Runden von Koeffizienten so da die Ungleichung fr ganzzahlige Punkte erfllt bleibt aber fr nichtganzzahlige Punkte verschrft wird 68

7 rundlagen der Optimierung ranch & ut Kombiniere ranch & ound und Schnittebenenalgorithmus eneriere Schnittebenen in (einigen vor allem frhen) Knoten um (schnell) bessere Schranken zu erhalten 69 rundlagen der Optimierung TSP eispiele Knoten Knoten 7 rundlagen der Optimierung TSP eispiele Knoten 846 Knoten 7