Kap. 4: Lineare Programmierung

Transkript

1 Kap. 4: Lineare Programmierung Professor Dr. Petra Mutzel Lehrstuhl für Algorithm Engineering, LS11 Fakultät für Informatik, TU Dortmund 13./14. VO A&D WS 08/ / Petra Mutzel Alg. & Dat. WS 08/09 1

2 Literatur für diese VO V. Chvatal: Linear Programming D. Bertsimas: Linear Programming B. Vöcking: Crashkurs Lineare Programmierung, Vorlesung Effiziente Algorithmen an der Universität Dortmund SS2003 (s. Web) P.Mutzel: Skript-Teil Optimierung (s. Web) Petra Mutzel Alg. & Dat. WS 08/09 2

3 3.1 Einführung Beispiel Ölraffinerie Überblick Beispiel Diätproblem Geometrische Interpretation Standardformen Simplex-Algorithmus Motivation der Dualität 3.2 Der Simplex-Algorithmus VO am Donnerstag entfällt wg. Trauerfeier für Prof. Wegener Petra Mutzel Alg. & Dat. WS 08/09 3

4 Lineare Optimierungsprobleme Definition Lineares Optimierungsproblem (LP): Das Problem, einen Vektor zu finden, der unter allen Vektoren, die die Bedingungen Ax<=b erfüllen, derjenige ist, mit größtem (kleinstem) Zielfunktionswert. Formal: Petra Mutzel Alg. & Dat. WS 08/09 4

5 Beispiel Ölraffinerie 2 Crackverfahren für Rohöl mit folgender Ausbeute und Kosten: Crackprozeß 1: 2S, 2M, 1L, Kosten 3 EUR Crackprozeß 2: 1S, 2M, 4L, Kosten 5 EUR Ziele: mindestens 3S, 5M, 4L herstellen (Lieferbedingungen) möglichst billig herstellen Petra Mutzel Alg. & Dat. WS 08/09 5

6 Beispiel Ölraffinerie Zielfunktion subject to Restriktionen definieren den Lösungsraum Matrixschreibweise: (Tafel) Petra Mutzel Alg. & Dat. WS 08/09 6

7 y (0,6) Geometrische Interpretation Zielfunktion = 0.9* *0.706 =13.1 Mio NB1 Maximiere 0.90 x y subject To NB1: 0.42 x y <= NB2: 0.13 x y <= NB3: 0.35 x y <= NB4: x >= 0 NB5: y >= 0 (0,1.5) (0,1) (0.882,0.706) (0,0) Zulässige Lösungen (1,0) NB2 (2,0) (3,0) x

8 Geometrische Interpretation LP Beispiel: Ölraffinerie Petra Mutzel Alg. & Dat. WS 08/09 8

9 Beispiel Diätproblem Ziel: Möglichst billiger Einkauf, so dass mindestens 2000 kcal, 55g Proteine, 800 g Calcium Einkaufsbedingungen: Haferflocken zu 28g Packungen, die 110 kcal, 4 g Proteine, 2 mg Calcium zu 3 Cent Huhn in 100 g Packungen, mit 205kcal, 32 g Proteine, 12 mg Calcium zu 24 Cent Eier in Doppelpacks mit 160 kcal, 13 g Proteine, 54 mg Calcium zu 13 Cent Milch je Packung 237 ml, 160 kcal, 8g Proteine, 285 g Calcium zu 9 Cent Kirschkuchen in 179 g Packung mit 420 kcal, 4 g Proteine, 22 mg Calcium zu 20 Cent Bohnen in 260g Packung mit 19 Cent, 260kcal, 14g Proteine, 80 mg Calcium zu 19 Cent

10 LP für Diätproblem selbst Zusätzliche Nebenbedingung: Haferflocken sollen nicht ohne Milch gegessen werden: Für je eine Packung Haferflocken werden je eine halbe Packung Milch benötigt: 0.5 x 4 x 1 Petra Mutzel Alg. & Dat. WS 08/09 10

11 Lineare Optimierungsprobleme Lineare Optimierungsprobleme tauchen in verschiedenen Formulierungen auf und können alle ineinander übergeführt werden: max oder min c T x: Ax b min c T x: Ax b und x 0 min c T x: Ax=b und x 0 Wir betrachten die Standardform: max c T x: Ax=b und x 0 Petra Mutzel Alg. & Dat. WS 08/09 11

12 Lineare Optimierungsprobleme LP in seiner allgemeinsten Form: Jeder Vektor (x,y), der alle Nebenbedingungen (constraints) erfüllt heißt zulässige Lösung des LP. Petra Mutzel Alg. & Dat. WS 08/09 12

13 Geometrische Repräsentation: Lösungsraum Eine Variablenbelegung x=(x j ) entspricht einem Punkt im n-dimensionalen Raum R n. Jede Restriktion a it x b i definiert einen Halbraum. Die Grenze dieses Halbraumes ist die Hyberebene a it x=b i. Der Halbraum besteht aus den Punkten auf einer Seite dieser Hyperebene inklusive der Punkte auf der Hyperebene selbst. Die Schnittmenge der Halbräume über alle Restriktionen ist der Raum der zulässigen Lösungen. Der Lösungsraum bildet ein Polyeder. Beschränkte Polyeder heißen Polytope. Die durch ein Polyeder beschriebene Punktmenge ist konvex, d.h. für jedes Punktepaar x,y P sind auch alle Punkte auf der Verbindungslinie zwischen x und y in P. Auszug aus Vöcking (s.o.)

14 Geometrische Repräsentation: Zielfunktion Die Zielfunktion z(x)=c T x gibt eine Richtung im R n an. Wir können diese Richtung durch einen am Ursprung startenden durch den Punkt c führenden Strahl visualisieren. Sei H eine Hyperebene, die zum Strahl der Zielfunktion orthogonal ist, d.h. es gibt einen Wert z R, so dass H={x R n c T x=z}. Alle Punkte auf H haben den gleichen Zielfunktionswert z, den wir z(h) nennen. Ein LP dessen Zielfunktionswert z(x) durch die Nebenbedingungen nach oben (bei max z(x)) beschränkt ist, wird als beschränktes LP bezeichnet. Andernfalls ist das LP unbeschränkt. Auszug aus Vöcking (s.o.)

15 Geometrische Repräsentation: Ecklösungen Jeweils n linear unabhängige Hyperebenen schneiden sich in einem Schnittpunkt. Schnittpunkte die im Lösungspolyeder P enthalten sind werden als die Ecken von P bezeichnet. Zwei Ecken sind benachbart, wenn sie sich in genau einer Hyperebene unterscheiden. Benachbarte Ecken sind durch eine Kante miteinander verbunden. Die Kante entspricht der Schnittmenge der n-1 gemeinsamen Hyperebenen dieser Ecken. Auszug aus Vöcking (s.o.)

16 Geometrische Repräsentation: Optimallösung Gegeben sei ein beschränktes LP in Form max c T x s.t. Ax b, x 0 mit Zielfunktion z und Lösungspolyeder P. H eine zu z orthogale Hyperebene, die P schneidet. Wir stellen uns vor, H wird nach oben (d.h. in Richtung der Zielfunktion) verschoben. Dadurch erhöht sich z(h) kontinuierlich. Wir verschieben H genau soweit, dass sich kein Punkt mehr oberhalb von H befindet. Sei H* die so erhaltene Hyperebene. Dann enthält H* P die optimalen Lösungen des LPs. Wegen der Konvexität ist mindestens einer dieser Punkte eine Ecke von P. Also existiert immer eine Ecke mit optimalem Zielwert. Sei Auszug aus Vöcking (s.o.)

17 Geometrische Repräsentation: Optimale Ecke Sei v eine beliebige Ecke des Polyeders P. Sei H v die zu z orthogale Hyperebene, die durch v verläuft. Sei e eine der zu v inzidenten Kanten. Falls e oberhalb von H v verläuft, verbessert sich der Zielwert, wenn man von v startend entlang von e läuft. Eine solche Kante heißt verbessernde Kante. Falls v keine verbessernde Kante hat, können wir H v nicht nach oben verschieben ohne P zu verlassen (wegen Konvexität). Also ist H v =H* und somit v optimal. Hier gilt: Das globale Optimum entspricht einer lokal optimalen Ecke. Auszug aus Vöcking (s.o.)

18 Zusammenfassung Theorem: Für jedes beschränkte LP der Form max c T x s.t. Ax b, x 0 mit Lösungspolyeder P gibt es mindestens eine Ecke von P, die den optimalen Zielfunktionswert annimmt (die optimale Ecke). Eine Ecke ohne verbessernde inzidente Kante ist eine optimale Ecke.

19 Lineare Programmierung Für den Zulässigkeitsbereich P eines Linearen Programms gibt es drei verschiedene Möglichkeiten: P= es existiert keine einzige zulässige Lösung LP ist unlösbar P und inf{c T x x P} existiert nicht (z.b. 0x -1) LP ist lösbar, aber es gibt keine optimale Lösung P und min{c T x x P} existiert LP ist lösbar und hat eine endliche Lösung x* mit c T x*=min{c T x x P} Petra Mutzel Alg. & Dat. WS 08/09 19

20 Dualität der Linearen Programmierung Es ist vorteilhaft, Schranken für Lineare Programme angeben zu können Ein Punkt, der (2)-(4) erfüllt, erfüllt auch die Ungleichung: 2(2)+(3) Wir suchen die besten Schranken: Dualität Petra Mutzel Alg. & Dat. WS 08/09 20

21 Dualität der Linearen Programmierung Primales Programm: Duales Programm: Petra Mutzel Alg. & Dat. WS 08/09 21

22 Dualität der Linearen Programmierung Primales Programm (P): Duales Programm (D): Schwacher Dualitätssatz: Sei x ein zulässiger Punkt für (P) und y zulässig für (D). Dann gilt: y T b c T x Korollar: Ist (P) unbeschränkt, dann ist (D) unlösbar. Petra Mutzel Alg. & Dat. WS 08/09 22

23 Dualität der Linearen Programmierung Primales Programm (P): Duales Programm (D): Starker Dualitätssatz: Sei x* ein zulässiger Punkt für (P) und y* zulässig für (D). Dann gilt: y* T b=c T x* beide Lösungen x* und y* sind optimal Details: später in der Vorlesung Petra Mutzel Alg. & Dat. WS 08/09 23

24 3.2 Der Simplex-Algorithmus Lineare Programme werden in der Praxis mit Hilfe des Simplex-Algorithmus gelöst [Dantzig 1955]. Max 3x 1 + 2x 2 + 2x 3 Subject to x 1 + x 3 8 x 1 + x 2 7 x 1 + 2x 2 12 x 1, x 2, x 3 0 Petra Mutzel Alg. & Dat. WS 08/09 24

25 Visualisierung des Simplex-Algorithmus Max z = 3x 1 + 2x 2 + 2x 3 x 3 (0,0,8) (0,6,8) Optimal! (2,5,6) z = 28 z = 0 (0,6,0) x 2 (7,0,1) z = 23 (2,5,0) x 1 (7,0,0) z = 21

26 Simplex-Algorithmus Gegeben: LP mit Lösungspolyeder P (1) Bestimme einen beliebige Ecke (Initialecke) v von P. (2) Falls es keine verbessernde Kante inzident zu v gibt stop: v ist optimal. (3) Folge einer beliebigen verbessernden Kante e von v. Falls e unbeschränkt ist, d.h. keinen anderen Endpunkt hat stop: Das LP ist unbeschränkt. (4) Sei u der andere Endpunkt von e. Setze v=u. Gehe zu (2)

27 Offene Fragen zu Simplex-Algorithmus Wie findet man eine Initialecke v von P? Bei zulässigen LPs in Standardform mit nicht-negativen a ij und b i ist der Ursprung (Punkt 0) immer ein Knoten von P. Ansonsten verwendet man ein Preprocessing (Phase 1), das an einem Schnittpunkt evtl. außerhalb von P startet und durch ähnliche Basisaustauschschritte zu einer Ecke in P läuft. Wie wird das Polyeder abgespeichert? Man speichert das durch die Restriktionen beschriebene Gleichungssystem in Form eines Tableaus ab. In jedem Simplexschritt verändert sich das Tableau und die ausgehenden Kanten des aktuellen Ecke können aus dem Tableau berechnet werden. Teste, ob die aktuelle Ecke optimal ist? Falls nicht, welche verbessernde Kante wählt man? Terminiert der Algorithmus? s. Vorlesung: gleich

28 Definitionen Gegeben sei ein Gleichungssystem Ax=b mit A R m n, m<n, b R m, rang(a)=m. Sei B=(p 1,p 2,...,p m ) {1,2,...,n} m Spaltenindexmenge und N=(q 1,q 2,...,q n-m ) {1,2,...,n} n-m Spaltenindexmengen mit B N={1,2,...,n} und B N=. Für J {1,2,...n}: A J ist die Untermatrix von A nach Streichen der Spalten aus {1,2,...,n} \ J. Wir schreiben A B statt A B und A N statt A N. Ist A B regulär (=invertierbar), so heißt A B Basismatrix oder Basis von A und B Basisindexvektor oder Basis von A; analog A N, N Nichtbasisindexvektor. Der Vektor x R n mit x N =0, x B =A B -1 b heißt Basislösung von Ax=b zur Basis A B.

29 Definitionen Ist A B regulär (=invertierbar), so heißt A B Basismatrix oder Basis von A und B Basisindexvektor oder Basis von A; analog A N, N Nichtbasisindexvektor. Der Vektor x R n mit x N =0, x B =A B -1 b heißt Basislösung von Ax=b zur Basis A B. Ist A B eine Basis, so heißen die Variablen x j, j B, Basisvariablen und die x j, j N Nichtbasisvariablen. Ist A B Basis und gilt A B -1 b 0, so heißen A B, B und die zugehörige Basislösung x zulässig, sonst unzulässig. Eine zulässige Basislösung x zur Basis A B heißt nichtdegeneriert, falls (x B ) i =(A B -1 b) i >0 für alle i B, sonst degeneriert.

30 Simplex-Gleichungsschema und Simplex Tableau max c T x s.t. Ax=b, x 0 max c B c N T x B x N s.t. (A B, A N ) x B = b, x B 0 x N x N A B x B + A N x N = b x B = A B 1 b A B 1 A N x N Zielfunktionswert: z = c B T x B + c N T x N = c B T (A B 1 b A B 1 A N x N ) + c N T x N = = c T B A 1 B b + (c T N c T B A 1 B A N )x N Simplex-Gleichungsschema: x B = A 1 B b A 1 B A N x N z = c T B A 1 B b + (c T N c T B A 1 B A N )x N

31 Simplex-Gleichungsschema und Simplex Tableau Simplex-Gl.schema: x B = A B 1 b A B 1 A N x N z = c B T A B 1 b + (c N T c B T A B 1 A N )x N Zielfunktionswert Simplex-Tableau: Werte der Basisvariablen - c B T A B 1 b A B 1 b c N T c B T A B 1 A N A B 1 A N reduzierte Kosten

32 Simplex-Gleichungsschema und Simplex Tableau Satz: Sei A B eine zulässige Basis mit Basislösung x, A = A 1 B A N, b = A 1 B b und c T = c T N c T B A 1 B A N die reduzierten Kosten. (a) Gilt c T x 0, so ist x optimal (b) Sei q s N mi t c s > 0. (b1) Ist A s 0, dann ist c T x auf P = (A,b):={x R n Ax=b,x 0} unbeschränkt. (b2) Ist A S 0, dann sei λ 0 = min b i i =1,2,...,m, a is > 0 a is und r { 1,2,...,m} so dass b r = λ 0, a rs > 0 a rs so ist A B mit B =(p 1,...,p r-1,q s,p r+1...,p m ) eine zulässige Basis mit Basislösung x und c T x c T x. (b3) Gelten die Voraussetzungen von (b2) und ist A B nichtdegeneriert, so gilt c T x >c T x. Beweis: nächste VO Di Beispiel, s. Tafel

33 Petra Mutzel Alg. & Dat. WS 08/09 33