Klausurrepetitorium ABWL Planungs- und Südwestfälische Industrie- und Handelskammer 9. August 5 Dr. Friedhelm Kulmann, Sandra Rudolph 9.8.5
Gliederung. Nichtlineare Optimierungsprobleme.. Quadratisches Programm.. Exkurs: Bestimmung von Extrema mit Langrange-Multiplikatoren-Methode.. Bestimmung von Extrema mit den KKT-Bedingungen.. Quotientenprogramm. Lösung ganzzahliger linearer Optimierungsprobleme mit Branch & Bound 9.8.5
. Nichtlineare Optimierungsprobleme Viele betriebswirtschaftlichen Fragestellungen führen zur Optimierung nichtlinearer Probleme (bspw. optimales Portfolio, optimales Werbeprogramm unter Berücksichtigung nichtlinearer Werberesponsefunktionen etc.) Besonderheit: Lineare Funktionen in den Nebenbedingungen Versuch der Lösung dieser Probleme mit bekannten Verfahren (Simplex-Verfahren) Transformation der nichtlinearen Zielfunktion in eine lineare Anwendung des Lösungsverfahrens auf das (Hilfs)problem Ggfs. Übertragung der Lösung des Hilfsproblems auf das Ausgangsproblem 9.8.5
. Quadratisches Programm Exkurs: Bestimmung der Extrema mit Hilfe der Lagrange-Methode () Gegeben: Nichtlineares Optimierungsproblem mit Gleichungen als Restriktionen max/min f ( x,..., xn ) u.d.n. g ( x,..., x ) = b n......... g ( x,..., x ) = b m n m 9.8.5 Lagrangefunktion von f unter Nebenbedingungen: Lx (,..., x, λ,..., λ ) = n m f ( x,..., x ) + λ ( g ( x,..., x ) b ) +... + λ ( g ( x,.., x ) b ) n n m m n m 3
. Quadratisches Programm Exkurs: Bestimmung der Extrema mit Hilfe der Lagrange-Methode () Bestimmung der kritischen Punkte L f g = + λ = i =,..., m x x x i i. L f gi = + λ i = i =,..., m x x x n n n L = g i(x,...,x n ) b i = i =,..., m λ i 9.8.5 4
9.8.5 5. Quadratisches Programm Exkurs: Bestimmung der Extrema mit Hilfe der Lagrange-Methode (3) Gegeben: Zielfunktion und Gleichungen in den Nebenbedingungen f ( x u.d.n. g( x, x, x + x Lagrangefunktion von f unter Nebenbedingung: Partielle Ableitungen gleich Null setzen: ) ) = x = 3x + x 8x = 6 x L( x, x, λ) = x + x 8x x + λ(3x + x L () 3 = x 8 + 3λ = x = 4 λ x L () = x + λ = x = 5 λ x L = 3x + x 6 = λ 6)
. Quadratisches Programm Exkurs: Bestimmung der Extrema mit Hilfe der Lagrange-Methode (4) Beispiel (Fortführung) () () Einsetzen von x und x in die Restriktionen 3 3(4 λ) + (5 λ) 6 = 3 λ = 3 Lösung: () () T 4 ( x, x, λ) = 3 Kritischer Punkt: () () T 4 33 ( x, x ) =, 3 3 33 3,, 3 3 T T mit () () 36 f( x, x ) = =,3 69 9.8.5 6
. Quadratisches Programm Exkurs: Bestimmung der Extrema mit Hilfe der Lagrange-Methode (4) Interpretation des Lagrange-Multiplikators: Schattenpreis Der Lagrange-Multiplikator λ i gibt an, um wieviel sich der Zielfunktionswert ändert, wenn sich b i um eine Einheit ändert. Beispiel: f ( x, x ) = x + x 8x x u.d.n. gx (, x) = 3x+ x = 5 () () 36 3 385 f( x, x ) = + = = 8,84 69 3 69 9.8.5 7
Bestimmung der Extrema mit Hilfe der Karush-Kuhn-Tucker- Bedingungen () Gegeben:. Quadratisches Programm Nichtlineares Optimierungsproblem mit Ungleichungen als Restriktionen und nichtnegativen Variablen -dimensionaler Fall min ( ) = 8 u.d.n. x x 3 f x x x 9.8.5 8
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen () Lagrangefunktion von f unter Nebenbedingung (u bezeichnet den Multiplikator): Lxu x x ux (, ) = 8 + ( 3) Die Lagrangefunktion nimmt im Sattelpunkt ihr Minimum in x und ihr Maximum in u an 9.8.5 9 Anm.: Die Ausführungen gelten für reguläre Probleme, d.h. gewisse Regularitätsbedingungen müssen erfüllt sein (s. Kurs 854)
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (3) Lagrangefunktion nimmt im Sattelpunkt ihr Minimum in x und ihr Maximum in u an Da Nichtnegativitätsbedingung für x gegeben, ist partielle Ableitung >= bzw. <= Null L x L x = = x 8 + u x 3 x + 8 u 9.8.5
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (4) Gegeben: Nichtlineares Optimierungsproblem mit Ungleichungen als Restriktionen und nichtnegativen Variablen -dim. Fall min f ( x, x ) = x + x 8x x u.d.n. 3x + x 6 x, x 9.8.5
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (5) Lagrangefunktion von f unter Nebenbedingung (u bezeichnet den Multiplikator): Lx (, x, u) = x + x 8x x + u(3x+ x 6) 9.8.5 Minimum der Langrangefunktion (unter Berücksichtigung der NNB) in x gegeben, wenn partielle Ableitungen nach x j >= Null und nach u <= Null L = x 8 + 3u x + 8 3u x L x = x + u x + u L = 3x + x 6 u
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (6) Um die optimale Lösung zu bestimmen, führen wir Schlupfvariable v j und s ein, um Ungleichungen in Gleichungen zu überführen Bedingungen: L = x + 8 3u + v = x 3u + v = 8 x L x = x + u+ v = x u+ v = 3x + x + s = 6 9.8.5 3
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (7) Einschub: Zusammenhang mit (5.7)? L = x 3u + v = 8 x L x = x u+ v = 3x + x + s = 6 = 3 = T A H 9.8.5 x 3 v 8 i) - u + = x v ii) 3x + x + s = 6 iii) x, x, v, v, s 4
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (8) Ermittlung einer zulässigen Basislösung I u s x x v v RHS - -3-8 - - - 3 6 x x u v v s RHS 3-8 - 3 6 9.8.5 Keine vollständige Einheitsbasis, daher Einführung von Hilfsvariable z j 5
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (9) Ermittlung einer zulässigen Basislösung II u s x x v v z z RHS - -3 - -8 - - - - 3 6 x x u v v s z z RHS 3-8 - 3 6 9.8.5 6
9.8.5 7. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen () Modifizierte KKT-Bedingungen nach Einführung der Hilfsvariable x 3 v 8 i) - u+ z z = x v ii) 3x + x + s = 6 iii) x, x, v, v, s Zu lösendes Hilfsproblem zur Bestimmung einer zulässigen Basislösung mittels -Phasen-Simplex min Z = z + z u.d.n. x 3 v 8 i) - u+ z z = x v ii) 3x + x + s = 6 iii) x, x, v, v, s
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen () min Z = z + z u.d.n. x 3 v 8 i) - u+ z z = x v ii) 3x + x + s = 6 iii) x, x, v, v, s 9.8.5 u und s, v und x sowie v und x sind zueinander komplementäre Variable, daher dürfen sie nicht zusammen in die Basis. Aufgrund dessen vierte Bedingung: iv) v x =, v x =, s u = 8
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen () Beginn.Phase (II) und (III) mit (-) multipliziert x x u v v s z z RHS - -3 - -8 - - - - 3 6 x x u v v s z z RHS 3-8 - 9.8.5 3 6 9
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (3) Subtraktion von (II) und (III) von (I) x x u v v s z z RHS - - -5-8 z 3-8 z - s 3 6 Weil s in der Basis ist, darf u nicht aufgenommen werden, daher x oder x iv) v x =, v x =, s u = 9.8.5
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (4) x x u v v s z z RHS - - -5-8 z 3-8 z - s 3 6 x x u v v s z z RHS -5-8 z 3-8 z -3 - - 4 x 3/ / 3 9.8.5
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (5) x x u v v s z z RHS -5-8 z 3-8 z -3 - - 4 x 3/ ½ 3 x x u v v S z z RHS -3/ -3/ -3/ 5/3-8 z 3/ - 3/ 3/ -3/ 8 u -3/ -/ -/ / 9.8.5 x 3/ ½ 3
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (6) x x u v v S z z RHS -3/ -3/ -3/ 5/3-8 z 3/ - 3/ 3/ -3/ 8 u -3/ -/ -/ / x 3/ ½ 3 x x u v v s z z RHS x -/3 3/3 3/3 /3-3/3 4/3 u -3/3 -/3 -/3 3/3 /3 3/3 9.8.5 x 3/3-9/6 /3-3/3-9/6 33/3 3
. Quadratisches Programm Bestimmung der Extrema mit Hilfe der KKT-Bedingungen (7) x x u v v s z z RHS x -/3 3/3 3/3 /3-3/3 4/3 u -3/3 -/3 -/3 3/3 /3 3/3 x 3/3-9/6 /3-3/3-9/6 33/3 9.8.5 4. Phase abgeschlossen, d.h. zulässige Basislösung gefunden: T T 4 33 36 ( x, x) =, mit f( x, x ) = =,3 3 3 69 4/3 3 8 i) - 3 /3 = 33/3 ii) 3 4/3+ 33/3 = 6 iii) x, x, v, v, s iv) v x =, v x =, s u =
. Quadratisches Programm Beispiel für Nulllösung als optimale Lösung () Gegeben: Nichtlineares Optimierungsproblem mit Ungleichungen als Restriktionen und nichtnegativen Variablen min f ( x, x ) = x + x + 8x + x u.d.n. 3x + x 6 x, x 9.8.5 5
. Quadratisches Programm Beispiel für Nulllösung als optimale Lösung () Lagrangefunktion: Lx (, x, u) = x + x + 8x+ x + u(3x+ x 6) 9.8.5 6 Partielle Ableitungen: L = x + 8 + 3u x 8 3u x L = x + + u x u x L = 3x + x 6 u
. Quadratisches Programm Beispiel für Nulllösung als optimale Lösung (3) Prüfung, ob für Nulllösung KKT-Bedingungen erfüllt sind Wenn ja, dann ist Nulllösung optimale Lösung Wenn nein, dann gehe vor wie ab Folie 8 beschrieben 3 v 8 i) - + = v ii) 3x + x + s = 6 iii) x, x, v, v, s iv) v x =, v x =, s u = Anmerkung: u ist gleich Null, weil die Kapazitäten nicht berührt werden und daher der Schattenpreis Null ist 9.8.5 7
. Quadratisches Programm Anmerkungen Wie sehen die KKT-Bedingungen aus, wenn ein Maximierungsproblem vorliegt und kein Minimierungproblem? Warum? [Fragen nicht klausurrelevant!] 9.8.5 8
. Quotientenprogramm Problemstellung Betriebswirtschaftliche Entscheidungsprobleme stellen sich häufig als Maximierung einer Verhältnisgröße dar; Zähler und Nenner sind dabei lineare Funktionen der Entscheidungsvariablen max q u.d.n. = c d T T x x + c + d = z( x) n( x) Ax b x 9.8.5 9
9.8.5 3. Quotientenprogramm Beispiel x+ 5 x zx ( ) max q = = 5x+ 5x + n( x) u.d.n. 4x+ x 7 7x+ 3x 3 x 8 x, x Einführung der Schlupfvariablen x+ 5 x zx ( ) max q = = 5x+ 5x + n( x) u.d.n. 4x+ x + s = 7 7x+ 3x + s = 3 x + s3 = 8 x, x, s, s, s 3
. Quotientenprogramm. Zulässige Ausgangslösung x* suchen Da Konstante im Nenner d > ist, gilt für alle zulässigen Lösungen n(x) Daher kann mit der Nullösung gestartet werden. ( x, x, s, s, s ) = (,,7,3,8 ) 3 9.8.5 3
. Quotientenprogramm. Hilfsprogramm aufstellen und lösen max x =z(x)-q(x*)n(x) + 5 qx (*) = = 5 + 5 + max x = x + 5x (5x + 5x + ) u.d.n. 4x + x + s = 7 7x + 3x + s = 3 x + s = 3 8 x, x, s, s, s 3 x x - x -5 s s s 3 RHS 4 7 9.8.5 7 3 3 8 3
Lösung:. Quotientenprogramm ( x, x, x, s, s, s ) = ( 4,,8,5,,) 3 x Setze x :=x* und gehe wieder zu. * + 5 8 4 8 qx ( ) = = = 5 ++ 5 + 65 3 8 x = x+ 5 x (5x+ 5x + ) 3 55 56 max x = x+ x 3 3 3 u.d.n. x x x s s s 3 RHS 9.8.5 33 4x + x + s = 7 7x + 3x + s = 3 x + s = 8 3 x, x, s, s, s 3 -/3 4 7-55/3 3-56/3 7 3 8
. Quotientenprogramm x x x s s s 3 RHS -/3-55/3-56/3 4 7 7 3 3 8 Lösung: ( x, x, x, s, s, s ) = (,,8,5,,) 3 x = Optimale Lösung gefunden! 9.8.5 34
. Quotientenprogramm Idee des Verfahrens von Isbell und Marlow () Lösungsraum 9.8.5 35
. Quotientenprogramm Idee des Verfahrens von Isbell und Marlow () Der Schnittpunkt der Geraden z(x)= und n(x)= bestimmt die Hilfszielfunktionen z(x) n(x) 9.8.5 36
. Quotientenprogramm Idee des Verfahrens von Isbell und Marlow (3) Nullösung ist zulässige Ausgangslösung; über optimale Lösung des Hilfsproblems lässt sich über Konstruktionsvorschrift weiteres Hilfsproblem bestimmen z(x) n(x) 9.8.5 37
. Quotientenprogramm Idee des Verfahrens von Isbell und Marlow (4) Konstruktionsvorschrift bei Isbell/Marlow: x =z(x)-q(x*)n(x) z(x) n(x) x 9.8.5 38
. Quotientenprogramm Idee des Verfahrens von Isbell und Marlow (5) Optimale Lösung gefunden, wenn keine Verbesserung mehr möglich, d.h. Verfahren würde keine neue Ecke des Polyeders aufsuchen 9.8.5 39
. Ganzzahlige lineare Optimierung In der Praxis finden Methoden der linearen Optimierung breite Anwendung Bei einigen Problemen ist die Ganzzahligkeitsforderung für alle Strukturvariable (ILOP) oder für einige Variable (MILP) gegeben Verfahren der ganzzahligen Optimierung gehen von optimaler Lösung des zugehörigen nicht-ganzzahligen Problems aus und ermitteln dann sukzessiv die optimale Lösung des ganzzahligen Problems durch Einschränkung des Lösungsraums Entscheidungsbaumverfahren: Branch & Bound 9.8.5 4
. Ganzzahlige lineare Optimierung B & B ist ein spezielles Enumerationsverfahren Suche nach Optimallösung durch Aufspalten des Lösungsraums des LPs ohne Ganzzahligkeitsforderung Aufspaltung lässt sich als Verzweigung im Entscheidungsbaum darstellen 9.8.5 4
. Ganzzahlige lineare Optimierung Lösungsraum eines ILP (I) Beispiel: max z=7x+ 3y u.d.n. 5x+ y 5 (I) x+ 6y 33 (II) xy, und ganzzahlig (II) 9.8.5 4
. Ganzzahlige lineare Optimierung LP-Relaxation und Lösungsraum des zugehörigen LP max z=7x+ 3y u.d.n. 5x+ y 5 (I) x+ 6y 33 (II) xy, 9.8.5 43
. Ganzzahlige lineare Optimierung LP-Relaxation und Lösung des zugehörigen LP max z=7x+ 3y u.d.n. 5x+ y 5 (I) x+ 6y 33 (II) xy, Lösung: ( xy ; ) = (9, 3;, 4) z = 7,88 9.8.5 44
. Ganzzahlige lineare Optimierung Aufspaltung in Teilprobleme P und P z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P max z=7x+ 3y u.d.n. 5x+ y 5 (I) x+ 6y 33 (II) xy, Lösung: ( xy ; ) = (9, 3;, 4) z = 7,88 9.8.5 45
P. Ganzzahlige lineare Optimierung P: max z=7x+ 3y u.d.n. 5x+ y 5 (I) x+ 6y 33 (II) x 9 xy, Lösung : z = 7,5 ( xy ; ) = (9 ;,5) 9.8.5 46
P. Ganzzahlige lineare Optimierung P : max z=7x+ 3y u.d.n. 5x+ y 5 (I) x+ 6y 33 (II) x xy, Lösung : z = 7,5 ( xy ; ) = ( ;,5) 9.8.5 47
. Ganzzahlige lineare Optimierung Aufspaltung von P in Teilprobleme P3 und P4, da z P =7,5>z P =7,5 z = 7,5 ( xy ; ) = (9 ;,5) z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P z = 7,5 ( xy ; ) = ( ;,5) y y P 3 P 4 9.8.5 48
P3. Ganzzahlige lineare Optimierung P3: max z=7x+ 3y u.d.n. 5x+ y 5 x+ 6y 33 xy, x y Lösung : z = 7, 4 ( xy ; ) = (, ; ) 9.8.5 49
P4. Ganzzahlige lineare Optimierung P4 : max z = 7x + 9 y u.d.n. 5x + y x + 6y 5 33 x, y x y Keine Lösung 9.8.5 5
. Ganzzahlige lineare Optimierung Aufspaltung in Teilprobleme P3 und P4 z = 7,5 ( xy ; ) = (9 ;,5) z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P z = 7,5 ( xy ; ) = ( ;,5) y y z = 7, 4 ( xy ; ) = (, ; ) P 3 P 4 Keine Lösung 9.8.5 5
. Ganzzahlige lineare Optimierung Aufspaltung von P3 in Teilprobleme P5 und P6, da z P3 =7,4>z P =7,5 z = 7,5 ( xy ; ) = (9 ;,5) z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P z = 7,5 ( xy ; ) = ( ;,5) y y z = 7, 4 ( xy ; ) = (, ; ) P 3 P 4 Keine Lösung x x P 5 P 6 9.8.5 5
P5. Ganzzahlige lineare Optimierung P5 : max z = 7x + 9 y u.d.n. 5x + y 5 x + 6y 33 x, y x y x Lösung : z = 7 ( x; y) = ( ; ) 9.8.5 53
P6. Ganzzahlige lineare Optimierung P6 : max z = 7x + 9 y u.d.n. 5x + y x + 6y 5 33 x, y x y x Keine Lösung 9.8.5 54
. Ganzzahlige lineare Optimierung Aufspaltung von P3 in Teilprobleme P5 und P6, da z P3 =7,4>z P =7,5 z = 7,5 ( xy ; ) = (9 ;,5) z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P z = 7,5 ( xy ; ) = ( ;,5) y y z = 7, 4 ( xy ; ) = (, ; ) P 3 P 4 Keine Lösung x x z = 7 9.8.5 ( xy ; ) = ( ; ) P 5 P 6 Keine Lösung 55
. Ganzzahlige lineare Optimierung Aufspaltung von P in Teilprobleme P7 und P8, da z P =7,5>z P5 =7 z = 7,5 ( xy ; ) = (9 ;,5) z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P z = 7,5 ( xy ; ) = ( ;,5) y y 3 y y P 7 P 8 z = 7, 4 ( xy ; ) = (, ; ) P 3 P 4 Keine Lösung x x z = 7 9.8.5 ( xy ; ) = ( ; ) P 5 P 6 Keine Lösung 56
P7. Ganzzahlige lineare Optimierung P7 : max z=7x+ 3y u.d.n. 5x+ y 5 x+ 6y 33 xy, x 9 y z = 69 ( xy ; ) = (9;) 9.8.5 57
P8. Ganzzahlige lineare Optimierung P8 : max z=7x+ 3y u.d.n. 5x+ y 5 x+ 6y 33 xy, x 9 y 3 z = 6,5 ( xy ; ) = (7,5 ; 3) 9.8.5 58
. Ganzzahlige lineare Optimierung Aufspaltung von P in Teilprobleme P7 und P8 z = 7,5 ( xy ; ) = (9 ;,5) z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P z = 7,5 ( xy ; ) = ( ;,5) y y 3 y y z = 69 ( xy ; ) = (9 ; ) P 7 P 8 z = 6,5 ( xy ; ) = (7,5 ; 3) z = 7, 4 ( xy ; ) = (, ; ) P 3 P 4 Keine Lösung x x z = 7 9.8.5 ( xy ; ) = ( ; ) P 5 P 6 Keine Lösung 59
. Ganzzahlige lineare Optimierung Optimale Lösung als beste aller zulässigen Lösungen z = 7,5 ( xy ; ) = (9 ;,5) z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P z = 7,5 ( xy ; ) = ( ;,5) y y 3 y y z = 69 P 7 ( xy ; ) = (9 ; ) P 8 z = 6,5 ( xy ; ) = (7,5 ; 3) z = 7,4 ( xy ; ) = (, ; ) P 3 P 4 Keine Lösung x x z = 7 9.8.5 ( xy ; ) = ( ; ) P 5 P 6 Keine Lösung 6
. Ganzzahlige lineare Optimierung Optimale Lösung als beste aller zulässigen Lösungen z = 7,5 ( xy ; ) = (9 ;,5) z = 7,88 P ( xy ; ) = (9, 3 ;,4) x 9 x P P z = 7,5 ( xy ; ) = ( ;,5) y y 3 y y z = 69 ( xy ; ) = (9 ; ) P 7 P 8 z = 6,5 ( xy ; ) = (7,5 ; 3) z = 7, 4 ( xy ; ) = (, ; ) P 3 P 4 Keine Lösung x x z = 7 9.8.5 ( xy ; ) = ( ; ) P 5 P 6 Keine Lösung 6
. Ganzzahlige lineare Optimierung Anmerkungen Mit Hilfe der Auswahlregel wird bestimmt, in welcher Reihenfolge die Teilprobleme bearbeitet werden. Regel der größten Schranke: Bei einem Maximierungsproblem das als nächstes behandeln, welches noch nicht untersucht wurde und die größte Schranke (ZFW) besitzt. LIFO-Regel: Das zuletzt behandelte Teilproblem wird solange weiter untersucht, bis es ausgeschieden werden kann. Vor- und Nachteile beider Regeln bzgl. Kriterien, die bei der computergestützten Optimierung relevant sind? 9.8.5 6