Optimieren unter Nebenbedingungen

Transkript

1 Optimieren unter Nebenbedingungen Hier sucht man die lokalen Extrema einer Funktion f(x 1,, x n ) unter der Nebenbedingung dass g(x 1,, x n ) = 0 gilt Die Funktion f heißt Zielfunktion Beispiel: Gesucht sind die lokalen Extrema der Funktion f(x 1, x 2 ) = x x 2 2 unter der Nebenbedingung g(x 1, x 2 ) = x 1 + x 2 3 = 0 In diesem (einfachen) Fall könnte man aus der Nebenbedingung einfach eine Variable ausdrücken, in die Zielfunktion f einsetzen und ein Optimierungsproblem in einer Variablen ohne Nebenbedingung lösen Aber: 1 funktioniert das nicht immer (dh manchmal ist die so berechnete Lösug falsch), 2 kann man oft aus der Nebenbedingung nicht eine der Variablen ausdrücken, da oft die Funktion zu kompliziert ist (zb g(x 1, x 2 ) = x 4 1x 2 + x 2 1x 2 2 x 1 x = 0) Daher: allgemeines Verfahren gesucht Graphischer Ansatz Zeichne die Niveaulinien der Zielfunktion f(x 1, x 2 ) in der x 1 x 2 Ebene Zeichne die Nebenbedingung g(x 1, x 2 ) = 0 ein Bestimme anhand der Zeichnung das Optimum Vorteil: 1 Man erkennt sofort die ungefähre Lage des Optimums 2 Man erkennt auch, ob es sich um ein Minimum oder Maximum handelt Nachteil: 1 Die exakten Koordinaten des Optimums sind nicht ablesbar 2 Die Methode funktioniert nur dann, wenn die Funktionen nicht mehr als zwei Variable haben Ein Prinzip läßt sich aber graphisch erkennen: Der Extremwert wird in einem Punkt a angenommen, wo die Nebenbedingungsgerade die Niveaulinie berührt, aber nicht schneidet: Nebenbedingung und Niveaulinie der Zielfunktion sind in diesem Punkt a parallel Das bedeutet, dass auch die Gradienten von Zielfunktion und Nebenbedingung in diesem Punkt a parallel sein müssen, dh oder, anders geschrieben: f(a) = λ g(a), f(a) λ g(a) = o 33

2 Da ein stationärer Punkt a zusätzlich die Nebenbedingungsgleichung erfüllen muss, erhalten wir also folgendes Gleichungssystem: f λ g = 0, x 1 x 1 f g λ x n x n = 0, g(x 1,, x n ) = 0 Alle Punkte, die dieses Gleichungssystem erfüllen, heißen stationäre Punkte (der Lagrange Funktion) Formal bekommt man das obige Gleichungssystem auch, indem man die sogenannte Lagrange Funktion aufstellt und partiell differenziert: Die Funktion L(x 1,, x n, λ) = f(x 1,, x n ) + λ g(x 1,, x n ) heißt Lagrange Funktion Die Hilfsvariable λ heißt Lagrange Multiplikator Indem man die Lagrange Funktion partiell nach allen Variablen x 1,, x n und nach λ differenziert und diese partiellen Ableitungen dann gleich Null setzt, erhält man genau das obige Gleichungssystem: x 1 = f x 1 λ g x 1 = 0, = f g λ = 0, x n x n x n λ = g(x 1,, x n ) = 0 Um stationäre Punkte eines Optimierungsproblems mit Nebenbedingungen zu berechnen, geht man also folgendermaßen vor: 1 Lagrange Funktion aufstellen, 2 nach allen Variablen x 1,, x n und nach λ partiell differenzieren, 3 die so gewonnenen ersten partiellen Ableitungen der Lagrange Funktion gleich Null setzen und das Gleichungssystem lösen 34

3 Beispiel: Gesucht sind die stationären Punkte der Funktion f(x 1, x 2 ) = x x 2 2 unter der Nebenbedingung g(x 1, x 2 ) = x 1 + x 2 3 = 0 Zunächst stellen wir die Lagrange Funktion auf: L(x 1, x 2, λ) = x x λ(x 1 + x 2 3) Die ersten partiellen Ableitungen der Lagrange Funktion lauten: Nullsetzen ergibt das Gleichungssystem Dieses Gleichungssystem hat die Lösung x 1 = 2x 1 + λ, x 2 = 4x 2 + λ, λ = x 1 + x 2 3 2x 1 + λ = 0, 4x 2 + λ = 0, x 1 + x 2 3 = 0 x 1 = 2, x 2 = 1, λ = 4 Der einzige stationäre Punkt der Funktion f unter der Nebenbedingung g(x 1, x 2 ) = 0 ist daher der Punkt a = (2, 1) λ ist NICHT Teil der Koordinaten des stationären Punktes, sondern nur eine Hilfsvariable! Allgemeiner Fall: mehr als eine Nebenbedingung dann sind stationäre Punkte der Funktion f(x 1,, x n ) unter den k Nebenbedingungen g 1 (x 1,, x n ) = 0 g k (x 1,, x n ) = 0 gesucht 35

4 Das Verfahren ist genau gleich: Die Lagrange Funktion lautet hier L(x 1,, x n ; λ 1,, λ k ) = f(x 1,, x n ) + λ 1 g 1 (x 1,, x n ) + + λ k g k (x 1,, x n ) Für jede Nebenbedingungsfunktion wird also eine Hilfsvariable (λ 1 bis λ k ) eingeführt Dann wird diese Lagrange Funktion nach jeder der Variablen x 1,, x n und λ 1,, λ k partiell differenziert, alle entstandenen ersten partiellen Ableitungen gleich Null gesetzt und das Gleichungssystem in n + k Variablen und n + k Gleichungen gelöst Die Lösungen sind (n + k) dimensionale Vektoren der Form (x 1,, x n ; λ 1,, λ k ) Die n Komponenten (x 1,, x n ) sind dann die gesuchten stationären Punkte Minimum oder Maximum? Im Fall der Optimierung unter Nebenbedingungen sind die Kriterien, die für die Matrix der zweiten partiellen Ableitungen gelten, etwas komplizierter: Man bildet alle zweiten partiellen Ableitungen der Lagrange Funktion nach λ 1,, λ k und nach x 1,, x n und fasst diese in der sogenannten geränderten Hesse Matrix H zusammen: H = λ 2 1 λ 2 λ 1 λ k λ 1 x 1 λ 1 x nλ 1 λ 1 λ 2 2 L λ 1 λ k λ 2 2 λ 2 λ k λ k λ 2 2 L λ 2 k x 1 λ 2 2 L x 1 λ k x nλ 2 2 L x nλ k λ 1 x 1 2 L λ 1 x n λ 2 x 1 2 L λ 2 x n λ k x 1 2 L λ k x n x 2 1 x 1 x n x nx 1 2 L x 2 n Dies ist eine (k + n) (k + n) Matrix Sie hat daher k + n Hauptminoren H 1, H 2,, H k+n Entscheidend dafür, ob ein Minimum oder ein Maximum vorliegt, sind aber nicht alle Hauptminoren, sondern nur die n k letzten: 36

5 Satz Im stationären Punkt a liegt ein lokales Minimum vor, wenn die letzten n k Hauptminoren gleiches Vorzeichen haben und dieses Vorzeichen ( 1) k ist Haben die letzten n k Hauptminoren wechselndes Vorzeichen beginnend mit ( 1) k+1, dann ist der Punkt a ein lokales Maximum Anderenfalls ist keine Entscheidung möglich Beispiel (Fortsetzung): Gesucht sind die stationären Punkte der Funktion f(x 1, x 2 ) = x x 2 2 unter der Nebenbedingung g(x 1, x 2 ) = x 1 + x 2 3 = 0 Die ersten partiellen Ableitungen waren x 1 = 2x 1 + λ, x 2 = 4x 2 + λ, λ = x 1 + x 2 3 Der einzige stationäre Punkt war a = (2, 1) Zweite partielle Ableitungen, zusammengefasst in der geränderten Hesse Matrix H : Die Hauptminoren sind: H = H 1 = 0, H 2 = det ( ) = 1 H 3 = det H = 6 Wir haben hier n = 2 Variable und k = 1 Nebenbedingung, daher sind die letzten n k = 1 Hauptminoren relevant, dh nur der letzte Hauptminor H 3 ist wichtig Da das Vorzeichen von H 3 negativ, also ( 1) 1, also ( 1) k ist, liegt im stationären Punkt a = (2, 1) ein Minimum vor 37