2 Extrema unter Nebenbedingungen

Transkript

1 $Id: lagrange.tex,v /11/06 14:26:21 hk Exp hk $ 2 Extrema unter Nebenbedingungen 2.1 Restringierte Optimierungsaufgaben Nachdem wir jetzt die bereits bekannten Techniken zur Bestimmung der lokalen und globalen Maxima und Minima wiederholt haben, wollen wir nun zu einem neuen Problemtyp kommen, den restringierten Maximierungs- beziehungsweise Minimierungsaufgaben. Diese Aufgabenstellungen werden manchmal auch unter dem Titel Extrema unter Nebenbedingungen verbucht. Wir beschreiben erst einmal die abstrakte Situation. Gegeben seien eine Menge M und eine reelle Funktion f : M R auf M. Bei den restringierten Aufgaben ist aber nicht die ganze Menge M von Interesse, sondern nur eine vorgegebene Teilmenge S M, die sogenannte Restriktionsmenge, und wir wollen die globalen Maxima und Minima von f auf der Menge S bestimmen, d.h. wir behandeln das globale Optimierungsproblem für die Einschränkung f S. Liegt M E selbst in einem normierten Raum E, so kann man weiter auch lokale Maxima und Minima von f auf S untersuchen. Bei uns wird M = U R n eine offene Teilmenge eines R n sein und f : U R soll zumindest stetig differenzierbar sein. Die Restriktionsmenge S U darf eine erst mal beliebige abgeschlossene Teilmenge von U sein. Der Unterschied zur bereits behandelten Situation liegt darin das wir uns S als eine niederdimensionale Menge denken, dass also insbesondere S = S sein wird. Tatsächlich haben wir diese Situation bereits eingangs einmal gesehen, bei der Optimierung der Funktion f(x, y) = x 2 y y 2 + 2x 2 + y auf M = B 1 (0) hatten wir ja insbesondere die Maxima und Minima von f auf dem Rand S := B 1 (0) bestimmt, und diese Rechnung war bereits ein restringiertes Optimierungsproblem wobei die Restriktionsmenge der Kreis S war. Dieses Beispiel hat uns auch bereits die erste Methode zur Lösung derartiger Probleme gezeigt, wir haben die Punkte (x, y) der Restriktionsmenge S durch einen reellen Parameter φ als x = cos φ, y = sin φ geschrieben, und das Problem damit in ein gewöhnliches eindimensionales Optimierungsproblem verwandelt. Diesen Ansatz kann man allgemein verfolgen und kommt dann zur Parametrisierungsmethode zur Lösung restringierter Optimierungsprobleme: Gegeben: Eine offene Menge U R n, eine stetig differenzierbare Funktion f : U R und eine abgeschlossene Restriktionsmenge S U. Die Funktion f besitze auf S ein Maximum. Gesucht: Der maximale Wert m := sup{f(x) x S} und eventuell ein oder alle x S mit f(x) = m. 5-1

2 Verfahren: Bestimme zunächst eine Parametrisierung von S, finde also eine offene Menge V R k, eine stetig differenzierbare Funktion ϕ : V U und eine abgeschlossene Teilmenge M V mit S = ϕ(m), dabei ist k normalerweise die Dimension von S. Dann bilden wir die stetig differenzierbare Funktion F := f ϕ : V R n, und berechnen s := sup{f (x) x M}, sowie je nach Bedarf die Punkte x M mit F (x) = s. Dies geschieht mit den üblichen Methoden, also Gradient gleich Null setzen und Überprüfen des Randes von M. Ergebnis: Das gesuchte Maximum ist m = s und es wird in den Punkten ϕ(x) angenommen wobei x M die Punkte mit F (x) = s durchläuft. Entsprechend geht man für Minima vor. Zur Berechnung lokaler Extrema kann das Verfahren noch etwas modifiziert werden, ist in ϕ(x) ein lokales Extremum von f S, so hat F in x ein lokales Extremum desselben Typs, wir können also alle Kandidaten für lokale Extrema berechnen. Allerdings ist nicht umgekehrt jeder Wert ϕ(x) ein lokales Extremum von f S nur weil x eines von F ist, dies kommt auf die spezielle Situation an. Hier muss für jeden der ermittelten Kandidaten im Einzelfall bestimmt werden ob wirklich ein lokales Extremum vorliegt. Wir wollen jetzt drei kleine Beispiele rechnen und beginnen mit f : R 3 R; (x, y, z) z 2 xy 3x + 5y und als Restriktionsmenge verwenden wir die Ebene S := {(x, y, z) R 3 x + y + z = 1}. Hier ist es leicht eine Parametrisierung von S herzustellen indem wir einfach die S definierende Gleichung nach einer der Variablen auflösen, schreiben wir etwa z = 1 x y, so ergibt sich die Parametrisierung ϕ : R 2 R 3 ; (x, y) (x, y, 1 x y). Für die Funktion F := f ϕ : R 2 R erhalten wir für alle x, y R F (x, y) = f(x, y, 1 x y) = (1 x y) 2 xy 3x + 5y = x 2 + y 2 + xy 5x + 3y + 1. Die kritischen Punkte von F ergeben sich als Lösungen des Gleichungssystems F x F y = 2x + y 5 = 0, = 2y + x + 3 = 0, also y = 5 2x und 13 3x = 0 und somit hat F einen eindeutigen kritischen Punkt in (13/3, 11/3). Um den Typ dieses kritischen Punkts zu bestimmen, berechnen wir die zweiten partiellen Ableitungen von F 2 F x 2 = 2, 2 F y 2 = 2, 2 F x y = 1, 5-2

3 und erhalten die Hesse-Matrix H von F im kritischen Punkt als ( ) 2 1 H =, 1 2 und diese Matrix ist wegen det H = 3 > 0 nach dem Hadamard-Kriterium II. 6.Satz 14 positiv definit. Damit hat F im kritischen Punkt ein lokales Minimum. Beachten wir das F eine quadratische Funktion ist und verwenden den Satz über die Hauptachsentransformation II. 6.Satz 10 so folgt das hier sogar das globale Minimum der Funktion F vorliegt. Wegen ϕ(13/3, 11/3) = (13/3, 11/3, 1/3) hat die Funktion f auf der Ebene S im Punkt (13/3, 11/3, 1/3) ihr globales Minimum und es gibt keine weiteren lokalen Extrema von f auf S. Als ein weiteres Beispiel wollen wir die Funktion f : R 3 R; (x, y, z) xy + z behandeln, wobei die Restriktionsmenge S := {x R 3 : p 2 = r} die Kugeloberfläche mit Mittelpunkt in 0 und einem Radius r > 0 ist. Zur Parametrisierung von S verwenden wir die in 1.2 besprochenen Kugelkoordinaten und schreiben x = r cos φ sin ψ, y = r sin φ sin ψ und z = r cos ψ mit 0 φ 2π, 0 ψ π. Die Funktion F wird zu F (φ, ψ) = r 2 sin φ cos φ sin 2 ψ + r cos ψ = r2 2 sin(2φ) sin2 ψ + r cos ψ und wir müssen diese auf der Menge M := [0, 2π] [0, π] maximieren beziehungsweise minimieren. Für φ, ψ R haben wir F φ = r2 cos(2φ) sin 2 ψ =! 0 F ψ = r2 sin(2φ) sin ψ cos ψ r sin ψ = r sin ψ (r sin(2φ) cos ψ 1) =! 0. Zur Bestimmung von Kandidaten für die lokalen Extrema machen wir eine Fallunterscheidung. Fall 1. Zunächst sei sin ψ = 0. Für die Berechnung der globalen Extrema kann man diesen Fall wegen (φ, ψ) / M ignorieren, für den lokalen Fall muss man ihn sich aber anschauen. Aus Periodizitätsgründen können wir ψ = 0 oder ψ = π annehmen, haben also die beiden Kandidatenpunkte p 1 := (0, 0, r) und p 2 := (0, 0, r), also Nord- und Südpol unserer Kugel. Schauen wir uns den Nordpol näher an. Umgebungen des Nordpols werden durch [0, 2π] [0, ɛ) mit ɛ > 0 parametrisiert und für 5-3

4 jedes 0 ψ < ɛ haben wir m(ψ) := min F (φ, ψ) = r2 0 φ 2π 2 sin2 ψ + r cos ψ, r2 M(ψ) := max F (φ, ψ) = 0 φ 2π 2 sin2 ψ + r cos ψ. Es sind m (ψ) = r 2 sin ψ cos ψ r sin ψ = r sin ψ (r cos ψ + 1) < 0 für ausreichend kleine ψ und M (ψ) = r 2 sin ψ cos ψ r sin ψ = r sin ψ (r cos ψ 1). Damit kann im Nordpol kein lokales Minimum vorliegen. Ist r 1, so ist M (ψ) 0 für ausreichend kleine ψ, also hat die Funktion f dann im Nordpol ein lokales Maximum auf S. Ist dagegen r > 1, so ist M (ψ) > 0 für ausreichend kleine ψ, also hat f dann auch kein lokales Maximum im Nordpol, d.h. für r > 1 liegt im Nordpol kein lokales Extremum von f auf S vor. Analog hat f im Südpol für r 1 ein lokales Minimum aber für r > 1 hat f auch im Südpol kein lokales Extremum. Fall 2. Nun sei sin ψ 0, und dann können wir uns auf 0 < ψ < π normieren. Wir erhalten cos(2φ) = 0 und r sin(2φ) cos ψ = 1. Wegen cos(2φ) können wir φ {π/4, 3π/4, 5π/4, 7π/4} annehmen, also φ = φ i für ein i {1, 2, 3, 4} mit φ 1 = π 4, φ 2 = 3π 4, φ 3 = 5π 4 und φ 4 = 7π 4. Es ist weiter also erhalten wir sin(2φ) = { 1, i {1, 3}, 1, i {2, 4}, cos ψ = ± 1 r. Wegen 0 < ψ < π ist cos ψ < 1, also kann dieser Fall für r 1 gar nicht vorkommen. Nun nehmen wir r > 1 an, und dann ist sin ψ = 1 cos 2 ψ = r2 1 r und ψ = { arccos(1/r), i {1, 3}, arccos( 1/r) = π arccos(1/r), i {2, 4}. 5-4

5 Wir erhalten vier Kandidaten für lokale Extrema von f auf S ( ) r2 1 r2 1 p 3 :=,, 1, 2 2 ( ) r2 1 r2 1 p 4 :=,, 1, 2 2 ( ) r2 1 r2 1 p 5 :=,, 1, 2 2 ( ) r2 1 r2 1 p 6 :=,, Die Untersuchung des Typs dieser Punkte stellen wir noch etwas zurück. Die Funktionswerte in den bisher gefundenen Kandidaten sind f(p 1 ) = r, f(p 2 ) = r, f(p 3 ) = f(p 5 ) = r , f(p 4 ) = f(p 6 ) = r Schauen wir uns noch die Funktionswerte auf den Randpunkten (φ, ψ) M an, also für 0 ψ π und F (0, ψ) = F (2π, ψ) = r cos ψ F (φ, 0) = r, F (φ, π) = r für 0 φ 2π. Insgesamt haben damit eingesehen: 1. Ist r 1, so hat f auf im Nordpol sein globales Maximum r und im Südpol sein globales Minimum r. Es gibt keine weiteren lokalen Extrema. 2. Ist r > 1, so ist (r 2 + 1)/2 > r, also nimmt f auf S in den beiden Punkten p 3 und p 5 sein globales Maximum (r 2 + 1)/2 und in den beiden Punkten p 4 und p 6 sein globales Minimum (r 2 + 1)/2 an. Es gibt keine weiteren lokalen Extrema. Insbesondere ist damit der Typ der Kandidatenpunkte im zweiten Fall geklärt. Wir kommen zu einem letzten Beispiel bei dem die Restriktionsmenge durch zwei Gleichungen gegeben ist. Wir betrachten die durch die beiden Gleichungen x 2 + y 2 = 1 2x + y z = 2 gegebene Teilmenge S R 3. Die Menge S ist der Schnitt eines Zylinders mit einer Ebene, also eine im Raum liegende Ellipse. Als zu optimierende Funktion verwenden wir f : R 3 R; (x, y, z) x 2 + 3xy + yz 2y. 5-5

6 Wir müssen zunächst eine Parametrisierung der Ellipse S finden. Hierzu schreiben wir die durch die zweite Gleichung gegebene Ebene E als E = p + v 1, v 2 mit p = 2, v 1 = 1, v 2 = Die Punkte von E haben also die Form p + tv 1 + sv 2 = s t 2 t + 2s mit t, s R. Setzen wir x = s, y = t 2 in die zweite Gleichung ein, so wird diese zu s 2 + (t 2) 2 = 1, in der Parameterebene haben wir also einen Kreis mit Mittelpunkt (2, 0) und Radius 1. Diesen können wir für 0 φ 2π parametrisieren mit t = 2 + cos φ, s = sin φ und wir erhalten die Parametrisierung der Restriktionsmenge S durch Für 0 φ 2π ist weiter F (φ) := f(sin φ, cos φ, 2 + cos φ + 2 sin φ) ϕ(φ) = (sin φ, cos φ, 2 + cos φ + 2 sin φ). = sin 2 φ + 3 sin φ cos φ + 2 cos φ + cos 2 φ + 2 sin φ cos φ 2 cos φ = sin(2φ). Damit sind und max 0 φ 2π F (φ) = 7 2 angenommen für φ = φ 1 = π 4, φ = φ 2 = 5π 4 min F (φ) = 3 0 φ 2π 2 angenommen für φ = φ 3 = 3π 4, φ = φ 4 = 7π 4. Wegen sin φ 1 = cos φ 1 = 1/ 2, sin φ 2 = cos φ 2 = 1/ 2, sin φ 3 = 1/ 2, cos φ 3 = 1/ 2, sin φ 4 = 1/ 2 und cos φ 4 = 1/ 2 nimmt f sein globales Maximum 7/2 auf S in den Punkten p 1 = ( 1 2, 1, ) 2 2 und p 2 = ( 1, 1, 2 3 ) an und das globale Minimum 3/2 auf S ist in den Punkten ( 1 p 3 = 2, 1, ) ( und p 4 = 1 1,, 2 1 ) Es gibt keine weiteren lokalen Extrema. 5-6

7 2.2 Lagrange-Multiplikatoren Wie wir im vorigen Abschnitt gesehen haben, erlaubt die Parametrisierungsmethode es uns weiterhin die aus dem letzten Semester gewohnten Methoden auch für restringierte Optimierungsaufgaben zu verwenden. Die Methode hat allerdings einen Nachteil, man muss erst einmal eine Parametrisierung der Restriktionsmenge S finden. In unseren Beispielen war dies immer leicht möglich da wir entweder die S definierende Gleichung nach einer ihrer Variablen auflösen konnten oder es sich bei S um ein vertrautes Objekt, wie Kreise, Ebenen, Zylinder, Kugeln und so weiter, handelte. In diesem Abschnitt wollen wir eine raffiniertere Methode zur Lösung von Optimierungsaufgaben mit Nebenbedingungen behandeln die auch funktioniert wenn wir für die Restriktionsmenge keine, oder zumindest keine gut handhabbare, Parametrisierung finden. Diese sogenannte Methode der Lagrange-Multiplikatoren kann auf zwei verschiedene Arten begründet werden, zum einen geometrisch und zum anderen optimierungstheoretisch. Den geometrischen Zugang stellen wir noch etwas zurück, und beginnen mit der zweiten Methode. Diese beruht auf dem sogenannten Lagrangeschen Ergänzungsansatz, den wir im nächsten Lemma explizit formulieren werden. In den folgenden Überlegungen gibt es immer zwei mögliche Varianten zu betrachten, eine für Maxima und eine für Minima. Um die Notation und die Formulierungen unserer Aussagen nicht zu überlasten, werden wir zumeist nur die Formulierung für Maxima angeben, für Minima ist dann alles analog und wir werden die Ergebnisse dieses Abschnitts auch ohne weiteren Kommentar entsprechend für Minima anwenden. Lemma 2.1 (Lagrangesche Ergänzungsmethode) Seien M eine Menge, S M eine Teilmenge und f : M R eine reelle Funktion auf M. Weiter sei λ : M R eine Funktion die auf S konstant ist und betrachte die Funktion Λ := f + λ : M R. Ist dann x 0 S ein globales Maximum von Λ, also Λ(x 0 ) = sup Λ(x), x M so ist x 0 auch ein globales Maximum von f auf S, d.h. es gilt f(x 0 ) = sup f(x). x S Beweis: Sei c R mit λ(x) = c für alle x M. Für jedes x M gilt nach unserer Annahme Λ(x 0 ) Λ(x) und für jedes x S folgt damit auch f(x) = f(x) + c c = Λ(x) c Λ(x 0 ) c = f(x 0 ), d.h. f(x 0 ) f(x) und somit ist x 0 ein globales Maximum von f auf S. Die hier auftauchende Lagrange-Funktion λ ist eine reine Hilfsgröße, die im allgemeinen Fall keinerlei eigenständige Bedeutung besitzt. Sie muss unter den auf der Restriktionsmenge S konstanten Funktionen so gewählt werden, dass das globale Maximum 5-7

8 x 0 M von Λ = f +λ in die Menge S gezwungen wird und damit x 0 S erfüllt. Wie solch eine Lagrange-Funktion zu finden ist, bedarf in der Regel einer an die spezifische Situation angepassten Idee. Die Methode der Lagrange-Multiplikatoren ist jetzt ein standardisierter Spezialfall dieses allgemeinen Lagrangeschen Ergänzungsansatzes. Gegeben seien eine offene Menge U R n und eine stetig differenzierbare Funktion f : U R. Die Restriktionsmenge S U sei durch ein System aus r N vielen Gleichungen mit stetig differenzierbarer linker Seite gegeben, d.h. wir haben stetig differenzierbare Funktionen g 1,..., g r : U R und setzen S := {x U g 1 (x) = = g r (x) = 0} U. Wir wollen das Maximum beziehungsweise das Minimum der Funktion f auf S bestimmen. Dabei möchten wir den Lagrangeschen Ergänzungsansatz verwenden, und setzen die Lagrange-Funktion λ in der Form λ : U R; x r λ k g k (x) an, wobei λ 1,..., λ r R noch zu bestimmende reelle Parameter sind, die sogenannten Lagrange-Multiplikatoren. Da die Funktionen g 1,..., g r nach Definition der Menge S auf S identisch Null sind, ist auch die Linearkombination λ der g 1,..., g r auf S konstant gleich Null. Außerdem ist λ eine stetig differenzierbaren Funktion, bilden wir also die Funktion r Λ := f + λ : U R; x f(x) λ k g k (x) so ist auch Λ stetig differenzierbar. Wir benötigen einen Punkt x 0 S in dem Λ ein globales Maximum hat. Insbesondere muss Λ in x 0 dann nach II. 8.Satz 24 einen kritischen Punkt haben, d.h. für jedes 1 i n muss Λ x i (x) = f x i (x) r k=1 k=1 k=1 λ k g k x i (x) = 0 gelten. Dies sind bereits n Gleichungen und beachten wir noch das x 0 S die Gültigkeit der r Gleichungen g j (x 0 ) = 0 für 1 j r bedeutet, so haben wir insgesamt n + r Gleichungen für die n + r vielen Unbekannten x 0 = (x 1,..., x n ), λ 1,..., λ r. Diese Überlegung führt uns auf eine Strategie zur Berechnung eines globalen Maximums von f auf S. Wir lösen die obigen n + r Gleichungen und erhalten einen Punkt x 0 S sowie die Lagrange-Multiplikatoren λ 1,..., λ r. Können wir dann nachweisen das die obige Funktion Λ in x 0 ein globales Maximum besitzt, so ist x 0 nach Lemma 1 auch ein globales Maximum von f auf S. Dies funktioniert dann auch in der lokalen Situation, hat die Funktion Λ in x 0 ein lokales Maximum, so existiert eine offene Menge V R n mit x 0 V U so, dass Λ V in x 0 ein globales Maximum hat, und wie bereits 5-8

9 gesehen hat f S V damit ebenfalls ein globales Maximum in x 0, d.h. x 0 ist ein lokales Maximum von f auf S. Bevor wir zu theoretischen Überlegungen kommen, wollen wir uns erst einmal anschauen, wie dieses Rechnung in den drei Beispielen des vorigen Abschnitts aussieht. Wir beginnen mit der Funktion f : R 3 R definiert durch f(x, y, z) = z 2 xy 3x + 5y für alle x, y, z R und als Restriktionsmenge verwenden wir die Ebene S := {(x, y, z) R 3 x+y +z = 1}. Hier sind also n = 3, r = 1 und g 1 = g : R 3 R ist die Funktion mit g(x, y, z) = x + y + z 1 für alle x, y, z R. Wir haben einen Lagrange-Multiplikator λ 1 = λ und müssen das folgende aus vier Gleichungen bestehende System lösen: (1) y 3 λ = 0, (2) 5 x λ = 0, (3) 2z λ = 0, (4) x + y + z = 1. Dies ist ein lineares Gleichungssystem für die vier Unbekannten x, y, z, λ das wir wie üblich lösen und damit sind λ = 2 3, z = 2λ 1 = 1, y = λ 3 = , x = 5 λ = Dies ist tatsächlich genau das globale Minimum von f auf S das wir schon im vorigen Abschnitt gefunden haben. Nach Konstruktion liegt in p = (13/3, 11/3, 1/3) ein kritischer Punkt der ergänzten Funktion Λ(x, y, z) = f(x, y, z) 2 3 g(x, y, z) = z2 xy 11 3 x y 2 3 z + 2 3, deren Hesse-Matrix in p wegen gleich Λ x 11 = y 3, Λ y H = = x , Λ z = 2z

10 ist. Die Eigenwerte von H sind λ 1 = 1, λ 2 = 1 und λ 3 = 2, diese Matrix ist also indefinit und in p liegt kein lokales Extremum von Λ vor. Wir können hier also nicht das Lemma 1 verwenden um zu begründen das in p auch nur ein lokales Minimum von f in S liegt. In diesem Beispiel liefert die Methode der Lagrange-Multiplikatoren also den richtigen Punkt, kann aber nicht direkt entscheiden das es sich um ein globales Minimum handelt. Im zweiten Beispiel hatten wir die Funktion f : R 3 R mit f(x, y, z) = xy + z für alle x, y, z R auf der Restriktionsmenge S = {x R 3 : x 2 = r} mit r > 0 untersucht. Mit den obigen Bezeichnung ist also g(x, y, z) = x 2 + y 2 + z 2 r 2 und wir haben die Gleichungen (1) y 2λx = 0, (2) x 2λy = 0, (3) 1 2λz = 0, (4) x 2 + y 2 + z 2 = r 2. Die Gleichungen (1) und (2) sind ein homogenes lineares Gleichungssystem für x, y mit Determinante 2λ 1 1 2λ = 4λ2 1 = (2λ 1) (2λ + 1). Ist also λ ±1/2, so haben wir x = y = 0 und (4) ergibt z = ±r, und wir haben wieder Nord- und Südpol unserer Kugel. Ist λ = 1/2, so bedeuten die Gleichungen (1) und (2) beide x = y und (3) liefert z = 1. Einsetzen in (4) ergibt schließlich 2x 2 = r 2 1, also r 1 und x = y = ± (r 2 1)/2. Im letzten Fall λ = 1/2 haben wir dagegen nach (1) und (2) diesmal y = x, nach (3) ist z = 1 und (4) wird zu 2x 2 = r 2 1 also wieder r 1 und x = ± (r 2 1)/2, y = (r 2 1)/2. Wir haben also erneut genau diejenigen Punkte erhalten die sich schon bei unserer Rechnung über die Parametrisierung durch Kugelkoordinaten ergeben hatten. 5-10