$Id: lagrangetex,v 18 01/11/09 14:07:08 hk Exp $ $Id: untermfgtex,v 14 01/11/1 10:00:34 hk Exp hk $ Extrema unter Nebenbedingungen Lagrange-Multiplikatoren In der letzten Sitzung hatten wir begonnen die sogenannte Methode der Lagrange- Multiplikatoren zur Berechnung lokaler und globaler Extrema unter Nebenbedingungen zu besprechen Gegeben waren eine auf einer offenen Menge U R n definierte, stetig differenzierbare Funktion f : U R und eine durch r Gleichungen beschriebene Restriktionsmenge S = {x U g 1 (x) = = g r (x) = 0}, wobei g 1,, g r : U R stetig differenzierbare Funktionen auf U sind Wir wollen lokale und globale Maxima und Minima der Funktion f auf der Restriktionsmenge S bestimmen Die Lagrange-Multiplikatoren λ 1,, λ r R sind dann r viele noch festzulegende reelle Parameter, die so gewählt werden sollen, dass die ergänzte Funktion Λ : U R; x f(x) g k (x) in einem Punkt x 0 S der Restriktionsmenge einen kritischen Punkt hat Konkret bedeutet dies das wir für die n + r Unbekannten x 0 = (x 1,, x n ), λ 1,, λ r das aus n + r Gleichungen bestehende System f (x 0 ) (x 0 ) = 0 (1 i n), g j (x 0 ) = 0 (1 j r) lösen müssen Eine echte Bedeutung hat dabei nur der Punkt x 0 S, die Lagrange- Multiplikatoren sind, wie schon letztes Mal erwähnt, reine Hilfsgrößen ohne eigenständigen inhaltlichen Wert In einigen speziellen Situationen kann man dann auch den Lagrange-Multiplikatoren noch eine inhaltliche Rolle geben, aber nicht in der hier behandelten allgemeinen Situation Aus dem Lagrangeschen Ergänzungsansatz Lemma 1 wissen wir { Λ hat in x0 S ein (lokales) Maximum = { f hat in x0 ein (lokales) Maximum in S Konkret waren wir gerade damit beschäftigt die im vorigen Abschnitt mit der Parametrisierungsmethode gerechneten Beispiele auch einmal unter Verwendung der Lagrange- Multiplikatoren durchzurechnen Die ersten beiden Beispiele haben wir dabei bereits 6-1
fertiggestellt Im dritten Beispiel f(x, y, z) = x + 3xy + yz y war die Restriktionsmenge durch die beiden Gleichungen x + y = 1, x + y z = gegeben Hier haben wir also n = 3, r =, g 1 (x, y, z) = x + y 1 und g (x, y, z) = x + y z + Damit haben wir gleich zwei Lagrange-Multiplikatoren λ = λ 1, µ = λ und unsere fünf Gleichungen sind (1) x + 3y λx µ = 0, () 3x + z λy µ =, (3) y + µ = 0, (4) x + y = 1, (5) x + y z = Wir benutzen Gleichung (3) um µ = y zu eliminieren und dann werden (1,,5) zu einem linearen Gleichungssystem (1 λ)x + 5y = 0 3x + (1 λ)y + z = x + y z = in dem λ als Parameter erscheint Dieses System lösen wir per Gauß-Elimination wobei wir die Stufenform in der Variablenreihenfolge x, z, y bilden 1 1 3 1 λ 1 (1 λ) 5 0 0 1 1 0 1+4λ 5 5 0 4 + λ 1 λ (1 λ) 1 1 0 1+4λ 5 5 0 1+8λ 4λ 0 0 5 Wäre jetzt 1 + 8λ 4λ 0, so hätten wir y = 0, z = und x = 0, aber dann ist Gleichung (4) nicht erfüllt Es muss also λ λ 1/4 = 0 sein und wir erhalten λ = 1 ± 1 + 1 4 = 1 ± 5 Wir unterscheiden die beiden möglichen Fälle Fall 1 Zunächst sei λ = 3/ Unser lineares Gleichungssystem wird dann zu x + y z = 5 + 5z = 5 und folglich sind y = z und x = 1 z 1 y 1 = z 6-
Setzen wir diese Werte in Gleichung (4) ein, so wird diese zu Für y und z ergeben sich und wir haben zwei Kandidaten p 1 = x + y = (z )! = 1, also z = ± 1 x = z = ± 1, y = z = 1, ( 1, 1, + 1 ), p = ( 1, 1, 1 ) Fall Nun sei λ = 7/ Unser lineares Gleichungssystem wird dann zu und folglich sind y = z 3 x + y z = 15y + 5z = 5 und x = 1 z 1 y 1 = z 3 Setzen wir diese Werte in Gleichung (4) ein, so wird diese zu Für y und z ergeben sich = y x + y = 9 (z )! = 1, also z = ± 3 x = y = z 3 = ± 1, und wir haben weitere zwei Kandidaten ( 1 1 p 3 =,, + 3 ) (, p 4 = 1, 1, 3 ) Diese vier Punkte sind wieder genau die vier lokalen Extrema die wir auch schon mit der Parametrisierungsmethode gefunden haben In allen diesen Beispielen finden wir also mittels der Lagrange-Multiplikatoren genau dieselben Punkte die sich auch über die Parametrisierungsmethode ergeben hatten, allerdings kennen wir bislang keinen rechten Grund warum dies so ist Im ersten der drei Beispiele hatten wir gesehen das sogar in einem globalen Minimum des restringierten Problems kein lokales Extremum der ergänzten Funktion Λ vorliegen muss Im folgenden Satz werden wir einsehen, dass sich für jedes lokale Extremum des restringierten Problems immer ein passender Satz von Lagrange-Multiplikatoren finden läßt solange eine gewisse geometrische Bedingung an die Nebenbedingungen g 1,, g r erfüllt ist 6-3
Satz (Hauptsatz über Lagrange-Multiplikatoren) Seien n, r N\{0}, U R n offen und f, g 1,, g r : U R n stetig differenzierbare Funktionen Setze Dann gelten: S := {x U g 1 (x) = = g r (x) = 0} U (a) Sind x 0 S und λ 1,, λ r R so, dass x 0 ein globales (lokales) Maximum der Funktion Λ : U R; x f(x) g k (x) ist, so hat die Funktion f in x 0 ein globales (lokales) Maximum auf S und für jedes 1 i n gilt die Gleichung f (x 0 ) (x 0 ) = 0 Die entsprechende Aussage gilt dann auch für lokale und globale Minima (b) Sei x 0 S so, dass f in x 0 ein lokales Extremum auf S hat Weiter seien die Vektoren grad g 1 (x 0 ),, grad g r (x 0 ) linear unabhängig Dann existieren λ 1,, λ r R mit für alle 1 i n f (x 0 ) (x 0 ) = 0 Beweis: (a) Dies haben wir bereits mittels des Lagrangeschen Ergänzungsansatzes Lemma 1 eingesehen (b) Wir betrachten die stetig differenzierbare Funktion g := (g 1,, g r ) : U R r Die Vektoren grad g 1 (x 0 ),, grad g r (x 0 ) sind dann die Zeilen der Jacobi-Matrix Dg(x 0 ) von g im Punkt x 0, und da diese als linear unabhängig vorausgesetzt sind hat die r n-matrix Dg(x 0 ) nach I 1Satz 3(c) den Rang r und es gibt auch r linear unabhängige Spalten von Dg(x 0 ) Zur Vereinfachung der Notation können wir durch eventuelles Umsortieren der Argumente dann auch gleich annehmen, dass die hinteren r Spalten von Dg(x 0 ) linear unabhängig sind Schreiben wir dann die Punkte des R n als (x 1,, x n ) = (x 1,, x n r, y 1,, y r ) = (x, y) mit x 0 = (a, b), so besteht die r r-matrix D y g(x 0 ) = g 1 y 1 (x 0 ) g r y 1 (x 0 ) g 1 y r (x 0 ) g r y r (x 0 ) = 6-4 g 1 x n r+1 (x 0 ) g r x n r+1 (x 0 ) g 1 x n (x 0 ) g r x n (x 0 )
aus r linear unabhängigen Spalten, hat also wieder den vollen Rang r und ist somit invertierbar Damit können wir den Satz über implizite Funktionen 1Satz 8 auf die Funktion g anwenden, und erhalten offene Mengen V R n r, W R r mit a V, b W und V 1 W 1 U so, dass es für jedes x V genau ein ϕ(x) W mit g(x, ϕ(x)) = 0, also (x, ϕ(x)) S, gibt Weiter ist ϕ nach diesem Satz stetig differenzierbar mit ϕ(a) = b und für jedes x V gilt ϕ (x) = D y g(x, ϕ(x)) 1 D x g(x, ϕ(x)) Wie im Satz über implizite Funktionen bezeichnet D y dabei die partiellen Ableitungen nach den Variablen y 1,, y r und D x die nach x 1,, x n r Wir betrachten jetzt die stetig differenzierbare Funktion F : V R; x f(x, ϕ(x)), und behaupten das diese in a ein lokales Extremum hat Da nämlich f in x 0 = (a, b) ein lokales Extremum auf S hat, gibt es ɛ > 0 so, dass f(x 0 ) f(x) für alle x S mit x x 0 < ɛ gilt oder dass f(x 0 ) f(x) für alle x S mit x x 0 < ɛ gilt Da mit ϕ auch die Funktion ψ : V R n ; x (x, ϕ(x)) stetig ist und ψ(a) = (a, ϕ(a)) = (a, b) = x 0 gilt, existiert ein δ > 0 mit ψ(b δ (a)) B ɛ (x 0 ) Für jedes x V mit x a < δ ist dann (x, ϕ(x)) = ψ(x) S B ɛ (x 0 ) und somit F (x) = f(x, ϕ(x)) f(x 0 ) = f(a, ϕ(a)) = F (a) wenn x 0 ein lokales Maximum von f auf S ist beziehungsweise analog F (x) F (a) wenn f ein lokales Minimum von f auf S ist Damit hat die Funktion F im Punkt a tatsächlich ein lokales Maximum oder ein lokales Minimum Somit hat die Funktion F in a ein lokales Extremum und mit II 8Satz 4 ergibt sich F (a) = 0 Mit der Kettenregel II 8Satz 17 folgt weiter ( ) 1 0 = F (a) = f (a, b) ϕ (a) = ( ) ( D x f(a, b) D yf(a, b) 1 D y g(a, b) 1 D x g(a, b) = D x f(a, b) D y f(a, b) D y g(a, b) 1 D x g(a, b), und wir schreiben den Zeilenvektor D y f(a, b) D y g(a, b) 1 R r als λ = (λ 1,, λ r ) := D y f(a, b) D y g(a, b) 1 R r Die obige Gleichung nimmt damit die Form D x f(x 0 ) λ D x g(x 0 ) = 0 an, und ausgeschrieben bedeutet dies f (x 0 ) (x 0 ) = 0 für alle 1 i n r Um auch die noch fehlenden x n r+i = y i für 1 i r zu behandeln, schreiben wir die Definition des Vektors λ um zu D y f(x 0 ) λ D y g(x 0 ) = 0 6-5 )
und dies bedeutet für 1 i r f x n r+i (x 0 ) (x 0 ) = f (x 0 ) x n r+i y i y i (x 0 ) = 0 Dieser Satz zeigt uns, dass wir über die Gleichungen für die Lagrange-Multiplikatoren tatsächlich fast alle lokalen Extrema der Funktion f auf der Restriktionsmenge S finden Eine potentielle Ausnahme sind nur diejenigen Punkte in denen die Gradienten der Nebenbedingungen linear abhängig sind, diese Punkte müssen noch gesondert untersucht werden Was die lineare Unabhängigkeit der Gradienten geometrisch bedeutet werden wir im nächsten Kapitel behandeln, insbesondere werden wir dann sehen das dieser Fall bei ausreichend glatter Restriktionsmenge S nicht vorkommt Wir fassen unsere bisherigen Erkenntnisse über die Lagrange-Multiplikatoren jetzt noch in einem Korollar zusammen, dieses bietet inhaltlich nichts Neues und dient nur organisatorischen Zwecken Korollar 3 (Lokale Extrema unter Nebenbedingungen) Seien n, r N mit 1 r n, U R n offen und f, g 1,, g r : U R stetig differenzierbare Funktionen Setze S := {x U g 1 (x) = = g r (x) = 0} U und bilde die folgenden beiden Mengen { A := x U (λ 1,, λ r R) (1 i n) : f (x) { B := x S Die Gradienten grad g } 1(x),, grad g r (x) sind linear abhängig (x) = 0 Dann liegt jedes lokale Extremum von f auf der Restriktionsmenge S in A B Besitzt f ein globales Maximum auf S, so gilt M := sup f(x) = max f(x) x S x A B und jedes globale Maximum von f auf S liegt in A B Beweis: Ist x S ein lokales Extremum von f auf S, so sind entweder die Gradienten grad g 1 (x),, grad g r (x) linear abhängig und wir haben x B, oder diese Gradienten sind linear unabhängig und dann gibt es nach dem Hauptsatz über die Lagrange- Multiplikatoren Satz passende Lagrange-Multiplikatoren zu x und wir haben x A Besitzt f schließlich ein globales Maximum auf S, so ist dieses insbesondere ein lokales 6-6 },
Maximum von f auf S und liegt somit in A B, dh die Maxima von f auf S und auf A B stimmen überein Wir wollen noch ein paar abschließende Anmerkungen zu diesem Thema machen Wir übernehmen dabei die Bezeichnungen des Korollars Beachte zunächst das die kompliziert aussehende Menge A einfach die Menge aller Lösungen der n + r Gleichungen für die Lagrange-Multiplikatoren ist, wobei die Multiplikatoren selbst nicht in A erscheinen Die Ausnahmemenge B ist in den meisten Fällen leer, linear abhängige Gradienten treten auf S meist gar nicht auf Weiter ist zwar jedes lokale Extremum des auf S restringierten Problems in A B, allerdings ist nicht umgekehrt jedes Element von A B, oder auch nur von A, ein lokales Extremum von f auf S Bei welchen der Kandidatenpunkte x A B es sich wirklich um lokale Extrema auf S handelt muss immer im Einzelfall untersucht werden Wir wollen uns jetzt noch kurz überlegen das die Menge B in unseren drei Beispielen tatsächlich immer leer ist, und gehen die drei Beispiele hierzu der Reihe nach durch Dabei geben wir jeweils nur die Nebenbedingungen an, da die zu optimierende Funktion f für diese Überlegung keine Rolle spielt 1 Im ersten Beispiel hatten wir eine Nebenbedingung g : R 3 R; (x, y, z) x + y + z 1, also S = {(x, y, z) R 3 x + y + z = 1} Für alle x, y, z R ist dann grad g(x, y, z) = (1, 1, 1) 0 und da ein einzelner von Null verschiedener Vektor linear unabhängig ist, ist in diesem Fall B = Im zweiten Beispiel hatten wir wieder eine Nebenbedingung, diesmal g : R 3 R; (x, y, z) x + y + z r, wobei r > 0 eine Konstante ist Es ist S = {(x, y, z) R 3 x + y + z = r } und für jedes (x, y, z) R 3 gilt grad g(x, y, z) = (x, y, z) Wegen 0 / S ist damit grad g(x) 0 für alle x S, und somit haben wir wieder B = 3 Im letzten Beispiel hatten wir zwei Nebenbedingungen g 1, g : R 3 R, gegeben durch g 1 (x, y, z) = x + y 1 und g (x, y, z) = x + y z + für alle x, y, z R Für x, y, z R haben diese Funktionen die Gradienten grad g 1 (x, y, z) = (x, y, 0) und grad g (x, y, z) = (, 1, 1) Für (x, y, z) S ist stets (x, y) (0, 0), also sind diese beiden Gradienten in (x, y, z) linear unabhängig und wir haben auch in diesem Fall B = eingesehen 6-7
3 Untermannigfaltigkeiten des R n In diesem kurzen Kapitel wollen wir auf zwei durch die Entwicklungen des aufgeworfene Fragen eingehen Im Hauptsatz über die Lagrange-Multiplikatoren Satz hatten wir gesehen, dass es zu einem gegebenen lokalen Extremum x S einer stetig differenzierbaren Funktion f auf S = {x g 1 (x) = = g r (x) = 0} stets einen passenden Satz von Lagrange-Multiplikatoren gibt, ausser wenn die Gradienten der Nebenbedingungen im Punkt x, also grad g 1 (x),, grad g r (x), linear abhängig sind Im Beweis des Hauptsatzes hatten wir die lineare Unabhängigkeit dieser Gradienten benötigt um die Voraussetzungen des Satzes über implizite Funktionen herzustellen Beachte das diese Bedingungen nur die Funktionen g 1,, g r, also letztlich die Restriktionsmenge S, betreffen und von der betrachteten Funktion f völlig unabhängig sind Damit stellt sich die Frage ob die lineare Unabhängigkeit der Gradienten nur eine rein technische Bedingung ist oder ob sie eine geometrische Bedeutung für die Menge S besitzt? Weiter stellt sich die Frage wie die Parametrisierungsmethode und die Methode der Lagrange-Multiplikatoren miteinander zusammenhängen? Jedes unserer Beispiele konnten wir mit beiden Methoden behandeln, aber zunächst wäre es denkbar das es Beispiele gibt die sich nur mit der einen Methode rechnen lassen aber nicht mit der anderen Die Parametrisierungsmethode ist anwendbar wenn wir unsere Restriktionsmenge S parametrisieren können und die Methode der Lagrange-Multiplikatoren ist anwendbar wenn wir sie mittels Nebenbedingungen g 1 (x) = = g r (x) = 0 beschreiben können Wie wir sehen werden sind diese beiden Eigenschaften, unter gewissen Nebenbedingungen, zumindest lokal völlig gleichwertig Die beiden Methoden erfassen also im wesentlichen dieselben Restriktionsmengen S, und es stellt sich die Frage welches diese Mengen sind? Es stellt sich heraus das all diese Fragestellungen auf denselben Begriff hinauslaufen, die Menge S muss in einem geeigneten Sinne glatt sein Die nun folgende exakte Formulierung dieses Konzepts berücksichtigt sogar verschiedene Glattheitsstufen die durch den Grad der geforderten Differenzierbarkeit festgelegt sind Definition 31: Seien n, m N und q N { } mit n, m, q 1 gegeben Eine Teilmenge M R n heißt eine m-dimensionale C q -Untermannigfaltigkeit des R n wenn es für jedes x 0 M stets eine offene Menge U R m, ein a U und eine q-fach stetig differenzierbare Funktion ϕ : U R n mit ϕ(a) = x 0 und den folgenden drei Eigenschaften gibt: (a) Die Abbildung ϕ ist injektiv (b) Für jede offene Menge V R m mit V U gibt es eine offene Menge W R n mit ϕ(v ) = W M (c) Für jedes x U sind die m Vektoren ϕ ϕ (x),, (x) x 1 x m 6-8
linear unabhängig Jede solche Funktion ϕ mit den drei genannten Eigenschaften (a,b,c) heißt dann eine C q -Parametrisierung von M Die Forderungen (a) und (c) überlappen sich dabei etwas in ihrer inhaltlichen Bedeutung, sie sollen Doppelparametrisierungen und ähnliche unerwünschte Probleme ausschließen Beispielsweise wird sowohl durch (c) als auch durch (a) verboten eine Gerade etwa durch zwei Parameter zu beschreiben Die Bedingung (b) ist etwas diffiziler, auf ihre Bedeutung werden wir erst später eingehen Tatsächlich gibt es eine Variante des Begriffs der Untermannigfaltigkeit bei der auf (b) verzichtet wird Wie schon angekündigt ist die lokale Parametrisierbarkeit gleichwertig zur lokalen Beschreibbarkeit durch Nebenbedingungen, der Beweis des entsprechenden Satzes ist dabei eine Übungsaufgabe Satz 31 (Kennzeichnung von Untermannigfaltigkeiten) Seien n, m N, q N { } mit n, m, q 1 und M R n eine Teilmenge des R n Genau dann ist M R n eine m-dimensionale C q -Untermannigfaltigkeit des R n wenn es für jedes x 0 M stets eine offene Menge U R n mit x 0 U und q-fach stetig differenzierbare Funktionen g 1,, g n m : U R gibt so, dass M U = {x U g 1 (x) = = g n m (x) = 0} gilt und die Gradienten grad g 1 (x),, grad g n m (x) für jedes x M U linear unabhängig sind Beweis: = Dies ist klar nach Aufgabe (15) = Dies wird in der Implikation von (b) nach (a) in Aufgabe (15) bewiesen Zum Abschluß der heutigen Sitzung wollen wir noch ein erstes Beispiel einer Untermannigfaltigkeit angeben Erinnern wir uns an das erste Beispiel aus 1, so hatten wir gesehen das die einfachste Möglichkeit zur Herstellung einer Parametrisierung das Auflösen der betrachteten Gleichung nach einer der Variablen ist Die durch solche Parametrisierungen beschriebenen Untermannigfaltigkeiten des R n sind gerade die Graphen q-fach stetig differenzierbarer Funktionen Um dies genauer zu beschreiben, seien n, m N und q N { } mit n, m, q 1, eine offene Menge U R n und eine q-fach stetig differenzierbare Funktion f : U R m gegeben Dann ist der Graph von f, also die Menge M := {(x, f(x)) x U} R n+m eine n-dimensionale Untermannigfaltigkeit des R n+m Wir können nämlich für alle Punkte von M dieselbe Parametrisierung ϕ : U R n+m ; x (x, f(x)) 6-9
verwenden Dies ist eine injektive, q-fach stetig differenzierbare Funktion mit ϕ(u) = M und für jedes x U sind die Vektoren ( ϕ e1 (x) = f x 1 x 1 (x) ),, ϕ ( en (x) = f x n x n (x) im R n+m linear unabhängig Außerdem haben wir für jede offene Menge U R n mit U U im R n+m die offene Menge V := U R m mit M V = ϕ(u ) Nehmen wir etwa konkret die Funktion f : R R; x x, so wird die Parabel M = {(x, x ) x R} eine eindimensionale C -Untermannigfaltigkeit des R und nehmen wir f : R R; (x, y) x + y so wird das Rotationsparaboloid M = {(x, y, x + y ) x, y R} eine zweidimensionale C -Untermannigfaltigkeit des R 3 ) 6-10