Konvexe Funktionen und Legendre-Transformation

Transkript

1 Konvexe Funktionen und Legendre-Transformation Def. Eine Teilmenge A R n heißt konvex, wenn sie mit je zwei Punkten x, y auch stets deren Verbindungsstrecke xy = {x +t xy 0 t 1} = {(1 t)x +ty 0 t 1} enthält. konvex nicht konvex Bsp. R n ist selbst konvex. Auf R ist jedes Intervall (mit oder ohne Endpunkte) konvex. Jede konvexe Teilmenge von R ist ein (eventuell, ausgeartetes) Intervall.

2 Def. Eine Funktion f : U R heißt konvex, falls U konvex ist und es gilt: x 0,x 1 U t [0,1] gilt (1 t)f(x 0 )+tf(x 1 ) f((1 t)x 0 +tx 1 )}. Geometrische Vorstellung: die Punkte (1 t)f(x 0 ) + tf(x 1 ) sind für t [0,1] die Punkte des Intervalls mit Endpunkten( f(x 0 )) und ( f(x 1 ). ) Die Punkte (1 x0 x1 t) +t sind die Punkte f(x 0 ) f(x 1 ) ( ) x0 des Intervalls mit Endpunkten ( ) f(x 0 ) x1 und des Graphs der Funktion f(x 1 ) f. Die Funktion ( ist ) konvex, ( wenn ) auf R n R der Punkt x0 x1 (1 t) +t höher liegt als der Punkt ( f(x 0 ) ) f(x 1 ) (1 t)x0 +tx 1 (oder fällt mit dem Punkt zusammen). f((1 t)x 0 +tx 1 )

3 Def. Eine Funktion f : U R heißt konvex, falls U konvex ist und es gilt: x 0,x 1 U t [0,1] es gilt (1 t)f(x 0 ) + tf(x 1 ) f((1 t)x 0 + tx 1 ). Bsp. Die Funktion x x 2 (von R nach R) ist konvex. Beweis. Für f(x) = x 2 sieht die Ungleichung (1 t)f(x 0 )+tf(x 1 ) f((1 t)x 0 +tx 1 ) wie folgt aus: (1 t)x 2 0 +tx 2 1 ((1 t)x 0 +tx 1 ) 2 = (1 t) 2 x (1 t)tx 0 x 1 +t 2 x 2 1 Nach algebraischen Manipulationen (ziehe alles nach links wende das Distributionsgesetz an) bekommen wir die Bedingung: t(1 t)(x 2 0 2x 1 x 2 +x 2 1) 0, ( ) was offensichtlich gilt, denn (x0 2 2x 1x 2 +x1 2) = (x 0 x 1 ) 2. Bemerkung. Die Aussage ist geometrisch offensichtlich, da die Strecke zwischen den Punkten (x 0,x0 2) und (x 1,x1 2 ) über dem Graph der Funktion f(x) = x 2 liegt.

4 Bemerkung. Eine auf einer konvexen Menge U R n definierte Funktion ist genau dann konvex, wenn der Obergraph, also die Menge konvex ist. {(x,y) R n R x U,y f(x)} R n+1, Der Beweis wird auf der Tafel besprochen. Bsp. Lineare Funktionen sind konvex. Konstante Funktionen sind konvex. Linearkombinationen von konvexen Funktionen mit nichtnegativen Koeffizienten sind konvex.

5 Wir betrachten die Funktion f : R n R, f(x) = a ij x i x j = (x 1,...,x n ) a ij i,j x 1.. x n, wobei a ij eine (konstante) Matrix und (o.b.d.a) (a ij ) symmetrisch sei. Dann gilt: Die Funktion ist g.d. konvex, wenn die Bilinearform x,y i,j a ijx i y j nichtnegativ definit ist, d.h. für alle x R n ist f(x) = ij a ijx i x j 0. (Der Beweis wird auf der Tafel besprochen. Die Aussage wird auch aus Satz 7 folgen). Bemerkung. Aus LA I kennen wir das sogenannte Sylvester-Kriterium zur Überprüfung der Definitheit von Bilinearformen mit Gramscher Matrix (a ij ). Bemerkung. Ebenfalls wissen wir aus der LA, dass man mit Hilfe einer geeigneten, linearen Koordinatentransformation die Matrix (a ij ) diagonal machen kann. Es ist offensichtlich, dass eine Diagonalmatrix g.d. einer nichtnegativ definiten Bilinearform entspricht, wenn alle Diagonaleigräge nichtnegativ sind. Z.B. ist die Funktion f(x 1,x 2 ) = x1 2 x2 2 nicht konvex.

6 Def. Eine Funktion f : U R heißt konvex, falls U konvex ist und es gilt: x 0,x 1 U mit x 0 x 1 t [0,1] gilt (1 t)f(x 0 ) + tf(x 1 ) f((1 t)x 0 + tx 1 ). Def. Eine konvexe Funktion f ist streng konvex, wenn die Ungleichung in der Definition der Konvexität für t (0,1) streng ist. Bsp. f(x) = x 2 ist streng konvex. Erklärung. Wir haben bereits gesehen, dass für f(x) = x 2 (1 t)f(x 0 )+tf(x 1 ) f((1 t)x 0 +tx 1 ) = t(1 t)(x 0 x 1 ) 2. Falls x 0 x 1 und t (0,1) ist t(1 t)(x 0 x 1 ) 2 positiv und die Ungleichung (1 t)f(x 0 )+tf(x 1 ) f((1 t)x 0 +tx 1 ) ist streng. Bsp. Lineare Funktionen sind konvex, aber nicht streng konvex. Bemerkung. Geometrisch bedeutet die strenge Konvexität, dass innere Punkte der Strecke, welche die Punkte (x 0,f(x 0 )) und (x 1,f(x 1 )) verbindet, innere Punkte des Obergraphen der Funktion f sind.

7 Hinreichende Bedingung für Konvexität Satz 7. Es sei f : U R eine glatte (mind. C 2 -) Funktion auf konvexem U R n. Ist die Bilinearform( Dxf 2 nichtnegativ ) definit in jedem x U, (äquivalent: ist die Matrix 2 f x i x j (x) nichtnegativ definit für jedes x U), so ist die Funktion konvex. Ferner gilt: Ist die Bilinearform ( ) Dxf 2 positiv definit in jedem x U (äquivalent: ist die Matrix 2 f x i x j (x) positiv definit für jedes x U), so ist die Funktion streng konvex.

8 Wiederholung: Was ist D 2 xf? (Analysis II) Die Bilinearform D 2 xf definiert man wie folgt: für x U ist D 2 xf(u,v) = 2 s t f(x +tv +su) t=s=0. In ( Koordinaten: ) Die Gramsche Matrix von Dxf 2 ist die Hesse-Matrix 2 f x i x j (x) und die Bilinearform Dxf(u,v) 2 ist (u,v) i,j 2 f x i x j (x)u i v j. Bis auf den Koeffizienten 1/2 ist die Funktion h D 2 x 0 f(h) die Summe quadratischer Terme in der Taylorreihe von f im Punkt x 0. In Dimension 1 ist die Bilinearform D x F gegeben durch h 1 h 2 h 1 h 2 f (x). Die Bedingung nichtnegativ definit ist dann die Bedingung f 0, und positiv definit ist f > 0.

9 Beweis für n = 1 unter der Annahme f > 0. x 0,x 1 U t [0,1] gilt (1 t)f(x 0 ) + tf(x 1 ) f((1 t)x 0 + tx 1 ). Es seien nun x 0 < x 1 U beliebig und v := x 1 x 0. Wir betrachten die Funktion g : [0,1] R, g(t) := f(x 0 +tv) (1 t)f(x 0 ) tf(x 1 ) = = ( (1 t)f(x 0 ) tf(x 1 ) f((1 t)x 0 +tx 1 ) ) Es ist g(0) = g(1) = 0. Zu zeigen wäre: g(t) < 0 für t [0,1]. Da g stetig auf dem kompakten Intervall [0,1] ist, nimmt g in einem Punkt t [0,1] sein Maximum an: g(t ) = max t [0,1] g(t). Ist t = 0 oder t = 1, dann sind wir fertig, die Funktion ist dann kleiner gleich 0. Sei also angenommen, dass t (0,1). Da g dort 2-mal differenzierbar ist, muss g (t ) = 0 und g (t ) 0. Da g (t ) = v 2 f (x 0 +t v), widerspricht die Bedingung g (t ) 0 der Voraussetzung f > 0

10 Beweis für n = 1 unter der Annahme f 0. Wie im Beweis unter der Annahme f > 0, betrachten wir die Funktion g(t) und ihr Maximum t. Ist t = 0 oder t = 1, oder ist f(t ) = 0, dann sind wir fertig. Sei also angenommen, dass t (0,1) und f(t ) > 0. In Punkt t ist g = 0, in allen Punkten ist g = (g ) 0. Dann ist die Funktion g nichtnegativ auf dem Intervall [t,1] und deswegen die Funktion g nicht fallend auf [t,1]. Aber im Punkt t ist sie > 0 und im Punkt 1 ist sie 0, was uns ein Widerspruch gibt.

11 Beweis für beliebiges n Wir betrachten wieder die Funktion g : [0,1] R, g(t) := f(x 0 +tv) (1 t)f(x0) tf(x 1 ) = = ( (1 t)f(x 0 )+tf(x 1 ) f((1 t)x 0 +tx 1 ) ) Sie ist eine Funktion einer Variablen t (obwohl x 0 und x 1 jetzt Vektoren sind). Die zweite Ableitung dieser Funktion im Punkt t ist g (t) = D 2 (x 0 +tv) f(v) und ist 0 falls, D2 f nichtnegativ definit ist. Sie ist > 0, falls D 2 f positiv definit ist. Wir wiederholen die Argumentation wie in Dimension 1 und erhalten die Aussage.

12 Legendre-Transformation: Zunächst in Dimension n = 1 Sei f : U R konvex. Wir betrachten die Funktion g(p) := max(xp f(x)). x U Diese Funktion ist auf der folgenden Menge U g definiert: U g = {p R : max(xp f(x))}. x U Bemerkung. Die Konvexität der Funktion f impliziert: Existiert das Maximum max x U (xp f(x)), so ist die Menge der Punkte, in denen das Maximum angenommen wird, ein Intervall. Wenn die Funktion f streng konvex ist, wird das Maximum max x U (xp f(x)) in genau einem Punkt angenommen. Def. Die so konstruierte Funktion g heißt Legendre-Transformation von f. Wir werden die Bezeichnung f für die Funktion g verwenden.

13 Rechnerische Bestimmung der Legendre-Transformation Es sei f : U R glatt mit f > 0. Aus Satz 7 wissen wir, dass f strikt konvex ist. Nach Definition ist f (p) = max(xp f(x)). x U Aus Analysis I wissen wir, dass das Maximum dort angenommen wird, wo die Ableitung gleich 0 ist, also wo p = f ist (unter der Voraussetzung, dass die Funktion f auf ganz R definiert ist). Also: f (p) = x p p f(x p ), wo x p die Lösung der Gleichung f (x p ) = p ist. Bemerkung. Bei streng konvexen Funktionen ist so ein x p eindeutig, also die Abbildung p x p eine Bijktion ist (falls f glatt ist). Bei Funktionen mit f > 0 ist die Abbildung p x p glatt. Die Umkehrabbildung sieht man direkt aus der Formel f (x p ) = p: sie bildet den Pukt x auf p = f (x p ) ab.

14

15 Wichtige Eigenschaft der Legendre-Transformation: Wichtige Eigenschaft.Es gilt: f(x)+f (p) px Falls für ein x gilt: f(x)+f (p) = px, dann nimmt die Funktion x xp f(x) im Punkt x ihr Maximum an. Beweis. Die beiden Aussagen folgen direkt aus der Definition: f (p) := max(xp f(x)). x U Bemerkung. Diese Eigenschaft wird später intensiv benutzt. Sie wird auch mehrdimensional gelten. Auf der nächsten Folie zeigen wir eine Anwendung der Legendre-Transformation aus der Analysis, welche die wichtige Eigenschaft verwendet.

16 Anwendungen in der Analysis: Youngsche Ungleichung f(x) + f (p) px. Die Legendre-Transformation wird hauptsächlich in der klassischen Mechanik angewendet. Wir zeigen hier jedoch eine Anwendung aus der Analysis. Folgerung. Für alle x,p R gilt: xp x2 +p 2 2. Für alle α,β > 0 mit 1 α + 1 β = 1 gilt: xp 1 α xα + 1 β pβ Beweis. Wir haben vorher für f(x) = 1 2 x2 ausgerechnet, dass f (p) = p2 2. Wenn wir diese f,f in f(x)+f (p) px einsetzen, bekommen wir xp x2 +p 2 2. Analog haben wir vorher für f(x) = xα α ausgerechnet, dass f (p) = pβ β. Wenn wir diese f,f in f(x)+f (p) px einsetzen, bekommen wir xp 1 α xα + 1 β pβ

17 Die Legendre-Transformation ist eine Involution Lemma. Es sei f : U R konvex, und glatt, und die Hesse-Matrix ist in jedem Punkt positive definit. Dann ist die Legendre-Transformierte f auch konvex, glatt, hat positive Hesse-Matrix, und es gilt (f ) = f. Bemerkung. Glattheit ist nicht essenziell. Beweis der Konvexität: Zu zeigen ist: p 0,p 1 Definitionsbereich(f ) t [0,1] (1 t)f (p 0 )+tf (p 1 ) f ( (1 t)p 0 +tp 1 ). Wir ersetzen f mittels der Definition und bekommen (1 t) max x U (xp 0 f(x))+tmax x U (xp 1 f(x)) max x U (x ((1 t)p 0 +tp 1 ) f(x)). Die Aussage folgt dann aus den zwei offensichtlichen Formeln: max(f +g) maxf +maxg, maxλf = λmaxf für λ 0 Bemerkung. Selbstverständlich muss man noch zeigen, dass Definitionsbereich von f konvex ist. Beweis ist analog und ich werde ihn aus Zeitgründen nicht vorführen.

18 Beweis der Involutivität Wir haben (Wicht. Eigenschaft): xp f(x)+f (p) und die Ungleichung wird in einem Punkt x p zur Gleichung. Dann gilt: xp f (p) f(x) und die Ungleichung wird in einem Punkt x p zur Gleichung. Also: max p (xp f (p)) f(x) und die Ungleichung wird zur Gleichung für p mit x p = x. Schließlich ist (f ) = max p (xp f (p)) = f(x)

19 Legendre-Transformation für beliebiges n Grobe Regel: Alles ist wie in Dim. 1, man muss nur die Multiplikation an geeigneten Stellen ersetzen durch das Skalarprodukt ersetzen. Def. Sei f : U R, wobei (U R n konvex) eine konvexe Funktion. Man definiert die Legendre-Transformierte f von f durch f (p) := max(p x f(x)). x U Anschauliche Darstellung. Jedes p R n erzeugt auf natürliche Weise eine Hyperebene im R n+1, nämlich den Graph der Funktion x p x. f (p) ist dann analog zum 1-dimensionalen Fall das Maximum des vertikalen Unterschieds der Funktion zur Ebene.

20 f (p) := max(p x f(x)). x U Rechnerische Bestimmung der Legendre-Transformation gilt auch in Dimension n: f (p) = x p p f(x p ), wobei x p ( R n die Lösung der ) Gleichung f D xp f = x 1 (x p ),..., f x n (x p ) = p ist. Die wichtige Eigenschaft überlebt ebenfalls: Es gilt: f(x)+f (p) p x Die Legendre-Transformation ist nach wie vor eine Involution.

21 Hamiltonische Gleichungen Satz 8. Sei L(x,y,t) eine Lagrangefunktion sodass die Hesseform bzgl. y-koordinaten, also ( ) DyL 2 ( 2 L y i y j (x,y,t) ) für alle x,y,t positiv definit ist. Man bezeichne mit H(x,p,t) die Lagrange-Transformation von L(x,y,t) bzgl. der y-variablen, also die Funktion H(x,p,t) = y p p L(x,y p,t) ( ) L wobei y p durch die Bedingung y 1 (x,y p,t),..., L y n (x,y p,t) = p bestimmt. ( Dann für jede Extremal x(t) ) und für L L p(t) = y 1 (x,ẋ,t),..., y n (x,ẋ,t) gelten die folgenden Hamilton-Gleichungen ẋ = H(x,p,t) p, ṗ = H(x,p,t) x. Ferner gilt: für jede Lösung (x(t), p(t)) der H-Gleichungen ist die Kurve x(t) eine Extremalkurve von L.

22 H(x,p,t) = y p p L(x,y p,t) ẋ = H(x,p,t) p, ṗ = H(x,p,t) x. Bemerkung. Die H-Gleichungen sind 2n GDG auf 2n unbekannten Funktionen x 1 (t),...,p n (t) in der Euler-Form. Bemerkung. Ich habe zu viel vorausgesetzt, um Beweise einfacher zu halten. Man kann z.b. die Aussage auch für nichtglatte Funktionen verallgemeinern.

23 Beweis von Satz 8. H(x,p,t) = y p p L(x,y p,t) ẋ = H(x,p,t) p, ṗ = H(x,p,t) x. Wir betrachten die folgende Funktion von n+n+n+1 = 3n+1 Variablen (x,p,y,t): Tmp(x,y,p,t) = L(x,y,t)+H(x,p,t) p y. Aus Wicht. Eigenschaft der Legendre-Transformation folgt Tmp 0 und Tmp(x,y,p,t) = 0 nur für p = L y. Dann sind die Partielle Ableitungen von Tmp(x,y,p,t) bzgl. x, y und p gleich 0 im p = L y : L x + H x = 0, L y p = 0, H p y = 0. Das ist offensichtlich Äquivalent zur L x = H x, L y = p, H p = y.

24 L x = H x, L y = p, H p = y. Jetzt betrachten wir wir diese Gleichungen im Punkten (x,y,t) = (x,ẋ,t), wobei x(t) eine Extremale ist. Die dritte Gleichungen gibt uns sofort die erste Hamilton-Gleichung H p = ẋ. In der ersten Gleichung ersetzen wir L x durch d L dt ẋ und bekommen die zweite amilton-gleichung ṗ = H x. Bemerkung. Ich habe den Satz nur in einer Richtung gezeigt: ich habe gezeigt dass die Extremale von L die Lösungen von Hamilton-Gleichungen sind. Beweis in der anderen Richtung ist eine Übung für Sie; man muss überlegen dass alle Beweisschritte invertierbar sind.

25 Energieerhaltung revisited Die Formel für H ist H(x,p,t) = y p p L(x,y p,t) und ist dieselbe Formel wie für die Energie. Also, aus Satz 5 unter der zusätzlichen Annahme dass ( H t = ) 0 und auch unter der zusätzlichen Annahme dass die Matrix 2 H p i p j positiv definit ist folgt dass die Funktion H auf der Lösungen von Hamilton-Gleichungen konstant ist. ( Man kann dass direkt sehen, und die Annahme, dass die Matrix 2 H positiv definit ist ist nicht notwendig: d H H dth(x,p) = ẋ +ṗ x p = H p H x H x H p = 0 p i p j )