Der Begriff der konvexen Menge ist bereits aus Definition 1.4, Teil I, bekannt.

Transkript

1 Kapitel 3 Konvexität 3.1 Konvexe Mengen Der Begriff der konvexen Menge ist bereits aus Definition 1.4, Teil I, bekannt. Definition 3.1 Konvexer Kegel. Eine Menge Ω R n heißt konvexer Kegel, wenn mit x 1, x 2 Ω auch λ 1 x 1 + λ 2 x 2 Ω für alle λ 1, λ 2 0. Beispiel 3.2 Für λ 1 = λ 2 = 0 folgt, dass insbesondere 0 in einem konvexen Kegel enthalten sein muss. Nicht jede konvexe Menge ist ein konvexer Kegel, zum Beispiel sind Kreise keine konvexen Kegel. Der Winkelraum mit Scheitel 0 ist ein konvexer Kegel. Der Winkelraum mit Scheitel 0 ist kein konvexer Kegel. Sei a R n, a 0, α R und definiere die Hyperebene H(a, α) = { x R n : a T x = α }. Diese Hyperebene ist eine konvexe Menge. Übungsaufgabe Ist α 0, dann ist 0 H(a, α) und H(a, α) ist kein konvexer Kegel. Im Falle α = 0 ist H(a, α) ein konvexer Kegel H(a, α) = a. Übungsaufgabe Analog gilt für Halbräume H + (a, α) = { x R n : a T x α }, H (a, α) = { x R n : a T x α }, dass diese für α = 0 konvexe Kegel sind und sonst nicht. Eine Menge, die durch Hyperebenen berandet ist, die allesamt den Punkt 0 enthalten, wird auch polyhedrischer Kegel genannt. Polyhedrische Kegel sind konvexe Kegel, insbesondere R n + = {x R n : x 0}. Definition 3.3 Trennung von Mengen. Die Hyperebene H(a, α) trennt die nichtleeren Mengen Ω 1, Ω 2 R n, wenn gilt a T x α x Ω 1 und a T x α x Ω 2. Falls in beiden Relationen die echten Ungleichungen stehen, dann wird die Trennung streng genannt. Lemma 3.4 Sei Ω R n nichtleer, abgeschlossen und konvex und gelte 0 Ω. Dann existiert eine Hyperebene H(a, α) mit α > 0, so dass a T x > α für alle x Ω. 80

2 Beweis: Wir werden eine konkrete Hyperebene angeben. Seien x 1 Ω und B 1 = {x R n : x 2 x 1 2 } eine Kugel mit Radius x 1 2 und Mittelpunkt 0. Dann ist Ω B 1 und der Durchschnitt ist kompakt (abgeschlossen und beschränkt). Damit nimmt die stetige Funktion d(x) = x 2 ihr Minimum über Ω B 1 in einem Punkt x 0 an (Satz von Bolzano Weierstrass), dass heißt es gilt x 2 x 0 2 x Ω B 1. (3.1) Wegen 0 Ω ist x 0 2 > 0. Da die Elemente von Ω, die nicht in Ω B 1 liegen, eine größere Norm als x 1 2 x 0 2 besitzen, gilt (3.1) für alle x Ω. Wegen der Konvexität von Ω ist x 0 +λ (x x 0 ) Ω für alle x Ω und λ (0, 1] und es folgt (1 λ)x 0 + λx 2 = x 0 + λ (x x 0 ) 2 x 0 2 > 0. Quadratur dieser Ungleichung und Ausschreiben der Skalarprodukte ergibt 2λ (x x 0 ) T x 0 + λ 2 (x x 0 ) T (x x 0 ) 0. Division durch λ und dann λ 0 ergibt x T x 0 x T 0 x 0 = x > x > 0 x Ω. Die Hyperebene mit a = x 0 und α = x /2 erfüllt nun die Bedingungen des Lemmas. Eine Folgerung ist der nachfolgende Satz. Satz 3.5 Erster Trennungssatz. Seien Ω 1 abgeschlossen und konvex und Ω 2 kompakt und konvex, Ω 1, Ω 2 R n, mit Ω 1 Ω 2 =. Dann existiert eine Hyperebene H(a, α), die Ω 1 und Ω 2 streng trennt. Beweis: Seien Ω 1 = {x : x = y, y Ω 1 }, Ω 2 Ω 1 = {x : x 1 Ω 1, x 2 Ω 2 mit x = x 2 x 1 }. Diese Mengen sind konvex und abgeschlossen. Da Ω 1 und Ω 2 einen leeren Durchschnitt haben, gilt 0 Ω 2 Ω 1. Nach Lemma 3.4 gibt es eine Hyperebene H(a, α) mit α > 0 und a T (x 2 x 1 ) > α > 0 für alle x 1 Ω 1, x 2 Ω 2. Durch Umstellen dieser Beziehung erhält man inf a T x 2 sup a T x 1 + α > sup a T x 1. x 2 Ω 2 x 1 Ω 1 x 1 Ω 1 Jede Hyperebene H(a, β) mit ( ) β sup a T x 1, inf a T x 2 x 1 Ω 1 x 2 Ω 2 trennt damit Ω 1 und Ω 2 streng. Übungsaufgabe: Notwendigkeit der Kompaktheitsvoraussetzung für strenge Trennung an Beispiel zeigen. Satz 3.6 Jede abgeschlossene konvexe Menge Ω R n ist der Durchschnitt aller abgeschlossenen Halbräume, die Ω enthalten. 81

3 Beweis: Beweisskizze. Bezeichnen wir den Durchschnitt aller abgeschlossenen Halbräume, die Ω enthalten, mit D. Dann ist Ω D klar (Durchschnitt beliebig vieler konvexer Mengen ist konvex). Zu zeigen bleibt D Ω. Das geschieht indirekt, wobei der Widerspruch mit einer trennenden Hyperebene hergeleitet wird (sogenannter zweiter Trennungssatz, Details siehe [ERSD77, Abschnitt 2.1.4]). Der Eckpunkt oder Extrempunkt einer konvexen Menge wurde bereits in Definition 1.10, Teil I, definiert als ein Punkt, für den es keine echte konvexe Linearkombination gibt. Dafür, dass x 0 Ω ein Extrempunkt ist, reicht es bereits aus, dass man keine x 1, x 2 Ω findet, so dass x 0 = 1 2 x x 2. x 1, x 2 x 0, Übungsaufgabe Satz 3.7 Jede nichtleere, kompakte, konvexe Menge Ω R n einen Extrempunkt. besitzt mindestens Beweis: x Ω. Sei Da Ω kompakt ist, gibt es ein x 0 R n mit x 0 2 x 2 für alle x 0 = 1 2 x x 2 = x (x 2 x 1 ) = x (x 1 x 2 ) für x 1, x 2 Ω, x 1, x 2 x 0. Damit folgt x x = x x 2 x (x 2 x 1 ) T x 1. }{{} 0, da x 0 2 x 1 2 Das heißt x 2 x (x 2 x 1 ) T x 1 und analog x 2 x (x 1 x 2 ) T x 2 = 4 (x 2 x 1 ) T x 2. Addition der Ungleichungen ergibt 2 x 2 x (x 2 x 1 ) T (x 2 x 1 ) = 4 x 2 x und damit x 2 = x 1 = x 0. Somit ist x 0 ein Extrempunkt. 3.2 Konvexe und konkave Funktionen Definition 3.8 Konvexe, konkave Funktion. Die Funktion f : Ω R n R heißt konvex, wenn für beliebige x 1, x 2 Ω gilt Sie heißt konkav, wenn f ((1 λ)x 1 + λx 2 ) (1 λ)f(x 1 ) + λf(x 2 ) λ [0, 1]. f ((1 λ)x 1 + λx 2 ) (1 λ)f(x 1 ) + λf(x 2 ) λ [0, 1]. Gilt die echte Ungleichung spricht man von strenger Konvexität (Konkavität). Beispiel 3.9 Die lineare Funktion f(x) = c T x mit c R n ist konvex und konkav in R n, jedoch nicht streng. 82

4 Beispiel 3.10 Jede über R n positiv semidefinite Bilinearform f(x) = x T Ax mit A = A T R n n ist konvex. Sei nämlich dann gilt x = (1 λ)x 1 + λx 2 = x 1 + λ(x 2 x 1 ), x 1 x 2 R n, λ [0, 1], x T Ax = x T 1 Ax 1 + 2λ(x 2 x 1 ) T Ax 1 + }{{} λ 2 (x 2 x 1 ) T A(x 2 x 1 ) }{{} λ 0 x T 1 Ax 1 + 2λ(x 2 x 1 ) T Ax 1 + λ(x 2 x 1 ) T A(x 2 x 1 ) = x T 1 Ax 1 + λ(x 2 x 1 ) T A (x 1 + x 2 ) = (1 λ)x T 1 Ax 1 + λx T 2 Ax 2. Analog zeigt man, dass - A ist positiv definit, dann ist f(x) streng konvex, - A ist negativ semidefinit, dann ist f(x) konkav, - A ist negativ definit, dann ist f(x) streng konkav. Beispiel 3.11 Sind die Funktionen f j (x), j = 1,..., k, über Ω R n konvex, dann ist auch die Linearkombination konvex. f(x) = k α j f j (x), j=1 α j 0 j Zur Stetigkeit von konvexen Funktionen gibt es folgende Aussage. Satz 3.12 Seien Ω R n konvex und das Innere der Menge, int(ω), nichtleer. Dann ist jede konvexe Funktion f : Ω R stetig in int(ω). Beweis: Siehe Literatur, zum Beispiel [ERSD77, Satz 2.65]. Man prüft die ε δ Definition nach. Beispiel 3.13 Nichtstetige konvexe Funktion über konvexer Menge. Stetigkeit bis auf den Rand muss bei einer konvexen Funktion im allgemeinen nicht vorliegen. Die konvexe Funktion f : [1, 2] R mit { 1/x für x [1, 2) f(x) = 2 für x = 2 ist ein Beispiel. Jetzt werden einige Bedingung dafür gegeben, dass ein Funktion auf einer konvexen Menge konvex ist. Zunächst wird eine Monotonieaussage für den Differenzenquotienten gegeben. Lemma 3.14 Seien Ω R n eine offene konvexe Menge, f : Ω R mit f C 1 (Ω) eine konvexe Funktion, x 0 Ω, h R n, x 0 νh Ω und x 0 + ρh Ω für gewisse ν, ρ > 0. Dann gilt f(x 0 ) f(x 0 νh) ν für alle µ (0, ν], λ (0, ρ]. f(x 0) f(x 0 µh) µ f(x 0 + λh) f(x 0 ) λ f(x 0 + ρh) f(x 0 ) ρ 83

5 Beweis: Übungsaufgabe Damit ist für konvexe Funktionen der Differenzenquotient im Punkt x 0 in Richtung h eine monoton wachsende Funktion von λ. Satz 3.15 Sei Ω R n eine offene konvexe Menge und f : Ω R mit f C 1 (Ω). Dann ist f auf Ω genau dann konvex, wenn für alle x 0, x 1 Ω mit x 0 x 1 gilt f(x 1 ) f(x 0 ) (x 1 x 0 ) T f(x 0 ). (3.2) Beweis: 1) Notwendigkeit von (3.2). Da f differenzierbar ist, gilt für die Richtungsableitung in Richtung h R n mit h 2 = 1 f h (x 0) = h T f(x 0 + λh) f(x 0 ) f(x 0 λh) f(x 0 ) f(x 0 ) = lim = lim, λ 0 λ λ 0 λ wobei bei der letzten Gleichung λ durch λ ersetzt wurde. Nach Lemma 3.14 gilt alle ρ > 0 mit x 0 + ρh Ω (nehme λ 0 in Lemma 3.14 ) f(x 0 + ρh) f(x 0 ) ρ h T f(x 0 ) oder f(x 0 + ρh) f(x 0 ) + ρh T f(x 0 ). Wählt man x 1 = x 0 + ρh, so ergibt sich (3.2). 2) Hinlänglichkeit von (3.2). Sei λ 0 > 0 beliebig gewählt, setzte λ 1 = 1 λ 0. Dann gilt für x 2 = λ 0 x 0 + λ 1 x 1 nach Voraussetzung f(x 0 ) f(x 2 ) (x 0 x 2 ) T f(x 2 ), f(x 1 ) f(x 2 ) (x 1 x 2 ) T f(x 2 ). Damit folgt ( T λ 0 f(x 0 ) + λ 1 f(x 1 ) f(x 2 ) + λ 0 (x 0 x 2 ) + λ 1 (x 1 x 2 )) f(x2 ) ) T (λ 0 x 0 + λ 1 x 1 x 2 = f(x 2 ) + } {{ } =0 = f(x 2 ) = f(λ 0 x 0 + λ 1 x 1 ) f(x 2 ) für alle x 0, x 1 Ω. Für eine zweimal stetig differenzierbare Funktion f : Ω R, Ω R n, offen, ist die Hesse Matrix ( 2 ) f H f (x) := x i x j (x) i,j=1,...,n symmetrisch (Satz von Schwarz). Liegt zusammen mit x 0, x 1 die Strecke [x 0, x 1 ] vollständig in Ω, so gilt für eine geeignete Zahl λ (0, 1) nach dem Satz von Taylor f(x 1 ) = f(x 0 )+(x 1 x 0 ) T f(x 0 )+ 1 2 (x 1 x 0 ) T H f (x 0 +λ(x 1 x 0 ))(x 1 x 0 ). (3.3) Satz 3.16 Seien Ω R n eine offene konvexe Menge und f : Ω R mit f C 2 (Ω). Dann ist f auf Ω genau dann konvex, wenn H f (x) positiv semidefinit ist für alle x Ω. 84

6 Beweis: 1.) Sei H f (x) positiv semidefinit. Dann folgt aus (3.3) für beliebige x 0, x 1 Ω und eine geeignete Zahl λ (0, 1) f(x 1 ) f(x 0 ) (x 1 x 0 ) T f(x 0 ) = 1 2 (x 1 x 0 ) T H f (x 0 + λ(x 1 x 0 ))(x 1 x 0 ) 0. Aus Satz 3.15 folgt, dass f(x) konvex ist. 2) Sei f(x) konvex auf Ω. Seien x 0 Ω und h R n beliebig gegeben. Da Ω offen ist, gibt es eine Zahl θ 0 > 0 so dass x 0 + θh Ω für alle θ (0, θ 0 ]. Wählt man in (3.2) x 1 = x 0 + θh, erhält man Aus (3.3) folgt nun f(x 0 + θh) f(x 0 ) θh T f(x 0 ) 0 θ (0, θ 0 ]. h T H f (x 0 + λθh)h 0 θ (0, θ 0 ] mit λ (0, 1). Da die Hesse Matrix nach Voraussetzung stetig ist, folgt für θ +0 h T H f (x 0 )h 0. Da x 0 Ω und h R n beliebig gewählt wurden, ist H f (x) in jedem Punkt x Ω positiv semidefinit. Eine skalare Funktion einer skalaren Veränderlichen f : (a, b) R mit f C 2 (a, b) ist konvex, wenn f (x) 0 in (a, b), zum Beispiel die Funktion f(x) = x 2. Bemerkung 3.17 Es gibt Verallgemeinerungen des Begriffs der konvexen Funktion, zum Beispiel quasi konvex und explizit konvex, siehe Literatur. 3.3 Ungleichungen und konvexe Mengen Satz 3.18 Die Funktion f : Ω R n R sei konvex, Ω sei konvex und sei b R. Dann ist V = {x Ω : f(x) b} konvex. Beweis: Zu zeigen ist: x 1, x 2 V = x = (1 λ)x 1 + λx 2 V für alle λ [0, 1]. Aus f(x 1 ), f(x 2 ) b folgt aus der Konvexität von f Damit ist x V. f(x) (1 λ)f(x 1 ) + λf(x 2 ) b. Bemerkung ) Die Menge V aus Satz 3.18 heißt Unterhalbmenge von f(x) in Ω zum Wert b. 2.) Die Niveaumenge {x Ω : f(x) = b} der konvexen Funktion f(x) ist im allgemeinen nicht konvex. Zum Beispiel besteht die Niveaumenge zu b = 1 der konvexen Funktion f(x) = x 2, x R, aus den Punkten 1 und 1. Folgerung 3.20 Sei f : Ω R n R konkav, sei Ω konvex und sei b R. Dann ist U = {x Ω : f(x) b} konvex. Beweis: Nutze Satz 3.18 mit f(x), da diese Funktion konvex ist. 85

7 3.4 Extrema von konvexen Funktionen Es wird die Frage untersucht, unter welchen Bedingungen eine konvexe Funktion ihr globales Minimum über einer gegebenen konvexen Menge Ω annimmt. Satz 3.21 Sei f : Ω R eine konvexe Funktion über einer konvexen Menge Ω. Dann ist ein lokales Minimum von f(x) in Ω zugleich das globale Minimum über Ω. Beweis: Indirekt. Nehme f(x) ein lokales Minimum in x 0 Ω an. Sei weiter x Ω mit f(x ) < f(x 0 ). Aus der Konvexität von f(x) folgt f((1 λ)x 0 + λx ) (1 λ)f(x 0 ) + λf(x ) = f(x 0 ) + λ (f(x ) f(x 0 )) < f(x 0 ) für alle λ (0, 1), da f(x ) < f(x 0 ). Aus der Konvexität von Ω folgt, dass der Funktionswert im Zwischenpunkt wohldefiniert ist. Wählt man λ < ε so ist der Zwischenpunkt beliebig nahe an x 0 und die obige Ungleichung steht im Widerspruch dazu, dass f(x) in x 0 ein lokales Minimum annimmt. Beispiel 3.22 Konvexe Funktion über konvexer Menge ohne Annahme eines lokalen Minimums. Der obige Satz kann nur angewendet werden, wenn es ein lokales Minimum gibt, das angenommen wird. Das muss nicht der Fall sein. Die konvexe Funktion aus Beispiel 3.13 nimmt ihr Minimum nicht an. Folgerung 3.23 Die Menge Ω 0, über der eine konvexe Funktion f : Ω R über einer konvexen Menge Ω das globale Minimum annimmt, ist konvex. Beweis: Folgt aus Satz Satz 3.24 Sei f(x) C 1 (Ω) über einer konvexen Menge Ω konvex. Dann nimmt f(x) in jedem x 1 Ω mit f(x 1 ) = 0 sein globales Minimum über Ω an. Beweis: Es ist zu zeigen, dass alle Punkte x 1 Ω mit f(x 1 ) = 0 wirklich Extremalpunkte sind und zudem Minima. Sei x 1 Ω mit f(x 1 ) = 0. Da f(x) konvex ist, gilt f (λx 2 + (1 λ)x 1 ) (1 λ)f(x 1 ) + λf(x 2 ) = f(x 1 ) + λ (f(x 2 ) f(x 1 )) für alle x 2 Ω und λ [0, 1]. Für λ (0, 1] erhält man daraus f (x 1 + λ(x 2 x 1 )) f(x 1 ) λ f(x 2 ) f(x 1 ). Nach dem Mittelwertsatz der Differentialrechnung gibt es ein θ [0, 1] mit (x 2 x 1 ) T f (x 1 + θλ(x 2 x 1 )) f(x 2 ) f(x 1 ). Für λ 0 folgt nun mit f(x 1 ) = 0 0 = (x 2 x 1 ) T f (x 1 ) f(x 2 ) f(x 1 ), also f(x 1 ) f(x 2 ) für alle x 2 Ω. 86