Konvexe Mengen und Funktionen

Transkript

1 Konvexe Mengen und Funktionen von Corinna Alber Seminararbeit Leiter: Prof. Jarre im Rahmen des Seminars Optimierung III am Lehrstuhl für Mathematische Optimierung an der Heinrich-Heine-Universität Düsseldorf

2 INHALTSVERZEICHNIS 1 Inhaltsverzeichnis 1 Einleitung 2 2 Konvexe Mengen 3 3 Projektion 6 4 Trennung 8 5 Konvexe Funktion 11 6 Fazit 14 Literaturverzeichnis 14

3 1 EINLEITUNG 2 1 Einleitung Die mathematische Optimierung ist eine junge Disziplin der angewandten Mathematik. Industrie, Wirtschaft und Verwaltung benötigen sie, um spezifische auf sie zugeschnittene Probleme zu lösen, welche sich oft als konvexe Probleme darstellen lassen. Diese lassen sich dann als Minimierung einer konvexen Zielfunktion mit konvexen Nebenbedingungen formulieren. In der Mathematik gehören die konvexen Mengen und Funktionen zu den sehr gut untersuchten Strukturen, weshalb diese Probleme relativ leicht gelöst werden können. Daher lohnt es sich hier besonders, die Struktur konvexer Mengen und konvexer Funktionen herauszuarbeiten und in die Problemlösung einfließen zu lassen. Diese Informationen über Konvexität können mittels verschiedener Methoden aus der Analysis, Geometrie und anderen Teilwissenschaften der Mathematik, die hier jedoch ausgeblendet werden sollen gewonnen werden. Die starken Voraussetzungen, die an konvexe Probleme gestellt werden, erwirken die mannigfachen Möglichkeiten, diese zu analysieren und darauf aufbauend zu relativ schnellen und einfachen Algorithmen zu gelangen, welche Zeit und Kosten sparen. Der Spezialfall der linearen Optimierung ist in der Problemstellung enthalten und kann aufgrund seiner besonders starken Anforderungen sehr bequem bearbeitet werden.

4 2 KONVEXE MENGEN 3 2 Konvexe Mengen Definition 2.1 Eine Konvexkombination ist ein Vektor x der Form x = n α ix i mit endlich vielen Vektoren x 1,...,x n IR n und α i 0 n α i = 1. Beispiel 2.1 Konvexe Mengen sind z.b. die leere Menge, die offene und abgeschlossene Einheitskugel im IR n und Polyeder im IR n. Abbildung 1: Beispiele für konvexe Mengen Satz 2.1 Eine Menge C IR n ist genau dann konvex, wenn sie alle Konvexkombinationen von Punkten aus C enthält. Enthält eine Menge C alle Konvexkombinationen ihrer Punkte, so auch diejenigen Punkte z C, die mit n = 2, λ [0,1] und x, y C durch z = λx+(1 λ)y dargestellt werden können. Offenbar enthält eine konvexe Menge alle Konvexkombinationen z aus n=2 Vektoren x, y C für alle λ [0, 1] z = λx + (1 λ)y. Gelte also die Aussage für n=k. Sei k+1 x = α i x i = α i x i + α k+1 x k+1 = (1 α k+1 ) α i x i 1 α k+1 + α k+1 x k+1 so ist dies eine Konvexkombination der beiden Punkten k α i x i 1 α k+1, x k+1 C mit λ = α k+1 [0, 1]. Definition 2.2 Eine nichtleere Teilmenge K IR n heißt Kegel, wenn mit x K auch {αx α > 0} K ist. Lemma 2.1 Ein Kegel ist genau dann konvex, wenn K + K K. Angenommen, K ist nicht konvex, dann gibt es a, b K, λ (0, 1), sodass z = λx + (1 λ)y / K. Jedoch λx, (1 λ)y K, da K ein Kegel ist. Daher auch z = λx + (1 λ)y K + K K. Seien x, y K. Dann gilt auch 1 2 (x + y) K. z = x + y K + K, damit auch z = 1 2 (x + y) (x + y) = 2 2 (x + y) K. Insgesamt: K + K K.

5 2 KONVEXE MENGEN 4 Lemma 2.2 Sei (C j ) j J eine Familie konvexer Mengen mit einer beliebigen Indexmenge J, dann ist auch C:= j J C j konvex. Für alle j J seien x, y C j und λ [0, 1]. Dann ist z = λx + (1 λ)y C j j J. Somit gilt ebenso z = λx + (1 λ)y C. Abbildung 2: Vereinigungen und Komplemente konvexer Mengen Beispiel 2.2 Die Differenz zweier konvexer Mengen ist nicht mehr konvex. Ebenso ist die Vereinigung konvexer Mengen nicht mehr konvex. Lemma 2.3 C i IR n i C i i = 1,...,k. Dann ist die Produktmenge C := C 1... C k IR n 1... IR n k genau dann konvex, wenn die Mengen C i i = 1,...,k konvex sind. Zu x = (x 1,...,x k ), y = (y 1,...,y k ) C und λ [0, 1] ist z = λx+(1 λ)y = (z 1,...,z k ) C, da x i, y i C i i = 1,...,k und somit ebenfalls z i = λx i + (1 λ)y i C i i = 1,...,k. Lemma 2.4 Sei C IR n konvex, dann sind auch das Innere int C und der Abschluss cl C konvex X z (1- ) y 1- Abbildung 3: das Innere einer konvexen Menge ist konvex Seien x, y int C. Wir müssen zeigen, dass auch jede Konvexkombination dieser beiden Punkte im Inneren von C liegt. Sei also für λ (0, 1) z = λx + (1 λ)y bestimmt. Da x int C, gibt es ein δ > 0 mit B(x, δ) C. Der Strahlensatz

6 2 KONVEXE MENGEN 5 ( ) und die Konvexität besagen nun, dass auch B z, δ z y x y C also z C. Seien nun x, y cl C. Sei z = λx + (1 λ)y eine Konvexkombination beider Punkte mit einem λ (0, 1). Da x, y cl C existieren Folgen { x (k)}, { y (k)} in C mit x (k) x, y (k) x. Damit folgt z (k) := λx (k) + (1 λ)y (k) C k IN aus der Konvexität und ist daher z ein Häufungspunkt der Menge C, also z cl C. Lemma 1.2 besagt, dass beliebige Schnitte konvexer Mengen wiederum konvex sind. Dies rechtfertigt folgende Definition: Definition 2.3 Die konvexe Hülle co A einer Menge A IR n ist die kleinste konvexe Menge, die A umfasst. coa = C Ckonvex C A Beispiel 2.3 Im Falle einer konvexen Menge A IR n gilt offenbar co(a)=a. Damit gilt für eine beliebige Menge B IR n co(co(b))=co(b). Für beliebige Mengen C,D IR n mit C D gilt weiter co C co D. Lemma 2.5 Für A IR n ist coa = {x IR n x ist Konvexkombination von Punkten in A}. Sei B = {x IR n x ist Konvexkombination von Punkten in A}, dann ist B konvex und offensichtlich B A. Für alle konvexen Mengen C mit C B folgt damit C = co C co B co A. Sei nun eine konvexe Menge C A. Da B alle Konvexkombinationen von Punkten aus A enthält, gilt auch C B. Folglich gilt mit der speziellen Wahl C=co A auch coa B.

7 3 PROJEKTION 6 3 Projektion An dieser Stelle geben wir drei Sätze aus Kapitel 1.2 des Buches [1] noch ein Mal an, verzichten aber auf den. Satz 3.1 Sei C IR n eine nichtleere und konvexe Menge und f : C IR strikt konvex. Falls eine Lösung des Problems existiert, so ist sie eindeutig bestimmt. ohne min f(x) x C Satz 3.2 Sei C IR n eine abgeschlossene Menge und f : C IR stetig. Wenn entweder C beschränkt ist oder lim x f(x) = + gilt, dann hat eine Lösung. ohne min f(x) x C Sei C IR n eine nichtleere, abgeschlossene und konvexe Menge. Für ein festes z IR n definieren wir das Projektionsproblem(P) durch: min x C x z 2 2 Satz 3.3 Sei C IR n konvex und f : IR n IR konvex. Wenn f in ˆx C richtungsdifferenzierbar ist, dann sind folgende Aussagen äquivalent: (i) ˆx ist Lösung von (P) (ii) f (x, x ˆx) 0 x C ohne Sei f : IR n IR n, f(x) := x z 2 2. Es gilt f(x) = x z 2 = x z, x z = x, x 2 x, z + z, z = x 2 2 x, z + z 2 x 2 2 x z + z 2 = ( x z ) 2 =: g( x. Es gilt lim x g (x) = + und g ( x ) f (x). Daher folgt lim x f(x) = +. Weiter ist f zweimal differenzierbar mit f(x) = 2(x z) und Hf(x) = 2I. Hf(x) ist positiv definit und daher f(x) streng und damit auch strikt konvex. Nach 2.1 und 2.2 hat (P) eine Lösung, die eindeutig ist. Die eindeutige Lösung des Problems (P) kann man wie folgt charakterisieren: Satz 3.4 Sei C IR n eine nichtleere, abgeschlossene und konvexe Menge. Dann löst ˆx C das Problem (P) genau dann, wenn z ˆx, x ˆx 0 x C

8 3 PROJEKTION 7 Nach Satz 3.3 ist ˆx C genau dann Lösung des Problems(P), wenn f(ˆx), x ˆx 0 x C. Wegen f(ˆx) = 2(ˆx z) folgt die Aussage: f(ˆx), x ˆx = 2(ˆx z), x ˆx = 2 z ˆx, x ˆx Wir fassen zusammen: das Problem(P) min x C x z 2 2 mit z IR n und C IR n eine nichtleere, abgeschlossene und konvexe Menge hat genau eine Lösung und diese wird bestimmt durch z ˆx, x ˆx 0 x C. Die drei Bedingungen C IR n eine nichtleere, abgeschlossene und konvexe Menge können bei Benutzung dieser drei Sätze nicht abgeschwächt werden. Die Konvexität wurde bei den Sätzen 3.1 und 3.3, die Abgeschlossenheit bei Satz 3.2 und die Existenz von zulässigen Punkten wurde in 3.1 und 3.3 benutzt.

9 4 TRENNUNG 8 4 Trennung Definition 4.1 Für s 0 IR n und r IR. Sei H s,r = {x IR n s, x = r}. Seien C 1, C 2 IR n. H s,r bzw. s trennt C 1 und C 2, falls s, y r s, x y C 1, x C 2 H s,r bzw. s trennt C 1 und C 2 strikt, falls sup y C1 s, y inf x C2 s, x trennende Hyperebene: keine trennende Hyperebene: Abbildung 4: Beispiele für trennende Hyperebenen Satz 4.1 Sei C IR n eine nichtleere, abgeschlossene und konvexe Menge, x / C, dann gibt es eine Hyperebene, die C und {x} strikt trennt. Es gibt also einen Vektor 0 s IR n mit sup s, y s, x y C Nach Satz 3.3 erfüllt die Lösung ˆx des Problems (P) x ˆx, y ˆx 0 y C Mit s := x ˆx 0 also y ˆx = y x + s folgt Daraus folgt s, y x + s = s, y s, x + s 0 y C s, x s 2 s, y y C Daraus folgt wegen s 0 die Behauptung. Der Ausdruck sup y C s, y s, x ist äquivalent zur strikten Trennung, da mit folgender Wahl von r gilt:

10 4 TRENNUNG 9 und r := 1 2 ( s, x = 1 2 s, x s, x 1 2 s, x + sup s, y y C ( ) s, x + sup s, y y C ) = r sup y C s, y = 1 2 sup y C s, y sup y C s, y 1 2 sup s, y + 1 s, x = r. y C 2 Insgesamt also sup s, y s, x y C Definition 4.2 Sei C IR n, so ist der Rand bd C von C die Menge bd C = cl C \ int C. Abbildung 5: Rand der konvexen Menge Definition 4.3 Sei C IR n und x bd C ein Randpunkt. Dann heißt die Hyperebene H r,s Stützhyperebene von C in x, falls s, x = r s, y y C gilt. Weiter heißt die Stützhyperebene trivial, falls C H r,s bzw gilt. s, x = r = s, y y C

11 4 TRENNUNG 10 aber nicht: Abbildung 6: Beispiele für Stützhyperebenen Lemma 4.1 Sei C IR n, C IR n eine nichtleere und konvexe Menge mit int C und x bd C, dann gibt es eine nicht triviale Stützhyperebene in x. Wäre cl C = IR n, so wäre C int C = int (cl C) = int IR n = IR n. Also ist cl C IR n. Folglich gibt es zu x bd C eine Folge { x (k)} x mit x (k) / cl C. Für jedes k IN gibt es also nach (3.1) ein s (k) mit s (k), x (k) s (k), y y cl C C s (k) s (k), s (k) x(k) s (k), y y cl C. Mit t (k) = s(k) s (k) also t (k) = 1 folgt t (k), x (k) t (k), y y cl C. Die Menge {x IR n x = 1} ist beschränkt und abgeschlossen, daher hat die Folge t (k) eine Teilfolge k j und ein t IR mit t (k j) t t = 1. Mit r := t, x folgt t, x = r t, y y C. Wegen t = 1 ist weiterhin t 0 und int C ; die Stützhyperebene H t,r folglich nicht trivial. Die Bedingung int C ist offenbar notwendig für die Existenz der nichttrivialen Stützhyperebenen, wenn man folgendes Beispiel betrachtet: C sei ein Geradenstück und x keiner der beiden Randpunkte. Abbildung 7: Beispiel triviale Stützhyperebene Nicht-triviale Stützhyperebenen durch einen relativ inneren Punkt müssen also nicht existieren wenn die Menge kein Inneres hat.

12 5 KONVEXE FUNKTION 11 5 Konvexe Funktion Definition 5.1 Eine Funktion f : IR n IR, die nicht identisch + ist, heißt konvex, wenn gilt: f((1 λ)x + λy) (1 λ)f(x) + λf(y) x, y IR n, λ (0, 1) Die Menge der konvexen Funktionen f : IR n IR wird mit Conv IR n bezeichnet. Für eine Funktion f : IR n IR heißt die Menge Definitionsbereich von f. domf := {x IR n f(x) + } Definition 5.2 Für eine Funktion f : IR n IR mit dom f ist der Epigraph von f die Menge epi f := {(x, r) IR n IR r f(x)}. Zu r IR definiert man die Niveaumengen von f mit N(f, r) := {x IR n f(x) r}. Auch für nicht konvexe Funktionen gilt (x, r) epi f genau dann, wenn x N(f, r). Lemma 5.1 Die Funktion f : IR n IR ist konvex, genau dann, wenn ihr Epigraph konvex ist. Seien x = ( x 1 ) ( x 2, y = y1 ) y 2 epi(f) und λ [0, 1] mit x1, y 1 IR n und x 2, y 2 IR. ( ) ( ) z1 λx1 + (1 λ)y 1 z = := λx + (1 λ)y =. z 2 λx 2 + (1 λ)y 2 Dann gilt: z 2 = λx 2 + (1 λ)y 2 λf(x 1 ) + (1 λ)f(y 1 ) f(λx 1 + (1 λ)y 1 ) = z 1 also z epi f. Sei also epi f konvex und ( ) ( f(x) x, f(y) ) y epi f und λ [0, 1] so gewählt, dass f(λx + (1 λ)y) λf(x) + (1 λ)f(y), f also nicht konvex. Dann folgt: λ ( ) ( x f(x) + (1 λ) y ) ( f(y) = λx+(1 λ)y λf(x)+(1 λ)y) / epi f, daher wäre dann epi f nicht konvex. Bei einer konvexen Funktion f IR n sind die Niveaumengen stets konvex, dagegen muss eine Funktion, deren Niveaumengen konvex sind nicht unbedingt selbst konvex sein, wie man anhand des Beispiels f(x) = lnx leicht erkennt. Hierbei fasst man f Conv IR n auf, indem man sie auf x 0 auf f (x) = setzt.

13 5 KONVEXE FUNKTION ln( x) x 10 Abbildung 8: Beispiel für eine nicht-konvexe Funktion mit konvexen Niveaumengen Satz 5.1 (Ungleichung von Jensen) Sei f Conv IR n eine konvexe Funktion, k IN, x i IR, i = 1,...,k und x = k α ix i eine Konvexkombination. Dann gilt f(x) α i f(x i ) Offenbar gilt die Aussage für k=0, 1, 2. Gelte die Aussage also für k=n. Dann folgt aus der Konvexität von f und der Voraussetzung: k+1 f(x) = f( α i x i ) = f( = f((1 α k+1 ) (1 α k+1 )f( (1 α k+1 ) α i x i + α k+1 x k+1 ) α i 1 α k+1 x i + α k+1 x k+1 ) α i 1 α k+1 x i ) + α k+1 f(x k+1 )) α i 1 α k+1 f(x i ) + α k+1 f(x k+1 )) k+1 α i f(x i ) + α k+1 f(x k+1 )) = α i f(x i )

14 5 KONVEXE FUNKTION 13 Lemma 5.2 Sind f 1,...f m Conv IR n, t 1,...t m R +. Gilt m domf i, dann ist auch die Funktion f := m i+1 t if i konvex. Aufgrund der Bedingung m domf i gibt es ein x IR n mit f(x) = m i+1 t if i (x) und es gilt: f(λx + (1 λ)y) = m t i f i (λx + (1 λ)y) i+1 f ist also konvex. m t i λf i (x) + t i (1 λ)f i (y) = λf(x) + (1 λ)f(y) i+1 Lemma 5.3 Sei J eine beliebige Indexmenge, {f j } j J eine Familie von Funktionen f i Conv IR n. Gibt es ein x IR n mit sup j J f j (x) +, dann ist die Funktion f := sup j J f j konvex. Nach (1.2) und (4.1) ist epif = j J epif j als Schnitt konvexer Mengen wieder konvex und aufgrund der Existenz von x IR n mit sup j J f j (x) + nichtleer. Aus (4.1) folgt wiederum die Konvexität von f.

15 6 FAZIT 14 6 Fazit Im Kapitel konvexe Mengen wurden konvexe Mengen und Kegel untersucht. Besonderes Augenmerk wurde auf konvexitäts-erhaltende Abbildungen gelegt, wie sie das Produkt und der beliebige Schnitt ist. Weiter sind das Innere und der Abschluss konvexer Mengen wieder konvex. Das Kapitel Projektion betraute sich mit dem Problem (P) min x C x z 2 2 mit einer abgeschlossenen und konvexen Menge C. Dieses Problem hat eine Lösung und diese ist eindeutig. Um sie zu finden, betrachtet man ein äquivalentes und ebenfalls konvexes Problem, welches jedoch leichter zu lösen ist, obwohl es in semiinfiniter Formulierung vorliegt: z ˆx, x ˆx 0 x C. Im Kapitel Trennung wurde betrachtet, in welcher Lage zwei konvexe Mengen zueinander liegen können. Das Kriterium war jeweils, ob eine trennende oder strikt trennende Hyperebene existiert. Einen Spezialfall hiervon erhält man, indem eine der beiden Mengen Randpunkt der anderen ist. In diesem Falle existieren keine strikt trennenden Hyperebenen. Die trennenden Hyperebenen nennen sich dann Stützhyperebenen. Diese nennen sich trivial, wenn die Menge vollständig in ihnen enthalten ist. Das Kapitel Konvexe Funktion behandelte Funktionen f : IR n IR mit dom(f) IR n. Als Charakteristika wurden der Epigraph und die eng mit ihm verbundenen Niveaumengen eingeführt. Es wurden konvexitätserhaltende Operationen auf konvexen Funktionen wie die nicht-negative Summenbildung und das Supremum konvexer Funktionen betrachtet. Diese Hilfsmittel können dabei helfen, für Probleme der konvexen Optimierung schnelle und effiziente Löser zu finden und deren Konvergenz zu beweisen. Literatur [1] Alt w.; Numerische Verfahren der konvexen, nichtglatten Optimierung; Teubner Verlag Wiesbaden, 2004