Projektionen auf abgeschlossene konvexe Mengen

Transkript

1 Projektionen auf abgeschlossene konvexe Mengen Seminarvortrag von Veronika Pick Seminar Optimierung bei Herrn Prof. Dr. F. Jarre Heinrich-Heine-Universität Düsseldorf SS 2006

2 1 Vorbemerkung Das Seminarthema ist dem Buch Convex Analysis & Minimization Algorithms I von Hiriart-Urruty entnommen. Es wird der Abschnitt Projektionen auf abgeschlossene konvexe Mengen behandelt, welcher in der o.g. Literatur im Kapitel III Abschnitt 3 vorzufinden ist. 2 Projektionen auf abgeschlossene konvexe Mengen 2.1 Der Projektionsoperator Bezeichne p V die (orthogonale) Projektion auf einen Unterraum V IR n. Einige Eigenschaften dieses Operators sind z.b. Linearität, Idempotenz (d.h. p V p V = p V ) und Dehnungsbeschränktheit (d.h. p V (x) x x). Außerdem definiert p V eine kanonische Zerlegung des IR n durch x = p V (x) + p V (x). Nun soll ein Projektionsoperator speziell für abgeschlossene konvexe Mengen definiert werden. Sei dazu C IR n, C {} abgeschlossen und konvex, x fest. Betrachte das Minimierungsproblem inf{ 1 2 y x 2 : y C}, (2.1.1) d.h. wir suchen die Punkte in C, die bzgl. des Euklidischen Abstands am nächsten zu x liegen. Sei f x : IR n IR definiert durch f x (y) := 1 2 y x 2. (2.1.2) Zunächst wollen wir die Existenz eines Punktes in C zeigen, der am nächsten zu x liegt. Sei dazu c C, S := {y IR n : f x (y) f x (c)} (siehe Abb.1). Dann ist offensichtlich inf{ 1 2 y x 2 : y C}=inf{f x (y) : y C S}. Die Menge S ist abgeschlossen und beschränkt, also kompakt, und damit auch C S (der Schnitt der abgeschlossenen Mengen C und S ist abgeschlossen, (C S) S wiederum kompakt). Da f x zudem stetig ist, folgt nach Analysis 2 die Existenz eines Minimums min{f x (y) : y C S} und dieses ist in unserem Fall das gesuchte Infimum. Die Eindeutigkeit des Punktes aus C, der am nächsten zu x liegt, wird mit Hilfe einer Widerspruchsannahme gezeigt: seien y 1, y 2 mit y 1 y 2 Lösungen von (2.1.1) mit y 1 := x 1 + x, y 2 := x 2 + x, y 0 := 1 2 (y 1 + y 2 ). Nach Kapitel III Abschnitt 2 in Convex Analysis & Minimization Algorithms I gilt für x 1, x 2 aus dem IR n die Gleichung 1 2 x 1 + x 2 2 = x x x 2 x 1 2 (2.3.1). 1

3 Mit Hilfe dieser Gleichung folgt: f x (y 0 ) = 1 2 y 0 x 2 y 0,y 1,y 2 eins. = 1 8 x 1 + x 2 2 (2.3.1) = 1 4 x x x 2 x 1 2 = 1 2 [f x(y 1 ) + f x (y 2 )] 1 8 y 2 y 1 2 y 1 y 2 < 1 2 [f x(y 1 ) + f x (y 2 )] W.A. = inf{1 2 y x 2 : y C}. Dies liefert aufgrund der echten Ungleichheit den Widerspruch. Somit haben wir einen Projektionsoperator p C : IR n C, definiert durch p C (x) = argmin{ 1 2 y x 2 : y C}, gefunden, der das Minimierungsproblem (2.1.1) eindeutig löst. Eine mögliche Charakterisierung des Projektionsoperators p C drückt der folgende Satz aus: Satz Sei y C. Dann folgt: Beweis: y x = p C (x) x y x, y y x 0 y C. (2.1.3) V ariationsungleichung : Sei y x = p C (x). Für beliebige y C und α (0, 1) ist y x +α(y y x ) C (wegen der Konvexität von C): yx inf f x (y x ) f x (y x + α(y y x )) (2.1.2) = 1 2 y x x + α(y y x ) α y x x, y y x α2 y y x 2. Dividiere durch α und lasse danach dieses gegen Null laufen; dann folgt: 0 y x x, y y x 0 x y x, y y x. : Sei y x C und es gelte x y x, y y x 0 y C. 1.Fall: y x = x löst (2.1.1) klarerweise. 2.Fall: y x x; nach Umformung der Variationsungleichung folgt unter Benutzung der Cauchy-Schwarz-Ungleichung: x y x y x y C, d.h. y x löst (2.1.1). Eine anschauliche Darstellung der Variationsungleichung wird durch die Definition des Cosinus cos(θ):= u,v u v [ 1, 1] für Vektoren u o, v o möglich. Da cos(θ) 0 θ [90, 270 ] gilt, besagt (2.1.3), dass der Winkel zwischen y y x und x y x stumpf ist (siehe Abb.2). Wenn man (2.1.3) als x p C (x), y α x p C (x), p C (x) y C (2.1.4) β 2

4 schreibt, erkennt man, dass p C (x) in der Seitenfläche von C liegt, die durch die Bedingung α T y β y C abgegrenzt wird (siehe Abb.2). Die Bedingung α T y = β beschreibt die durch die Normale x p K (x) charakterisierte Stützebene von C, die C in p C (x) tangiert. Bemerkung Ist C sogar ein (affiner) Unterraum, dann ist y x y C, wenn y y x C; deshalb impliziert (2.1.3) x y x, y y x = 0 y C. (2.1.5) Dies ist die klassische Charakterisierung einer Projektion auf einen Unterraum. Einige Eigenschaften von p C sind: 1. Die Menge der Fixpunkte von p C, F := {x IR n : p C (x) = x}, ist offensichtlich C selbst. 2. Es gilt p C p C = p C, was unmittelbar aus der ersten Eigenschaft folgt. 3. p C ist ein linearer Operator genau dann, wenn C ein Unterraum ist. Beweis(nur eine Richtung): : Sei p C linear, d.h. αp C (x) = p C (αx), α IR, x IR n, C C p C (x) + p C ( x) = p C (x + x) x, x IR n. Also IRC C und C + C C, C C C d.h. C ist ein Unterraum. Eine weitere Eigenschaft des Projektionsoperators p C liefert der folgende Satz: Satz (x 1, x 2 ) IR n IR n : p C (x 1 ) p C (x 2 ) 2 p C (x 1 ) p C (x 2 ), x 1 x 2. Beweis: Aus der Variationsungleichung folgt: x p C (x), y p C (x) 0. Setze einmal x := x 1 und y := p C (x 2 ) in diese Ungleichung ein und ein anderes Mal x := x 2 und y := p C (x 1 ). Addiere anschließend die daraus entstandenen beiden Ungleichungen. Dann folgt nach kurzer Umformung die Behauptung. Zwei Konsequenzen ergeben sich sofort aus Satz 2.1.3: 1. 0 p C (x 1 ) p C (x 2 ), x 1 x 2 (x 1, x 2 ) IR n IR n, was ausdrückt, dass p C in gewisser Weise monoton steigend ist. 2. p C (x 1 ) p C (x 2 ) x 1 x 2, insbesondere p C (x) x, falls o C; also gilt Dehnungsbeschränktheit für p C. 3

5 2.2 Projektion auf einen abgeschlossenen konvexen Kegel Konvexe Kegel sind wichtige Beispiele für konvexe Mengen, da man sie irgendwo zwischen Unterräumen und allgemeinen konvexen Mengen einordnen kann. Das bedeutet, dass die Eigenschaften eines Projektionsoperators für abgeschlossene konvexe Kegel feiner sind als die in 2.1 genannten und denen einer Projektion auf einen Unterraum näher kommen. Erinnern wir uns an die Definition eines Kegels. Wir können davon ausgehen, dass ein Kegel für gewöhnlich eine Spitze besitzt (siehe Abb.3); im Folgenden werden nur Kegel mit der Spitze im Nullpunkt betrachtet. Definition (Polarkegel). Sei K ein konvexer Kegel. Der zu K gehörige Polarkegel ist die Menge K := {s IR n : s, x 0 x K}. Zum Polarkegel kann gesagt werden, dass er ein abgeschlossener konvexer Kegel ist. Ist K ein Unterraum, so gilt K = K. Für die Polarität gilt die Beziehung: K K (K ) K (Beweis: s K Def. s, x 0 x K, insbesondere s, x 0 x K Def. s (K ) ). Das einzige Element in K K ist der Nullvektor: Sei x (K K ). Für x K gilt x, x 0 x K. Insbesondere gilt x, x 0, da x K; also muss x = o gelten. Beispiele Seien x 1,..., x m IR n gegeben; betrachte deren kegelförmige Hülle (siehe Abb.4): m K = { α j x j : α j 0 für j = 1,..., m} j=1 A := {s IR n : s, x j 0 für j = 1,..., m}! = K Angenommen, die Behauptung ist wahr, dann werden zur Darstellung des Polarkegels die Vektoren s benötigt, die einen Winkel zwischen 90 und 270 zu den Vektoren x j bilden, und zwar für alle j (siehe Abb.4). Noch zu zeigen ist A = K : : Sei s A. s, x j 0 j α j 0 α j s, x j 0 j : Sei s K. m s, α j x j j=1 m α j s, x j 0 Beh. j=1 0 α j 0 α i:=1,α j :=0 f.j i s A. 4

6 2. Betrachte das Standardskalarprodukt und die kanonische Basis des IR n. Der nicht-negative Orthant ist definiert als Ω + := {x = (ξ 1,..., ξ n ) : ξ i 0 i}. Der nicht-positive Orthant bildet den zugehörigen Polarkegel (siehe Abb.5): (Ω + ) = Ω := {s = (σ 1,..., σ n ) : σ i 0 i}. Dies ist logisch, da die Basisvektoren des IR n alle orthogonal zueinander sind. Eine Charakterisierung für den Projektionsoperator, der Punkte des IR n auf einen abgeschlossenen konvexen Kegel projeziert, liefert der folgende Satz: Satz Sei K ein abgeschlossener konvexer Kegel, y x K. y x = p K (x) (i) (x y x ) K und (ii) x y x, y x = 0. (2.2.1) Beweis: : Wir wissen nach Satz 2.1.1: y x = p K (x) x y x, y y x 0 y K. (2.2.2) Setze y := αy x, α 0 (deckt nach Definition eines Kegels alle Punkte im Kegel ab). x y x, αy x y x 0 (α 1) x y x, y x 0 Da α 1 einen positiven oder negativen Wert annehmen kann, folgt: x y x, y x = 0 mit(2.2.2) x y x, y 0 y K, d.h. (x y x ) K. : Es gilt: (a) f x (y) Def.fx = 1 2 x y x + y x y 2 f x (y x ) + x y x, y x y, was man durch Nachrechnen zeigen kann, und (b) x y x, y x y (ii) = x y x, y (i) 0. Aus (a) folgt mit Hilfe von (b): f x (y) f x (y x ) y K, d.h. y x löst das Minimierungsproblem (2.1.1). Bemerkung Nach (2.1.4) wissen wir bereits, dass p K (x) in der Seitenfläche von K liegt, die durch die Bedingung α T y β abgegrenzt wird. Mit Hilfe von (2.2.1) und der Definition des Polarkegels können wir jedoch eine weitere Aussage treffen: x p K (x) liegt in der Seitenfläche von K, die von der Bedingung p K (x), y p K (x), x p K (x) abgegrenzt wird (siehe Abb.6; dort entspricht β der rechten Seite dieser Ungleichung, nämlich p K (x), x p K (x) ). 5

7 Es gibt einige Eigenschaften von p K, die aus (2.2.1) folgen: 1. p K (x) = 0 x K. 2. p K (αx) = αp K (x) α 0 (siehe Abb.7). 3. p K ( x) = p K (x) (siehe Abb.8). Diese Eigenschaften verallgemeinern in gewisser Weise die Linearität einer Projektion auf einen Unterraum. Eine weitere wichtige Eigenschaft ist folgende (siehe Abb.9): p K (x) + p K (x) = x (2.2.3) Im übertragenen Sinne spielt diese die Rolle von p V (x) + p V (x) = x bei einer Projektion auf einen Unterraum V und führt auf den folgenden Zerlegungssatz: Satz (J.J.Moreau). Sei K ein abgeschlossener konvexer Kegel, seien x, x 1 und x 2 IR n ; dann sind folgende Aussagen äquivalent: 1. x = x 1 + x 2 mit x 1 K, x 2 K, x 1, x 2 = x 1 = p K (x) und x 2 = p K (x). Die Behauptung folgt direkt aus (2.2.3) und der Charakterisierung (2.2.1). Im Gegensatz zur Zerlegung des IR n in Unterräume ist die Zerlegung von x in die Summe von x 1 und x 2 mit x 1 K und x 2 K nicht eindeutig, da die Orthogonalität, also die Bedingung x 1, x 2 = 0, nicht automatisch gegeben ist. Jedoch ist die im Satz beschriebene Zerlegung in folgendem Sinne optimal (siehe Abb.10): x = x 1 + x 2 mit x 1 K, x 2 K x 1 p K (x) und x 2 p K (x). 6