Es wird vor allem auf die wesentlichen Ideen der Verfahren eingegangen und weniger auf Details.

Transkript

1 Kapitel 5 Lösungsverfahren Dieses Kapitel gibt einen Überblick über Lösungsverfahren für nichtlineare Optimierungsprobleme. Es wird vor allem auf die wesentlichen Ideen der Verfahren eingegangen und weniger auf Details. 5.1 Projektionsverfahren Projektionsverfahren sind recht einfache Verfahren, die das Konzept von Abstiegsverfahren zur Minimierung von Funktionen ohne Nebenbedingungen auf Minimierungsprobleme mit konvexen Nebenbedingungen übertragen. Bei einem Abstiegsverfahren wird, ausgehend von einer Iterierten x k), die nächste Iterierte x k+1) so gewählt, dass sich der Wert der zu minimierenden Funktion verkleinert. Hat man ein Problem mit Nebenbedingungen, so muss man natürlich zusätzlich darauf achten, dass x k+1) zum zulässigen Bereich gehört. Anderenfalls kann es zum Beispiel vorkommen, dass die Zielfunktion gar nicht definiert ist. Projektionsverfahren projizieren die Abstiegsrichtung für die Zielfunktion in geeigneter Weise in die zulässige Menge. Wir betrachten das Optimierungsproblem z = min{fx) : x Ω} 5.1) mit f C 1 R n ) und die zulässige Menge Ω sei nichtleer, konvex und abgeschlossen. Von besonderer Bedeutung sind die Probleme, bei denen fx) quadratisch und Ω = {x R n : Ax b} 5.2) ein Polyeder ist, A R m n, b R m. Solche Probleme treten als Teilprobleme bei den sogenannten SQP Verfahren sequential quadratic programming) auf, wo sie wiederholt mit unterschiedlichen Daten A, b, f gelöst werden müssen, siehe Abschnitt 5.4. In anderen Anwendungen ist der zulässige Bereich sogar nur ein n dimensionaler Quader,,box constraints ): Ω = n i=1 [l i, u i ]. 5.3) Für x R n sei P Ω x) die Lösung von inf y x y Ω 2, die Projektion von x auf Ω bezüglich der Euklidischen Norm. Da die Menge Ω nach Voraussetzung abgeschlossen ist, kann man das Infimum durch das Minimum ersetzen, also P Ω x) = arg min y Ω y x 2. 99

2 Beispiel 5.1 Falls Ω durch 5.2) gegeben ist, muss man zur Berechnung der Projektion y = P Ω x) das konvexe quadratische Programm y = arg min y Ω { y x 2 2 : Ay b} = arg min y Ω {yt y 2y T x : Ay b} lösen. Die Menge Ω ist ein konvexes Polyeder. Die Zielfunktion y x 2 2 ist eine konvexe Funktion. Ist der zulässige Bereich ein n dimensionaler Quader 5.3), kann man die Projektion komponentenweise berechnen: x i falls x i [l i, u i ], y) i = u i falls x i > u i, l i falls x i < l i. Definition 5.2 Stationärer Punkt. Der Punkt x 0 wird stationärer Punkt des Problems 5.1) genannt, falls für alle Punkte des Tangentenkegels y T x 0 ) die Ungleichung y T fx 0 ) 0 gilt. Ein stationärer Punkt erfüllt also die im Satz 4.8 bewiesene notwendige Bedingung für ein lokales Minimum bezüglich Ω. Algorithmus 5.3 Projektionsverfahren. 1. Initialisierung. Bestimme x 0) Ω und wähle drei reelle Parameter 0 < β, µ < 1 und γ > Iteration. k = 0, 1, 2,... Falls x k) ein stationärer Punkt ist, dann Stopp sonst Betrachte für α > 0 den Pfad x k) α) := P Ω x k) + α f x k))) Setze x k+1) α) := x k) α k)), wobei α k) = γβ mk) und m k) die kleinste natürliche Zahl größer oder gleich Null ist mit f x k+1)) f x k)) + µ f x k)) T x k+1) x k)) Armijo Liniensuche) Bemerkung 5.4 Armijo Liniensuche. Seien fx) eine zu minimierende Funktion, x k) die gegenwärtige Iterierte, s k) eine irgendwie berechnete Abstiegsrichtung, µ 0, 1) und γ > 0 eine Konstante. Im Falle, dass man keine Nebenbedingungen hat, wählt man λ 0) γ fx k) ) 2 und bestimme unter den Zahlen λ j) = 2 j λ 0), β = 1/2, die erste, für die f x k) + λ j) s k)) f x k)) + µλ j) f x k)) T s k) 100

3 gilt. Die Motivation für diese Herangehensweise kommt von der nach dem linearen Glied abgebrochenen Taylor Entwicklung f x k) + λ j) s k)) f x k)) + λ j) f x k)) T s k). Ist s k) eine Abstiegsrichtung, dann findet man in dieser Richtung einen Funktionswert von fx), der kleiner als der Funktionswert f x k)) ist, falls λ j) nur hinreichend klein ist. Man fängt mit irgendeinem hinreichend großen λ 0) an. Dieses hängt von f x k)) 2 ab. Ist f x k)) 2 klein, kann man vermuten in der Nähe eines Minimums zu sein besitzt fx) in x k) ein Minimum, so ist f x k)) = 0) und man braucht vielleicht nur einen kleinen Schritt. Man testet ob der Funktionswert sich verkleinert. Ist das nicht der Fall, wird der Parameter λ j) sukzessive halbiert, bis er klein genug ist. Im Algorithmus 5.3 hat man einen gekrümmten Pfad x k) α). Für jedes α hat man im allgemeinen ein konvexes, quadratisches Minimierungsproblem über Ω zu lösen. Das ist recht teuer. Falls Ω ein Polyeder ist, kann man eine Startiterierte x 0) mittels eines linearen Programms bestimmen. Da der Algorithmus 5.3 im wesentlichen ein Gradientenverfahren ist, kann man im allgemeinen nur langsame Konvergenz erwarten. Außerdem ist die Berechnung von P Ω x k) + α f x k))) für allgemeine Polyeder aufwendig. Wir betrachten jetzt noch eine Variante von Algorithmus 5.3, die zusätzlich leichter berechenbare Zwischenwerte x k) Ω berechnet, bei denen der Funktionswert zumindest nicht ansteigt. Algorithmus 5.5 Modifiziertes Projektionsverfahren. 1. Initialisierung. Bestimme x 0) Ω und wähle Parameter falls nötig. 2. Iteration. k = 0, 1, 2,... Bestimme x k+1) = P Ω x k) + α fx k) ) ) entweder wie im Algorithmus 5.3 oder bestimme x k+1) Ω, so dass f x k+1)) f x k)). Die Umsetzung der zweiten Strategie hängt von der Art der Nebenbedingungen ab. Wir betrachten affine Nebenbedingungen 5.2). Bezeichne â i die Zeilen von A. Für x Ω sei die Menge der aktiven Nebenbedingungen Ix) = { i {1,..., m} : â T i x = b i }. Dann wird die zweite Strategie häufig so realisiert, dass Ix k) ) Ix k+1) ) gilt. Man wählt dazu in x k) eine Abstiegsrichtung v k) L x k)) := {v : A Ix )v = 0}, k) wobei A Ix k) ) die Teilmatrix von A mit den Zeilen ist, deren Indizes in Ix k) ) enthalten sind. Die Abstiegseigenschaft wird dann nur in schwacher Form f x k)) T v k) 0 verlangt. Die neue Iterierte besitzt die Gestalt x k+1) = x k) + αv k) für ein geeignetes α. Aus der Wahl von v k) folgt A x k+1)) = A x k) + αv k)) = Ax k) + αav k). 101

4 Für die aktiven Nebenbedingungen verschwindet der zweite Summand. Für die anderen Nebenbedingungen, i Ix k) ), ist der erste Summand kleiner als b i und man findet ein hinreichend kleines α > 0, so dass die Summe der beiden Summanden kleiner oder gleich b i bleibt. Mit α k) := sup{α : x k) + αv k) Ω} wird nun eine Liniensuche gestartet um einen Faktor α k) und damit ein Argument x k+1) zu finden, so dass f x k+1)) f x k)) gilt. Ist α k) < α k), dann ist Ix k) ) = Ix k+1) ), sonst Ix k) ) Ix k+1) ). 5.2 Penalty Verfahren Strafverfahren) Wir betrachten wieder das Optimierungsproblem z = min{fx) : x Ω}, 5.4) diesmal aber zunächst mit f C 0 R n ) und die Menge Ω R n sei abgeschlossen. Um die Lösung von 5.4) mit einer Folge einfacherer Optimierungsprobleme ohne Nebenbedingungen zu approximieren, wird die Straffunktion l : R n R +, lx) { > 0 für x Ω, = 0 für x Ω eingeführt. Diese Funktion bestraft Punkte, die nicht zum zulässigen Bereich gehören, mit positiven Funktionswerten. Beispiel 5.6 Für Ω = {x R n : g i x) 0, i = 1,..., p; g i x) = 0, i = p + 1,..., m} ist eine mögliche Straffunktion lx) = p i=1 g + i x)) α + m i=p+1 g i x) α mit α > 0, g + i x) = max{0, g ix)}. Definition 5.7 Penalty Funktion Die gewichtete Summe aus Zielfunktion und Straffunktion px, r) := fx) + rlx), r R +, r > 0, wird Penalty Funktion genannt. Der Parameter r heißt Strafparameter. Für fest gewählte Parameter r werden jetzt die Minimierungsprobleme ohne Nebenbedingungen min px, r) 5.5) x Rn betrachtet. Der Strafterm belegt die Punkte, die nicht zum zulässigen Bereich gehören, mit positiven Werten, die für große Strafparameter r groß sind. Deswegen hofft man, dass die Minima von 5.5) für große Strafparameter im zulässigen Bereich liegen. Algorithmus 5.8 Allgemeines Penalty Verfahren. 1. Initialisierung. Wähle r 1) >

5 2. Iteration. k = 0, 1, 2,... Bestimme ein lokales Minimum x k) für px, r k) ) Falls x k) Ω, dann Stopp sonst wähle r k+1) 2r k) Man kann zeigen, dass die x k) unter gewissen Voraussetzungen tatsächlich Näherungen eines lokalen Minimums von 5.4) sind. Satz 5.9 Seien f : R n R eine stetige Funktion, x 0 ein striktes lokales Minimum und l : R n R + eine stetige Straffunktion. Dann gibt es ein r 0 > 0 so, dass für alle r > r 0 die Penalty Funktion px, r) ein lokales Minimum xr) besitzt, dass für r gegen x 0 konvergiert. Beweis: Literatur, [JS04, S. 294]. Bemerkung 5.10 Zwei Eigenschaften sind für Penalty Verfahren von Bedeutung: 1. In vielen Fällen ist die Zielfunktion fx) differenzierbar. Damit die Anwendung eines Verfahrens vom Newton Typ zur Bestimmung des Minimums von 5.5) möglich ist, muss die Straffunktion lx) auch differenzierbar sein. 2. Damit das Verfahren nach endlich vielen Schritten abbricht, ist es wünschenswert, wenn es bereits einen endlichen Wert r > 0 gibt, so dass ein lokales Minimum x 0 von 5.4) auch lokales Minimum für jedes Problem ohne Nebenbedingungen 5.5) mit r r ist. In diesem Fall nennt man die Penalty Funktion exakt in x 0. Es stellt sich leider heraus, dass diese beiden wünschenswerten Eigenschaften in der Regel unvereinbar sind. Aus diesem Grunde werden Penalty Verfahren in der Form von Algorithmus 5.8 praktisch nicht genutzt. Stattdessen betrachtet man modifizierte Penalty Funktionen, die auf dem Konzept einer erweiterten Lagrange Funktion augmented Lagrange Funktion) beruhen, siehe Literatur. 5.3 Barrieremethoden Wir betrachten das Problem mit den Nebenbedingungen z = min fx) 5.6) x Ω g i x) 0 für 1 i p, g i x) = 0 für p + 1 i m. 5.7) Dabei seien f, g i C 2 R n ), i = 1,..., m, und wir nehmen an, dass 5.6) eine Optimallösung besitzt, die mit x 0 bezeichnet wird. Barrieremethoden sind eng verwandt mit den Penalty Verfahren. Auch bei diesen Methoden betrachtet man eine Folge von Hilfsproblemen, bei denen die Zielfunktion fx) durch gewichtete Strafterme erweitert wird. Die Barriereverfahren erzeugen eine Folge von inneren Punkten, das heißt von Punkten welche die Ungleichungsrestriktionen sogar strikt erfüllen, g i x) < 0, i = 1,..., p, während die Gleichungsrestriktionen verletzt sein können. Bezeichne ˆΩ := {x R n : g i x) 0, i = 1,... p}, ˆΩ 0 := {x R n : g i x) < 0, i = 1,... p}. Man beachte, die Menge ˆΩ 0 muss nicht notwendig die topologischen inneren Punkte von ˆΩ enthalten, wähle zum Beispiel n = p = 1, g 1 x) = 0. Dann sind ˆΩ = R und ˆΩ 0 =. 103

6 Barriereverfahren bestrafen solche Punkte aus ˆΩ 0, die sich dem Rand von ˆΩ 0 nähern. Die Gleichheitsnebenbedingungen werden direkt mit Hilfe von Linearisierungen behandelt. Diese Gleichheitsnebenbedingungen sind grundsätzlich einfacher zu behandeln als Ungleichungsnebenbedingungen. Die Strafterme in den Barriereverfahren, die sogenannten Barriereterme, sind in ˆΩ 0 endlich und wachsen zum Rand dieser Menge nach unendlich an. Außerhalb von ˆΩ besitzen sie den Wert. Im Gegensatz zu den Penalty Verfahren, bei denen die Strafterme sukzessive immer stärker gewichtet werden, siehe Algorithmus 5.8, muss bei den Barriere Verfahren der Einfluss der Strafterme immer weiter abgeschwächt werden. Damit wird das Gewicht der Zielfunktion im Barriereproblem erhöht und man kann hoffen, dass die Minima der Barriereprobleme unter geeigneten Voraussetzungen gegen ein Minimum von fx) konvergieren. An der Eigenschaft, dass die Barriereterme außerhalb von ˆΩ unendlich sind, ändert man nichts. Somit ist garantiert, dass die Minima der Barriereprobleme immer in ˆΩ 0 liegen. Definition 5.11 Skalare Barrierefunktion. Eine skalare Barrierefunktion ist eine streng monoton fallende, glatte, konvexe Funktion b : 0, ) R mit lim bt) = und lim t 0+0 t 0+0 b t) =. Außerdem wird stets bt) = für t 0 gesetzt, so dass bt) formal eine auf R definierte konvexe Funktion ist, b : R R { }. Beispiel 5.12 Beispiele für Barrierefunktionen sind bt) = log t, bt) = 1 t α, α > 0. Die logarithmische Barrierefunktion ist in gewisser Hinsicht optimal. Zur Konstruktion von Barriereverfahren zur Lösung von Problem 5.6) mit den Nebenbedingungen 5.7) werden nun Hilfsprobleme der Form { } p fx) + µ b d i g i x)) : g i x) = 0, i = p + 1,..., m 5.8) inf x R n i=1 betrachtet. In 5.8) ist µ > 0 ein Gewicht für die Barriereterme und die Zahlen d i 0, i = 1,..., p, sind Verschiebungen der Ungleichungsnebenbedingungen in 5.7), das heisst anstatt g i x) 0 ist nun g i x) d i erlaubt. Diese Verschiebungen gestatten es, dass man das Verfahren auch dann anwenden kann, wenn kein innerer Punkt für 5.6), 5.7) bekannt ist. Die Zielfunktion von 5.8) wird abkürzend mit Φx; µ, d) = fx) + µ p b d i g i x)) bezeichnet. Wir nehmen an, dass 5.8) ein endliches lokales Minimum besitzt. Die gewichtete Summe der Barriereterme in der Zielfunktion garantiert, dass jedes x mit Φx; µ, d) R die abgeschwächten Nebenbedingungen g i x) < d i, i = 1,..., p, erfüllt. Lemma 5.13 Falls fx) und g i x), i = 1,..., p konvex sind, so ist auch Φx; µ, d) konvex. i=1 104

7 Beweis: Es ist bekannt, dass die Linearkombination konvexer Funktionen mit nichtnegativen Koeffizienten in der Linearkombination eine konvexe Funktion ist. Damit bleibt zu zeigen, dass die Funktionen b d i g i x)), i = 1,..., p, konvex sind. Da die Funktionen, g i x) konvex sind, gilt für λ [0, 1] d i g i λx λ)x 2 ) d i λg i x 1 ) + 1 λ)g i x 2 )) = λ d i g i x 1 )) + 1 λ) d i g i x 2 )). Mit dieser Aussage, mit der Monotonie von bt) und der Konvexität von bt) folgt b d i g i λx λ)x 2 )) b λ d i g i x 1 )) + 1 λ) d i g i x 2 ))) λb d i g i x 1 )) + 1 λ)b d i g i x 2 )). Weiterhin gilt folgende stärkere Aussage. Satz 5.14 Gelten die Voraussetzungen von Lemma 5.13 sowie lim t b t) = 0. Die Gleichheitsnebenbedingungen g i x), i = p + 1,..., m seien affin und die Menge der Optimallösungen von 5.6) sei nicht leer und beschränkt. Dann besitzt das Hilfsproblem 5.8) für jedes µ > 0 eine Optimallösung und die Minima der Barriereprobleme nähern sich der Optimalmenge von 5.6). Beweis: Siehe Literatur. Für Probleme 5.6), die die Bedingungen dieses Satzes erfüllen, kann man nun das folgende Verfahren konstruieren. Algorithmus 5.15 Barrieremethode für konvexe Probleme. 1. Initialisierung. Bestimme x 0) R n mit g i x 0) ) = 0 für i = p + 1,..., m. Wähle µ 0) > 0 und d 0) 0 so dass d 0) i > g i x 0) ) für i = 1,..., p. 2. Iteration. k = 1, 2,... Wähle λ k) 0, 1) so, dass mit µ k), d k)) := λ k) µ k 1), d k 1)) gilt g i x k 1)) < d k) i, für i = 1,..., p. Ausgehend von x k 1) führt man nun einige Schritte des Newton-Verfahrens mit Liniensuche) zum lösen des Barriere-problems aus. Das Ergebnis ist x k). Im ersten Schritt der Iteration werden sowohl das Gewicht als auch der Verschiebevektor verkleinert. Der Verkleinerungsfaktor wird so gewählt, dass mit dem neuen Verschiebevektor noch alle Ungleichungsnebenbedingungen erfüllt sind. Das Minimum x 0 µ k), d k)) des Barriereproblems 5.8) zu den Parametern µ k), d k)) wird im zweiten Schritt approximiert. Da die Barriereterme das Minimum vom Rand der Menge {x : g i x) d k) i } abstoßen, kann man nach der Berechnung der Näherung x k) von x 0 µ k), d k)) die Verschiebeparameter d k) i in der folgenden Iteration wieder etwas verkleinern. Die Schwierigkeiten von Algorithmus 5.15 bestehen darin, dass das Newton Verfahren für µ k) 0 oft schlecht konvergiert. Deshalb wird diese Basisherangehensweise nicht genutzt. Man kann diese Herangehensweise durch Verfeinerung der Barrieremethode verbessern. 105

8 5.4 SQP Verfahren In diesem Abschnitt wird ein Zugang vorgestellt, der Punkte berechnet, die die notwendige Optimalitätsbedingung, die im Satz 4.21 Kuhn/Tucker) formuliert ist, erfüllen, die sogenannten SQP Verfahren sequential quadratic programming). Es wird also eine Iteration durchgeführt, bei welcher in jedem Schritt ein quadratisches Optimierungsproblem gelöst wird. Wir betrachten wieder das Optimierungsproblem 5.6) mit den Nebenbedingungen 5.7) und den gleichen Regularitätsvoraussetzungen wie im Abschnitt 5.3. Seien x 0 ein lokales Minimum von 5.6), 5.7) und z 0 der zugehörige Lagrange Multiplikator zum Lagrange Problem 4.10). Insgesamt erfüllen x 0, z 0 ) das Problem, siehe 4.10), Φx 0, z 0 ) = x Lx 0, z 0 ) z T 0 gx 0) ) = fx0 ) + gx 0 )) T z 0 z T 0 gx 0) ) = 0 5.9) mit z 0 0. Da die Gleichheitsbedingungen ohnehin verschwinden, kann man 5.9) sogar wie folgt schreiben fx 0 ) + gx 0 )) T z 0 z 0,1 g 1 x 0 ). Φx 0, z 0 ) = z 0,p g p x 0 ) = ) g p+1 x 0 ). g m x 0 ) SQP Verfahren wollen das nichlineare Problem 5.10) mit einem Verfahren vom Newton Typ lösen. Dazu benötigt man die Jacobi Matrix von Φx, z), die durch Ψ x, z, H L,x x, z)) H L,x x, z) g 1 x) g p x) g p+1 x) g m x) z 1 g 1 x)) T g 1 x) = z p g p x)) T g p x) g p+1 x)) T. 0 0 g m x)) T R n+m) n+m) gegeben ist. Ein wesentliches Merkmal eines SQP Verfahrens besteht darin, dass die teure Hesse Matrix H L,x x, z) in der Regel durch eine einfacher zu berechnende Matrix ersetzt wird. Unter geeigneten Voraussetzungen kann man zeigen, dass die Jacobi Matrix Ψ x 0, z 0, H L,x x 0, z 0 )) nichtsingulär ist und dass das Newton Verfahren zur Nullstellenbestimmung von Φx, z) quadratisch konvergiert. Sei eine aktuelle Iterierte x k), z k) ) T gegeben. Die Newton Korrektur x k), z k) ) T berechnet sich als Lösung des Gleichungssystems ) Ψ x k), z k), H L,x x k), z k) ) x k), z k)) T = Φx k), z k) ). Beim Newton Verfahren kann man im allgemeinen jedoch nur lokale Konvergenz erwarten, dass heisst, der Startwert muss nahe genug an der unbekannten) Lösung 106

9 sein. Speziell für die Funktion Φx, z) kann man auch nicht garantieren, dass alle Iterierten die Ungleichungen g i x k) ) 0 und die Nichtnegativitätsbedingung z k) i 0 erfüllen. Damit ist es möglich, dass das Newton Verfahren gegen eine nicht zulässige Lösung von Φx, z) = 0 konvergiert, bei der Nebenbedingungen nicht erfüllt sind oder die Lagrange Multiplikatoren negativ sind. Die Konvergenz gegen eine solche Lösung muss verhindert werden. Dazu wird anstelle des Newton Verfahrens das System Ψ x k), z k+1), B k)) x k), z k)) T = Φx k), z k) ) 5.11) betrachtet, wobei x k), z k) und z k+1) = z k) + z k) die zusätzlichen Forderungen z k+1) i 0 für i = 1,..., p, 5.12) g i x k)) + g i x k))) T x k) 0 für i = 1,..., p 5.13) erfüllen. Im Vergleich zum Newton Verfahren ersetzt man H L,x x k), z k) ) durch eien Matrix B k), die in der Regel durch gewisse Quasi Newton Korrekturen sogenannte Broyden Verfahren) erzeugt wird. Des weiteren wird der Vektor z k) auf der linken Seite durch z k+1) ersetzt. Man erhält ein implizites Gleichungssystem, welches nicht mehr linear bezüglich der Lagrange Multiplikatoren ist. Außerdem werden noch die linearen Ungleichungsbedingungen 5.12), 5.13) an x k) und z k) gestellt. Ausgeschrieben besagt 5.11) 5.13) f x k)) + B k) x k) + z k+1) i g i x k)) + m i=1 z k+1) i g i x k)) = 0, g i x k))) T x k) ) g i x k)) + g i x k))) T x k) Wir betrachten das folgende quadratische Programm unter den Nebenbedingungen = 0, i = 1,..., p, 5.14) = 0, i = p + 1,..., m. z = min f x k))) T 1 s + s R n 2 st B k) s 5.15) g i x k)) + g i x k))) T s 0, i = 1,..., p, 5.16) g i x k)) + g i x k))) T s = 0, i = p + 1,..., m. 5.17) Erfülle dieses Problem die Voraussetzungen des Satzes 4.21 Kuhn/Tucker). Dann sind die notwendigen Bedingungen für ein Minimum gerade die Gleichungen 5.14). Übungsaufgabe Damit ergibt sich folgendes Verfahren: Algorithmus 5.16 SQP Algorithmus Grundform). 1. Initialisierung. Wähle x 0) R n, B 0) = B 0)) T HL,x x 0), z 0))) für ein z 0) R m mit z 0) i > 0, i = 1,..., p 2. Iteration. k = 0, 1, 2,

10 Bestimme die Lösung s von 5.15) ) und einen zugehörigen Lagrange-Multiplikator z. Setze x k+1) = x k) + s, z k+1) = z. Bestimme eine symmetrische Matrix B k+1) H L,x x k+1), z k+1)). Falls B k) positiv semidefinit ist, dann ist 5.15) 5.17) ein konvexes quadratisches Programm. In diesem Fall sind die Bedingungen des Satzes 4.21 notwendig und hinreichend für ein globales Minimum, siehe auch Satz Zur Lösung kann man beispielsweise ein Projektionsverfahren nehmen, siehe Abschnitt