Numerische Verfahren zur Lösung unrestringierter Optimierungsaufgaben. Eine kurze Einführung in Quasi Newton Verfahren

Transkript

1 Ergänzungen zu dem Buch Numerische Verfahren zur Lösung unrestringierter Optimierungsaufgaben von Carl Geiger und Christian Kanzow (Springer Verlag, 1999) Eine kurze Einführung in Quasi Newton Verfahren Wir erinnern zunächst daran, dass das (lokale) Newton Verfahren zu einem gegebenen Startvektor x 0 IR n eine Folge {x k } konstruiert gemäß der Vorschrift x k+1 := x k H 1 k f(xk ) mit H k := 2 f(x k ) für k = 0, 1, 2,.... Dieses Newton Verfahren besitzt den Vorteil der lokal quadratischen Konvergenz, weist allerdings auch einige Nachteile auf: Die Hesse Matrix 2 f(x k ) muss berechnet werden, was selbst unter Ausnutzung der Symmetrie dieser Matrix im Allgemeinen immer noch n(n + 1)/2 zweite partielle Ableitungen sind. In jedem Iterationsschritt hat man die Newton Gleichung 2 f(x k )d = f(x k ) zu lösen, was im Allgemeinen einen Aufwand von O(n 3 ) Rechenoperationen bedeutet. Die Hesse Matrix 2 f(x k ) ist global nicht notwendig positiv definit, was im Hinblick auf die Herleitung des Newton Verfahrens (ersatzweise Minimierung einer quadratischen Approximation q k an f in x k ) die Frage aufwirft, ob das Newton Verfahren global überhaupt sinnvoll ist. Die Klasse der Quasi Newton Verfahren versucht nun, diese Nachteile des Newton Verfahrens zu vermeiden. Wie das Newton Verfahren benutzen auch die Quasi Newton Verfahren eine Iterationsvorschrift der Gestalt x k+1 := x k H 1 k f(xk ) (1) für k = 0, 1, 2,..., wobei H k IR n n jetzt nur eine geeignete Approximation an die Hesse Matrix 2 f(x k ) darstellt (so genannte direkte Quasi Newton Verfahren). Andere Quasi Newton Verfahren verwenden die Vorschrift x k+1 := x k B k f(x k ) (2) für k = 0, 1, 2,...; dabei ist B k IR n n eine Approximation an die inverse Hesse Matrix 2 f(x k ) 1 (so genannte inverse Quasi Newton Verfahren). 1

2 Wir beschäftigen uns zunächst mit den direkten Quasi Newton Verfahren und überlegen uns, welchen Bedingungen die in (1) auftretende Matrix H k genügen sollte, um als eine geeignete Approximation an die Hesse Matrix 2 f(x k ) in Frage zu kommen. Dabei erscheinen die nachstehenden Forderungen als recht natürlich: (a) H k sollte symmetrisch sein, da auch 2 f(x k ) symmetrisch ist. (b) H k+1 sollte der so genannten Quasi Newton Gleichung H k+1 s k = y k (3) genügen, wobei wir hier und im Folgenden von den Abkürzungen s k := x k+1 x k und y k := f(x k+1 ) f(x k ) Gebrauch machen. Aufgrund des Mittelwertsatzes in der Integralform gilt nämlich H k+1 s k = y k für die gemittelte Hesse Matrix H k+1 := f(x k + t(x k+1 x k ))dt, wobei wir k + 1 statt k als Index verwenden, da hierbei schon Informationen von der neuen Iterierten x k+1 eingehen. (c) Schließlich sollte sich H k+1 relativ leicht aus H k bestimmen lassen. Wie wir später nämlich sehen werden, garantiert dies einen Aufwand von lediglich O(n 2 ) Rechenoperationen pro Iterationsschritt. Die Bedingungen (a) und (c) lassen sich beispielsweise mittels eines symmetrischen Rang 1 Ansatzes der Form H k+1 := H k + γuu T (4) mit u IR n, γ IR erfüllen. Einsetzen dieses Ausdrucks in (3) liefert Diese Gleichung ist offenbar für H k s k + γuu T s k = y k. u := y k H k s k, γ := 1 u T s k erfüllt, sofern u T s k 0 gilt. Damit ergibt sich die so genannte symmetrische Rang 1 Formel (kurz: SR1 Formel) H SR1 k+1 := H k + (yk H k s k )(y k H k s k ) T (y k H k s k ) T s k, die den Forderungen (a), (b) und (c) genügt. Leider kann der Nenner in der SR1 Formel Null werden, ferner ist mit H k die Matrix Hk+1 SR1 im Allgemeinen nicht mehr 2

3 positiv definit, was im Hinblick auf eine spätere Globalisierung mittels einer Schrittweitenstrategie zu Schwierigkeiten führen kann. Aus diesem Grunde hat die SR1 Formel lange Zeit keine große Rolle gespielt. Sie ist in den letzten Jahren insbesondere im Zusammenhang mit Trust Region Verfahren allerdings wieder recht populär geworden. Etwas mehr Flexibilität als der symmetrische Rang 1 Ansatz (4) bietet die symmetrische Rang 2 Korrektur H k+1 := H k + γuu T + δvv T (5) mit u, v IR n und γ, δ IR. Einsetzen in die Quasi Newton Gleichung (3) liefert dann H k s k + γuu T s k + δvv T s k = y k. Man verifiziert sehr leicht, dass diese Gleichung mit der Wahl u := y k, v := H k s k, γ := 1 (y k ) T s, δ := 1 k (s k ) T H k s k erfüllt ist (sofern (y k ) T s k 0 gilt, worauf wir im nächsten Unterabschnitt noch zurückkommen). Damit ergibt sich die so genannte Broyden Fletcher Goldfarb Shanno Formel (kurz: BFGS Formel) BF GS Hk+1 := H k + yk (y k ) T (s k ) T y H ks k (s k ) T H k. k (s k ) T H k s k Die BFGS Formel ist allerdings nicht die einzige Aufdatierungsformel vom Rang 2 Typ, die der Quasi Newton Gleichung (3) genügt. Auch die Davidon Fletcher Powell Formel (kurz: DFP Formel) Hk+1 DF P := H k + (yk H k s k )(y k ) T + y k (y k H k s k ) T (yk H k s k ) T s k y k (y k ) T (y k ) T s k ((y k ) T s k ) 2 erfüllt die Quasi Newton Gleichung und ist vom Rang 2 Typ (!). Noch allgemeiner ist auch jede Matrix aus der Broyden Klasse Hk+1 λ := (1 λ)hk+1 DF P + λh BF GS k+1 mit λ IR eine Rang 2 Korrektur von H k, die der Quasi Newton Gleichung (3) genügt. Im Falle λ [0, 1] spricht man von der konvexen Broyden Klasse. Speziell für (y k ) T s k λ = 1, λ = 0 und λ := (y k ) T s k (s k ) T H k s k ergeben sich die BFGS, DFP und SR1 Formeln, wobei letztere im Allgemeinen nicht zur konvexen Broyden Klasse gehört. 3

4 Unter Verwendung solcher Aufdatierungsmatrizen kann man also die explizite Berechnung zweiter partieller Ableitungen vermeiden, dennoch steht in der Aufdatierungsmatrix eine gewisse Information zweiter Ordnung, da sie der Quasi Newton Gleichung genügt. Doch wie kommt es nun zu dem angedeuteten Rechenaufwand von nur O(n 2 ) statt O(n 3 ) Operationen pro Iterationsschritt? Zunächst sieht es so aus, als ob man auch bei der Quasi Newton Iteration (1) in jedem Schritt ein lineares Gleichungssystem der Gestalt H k+1 d = f(x k+1 ) zu lösen hat, was im Allgemeinen O(n 3 ) Rechenoperationen benötigen wird. Andererseits entsteht H k+1 aus H k aber durch eine Rang 1 oder Rang 2 Korrektur. Ist beispielsweise H k positiv definit und H k = L k L T k die zugehörige Cholesky Zerlegung, so ist es mittels so genannter Modifikationstechniken möglich, die Cholesky Zerlegung H k+1 = L k+1 L T k+1 von H k+1 mit nur O(n 2 ) Rechenoperationen aus jener von H k zu berechnen. Verwendet man die inversen Quasi Newton Verfahren an Stelle der direkten Quasi Newton Methoden, so wird man für die in der Aufdatierungsvorschrift (2) auftretende Matrix B k ähnliche Forderungen stellen wie für die Matrizen H k : (a) B k sollte symmetrisch sein. (b) B k+1 sollte der so genannten inversen Quasi Newton Gleichung genügen. (c) B k+1 sollte sich leicht aus B k berechnen lassen. B k+1 y k = s k (6) Analog zu den Aufdatierungsformeln für die direkten Quasi Newton Verfahren kann man auch bei den inversen Quasi Newton Verfahren die neue Matrix B k+1 aus B k mittels einer Rang 1 oder Rang 2 Korrektur bestimmen. Auf diese Weise ergeben sich etwa die inverse SR1 Formel die inverse DFP Formel sowie die inverse BFGS Formel B SR1 k+1 = B k + (sk B k y k )(s k B k y k ) T (s k B k y k ) T y k, Bk+1 DF P = B k + sk (s k ) T (s k ) T y B ky k (y k ) T B k k (y k ) T B k y k BF GS Bk+1 = B k + (sk B k y k )(s k ) T + s k (s k B k y k ) T (sk B k y k ) T y k s k (s k ) T (y k ) T s k ((y k ) T s k ) 2 4

5 (formal braucht man in der vorigen Herleitung das Tripel (H k, s k, y k ) nur durch das Tripel (B k, y k, s k ) zu ersetzen, weshalb man gerne den Namen duale Formeln benutzt). Dabei sprechen wir von inversen Formeln, weil wir mit diesen die inverse Hesse Matrix approximieren. Tatsächlich gibt es einen weiteren Grund für diesen Sprachgebrauch, denn es gelten die folgenden Implikationen: B k H k = I = Bk+1 SR1 Hk+1 SR1 = I, B k H k = I = BF GS BF GS Bk+1 Hk+1 = I, B k H k = I = Bk+1 DF P Hk+1 DF P = I. Ist B k also die Inverse von H k, so ist auch die mittels der SR1, BFGS oder DFP Formel erzeugte Aufdatierungsmatrix B k+1 gleich der Inversen der mittels der entsprechenden Formel aufdatierten Matrix H k+1. Gemäß Herleitung dieser Formeln ist diese Eigenschaft zunächst nicht klar, sie lässt sich jedoch sehr leicht durch direktes Nachrechnen verifizieren. Alternativ könnte man die Inverse von H k+1 auch mittels der sogenannten Sherman Morrison Woodbury Formel berechnen, um auf diese Weise einen Beweis der obigen Implikationen zu erhalten (Aufgabe!). Anhand dieser inversen Aufdatierungsformeln erkennt man sofort, dass die inversen Quasi Newton Verfahren x k+1 = x k B k f(x k ), k = 0, 1, 2,... pro Iterationsschritt mit nur O(n 2 ) Rechenoperationen auskommen (aufgrund der Matrix Vektor Multiplikationen, lineare Gleichungssysteme sind hier gar nicht mehr zu lösen). Im folgenden Algorithmus geben wir formal ein Quasi Newton Verfahren unter Verwendung der inversen BFGS Formel an; die inverse BFGS Formel kann natürlich durch jede andere inverse Quasi Newton Aufdatierungsformel ersetzt werden, jedoch hat sich das BFGS Verfahren in der numerischen Praxis als das beste Quasi Newton Verfahren herausgestellt. Algorithmus 1 (Inverses BFGS Verfahren) (S.0) Wähle x 0 IR n, B 0 IR n n symmetrisch und positiv definit, ε 0, und setze k := 0. (S.1) Gilt f(x k ) ε: STOP. (S.2) Setze x k+1 := x k B k f(x k ). (S.3) Setze s k := x k+1 x k, y k := f(x k+1 ) f(x k ), 5

6 und berechne B k+1 := B k + (sk B k y k )(s k ) T + s k (s k B k y k ) T (y k ) T s k (sk B k y k ) T y k s k (s k ) T ((y k ) T s k ) 2. (S.4) Setze k k + 1, und gehe zu (S.1). Aufgrund der obigen Ausführungen sollte klar sein, dass der Algorithmus 1 äquivalent ist zu der Vorschrift x k+1 := x k H 1 k f(xk ), k = 0, 1, 2,..., wenn H k+1 durch Verwendung der direkten BFGS Formel bestimmt wird und H 0 = B0 1 gilt. Diese Variante, kombiniert mit den weiter oben angedeuteten Modifikationstechniken, wird in der Praxis aus Gründen der numerischen Stabilität zumeist bevorzugt. Der Algorithmus 1 ist natürlich nur ein lokales Verfahren, für welches unter geeigneten Voraussetzungen superlineare Konvergenz bewiesen werden kann. Eine geeignete Globalisierung mittels der Wolfe Powell Schrittweitenstrategie ist möglich, siehe etwa den Abschnitt 11.4 im Buch von Geiger und Kanzow. 6