4.6 Berechnung von Eigenwerten

Transkript

1 4.6 Berechnung von Eigenwerten Neben der Festlegung auf den betragsgrößten Eigenwert hat die Potenzmethode den Nachteil sehr langsamer Konvergenz, falls die Eigenwerte nicht hinreichend separiert sind. Eine einfache Erweiterung der Potenzmethode ist die Inverse Iteration nach Wieland zur Berechnung des kleinsten Eigenwerts einer Matrix. Zur Herleitung verwenden wir die Tatsache, dass zu einem Eigenwert λ einer regulären Matrix A R n n durch λ 1 ein Eigenwert der inversen Matrix A 1 R n n gegeben ist: Aw = λ(a)w A 1 w = λ(a) 1 w =: λ(a 1 )w. Die Potenzmethode, angewendet auf die inverse Matrix liefert den betragsgrößten Eigenwert λ max (A 1 ) von A 1. Der Kehrwert dieses Eigenwertes ist der betragskleinste Eigenwert der Matrix A selbst λ min (A) = λ max (A 1 ) 1. Dieses Prinzip kann weiter verallgemeinert werden. Dazu sei λ(a) ein Eigenwert mit zugehörigem Eigenvektor w R n von A und σ C eine beliebige komplexe Zahl (jedoch kein Eigenwert von A). Dann gilt: (A σi)w = (λ(a) σ)w = λ(a σi)w [A σi] 1 w = λ([a σi] 1 )w. Die Anwendung der Potenzmethode auf die Matrix [A σi] 1 liefert nach vorangestellter Überlegung den betragskleinsten Eigenwert der Matrix [A σi], d.h. den Eigenwert von A, der σ am nächsten liegt. Liegen nun Schätzungen für die Eigenwerte der Matrix A vor, so können die genauen Werte mit der Inversen Iteration bestimmt werden. Die Gerschgorin- Kreise liefern oft einen guten Anhaltspunkt für σ. Satz 4.80 (Inverse Iteration mit Shift). Es sei A R n n eine reguläre Matrix. Es sei σ C. Für die Eigenwerte λ i von A gelte: 0 < λ 1 σ < λ 2 σ λ n σ. Es sei x (0) R n ein geeigneter normierter Startwert. Für i = 1, 2,... konvergiert die Iteration [A σi] x (i) = x (i 1), x (i) := x(i) x (i), µ(i) := x(i) k x (i 1) k für jeden Index k {1,..., n} gegen den Eigenwert λ 1 von A: ( λ 1 λ (i) λ 1 σ i) = O. λ 2 σ, λ (i) := σ + (µ (i) ) 1, Beweis: Der Beweis ist eine einfache Folgerung aus Satz Falls σ kein Eigenwert von A ist, so ist B := A σi invertierbar. Die Matrix B 1 hat die Eigenwerte µ 1,..., µ n, mit Für diese gilt nach Voraussetzung: µ i = (λ i σ) 1 λ i = µ 1 i + σ. (4.12) µ 1 > µ 2 µ n >

2 4 Numerische Lineare Algebra Die Potenzmethode, Satz 4.77, angewandt auf die Matrix B 1 liefert eine Approximation für µ 1 : ( µ (i) µ 2 i) µ 1 = O. Die gewünschte Aussage folgt mit (4.12). In jedem Schritt der Iteration muss ein Lineares Gleichungssystem [A σi] x = x gelöst werden. Dies geschieht am besten mit einer Zerlegungsmethode, etwa der LR-Zerlegung der Matrix. Die Zerlegung kann einmal in O(n 3 ) Operationen erstellt werden, anschließend sind in jedem Schritt der Iteration weitere O(n 2 ) Operationen für das Vorwärts- und Rückwärtseinsetzen notwendig. Die Konvergenzgeschwindigkeit der Inversen Iteration mit Shift kann durch eine gute Schätzung σ gesteigert werden. Eine weitere Verbesserung der Konvergenzgeschwindigkeit kann durch ständiges Anpassen der Schätzung σ erreicht werden. Wird in jedem Schritt die beste Approximation σ + 1/µ (i) als neue Schätzung verwendet, so kann mindestens superlineare Konvergenz erreicht werden. Hierzu wählen wir: σ (0) = σ und iterieren σ (i) = σ (i 1) + 1 µ (i). Jede Modifikation des Shifts ändert jedoch das lineare Gleichungssystem und erfordert die erneute (teure) Erstellung der LR-Zerlegung. Beispiel 4.81 (Inverse Iteration nach Wieland). Es sei: A = mit den Eigenwerten: µ 1 λ , λ 2 = 1.954, λ 3 = Wir wollen alle Eigenwerte mit der inversen Iteration bestimmen. Startwerte erhalten wir durch Analyse der Gerschgorin-Kreise: K 1 = K 0.5 (2), K 2 = K 0.2 ( 1), K 3 := K 0.3 (4). Die drei Kreise sind disjunkt und wir wählen als Shift in der Inversen Iteration σ 1 = 2, σ 2 = 1 sowie σ 3 = 4. Die Iteration wird stets mit v = (1, 1, 1) T und Normierung bezüglich der Maximumsnorm gestartet. Wir erhalten die Näherungen: σ 1 = 2 : µ (1) 1 = , µ (2) 1 = , µ (3) 1 = , µ (4) 1 = , σ 2 = 1 : µ (1) 2 = 1.840, µ (2) 2 = , µ (3) 2 = , µ (4) 2 = , σ 3 = 4 : µ (1) 3 = 6.533, µ (2) 3 = , µ (3) 3 = , µ (4) 3 = Diese Approximationen ergeben die folgenden Eigenwert-Näherungen: λ 1 = σ 1 + 1/µ (4) , λ 2 = σ 2 + 1/µ (4) , λ 3 = σ 3 + 1/µ (4) Alle drei Näherungen sind in den ersten wesentlichen Stellen exakt. 178

3 4.6 Berechnung von Eigenwerten Das Beispiel demonstriert, dass die inverse Iteration mit Shift zu einer wesentlichen Beschleunigung der Konvergenz führt, falls gute Schätzungen der Eigenwerte vorliegen Das QR-Verfahren zur Eigenwertberechnung Wir haben bereits die QR-Zerlegung einer Matrix A in eine orthogonale Matrix Q R n n sowie eine rechte obere Dreiecksmatrix R R n n kennengelernt. Das QR-Verfahren zur Berechnung der Eigenwerte von A beruht auf der folgenden Beobachtung: A = QR = QR(QQ T ) = Q(RQ)Q T, (4.13) d.h., die Matrix A ist orthogonal ähnlich zur Matrix RQ, hat also die gleichen Eigenwerte wie diese. Wir definieren: Algorithmus 4.82 (QR-Verfahren). Es sei A R n n. Ausgehend von A (1) := A iteriere für i = 1, Erstelle die QR-Zerlegung 2. Berechne A (i) =: Q (i) R (i), A (i+1) := R (i) Q (i). Das QR-Verfahren erzeugt eine Folge A (i), i 1 von Matrizen, die gemäß (4.13) alle ähnlich zur Matrix A sind. Wir werden sehen, dass die Diagonaleinträge der Folgenglieder A (i) gegen die Eigenwerte der Matrix A laufen. Satz 4.83 (QR-Verfahren zur Eigenwertberechnung). Es sei A R n n eine Matrix mit separierten Eigenwerten λ 1 > λ 2 > > λ n. Dann gilt für die Diagonalelemente a (t) ii der durch das QR-Verfahren erzeugten Matrizen A (t) : {d (t) 11,..., d(t) nn} {λ 1,..., λ n } (t ). Beweis: Für den technisch aufwändigen Beweis verweisen wir auf [9] oder [6]. Im Allgemeinen konvergieren die Diagonalelemente der Folgenglieder A (i) mindestens linear gegen die Eigenwerte. In speziellen Fällen wird jedoch sogar kubische Konvergenz erreicht. Verglichen mit der Potenzmethode und der inversen Iteration weist das QR- Verfahren daher zum einen bessere Konvergenzeigenschaften auf, gleichzeitig werden alle Eigenwerte der Matrix A bestimmt. In jedem Schritt der Iteration muss jedoch eine QR- Zerlegung der Iterationsmatrix A (i) erstellt werden. Bei allgemeiner Matrix A R n n sind hierzu O(n 3 ) arithmetische Operationen notwendig. Um die Eigenwerte mit hinreichender Genauigkeit zu approximieren sind oft sehr viele, > 100 Schritte notwendig. In 179

4 4 Numerische Lineare Algebra der praktischen Anwendung wird das QR-Verfahren daher immer in Verbindung mit einer Reduktionsmethode (siehe folgendes Kapitel) eingesetzt, bei der die Matrix A zunächst in eine einfache ähnliche Form transformiert wird. Bemerkung 4.84 (LR-Verfahren). Wie das QR-Verfahren liefert auch das LR-Verfahren: A (i) =: L (i) R (i), A (i+1) := R (i+1) L (i+1), eine Folge von Matrizen A (i), deren Diagonalelemente gegen die Eigenwerte der Matrix A konvergieren. Das LR-Verfahren zur Eigenwertberechnung konvergiert nur dann, wenn die LR-Zerlegung ohne Pivotisierung durchgeführt werden kann. Daher wird bei allgemeinen Matrizen üblicherweise das QR-Verfahren bevorzugt Reduktionsmethoden zur Eigenwertbestimmung Das Erstellen der QR-Zerlegung einer Matrix A R n n mit Hilfe von Householder- Matrizen bedarf O(n 3 ) arithmetischer Operationen, siehe Satz Da in jedem Schritt des QR-Verfahrens diese Zerlegung neu erstellt werden muss, ist dieser Aufwand zu groß. Hat die Matrix A jedoch eine spezielle Struktur, ist sie z.b. eine Bandmatrix, so kann auch die QR-Zerlegung mit weit geringerem Aufwand erstellt werden. Es gilt: Satz 4.85 (Ähnliche Matrizen). Zwei Matrizen A, B C n n heißen ähnlich, falls es eine reguläre Matrix S C n n gibt, so dass gilt: A = S 1 BS. Ähnliche Matrizen haben das gleiche charakteristische Polynom und die gleichen Eigenwerte. Zu einem Eigenwert λ sowie Eigenvektor w von A gilt: B(Sw) = S(Aw) = λsw. Ziel dieses Kapitels ist es durch Ähnlichkeitstransformationen A = A (0) A (i) = (S (i) ) 1 A (i) S (i), die Matrix A Schritt für Schritt in eine ähnliche Matrix (also mit den gleichen Eigenwerten) zu transformieren, die eine einfache Struktur hat, so dass die Eigenwerte leichter zu bestimmen, oder sogar direkt ablesbar sind. Mögliche Normalformen, bei denen die Eigenwerte unmittelbar ablesbar sind, sind die Jordan sche Normalform, die Diagonalisierung von A, oder die Schur sche Normalform: 180

5 4.6 Berechnung von Eigenwerten Definition 4.86 (Schur sche Normalform). Die Matrix A C n n habe die Eigenwerte λ 1,..., λ n (ihrer Vielfachheit gezählt). Dann existiert eine unitäre Matrix U C n n, so dass λ 1. Ū T AU = λ n Falls ĀT = A hermitesch ist, so ist Ū T AU auch hermitesch, also eine Diagonalmatrix. Die Aufgabe, eine Matrix A in eine Normalform zu transformieren, ist üblicherweise nur bei Kenntnis der Eigenwerte möglich. Dieser Weg eignet sich somit nicht zur Eigenwertberechnung. Daher werden wir im Folgenden die Reduktion der Matrix A auf eine Normalform kennenlernen, bei der die Eigenwerte zwar nicht unmittelbar abgelesen werden, die QR-Zerlegung jedoch mit sehr geringem Aufwand erstellt werden kann. Diese reduzierte Normalform dient dann als Grundlage für das QR-Verfahren zur Eigenwertberechnung. Wir definieren: Satz 4.87 (Hessenberg-Normalform). Zu jeder Matrix A R n n existiert eine orthogonale Matrix Q R n n, so dass Q T AQ = , eine Hessenberg-Matrix ist, also eine rechte obere Dreiecksmatrix, die zusätzlich eine untere Nebendiagonale besitzt. Falls A = A T symmetrisch ist, so ist Q T AQ eine Tridiagonalmatrix. Beweis: Die Konstruktion der Hessenberg-Matrix erfolgt ähnlich der QR-Zerlegung mit Householder-Transformationen. Um Ähnlichkeitstransformationen sicherzustellen müssen wir die orthogonalen Householder-Matrizen S (i) jedoch von links und rechts an die Matrix A multiplizieren. Wir beschreiben den ersten Schritt. Es seien A = (a 1,..., a n ) die Spaltenvektoren von A. Wir bestimmen den Vektor v (1) = (0, v (1) 2,..., v(1) n ) T so, dass mit S (1) = I 2v (1) (v (1) ) T gilt S (1) a 1 span(e 1, e 2 ). Hierzu wählen wir eine Householder-Transformation mit Vektor v (1) = ã1 + ã 1 e 2 ã 1 + ã 1 e 2, 181

6 4 Numerische Lineare Algebra wobei ã 1 = (0, a 21,..., a n1 ) der reduzierte erste Spaltenvektor ist. Dann gilt mit S (1) = I 2v (1) (v (1) ) T mit S (1) = (S (1) ) T : a 11 a 12 a 1n a 11 A (1) = S (1) A(S (1) ) T. = S (1) =: 0 Ã (1), Ã (1) R n 1 n Im zweiten Schritt wird das entsprechende Verfahren auf die Matrix Ã(1) angewendet. Nach n 2 Schritten erhalten wir mit Matrix A (n 2), welche Hessenberg-Gestalt hat. Q T AQ := } S (n 2) {{ S (1) } A } S (1) {{ S (n 2) } =:Q T =:Q Im Falle A = A T gilt: (Q T AQ) T = Q T A T Q = Q T AQ. D.h., auch A (n 2) ist wieder symmetrisch. Symmetrische Hessenberg-Matrizen sind Tridiagonalmatrizen. Bemerkung 4.88 (Hessenberg-Normalform). Die Transformation einer Matrix A R n n in Hessenberg-Form erfordert bei Verwendung der Householder-Transformationen 5 3 n3 + O(n 2 ) arithmetische Operationen. Im Fall symmetrischer Matrizen erfordert die Transformation in eine Tridiagonalmatrix 2 3 n3 + O(n 2 ) Operationen. Die Transformation in Hessenberg-Form benötigt demnach etwas mehr arithmetische Operationen als eine QR-Zerlegung. Im Anschluss können die QR-Zerlegungen einer Hessenberg- Matrix mit weitaus geringerem Aufwand erstellt werden. Weiter gilt, dass für die QR- Zerlegung einer Hessenberg-Matrix A gilt, dass die Matrix RQ wieder Hessenberg-Gestalt hat. Beides fasst der folgende Satz zusammen: Satz 4.89 (QR-Zerlegung von Hessenberg-Matrizen). Es sei A R n n eine Hessenberg- Matrix. Dann kann die QR-Zerlegung A = QR mit Householder-Transformationen in 2n 2 + O(n) arithmetische Operationen durchgeführt werden. Die Matrix RQ hat wieder Hessenberg-Gestalt. Beweis: Es gilt a ij = 0 für i > j +1. Wir zeigen, dass induktiv, dass diese Eigenschaft für alle Matrizen A (i) gilt, die im Laufe der QR-Zerlegung entstehen. Zunächst folgt im ersten Schritt für v (1) = a 1 + a 1 e 1 hieraus v (1) k = 0 für alle k > 2. Die neuen Spaltenvektoren berechnen sich zu: a (1) i = a i (a i, v (1) )v (1). (4.14) 182

7 4.6 Berechnung von Eigenwerten Da v (1) k = 0 für k < 2 gilt (a (1) i ) k = 0 für k > i + 1, d.h. A (1) hat wieder Hessenberg-Form. Diese Eigenschaft gilt induktiv für i = 2,..., n 1. Da der (reduzierte) Vektor ṽ (i) in jedem Schritt nur zwei von Null verschiedene Einträge hat, kann dieser in 4 Operationen erstellt werden. Die Berechnung der n i neuen Spaltenvektoren gemäß (4.14) bedarf je 4 arithmetischer Operationen. Insgesamt ergibt sich ein Aufwand von n 1 i= (n i) = 2n 2 + O(n). Es bleibt (als Übung) die Hessenberg-Gestalt der Matrix A := RQ nachzuweisen. In Verbindung mit der Reduktion auf Hessenberg, bzw. auf Tridiagonalgestalt ist das QR- Verfahren eines der effizientesten Verfahren zur Berechnung von Eigenwerten einer Matrix A R n n. Die QR-Zerlegung kann in O(n 2 ) Operationen durchgeführt werden, und im Laufe des QR-Verfahrens entstehen ausschließlich Hessenberg-Matrizen. Die Konvergenz des QR-Verfahrens hängt von der Separation der Eigenwerte λ i / λ i+1 ab. Je weiter die Eigenwerte voneinander entfernt sind, umso besser konvergiert das Verfahren. Im allgemeinen kann lineare Konvergenz gezeigt werden. In speziellen Fällen kann jedoch sogar kubische Konvergenz der Diagonalelemente A (t) ii gegen die Eigenwerte gezeigt werden. Wie die Inverse Iteration kann das QR-Verfahren durch Einführen eines Shifts beschleunigt werden. Mit Koeffizienten µ i wird die Iteration ersetzt durch die Vorschrift: A (i 1) µ i I = Q (i) R (i), A (i) := R (i) Q (i) + µ i I. Abschließend betrachten wir hierzu ein Beispiel: Beispiel 4.90 (Eigenwert-Berechnung mit Reduktion und QR-Verfahren). Wir betrachten die Matrix A Die Matrix A ist symmetrisch und hat die Eigenwerte: λ , λ , λ , λ Schritt 1: Reduktion auf Hessenberg- (Tridiagonal)-Gestalt. Im ersten Reduktionsschritt wählen wir mit ã 1 = (0, 20, 90, 32) den Spiegelungsvektor v (1) als: v (1) = ã1 + ã 1 e 2 ã 1 + ã 1 e

8 4 Numerische Lineare Algebra Wir erhalten mit S (1) := I 2v (1) (v (1) ) T : A (1) = S (1) AS (1) Mit ã (1) 2 = (0, 0, , ) T und v (2) = ã2 + ã 2 e 3 ã 2 + ã 2 e 3 folgt mit S (2) := I 2v (2) (v (2) ) T : H := A (2) = S (2) A (1) S (2) Die Matrix H hat nun Tridiagonalgestalt. Alle Transformationen waren Ähnlichkeitstransformationen. Daher haben H und A die gleichen Eigenwerte. Schritt 2: QR-Verfahren Wir führen nun einige Schritte des QR-Verfahrens durch, verzichten dabei auf die Zwischenschritte zum Erstellen der QR-Zerlegung. Es sei A (1) := H. Dann ist: A (1) = Q (1) R (1) A (2) = R (1) Q (1) A (2) = Q (2) R (2) A (3) = R (2) Q (2) A (3) = Q (3) R (3) A (4) = R (3) Q (3) A (4) = Q (4) R (4) A (5) = R (4) Q (4) A (9) = Q (9) R (9) A (10) = R (9) Q (9)

9 4.6 Berechnung von Eigenwerten Für die Diagonalelemente gilt: a (10) , a (10) , a (10) , a (10) Diese Diagonalelemente stellen sehr gute Näherungen an alle Eigenwerte der Matrix A dar: a (10) 11 λ , λ 1 a (10) 22 λ , λ 2 a (10) 33 λ , λ 3 a (10) 44 λ λ 4 185

10 4 Numerische Lineare Algebra 186