4.4 Orthogonalisierungsverfahren und die QR-Zerlegung

Transkript

1 4.4 Orthogonalisierungsverfahren und die QR-Zerlegung Die Zerlegung einer regulären Matrix A R n n in die beiden Dreiecksmatrizen L und R basiert auf der Elimination mit Frobeniusmatrizen, d.h. R = FA, mit L := F 1. Es gilt: cond(r) = cond(fa) cond(f) cond(a) = F L cond(a). Bei entsprechender Pivotisierung gilt für die Einträge der Matrizen F sowie L f ij 1 und l ij 1, siehe Satz Dennoch können die Normen von L und F im Allgemeinen nicht günstiger als F n und L n abgeschätzt werden. Es gilt dann: cond (R) n 2 cond (A). Die Matrix R, welche zur Rückwärtselimination gelöst werden muss, hat eine unter Umständen weit schlechtere Konditionierung als die Matrix A selbst (welche auch schon sehr schlecht konditioniert sein kann). Wir suchen im Folgenden einen Zerlegungsprozess in eine Dreiecksmatrix, welche numerisch stabil ist, indem die Zerlegung nur mit Hilfe von orthogonalen Matrizen Q R n n durchgeführt wird, für welche cond 2 (Q) = 1 gilt: Definition 4.48 (Orthogonale Matrix). Eine Matrix Q R n n heißt orthogonal, falls ihre Zeilen und Spaltenvektoren eine Orthonormalbasis des R n bilden. Es gilt: Satz 4.49 (Orthogonale Matrix). Es sei Q R n n eine orthogonale Matrix. Dann ist Q regulär und es gilt: Q 1 = Q T, Q T Q = I, Q 2 = 1, cond 2 (Q) = I. Es gilt det(q) = 1 oder det(q) = 1. Für zwei orthogonale Matrizen Q 1, Q 2 R n n ist auch das Produkt Q 1 Q 2 eine orthogonale Matrix. Für eine beliebige Matrix A R n n gilt QA 2 = A 2. Für beliebige Vektoren x, y R n gilt: Qx 2 = x 2, (Qx, Qy) 2 = (x, y) 2. Beweis: Wir beweisen hier nur die im Kontext der numerischen Stabilität wesentlich Eigenschaft, dass die Multiplikation mit orthogonalen Matrizen die Kondition einer Matrix (d.h. die 2-Norm) nicht verändert, die weiteren Teile des Beweises belassen wir als Übung. Es gilt: QAx 2 2 = (QAx, QAx) 2 = (Q T QAx, Ax) 2 = (Ax, Ax) 2 = Ax 2 2. Wir definieren: 147

2 4 Numerische Lineare Algebra Definition 4.5 (QR-Zerlegung). Die Zerlegung einer Matrix A R n n in eine orthogonale Matrix Q R n n sowie eine rechte obere Dreiecksmatrix R R n n gemäß heißt QR-Zerlegung. A = QR, Die QR-Zerlegung hat den Vorteil, dass die Matrix R = Q T A die gleiche Konditionszahl hat wie die Matrix A selbst. Einmal erstellt, kann die QR-Zerlegung genutzt werden, um lineare Gleichungssysteme mit der Matrix A effizient zu lösen: Ax = b Q T Ax = Q T b Rx = Q T b. Zur Realisierung der QR-Zerlegung stellt sich die Frage nach der Konstruktion orthogonaler Matrizen Q zur Reduktion von A auf Dreiecksgestalt Das Gram-Schmidt Verfahren Der wichtigste Algorithmus zum Erstellen einer Orthonormalbasis ist das Orthogonalisierungsverfahren nach Gram-Schmidt: Satz 4.51 (Gram-Schmidt Orthonormalisierungsverfahren). Es sei durch {a 1,..., a n } eine Basis des R n gegeben, durch (, ) ein Skalarprodukt mit induzierter Norm. Die Vorschrift: (i) q 1 := a 1 a 1, i = 2,..., n : (ii) q i := a i (a i, q j )q j, q i := q i q i, erzeugt eine Orthonormalbasis {q 1,..., q n } des R n. Es gilt ferner: i 1 j=1 (q i, a j ) = 1 j < i n. Beweis: Wir führen den Beweis per Induktion. Für i = 1 ist a 1, da durch a 1,..., a n der ganze R n aufgespannt wird. Für i = 2 gilt: ( q 2, q 1 ) = (a 2, q 1 ) (a 2, q 1 ) (q 1, q 1 ) =. } {{ } =1 Aus der linearen Unabhängigkeit von a 2 und q 1 folgt, dass q 2. Es sei nun also (q k, q l ) = δ kl für k, l > i. Dann gilt für k < i beliebig i 1 ( q i, q k ) = (a i, q k ) (a i, q j ) (q j, q k ) = (a i, q k ) (a i, q k ) =. } {{ } j=1 =δ jk 148

3 Da span{q 1,..., q j } = span{a 1,..., a j } folgt auch (q i, a j ) = für j < i. Mit Hilfe des Gram-Schmidt Verfahrens lässt sich die QR-Zerlegung einer Matrix A R n n unmittelbar konstruieren: Satz 4.52 (QR-Zerlegung). Es sei A R n n eine reguläre Matrix. Dann existiert eine QR-Zerlegung A = QR in eine orthogonale Matrix Q R n n und eine rechte obere Dreiecksmatrix R R n n. Beweis: Es seien A = (a 1,..., a n ) die Spaltenvektoren der Matrix A. Da A regulär ist, sind die Vektoren a i linear unabhängig und bilden eine Basis des R n. Es sei {q 1,..., q n } die durch das Gram-Schmidt Verfahren aus {a 1,..., a n } konstruierte Orthonormalbasis. Dann ist durch Q = (q 1,..., q n ) R n n eine orthogonale Matrix gegeben. Die Matrix R := Q T A ist regulär und aufgrund von Satz 4.51 gilt für ihre Einträge: r ij = (q i, a j ) = j < i. Das heißt: R ist eine rechte obere Dreiecksmatrix. Die QR-Zerlegung einer Matrix kann ohne einer weiteren Normierungsbedingung nicht eindeutig sein. Angenommen, wir modifizieren den Normierungsschritt (ii) im Gram-Schmidt Verfahren Satz 4.51) zu: q i := q i q i. Dann wäre das resultierende System {q 1,..., q n } wieder orthonormal und mit Q R = QR wäre eine zweite (echt verschiedene) QR-Zerlegung gegeben. Wir können das Vorzeichen von q i in jedem Schritt so wählen, dass r ii = (q i, a i ) >, dass also R nur positive Diagonalelemente besitzt. Dann gilt: Satz 4.53 (Eindeutigkeit der QR-Zerlegung). Die QR-Zerlegung A = QR einer regulären Matrix A R n n mit r ii > ist eindeutig. Beweis: Es seien A = Q 1 R 1 = Q 2 R 2 zwei QR-Zerlegungen von A. Dann gilt: Q T 2 Q 1 = R 2 R 1 1, QT 1 Q 2 = R 1 R 1 2. Die Produkte R 2 R1 1 sowie R 1 R2 1 sind rechte obere Dreiecksmatrizen. Weiter gilt Q := Q T 2 Q 1 = (Q T 1 Q 2) T = Q T, d.h. Q ist eine orthogonale Matrix mit Q 1 = Q T. Wegen Q 1 = Q T und Q = R 2 R1 1 muss Q eine Diagonalmatrix sein. Aus der Beziehung folgt für den j-ten Einheitsvektor e j : QR 1 = Q T 2 Q 1 R 1 = Q T 2 A = R 2 QR 1 e j = q jj r 1 jj = r 2 jj >, also q jj > und wegen der Orthogonalität Q = I. D.h.: R 1 = R 2 Q 1 = AR 1 1 = AR 1 2 = Q

4 4 Numerische Lineare Algebra Die große Schwäche des Gram-Schmidt Verfahrens ist die geringe numerische Stabilität, insbesondere, wenn die Vektoren a i fast parallel sind. In diesem Fall droht Auslöschung. Wir betrachten hierzu ein Beispiel: Beispiel 4.54 (QR-Zerlegung mit Gram-Schmidt). Es sei die Matrix A := gegeben. Wir bestimmen mit dem Gram-Schmidt Verfahren aus den Spaltenvektoren A = (a 1, a 2, a 3 ) die entsprechende Orthonormalbasis. Bei dreistelliger Genauigkeit erhalten wir: q 1 = q 1 q Weiter: q 2 = q 2 (a 2, q 1 )q 1 a 2 q 1 =.1, q 2 = q 2 q Schließlich: q 3 = a 3 (a 3, q 1 )q 1 (a 3, q 2 )q 2 a 3 q 1 =, q 3 =..1 1 Die QR-Zerlegung ergibt sich mit der orthogonalen Matrix 1 Q =.1.77,.77 1 sowie der rechten oberen Dreiecksmatrix R mit r ij = (q i, a j ) für j i: Die Probe A = Q R ergibt: (q 1, a 1 ) (q 1, a 2 ) (q 1, a 3 ) R := (q 2, a 2 ) (q 2, a 3 ).77. (q 3, a 3 ) =: Ã

5 Auf den ersten Blick sieht à nach einer brauchbaren Näherung für A aus. Der relative Fehler Q R A 2 / A 2.4 ist (beachte dreistellige Arithmetik) nicht sonderlich groß. à ist jedoch nicht einmal regulär! Dieser wesentliche Fehler liegt an der Instabilität des Gram-Schmidt-Verfahrens. Für das berechnete Q gilt: I =! Q 1.77 T Q ,.77 1 mit einem relativen Fehler Q T Q I 2.7! Die QR-Zerlegung hat prinzipiell bessere Stabilitätseigenschaften als die LR-Zerlegung. Das Gram-Schmidt-Verfahren eignet sich jedoch nicht, um die orthogonale Matrix Q zu erstellen. Im Folgenden entwickeln wir eine Transformationsmethode zum Erstellen der QR-Zerlegung welche selbst auf orthogonalen, und somit optimal konditionierten, Transformationen aufbaut Householder-Transformationen Das geometrische Prinzip hinter dem Gram-Schmidt Verfahren ist die Projektion der Vektoren a i auf die bereits erstellte Orthogonalbasis q 1,..., q i 1. Diese Projektion ist schlecht konditioniert, falls a i fast parallel zu den q j mit j < i, etwa a i q j ist. Dann droht Auslöschung. Wir können einen Schritt des Gram-Schmidt Verfahrens kompakt mit Hilfe eines Matrix-Vektor Produktes schreiben (komponentenweise nachrechnen!) i 1 q i = [I G (i) ]a i, G (i) = q l ql T, mit dem dyadischen Produkt zweier Vektoren vv T R n n. Die Matrix [I G i ] stellt eine Projektion dar: Weiter gilt: [I G i ] 2 i 1 = I 2 q l ql T + l=1 i 1 k,l=1 i 1 l=1 q l q T l q k } {{ } =δ lk q T k = [I G i ]. [I G i ]q k = q k q l ql T q k =. } {{ } l=1 =δ lk Die Matrix I G i ist also nicht regulär. Falls in Schritt i der Vektor a i fast parallel zu den bereits orthogonalen Vektoren ist, also ã i δa i + span{q 1,..., q i 1 }, so gilt q i = [I G i ]ã i = [I G i ]δa i δq i q i = δq i [I G i ]δa i δa i a i. 151

6 4 Numerische Lineare Algebra Bei δa i ist also eine beliebig große Fehlerverstärkung möglich. Man vergleiche Bemerkung 4.16 zur Konditionierung der Matrix-Vektor Multiplikation (bei regulärer Matrix). Im Folgenden suchen wir eine Transformation von A zu einer Dreiecksmatrix R, die selbst auf orthogonalen Operationen aufbaut. Eine orthogonale Matrix Q R n n mit det(q) = 1 stellt eine Drehung dar und bei det(q) = 1 eine Spiegelung (oder eine Drehspiegelung). Die Householder-Transformationen nutzen das Prinzip der Spiegelung, um eine Matrix A R n n in einer rechte obere Dreiecksmatrix zu transformieren. Definition 4.55 (Householder-Transformation). Für einen Vektor v R n mit v 2 = 1 ist durch vv T das dyadische Produkt definiert und die Matrix heißt Householder-Transformation. Es gilt: S := I 2vv T R n n, Satz 4.56 (Householder-Transformation). Jede Householder-Transformation S = I 2vv T ist symmetrisch und orthogonal. Das Produkt zweier Householder-Transformationen S 1 S 2 ist wieder einer symmetrische orthogonale Matrix. Beweis: Es gilt: Weiter gilt: S T = [I 2vv T ] T = I 2(vv T ) T = I 2vv T = S. S T S = I 4vv T + 4v }{{} v T v v T = I, =1 d.h. S 1 = S T. Mit zwei symmetrischen orthogonalen Matrizen S 1 sowie S 2 gilt: (S 1 S 2 ) T = S T 2 S T 1 = S 2 S 1, (S 1 S 2 ) 1 = S 1 2 S 1 1 = S T 2 S T 1 = (S 1 S 2 ) T. Wir schließen die grundlegende Untersuchung der Householder-Transformationen mit einer geometrischen Charakterisierung ab: Bemerkung 4.57 (Householder-Transformation als Spiegelung). Es sei v R n ein beliebiger normierter Vektor mit v 2 = 1. Weiter sei x R n gegeben mit x = αv + w, wobei w R n ein Vektor mit v T w = im orthogonalen Komplement zu v ist. Dann gilt für die Householder-Transformation S := I 2vv T : S(αv + w ) = [I 2vv T ](αv + w ) = α(v 2v }{{} v T v) + w 2v } v T {{ w } = αv + w. =1 = D.h., die Householder-Transformation beschreibt eine Spiegelung an der auf v senkrecht stehenden Ebene. 152

7 a 1 a 1 e 1 a 1 a 1 + a 1 e 1 v + = a 1 + a 1 e 1 v = a 1 a 1 e 1 a 1 2e 1 a 1 2e 1 Abbildung 4.2: Spiegelungsachsen (gestrichelt) und Normalen zur Spiegelung v + und v zur Spiegelung von a 1 auf span{e 1 }. Mit Hilfe der Householder-Transformationen soll eine Matrix A R n n nun Schritt für Schritt in eine rechte obere Dreiecksmatrix transformiert werden: A () := A, A (i) = S (i) A (i 1), S (i) = I 2v (i) (v (i) ) T, mit R := A (n 1). Wir beschreiben den ersten Schritt des Verfahrens: die reguläre Matrix A R n n soll durch Multiplikation mit einer orthogonalen Householder-Transformation so transformiert werden A (1) = S (1) A, dass a (1) i1 = für alle i > 1 unterhalb der ersten Diagonale. Hierzu schreiben wir die Matrix A = (a 1, a 2,..., a n ) mit ihren Spaltenvektoren. Dann ist A (1) = (a (1) 1,..., a(1) n ) mit a (1) i = S (1) a i. Wir suchen die Householder-Transformation S (1), so dass:! e 1 = a (1) 1 = S (1) a 1. Hierzu müssen wir auf der Ebene senkrecht zu a 1 ± a 1 e 1 spiegeln, siehe Abbildung 4.2. Wir wählen v := a 1 + sign(a 11 ) a 1 e 1 a 1 + sign(a 11 ) a 1 e 1, (4.7) um durch optimale Wahl des Vorzeichens die Gefahr von Auslöschung zu vermeiden. Mit dieser Wahl gilt: a (1) i = S (1) a i = a i 2(v, a i )v, i = 2,..., n, a (1) 1 = sign(a 11 ) a 1 e 1. (4.8) Die resultierende Matrix Ã(1) ist wieder regulär und es gilt ã (1) 1 span(e 1 ): a 11 a 12 a 13 a 1n. a 21 a A :=. a 31 a a n1 a n2 a nn a (1) 11 a (1) 12 a (1) 13 a (1) 1n a (1) A (1) := S (1) A = a (1) a (1) n2 a (1) nn 153

8 4 Numerische Lineare Algebra Wir setzen das Verfahren mit der Teilmatrix A (1) kl>1 fort. Hierzu sei der verkürzte zweite Spaltenvektor definiert als ã (1) = (a (1) 22, a(1) 32,..., a(1) n2 )T R n 1. Dann wählen wir: 1 R n 1 ṽ (2) := ã(1) + sign(a (1) 22 ) ã(1) e 1 ã (1) + sign(a (1), S (2) = I 2ṽ (2) (v (2) ) T R n n. 22 ) ã(1) e 1. Multiplikation mit S (2) von links, also A (2) := S (2) A (1) lässt die erste Zeile unverändert. Eliminiert wird der Block A (1) kl>1. Für die resultierende Matrix A(2) gilt a (2) kl = für l = 1, 2 und k > l. Nach n 1 Schritten gilt: R := } S (n 1) S (n 2) {{ S (1) } A. =:Q T Alle Transformationen sind orthogonal, somit ist auch Q R n n eine orthogonale (und natürlich reguläre) Matrix. Wir fassen zusammen: Satz 4.58 (QR-Zerlegung mit Householder-Transformationen). Es sei A R n n eine reguläre Matrix. Dann lässt sich die QR-Zerlegung von A nach Householder in 2n O(n2 ) arithmetische Operationen numerisch stabil durchführen. Beweis: Die Durchführbarkeit der QR-Zerlegung geht aus dem Konstruktionsprinzip hervor. Aus der Regularität der Matrizen A (i) folgt, dass der Teilvektor ã (i) R n i ungleich Null sein muss. Dann ist ṽ (i) gemäß (4.7) wohl definiert. Die folgende Elimination wird gemäß (4.8) spaltenweise durchgeführt: ã (i+1) k = [I 2ṽ (i) (ṽ (i) ) T (i) ] ã } {{ } k = ã(i) k 2(ṽ(i), ã (i) k )ṽ(i). = S (i) Die numerische Stabilität folgt aus cond 2 (S (i) ) = 1, siehe Bemerkung Wir kommen nun zur Abschätzung des Aufwands. Im Schritt A (i) A (i+1) muss zunächst der Vektor ṽ (i) R n i berechnet werden. Hierzu sind 2(n i) arithmetische Operationen notwendig. Im Anschluss erfolgt die spaltenweise Elimination. (Es wird natürlich nicht die Matrix S (i) aufgestellt und die Matrix-Matrix Multiplikation durchgeführt!) Für jeden der 154

9 n i Spaltenvektoren ist ein Skalarprodukt (ṽ (i), ã (i) ) (das sind n i arithmetische Operationen) sowie eine Vektoraddition (weitere n i Operationen) durchzuführen. Insgesamt ergibt sich so ein Aufwand: n 1 N QR = 2 (n i) + (n i) 2 = n(n 1) + i=1 n(n 1)(2n 1) 3 = 2n3 3 + O(n2 ). Bemerkung 4.59 (QR-Zerlegung mit Householder-Transformationen). Die Householder- Matrizen S (i) = I 2ṽ (i) (ṽ (i) ) T werden nicht explizit aufgestellt. Auch kann das Produkt Q := (S (1) ) T (S (n 1) ) T, aus Effizienzgründen nicht explizit berechnet werden. Die Matrix Q steht nur implizit zur Verfügung durch Speichern der Vektoren ṽ (i). Mit implizit meint man, dass etwa zur Berechnung des Produktes b := Q T b (ist notwendig zum Lösen der Gleichungssysteme) die Householder-Transformationen erneut Schritt für Schritt angewendet werden müssen: b = Q T b = S (n 1) S (1) b. Jedes Produkt wird mittels der Vorschrift (4.7) berechnet, ohne dass die Matrizen S (i) explizit aufgestellt werden: b (i+1) = b (i) 2(v (i), b (i) )v (i). Neben der oberen Dreiecksmatrix R müssen die Vektoren ṽ (i) R n i gespeichert werden. Im Gegensatz zur LR-Zerlegung kann dies nicht alleine im Speicherplatz der Matrix A geschehen, da sowohl R als auch die ṽ (i) die Diagonale besetzen. Bei der praktischen Realisierung muss ein weiterer Diagonalvektor vorgehalten werden. Abschließend berechnen wir die QR-Zerlegung zu Beispiel 4.54 mit Hilfe der Householder- Transformationen: Beispiel 4.6 (QR-Zerlegung mit Householder-Transformationen). Wir betrachten wieder die Matrix: A :=.1.1,.1.1 und führen alle Rechnungen mit dreistelliger Genauigkeit durch. Wir wählen mit a 1 = (1,.1, ) T und a 1 1 den ersten Vektor zur Spiegelung als: v (1) = a 1 + a 1 e 1 a 1 + a 1 e

10 4 Numerische Lineare Algebra Hiermit ergibt sich (wird eigentlich nicht benötigt!) 1.1 S (1) = I 2v (1) (v (1) ) T.1 1, 1 und die neuen Spaltenvektoren ergeben sich zu: a (1) 1 = a 1 e 1 e 1, a (1) 2 = a 2 2(v (1), a 2 )v (1) a 2 2v (1), a (1) 3 = a 3 2(v (1), a 3 )v (1) a 3 2v (1), A (1) = Wir fahren mit der Teilmatrix A (1) kl>1 beachte das Vorzeichen sign(a (1) 22 ) = - ) ṽ (2) = fort und wählen mit ã(1) 2 = (.1,.1) T (man ã(1) 2 ã (1) 2 ẽ 2 ã (1) 2 ã (1) 2 ẽ 2 Damit ergibt sich als Householder-Transformation I 2ṽ (2) (ṽ (2) ) T S (2) = ( ) ( ).78.78, S (2) = Wir erhalten: ã (2) 2 = ã (1) 1 ẽ 2, ã (2) 3 = ã (1) 3 2(ã (1) 3, ṽ(2) )ṽ (2) ã (1) ṽ (2), A (2) = Zur Probe berechnen wir Q T = S (2) S (1) (mit dreistelliger Genauigkeit): 1.1 Q T Bei dreistelliger Genauigkeit gilt für das Produkt Q T Q I: Q T 1 Q Dies entspricht einem relativen Fehler Q T Q I im Rahmen der Rechengenauigkeit. Weiter gilt für die Zerlegung A QR: A QR =

11 Auch hier gilt A QR 2 / A Man vergleiche abschließend das Resultat mit dem Ergebnis von Beispiel Dort wurden relative Fehler Q T Q I 2.7 sowie QR A 2 / A 2.4 erreicht. 157