Inhalt Kapitel II: Lineare Gleichungssysteme

Transkript

1 Inhalt Kapitel II: Lineare Gleichungssysteme II Lineare Gleichungssysteme II1 Gestaffelte Systeme II2 LU-Zerlegung II3 QR-Algorithmen Kapitel II (UebersichtKapI) 1

2 Beispiel 1: Elektrischer Schaltkreis I R I R U I 2 R 2 R I 5 5 R I 3 Gegeben: Klemmspannung U, Widerstände R 1,,R 5 Gesucht: Ströme I 1,,I 5 Kapitel II (numalg2) 2

3 Elektrischer Schaltkreis lin Gleichungssystem Kirchhoffsche Gesetze, Ohmsches Gesetz führen auf Ax = b mit A = R 4 R 5 1 1, x = R 1 R 3 I 1 I 2 I 3 I 4 I 5, b = U Kapitel II (numalg3) 3

4 Elektrischer Schaltkreis Gauß Algorithmus A = A () = R 4 R R 1 R 3 A (1) = R 4 R R 1 + R 3 R 1 Kapitel II (numalg4) 4

5 A (2) = R 4 +R R 1 + +R 3 R 1 R A (3) = R 4 +R R 1 R 4 (1+ R 1 + R 3 ) R 3 R 5 (1+ R 1 + R 3 ) A (4) = R 4 +R R 1 R 3 (R 4 +R 5 )(1+ R 1 + R 3 ) Kapitel II (numalg5) 5

6 A = LU mit L = Elektrischer Schaltkreis, Gauß Algorithmus R 1 R R 1 + R 3 R 1 R 4 (1+ R 1 + R 3 ) 1 und U = A (4) = R 4 +R R 1 R 3 (R 4 +R 5 )(1+ R 1 + R 3 ) Kapitel II (numalg6) 6

7 Einfluss von Rundungsfehlern Beispiel: Löse das LGS Ax = b mit Gauß Elimination (Rechengenauigkeit fünf Dezimalstellen) A := ( ) , b := ( ) Richtige Lösung x := Gauß Elimination ohne Pivotsuche: A := ( ) ( ) ( ) x op := ( ) Kapitel II (numalg7) 7

8 Gauß Elimination mit Pivotsuche: ( ) ( ) x op x = ( ) x mp := ( ) 36, x mp x = ( ) 1 Verfahren mit Pivotsuche genauer! Kapitel II (numalg7) 8

9 LU-Zerlegung Pivotsuche Löse das LGS Ax = b mit ( ) ε 1 A :=, b := 1 1 ( ) 1 2 Gauß Elimination ohne Pivotsuche: ( )( ) 1 ε 1 A = L 1 U 1 = 1 ε ε Gauß Elimination mit Pivotsuche: ( )( ) PA = L 2 U 2 = ε 1 1 ε κ(u i ) in Abhängigkeit von ε 1 4 κ(u 1 ) ohne PS κ(u 2 ) mit PS Kondition wird durch Pivotsuche verbessert Kapitel II (numalg8) 9

10 LU-Zerlegung, Pivotsuche Vergleich mit Lösung auf 4 signifikante Stellen: ε x 1 ( exakt ) x 1 (ohne PS) x 1 (mit PS) ohne PS mit PS 1 8 rel Residuum := A x b 1 16 b Verfahren ohne Pivotsuche kann komplett falsche Ergebnisse liefern (Fehler > 1%) Kapitel II (numalg9) 1

11 Einfluss der Bandstruktur auf Fill-In Permutationsmatrizen P erlauben die Vertauschung der Zeilen (bei Multiplikation von links) und der Spalten (bei Multiplikation von rechts) einer Matrix A Für diese gelten P 1 = P Ax = b (PA)x = Pb, AP Px = b (AP )ˆx = b mit ˆx = Px Die Bandstruktur der Matrix A bleibt bei der LU-Zerlegung erhalten, dh außerhalb der Bandstruktur treten keine weiteren Einträge auf, jedoch können die Nulleinträge innerhalb der Bandstruktur verschwinden (Fill-In) Ziel: Finden von geeigneten Permutationen der Matrix A, so dass möglichst geringe Bandbreite entsteht Hierzu gibt es Minimierungsalgorithmen zb von Cuthill-McKee Kapitel II (numalg11) 11

12 LU Zerlegung: Matrix-Struktur Beispiel: 5-Punkte-Stern aus Finite-Differenzen Diskretisierung (lexikographische Numerierung) n = 64 n = 256 n = 124 A nz = 288 nz = 1216 nz = 4992 L nz = 519 nz = 4111 nz = Kapitel II (numalg12) 12

13 LU Zerlegung: Matrix-Struktur Beispiel: 5-Punkte-Stern aus Finite-Differenzen Diskretisierung (Zufalls-Numerierung) n = 64 n = 256 n = 124 A nz = 288 nz = 1216 nz = 4992 L nz = 622 nz = 59 nz = Kapitel II (numalg14) 13

14 LU Zerlegung: Rechenzeit 4 Zufall Lexikographisch n Rechenzeit stark (asymptotisch) von Nummerierung abhängig! Kapitel II (numalg15) 14

15 QR-Zerlegung mit Householder Zerlegung einer Matrix A R n m in A = QR mit orthonormaler Matrix Q R n n, dh Q Q = I, und oberer Rechtecksmatrix R R n m Q = Q n 1 Q n 2 Q 2 Q 1 Für den k-ten Schritt gilt Q k a 1 a n k = Kapitel II (numalg2) 15

16 Householder-Transformation a = ( 8, 15) 15 β = a 1 + a 2 sign(a 1 )e 1 v = 1 ( ) a+ a 2 sign(a 1 )e 1 β 1 a H = (1 6) Q = Id 2 ( vv ) v v ( ) = Qa = (17, ) v Qa Householder-Transformation entspricht Spiegelung an Hyperebene Kapitel II (numalg21) 16

17 QR-Zerlegung mit Givens-Rotationen Zerlegung einer Matrix A R n m in A = QR mit orthonormaler Matrix Q R n n, dh Q Q = I, und oberer Rechtecksmatrix R R n m Q T = Q n 1 Q 2 Q 1, Für die Rotation G (k) (j 1),j, j > k, gilt G (k) (j 1),j Q k = G (k) k,(k+1) G(k) (k+1),(k+2) G(k) (n 1),n a k a j 1 = a j Kapitel II (numalg23a) 17

18 Ü Prof Dr Barbara Wohlmuth Givens-Rotation G k,l G k,l x k x l = Id k l c s Id s c Id x k x l = r c = cos(ϕ) = x k x 2 l +x 2 k ÈË Ö Ö ÔÐ Ñ ÒØ = x k r, Ü Ð s = sin(ϕ) = x l x 2 l +x 2 k = x l r ³ Ö Givens Rotation entspricht Drehung auf die Richtung (,,,1,,,) Kapitel II (numalg23b) 18

19 Q Id QR-Zerlegung mit Givens (Algorithmus) for k=1,,m-1 { for i=m,,k+1 { Bestimme G (k) (i 1),i, so dass ( G (k) (i 1),i A )i,k = A G (k) (i 1),i A Q G (k) (i 1),i Q } } Q Q Kapitel II (numalg23c) 19

20 Vergleich LU mit QR Zerlegung Die Wilkinson-Matrix Löse das LGS Wx = b, W R n n, mit W := 1 1, b := ṇ n 2 n 1, mit LU Zerlegung und mit QR Zerlegung (Exakte Lösung: x = ( 1 n,, 1 n, 1 n )T ) Kapitel II (numalg16) 2

21 Vergleich LU mit QR Zerlegung Konditionszahl und Residuum 1 15 κ(w) κ(u) κ(u) 1 2 n2n κ(w) Residuum LU 1 5 Fehler LU Residuum QR Fehler QR rel Residuum := W x b b Schlechte Kondition der Rückwärtssubstitution (κ(w) κ(u)); QR robuster Kapitel II (numalg17) 21

22 Vergleich LU mit QR Zerlegung Nachiteration LGS Wx = b 1 15 Fehler LU mit Nach It x mittels LU Zerlegung berechnete Lösung Löse W x = b Ax (mit derselben LU-Zerlegung) 1 16 Fehler QR 1 x 1 := x + x Nachiteration verbessert die Robustheit der LU-Zerlegung als Löser Kapitel II (numalg18) 22

23 Residuum vs Fehler Die Hilbert-Matrix Löse das LGS Hx = b, mit H R n n gegeben durch h ij := für i,j = 1,,n und b j := 1 i+j 1 n h ij für j = 1,,n, i=1 mit LU Zerlegung und mit QR Zerlegung Exakte Lösung: x = (1,,1) T Fehler LU Fehler QR Residuum LU Residuum QR Bei schlecht konditionierter Systemmatrix sind beide Verfahren gleich schlecht Kapitel II (numalg19) 23