Der Gaußsche Algorithmus und Varianten Vorlesung vom

Transkript

1 Der Gaußsche Algorithmus und Varianten Vorlesung vom Gaußsche Elimination und Rückwärtssubstitution: Motivation am Beispiel, Verallgemeinerung und Algorithmus Achtung: Durchführbarkeit nur bei nichtverschwindenden Pivotelementen! Aufwand des Gaußschen Algorithmus: 1 3 n3 + O(n 2 ) (Aufwandsmaß: Punktoperationen) Gaußsche Elimination, Eliminationsmatrizen G k und LR Zerlegung A = LR Vorteile der LR Zerlegung bei vielen rechten Seiten und gleicher Koeffizientenmatrix Reduktion des Aufwands durch Ausnutzen von Spezialstruktur: Tridiagonalmatrizen: Invarianz der Besetzungsstruktur unter Gaußelimination Keine Elimination der ohnehin vorhandenen Subdiagonalnullen: Aufwand O(n)

2 Problem und Algorithmus Problem: Löse das lineare Gleichungssystem Ax = b Auswertung des Lösungsoperators f(a, b) =A 1 b zu Daten A R n,n, b R n Satz 97 Relative Kondition des Problems κ rel = κ(a) Algorithmus: Zerlegung des Lösungsoperators in Elementaroperationen x = A 1 b = g m g 1 (A, b) Qualitätskriterien: Aufwand und Stabilität

3 Algorithmus: Gaußsche Elimination (Algorithmus 912) for k =1:n 1 do { for i = k +1:n do (falls a (k 1) { } } l ik = a(k 1) ik ; b (k) a (k 1) i for j = k +1:n do { } a (k) ij = a (k 1) ij 0!) = b (k 1) i l ik a (k 1) kj ; l ik b (k 1) k ; a (k) ik =0;

4 Gestaffeltes Gleichungssystem: und Rückwärtssubstitution 12 a (n 1) 1n 0 a (n 1) 22 a (n 1) 2n 0 0 a (n 1) nn a (n 1) 11 a (n 1) Algorithmus 913 (Rückwärtssubstitution) x 1 x 2 x n b (n 1) 1 b (n 1) 2 b (n 1) n x n = 1 a (n 1) b (n 1) n nn for i = n 1:( 1) : 1 do x i = 1 n b (n 1) a (n 1) i ii j=i+1 a (n 1) ij x j

5 Matrix-Schreibweise A (k) =(I G k )A (k 1),A (0) = A, b (k) =(I G k )b (k 1), b (0) = b x = R 1 z, R = A (n 1), z = b (n 1) Eliminationsmatrizen: G k = l k+1,k l n,k 0 0 0, l i,k = a(k 1) ik a (k 1)

6 Numerisches Beispiel gut konditioniertes System: κ (A) =32 A = , b = Ax, x = /7 1/11 1/13 Lösung mit dem Gaußschen Algorithmus: x x x > 10 3 Von 15 gültigen Stellen sind höchstens noch 3 übrig!

7 Stabilität Algorithmus: Zerlegung des Lösungsoperators in Elementaroperationen x = A 1 b = f(a, b) =g m g 1 (A, b) Runden der Elementaroperationen: g i =rd(g i ) Auswertungsfehler: x x x = f(a, b) = g m g 1 (A, b) relative, normweise Stabilität: Die kleinste Zahl σ mit der Eigenschaft x x x σeps + o(eps)

8 Hochauflösendes Stabilitätsanalyse (nur Elimination) for k =1:n 1 do { for i = k +1:n do (falls ã (k 1) { l ik = rd (ã(k 1) ) ik ; b(k) ã (k 1) i for j = k +1:n do } } { } ã (k) ij = rd(ã (k 1) ij 0!) = rd( b (k 1) i rd( l ik ã (k 1) kj )) ; rd( l ik b(k 1) k )) ; ã (k) ik =0;

9 Vereinfachtes Stabilitätsanalyse I Ã (k) = rd((i G k )Ã(k 1) )),A (0) = A, b(k) = rd((i G k )b (k 1) )), b (0) = b x = rd( R 1 z)), R = Ã (n 1), z = b (n 1) Elementaroperationen: g k (B, y) =((I G k )B, (I G k )y), k =1,,n 1, g n (R, z) =R 1 z Vereinfachungen: exakte Eliminationsmatrizen G k exakte Auswertung von (I G k )Ã(k 1) und (I G k ) b (k 1) exakte Auswertung von R 1 z

10 Vereinfachtes Stabilitätsanalyse I Ã (k) =rd((i G k )Ã(k 1) ),A (0) = A, b(k) =rd((i G k )b (k 1) ), b (0) = b x =rd( R 1 z), R = Ã (n 1), z = b (n 1) Satz 919 x x x σ G eps + o(eps), σ G =2κ(A)σ K σ E σ K = n 1 k=1 κ(i G k ), σ E = n 1 i=1 n 1 j=i+1 κ(i G k ),

11 Vereinfachtes Stabilitätsanalyse II A (k) =(I G k )A (k 1),A (0) = A, b (k) =(I G k )b (k 1), b (0) = b x = R 1 z, R = rd(a (n 1) ), z = rd(b (n 1) ) Vereinfachungen: exakte Auswertung des gesamten Eliminationsschritts Satz: Unter der Voraussetzung R R / R < 1/κ (R) gilt x x x 2κ(R)eps + o(eps) Beweis: Satz 97

12 Abschätzung der Kondition von R κ(r) =κ ( n 1 ) (I G n k )A k=1 κ(a) n 1 k=1 κ(i G k )=κ(a)σ K Satz: Es gilt κ(i G k )= I G k (I G k ) 1 = max (1+ l ik ) 2, i=k+1,,n l ik = a(k 1) ik a (k 1) Insbesondere ist κ(i G k )=1 a (k 1) ik =0 i = k +1,,n

13 Numerisches Beispiel gut konditioniertes System: κ (A) =32 A = , b = Ax, x = /7 1/11 1/13 Gauß Elimination: R = x x x > /3, κ (R) > /3

14 Beispiel: Die Wilkinson Matrix W n W n = R n,n κ(w) κ(r) κ (W n ) und κ (R n )

15 Algorithmische Konsequenzen Satz 920: κ(i G k )= I G k (I G k ) 1 = max (1 + l ik ) 2, i=k+1,,n l ik = a(k 1) ik a (k 1) Folgerungen: a (k 1) a (k 1) ik = l ik = a (k 1) a (k 1) ik = l ik = a (k 1) ik a (k 1) a (k 1) ik a (k 1) 0 = κ(i G k) 1 0 = κ(i G k) 1 Stabilität, falls a (k 1) a (k 1) ik

16 Gaußscher Algorithmus mit Spaltenpivotsuche Algorithmus 923 for k =1:n 1 do { k 0 = k for i = k +1:n do { } falls a (k 1) ik > a (k 1) k 0,k, setze k 0 := i Vertausche die k te Zeile mit der k 0 ten Zeile k ter Eliminationsschritt wie in Algorithmus 912 } Folgerung: l ik 1 = κ(i G k ) 4 = κ(r) 4 n 1 κ(a)

17 LR Zerlegung mit Spaltenpivotsuche Satz 925: Die Gaußsche Elimination mit Spaltenpivotsuche liefert eine Zerlegung LR = PA mit unterer Dreiecksmatrix L, oberer Dreiecksmatrix R und einer Permutationsmatrix P PA unterscheidet sich von A also nur durch Vertauschung der Zeilen Beispiel: A = , P = , PA =

18 Numerisches Beispiel gut konditioniertes System: κ (A) =32 A = , b = Ax, x = /7 1/11 1/13 Gaußschen Algorithmus mit Spaltenpivotsuche: R = , κ (R) = x x x < Lösung auf 15 gültigen Stellen!