Der Gaußsche Algorithmus und Varianten Vorlesung vom

Transkript

1 Der Gaußsche Algorithmus und Varianten Vorlesung vom Gaußsche Elimination und Rückwärtssubstitution: Motivation am Beispiel, Verallgemeinerung und Algorithmus. Achtung: Durchführbarkeit nur bei nichtverschwindenden Pivotelementen! Aufwand des Gaußschen Algorithmus: 1 3 n3 + O(n 2 ) (Aufwandsmaß: Punktoperationen). Gaußsche Elimination, Eliminationsmatrizen G k und LR Zerlegung A = LR. Vorteile der LR Zerlegung bei vielen rechten Seiten und gleicher Koeffizientenmatrix. Reduktion des Aufwands durch Ausnutzen von Spezialstruktur: Tridiagonalmatrizen: Invarianz der Besetzungsstruktur unter Gaußelimination. Keine Elimination der ohnehin vorhandenen Subdiagonalnullen: Aufwand O(n).

2 Problem und Algorithmus Problem: Löse das lineare Gleichungssystem Ax = b Auswertung des Lösungsoperators f(a,b) = A 1 b zu Daten A R n,n, b R n Satz 9.7 Relative Kondition des Problems κ rel = κ(a) Algorithmus: Zerlegung des Lösungsoperators in Elementaroperationen x = A 1 b = g m g 1 (A,b) Qualitätskriterien: Aufwand und Stabilität

3 Algorithmus: Gaußsche Elimination... (Algorithmus 9.12) for k = 1 : n 1 do { for i = k + 1 : n do (falls a (k 1) 0!) { } } l ik = a(k 1) ik ; b (k) a (k 1) i for j = k + 1 : n do { } a (k) ij = a (k 1) ij = b (k 1) i l ik a (k 1) kj ; l ik b (k 1) k ; a (k) ik = 0 ;

4 Gestaffeltes Gleichungssystem:...und Rückwärtssubstitution 12 a (n 1) 1n 0 a (n 1) 22 a (n 1) 2n a (n 1) nn a (n 1) 11 a (n 1) Algorithmus 9.13 (Rückwärtssubstitution) x 1 x 2. x n b (n 1) 1 b (n 1) 2. b (n 1) n x n = 1 a (n 1) b (n 1) n nn for i = n 1 : ( 1) : 1 do x i = 1 n b (n 1) a (n 1) i ii j=i+1 a (n 1) ij x j

5 Matrix-Schreibweise A (k) = (I G k )A (k 1),A (0) = A, b (k) = (I G k )b (k 1), b (0) = b x = R 1 z, R = A (n 1), z = b (n 1) Eliminationsmatrizen: G k =.. l k+1,k l n,k 0 0 0, l i,k = a(k 1) ik a (k 1)

6 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Lösung mit dem Gaußschen Algorithmus: x x x > 10 3 Von 15 gültigen Stellen sind höchstens noch 3 übrig!

7 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Lösung mit dem Gaußschen Algorithmus: x x x > 10 3 Von 15 gültigen Stellen sind höchstens noch 3 übrig!

8 Stabilität Algorithmus: Zerlegung des Lösungsoperators in Elementaroperationen x = A 1 b = f(a,b) = g m g 1 (A,b) Runden der Elementaroperationen: g i = rd(g i ) Auswertungsfehler: x x x = f(a,b) = g m g 1 (A,b) relative, normweise Stabilität: Die kleinste Zahl σ mit der Eigenschaft x x x σeps + o(eps)

9 Hochauflösendes Stabilitätsanalyse (nur Elimination) for k = 1 : n 1 do { for i = k + 1 : n do (falls ã (k 1) 0!) { } } l ik = rd (ã(k 1) ) ik ; b(k) ã (k 1) i for j = k + 1 : n do { } ã (k) ij = rd(ã (k 1) ij = rd( b (k 1) i rd( l ik ã (k 1) kj )) ; rd( l ik b(k 1) k )) ; ã (k) ik = 0 ;

10 Vereinfachtes Stabilitätsanalyse I Ã (k) = rd((i G k )Ã(k 1) )),A (0) = A, b(k) = rd((i G k )b (k 1) )), b (0) = b Elementaroperationen: x = rd( R 1 z)), R = Ã (n 1), z = b (n 1) g k (B,y) = ((I G k )B,(I G k )y), k = 1,...,n 1, g n (R,z) = R 1 z Vereinfachungen: exakte Eliminationsmatrizen G k exakte Auswertung von (I G k )Ã(k 1) und (I G k ) b (k 1) exakte Auswertung von R 1 z

11 Vereinfachtes Stabilitätsanalyse I Ã (k) = rd((i G k )Ã(k 1) ),A (0) = A, b(k) = rd((i G k )b (k 1) ), b (0) = b x = rd( R 1 z), R = Ã (n 1), z = b (n 1) Satz 9.19 x x x σ G eps + o(eps), σ G = 2κ(A)σ K σ E σ K = n 1 k=1 κ(i G k ), σ E = n 1 i=1 n 1 j=i+1 κ(i G k ),

12 Vereinfachtes Stabilitätsanalyse II A (k) = (I G k )A (k 1),A (0) = A, b (k) = (I G k )b (k 1), b (0) = b x = R 1 z, R = rd(a (n 1) ), z = rd(b (n 1) ) Vereinfachungen: exakte Auswertung des gesamten Eliminationsschritts Satz: n 1 x x 2σ II eps, σ II = κ(a) x k=1 κ(i G k ) σ I

13 Vereinfachtes Stabilitätsanalyse II A (k) = (I G k )A (k 1),A (0) = A, b (k) = (I G k )b (k 1), b (0) = b x = R 1 z, R = rd(a (n 1) ), z = rd(b (n 1) ) Vereinfachungen: exakte Auswertung des gesamten Eliminationsschritts Satz: Unter der Voraussetzung R R / R < 1/κ (R) gilt x x x 2κ(R)eps + o(eps) Beweis: Satz 9.7

14 Abschätzung der Kondition von R κ(r) = κ ) (I G n k )A ( n 1 k=1 κ(a) n 1 k=1 κ(i G k ) = κ(a)σ K Satz: Es gilt κ(i G k ) = I G k (I G k ) 1 = max i=k+1,...,n (1+ l ik ) 2, l ik = a(k 1) ik a (k 1). Insbesondere ist κ(i G k ) = 1 a (k 1) ik = 0 i = k + 1,...,n.

15 Abschätzung der Kondition von R κ(r) = κ ) (I G n k )A ( n 1 k=1 κ(a) n 1 k=1 κ(i G k ) = κ(a)σ K Satz: Es gilt κ(i G k ) = I G k (I G k ) 1 = max i=k+1,...,n (1+ l ik ) 2, l ik = a(k 1) ik a (k 1). Insbesondere ist κ(i G k ) = 1 a (k 1) ik = 0 i = k + 1,...,n.

16 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Gauß Elimination: x x x > R = /3, κ (R) > /3

17 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Gauß Elimination: R = x x x > /3, κ (R) > /3

18 Beispiel: Die Wilkinson Matrix W n W n = R n,n κ(w) κ(r) κ (W n ) und κ (R n )

19 Algorithmische Konsequenzen Satz 9.20: κ(i G k ) = I G k (I G k ) 1 = max i=k+1,...,n (1+ l ik ) 2, l ik = a(k 1) ik a (k 1) Folgerungen: a (k 1) a (k 1) ik = l ik = a (k 1) a (k 1) ik = l ik = a (k 1) ik a (k 1) a (k 1) ik a (k 1) 0 = κ(i G k) 1 0 = κ(i G k) 1 Stabilität, falls a (k 1) a (k 1) ik

20 Gaußscher Algorithmus mit Spaltenpivotsuche Algorithmus 9.23 for k = 1 : n 1 do { k 0 = k for i = k + 1 : n do { } falls a (k 1) ik > a (k 1) k 0,k, setze k 0 := i Vertausche die k te Zeile mit der k 0 ten Zeile k ter Eliminationsschritt wie in Algorithmus } Folgerung: κ(i G k ) 2 = κ(r) 4 n 1 κ(a)

21 Gaußscher Algorithmus mit Spaltenpivotsuche Algorithmus 9.23 for k = 1 : n 1 do { k 0 = k for i = k + 1 : n do { } falls a (k 1) ik > a (k 1) k 0,k, setze k 0 := i Vertausche die k te Zeile mit der k 0 ten Zeile k ter Eliminationsschritt wie in Algorithmus } Folgerung: l ik 1 = κ(i G k ) 4 = κ(r) 4 n 1 κ(a)

22 LR Zerlegung mit Spaltenpivotsuche Satz 9.25: Die Gaußsche Elimination mit Spaltenpivotsuche liefert eine Zerlegung LR = PA mit unterer Dreiecksmatrix L, oberer Dreiecksmatrix R und einer Permutationsmatrix P. P A unterscheidet sich von A also nur durch Vertauschung der Zeilen. Beispiel: A = , P = , PA =

23 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Lösung mit dem Gaußschen Algorithmus mit Spaltenpivotsuche: x x x < Lösung auf 15 gültigen Stellen!

24 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Gaußschen Algorithmus mit Spaltenpivotsuche: R = , κ (R) = x x x < Lösung auf 15 gültigen Stellen!

25 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Gaußschen Algorithmus mit Spaltenpivotsuche: R = , κ (R) = x x x < Lösung auf 15 gültigen Stellen!