Der Gaußsche Algorithmus und Varianten Vorlesung vom

Transkript

1 Der Gaußsche Algorithmus und Varianten Vorlesung vom Gaußsche Elimination und Rückwärtssubstitution: Motivation am Beispiel, Verallgemeinerung und Algorithmus. Achtung: Durchführbarkeit nur bei nichtverschwindenden Pivotelementen! Aufwand des Gaußschen Algorithmus: 1 3 n3 + O(n 2 ) (Aufwandsmaß: Punktoperationen). Gaußsche Elimination, Eliminationsmatrizen G k und LR Zerlegung A = LR. Vorteile der LR Zerlegung bei vielen rechten Seiten und gleicher Koeffizientenmatrix. Reduktion des Aufwands durch Ausnutzen von Spezialstruktur: Tridiagonalmatrizen: Invarianz der Besetzungsstruktur unter Gaußelimination. Keine Elimination der ohnehin vorhandenen Subdiagonalnullen: Aufwand O(n).

2 Problem und Algorithmus Problem: Löse das lineare Gleichungssystem Ax = b Auswertung des Lösungsoperators f(a,b) = A 1 b zu Daten A R n,n, b R n Satz 9.7 Relative Kondition des Problems κ rel = κ(a) Algorithmus: Zerlegung des Lösungsoperators in Elementaroperationen x = A 1 b = g m g 1 (A,b) Qualitätskriterien: Aufwand und Stabilität

3 Algorithmus: Gaußsche Elimination... (Algorithmus 9.12) for k = 1 : n 1 do { for i = k + 1 : n do (falls a (k 1) 0!) { } } l ik = a(k 1) ik ; b (k) a (k 1) i for j = k + 1 : n do { } a (k) ij = a (k 1) ij = b (k 1) i l ik a (k 1) kj ; l ik b (k 1) k ; a (k) ik = 0 ;

4 Gestaffeltes Gleichungssystem:...und Rückwärtssubstitution 12 a (n 1) 1n 0 a (n 1) 22 a (n 1) 2n a (n 1) nn a (n 1) 11 a (n 1) Algorithmus 9.13 (Rückwärtssubstitution) x 1 x 2. x n b (n 1) 1 b (n 1) 2. b (n 1) n x n = 1 a (n 1) b (n 1) n nn for i = n 1 : ( 1) : 1 do x i = 1 n b (n 1) a (n 1) i ii j=i+1 a (n 1) ij x j

5 Aufwand des Gaußschen Eliminationsverfahrens Aufwandsmaß: Anzahl der Punktoperationen Gaußsches Eliminationsverfahren: Aufwand des Eliminationsschritts: = 1 3 (n3 n) (n2 n) = 1 3 n3 + O(n 2 ) Aufwand der Rücksubstitution: 1 2 (n2 + n) = O(n 2 ) Gesamtaufwand: 1 3 n3 + n n = 1 3 n3 + O(n 2 ) Tridiagonalmatrizen: 5n 4 = O(n) Cramersche Regel: x i = detb i deta, B i = (A 1,...,b,...,A n ), i = 1,...,n Invertierung von A: (i) Berechnung von A 1 mit Hilfe einer LR-Zerlegung von A (ii) x = A 1 b

6 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 = 1/ Lösung mit dem Gaußschen Algorithmus: x = x x x Von 15 gültigen Stellen sind höchstens noch 2 übrig!

7 Stabilität Algorithmus: Zerlegung des Lösungsoperators in Elementaroperationen x = A 1 b = f(a,b) = g m g 1 (A,b) Runden der Elementaroperationen: g i = rd(g i ) Auswertungsfehler: x x x = f(a,b) = g m g 1 (A,b) relative, normweise Stabilität: Die kleinste Zahl σ mit der Eigenschaft x x x σeps + o(eps)

8 Wirklichkeit und Modell Eisenbahn Modelleisenbahn

9 Wirklichkeit und Modell gesucht: Stabkräfte K = (k ij ) Modellannahmen: starre Stäbe, reibungsfreie Verbindungen Kräftegleichgewicht: AK = F Brücke mathematisches Modell

10 Wirklichkeit und Modell exakt: Ax = b, b 0 gestört: Ã x = b exakt: Ax = b, b 0 gestört: Ã x = b x x x κ(a) ( A Ã A + ) b b + o( A Ã + b b ) b x x x κ(a) ( A Ã A + ) b b b Auswirkung von Störungen linearisiertes Modell

11 Hochauflösendes Stabilitätsmodell (nur Elimination) for k = 1 : n 1 do { for i = k + 1 : n do (falls ã (k 1) 0!) { } } l ik = rd (ã(k 1) ) ik ; b(k) ã (k 1) i for j = k + 1 : n do { } ã (k) ij = rd(ã (k 1) ij = rd( b (k 1) i rd( l ik ã (k 1) kj )) ; rd( l ik b(k 1) k )) ; ã (k) ik = 0 ;

12 Matrix-Schreibweise A (k) = (I G k )A (k 1),A (0) = A, b (k) = (I G k )b (k 1), b (0) = b x = R 1 z, R = A (n 1), z = b (n 1) Eliminationsmatrizen: G k =.. l k+1,k l n,k 0 0 0, l i,k = a(k 1) ik a (k 1)

13 Effizientes Stabilitätsmodell I Ã (k) = rd((i G k )Ã(k 1) ),A (0) = A, b(k) = rd((i G k )b (k 1) ), b (0) = b Elementaroperationen: x = rd( R 1 z), R = Ã (n 1), z = b (n 1) g k (B,y) = ((I G k )B,(I G k )y), k = 1,...,n 1, g n (R,z) = R 1 z Vereinfachungen: exakte Eliminationsmatrizen G k exakte Auswertung von (I G k )Ã(k 1) und (I G k ) b (k 1) exakte Auswertung von R 1 z

14 Effizientes Stabilitätsmodell I Ã (k) = rd((i G k )Ã (k 1) ),A (0) = A, b(k) = rd((i G k )b (k 1) ), b (0) = b x = rd( R 1 z), R = Ã (n 1), z = b (n 1) Satz 9.19 Es gelte R R R /κ(r). Dann gilt x x x σ G eps + o(eps), σ G = 2κ(A)σ K σ E mit und σ K = n 1 k=1 κ k, κ k = κ(i G k ) σ E = 1 + n 2 k=1 κ k+1 κ n 1 = 1 + (κ n 1 (1 + κ n 2 (1 + κ 3 (1 + κ 2 )) ).

15 Beweis: Effizientes Stabilitätsmodell I Lemma 9.18 Es gilt: R R R σ E eps + o(eps), R = A (n 1) mit z z z σ E eps + o(eps) z = b (n 1) σ E = 1 + n 2 k=1 κ k+1 κ n 1 = 1 + (κ n 1 (1 + κ n 2 (1 + κ 3 (1 + κ 2 )) )

16 Effizientes Stabilitätsmodell II A (k) = (I G k )A (k 1),A (0) = A, b (k) = (I G k )b (k 1), b (0) = b Weitere Vereinfachung: x = R 1 z, R = rd(a (n 1) ), z = rd(b (n 1) ) exakte Auswertung des gesamten Eliminationsschritts Satz: Unter der Voraussetzung R R / R < 1/κ (R) gilt x x x 2κ(R)eps + o(eps) 2κ(A)σ K eps + o(eps) Beweis: Satz 9.7

17 Abschätzung der Kondition von R κ(r) = κ ) (I G n k )A ( n 1 k=1 κ(a) n 1 k=1 κ(i G k ) = κ(a)σ K Satz: Es gilt κ(i G k ) = I G k (I G k ) 1 = max i=k+1,...,n (1+ l ik ) 2, l ik = a(k 1) ik a (k 1). Insbesondere ist κ(i G k ) = 1 a (k 1) ik = 0 i = k + 1,...,n.

18 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Lösung mit dem Gaußschen Algorithmus: R = x x x /3, κ (R) > /3

19 Beispiel: Die Wilkinson Matrix W n W n = R n,n κ(w) κ(r) κ (W n ) und κ (R n )

20 Algorithmische Konsequenzen Satz 9.20: κ(i G k ) = I G k (I G k ) 1 = max i=k+1,...,n (1+ l ik ) 2, l ik = a(k 1) ik a (k 1) Folgerungen: a (k 1) a (k 1) ik = l ik = a (k 1) a (k 1) ik = l ik = a (k 1) ik a (k 1) a (k 1) ik a (k 1) 1 = κ(i G k) 1 1 = κ(i G k) 1 Stabilität, falls a (k 1) a (k 1) ik

21 Gaußscher Algorithmus mit Spaltenpivotsuche Algorithmus 9.23 for k = 1 : n 1 do { k 0 = k for i = k + 1 : n do { } falls a (k 1) ik > a (k 1) k 0,k, setze k 0 := i Vertausche die k te Zeile mit der k 0 ten Zeile k ter Eliminationsschritt wie in Algorithmus } Folgerung: l ik 1 = κ(i G k ) 4 = κ(r) 4 n 1 κ(a)

22 LR Zerlegung mit Spaltenpivotsuche Satz 9.25: Die Gaußsche Elimination mit Spaltenpivotsuche liefert eine Zerlegung LR = PA mit unterer Dreiecksmatrix L, oberer Dreiecksmatrix R und einer Permutationsmatrix P. P A unterscheidet sich von A also nur durch Vertauschung der Zeilen. Beispiel: A = , P = , PA =

23 Numerisches Beispiel gut konditioniertes System: κ (A) = 32 A = , b = Ax, x = /7 1/11 1/13 Gaußschen Algorithmus mit Spaltenpivotsuche: R = , κ (R) = x x x < Lösung auf 15 gültigen Stellen!