Numerische Lineare Algebra

Transkript

1 Numerische Lineare Algebra Vorlesung 11 Prof. Dr. Klaus Höllig Institut für Mathematischen Methoden in den Ingenieurwissenschaften, Numerik und Geometrische Modellierung SS 2010 Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 1 / 12

2 Jacobi-Verfahren Ein elementares lineares Iterationsverfahren für ein lineares Gleichungssystem Ax = b ist das Jacobi-Verfahren. Hierbei wird die Diagonale D von A als Approximation von A 1 verwendet. Ein Schritt x l = y z = x l+1 des Verfahrens hat also die Form z = y D 1 Ay + D 1 b mit der Iterationsmatrix Q = E D 1 A. Ausführlicher ist für eine n n-matrix A z j = (b j k j a j,k y k )/a j,j, j = 1,..., n. Ein hinreichendes Kriterium für die Konvergenz des Jacobi-Verfahrens ist, dass die Koeffizientenmatrix A diagonal dominant ist, d.h. a j,j > k j a j,k. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 2 / 12

3 Beweis Iterationsmatrix diagonale Dominanz = ϱ(q) Q < 1 Q : q j,k = Q = max j { aj,k /a j,j, k j 0, k = j, a j,k / a j,j < 1 k j Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 3 / 12

4 Beispiel lineares Gleichungssystem mit Lösung x = (0, 1, 2) t x = Iterationsmatrix Q = E D 1 A des Jacobi-Verfahrens / / = / p = D 1 b = 1 3 (1, 5, 7)t Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 4 / 12

5 Beispiel Iterationsfolge für Startnäherung x 0 = (0, 0, 0) t x 1 = Qx 0 + p = p = x 2 = 1 3 x 3 = /3 5/3 7/3, 1/3 5/3 7/3 2/9 7/9 16/9 + 1/3 5/3 7/3 + 1/3 5/3 7/3 = 2/9 7/9 16/9 = 2/27 31/27 56/27 Fehler: x 1 2 = 6/3, x 2 2 = 12/9, x 3 2 = 24/27 Reduktionsfaktor 2/3 = ϱ(q), Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 4 / 12

6 Beispiel Diskretisierung der Poisson-Gleichung u xx u yy = f 4u k,l u k 1,l u k+1,l u k,l 1 u k,l+1 = f k,l /n 2, 0 < k, l < n n l u k,l 0 0 n k Schritt u v des Jacobi-Verfahrens (Randwerte 0) v k,l = (u k 1,l + u k+1,l + u k,l 1 + u k,l+1 + f k,l /n 2 )/4, 0 < k, l < n Spektralradius: ϱ = cos(π/n) = (π/n)2 + O(n 4 ) Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 5 / 12

7 Gauß-Seidel-Verfahren Das Gauß-Seidel-Verfahren für ein lineares Gleichungssystem Ax = b entsteht aus dem Jacobi-Verfahren, indem man den Näherungsvektor elementweise neu bestimmt und für die Berechnung der k-ten Komponente der nächsten Näherung bereits die neuen Daten der ersten k 1 Komponenten verwendet. Dies entspricht einer Aufteilung der Matrix A in eine Diagonalmatrix D, eine linke Dreiecksmatrix L und eine rechte Dreiecksmatrix R. Ein Iterationsschritt x l = y z = x l+1 hat somit die Form bzw. nach z aufgelöst, z = D 1 (Lz + Ry) + D 1 b, z = (L + D) 1 Ry + (L + D) 1 b. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 6 / 12

8 Gauß-Seidel-Verfahren Dabei muss die Iterationsmatrix Q = (L + D) 1 R nicht explizit berechnet werden. Für eine n n Matrix A ist z j = 1 b j a j,k z k a j,k y k, j = 1,..., n. a j,j k<j k>j Bei der sukzessiven Ausführung der Operationen kann auch z = y gesetzt werden. Die Vektorelemente werden dann automatisch in der gewünschten Weise überschrieben. Wie das Jacobi-Verfahren konvergiert auch das Gauß-Seidel-Verfahren für diagonal dominante Matrizen A. Darüber hinaus konvergiert es für symmetrische, positiv definite Matrizen A. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 6 / 12

9 Beweis Skalarprodukt und Norm, assoziiert mit einer symmetrisch, positiv definiten Matrix A x, y A = x t Ay, x A = x, x A Abschätzung des Spektralradius in der zugehörigen Matrixnorm ϱ(q) Q A = max x 0 ausreichend zu zeigen: Q A < 1 bzw. Qx A x A (Qx) t A(Qx) < x t Ax x t (A Q t AQ)x > 0, x 0 Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 7 / 12

10 Beweis Abkürzungen P = D + L, P t = D + L t Q = (L + D) 1 L t = E P 1 A, Q t = E A(P t ) 1 und A Q t AQ = A ( E A(P t ) 1) A ( E P 1 A ) = A EAE + A(P t ) 1 AE + EAP 1 A A(P t ) 1 AP 1 A = A(P t ) 1 ( P + P t A ) P 1 A = A(P t ) 1 DP 1 A Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 7 / 12

11 Beweis a k,k > 0 = x t (A Q t AQ)x = y t y, y = DP 1 Ax Regularität von D, P und A = y = 0 genau dann wenn x = 0 Positivität von y t y Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 7 / 12

12 Beispiel lineares Gleichungssystem mit Lösung x = (0, 1, 2) t x = ein Schritt x l = y z = x l+1 des Gauß-Seidel-Verfahrens z 1 = 1 3 y z 2 = 5 3 z 1 3 y 3 3 z 3 = 7 3 z 2 3 Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 8 / 12

13 Beispiel x 0 = (0, 0, 0) = y z = ((1 y 2 )/3, (5 z 1 y 3 )/3, (7 z 2 )/3) = x 1, d.h. x 1 = = Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 8 / 12

14 Beispiel x 1 = (1/3, 14/9, 49/27) = y z = ((1 y 2 )/3, (5 z 1 y 3 )/3, (7 z 2 )/3) = x 2, d.h. analog x 2 = = x 3 = ( 90, 2247, 4354) t / Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 8 / 12

15 Beispiel Fehler der Näherungen x 1 2 = 331/27, x 2 2 = 55/243, x 3 2 = 110/2187 ϱ = Reduktionsfaktor 2/9 zwischen der zweiten und dritten Näherung Q = (L + D) 1 R = = / /9 1/3 0 1/27 1/9 1/ Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 8 / 12

16 Beispiel Vergleich des Jacobi- und Gauß-Seidel-Verfahrens ( ) 2 t A = t 1/2 Iterationsmatrix und Spektralradius für das Jacobi-Verfahren ( ) 0 t/2 Q J =, ϱ 2t 0 J = t Iterationsmatrix und Spektralradius für das Gauß-Seidel-Verfahren ( 2 0 Q GS = t 1/2 ) 1 ( 0 t 0 0 ) = ( 0 t/2 0 t 2 ), ϱ GS = t 2 Konvergenz t < 1, ϱ GS = ϱ 2 J schnellere Konvergenz des Gauß-Seidel-Verfahrens Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 9 / 12

17 Beispiel diskrete Poisson-Gleichung mit Gitterweite h 4x k,l x k 1,l x k,l 1 x k+1,l x k,l+1 = b k,l x 0,l = x m,l = x k,0 = x k,m = 0, 0 < k, l < m = 1/h schachbrettartige Aufteilung der Unbekannten vektorisierbare Version der Gauß-Seidel-Iteration Iterationsschritt y z u k,l = (b k,l + y k 1,l + y k,l 1 + y k+1,l + y k,l+1 )/4, k + l gerade, z k,l = (b k,l + u k 1,l + u k,l 1 + u k+1,l + u k,l+1 )/4, k + l ungerade, 0 < k, l < m, Einträge mit Index i, j {0, n} Null Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 10 / 12

18 Relaxation Bei einem Iterationsverfahren kann man versuchen, die Konvergenz durch eine sogenannte Relaxation zu beschleunigen. Dazu wird in der Iterationsvorschrift x l+1 = f (x l ) ein zusätzlicher Parameter ω eingeführt und das neue Folgenglied auf der durch x l und f (x l ) verlaufenden Gerade gewählt: x l+1 = (1 ω)x l + ωf (x l ). Für ω = 1 erhält man das ursprüngliche Iterationsverfahren. Für ω > 1 spricht man von Überrelaxation und für ω < 1 von Unterrelaxation. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 11 / 12

19 Sukzessive Über-Relaxation Berechnet man beim Gauß-Seidel-Verfahren die einzelnen Komponenten sukzessive, so kann man die Relaxation in jedem Teilschritt anwenden. Das so entstehende Verfahren heißt abgekürzt SOR (successive over-relaxation). Die Iterationsvorschrift hat die Form x l+1 = x l + ωd 1 (b Lx l+1 Dx l Rx l ), wobei A = L + D + R die Aufteilung der Matrix in den linken, diagonalen und rechten Anteil ist. Führt man zwei SOR-Schritte durch, wobei beim ersten Schritt die Komponenten in der Reihenfolge 1, 2,..., n und beim zweiten Schritt in der umgekehrten Reihenfolge berechnet werden, so erhält man das SSOR-Verfahren (symmetric SOR). Dabei ist nur die Behandlung der Reihenfolge der Unbekannten symmetrisch, jedoch die Iterationsmatrix im Allgemeinen nicht. Auch die Konvergenzrate wird dadurch im Allgemeinen nicht besser. Die Symmetrisierung wird in erster Linie bei der Vorkonditionierung des Konjugierten-Gradienten-Verfahrens verwendet. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 12 / 12