Praktikumsbeispiele zum Lehrgebiet WR II, Numerische Mathematik und CAS Serie LGS. b 1 b 2... b n. n a ij x j = b i, i = 1, 2,..., n.

Transkript

1 TU Ilmenau Institut für Mathematik FG Numerische Mathematik und Informationsverarbeitung PD Dr. W. Neundorf Datei: pb lgs.tex Praktikumsbeispiele zum Lehrgebiet WR II, Numerische Mathematik und CAS Serie LGS Lineare Gleichungssyteme Ax = b, A(n, n = (a ij n i,j= regulär, a ij, b i R, A = (a ij Inverse, x = A b Lösung a a 2 a n a 2 a 22 a 2n... a n a n2 a nn x x 2... x n = b b 2... b n, n a ij x j = b i, i =, 2,..., n j= Algorithmen für direkte Verfahren. Gauß-Algorithmus ohne Pivotstrategie als Resttableau-Algorithmus bzw. Gauß-Reduktion (am Platz S : Vorwärtselimination k =, 2,..., n p = a kk i = k +, k + 2,..., n s = a ik /p p, s Hilfsgrößen a ij = a ij sa kj, j = k +, k + 2,..., n b i = b i sb k S2 : Rückwärtssubstitution k = n, n,..., h = b k h = h a ki x i, i = k +, k + 2,..., n x k = h/a kk Bemerkungen - Die Strategie der Reduktion ist durchführbar bei a kk 0, k =, 2,..., n. - Das LGS ist lösbar, wenn weiterhin a nn 0 ist. - Falls ein a kk =0 ist, dann ist die Anwendung von Pivotstrategien mit Zeilen- und/oder Spaltenvertauschungen ( Permutationsvektoren erforderlich. - Die Determinante berechnet sich aus det(a = n a kk. - Die Matrix wird systematisch durch die Resttableaus überschrieben. - Die Nullelemente unterhalb der Hauptdiagonalen sind künstlich auf Null zu setzen. - Der Platz unterhalb der Hauptdiagonalen (streng untere Dreiecksmatrix könnte für die Speicherung von Hilfsgrößen, wie z. B. von s genutzt werden. - Die erzeugte obere Dreiecksmatrix U sowie die unterhalb der Hauptdiagonalen gespeicherten Informationen ergänzt durch Einsen auf der Diagonale, die zusammen die untere Dreiecksmatrix L bilden, definieren eine Dreiecksfaktorisierung der Matrix gemäß LU. - Anstelle der Erzeugung der Resttableaus der Dimension n,...,2, ist es möglich, jeweils sukzessiv nur eine Zeile und Spalte zu berechnen Verketteter Gauß-Algorithmus (VGA. k=

2 2. Gauß-Algorithmus mit Spaltenpivotisierung und Zeilenvertauschung als Verketteter Gauß-Algorithmus (Turbo Pascal Prozedur 2 procedure VGA(n:integer; var a:matrix; var b,x:vektor; eps,detmax:float; var det:float; var p:vektor; var t,ind:integer; { Verketteter Gauss-Algorithmus mit Spaltenpivotisierung und Zeilenvertauschung Ax=b.. PAx=-CBx=LUx=Pb.. Bx=c det(a Determinante eps Toleranz fuer Test auf Singularitaet a[i,i]<... detmax Toleranz fuer Test auf det(a>... p Permutationsvektor der Zeilenvertauschung t Indikator : 0..default..Abbruch mit eps 2..Abbruch mit detmax ind Stufe (m,m bei vorzeitigem Abbruch } var i,j,m,index:integer; s,max:float; { Zerlegung und Vorwaertsrechnung, Vorwaertselimination } det:=; t:=0; ind:=0; for i:= to n do p[i]:=i; { Permutationsvektor --> P } for m:= to n do { Pivotsuche } max:=0; index:=m; for i:=m to n do s:=a[i,m]; for j:= to m- do s:=s+a[i,j]*a[j,m]; a[i,m]:=s; if abs(s>abs(max then max:=s; index:=i end { Test auf Singularitaet und grosses det(a } det:=det*max; if abs(max<eps then ind:=m; det:=0; t:=; EXIT if abs(det>detmax then ind:=m; t:=2; EXIT { Zeilenvertauschung } if index>m then det:=-det; for i:= to n do s:=a[m,i]; a[m,i]:=a[index,i]; a[index,i]:=s s:=b[m]; b[m]:=b[index]; b[index]:=s; i:=p[m]; p[m]:=p[index]; p[index]:=i { Bestimmung der Elemente der m-ten Spalte } for i:=m+ to n do a[i,m]:=-a[i,m]/max; { Bestimmung der Elemente der m-ten Zeile mit rechter Seite } for i:=m+ to n do s:=a[m,i]; for j:= to m- do s:=s+a[m,j]*a[j,i]; a[m,i]:=s s:=b[m]; for j:= to m- do s:=s+a[m,j]*b[j]; b[m]:=s { Rueckrechnung, Rueckwaertssubstitution } for i:=n downto do s:=-b[i]; for j:=n downto i+ do s:=s+a[i,j]*x[j]; x[i]:=-s/a[i,i] end

3 3. Gauß-Algorithmus mit impliziter Skalierung als relative Pivotwahl mit Zeilenbetragssummen (relative Kolonnenmaximumstrategie 3 procedure Zerlegung_Gauss_rel_Pivot2(n:integer; var a:matrix; eps,detmax:float; var det:float; var ip:vektor; var t,stufe:integer; { Zerlegung von A =P*A(n,n=L*U auf dem Platz bei relativer Spaltenpivotisierung und Zeilenvertauschung, sowie impliziter Skalierung ( --> Permutationsmatrix P auf der Basis des Permutationsvektors ip det(a Determinante eps Toleranz fuer Test auf Singularitaet n a[i,i] <...,sum a[i,j] <... j=i detmax Toleranz fuer Test auf det(a >... ip t stufe Permutationsvektor der Zeilenvertauschung Indikator : 0..default..Abbruch mit eps 2..Abbruch mit detmax Stufe (m,m bei vorzeitigem Abbruch Lit.: H.R.Schwarz. Numerische Mathematik. B.G.Teubner Stuttgart 988. } var i,j,l,k:integer; q,s,max:float; det:=; stufe:=0; t:=0; for i:= to n do ip[i]:=i; { Permutationsvektor --> P } for k:= to n do { Schritte k=,2,...,n } { relative Pivotwahl mit Kolonnenmaximumstrategie } max:=0; for i:=k to n do s:=0; for j:=k to n do s:=s+abs(a[i,j]; if s<eps then { Matrix A bzw. Teiltableau hat "Fast-Null-Zeile" } stufe:=i; det:=0; t:=; EXIT; q:=abs(a[i,k]/s; if q>max then max:=q; l:=i; { Test auf Singularitaet (Nullspalte und grosses det(a } if max<eps then stufe:=k; det:=0; t:=; EXIT; max:=a[l,k]; det:=det*max; if abs(det>detmax then stufe:=k; t:=2; EXIT; { Zeilenvertauschung } if l>k then det:=-det; for j:= to n do s:=a[k,j]; a[k,j]:=a[l,j]; a[l,j]:=s; j:=ip[k]; ip[k]:=ip[l]; ip[l]:=j; { Bestimmung der Elemente des Resttableaus } for i:=k+ to n do { Zeilen } s:=a[i,k]/max; a[i,k]:=s; for j:=k+ to n do a[i,j]:=a[i,j]-s*a[k,j]; { Spalten }

4 4. Gauß-Algorithmus mit impliziter Skalierung als relative Pivotwahl mit der Zeilennorm 2 (relative Kolonnenmaximumstrategie und Buchhaltervektor 4 procedure Zerlegung_Gauss_rel_Pivot(n:integer; var a:matrix; eps,detmax:float; var det:float; var ip:vektor; var t,stufe:integer; { Zerlegung von A =P*A(n,n=L*U auf dem Platz bei relativer Spaltenpivotisierung und Zeilenvertauschung sowie impliziter Skalierung, Buchhaltervektor ( --> Permutationsmatrix P auf der Basis des Permutationsvektors ip det(a Determinante eps Toleranz fuer Test auf Singularitaet n a[i,i] <...,sum a[i,j]^2<... j= detmax Toleranz fuer Test auf det(a >... ip t stufe Permutationsvektor der Zeilenvertauschung Indikator : 0..default..Abbruch mit eps 2..Abbruch mit detmax Stufe (m,m bei vorzeitigem Abbruch Lit.: N.Koeckler. Numerische Algorithmen in Softwaresystemen. B.G.Teubner Stuttgart 990.} var i,j,l,k:integer; s,max,max:float; ph:vektor; det:=; stufe:=0; t:=0; for i:= to n do ip[i]:=i; { Permutationsvektor --> P } s:=0; for j:= to n do s:=s+sqr(a[i,j]; if s<eps then { Matrix A hat "Fast-Null-Zeile" } stufe:=i; det:=0; t:=; EXIT ph[i]:=/sqrt(s; { Vektor der Kehrwerte der euklidischen Norm der n Zeilenvektoren von A, Buchhaltervektor } for k:= to n do { Schritte k=,2,...,n } { relative Pivotwahl mit Buchhaltervektor } max:=0; max:=0; l:=k; for i:=k to n do s:=a[i,k]; if abs(s*ph[i]>abs(max then max:=s; max:=s*ph[i]; l:=i; end { Test auf Singularitaet und grosses det(a } det:=det*max; if abs(max<eps then stufe:=k; det:=0; t:=; EXIT; if abs(det>detmax then stufe:=k; t:=2; EXIT; { Zeilenvertauschung } if l>k then det:=-det; for j:= to n do s:=a[k,j]; a[k,j]:=a[l,j]; a[l,j]:=s; ph[l]:=ph[k]; j:=ip[k]; ip[k]:=ip[l]; ip[l]:=j; { Bestimmung der Elemente des Resttableaus } for i:=k+ to n do { Zeilen } s:=a[i,k]/max; a[i,k]:=s; for j:=k+ to n do a[i,j]:=a[i,j]-s*a[k,j]; { Spalten }

5 Algorithmen für iterative Verfahren. Gesamtschrittverfahren (GSV, Jacobi-IV (JA Voraussetzung sei a ii 0, i=,..., n, was durch eventuelle Zeilenvertauschungen erreichbar ist. Mit der Zerlegung der Koeffizientenmatrix N P = D (E + F, D, E, F entsprechend Diagonalmatrix, linke Dreiecksmatrix bzw. rechte Dreiecksmatrix, ergeben sich die Matrizen a a 2 a n N = D = 0 a , P = E + F = a 2 0 a 2n a nn a n a n2 0 Komponentenweise Darstellung des GSV x (m+ i = n b i a ij x (m j, i =, 2,..., n, m = 0,, 2,... a ii j =, j i Matrix-Vektor-Form des GSV x (m+ = D [b + (E + Fx (m ] x (m+ H = J = D (E + Fx (m + D b, c = D b = D (D Ax (m + D b = (I D Ax (m + D b = D [b (A Dx (m ] = x (m D (Ax (m b = x (m + D r (m, mit r (m = b Ax (m als Residuum, = I D A Iterationsmatrix, W = D Wichtung, Skalierungsmatrix, D r (m gewichtetes Residuum (weighted residual, Verbesserung (update für x (m. Für reguläres D sind die Darstellungen Ax = b und x = Hx + c mit den Beziehungen für H und c konsistent, d. h. dass die Lösung bzw. der Grenzvektor des konvergenten GSV auch der Normalform genügt. Bei einer Programmierung des Verfahrens ist der Speicheraufwand der für die Matrix A und zweier aufeinander folgender Iterationsvektoren. Konvergenzkriterien Das GSV konvergiert, falls die Matrix A streng diagonaldominant ist, d. h., für ihre Elemente n a ij gilt a ii > a ij, i =, 2,..., n. j =, j i Die Konvergenz des GSV ist gegeben, falls für die Iterationsmatrix H = J mit ihren Elementen h ii = 0, h ij = a ij /a ii, i j, die Ungleichungen n a ij <, i =, 2,..., n, bzw. H < Zeilensummen-Kriterium, oder j = j i n i = i j a ii a ij a ii <, j =, 2,..., n, bzw. H < Spaltensummen-Kriterium, erfüllt sind, wobei im Zeilensummen-Kriterium genau die Diagonaldominanz von A steckt. 5

6 2. Einzelschrittverfahren (ESV, Gauß-Seidel-IV (GS Voraussetzung sei wiederum a ii 0, i =, 2,..., n. Mit der Zerlegung der Koeffizientenmatrix N P = (D E F, D, E, F wie im GSV, ergeben sich die Matrizen N =D E = a a 2 a a 3 a 32 a a n a n2 a n3 a nn, P =F = Komponentenweise Darstellung des ESV x (m+ i = b i a ii i j= a ij x (m+ j Matrix-Vektor-Form des ESV n j=i+ x (m+ = D (b + Ex (m+ + Fx (m (D Ex (m+ = Fx (m + b x (m+ = (D E [(D E Ax (m + b] 0 a 2 a 3 a n 0 0 a 23 a 2n a 3n a ij x (m, i = ; 2,..., n, m = 0,, 2,.... j = (I (D E Ax (m + (D E b, c = (D E b, E = DL = {I [D(I L] A}x (m + [D(I L] b = x (m [D(I L] (Ax (m b x (m+ = x (m + (D E r (m, wobei r (m = b Ax (m, 6 H = H = I [D(I L] I (D E A Iterationsmatrix, W = D(I L = D E Wichtung, Skalierungsmatrix, (D E r (m gewichtetes Residuum, Verbesserung für x (m. Die Verbesserung für den Iterationsvektor x (m ergibt sich somit aus der Lösung des LGS (D E x (m = r (m, x (m = x (m+ x (m, mit dem Residuum auf der rechten Seite, wobei bei vorausgesetzter Konvergenz r (m 0 für wachsendes m gilt. Im Gegensatz zum GSV wird beim ESV eine neu berechnete Komponente des Iterationsvektors x (m+ sofort für die Berechnung der nächsten einbezogen. Somit ist bez. des Speicheraufwands bei der Programmierung neben der Matrix nur ein Vektor zu merken. Konvergenzkriterien Das ESV konvergiert, falls die Matrix A streng diagonaldominant ist, bzw. falls die Elemente h ij der Iterationsmatrix H = H wie beim GSV das Zeilensummen- oder das Spaltensummen- Kriterium erfüllen. Das ESV konvergiert immer, falls A T > 0.

7 Beispiele 7. A streng diagonaldominant, damit regulär x = (, T ( A regulär, schlecht konditioniert x = (, T ( , b = (0.3, 0.3 T, b = 3. A regulär, sehr schlecht konditioniert x = (, T ( ( A T parameterabhängig, ε > 0, ε ( ε ε ( , b = , b = (, 0 T bzw. b = (, 0 T x = ε 2 (ε, T bzw. x = (, ε 2 εt 5. A T parameterabhängig, ε > 0 x = (0, T ( ε 0, b = (, 0 T 6. A streng diagonaldominant, indefinit ( 2 3, b = (3, T x = 7 (0, T 7. A streng diagonaldominant x = (, T ( 2 0 3, b = (3, 3 T 8. A T > 0 streng diagonaldominant ( 2 3, b = (, 2 T x = 5 (, 3T

8 9. A T regulär , b = (3, 6, 0 T 8 x = (,, T 0. A T regulär , b = (, 0, 0 T x = (,, T. A regulär x = (,, T A regulär, schlecht konditioniert x = (5,, T 3. A T > 0 x = (,, T, b = (, 4, 2 T , b = (6, 32, 07 T, b = (6.5, 5.3, 2.9 T 4. A T > 0 tridiagonal, schwach diagonaldominant 4 0 2, b = (3, 0, 3 T 0 4 x = (,, T 5. A T > 0 tridiagonal, streng diagonaldominant 4 0 4, b = (2, 6, 2 T 0 4 x = (, 2, T

9 6. A T regulär, streng diagonaldominant, indefinit 3 3 3, b = (3,, 3 T 9 x = (,, T 7. A T regulär, indefinit x = (,, T A streng diagonaldominant, b = (0,, 3 T , b = (8, 32, 6 T 3 2 x = 2 (660, 4326, 742T = ( , , T 9. A regulär x = (,, T 20. A regulär x = (2,, 2 T 2. A regulär x = (,, T 22. A T > , b = (6, 3, 4 T, b = (4, 0, 0 T, b = ( 3, 5, 2 T, b = (, 2, 3 T x = 0 (, 4, 9T

10 23. A regulär , b = (,, 3 T 0 x = (,, T 24. A regulär x = (,, T /2 /2 25. A regulär, streng diagonaldominant x = (,, T 26. A regulär x = (,,, T 27. A regulär x = (,,, T 28. A regulär x = (, 0,, 2 T 29. A regulär x = (,,, T , b = (/2,, 5/2 T, b = (3, 4, 7 T , b = (6, 6, 6, 5T, b = ( 2, 22, 5, 9T, b = ( 2, 0,, 2T, b = (6, 6, 6, 5T

11 30. A regulär , b = (9, 9, 8, 29T x = (, 3, 2, 2 T 3. A T > 0 x = (2,, 3, 2 T 32. A regulär , b = ( 2, 62, 38, 4T, b = ( 0, 5, 5, 0T x = 0299 (3550, 2800, 5565, 790T = ( , , , T 33. A regulär und untere Dreiecksmatrix x = (,, 0, 0 T 34. A regulär x = (,,, T A regulär mit Bandstruktur x = (,,, T , b = (,,, T, b = (3, 3, 3, 3T, b = (3, 4, 8, T

12 36. A regulär mit Bandstruktur , b = (2, 3, 5, T 2 x = (,,, T 37. A regulär x = (,,,, T 38. A regulär x = ( 5, 2, 4, 3, 2 T 39. A regulär x = ( 209/6, 34, 24, 58/3, 28/3 T 40. A regulär x = (4, 4, 3, 0, 2 T 4. A T > 0 x = (,,, 2, 2, 2 T , b = (2, 3, 2, 0, 5T, b = (6, 4, 9, 33, 67T, b = (7, 0, 7, 5, T , b = (7, 0, 7, 5, T, b = (87, 94, 360, 45, 432, 0 T

13 42. A T > 0 tridiagonal 3 A(7, 7 = tridiag(, 2,, b = (2, 7,, 3, 8, 2, 5 T x = (, 0, 6,, 9, 9, 7 T 43. A T > b = (229, 29, 790, 24, 06, 276, 26, 600 T x = (,,,, 2, 2, 2, 2 T 44. A(n, n = A T > 0 tridiagonal = tridiag(, 2, A = (A T = (a ij, a ij = A = n n + b = (, 0, 0,...,0, T x = (,,..., T (n n + 2 (n n + i(n + j n + (n 2 n + 2 (n 2 n + 3 (n 2 n + > 0, i j n 2 n n n n n + n + 2 n + 3 n +. n n + n n A(n, n = A T > , b = (n, 4, 6,...,2(n, n + 2 T x = (, 2, 3,..., n T

14 46. A(n, n = A T > 0 tridiagonal, parameterabhängig, c 0 4 tridiag(, 2, + ci, I (n n Einheitsmatrix b = ( + c, c,..., c, + c T x = (,,..., T 47. A(n, n = A T parameterabhängig, α reell A(n, n = x = (,,..., T 48. Boothroyd-Dekker-Matrix (a ij n i,j=, a ij = b = (,,..., T x = (,,,,... T A(4, 4 = + α... + α... + α α ( n n + i i + j i, A =, b = (n + α, n + α,..., n + αt ( n n j 49. Zielke-Matrix A T indefinit, parameterabhängig, α reell, A = (a ij a ij = a ij = α + für i = (n, j = (n i, α für i = j = n, α sonst α für i = j =, α für i =, j = n und i = n, j =, α für i = j = n, für i = (n, j = n i, für i = 2(n, j = n i +, 0 sonst N, a ij = ( i+j a ij A(5, 5 = α+ α+ α+ α+ α α+ α+ α+ α α α+ α+ α α α α+ α α α α α α α α α b = (4 + 5α,3 + 5α,2 + 5α, + 5α, + 5α T x = (,,,, T, A = α 0 0 α α α

15 50. Hilbert-Matrix A T > 0, a ij = b = (b, b 2,..., b n T, b i = n x = (,,..., T i + j, a ij = ( i+j i + j γ iγ j, γ i = a ij j= (n + i! (i! 2, i, j =, 2,..., n (n i! 5 5. Matrix A(4, 4 = x = (,, 0 8, T 52. Wilkinson-Matrix A(4, 4 = , b = b = ( , , , T x = (,,, T 53. A regulär mit Blockstruktur ( A B Ax = b, A(4, 4, C A, A (7, 7, B(7, 7, C(7, 7 B, b ij = ã 8 i,j, A = (ã ij A = , C = b = (b, b 2,..., b n T, b i = n x = (,,..., T a ij j= 54. A(n 2, n 2 = A T > 0 mit Blockstruktur B I I B I , B = B(n, n = I I B I = I(n, n Einheitsmatrix, b = (b, b 2,..., b n T, b i = n x = (,,..., T a ij j=

16 55. A(n 2, n 2 = A T > 0 mit Blockstruktur, parameterabhängig, c reell B I 4 I B I 4 c I(n 2, n , B = B(n, n = I I B 4 I = I(n, n, I(n 2, n 2 Einheitsmatrizen b = (b, b 2,..., b n T, b i = n x = (,,..., T a ij j= 56. A T singulär (a ij, a ij = 2 i+j 2, b = (b, b 2,..., b n T, b i = x = (,,..., T n j= a ij A singulär, rang(a = , b = (, 0, 3 T x = (2c, c, T, u. a. (,, T 58. A singulär, rang(a = 2 keine Lösung , b = (5, 4, 7 T