Direkte Verfahren zur Lösung linearer Gleichungssysteme

Transkript

1 Direkte Verfahren zur Lösung linearer Gleichungssysteme Inhaltsverzeichnis. Vorbemerkungen Das Gauß sche Eliminationsverfahren Matrixzerlegungen Gleichungssysteme mit tridiagonalen Matrizen Programmpakete zur Lösung linearer Gleichungssysteme Aufgaben Literatur ei vielen mathematischen Aufgabenstellungen ist es erforderlich, lineare Gleichungssysteme zu lösen. Zum einen führen lineare Modelle oft direkt auf lineare Gleichungssysteme und bei vielen nichtlinearen Aufgabenstellungen kann die Lösung oft durch das sukzessive Lösen linearer Gleichungssysteme erhalten werden. ei der Analyse und Anpassung von experimentellen Daten an multilineare Gesetze sind letztendlich lineare Gleichungssysteme zu lösen. Als letztes eispiel sei hier noch auf die numerische Lösung partieller Differentialgleichungen hingewiesen. Hier sind im Ergebnis von Diskretisierungen in der Regel große lineare Gleichungssysteme mit schwach besetzten Koeffizientenmatrizen zu lösen. Im folgenden Kapitel soll das Hauptaugenmerk auf direkte Verfahren zur Lösung linearer Gleichungssysteme gerichtet sein. Im Unterschied dazu werden in einem später folgenden Kapitel iterative Verfahren zur Lösung besprochen.. Vorbemerkungen Im Folgenden gehen wir nicht auf den Ursprung des zu lösenden linearen Gleichungssystems ein, d. h. auf das möglicherweise zugrunde liegende mathematische Modell, sondern Springer-Verlag erlin Heidelberg 6 G. ärwolff, Numerik für Ingenieure, Physiker und Informatiker, DOI.7/ _ 3

2 4 Direkte Verfahren zur Lösung linearer Gleichungssysteme konzentrieren uns auf die Lösungsmethoden. Das Gleichungssystem 4x x x 3 D x 6x x 3 D 4 x x 8x 3 D (.) schreiben wir in der Matrix-Vektor-Form Ax D b A x x x 3 A D 4 A mit der Koeffizientenmatrix A und der erweiterten Matrix Ajb A D A ; Ajb D A (.) Mit dem egriff des Zeilen-Ranges rg.a/ einer Matrix A vom Typ m n (also m Zeilen und n Spalten) als der maximalen Anzahl linear unabhängiger Zeilen sei an das wichtige Kriterium zur Lösbarkeit linearer Gleichungssysteme erinnert. Satz. (Lösbarkeitskriterium linearer Gleichungssysteme) Sei A eine m n Matrix und b ein Spaltenvektor aus dem R m. Dann ist das lineare Gleichungsystem Ax D b genau dann lösbar, wenn A und Ajb den gleichen Rang besitzen. In der rechnerischen Praxis des Gauß schen Eliminationsverfahrens werden wir die positive Aussage des Satzes. immer dann erkennen, wenn wir während der Rechnung nicht auf einen offensichtlichen Widerspruch, etwa D,treffen.. Das Gauß sche Eliminationsverfahren Zur Lösung von (.)bzw.(.) kann man nun folgende Schritte durchführen. Die Multiplikation der ersten Gleichung mit bzw. mit 4 und die Subtraktion von der zweiten bzw. der dritten Gleichung ergibt 4x x x 3 D x 6x x 3 D 4 x x 8x 3 D H) (II) (I) (III) 4 (I) 4x x x 3 D 5x x 3 D 3 x 3 4 x 3 D

3 . Das Gauß sche Eliminationsverfahren 5 Die Multiplikation der zweiten modifizierten Gleichung mit der modifizierten dritten Gleichung ergibt schließlich 4x x x 3 D 5x x 3 D 3 x 3 4 x 3 D Nun erhält man sofort mit x 3 D 77 ; x D 5 H) (III) (II) 3 D x D 4 und die Subtraktion von 4x x x 3 D 5x x 3 D 3 77 x 3 D D die Lösung des linearen Gleichungssystems (.). Die soeben durchgeführten Schritte sind gleichbedeutend mit den entsprechenden Linearkombinationen der Zeilen der erweiterten Matrix des Ausgangssystems mit dem Ergebnis der erweiterten Matrix AjQb Q D A Da man mit den durchgeführten Linearkombinationen von Zeilen nichts an der maximalen Anzahl der linear unabhängigen Zeilen verändert, haben A und AQ sowie Ajb und AjQb Q jeweils den gleichen Rang 3, also ist das Lösbarkeitskriterium erfüllt und wir hatten ja auch bei der Rechnung keinen Widerspruch der Form D o. Ä. erhalten. ei der Erzeugung der Nullen in der k-ten Spalte in der Matrix AQ unter dem jeweiligen Kopfelement Qa wurde jeweils durch dieses Matrixelement dividiert. Wie wir im ersten Kapitel bemerkt haben, ist die Division einer dem etrage nach größeren durch eine Zahl mit einem kleineren etrag schlecht konditioniert. Deshalb ist es sinnvoll, die Zeilen jeweils so zu vertauschen, dass immer betragskleinere Zahlen durch betragsgrößere geteilt werden. D. h., man sucht in der k-ten Spalte beginnend vom Kopfelement in den verbleibenden Zeilen immer nach dem betragsgrößten Element, dem Pivotelement, und tauscht dann die Zeile mit dem Pivotelement mit der Zeile des Kopfelements. Deshalb nennt man diese Methode auch Pivotisierung. ei dem konkreten eispiel hatten wir Glück, da die Kopfelemente jeweils die betragsgrößten waren, so dass bei der Elimination immer kleinere Zahlen durch größere dividiert wurden. Im Folgenden soll das nun am konkreten eispiel demonstrierte Eliminationsverfahren allgemeiner besprochen werden... Das Gauß sche Eliminationsverfahren mit Pivotisierung Ziel ist es nun, einen Algorithmus zur Untersuchung der Lösbarkeit des linearen Gleichungssystems Ax D b mit einer Matrix A vom Typ m n und der rechten Seite b R m zu formulieren, der im Fall der Lösbarkeit auch sämtliche Lösungen x R n liefert.

4 6 Direkte Verfahren zur Lösung linearer Gleichungssysteme Grundlage für den Algorithmus sind die sogenannten äquivalenten bzw. rangerhaltenden Umformungen, die die Lösungsmenge des Gleichungssystems nicht verändern a) Addition des Vielfachen einer Zeile (Gleichung) zu einer anderen, b) Vertauschung von Zeilen (Gleichungen), c) Multiplikation einer Zeile (Gleichung) mit einer Zahl ungleich null. Da wir mit dem Algorithmus auch den Rang der Matrix bestimmen wollen, schränken wir A nicht ein, d. h., es sind auch für das Gleichungssystem redundante Nullspalten in der Matrix zugelassen. Die Aktualisierung/Modifizierung der Matrix A bzw. der Matrixelemente a ij oder der erweiterten Matrix Ajb durch die äquivalenten Umformungen a), b), c) wird durch AQ bzw. Qa ij usw. gekennzeichnet. Die Zeilen der Matrix A werden mit a i (i-te Zeile) bezeichnet. Gauß scher Algorithmus ) Initialisierung des Zeilenzählers j D. ) Suche nach der ersten Spalte k mit. Qa jk ;;Qa mk / T.;;/ T und Tausch der Pivotzeile mit der j -ten Zeile, so dass das Element Qa jk Kopfelement der j -ten Zeile wird. ) Für i D j ;;mwerden durch Qa i WD Qa i Qa ik Qa jk Qa j Nullen unter dem Kopfelement Qa jk erzeugt. 3) Solange j<mgilt, wird zur nächsten Zeile gegangen, also j WD j, und mit Punkt ) fortgefahren. Falls j D m ist, wird der Algorithmus mit 4) beendet. 4) Division der Nicht-Null-Zeilen durch das jeweilige Kopfelement. Im Ergebnis des Gauß schen Algorithmus erhält man die modifizierte erweiterte Koeffizientenmatrix in einer Zeilen-Stufen-Form # b Q # Q b # Q b3 # br Q (.3) br Q A bm Q

5 . Das Gauß sche Eliminationsverfahren 7 Dabei bedeuten die Symbole # jeweils von null verschiedene Zahlen bzw. Kopfelemente und die Symbole beliebige Zahlen. Die Spalten mit den Kopfelementen wollen wir Kopfspalten nennen. Die Zeilen-Stufen-Form oder das Zeilen-Stufen-Schema nennt man auch Echolon-Form. Aus dem Schema (.3) erkennt man nun den Rang von A, also r, da sich im Ergebnis der rangerhaltenden Umformungen r linear unabhängige Zeilen ergeben haben. Außerdem erkennt man, dass der Rang von Ajb ebenfalls gleich r ist, wenn Qb r DD Q b m D gilt. Ist eine der Zahlen Q b r ;; Q b m von null verschieden, hat Ajb den Rang r und das Gleichungssystem Ax D b ist nicht lösbar. Ist das Gleichungssystem lösbar, d. h., gilt Q b r D D Q b m D, dann kann man n r Komponenten der Lösung x als freie Parameter wählen und die restlichen r Komponenten in Abhängigkeit von den freien Parametern bestimmen. Man wählt die Komponenten x k als freie Parameter, für die die k-te Spalte keine Kopfzeile ist. Das soll an einem eispiel demonstriert werden. eispiel Wir betrachten das lineare Gleichungssystem x 4x 8x 3 6x 4 x 5 D 4 x x 3x 3 6x 4 x 5 D 6 x x x 3 7x 4 x 5 D 9 3x 6x 6x 3 x 4 3x 5 D 7 mit der erweiterten Koeffizientenmatrix A Der Gauß sche Algorithmus (hier ohne Pivotisierung durchgeführt) ergibt A H) 3 4 A H) A

6 8 Direkte Verfahren zur Lösung linearer Gleichungssysteme Aus dem erhaltenen Zeilen-Stufen-Schema ergibt sich rg.a/ D rg.ajb/ D 3, also die Lösbarkeit. Nicht-Kopfspalten sind die Spalten und 5, so dass wir die Komponenten x D s und x 5 D t (s; t R) als freie Parameter wählen. Für die Lösung erhalten wir dann x 4 x 5 D x 4 D. t/ D t; x 3 3x 4 x 5 D 4 x 3 D 4 3 t t D 5 t ; x 4x 8x 3 6x 4 x 5 D 4 x D.4 4s 6t 3 6t t/ D s t ; also x D s t s 5 t t t D A 5 s A t A A.s; t R/ Ist A eine reguläre quadratische Matrix vom Typ n n, dann erhält man als Spezialfall des Zeilen-Stufen-Schemas (.3) das Dreiecksschema Qa Qa Qa n Qa n b Q Qa Qa n Qa n b Q Qa 3n Qa 3n b3 Q A Qa nn bn Q mit Qa kk ; k D ;;n.derrangvona und Ajb ist gleich n undmankanndie Komponenten der Lösung x in der Reihenfolge x n ;x n ;;x mit der Formel x k D 4 bk Q nx 3 Qa kj x j 5 = Qa kk.k D n; n ;;/ (.4) j Dk bestimmen, also x n D b Q n = Qa nn, x n D Œb Q n Qa n n x n = Qa n n usw. Das ist genau der Algorithmus, mit dem das Gleichungssystem (.) oben gelöst wurde. Die Implementierung des Gauß schen Algorithmus in einem Programm wird im nächsten Abschnitt angegeben. Grund hierfür ist das zusätzliche Resultat einer nützlichen Matrixzerlegung neben der Erzeugung eines Zeilen-Stufen-Schemas zur Rangermittlung und zur Lösung eines linearen Gleichungssystems.

7 .3 Matrixzerlegungen 9.3 Matrixzerlegungen ei der Lösung linearer Gleichungssysteme der Form Ax D b mit einer regulären Matrix A geht es in der Regel darum, das Gleichungssystem so umzuformen, dass man die Lösung letztendlich recht einfach berechnen kann. Im vorigen Abschnitt haben wir mit dem Gauß schen Algorithmus eine Methode behandelt, mit der man das Gleichungssystem Ax D b durch äquivalente Umformungen auf eine Form Rx D Qb WD M b MA D R A D M R mit einer oberen Dreiecksmatrix R gebracht hat. Die Matrix M steht für die äquivalenten Umformungen. Der entscheidende Punkt bei dieser Methode bestand darin, die Lösung des ursprünglichen auf die Lösung eines leicht lösbaren linearen Gleichungssystems zurückzuführen. Da R eine Dreiecksmatrix ist, kann man Rx D Qb sehr schnell und einfach lösen. Entscheidende Grundlage für die meisten Lösungmethoden ist eine Zerlegung, auch Faktorisierung genannt, der Matrix A in Faktoren und, so dass die Lösung von Ax D x D b äquivalent ist mit der Lösung von y D b und x D y Die Zerlegung macht natürlich nur Sinn, wenn die beiden Gleichungssysteme mit den Koeffizientenmatrizen und einfacherzu lösensind als das Ausgangsgleichungssystem..3. Die LR-Zerlegung ei der Lösung des linearen Gleichungssystems (.) wurden die folgenden Schritte vorgenommen A H) 5 3 A H) 5 3 A H) 5 3 A 3 4 Jeder Schritt entspricht der Multiplikation der Matrix A bzw. der rechten Seite b von links mit einer Elementarmatrix der Form L ij./ D 77 5 (.5) A

8 3 Direkte Verfahren zur Lösung linearer Gleichungssysteme L ij entsteht aus der Einheitsmatrix vom Typ n n, in der an der Position.ij / die Zahl statt einer Null eingefügt wurde. Die Multiplikation L ij./ A ergibt eine Matrix AQ D L ij./ A,dieausAdurch die Addition des -fachen der j -ten Zeile zur i-ten Zeile entsteht. Konkret bedeuten die drei Schritte bezüglich der Matrix A das Matrixprodukt L 3. /L 3. 4 /L. /A bzw. 4 4 A A A 6 A D 5 A Für die rechte Seite ergibt sich L 3 L 3 L b D A Die im Fall der Pivotisierung erforderlichen Zeilenvertauschungen erreicht man durch die Multiplikation von links mit Elementarmatrizen der Form P ij D (.6) A P ij geht aus der Einheitsmatrix dadurch hervor, dass man die aus der Position (i;i) an die Position (i;j) und die aus der Position (j;j) an die Position (j;i) verschiebt. Die Matrizen L ij und P ij haben die wichtige Eigenschaft, regulär zu sein. Außerdem ist det.l ij / D und det.p ij / D. Weiterhin findet man für die Inversen von L und P L ij./ D L ij. / bzw. P ij D P ij Die Permutationsmatrizen sind somit orthogonale Matrizen. Ziel des Gauß schen Algorithmus war ja die Erzeugung einer Matrix in Zeilen-Stufen-Form bzw. einer oberen

9 .3 Matrixzerlegungen 3 Dreiecksmatrix R. WennwirvoneinerregulärenquadratischenMatrix A ausgehen, findet man nach der sukzessiven Multiplikation von links mit geeigneten L-Matrizen auf jeden Fall eine Dreiecksmatrix R L k L k L A D R Mit A D L L k L k R und L D L L k L k hat man A in ein Produkt einer unteren Dreiecksmatrix L als Produkt der unteren Dreiecksmatrizen Lj und einer oberen Dreiecksmatrix R zerlegt. Diese Zerlegung mit einer unteren Dreiecksmatrix, deren Hauptdiagonalelemente l kk gleich sind, nennt man LR- Zerlegung oder LR-Faktorisierung (auch als LU -Zerlegung bekannt). Wir werden anhand des eispiels der Lösung des Gleichungssystems (.) sehen, dass neben der oberen Dreiecksmatrix R auch die Matrix L ein Nebenprodukt des Gauß schen Algorithmus ist und keine zusätzliche Arbeit bedeutet. etrachten wir das Produkt L 3. /L 3. 4 /L. / und deren Inverse L D L L 3 L 3 4 D A 4 A D L L 3 L 3 4 A D 4 A Man erkennt bei dieser Rechnung, dass in der Matrix L genau die Koeffizienten l jk D Qa jk Qa kk (j D k ;) stehen, mit denen man beim Gauß schen Algorithmus die k-te Zeile multiplizieren muss, ehe man sie von der j -ten Zeile subtrahiert, um Nullen unter dem Kopfelement Qa kk zu erzeugen. Das folgende eispiel zeigt allerdings, dass die LR-Zerlegung selbst bei Voraussetzung der Regularität der Matrix A nicht immer existiert. Für die recht übersichtliche reguläre Matrix A D ergibt der Ansatz D l r r r D r r l r l r r keine Lösung, da sich r D und l r D offensichtlich widersprechen. Tauscht man allerdings die Zeilen von A, dann findet man sofort die eindeutig bestimmte, in diesem Fall triviale LR-Zerlegung P A D D

10 3 Direkte Verfahren zur Lösung linearer Gleichungssysteme mit L D E und R D A. P D bewirkt als Permutationsmatrix den Zeilenwechsel. Wir haben damit die Erfahrung gemacht, dass man mit evtl. vorzuschaltenden Zeilenwechseln mit P als Produkt von Permutationsmatrizen eine LR-Zerlegung der Form r r n Q A D PA D LR D l A l n l nn A r nn (.7) erhalten kann. Insgesamt können wir die eben durchgeführten etrachtungen im folgenden Satz, den wir ohne eweis angeben, zusammenfassen. Satz. (LR-Zerlegung) Für jede quadratische Matrix A existiert eine Matrix P als Produkt von Permutationsmatrizen und Dreiecksmatrizen L und R der Form (.7), so dass PA D LR gilt. Falls A invertierbar ist, ist die Zerlegung für gegebenes P eindeutig. Die LR-Zerlegung der Matrix PA ist genau das Resultat des Gauß schen Algorithmus mit Pivotisierung, wobei die Matrix P die während des Algorithmus erforderlichen Zeilenvertauschungen beinhaltet. Als eispiel betrachten wir dazu die Matrix A D A Das Pivotelement der ersten Spalte ist 4, so dass die. und die 3. Zeile zu tauschen sind. Man erhält nun mit den ersten beiden Schritten des Gauß schen Algorithmus A H) A Das Pivotelement der. Spalte ist, so dass die Zeilen und 3 zu tauschen sind. Mit dem nächsten Schritt des Gauß schen Algorithmus erhält man schließlich A H) A

11 .3 Matrixzerlegungen 33 Damit ergibt sich unter erücksichtigung der Pivotisierung die LR-Zerlegung LR WD 4 4 A A für die Matrix PA WD A A D A ; wobei P sämtliche Zeilenvertauschungen realisiert und als Produkt der zu den Vertauschungen gehörenden Permutationsmatrizen erhalten werden kann. Die LR-Zerlegung einer Matrix A bzw. PA (A nach evtl. Zeilenvertauschungen) ermöglicht nun die Lösung eines lösbaren linearen Gleichungssystems Ax D b bzw. PAx D P b sukzessiv in zwei Schritten. Mit PA D LR ergeben sich die Lösungsschritte Ly D P b ; Rx D y (.8) In beiden Schritten sind jeweils Gleichungssysteme mit Dreiecksmatrizen oder Matrizen in Zeilen-Stufen-Form, also sehr einfache Gleichungssysteme zu lösen. Wir haben zwar bisher nur die LR-Zerlegung für quadratische Matrizen betrachtet, es ist allerdings auch möglich, solche Zerlegungen auch für nichtquadratische Matrizen mit dem Gauß schen Algorithmus zu erhalten. ringt man die Matrix A D mit dem Gauß schen Algorithmus auf Zeilen-Stufen-Form, erhält man R D und L D Mit L und R kann man nun ebenfalls die Lösung des lösbaren linearen Gleichungssystems Ax D b mit den Schritten (.8) sukzessiv bestimmen. Im Folgenden ist der Gauß sche Algorithmus in einem Octave-Programm dargestellt, wobei wir von einer n n-matrix ausgehen.

12 34 Direkte Verfahren zur Lösung linearer Gleichungssysteme # Programm. zur LR-Zerlegung einer Matrix A # input Matrix a # output Matrix a, enthaelt im oberen Dreieck die Matrix R # und unterhalb der Hauptdiagonale die Matrix L # uchhaltungsvektor z der Zeilenvertauschungen, # output ist input fuer das Programm lrloes_gb # Aufruf [a,z] = lr_gb(a) function [a,z] = lr_gb(a); a=a; n = length(a(,)); if (det(a) == ) disp( Matrix singulaer, lrloes_gb nicht anwendbar ); return; endif # Initialisierung eines Zeilenvertauschungsvektors for i=n z(i)=i; # Rueckspeicherung der Matrix a = a; # Elimination for j=n- # Pivotsuche apivot=abs(a(j,j)); p=j; for l=j+n if (abs(a(l,j)) > abs(apivot)) apivot=a(l,j); p=l; endif if (apivot = ) # Vertauschung der Zeilen j und p for i=n c=a(j,i); a(j,i)=a(p,i); a(p,i)=c; pp=z(j); z(j)=z(p); z(p)=pp; # Elimination for i=j+n a(i,j)=a(i,j)/a(j,j); for k=j+n a(i,k)=a(i,k)-a(i,j)*a(j,k);

13 .3 Matrixzerlegungen 35 endif z=z ; # Ende des Programms Dem uchhaltungsvektor oder Zeilenvertauschungsvektor z D.z ;z ;;z n / der Zeilenvertauschungen kann eindeutig die Matrix P als Produkt von Permutationsmatrizen durch P D.p ij / WD.ı zi j / zugeordnet werden, z.. z D 3 A A Mit dem uchhaltungsvektor kann man nun für eine gegebene rechte Seite b das Gleichungssystem Ax D b nach Abarbeitung des Programms. lösen # Programm. Loesung des linearen Gleichungssystems lr x = b # input Matrix a, enthaelt l,r und uchhaltungsvektor z # als Ergebnis von Programm lr_gb # Spaltenvektor b als rechte Seite # output Loesung x # Aufruf x = lrloes_gb(a,b,z); function [x] = lrloes_gb(a,b,z); n = length(a(,)); # Zeilenvertauschungen, erechnung von P b b=b(z); # Vorwaertseinsetzen l y = P b for i=n y(i)=b(i); for j=i- y(i)=y(i)-a(i,j)*y(j); # Zweiter Schritt r x = y x(n)=y(n)/a(n,n); for k=n-- c=y(k); for j=k+n c = c - a(k,j)*x(j); x(k)=c/a(k,k); x=x ; # Ende des Programms

14 36 Direkte Verfahren zur Lösung linearer Gleichungssysteme In den Programmierumgebungen/omputeralgebrasystemen Octave und MATLA gibt es den efehl lu.a/ zur Erzeugung einer LR-Zerlegung einer Matrix A. Mitdem Kommando ŒL P ;R D lu.a/ erhält man im Fall von durchgeführten Zeilenvertauschungen zur Pivotisierung die Faktorisierung PAD LR A D L P R; d. h., die Matrix L P ist i. Allg. keine untere Dreiecksmatrix, sondern das Produkt der Matrix P T mit der unteren Dreiecksmatrix L,dennmitP D P T folgt P T PAD P T LR H) A D P T LR; also ist L P D P T L. Auf weitere Trockenübungen sei hier verzichtet. Der Leser sollte durch aktive efassung mit den omputeralgebra-programmen Octave bzw. MATLA selbst Erfahrungen sammeln und die hier im uch angebenen Programme testen..3. holesky-zerlegung Im Fall von symmetrischen Matrizen A kann man Zerlegungen in untere und obere Dreiecksmatrizen erzeugen, die einen geringeren Aufwand als die LR-Zerlegung erfordern. I Definition. (positive Definitheit) Eine symmetrische (n n)-matrixa heißtpositiv definit, wennx T Ax >für alle x R n, x gilt. Die Überprüfung der edingung x T Ax >für alle vom Nullvektor verschiedenen x R n ist schwer handhabbar. Ein Kriterium für die positive Definitheit von A ist zum eispiel die Positivität sämtlicher Eigenwerte von A. Das folgende Kriterium beantwortet die Frage der positiven Definitheit konstruktiv. Satz.3 (holesky-zerlegung einer positiv definiten Matrix) Für jede positiv definite (n n)-matrix A existiert genau eine untere Dreiecksmatrix L mit l kk >(k D ;;n) und A D LL T Diese Zerlegung heißt holesky-zerlegung der Matrix A. Umgekehrt folgt aus der Existenz einer holesky-zerlegung die positive Definitheit von A. Für eine symmetrische (3 3)-Matrix bedeutet die holesky-zerlegung a a a 3 l l l l 3 a a a 3 A D l l A l l 3 A a 3 a 3 a 33 l 3 l 3 l 33 l 33

15 .3 Matrixzerlegungen 37 und man erhält nach der Multiplikation LL T die Gleichungen a D l H) l D p a a D l l H) l D a =l q a D l l H) l D a l a 3 D l l 3 H) l 3 D a 3 =l a 3 D l l 3 l l 3 H) l 3 D.a 3 l l 3 /=l q a 33 D l3 l 3 l 33 H) l 33 D a 33 l3 l 3 zur estimmung der Elemente von L. Für die Matrix A D A ergibt sich L D ;44 ;77 ;474 ;865 ;547 A ; also wurde die positive Definitheit durch die Konstruktion der holesky-zerlegung gezeigt. Die Gleichungen zur estimmung der l ij sind nur im Fall der positiven Definitheit von A lösbar. Dies und den Satz.3 zu beweisen, würde den Rahmen dieses uches sprengen, weshalb darauf verzichtet wird (zum eweis siehe Schwarz [997]). Das folgende Programm realisiert die holesky-zerlegung für eine gegebene (n n)-matrix A D.a ij / (es gilt offensichtlich L D R T ;L T D R). # Programm.3 holesky-zerlegung a = l l^t einer pos.def., # symm. Matrix # input Matrix a # output untere Dreiecksmatrix l # Aufruf l = chol_gb(a); function [l] = chol_gb(a); a = a; n = length(a(,)); if (testpd_gb(a) = ) disp( Matrix nicht pos. definit ); return; endif # Initialisierung von l for i=n for j=n l(i,j)=;

16 38 Direkte Verfahren zur Lösung linearer Gleichungssysteme for k=n l(k,k)=sqrt(a(k,k)); for i=k+n l(i,k) = a(i,k)/l(k,k); for j=k+i a(i,j) = a(i,j)-l(i,k)*l(j,k); # Ende des Programms # Programm.3a Test auf positive Definitheit # input Matrix a # output -> pos. def., -> nicht pos. def. # Aufruf [flag]=testpd_gb(a) function [flag]=testpd_gb(a); n = length(a(,)); flag=; temp = eig(a+a ); for i=n if(temp(i) <= ) flag = ; endif # Ende des Programms.3.3 Rechenaufwand der Zerlegungen und die Konditionszahlen der Faktoren Es ist zu erwarten, dass der Rechenaufwand bzw. die Zahl der Operationen für die holesky-zerlegung einer positiv definiten symmetrischen Matrix A geringer ist als für die LR-Zerlegung einer nicht notwendigerweise symmetrischen Matrix. Für die holesky-zerlegung sind 3 nx Xi j X Xi 4 5 D 6.n3 3n 4n/ n3 6 id j D kd kd Multiplikationen und ähnlich viele Additionen sowie n Wurzelberechnungenerforderlich. Für die LR-Zerlegung braucht man mit n3 3 etwa die doppelte Anzahl von Multiplikationen und etwa ebenso viele Additionen. Für symmetrische Matrizen kann man den Rechenaufwand für die LR-Zerlegung noch reduzieren, bleibt aber über dem Aufwand der holesky-zerlegung. Nun sollen die Konditionszahlen der Zerlegungsmatrizen bei der holesky- bzw. der LR-Zerlegung betrachtet werden. Für den Faktor L der holesky-zerlegung A D LL T

17 .4 Gleichungssysteme mit tridiagonalen Matrizen 39 gilt.l/ D.L T / D p.a/.a/ D.L/.L T /; so dass die schrittweise Lösung eines linearen Gleichungssystems Ax D b mit der holesky-zerlegung A D LL T Ly D b ; L T x D y stabil ist. Anders kann es bei der LR-Zerlegung aussehen. Zerlegt man z.. die Matrix A D 4 ohne Pivotisierung, erhält man A D 4 D D LR mit den Konditionszahlen.L/ 8 und.r/ 8. Damit werden aus einem gut konditionierten Problem mit der Matrix A (Konditionszahl.A/ ;6) zwei sehr schlecht konditionierte Problem mit den Matrizen L und R. Führt man allerdings eine Pivotisierung (d. h. einen Zeilentausch) durch, erhält man mit Q A D 4 D 4 4 D QL QR eine Zerlegung, deren Faktoren die Konditionszahlen. QL/ bzw.. QR/ ;6 haben. Da die Zeilenvertauschung die Konditionszahl nicht verändert, gilt. A/ Q D.PA/ D.A/ ;6 für P D ; so dass die LR-Zerlegung mit Pivotisierung keinerlei Stabilitätsverlust nach sich zieht..4 Gleichungssysteme mit tridiagonalen Matrizen ei der numerischen Lösung von elliptischen Differentialgleichungen oder Schrödingergleichungen sowie der Spline-Interpolation sind Gleichungssysteme mit tridiagonalen Koeffizientenmatrizen T zu lösen, also Gleichungssysteme der Art d e c d e c n d n e n c n d n D A x x x n A D b b b n A T x D b (.9)

18 4 Direkte Verfahren zur Lösung linearer Gleichungssysteme Die Vorzeichennotation in den Nebendiagonalen hat ihre Ursache in Gleichungssystemen der Art x b x D A D b A ; A x n b n die bei der numerischen Lösung von Randwertproblemen partieller Differentialgleichungen auftreten und soll deshalb hier benutzt werden. Die einzelnen Gleichungen von (.9) haben nach Division der ersten Gleichung durch d mit D e d, ˇ D b d die Form x x D ˇ c i x i d i x i e i x i D b i.i D ;;n / c n x n d n x n D b n (.) Im Folgenden führen wir den Gauß schen Algorithmus durch. Setzt man die erste Gleichung von (.) in die zweite ein, erhält man mit den Koeffizienten das Gleichungssystem D e d c ; ˇ D b c ˇ d c x D x ˇ; x x 3 D ˇ; c i x i d i x i e i x i D b i.i D 3;;n /; c n x n d n x n D b n Die Fortsetzung des Algorithmus bis zur.n /-ten Gleichung ergibt schließlich x i D ix i ˇi.i D ;;n /; x n i x n D ˇn ; (.) c n x n d n x n D b n (.) mit den rekursiv gegebenen Koeffizienten e i i D ; d i c i i Aus den Gln. (.), (.) folgt ˇi D b i c iˇi d i c i i.i D ;;n / x n D ˇn; x n D n x n ˇn mit ˇn D b n c nˇn d n c n n

19 .4 Gleichungssysteme mit tridiagonalen Matrizen 4 Insgesamt erhält man mit den durchgeführten etrachtungen die Formeln D e e i ; i D.i D ;;n /; (.3) d d i c i i ˇ D b ;ˇi D b i c i ˇi.i D ;;n/; (.4) d d i c i i x i D ix i ˇi.i D ;;n /; x n D ˇn (.5) zur rekursiven erechnung der Lösung von (.). Die konstruierte erechnungsmethode wurde in den USA und der früheren Sowjetunion entwickelt. Sie wird in der englischen Literatur Thomas-Algorithmus und in der russischen Literatur Progronki-Methode genannt, was in der deutschen Übersetzung etwa die Methode des Vertreibens bedeutet. Nachfolgend ist diese rekursive Lösungsmethode in einem Octave-Programm implementiert. Allerdings ist dabei auf eine Pivotisierung verzichtet worden, da dies sowohl bei der numerischen Lösung elliptischer Randwertprobleme als auch bei der erechnung von Splines aufgrund der Diagonaldominanz der Koeffizientenmatrizen nicht erforderlich ist. # Programm.4 zur Loesung eines tridiagonalen linearen # Gleichungssystems # -pc(k)*yps(k-)+pd(k)*yps(k)-pe(k)*yps(k+)=pf(k),k=nanf,nend # mit einer schwach diagonal dominanten Koeffizienten-Matrix # input # nanf, nend - Anfangs- bzw. Endindex # pc, pd, pe - Vektoren der Dimension l der tridiag. Matrix # pf - Vektor der rechten Seiten # pc() und pe(n) sind dummy-elemente # output # yps - Ergebnisvektor # alpha und beta sind Hilfsfelder # Aufruf yps = tridia(pc,pd,pe,pf,nanf,nend) function [yps] = tridia(pc,pd,pe,pf,nanf,nend); nendm=nend-; d=pd(nanf); c=pc(nanf+); f=pf(nanf); v=pf(nanf+); for n=nanfnendm n=n-nanf+; alpha(n+)=pe(n)/d; beta(n+)=f/d; d=pd(n+)-c*alpha(n+); f=v+c*beta(n+); c=pc(n+); v=pf(n+);

20 4 Direkte Verfahren zur Lösung linearer Gleichungssysteme n=nendm+; n=n-nanf+; alpha(n+)=pe(n)/d; beta(n+)=f/d; d=pd(n+)-c*alpha(n+); f=v+c*beta(n+); nend=nend-nanf+; kn=nend; yps(nend)=f/d; while ( n >= nanf ) km=kn-; yps(km)=alpha(n+)*yps(kn)+beta(n+); kn=kn-; n=n-; n=n-nanf+; endwhile # Ende von tridia eispiel Zur erechnung der Lösung des tridiagonalen Gleichungssystems A x x x 3 erhält man mit den Octave/MATLA-Kommandos c=[ ; ; ]; d=[ ; ; ]; e=[ ; ; ]; b=[ ; ; ]; x = tridia(c,d,e,b,,3); die Lösung x D.;5;;;5/. A D A.5 Programmpakete zur Lösung linearer Gleichungssysteme In den bisherigen Abschnitten wurden mit dem Gauß schen Algorithmus und Matrixzerlegungen Grundprinzipien der Lösung linearer Gleichungssysteme dargelegt. Diese Grundprinzipien wurden auch bei der Erstellung der leistungsfähigen Programmbibliotheken LAPAK (Linear Algebra PAKage),

21 .6 Aufgaben 43 LAS (asic Linear Algebra Subprograms), SLAP (Sparse Linear Algebra PAKage) angewendet. Diese Programmbibliotheken bzw. -pakete enthalten eine Vielzahl von FORTRAN-Programmen zur Lösung linearer Gleichungssysteme unterschiedlichster Art. Die Programme und Programmbibliotheken wurden in den USA mit Unterstützung der National Science Foundation (NS) und dem Department of Energy (DOP) sowie am Lawrence Livermoore National Laboratory (LLNL) und am Massachusetts Institiute of Technology (MIT) entwickelt. Auf den Web-Seiten http// http// http// findet man dazu neben umfangreichen Dokumentationen die Quelltexte der Programme, die man in eigenen Programmsystemen nutzen kann. In den entsprechenden Dokumentationen sind auch unterschiedliche Möglichkeiten der kompakten Speicherung von schwach besetzten Matrizen beschrieben, die Voraussetzung für die Nutzung von Routinen aus den ilbliotheken LAPAK, LAS oder SLAP sind..6 Aufgaben ) Untersuchen Sie das lineare Gleichungssystem A x x x 3 x 4 A D 5 3 A auf seine Lösbarkeit und berechnen Sie gegebenenfalls die Lösung. ) Konstruieren Sie eine LR-Zerlegung der Matrizen A D A und D A 3) Schreiben Sie ein Programm zur Erzeugung einer LR-Zerlegung einer Matrix A mit den Matrizen L (untere Dreiecksmatrix mit einer Hauptdiagonalen aus Einsen) und R obere Dreiecksmatrix als Ergebnis.

22 44 Direkte Verfahren zur Lösung linearer Gleichungssysteme 4) Schreiben Sie ein Programm zur Rangbestimmung einer Matrix A vom Typ n m; m n, d. h., erzeugen Sie mit dem Gauß schen Algorithmus ein Echolon- Schema und lesen Sie daraus den Rang der Matrix ab. Nutzen Sie dieses Programm, um zu entscheiden, ob ein lineares Gleichungsystem lösbar ist. 5) Zeigen Sie, dass für eine Permutationsmatrix P ij vom Typ n n P ij D P T ij und det.p ij / D. / ij gilt. 6) Zeigen Sie, dass die Matrizen L und R einer LR-Zerlegung bzw. holesky- Zerlegung einer andmatrix A D.a ij / vom Typ n n mit der andbreite p, d. h. einer Matrix mit andstruktur, für die a ij D gilt, falls j i p oder j i p ist a a p a A D p ; an pn A a nn p a nn auch andmatrizen mit der andbreite q bzw. p sind l L D p ; A l nn p r r p R D rn pn A r nn 7) Schreiben Sie ein Programm zur holesky-zerlegung einer tridiagonalen symmetrischen Matrix T vom Typ n n.

23 Literatur 45 Literatur Finckenstein, K. Graf Fink von Einführung in die numerische Mathematik (I/II). arl Hanser 977/78. Maes, G. Vorlesungen über numerische Mathematik (/). irkhäuser 985/88. Oevel, W. Einführung in die Numerische Mathematik. Spektrum Akademischer Verlag 996. Schwarz, H.R. Numerische Mathematik..G. Teubner 997.

24 http//