2 Lineare Gleichungssysteme

Größe: px

Ab Seite anzeigen:

Download "2 Lineare Gleichungssysteme"

Beate Brahms
vor 5 Jahren
Abrufe

1 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Lineare Gleichungssysteme Gegeben: A R n n mit det(a) b R n Gesucht: x R n mit Ax = b Zeilenäquilibrierung Möchten zunächst die Kondition des Problems verbessern Idee: Finde D R n n so dass κ(da) < κ(a) Nicht immer möglich (beachte: κ(da) κ(d) κ(a)) d Hier D = d, dh D ist Zeilenskalierung und wir suchen nun Lösung von DAx = Db dn Definition (Zeilenäquilibrierung) Diagonalmatrix D heißt Zeilenäquilibrierung : n d i a ij = i =, n j= DA = n d i := a ij j= i =,,n Fakt: Für = gilt κ(da) κ(a) und DA hat kleinste Kondition unter allen möglichen Zeilenskalierung triviales Beispiel: κ (), = 6, aber κ ([ ]) = Gauß-Elimination und LR-Zerlegung Fakt: Subtraktion einer Zeile von einer anderen ändert Ergebnis nicht, formal: Ax = b Ãx = b wobei Ã = L ij A, b = L ij b und L ij subtrahiert i-te Zeile von j-ter: L ij = - j-te Zeile i-te Spalte Stephan Trenn, TU Kaiserslautern /

2 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Etwas allgemeiner (Vielfaches von Zeile i von Zeile j abziehen): L γ ij = -γ Ziel: Erzeuge Nullen in A durch richtige L γ ij so dass Ã besonders einfache Struktur hat Konkret möchten wir: Ã = Dann lässt sich Ãx = b sehr einfach von unten nach oben lösen Beispiel 3 Ã = b = x 4 = x 4 = x 3 + x 4 = x 3 = + x 4 = x x 3 + x 4 = x = + x 3 x 4 = x + x + 3x 3 x 4 = x = x 3 x 3 + x 4 = Diese Dreiecksstruktur erhält man mit der Gauß-Elimination, Beispiel und Algorithmus Folie Abstrakte Darstellung der Gauß-Elimination: A b L l L l 3 3 L l 4 4 A b L l 3 3 L l 4 4 A L l A 3 Allgemein: A = L l 4 4 Ll 3 3 Ll A b = L b L A = L l 4 4 Ll 3 3 A L A 3 = L l A L 3 b = L b b 3 = L 3 b R = = A n = L n L n L A bzw A = (L n L n L ) R L Stephan Trenn, TU Kaiserslautern /

3 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Beobachtung: L l 4 4 Ll 3 3 Ll = -l -l 3 = L -l 4 Allgemein: L k = -l k+,k -l k+,k -l n,k und sogar (Übungsaufgabe): l (L n L n L ) = l 3 l 3 = L l n l n l n,n- Satz Falls der Gauß-Eliminationsalgorithmus nicht vorzeitig abbricht, dann findet er eine ein LR- Zerlegung von A, dh A = L R für eine untere Dreiecksmatrix L (mit Einsen auf der Diagonale) und eine obere Dreiecksmatrix R Problem: Algorithmus bricht zb ab bei A = oder ist numerisch instabil: Beispiel Exakte Lösung: Gauß-Elimination ( x x,7 A = ) ( ) 4,89 =,89,7,7 b = ( ) mit vierstelliger Genauigkeit ergibt sich, ,7 ) ( ) ( x 3,57 Lösung: = x,8 dh x stimmt überhaupt nicht obwohl κ(a) 4 bzgl = Stephan Trenn, TU Kaiserslautern 3/

4 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Zeilentausch (Pivotisierung) Gauß-Elimination,7,7 +,7 wieder mit vierstelliger Genauigkeit ) ( x Lösung: = x ( ) 4,6,6,9997, Definition (Gauß-Elimination mit Pivotisierung) Im j-ten Schritt der Gauß-Elimination tausche zunächst diejenige Zeile an die j-te Stelle, welche den betragsmäßig größten ersten Eintrag hat a jj wobei a i j = max a ij i=j,,n a i j a nj Zeilentausch entspricht Multiplikation (von links) mit einfacher Permutationsmatrix j P ij = i Satz Sei A R n n invertierbar Dann liefert Gauß-Elimination mit Pivotisierung immer Zerlegung P A = LR wobei P ein Produkt von einfachen Permutationsmatrizen ist, L =, R = Außerdem sind alle Einträge von L betragsmäßig kleiner oder gleich und insgesamt ergibt sich ein stabiler Algorithmus Stephan Trenn, TU Kaiserslautern 4/

5 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Rechenaufwand durch Pivotisierung: Spalte: n zusätzliche Vergleiche Spalte: n zusätzliche Vergleiche Insgesamt also (n )(n ) = n 3 n + zusätzliche Vergleiche vernachlässigbar gegenüber 3 n3 + Anwendungen der LR-Zerlegung ) Lösen von Ax = b Ax = b P Ax = P b LRx = P b Ly = P b und Rx = y Rechenaufwand jeweils in der Größenordnung n n 3 ) Berechnung der inversen Matrix A Löse Ax = e i i =,,n i-ter Einheitsvektor i-te Zeile Dann ist A = [x,,x n ] denn A A = I, dh 3) Berechnung der Determinante Ly i = P e i und Rx i = y i sind zu lösen für i =,,n det(p ) det(a) = det(p A) = det(lr) = det(l) det(r) = n det(a) = r ii det(p ) i= =( ) # Zeilentäusche Rechenaufwand n 3 n! für Berechnung nach Laplacschen Entwicklungssatz zb für n =,ms vs 6 Jahre auf gängigem Rechner 3 Cholesky-Zerlegung Annahme: A symmetrisch, dh A = A, A positiv definit, dh x Ax > x R n \ {} kurz: A ist spd Satz 3 Zu jeder spd Matrix existiert eine Cholesky-Zerlegung mit L = und D = d A = LDL d n mit d i > i =,,n und der auf der Folie vorgestellte Algorithmus ist stabil Stephan Trenn, TU Kaiserslautern 5/

6 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Cholesky-Zerlegung ist spezielle LR-Zerlegung, die Symmetrie von A ausnutzt Beispiel + Algorithmus Folie ACHTUNG: Auch stabile Verfahren können schlechte Ergebnisse liefern, wenn Kondition sehr schlecht: Beispiel 3 (Hilbertmatrix) / /3 /n / /3 /4 /n+ A = /3 /4 /5 /n+ /n /n+ /n+ /n ist spd, mit b = ( /n, /n+,, /n ) ergibt sich als Lösung von Ax = b x = (,,,) Für n = und Maschinengenauigkeit eps = 6 ergibt sich aber nach Cholesky-Zerlegung x mit Ursache: κ(a) 6 für n = x x x,, 4 QR-Zerlegung [ Ziel: A = QR mit Q orthogonal und R = Zunächst Vergleich mit LR-Zerlegung ] Pro: QR Zerlegung ist ia stabiler als LR-Zerlegung Contra: Rechenaufwand für QR-Zerlegung ist etwas höher als für LR-Zerlegung Definition 3 Q R n n heißt orthogonal : Q Q = I i j : q i q j (dh = q i,q j = q i q j) und i : = q i = q i, q i = q i q i, wobei Q = [q,q,,q n ] Satz 4 (Eigenschaften orthogonaler Matrizen) Sei Q R n n orthogonal, dann gilt: Q = Q ist selbst orthogonal Qx = x x R n, insbesondere Q = κ(q) = bezüglich und κ(qa) = κ(aq) = κ(a) A R n n Q Q ist orthogonal Q orthogonal Für QR-Zerlegung A = QR gilt also κ(a) = κ(r) und Ax = b R x = Q b Wichtige orthogonale Matrizen: Permutationen (Produkt von einfachen Permutationen wie in Abschnitt ) Stephan Trenn, TU Kaiserslautern 6/

7 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Drehungen Q ϕ x ϕ x cos ϕ sin ϕ Q ϕ = sin ϕ cos ϕ im R bzw im R n Q ϕ = cos ϕ sin ϕ sin ϕ cos ϕ Spiegelungen Q v x H v x Q v = I v v v v im R n wobei v der Normalenvektor der Spiegel-Hyperebene ist Givens-Rotation Idee: Finde Rotation Q ϕ = cos ϕ sin ϕ sin ϕ cos ϕ im R so dass ( ) a Q ϕ = b ( ) r Stephan Trenn, TU Kaiserslautern 7/

8 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 dann gilt cos ϕ sin ϕ sin ϕ cos ϕ a r = b dh mit einer solchen Rotation kann man eine Null in Matrix an beliebiger Stelle unter der Diagonale erzeugen ( ) a Gegeben: R b \ {} cos ϕ sin ϕ Gesucht: ϕ [,π) mit sin ϕ cos ϕ Givens-Matrix Fakt: c,s R [ c s ( ) a = b ( ) r ] cos ϕ sin ϕ ϕ [,π) : = s c sin ϕ cos ϕ Lösung für gesuchte Givens-Matrix c s s c : r := ± a + b für ein r c + s = c := a r s := b r Probe: c + s = a r + b r = a + b a + b = ( ) a c s a = r + b r s c b ba r + ab = r Bemerkung: Wir brauchen an keiner Stelle den Winkel ϕ Givens-Rotation Beispiel Folie Allgemein: r r = ( ) r Durch geeignete G ik werden nacheinander Nullen erzeugt bis G in k N G in k N G i k A = Stephan Trenn, TU Kaiserslautern 8/

9 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 wobei i > k und G ik = c ik s ik s ik c ik k i Wegen s ik = ± c ik genügt eine Zahl um G ik zu charakterisieren (wichtig bei Implementierung und Speicherverwaltung) Householder-Reflexion Idee: Zu y R n finde Hyperebene ) H v (durch Normalenvektor v R n gegeben) so dass y gespiegelt an H v ein Vielfaches von e = ( Q v y = ergibt, dh (I v ) v v y =! γe v γ R Wegen Q v y = y und γe = γ e = γ muss γ = ± y gelten Dann ließe sich A in obere Dreiecksform wie folgt überführen: a Q v A = =: a A, wobei Q v = Rn a n a A = =: A a 3, wobei Q Q v v = Rn a n a 33 A = =: A 3 a 43, wobei Q v3 Q v3 = Rn a n3 Stephan Trenn, TU Kaiserslautern 9/

10 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Wie wählt man v in Q v = I v v v v? Qvy = γe y v v v v y = γe v v y v = y γe }{{ v } α Es gilt Q αv = Q v α R \ {}, also kann der skalare Faktor α ignoriert werden: y ± y y v = y γe = y ± y e = y n Um Auslöschung zu vermeiden setzt man Beispiel Folie 4 Zusammenfassung v = y + sign(y ) y e sign(x) = {, x, x < Ax = b Anwendungen von Zeilenoperationen Z,Z,,Z N : Z N Z N Z A x = Z N Z b R= LR-Zerlegung (Gauß-Eliminationen) Z i = -l i+,i -l n,i + Permutationen Resultat: P A = L R Cholesky-Zerlegung für spd-matrizen A = LDL mit L = D = d d n Stephan Trenn, TU Kaiserslautern /

11 Vorlesungsskript HM-Numerik (SS 4): Kapitel Version: 9 Mai 4 Givens-Rotation Z i = c i s i s i c i Resultat: A= Q R orthogonal Householder-Reflexion Resultat: A= Q R Z i = I v v v v orthogonal Stephan Trenn, TU Kaiserslautern /

Ähnliche Dokumente

Kapitel 2: Lineare Gleichungssysteme

Vorlesung Höhere Mathematik: Numerik (für Ingenieure) Kapitel 2: Lineare Gleichungssysteme Jun.-Prof. Dr. Stephan Trenn AG Technomathematik, TU Kaiserslautern Sommersemester 205 HM: Numerik (SS 205), Kapitel