Begleitmaterial zur Vorlesung Numerik linearer Gleichungssysteme

Ähnliche Dokumente
3. Lineare Gleichungssysteme

Begleitmaterial zur Vorlesung Numerik I

Iterative Verfahren, Splittingmethoden

7. Iterative Lösung. linearer Gleichungssysteme

Kapitel 2: Lineare Gleichungssysteme. 2.1 Motivation: Bildverarbeitung Sei B = (B(n, m)) ein N M stochastisches Feld mit ZVen

Kapitel 2: Lineare Gleichungssysteme. 2.1 Motivation: Bildverarbeitung Sei B = (B(n, m)) ein N M stochastisches Feld mit ZVen

Institut für Numerische Simulation der Universität Bonn Prof. Dr. Mario Bebendorf

Numerische Lineare Algebra

Numerische Mathematik für Ingenieure (SoSe 2013)

Wiederholung von Linearer Algebra und Differentialrechnung im R n

Lineare Iterationsverfahren: Definitionen

2 Lineare Gleichungssysteme

38 Iterative Verfahren für lineare Gleichungssysteme

Lineare Gleichungssysteme

2. Dezember Lineare Algebra II. Christian Ebert & Fritz Hamm. Skalarprodukt, Norm, Metrik. Matrizen. Lineare Abbildungen

37 Gauß-Algorithmus und lineare Gleichungssysteme

Kapitel 2: Lineare Gleichungssysteme

Erweiterungen der LR-Zerlegung

Spezielle Matrixformen

Numerische Mathematik für Ingenieure und Physiker

Ausgewählte Lösungen zu den Übungsblättern 4-5

Iterative Verfahren zur Lösung von Linearen Gleichungssystemen

Mathematik II für Studierende der Informatik. Wirtschaftsinformatik (Analysis und lineare Algebra) im Sommersemester 2016

Inexakte Newton Verfahren

Kapitel 5 Iterative Verfahren für LGS

Der CG-Algorithmus (Zusammenfassung)

7.2 Die adjungierte Abbildung

3.3 Skalarprodukte 3.3. SKALARPRODUKTE 153

9 Vektorräume mit Skalarprodukt

Numerische Lineare Algebra

Euklidische und unitäre Vektorräume

Vorkonditionierer. diskrete stationäre Eulergleichungen

1 Zum Aufwärmen. 1.1 Notationen. 1.2 Lineare Abbildungen und Matrizen. 1.3 Darstellungsmatrizen

Lineare Algebra II 8. Übungsblatt

Lineare Gleichungssysteme

d) Produkte orthogonaler Matrizen sind wieder orthogonal.

Orthogonale Matrix. Definition 4.19

Methode der kleinsten Quadrate

Klausur zur Mathematik II (Modul: Lineare Algebra II)

6 Hauptachsentransformation

4.3 Bilinearformen. 312 LinAlg II Version Juni 2006 c Rudolf Scharlau

3 Lineare Algebra Vektorräume

Lineare Ausgleichsprobleme. Jetzt: Lösung überbestimmter linearer GS, d.h. mehr Gleichungen als Unbekannte

Prof. Dr. L. Diening Dipl. Math. S. Schwarzacher Dipl. Math. C. Warmt. Klausur. Numerik WS 2010/11

Lösung zu Serie 18. Lineare Algebra D-MATH, HS Prof. Richard Pink

Hauptachsentransformation: Eigenwerte und Eigenvektoren

Mathematik I. Vorlesung 12. Lineare Abbildungen

Das CG-Verfahren. Sven Wetterauer

Aussagenlogik. Lehrstuhl für BWL, insb. Mathematik und Statistik Prof. Dr. Michael Merz Mathematik für Betriebswirte I Wintersemester 2012/2013

Numerisches Rechnen. (für Informatiker) M. Grepl P. Esser & G. Welper & L. Zhang. Institut für Geometrie und Praktische Mathematik RWTH Aachen

Aussagenlogik. 1. Gegeben seien folgende Aussagen: A: 7 ist eine ungerade Zahl. C: 2 ist eine Primzahl D: 7 7. F: 3 ist Teiler von 9

Lineare Gleichungssysteme Hierarchische Matrizen

NUMERISCHE MATHEMATIK I

a b Q = b a 0 ) existiert ein Element p Q, so dass gilt: q 1 q 2 = 2 b 1 b 2 a 1 b 2 a 2 b 1 a 1 a 2 b 1 b 2 a 1 b 2 a 2 b 1 a b p = 1 det(q) C 2 2,

Eigenwerte. Vorlesung Computergestützte Mathematik zur Linearen Algebra. Lehrstuhl für Angewandte Mathematik Sommersemester 2009

12 Lineare Algebra - Übersicht. Themen: Unterräume Lineare Abbbildungen Gauß-Algorithmus Eigenwerte und Normalformen

Glättung durch iterative Verfahren

y (k) (0) = y (k) y(z) = c 1 e αz + c 2 e βz. c 1 + c 2 = y 0 k=1 k=1,...,m y k f k (x)

Zeigen Sie, dass der einzige Gruppenhomomorphismus von (G, ) nach (Z 5, +) die Abbildung Φ : G Z 5

Konvergenz des Jacobi- und Gauß-Seidel-Verfahrens

9 Lineare Gleichungssysteme

1 Transponieren, Diagonal- und Dreiecksmatrizen

Übungen zum Ferienkurs Lineare Algebra WS 14/15

13 Partielle Ableitung und Richtungsableitung

Lineare Algebra. 10. Übungsstunde. Steven Battilana.

Einführung in die numerische Mathematik

Eigenwerte und Diagonalisierung

Lineare Algebra und Numerische Mathematik für D-BAUG

Lösungsskizzen zur Klausur

3.6 Approximationstheorie

Rückblick auf die letzte Vorlesung. Bemerkung

1 Matrizenrechnung zweiter Teil

7. Übungs-/Wiederholungsblatt zu Einführung in die Numerik (SS 2012)

Modulprüfung Numerische Mathematik 1

Lösungsskizzen der Klausur zur Linearen Algebra im Herbst 2015

KLAUSUR zur Numerik I mit Lösungen. Aufgabe 1: (10 Punkte) [ wahr falsch ] 1. Die maximale Ordnung einer s-stufigen Quadraturformel ist s 2.

8. Vorlesung, 5. April Numerische Methoden I. Eigenwerte und Eigenvektoren

Ausgewählte Lösungen zu den Übungsblättern 9-10

Lösungen zu den Hausaufgaben zur Analysis II

2 Die Dimension eines Vektorraums

Höhere Mathematik für die Fachrichtung Physik

3 Matrizenrechnung. 3. November

4 Lineare Abbildungen und Matrizen

Kap 5: Rang, Koordinatentransformationen

Lineare Gleichungssysteme

Kapitel 3 Lineare Algebra

Parallelrechnern. 12. März Technische Universität Chemnitz. Der Jacobi-Davidson Algorithmus auf. Parallelrechnern. Patrick Kürschner.

Mathematik für Ingenieure 1

Lineare Algebra für D-ITET, D-MATL, RW. Beispiellösung für Serie 10. Aufgabe ETH Zürich D-MATH. Herbstsemester Dr. V. Gradinaru D.

51 Numerische Berechnung von Eigenwerten und Eigenvektoren

(d) das zu Grunde liegende Problem gut konditioniert ist.

05. Lineare Gleichungssysteme

Mathematik II für Studierende der Informatik. Wirtschaftsinformatik (Analysis und lineare Algebra) im Sommersemester 2016

Mathematische Grundlagen

Lineare Algebra. 5. Übungsstunde. Steven Battilana. battilana.uk/teaching

Vortrag 20: Kurze Vektoren in Gittern

Technische Universität München

47 Singulärwertzerlegung

Transkript:

Begleitmaterial zur Vorlesung Numerik linearer Gleichungssysteme Andreas Meister Universität Kassel, AG Analysis und Angewandte Mathematik Andreas Meister (Universität Kassel) Begleitmaterial Numerik 1 / 74

Mehrgitterverfahren SOR-Verfahren Abbildung: Spektralradius in Abhängigkeit vom Relaxationsparameter Andreas Meister (Universität Kassel) Begleitmaterial Numerik 2 / 74

Mehrgitterverfahren SOR-Verfahren SOR-Gauß-Seidel-Verfahren m x m,1 x m,2 ε m := x m A 1 b ε m/ε m 1 0 2.100000e+01-1.900000e+01 2.000000e+01 5 9.987226e-01 9.997003e-01 1.277401e-03 8.134709e-02 10 1.000000e-00 1.000000e-00 2.942099e-09 7.205638e-02 15 1.000000e-00 1.000000e-00 4.884981e-15 6.727829e-02 Andreas Meister (Universität Kassel) Begleitmaterial Numerik 3 / 74

Mehrgitterverfahren Modellproblem Abbildung: Eigenwertverteilung des Jacobi-Verfahrens (ω = 1 2 ) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 4 / 74

Mehrgitterverfahren Modellproblem Abbildung: Eigenwertverteilung des Jacobi-Relaxationsverfahrens Andreas Meister (Universität Kassel) Begleitmaterial Numerik 5 / 74

Mehrgitterverfahren Modellproblem Abbildung: Dämpfung der Fourier-Moden beim gedämpften Jacobi-Verfahren Andreas Meister (Universität Kassel) Begleitmaterial Numerik 6 / 74

Mehrgitterverfahren Modellproblem Abbildung: Entwicklung des Fehlers beim gedämpften Jacobi-Verfahren Andreas Meister (Universität Kassel) Begleitmaterial Numerik 7 / 74

Mehrgitterverfahren Modellproblem Abbildung: Wirkung der Injektion (Mitte) und der linearen Restriktion (rechts) auf die Moden (links) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 8 / 74

Mehrgitterverfahren Modellproblem Abbildung: Wirkung der Injektion (Mitte) und der linearen Restriktion (rechts) auf die Moden (links) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 9 / 74

Mehrgitterverfahren Modellproblem Abbildung: Wirkung der Injektion (Mitte) und der linearen Restriktion (rechts) auf die Moden (links) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 10 / 74

Mehrgitterverfahren Modellproblem Abbildung: Wirkung der Injektion (Mitte) und der linearen Restriktion (rechts) auf die Moden (links) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 11 / 74

Mehrgitterverfahren Modellproblem Abbildung: Wirkung der Injektion (Mitte) und der linearen Restriktion (rechts) auf die Moden (links) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 12 / 74

Mehrgitterverfahren Modellproblem Abbildung: Darstellung der skalierten Mode ẽ 3,1 (links), der skalierten Mode ẽ 2,1 unter der linearen Prolongation (mittig), sowie der Differenz f = ẽ 3,1 P 3 2ẽ2,1 (rechts) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 13 / 74

Mehrgitterverfahren Definition 1.8: (Buch Definition 4.50) Sei u l j eine Näherungslösung der Gleichung A l u l = f l, dann heißt die Methode = φ GGK l (u l j, f l) mit φ GGK l u l,neu j Grobgitterkorrekturverfahren. ( u l j, f l) = u l j P l l 1 A 1 l 1 Rl 1 l (A l u l j f l) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 14 / 74

Mehrgitterverfahren Lemma 1.9: (Buch Lemma 4.51) Die Grobgitterkorrekturmethode φ GGK l Iterationsverfahren mit stellt ein lineares konsistentes M GGK l = I P l l 1 A 1 l 1 Rl 1 l A l und dar. N GGK l = P l l 1 A 1 l 1 Rl 1 l Andreas Meister (Universität Kassel) Begleitmaterial Numerik 15 / 74

Mehrgitterverfahren Modellproblem Abbildung: Darstellung der Fourier-Moden e 3,l, l = 1, 4 (links) sowie die Bilder der zugehörigen Grobgitterkorrektur gemäß Ψ GGK l (rechts) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 16 / 74

Mehrgitterverfahren Modellproblem Abbildung: Darstellung der Fourier-Moden e 3,l, l = 8, 12 (links) sowie die Bilder der zugehörigen Grobgitterkorrektur gemäß Ψ GGK l (rechts) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 17 / 74

Mehrgitterverfahren Modellproblem Abbildung: Darstellung der Fourier-Mode e 3,l, l = 15 (links) sowie das Bild der zugehörigen Grobgitterkorrektur gemäß Ψ GGK l (rechts) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 18 / 74

Mehrgitterverfahren Lemma 1.13: (Buch Lemma 4.55) Sind φ, ψ zwei lineare Iterationsverfahren mit den Iterationsmatrizen M φ und M ψ, dann gilt: 1 Sind φ und ψ konsistent, dann ist auch die Produktiteration φ ψ konsistent. 2 Die Iterationsmatrix der Produktiteration φ ψ hat die Form M φ ψ = M φ M ψ. 3 Die beiden Produktiterationen φ ψ und ψ φ besitzen die gleichen Konvergenzeigenschaften im Sinne von ρ(m φ ψ ) = ρ(m ψ φ ). Andreas Meister (Universität Kassel) Begleitmaterial Numerik 19 / 74

Mehrgitterverfahren Satz 1.14: (Buch Satz 4.56) Sei φ l ein konsistentes Iterationsverfahren mit Iterationsmatrix M l, dann ist das Zweigitteriterationsverfahren φ ZGM(ν 1,ν 2 ) l konsistent mit der Iterationsmatrix ( ) M ZGM(ν 1,ν 2 ) l = M ν 2 l I P l l 1 A 1 l 1 Rl 1 l A l M ν 1 l. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 20 / 74

Algorithmus - Zweigitterverfahren φ ZGM(ν 1,ν 2 ) l Nassi-Diagramm (Buch Seite 116) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 21 / 74

Zweigitterverfahren Modellproblem Abbildung: Entwicklung des Fehlers beim Zweigitterverfahren auf Ω 3 mit zwei Glättungsschritten und einer anschließenden Grobgitterkorrektur Andreas Meister (Universität Kassel) Begleitmaterial Numerik 22 / 74

Algorithmus - Mehrgitterverfahren φ MGM(ν 1,ν 2 ) l Nassi-Diagramm (Buch Seite 117) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 23 / 74

Mehrgitterverfahren V-Zyklus γ = 1, l = 3 (Buch Seite 138) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 24 / 74

Mehrgitterverfahren W-Zyklus γ = 2, l = 3 (Buch Seite 138) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 25 / 74

Mehrgitterverfahren Modellproblem Abbildung: Entwicklung der Lösung (links) und des Fehlers (rechts) beim Mehrgitterverfahren mit linearer Restriktion und Prolongation mittels V-Zyklus (oben) und W-Zyklus (unten) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 26 / 74

Mehrgitterverfahren Rechenzeitvergleich Rechenzeitvergleich Gitter Anzahl der Mehrgitterverfahren Klassisches Unbekannten Jacobi-Verfahren Ω 2 7 100 % 117 % Ω 4 31 100 % 838 % Ω 6 127 100 % 9255 % Ω 8 511 100 % 128161 % Andreas Meister (Universität Kassel) Begleitmaterial Numerik 27 / 74

Vollständiges Mehrgitterverfahren V-Zyklus γ = 2, l = 2 (Buch Seite 119) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 28 / 74

Mehrgitterverfahren Modellproblem Abbildung: Entwicklung der Lösung (links) und des Fehlers (rechts) beim vollständigen Mehrgitterverfahren mit linearer Restriktion und Prolongation mittels V-Zyklus (oben) und W-Zyklus (unten) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 29 / 74

Projektionsmethoden Definition 2.1: (Buch Definition 4.58) Eine Projektionsmethode zur Lösung der Gleichung (2.1) ist ein Verfahren zur Berechnung von Näherungslösungen x m x 0 + K m unter Berücksichtigung der Bedingung (b Ax m ) L m, wobei x 0 R n beliebig ist und K m sowie L m m-dimensionale Unterräume des R n repräsentieren. Gilt K m = L m, so sprechen wir von einer orthogonalen Projektionsmethode. Für K m L m liegt sprechen wir von einer schiefen Projektionsmethode. Der Vektor r m = b Ax m heißt Residuenvektor. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 30 / 74

Krylov-Unterraum-Verfahren Definition 2.2: (Buch Definition 4.60) Eine Krylov-Unterraum-Methode ist eine Projektionsmethode, bei der K m den Krylov-Unterraum } K m = K m (A, r 0 ) = span {r 0, Ar 0,..., A m 1 r 0 mit r 0 = b Ax 0 darstellt. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 31 / 74

Projektionsverfahren Verfahren des steilsten Abstiegs (Buch Seite 149) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 32 / 74

Projektionsverfahren Beispiel 2.6: (Buch Seite 152) Abbildung: Konvergenzverlauf Andreas Meister (Universität Kassel) Begleitmaterial Numerik 33 / 74

Projektionsverfahren Beispiel 2.6: (Buch Seite 152) Abbildung: Höhenlinien zu F (x) = 1 2 (Ax, x) (b, x) = x 2 1 + 5x 2 2 Andreas Meister (Universität Kassel) Begleitmaterial Numerik 34 / 74

Projektionsverfahren Verfahren der konjugierten Richtungen (Buch Seite 156) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 35 / 74

Projektionsverfahren Zusammenhänge (Buch Seite 157) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 36 / 74

Projektionsverfahren Vorläufiges CG-Verfahren (Buch Seite 157) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 37 / 74

Projektionsmethoden Satz 2.14: (Buch Satz 4.75) Vorausgesetzt, das vorläufige CG-Verfahren bricht nicht vor der Berechnung von p k für k > 0 ab, dann gilt (a) p m ist konjugiert zu allen p j mit 0 j < m k, (b) U m+1 := span {p 0,..., p m } = span {r 0,..., r m } mit dim U m+1 = m + 1 für m = 0,..., k 1, (c) r m U m für m = 1,..., k, (d) x k = A 1 b r k = 0 p k = 0, (e) U m+1 = span { r 0,..., A m r 0 } für m = 0,..., k 1, (f) r m ist konjugiert zu allen p j mit 0 j < m 1 < k 1. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 38 / 74

Projektionsverfahren CG-Verfahren (Buch Seite 160) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 39 / 74

Projektionsverfahren Beispiel 2.15(a): (Buch Beispiel 4.76) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 40 / 74

Projektionsverfahren Beispiel 2.15: (Buch Beispiel 4.77) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 41 / 74

Projektionsmethoden Satz 2.17: (Buch Satz 4.78) Seien A R n n symmetrisch, positiv definit und {x m } m N0 die durch das Verfahren der konjugierten Gradienten erzeugte Folge von Näherungslösungen. Dann erfüllt der zu x m korrespondierende Fehlervektor e m = x m A 1 b die Ungleichung e m A 2 ( cond2 (A) 1 cond2 (A) + 1) m e 0 A. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 42 / 74

Krylov-Unterraum-Verfahren Arnoldi-Algorithmus (Buch Seite 166) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 43 / 74

Krylov-Unterraum-Verfahren Satz 2.18: (Buch Satz 4.79) Vorausgesetzt, der Arnoldi-Algorithmus bricht nicht vor der Berechnung von v m 0 ab, dann stellt V j = {v 1,..., v j } eine Orthonormalbasis des j-ten Krylov-Unterraums K j für j = 1,..., m dar. Satz 2.19: (Buch Satz 4.80) Vorausgesetzt, der Arnoldi-Algorithmus bricht nicht vor der Berechnung von v m 0 ab, dann erhalten wir unter Verwendung von V m = (v 1... v m ) R n m mit H m := V T mav m R m m eine obere Hessenbergmatrix, für die { hij aus dem Arnoldi-Algorithmus für i j + 1, (H m ) ij = 0 für i > j + 1 gilt. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 44 / 74

Krylov-Unterraum-Verfahren Satz 2.20: (Buch Satz 4.81) Vorausgesetzt, der Arnoldi-Algorithmus bricht nicht vor der Berechnung von v m+1 ab, dann gilt wobei H m R (m+1) m durch ( H m = gegeben ist. AV m = V m+1 H m, H m 0... 0 h m+1,m ) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 45 / 74

Krylov-Unterraum-Verfahren FOM (Buch Seite 168) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 46 / 74

Krylov-Unterraum-Verfahren Restarted FOM (Buch Seite 169) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 47 / 74

Krylov-Unterraum-Verfahren Lemma 2.23: (Buch Lemma 4.88) Es sei vorausgesetzt, dass der Arnoldi-Algorithmus nicht vor der Berechnung von v m+1 abbricht und die Matrizen G i+1,i R (m+1) (m+1) für i = 1,..., m durch 1... 1 G i+1,i := c i s i s i c i 1... 1 gegeben sind, wobei c i und s i gemäß c i := a b und s i := a2 + b 2 a2 + b 2 Andreas Meister (Universität Kassel) Begleitmaterial Numerik 48 / 74

Krylov-Unterraum-Verfahren Lemma 2.23: (Buch Lemma 4.88) mit a := ( G i,i 1... G 3,2 G 2,1 H m )i,i und b := ( G i,i 1... G 3,2 G 2,1 H m )i+1,i definiert sind. Dann stellt Q m := G m+1,m... G 2,1 eine orthogonale Matrix dar, für die Q m H m = R m mit r 11...... r 1m. 0... ( ) R m =....... Rm. =: R (m+1) m 0... 0.... r mm 0...... 0 gilt und R m regulär ist. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 49 / 74

Krylov-Unterraum-Verfahren GMRES (Buch Seite 186) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 50 / 74

Krylov-Unterraum-Verfahren Satz 2.24: (Buch Satz 4.89) Seien A R n n eine reguläre Matrix sowie h j+1,j und w j durch den Arnoldi-Algorithmus gegeben und gelte j < n. Dann sind die folgenden Aussagen äquivalent: 1 Für die Folge der Krylov-Unterräume gilt K 1 K 2... K j = K j+1 =.... 2 Das GMRES-Verfahren liefert im j-ten Schritt die exakte Lösung. 3 w j = 0 R n. 4 h j+1,j = 0. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 51 / 74

Krylov-Unterraum-Verfahren Restarted GMRES (Buch Seite 190) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 52 / 74

Krylov-Unterraum-Verfahren Satz 2.25: (Buch Satz 4.90) Sei A R n n positiv definit und r m der im GMRES-Verfahren ermittelte m-te Residuenvektor, dann konvergiert das GMRES-Verfahren, und es gilt ( ) λ 2 A T m +A 2 min 2 r m 2 1 ) r 0 2. λ max (A T A Korollar 2.26: (Buch Korollar 4.91) Sei A R n n positiv definit und symmetrisch. Zudem sei r m der im GMRES-Verfahren ermittelte m-te Residuenvektor, dann konvergiert das GMRES-Verfahren und es gilt ( ) cond 2 m 2 r m 2 (A) 1 2 cond 2 2 (A) r 0 2. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 53 / 74

Krylov-Unterraum-Verfahren Satz 2.27: (Buch Satz 4.92) Sei A R n n positiv definit, dann konvergiert das GMRES(m)-Verfahren für m 1. Satz 2.28: (Buch Satz 4.93) Sei A R n n regulär und symmetrisch, dann konvergiert das GMRES(m)-Verfahren für m 2. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 54 / 74

Krylov-Unterraum-Verfahren Lanczos-Algorithmus (Buch Seite 171) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 55 / 74

Krylov-Unterraum-Verfahren D-Lanczos-Verfahren (Buch Seite 173) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 56 / 74

Krylov-Unterraum-Verfahren Definition 2.29: (Buch Definition 4.82) Seien v 1,..., v m, w 1,..., w m R n, dann heißen die beiden Mengen {v 1,..., v m } und {w 1,..., w m } bi-orthogonal, wenn ( v i, w j ) 2 = δ ijc ij mit c ij R\{0} für i, j = 1,..., m gilt. Im Fall c ii = 1 für i = 1,..., m heißen die Mengen bi-orthonormal. Lemma 2.30: (Buch Lemma 4.83) Seien die Mengen {v 1,..., v m } und {w 1,..., w m } bi-orthogonal, dann gilt dim span {v 1,..., v m } = m = dim span {w 1,..., w m } Andreas Meister (Universität Kassel) Begleitmaterial Numerik 57 / 74

Krylov-Unterraum-Verfahren Bi-Lanczos-Algorithmus (Buch Seite 175) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 58 / 74

Krylov-Unterraum-Verfahren Satz 2.31: (Buch Satz 4.84) Vorausgesetzt, der Bi-Lanczos-Algorithmus bricht nicht vor der Berechnung von w m 0 ab, dann stellen V j = { } v 1,..., v j und W j = { } w 1,..., w j eine Basis des Krylov-Unterraums Kj beziehungsweise Kj T für j = 1,..., m dar. Zudem erfüllen die Basisvektoren die Bi-Orthogonalitätsbedingung mit c ii = 1 für i = 1,..., m. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 59 / 74

Krylov-Unterraum-Verfahren Satz 2.32: (Buch Satz 4.85) Vorausgesetzt, der Bi-Lanczos-Algorithmus bricht nicht vor der Berechnung von w m 0 ab, dann seien V m = (v 1... v m ) R n m und W m = (w 1... w m ) R n m die aus den ermittelten Basisvektoren des K m und K T m gebildeten Matrizen. Desweiteren seien h ij die im Algorithmus auftretenden skalaren Größen, dann gelten die Gleichungen T m = W T mav m AV m = V m T m + h m+1,m v m+1 e T m A T W m = W m T T m + h m,m+1 w m+1 e T m mit e m = (0,..., 0, 1) T R m sowie der durch { hij für j 1 i j + 1, (T m ) ij := 0 sonst gegebenen Tridiagonalmatrix T m R m m und die Matrizen V m und W m besitzen maximalen Rang. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 60 / 74

Krylov-Unterraum-Verfahren Satz 2.33: (Buch Satz 4.94) Vorausgesetzt, der Bi-Lanczos-Algorithmus bricht nicht vor der Berechnung von v m 0 ab, und die in Satz 2.32 definierte Tridiagonalmatrix T m ist regulär, dann stellt x m = x 0 + V m T 1 m ( r 0 2 e 1 ) x 0 + K m mit e 1 = (1, 0,..., 0) T R m die eindeutig bestimmte Lösung der auf der Petrov-Galerkin-Bedingung b Ax m K T m basierenden Krylov-Unterraum-Methode dar. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 61 / 74

Krylov-Unterraum-Verfahren BiCG-Verfahren (Buch Seite 198) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 62 / 74

Krylov-Unterraum-Verfahren Lemma 2.34: (Buch Lemma 4.95) Vorausgesetzt, der BiCG-Algorithmus bricht nicht vor der Berechnung von p m ab, dann gilt für j = 0,..., m r j = p j = j+1 j+1 γ i v i, r j = γi w i, i=1 i=1 j+1 j+1 λ i v i, p j = λ i w i i=1 i=1 mit γ j+1, γj+1, λ j+1, λ j+1 0 und den aus dem Bi-Lanczos-Algorithmus resultierenden bi-orthonormalen Vektoren v 1,..., v j+1 und w 1,..., w j+1. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 63 / 74

Krylov-Unterraum-Verfahren Lemma 2.35: (Buch Lemma 4.96) Vorausgesetzt, der BiCG-Algorithmus bricht nicht vor der Berechnung von p m+1 ab, dann gilt ( r j, r ) i = 0 für i j m + 1, 2 ( Apj, p ) i = 0 für i j m + 1. Satz 2.36: (Buch Satz 4.97) 2 Unter der Voraussetzung, daß der BiCG-Algorithmus nicht vor der Berechnung von r m abbricht, stellt x m die Lösung des Problems mit x x 0 + K m dar. b Ax K T m Andreas Meister (Universität Kassel) Begleitmaterial Numerik 64 / 74

Krylov-Unterraum-Verfahren CGS-Verfahren (Buch Seite 204) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 65 / 74

Krylov-Unterraum-Verfahren BiCGSTAB-Verfahren (Buch Seite 208) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 66 / 74

Krylov-Unterraum-Verfahren Konvergenzverläufe (Buch Seite 223) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 67 / 74

Präkonditionierung Definition 3.2: (Buch Definition 5.9) Sei durch x j+1 = Mx j + Nb eine Splitting-Methode zur Lösung von Ax = b mit einer regulären Matrix N gegeben, dann heißt P = N der zur Splitting-Methode assoziierte Präkonditionierer. Splitting-Methode Jacobi-Verfahren Gauß-Seidel-Verf. SOR-Verfahren Symm. G.-S.-Verf. SSOR-Verfahren Assoziierter Präkonditionierer P Jac = D 1 P GS = (D + L) 1 P GS (ω) = ω (D + ωl) 1 P SGS = (D + R) 1 D (D + L) 1 P SGS (ω) = ω(2 ω) (D + ωr) 1 D (D + ωl) 1 Andreas Meister (Universität Kassel) Begleitmaterial Numerik 68 / 74

Präkonditionierung Definition 3.3: (Buch Definition 5.10) Jede Menge M {(i, j) i, j {1,..., n}} heißt Matrixmuster im Raum R n n. Zu gegebenem Matrixmuster M heißt M S (j) := {i (i, j) M} das zu M gehörige j-te Spaltenmuster und M Z (j) := {i (j, i) M} das zu M gehörige j-te Zeilenmuster. Zu gegebener Matrix A R n n bezeichnet M A := { (i, j) a ij 0 } die Besetzungsstruktur von A. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 69 / 74

Präkonditionierung Definition 3.4: (Buch Definition 5.11) Sei A R n n. Die Zerlegung A = LU + F ( ) existiere unter den Bedingungen 1 u ii = 1 für i = 1,..., n, 2 l ij = u ij = 0, falls (i, j) M A, 3 (LU) ij = a ij, falls (i, j) M A, und es seien L = (l ij ) i,j=1,...,n und U = (u ij ) i,j=1,...,n eine reguläre linke untere beziehungsweise rechte obere Dreiecksmatrix, dann heißt ( ) unvollständige LU-Zerlegung (incomplete LU, ILU) der Matrix A zum Muster M A. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 70 / 74

Präkonditionierung Unvollständige LU-Zerlegung (Buch Seite 217) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 71 / 74

Präkonditionierung Definition 3.5: (Buch Definition 5.12) Es sei A = LU + F eine unvollständige LU-Zerlegung der Matrix A, dann ist P := U 1 L 1 der zugehörige ILU-Präkonditionierer. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 72 / 74

Präkonditionierung Definition 3.6: (Buch Definition 5.13) Sei A R n n symmetrisch und positiv definit. Die Zerlegung A = LL T + F ( ) existiere unter den Bedingungen 1 l ij = 0, falls (i, j) M A, 2 (LL T ) ij = a ij, falls (i, j) M A, und es sei L = (l ij ) i,j=1,...,n eine reguläre linke untere Dreiecksmatrix, dann heißt ( ) unvollständige Cholesky-Zerlegung (incomplete Cholesky, IC) der Matrix A zum Muster M A. Andreas Meister (Universität Kassel) Begleitmaterial Numerik 73 / 74

Präkonditionierung Unvollständige Cholesky-Zerlegung (Buch Seite 219) Andreas Meister (Universität Kassel) Begleitmaterial Numerik 74 / 74