Numerik Kompakt. Inhaltsverzeichnis

Transkript

1 Numerk Kompakt Zusammenfassung zum Skrpt Grundlagen der Numerk von Prof. Schneder Inhaltsverzechns 1 Lneare Glechungssysteme Problemstellung Gestaffelte Glechungssysteme, Dreecksmatrzen Gauß-Elmnaton Dreeckszerlegung Matrzen spezeller Struktur Fehlertheore Fehlerarten Absolute/relatve Fehler, Normen Kondton enes Problems Zahldarstellung, Maschnenzahlen, Gletkommaarthmetk Interpolaton und Numersche Integraton Polynomnterpolaton Hornerschema Splnes Quadratur (Numersche Integraton) Nchtlneare Glechungssysteme Fxpunktsätze / Sukzessve Substtuton Newton-Verfahren Lneare Glechungssysteme II Iteratve Lösung lnearer Glechungssysteme De QR-Zerlegung Sngulärwerte und de Pseudonverse ener Matrx Enthält nur de für das Übungsprogramm (SS 2008) relevanten Tele! Velen Dank für de Hlfe an: Benjamn, Domnc, Nadja, Sebastan, Manuel. Erstellt von Patrck Saul, patsaul@students.un-manz.de; Das Dokument st fre und darf verändert werden. Der LATEX-Code kann von mr bezogen werden bzw. steht auf der angegebenen Homepage beret. Verson / letzte Änderung: 5. September 2008

2 2 1 Lneare Glechungssysteme 2 1 Lneare Glechungssysteme 1.1 Problemstellung Se A R m n, b R m und x R n. Ax = b heßt Lneares Glechungsstem (LGS) mt m Glechungen und n Unbekannten. Der Vektor x st gesucht. ) m < n so heßt das System unterbestmmt. ) m > n so heßt das System überbestmmt. ) b = 0 so heßt das System homogen. v) b 0 so heßt das System nhomogen. gesucht: Lösung für Ax = b. Lösungsmöglchketen: ) Ax = b lösbar rang(a) = rang(a, b) ) m = n, Ax = b endeutg lösbar rang(a) = n A regulär det(a) Gestaffelte Glechungssysteme, Dreecksmatrzen 1.1 Bemerkung: Dreecksmatrx Se A R n n, A = (a k ). A heßt rechte obere Dreecksmatrx a k = 0 für > k. A heßt lnke untere Dreecksmatrx a k = 0 für < k. En LGS mt ener Dreecksmatrx heßt gestaffeltes Glechungssystem. ) En gestaffeltes Glechungssystem st endeutg lösbar, da det(a) = n =1 a 0. ) Der Lösungsvektor x lässt sch drekt berechnen durch Rückwärtssubsttuton: x = (b n k=+1 a kx k )/a, = n( 1)1. Bemerkung: Be lnker unterer regulärer Dreecksmatrx analoges Vorgehen mt Vorwärtsensetzen. Idee: Ist A = L R mt L reglärer lnker unterer Dreecksmatrx und R regulärer rechter oberer Dreecksmatrx, so löse Ax = b folgendermaßen: ) löse Ly = b durch Vorwärtsensetzen y. ) löse Rx = y durch Rückwärtsensetzen x b = Ly = LRx = Ax. 1.3 Gauß-Elmnaton Umformungen, de de Lösungsmenge enes Glechungssystems ncht verändern heßen elementare Umformungen. Dese snd: ) Vertauschung zweer Zelen. ) Multplkaton ener Zele mt λ 0. ) Addton des q-fachen ener Zele zu ener anderen Zele, q R. v) Vertauschung zweer Spalten n A, wenn de entsprechenden Komponenten des Lösungsvektors mtvertauscht werden. Gauß-Algorthmus r = 0(1)n 1 Elmnatonsschrtte; Abbruch, wenn Restmatrx Null st: q (r+1) a (r+1) k b (r+1) := a (r) r+1 /a(r) := a (r) k := b (r) + q(r+1) + q (r+1) r+1 r+1 = r + 2(1)n a (r) r+1 k k, = r + 2(1)n b (r) r+1 = r + 2(1)n 2 2

3 3 1 Lneare Glechungssysteme 3 Pvotelement und Pvotsuche a (r) r+1 r+1 Pvotzele. heßt Pvotelement (muss unglech Null sen). Spalte/Zele r + 1 heßt Pvotspalte bzw. Kanonsche Pvotwahl: kene Vertauschungen Spaltenpvotsuche: als Pvotelement wrd das Betragsgrößte bestmmt ( evt. Zelentausch) Totalpvotsuche: Pvotelement wrd das betragsgrößte Element der Restmatrx gewählt ( ggf. Zelen- und Spaltentausch) 1.1 Bemerkung: Führt ene deser Strategen zu A (n 1) x = b (n 1) so glt: A st regulär und det(a) = n =1 a( 1) ( 1) V V = Anz. Zelen-/Spaltenvertauschungen Ist für en r {0... n 1} de Restmatrx de Nullmatrx, d. h. a (r) j = 0 für, j = r + 1(1)n, so st rang(a) = r und det(a) = 0 A st sngulär. Weter glt: rang(a, b) = r b (r) = 0 für = r + 1(1)n. Ist b (r) 0 für en {r n}, so st rang(a, b) = r + 1 Ax = b bestzt kene Lösung. Für b (r) (spezelle Lösung + Nullraum(A)) = 0 {r n} Ax = b bestzt enen (n r)-dm. Lösungsraum Gauß-Elmnaton be (A, b) lefert rang(a), det(a) und ene Aussage über de Lösbarket des Systems Ax = b. Rücksubsttuton lefert dann de Lösung bzw. ene Bass des Lösungsraums. ) A reg. Gauß-Elmnaton kann ohne Spaltenvertauschungen durchgeführt werden ) Snd vor enem Elmnatonsschrtt das Dagonalelement (a ) und alle darunterlegenden Elemente der Pvotspalte Null, so st A sngulär. ) De Umkehrung von ) st nur unter der Voraussetzung ann n 1 0 rchtg. ) Zur Rangbestmmung können allerdngs Spaltenvertauschungen nötg sen. Ergänzung: Aufwand: Gauß-Algorthmus ca. n3 3 Operatonen, Gauß-Jordan-Alg. ca. n3 2 Operatonen. 1.4 Dreeckszerlegung 1.2 L-R-Zerlegung von A Be A R n n kann de Gauß-Elmnaton mt kanonscher Pvotrehenfolge durchgeführt werden. Dann glt: ) De Gauß-Elm. lefert ene Zerlegung von A n en Produkt von zwe Dreecksmatrzen: A = L R. Dabe st L ene lnke untere Dreecksmatrx mt 1-Dagonale und R ene rechte obere Dreecksmatrx, d. h. L = (l j ) = 0 für < j, l = 1 und l j = q (j) für > j (q we oben def.) und R = (r j ) mt r j = 0 für > j und r j = a ( 1) j sonst, d. h. R = A n 1. ) Dese Zerlegung (mt der 1-Normerung be L) st endeutg bestmmt und heßt Dreeckszerlegung bzw. L-R-Zerlegung von A. Bemerkung: 1.3 ) r nn = 0 oder r nn 0 spelt kene Rolle be der Aussage deses Satzes. Für den Rang von A hat er allerdngs ene Bedeutung: r nn = 0 rang(a) = n 1, r nn 0 rang(a) = n. ) Wesentlche Voraussetzung des Satzes: kanonsche Pvotwahl muss möglch sen! ) A reg. Permutatonsmatrx P, so dass P A = LR ) A sng. Permutatonsmatrx P, Q, so dass P AQ = LR ) P bzw. Q snd m Allgemenen ncht endeutg bestmmt. 3 3

4 4 1 Lneare Glechungssysteme 4 Ergänzung: Bsherge Methoden zur Lösung von Ax = b: ) Gauß-Elmnaton: Ax = b Rx = y und Rücksubsttuton lefert x, wobe R = L 1 A und y = L 1 b, bzw. R = L 1 P A, y = L 1 P b be Spaltenpvotwahl. ) L-R-Zerlegung: A L R bzw. P A L R (st unabhängg von b) Ly = b bzw. Ly = P b und Rx = y lösen x. L-R-Zerlegung st dann snnvoll, wenn es mehrere Koeffzentenvektoren b gbt. Varante: 1.4 LDU-Zerlegung: A LR LDU, wobe D = dag{d 11,... d nn }, d := r und U = (u ) mt u = 1, u j = r j r, falls < j und r 0, u j = 0 sonst. Dese Zerlegung st endeutg, falls r 0 = 1(1)n 1. A R n n, Gauß-Elmnaton st mt kanonscher Pvotwahl möglch be A det(a r ) 0 r = 1(1)n 1 (A r snd de Hauptmnoren) Ist kanonsche Pvotwahl möglch, so glt für das Pvotelement: a r 1 rr = det(a r )/ det(a r 1 ), r = 1(1)n 1, mt A 0 = 1. (Ist A symmetrsch glt zudem: Vorzechen (Pvotelement)=VZ(EW)). 1.5 Matrzen spezeller Struktur A strkt dagonal domnant A = (a j ) 1,j n R n n heßt strkt dagonal domnant n j=1,j a j < a für = 1(1)n A R n n strkt dagonal domnant. Dann glt: ) A regulär. ) Gauß-Elmnaton st mt kanonscher Pvotwahl möglch. ) Alle Restmatrzen A (r) snd strkt dagonal domnant. Postve Defnthet von A A R n n, symmetrsch, heßt postv defnt genau dann, wenn x T A x > 0 x R n \{0}. A heßt postv semdefnt genau dann, wenn x T Ax 0 x R n. A R n n ) A postv defnt A r postv defnt für r = 1(1)n ) A postv defnt a > 0 = 1(1)n ) A postv defnt A (r) pos. defnt für r = 1(1)n A R n n postv defnt Gauß-Alg. st mt kanonscher Pvotwahl möglch. Se A R n n symmetrsch. Dann glt: A pos. defnt A bestzt ene LDU-Zerlegung mt d > 0 für = 1(1)n. Se A R n n symmetrsch. Dann glt: A pos. defnt det(a r ) > 0 für r = 1(1)n (alle Hauptmnoren postv) Cholesky-Zerlegung Se A R n n symmetrsch und postv defnt. Dann exstert ene obere Dreecksmatrx C für de glt: A = C T C (Cholesky-Zerlegung von A). Konstrukton: A pos. def. d > 0 = 1(1)n. Aus der LDU-Zerlegung erhält man: Λ := dag{ d 11,..., d nn } st wohldefnert. 4 4

5 5 1 Lneare Glechungssysteme 5 C T = LΛ A = LDL T = LΛΛL T = (LΛ)(LΛ) T = C T C. Drekte Bestmmung der Zerlegung (Cholesky-Verfahren): 1 c = a (c k ) 2, = 1(1)n k=1 (oder Abbruch, falls das Argument der Wurzel ncht postv st, also falls A ncht postv defnt st) c j = 1 1 (a j c k c kj ), = 1(1)n, j = + 1(1)n. c k=1 Ist A symmetrsch und bestzt A ene endeutge LDU-Zerlegung, so st: U = L T, d. h. A = LDL T. 1.8 A R n n symmetrsch, dann glt: Ist de Gauß-Elmnaton mt kanonscher Pvotwahl möglch (z. B. wenn A pos. defnt), so snd alle Restmatrzen symmetrsch. Bemerkung: Es muss also nur das obere Dreeck von A gespechert werden (Halberung des Aufwands). 1.4 Lemma: A = (a j ) 1,j n heßt Drebandmatrx a j = 0, falls j > 1 (Enträge nur auf der Subdagonalen, Dagonalen, Superdagonalen). A R n n Drebandmatrx und kanonsche Pvotwahl be der Gauß-Elmnaton möglch. Dann glt: ) Alle Restmatrzen snd Drebandmatrzen ) L und R snd Dreecks- und Drebandmatrzen ) Be der Lösung enes LGS (deser Art) snd ledglch etwa 5n Operatonen durchzuführen v) A 1 st m Allg. vollbesetzt Seen u, v R n. Ene Matx der Form 1 + uv T R n n heßt Elementarmatrx. uv T st das dyadsche Vektorprodukt: uv T = (v 1 u,...,v n u). De Matrx uv T nennt man auch Dyade. Bemerkung: En Gauß-Elmnatonsschrtt zegt: u, v R n \{0} rang(uv T ) = Be ener Elementarmatrx 1 + uv T glt: ) det(1 + uv T ) = 1 + v T u. Se st also regulär v T u 1 ) Ist v T u 1, so glt: (1 + uv T ) 1 = 1 Elementarmatrx) uv T 1+v T u (De Inverse st offenbar weder ene Ist A R n n und B := A + uv T (Rang-1-Modfkaton von A), so gelten de Sherman-Morrson Formeln für B := A + uv T : Spezalfall: ) det(b) = det(a)(1 + v T A 1 u) ) v T A 1 u 1 B 1 = A 1 A 1 uv T A 1 1+v T A 1 u Gauß-Elmnaton: 0 r n 2, a (r) r+1 r+1 0 A(r+1) = Q (r+1) A (r), wobe: Q (r+1) := 1 + q (r+1) er+1 T := a r r+1 /ar r+1 r+1 für > r + 1 und 0 sonst. Dann glt: det(qr+1 ) = 1 und mt qr+1 (Q r+1 ) 1 = 1 q r+1 e T r+1 Gauß-Jordan-Elmnaton A (0) := A, A (r+1) := Q (r+1) A (r) für r = 1(1)n 1, mt anders def.: Q (r+1) := 1 + q (r+1) e T (r+1) mt q (r+1) := a (r) r+1 /a(r) r+1 r+1 für r + 1, 0 für = r + 1. A = LR R = A (n 1), L = (Q (1)... (Q (n 1) ) 1 ), wobe l = 1, l j = q (j), > j, 0 sonst. 5 5

6 6 2 Fehlertheore 6 2 Fehlertheore 2.1 Fehlerarten Fehlerarten: Problembedngte Fehler: ) Idealserungsfehler ) Datenfehler ( We wrken sch Datenfehler auf de Lösung aus? Kondtonerung enes Problems) Durch numersches Rechnen bedngte Fehler: ) Dskretserungsfehler ) Abbruchfehler ( Abschätzung des Abbruchfehlers) ) Rundungsfehler (We pflanzen sch Rundungsfehler fort? Problem der Stabltät des Algorthmus) 2.2 Absolute/relatve Fehler, Normen Se x R de exakte Größe und se ξ := x + x ene Näherung für x. Dann heßen: ) x absuluter Fehler von ξ ) x x relatver Fehler von ξ (für x 0) (Verwende ene Norm statt Beträge, wenn x R n ) Norm Se X en R-Vektorraum. Ene Abbldung : X R + heßt Norm, wenn für alle x, y X, α R gelten: ) x = 0 x = 0 (Defnthet) ) αx = α x ) x + y x + y Bespele: Vektor-Normen (x R n ) x := max { x } ( )1 2 x 2 := x 1 := =1 x 2 (postve Homogentät) (Dreecksunglechung) (Maxmumnorm) (Eukldsche Norm) x (l 1 -Norm) =1 Abschätzungen: x x 2 x 1 x 1 n x 2 x 2 n x lub-norm (A R m n ) lub (1,2) (A) := A (1,2) := sup { Ax (2) : x (1) = 1 } { } Ax (2) = sup : x x (1) 0 { } { } (1) x Ax lub(a 1 ) = sup Ax : x 0 = 1/ nf x : x 0 (lub - least upper bound) 6 6

7 7 2 Fehlertheore 7 Bemerkung: Submultplkatvtät De lub-norm st submultplkatv. Daher glt: A x (2) A (1,2) x (1) (A R m n, x R n ) lub (3,2) (AB) lub (1,2) (A) lub (3,2) (B) (A R m n, B R n k ) Bespele: Matrx-Normen (A R m n ) { } A = lub (A) = max a j : = 1 (1) m j=1 { m } A 1 = lub 1 (A) = max a j : j = 1 (1) n =1 (Zelensummennorm) (Spaltensummennorm) A 2 = lub 2 (A) = ϱ(a T A) (Spektralnorm) { mt ϱ(b) := max λk : λ k Egenwert von B } (Spektralradus von B) k 1 2 m A F := a j 2 = ( ) Spur(A T A) Frobenus-Norm (kene lub-norm) =1 j=1 Abschätzung: A F lub 2 (A) Egenschaft: AB F A F B F (submultplkatv) 2.1 Normäquvalenz Se X en endlch-dm. Vektorraum und x X. Dann glt: Alle Normen auf X snd äquvalent, d. h. zu je zwe Normen (1), (2) auf X exsteren Konstanten c 1, c 2 > 0, so dass glt: c 1 x (1) x (2) c 2 x (1) 2.3 Kondton enes Problems Bemerkung: We stark wrkt sch ene Störung n den Daten auf das Ergebns aus? Bemerkung: f (x + x) f (x) }{{} absoluer Resultatsfehler f (x + x) f (x) f (x) }{{} relatver Resultatsfehler. = f (x) x }{{}}{{} Verstärkungs-/Dämpfungsfaktor abs. Datenfehler. = f (x)x f (x) }{{} Verstärkungs-/Dämpfungsfaktor x x }{{} rel. Datenfehler (. = n erster Näherung) Bemerkung: Der (abs./rel.) Verstärkungs-/Dämpfungsfaktor st de (abs./rel.) Kondtonszahl der Aufgabe f (x) zu berechnen. 2.3 Kondtonszahl von A Se A R n n regulär. De Kondtonszahl von A (bezüglch der Norm ) st defnert durch: { } sup Ax cond(a) = A A 1 x : x 0 = { } 1 nf Ax x : x 0 Bemerkung: Anwendung von A auf enen Vektor ändert. Allg. dessen Länge. Manche Vektoren werden gestreckt andere gekürzt. cond(a) st das Verhältns größte Streckung größte Kürzung Relatve Fehlerabschätzung be lnearem Glechungssystem Se A R n n regulär; b R n {0}, x Lösung von Ax = b, A R n n, b R n (Störungen von A bzw. b), cond(a) A A Dann glt: < 1 (rel. Störung ncht zu groß). 7 7

8 8 2 Fehlertheore ) Das gestörte Glechungssystem (A + A)(x + x) = b + b st endeutg lösbar. ( x cond(a) A ) x }{{} 1 cond(a) A A + b ) b A }{{}}{{} rel. Fehler m Ergebns rel. Fehler der Daten Verstärkungsfaktor Kondtonszahlen von f κ (abs) j (x) := f (x) x j, = 1 (1) m, j = 1 (1) n (absolute (partelle) Kondtonszahlen von f ) κ (rel) j (x) := f (x) x x j j f (x), = 1 (1) m, j = 1 (1) n (relatve (partelle) Kondtonszahlen von f ) κ (abs) (x) := J f (x) (absolute Kondtonszahl von f ) κ (rel) (x) := J f (x) x f (x) (relatve Kondtonszahl von f ) Ene Aufgabe heßt (absolut/relatv) gut kondtonert, falls alle Kondtonszahlen n der Größenordnung von 1 legen. Ansonsten st de Aufgabe schlecht kondtonert. Bemerkung: Mehrfache oder relatv nahe beenanderlegende Nullstellen snd schlecht kondtonert. Bemerkung: Ist das Problem gut kondtonert, aber das Ergebns schlecht Der Algorthmus st schlecht. 2.4 Zahldarstellung, Maschnenzahlen, Gletkommaarthmetk x R ±0.a 1 a 2 a 3... B K mt a {0, 1,... B 1}, K Z 0.a 1 a 2 a 3... : Mantsse, B: Bass, K: Exponent x = ± ( =1 a 10 ) 10 K (Exakte dezmale Gletkommadarstellung von x) Se heßt normalsert, wenn a 1 0. Bespele: B = 2 Dual-System a {0, 1} B = 8 Octal-System a {0, } B = 10 Dezmal-System a {0, } B = 16 Hexadezmal-System a {0, , A, B... F } 8 8

9 9 3 Interpolaton und Numersche Integraton 9 3 Interpolaton und Numersche Integraton 3.1 Polynomnterpolaton 3.1 Bemerkung: 3.1 Lemma: 3.1 Problemstellung (Interpolatonsaufgabe) gegeben: n + 1 Stützstellen t 0,...,t n R, n + 1 Stützwerte y 0,...,y n R gesucht: En Polynom p n Π n (:= Vektorraum der reellen Polynome vom Höchstgrad n) mt p n (t ) = y für = 0(1)n. Exstenz und Endeutgket des Interpolatonspolynoms Se t t j für j,, j {0,...,n}. Dann exstert genau en Polynom p n vom Höchstgrad n, das de obge Problemstellung erfüllt. p n heßt Interpolatonspolynom. ) Das Interpolatonspolynom p n kann enen nedrgeren Grad als n haben. ) Ohne de Enschränkung Höchstgrad n wäre de Problemstellung ncht mehr endeutg lösbar. Lagrange Grundpolynom Seen t 0,...,t n R paarwese verscheden. Das -te Lagrange-Grundpolynom zu den Stützstellen t 0,...,t n st defnert durch: n t t j l n (t) := = t t j j=0 j ω n+1 (t) (t t ) ω n+1 (t ), = 0(1)n. Das Knotenpolynom ω n+1 zu den Stützstellen t 0,...,t n st defnert durch: n ω n+1 (t) := (t t j ) j=0 Egenschaften von l n ) l n (t k ) = δ k,, k = 0(1)n, grad(l n ) = n (l n löst also ene spezelle Interpolatonsaufgabe) ) t j l n(t) = t j, j = 0(1)n =0 Lagrangesche Interpolatonsformel Das Polynom p n (t) := y l n (t) = ω n+1 (t) =0 =0 y ω n+1 (t ) t t heßt Lagrange Interpolatonsformel (Interpolatonspolynom n Lagrange-Darstellung) und löst de engangs formulerte Interpolatonsaufgabe, da p n (t ) = y, = 0(1)n und grad(p n ) n. Newtonsches Interpolatonspolynom De Newtonsche Darstellung des Interpolatonspolynoms lautet: 1 p n (t) := γ (t t j ) = γ ω (t) = f [t 0,...,f ] ω (t) =0 j=0 entwckelt n der Bass: =0 ω 0 (t) = 1, ω 1 (t) = (t t 0 ), ω 2 (t) = (t t 0 )(t t 1 ), ω 3 (t) = (t t 0 )(t t 1 )(t t 2 ),...,ω n (t). =0 Nevlle-Atken-Algorthmus (Spezalfall: Auswertungspunkt τ = 0) De Koeffzenten γ des Newtonschen Interpolatonspolynoms lassen sch mt Hlfe des Nevlle- Atken-Algorthmus we folgt berechnen: ) γ,0 := y = 0(1)n 9 9

10 10 3 Interpolaton und Numersche Integraton 10 ) γ,k = γ +1,k 1 γ,k 1 t +k t ) γ k = γ 0,k k = 1(1)n, = 0(1)n k k = 0(1)n Dvderte Dfferenz Der Koeffzent γ,k heßt dvderte Dfferenz der Ordnung k zu den Stützstellen t,...,t +k. Ist y = f (t j ), j = (1)n + k, mt ener stetgen Funkton f, so schrebt man: γ,k = f [t,...,t +k ] f [t ] := y, = 0(1)n. f [t,...,t +k ] = f [t +1,...,t +k ] f [t,...,t +k 1 ] t +k t, k = 1(1)n, = 0(1)n k. Se f C n [a, b], t 0,...,t n [a, b]. Dann glt: f [t 0,...,t n ] = f (n) (ξ) n! Restgled der Interpolaton mt enem ξ [ mn{t 0,...,t n }, max{t 0,...,t n } ]. Se f C (n+1) [a, b] de zu nterpolerende Funkton. Se p n Π n das Interpolatonspolynom zu f mt den Stützstellen t 0,...,t n [a, b], t [a, b]. Dann glt: n f (t) p n (t) = f [t 0,...,t n, t] (t t ) = f (n+1) (ξ t ) (n + 1)! ω n+1(t) =0 mt ξ t [ mn{t, t 0,...,t n }, max{t, t 0,...,t n } ]. Interpolatonsfehler Unter den glechen Voraussetzungen glt folgende Abschätzung für den Interpolatonsfehler: f (t) p n (t) max{ f (n+1) (ξ) : a ξ b } ω n+1 (t) (n + 1)! Bemerkung: Dese Fehlerabschätzung blebt rchtg, auch wenn de Stützstellen ncht mehr paarwese verscheden snd. Spezalfall: Hermte Interpolaton gegeben: j, t j (paarwese verscheden) j = 0(1)n, = 0(1)m j gesucht: p m Π m m = n + y () mt p () m (t j ) = y () j j=0 m j = 0(1)m j, j = 0(1)n. Es gbt genau en Polynom vom Höchstgrad m, das obge Aufgabe löst. Formel des Hermte-Interpolatonspolynoms Ist m j = 1 (also Interpolaton von f und f an den Stützstellen), so glt: p(t) = y q (t) + y r (t) =0 mt den Egenschaften: =0 q (t j ) = δ j, q (t j ) = 0 r (t j ) = 0, r (t j ) = δ j Explzt: q (t) = (α t + β )l 2 n (t) und r (t) = ( α t + β )l 2 n (t) wobe α = 2l n (t ), b = 1 + 2l n (t )t, α = 1 und β = t 10 10

11 11 3 Interpolaton und Numersche Integraton 11 Spezalfall: Restgled der Hermte-Interpolaton (Fehlerabschätzung) Ist m j = 1 (also Interpolaton von f und f an den Stützstellen), so glt: f (t) p 2n+1 (t) = f (2n+2) (ξ t ) (2n + 2)! ω2 n+1(t) mt ξ t [ mn{t, t 0,...,t n }, max{t, t 0,...,t n } ] 3.2 Hornerschema Bemerkung: Das Hornerschema wrd benutzt, um mt enfachen Rechenoperatonen (, +) Polynome (und deren Abletungen) an ener bestmmten Stelle τ auszuwerten. Rechnung: Enfaches Hornerschema Se das Polynom n Newton-Darstellung gegeben: p(t) = γ ω (t) = γ 0 + γ 1 (t t 0 ) + γ 2 (t t 1 )(t t 0 )... + γ n (t t n 1 ) (t t 0 ) =0 gesucht: p(τ) (Funktonsauswertung) Erstelle folgendes Tableau (und berechne 3. und 4. Zele): τ t n 1 τ t n 2... τ t 0 γ n γ n 1 γ n 2... γ 0 γ n (τ t n 1 ) α 1 (τ t n 2 )... α n 1 (τ t 0 ) α 1 := γ n 1 + γ n (τ t n 1 ) α 2 := γ n 2 + α 1 (τ t n 2 )... α n := γ 0 + α n 1 (τ t 0 ) Ergebns: p(τ) = α n 3.3 Splnes 3.3 Se := {t 0,...,t n } mt a = t 0 < t 1 <... < t n = b (Knotenmenge/Gtter) Ene Abbldung s : [a, b] R heßt kubsche Splne-Funkton zur Knotenmenge, wenn glt: ) s C 2 [a, b] ) s [tj 1,t j ] Π 3, j = 1(1)n s besteht aus Polynomen vom Höchstgrad dre über den Telntervallen, de n den Knoten t 1 bs t n 1 C 2 -glatt anenander geheftet snd. Bemerkung: Nach der Defnton erhält man für enen Splne 4n Parameter mt nur 3(n 1) Bedngungen. Damt verbleben n + 3 free Parameter ( Endeutgket erst durch Nebenbedngungen). Bemerkung: S := kubscher Splne zur Knotenmenge Randbedngungen Natürlche Randbedngungen: s (a) = s (b) = 0 ( natürlche kubsche Splnes) Vorgabe von Randabletungen: s (a) = y 0, s (b) = y n ( kubsche Hermte-Splnes) Perodztätsforderungen: s (a) = s (b), s (a) = s (b) ( perodsche kubsche Splnes) (be Interpolaton (b-a)-perodscher Daten: y 0 = y n ). Bemerkung: Dese Nebenbedngungen führen zu endeutg bestmmten nterpolerenden kubschen Splnes

12 12 3 Interpolaton und Numersche Integraton 12 Bemerkung: Momente s st charaktersert durch de Momente M j := s (t j ), j = 0(1)n, de zunächst unbekannt snd. Konstrukton der Splnes 1. Berechnung des Koeffzentenvektors h j+1 := t j+1 t j, j = 0(1)n 1 6s[t j 1, t j, t j+1 ] = 6 wobe µ j := y j+1 y j h j+1 y j y j 1 h j h j+1 + h j, j = 1(1)n 1 h j h j + h j + 1, λ j := 1 µ j, j = 1(1)n 1 2. Berechnung der Momente Be natürlchen Randbedngungen: M 0 = M n = 0 Löse für M 1 bs M n 1 das folgende GLS mt (n 1 n 1)-Drebandmatrx: 2 λ µ 2 2 λ λ n µ n 1 2 M 1 M 2 M n 1 = 6s[t j 1, t j, t j+1 ], j = 1(1)n 1 Be Randbedngung: kubscher Hermte-Splne Löse für M 0 bs M n das folgende GLS mt (n + 1 n + 1)-Drebandmatrx: µ 1 2 λ µ n 1 2 λ n M 0 M 1 M n 1 M n = 6s[t j 1, t j, t j+1 ], j = 0(1)n wobe t 1 := t 0, t n+1 := t n. Be Randbedngung: perodscher kubscher Splne M 0 = M n Löse für M 1 bs M n das folgende GLS mt (n n)- fast Drebandmatrx : 2 λ µ 1 µ 2 2 λ µ n 1 2 λ n 1 λ n 0 0 µ n 2 M 1 M 2 M n 1 M n = 6s[t j 1, t j, t j+1 ], j = 1(1)n wobe t n+1 := t 1, h n+1 := h 1 und µ n := hn h n+h 1, λ n := 1 µ n

13 13 3 Interpolaton und Numersche Integraton Formel zur Berechnung der Splnes Berechne de n-abschntte des Splnes. Für jeden Abschntt glt: Lemma: 3.4 t [t j, t j+1 ], j = 0(1)n 1 s(t) = t j+1 t y j + M j (t j+1 t) [ ] (t j+1 t) 2 hj h j+1 6h j+1 t t j y j+1 + M j+1 (t t j ) [ ] (t t j ) 2 hj+1 2 h j+1 6h j+1 Se A ene der Matrzen aus dem Abschntt Berechnung der Momente. Dann glt: ) A regulär ) A = 3 ) A 1 1 ) cond (A) 3 ) Be Gauß-Elmnaton mt A st kanonsche Pvotwahl möglch. 3.4 Quadratur (Numersche Integraton) Problemstellung allgemen gegeben: f C[a, b] gesucht: If := b a f (t)dt bzw. ene Approxmaton von If. Allgemene Quadraturformel zur Approxmaton von If I n f := n =0 α nf (t n ), n N. mt α n : Gewchte, t n : Knoten (Stützstellen) der Quadraturformel. Probleme: ) Wahl/Berechnung der Gewchte und Knoten. ) Abschätzung des Quadraturfehlers If I n f. Rechteckregel (halboffene Newton-Cotes-Formel) n = 0, h := b a, t 00 = a b a f (t)dt = hf (a) Fehler: f C 1 [a, b] If I 0 f = h2 2 f (ξ), ξ (a, b). Mttelpunktregel (offene Newton-Cotes-Formel) n = 0, h := (b a)/2, t 00 = (a + b)/2 b ( ) a + b f (t)dt = 2h f 2 a Fehler: f C 2 [a, b] If I 0 f = h3 3 f (ξ), ξ (a, b). Zusammengesetzte Mttelpunktregel I 0m f = b a m 1 ( f a ) b a m 2 m =0 Fehler: If I 0m f = 1 m 2 (b a) 3 24 f (ξ), ξ (a, b). Trapezregel (abgeschlossene Newton-Cotes-Formel) n = 1, h := b a 13 13

14 14 3 Interpolaton und Numersche Integraton 14 b a f (t)dt = h 2 [ f (a) + f (b) ] Fehler: f C 2 [a, b] If I 1 f = h3 12 f (ξ), ξ (a, b). Zusammengesetzte Trapezregel Für m + 1 äqudstante Stützstellen (h = b a m [ ) glt: I 1m f = b a m 1 f (a) ( ( + f a + b a )) m 2 m =1 [ m 1 1 = h 2 f (t ( 0) + f (t ) ) ] f (t m) =1 Fehler: If I 1m f = 1 m 2 (b a) 3 12 f (ξ), ξ (a, b). ] + f (b) 2 Smpsonregel (abgeschlossene Newton-Cotes-Formel) n = 2, h := b a/2 b a f (t)dt = h 3 [ f (a) + 4f ( a + b 2 ) ] + f (b) Fehler: f C 4 [a, b] If I 2 f = h5 90 f (4) (ξ), ξ (a, b). Zusammengesetzte Smpsonregel Smpsonregeln zusammen- Für ene ungerade Anzahl äqudstanter Stützstellen t 0,...,t m können m 2 gefügt werden. Dabe st h = b a m. I 2m f = h 3 [f (t 0) + 4f (t 1 ) + 2f (t 2 ) + 4f (t 3 ) f (t m 2 ) + 4f (t m 1 ) + f (t m )] Fehler: If I 2m f = b a 180 h4 f (4) (ξ), ξ (a, b). Rchardson-Extrapolaton (Extrapolaton auf de Schrttwete Null) Berechne zu den Schrttweten h 0 >... > h k > 0 de zusammengesetzten Trapetzregeln T f (h ), = 0(1)k, und bestmme aus desen Werten mt dem Nevlle-Atken-Algorthmus ene Näherung für T f (0) = T 0k : T 0 := T f (h ), = 0(1)k (Berechnung der Stützwerte) T j := T +1,j 1 + T +1,j 1 T,j 1 (h /h +j ) 2 1, = 0(1)k j, j = 1(1)k Romberg-Schrttweten h := (b a)/2, = 0, 1,... T j := T +1,j 1 + T +1,j 1 T,j 1 4 j 1 Bulrsch-Schrttweten Romberg-Verfahren h 0 := (b a), h 1 := (b a)/2, h 2 := (b a)/3, h 3 := h 1 /2, h 4 := h 2 /2,... h = h 2 2 Anders defnert: h = b a a, a = {1, 2, 3, 4, 6, 8, 12, 16, 24, 32, 48, 64, 96, 128, 192, 256, 384, 512,...} Hermte-Quadratur b a Gauß-Quadratur f (t)dt = Ip 2n+1 = α n f (t n ) + =0 β n f (t n ), = 0(1)n. =

15 15 3 Interpolaton und Numersche Integraton 15 Gauß-Quadratur st Hermtequadratur mt Nullstellen des Orthogonalpolynoms als Stützstellen β n = 0. n = Anzahl der (gesuchten) Stützstellen. Lemma: 3.5 Berechung: Maxmaler Exakthetsgrad der Gauß-Quadratur: q = 2n + 1 Konstrukton der Gauß-Quadraturformel 1.Schrtt: Suchen des Orthogonalpolynoms OP und Berechnung der Knoten t 1,...,t n : Grad OP = Anzahl Stützstellen OP = t n + a n 1 t n a 0 b a OP (t) p(t)dt! = 0 p(t) Π n 1 Für p(t) nachenander Basselemente ensetzen und somt de a n 1,...,a 0 ausrechnen OP Dann Nullstellen des OPs bestmmen. t 1,...,t n (Knoten) 2.Schrtt: Gewchte ausrechnen: b a p(t)dt = α 1 p(t 1 ) α n p(t n ) p(t) Π n 1 Für p(t) weder Bass ensetzen Gauß-Quadraturformel

16 16 4 Nchtlneare Glechungssysteme 16 4 Nchtlneare Glechungssysteme Bemerkung: Problemstellung gegeben: F : D R n R n oder G : D R n R n gesucht: x D mt F ( x) = 0 (Nullstellenproblem) x D mt G( x) = x (Fxpunktproblem) Probleme: ) Exstenz von Fxpunkten (bzw. Nullstellen) ) Endeutgket ) Lösungsverfahren (zur näherungswesen Berechnung) 4.1 Fxpunktsätze / Sukzessve Substtuton Brouwerscher Fxpunktsatz Se D R n nchtleer, konvex und kompakt ( abgeschlossenes Intervall, D = [a, b]), und se G : D D stetg, dann glt: G bestzt (mndestens) enen Fxpunkt x D : G( x) = x. Kontraktonskonstante L M Se G : D R n R n und M D. ) G heßt genau dann Lpschtz-stetg auf M, wenn glt: L M 0 : G(x) G(y) L M x y x, y M L M heßt Lpschtz-Konstante von G bezüglch M und der Norm. ) G heßt kontraherend auf M bezüglch genau dann, wenn: G Lpschtz-stetg auf M und L M < 1. (Abstand der Blder klener als Abstand der Urblder.) L M heßt dann auch Kontraktonskonstante von G. Bemerkung: De Lpschtz-Konstante st m Allgemenen normabhängg. Daher st de Kontraktonsegenschaft ener Abbldung ebenfalls normabhängg. Wegen der Normäquvalenz mplzert jedoch Lpschtz- Stetgket bezüglch ener Norm auch de n jeder anderen. Lemma: 4.1 Se G : D R n R n, M D, M nchtleer, konvex und kompakt, ene Norm auf dem R n und G C 1 (M, R n ), dann glt: G st Lpschtz-stetg auf M mt der Lpschtz-Konstanten L M = sup G (z). z M 4.2 Banachscher Fxpunktsatz Voraussetzungen: Se ene Norm auf dem R n, G : D R n R n und ) M D nchtleer und abgeschlossen ) G : M M ) G ene Kontrakton auf M bezüglch mt der Kontraktonskonstanten q (< 1). Behauptungen: ) G bestzt genau enen Fxpunkt x M : G( x) = x. ) Für jeden Startwert x 0 M konvergert de Folge (x m ) m M : 16 16

17 17 4 Nchtlneare Glechungssysteme 17 x m+1 := G(x m ), m = 0, 1, 2,... (sukzessve Substtuton) gegen den Fxpunkt x (globale Konvergenz). 4.3 ) Es glt de Fehlerabschätzung: x x m qm k 1 q x k+1 x k, k = 0(1)m 1, m N. Für k = 0 heßt se a pror Abschätzung: x x m qm 1 q x 1 x 0 (m = Anzahl der Schrtte, de benötgt werden um ene vorgegebene Genaugket x x m zu errechen.) Für k = m 1 heßt se a posteror Abschätzung (x m wurde berets ausgerechnet): x x m q 1 q x m x m 1 Lokale Konvergenz Voraussetzungen: ) G : [a, b] R bestzt enen Fxpunkt x (a, b). ) G st n ener Umgebung von x stetg dfferenzerbar. ) G ( x) < 1 (attraktver Fxpunkt). Dann glt: ε > 0 : Startwerte x 0 [ x ε, x + ε] konvergert de durch x m+1 := G(x m ) defnerte Folge gegen x. Lemma: Zusammenhang: Egenwerte Norm Se T R n n und ϱ(t ) < 1. Dann glt: Es exstert ene Norm m R n, so dass für de zugehörge Operatornorm glt: T < 1. (Spektralradum ϱ(t ) T für jede Norm.) Lokale Konvergenz m R n Voraussetzungen: ) G : D R n R n bestzt enen Fxpunkt x nt(d). ) G st n ener Umgebung von x stetg dfferenzerbar. ) ϱ(g ( x)) < 1. Dann glt: Be hnrechend guter Startnäherung konvergert de sukzessve Substtuton gegen x. Bemerkung: 4.2 ) ϱ(g ( x)) < 1 Lokale Konvergenz der sukzessven Substtuton, anzehender Fxpunkt. ) ϱ(g ( x)) > 1 Abstoßender Fxpunkt. ) ϱ(g ( x)) = 1 Konvergenzverhalten ncht endeutg. Se (a m ) m N ene nchtnegatve Nullfolge (z. B. x m x ). ) p [1, ) heßt Mndestkonvergenzordnung der Folge (a m ) m N genau dann, wenn glt: Ist p = 1: c (0, 1) und m 0 N : a m+1 c a m m m 0. Man sagt: De Folge st mndestens lnear konvergent. Ist p > 1: c > 0 und m 0 N : a m+1 c a p m m m 0. Be p=2 sagt man: De Folge st mndestens quadratsch konvergent. a ) Q p := lm sup m+1 m heßt dann Konvergenzrate der Folge (a am p m ) m N. Ist Q p = 0, so sagt man 17 17

18 18 4 Nchtlneare Glechungssysteme 18 be p = 1: De Folge st mndestens superlnear konvergent, be p = 2: De Folge st mndestens superquadratsch konvergent. ) Hat ene Folge de Mndestkonvergenzordung p und st Q p 0, so hat se de Konvergenzordnung p. Man sagt: be p = 1: De Folge st lnear konvergent, be p = 2: De Folge st quadratsch konvergent. Bemerkung: Je größer de Konvergenzordnung st, desto schneller st de Konvergenz. Be glecher Konvergenzordnung glt: Je klener Q p st, desto schneller konvergert de Folge. Lemma: 4.4 Lemma: Unter den Voraussetzungen des Banachschen Fxpunktsatzes (bzw. von Satz 4.4) konvergert de sukzessve Substtuton (lokal) mndestens lnear. Konvergenzordnung Voraussetzungen: G C p [a, b], p 2, x [a, b] mt G( x) = x, G (j) ( x) = 0, j = 1(1)p 1, G (p) ( x) 0, bzw. m Falle p = 1 soll G ( x) < 1 gelten. Dann glt: Das von G erzeugte Interatonsverfahren hat lokal de Konvergenzordnung p und de Konvergenzrate Q p = 1 p! G(p) ( x). Taylorpolynom Das n-te Taylorpolynom von f an der Stelle a st defnert durch: Ta n f () (a) f (x) := (x a)! =0 Landausches Symbol O Das Landausche Symbol O läßt sch bspw. als Restgled be der Taylorentwcklung benutzen. Bespel: f (x) = f (0) + f (0)x + O(x 2 ) Man schrebt: f (x) = O(g(x)) für x x wenn es ene Konstante c gbt mt f (x) c g(x) für x hnrechend nahe be x. Anschaulch bedeutet des, dass f (x) für x nahe be x ncht schneller wächst als g(x). Rechenregeln: ) f (x) = ko(x n ) (x 0) f (x) = O(x n ) (x 0) für ene Konstante k ) f (x) = O(x n )+O(x m ) (x 0) f (x) = O(x n ) (x 0) für n m ( klene Potenz frsst größere Potenz ) ) f (x) = x n O(x m ) (x 0) f (x) = O(x n+m ) (x 0) 4.2 Newton-Verfahren Problemstellung gegeben: F C 1 [a, b] gesucht: x [a, b] : F ( x) = 0 Newton-Verfahren x 0 [a, b] (Startwert) (Nullstelle) 18 18

19 19 4 Nchtlneare Glechungssysteme 19 x m+1 := x m F (x m) F (x m ), m = 0, 1,... (falls F (x m ) 0) Oder geschreben als Interatonsfunkton: G(x) := x F (x) F (x) aus Satz 4.3 Konvergenz des Newton-Verfahrens Hat F C 2 [a, b] ene Nullstelle n (a, b) und st F (x) 0 Newton-Verfahren lokal und zwar mndestens quadratsch gegen ene Nullstelle. x [a, b], so konvergert das Ist (zufällg auch) F ( x) = 0, so konvergert das Newton-Verfahren sogar mndestens superquadratsch, andernfalls genau quadratsch mt Q 2 = F ( x) 2F ( x). Bemerkung: Auch wenn F ledglch enmal stetg dfferenzerbar st, konvergert unter den restlchen Voraussetzungen das Newton-Verfahren lokal und zwar mndestens superlnear. 4.5 Globale und monotone Konvergenz des Newton-Verfahrens Voraussetzungen: F C 1 [a, b], F monoton wachsend (oder monoton fallend), x 0 [a, b] und x 1 = x 0 F (x0) F (x 0) [a, b] und es exstert en x [a, b] : F ( x) = 0. Dann glt: ) Das Newton-Verfahren konvergert monoton gegen ene Nullstelle von F. ) x 1 x 2... ˆx oder x 1 x 2... ˆx, wobe F (ˆx) = F (ˆx) = 0. Newton-Verfahren (höherdmensonal) Se x (0) R n. Dann lautet das Newton-Verfahren we folgt: 1. Schrtt: Berechne für m = 0, 1,... de Newton-Korrektur d (m) (lneares Glechungssystem): F (x (m) ) d (m) = F (x (m) ) 2. Schrtt: Führe de sukzessven Substtuton aus: x (m+1) := x (m) + d (m) 19 19

20 20 5 Lneare Glechungssysteme II 20 5 Lneare Glechungssysteme II 5.1 Iteratve Lösung lnearer Glechungssysteme Ansatz: Lemma: 5.1 Problemstellung gegeben: A R n n regulär, b R n gesucht: x R n : A x = b bzw. en Iteratonsverfahren mt: x (0) R n, x (m+1) := G(x (m) ), m = 0, 1, 2,... mt x (m) x für m. G(x) := T x + r mt T R n n und r R n G st affn lnear, da das Problem auch lnear st. Globale Konvergenz Se ϱ(t ) < 1, dann glt: De sukzessve Substtuton mt G (we m obgen Ansatz) konvergert für jeden Startwert x (0) R n gegen den endeutg bestmmten Fxpunkt von G und es gelten de Fehlerabschätzungen aus dem Banachschen Fxpunktsatz mt q := ϱ(t ). Bemerkung: Globale Konvergenz der sukzessven Substtuton mt G mplzert umgekehrt auch, dass ϱ(t ) < 1 glt. Allg. Fxpunktteraton für lneare Glechungssysteme x (0) R n, x (m+1) = (1 B 1 A)x (m) + B 1 b, m = 0, 1, 2,... = x (m) B 1 [Ax (m) b] (Newton-Verfahren für F (x) := Ax b mt Näherungsnverser B 1. Bemerkung: Deses Verfahren konvergert für jeden Startwert x (0) R n, wenn ϱ(1 B 1 A) < 1. A := D E F mt a D := dag(a) = 0 0 regulär, d. h. a 0 (A regulär P : (P A) 0) 0 0 a nn E := 0 0 a a n1 a n,n 1 0, F := 0 a 12 a 1n a n 1,n 0 0 L := D 1 E, U := D 1 F. Gesamtschrttverfahren (Jacob-Verfahren) B := D x (0) R n, 20 20

21 21 5 Lneare Glechungssysteme II 21 x (m+1) = (1 D 1 A)x (m) + D 1 b = D 1 (E + F )x (m) + D 1 b = (L + U)x (m) + D 1 b, m = 0, 1, 2,... Interatonsmatrx J := L + U Gesamtschrttverfahren (komponentenwese) x (0) R n, x (m+1) j = 1 a jj [ b j k=1 k j ] a jk x (m) k, j = 1(1)n, m = 0, 1, 2,... (Ledglch de j-te Glechung von Ax = b wrd nach x j aufgelöst und damt terert.) Enzelschrttverfahren (Gauß-Sedel-Verfahren) x (0) R n, x (m+1) = (D E) 1 F x (m) + (D E) 1 b = (1 B 1 A)x (m) + B 1 b, m = 0, 1, 2,... B = D E = A + F = D(1 L) Iteratonsmatrx H := 1 B 1 A = (D E) 1 F = (1 L) 1 U = a Bemerkung: B = 0 0 st ene reguläre Dreecksmatrx. a n1 a nn (Evt. muss vorher A durch P A ersetzt werden.) ( n 1 ) L U =0 }{{} Neumannsche Rehe Enzelschrttverfahren (komponentenwese) x (0) R n x (m+1) j = 1 a jj [ j 1 b j k=1 a jk x (m+1) k k=j+1 SOR-Verfahren (Varaton des Gauß-Sedel-Verfahrens) x (0) R n x (m+1) j ] a jk x (m) k, j = 1(1)n, m = 0, 1, 2,... = (1 ω)x (m) j + ω [ b j a jk x (m+1) k ] a jk x (m) k, j = 1(1)n, m = 0, 1, 2,... a jj j>k j<k In Matrx-Schrebwese: ( ( 1 ) ) 1A ( 1 x (m+1) = 1 ω D E x (m) + }{{} ω D E }{{} B B wobe B = 1 ω D E und A = D E F ) 1b 5.1 Konvergenzsatz für Enzel- und Gesamtschrttverfahren Se A strkt dagonal domnant. Dann glt: H J < 1, d. h. globale Konvergenz beder Verfahren

22 22 5 Lneare Glechungssysteme II Konvergenzsatz für das Enzelschrttverfahren Se A postv defnt. Dann glt: ϱ(h) < 1, d. h. globale Konvergenz des Gauß-Sedel-Verfahrens. cg-verfahren (von Hestenes und Stefel) Se A postv defnt. Zur Lösung der Aufgabe mn x R n f (x) mt f (x) := 1 2 x T Ax b T x betrachte folgendes Verfahren: ) Wähle x (0) R n, berechne r (0) := Ax (0) b und setze p (0) := r (0). ) Für m = 0, 1,...: Falls r (m) = 0, dann setze k := m, STOP, x (k) löst de Aufgabe. Berechne: t m := (r (m) ) T p (m) /(p (m) ) T Ap (m), x (m+1) := x (m) + t m p (m), r (m+1) := r (m) + t m Ap (m), β m := r (m+1) 2 2 / r (m) 2 2, p (m+1) := r (m+1) + β m p (m). Dann glt: ) Das Verfahren brcht nach k n Schrtten ab. ) Es st (p () ) T r (m) = 0 für 0 < m k. ) Es st (p (m) ) T r (m) = r (m) 2 2 für 0 m k. v) Es st (r () ) T r (m) = 0 für 0 < m k. De Resduen (=Gradenten) snd also orthogonal oder I-konjugert oder konjugert. Daher der Name des Verfahrens: cg = conjugate gradents. v) De Rchtungen p (0),... p (k 1) snd A-konjugert. v) Es st span(p (0),... p (m) ) = span(r (0),... r (m) ) für 0 m < k. 5.2 De QR-Zerlegung 5.2 Lemma: 5.2 Orthonormalsystem De Vektoren q 1,...,q n C m blden en Orthonormalsystem genau dann, wenn 1 = j q H q j = (also q 2 = q H q = 1). 0 j Für de Matrx Q := (q 1,...,q n ) C m n glt folglch: Q H Q = 1 C n n. Se heßt orthonormal. Im Falle m = n heßt se untär. Egenschaften untärer Matrzen Se U, U 1, U 2 untär. Dann glt: ) U st ene Isometre (bzgl. der 2-Norm). ) U 1 U 2 st untär. 5.4 Exstenz ener QR-Zerlegung Se A C m n, m n, rang(a) = n. Dann glt: 22 22

23 23 5 Lneare Glechungssysteme II 23 ) Es exstert ene orthonormale Matrx Q C m n und ene rechte obere Dreecksmatrx R C n n, für de glt: A = QR. ) De Zerlegung st dann endeutg, wenn zusätzlch r > 0, = 1(1)n gefordert wrd. 5.3 Lemma: 5.3 Householder-Transformaton Se v R m mt v H v = 1. Dann heßt S := 1 2vv H Householder-Transformaton. Egenschaften von S S = S H = S 1, d. h. S st hermtesch (S = S H ), untär (S H = S 1 ) und Involuton (S 2 = 1). Geometrsche Interpretaton m R 2 : S = Spegelung. Householder-Verfahren zur QR-Zerlegung Se A R m n mt m n und rang(a) = n Se a (k) j de j-te Spalte von A (k). 1.Schrtt: 1 falls x 0 A (0) := A und sgn(x) := 1 falls x < 0 ww T S 1 = 1 m ( ) mt w = a (0) 1 2 a (0) 11 + a(0) 1 2 Es ergbt sch: A (1) = S 1 A (0) = a (1) 11 a (1) 12 a (1) 1n 0 a (1) 22 a (1) 2n =... 0 a (1) m2 a mn (1) sgn(a (0) 11 )( a (0) 11 + a(0) 1 ) 2 a (0) 21.. a (0) m1 a (1) 11 a (1) 12 a (1) 1n 0.  (1) Dabe kann man de Spalten von A (1) auch auf folgende Wese effzenter berechnen: a (1) 1 = sgn(a (0) 11 ) a(0) 1 2 e 1 mt e 1 = (1, 0,...,0) T a (1) j = a (0) j a (0) 1 2 w(w T a (0) j ) ( a (0) 11 + a(0) ) für j = 2(1)n Wederhole desen Schrtt für  (k) (k = 1(1)n) und man erhält damt de Matrx Ŝ k+1. Damt ergbt sch dann: S k+1 = ( 1k 0 0 Ŝ k+1 ) und A (k+1) = S k+1 A (k). Für n = m st berets be k = n 1 de QR-Zerlegung errecht. 5.3 Sngulärwerte und de Pseudonverse ener Matrx 5.5 Sngulärwertzerlegung Se A R m n. Dann glt: Es exsteren untäre Matrzen U = (u 1,...,u m ) R m m und V = (v 1,...,v n ) R n n, für de glt: 23 23

24 24 5 Lneare Glechungssysteme II 24 A = U Σ V T U T AV bzw. = Σ := dag(σ 1,...,σ p ) R m n mt σ 1 σ 2... σ p 0 und p := mn(m, n). Bezechn.: A = U Σ V T Sngulärwertzerlegung von A. σ = σ (A), = 1(1)p Sngulärwerte von A. u, = 1(1)m Rechtssngulärvektoren von A. v, = 1(1)n Lnkssngulärvektoren von A. Bemerkung: Für de Berechnung: 1. Schrtt: (Wähle entweder AA T oder A T A, so dass Dmenson der Matrx am größten st.) ( ) A A T = U Σ Σ T U T = U dag σ1, 2...,σp, 2 0,...,0 U T m p d. h. de u snd Egenvektoren von AA T, de σ 2 (und de m p Nullen) Egenwerte von AA T. ( ) A T A = V Σ T Σ V T = V dag σ1, 2...,σp, 2 0,...,0 V T n p d. h. de v snd Egenvektoren von A T A, de σ 2 (und de n p Nullen) Egenwerte von A T A. 2. Schrtt: Av = σ u und A T u = σ v, = 1(1)p. 5.4 Pseudonverse Hat A R m n de Sngulärwertzerlegung A = U Σ V T und den Rang r, so heßt A := V Σ U T R n m (ene) Pseudonverse von A. ( ) Σ 1 := dag σ 1,..., 1 σ r, 0,...,0 p r A = U r Σ r V T r und A = V r Σ 1 r U T r mt U r := (u 1,...,u r ) R m r, Σ r := dag(σ 1,...,σ r ) R r r und V r := (v 1,...,v r ) R n r. A b st nach Konstrukton de endeutg bestmmte Lösung mnmaler 2-Norm der Aufgabe mn x Ax b 2 unabhängg davon, ob Ax = b lösbar st oder ncht