Mitschrift von Höhere Mathematik 4, Sommer 203, Prof. Ulbrich Benedict Simlinger, published by http://latex4ei.de/ July 6, 203 Inhaltsverzeichnis Gewöhnliche DGL 3. nichtlineare DGL erster Ordnung.................. 3.. DGL mit getrennten Variablen............... 3..2 Existenz- und Eindeutigkeitssätze für AWP........ 5.2 DGLn n-ter Ordnung......................... 0.2. Rückführung auf ein System erster Ordnung........ 0.2.2 Lineare DGLn n-ter Ordnung mit konstanten Koeffizienten 2.3 Die homogene DGL n-ter Ordnung................. 2.4 Die inhomogene lineare DGL n-ter Ordnung............ 4.5 Lineare DGLn n-ter Ordnung via Laplace-Transformation.... 6 2 Numerik und Optimierung 9 2. Grundlange der Numerik gewönlicher DGLn............ 9 2.. Problemstellung....................... 9 2..2 Grundidee numerischer Verfahren für AWP........ 20 2..3 Kurzer Einschub über numerische Integration....... 23 2..4 wichtige Einschrittverfahren................. 27 2..5 Konvergenz und Konsistenz................. 30 2..6 Explizite Runge-Kutta-Verfahren.............. 34 2..7 Bermerkungen........................ 37 2..8 Steife Differentialgelichungen................ 37 2..9 Implizite Runge-Kutta-Verfahren.............. 45 2.2 Lösung nichtlinearer Gleichungssystem............... 46 2.2. Fixpunktiteration und Fixpunktsatz von Banach..... 47 2.2.2 Das Newtonverfahren für nicht-lineare Gleichungssysteme 55 2.2.3 Ausgleichsprobleme..................... 60 2.3 Grundlagen zur Optimierung.................... 66 2.3. Schrittweitenregel...................... 68 2.3.2 Berechnung von Abstiegsrichtungen, Winkelbedingungen. 69 2.3.3 Ein globaler Konvergenzsatz................. 75 2.3.4 Globalisiertes Newton-Verfahren.............. 75 2.3.5 Globalisierung des Newtonverfahrens für Gleichungssysteme 76
3 Komplexe Funktionen 76 3. Potenzreihen in C.......................... 77 3.2 Komplexe Differenzierbarkeit.................... 77 3.2. Zusammenhang mit der reellen Differenzierbarkeit.... 80 3.3 Komplexe Kurvenintegrale...................... 84 3.4 Der Integralsatz von Cauchy..................... 87 3.5 Cauchy Integralformel........................ 92 3.6 Anwednungen der Cauchy-Integralformel.............. 96 3.6. Taylor-Entwicklung...................... 96 3.6.2 Identitätssatz......................... 97 3.6.3 Weiter Eigenschaften holomorpher Funktionen...... 98 3.7 Laurentreihen............................. 99 4 Indices 02 4. Liste aller Definitionen........................ 02 4.2 Liste aller Sätze............................ 03 4.3 Liste aller Beispiele.......................... 03 2
Gewöhnliche DGL. nichtlineare DGL erster Ordnung Eine nichtlineare DGL hat die Form y (x) = f(x, y(x)) () x I R f(x, y) I R R und gesucht wird ein y(x), I R welches diese Gelichung erfüllt, wobei f(x, y) mindestens stetig sein muss. Ein Anfangswertproblem (AWP) liegt vor, wenn eine DGL und deren Anfangswerte y(x 0 ) = y 0 gegeben ist. Bei solchen AWPs stellt sich die Frage nach Existenz Eindeutigkeit Lösungsweg.. DGL mit getrennten Variablen DGLs mit trennbaren Variablen haben die Form y (x) = f(x) g(y(x)) (2) Mit einer formalen Taschenspielerei trennt man die Variablen g(y(x)) 0 y(x) = f(x) g(y(x)) dy dx = f(x) g(y(x)) dy g(y(x)) = f(x)dx Wenn man nun statt g(y(x)) schreibt g(y) sieht man, dass alles was mit y zu tun hat, links steht, und alles was mit x zu tun hat, rechts steht. Weiter geht es mit g(y(x)) dy } {{ } G(y) = G(y) F (x) = c f(x)dx +c } {{ } F (x) Die Integrale ausrechnen und eine Umformung nach y führen dann zur Lösung, wobei die Konstante c die Integrationskonstante ist, die sich aus den Anfangswerten berechnet, wie wir später sehen werden. Für den Fall g(y 0 ) = 0 gilt g(y 0 ) = 0 y = y 0 (3) 3
Sind die Anfangswerte gegeben, so gilt G(y) = F (x) = y y 0 x g(η) dη x 0 f(ξ)dξ als die Lösung des Problems. Beachte, dass hier keine Integrationskonstanten mehr vorkommen! Satz (Existenz- und Eindeutigkeitssatz für trennbare DGL) und es gilt Sei f ini x = {x a x b}stetig, x 0 I x, und g in I y = {y a y b}stetig, y 0 I y dann besitzt das AWP entweder g(y 0 ) 0 oder g(y 0 ) = 0 mit g(y) L y y 0 y = f(x) g(y) in der Umgebung von x 0 eine eindeutige Lösung. Beispiel (y = xy) Für y = 0 Für y 0 y = x }{{} f(x) y }{{} g(y) g(y) = g(0) = 0 y = 0 y(t) = const. G(y) = g(y) = dy = F (x) = y ln y = x2 2 + c y = e x2 /2+c y = e x2 /2 } {{ } }{{} e c >0 >0 xdx + c y = ±c }{{} 2 e x2 /2, c 2 R 0 4
Beispiel 2 (y = 2xy 2 + 2x) Gegeben ist y(0) = y 0 =, x 0 = 0 und y = }{{} 2x (y 2 + ) } {{ } f(x) g(y) Da es von g(y) keine Nullstellen gbt, gibt es auch keine spezielle konstante Lösung. G(y) = y y 0 z 2 dz = F (x) = + arctan(y) arctan() } {{ } π 2 arctan(y) π 4 = x 2 = x 2 x y = tan(x 2 + π 4 ) x 0 2sds Beispiel 3 (y = y 2 ) Für y(0) = y 0 = 0 ergibt sich die konstante Lösung y = 0 Für y(0) = y 0 0 gilt mit f(x) =, g(y) = y 2, x 0 = 0 y y 0 z 2 dz } {{ } G(y) = x ds 0 } {{ } F (x) y + y 0 = x y = y 0 y 0 x, x y 0..2 Existenz- und Eindeutigkeitssätze für AWP Beispiel 4 (y = + y 2 ) y 0 + z 2 dz = arctan(y) = x x 0 ds y(x) = tan(x) Allerdings gilt diese Lösung nur solange x ( π 2, π 2 ) Das obige Beispiel zeigt, dass Lösungen auf gewissen Umgebungen, wie in diesem Fall π 2 x π 2 begrenzt werden müssen. Beispiel 5 (y = y ) y = y = y 2, y(x 0 ) = 0 Für y(x) = 0 ist die konstante Lösung sofort erkennbar. 5
Für y > 0 y 2 dy = dx 2y 2 = x + c ( x + c y(x) = 2 ( x x0 y(x 0)=0 y(x) = 2 ) 2 ) 2 = 4 (x x 0) 2 Für y < 0 ergibt sich analog 4 (x x 0) 2 Durch jeden Punkt (x 0, 0) verlaufen also mehrere Lösungen y(x) = 0 4 (x x 0) 2 für y > 0 4 (x x 0) 2 für y < 0 Wir sehen, es gibt in keinem Punkt der x-achse eine eindeutige Lösung, da sich die obigen Varianten beliebig kombinieren lassen. Da die Wurzelfunktion nicht lipschitzstetig ist (d.h. die Steigung der Funktion ist nicht durch eine Konstante beschränkt) kommt es in diesem Beispiel zur Nicht- Eindeutigkeit der Lösung. Definition (Lipstetigkeit und Lokale Lipstetigkeit) Sei G R 2 ein Gebiet und f : G R f ist lipschitzstetig bezüglich y wenn es eine Konstante L 0 gibt, so dass f(x, y ) f(x, y 2 ) L y y 2 (x, y ), (x, y 2 ) G f ist lokal lipstetig bezüglich y, wenn es in jedem Punkt von G eine Umgebung U gibt, so dass f lokal lipschitzstetig bezüglich y in G U ist Satz 2 (Aus Stetigkeit folgt lokale Lipstetigkeit) Ist y f stetig auf G, dann ist f lokal lipstetig bezüglich y auf G. Dies folgt aus f(x, y 2 ) f(x, y ) = y 2 y y f(x, y)dy < L y 2 y falls y f(x, y) L y [y, y 2 ] Beispiel 6 (f(x, y) = y ) f ist global lipstetig bezüglich y mit L = 6
Beispiel 7 (f(x, y) = x + x 2 y 2 ) f(x, y ) f(x, y 2 ) = x 2 y 2 y 2 2 = x 2 y + y 2 y + y 2 L y y 2 (x, y i ) mit x 2 y + y 2 L Dieses Beispiel ist nur lokal lipstetig, da für x oder L y i Übrigens hätten wir mit dem vorherigen Kriterium die Stetigkeit von f(x, y) = 2x 2 y gesehen und damit die lokale Lipstetigkeit gesehen. Beispiel 8 (f(x, y) = y ) Wir sehen uns die Funktion in der Umgebung von y = 0 an y = 0 und prüfen auf Lipstetigkeit f(x, y ) f(x, y 2 ) L y 2 y f(x, y ) f(x, y 2 ) y 2 y L Anmerkung: Man beachte, dass wir mit der obigen Formel prüfen, ob die Steigung einer Funktion durch einen Wert L begrenzt wird. 0 { }} { f(x, y ) f(x, y 2 ) y 2 y }{{} 0 y2 y 2 y2 L L L y 2 0 L Es gibt keine lokale Lipstetigkeit, denn die Steigung der Wurzelfunktion am Punkt Null ist unendlich. Anmerkung: Aus lokaler lipstetigkeit folgen Aussagen über Existenz und 7
Eindeutigkeit. Satz 3 (Eindeutigkeit von Lösungen) Sei f auf dem Gebiet G R 2 stetig und erfüllt lokale Lipstetigkeit bezüglich y auf G. Dann gibt es zu jedem (x 0, y 0 ) G für das AWP y = f(x, y), y(x 0 ) = y 0 eine eindeutige Lösungskruve y(x) die beidseitige dem Rand von G beliebig nahe kommt. Der Beweis wird über die Picarditeration (eine Form der Fixpunktiteration) geführt. Dazu formt man das AWP um x y (x) = f(x, y(x)) x 0 y (s)ds = y(x) y(x 0 ) = x x 0 f(s, y(s))ds x y(x) = y 0 x 0 f(s, y(s))ds }{{} y(x 0) + x x 0 f(s, y(s))ds Nun führt man die Picarditeration nach folgendem Muster durch : Wähle y 0, bestimme F (y 0 ) = y, F (y ) = y 2, u.s.w. y 0 (x) = y 0 y k (x) = y 0 + x x 0 f(s, y k (s))ds, k =, 2, 3,... Beispiel 9 (y = 2xy Lösung über Separation der Variablen) y = 2xy, y( }{{} 0 ) = }{{} x 0 y(x) = e x2 y 0 8
Beispiel 0 (y = 2xy, Lösung über Picarditeration) y 0 (x) = y (x) = + y 2 (x) = + y 3 (x) = + y 4 (x) = + x 0 x 0 x 0 x 0 2s ds = + x 2 2s ( + s 2) ds = + x 2 + 2 x4 2s ( + s 2 + 2 ) s4 ds = + x 2 + 2 x4 + 6 x6 2s ( + x 2 + 2 x4 + 6 ) x6 ds = + x 2 + 2 x4 + 6 x6 + 24 x8. y n (x) = n k=0 x 2k k! n e x2 Das Ergebnis ist offensichtlich das Gleiche. Der Vollständigkeit halber müssten man noch die Aussage per vollsändiger Induktion überprüfen. Nun stellt sich noch die Frage: Wie stark hängt die Lösung von den Anfagnswerten ab? Satz 4 (stetige Abhängigkeit von Anfangswerten) Erfüllt die stetige Funktion f(x, y) auf den Gebiet G R die Lipschitzbedingung bezüglich y, dann gilt für je zwei in G verlaufende Lösungen y (x), y 2 (x) von y = f(x, y) die Abschätzung y (x) y 2 (x) } {{ } y (x 0 ) y 2 (x 0 ) } {{ } x x0 L x x e 0 Anmerkung: L ist die Lipschitzkonstante (die immer auf den worst case ausgelegt wird) Analog gilt dies auch für den mehrdimensionalen Fall. 9
Figure : Veranschaulichung der Abhängikeit von DGLen von Anfangswerten.2 DGLn n-ter Ordnung Wir betrachten die DGL n-ter Ordnung y (n) (x) = f(x, y(x), y (x),..., y (n ) (x)), n (4).2. Rückführung auf ein System erster Ordnung Die DGL n-ter Ordnung kann mit Hilfe von Hilfsfunktion in ein System erster Ordnung überführt werden. z (x) = y(x) z 2 (x) = y (x). z n (x) = y (n ) (x) 0
Klarerweise ergibt sich daraus auch z (x) = z 2 (x) z 2 (x) = z 3 (x) z n (x) = z n (x). z n(x) = f(x, z y (x), z 2 (x),..., z n (x) ) } {{ } } {{ } } {{ } y(x) y (x) y (n ) (x) Es gilt also z z 2 z 3 =. z n z 2 z 3 z 4. f(x, z (x),..., z n (x)) Löst z die DGL, dann gilt diese Lösung wegen z z 2 z 3 =. z n y y y. y (n ) = y y y (3). y (n) = y y y (3). f(x, y(x), y (x),..., y (n ) (x)) (5) (6) auch für y(x)! Der springende Punkt ist, die verschiedenen Ableitungen von y als unabhängige Gleichungen in z wahrzunehmen, auch wenn der Zusammenhang der verschiedenen z i über die Ableitungen erhalten bleibt. Durch diese Überfürhungs sieht man auch sehr schön, dass man für DGLn n-ter Ordnung auch n Anfangswerte braucht, wodurch sich ein AWP nun wie folgt schreibt Definition 2 (AWP n-ter Ordnung) y (n) (x) = f(x, y(x), y (x),..., y (n ) (x)) (7) y(x 0 ) = y 0 y (x 0 ) = y. y (n ) (x 0 ) = y n
.2.2 Lineare DGLn n-ter Ordnung mit konstanten Koeffizienten Wir betrachten mit diesem Wissen nun wieder die lineare DGL n-ter Ordnung (diesmal in Abhängigkeit von t wegen des engen Zusammenhangs mit LTIs) L[y] = a n y (n) + a n y (n ) +... + a y + a 0 y = b(t) (8) Wir bringen das System in die Form a n 0, a k R (9) y (n) = a n a n y (n )... a a n y a 0 a n y + b a n (0) Mit der Überführung in das Begelitsystem z (x) z 2 (x). = z n (x) z z 2.. z n z n = a0 a n y(x) y (x). y (n ) (x) 0 0... 0 0 0 0 0 0.. 0........... 0 0 0 0 0 a a n a2 a n... an 2 a n an a n z z 2.. z n z n () 0 0 +. (2) Das Begleitsystem hat also die Form z = Az + b. Man kann nun die Lösungstheorie von lin. DGL-Systeme erster Ordnung anwenden. Es gilt wie bereits festgestellt: Ist y die Lösung der DGL z ist Lösung des Begleitsystems.3 Die homogene DGL n-ter Ordnung Homogene DGLn n-ter Ordnung lassen sich wie folgt darstellen L[y] = a n y (n) + a n y (n ) +... + a y + a 0 y = 0 (3) Das charakteristische Polynom einer solchen DGL lautet P (λ) = a n λ n + a n λ n +... + a λ + a 0 (4) Die Nullstellen λ,..., λ n C des char. Polynom mit den jeweiligen Vielfachheiten k,..., k r (wobei k +... + k r = n) stellen gleichzeitig die Eingenwerte der allgemeine Basislösung dar. Zum Eigenwert λ j mit Viefachheit k j bilden sich k j Basislösungen. 0 b a n e λjt, te λjt,..., t kj e λjt (5) Dies für j =,...r liefert ein komplettes System von Basislösungen für die homogene Gleichung. 2
Falls eine reelle Lösungsbasis gesucht ist gilt: λ j C\R i j : λ i = λ j (6) Was bedeutet diese Formel? Sie besagt, dass sich koplexe Eigenwerte bilden können, die aber immer in komplex-konjugierten Paaren auftreten, also zum Beispiel λ j = α j + iβ j und λ i = λ j = α j iβ j Wegen sind die Lösungsbasen Re[e λjt ] = e αjt cos(β j t) Im[e λjt ] = e αjt sin(β j t) λ j = α j + iβ j 0 l k j e αjt cos(β j t), te αjt cos(β j t), t 2 e αjt cos(β j t),... t kj e αjt cos(β j t) e αjt sin(β j t), te αjt sin(β j t), t 2 e αjt sin(β j t),... t kj e αjt sin(β j t) Beispiel (L(y) = y 2y + y) a 2 =, a = 2, a 0 = Das charakteristische Polynom lautet also Daraus folgt System von Basislösungen P (s) = s 2 2s + = (s ) 2 λ =, k = 2 (7) e λt, te λt e t, te t Wiederholung Homogene DGL n-ter Ordung L[y] = 0 L[y] = a n y (n) + a n y (n ) +... + a y + a 0 y (8) Es folgt eine Zusammenfassung des zuvor besprochenen Lösungsweges:. Bestimme char. Polynom P und dessen Nullestellen λ,..., λ r mit Vielfachkeiten k,..., k r 2. Basislösungen zu λ j : e λjt, te λjt,..., t kj e λjt Dies liefert ein System von n Basislösungen 3. ggf. reell machen 3
(a) λ j R e λjt, te λjt,..., t kj e λjt sind bereits reell (b) λ j, λ i = λ j konjugiert-komplexe Nullstellenpaare (λ j / R) mit λ j = α j + iβ j zu e αjt (cos(β j t) + sin(β j t)) te αjt (cos(β j t) + sin(β j t)),..., t kj e αjt (cos(β j t) + sin(β j t)) Das ist ein reelles Sytem von Basislösungen in y (t),..., y n (t) 4. Allgemeine homogene Lösung: c y (t) +... + c n y n (t) mit c j R 5. ggf. Anfangswerte y(t 0 ) = y 0, y (t 0 ) = y..., y (n ) (t 0 ) = y n erfüllen Beispiel 2 (L[y] = y + 4y ) L[y] = y + 4y und a 3 =, a 2 = 0, a = 4, a 0 = 0 P (s) = s 3 + 4s = s(s 2 + 4) = s(s 2i)(s + 2i) λ = 0, λ 2 = 2i, λ 3 = 2i = λ 2 mit k = k 2 = k 3 = Basislösungen: e 0t =, e 2it, e 2it reelle Basislösungen:, cos(2t), sin(2t).4 Die inhomogene lineare DGL n-ter Ordnung Wir betrachten L[y] = a n y (n) +... + a y + a 0 y = b Gesucht ist eine partikuläre Lösung y p aus der sich die allgemeine inhomogene Lösung durch y(t) = y p (t) + c y (t) +... + c n y n (t) ergibt, wobei der zweite Teil die allgemeine homogene Lösung ist. y,..., y n ein System von Basislösungen, dann ist Bilden 4
Z(t) = y (t) y 2 (t)... y n (t) y (t) y 2(t)... y n(t). y (n ) (t) y (n )... 2 (t)... y n (n ) (t) die Fundamentallösung des Begleitsystems z = Az Partikuläre Lösung von z = Az + a, wobei durch Variation der Konstanten mit Vorwissen von früher a = (0, 0,..., b a n ) T z p (t) = Z(t)c(t) Z(t)c (t) = a auflösen ergibt c(t) und daraus y p (t) (ist die erste Komponente von z p (t)) Beispiel 3 (y 2y + y = 3e 2t ) L[y] = y 2y + y, b(t) = 3e 2t Inhomogene DGL: L[y] = 3e 2t System homogener Basislösungen (sieh früheres Bsp): y (t) = e t y 2 = te t Z(t) = = ( ) y (t) y 2 (t) y (t) y 2(t) ( ) e t te t e t ( + t)e t = e t ( t + t ) und a(t) = ( ) ( ) 0 0 b(t) = a 2 3e 2t 5
Variation der Konstanten: Z(t)c (t) = a(t) ( ) ( ) ( ) e t t c 0 + t c = 2 3e 2t ( ) ( ) ( ) t c 0 + t c = 2 3e t ( ) ( ) ( ) Gauss t c 0 = 0 3e t c 2 durch Integrieren c 2 = 3e t, c = tc 2 = 3te t c 2 = 3e t c = 3( t)e t Schlussendlich z p (t) = Z(t)c(t) erste Zeile y p (t) = c (t)y (t) + c 2 (t)y 2 (t) = 3( t)e t e t + 3e t te t = 3e 2t. In diesem Fall ist die Übereinstimmung mit der inhomogenität offensichtlich - das ist aber icht die Regel..5 Lineare DGLn n-ter Ordnung via Laplace-Transformation Wir betrachten das LTI b(t) LTI y(t) L[y]=b Figure 2: TODO: Is this image correct? mit Anfangswerten y(0+) = y 0,..., y (n ) (0+) = y n und der bereits bekannten AWP-Definition L[y] = a n y (n) +... + a 0 y = b(t), a n 0 6
Das 0+ soll verdeutlichen, dass wir uns nur im positiven Zeitbereich bewegen. Wir werde in Zukunft aber nur noch y(0) schreiben. Wir wenden die Laplace-Transformation an: y (n) (t) s n Y (s) s n y 0... sy n 2 y n y (n ) (t) s n Y (s) s n 2 y 0... y n 2. y Y (s) Hier: wobei das char. Polynom ist. daraus für k =,..., n P (s) = a n s n +... + a s + a 0 P (s) = a n s n +... + a 2 s + a P n (s) = a n s + a n P n (s) = a n P (s) = a n s n +... + a s + a 0 P k (s) = a n s n k +... + a k+ s + a k Rekursionsformel ( für k n ): P k (s) = sp l+ (s) + a k L[y] P (s)y (s) y 0 P (s)... y n P n (s) = B(s) gemeinsam mit Anfangswerten y(0) = y 0,..., y (n ) (0) = y n Y (s) = P (s) (B(s) + y 0P (s) +... + y n P n (s)) wobei P (s) = H(s) die Übertragunsfunktion ist und H(s) h(t) die Impulsantwort ist. 7
Beispiel 4 (Ungedämpfter Schwingkreis (LC-Glied)) L[y] = y + ω 2 y, ω = LC P (s) = s 2 + ω 2, H(s) = s 2 +ω h(t) = 2 ω sin(ωt) P (s) = a 2 s + a = s P 2 (s) = a 2 = Definition 3 (Eigenschaften von h(t)) (zero input) Lösung des AWP: h(t) ist die eindeutige L[h] = 0, h(0) = 0,..., h (n 2) (0) = 0, h (n ) (0) = a n h(t) ist eindeutige (zero input) Lösung von Begründung: L[h] = δ, h(0) = 0,..., h (n ) (0) = 0 y löst das AWP L[y] = b, y(0) = y 0,..., y (n ) (0) = y n Y (s) = H(s)[B(s) + y 0 P (s) +... + y n P n (s)] h(t) löst AWP B(s) + y 0 P (s) +... + y n P n (s) = Fall a) B(s) = 0, y 0 =... = y n 2 = 0, y n = a n B(s) + y 0 P (s) +... + y n P n (s) = a n P n (s) = a n a n = Fall b) alle y i = 0, B(s) = L(δ) = B(s) + y 0 P +... + y n P (n) = B(s) = L[y] = b, y(0) = y 0,..., y (n ) (0) = y n Laplacetransformation y(t) Y (s) Lösung des AWP im Laplaceraum Y (s) = H(s)(B(s) + y 0 P (s) +... + y n P n (s)) auflösen der Klammer und sumandenweises rücktransformieren ergibt y(t) = (h b)(t) + y 0 h (t) +... + y n h n (t) mit (siehe später): h k (t) = a n h n k (t) +... + a k h(t), K =, 2,..., n Rekursionsformel: h k (t) = h k+ (t) + a kh(t) Interpretation: h b ist die zero state Lösung zum Input b (d.h. y p = h b löst L[y p ] = b, y p (0) = 0,..., y p (n ) (0) = 0) h k löst L[h k ] = 0, h k (0) = 0,..., h (k ) k (0) = 0 Begründung der Formel für die h k : H(s) P n (s) an h(t) = h n (t) } {{ } a n Induktionsschritt k + k: 8
H(s)P k (s) = H(s)(sP k+ (s)+a k ) wird transformiert mit HP k+ kk+, h k+ (0) = 0 zu k k+ (t) + a kh(t) = Inktionsvorasussetzung = (a n h n k+ +... + a k+ h) + a k h = a n h n k +... + a k+ h + a k h Die Laplacetransformation liefter eine vollständige Darstellung der Lösung des inhomogenen Anfangswertproblems. 2 Numerik und Optimierung Die Numerik entwickelt und analysiert Verfahren zur approximativen Lösung kontinuierlicher Probleme auf dem Computer. 2. Grundlange der Numerik gewönlicher DGLn 2.. Problemstellung Ziel ist die approximative Lösung des AWP (mit Informationen und Kontrolle über die Genauigkeit) y (t) = f(t, y(t)) (9) gesucht gegeben t [a, b], y(a) = y(t 0 ) = y 0 y : [a, b] R y 0 R n, f : [a, b] R n R n In vielen Anwendungen sind die entehenedne DGLn viel zu komplex um sie mit Lösungsformeln behandeln zu können. Z.B. Fahrdynamik, Roboterdynamik, Planetenbewegungen, Reaktionskinetik, Schaltkreissimulation können nur approximativ auf dem Computer gelöst werden und nicht in Formeln. Wichtige äquivalente Formulierung (durch Integration) des AWPs als Fixpunktgleichung: y(t) = y 0 + t a f(s, y(s))ds (20) AWP: y (t) = f(t, y(t)) auf [a, b], y(a) = y 0 Zur einfacheren Notation betrachten wir im Folgenden den skalaren Fall n =, d.h. y R der sich aber auf m > erweitern lässt. 9
2..2 Grundidee numerischer Verfahren für AWP Figure 3: Der Zeitraum, in dem die DGL gelöstwerden soll, wird durch Knoten in Intervalle unterteilt. Knoten: t i = a + jh, 0 j N, N = Anzahl Maschen, Schrittweite h = b a N Wir betrachten hierzu die Integralgleichung für y(t) auf [t j, t j+ ] tj+ tj+ y(t j+j ) = y(t j ) + y (t)dt = y(t j ) + f(t, y(t))dt t j t j f(t, y(t)) ist unbekannt, weil y(t) unbekannt ist. Also muss das Integral approximiert werden. Durch die Apprximation des Integrals (durch Interpolation bzw. Approximation) berechnen wir die Näherung der Lösung y j y(t j ), j = 0,... N Durch die Approximation kommt es zum sogenannten Diskretisierungsfehler, mit dem wir uns später noch ausführlicher befassen werden. Definition 4 (Disktretisierungsfehler e j ) Der Diskretisierungsfehler e j berechnet sich durch e j = y(t j ) y j Je nach Approximation des Integrals ergeben sich verschieden Verfahren, wobei wir nur Einschrittverfahren betrachten. 20
Definition 5 (Einschrittverfahren) Bei einem Einschrittverfahren basiert die Berechnung von y j+ im expliziten Fall nur auf den Werten von y j im impliziten Fall nur auf den Werten von y j und y j+ Sobald Werte y j 2 oder Werte die noch weiter in der Vergangenheit liegen berücksichtigt werden, spricht man von einem Zwei- bzw. Mehrschrittverfahren. Beim Euler Verfahren macht man folgende Kette von Approximationen: tj+ t j f(t, y(t))dt tj+ t j f(t j, y(t j ))dt h f(t j, y(t j )) h f(t j, y j ) Anmerkung: Hier haben wir die Rechtechformel angewendet: t j+ t j g(t)dt h g(t j ) Für Abschätzungen des Integrationsfehlers muss g(t) hinreichend glatt sein und h hinreichend klein sein. Figure 4: Blauer Bereich ist der Integrationsfehler. Der rote Bereich ist das Ergebnis der numerische Integration mit der Rechtecksapproximation und die Summe von rotem und blauben Bereich ist das Ergebnis der exakten Integration 2
Definition 6 (explizites Eulerverfahren) y j+ = y j + hf(t j, y j ), j = 0,..., N Interpretation: Da f(t j, y j ) = y (t j ) können wir für die Berechnung von y j+ einfach der Tangente durch y j mit der Steigung f(t j, y j ) folgen. Das tun wir solange, bis wir beim Zeitpunkt t j+ ankommen, was dem Zeitintervall h entspricht. Also wie bereits definiert y j +h f(t j, y j ) = y j+ Ein weiteres auf der Rechteckregel basierendes Verfahren ist das implizite Eulerverfahren. Hier wird f(t j+, y j+ ) für die Approximation genutzt. Wir benutzen also den rechten Wert bei t j+ für die Berechnung des Integrals. Definition 7 (implizites Eulerverfahren) y j+ = y j + hf(t j+, y j+ ), j = 0,..., N Anmerkung: Wer sich fragt, warum man überhaupt das implizite Eulerverfahren benutzen will, obwohl das explizite Eulerverfahren einfacher anzuwenden ist möge einen Blick auf Wikipedia werfen. Sinngemäß steht dort, dass das implizite Eulerverfahren ein größeres Stabilitätsgebiet hat. Figure 5: der hellrote Bereich ist der Integrationsfehler. Der rote Bereich ist das Ergebnis der numerische Integration durch das Rechteckverfahren mit dem Wert bei t j+ als Stützstelle und der dunkelrote Bereich ist das Ergebnis der exakten Integration 22
Hier noch eine alternative Darstellung der Integrationsverfahren (nicht Teil der Vorlesung) Figure 6: Die Approximation durch den expliziten Euler ist in rot gehalten. Die Representation des impliziten Eulers ist blau. Der Grundgedanke beider Verfahren ist es, mit der Steigung f(t i, y i ) am Punkt t t bzw t t+ den Wert y t+ zu approximieren. Es ist offensichtlich, dass diese Approximationen nie dem genauen Wert von y t+ (in schwarz geschrieben) erreichen werden, es sei denn y(t) ist linear. 2..3 Kurzer Einschub über numerische Integration Wir benötigen genauere Verfrahen als die Rechteckregel. Aufgabenstellung: Approximieren x+h x g(t)dt x = t j, g(t) = f(t, y(t)) und g ausreichend glatt. Gängiger Ansatz: Lege ein Gitter über [x, x + h] mit m Maschen und maschenweite = h m und benutze die Werte von g in den Gitterpunkten x + k, 0 k m 23
wobei Ansatz: x+h x g(t)dt h m w k g(x + k ) k=0 w k R, w k > 0 die Gewichtung der zugehörigen Stützstelle g(x+k ) ist. (Anmerkung: Es wäre rein theoretisch möglich auch negative Gewichtungen zu benutzen, das ist aber nicht erwünscht.) Je nach Wahl von m und w k erhalten wir unterschiedliche Integrationsformeln. Der Ansatz erhält wichtige Eigenschaften des Integrals, insbesondere die Linearität λ g + λ 2 g 2 dt = λ g dt + λ 2 g 2 dt die sich inder numerischen Quadraturformel wie folgt überträgt m λ g (x + k ) + λ 2 g 2 (x + k ) = λ k=0 m k=0 g (x + k ) + λ 2 m k=0 g 2 (x + k ) Wir wollen nun Polynome möglichst hohen Grade mit dieser Quadraturformel exakt integrieren. Wegen der Linearität der Formeln genügt es, eine Basis von Polynomen, etwas, t, t 2,..., t q zu benutzen, um ein Polynom vom Grad q zu integrieren. Um einfachere Formeln zu erhalten, benutzen wir im Folgenden die Basis, t x, (t x) 2,..., (t x) q Für g(t) = t x x+h x (t x)dt = (t x)2 2 x+h = h2 x Allgemein für g(t) = (t x) q, q N 0 2 m k=0! kw k = h2 2 h = h = h m = m 2 2 x+h x h k=0 (t x) q dt = m k=0 (t x)q+ q + w k (k ) q! = hq+ q + m k q h q w k = (q + ) q m k q w k = mq q + k=0 Für die numerische Integration x+h x g(t)dt h x+h x = h m = mq q + = hq+ q + m ω k g(x + k ), = h m k=0 24
gilt also g(t) = (t x) q wird exact integrert m k q ω k = k=0 mq q + } {{ } lineare Gleichungen für ω k Es gibt zwei Mögliche Vorgehensweisen zur Bestimmung der w k, q = 0,, 2,... Wähle m und bestimme die ω k aus den Gleichungen für q = 0,..., m Wähle m, interpoliere (x, g(x)), (x +, g(x + )),..., (x + h, g(x + h)) durch ein Polynom p m m-ten Grades und verwende x+h x g(t)dt x+h x p m (t)dt Beispiel 5 (Bestimmung der Gewicht ω k bei m = ) m = ω 0, ω Ersten Vorgehensweise! q = 0: ω 0 + ω =! q = : 0 ω 0 + ω = 2 ω = 2 ω 2 = 2 Dies liefert die bekannte Trapezregel: x+h x g(t)dt h g(x) + g(x + h) 2 Die Bedingung für q = 2 wird nicht mehr erfüllt 0 2 ω 0 + 2 ω = 2 3 Zweite Vorgehensweise: wir interpolieren (x, g(x)) und (x+h, g(x+h)) durch ein Polynom ersten Grades (das ist eine Gerade) und integrieren g (t) = g(x) + g(x + h) g(x) (t x) h 25
x+h x g (t)dt = hg(x) + = hg(x) + = h 2 }{{} =ω 0 g(x + h) g(x) h g(x + h) g(x) h 2 h 2 g(x) + 2 }{{} =ω [ (t x) 2 2 g(x + h) ] x+h x Beispiel 6 (Bestimmung der Gewicht ω k bei m = 2) Wir wählen m = 2, ω 0 = 0, ω =, ω 2 = 0 Prüfen der Gleichungen: q = 0: 0 + + 0 = q = : 0 0 + + 2 0 = = 2 2 q = 2: 0 2 0 + 2 + 2 2 0 = 4 3 nicht mehr erfüllt Wir erhalten hier die Mittelpunktsregel x+h x g(t) h g(x + h 2 ) Mit der Mittelpunktregel sind wir also genau so gut wie mit der Trapezregel, müssen aber nur an einem Punkt auswerten. Definition 8 (Ordnung eines Integrationsverfahrens) Ein Integrationsverfahren hat die Ordnung p N, falls gilt: x+h mit h 0 für g C x g(t)dt h m ω k g(x + k ) = O(h p+ ) k=0 Man erhält folgende gängien Integrationsrechgeln: m Name Gewichtungen Ordnung Fehler Trapezregel 2, 2 2 O(h 3 ) 2 Simpsonregel 6, 4 6, 6 4 O(h 5 ) 3 3/8-Regel 8, 3 8, 3 8, 8 4 O(h 5 ) 7 4 Milne-Regel 90, 32 90, 2 90, 32 90, 7 90 6 O(h 7 ) Für m 7 treten negative Gewichte auf und die Formeln werden numerisch ungünstig. Bemerkung: Es besteht ein enger Zusammenhang zwischen dem Maximalgrad, für den Polynome von einem Integrationsverfahren exakt integriert werden 26
und der Ordnung des Verfahrens: Sei das Verfahren exakt für alle Polynome vom Grad p, d.h. obige Bedingungen gelten für q = 0,..., p. Ist nun g C p ([x, x + h]) dann gilt mit Taylor-Entwicklung für t [x, x + h]: g(t) = p l=0 l! g(l) (x)(t x) l + R(t), R(t) = p! g(p) (τ)(t x) p wobei τ [x, t] geeigent ist. Ist C eine Oberschranke von g (p) /p! auf [x, x + h], dann gilt R(t) C t x p Ch p für alle t [x, x + h]. Da das Polynom g(t) R(t) exakt integriert wird, folgt x+h x g(t)dt h m ω k g(x + k ) = k=0 x+h d.h. das Verfahren hat mindestens Ordnung p 2..4 wichtige Einschrittverfahren Ausgangspunkt für alle Einschrittverfahren ist x R(t)dt h m ω k R(x + k ) 2Chp+ k=0 y(t j+ ) = y(t j ) } {{ } tj+ + t j y j f(s, y(s))ds } {{ } to be approximated (2) Mit der Trapezregel zum Beispiel, wird das Integral mit tj+ t j f(t, y(t))dt h f(t j, y(t j )) + f(t j+, y(t j+)) 2 (22) approximiert. 27
Figure 7: Der blaue Bereich ist das Ergebnis der exakten Integration. Die durchsichtig-rot darübergelegte rote Fläche repräsentiert die Integration nach der Trapezregel. Definition 9 (Trapezregel) y j+ = y j + h 2 (f(t j, y j ) + f(t j+, y j+ )) Das Trapezverfahren ist ein implizites Verfahren, was für die praktische Anwendung ein Nachteil ist. Die numerische Approximation f(t j, y(t j )) f(t j, y j ) (23) ist naheliegend. Wir müssen uns also noch Gedanken über die numerische Approximation von y(t j+ ) machen. a) y(t j+ ) y j+ Trapezverfahren y j+ = y j + h f(tj,yj)+f(tj+,yj+) 2 diese Verfahren ist IMPLIZIT (y j+ kommt rechts vor) b) y j+ y j + h f(t j, y j ) ist das Ergebnis des expliziten Eulerverfarhen, ausgedrückt durch y j Verfahren von Heun y j+ = y j + h f(tj,yj)+f(tj+,yj+h f(tj,yj)) 2 Definition 0 (Das Verfahren von Heun) y j+ = y j + h f(tj,yj)+f(tj+,yj+h f(tj,yj)) 2 Oder anders ausgedrückt (bekannt als erstes Runge-Kutta-Verfahren zweiter Ordnung) 28
y j+ = y j + h 2 (k + k 2 ) k = f(t j, y j ) k 2 = f(t j+, y j + hk ) Das Verfahren von Heun basierst auf der Trapezregel, wobei y y+ durch das explizite Eulerverfahren approximiert wird! Weiteres Verfahren durch Mittelpunktregel tj+ t j f(t, y(t))dt h f(t j + h 2, y(t j + h 2 )) h }{{} h f(t j + 2, y j + h 2 f(t j, y j )) y(t j+ h 2 ) yj+ h 2 f(tj,yj) Somit modifiziertes EulerVerfahren y tj+ = y j + h f(t j + h 2, y j + h 2 f(t j, y j )) Definition (Modifiziertes Eulerverfahren) y j+ = y j + h f(t j + h 2, y j + h 2 f(t j, y j )) (bekannt als zweites Runge-Kutta-Verfahren zweiter Ordnung) y j+ = y j + hk 2 mit k = f(t j, y j ), k 2 = f(t j + h/2, y j + (h/2)k ) Verwenden wir die Simpson-Regel Definition 2 (Simpsonregel) tj+ t j f(t, y(t))dt h 6 ( f(t j, y j ) + 4 f(t j + h 2, y(t j + h ) 2 )) + f(t j+, y j+ ) Das Simpsonverfahren ist ein implizites Verfahren, was für die praktische Anwendung ein Nachteil ist. und approximieren wir y(t j + 0.5 h) und y(t tj+) geeignet durch Taylorentwicklung, dann erhalten wir das wichtige Runge-Kutta-Verfahren (RK4) 29
Definition 3 (Das Runge-Kutta-Verfahren vierter Ordnung (RK4)) y j+ = y j + h 6 (k + 2k 2 + 2k 3 + k 4 ) (24) k = f(t j, y j ) k 2 = f(t j + h 2, y j + h 2 k ) k 3 = f(t j + h 2, y j + h 2 k 2) k 4 = f(t j+, y j + h k 3 ) Man beachte, dass die Gewichtungen denen des Simpsonverfahrens ähneln und auch tatsächlich mit diesen verwandt sind! Beobachteunge aus numerischen Beispielen in der Vorlesung: Verfahren Diskretisierungsfehler Euler O(h) Heun O(h 2 ) mod. Euler O(h 2 ) RK4 O(h 4 ) Im offiziellen Skript befinden sich noch zwei grössere Beispiel zur numerischen Berechnung von DGLs, die aber in der Vorlesung nicht behandelt wurden. Aber wie geht nun die mathematische Berechnung des Diskretisierungsfehlers? 2..5 Konvergenz und Konsistenz Vereinheitlichte Notation für Einschrittverfahren y j+ = y j + hφ(t j, h i y j ) (25) Definition 4 (Verfahrensfunktion von Einschrittverfahren) Die Funktion Φ(t, h, y) heisst Verfahrensfunktion Kann Φ explizit (d.h. formelmäßig) berechnet werden, dann ist das Verfahren emplizit, ansonsten implizit. 30
Beispiel 7 (Verfahrensfunktion des Eulerverfahren) y j+ = y j + h f(t j, y j ) Φ(t j, h, y j ) = f(t j, y j ) } {{ } Φ(t j,h,y j) Beispiel 8 (Verfahrensfunktion des Verfahren von Heun) y j+ = y j + h 2 (f(t j, y j ) + f(t j + h, y j + hf(t j, y j ))) } {{ } t j+ } {{ } hφ(t j,h,y j) Φ(t, h, y) = 2 (f(t, y) + f(t + h, y + hf(t, y))) Beispiel 9 (Verfahrensfunktion des mod. Euler) Φ(t, h, y) = f(t + h 2, y + h 2 f(t, y)) Beispiel 20 (Verfahrensfunktion des impliziten Euler) y j+ = y j + hf(t j + h, y j+ ) Φ(t j, h, y j ) = f(t j + h, y j+ ) = f(t j + h, y j + hφ(t j, h, y j )) Φ(t, h, y) ist implizit gegeben durch die Gleichung. Verfahren ein implizites Verfahren. Daher ist dieses Folgende abschätzbare Grösse ist eng verknüpft mit den nicht direkt abschetzbaren Diskretisierungsfehler Definition 5 (Konsistenzfehler eines Verfahrens) Der Ausdruck τ(t, h) = h (y(t + h) y(t) hφ(t, h, y(t))) mit y(t) = Loesung heisst lokaler Abbruchfehler oder Konsistenzfehler des Verfahren an der Stelle t Es gibt zwei Interpretationen von τ(t, h): τ(t, h) = h (Defekt bei Einsetzten der Lösung in die Verfahrensgelichung) τ(t, h) = Differenz der Sekantensteigung der Lösung auf [t, t + h] und der Sekantensteigung der numerischen Lösung Zur Veranschaulichung der zwei Interpretationen 3
Figure 8: Grün ist der Konsistenzfehler des Verfahrens. y ist die Lösung des numerischen Verfahrens, das von der echten Lösung an y(t + h) abweicht. Sekantensteigung der Lösung y y(t+h) y(t) h Sekantensteigung der num. Lösung y y(t) h = Φ(t, h, y(t)) Definition 6 (Konsistenzordnung eines Verfahrens) Das Verfahren mit Verfahrensfunktion Φ heisst konsistent von der Ordnung p N falls mit einer konstanten C > 0 gilt: τ(t, h) Ch p auf [a, b] für h hinreichend klein Definition 7 (Stabilität eines Verfahrens) Das Verfahren heisst stabil falls es auf K > 0 gibt mit Φ(t, h, y ) Φ(t, h, y 2 ) K y y 2 für alle t [a, b] und alle y, y 2 Definition 8 (Konvergenzordnung eines Verfahren) Das Verfahren heisst konvergent mit der Ordnung p, falls es M > 0 und H > 0 gibt mit e j = y(t j ) y j Mh p, j =,..., N auf alle N mit h = b a N H Bemerkung: Stabilität ist eine Lipschitzbedingung bezüglich y für Φ Diese folgt überlicherweise aus der Lipschitzstegikeit bezüglich y von f. Zentral ist folgender Satz 32
Satz 5 (Zusammenhang zwischen Konsistenzordnung und Konvergenzordnung) Ein stabiles, konsistentes Verfahren ist konvergent. Ist die Konsistenzordnung p, so ist auch die Konvergenzordnung p. Beispiel 2 (Konsistenzordnung des Eulerverfahren) f C ([a, b] R) mit y als Lösung von y = f(t, y) y ist C y ist c 2 Taylor y(t + h) y(t) = y (t) h + 2 y (t + 2 y (t + ψh)h 2 ψ h)h 2 = f(t, y(t))h + }{{} [0,]geeignet τ(t, h) = y(t+h) y(t) h Φ(t, h, y(t)) = 2 y (t + ψh) h = O(h) Konsistenzordung p = Konsistenzfehler τ(t, h) = y(t+h) y(t) h Φ(t, h, y(t)) Konsistenzordnung p, falls τ(t, h) = O(h p ), (h 0) Beispiel 22 (Modifiziertes Euler-Verfahren) Φ(t, h, y) = f(t+ h 2, y+ f(t, y)) h 2 y(t + h) T aylor um h=0 = y(t) + y (t)h + 2 y (t)h 2 + R 3=O(h 3 ) { }} { 6 y (t + ξ h)h 3 }{{} [0,] = y(t) + f(t, y(t))h + 2 (f t + f y f)h 2 + R 3 Φ(t, h, y(t)) = f(t + h 2, y(t) + h f(t, y(t))) 2 T aylor = f(t, y(t)) + f t h h τ(t, h) = = = ( 2 + f y f(t, y(t)) } {{ 2 } t,yf(t,y(t)) T h 2 h 2 f(t, y(t)) y(t + h) y(t) Φ(t, h, y(t)) h f + 2 f th + 2 f yfh + ( h R 3 f + f t 2 + f h y 2) 2 + R h R 3 R 2 = O(h 2 ) Konsistenzordnung mind p = 2 ) 33
Nebenrechung: f(t + }{{} s, y h 2 ( ) O s ( ) 2 d }{{} y(t) ( s + }{{} d ) = f(t, d) y)t h 2 f + Konsistenzordnung einiger Verfahren: Verfahren Konsistenzordnung Expl. Euler-Verf. Impl. Euler-Verf. Verf. von Heun 2 Mod. Euler 2 RK4 4 2..6 Explizite Runge-Kutta-Verfahren Explizite RK-Verfahren haben folgende Form: r-stufiges explizites Runge-Kutta-Verfahren: i k i = f(t + γ i h, y + α ij k j ), i =,..., r (26) j= Φ(t, h, y) = r β i k i (27) i= Bezeichnung: k i = k i (t, h, y) heist i-te Stufe. Kompakte Darstellung als Butcher-Schema γ 0 γ 2 α 2 0 γ 3 α 3 α 32 0......... γ r α r α r... α r,r 0 β β... β r β r Table : Man beachte, dass bei expliziten RK-Verfahren alle α ij auf der Diagonale und oberhalb davon gleich Null sind. Beispiel 23 (Butcher-Schema Expliziter Euler) r = 0 0 34
Beispiel 24 (Butcher-Schema Mod Euler) r = 2 0 0 2 2 0 0 Beispiel 25 (Butcher-Schema Von Heun) r = 2 0 0 0 2 2 Beispiel 26 (Butcher-Schema Trapezregel) r = 2 0 0 2 2 2 2 Beispiel 27 (Butcher-Schema RK4) r = 4 0 0 2 2 0 2 0 2 0 0 0 0 6 3 3 6 Anmerkung: Ein bisschen Wiederholung (die folgende Vorlesung wurde nicht von Prof. Ulbrich gehalten) Explizites Runge-Kutta-Verfahren (r-stufig) ϕ(t, h, y) = r β i k i i= i k i = f(t + γ i h, y + h α ij k j Im Butcherschema heisst das, dass alle α ij oberhalb der Diagonale gleich Null sind. j= 35
Beispiel 28 (Butcherschema für das Verfahren von Heun) Verfahren von Heun ϕ(t, h, y) = 2 (f(t, y) + f(t + h, y + f(t, y)))! = 2 k + 2 k 2 k = f(t, y) = f(t + 0 h, y) k 2 = f(t + h, y + hk ) = f(t + h, y + hk ) 0 0 0 2 2 Mit diesem Ansatz lassen sich RK-Verfahren beliebiger Konsistenzordnung p erzeugen. Man muss dafür die Stufenzahl r gross genug wählen (bis zur Stufe 4 ist der Verhältnis lienar, danach muss man immer mehr Stufen benutzen um die Konsistenzordnung zu verbessern) Satz 6 (Konsistenzordnung expliziter RK-Verfahren) Betrachte ein r-stufiges, explizites RKV mit γ i = r α ij, i =,..., r j= Es besitzt genau dann für jede rechte Seite f C p ([a, b] R) die Konsistenzordnung 36
p p 2 p 3 p 4 und und und und r β i = i= r β i γ i = 2 i= r β i γi 2 = 3 i= r α ij β i γ i = 6 i,j= r β i γi 3 = 4 i= r α ij β i γ i γ j = 8 i,j= r α ij β i γj 2 = 2 i,j= r i,j,k= α ij β i α ik γ k = 24 2..7 Bermerkungen Durch eine adaptive, zeitabhängige Wahl der Schrittweite h lässt sich der Aufwand der Verfahren stark verringern. Die Steuerung der Schrittweite erfordert eine Schätzung des lokalen Fehlers. Es gibt zwei Möglichkeiten:. Hierzu verwendet man ein Verfahren mit zwei unterschiedlichen Schrittweiten (z.b. h und h 2 ) und vergleicht das Resultat. 2. Man verwendet Verfahren unterschiedlicher Ordnung. 2..8 Steife Differentialgelichungen Steife DGLs kommen nur bei mehrdimensionalen Probleme vor. Der schnell fallende Teil der Lösung Lösung ist an sich für das Gesamtergebnis nicht wichtig, zwingt den numerischen Lösungsalgorithmus aber dazu, kleine Approximationsschritte zu machen. (Der aufmerksame Student bemerkt hier sofort die Parallelen zu Regelungssysteme, insbesondere Buss-Skript Kapitel 5.8) 37
Figure 9: Der schnell abklingende, rote Teil der Lösung spielt bei der Gesamtlösung kaum eine Rolle (mit zunehmendenm t verringert sich sein Anteil an der Lösung). Trotzdem zwingt die hohe Änderungsrate von y 2(t) zu kleinen Integrationsschritten. Ausgangsfunktion: y (t) = f(t, y(t)), t [a, b] y(0) = y 0 y R n, f : [a, b] R n R n, n > Der Begriff steifes DGL-System ist nicht einheitlich definiert, der wesentliche Punkt aller steifen DGL-System ist jedoch: die Lösung ist zusammengesetzte aus langsam veränderlichen Teilen (die meist Abklingen) und Teilen, die im Vergleich dazu schnell abklingen. Definition 9 (Steife eines Systems) Ein System heisst steif, wenn gewissen Anteile der Lösung sehr viel schneller abklingen als andere. Wichtiger Spezialfall: Lineare AWP y = Ay(t) + g(t), t [a, b], y(0) = y 0 A R n n, g : [a, b] R n, y : [a, b] R n 38
Sei A diagonalisierbar mit den Eigenwerten λ i und den Eigenvektoren v i. Mit einer partikulären Lösung y p (t) ist dann die allgemeine Lösung wobei y(t) = y h (t) + y p (t) y h (t) = n c i e λit v i Für den Fall Re{λ i } < 0, i =,..., n konvergiert e λit 0 (t ) i= y(t) (t ) y p (t) Hierbei klingen die Summanden in y h mit Re{λ i } << 0 sehr schnell ab und Summanden mit Re{λ i } < 0 deutlich langsamer ab. Gibt es also Eigenwerten mit Re{λ i } << 0 und Eigenwerte mit Re{λ i } < 0 (schwach negativer Realteil) so nennt man das DGL-System steif. Allgemeiner nichtlinearer Fall y = f(t, y): Ein nichtlineares DGL-System heisst steif (in einer Umgebung von (t, y)), wenn die Jakobimatrix von f Eigenwerte mit Re{λ i } << 0 und Re{λ i } < 0 besitzt. Problem an einem Bsp: Beispiel 29 (y = Ay) ( ) c + c y(0) = y 0 = 2 c c 2 A = 2 ( ) λ + λ 2 λ λ 2 mitλ λ λ 2 λ + λ 2 << λ < 0 2 λ, λ 2 sind Eigenwerten vona v = ( ) ( ) v 2 = y(t) = c e λt v + c 2 e λ2t v 2 Der zweite Termin spielt nach kürzester Zeit keine Rolle mehr. Der erste Term ist bestimmend und konvergiert für t gegen Null. Vin einem geeigneten Integrationsverfahren erwartet man, dass dieses Verhlaten ohne grosse Einschränkungen an der Schrittweite wiedergespiegelt wird y i 0(i ) Mit dem expliziten Euler (y 0 = c v + c 2 v 2 ) y j+ = y j + hay j = B(h)y j y j = B(h) j y 0 = c B(h) j v +c 2 B(h) j v 2 = c (+hλ ) j v +c 2 (+hλ 2 ) j v 2 39
Damit y j 0 muss +hλ < und +hλ 2 <, z.b. λ =, λ 2 = 000 + hλ = h < h < 2 + hλ 2 = 000h < h < 0.0002 Ein für steife DLG geeigentes Verfahren sollte hier für alle h < 2 y j 0 liefern Beispiel 30 (Nichtlinearer Fall) Gradientenfluss einer Potentialfunktion Die Rosenbrockfunktion Φ : R 2 R Φ(x) = 00(x 2 x 2 ) + ( x ) 2 Richtung des Steilsten Abstiegs Φ = f ( ) 400x (x f(x) = Φ(x) = 2 x 2 ) + 2( x ) 200(x 2 x 2 ) Weg x(t) Fluss des steilsten Abstiegs : x (t) = f(x(t)) Betrachte Jakobimatrix von f ( ) 400x2 200x Jf(x) = 2 2 400x 400x 200 Das Tal ist gegeben durch x 2 = x 2 Jacobimatrix im Tal durch einsetzten von x 2 = x 2 ( ) 800x 2 JF (x) = 400x 400x 200 Man berechne nun die Eigenwerte für verschieden (x, x 2 ) besonders in Nähe des Tals. Problem ist steif in der Nähe des Tals. Die homogene Lösung einer linearen AWP ist für diagonalisierbares A zusammengesetzt aus Linearkombinationen von e λit v i um Verfahren für steife DGL zu bewerten und zu analysieren, betrachtet man die folgende Modellgleichung (dahlquist sche Testgleichung) Definition 20 (Dahlquist sche Testgleichung) y = λy (28) 40
Die Lösung ist y(0) =, λ C, Re{λ} < 0 y(t) = e λt und wegen Re{λ} < 0 lim t y(t) = 0 Forderung: Die numerisch gewonnenen Lösungen y j sollen dei Eigenschaften von y(t) möglichst gut wiederspiegeln. Ich kann also mit dieser Gleichung die qualität eines numerischen Verfahrens testen. Definition 2 (Stabilität) Ein Verfahren heißt A-stabil, wenn angewendet auf das Modellproblem die Lösungen y j die Bedingung y j+ y j j 0, h > 0 erfüllt. L-stabil wenn es A-stabil ist und zusätzlich y j j 0 Bei vielen Einschritt-Verfahren gilt bei Anwendung auf das Modellproblem der Zusammenhang über die Stabilitätsfunktion Definition 22 (Stabilitätsfunktion R) R : D C q = hλ y j+ = R(q) y j Definition 23 (Stabilität als Funktion der Stabilitätsfunktion) A-stabil R(q) q C, Re{q} < 0 L-stabil R(q) < q C, Re{q} < 0 Definition 24 (Stabilitätsgebiet S) S = {q C R(q) < } Satz 7 (Zusammenang Stabilitätsgebiet und L-Stabilität) L-stabil {q C Re{q} < 0} S 4
Beispiel 3 (Stabilität des expliziten Euler-Verfahrens) y j+ = y j + hf(t j, y j ) = y j + hλy j = ( + λh)y j R(q) = + q S = {q C + q < } Figure 0: Das Stabilitätsgebiet des expliziten Euler-Verfahrens ist ein Kreis um mit dem Radius. Achtung, das Stabilitätsgebiet ist eine offene Menge, d.h. der Rand des Kreises ist nicht Teil von S. Das Explizite Eulerverfahren ist nicht A-stabil, und damit auch nicht L-stabil! Satz 8 (A-Stabilität expliziter RK-Verfahren) Alle Runge-Kutta Verfarhen sind nicht A-stabil! expliziten 42
Beispiel 32 (Stabilität des impliziten Euler-Verfahrens) y j+ = y j + hf(t j+, y j+ ) = y j + hλy j+ y j+ = hλ y j R(q) = q S = {q C; q > } {q C; Re(q) < 0} TODO: Ich glaube die Graphik ist nicht ganz richtig. Figure : Das Stabilitätsgebiet des impliziten Euler-Verfahrens ist die ganzen komplexe ebene C ohne den Kreis mit Radius um. Der Rand des Kreises ist nicht Teil von S. Da die komplexe Halbebene Re{q} < 0 Teil von S ist, mathematisch ausgedrückt {q C Re{q} < 0} S ist das implizite Eulerverfahren L-stabil! Interpreation(aus praktischer Beobachtung): Des Verfahren ist sehr stabil. Manchmal sogar zu stabil (Erinnerung: in einer der Übungen 43
wurde die approximation des Kreises zu stark gedämpft und die Funktion ist gegen Null konvergiert, anstatt auf dem Einheitskreis zu bleiben.) Beispiel 33 (Stabilität des Trapez-Verfahrens) y j+ = y j + h 2 (f(t j, y j ) + f(t j+, y j+ )) = y j + h 2 f(t j, y j ) + h 2 f(t j+, y j+ ) = y j + h 2 λy j + h 2 λy j+ y j+ h 2 λy j+ = y j + h 2 λy j y j+ = + h 2 λ h 2 λy j R(q) = + 2 q 2 q Für das Stabilitätsgebiet S muss wie wir beretis wissen, gelten R(q) < + 2 q 2 q < + 2 q 2 q < + 2 q < 2 q ( S = q C + 2 q < ) 2 q = {q C; Re(q) < 0} 44
Figure 2: Das Stabilitätsgebiet des Trapez-Verfahrens. Insbesondere ist R(q) = wenn q auf der komplexen Achse liegt, daher ist das Trapezverfahren A-stabil. 2..9 Implizite Runge-Kutta-Verfahren Besonders gut geeignet für steife DGL Butscher-Schema Φ(t, h, y) = k i = f(t + γ i h, y + h r β i k i i= r α ij k j ), i =,..., r j= γ α α 2...... α r γ 2 α 2 α 22 γ 3 α 3 α 32 α 33......... γ r α r α r... α r,r α r,r β β... β r β r Table 2: Hier sind alle α ij im Butscherschema nutzbar im Gegensatz zu Tabelle auf Seite 34 nichtlineares Gelichungssystem für die k i 45
k. k r = f(t + γ h, y + r j= α ijk j ). f(t + γ h, y + r j= α ijk j ) Dadurch, dass ich mehr Paramterα ij zur Verfügung habe bei impliziten r-stufingen RK-Verfahren kann man die Koeffizienten γ i, β i, α ij so wählen, dass ein L-stabiles Verfahren der Ordnung p = 2r entsteht. 2.2 Lösung nichtlinearer Gleichungssystem In der Praxis treten häufig nichtlineare Gleichungssystem auf F (x) = 0 mit F : D R n R n Beispiel 34 (y = f(t, y)) y(t) R n mit dem impliziten Eulerverfahren: y k+ = y k + hf(t k+, y k+ ) x = y k+ löst das Gleichungssystem F (x) = 0 mit F (x) = x y k hf(t k+, x) Gleichungssysteme hängen also eng mit Fixpunktgleichungen zusammen Definition 25 (Fixpunktgleichung) x = G(x) mit G : D R n R n ist eine Fixpunktgleichung. x heißt Fixpunkt von G. G x = G(x ) Beispiel 35 (Fixpunkt impliziter Euler) x = y k+ ist Fixpunkt von G(x) = y k + hf(t k+, x) Zur Äquivalenz von Fixpunktgleichungen und Gleichungssystemen x = G(x) x G(x) = 0 F (x) = 0 mit F (x) = x G(x) 46
F (x) = 0 x = x F (x) x = G(x) mit G(x) = x F (x) Verallgemeinert: Sei M R n n invertierbar, dann F (x) = 0 MF (x) = 0 x = G(x) mit G(x) = x MF (x) M spielt hier die Rolle eines Vorkonditionierers. 2.2. Fixpunktiteration und Fixpunktsatz von Banach Fixpunktiteration x 0 D gegeben. Für k = 0,, 2,... und x k+ = G(x k ) Gesucht werden minimale Voraussetzungen an G, so dass k x k x x = G(x ) Bemerkung: Die Picard-Iteration ist eine Fixpunkt-Iteration über Funktionen statt Vektoren. Figure 3: Diese Bild zeigt monotone Konvergenz, d.h wir nähern uns mit jeder Iteration dem Fixpunkt x von einer Seite an. Ausserdem wird hier und in den folgenden Abbildungen, der Vorgang der Fixpunktiteration graphisch dargestellt. Man beginnt mit einem Startwert x 0 und wertet diesen mit G(x 0 ) aus. Dieses G(x 0 ) ist mein erster Iterationsschritt x. Um die Position von x graphisch zu bestimmen, nutzen wir die Gerade y = x. Dort wo sich die Funktionen y = G(x) und y = x schneiden, also an dem Punkt G(x) = x befindet sich der Fixpunkt x 47
Figure 4: Auch hier konvergiert das Verfahren gegen den Fixpunkt x, allerdings nicht mehr von einer Seite. Die Iterationsschritte sind nun alterierend größer oder kleiner als der Fixpunkt. Figure 5: Die Graphik veranschaulicht, dass Stetigkeit am Fixpunkt eine Voraussetzung für Konvergenz ist. 48
Figure 6: In diesem Fall konvergiert das Verfahren nicht. Mit jedem Interationsschritt entfernen wir uns weiter vom Fixpunkt x. Der Grund hierfür ist die starke Steigung der Funktion, so dass für die Lipschitzkonstante L gilt: L >. Gleiches gilt auch für den Fall L < 49
Figure 7: Auch bei asymptotischer Annäherung der Funktion y = G(x) an y = x konvergiert das Verfahren nicht, obwohl die Lipschitzkonstante die Bedingung L < erfüllt. Anmerkung: Besonders schenlle konvergenz hat man, wenn die Steigung von G am Fixpunkt gleich Null ist. Dies heißt superlieare Konvergenz. Die obigen Abbildungen motvieren folgenden Satz Satz 9 (Fixpunktsatz von Banach) Sei D R n abgeschlossen und 0, und G : D R n eine Abbildung mit folgenden Eigenschaften:. G(D) D d.h x D : G(x) D (Selbstabbildungseigenschaft) 2. G ist eine Kontraktion, d.h. es gibt 0 < L < mit Dann gilt G(x) G(y) L x y x, y, D. Für jedes x 0 D ist die Fixpunktiteration wohldefiniert und erzeugt die Folge (x r ) D 2. (x r ) konvergiert gegen ein x D 3. x ist ein Fixpunkt: x = G(x ) 4. x ist der einzige Fixpunkt von G auf D 50
5. Fehlerabschätzung x x k L L x k x k+ Lk L x x 0 k Bemerkung: Ist x ein Fixpunkt von G und ist G eine Kontraktion auf D = K r (x) = {x x x r}, dann gilt G(K r (x)) K r (x) Denn: x K r (x) : G(x) x = G(x) G(x) L x x Lr < r Nachweise des Fixpunktsatzes von Banach:. Durchführbarkeit für bel. x 0 D folgt aus G(D) D 2. z.z: x r x D Hier steckt die Hauptarbeit: Für bel k : Für beliebige l > k folgt: x k+ x k = G(x k ) G(x k ) L x k x k L 2 x k x k 2... L k x x 0 x l x k = (x l x l ) + (x l x l 2 ) +... Ungl. s.o.... + (x k+2 x k+ ) + (x k+ x k ) l x j+ x j j=k l L j x x 0 j=k L k x x 0 geom.reihe = i=0 L k L x x 0 Somit x l x k l,r 0 (x k ) ist eine Cauchy-Folge und besitzt in R n eine Grenzwert x. Mit D abgeschlossen D > (x k ) x x D 3. z.z: L i x k+ = G( x k ) } {{ } }{{} x x } {{ } G(x ),da G stetig (Iteration) 4. z.z.: x ist der einzige Fixpunkt in D. Annahme: x D, x x erfüllt ebenfalls x = G(x) Dann: x x = G(x) G(x ) }{{} L x x < x x < 5
Das ist aber ein Widerspruch! 5. Fehlerabschätzungen: x l x k Lk L x x 0, l > k mit l nähert sich x l dem Fixpunkt x an speziell für k = gilt: Daher gilt allgemein: l : x x k x k = : x x x }{{} k ersetzt x Lk L x x 0, k L L x x 0 L L x k }{{} ersetzt x x k (29) } {{ } ersetzt x 0 Gleichung 29 ist die aposteriori Abschätzung (da ich die Abschätzung des Fehlers in Schritt k auf dem Fehler im Schritt k basiere, und dieser erst berechnet werden muss). Wir hatten mit einem Indexshift in k x k+ x k L k x x 0 x k x k L k x x 0 x x k L L x k x k L k L x x 0 diese Abschätzung ist apriori da ich mit dieser Fehlerbaschätzung schon nach einem Iterationschritt eine Oberschranke für den Fehler habe. Bemerkung: Die aposteriori-abschätzung ist genauer als die apriori Abschätzung und kann als Abbbruchbedingung verwendet werden. Hilfsmittel zur Abschätzung von L: Ist D abgehschlossen und konvex, dann gilt: G(x) G(y) L x y mit wobei und Matrixnorm L = max x D G (x) G (x) R n n = Jakobimatrix M = max v = Mv 52
Begründung: Setze Dann ist und G(x) G(y) = φ() φ(0) = G(x) G(y) 0 φ(t) = G(y + t(x y)) 0 φ (t)dt = 0 G (y + t(x y))(x y)dt G (y + t(x y) ) x y dt L x y } {{ } D } {{ } L Beobachtung: Ist x = G(x ) und G (x ) <<. Dann, falls G stetig ist, folgt G (x) << in Umgebung von x sehr gute Kontraktion sobald die Fixpunktiteration in diese Umgebung eintritt. Ideal (superlineare Konvergenz): G (x ) = 0 Beispiel 36 (Lipschitzkonstante und Fehler von G(x) = x2 4 ) G : R R, D = [0, ], G(x) = x2 4 Dann: G([0, ]) = [0, 4 ] [0, ] d.h. Kontrkationsanforderung erfüllt L-Konstante direkt abschätzen: x, y [0, ] : G(x) G(y) = 4 x2 y 2 = x + y x y } 4 {{ } 2 =:L L-Konstante über Ableitung abschätzen: x [0, ] G (x) = x 2 2 =: L (Anmerkung: Abschätzung über Ableitung üblicherweise schneller und einfacher!) Fehlerabschätzungen: x 0 = x = G(x 0 ) = 4 53
apriori }{{} x x k Lk L x x 0 L= 2 = =0 ( ) k 3 2 4 aposteriori x x k L L x k x k L= 2 = x k x k Beispiel 37 (Impliziter Euler als Fixpunktgleichung) Anwendung auf impliziten Euler Schritt: y = f(t, y), y(0) = y 0 Zeitschritt y j y j+ mit impliziten Euler : D.h x = y j+ ist Fixpunkt von y j+ = y j + hf(t j+, y j+ ) } {{ } =:G(y j+) G(x) = y j + hf(t j+, x) Sei L f die Lipschitzkonstant von f bzgl. y d.h Dann f(t, y ) f(t, y 2 ) L f y y 2 G(x ) G(x 2 ) = h f(t j+, x ) f(t j+, x 2 ) hl f x x 2, x, x 2 wir können L = hl f wählen. Mit h < L f L < Beispiel 38 (Bestimme L von y (t) = 99y(t) y (t) = 99y(t) y(t) + y(t) 2, y(0) = y(t) +y(t) 2 ) Suche das Ergebnis y des ersten impliziten Eulerschritts, d.h y y( t }{{} ) =h 54