Skript zur Vorlesung: Numerik stochastischer Differentialgleichungen

Transkript

1 Skript zur Vorlesung: Numerik stochastischer Differentialgleichungen Prof. Dr. P.E. Kloeden Fachbereich Mathematik Johann Wolfgang Goethe Universität Zimmer 11, Robert-Mayer-Straße 1 Telefon: 69) Sekretariat 69) kloeden@math.uni-frankfurt.de 31. März 211

2 c P.E. Kloeden 27 1

3 Inhaltsverzeichnis 1 Überblick Gewöhnliche Differentialgleichungen Stochastische Differentialgleichungen Wahrscheinlichkeitstheorie Unabhängigkeit Konvergenz Pseudo-Zufallsvariablen-Erzeuger Stochastische Prozesse Der Wiener Prozess Stochastische Integrale Das Ito sche stochastische Integral Das Stratonovich sche stochastische Integral Stochastische Differentialgleichungen Der Existenz- und Eindeutigkeitssatz Das stochastische Euler-Verfahren 3 7 Starke und schwache Konvergenz Starke Approximationen Schwache Approximationen Das vereinfachte Euler-Verfahren Funktionalschätzung Konsistenz Die stochastische Kettenregel Die Ito-Formel Die Stratonovich-Kettenregel Die Feynman Kac-Formel

4 3 9 Konvergenzbeweise Starke Konvergenz Beweis-Skizze für starke Konvergenz Schwache Konvergenz Beweis-Skizze für schwache Konvergenz Stochastische Taylor-Entwicklungen Taylor-Bäume Die Notation von Wagner und Platen Multi-Indizes Iterierte Differential-Operatoren Iterierte Integrale Hierarchische Menge Beispiele stochastischer Taylor-Verfahren Schwache Taylor-Verfahren Starke Taylor-Verfahren Vektorwertige SDGLen Die Ito-Formel Die stochastische Taylor-Entwicklung Approximation stochastischer Multi-Integrale Stochastische Multi-Integrale mit bekannten Verteilungen Pfadweisekonvergenz Restrictiveness of the standard assumptions Counterexamples for the Euler-Maruyama scheme

5 Kapitel 1 Überblick Hier geben wir einen kurzen Überblick zu der zweiwochenstündigen Vorlesung Numerik für stochastische Differentialgleichungen Meine andere Vorlesung in diesem Semester vier Wochenstunden) Numerical Methods for Differential Equations betrachtet zwei Arten deterministischer Differentialgleichungen gewöhnliche Differentialgleichungen und partielle Differentialgleichungen. In der Vorlesung Numerik für stochastische Differentialgleichungen betrachten wir hauptsächlich Ito stochastische Differentialgleichungen, aber wir werden auch Stratonovich stochastische Differentialgleichungen verwenden. Die beiden Vorlesungen sind im Prinzip unabhängig, obwohl sie ähnliche Themen untersuchen. Am besten sollte man beide gleichzeitig hören 1.1 Gewöhnliche Differentialgleichungen Betrachte eine Anfangswertaufgabe für eine gewöhnliche Differentialgleichung: dx dt = ft, x), xt ) = x, x R d, t [t, T ]. 1.1) Eine Lösung ist eine stetig differenzierbare Funktion x : [t, T ] R d mit xt ) = x, die der Differentialgleichung für jedes t [t, T ] genügt, d.h. d dt xt) = ft, xt)), t [t, T ]. Voraussetzung: Es existiere eine eindeutige Lösung xt) = xt; t, x ) für t [t, T ] T < hier). 4

6 KAPITEL 1. ÜBERBLICK 5 Im Allgemeinen kann man die Lösung nicht explizit finden und muß eine numerische Approximation berechnen. Betrachte eine Zerlegung des Intervalls [t, T ] t < t 1 <... < < +1 <... < t N = T mit Schrittweite h n = +1 >. Es gibt zwei Arten von rekursiven numerischen Vefahren, die für Berechnungen mit einem digitalen Rechner geeignet sind. 1-Schrittverfahren z.b., die Euler, Taylor und Runge-Kutta Verfahren x n+1 = x n + h n F h n ;, x n ) Mehrschrittverfahren z.b., die Adams-Bashford und Adams-Moulton Verfahren k-schritt mit k 2) x n+1 = Gh n,..., h n k+1,,..., k+1, x n,..., x n k+1 ) Das einfachste numerische Verfahren ist das Euler-Verfahren: x n+1 = x n + h n f, x n ) 1.2) mit dem Anfangswert xt ) = x von der Anfangswertaufgabe. Hier soll x n x ) sein. Der Fehler max n=,1,...,n x n x ) heißt globaler Diskretisierungsfehler. Für das Euler-Verfahren kann man zeigen, dass max n=,1,...,n x n x ) K T h, wobei K T eine Konstante ist, die von T abhängt, aber nicht von der maximalen Schrittweite h := max n=,1,...,n h n, d.h., das Euler-Verfahren ist ein numerisches Verfahren erster Ordnung. 1.2 Stochastische Differentialgleichungen Stochastische Differentialgleichungen sind Differentialgleichungen mit Rauschen, zum Beispiel dx dt = ft, x) + ξ t, wobei ξ t weißes Rauschen ist, oder allgemeiner dx dt = ft, x) + gt, x) ξ t. Sei {W t, t } ein Wiener Prozeß, d.h. eine mathematische Formulierung einer physikalischen Brown schen-bewegung. Dann gilt ξ t = dw t dt!

7 KAPITEL 1. ÜBERBLICK 6 und die obige geräuschte DGL lautet jetzt dx dt = ft, x) + gt, x) dw t dt Wir schreiben! hier, weil ein Wiener Prozeß nicht differenzierbar entweder pfadweise oder in Quadratmittel ist. Schlimmer noch, die Pfade eines Wiener Prozesses sind nicht von beschränkter Variation auf jedem beschränkten Intervall. Deswegen schreiben wir die obige DGL! dx t = ft, X t ) dt + gt, X t ) dw t Wir nennen eine solche DGL stochastische Differentialgleichung SDGL) und interpretieren diese SDGL als eine Integralgleichung: X t = X t + fs, X s )ds + gs, X s )dw s t }{{} pfadweise ein Riemansches Integral t }{{} stochastisches Integral Ein stochastisches Integral kann pfadweise kein Riemann-Stieltjes sches Integral sein weil die Pfade eines Wiener Prozesses ohne beschränkte Variation sind. Wir brauchen eine neue Art Integral, das Ito sche stochastische Integral nach dem japanischen Mathematiker K. Ito). Stochastisches Kalkül oder Ito sches Kalkül hat komische Eigenschaften. z.b. die Kettenregel oder Ito-Formel enthält einen zusätzlichen Term. Sei X t eine Lösung der SDGL und definiere Die Ito-Formel lautet Y t = Ut, X t ) wobei dy t = L Ut, X t ) dt + L 1 Ut, X t ) dw t L Ut, x) = U t U t, x) + ft, x) x t, x) g2 t, x) 2 U t, x) x2 }{{} zusätzlicher Term L 1 Ut, x) = gt, x) U x t, x)

8 KAPITEL 1. ÜBERBLICK 7 viele angepasste deterministische numerische Verfahren sind ungeeignet für SDGLen, d.h. inkonsistent und nicht konvergent. Wir können konsistente numerische Verfahren durch stochastische Taylor- Entwicklungen herleiten. Es gibt verschiedene Möglichkeiten: starke und schwache Verfahren, die von der Art der Approximation abhängen stark schwach L 1 -Approximation eine Approximation der Pfade Approximation der Wahrscheinlichkeitsmaße. Wir werden beide Arten von Verfahren untersuchen und auch Implementierungsfragestellungen erörten.

9 Kapitel 2 Wahrscheinlichkeitstheorie Betrachte eine verauschte DGL dx dt = ft, x) + Rauschen, wobei Rauschen eine zeitabhängige zufällige Störung ist z.b. weißes Gauß sches Rauschen. Der deterministische Term ft, x) heißt Drift. Im Allgemeinen hat das Rauschen ξ t einen x-abhängigen Intensitätskoeffizienten gt, x). Die geräuschte DGL lautet jetzt dx dt = ft, x) + gt, x)ξ t Aber dies isoch sehr vage. Um weiter zu gehen, brauchen wir ein paar Tatsachen aus der Stochastik, z.b. Begriffe wie Zufallsvariablen und stochastische Prozesse. Im Hintergrund steht immer ein Wahrscheinlichkeitsraum dabei sind: Ω, A, P ), 1) Ω der Stichprobenraum = eine beliebige nichtleere Menge) 2) A eine σ-algebra von Ereignissen d.h. Teilmengen von Ω mit Eigenschaften i) A ii) A c = Ω \ A A, falls A A iii) i=1 A i A, falls A 1, A 2, A 3) P ein Wahrscheinlichkeitsmaß auf A), d.h. P : A [, 1] mit i) P ) =, P Ω) = 1 8

10 KAPITEL 2. WAHRSCHEINLICHKEITSTHEORIE 9 ii) P i=1 A i) = i=1 P A i), falls A i A j = i j Der Wahrscheinlichkeitsraum ist meistens nicht explizit bekannt. Statt dessen haben wir nur Daten oder Messungen Xω) R, ω Ω. Eine Zufallsvariable oder Zufallsgröße X ist eine A-messbare Funktion X : Ω R, d.h mit X 1 a) := {ω Ω : Xω) a} A a R A-messbar = konsistent mit der Information der σ-algebra A.) Sei X eine Zufallsvariable und definiere die Funktion F X : R [, 1] durch F X a) := P {ω Ω : Xω) a}), a R. Die Funktion F X heißt Verteilung der ZV X. Sie besitzt die Eigenschaften i) F X a) F X b) 1, a b ii) iii) lim F Xa) = a lim F Xa) = 1. a + Die Funktion F X ist manchmal absolut stetig mit einer Ableitung f X x) = x) für fast alle x R. Es gelten F X und F X b) F X a) = F X a) = b a a f X x) dx, f X x) dx a b Die Funktion f X heißt Dichte der Verteilung F X oder der ZV X). Beispiele 1) Sei X auf [, 1] gleichmäßig verteilt { 1, falls x [, 1] f X x) =, sonst.

11 KAPITEL 2. WAHRSCHEINLICHKEITSTHEORIE 1 2) Sei X N, 1)-verteilt, d.h. standard normal verteilt oder Standard- Gauß-verteilt mit der Dichte f X x) = 1 2π e 1 2 x2. Zufallsvariablen haben nützliche numerische Merkmale, z.b. Erwartungswert p-ter Moment EX) := xf Xx)dx EX p ) := xp f X x)dx Varianz Var X) := EX EX)) 2 ) Die Varianz charakterisiert die Streuung um den Erwartungswert. Es gilt auch VarX) = EX 2 ) EX)) 2 2.1) Beispiele 1) X ist auf [, 1] gleichmäßig verteilt: 2) X ist N, 1) verteilt: auch EX) = 1 2, VarX) = 1 12 EX) =, VarX) = 1 EX 2p+1 ) =, EX 2p ) = 2p 1)!! = 2p 1)2p 3) 3.1. Eine Gauß-verteilte Zufallsvariable X Nµ, σ 2 ) bedeutet: X ist eine Gaußverteilte Zufallsvariable mit Erwartungswert EX) = µ Varianz VarX) = σ 2. Die entsprechende Verteilungsdichte lautet 1 /2σ f X x) = 2 2πσ 2 e x µ)2 Die zentralisierten Momente sind E X µ) 2p+1) =, E X µ) 2p) = 2p 1)!! σ p für p = 1, 2,. Hier: 2p 1)!! = 2p 1) 3.1 d.h. alle zentralisierten) Momente einer Gauß-verteilten Zufallsvariable sind durch die zwei Parameter µ und σ bestimmt sehr ungewöhnlich!

12 KAPITEL 2. WAHRSCHEINLICHKEITSTHEORIE Unabhängigkeit Zwei Zufallsvariable X und Y auf demselben Wahrscheinlichkeitsraum) heißen unabhängig, falls P {ω Ω : Xω) a} {ω Ω : Y ω) b}) = P {ω Ω : Xω) a}) P {ω Ω : Y ω) b}) für alle a, b R oder bezüglich Verteilungen und Dichten F X,Y ) a, b) = F X a) F Y b) f X,Y ) a, b) = f X a) f Y b) für alle a, b R Dann gelten i) EXY ) = EX) EY ) ii) Var X + Y ) = Var X)+ Var Y ) aber diese Bedingungen i) und ii) sind nur notwendige Bedingungen sie sind nicht hinreichend für die Unabhängigkeit von X und Y. 2.2 Konvergenz Betrachte jetzt eine ZV X) und eine Folge von ZVen {X n } n auf demselben Wahrscheinlichkeitsraum. Was bedeutet Konvergenz X n X für n? Es gibt mehrere nützliche Definitionen. 1) Konvergenz mit Wahrscheinlichkeit 1 oder fast sicher) d.h. P { }) ω Ω : lim X nω) = Xω) = 1 n Ω A mit P Ω) = 1 und X n ω) Xω) für n für jedes ω Ω. Wir schreiben: X n X m.w. 1 oder f.s.

13 KAPITEL 2. WAHRSCHEINLICHKEITSTHEORIE 12 2) Quadratmittel-Konvergenz Wir schreiben: X n X q.m. E X n X 2 ) für n Bemerkung EX n ) EX) E X n X ) E X n X 2 ) Cauchy-Schwarz-Ungleichung! EX n ) EX), Var X n X) und Var X n ) Var X) Daher wegen 2.1) gilt ingesamt qm-konvergenz Konvergenz der Erwartungswerte und der Varianzen 3) Konvergenz in Wahrscheinlichkeit lim P { ω Ω : X n ω) Xω) ɛ }) = für alle ɛ > n auch genannt: stochastische Konvergenz Bemerkungen 1) qm-konvergenz Konvergenz in Wahrscheinlichkeit wegen der Tschebyscheff-Ungleichung, d.h. P {ω Ω : Xω) ɛ}) 1 ɛ 2 E X 2 ) 2) Konvergenz m.w.1 qm-konvergenz nur unter gewissen Bedingungen, z.b. X und die X n sind gleichmäßig beschränkt f.s.) wo P Ω) = 1. Xω) L, X n ω) L ω Ω, n N 2.3 Pseudo-Zufallsvariablen-Erzeuger Pseudo-Zufallsvariablen-Erzeuger heißen pseudo, weil sie rein deterministisch sind, d.h durch deterministische Diffenzengleichungen definiert sind.

14 KAPITEL 2. WAHRSCHEINLICHKEITSTHEORIE 13 z.b. die Linearkongruent-PZVE sind der Form X n+1 = ax n + b mod c für geeignete Parameter a, b, c X n [, c] U n = X n /c [, 1] Die Paare sukzessiver U n, U n+1 ) liegen auf Geraden mit Neigung a/c in dem Einheitsrechteck [, 1] [, 1] Ein Anfangswert X heißt Samen Engl. seed) Beispiel RANDU von IBM in den 196s a = , b =, c = 2 31 Potenzen von 2 sind bevorzugt wegen binärer Computer-Arithmetik.

15 Kapitel 3 Stochastische Prozesse Sei Ω, A, P ) ein Wahrscheinlichkeitsraum. Sei T eine nichtleere Teilmenge von R, die wir als einen Zeitraum betrachten werden, z.b. T = {, 1, 2, } T = [, T ] zeitdiskreter Fall zeitkontinuierlicher Fall Eine Funktion X : T Ω R, wobei Xt, ) eine Zufallsvariable für jedes t T ist, heißt stochastischer Prozess SP). Bemerkungen 1 Wir können X betrachten entweder als eine Familie von Zufallsvariablen {Xt, )} t T oder als eine Familie von Pfaden {X, ω) ω Ω. Jeder Pfad ist eine Realisierung des SPs. 2 In der Stochastik schreibt man X t ω) für Xt, ω) Beispiel Wir können eine Folge von Zufallsvariablen {X n } n= als einen zeitdiskreten stochastischen Prozess interpretieren. Es gibt viele Möglichkeiten für die Beziehung zwischen den verschiedenen Zufallsvariablen eines stochastischen Prozesses, d.h. zwischen X t1 und X t2 für alle t 1, t 2 T. Zwei Extreme in dem zeitdiskreten Fall) sind 1) Differenzengleichungen X n+1 ω) = gx n ω)) n =, 1, 2, und alle ω Ω wobei g : R R eine gegebene deterministische) Funktion ist. 2) i.i.d. -Zufallsvariable: die X n sind unabhängig independent) und haben dieselbe Verteilung identically distributed). 14

16 KAPITEL 3. STOCHASTISCHE PROZESSE 15 Im Allgemeinen betrachtet man eine ganze Familie von Verteilungen der Art F t 1, x 1 ; t 2, x 2 ; ; t j, x j ) = P { ω : X t1 ω) x 1 } {ω : X t2 ω) x 2 } {ω : X tj ω) x j }) für alle t 1, t 2,, t j, T und x 1, x 2,, x j, R Beispiel Im i.i.d -Fall gilt F t 1, x 1 ; t 2, x 2 ; ; t j, x j ) = F X x 1 ) F X x 2 ) F X x j ), wobei F X die gemeinsame Verteilung aller Zufallsvariablen X t, t T, ist. 3.1 Der Wiener Prozess Der Wiener-Prozess, oft Brown sche Bewegung genannt, ist einer der Grundprozesse der Stochastik. Ein Wiener-Prozess {W t, t } ist durch die folgenden Eigenschaften definiert 1) W t ist Gauß-verteilt mit i) W = m.w. 1 ii) EW t ) = für jedes t iii) EW 2 t ) = t für jedes t, W t N, t) für jedes t 2) die nichtüberlappenden Zuwächse von W t sind unabhängig, d.h. W t2 W t1 und W t4 W t3 sind unabhängige Zufallsvariablen für alle t 1 < t 2 t 3 < t 4. Sätzchen EW t W s ) 2 ) = t s für alle s t Beweis: EW t W s ) 2 ) = EWt 2 2W t W s + Ws 2 ) = EWt 2 Ws 2 2W t W s + 2Ws 2 ) = EWt 2 ) EWs 2 ) 2EW t W s )W s ) = t s 2EW t W s )W s W ))

17 KAPITEL 3. STOCHASTISCHE PROZESSE 16 Offensichtlich gilt auch nicht überlappende Zuwächse sind unabhängig = t s 2EW t W s ) EW s W )) = t s 2EW t ) EW s )) EW s ) EW )) = t s 2 ) ) = t s EW t W s ) = EW t ) EW s ) = und W t W s ist auch Gauß-verteilt, weil lineare Kombinationen Gauß-verteilter Zufallsvariablen Gauß-verteilt sind W t W s N, t s) Insbesondere gilt EW t W s ) 4 ) = 3t s) 2 Ein Kriterium von Kolmogoroff sagt dann, die Pfade eines Wiener-Prozesses sind stetig Aber von dem obigen Sätzchen folgt auch, dass Wt+h ) ) 2 W t E = E W t+h W t ) 2) h h 2 = h h 2 = 1 h für alle t und h > ein Wiener-Prozess isirgendwo quadratmittel-differenzierbar Schlimmer noch und der Beweis ist viel komplizierter) ist SATZ d.h. Die Pfade eines Wiener Prozesses sind nirgendwo differenzierbar, d dt W tω) existiert für kein t. und noch schlimmer

18 KAPITEL 3. STOCHASTISCHE PROZESSE 17 SATZ Die Pfade eines Wiener-Prozesses haben unbeschränkte Variation auf jedem endlichen Intervall, d.h. N T 1 sup W tj+1 ω) W tj ω) = + j= wobei das Supremum über alle Unterteilungen t t 1 t NT eines Intervalls [t, T ] ist. T Trotzdem definieren Physiker und Ingenieure weißes Gauß sches Rauschen ξ t durch ξ t ω) = d dt W tω) Sie meinen einen stochastischen Prozess, wobei die ξ t unabhängig und alle N; 1)-verteilt sind ein i.i.d.-prozess! ξ t existierur im Sinne verallgemeinerter Funktionen oder Distributionen). Dann schreiben unsere Kollegen die geräuschte DGL um: oder als dx dt = ft, x) + gt, x)ξ t dx dt = ft, x) + gt, x)dw t dt dx t = ft, X t )dt + gt, X t )dw t Eine solche DGL heißt stochastische Differentialgleichung SDGL). Sie existiert nur symbolisch als eine Differentialgleichung und ist tatsächlich nur eine Integralgleichung X t = X t + t fs, X s )ds + t gs, X s )dw s Aber wir müssen sagen, wie die Integrale hier sind. Das erste Integral ist pfadweise ein deterministisches Riemann-Integral t fs, X s ω))ds ω fest) Das zweite Integral sieht aus wie ein pfadweises deterministisches Riemann- Stieltjes-Integral.

19 KAPITEL 3. STOCHASTISCHE PROZESSE 18 Riemann-Integral b a N 1 ft)dt = lim fτ l )t l+1 t l ) N Riemann-Stieltjes-Integral b a l= N 1 ft)dgt) = lim fτ l ) {gt l+1 ) gt l )} N l= in beiden Fällen) für beliebige Auswertungsstellen τ l [t l, t l+1 ] aber das isicht möglich, weil die Pfade von W t unbeschränkte Variationen haben. Wir brauchen ein stochastisches Integral für das zweite Integral.

20 Kapitel 4 Stochastische Integrale Wir wollen ein stochastisches Integral T fs, ω)dw s ω) für geeignete auch zufällige!) Funktionen f definieren. Wie? Das pfadweise definierte Riemann-Stieltjes-Integral existiericht!, d.h. die Summen S N ω) = N 1 j= fτ j, ω) {W tj+1 ω) W tj ω)} beliebiges τ j [t j, t j+1 ] konvergieren nicht fast sicher). Könnten wir Quadratmittelkonvergenz benutzen? NEIN! Betrachte ft, ω) W t ω) SATZ Beweis: qm lim N Definiere N 1 j= W τ j ω) {W tj+1 ω) W tj ω)} 1 2 W T 2ω) 1 2 T, falls τ j t j 1 = 2 W T 2ω), falls τ j t j t j+1 t j ) 1 2 W T 2ω) T, falls τ j t j+1 S N ω) = N 1 j= W tj ω) {W tj+1 ω) W tj ω)} Jetzt werden wir das ω nicht schreiben). 19

21 KAPITEL 4. STOCHASTISCHE INTEGRALE 2 Wir müssen beweisen, dass E S N 1 2 W T ) 2 2 T für N. Definiere Dann gilt weil d.h. j = t j+1 t j = T N, W j = W tj+1 W ti N, j ) S N = 1 N 1 Wt 2 2 j+1 Wt 2 j ) 1 N 1 W j ) 2, 2 j= j= W 2 t j+1 = W tj + W j ) 2 = W 2 t j + 2W tj W j + W j ) 2 weil t N = T und t =. S N = 1 2 W T W 2 1 N 1 W j ) 2 2 j= S N 1 2 W T T 2 = 1 N 1 4 T W j ) 2 j= 2 = 1 N 1 { 4 j W j ) 2} j= Definiere Z j = j W j ) 2. Dann gelten EZ j ) = j E W j ) 2 ) = j j = VarZ j ) = EZj 2) weil EZ j) = hier = E 2 j 2 j W j ) 2 + W j ) 4) = 2 j 2 je W j ) 2) + E W j ) 4) = 2 j 2 j j j = 2 2 j weil W j N, j ) ist Wichtig: die W i und W j Zuwächse!) sind unabhängig für i j nicht überlappende

22 KAPITEL 4. STOCHASTISCHE INTEGRALE 21 Z i und Z j sind unabhängig für i j Var N 1 j= Z j = N 1 j= N 1 ) Aber E j= Z j = hier Var Z j ) = E S N 1 2 W T 2 1 ) 2 2 T N 1 j= = 1 4 Var N 1 2 j ) 2 = 2 N 1 j= j= Z j = T 2 2N für N T 2 N 2 = 2T 2 N Die dritte Behauptung t j t j+1 ) folgt durch Wtj+1W tj+1 W tj ) = W tj+1 W tj ) 2 + W tj W tj+1 W tj ). }{{}}{{} qm T qm 1 2 W T T Ähnlicherweise beweist man die zweite Behauptung für τ j = t j t j+1 t j ). Die Details sind etwas komplizierter und werden hier nicht augeschrieben). Diese Ergebnisse zeigen: ein durch qm-konvergenz definiertes Riemann-Stieltjes stochastisches Integral existiert auch nicht, weil die Grenzwerte von der Wahl der Auswertungsstellen τ j abhängen. Was ist zu tun? Stochastische Konvergenz? nein! qm-konvergenz immer mit derselben Auswertungsstelle τ j t i für das Ito-Integral τ j t j t j+1 t j ) für das Stratonovich-Integral 4.1 Das Ito sche stochastische Integral Sei {W t, t } ein Wiener-Prozess. Um das stochastische Integral T fs, ω)dw s ω) zu definieren, brauchen wir eine Klasse geeigneter Integrand-Funktionen f : [, T ] Ω R. Wir setzen voraus, dass f die folgenden Eigenschaften besitzt:

23 KAPITEL 4. STOCHASTISCHE INTEGRALE 22 1 f t ) ft, ) ist eine Zufallsvariable d.h. A-messbar) mit für jedes t [, T ] Ef 2 t ) < 2 die Pfade t f t ω) sind stetig auf [, T ] fast sicher 3 die {f t, t [, T ]} sind nichtantizipativ bezüglich des Wiener-Prozesses {W t, t }, d.h. f t und W t+h W t sind unabhängig für jedes h >, t [, T ). Bemerkung Im Allgemeinen sind die Pfade t f t ω) nur Lebesgue-messbar. Aber dieser Begriff braucht eine Kenntnis von Maß-Theorie. Auch hier brauchen wir nur stetige Pfade. Wir definieren das Ito-Integral einer Funktion f von obiger Klasse durch T N 1 ft, ω)dw t ω) = qm lim ft j, ω) {W tj+1 ω) W tj ω)} N j= Der Grenzwert hier hängicht von der Folge der Unterteilungen des Intervalls [, T ] ab - wir brauchen nur, dass N) = max j=,,n 1 t j+1 t j ) für N. Das Ito-Integral T f tdw t besitzt die folgenden wichtigen Eigenschaften SATZ 1. Linearität T αf t + βg t ) dw t = α T f t dw t + β T g t dw t für alle f, g von der Klasse und α, β R ) T 2. Erwartungswert E f t dw t = ) ) T 2 3. Varianz E f t dw t = T E ) ft 2 dt Die dritte Eigenschaft 4.1) heißt die Ito-Isometrie. Beweis Skizze): Wir zeigen hier nur, dass jede Summe N 1 j= f tj {W tj+1 W tj }

24 KAPITEL 4. STOCHASTISCHE INTEGRALE 23 der behaupteten Eigenschaft genügt dann benutzt man qm-konvergenz, um die Aussage zu erhalten. Schreibe f j = f tj, g j = g tj, W j = W tj+1 W tj. 1) αf + βg gehört zu der obigen Klasse. Dann N 1 αf + βg) j W j = j= N 1 αf j + βg j ) W j j= N 1 N 1 = α f j W j + β g j W j 2) f j und W j sind unabhängig wegen der Nichtantizipativität von f. Dann N 1 N 1 E f j W j = Ef j W j ) j= = = j= N 1 j= N 1 j= j= j= Ef j ) E W j ) [unabhängig!] Ef j ) = 3) f j W j und f i W i sind unabhängig für i j wegen der Nichtantizipativität von f und der Unabhängigkeit der nichtüberlappenden Zuwächse von W t. Dann 2 N 1 N 1 E f j W j = Var f j W j, j= j= N 1 weil E f j W j = ist j= = = N 1 j= N 1 j= Varf j W j ) E f j W j ) 2) [unabhängige Zufallsvariablen] wobei j = t j+1 t j. = = N 1 j= N 1 j= E f 2 j ) E Wj ) 2 ) [Nichtantizipativität] Ef 2 j ) j

25 KAPITEL 4. STOCHASTISCHE INTEGRALE Das Stratonovich sche stochastische Integral Das Ito-Integral genügt auch der komischen Eigenschaft T W t dw t = 1 2 W 2 T 1 2 T verglichen mit dem deterministischen Kalkül, wo W = hier) ut ) u) udu = T ut)u t) dt, u Ableitung = 1 2 ut )2 1 2 u)2 = 1 2 ut )2 falls u) =. Dasselbe Ergebnis gilt auch in dem stochastischen Fall bezüglich der Auswertungsstellen τ j = t j t j+1 t j ) 1 2 t j + t j+1 ). Definition: Sei f von der obigen Klasse. Das Stratonovich-Integral von f ist definiert durch T f N 1 t dw t = qm lim N j= f t j t j+1 t j ) ) {W tj+1 W tj } Die Limeszufallsvariable T f t dw t hängicht von der Folge der Unterteilungen des Intervalls [, T ] ab. Wir haben T W t dw t = 1 2 W 2 T. Das Stratonovich-Integral genügt auch der Linearitätseigenschaft T T T αf t + βg t ) dw t = α f t dw t + β g t W t Aber die anderen günstigen Eigenschaften des Ito-Integrals gelten im Allgemeinen nicht, d.h. im Allgemeinen ) T E f t dw t ) 2 T E f t dw t T E ft 2 ) dt,

26 KAPITEL 4. STOCHASTISCHE INTEGRALE 25 z.b. speziell für f t = W t ) ) T ) 1 E W t dw t = E 2 W T 2 = 1 2 T ) 2 T ) E W t dw t 1 = E 4 W T 4 = 3 4 T T 2 = T tdt = T EW 2 t )dt. Im Gegensatz dazu, genügt das Ito-Integral ) T 1 E W t dw t = E 2 W T 2 1 ) ) 1 2 T = E 2 W T = 1 2 T 1 2 T = ) 2 T 1 E W t dw t = E 2 W T 2 1 ) ) 2 2 T = 1 ) ) E W 4 4 T 2T E W 2 T + T 2 ) = 1 3T 2 2T T + T 2) 4 = 1 2 T 2 = T tdt = T EW 2 t )dt.

27 Kapitel 5 Stochastische Differentialgleichungen Stochastische Differentialgleichungen SDGLen) sind eigentlich Integralgleichungen die Differentialdarstellung isur symbolisch. Es gibt zwei Arten von SDGLen 1) Ito sche SDGLen mit dem Ito-Integral dx t = ft, X t )dt + gt, X t )dw t X t = X t + t fs, X s )ds + t gs, X s )dw s 2) Stratonovich sche SDGLen mit dem Stratonovich-Integral = Stratonovich) dx t = ft, X t )dt + gt, X t ) dw t X t = X t + t fs, X s )ds + t gs, X s ) dw s Eine Lösung X t ist ein stochastischer Prozess, welcher der stochastischen Integralgleichung der SDGL genügt, mit folgenden Eigenschaften i) X t ist eine Zufallsvariable mit EX 2 t ) < für jedes t [t, T ] ii) X t isichtantizipativ bzgl. des Wiener Prozesses W t iii) Die Pfade t X t ω) sind stetig f.s.) Bemerkungen Die Lösungen einer Ito schen SDGL und der Stratonovich schen SDGL mit denselben Koeffizienten sind nicht immer identisch, z.b. 26

28 KAPITEL 5. STOCHASTISCHE DIFFERENTIALGLEICHUNGEN 27 I) die Ito-SDGL dx t = ax t dt + bx t dw t besitzt die Lösung X t = X e a 1 2 b2 )t+bw t II) Die Stratonovich-SDGL dx t = ax t dt + bx t dw t besitzt die Lösung X t = X e at+bw t das Verhalten der Lösungen kann ganz anders sein! Frage Sollen wir die Ito sche oder Stratonovich sche Version einer SDGL benutzen? Die Antwort hat mehr mit Modellierung als mit Mathematik zu tun im Allgemeinen gibt s nur Daumenregeln. Aber die Lösungen der Ito-SDGL dx t = ft, X t ) dt + gt, X t ) dw t und der modifizierten Stratonovich-SDGL wobei dx t = ft, X t ) dt + gt, X t ) dw t sind identisch! ft, x) ft, x) 1 2 g gt, x) t, x) x Beispiel dx t = ax t dt + bx t dw t dx t = a 1 2 b2) X t dt + bx t dw t Ito Stratonovich haben dieselbe Lösung X t = X e a 1 2 b2 )t+b W t. Beispiel Wir sagen, dass das Rauschen additiv ist, falls g t, x). x In diesem Fall gilt ft, x) ft, x). Dann haben die Ito-SDGL und die Stratonovich- SDGL mit denselben Koeffizienten dieselben Lösungen.

29 KAPITEL 5. STOCHASTISCHE DIFFERENTIALGLEICHUNGEN 28 Das Rauschen heißt multiplikativ, wenn g t, x) ist. x Bemerkungen Die beiden Versionen der stochastischen Integralrechnung haben ihre Vorteile und Nachteile aber wir können immer von einer in die andere wechseln, um die Vorteile auszubeuten. z.b. die Ito-Version ist günstiger für Abschätzungen und Beweise wegen der Sondereigenschaften des Ito-Integrals. die Stratonovich-Version ist günstiger, wenn wir explizite Lösungen finden wollen die Stratonovich-Kettenregel aber nicht die Ito sche) ist genau wie in der deterministischen Integral-/Differentialrechnung. 5.1 Der Existenz- und Eindeutigkeitssatz 1. Die Koeffizienten f, g : [t, T ] R R genügen den folgenden Eigenschaften i) stetig in t, x) ii) Linearwachstum ft, x) K1 + x ) gt, x) K1 + x ) iii) Lipschitz-Bedingung ft, x) ft, y) L x y gleichmäßig in t [t, T ] gt, x) gt, y) L x y 2. Die Anfangszufallsvariable X t sei nichtantizipativ bzgl. des Wiener Prozesses W t mit EX 2 t ) < Unter diesen beiden Voraussetzungen besitzt die Ito-SDGL dx t = ft, X t ) dt + gt, X t ) dw t eine eindeutige Lösung auf [t, T ] mit Anfangswert X t.

30 KAPITEL 5. STOCHASTISCHE DIFFERENTIALGLEICHUNGEN 29 Idee des Beweises Man zeigt, dass die sukzessiven Approximationen X n+1) t = X t + fs, X s n) ) ds + t gs, X s n) ) dw s, t n =, 1, 2,..., mit X ) t X t einen eindeutigen qm-grenzwert X t besitzen und dann schwieriger!), dass X t die behaupteten Eigenschaften besitzt. Fixpunktsatz! Ein großer Unterschied zum deterministischen Fall ist die Benutzung der Lipschitz-Bedingung in dem Ito-Integral. Statt fs, X s ) ds fs, Y s ) ds fs, X s ) fs, Y s ) ds für t t) t t t t L X s Y s ds Lipschitz-Bedingung für den Drift-Term, müssen wir die folgende Abschätzung benutzen: E gs, X s ) dw s gs, Y s ) dw s t t = E 2 ) 2) gs, X s ) gs, Y s )) dw s Linearität t = t E t L 2 E gs, X s ) gs, Y s ) 2) ds X s Y s 2) ds Lipschitz-Bedingung Varianz/Isometrie des Ito-Integrals Bemerkungen Die Voraussetzungen des Satzes sind ziemlich streng, z.b. die Linearwachstumsbedingungen. Schwächere Voraussetzungen sind auch möglich!

31 Kapitel 6 Das stochastische Euler-Verfahren Die Lösung xt) = xt, t, x ) der deterministischen Anfangswertaufgabe genügt der Integralgleichung dx dt = ft, x), xt ) = x xt) = x + fs, xs)) ds t auf dem Intervall [t, T ], sowie der Integralgleichung n+1 x+1 ) = x ) + fs, xs)) ds auf jedem Teilintervall [, +1 ] von [t, T ]. Daraus erhalten wir die Approximation n+1 x+1 ) x ) + f, x )) }{{} Auswertungsstelle s = ds n+1 d.h. x+1 ) x ) + f, x )) 1 ds = x ) + f, x )) n, n =, 1,, N 1 wobei n = +1 = 1 1 ds. Dies ist die Motivierung für das Euler-Verfahren 3

32 KAPITEL 6. DAS STOCHASTISCHE EULER-VERFAHREN 31 x n+1 = x n + f, x n ) n n =, 1,, N 1 bezüglich einer Unterteilung t < t 1 < < < < t N = T des Intervalls [t, T ]. Hier soll x n x ) sein. Der globale Diskretisierungsfehler genügt der Abschätzung x ) x n K T, wobei = max n n > ist, für die Klasse von stetig differenzierbaren Vektorfeldfunktionen f. Deshalb besitzt das deterministische Euler-Verfahren die Ordnung p = 1. Betrachte jetzt eine Ito-SDGL dx t = ft, X t ) dt + gt, X t ) dw t auf dem Intervall [t, T ] mit Anfangswert X t. Die Lösung X t genügt der stochastischen Ito-Integralgleichung X t = X t + t fs, X s ) ds + auf dem Intervall [t, T ], sowie der Integralgleichung X tn+1 = X tn + n+1 fs, X s ) ds + auf jedem Teilintervall [, +1 ] von [t, T ]. t gs, X s ) dw s n+1 gs, X s ) dw s Wie im deterministischen Fall einfrieren wir die Integrandenfunktionen f und g zu der Auswertungsstelle s =. Wir erhalten die Approximation wobei X tn+1 X tn + n+1 f, X tn ) ds + n+1 g, X tn ) dw s n+1 n+1 = X tn + f, X tn ) 1 ds + g, X tn ) 1 dw s = X tn + f, X tn ) n + g, X tn ) W n, n = +1 = n+1 W n = W tn+1 W tn = 1 ds n+1 1 dw s Diese Approximation scheint konsistent mit der Definition des Ito-Integrals zu sein!

33 KAPITEL 6. DAS STOCHASTISCHE EULER-VERFAHREN 32 Daraus erhalten wir das stochastische Euler-Verfahren X n+1 = X n + f, X n ) n + g, X n ) W n n =, 1,, N 1 Dieses Verfahren heißt auch Euler-Maruyama-Verfahren. Hier soll X n X tn in einem geeigneten Sinne sein aber welcher Sinn? Die Vorschrift des Euler-Maruyama-Verfahrens ist eine stochastische Differenzengleichung, die eine Zufallsvariable X n in eine neue Zufallsvariable X n+1 abbildet. Aber in einem Computer können wir nur einzelne Realisierungen einer Zufallsvariablen bzw. einzelne Pfade eines zeitdiskreten) stochastischen Prozesses berechnen, d.h X n ω) X n+1 ω) für festes ω. Dafür brauchen wir die entsprechenden Zuwächse W n ω) des Pfades W t ω) des Wiener Prozesses W t. Die Berechnungen laufen rekursiv. W ω) W 1 ω) W 2 ω)... X ω) X 1 ω) X 2 ω) X 3 ω) Bemerkung W tn+1 = W t + n j= W j Wir simulieren die Zuwachsrealisierungen W n ω) durch einen Pseudo-Zufallsvariablen Erzeuger PZVE) und die Box-Muller-Methode. 1) PZVE Jeder Computer besitzt einen eingebauten PZVE, z.b. namens RAN, RAND, usw random= zufällig auf Englisch) Betrachte 2 sukzessive Verwendungen von RAN RAN U 1, RAN U 2 U 1 und U 2 sind sollen sein!) Realisierungen von 2 unabhängigen gleichmäßig auf [, 1] verteilten Zufallsvariablen. 2) Box-Muller-Methode Berechne G 1 = 2 lnu 1 ) cos2πu 2 ) G 2 = 2 lnu 1 ) sin2πu 2 ) G 1 und G 2 sind sollen sein!) Realisierungen von 2 unabhängigen N, 1) verteilten Zufallsvariablen.

34 KAPITEL 6. DAS STOCHASTISCHE EULER-VERFAHREN 33 3) Zuwächse Berechne W 2n ω) = G 1 2n, W 2n+1 ω) = G 2 2n+1 d.h. Realisierungen der unabhängigen Zuwächse W 2n N, 2n ) und W 2n+1 N, 2n+1 ) auf den Teilintervallen [t 2n, t 2n+1 ] und [t 2n+1, t 2n+2 ] für dasselbe ω für denselben Pfad W t ω) des Wiener Prozesses)., ln, cos, sin Polar-Marsaglia bes- N.B. Box-Muller aufwendig wegen ser?) Wir können den numerischen Pfad X j ω), j =, 1,..., N, besser durch einen Polygonzugprozess -Pfad veranschaulichen. Definiere X ) t, t [t, T ], = max n n pfadweise durch X ) t ω) = X n ω) + t [X n+1 ω) X n ω)] für t [, +1 ]. n Für das Euler-Maruyama-Verfahren gilt X ) t ω) = X n ω) + t [f, X n ω)) n + g, X n ω))] W n ω)) n = X n ω) + f, X n ω)) t ) + g, X n ω)) t n W n ω) Bemerkung Dieser stochastische Prozess isichichtantizipativ d.h. er ist antizipativ bzgl. W t ) wegen W n = W tn+1 W tn. Frage: Wie können wir denselben Pfad d.h. mit demselben ω) für eine feinere Unterteilung von [t, T ] berechnen? z.b mit halbierter Schrittweite: alte Unterteilung: t < t 1 < < < +1 < < t N = T neue Unterteilung: t = t < t 1 < t 2 < < t 2N = T t 2n = mit t 2n+1 = ) Dann können wir die Lévy-Konstruktion verwenden, um einen geeigneten Wert von W t 2n+1 ω) zu berechnen, wenn W tn ω) und W tn+1 ω) bekannt sind. Definiere

35 KAPITEL 6. DAS STOCHASTISCHE EULER-VERFAHREN 34 W t 2n+1 ω) = 1 2 { Wtn ω) + W tn+1 ω) } + n 2 ɛ nω) wobei ɛ n N, 1) ist und natürlich sind die verschiedenen ɛ n unabhängig. Beweis-Hinweis Die neuen Zuwächse W 2n = n W t 2n+1 W t 2n = W t 2n+1 W tn = 2 ɛ n W n W 2n+1 = n W t 2n+2 W t 2n+1 = W tn+1 W t 2n+1 = 2 ɛ n W n sind unabhängig und N, n /2) verteilt mit NB W 2n + W 2n+1 = W n Var W 2n + W 2n+1 ) = Var W 2n ) + Var W 2n+1 ) unabhängig! = n /2 + n /2 = n = Var W n ).

36 Kapitel 7 Starke und schwache Konvergenz Betrachte eine Ito-SDG dx t = ft, X t )dt + gt, X t ) dw t auf einem Intervall [t, T ] mit Lösung X t. Betrachte auch eine Unterteilung t < t 1 < < < < t N = T des Intervalls [t, T ] mit Schrittweiten n = +1 >, n =, 1,, N 1 und maximaler Schrittweite = max n n Das Euler-Maruyama-Verfahren hier lautet X n+1 = X n + f, X n ) n + g, X n ) W n, wobei die Zuwächse W n N, n ) und unabhängig sind. Die Vorschrift hier ist eine Differenzengleichung für Zufallsvariablen. In der Praxis können wir nur einzelne Realisierungen von Zufallsvariablen berechnen, d.h. X n+1 ω) = X n ω) + f, X n ω)) n + g, X n ω)) W n ω), n =, 1,, für ein festes ω. Dann können/müsssen wir die Berechnungen für ein neues ω wiederholen). Dafür simulieren wir die W n ω) durch PZVE und die Box-Muller-Methode. Wir hoffen, dass die X n ω) irgendwie die X tn ω) approximieren. Aber, in welchem Sinn? Beispiel: Sei X eine 2-Punkt-Zufallsvariable mit P {ω Ω : Xω) = 1}) = 1/2, P {ω Ω : Xω) = +1}) = 1/2 35

37 KAPITEL 7. STARKE UND SCHWACHE KONVERGENZ 36 und definiere Y ω) Xω) für alle ω Ω. Dann sind die Zufallsvariablen X und Y identisch verteilt, aber Was wollen wir approximieren? Xω) Y ω) = 2, ω Ω. Für einige Anwendungen sollen die Realisierungen nah sein. Für andere reicht es, dass nur die Wahrscheinlichkeiten verschiedener Ereignisse oder die Verteilungen) nah sind. Wir werden 2 Arten stochastischer Approximationen unterscheiden: starke Approximationen und schwache Approximationen. 7.1 Starke Approximationen Im Prinzip können wir den Fehler X n ω) X tn ω) für jedes ω Ω betrachten. Aber dann sind die Fehlerabschätzungen technisch sehr kompliziert vielleicht unmöglich!) und viele Fälle passieren fasie oder nur mit geringer Wahrscheinlichkeit. In der Praxis ist der qm-fehler qm = quadrat-mittel) E X n X tn 2) günstiger, z.b Abschätzungen sind technisch leichter durchzuführen. Aber: wir werden der erste Moment E X n X tn ) benutzen, weil es die natürliche Verallgemeinerung des deterministischen Diskretisierungsfehlers ist. Wir können ihn auch durch den qm-fehler abschätzen: E X n X tn ) E X n X tn 2) Schreibe X n ). für eine numerische Approximation mit maximaler Schrittweite Wir definieren die starke Konvergenz solcher numerischen Approximationen durch ) X max E ) n X tn für. n

38 KAPITEL 7. STARKE UND SCHWACHE KONVERGENZ 37 Wir sagen, dass ein numerisches Verfahren starke Ordnung γ > besitzt, falls für eine Konstante, die von T abhängt. ) X max E ) n X tn K T γ, n Das Euler-Maruyama-Verfahren besitzt starke Ordnung γ = 1/2 bezüglich der Klasse von Ito-SDGLen mit Koeffizienten f und g wie in dem Existenz/Eindeutigkeitssatz. Verglichen mit dem deterministischen Fall, ist der Beweis schwieriger, weil die Lösungen nicht pfadweise gleichmäßig beschränkt sind, d.h wir können keine gemeinsame kompakte Menge für z.b. lokale Lipschitz-Bedingungen benutzen. Hinweis: E W n ) 2) = n E W n ) n 7.2 Schwache Approximationen Jetzt wollen wir die Verteilungen von X ) n und X tn vergleichen, oder die entsprechenden Wahrscheinlichkeiten für verschiedene Ereignisse. Diese sind meistens expliziicht bekannt aber die Momente sind oft bekannt. X ) n Wir definieren die schwache Konvergenz einer numerischen Approximation durch max n E P X ) n )) E P X tn )) für, für alle Polynome P oder von einer anderen geeigneten Klasse von Testfunktionen). Wir sagen, dass ein numerisches Verfahren die schwache Ordnung β > besitzt, falls )) max E P X n ) E P X tn )) K P,T β n wobei hier die Konstante auch von P abhängt. Das Euler-Maruyama-Verfahren besitzt schwache Ordnung β = 1

39 KAPITEL 7. STARKE UND SCHWACHE KONVERGENZ 38 bzgl. der obigen Klasse von Ito-SDGLen. Bemerkung: Schwache Konvergenz ist tatsächlich schwächer als starke Konvergenz. Dies ist leicht zu sehen, wenn P einer globalen Lipschitz-Bedingungen genügt, z.b. P x) = x. Dann gilt E P X n )) E P X tn )) = E P X n ) P X tn )) E P X n ) P X tn ) ) E L P X n X tn ) = L P E X n X tn ) ein Verfahren konvergiert schwach, wenn es stark konvergiert. Umgekehrt meistens falsch! z.b. Sei X n X tn mit EX n ) = and E X n ). Dann haben wir E X n ) E X tn ) = = aber E X n X tn ) = 2E X n ) Das vereinfachte Euler-Verfahren Für schwache Konvergenz können wir die 2-Punkt-Zufallsvariablen W n mit P {ω Ω : W n ω) = }) n = 1/2 P {ω Ω : W n ω) = + }) n = 1/2 statt Gauß-verteilten W n N, n ) in dem Euler-Verfahren benutzen. Dann heißt das Euler-Verfahren das vereinfachte Euler-Verfahren und lautet X n+1 = X n + f, X n ) n + g, X n ) W n Dieses Verfahren besitzt auch die schwache Ordnung β = 1, aber konvergiert nicht in dem starken Sinne. Bemerkung Die ersten 3 Momente von W n und W n sind identisch diese Tatsache reicht für eine schwache Approximation erster Ordnung. ) E W n = E W n ) =

40 KAPITEL 7. STARKE UND SCHWACHE KONVERGENZ 39 ) ) 2 E W n ) ) 3 E W n = E W n ) 2) = n = E W n ) 3) = aber ) ) 4 E W n = 2 n E W n ) 4) = 3 2 n. Bemerkung Die 2-Punkt-Zufallsvariablen W n sind sehr leicht und billig!) zu simulieren. 1) PZVE U auf [, 1] gleichmäßig verteilt 2) U, 1/2) W n ω) = n U [1/2, 1] W n ω) = + n d.h wir müssen keine aufwendigen Funktionen, ln, cos, sin wie in der Box- Muller-Methode auswerten Funktionalschätzung Oft wollen wir ein Funktional einer Lösung X t einer Ito-SDG schätzen, z.b. E qx T )), wobei q : R R eine gegebene Funktion ist und X t die Lösung einer Ito-SDGL auf einem Intervall [t, T ]. Wir können ein schwach konvergierendes numerisches Verfahren benutzen, um X ) N ω) für ω = ω 1,, ω K zu berechnen. Dann ist das arithmetische Mittel eine Schätzung für E q ˆq = 1 K X ) N )). K j=1 ) q X ) N ω j) Das arithmetische Mittel ˆq ist selbst zufällig, aber wir können ein Konfidenz- Intervall der Form [ˆq r,k,α, ˆq + r,k,α ] )) finden. Der genaue Wert E q X N liegt in diesem Intervall mit Wahrscheinlichkeit 1 α und der erwünschte Wert )) E q X T )) = E q + O β ), X ) N

41 KAPITEL 7. STARKE UND SCHWACHE KONVERGENZ 4 wobei β die schwache Ordnung des numerischen Verfahrens ist. Aber K muss sehr groß sein, wenn α und r,k,α klein sein sollen. 7.3 Konsistenz Die starke Ordnung γ = 1/2 und schwache Ordnung β = 1 des stochastischen Euler-Verfahrens sind nicht sehr günstig, weil wir viele verschiedene Pfade berechnen müssen. Daher brauchen wir stochastische numerische Verfahren höherer Ordnung. Aber wie können wir solche Verfahren herleiten? Angepasste Versionen deterministischer Verfahren z.b. des Heun-Verfahrens) konvergieren entweder nicht oder nur miiedriger Ordnung. Beispiel Das Heun-Verfahren für die Ito-SDGL dx t = fx t ) dt + gx t ) dw t lautet X n+1 = X n [fx n) + fx n + fx n ) n + gx n ) W n )] n [gx n) + gx n + fx n ) n + gx n ) W n )] W n Für multiplikatives Rauschen, d.h. gx), konvergiert das Heun-Verfahren weder stark noch schwach. Dies ist keine Überraschung, weil der stochastische Term des Heun-Verfahrens offensichtlich nicht konsistent mit den Definitionen des Ito-Integrals ist, z.b dx t = 2X t dw t fx), gx) 2x X = 1 mit der Lösung X t = 1 + 2X s dw s, für welche gilt ) EX t ) = 1 + E 2X s dw s = 1 + = 1 t, Ito-Integral! Das Heun-Verfahren hier lautet X n+1 = X n [2X n + 2 X n + 2X n W n )] W n = X n [ Wn + 2 W n ) 2 ) ] X n = n 1 j= Wj + 2 W j ) 2) unabhängige ZVen X 1)

42 KAPITEL 7. STARKE UND SCHWACHE KONVERGENZ 41 EX n ) = = = n 1 j= n 1 j= n 1 j= E W j + 2 W j ) 2) 1 + 2E Wj ) + 2E W j ) 2 ) ) ) = ) n = e 2n + O ) = e 2 + O ), = n, Betrachte den globalen Diskretisierungsfehler des Euler-Verfahrens für die deterministische DGL x = 2x.) aber E X tn ) = 1 e 2 Das Heun-Verfahren konvergiericht schwach und deshalb auch nicht stark) in diesem Beispiel. Für additives Rauschen, d.h. g x), konvergiert das Heun-Verfahren mit Ordnungen γ = β = 1. Es gehicht besser mit anderen Runge-Kutta-Verfahren: entweder keine Konvergenz oder Konvergenz nur mit Ordnungen γ, β < 2. Ein stochastisches numerisches Verfahren höherer Ordnung soll mindestens die entsprechenden statistischen Eigenschaften des Euler-Verfahrens besitzen. Diese Beobachtung motiviert die folgenden Definitionen starker und schwacher Konsistenz. Betrachte eine Ito-SDGL dx t = ft, X t ) dt + gt, X t ) dw t Schreibe X,t,X) 1 für den ersten Schritt eines numerischen Verfahrens mit Anfangsbedingungen t, X) und Schrittweite. Sei c : R R + eine stetige Funktion mit lim c ) = Ein numerisches Verfahren heißt stark konsistent, falls ) 1) 1 E X,t,X) 1 X ft, X) 2 c ) ) 1 2) E X,t,X) 1 X E X,t,X) 1 X gt, X) W 2) c ),

43 KAPITEL 7. STARKE UND SCHWACHE KONVERGENZ 42 und schwach konsistent, falls 1) und X 2 ) 1 E,t,X) 1 X 2) gt, X) 2 c ) SATZ 1) starke Konsistenz starke Konvergenz 2) schwache Konsistenz schwache Konvergenz Beispiele 1) Das Euler-Maruyama-Verfahren mit W N, ) ist stark und schwach konsistent. 2) Das vereinfachte Euler-Verfahren ist schwach konsistent. 3) Das Heun-Verfahren ist stark/schwach konsistent genau dann, wenn das Rauschen additiv ist.

44 Kapitel 8 Die stochastische Kettenregel Wir brauchen stochastische Taylor-Entwicklungen, um konsistente stochastische Approximationen höherer Ordnung systematisch herzuleiten. Diese sind durch die stochastische Kettenregel oder Ito-Formel konstruiert. Die Ito-Formel hat viele andere wichtige Anwendungen, z.b. die Herleitung der Feynman-Kac- Formel, die wir auch in diesem Kapitel betrachten werden. 8.1 Die Ito-Formel Betrachte eine Ito-SDGL mit Lösung X t und definiere dx t = ft, X t ) dt + gt, X t ) dw t Y t = Ut, X t ), wobei U : [, T ] R R eine 2-mal stetig differenzierbare Funktion ist. Dann gilt: oder in Integralform dy t = L Ut, X t ) dt + L 1 Ut, X t ) dw t Y t = Ut, X t ) + t L Us, X s )ds + t L 1 Us, X s )dw s 43

45 KAPITEL 8. DIE STOCHASTISCHE KETTENREGEL 44 mit den Differential-Operatoren L U = U t + f U x g2 2 U x 2, L1 U = g U x Dieser Ausdruck ist die stochastische Kettenregel und heißt Ito-Formel. Beispiel Y t = W 2 t Nimm X t W t, d.h. dx t = dt + 1 dw t ft, X), gt, X) 1 Wir haben Y t = W 2 t X 2 t = Ut, X t ) mit Ut, x) = x 2 U t =, U x = 2x, 2 U x 2 = 2 L U = + 2x , L 1 U = 1 2x = 2x Die Ito-Formel lautet dy t = 1 dt + 2X t dw t hier dw 2 t ) = 1 dt + 2W t dw t W 2 t = W ds + 2 W s dw s = + t + 2 W s dw s W s dw s = 1 2 W 2 t 1 2 t Bemerkung Bei einem Vergleich mit der totalen Ableitung d dt Ut, x) = U t U t, x) + f t, x) x der deterministischen Kettenregel, enthält der Operator L einen zusätzlichen Term g2. Der Ursprung dieses Terms liegt in der die Tatsache, dass x2 E W ) 2) = t Beweis Skizze) Schreibe X = X t+ t X t. Dann gilt Y = Y t+ t Y t = Ut + t, X t+ t ) Ut, X t ) = Ut + t, X t + X) Ut, X t ) = U U t + t x X U 2 t 2 t)2 + 2 U t x t X U 2 x 2 X)2 +

46 KAPITEL 8. DIE STOCHASTISCHE KETTENREGEL 45 Aber X = ft, X t ) t+gt, X t ) W t +. Schreibe X = f t+g W t + Y = U t t + U x f t + g W t) U 2 t 2 t)2 + 2 U t x t f t + g W t) = U f 2 2 x 2 t 2 + 2f t g W t + g 2 W t ) 2) + U t + f U x g2 2 U x 2 ) t + g U x W t g2 2 U x 2 Wt ) 2 t ) + Y = L U t + L 1 U W t g2 2 U x 2 { Wt ) 2 t } + Terme höherer Ordnungen Nur die ersten 2 Terme bleiben nach qm-konvergenz übrigs. 8.2 Die Stratonovich-Kettenregel Die Kettenregel für Stratonovich SDGLen ist eine direkte Verallgemeinerung der deterministischen Kettenregel. Betrachte eine Stratonovich SDGL dx t = ft, X t ) dt + gt, X t ) dw t und eine Abbildung Y t = Ut, X t ) Dann lautet die Stratonovich-Kettenregel oder in Itegralform dy t = L Ut, X t )dt + L 1 Ut, X t ) dw t Y t = Ut, X t ) + t L Us, X s ) ds + t L 1 Us, X s ) dw s

47 KAPITEL 8. DIE STOCHASTISCHE KETTENREGEL 46 mit den Differential-Operatoren L U = U t + f U x, L1 U = g U x Dies bedeutet, dass wir Stratonovich-SDGLen mit Integrationstricks des deterministischen Kalküls lösen können. Beispiel Stratonovich-SDGL: dx t = ax t dt + bx t dw t dx t X t = a dt + b dw t integriere lnx t /X ) = a t + b W t X t = X e at+bwt Wir können eine Ito-SDGL über die entsprechende Stratonovich-SDGL integrieren. Beispiel Ito-SDGL: dx t = ax t dt + bx t dw t mit modifiziertem Drift ft, x) = ft, x) 1 g gt, x) t, x) 2 x = ax 1 2 bx x bx) = a 12 b2 ) x Entsprechende Stratonovich-SDGL: dx t = a 1 2 b2) X t dt + bx t dw t dx t X t = integriere lnx t /X ) = = a 12 ) b2 dt + b dw t a 12 ) b2 t ) + bw t W ) a 12 b2 ) t + b W t X t = X exp a 12 ) ) b2 t + b W t Umgekehrt: Beweise für Stratonovich-SDGLen sind im Allgemeinen über die entsprechenden Ito-SDGLen durchgeführt.

48 KAPITEL 8. DIE STOCHASTISCHE KETTENREGEL Die Feynman Kac-Formel Die Feynman Kac-Formel ist eine einfache, aber sehr nützliche Formel, welche einen Zusammenhang zwischen der Lösung einer deterministischen partiellen DGL und einem Erwartungswert E[ΦX T )] eines Funktionals der Lösung einer stochastischen DGL herstellt. Wir werden diese Formel in dem Beweis der schwachen Konvergenz des Euler-Maruyama-Verfahrens verwenden. Hier wollen wir zeigen, wie wir diesen Erwartungswert durch die Lösung einer zugehörigen partiellen DGL deterministisch!) darstellen können. Wir betrachten eine Anfangswertaufgabe für eine skalare SDGL dx t = fx t ) dt + gx t ) dw t, X τ = x. 8.1) auf einem Zeitintervall [τ, T ], wobei τ, T und x fest sind. Sei ut, x) eine Lösung der deterministischen PDGL u t t, x) + fx) u x t, x) gx)2 u xx t, x) =, t [, T ], x R, 8.2) mit der Endzeitbedingung, d.h. zu der Endzeit T, ut, x) = Φx). 8.3) Die Ito-Formel für ut, X t ) ergibt dut, X t ) = u t t, X t ) + fx t ) u x t, X t ) + 1 ) 2 gx t) 2 u xx t, X t ) dt +gt, X t )u x t, X t ) dw t Wegen 8.2) ist der erste Term gleich Null und wir haben oder das stochastiche Integral dut, X t ) = gt, X t ) u x t, X t ) dw t, ut, X T ) uτ, x) = T τ gs, X s ) u x s, X s ) dw s. Aber der Erwartungswert eines Ito-Integrals ist gleich Null, d.h. Wegen 8.3) gilt somit welche Feynman Kac-Formel heißt. E [ut, X T )] = uτ, x). E [ΦX T )] = uτ, x) 8.4) Die PDGL 8.2) mit Endzeitbedingung 8.3) heißt Feynman Kac-PDGL. Wenn wir diese PDGL rückwärts in der Zeit von der Endzeit T lösen, erhalten wir durch die Feynman Kac-Formel 8.4) den Erwartungswert E[ΦX T )], wobei X t die Lösung der SDGL 8.1) mit dem Anfangswert X τ = x ist.

49 Kapitel 9 Konvergenzbeweise für das Euler-Maruyama-Verfahren Der Einfachheit wegen betrachten wir eine skalare SDGL dx t = fx t ) dt + gx t ) dw t 9.1) und das entsprechende Euler-Maruyama-Verfahren X n+1 = X n + fx n ) + gx n ) W n. 9.2) mit konstanter Schrittweite. Wir werden oft X ) n statt X n schreiben Wir setzen voraus, dass die Koeffizientenfunktionen f und g globalen Lipschitz- Bedingungen genügen, d.h. fx) fy) L x y, gx) gy) L x y, x, y R. Daher genügen f und g auch den linearen Wachstumsbedingungen fx) 2 L 1 + x 2), gx) 2 L 1 + x 2), x R, 9.3) für eine geeignete Konstante L. 9.1 Starke Konvergenz Wir wollen zeigen, dass der starke Diskretisierungsfehler des Euler-Maruyama- Verfahrens der folgenden Abschätzung genügt ) sup E X n ) X tn K T 1 2, 9.4) n N falls klein genug ist, wobei die Konstante K T nicht von abhängt. 48

50 KAPITEL 9. KONVERGENZBEWEISE 49 Dafür ist es günstig eine zeitkontinuierliche Erweiterung der Lösung des Euler-Maruyama-Verfahrens einzuführen, nämlich den stückweise konstanten Prozess definiert durch X ) t X ) t = X ) n, für t < ) Von den obigen Voraussetzungen über die Koeffizientenfunktionen kann man zeigen, dass die zweiten Momente EXt 2 ) ) und E X t ) 2 ) für t [, T ] beschränkt sind. Insbesondere werden wir beweisen, dass Zt) K 2 T, t [, T ], 9.6) falls genügend klein ist, wobei ) Zt) := sup E X ) 2 s X s. s t Mit einer Anwendung der Ljapunov-Ungleichung, d.h. EX) EX 2 ), erhalten wir dann die Fehlerabschätzung ) ) sup E X s X s K T 1 2. s T Es folgt dann die gewünschte Fehlerabschätzung 9.4), weil X ) t = X ) n t < +1 T. Ein wichtiges Werkzeug in dem Beweis ist die Ungleichung von Gronwall. Lemma 1 Sei α : [, T ] R eine integrierbare Funktion mit αt) A + B wobei A, B > Konstanten sind. Dann ist Wir werden eine Ungleichung der Form Zt) A + B αr) dr, t T, αt) Ae Bt, t T. für Zr) dr, t T, 9.7) herleiten und dann die Gronwall-Ungleichung verwenden, um die Ungleichung 9.6) mit K 2 T = AeBT zu erhalten.

51 KAPITEL 9. KONVERGENZBEWEISE Beweis-Skizze für starke Konvergenz Sei s [, T ] und definiere n s als die ganze Zahl, so dass s [s, s+1), wobei := n. Dann gilt X s = X ns und wir haben = X s X s = X ns X s = X ns X + n s 1 i= = n s 1 s X i+1 X i ) i= n s 1 fx i ) + i= Die Definition von X t ergibt gx i ) W i fx r ) dr + s s s fx r ) dr fx r ) dr gx r ) dw r ) s s gx r ) dw r gx r ) dw r. 9.8) i+1 i+1 i+1 f ) Xt dt = f X i ) dt = f X i ) dt = f X i ), 9.9) und ähnlicherweise i+1 die wir in 9.8) einfügen und erhalten t i g Xt ) dwt = g X i ) W i, 9.1) X s X s = = ns n s f X tns r ) dr + g X r ) dw r f Xr ) fx r ) ) n s dr + s fx r ) dr s gx r ) dw r g Xr ) gx r ) ) dw r 9.11) s s fx r ) dr gx r ) dw r. 9.12) s s Die Integrale in der Zeile 9.11) enthalten den Fehler des Euler-Maruyama- Verfahrens in dem Zeitintervall [, s ] und die Integrale in der Zeile 9.12) enthalten den Fehler der Approximation von X s durch X ns = X s. Wie brauchen die folgende Ungleichung: a + b + c + d) 2 4a 2 + b 2 + c 2 + d 2 ), a, b, c, d R 9.13) Wir quadrieren die beiden Seiten von 9.11)-9.12) und nehmen die Erwartungswerte. Dann erhalten wir { ) ) ns 2 E Xs X s 4 E f Xr ) fx r ) ) ) 2 ) dr n s +E g Xr ) gx r ) ) ) 2 ) dw r

52 KAPITEL 9. KONVERGENZBEWEISE 51 ) 2 s +E fx r ) dr s ) 2 } s +E gx r ) dw r. 9.14) s Wir werden jetzt die vier Integrale an der rechten Seite abschätzen. Für das erste Integral benutzen wir die Cauchy-Schwarz-Ungleichung und die Lipschitz- Bedingung, um zu erhalten n s E f Xr ) fx r ) ) ) 2 ) n s f, dr s E Xr ) fx r ) ) ) 2 dr T L 2 n s ) ) 2 E Xr X r dr s T L 2 Zr) dr. 9.15) Analog erhalten wir durch die Cauchy-Schwarz-Ungleichung und die lineare Wachstumsbedingung 9.3) ) 2 s s E fx r ) dr s s ) E fx r ) 2) dr s s s L )) 1 + E X 2 r dr s C 1 2, 9.16) für eine Konstante C 1. Hier brauchen wir die Beschränktheit des Erwartungwertes EXr 2 ). Für die stochastischen Integrale benutzen wir die Ito-Isometrie 4.1). Dann erhalten wir mit der Lipschitz-Bedingung n s E g Xr ) gx r ) ) ) 2 ) n s g dw r = E Xr ) gx r ) ) ) 2 dr L 2 ns ) ) 2 E Xr X r dr s L 2 Zr) dr. 9.17) Mit der linearen Wachstumsbedingung 9.3) folgun ) 2 s s E gx r ) dw r = E gx r ) 2) dr s s s L s 1 + E X 2 r )) dr C 2, 9.18)