Einführung und Grundlagen

Transkript

1 Kapitel 1 Einführung und Grundlagen Generelle Notation: Ω, A, P sei ein W-Raum im Hintergrund nie weiter spezifiziert Die betrachteten Zufallsvariablen seien auf Ω definiert, zb X : Ω, A M, A, wobei M, A ein Messraum ist Bisweilen ist es bequem, eine störende P-Nullmenge aus Ω zu entfernen, oder anders gesagt: Wenn Ω A mit P Ω = 1, dann macht es keinen wesentlichen Unterschied, statt Ω, A, P den reduzierten W-Raum Ω, A eω, P AeΩ zu nehmen und alle Zufallsvariablen auf Ω zu restringieren Wir schreiben dann aber wiederum Ω, A, P für den reduzierten W-Raum Definition 11 Stochastischer Prozess Eine Familie von Zufallsvariablen X t t T auf Ω mit Werten in einer Menge M, dh X t : Ω, A M, A für alle t T, wobei T irgendeine Indexmenge ist, heißt ein stochastischer Prozess mit Indexmenge T und Zustandsraum M Für jedes ω Ω heißt die Funktion t X t ω eine Funktion auf T mit Werten in M ein Pfad oder eine Trajektorie des stochastischen Prozesses Die interessanten Eigenschaften spezieller stochastischer Prozesse betreffen: a Die endlich-dimensionalen Randverteilungen P Xt 1,,Xt n, für n N und paarweise verschiedene t 1,, t n T b Die Pfade t X t ω für ω Ω ZB, im Fall M = R : Prozess mit stetigen Pfaden oder Prozess mit isotonen Pfaden Bemerkung: Verteilung eines stochastischen Prozesses Die Verteilung des stochastischen Prozesses X t t T mit Zustandsraum M ist die Verteilung der Zufallsvariablen X : Ω M T, Xω = X t ω t T, wobei M T die Menge aller Funktionen von T in M bezeichnet Diese Sichtweise führt allerdings zu neuen Maßund w-theoretischen Problemen, die wir nicht verfolgen wollen ZB ist hier ein erstes maßtheoretisches Problem die Festlegung einer geeigneten Sigma-Algebra A T im Funktionenraum M T, so dass X : Ω, A M T, A T Als für uns wichtiges Resultat ergibt sich dabei: Die Verteilung P X des stochastischen Prozesses ist eindeutig bestimmt durch das System aller endlich-dimensionalen Randverteilungen in Punkt a oben 1

2 Kapitel 1: Einführung und Grundlagen 2 11 Bedingte Verteilungen von Zufallsvariablen Definition 12 Bedingte Verteilung von X unter Y Seien X : Ω, A M, A und Y : Ω, A N, B zwei Zufallsvariablen auf Ω, wobei M, A und N, B zwei Messräume sind Eine bedingte Verteilung von X unter Y ist eine Familie P X Y = P X Y =y von W-Verteilungen auf A mit den folgenden Eigenschaften: y N i Für jedes A A ist die Funktion y P X Y =y A messbar bezgl der Sigma-Algebra B in N und der Borel schen Sigma-Algebra B 1 in R ii P X Y =y A dp Y y = P X 1 A Y 1 B A A, B B B Bemerkungen 1 Massenpunkte der Verteilung von Y Wenn P X Y = P X Y =y eine bedingte Verteilung von X unter Y ist, dann gilt für jeden Punkt y N y 0 N mit {y 0 } B und PY = y 0 > 0 : P X Y =y 0 = P X {Y =y 0}, wobei P X {Y =y 0} die elementare bedingte Verteilung von X unter dem Ereignis {Y = y 0 } ist, definiert durch P X {Y =y 0} A = P X 1 A {Y = y 0 } A A 2 Verallgemeinerte Fubini-Formel Wenn P X Y = P X Y =y eine bedingte Verteilung von X unter Y ist, dann gilt für eine Funktion y N g : M N, A B R, B 1 mit g X, Y 0 oder g X, Y P-integrierbar: E g X, Y = gx, y dp X Y =y x dp Y y N M Theorem 13 Eindeutigkeit und Existenz der bedingten Verteilung Seien X : Ω, A M, A und Y : Ω, A N, B a Die Sigma-Algebra A in M sei abzählbar erzeugt, dh es existiert ein abzählbares Teilsystem E A mit σe = A Dann ist die bedingte Verteilung von X unter Y P Y -fs eindeutig bestimmt, dh: Wenn Q y y N and Q y y N zwei bedingte Verteilungen von X unter Y sind, dann gilt P Y { y N : Qy = Q } y = 1 b Wenn M eine offene oder eine abgeschlossene Teilmenge von R d ist und A = B d M, dann existiert eine bedingte Verteilung von X unter Y und ist P Y -fs eindeutig bestimmt

3 Kapitel 1: Einführung und Grundlagen 3 Theorem 14 Bedingte Verteilung mit Hilfe von Dichten Seien X : Ω, A M, A und Y : Ω, A N, B, und die gemeinsame Verteilung P X,Y besitze die µ ν-dichte f, wobei µ ein sigma-endliches Maß auf A und ν ein sigma-endliches Maß auf B sind Sei noch f Y eine ν-dichte von P Y Dann gilt: { } Für Ñ := y N : 0 < f Y y = fx, y dµx < ist P Y Ñ = 1, und eine bedingte Verteilung von X unter Y ist gegeben durch M P X Y =y := f, y f Y y µ, falls y Ñ, und PX Y =y := P X, falls y N \ Ñ Dabei steht f, y für die Funktion M x fx, t Beispiel: X und Y gemeinsam normalverteilt Seien X : Ω, A R n 1, B n 1 und Y : Ω, A R n 2, B n 2, und X, Y seien gemeinsam normalverteilt: X Nβ, V mit β R Y n 1+n 2 und V PDn 1 + n 2 Wir partitionieren β und V entsprechend der Teil-Dimensionen n 1 und n 2 : [ ] β1 V β = und V = 1 V 12 V t 12 V 2 β 2 Mit Hilfe von Theorem 14 erhält man die bedingte Verteilung P X Y : P X Y =y = N β 1 + V 12 V 1 2 y β 2, V 1 V 12 V 1 2 V t 12, y R n 2 12 Singuläre Normalverteilungen n-dimensionale Normalverteilungen wurden durch Lebesgue-Dichten definiert, was positiv definite Kovarianzmatrizen erforderte Bisweilen jedoch, zb für allgemeine Gauß-Prozesse s Abschnitt 13, ist es nützlich, die Definition von Normalverteilungen etwas zu erweitern auf positiv semi-definite Kovarianzmatrizen die also auch singulär sein können W-Verteilungen auf B n mit singulärer Kovarianzmatrix können keine Lebesgue-Dichte besitzen Definition 15 Singuläre Normalverteilung Seien β R n and V eine positiv semi-definite n n Matrix, die singulär sei Die Normalverteilung Nβ, V ist wie folgt definiert Wähle eine Zerlegung V = UU t, mit einer reellen n n Matrix U ; dann: Nβ, V := N0, I n L U,β, wobei L U,β : R n R n, L U,β x = Ux + β Bemerkung: Wohldefiniertheit Im Allgemeinen gibt es viele n n Matrizen U mit UU t = V für eine gegebene positiv semi-definite n n Matrix V Daher muss nachgewiesen werden, dass Nβ, V aus Definition 15 nicht von der speziellen Wahl von U abhängt Das lässt sich zeigen mit Hilfe eines kleinen Matrizen-Resultats: Wenn U and Ũ zwei n n Matrizen mit UUt = ŨŨt, dann existiert eine orthogonale n n Matrix Q, so dass Ũ = UQ

4 Kapitel 1: Einführung und Grundlagen 4 Die lineare Transformationseigenschaft von Normalverteilungen setzt sich auf die so erweiterte Klasse der Normalverteilungen fort: Theorem 16 Lineare Transformationseigenschaft von Normalverteilungen Seien β R n, V eine positiv semi-definite n n Matrix, A eine m n Matrix and c R m Bezeichne: L A,c : R n R m, L A,c x = Ax + c Dann gilt: Nβ, V LA,c = NAβ + c, AV A t 13 Einige Klassen stochastischer Prozesse Definition 17 1-dim Wiener Prozess ohne Drift Wir betrachten einen stochastischen Prozess mit Indexmenge T = [ 0, und Zustandsraum M = R, also X t : Ω, A R, B 1 für alle t [ 0, Der Prozess X t t [0, heißt ein Wiener Prozess oder eine Brown sche Bewegung, wenn gilt: o X 0 0 ; i der Prozess hat stochastisch unabhängige Zuwächse: Für alle n N and alle 0 t 0 < t 1 < < t n sind die Zufallsvariablen Zuwächse X ti X ti 1 i = 1,, n stochastisch unabhängig ii Für alle s, t 0, s < t gilt: X t X s N 0, σ 2 t s ; dabei ist σ > 0 eine gegebene Konstante; iii die Pfade t X t ω, t [ 0,, sind stetig Definition 18 1-dim Gauß-Prozess Die Indexmenge T sei beliebig, und der Zustandsraum sei M = R, also X t : Ω, A R, B 1 für alle t T Der Prozess X t t T heißt ein Gauß-Prozess, wenn für alle n N and alle paarweise verschiedenen t 1,, t n T die gemeinsame Verteilung der Zufallsvariablen X t1,, X tn eine n-dimensionale Normalverteilung ist die auch singulär sein mag Wir bezeichnen dann: mt = EX t, t T, Mittelwert-Funktion; Ks, t = CovX s, X t, s, t T, Kovarianz-Funktion Bemerkungen 1 Die Verteilung eines Gauß-Prozesses ist vollständig durch seine Mittelwert-Funktion und seine Kovarianz-Funktion bestimmt Denn für jedes n N and alle paarweise verschiedenen t 1,, t n T gilt: mt1 X t1,, X tn t N,, mt n t, Kti, t j i,j=1,,n

5 Kapitel 1: Einführung und Grundlagen 5 2 Ein Wiener-Prozess ist ein Gauß-Prozess mit Mittelwert-Funktion m 0 und Kovarianz-Funktion Ks, t = σ 2 min{s, t}, s, t [ 0, Definition 19 Homogener Poisson-Prozess Sei N t t [0, ein stochastischer Prozess mit Zustandsraum M = N 0 und Indexmenge T = [ 0,, N t : Ω, A N 0, PN 0 für alle t [ 0, Der Prozess N t t [0, heißt ein homogener Poisson-Zählprozess, wenn gilt: o N 0 0 ; i der Prozess hat stochastisch unabhängige Zuwächse: Für jedes n N and alle 0 t 0 < t 1 < < t n sind die Zufallsvariablen Zuwächse N ti N ti 1 i = 1,, n stochastisch unabhängig; ii für alle s, t 0, s < t, gilt N t N s Poi λ t s ; dabei ist λ > 0 eine gegebene Konstante; iii die Pfade t N t ω, t [ 0,, sind isoton, rechtsseitig stetig, mit Sprungweiten 1 an den Unstetigkeitsstellen dh N t ω lim s t,s<t N s ω {0, 1} t > 0, sowie lim N tω = t ω Ω Definition 110 Markov-Kette Die Indexmenge sei T = N 0, und der Zustandsraum M sei abzählbar endlich oder abzählbar-unendlich Ein stochastischer Prozess X n n N0, wobei also heißt eine Markov-Kette, wenn gilt: X n : Ω, A M, PM für alle n N 0, M abzählbar Für jedes n 2, and alle x 0, x 1,, x n M mit PX 0 = x 0, X 1 = x 1,, X n 1 = x n 1 > 0 : P X n = x n X0 = x 0, X 1 = x 1,, X n 1 = x n 1 = P Xn = x n Xn 1 = x n 1 Die Markov-Kette heißt homogen, wenn für alle m, n N and alle x, y M mit PX m 1 = x > 0 und PX n 1 = x > 0 : P X m = y Xm 1 = x = P X n = y Xn 1 = x Beispiel: Ehrenfest sches Diffusionsmodell Eine homogene Markov-Kette X n n N0 mit Zustandsraum M = {1,, k}, k N gegeben, und Übergangswahrscheinlichkeiten 2xk x/k P X n = y Xn 1 = x 2, falls y = x x = 2 /k 2, falls y = x 1 k x 2 /k 2,, falls y = x + 1 0, sonst für alle x, y {1,, k} und n N mit PX n 1 = x > 0

6 Kapitel 1: Einführung und Grundlagen 6 Definition 111 Stationärer Prozess Die Indexmenge T sei eine der Mengen R, [ 0,, Z oder N 0, der Zustandsraum M, A sei beliebig Ein stochastischer Prozess X t t T heißt stationär, wenn für alle n N, alle t 1 < t 2 < < t n in T und alle h T die gemeinsame Verteilung von X t1,, X tn gleich der gemeinsamen Verteilung von X t1 +h,, X tn+h ist: P X t 1,,X tn = P X t 1 +h,,x t n+h n, t 1 < < t n, h Definition 112 Prozess mit stationären Zuwächsen Die Indexmenge T sei eine der Mengen R, [ 0,, Z oder N 0, der Zustandsraum M sei eine Borel sche Teilmenge von R d mit der Borel schen Spur-Sigma-Algebra A = BM d Ein stochastischer Prozess X t t T heißt ein Prozess mit stationären Zuwächsen, wenn für alle n N, alle t 0 < t 1 < < t n in T und alle h T die gemeinsame Verteilung von X ti X ti 1 i = 1,, n gleich der gemeinsamen Verteilung von X ti +h X ti 1 +h i = 1,, n ist: X P t1 X t0,,x t n X tn 1 X = P t1 +h X t0 +h,,x t n+h X tn 1 +h n, t 1 < < t n, h Definition 113 Prozess mit unabhängigen Zuwächsen Die Indexmenge T sei entweder [ 0, oder N 0, der Zustandsraum M sei eine Borel sche Teilmenge von R d mit der Borel schen Spur-Sigma-Algebra A = BM d Ein stochastischer Prozess X t t T heißt ein Prozess mit unabhängigen Zuwächsen, wenn für alle n N und alle t 0 < t 1 < < t n in T die Zufallsvariablen X 0, X t1 X t0, X t2 X t1,, X tn X tn 1 stochastisch unabhängig sind Anmerkung: Im Fall X 0 const kann die konstante Zufallsvariable X 0 aus obiger Bedingung entfernt werden Bemerkung: Wenn X t t T ein Prozess mit unabhängigen Zuwächsen ist, dann ist die Bedingung stationärer Zuwächse äquivalent mit: P X t X s = P X t+h X s+h für alle s, t T, s < t, und alle h T Wiener-Prozesse und homogene Poisson-Zählprozesse sind also Prozesse mit unabhängigen und stationären Zuwächsen

7 Kapitel 1: Einführung und Grundlagen 7 Definition 114 Markov Prozess Die Indexmenge T sei eine Teilmenge von R, der Zustandsraum M, A sei beliebig Ein stochastischer Prozess X t t T heißt ein Markov-Prozess, wenn gilt: Zu jedem Paar s, t T mit s < t existiert eine bedingte Verteilung von X t unter X s, P X t X s = P X t X s =x x M, mit der Eigenschaft, dass für alle n N und alle s 1 < < s n < s in T die Familie P X t X s=x x 1,,x n,x M n+1 eine bedingte Verteilung von X t unter X s1,, X sn, X s ist; kurz aber lax formuliert: Xs1 =x 1,, X s n =x n, X s =x = P X t X s =x Die Verteilungen P X t s 1 < < s n < s < t in T, x 1,, x n, x M, n N P X t X s =x für s, t T, s < t, und x M heißen dann Übergangsverteilungen des Markov-Prozesses X t t T Bemerkung: Markov-Prozess mit diskretem Zustandsraum Wenn M abzählbar ist und A = PM, dann lässt sich ein Markov-Prozess X t t T charakterisieren durch die folgende Bedingung: Für alle n N, alle s 1 < < s n < s < t in T, and alle x 1,, x n, x, y M mit P X s1 = x 1,, X sn = x n, X s = x > 0 gilt P X t = y X s1 = x 1,, X sn = x n, X s = x = P X t = y X s = x Die bedingten Wahrscheinlichkeiten T s,t x, y = P X t = y Xs = x, für s, t T, s < t, und x, y M mit PX s = x > 0, heißen dann Übergangswahrscheinlichkeiten des Markov-Prozesses X t t T elementarer Wenn außerdem T = N 0, dann ist die obige Markov-Eigenschaft äquivalent mit der in Definition 110 formulierten Bedingung: Für jedes n N, n 2, and alle x 0, x 1,, x n M mit PX 0 = x 0, X 1 = x 1,, X n 1 = x n 1 > 0 gilt P X n = x n X0 = x 0, X 1 = x 1,, X n 1 = x n 1 = P Xn = x n Xn 1 = x n 1 Wir sehen: Ein Markov-Prozess mit abzählbarem Zustandsraum und Indexmenge N 0 ist dasselbe wie eine Markov-Kette gemäß Definition 110 Theorem 115 Unabhängige Zuwächse = Markov Die Indexmenge T sei entweder [0, oder N 0, und der Zustandsraum M sei eine Borel sche Teilmenge von R d mit der Sigma-Algebra A = B d M Wenn X t t T ein Prozess mit unabhängigen Zuwächsen ist, dann ist X t t T ein Markov-Prozess mit Übergangsverteilungen P X t X s =x = P X t X s +x für alle s, t T, s < t, und alle x M Anmerkung: Streng genommen ist nur für P X s -fast alle x M die Verteilung von X t X s +x eine W-Verteilung auf B d M Für die übrigen x M die eine PX s -Nullmenge bilden, definiere man zb P X t X s =x = P X t s

8 Kapitel 1: Einführung und Grundlagen 8 Theorem 116 Chapman-Kolmogorov-Gleichung für Markov-Prozesse Sei X t t T, wobei T R, ein Markov-Prozess mit Zustandsraum M, A, und die Sigma-Algebra A sei abzählbar erzeugt Für je drei Punkte s < t < u in T gilt: P Xu Xs=x A = P Xu Xt=y A dp Xt Xs=x y A A, für P X s -fast alle x M M Bemerkungen 1 Diskreter Zustandsraum Wenn M abzählbar und A = PM, dann lässt sich die Chapman-Kolmogorov-Gleichung für einen Markov-Prozess elementarer mit den Übergangswahrscheinlichkeiten formulieren: T s,u x, z = y M T s,t x, y T t,u y, z x, z M mit PX s = x > 0, wobei s < t < u in T Streng genommen erfolgt die Summation nur über die y M mit PX t = y > 0 2 Übergangsverteilungen mit Lebesgue-Dichten Der Zustandsraum M sei eine Borel sche Teilmenge von R d und A = BM d Sei X t t T ein Markov- Prozess, dessen Übergangverteilungen Lebesgue-Dichten besitzen: P X t X s =x = f s,t x, λ d A s < t in T, x M Dann schreibt sich die Chapman-Kolmogorov-Gleichung als: f s,u x, z = f s,t x, y f t,u y, z d λ d y für P X s -fast alle x M und λ d -fast alle z M M wobei s < t < u in T Definition 117 Homogener Markov-Prozess Die Indexmenge T sei eine der Mengen R, [ 0,, Z oder N 0 ; der Zustandsraum M, A sei beliebig Ein Markov-Prozess X t t T heißt homogen, wenn sich die Übergangsverteilungen in Definition 114 so wählen lassen, dass gilt: P X t X s =x = P X t+h X s+h =x s < t in T, h T, x M Korollar 118 Die Indexmenge T sei entweder [ 0, or N 0 ; der Zustandsraum M sei eine Borel sche Teilmenge von R d und A = BM d Wenn X t t ein Prozess mit stationären und unabhängigen Zuwächsen ist, dann ist X t t T ein homogener Markov-Prozess mit Übergangsverteilungen P Xt Xs=x = P X t s X 0 +x, s < t, x M