1.3 Zufallsvariablen

Transkript

1 1.3 Zufallsvariablen

2 Beispiel Irrfahrt zwischen drei Zuständen Start in G bei t = 0, Zeithorizont T N Grundraum σ-algebra Ω = {ω = (ω 0, ω 1,..., ω T ) {G, R, B} T +1, ω 0 = G} Wahrscheinlichkeitsmaß P : F [0, 1], Trefferzeit vom Zustand B F = {E E Ω} = 2 Ω P({ω}) = T i=1 p ω i 1,ω i τ : Ω R { }, τ(ω) := inf{k {0,..., T } ω k = B} Beispiel: Wette auf frühes Treffen von B C : Ω [0, 1], C(ω) = e τ(ω).

3 Messbare Abbildungen Definition 1.15 Eine Abbildung X : E F zwischen zwei messbaren Räumen (E, E) und (F, F) heißt (E/F-)messbar, falls X 1 (A) E für alle A F. Eine F/B(R)-messbare Abbildung 6 X : Ω R auf einem W-Raum (Ω, F, P) heißt (reelle) Zufallsvariable oder (reelle) Zufallsgröße. Bemerkung A Ω messbar Indikatorfunktion 1 A ist messbar { 1 falls x A mit 1 A : Ω R, 1 A (x) = 0 falls x A. 6 R = R {± }, A B(R) : A R B(R).

4 Sprechweisen Definition 1.16 Bemerkung Definition 1.17 Von einer Abbildung X : E F in einen messbaren Raum (F, F) erzeugte σ-algebra σ(x ) := {X 1 (A) A F} X : E F E/F-messbar σ(x ) E Eine reelle ZV X heißt endlich, falls X (ω) R ω Ω. X heißt beschränkt, falls ein K > 0 existiert, so dass X (ω) K ω Ω.

5 Approximation durch Treppenfunktionen Definition 1.18 Satz 1.11 Eine Zufallsvariable X : (Ω, F) R heißt einfach, falls α 1,..., α N R, mit (A i ) paarweise disjunkt, so dass A 1,..., A N F : Ω = i=1,...n A i X (e) = N i=1 α i1 Ai (e). Jede beschränkte Zufallsvariable X : (Ω, F) R lässt sich durch eine Folge (X n ) n von einfachen Zufallsvariablen (X n ) auf Ω gleichmäßig approximieren, d.h. lim sup X (ω) X n (ω) = 0. n ω Ω Bew: Zu n N definiere X n (ω) = k Z k n 1 X 1 (] k n, k+1 n ])(ω). Bemerkung Analog: Für X 0 endliche ZV ex Folge (X n ) einfacher ZV n X n (ω) X (ω) ω Ω. Summen, Produkte etc. von einfachen ZV n sind einfache ZV n.

6 Der Erwartungswert einer Zufallsvariablen Definition 1.19 Für eine einfache Zufallsvariable X : (Ω, F, P) R heißt N α i P(A i ) =: X (ω)p(dω) i=1 Ω das Integral von X (bzgl. P) bzw. Erwartungswert. Schreibweisen Ω X (ω)p(dω) = E P(X ) = X P. Bemerkung E P (X ) hängt nicht von der genauen Darstellung von X ab. E P (λx + µy ) = λe P (X ) + µe P (Y ). E P (X ) E P ( X ) sup ω Ω X (ω)

7 Integral für beschränkte Zufallsvariablen Satz 1.12 Bew: Falls X eine beschränkte ZV auf (Ω, F, P), so ex. X n (ω)p(dω) =: X (ω)p(dω) lim n Ω für jede gleichmäßige Approximation X n X von X durch einfache ZV en, unabhängig von der genauen Wahl von (X n ). Sei X n X gleichmäßig und Y n X gleichmäßig auf Ω X n Y n 0 gleichmäßig auf Ω. Ω E(X n ) E(Y n ) = E(X n Y n ) sup X n (ω) Y n (ω) n 0. ω Analog: E(X n ) E(X m ) sup ω Ω X n (ω) X m (ω) n,m 0. (E(X n )) n reelle Cauchy-Folge mit lim E(X n ) = lim E(Y n ).

8 Integral für nichtnegative Zufallsvariablen Satz 1.13 Bsp Sei X : (Ω, F, P) R 0 messbar und eine Folge (X n ) einfacher ZV en mit X n (ω) X (ω) ω Ω. Dann ist Ω X (ω)p(dω) := sup X n (ω)p(dω) [0, ] n N Ω unabhängig von der genauen Wahl von (X n ). (Ω, F, P) = ([0, 1], B([0, 1]), λ), X, Y : [0, 1] R 0, X (ω) = 1 ω, Y (ω) = 1 ω. E(X ) = 1 0 ω 1/2 dω = 2ω ω=1 ω=0 = 2 <. E(Y ) = 1 0 ω 1 dω = ln(ω) ω=1 ω=0 = 0 ( ) =.

9 Integral Allgemeiner Fall Definition 1.20 Bemerkung Eine ZV X : (Ω, F, P) heißt (absolut) integrierbar, falls E P (X + ) < und E P (X ) < mit X ± : Ω R 0, X ± (ω) = max(±x (ω), 0). In dem Fall definiert man das Integral von X (bzgl. P) als E P (X ) := E P (X + ) E P (X ). Äquivalente Bedingung E P ( X ) <. Gelegentlich verlangt man nur die einseitige Integrierbarkeit min(e P (X + ), E P (X )) < E P (X ) := E P (X + ) E P (X ) R eindeutig definiert.

10 Integral: Nachträge Definition 1.21 Definition 1.22 Definition 1.23 Für X ZV auf (Ω, F, P) und A F E P (X ; A) := A XdP := Ω X (ω)1 A (ω)p(dω). Zwei ZV X, Y auf (Ω, F, P) heißen äquivalent, falls X = Y fast sicher, d.h. falls {ω Ω, X (ω) Y (ω)} ist P Nullmenge. X L p (Ω, F, P), p 0, falls X eine ZV auf (Ω, F, P) mit E P ( X p ) <. X L (Ω, F, P), falls K 0, s.d. X K P-fast sicher. Bsp X (ω) = 1 ω L 1 ([0, 1], B([0, 1]), λ)) \ L 2 ([0, 1], B([0, 1]), λ) Bemerkung Analog vektorwertige ZV X = (X 1,..., X d ) : Ω R d E(X ) := (E(X 1 ),... E(X d )) R d.

11 Nachträge (Forts.): Maße mit Dichten auf R Definition 1.24 F : R R heißt absolut stetig, falls ex. m : R R messbar F (a) F (b) = a m(s) ds a, b R. b Bsp F (x) = (1 1 x ) 2 + = { x 0 falls t < 1 m(t)dt, m(t) = 2 t falls t 1. 3 Satz 1.14 Bew: Definition 1.25 Sei µ ein W-Maß auf R mit F (x) = µ(], x]) = x m(t)dt. Dann gilt f (x)µ(dx) = f (x)m(x)dx für alle messbaren f : R R. R Klar für f = 1 ]a,b]. Für allgemeine f folgt die Aussage durch Approximation mit einfachen Zufallsvariablen. Ein Maß auf µ auf R heißt absolut stetig : F µ ist abs. stetig. In dem Fall heißt m mit µ(dx) = m(x)dx Dichte vom µ bzgl. λ. R

12 Nachträge (Forts.): Ungleichungen Satz 1.15 (Cauchy-Schwarz) E(X Y ) E(X 2 ) E(Y 2 ) für alle X, Y L 2 (Ω, F, P). Bew: Mit Standardargument, da E[(λX + µy ) 2 ] 0 λ, µ R. Satz 1.16 (Markov) Bew: Satz 1.17 (Jensen) Bew: Sei X 0 und ϕ : R 0 R 0 nicht-fallend, dann P(X δ) 1 ϕ(δ) E(ϕ(X )). P(X δ) = E(1 ; X δ) = E( ϕ(δ) ϕ(δ) ; X δ) E( ϕ(x ) ϕ(δ) ; X δ) 1 E(ϕ(X )) ϕ(δ) Falls X eine reelle ZV und ϕ : R R konvex ϕ(e(x )) E(ϕ(X )). Sei m := E(X ). Konvexität von ϕ s R so, dass ϕ(x) ϕ(m) + s(x m) x R ϕ(x ) ϕ(m) + s(x m) E(ϕ(X )) ϕ(m) + s(e(x ) m) = ϕ(e(x )).

13 1.4 Konvergenz von Zufallsvariablen

14 Fast sichere und stochastische Konvergenz Definition 1.26 Bemerkung Definition 1.27 Bsp Eine Folge (X n ) n von ZV en auf (Ω, F, P) konvergiert P-stochastisch gegen die ZV X, falls ɛ > 0 P( X n X > ɛ) n 0. Andere Bezeichnung: Konvergenz im Maß/in Wahrscheinlichkeit. Eine Folge (X n ) n von ZV en auf (Ω, F, P) konvergiert P-fast-sicher gegen die ZV X, falls X n (.) n X (.) P-fast sicher, d.h. P-Nullmenge N, s.d. X n (ω) X (ω) ω Ω \ N. Es sei (Ω, F, P) = ([0, 1], B([0, 1]), λ) und (q n ) eine Abzählung von Q [0, 1]. Dann gilt für X n : [0, 1] R, X n := 1 ]qn 1 n,qn+ 1 n [ dass (X n ) 0 P-stochastisch, aber nicht P-fast sicher.

15 Satz 1.18 Definition 1.28 Falls X n X P-fast sicher, so auch P-stochastisch. Limes-Superior einer Folge von Mengen lim sup n A n := n N m n A m Bemerkung ω lim sup n A n ω liegt in unendlich vielen A n. Lemma 1.1 P(lim sup A n ) = 0 lim n P(A n ) = 0. Bew: Mit B n := m n A m gilt B n lim sup A n (Stetigkeit von P) P(B m ) < δ für m = m 0 1 P(A n ) δ n m 0. Bew: (Satz 1.18) Folgt aus vorigem Lemma mit A n := { X n X > ɛ} = {ω Ω X n (ω) X (ω) > ɛ}

16 Satz 1.19 Falls X n X P-stochastisch, so ex. Teilfolge X n X P-fast sicher. Lemma 1.2 (Borel-Cantelli) Bew: Falls n µ(a n) <, so ist µ(lim sup A n ) = 0. n µ(a n) < m=n µ(a m) 0 für n. lim sup A n m n A m n. P(lim sup A n ) P( m n A m) m n P(A m) m 0, Bew: (Satz 1.19) Sei (ɛ k ) eine beliebige Nullfolge und (n k ) k so gewählt, dass P({ X nk X > ɛ k }) < ( 1 2 )k. (Borel-Cantelli mit A k = { X nk X > ɛ k }) P({ X nk X > ɛ k unendlich oft}) = 0 Bemerkung Analog für Folgen (X n ) n N : Ω E von ZV en mit Werten in einem metrischen bzw. topologischen Raum (E, d) bzw. (E, τ).

17 Integralkonvergenzsätze atz 1.20 (Dom. Konvergenz) Bsp Satz 1.21 (Lemma v. Fatou) Satz 1.22 (Monotone Konvergenz) Bemerkung Falls (X n ) gleichmäßig beschränkte Folge von ZV en auf (Ω, F, P) ist, d.h. exists K > 0, s.d. X n K P-fast sicher für alle n N und X n X P-stochastisch, so folgt E P ( X X n ) 0 für n. Auf ([0, 1], B([0, 1]), λ) sei X n (ω) = ω n bzw. Y n (ω) = nω n, dann gilt X n 0 und Y n 0 fast sicher, aber nur E(X n ) 0. Falls X n 0 und X n X P-stochastisch, so gilt E(X ) lim inf E(X n ). Falls X n 0 und X n X fast sicher, dann gilt E(X ) = lim E(X n ). Geringfügige Verschärfung gegenüber Standardformulierung: Es wird nur die stochastische Konvergenz benötigt 7. 7 Beweise: Z.B. in [Varadhan]

18 Vitali scher Konvergenzssatz Definition 1.29 Bemerkung Satz 1.23 (Vitali) Eine Familie von ZV en (X λ ) λ Λ heißt gleichgradig integrierbar falls sup λ Λ X λ >K X λ dp K 0. X L 1 {X } gleichgr. int bar, denn Q(A) = X dp ist ein endliches Maß und A { X > K} N := { X = } mit Q(N) = X dp = 0. N Analog: Jede endliche Menge {X 1,..., X N } L 1 (Ω, F, P) ist gleichgradig int bar. Für eine Folge (X n ) von ZV en auf (Ω, F, P) gilt E P ( X n ) 0 genau dann, wenn (X n ) n gleichgradig int bar ist und X n 0 P-stochastisch.

19 Bew: ( ) Bew.: ( ) Stochastische Konvergenz: P( X n > ɛ) = Ω 1 Xn >ɛdp 1 ɛ Ω X n dp = 1 ɛ E P( X n ) 0. Gleichgradige Integrierbarkeit: Sei ɛ > 0. X n >K X n dp X n >K X n X m dp + X n >K X m dp X n >K X n X m dp E( X n X m ) E( X n ) + E( X m ) ɛ 3 für n m := N 0 (ɛ) 1 X n >K X m dp X n >K, X m L X m dp + X m >L X m dp X m >L X m dp ɛ 3 für L := L 0 (ɛ, m). X n >K, X m L X m dp L P( X n > K) L 1 K sup n E X n ɛ 3 für K K 0 (L, ɛ), n N 0. Übungsaufgabe.

20 1.5 Verteilung von Zufallsvariablen

21 Satz 1.24 Bildmaß Es sei (Ω, F, P) ein W-Raum, X : (Ω, F) (S, S) messbar. Dann induziert X ein W-Maß P X auf (S, S) gemäß P X (A) := P(X 1 (A)) A S. Definition 1.30 P X heißt Bildmaß bzw. Verteilung von P unter X. Bemerkung Andere Schreibweisen P X = P X 1 = X P. Fall S = R t F X (t) = P X (], t]) = P(X t) heißt Verteilungsfunktion von X. Bsp (Ω, F, P) = ([0, 1], B([0, 1]), λ)), X : ω R, X (ω) = 1 ω. Definition 1.31 F X (t) = P X (], t]) = P(X t) 1 = λ({ω [0, 1] t}) ω { } 0 f. t < 1 = λ({ω [0, 1] ω 1 = (1 1 }) f. t 1 t 2 t )+. 2 Sei µ ein W-Maß auf (E, E), dann heißt eine ZV X : Ω E µ-verteilt, falls P X = µ. Schreibweise X µ.

22 Integration bzgl. dem Bildmaß (Integral-Transformationssatz) Satz 1.25 Bew: Bemerkung Bsp Sei (Ω, F, P) ein W-Raum und X : (Ω, F) (S, S) messbar. Sei f : (S, S) (R 0, B(R)) messbar, dann gilt E P (f (X )) = f (s)p X (ds). Aussage gilt nach Def. von P X, falls f = 1 A für A S, und somit auch falls f einfach. Durch monotone Approximation f n f mit einfachen Funktionen folgt die Behauptung. Analog für beliebige P X -integrierbare Abbildungen f : S R Für eine ZV X auf (Ω, F, P) mit Verteilung µ = P X auf R gilt E P (X ) = x µ(dx). S R

23 Varianz Definition 1.32 Die Varianz einer Zufallsvariablen X auf (Ω, F, P) ist V (X ) := E [ (X E(X )) 2] [0, ] Satz 1.26 Falls X L 2 (Ω, F, P) gilt V (X ) = E(X 2 ) (E(X )) 2 Lemma 1.3 (Tschebyshev Ungl.) Bew: E[(X E(X )) 2 ] = E[X 2 2X E(X ) + (E(X )) 2 ] = E(X 2 ) 2E(X )E(X ) + (E(X )) 2 = E(X 2 ) (E(X )) 2 Sei X L 2 (Ω, F, P), dann gilt für δ > 0 P( X E(X ) δ) 1 δ V (X ). Bew: Markov-Ungleichung für X E(X ) 0 und ϕ(x) = x 2. Korollar 1.3 X = E(X ) P-fast sicher V (X ) = 0. Bew: : {X E(X )} = n { X E(X ) 1 n }, mit P({ X E(X ) 1 n }) = 0 nach Tschebyshev. klar.

24 Beispiele 8 Gleichverteilung auf [0, 1]: Erwartungswert 1 2, Varianz Binomialverteilung auf [0, 1]: Erwartungswert np, Varianz np(1 p) Poissonverteilung zum Parameter λ > 0: Erwartungswert λ, Varianz λ. Normalverteilung zu den Parametern m R, v > 0: Erwartungswert m, Varianz V. Cauchy-Verteilung zum Parameter α > 0 auf R: µ α (dx) = α π (α2 + x 2 )λ(dx). Erwartungswert α, Varianz. 8 Rechnung an der Tafel, bzw. [Bauer] etc.

25 Definition 1.33 Satz 1.27 Bew: Bsp Gemeinsame Verteilung Es seien X 1,..., X d : Ω R Zufallsvariablen auf dem W-Raum (Ω, F, P), dann heißt mit X = (X 1,..., X d ) R d P X : B(R d ) [0, 1], P X (A) := P( X 1 (A)) die gemeinsame Verteilung von (X 1,..., X n ). P X ist eindeutig bestimmt durch F X : R d [0, 1], F X (t 1,, t n ) := P(X 1 t 1,, X d t d ). B(R d ) = σ(e) mit E ˆ= Ring der endlichen Vereinigungen von Mengen der Form ]s 1, t 1 ] ]s d, t d ]. (vergl. Stieltjes-Maß) (Ω, F, P) = (B 1 R 2, B(B 1 ), 1 π λ2 (dx)) (Gleichverteilung auf dem Einheitsball B 1 R 2 X (ω) := ω X, Y : Ω R, x (x-koordinate) Y (ω) := ω (Abstand zum Urspung) Dann gilt für X = (X, Y ) R 2, mit α(t, s) = arccos( t s ) 0 f. t < min( 1, s) π(1 2α)s P X (], t] ], s]) = 2 +s sin α f. s [0, 1], t s π min (s 2, 1) f. t > s.