Klausur,,Einführung in die W theorie

Transkript

1 Institut für angewandte Mathematik Wintersemester 017/18 Andreas Eberle, Maximilian Fels Klausur,,Einführung in die W theorie Bitte diese Felder in Druckschrift ausfüllen Name: Matrikelnr.: Vorname: Studiengang: Wichtige Hinweise: Es sind keine eigenen Unterlagen, Handys, Taschenrechner u.ä. zugelassen! Die Klausur enthält 3 Aufgaben, die Sie alle bearbeiten sollten. Dieses Deckblatt ist vollständig ausgefüllt zusammen mit den Lösungen abzugeben. Jedes abgegebene Blatt ist zudem mit Namen und Matrikelnummer zu versehen. Bitte den Studentenausweis und einen amtlichen Lichtbildausweis bereithalten! Abgabe bis spätestens 11.0 Uhr. Viel Erfolg! Diese Felder NICHT ausfüllen: Aufgabe 1 3 Summe Note Punkte 1

2

3 1. (Zufallsvariablen und ihre Verteilung [3 Punkte]) a) Sind die Verteilungen der folgenden Zufallsvariablen absolutstetig? Berechnen Sie die Verteilungsfunktionen und im absolutstetigen Fall die Dichten. (i) U Unif( 1, 1), (ii) X = U, (iii) Y = U, (iv) Z = U +. b) Seien X, Y : Ω R Zufallsvariablen. Wie ist die gemeinsame Verteilung von X und Y definiert? Wann nennt man X und Y unabhängig? Wie erkennt man Unabhängigkeit an der Dichte der gemeinsamen Verteilung, wenn diese absolutstetig ist? [15 ] [6 ] c) Seien nun W und Z unabhängige standardnormalverteilte Zufallsvariablen. Zeigen Sie, dass die Zufallsvariablen X = W + Z und Y = W Z wieder unabhängig sind mit Verteilung X, Y N(0, ). [7 ] d) Bestimmen Sie die Verteilung der durch { W falls Z 0, V = W falls Z < 0, definierten Zufallsvariable. [4 ] Lösung. a) (i) Die Verteilung ist absolutstetig. Die Dichte ist gegeben durch f(x) = 11 ( 1,1). Die Verteilungsfunktion lässt sich entsprechend wie folgt berechnen: c f(x)dx = c 1 1+c dx =, für c [ 1, 1], 1 F (c) = 0, für c 1, 1, für c 1. (ii) Für c [0, 1] gilt F (c) = P [ U c] = P [ c U c] = 1 + c 1 c Da die Betragsfunktion nicht-negativ und F (1) = 1 gilt insgesamt: 0, für c 0, F (c) = c, für c [0, 1], 1, für c 1. = c. 3

4 Außerdem ist die Verteilung absolutstetig mit Dichte f(x) = F (x) = 1 (0,1) (x), für fast alle x. (iii) Die Verteilungsfunktion lässt sich wie folgt berechnen: F (c) = 0, für c 0 1, für c 1. P [U c] = P [ U c] = c, für c [0, 1] Die Verteilung ist zudem absolutstetig und die Dichte lautet f(x) = F (x) = 1 x 1 (0,1)(x). (iv) Die Verteilungsfunktion für c 0 ist mit (i) gegeben durch F (c) = P [ U + c ] = P [U c] = 1 + c. Insbesondere ist F (0) = 1 und F (c) = 0 für c < 0. Somit ist P [U + = 0] = 1 und die Verteilung nicht absolutstetig an der Stelle c = 0. b) Gemeinsame Verteilung: µ : B(R ) [0, 1] µ [B] = P [(X, Y ) B], B B(R ). c) X, Y unabh. P [X A, Y B] = P [X A] P [Y B] A, B B(R) µ absolutstetig mit Dichte f: µ [A B] = µ [A] µ [B] A, B B(R) X, Y unabh. f(x, y) = g(x)h(y) mit messbaren Funktionen g, h : R [0, 1]. ( ) ( W + Z 1 1 = W Z 1 1 ) ( W Z ( x + y f (X,Y ) (x, y) = f (W,Z), x y ) X = W + Z W = X+Y Y = W Z ) 1/ 1/ 1/ 1/ = 1 Z = X Y 1 π e ( x+y ) ( 1 x y ) 1 = 1 x 4π e 4 y = e x e y = ΦN(0,) (x)φ N(0,) (y). π π X, Y unabh. und N(0, ) 4

5 d) P [V c] = P [ W c Z 0] P [Z 0] + P [ W c Z < 0] P [Z < 0] Z N(0,1) 1 = unabh. P [ W c] + 1 P [ W c] Für c 0 erhalten wir P [V c] = 1 P [ c W c] + 1 = P [W [0, c]] + 1 = P [W c]. Für c < 0 folgt entsprechend Also gilt V W N(0, 1) P [V c] = P [W [c, c]] = P [W c]. 5

6 . (Erwartungswerte und erzeugende Funktionen [4 Punkte]) a) Sei X : Ω R eine Zufallsvariable. Wie sind die Varianz, die momentenerzeugende und die charakteristische Funktion von X definiert? (Die Definition des Erwartungswerts kann ohne Erläuterung vorausgesetzt werden) [6 ] b) Sei X N(m, v) mit m R und v [0, ). Berechnen Sie die momentenerzeugende Funktion von X. [5 ] c) Eine Zufallsvariable Y heisst log-normalverteilt, wenn X = log(y ) normalverteilt ist (log bezeichnet hier den natürlichen Logarithmus). Berechnen Sie den Erwartungswert und die Varianz einer log-normalverteilten Zufallsvariable. [4 ] d) Zeigen Sie: Für eine Zufallsvariable X : Ω R gilt X X genau dann, wenn der Imaginärteil der charakteristischen Funktion verschwindet. [6 ] e) Nennen Sie ein Beispiel einer Folge (µ n ) n N von Wahrscheinlichkeitsverteilungen auf (R, B(R)), deren charakteristische Funktionen punktweise gegen eine Funktion ϕ(t) konvergieren, die selbst keine charakteristische Funktion einer Wahrscheinlichkeitsverteilung auf R ist. (Hier ist kein Beweis verlangt, das Angeben eines Beispiels genügt) [3 ] Lösung. a) Var [X] = E [ (X E [X]) ] = E [ X ] E [X] falls X L 1. momenterzeugende Funktion: M(t) = E [ e tx], t R. charakteristische Funktion: φ(t) = E [ e itx], t R. b) E [ e tx] = 1 πv = 1 πv = 1 πv = e mt+ t v = e mt+ t v. e (x m) v e tx dx e 1 v(x x(m+tv)+m ) dx e 1 v (x (m+tv)) e 1 v(m (m+tv) ) dx 1 πv e 1 v (x (m+tv)) dx } {{ } =1 6

7 c) E [Y ] = E [ e X] = M(1) E [ Y ] = E [ e X] = M() Var [Y ] = M() M(1) d) X X E [ e itx] = E [ e it( X)] t R. Verteilung ist durch char. Fkt. festgelegt Weiter ist Also folgt E [ e itx] = E [cos( tx)] + ie [sin( tx)] = E [cos(tx)] ie [sin(tx)]. X X E [sin(tx)] }{{} = 0 t R =Im(E[e itx ])=Im(φ(t)) e) Für µ n = N(0, n) gilt φ n (t) = e nt / n 1 {0} (t). Da der Limes nicht stetig ist, ist dieser keine charakteristische Funktion einer WV auf R (Die Masse wandert ins unendliche ab). 7

8 3. (Grenzwertsätze [44 Punkte]) a) Seien X n (n N) unabhängige, identisch verteilte Zufallsvariablen in L (Ω, A, P ) mit E[X n ] = 0. Formulieren und beweisen Sie den zentralen Grenzwertsatz für die Summen X X n. Dabei können Sie auf grundlegende Sätze aus der Vorlesung verweisen, ohne diese separat zu beweisen. Lässt sich die Aussage auf unabhängige, identisch verteilte Zufallsvariablen in L 1 (Ω, A, P ) erweitern? [16 ] b) Seien X n und Y n (n N) unabhängige, identisch verteilte Zufallsvariablen in L (Ω, A, P ) mit Erwartungswert m und Varianz v > 0. Zeigen Sie, dass die Zufallsvariablen ( n ) 1 n U n = X i Y i nv i=1 in Verteilung gegen eine standardnormalverteilte Zufallsvariable Z konvergieren. [6 ] c) Sei A n (n N) eine Folge von Ereignissen auf einem Wahrscheinlichkeitsraum (Ω, A, P ). Zeigen Sie i=1 P [A n unendlich oft] lim sup P [A n ]. d) Seien X n : Ω R (n N) unabhängige Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω, A, P ). Beweisen oder widerlegen Sie: (i) X n X P -stochastisch E[X n ] E[X], (ii) X n X in L (P ) X n X in L 1 (P ). (iii) X n X schnell stochastisch X n X P -fast sicher. [5 ] Dabei können Sie wieder auf grundlegende Sätze aus der Vorlesung verweisen ohne diese separat zu beweisen. [13 ] e) Sei S eine nichtleere endliche Menge. Wie ist die Entropie einer Wahrscheinlichkeitsverteilung auf S definiert? Zeigen Sie, dass die Gleichverteilung die Entropie unter allen Wahrscheinlichkeitsverteilungen auf S maximiert. [4 ] Lösung. a) ZGS: Es sei S n = X X n und v = Var [X 1 ]. Dann gilt, d.h. S n n D N(0, v), µ n = Vert( S n n ) w N(0, v). 8

9 Beweis: Nach Konvergenzsatz von Lévy reicht es zu zeigen, dass φ n (t) φ N(0,v) (t) t R. Es ist, [ [ φ n (t) = E e n] itsn/ iid = E e itx 1/ n] n = φx1 (t/ n) n. Nun ist nach Voraussetzung X 1 L, also folgt φ X1 (t) = 1 + ie [X 1 ] t 1 E [ ] X1 t + o(t ) hier = 1 v t + o(t ). n 1 für große n {}} ( ){ φ n (t) = 1 vt t n + o n e v t = φ N(0,v) (t) t R, n da n i=1 z i n i=1 w i n i=1 z i w i, falls z i, w i 1. Insgesamt folgt, Vert(S n / n) w N(0, v) Ist die Voraussetzung X n L nicht erfüllt, dann können sich andere Skalierungslimiten ergeben, siehe zum Beispiel den Grenzwertsatz für α-stabile Verteilungen. b) Zunächst gilt U n = 1 nv ( n i=1 X i ) n Y i i=1 = 1 n n i=1 X i Y i v } {{ } =S n Nach dem Gruppierungssatz sind die Zufallsvariablen X v i Y i wieder i.i.d. mit [ ] Xi Y i E = 1 (E[X i ] + E[Y i ]) = 0, v v [ ] Xi Y i Var = 1 v v (Var [X i] + Var [Y i ]) = Var [X i] = 1. v Aus dem ZGS folgt daher U n = S n n D N(0, 1).. c) P [A n unendlich oft] = P [ n m n A m }{{} monoton fallend lim sup P [A n ]. n 9 ] mon. Stetigkeit = lim n sup P[A m] m n {}}{ P [ ] m n A m }{{} A m m n

10 d) (i) falsch: Betrachte eine Folge unabhängiger Zufallsvariablen mit Verteilung P [X n = n] = 1/n und P [X n = 0] = 1 1/n. Dann gilt X n 0 P -stochastisch, denn P [ X n ɛ] P [X n 0] = 1/n für alle ɛ > 0. Andererseits gilt aber E[X n ] = 1 für alle n, also konvergieren die Erwartungswerte nicht gegen 0. (ii) wahr nach Cauchy-Schwarz: E [ X n X ] E [ X n X ] 1/. (iii) wahr: Einerseits gilt nach dem ersten Borel-Cantelli-Lemma: X n X schnell stoch. P [ X n X > ɛ] < ɛ > 0 n=1 BC P [ X n X > ɛ nur endl. oft] = 1 ɛ > 0 P [ ɛ Q + n 0 N n n 0 : X n X ɛ] = 1 X n X P-fast sicher. Umgekehrt folgt nach dem Kolmogorovschen 0-1-Gesetz aus X n X fast sicher, dass X fast sicher konstant ist. Also sind auch X n X (n N) wieder unabhängige Zufallsvariablen. Damit können wir dass zweite Borel-Cantelli- Lemma anwenden, und so schließen, dass die Aussagen oben alle äquivalent sind. e) Die Entropie einer Wahrscheinlichkeitsverteilung µ auf dem Zustandsraum S ist H(µ) = x S µ(x) 0 µ(x) log(µ(x)). Die Funktion u(t) = t log(t) ist konvex. Also gilt mit der Jensen schen Ungleichung: H(µ) = µ(x) log(µ(x)) = S µ(x) log(µ(x))unif S (dx) x S S µ(x) 0 ( ) Jensen S µ(x)unif S (dx) log µ(x)unif S (dx) = log( S ). S } {{ } S =1/ S Insbesondere maximiert die Gleichverteilung auf S die Entropie: H(Unif S ) = x S 1 log(1/ S ) = log( S ). S 10