INSTITUT FÜR STOCHASTIK SS 2009 UNIVERSITÄT KARLSRUHE Blatt 1 Priv.-Doz. Dr. D. Kadelka Dipl.-Math. W. Lao Übungen zur Vorlesung Stochastische Prozesse Musterlösungen Aufgabe 1: (Verzweigungsprozess) Die Generation 0 einer Population bestehe aus einem Individuum, das sich mit Wahrscheinlichkeit p k in k Nachfahren teilt (k N). Jeder dieser Nachfahren der Generation 1 teilt sich wiederum unabhängig von den anderen Individuen gemäß der Verteilung (p k ) k N in eine zufällige Anzahl von Nachfahren. Die Zufallsvariable X n beschreibe die Anzahl der Individuen der n-ten Generation (n N 0 ). Zeigen Sie, dass (X n ) n N0 eine Markovkette ist, und geben Sie die zugehörige Übergangswahrscheinlichkeitsfunktion von Generation n nach Generation n + 1 an. Lösung: X n+1,j sei die Anzahl der Individuen der n + 1-ten Generation, die vom j-ten Mitglied der Generation n abstammen. Die (X n+1,j ) sind also alle unabhängig und identisch verteilt mit Verteilung (p k ) k N. Die Anzahl der Individuen der n + 1-ten Generation ist nun gegeben durch X n X n+1 X n+1,j (n N 0 ). Damit folgt j1 P (X n+1 k n+1 X 0 k 0,..., X n k n ) P ( k n j1 X n+1,j k n+1 ) P (X n+1 k n+1 X n k n ). (X n ) ist also eine Markovkette mit Übergangswahrscheinlichkeitsfunktion ( Xn ) ( k ) p n,n+1 (k, l) P (X n+1 l X n k) P X n+1,j l X n k P X n+1,j l für k 1 und l k, sonst ist p n,n+1 (k, l) 0. j1 j1 Aufgabe 2: (Success Run) Ein Basketballspieler verwandelt einen Freiwurf mit Trefferwahrscheinlichkeit p 0.7 unabhängig von früheren Versuchen. In einer Folge von Freiwürfen sei X n die Anzahl der unmittelbar vor dem (n + 1)-ten Wurf erzielten Treffer, die nicht durch einen Fehlwurf unterbrochen werden (Success Run). Zeigen Sie, dass (X n ) n N0 eine Markovkette bildet und geben Sie die zugehörige Übergangswahrscheinlichkeitsfunktion an.
Lösung: Sei X n die Anzahl der unmittelbar vor dem (n + 1)-ten Wurf erzielten Treffer, die nicht durch einen Fehlwurf unterbrochen wurden. Desweiteren sei Y n der Ausgang des n-ten Wurfes (n 1). Dabei ist 1, falls der n te Wurf Treffer, Y n 0, falls der n te Wurf kein Treffer. Es sei U : N 0 0, 1} N 0 und U(x, y) x + y, falls y 1, 0, falls y 0. Somit ist X 0 0 und X n U(X n 1, Y n ) für n 1 und (X n ) eine Markovkette mit Übergangswahrscheinlichkeitsfunktion p n,n+1 (k, l) P(X n+1 l X n k) 0.7, l k + 1, P(U(k, Y n+1 ) l) 0., l 0, 0, sonst. Aufgabe : Das Wetter in Karlsruhe an aufeinanderfolgenden Tagen sei beschrieben durch eine Markovkette X : (X n ) n N0 mit dem Zustandsraum E 1, 2, }, deren Zustände wir wie folgt interpretieren: 1 regnerisch, 2 bewölkt, sonnig. Heute sei es bewölkt, d.h. es sei P(X 0 2) 1. Die Übergangswahrscheinlichkeiten seien gegeben durch IP(X n+1 l X n k) l 1 2 1 0. 0.7 0 k 2 0. 0. 0.4 0.1 0. 0.6 a) Wie groß ist die Wahrscheinlichkeit, dass es übermorgen regnet? b) Wie entwickelt sich das Wetter nach n Tagen? Berechnen Sie mit einem geeigneten Programm P(X n k) für n 1,..., 100 und k E. c) Welche Vermutungen kann man den in b) gewonnenen Daten entnehmen? Lösung: Gemäß Satz 2.10 ist die Übergangswahrscheinlichkeitsfunktion p : p n,n+1 von Stufe n nach Stufe n + 1 durch die oben angegebene, von n unabhängige Matrix gegeben, also p(k, l) l 1 2 1 0. 0.7 0 k 2 0. 0. 0.4 0.1 0. 0.6
a) Gesucht ist die bedingte Wahrscheinlichkeit P(X 2 1 X 0 2) P(X 0 2, X 2 1) P(X 0 2) P(X 0 2)1 k1 P(X 0 2, X 1 k, X 2 1) (2.11) P(X 0 2) p(2, k) p(k, 1) 1 0. 0. + 1 0. 0. + 1 0.4 0.1 0.22 k1 b) Sei n N 0 beliebig. Wegen (2.12) aus Satz 2.10 gilt P(X n+1 l X n k) p(k, l) und damit P(X n+1 l) k E P(X n k, X n+1 l) k E P(X n k) p(k, l), l E, hier also immer ( ) P(X n+1 l) P(X n 1) p(1, l) + P(X n 2) p(2, l) + P(X n ) p(, l) für l 1, 2,. Die Wahrscheinlichkeiten P(X n k) lassen sich also gemäß ( ) leicht rekursiv berechnen. Wir erhalten mit P(X 0 2) 1 für n 0, 1,..., 15 P(X n k) k 1 2 0 0.0 1.0 0.0 1 0. 0. 0.4 2 0.22 0.42 0.6 0.228 0.88 0.84 4 0.222 0.912 0.856 5 0.22288 0.8928 0.8784 6 0.22242 0.89152 0.88416 7 0.22217 0.8897 0.88710 8 0.222258 0.88927 0.88815 9 0.22227 0.8890 0.88860 10 0.222228 0.88895 0.88877 11 0.222225 0.88891 0.88884 12 0.22222 0.88890 0.88887 1 0.22222 0.88889 0.88888 14 0.222222 0.88889 0.88889 15 0.222222 0.88889 0.88889 Für n 16 ändert sich an diesen auf 6 Stellen gerundeten Werten nichts mehr. Ähnliche Wahrscheinlichkeiten erhält man, wenn man mit P(X 0 1) 1 oder mit P(X 0 ) 1 startet. Unabhängig von der Startverteilung scheinen die Wahrscheinlichkeiten immer gegen die gleiche Grenzverteilung zu konvergieren. c) Man kommt daher zu der Vermutung: Egal, welche Verteilung X 0 besitzt, gilt immer lim n P(X n 1) 2 9 Später werden wir diese Vermutung verifizieren. und lim n P(X n 2) lim n P(X n ) 7 18.
Aufgabe 4: Sei X wie in Aufgabe. X : (X 2 n ) n N0 ist bekanntlich wieder eine Markovkette mit Zustandsraum E. Bestimmen Sie eine Übergangswahrscheinlichkeitsfunktion für X von Stufe n nach n + 1, n N 0. Lösung: Wir lösen die Aufgabe zuerst allgemein. Wegen Korollar 2.6 ist X selbst eine Markovkette. Gesucht ist eine Übergangswahrscheinlichkeitsfunktion p n,n+1 : E 2 [0, 1] mit (2.12) P(X n+1 k n+1 X n k n ) p n,n+1(k n, k n+1 ), falls P(X n k n ) > 0, also p n,n+1(k, l) P(X 2n+2 l X 2n k) P(X 2n k, X 2n+2 l) P(X 2n k) j E P(X 2n k, X 2n+1 j, X 2n+2 l) P(X 2n k) (2.11) j E P(X 2n k) p 2n,2n+1 (k, j) p 2n+1,2n+2 (j, l) P(X 2n k) j E p 2n,2n+1 (k, j) p 2n+1,2n+2 (j, l), sobald P(X n k) P(X 2n k) > 0. Dies bedeutet aber, dass (allgemein) durch p n,n+1(k, l) : j E p 2n,2n+1 (k, j) p 2n+1,2n+2 (j, l), k, l E eine geeignete Übergangswahrscheinlichkeitsfunktion für X von Stufe n nach n + 1 definiert ist. Unter den Voraussetzungen von Aufgabe ist p n,n+1 p unabhängig von n und mit p (k, l) : p(k, j) p(j, l), k, l 1, 2, j1 gilt hier p n,n+1(k, l) p (k, l) unabhängig von n, explizit p (k, l) l 1 2 1 0.0 0.42 0.28 k 2 0.22 0.42 0.6 0.18 0.4 0.48 Aufgabe 5: Sei X (X n ) n N0 eine Markovkette mit Zustandsraum E und Übergangswahrscheinlichkeitsfunktionen p n,n+1 von Stufe n nach n + 1. Berechnen Sie bei bekanntem p 0 (k) : P(X 0 k), k E für beliebiges n N die Wahrscheinlichkeitsfunktion p n von X n, d.h. p n (k) : P(X n k), k E.
Lösung: (vergl. Beweis zu Satz 2.10.) Mit Fallunterscheidung folgt p n (k) : P(X n k) (2.11) (k 0,...,k n 1 ) E n P(X 0 k 0,..., X n 1 k n 1, X n k) n 1 P(X 0 k 0 ) p j 1,j (k j 1, k j ) p n 1,n (k n 1, k) (k 0,...,k n 1 ) E n j1 n 1 p 0 (k 0 ) p j 1,j (k j 1, k j ) p n 1,n (k n 1, k). (k 0,...,k n 1 ) E n j1 Aufgabe 6: In dieser Aufgabe soll gezeigt werden, dass Funktionen von Markovketten nicht immer Markovketten sind. Sei X (X n ) n N0 ein stochastischer Prozess mit Zustandsraum E 1, 2, }, mit P(X 0 k) 1, k 1, 2, und mit P(X n+1 k n+1 X 0 k 0,..., X n k n ) P(X n+1 k n+1 X n k n ) 1, falls k n 1, k n+1 2 oder k n 2, k n+1 oder k n, k n+1 1 0, sonst für alle n N 0, sobald P(X 0 k 0,..., X n k n ) > 0. a) Begründen Sie, dass X eine Markovkette ist. b) Bestimmen Sie P(X n k) für n N und k E. c) Sei Y n : 1, falls X n 1 0, sonst für n N 0. Begründen Sie, dass Y (Y n ) n N0 Markovkette ist. keine Lösung: a) Die Markov-Eigenschaft folgt unmittelbar aus den Voraussetzungen und Satz 2.5. b) Sei p n,n+1 : E 2 [0, 1] definiert durch p n,n+1 (k n, k n+1 ) : p(k n, k n+1 ) : 1, falls k n 1, k n+1 2 oder k n 2, k n+1 oder k n, k n+1 1 0, sonst. Dann gilt (2.10) aus Satz 2.10. Insbesondere ist (ein weiterer Nachweis von a)) X eine Markovkette mit (2.12) ( ) P(X n+1 k n+1 X n k n ) p(k n, k n+1 ), falls P(X n k n ) > 0. p ist also eine Übergangswahrscheinlichkeitsfunktion von Stufe n nach n + 1 (unabhängig von n).
Wir zeigen mit vollständiger Induktion über n ( ) P(X n k) 1, k 1, 2,. Für n 0 gilt dies nach Voraussetzung. Gilt ( ) für n N 0, so gilt wegen ( ) und der Formel von der totalen Wahrscheinlichkeit ([SI], Satz.12) P(X n+1 1) k E P(X n+1 1 X n k) P(X n k) P(X n+1 1 X n ) P(X n ) 1 1 1 und genauso P(X n+1 2) P(X n+1 ) 1. Damit gilt ( ) auch für n + 1. c) Wir nehmen an, dass (Y n ) n N0 eine Markovkette ist. Wegen b) gilt stets P(Y n 0) 2 und P(Y n 1) 1. Aus Satz 2.10 (2.11) und b) folgt P(Y 0 0, Y 1 0) P(X 0 2, X 1 2) + P(X }} 0 2, X 1 ) }} 0 1/ + P(X 0, X 1 2) + P(X }} 0, X 1 ) 1 }} > 0 0 0 und wegen P(X 0 2, X 1, X 2 2) P(X 0 2, X 1, X 2 ) 0 auch P(Y 0 0, Y 1 0, Y 2 0) 0. Daher gilt P(Y 2 0 Y 0 0, Y 1 0) P(Y 0 0, Y 1 0, Y 2 0) P(Y 0 0, Y 1 0) 0. Aber genauso wie oben folgt wegen Korollar 2.6 und P(Y 1 0, Y 2 0) 1 > 0 P(Y 2 0 Y 1 0) P(Y 1 0, Y 2 0) P(Y 1 0) 1/ 2/ 1 2 0. (Y n ) n N0 ist also keine Markovkette im Gegensatz zur Annahme.