Kapitel II Kontinuierliche Wahrscheinlichkeitsraume

Transkript

1 Kapitel II Kontinuierliche Wahrscheinlichkeitsraume 1. Einfuhrung 1.1 Motivation Interpretation der Poisson-Verteilung als Grenzwert der Binomialverteilung. DWT 1.1 Motivation 195/460

2 Beispiel 78 Wir betrachten das Szenario: Bei einem Druckerserver kommen Auftrage in einer Warteschlange an, die alle 1=n Zeiteinheiten vom Server abgefragt wird. Der Server nimmt also zu den diskreten Zeitpunkte 1=n; 2=n; 3=n; : : : neue Auftrage entgegen. Durch den Grenzwert n! 1 " verschmelzen\ diese diskreten Zeitpunkte zu einer kontinuierlichen Zeitachse, und fur die Zufallsvariable T, welche die Zeitspanne bis zum Eintreen des nachsten Auftrags misst, reicht eine diskrete Wertemenge W T nicht mehr aus. DWT 196/460

3 1.2 Kontinuierliche Zufallsvariablen Denition 79 Eine kontinuierliche oder auch stetige Zufallsvariable X und ihr zugrunde liegender kontinuierlicher (reeller) Wahrscheinlichkeitsraum sind deniert durch eine integrierbare Dichte(-funktion) f X : R! R + 0 mit der Eigenschaft Z +1 f X (x) d x = 1: 1 S Eine Menge A R, die durch Vereinigung A = k I k abzahlbar vieler paarweise disjunkter Intervalle beliebiger Art (oen, geschlossen, halboen, einseitig unendlich) gebildet werden kann, heit Ereignis. Ein Ereignis A tritt ein, wenn X einen Wert aus A annimmt. Die Wahrscheinlichkeit von A ist bestimmt durch Pr[A] = Z A f X (x) d x = XZ k I k f X (x) d x: DWT 1.2 Kontinuierliche Zufallsvariablen 197/460

4 Beispiel 80 (Gleichverteilung) Eine besonders einfache kontinuierliche Dichte stellt die Gleichverteilung auf dem Intervall [a; b] dar. Sie ist deniert durch ( 1 f(x) = b a fur x 2 [a; b], 0 sonst. Analog zum diskreten Fall ordnen wir jeder Dichte f X eine Verteilung oder Verteilungsfunktion F X zu: Z x F X (x) := Pr[X x] = Pr[ft 2 R j t xg] = f X (t) d t: 1 DWT 198/460

5 Beispiel 81 Die Verteilungsfunktion der Gleichverteilung: Z x F (x) = f(t) d t = 1 8 >< >: 0 fur x < a; x a b a fur a x b; 1 fur x > b: DWT 1.2 Kontinuierliche Zufallsvariablen 199/460

6 1,4 ܵ 1,2 1,2 1,0 1,0 0,8 0,8 0,6 0,6 0,4 0,4 0,2 0,2 0,0 0,0-0,2-0,5 0,0 0,5 1,0 1,5-0,2-0,5 0,0 0,5 1,0 1,5 1,4 Gleichverteilung uber dem Intervall [0; 1] ܵ DWT 200/460

7 Beobachtungen:(Eigenschaften der Verteilungsfunktion) F X ist monoton steigend. F X ist stetig. Man spricht daher auch von einer " stetigen Zufallsvariablen\. Es gilt: lim x! 1 F X (x) = 0 und lim x!1 F X (x) = 1. Jeder (auer an endlich vielen Punkten) dierenzierbaren Funktion F, welche die zuvor genannten Eigenschaften erfullt, konnen wir eine Dichte f durch f(x) = F 0 (x) zuordnen. Es gilt Pr[a < X b] = F X (b) F X (a) : DWT 201/460

8 Bei den von uns betrachteten Dichten besteht zwischen den Ereignissen a < X b\, " " a X b\, " a X < b\ und a < X < b\ kein wesentlicher Unterschied, da " Z Z f(t) d t = f(t) d t = f(t) d t = f(t) d t: [a;b] ]a;b] [a;b[ ]a;b[ Z Z DWT 202/460

9 1.3 Kolmogorov-Axiome und -Algebren Algebren Denition 82 Sei eine Menge. Eine Menge A P() heit -Algebra uber, wenn folgende Eigenschaften erfullt sind: (E1) 2 A. (E2) Wenn A 2 A, dann folgt A 2 A. (E3) Fur n 2 N sei A n 2 A. Dann gilt auch S 1 n=1 A n 2 A. DWT 203/460

10 Fur jede (endliche) Menge stellt die Menge P() eine -Algebra dar. Fur = R ist die Klasse der Borel'schen Mengen, die aus allen Mengen A R besteht, welche sich durch abzahlbare Vereinigungen und Schnitte von Intervallen (oen, halboen oder geschlossen) darstellen lassen, eine -Algebra. DWT 204/460

11 1.3.2 Kolmogorov-Axiome Denition 83 (Wahrscheinlichkeitsraum, Kolmogorov-Axiome) Sei eine beliebige Menge und A eine -Algebra uber. Eine Abbildung Pr[:] : A! [0; 1] heit Wahrscheinlichkeitsma auf A, wenn sie folgende Eigenschaften besitzt: 1 (W1) Pr[] = 1. 2 (W2) A 1 ; A 2 ; : : : seien paarweise disjunkte Ereignisse. Dann gilt Pr " 1[ i=1 A i # = 1X i=1 Pr[A i ]: Fur ein Ereignis A 2 A heit Pr[A] Wahrscheinlichkeit von A. Ein Wahrscheinlichkeitsraum ist deniert durch das Tupel (; A; Pr). DWT 205/460

12 Die in obiger Denition aufgelisteten Eigenschaften eines Wahrscheinlichkeitsmaes wurden von dem russischen Mathematiker Andrei Nikolaevich Kolmogorov (1903{1987) formuliert. Kolmogorov gilt als einer der Pioniere der modernen Wahrscheinlichkeitstheorie, leistete jedoch auch bedeutende Beitrage zu zahlreichen anderen Teilgebieten der Mathematik. Informatikern begegnet sein Name auch im Zusammenhang mit der so genannten Kolmogorov-Komplexitat, einem relativ jungen Zweig der Komplexitatstheorie. Die Eigenschaften in obiger Denition nennt man auch Kolmogorov-Axiome. DWT 206/460

13 Lemma 84 Sei (; A; Pr) ein Wahrscheinlichkeitsraum. Fur Ereignisse A, B, A 1, A 2, : : : gilt 1 Pr[;] = 0, Pr[] = Pr[A] 1. 3 Pr[ A] = 1 Pr[A]. 4 Wenn A B, so folgt Pr[A] Pr[B]. DWT 1.3 Kolmogorov-Axiome und -Algebren 207/460

14 Lemma 84 5 (Additionssatz) Wenn die Ereignisse A 1 ; : : : ; A n paarweise disjunkt sind, so folgt Pr " n[ i=1 A i # = nx i=1 Pr[A i ]: Fur disjunkte Ereignisse A, B erhalten wir insbesondere Pr[A [ B] = Pr[A] + Pr[B]: Fur eine unendliche Menge von paarweise disjunkten Ereignissen A 1 ; A 2 ; : : : gilt analog Pr [ S 1 i=1 A i] = P 1 i=1 Pr[A i]. DWT 207/460

15 Beweis: Wenn wir in Eigenschaft (W2) P A 1 = und A 2 ; A 3 ; : : : = ; setzen, so ergibt die 1 Eigenschaft, dass Pr[] + i=2 Pr[;] = Pr[]. Daraus folgt Pr[;] = 0. Regel 2 und Regel 5 gelten direkt nach Denition der Kolmogorov-Axiome und Regel 1. Regel 3 erhalten wir mit Regel 5 wegen 1 = Pr[] = Pr[A] + Pr[ A]. Fur Regel 4 betrachten wir die disjunkten Ereignisse A und C := B n A, fur die gilt, dass A [ B = A [ C. Mit Regel 5 folgt die Behauptung. DWT 208/460

16 1.3.3 Lebesgue-Integrale Eine Funktion f : R! R heit messbar, falls das Urbild jeder Borel'schen Menge ebenfalls eine Borel'sche Menge ist. Z.B. ist fur jede Borel'sche Menge A die Indikatorfunktion ( 1 falls x 2 A, I A : x 7! 0 sonst messbar. Jede stetige Funktion ist messbar. Auch Summen und Produkte von messbaren Funktionen sind wiederum messbar. Jeder messbaren Funktion kann man ein Integral, das so genannte Lebesgue-Integral, geschrieben R f d, zuordnen. DWT 209/460

17 Ist f : R! R + 0 eine messbare Funktion, so deniert Pr : A 7! R f I A d eine Abbildung auf den Borel'schen Mengen, die die Eigenschaft (W2) der Kolmogorov-Axiome erfullt. Gilt daher zusatzlich noch Pr[R] = 1, so deniert f auf naturliche Weise einen Wahrscheinlichkeitsraum (; A; Pr), wobei = R und A die Menge der Borel'schen Mengen ist. DWT 1.3 Kolmogorov-Axiome und -Algebren 210/460

18 1.4 Rechnen mit kontinuierlichen Zufallsvariablen Funktionen kontinuierlicher Zufallsvariablen Sei Y := g(x) mit einer Funktion g : R! R. Die Verteilung von Y erhalten wir durch F Y (y) = Pr[Y y] = Pr[g(X) y] = Z C f X (t) d t: Hierbei bezeichnet C := ft 2 R j g(t) yg alle reellen Zahlen t 2 R, fur welche die Bedingung " Y y\ zutrit. Das Integral uber C ist nur dann sinnvoll deniert, wenn C ein zulassiges Ereignis darstellt. Aus der Verteilung F Y konnen wir durch Dierenzieren die Dichte f Y ermitteln. DWT 211/460

19 Beispiel 85 Sei X gleichverteilt auf dem Intervall ]0; 1[. Fur eine Konstante > 0 denieren wir die Zufallsvariable Y := (1=) ln X. F Y (y) = Pr[ (1=) ln X y] = Pr[ln X y] = Pr[X e y ] = 1 F X (e y ) ( 1 e y fur y 0; = 0 sonst: DWT 212/460

20 Beispiel (Forts.) Damit folgt mit f Y (y) = FY 0 (y) sofort ( e y fur y 0; f Y (y) = 0 sonst: Eine Zufallsvariable mit einer solchen Dichte f Y nennt man exponentialverteilt. DWT 1.4 Rechnen mit kontinuierlichen Zufallsvariablen 213/460

21 Beispiel 86 Sei X eine beliebige Zufallsvariable. Fur a; b 2 R mit a > 0 denieren wir die Zufallsvariable Y := a X + b. Es gilt und somit F Y (y) = Pr[aX + b y] = Pr f Y (y) = d F Y (y) d y X y = d F X((y b)=a) d y a b y b = F X ; a y b = f X 1 a a : DWT 214/460

22 Simulation von Zufallsvariablen Unter der Simulation einer Zufallsvariablen X mit Dichte f X versteht man die algorithmische Erzeugung von Zufallswerten, deren Verteilung der Verteilung von X entspricht. Dazu nehmen wir an, dass die zu simulierende Zufallsvariable X eine stetige, im Bildbereich ]0; 1[ streng monoton wachsende Verteilungsfunktion F X besitzt. Weiter nehmen wir an, dass U eine auf ]0; 1[ gleichverteilte Zufallsvariable ist, die wir simulieren konnen. Aus unserer Annahme uber F X folgt, dass es zu F X eine (eindeutige) inverse Funktion FX 1 gibt mit F X(F 1 (x)) = x fur alle x 2]0; 1[. X DWT 1.4 Rechnen mit kontinuierlichen Zufallsvariablen 215/460

23 Sei nun dann gilt ~X := F 1 X (U) ; Pr[ X ~ t] = Pr[FX 1 (U) t] = Pr[U F X (t)] = F U (F X (t)) = F X (t) : DWT 216/460

24 Beispiel 87 Im obigen Beispiel der Exponentialverteilung gilt F X (t) = 1 e t fur t 0, und wir erhalten auf ]0; 1[ die Umkehrfunktion FX 1 (t) = ln(1 t). Also gilt ~X = FX 1 (U) = ln(1 U). Statt ~ X haben wir im Beispiel die Zufallsvariable ln U betrachtet, die aber oensichtlich dieselbe Verteilung besitzt. DWT 217/460

25 1.4.2 Kontinuierliche Zufallsvariablen als Grenzwerte diskreter Zufallsvariablen Sei X eine kontinuierliche Zufallsvariable. Wir konnen aus X leicht eine diskrete Zufallsvariable konstruieren, indem wir fur ein festes > 0 denieren X = n () X 2 [n; (n + 1)[ fur n 2 Z: Fur X gilt Pr[X = n] = F X ((n + 1)) F X (n) : DWT 1.4 Rechnen mit kontinuierlichen Zufallsvariablen 218/460

26 1,0 0,8 ܵ Æ Üµ 0,6 0,4 0,2 0,0-3,0-2,0-1,0 0,0 1,0 2,0 3,0 Fur! 0 nahert sich die Verteilung von X der Verteilung von X immer mehr an. DWT 1.4 Rechnen mit kontinuierlichen Zufallsvariablen 219/460

27 1.4.3 Erwartungswert und Varianz Denition 88 Fur eine kontinuierliche Zufallsvariable X ist der Erwartungswert deniert durch Z 1 E[X] = t f X (t) d t; 1 sofern das Integral R 11 jtj f X(t) d t endlich ist. Fur die Varianz gilt entsprechend Z 1 Var[X] = E[(X E[X]) 2 ] = (t E[X]) 2 f X (t) d t; 1 wenn E[(X E[X]) 2 ] existiert. DWT 220/460

28 Lemma 89 Sei X eine kontinuierliche Zufallsvariable, und sei Y := g(x) : Dann gilt Z 1 E[Y ] = g(t) f X (t) d t : 1 DWT 221/460

29 Beweis: Wir zeigen die Behauptung nur fur den einfachen Fall, dass g eine lineare Funktion ist, also Y := a X + b fur a; b 2 R und a > 0. Es gilt (siehe obiges Beispiel) Z 1 Z 1 t E[a X + b] = t f Y (t) d t = t f X 1 1 b a 1 a d t: Durch die Substitution u := (t b)=a mit d u = (1=a) d t erhalten wir Z 1 E[a X + b] = (au + b)f X (u) d u: 1 DWT 222/460

30 Beispiel 90 Fur Erwartungswert und Varianz der Gleichverteilung ergibt sich Z b Z 1 E[X] = t a b a d t = 1 b b a t d t a 1 = 2(b a) [t2 ] b a = b2 a 2 2(b a) = a + b 2 ; Z E[X 2 ] = 1 b b a t 2 d t = b2 + ba + a 2 ; a 3 Var[X] = E[X 2 ] E[X] 2 = : : : = (a b)2 12 : DWT 1.4 Rechnen mit kontinuierlichen Zufallsvariablen 223/460

31 1.4.4 Laplace-Prinzip in kontinuierlichen Wahrscheinlichkeitsraumen Das folgende Beispiel zeigt, dass im kontinuierlichen Fall die Bedeutung von gleichwahrscheinlich\ nicht immer ganz klar sein muss. " Bertrand'sches Paradoxon Wir betrachten einen Kreis mit einem eingeschriebenen gleichseitigen Dreieck. Was ist die Wahrscheinlichkeit, mit der die Lange einer zufallig gewahlten Sehne die Seitenlange dieses Dreiecks ubersteigt (Ereignis A)? DWT 1.4 Rechnen mit kontinuierlichen Zufallsvariablen 224/460

32 Ë Ö ¾ ½¾¼ Æ Ë Å Å ³ DWT 225/460

33 Beobachtungen: Die Seiten des Dreiecks haben Abstand r vom Mittelpunkt M. 2 Die Lage jeder Sehne ist (bis auf Rotation um M) durch einen der folgenden Parameter festgelegt: Abstand d zum Kreismittelpunkt, Winkel ' mit dem Kreismittelpunkt. Wir nehmen fur jeden dieser Parameter Gleichverteilung an und ermitteln Pr[A]. 1 Sei d 2 [0; r] gleichverteilt. A tritt ein, wenn d < r 2, und es folgt Pr[A] = Sei ' 2 [0 ; 180 ] gleichverteilt. Fur A muss gelten ' 2]120 ; 180 ], und es folgt somit Pr[A] = 1 3. Siehe auch diese graphischen Darstellungen! DWT 226/460

34 2. Wichtige stetige Verteilungen 2.1 Gleichverteilung f(x) = ( 1 b a 0 sonst: fur x 2 [a; b]; Z x F (x) = f(t) d t = 1 8 >< >: 0 fur x < a; x a b a fur a x b; 1 fur x > b: E[X] = a + b 2 und Var[X] = (a b)2 12 : DWT 2.1 Gleichverteilung 227/460

35 2.2 Normalverteilung Die Normalverteilung nimmt unter den stetigen Verteilungen eine besonders prominente Position ein. Denition 91 Eine Zufallsvariable X mit Wertebereich W X = R heit normalverteilt mit den Parametern 2 R und 2 R +, wenn sie die Dichte f(x) = p 1 (x ) 2 exp =: '(x; ; ) besitzt. In Zeichen schreiben wir X N (; 2 ). N (0; 1) heit Standardnormalverteilung. Die zugehorige Dichte '(x; 0; 1) kurzen wir durch '(x) ab. DWT 228/460

36 Die Verteilungsfunktion zu N (; 2 ) ist Z F (x) = p 1 x (t ) 2 exp d t =: (x; ; ) : Diese Funktion heit Gau'sche -Funktion (' ist nicht geschlossen integrierbar). DWT 229/460