2.2 Binomialverteilung, Hypergeometrische Verteilung, Poissonverteilung

Transkript

1 2.2 Binomialverteilung, Hypergeometrische Verteilung, Poissonverteilung Die einfachste Verteilung ist die Gleichverteilung, bei der P(X = x i ) = 1/N gilt, wenn N die Anzahl möglicher Realisierungen von X bezeichnet, auf die wir hier nicht genauer eingehen wollen. Definition Ein Bernoulli-Experiment ist ein Zufallsexperiment, bei dem es nur zwei mögliche Ausgänge A und B gibt. Das Ereignis A trete mit W.K. p und das Ereignis B dann mit W.K. 1 p = q ein. Damit wird {A,B} zu einem Wahrscheinlichkeitsraum. Wir haben kein Laplace-Experiment, es sei denn, p = q = 1/2. Wenn wir ein Bernoulliexperiment n mal wiederholen, ist der Ereignisraum Ω = {A,B} n. Die Elementarereignisse heißen Bernoulliketten. Eine Kette mit k Ereignissen A und n k Ereignissen B tritt mit W.K. p k q n k ein. So wird auf Ω ein Wahrscheinlichkeitsmaß definiert. Wir definieren nun eine Zufallsvariable X auf diesem Wahrscheinlichkeitsraum wie folgt: Einer Bernoullikette mit k Einträgen A und n k Einträgen B wird die Zahl k (manchmal auch Anzahl 32

2 Erfolge genannt) zugeordnet. Offenbar gilt ( ) n P(X = k) = p k (1 p) n k. k Dies ist eine Wahrscheinlichkeitsverteilung, die sogenannte Binomialverteilung B(n,p). Sie ist komplett durch Angabe von n und p bestimmt. Wir nennen eine Zufallsvariable binomialverteilt mit Parametern n und p, wenn ihre Wahrscheinlichkeitsverteilung B(n, p) ist. Die folgenden Bilder zeigen die Wahrscheinlichkeitsverteilungen für einige Werte von p und n: B(21,0.5) : : 33

3 B(20,0.2) : : B(100, 0.8) : : Kommen wir nun zur hypergeometrischen Verteilung H(n, M, N): Wir 34

4 haben hier eine Urne mit N Kugeln, M davon seien rot. Wir ziehen ohne Zurücklegen n Kugeln. Diesem Zufallsexperiment können wir ein Wahrscheinlichkeitsmaß zuordnen sowie eine Z.V. X definieren, nämlich die Anzahl k roter Kugeln. Es gilt ( M N M ) P(X = k) = k)( n k ( N. n) Eine Zufallsvariable mit dieser Wahrscheinlichkeitsverteilung heißt hypergeometrisch verteilt. Abschließend betrachten wir die Poisson-Verteilung. Der Ereignisraum ist hier{0, 1,...} die Menge der nicht-negativen ganzen Zahlen. Die Poissonverteilung modelliert recht gut die Anzahl seltener Ereignisse, die in einem fest gewählten Zeitraum auftreten(tore pro Fußballspiel). Wir nennen eine Zufallsvariable P(λ) Poisson-verteilt wenn P(X = k) = λk k! e λ. Hier ist ein Bild für λ = 2.5, was etwa der Anzahl geschossener Tore in einem Bundesligaspiel entspricht: 35

5 In der Vorlesung zeigen wir auch einige Animationen dieser drei wichtigen Verteilungen. Interessant ist, dass die Poissonverteilung als Grenzverteilung der Binomialverteilung interpretiert werden kann: Gilt X B(n,p) mit großem n und kleinem p, so können wir die Approximation P(X = k) λk k! e λ. nutzen. Faustregel: n 50 und p

6 2.3 Lagemaße Jeder Zufallsvariablen kann man gewisse Zahlen zuordnen kann, die wichtige Eigenschaften der Z.V. beschreiben. Ein Beispiel haben wir bereits gesehen, die Quantile (Definition 2.9). In diesem Abschnitt folgen Erwartungswert und Varianz. Definition Sei X eine Zufallsvariable mit Realisierungen x 1,x 2,... Der Erwartungswert E(X) von X ist definiert als E(X) := x i P(X = x i ) i=1 sofern diese Summe existiert (was im Fall endlicher Wahrscheinlichkeitsräume immer der Fall ist). Bemerkung Es gilt E(X) = ω ΩX(ω)P(ω). Beachten Sie, dass auch hier der Erwartungswert mit einer Zufallsvariablen zusammenhängt und keine Größe des Zufallsexperimentes ist: Bei einem Zufallsexperiment kommen ja keine Zahlen heraus. Zahlen, mit denen man dann rechnen kann, entstehen erst durch das Anwenden von Zufallsvariablen! 37

7 Beispiel Wenn wir mit zwei Würfeln werfen und als Zufallsvariable jedem Ausgang den Betrag der Differenz der Augenzahlen zuordnen, so ist der Erwartungswert 35/18, siehe Vorlesung. Definition Sei X eine Zufallsvariable mit Realisierungen x 1,x 2,... und Erwartungswert µ. Wir definieren die Varianz sofern dieser Erwartungswert existiert. Bemerkung Es gilt sowie V(X) = V(X) := E((X µ) 2 ) (x i µ) 2 P(X = x i ) i=1 V(X) = E(X 2 ) µ 2. Ferner wird die Wurzel aus der Varianz auch Standardabweichung σ genannt. Entsprechend schreibt man für die Varianz manchmal σ 2. Man kann die Abweichung einer Z.V. vom Mittelwert mit Hilfe der Varianz abschätzen: 38

8 Satz 2.16 (Tschebyscheff sche Ungleichung). P( X E(X) ǫ) 1 ǫ 2V(X). Diese Abschätzung gilt für beliebige Zufallsvariablen. Wir haben drei wichtige Wahrscheinlichkeitsverteilungen kennengelernt: Binomial, Poisson, hypergeometrisch. In der folgenden Tabelle fassen wir Erwartungswert und Varianz dieser Verteilungen zusammen: E(X) V(X) B(n,p) np np(1 p) H(n,M,N) n M N n M N (1 M N P(λ) λ λ N n N 1 Bemerkung Wenn X eine Zufallsvariable ist, dann ist auch g(x) für eine Funktion g : R R eine Zufallsvariable. Man kann aber nicht unmittelbar Erwartungswert, Varianz und Wahrscheinlichkeitsverteilung aus g ablesen. Es 39

9 gilt E(g(X)) = g(x i )P(X = x i ). i=0 Satz Sei X eine Zufallsvariable mit Erwartungswert µ und Varianz σ 2. Dann gilt E(aX +b) = a µ+b V(aX +b) = a 2 σ 2 eine Zufallsvariable mit Erwartungswert 0 und Var- Insbesondere ist X µ σ ianz 1 (sofern σ 0). 2.4 Gemeinsame Verteilungen und Maße von Zufallsvariablen Satz Seien X und Y Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω,P) mit Erwartungswerten E(X) und E(Y). Dann gilt E(aX +Y) = ae(x)+e(y) 40

10 Ein entsprechender Satz für die Varianz gilt zunächst einmal nicht. Definition Zwei Zufallsvariablen X und Y heißen unabhängig, wenn für alle rellen Zahlen x,y gilt: P(X = x und Y = y) = P(X = x) P(Y = y). Mit anderen Worten: Die beiden Ereignisse {ω : X(ω) = x} {ω : Y(ω) = y} sind unabhängig. Allgemein nennen wir Z.V. X 1,...,X n auf (Ω,P) unabhängig, wenn für alle x 1,...,x n R gilt n P(X i = x i für i = 1,...,n) = P(X = x i ). Bemerkung Beachten Sie, dass X und Y auf dem selben Wahrscheinlichkeitsraum definiert sind! Bemerkung Unabhängigkeit von mehr als zwei Zufallsvariablen ist eine stärkere Bedingung als paarweise Unabhängigkeit! 41 i=1

11 Für unabhängige Zufallsvariablen gilt: Satz Seien X und Y unabhängige Zufallsvariablen auf einem W.R. (Ω,P). Dann gilt E(X Y) = E(X) E(Y) sofern beide Erwartungswerte existieren, ebenso für das Produkt mehrerer unabhängiger Zufallsvariablen Im Fall unabhängiger Z.V. kann man auch etwas über die Summe der Varianz sagen: Satz Seien X und Y unabhängige Zufallsvariablen auf einem W.R. (Ω,P). Dann gilt V(X +Y) = V(X)+V(Y) sofern V(X),V(Y) existieren. Definition Die Kovarianz zweier Zufallsvariablen X, Y ist definiert als C(X,Y) = E(X Y) E(X) E(Y) sofern die entsprechenden Erwartungswerte existieren. 42

12 Die Bedeutung der Kovarianz wird im folgenden Satz deutlich: Satz Seien X und Y zwei Zufallsvariablen auf dem W.R. (Ω,P). Dann gilt V(X +Y) = V(X)+V(Y)+2C(X,Y). Eigenschaften der Kovarianz: Proposition X,Y,X 1,...,Y 1,... seien Z.V. auf W.R. (Ω,P). Dann gilt (1.) C(X,X) = V(X), C(X,Y) = C(Y,X) (2.) C(X,Y) = E ( (X E(X)) (Y E(Y)) ) (3.) C(X +a,y +b) = C(X,Y) (4.) X und Y sind unabhängig genau dann wenn C(X,Y) = 0 (5.) V(X X n ) = n i=1 V(X i)+2 1 i<j n C(X i,x j ) (6.) C( i a ix i, j b jy j ) = i,j a ib j C(X i,y j ). 43

13 (7.) C(X,Y) 2 V(X) V(Y) Die letzte Eigenschaft zeigt, dass wir die Kovarianz normieren können. Wir nennen den Quotienten C(X,Y) V(X) V(Y) die Korrelation zwischen X und Y. Beispiel Wir würfeln zweimal nacheinander und betrachten die beiden Z.V. X und Y, wobei X die kleinere Augenzahl ist und Y die Summe der beiden Würfe. Die folgende kleine Tabelle zeigt die Ereignisse, die W.K. für die Ereignisse 44

14 sowie die Werte der Z.V.: Ereignis P X Y X Y 1,1 1/ ,2 1/ , 3 1/ , 4 1/ ,5 1/ ,6 1/ ,2 1/ ,3 1/ ,4 1/ ,5 1/ ,6 1/ , 3 1/ , 4 1/ , 5 1/ , 6 1/ , 4 1/ , 5 1/ , 6 1/ , 5 1/ ,6 1/ ,6 1/

15 Man rechnet nach: E(X) = E(Y) = 7 V(X) = V(Y) = C(X,Y) = Normierung der Kovarianz (d.h. Division durch V(X) V(Y) ergibt einen Korrelationskoeffizienten von 0.86, die Zufallsvariablen sind also vergleichsweise stark korreliert. Waspassiert,wennwirZ.V.X i haben,dieaufverschiedenenwahrscheinlichkeitsräumen (Ω i,p i ) definiert sind. Dazu definieren wir Ω = Ω 1... Ω n und definieren auf Ω das Produktmaß P(ω 1,...,ω n ) = Π n i=1p(ω i ). Zumindest im abzählbar unendlichen Fall ist das kein Problem und wir können so jeder Teilmenge von Ω eine Wahrscheinlichkeit zuordnen. Die X i kann man als 46

16 unabhängige Zufallsvariablen auf diesem Produktraum auffassen und wir können damit arbeiten so wie oben für den Fall dass die verschiedenen Z.V. auf einem W.R. definiert sind. Der begriff der Unabhängigkeit mehrerer Zufallsvariablen wird wie folgt definiert: Definition Zufallsvariablen X 1,...,X N heißen unabhängig wenn für alle x 1,...x n gilt: P(X 1 x 1... X n x n ) = n P(X i x i ). i=1 Mankanndannzeigen,dassfürunabhängigeZufallsvariablengiltE(X 1 X n ) = E(X 1 ) E(X n ). Ferner gilt das für die Statistik wichtige schwache Gesetz der großen Zahlen: Satz Es seien X 1,...,X n unabhängige Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω, P) (im Fall der n-fachen Wiederholung eines Zufallsexperimentes nimmt man hier den Produktraum, siehe oben), die alle dieselbe Verteilungsfunktion haben (i.i.d.: independently identical distribution) mit Erwartungswert µ und Varianz σ 2. Dann ist auch X = 47

17 1 n (X X n ) eine Zufallsvariable auf Ω mit für jedes ǫ > 0. lim P( X µ < ǫ) = 1 n 2.5 Der kontinuierliche Fall Im Fall eines Wahrscheinlichkeitsraumes mit einer überabzählbaren Ereignismenge Ω kann man, wie bereits erwähnt, nicht mehr sinnvoll jedem Ereignis eine Wahrscheinlichkeit zuordnen. Deshalb muss man bei der Definition einer Zufallsvariablen X : Ω R darauf achten, dass den Ereignissen {ω : X(ω) x} Wahrscheinlichkeiten zugeordnet werden können. Wir wollen diese Annahme ab jetzt stillschweigend machen. Dann können wir wie im diskreten Fall eine Verteilungsfunktion F : R R definieren: F(x) := P(X x) 48

18 Die Definitionen 2.9 und 2.7 übertragen sich, ebenso wie Satz 2.5 und Proposition 2.3. Es sei noch bemerkt: Wenn der Wahrscheinlichkeitsraum Ω unendlich viele Elemente, die Zufallsvariable X aber nur endlich viele Realisierungen hat, sprechen wir von einer diskreten Zufallsvariable. Die Frage ist nun, ob es auch so etwas wie eine Wahrscheinlichkeitsverteilung gibt. Wir können im kontinuierlichen Fall in der Regel den einelementigen Ereignissen keine positive Wahrscheinlichkeit zuordnen, ebenso kann man den Ereignissen {ω : X(ω) = x} nicht immer eine positive W.K. zurodnen. Das Analogon zur Wahrscheinlichkeitsverteilung ist hier die Dichtefunktion: Definition Wenn es für eine Verteilungsfunktion F eine Funktion f : R R gibt mit F(x) = x f(t)dt, so heißt f die zu F gehörende Dichtefunktion. Wir nennen X dann eine stetige Zufallsvariable mit Verteilungsfunktion F und Dichte f. Proposition Sei X eine stetige Zufallsvariable mit Dichte f und 49

19 Verteilungsfunktion F. Dann gilt F (x) = f(x) und Insbesondere gilt P(X = x) = 0. P(a X b) = b a f(t)dt. Beispiel 2.33 (Normalverteilung). Die vermutlich bekannteste und wichtigste Verteilungsfunktion ist die Normalverteilung mit Dichte f(x) = 1 σ π e 1 2 ( x µ σ )2 Wir nennen eine Z.V. normalverteilt wenn es µ und σ > 0 so gibt, dass die Verteilungsfunktion der Z.V. diese Dichte hat, geschrieben X N(µ,σ 2 ). Gilt µ = 0 und σ = 1 nennen wir die Zufallsvariable standardnormalverteilt. Die zugehörige Verteilungsfunktion wird oft mit Φ bezeichnet. Sie ist als(im wesentlichen) das Integral der Funktion e x2 nicht durch einfache Funktionen darstellbar. Auch die Begriffe Varianz und Erwartungswert lassen sich auf kontinuierliche Zufallsvariable übertragen: 50