1.5 Mehrdimensionale Verteilungen

Transkript

1 Poisson eine gute Näherung, da np = 0 und 500p = 5 00 = n. Wir erhalten somit als Näherung Exakte Rechnung ergibt P(2 X 0) = k=2 0 k=2 π (k) = 0, ( ) 00 P(2 X 0) = 0,0 k 0,99 00 k = 0, k Bemerkung zur hypergeometrischen Verteilung Es lassen sich auch Grenzverteilungssätze für eine hypergeometrisch verteilte Zufallsgröße X H(n,N,M) formulieren. Wenn z.b. N, M und M N p für n gilt, so nutzt man die Näherung ( M N M ) ( ) P(X = k) = k)( n k n ( N p n) k ( p) n k, k d.h man ersetzt die hypergeometrische Verteilung näherungsweise durch eine entsprechende Binomialverteilung. Es gibt jedoch keine handhabbaren Faustregeln für die Nutzung dieser Approximation. Um die so erhaltene Binomialverteilung auszuwerten, kann man dann den Grenzverteilungssatz von Moivre/Laplace oder den Grenzverteilungssatz von Poisson verwenden..5 Mehrdimensionale Verteilungen Bisher wurden ausschließlich reellwertige, d.h. eindimensionale, Zufallsgrößen betrachtet. Wir haben also stets nur ein Merkmal des zu beobachtenden Objekts bei unseren Untersuchungen berücksichtigt. Häufig sind aber bei praktischen Modellierungsproblemen mehrere Merkmale der Beobachtungsobjekte gleichermaßen von Interesse. Somit benötigen wir mehrdimensionale Zufallsgrößen..5. Einführung Definition.5.. Sei X = (X,X 2,...,X n ) eine Zusammenfassung von n Zufallsgrößen X,X 2,...,X n. Dann heißt das Objekt X n-dimensionale Zufallsgröße oder zufälliger Vektor. Definition.5.2. Die durch F(x,...,x n ) := P(X < x,...,x n < x n ) für alle Vektoren (x,...,x n ) R n definierte reelle Funktion F heißt Verteilungsfunktion des zufälligen Vektors X = (X,...,X n ). Wir werden im Folgenden nicht immer den allgemeinen Fall X = (X,...,X n ) betrachten, sondern uns auf n = 2, d.h. X = (X,Y), beschränken, wenn dies das Verständnis erleichtert. Ein Großteil der Aussagen gilt dann analog für allgemeines n. 48

2 Definition.5.3. Für einen zufälligen Vektor X = (X, Y) heißen die Funktionen F X (x) := lim y F(x,y) und F Y(y) := lim x F(x,y) Randverteilung von X bzw. Y. Die zu einer Randverteilung gehörende Wahrscheinlichkeitsbzw. Dichtefunktion bezeichnen wir ebenfalls als Randverteilung. Eigenschaften der Verteilungsfunktion 0 F(x,y) x,y R. lim F(x,y) = 0 y R, lim x F(x,y) = 0 x R. y Die Randverteilungen F X und F Y sind die Verteilungsfunktionen der eindimensionalen Zufallsgrößen X und Y, d.h. lim x y F X (x) = P(X < x) x R und F Y (y) = P(Y < y) y R. F(x,y) =. F(x, y) ist in beiden Komponenten monoton wachsend, d.h. x < x 2 F(x,y) F(x 2,y) y R, y < y 2 F(x,y ) F(x,y 2 ) x R. F(x,y) ist in beiden Komponenten linksseitig stetig, d.h. lim F(x h,y) = F(x,y) = lim F(x,y h) x,y R. h 0 h>0.5.. Kovarianz und Korrelationskoeffizient Für einen zufälligen Vektor (X,Y) bezeichnen wir mit µ X := EX den Erwartungswert und mit σ 2 X := D2 X die Varianz der Randverteilung von X. Analog µ Y := EY und σ 2 Y := D2 Y für die Randverteilung von Y. h 0 h>0 Definition.5.4. Seien X und Y zwei Zufallsgrößen. Dann heißt die Größe σ XY := Cov(X,Y) := E(X EX)(Y EY) Kovarianz der Zufallsgrößen X und Y. Die Kovarianz ist ein Maß für das stochastische Verhalten der Zufallsgrößen zueinander. Die Zufallsgrößen X und Y heißen unkorreliert, wenn Cov(X,Y) = 0 gilt. Eigenschaften der Kovarianz Cov(X,Y) = E(XY) EXEY = Cov(Y,X), Cov(a+bX,c+dY) = bdcov(x,y), 49

3 Cov(X,X) = D 2 X. Satz.5.5. Existieren die zweiten Momente der Randverteilungen von X und Y, so existiert auch die Kovarianz Cov(X,Y). Definition.5.6. Besitzen die beiden Zufallsgrößen X und Y endliche Streuungen, so heißt die Größe ρ XY := σ XY σ X σ Y Korrelationskoeffizient von X und Y. Satz.5.7. Für den Korrelationskoeffizienten zweier Zufallsgrößen X und Y gilt ρ XY = ρ YX. Der Korrelationskoeffizient ρ XY zweier Zufallsgrößen X und Y ist also ein normiertes Maß für das stochastische Verhalten beider Zufallsgrößen zueinander. X und Y sind offensichtlich genau dann unkorreliert, wenn ρ XY = 0 gilt. ρ XY drückt starke negative Korrelation und ρ XY starke positive Korrelation aus Diskrete Verteilungen Definition.5.8. Ein zufälliger Vektor X = (X,...,X n ) heißt diskret verteilt, wenn alle eindimensionalen Randverteilungen diskrete Verteilungen sind. Die Komponenten eines diskret verteilten zufälligen Vektors X = (X,...,X n ) nehmen die Werte X = x i,...,x n = x nin an, wobei für endliches X j i j {,...,l j } =: I Xj mit l j N und für abzählbar unendliches X j i j N =: I Xj gilt. Die Wahrscheinlichkeitsfunktion von X lässt sich als n-dimensionales Feld schreiben: p i...i n = P(X = x i,...,x n = x nin ). Im Fall n = 2 bezeichnen wir die Werte der beiden Komponenten X und Y des zufälligen Vektors X mit x j und y k, wobei j I X und k I Y. Die Wahrscheinlichkeitsfunktion von X lässt sich dann als endliche oder unendliche Matrix mit Einträgen der Form p jk = P(X = x j,y = y k ) schreiben. Für die Randverteilungen von X und Y erhalten wir p j = p jk und p k = p jk. k I Y j I X Für Erwartungswert, Varianz und Kovarianz von X und Y gilt: EX = µ X = x j p j, EY = µ Y = y k p k, j I X k I Y D 2 X = σ 2 X = j I X (x j µ X ) 2 p j, Cov(X,Y) = σ XY = j I X D 2 Y = σ 2 Y = k I Y (x j µ X )(y k µ Y )p jk. k I Y (y k µ Y ) 2 p k, 50

4 Beispiel. In einer Urne befinden sich 2 Lose: 2 Geldgewinne, 4 Freilose und 6 Nieten. Es werden ohne Zurücklegen 2 Lose gezogen. Wir bezeichnen mit X die Anzahl der gezogenen Geldgewinne und mit Y die Anzahl der gezogenen Freilose. Gesucht werden die Wahrscheinlichkeitsfunktion p jk = P(X = x j,y = y k ) des zufälligen Vektors (X,Y) und die zugehörigen Randverteilungen p j und p k seiner Komponenten X und Y. Aus kombinatorischen Überlegungen ergibt sich: ( 2 x j )( 4 6 y k )( 2 x j y k ), 0 x p jk = ( 2 j +y k 2 2). 0, x j +y k > 2 Die Wahrscheinlichkeitsfunktion lässt sich zusammen mit den Randverteilungen wie folgt als Tabelle darstellen: y j 4 2 p j 5 22 x k p k = 0 33 Die Randverteilung p j bzw. p k von X bzw. Y erhält man dabei aus den Spalten- bzw. Zeilensummen der 3 3-Matrix. Da die Randverteilungen eindimensionale Wahrscheinlichkeitsfunktionen sind, sind die Summen der Werte der Randverteilungen stets Stetige Verteilungen Definition.5.9. Ein zufälliger Vektor X = (X,...,X n ) heißt stetig verteilt mit der Verteilungsfunktion F, wenn es eine integrierbare Dichtefunktion f gibt mit F(x,...,x n ) = P(X < x,...,x n < x n ) = x x n f(t,...,t n )dt dt n. Definition.5.0. Sei g eine reelle Funktion von n reellen Veränderlichen und sei X = (X,...,X n ) eine stetig verteilte n-dimensionale Zufallsgröße. Dann ist der Erwartungswert Eg(X) gegeben durch Eg(X) := g(x,...,x n )f(x,...,x n )dx dx n. Definition.5.. Sei(X, Y) ein stetig verteilter zufälliger Vektor und f seine Dichtefunktion. Dann heißen die Funktionen f X (x) = Randdichten der Komponenten X und Y. f(x,y)dy und f Y (y) = f(x,y)dx 5

5 Die Randdichten sind eindimensionale Dichtefunktionen. Für Erwartungswert, Varianz und Kovarianz von X und Y erhalten wir: EX = µ X = xf X (x)dx, EY = µ Y = yf Y (y)dy, D 2 X = σ 2 X = Cov(X,Y) = σ XY = (x µ X ) 2 f X (x)dx, D 2 Y = σ 2 Y = (x µ X )(y µ Y )f(x,y)dxdy. (y µ Y ) 2 f Y (y)dy, Beispiel. Als Beispiel für eine mehrdimensionale Verteilung betrachten wir die zweidimensionale Normalverteilung. Ein zufälliger Vektor (X, Y) ist normalverteilt, wenn er die Dichtefunktion ( [ (x µx ) 2 ( )( ( ) ]) 2 exp 2( ρ 2 ) σ X 2ρ x µx y µy σ X σ Y )+ y µy σ Y f(x,y) = 2πσ X σ Y ρ 2 mit den Parametern σ X > 0, σ Y > 0 und < ρ < besitzt. Als Randdichten ergeben sich die Funktionen f X (x) = exp ( (x µ X) 2 ) und f Y (y) = exp ( (y µ Y) 2 ), 2πσX 2πσY 2σ 2 X d.h. die Randverteilungen sind eindimensionale Normalverteilungen. Der Parameter ρ = ρ XY = σ XY σ X σ Y ist der Korrelationskoeffizient und somit ist Cov(X,Y) = σ XY = ρσ X σ Y. Ist ρ = 0, so sind X und Y also unkorreliert und für die Dichtefunktion f gilt die Produktdarstellung f(x,y) = exp ( (x µ X) 2 2πσ X σ Y.5..4 Stochastische Unabhängigkeit 2σ 2 X (y µ Y) 2 2σ 2 Y ) = f X (x)f Y (y). Definition.5.2. Zwei Zufallsgrößen X und Y heißen stochastisch unabhängig, wenn für den zufälligen Vektor (X, Y) gilt: F(x,y) = F X (x)f Y (y) x,y R. Bemerkung. Handelt es sich bei den stochastisch unabhängigen Zufallsgrößen X und Y um diskrete Verteilungen, so gilt p jk = p j p k x,y R. Im stetigen Fall gilt analog f(x,y) = f X (x)f Y (y) x,y R. Satz.5.3. Seien X und Y stochastisch unabhängige Zufallsgrößen mit D 2 X < und D 2 Y <. Dann gilt Cov(X,Y) = 0, d.h. aus der stochastischen Unabhängigkeit folgt stets die Unkorreliertheit. 2σ 2 Y 52

6 Beweis (für stetige Zufallsgrößen). Da X und Y stochastisch unabhängig sind, gilt: Cov(X,Y) = (x µ X )(y µ Y )f(x,y)dxdy = (x µ X )(y µ Y )f X (x)f Y (y)dxdy = (x µ X )f X (x)dx (y µ Y )f Y (y)dx = (E(X µ X ))(E(Y µ Y )) = (µ X µ X )(µ Y µ Y ) = 0 Wie wir am vorhergehenden Beispiel gesehen haben, folgt im Falle einer zweidimensionalen Normalverteilung aus der Unkorreliertheit der beiden Komponenten deren stochastische Unabhängigkeit. Zusammen mit dem vorhergehenden Satz erhalten wir also die nachfolgende Aussage. Satz.5.4. Sei (X, Y) ein (zweidimensional) normalverteilter zufälliger Vektor. Dann sind die Komponenten X und Y genau dann stochastisch unabhängig, wenn sie unkorreliert sind..5.2 Bedingte Verteilungen In diesem Abschnitt betrachten wir nur den Fall n = 2, d.h. zufällige Vektoren der Form X = (X,Y). X und Y seien dabei stetig verteilte Zufallsgrößen. Bei bedingten Verteilungen wird nur eine der beiden Komponenten eines zufälligen Vektors betrachtet, d.h. die andere Komponente bleibt konstant. Wir erhalten also z.b. Aussagen über die Verteilung der Zufallsgröße X, wenn Y einen festen Wert hat. Definition.5.5. Seien X und Y stetig verteilte Zufallsgrößen mit den Randdichten f X und f Y, wobei f X (x) > 0 und f Y (y) > 0 für alle x,y R. Dann heißen die Funktionen f X Y=y (x) = f(x,y) f Y (y) und f Y X=x (y) = f(x,y) f X (x) bedingte Dichten. Bemerkung. f X Y=y (x) ist eine eindimensionale Dichtefunktion, da f X Y=y (x) 0 und f X Y=y (x)dx = f(x,y) f Y (y) dx = f Y (y) f(x,y)dx = f Y(y) f Y (y) =. f X Y=y ist also die Dichtefunktion der Zufallsgröße X unter der Bedingung Y = y. Analoges gilt für f Y X=x (y) 53

7 Definition.5.6. Die Größe E(X Y = y) = xf X Y=y (x)dx heißt bedingter Erwartungswert der Zufallsgröße X unter der Bedingung, dass Y den Wert y annimmt. Beispiel. Wir betrachten nochmals einen normalverteilten Zufallsvektor (X,Y). Als bedingte Dichte haben wir ( ) f X Y=y (x) = f(x,y) f Y (y) = exp x 2 µ X +ρ σ X σy (y µ Y ) 2πσX ρ 2 2 σ X ρ 2. Daraus ergibt sich der bedingte Erwartungswert E(X Y = y) = µ X +ρ σ X σ Y (y µ Y ). Die Gerade x = E(X Y = y) heißt Regressionsgerade im (x, y)-koordinatensystem und gibt für jedes y den Wert (x,y) des Zufallsvektors an, für den X den Erwartungswert unter der Bedingung Y = y annimmt. Ist ρ = 0, d.h. X und Y sind unkorreliert und damit stochastisch unabhängig, so ist die Regressionsgerade x = µ x parallel zur y-achse und es gilt f X Y=y (x) = f X (x)..5.3 Erwartungswertevektor, Kovarianzmatrix, Normalverteilung Da wir in diesem Abschnit mit Matrizen rechnen, schreiben wir Vektoren immer als Spaltenvektoren. Wir betrachten den n-dimensionalen Fall, d.h. Definition.5.7. Den Vektor X = µ = EX = µ. µ n X. X n. = EX. der Erwartungswerte der Komponenten X,...,X n eines zufälligen Vektors X nennen wir Erwartungswertevektor von X. Definition.5.8. Sei X ein zufälliger Vektor mit den Komponenten X,...,X n. Dann heißt die Matrix ( ) Σ = CovX = Cov(X i,x j ) = E(X EX)(X EX)T i,j=...n Kovarianzmatrix von X. EX n 54

8 Satz.5.9. Existiert die Kovarianzmatrix Σ des Zufallsvektors X, so ist sie symmetrisch, d.h. Σ = Σ T, und positiv semidefinit, d.h. für alle v R n gilt (Σv,v) = v T Σv 0. Beweis. Die Symmetrie der Kovarianzmatrix folgt direkt aus Cov(X i,x j ) = Cov(X j,x i ) und es gilt v T Σv = v T ( E(X EX)(X EX) T) v = E ( v T (X EX) ) 2 0. Definition Ein Zufallsvektor X mit den Komponenten X,...,X n heißt nichtsingulär n-dimensional normalverteilt mit den Parametern µ = EX und Σ = Cov(X), geschrieben X N(µ,Σ), wenn Σ symmetrisch und positiv definit ist und die Dichtefunktion f die Form f(x) = Σ (2π) n 2 exp ( 2 (x µ)t Σ (x µ) ) besitzt, wobei Σ die Determinante der Inversen der Kovarianzmatrix bezeichnet. Falls für X N(µ,Σ) die Komponenten X i N(µ i,σi 2 ) paarweise disjunkt sind, d.h. so gilt Σ = σ σ n und f(x) = Σ = n i= σ σ 2 n 2πσi exp, ( (x i µ i ) 2 Die Dichte f des Zufallsvektors X ist also in diesem Fall gleich dem Produkt der Randdichten seiner Komponenten X i. 2σ 2 i ). 55