Vorlesung 7a Unabhängigkeit 1
Wir erinnern an die Definition der Unabhängigkeit von zwei Zufallsvariablen (Buch S. 61): Zufallsvariable X 1,X 2 heißen (stochastisch) unabhängig, falls für alle Ereignisse {X 1 A 1 }, {X 2 A 2 } gilt: P(X 1 A 1,X 2 A 2 ) = P(X 1 A 1 )P(X 2 A 2 ) ( Produktformel ) 2
Erwartungswert unabhängiger Produkte Satz: X 1,X 2 unabhängige ZV e mit Zielbereichen S 1,S 2, h 1,h 2 Abbildungen von S 1 bzw. S 2 in die reellen Zahlen. Haben h 1 (X 1 ) und h 2 (X 2 ) endlichen Erwartungswert, so folgt E [ h 1 (X 1 )h 2 (X 2 ) ] = E [ h 1 (X 1 ) ] E [ h 2 (X 2 ) ]. Insbesondere sind (im Fall endlicher Varianzen) h 1 (X 1 ) und h 2 (X 2 ) unkorreliert. 3
Beweis für diskrete ZV e: a 1,a 2 h 1 (a 1 )h 2 (a 2 )P(X 1 = a 1,X 2 = a 2 ) = a 1,a 2 h 1 (a 1 )P(X 1 = a 1 )h 2 (a 2 )P(X 2 = a 2 ) = a 1 h 1 (a 1 )P(X 1 = a 1 ) a 2 h 2 (a 2 )P(X 2 = a 2 ). 4
Zufallsvariable X 1,...,X n mit Zielbereichen S 1,...,S n heißen (stochastisch) unabhängig, falls für alle Ereignisse {X i A i } folgende Produktformel gilt: P(X 1 A 1,...,X n A n ) = P(X 1 A 1 ) P(X n A n ). 5
Für diskrete Zufallsvariable ist die Unabhängigkeit geichbedeutend mit der Produktform der Verteilungsgewichte: P(X 1 = a 1,...,X n = a n ) = ρ 1 (a 1 ) ρ n (a n ) Die ρ i (a i ) sind dann die Verteilungsgewichte von X i. 6
Sei X 1,X 2,... eine Folge von Zufallsvariaben. Definition: Die Zufallsvariablen X 1,X 2,... sind unabhängig : für jedes n sind X 1,...,X n unabhängig. Beispiele: Fortgesetzter Münzwurf, fortgesetztes Würfeln 7
Ereignisse E 1,...,E n heißen unabhängig : I E1,...,I En sind unabhängig. Satz: Dies ist gleichbedeutend mit P(E i1 E ik ) = P(E i1 ) P(E ik ) für beliebige 1 i 1 < < i k n. Einen eleganten Beweis führt man mit einem Faktorisierungsargument für Indikatorvariable (ähnlich wie bei der Einschluss-Ausschlussformel in Vorlesung 6) vgl. Buch Seite 67. 8
I E1 E i Ei+1 c Ec = I n E 1 E i (1 I Ei+1 ) (1 I En ) = I E1 E i I E1 E i E j + I E1 E i E j E k j>i k>j>i 9
E[I E1 E i Ei+1 c Ec] = E[I n E 1 E i (1 I Ei+1 ) (1 I En )] = E[I E1 E i ] E[I E1 E i E j ]+ E[I E1 E i E j E k ] j>i k>j>i 10
E[I E1 E i Ei+1 c Ec] = E[I n E 1 E i (1 I Ei+1 ) (1 I En )] = E[I E1 E i ] E[I E1 E i E j ]+ E[I E1 E i E j E k ] j>i k>j>i Mit den vorausgesetzen Produktformeln folgt P(E 1 E i E c i+1 Ec n) = P(E 1 ) P(E i ) ( 1 j>i P(E j )+ k>j>i P(E j )P(E k ) ) 11
E[I E1 E i Ei+1 c Ec] = E[I n E 1 E i (1 I Ei+1 ) (1 I En )] = E[I E1 E i ] E[I E1 E i E j ]+ E[I E1 E i E j E k ] j>i k>j>i Mit den vorausgesetzen Produktformeln folgt P(E 1 E i E c i+1 Ec n) = P(E 1 ) P(E i ) ( 1 j>i P(E j )+ k>j>i = P(E 1 ) P(E i )(1 P(E i+1 )) (1 P(E n )) P(E j )P(E k ) ) 12
E[I E1 E i Ei+1 c Ec] = E[I n E 1 E i (1 I Ei+1 ) (1 I En )] = E[I E1 E i ] E[I E1 E i E j ]+ E[I E1 E i E j E k ] j>i k>j>i Mit den vorausgesetzen Produktformeln folgt P(E 1 E i E c i+1 Ec n) = P(E 1 ) P(E i ) ( 1 j>i P(E j )+ k>j>i = P(E 1 ) P(E i )(1 P(E i+1 )) (1 P(E n )) P(E j )P(E k ) ) = P(E 1 ) P(E i )P(E c i+1 ) P(Ec n). 13
Fazit: Die Unahängigkeit zweier Ereignisse E 1,E 2 ist äquivalent zur Produktformel P(E 1 E 2 ) = P(E 1 )P(E 2 ) 14
Und die Unabhängigkeit dreier Ereignisse E 1, E 2, E 3 ist äquivalent dazu, dass beide der folgenden Bedingungen a) und b) erfüllt sind: a) P(E 1 E 2 ) = P(E 1 )P(E 2 ), P(E 1 E 3 ) = P(E 1 )P(E 3 ), P(E 2 E 3 ) = P(E 2 )P(E 3 ). b) P(E 1 E 2 E 3 ) = P(E 1 )P(E 2 )P(E 3 ) a) oder b) allein reichen i.a. nicht für die Unabhängigkeit: 15
Beispiel: Z 1,Z 2,Z 3 sei ein 1 2 -Münzwurf, E 1 := {Z 1 = 1}, E 2 := {Z 2 = 1}, E 3 := {Z 1 = Z 2 } E 1,E 2,E 3 sind paarweise unabhängig, aber nicht unabhängig. 16
Aufgabe: Finden Sie ein möglichst einfaches Beispiel mit 3 Ereignissen E 1, E 2, E 3, die trotz der Gleichheit P(E 1 E 2 E 3 ) = P(E 1 )P(E 2 )P(E 3 ) nicht unabhängig sind. 17
Gewisse Teilaspekte von abhängigen Zufallsvariablen können unabhängig sein: Beispiel (vgl. Buch S. 65): (X,Y) seien rein zufällige Zwei aus {1,2,...,32}. Offenbar sind X und Y nicht unabhängig, wohl aber die Ereignisse E 1 := {X ist durch 8 teilbar } und E 2 := {17 Y 24}. Denn P(E 1 ) = 1 8,P(E 2) = 1 4,P(E 1 E 2 ) = 7 1+8 3 32 31 = 1 32. 18
Ein Beispiel für indirekte Abhängigkeiten: (vgl. Buch S. 68) (X,Y) sei ein p-münzwurf, U sei uniform verteilt auf {0,1}, X, Y, U seien unabhängig. P(X = U) = p 1 2 +q1 2 = 1 2, analog: P(Y = U) = 1 2 19
Ein Beispiel für indirekte Abhängigkeiten: (vgl. Buch S. 68) (X,Y) sei ein p-münzwurf, U sei uniform verteilt auf {0,1}, X, Y, U seien unabhängig. P(X = U) = p 1 2 +q1 2 = 1 2, analog: P(Y = U) = 1 2 P(X = U,Y = U) = (p 2 +q 2 ) 1 2 p 2 +q 2 = (p+q) 2 2pq = 1 2pq 1 2, mit = genau dann wenn p = 1 2.
Ein Beispiel für indirekte Abhängigkeiten: (vgl. Buch S. 68) (X,Y) sei ein p-münzwurf, U sei uniform verteilt auf {0,1}, X, Y, U seien unabhängig. P(X = U) = p 1 2 +q1 2 = 1 2, analog: P(Y = U) = 1 2 P(X = U,Y = U) = (p 2 +q 2 ) 1 2 p 2 +q 2 = (p+q) 2 2pq = 1 2pq 1 2, mit = genau dann wenn p = 2 1. Für p 1 2 sind I {X=U} und I {Y=U} nicht unabhängig!
Unabhängigkeit von Zufallsvariablen mit Dichten Satz X 1,...,X n seien reellwertige Zufallsvariable. Dann sind äquivalent: (i) X 1,...,X n sind unabhängig, und X i hat die Dichte f i (a i )da i, i = 1,...,n. (ii) (X 1,...,X n ) hat die Dichte f(a 1,...,a n )da 1...da n := f 1 (a 1 ) f n (a n )da 1...da n 20
Beispiel: Multivariate Standard-Normalverteilung. Sei Z := (Z 1,...,Z n ). Dann gilt: Z 1,...,Z n sind unabhängig und N(0,1)-verteilt P(Z da) = 1 (2π) n/2 exp ( mit a 2 := a 2 1 + +a2 n. a 2 ) da, a R n, 2 Z heißt dann standard-normalverteilt auf R n. 21
Analog zum Fall n = 2 (vgl. Folien der Vorlesung 5b) gilt: Ist Z = (Z 1,...,Z n ) standard-normalverteilt auf R n und sind τ 1,...,τ n reelle Zahlen mit τ 2 1 + +τ2 n = 1, dann ist Y := τ 1 Z 1 + +τ n Z n N(0,1)-verteilt. ( Y ist die Koordinate von Z = Z 1 e 1 + +Z n e n zum Einheitsvektor u := τ 1 e 1 + +τ n e n.) Insbesondere ergibt sich: Z 1 + +Z n n ist N(0,1)-verteilt. 22