Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen

Transkript

1 Universität Karlsruhe (TH) Institut für Statistik und Mathematische Wirtschaftstheorie Wahrscheinlichkeitstheorie Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen Markus Höchstötter Lehrstuhl für Statistik, Ökonometrie und Mathematische Finanzwirtschaft, Universität Karlsruhe (TH) Karlsruhe, SS 2008

2 10. Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen Gegeben: k- dimensionale Zufallsvariable X mit W - Verteilung z.b. in Form der Verteilungsfunktion F (α 1,... α k ). Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 2

3 Beispiele:. Gemeinsame Verteilung von Dollar/Euro Wechselkurs und Exportvolumen in die USA Gemeinsame Verteilung der Kurse der im DAX enthaltenen Aktien Gemeinsame Verteilung von Sonnenstunden/Monat und Umsatz an Sonnenschutzmittel Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 3

4 Mögliche Fragestellung: a) Wie ist die Verteilung der Zufallsvariablen separat betrachtet? b) Beeinflusst ein fixierter Wert bei einer der Komponenten die (gemeinsame) Verteilung der übrigen k 1 Werte? c) Gibt es einen wahrscheinlichtheoretischen Zusammenhang zwischen den Zufallsvariablen? Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 4

5 Gegeben: ZV X = (X 1,, X k ) Die Verteilung einer Komponente X i heißt Randverteilung von X i. Verteilungsfunktion einer Komponente X i F Xi = P(X i α) = P(X i α, X i beliebig für i i ) = P(X i α, X i für i i ) = lim F (α 1,, α, α k ) für i i α i F Xi ist die Verteilungsfunktion von X i Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 5

6 Beispiel - gemeinsame und Randverteilungen Gegeben sei die bivariate Dichte { 6 f (x, y) = 5x, 1 x 2, 0 y x 1 0, sonst Dann folgt für die Verteilung von Y F Y (α) = = 3 5 α α 0 f (x, y)dxdy = α 2 0 y xdxdy = α 0 [ 6 5 ( 4 (y + 1) 2 ) dy = 3 5 α ( α2 3 α + 3 ) x 2 ] 2 dy 2 y+1 α=1 =? Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 6

7 Für die gemeinsame Verteilung von X und Y an den Stellen α 1 bzw. α 2 gilt dann F (α 1, α 2 ) = α 2 0 α 1 y+1 5x 6 dxdy = = 3 [ α 2 5 1y 1 ] α2 3 y 3 y 2 y 0 = 3 [α 21α 2 13 ] 5 α32 α 22 α 2 α 2 (α1 2 y 2 2y 1)dy 0 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 7

8 Integration, falls (α 1, α 2 ) / I Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 8

9 Beispiel: Gesucht: Randverteilungen Für X, 1 α 1 2: lim F (α 1, α 2 ) = F (α 1, α 1 1) α 2 = 3 5 (α 1) 2 (α 1 1) 1 5 (α 1 1) (α 1 1) (α 1 = 2 5 (α 1) (α 1) F X (α) = { 0 α < (α)3 3 5 (α) α 2 α > 2 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 9

10 Für Y : 0 α 2 1 lim F (α 1, α 2 ) = F (2, α 2 ) α 1 = 3 5 4α (α 2) (α 2) α 2 = 9 5 α (α 2) (α 2) 3 0 α < 0 9 F Y (α) = 5 α 3 5 (α) (α)3 0 α 1 1 α > 1 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 10

11 X diskret X diskret mit Werten x, j I W - Verteilung von Komponente X i : x R P(X i = x) = P(X i = x, X i beliebig für i i ) Wahrscheinlichkeitsverteilung von X i erhält man indem man den Wert von X i festhält und über alle Werte der übrigen Komponenten aufsummiert. Also: Suche alle Werte x j mit x j i = x (Komponente i von x j ist x). Dann P(X i = x) = P(X = x j ) x j mit x j i =x Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 11

12 Beispiel: Drei Qualitätsmerkmale (Beispiel 10.2) Bei einem Bauteil werden drei Qualitätsmerkmale überprüft: 1 Oberflächengüte (X 1 ) 2 Bruchfestigkeit (X 2 ) 3 Masstreue (X 3 ) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 12

13 Bei allen drei Merkmalen wird eine Einstufung in die Ausprägung gut/schlecht mit den Codierungen 0 (gut) und 1 (schlecht) vorgenommen. Dementsprechend gibt es 8 verschiedene Kombinationsmöglichkeiten. (x 1, x 2, x 3) P((X 1, X 2, X 3) = (x 1, x 2, x 3)) x 1 (0,0,0) 0.85 x 2 (0,0,1) 0.01 x 3 (0,1,0) 0.02 x 4 (0,1,1) 0.02 x 5 (1,0,0) 0.03 x 6 (1,0,1) 0.01 x 7 (1,1,0) 0.04 x 8 (1,1,1) 0.02 Gemeinsame Wahrscheinlichkeitsverteilung der Zufallsvariablen X 1, X 2, X 3 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 13

14 Aufgabe: Bestimmung der Randverteilung von X 1 : P(X 1 = 1) =? (x 1, x 2, x 3 ) P((X 1, X 2, X 3 ) = (x 1, x 2, x 3 )) x 1 (0,0,0) 0.85 x 2 (0,0,1) 0.01 x 3 (0,1,0) 0.02 x 4 (0,1,1) 0.02 x 5 (1,0,0) 0.03 x 6 (1,0,1) 0.01 x 7 (1,1,0) 0.04 x 8 (1,1,1) 0.02 Werte: (1, 0, 0) (1, 0, 1) (1, 1, 0) (1, 1, 1) } {{ }} {{ }} {{ }} {{ } x 5 x 6 x 7 x 8 P(X 1 = 1) = 8 P(X = x j ) = = 0.1 j=5 P(X 1 = 0) = 0.9 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 14

15 Aufgabe: Bestimmung der Randverteilung von X 2 : P(X 2 = 1) =? (x 1, x 2, x 3 ) P((X 1, X 2, X 3 ) = (x 1, x 2, x 3 )) x 1 (0,0,0) 0.85 x 2 (0,0,1) 0.01 x 3 (0,1,0) 0.02 x 4 (0,1,1) 0.02 x 5 (1,0,0) 0.03 x 6 (1,0,1) 0.01 x 7 (1,1,0) 0.04 x 8 (1,1,1) 0.02 Werte: (0, 1, 0) (0, 1, 1) (1, 1, 0) (1, 1, 1) } {{ }} {{ }} {{ }} {{ } x 3 x 4 x 7 x 8 P(X = x j ) = 0, 1 j=3,4,7,8 P(X 2 = 0) = 0.9 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 15

16 Aufgabe: Bestimmung der Randverteilung von X 3 : P(X 3 = 1) =? (x 1, x 2, x 3 ) P((X 1, X 2, X 3 ) = (x 1, x 2, x 3 )) x 1 (0,0,0) 0.85 x 2 (0,0,1) 0.01 x 3 (0,1,0) 0.02 x 4 (0,1,1) 0.02 x 5 (1,0,0) 0.03 x 6 (1,0,1) 0.01 x 7 (1,1,0) 0.04 x 8 (1,1,1) 0.02 Werte: x 2 = (0, 0, 1), x 4 = (0, 1, 1), x 6 = (1, 0, 1), x 8 = (1, 1, 1) P(X 3 = 1) = P(X = x j ) = 0, 06 j=2,4,6,8 P(X 3 = 0) = 0, 94 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 16

17 Verteilungsfunktion: Damit: F (x 1, x 2, x 3 ) = 0 x 1 < 0 oder x 2 < 0 oder x 3 < x 1 < 1, 0 x 2 < 1, 0 x 3 < x 1 < 1, 0 x 2 < 1, 1 x x 1 < 1, 1 x 2, 0 x 3 < x 1, 0 x 2 < 1, 0 x 3 < x 1 < 1, 1 x 2, 1 x x 1, 0 x 2 < 1, 1 x x 1, 1 x 2, 0 x 3 < x 1, 1 x 2, 1 x 3 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 17

18 Alternative Berechnung der Randverteilung von X 1 : F X1 (x 1 ) = lim F x(x 1, x 2, x 3 ) = x 2,x 3 P(X 1 = 0) = 0.9 ; P(X 1 = 1) = 0.1 { 0 x1 < x 1 < x 1 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 18

19 X stetig X stetig: mit gemeinsamer Verteilungsfunktion F X : F Xi (α) = lim x i F X (x 1,, α,, x k ), i i Es gilt F X (α 1,, α k ) = α k α 1 f (x 1,, x k )dx 1 dx k Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 19

20 X stetig Damit ist F Xi (α) = lim α i für i i = lim α i i i F X (α 1,, α i, α k ) α k α α 1 f (x 1,, x k )dx 1 dx k dx i F Xi (α) = f (x 1,, x, x k ) dx 1 dx k }{{} dx i Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 20

21 1. Beispiel - zweidimensionale stetige ZV Sei F (x 1, x 2 ) = { 1 + exp λ 1x 1 exp λ2x2 exp λ1x1 exp λ2x2, x 1, x 2 > 0 0, sonst die gemeinsame Verteilungsfunktion einer zweidimensionalen Zufallsvariablen X = (X 1, X 2 ). Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 21

22 Dann gilt für α > 0 F X1 (α) = P(X 1 α) = lim x 2 F (α, x 2) = lim x 2 (1 + exp λ1α exp λ2x2 exp λ1α exp λ2x2 ) = 1 exp λ1α ( = 0 für α = 0) Die Randverteilung ist also eine Exponentialverteilung. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 22

23 2. Beispiel - zweidimensionale stetige ZV f (x, y) = { 6 5 x 1 x 2, 0 y x 1 0 sonst Dichte von X 1 : 1 x 2 f X1 (x) = f (x, y)dy = x xdy = [ ] x xy 0 = 6 5 x x f X1 (x) = { 6 5 x x 1 < x 2 0 sonst Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 23

24 Dichte von X 2 : 0 y 1 f X2 (y) = f (x, y)dx = 2 y+1 [ ] xdx = 5 x 2 y 1 = y y 3 5 = y y f X2 (y) = { y 3 5 y 2 0 y 1 0 sonst Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 24

25 Frage: Wie beeinflusst ein fixierter Wert x bei einer Komponente die Verteilung der restlichen Komponenten? Zunächst: Zweidimensionale ZV (X, Y ) diskret betrachtet x fixierter Wert bei X Ereignis A : X = x y j beliebiger Wert von Y Ereignis B j : Y = y j Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 25

26 Frage: Gibt es einen Einfluss von A auf B? Antwort: Die bedingte Wahrscheinlichkeit P(B j A) = P(A B j) P(A) wird verglichen mit P(Y = y j ) = P(X = x, Y = y j) P(X = x) = P(Y = y j X = x) P(Y = y j X = x) heißt bedingte Verteilung von Y unter der Bedingung X = x Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 26

27 Frage: Gibt es einen Einfluss von A auf B? Kein Einfluss, wenn bzw. bzw. P(Y = y j X = x) = P(Y = y j ) P(Y = y j, X = x) P(X = x) = P(Y = y j ) P(Y = y j, X = x) = P(Y = y j )P(X = x) (Unabhängigkeit der Ereignisse X = x und Y = y j ) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 27

28 Definition: (X, Y ) diskret X und Y heißen unabhängig, wenn P(X = x, Y = y) = P(X = x)p(y = y) für alle Werte x von X und alle Werte y von Y gilt. Unabhängigkeit von X und Y bedeutet also Unabhängigkeit von X = x und Y = y für alle Werte x und y. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 28

29 Beispiel: Drei Qualitätsmerkmale Frage: Hängt die Qualität der beiden Merkmale Oberflächengüte und Bruchfestigkeit zusammen? Gemeinsame Wahrscheinlichkeitsverteilung der Bruchfestigkeit : P((X 1, X 2 ) = (0, 0)) = P((X 1, X 2, X 3 ) = (0, 0, x 3 ), x 3 beliebig ) = P((X 1, X 2, X 3 ) = (0, 0, 0)) + P((X 1, X 2, X 3 ) = (0, 0, 1)) = = 0.86 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 29

30 Analog für (0, 1), (1, 0), (1, 1) Bruchfestigkeit (X 2) gut schlecht Oberflächengüte (X 1) gut schlecht Randverteilung von X Gemeinsame Wahrscheinlichkeitsverteiung Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 30

31 Bedingte Wahrscheinlichkeit der Bruchfestigkeit (X 2 ) unter der Bedingung schlecht bei Oberflächengüte (X 1 = 1) P(X 2 = 0 X 1 = 1) = P(X 2 = 1 X 1 = 1) = P(X2=0,X1=1) P(X 1=1) = = 0.4 P(X2=1,X1=1) P(X 1=1) = = 0.6 Wir haben: P(X 2 = 0) = 0.9 P(X 2 = 0 X 1 = 1) = 0.4 P(X 2 = 1) = 0.1 P(X 2 = 1 X 1 = 1) = 0.6 P(X 1 = 1, X 2 = 0) = 0.86 P(X 1 = 0)P(X 2 = 0) = = 0.81 Folgerung: Keine Unabhängigkeit Vermutlich gemeinsame Ursache, z.b. Materialfehler. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 31

32 (X, Y ) stetig Problem: Bei einer stetigen Zufallsvariable X gilt für jede reelle Zahl x P(X = x) = 0 Folgerung: Die bedingte Verteilung unter der Bedingung X = x kann nicht direkt gebildet werden. Statt x betrachten wir das Intervall [x, x + ɛ] A ɛ = X [x, x + ɛ] = {ω Ω x X (ω) x + ɛ} A ɛ verwenden wir als Bedingung unter der Voraussetzung: P(A ɛ ) = P(X X x + ɛ) 0 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 32

33 Bedingte W-verteilung von Y unter der Bedingung A ɛ : Gehen wir von der Verteilungsfunktion aus, so betrachtet man Y y unter der Bedingung A ɛ : P(Y y, x X x + ɛ) F Y Aɛ (y) = P(Y y x X x + ɛ) = P(x X x + ɛ) P(X x + ɛ, Y y) P(X x, Y y) = F X (x + ɛ) F X (X ) = hängt von ɛ ab. 1 ɛ (F (X,Y )(x + ɛ, y) F (X,Y ) (x, y)) 1 ɛ (F X (x + ɛ) F X (x)) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 33

34 ɛ 0 : lim ɛ 0 F Y A ɛ (y) = lim ɛ 0 = x F (X,Y )(x,y) d dx F X (x) F (X,Y ) (x+ɛ,y) F (X,Y ) (x,y) ɛ F X (x+ɛ) F X (x) ɛ = F Y X =x (y) = x F (X,Y )(x,y) f X (x) bedingte Verteilungsfunktion von Y unter der Bedingung X = x. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 34

35 Bedingte Dichte von Y unter der Bedingung X = x : f Y X =x (y) = d dy ( F( X,Y )(x,y) x f X (x) ) = f (X,Y )(x,y) f X (x) Die bedingte Dichte hat die Eigenschaft einer Dichtefunktion. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 35

36 Bedingte Verteilung stetiger ZV Variierende Belastungsbedingungen bei einer Anlage X 1 Belastung, X 2 Lebensdauer Gemeinsame Dichte: { x1 exp f (x 1, x 2 ) = x1x2 0 x 1 1, 0 x 2 0 sonst Frage: Soll Belastung kontrolliert werden z.b. Wert 0.7? Bedingte Dichte von X 2 unter der Bedingung X 1 = 0.7 f X2 X 1=0.7(x 2 ) = f (X 1,X 2)(x, y) f X1 (0.7) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 36

37 Zuerst: Berechnung der Randdichte von X 1 : f X1 (x 1 ) = f (X1,X 2)(x 1, x 2 )dx 2 = x 1 exp x1x2 dx 2 = 1, x 1 [0, 1] 0 X 1 gleichverteilt auf [0, 1] Damit bedingte Dichte: f X2 X 1=x 1 (x 2 ) = { x1 exp x 1 x 2 1 = x 1 exp x1x2 für x für x 2 < 0 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 37

38 Resultat: Exponentialverteilung mit Parameter x 1. 1 Somit: x 1 mittlere Lebensdauer, x 1 Ausfallrate. Bei kontrollierter Belastung mit Wert x 1 steigt die Lebensdauer (bzw. fällt die Ausfallrate) mit fallendem x 1. Bedingte Dichte hängt von der Bedingung X 1 = x 1 ab. (x 2 0) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 38

39 Überprüfungsaufgabe: Berechnung der Randverteilung von X 2 f X2 (x 2 ) = + f (X1,X 2)(x 1, x 2 )dx = = [ x 1 1 x 2 e x1x2 1 0 ] 1 0 x 1 e x1x2 dx 1 = 1 x 2 e x2 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 39

40 Zusammenfassung Im diskreten Fall: Bedingte Wahrscheinlichkeitsverteilung von Y unter der Bedingung X = x mit P(X = x) 0: P(Y = y X = x) = P(Y =y,x =x) P(X =x) für alle Werte y von Y. Zu vergleichen mit der Wahrscheinlichkeitsverteilung von Y. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 40

41 Zusammenfassung Im stetigem Fall: bedingte Dichte von Y unter der Bedingung X = x mit f X (x) 0 : f Y X =x (y) = f X,Y (x,y) f X (x) zu vergleichen mit der Randdichte von Y. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 41

42 Unabhängigkeit X und Y heißen unabhängig, wenn (a) im diskreten Fall die bedingte Wahrscheinlichkeitsverteilung von Y nicht von der Bedingung abhängt und mit der Verteilung von Y übereinstimmt (b) Im stetigen Fall die bedingte Dichte nicht von der Bedingung abhängt und mit der Randdichte übereinstimmt Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 42

43 formal - Unabhängigkeit (a) P(Y = y X = x) = P(X =x,y =y) P(X =x) = P(Y = y) P(X = x, Y = y) = P(X = x)p(y = y), für alle x und y (b) f X,Y (x,y) f X (x) = f Y (y) f X,Y (x, y) = f X (x)f Y (y), für alle x und y Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 43

44 formal - Unabhängigkeit Aus (a) bzw. (b) folgt: F X,Y (x, y) = F X (x)f Y (y), für alle x und y Die Umkehrung gilt auch (Übungsaufgabe). Die Definition lässt sich ausdehnen für X 1,..., X n mit n > 2. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 44