Wahrscheinlichkeitstheorie Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen

Transkript

1 Wahrscheinlichkeitstheorie Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen Georg Bol bol@statistik.uni-karlsruhe.de Markus Höchstötter hoechstoetter@statistik.uni-karlsruhe.de

2 10. Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen Gegeben: k- dimensionale Zufallsvariable X mit W - Verteilung z.b. in Form der Verteilungsfunktion F(α 1,...α k ). Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 1

3 Beispiele:. Gemeinsame Verteilung von Dollar/Euro Wechselkurs und Exportvolumen in die USA Gemeinsame Verteilung der Kurse der im DAX enthaltenen Aktien Gemeinsame Verteilung von Sonnenstunden/Monat und Umsatz an Sonnenschutzmittel Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 2

4 Mögliche Fragestellung: a Wie ist die Verteilung der Zufallsvariablen separat betrachtet? b Beeinflusst ein fixierter Wert bei einer der Komponenten die (gemeinsame) Verteilung der übrigen k 1 Werte? c Gibt es einen wahrscheinlichtheoretischen Zusammenhang zwischen den Zufallsvariablen? Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 3

5 Gegeben: ZV X = (X 1,,X k ) Die Verteilung einer Komponente X i heißt Randverteilung von X i. Verteilungsfunktion einer Komponente X i F Xi = P(X i α) = P(X i α,x i beliebig für i i ) = P(X i α,x i für i i ) = lim α i F(α 1,,α, α k ) für i i F Xi ist die Verteilungsfunktion von X i Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 4

6 Beispiel - gemeinsame und Randverteilungen Gegeben sei die bivariate Dichte f(x,y) = { 6 5x, 1 x 2, 0 y x 1 0, sonst Dann folgt für die Verteilung von Y F Y (x 1 ) = α 1 f(x,y)dx = α 1 y xdx = [ 6 5 x 2 2 ] α1 y+1 = 3 5 α (y + 1)2 = 3 5 α y2 6 5 y 3 5 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 5

7 Für die gemeinsame Verteilung von X und Y an den Stellen α 1 bzw. α 2 gilt dann F(α 1,α 2 ) = α 2 ( 3 5 α y2 6 5 y 3 5 )dy 0 = 3 5 α2 1α α α α 2 für (α 1,α 2 ) I Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 6

8 Integration, falls (α 1, α 2 ) / I Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 7

9 Gesucht: Randverteilungen Beispiel: Für X, 1 α 1 2 : lim F(α 1, α 2 ) = F(α 1,α 1 1) α 2 = 3 5 (α 1) 2 (α 1 1) 1 5 (α 1 1) (α 1 1) (α 1 1) = 2 5 (α 1) (α 1) F X (α) = 0 α < (α 1) (α 1) α 2 1 α > 2 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 8

10 Für Y : 0 α 2 1 lim F(α 1,α 2 ) = F(2, α 2 ) α 1 = 3 5 4α (α 2) (α 2) α 2 = 9 5 α (α 2) (α 2) 3 F Y (α) = 0 α < α 3 5 (α) (α)3 0 α 1 1 α > 1 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 9

11 X diskret mit Werten x, j I X diskret Wahrscheinlichkeitsverteilung von Komponente X i : x R P(X i = x) = P(X i = x, X i beliebig für i i ) Wahrscheinlichkeitsverteilung von X i erhält man, indem man den Wert von X i festhält und über alle Werte der übrigen Komponente aufsummiert. Also: Suche alle Werte x j mit x j i = x (Komponente i von x j ist x). Dann P(X i = x) = P(X = x j ) x j mit x j i =x Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 10

12 Beispiel: Drei Qualitätsmerkmale (Beispiel 10.2) Bei einem Bauteil werden drei Qualitätsmerkmale überprüft: 1. Oberflächengüte (X 1 ) 2. Bruchfestigkeit (X 2 ) 3. Masstreue (X 3 ) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 11

13 Bei allen drei Merkmalen wird eine Einstufung in die Ausprägung gut/schlecht mit den Codierungen 0 (gut) und 1 (schlecht) vorgenommen. Dementsprechend gibt es 8 verschiedene Kombinationsmöglichkeiten. (x 1, x 2, x 3 ) P((X 1, X 2, X 3 ) = (x 1, x 2, x 3 )) x 1 (0,0,0) 0.85 x 2 (0,0,1) 0.01 x 3 (0,1,0) 0.02 x 4 (0,1,1) 0.02 x 5 (1,0,0) 0.03 x 6 (1,0,1) 0.01 x 7 (1,1,0) 0.04 x 8 (1,1,1) 0.02 Gemeinsame Wahrscheinlichkeitsverteilung der Zufallsvariablen X 1,X 2, X 3 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 12

14 Bestimmung der Randverteilung von X 1 : P(X 1 = 1) =? (x 1, x 2, x 3 ) P((X 1, X 2, X 3 ) = (x 1, x 2, x 3 )) x 1 (0,0,0) 0.85 x 2 (0,0,1) 0.01 x 3 (0,1,0) 0.02 x 4 (0,1,1) 0.02 x 5 (1,0,0) 0.03 x 6 (1,0,1) 0.01 x 7 (1,1,0) 0.04 x 8 (1,1,1) 0.02 Werte: (1,0, 0) (1,0,1) (1,1,0) (1,1,1) }{{}}{{}}{{}}{{} x 5 x 6 x 7 x 8 P(X 1 = 1) = 8 P(X = x j ) = = 0.1 j=5 P(X 1 = 0) = 0.9 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 13

15 Bestimmung der Randverteilung von X 2 : P(X 2 = 1) =? (x 1, x 2, x 3 ) P((X 1, X 2, X 3 ) = (x 1, x 2, x 3 )) x 1 (0,0,0) 0.85 x 2 (0,0,1) 0.01 x 3 (0,1,0) 0.02 x 4 (0,1,1) 0.02 x 5 (1,0,0) 0.03 x 6 (1,0,1) 0.01 x 7 (1,1,0) 0.04 x 8 (1,1,1) 0.02 Werte: (0, 1, 0) (0, 1,1) (1,1, 0) (1,1,1) }{{}}{{}}{{}}{{} x 3 x 4 x 5 x 6 P(X = x j ) = 0,1 j=3,4,7,8 P(X 2 = 0) = 0.9 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 14

16 Bestimmung der Randverteilung von X 3 : P(X 2 = 1) =? (x 1, x 2, x 3 ) P((X 1, X 2, X 3 ) = (x 1, x 2, x 3 )) x 1 (0,0,0) 0.85 x 2 (0,0,1) 0.01 x 3 (0,1,0) 0.02 x 4 (0,1,1) 0.02 x 5 (1,0,0) 0.03 x 6 (1,0,1) 0.01 x 7 (1,1,0) 0.04 x 8 (1,1,1) 0.02 Werte: X 2 = (0,0, 1),X 4 = (0,1,1),X 6 = (1,0,1),X 8 = (1,1,1) P(X 3 = 1) = j=2,4,6,8 P(X 3 = 0) = 0,094 P(X = x j ) = 0,06 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 15

17 Verteilungsfunktion: Damit: F(x 1,x 2, x 3 ) = 0 x 1 < 0 oder x 2 < 0 oder x 3 < x 1 < 1, 0 x 2 < 1, 0 x 3 < x 1 < 1, 0 x 2 < 1, 1 x x 1 < 1, 1 x 2, 0 x 3 < x 1, 0 x 2 < 1, 0 x 3 < x 1 < 1, 1 x 2, 1 x x 1, 0 x 2 < 1, 1 x x 1, 1 x 2, 0 x 3 < x 1, 1 x 2, 1 x 3 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 16

18 Alternative Berechnung der Randverteilung von X 1 : 0 x 1 < 0 F X1 (x 1 ) = lim F x(x 1,x 2,x 3 ) = x 1 < 1 x 2,x x 1 P(x 1 = 0) = 0.9; P(X 1 = 1) = 0.1 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 17

19 X stetig mit gemeinsamer Verteilungsfunktion F X : Es gilt F Xi (α) = lim x i F X(x 1,,α,,x k ), i i F x (α 1,,α k ) = α k α 1 f(x 1,,x k )dx 1 dx k Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 18

20 Damit ist X stetig F Xi (α) = lim F X (α 1,,α i, α k ) α i für i i = lim α i i i α k α α 1 f(x 1,,x k )dx 1 dx k dx i F X i (α) = f(x 1,,x, x k )dx 1 dx k }{{} dx i Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 19

21 Sei F(x 1,x 2 ) = 1. Beispiel - zweidimensionale stetige ZV { 1 + exp λ 1 x 1 exp λ 2x 2 exp λ 1x 1 exp λ 2x 2, x 1,x 2 > 0 0,sonst die gemeinsame Verteilungsfunktion einer zweidimensionalen Zufallsvariablen X = (X 1,X 2 ). Dann gilt für α > 0 F X1 (α) = P(X 1 α) = lim F(α,x 2) x 2 = lim (1 + x 2 exp λ1α exp λ 2x 2 exp λ1α exp λ 2x 2 ) = 1 exp λ 1α (= 0 für α = 0) Die Randverteilung ist also eine Exponentialverteilung. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 20

22 f(x,y) = 2. Beispiel - zweidimensionale stetige ZV { 6 5 x 1 x 2, 0 y x 1 Dichte von X 1 : 1 x 2 0 sonst f X1 (x) = f(x, y)dy = x xdy = [ ] x xy 0 = 6 5 x2 6 5 x f X1 (x) = { 6 5 x2 6 5 x 1 < x 2 0 sonst Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 21

23 Dichte von X 2 : 0 y 1 f X2 (y) = f(x, y)dx = 2 y xdx = [ ] x2 y 1 = y2 6 5 y 3 5 = y2 6 5 y f X2 (y) = { y 3 5 y2 0 y 1 0 sonst Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 22

24 Frage: Wie beeinflusst ein fixierter Wert x bei einer Komponente die Verteilung der restlichen Komponenten? Zunächst: Zweidimensionale ZV (X, Y ) diskret betrachtet x fixierter Wert bei X Ereignis A : X = x y j beliebiger Wert von Y Ereignis B j : Y = y j Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 23

25 Frage: Gibt es einen Einfluss von A auf B? Antwort: Die bedingte Wahrscheinlichkeit P(B j A) = (A B j) P(A) = P(X = x, Y = y j) P(X = x) = P(Y = y j X = x) wird verglichen mit P(Y = y j ) P(Y = y j X = x) heißt bedingte Verteilung von Y unter der Bedingung X = x Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 24

26 Frage: Gibt es einen Einfluss von A auf B? Kein Einfluss, wenn bzw. P(Y = y j X = x) = P(Y = y j ) P(Y = y j, X = x) P(X = x) = P(Y = y j ) bzw. P(Y = y j, X = x) = P(Y = y j )P(X = x) (Unabhängigkeit der Ereignisse X = x und Y = y j ) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 25

27 Definition: (X, Y ) diskret X und Y heißen unabhängig, wenn P(X = x,y = y) = P(X = x)p(y = y) für alle Werte x von X und alle Werte y von Y gilt. Unabhängigkeit von X und Y bedeutet also Unabhängigkeit von X = x und Y = y für alle Werte x und y. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 26

28 Beispiel: Drei Qualitätsmerkmale Frage: Hängt die Qualität der beiden Merkmale Oberflächengüte und Bruchfestigkeit zusammen? Gemeinsame Wahrscheinlichkeitsverteilung der Bruchfestigkeit : P((X 1,X 2 ) = (0,0)) = P((X 1,X 2, X 3 ) = (0,0, x 3 ),x 3 beliebig ) = P((X 1,X 2, X 3 ) = (0,0, 0)) + P((X 1,X 2,X 3 ) = (0,0,1)) = = 0.86 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 27

29 Analog für (0, 1),(1, 0),(1, 1) Oberflächengüte (X 1 ) gut schlecht Randverteilung von X Gemeinsame Wahrscheinlichkeitsverteiung Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 28

30 Bedingte Wahrscheinlichkeit der Bruchfestigkeit (X 2 ) unter der Bedingung schlecht bei Oberflächengüte (X 1 = 1) P(X 2 = 0 X 1 = 1) = P(X 2=0,X 1 =1) P(X 1 =1) = = 0.4 P(X 2 = 1 X 1 = 1) = P(X 2=1,X 1 =1) P(X 1 =1) = = 0.6 Wir haben: P(X 2 = 0) = 0.9 P(X 2 = 0 X 1 = 1) = 0.4 P(X 2 = 1) = 0.1 P(X 2 = 1 X 1 = 1) = 0.6 P(X 1 = 1,X 2 = 0) = 0.86 P(X 1 = 0)P(X 2 = 0) = = 0.81 Folgerung: Keine Unabhängigkeit Vermutlich gemeinsame Ursache, z.b. Materialfehler. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 29

31 (X, Y ) stetig Problem: Bei einer stetigen Zufallsvariable X gilt für jede reelle Zahl x P(X = x) = 0 Folgerung: Die bedingte Verteilung unter der Bedingung X = x kann nicht direkt gebildet werden. Statt x betrachten wir das Intervall [x,x + ǫ] A ǫ = X [x,x + ǫ] = {ω Ω x X(ω) x + ǫ} A ǫ verwenden wir als Bedingung unter der Voraussetzung: P(A ǫ ) = P(X X x + ǫ) 0 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 30

32 Bedingte W-verteilung von Y unter der Bedingung A ǫ : Gehen wir von der Verteilungsfunktion aus, so betrachtet man Y y unter der Bedingung A ǫ : F Y Aǫ (y) = P(Y y x X x + ǫ) = = = P(Y y,x X x + ǫ) P(x X x + ǫ) P(X x + ǫ,y y) P(X x, Y y) F X (x + ǫ) F X (X) 1 ǫ (F (X,Y )(x + ǫ, y) F (X,Y ) (x, y)) 1 ǫ (F X(x + ǫ) F X (x)) hängt von ǫ ab. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 31

33 ǫ 0 : lim F Y A ǫ 0 ǫ (y) = lim ǫ 0 = x F (X,Y ) (x,y) d dx F X(x) F (X,Y ) (x+ǫ,y) F (X,Y ) (X,y) ǫ F X (x+ǫ) F X (x) ǫ = F Y X=x (y) = x F (X,Y ) (x,y) f X (x) bedingte Verteilungsfunktion von Y unter der Bedingung X = x. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 32

34 Bedingte Dichte von Y unter der Bedingung X = x : ) f Y X=x (y) = d dy ( F(X,Y ) (x,y) x f X (x) = f (X,Y ) (x,y) f X (x) Die bedingte Dichte hat die Eigenschaft einer Dichtefunktion. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 33

35 Bedingte Verteilung stetiger ZV Variierende Belastungsbedingungen bei einer Anlage X 1 Belastung, X 2 Lebensdauer Gemeinsame Dichte: f(x 1,x 2 ) = { x1 exp x 1x 2, 0 x 1 1,0 x 2 0, sonst Frage: Soll Belastung kontrolliert werden z.b. Wert 0.7? Bedingte Dichte von X 2 unter der Bedingung X 1 = 0.7 f X2 X 1 =0.7(x 2 ) = f (X 1,X 2 )(x,y) f X1 (0.7) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 34

36 Zuerst: Berechnung der Randdichte von X 1 : f X1 (x 1 ) = f (X1,X 2 )(x 1,x 2 )dx 2 = x 1 exp x 1x 2 dx 2 = 1,x 1 [0,1] 0 X 1 gleichverteilt auf [0,1] Damit bedingte Dichte: f X2 X 1 =x 1 (x 2 ) = { x 1 exp x 1 x 2 1 = x 1 exp x 1x 2 für x für x 2 < 0 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 35

37 Resultat: Exponentialverteilung mit Parameter x 1. Somit: 1 x 1 mittlere Lebensdauer, x 1 Ausfallrate. Bei kontrollierter Belastung mit Wert x 1 steigt die Lebensdauer (bzw. die Ausfallrate) mit fallendem x 1. fällt Bedingte Dichte hängt von der Bedingung X 1 = x 1 ab. (x 2 0) Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 36

38 Überprüfungsaufgabe: Berechnung der Randverteilung von X 2 f X2 (x 2 ) = + f (X1,X 2 )(x 1,x 2 )dx = 1 x 1 e x 1x 2 dx 1 = [ x 1 1 x 2 e x 1x 2 0 ] 1 0 = 1 x 2 e x 2 Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 37

39 Zusammenfassung Im diskreten Fall: Bedingte Wahrscheinlichkeitsverteilung von Y unter der Bedingung X = x mit P(X = x) 0: P(Y = y X = x) = P(Y =y,x=x) P(X=x) für alle Werte y von Y. Zu vergleichen mit der Wahrscheinlichkeitsverteilung von Y (Randverteilung von Y ). Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 38

40 Zusammenfassung Im stetigen Fall: bedingte Dichte von Y unter der Bedingung X = x mit f X (x) 0 : f Y X=x (y) = f X,Y (x,y) f X (x) zu vergleichen mit der Randdichte von Y. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 39

41 Unabhängigkeit X und Y heißen unabhängig, wenn (a) im diskreten Fall die bedingte Wahrscheinlichkeitsverteilung von Y nicht von der Bedingung abhängt und mit der Verteilung von Y übereinstimmt (b) Im stetigen Fall die bedingte Dichte nicht von der Bedingung abhängt und mit der Randdichte übereinstimmt Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 40

42 formal - Unabhängigkeit (a)p(y = y X = x) = P(X = x, Y = y) P(X = x) = P(Y = y) P(X = x,y = y) = P(X = x)p(y = y), für alle x und y (b) f X,Y (x,y) f X (x) = f Y (y) f X,Y (x,y) = f X (x)f Y (y), für alle x und y Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 41

43 formal - Unabhängigkeit Aus (a) bzw. (b) folgt: F X,Y (x,y) = F X (x)f Y (y), für alle x und y Die Umkehrung gilt auch (Übungsaufgabe). Die Definition lässt sich ausdehnen für X 1,...,X n mit n > 2. Kapitel X - Randverteilung, bedingte Verteilung und Unabhängigkeit von Zufallsvariablen 42