Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen

Transkript

1 Institut für Volkswirtschaftslehre (ECON) Lehrstuhl für Ökonometrie und Statistik Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen Wahrscheinlichkeitstheorie Prof. Dr. W.-D. Heller Hartwig Senska Carlo Siebenschuh

2 X = (X 1,, X k ) k - dimensionale ZV ist Zufallsvektor Kennzahlen: 1.) für einzelne Komponenten 2.) zur Analyse des Zusammenhangs Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 2

3 1. Komponentenweise a) Erwartungswert - über Randverteilung - direkt b) Varianz - über Randverteilung - direkt Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 3

4 1. Komponentenweise Erwartungswert für: X = (X 1,, X k ) Für jede Komponente X i ist der Erwartungswert, wenn er existiert, eine Kennzahl für die Lage der Verteilung. X diskret: X i diskret mit Werten x ij, j J i E(X i ) = x ij P(X i = x ij ), für jedes i }{{} j J i Randverteilung Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 4

5 X diskret: P(X i = x ij ) = P(X i = x ij, X t = x ts für t i) t i s J t }{{} Aufsummieren von Wahrscheinlichkeiten E(X i ) = x ij ( P(X i = x ij, X t = x ts für t i)) j J i t i s J t = x ij P(X i = x ij, X t = x ts für t i) j J i t i s J t Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 5

6 In Vektorschreibweise: X habe Werte x (r) R k, x (r) = (x (r) 1, x (r) 2,..., x (r) k ) E(X i ) = r x (r) i P(X = x (r) ) oder E(X ) = (E(X 1 ),, E(X k )) = r x (r) P(X = x (r) ) Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 6

7 Beispiel zu 1.) X = (X 1, X 2, X 3 ) mit X 1 habe die Werte 1,2,3,4 X 2 habe die Werte 0,1 X 3 habe die Werte 1,2 Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 7

8 Beispiel - Wahrscheinlichkeitsverteilung X 3 =1: X 2 = X 1 = X 3=2: X 2 = X 1 = Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 8

9 Beispiel - Randverteilung und Erwartungswert X 1 : P(X 1 = ) E(X 1) P(X 1 = 1) P(X 1 = 2) P(X 1 = 3) P(X 1 = 4) 1 P(X 1 = 1) P(X 1 = 4) = = 0.23 = 0.29 = = Analog: X 2 : P(X 2 = ) 0 1 E(X 2 ) X 3 : P(X 3 = ) 1 2 E(X 3 ) Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 9

10 Randverteilung und Erwartungswert Äquivalent: E(X ) = (1, 0, 1) P(X =(1,0,1)) {}}{ 0.2 +(1, 0, 2) +(2, 0, 1) (2, 0, 2) 0.1 +(3, 0, 1) (3, 0, 2) (4, 0, 1) (4, 0, 2) 0.1 +(1, 1, 1) (1, 1, 2) (2, 1, 1) (2, 1, 2) (3, 1, 1) (3, 1, 2) (4, 1, 1) (4, 1, 2) P(X =(1,0,2)) {}}{ 0.1 = (1.05, 0.06, 0.51) + (1.255, 0.04, 0.98) = (2.305, 0.1, 1.49) Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 10

11 X stetig: = + E(X i ) = x i f xi (x i )dx i + + x i... + f X (x 1,..., x i,..., x k )dx 1... dx i 1 dx i+1... dx k dx i In Vektorschreibweise: + E(X ) =... + (x 1,..., x k )f X (x 1,..., x k )dx 1... dx k Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 11

12 Varianz und höhere Momente: Berechnung Komponentenweise: Var(X i ) = E(X 2 i ) E(X i ) 2 Vektorschreibweise nicht sinnvoll, da missverständlich. Denn sei X Vektor X 2 = (X 1,..., X n ) 2 = }{{} Skalarprodukt n i=1 X 2 i und nicht (X 2 1,..., X 2 n ) Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 12

13 Beispiel zu 1.) - Varianz - über Randverteilung: E(X 2 1 ) = = = Var(X 1 ) = E(X 2 1 ) E(X 1 ) 2 = = E(X 2 2 ) = 0.1 = Var(X 2 ) = = 0.09 E(X 2 3 ) = = 2.47 = Var(X 3 ) = = Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 13

14 Beispiel zu 1.) - Varianz - direkt (E(X1 2 ), E(X2 2 ), E(X3 2 )) = (1, 0, 1) (1, 0, 4) 0.1 +(4, 0, 1) (4, 0, 4) (16, 1, 1) (16, 1, 4) = (6.485, 0.1, 2.47) (Var(X 1 ), Var(X 2 ), Var(X 3 )) = (6.485, 0.1, 2.47) ( , 0.1 2, ) = (1.172, 0.09, ) Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 14

15 Zu 2.) - Kovarianz und Korrelationskoeffizient für die Analyse des Zusammenhangs: Übertragung der Vorgehensweise in der deskriptiven Statistik auf diskrete ZV: Merkmalausprägung Werte des ZV arithm. Mittel entspricht Erwartungswert rel. Häufigkeiten Wahrscheinlichkeiten Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 15

16 Zu 2.) - Kovarianz und Korrelationskoeffizient für die Analyse des Zusammenhangs: Kovarianz zweier Merkmale aus Häufigkeitsverteilung (X, Y ) diskret: Cov(x, y) = a (a x)(b y)p(a, b) b entspricht Cov(X, Y ) = i (x i E(X ))(y j E(Y )) P(X = x i, Y = y j ) j Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 16

17 zu 2.) - Kovarianz und Korrelationskoeffizient für die Analyse des Zusammenhangs: Es gilt: P(X = x i, Y = y j ) = P(Y = y j, X = x i ) diskret bzw. f x,y (x, y) = f y,x (y, x) stetig Folgerung: Cov(X, Y ) = Cov(Y, X ) Bemerkung: Die Kovarianz muss nicht existieren (d.h. nicht endlich). Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 17

18 zu 2.) - Kovarianz und Korrelationskoeffizient für die Analyse des Zusammenhangs: (X, Y ) diskret: mit Werten x i bzw. y j Cov(X, Y ) = i (x i E(X ))(y j E(Y ))P(X = x i, Y = y j ) j (X, Y ) stetig: Cov(X, Y ) = + + (x E(X ))(y E(Y ))f X,Y (x, y)dxdy Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 18

19 Wiederholung - Beispiel: X = (X 1, X 2, X 3 ) mit X 1 habe die Werte 1,2,3,4 X 2 habe die Werte 0,1 X 3 habe die Werte 1,2 X hat die Werte: (1, 0, 1), (1, 0, 2), (1, 1, 1), (1, 1, 2), (2, 0, 1)... Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 19

20 Wiederholung - Beispiel: Wahrscheinlichkeitsverteilung von X : X 3 = 1 : P(X 1 =, X 2 =, X 3 = 1) X 1 = P(X 2 =, X 3 = 1) X 2 = P(X 1 =, X 3 = 1) = P(X 3 = 1) Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 20

21 Wiederholung - Beispiel: Wahrscheinlichkeitsverteilung von X : X 3 = 2 : P(X 1 =, X 2 =, X 3 = 2) X 1 = P(X 2 =, X 3 = 2) X 2 = P(X 1 =, X 3 = 2) = P(X 3 = 2) Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 21

22 Beispiel zu 2.): Cov(X 1, X 2 ) =? Gemeinsame Verteilung: X X 2 = E(X 1 ) = E(X 2 ) = 0.1 Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 22

23 Beispiel zu 2.): Cov(X 1, X 2 ) = 0 E(X 2) 1 E(X 1) {}}{{}}{ (0 0.1)( ( ) ) P(1,0) {}}{ 0.3 +( 0.305) 0.2 +(1 0.1)( ) = } X 2 = 0 X 2 = 1 Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 23

24 Bemerkung: Sind X und Y unabhängig Cov(X, Y ) = 0 Beweis im diskreten Fall: analog zur deskriptiven Statistik Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 24

25 Beweis im stetigen Fall: Cov(X, Y ) = = = = 0 (x E(X ))(y E(Y ))f X,Y (x, y)dxdy (x E(X ))(y E(Y ))f X (x)f Y (y)dxdy (x E(X ))f X (x)dx } {{ } =0 + (y E(Y ))f Y (y)dy } {{ } =0 Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 25

26 Die Umkehrung gilt im Allgemeinen nicht. Cov(X, Y ) = 0 X, Y unabhängig Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 26

27 Korrelationskoeffizient Veränderung der Kovarianz bei linearer Transformation: h 1 (X ) = αx + β, h 2 (Y ) = γy + δ X hat Werte x i, Y hat Werte y j P(X = x i, Y = y j ) = P(h 1 (X ) = αx i + β, h 2 (Y ) = γy j + δ) h 1 (X ) hat Werte αx i + β, h 2 (Y ) hat die Werte γy j + δ Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 27

28 Korrelationskoeffizient Cov(αX + β, γy + δ) = αγcov(x, Y ) Var(αX + β) = Var(h 1 (X )) = α 2 Var(X ) Var(γY + δ) = Var(h 2 (Y )) = γ 2 Var(Y ) Folgerung: ϱ(αx + β, γy + δ) = = Cov(αX + β, γy + δ) Var(αX + β) Var(γY + δ) Cov(X, Y ) Var(X ) Var(Y ) = ϱ(x, Y ) ist invariant unter linearen Transformationen. Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 28

29 Korrelationskoeffizient Definition: ϱ(x, Y ) = Cov(X, Y ) Var(X ) Var(Y ) heißt Korrelationskoeffizient Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 29

30 Beispiel zu 2.) Korrelation von X 1 und X 2 : ϱ(x 1, X 2 ) = Var(X1 ) Var(X 2 ) = = Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 30

31 Kovarianz bei linearer Transformation Bemerkungen: 1.) ϱ(x, Y ) ist invariant unter linearen Transformationen. 2.) 1 ϱ(x, Y ) 1 (analog zum Bravais - Pearson - Korrelationskoeffizienten der deskriptiven Statistik) ϱ(x, Y ) > 0 ϱ(x, Y ) = 0 ϱ(x, Y ) < 0 X und Y sind positiv korreliert X und Y sind unkorreliert X und Y sind negativ korreliert Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 31

32 Kovarianzmatrix X = (X 1,..., X k ) ist Zufallsvektor Dann paarweise Kovarianz { Cov(Xi, X j ) i j c ij = Cov(X i, X i ) i = j Zusammenstellung in einem Matrixschema C = c 11 c 12 c 1k c 21 c 22 c 2k.. c k1 c kk ergibt die Kovarianzmatrix. Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 32

33 Korrelationsmatrix Analog Korrelationsmatrix { ϱ(xi, X j ) i j ϱ ij = 1 i = j ergibt S = 1 ϱ 12 ϱ 1k ϱ ϱ k1 1 Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 33

34 Korrelationsmatrix Bemerkungen: 1.) Die Matrix C ist symmetrisch, d.h. c ij = Cov(X i, X j ) = Cov(X j, X i ) = c ji für i j 2.) Sind die Komponenten paarweise unkorreliert, d.h. Cov(X i, X j ) = 0 für i j, so hat die Kovarianzmatrix Diagonalgestalt, d.h. außerhalb der Diagonalen stehen nur Nullen. X 1,..., X n heißen dann unkorreliert. Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 34

35 Kovarianzmatrix bei unkorrelierten X 1,..., X n : C = Var(X 1 ) Var(X n ) Korrelationsmatrix bei unkorrelierten X 1,..., X n : S = Übungsaufgabe: Berechnung der Kovarianzmatrix im Beispiel. Kapitel XII - Kennzahlen mehrdimensionaler Zufallsvariablen 35