2. Ein Zufallsvektor X IR d ist multivariat normal verteilt dann und nur dann wenn seine charakteristische Funktion folgendermaßen gegeben ist:

Transkript

1 Multivariate elliptische Verteilungen a) Die multivariate Normalverteilung Definition 2 Der Zufallsvektor (X 1, X 2,..., X d ) T hat eine multivariate Normalverteilung (oder eine multivariate Gauss sche Verteilung) wenn X d = µ + AZ, wobei Z = (Z 1, Z 2,..., Z k ) T ein Vektor von i.i.d. normalverteilten ZV (Z i N(0,1), i = 1,2,..., k), A IR d k ist eine konstante Matrix und µ IR d ist ein konstanter Vektor. Für so einen Zufallsvektor X gilt: E(X) = µ, cov(x) = Σ = AA T (Σ positiv semidefinit). Notation: X N d (µ,σ). Theorem 1 (Multivariate Normalverteilung: äquiv. Definitionen) 1. X N d (µ,σ) für einen Vektor µ IR d und eine positiv semidefinite Matrix Σ IR d d, dann und nur dann wenn a IR d, a = (a 1, a 2,..., a d ) T, die Zufallsvariable a T X normal verteilt ist. 2. Ein Zufallsvektor X IR d ist multivariat normal verteilt dann und nur dann wenn seine charakteristische Funktion folgendermaßen gegeben ist: φ X (t) = E(exp{it T X}) = exp{it T µ 1 2 tt Σt} für einen Vektor µ IR d und eine positiv semidefinite Matrix Σ IR d d. 14

2 3. Ein Zufallsvektor X IR d mit E(X) = µ und cov(x) = Σ, wobei die Determinante von Σ positiv ist (det(σ) := Σ > 0), ist normal verteilt, d.h. X N d (µ,σ), dann und nur dann wenn seine Dichtefunktion folgendermaßen gegeben ist { 1 f X (x) = (2π) d Σ exp (x } µ)t Σ 1 (x µ). 2 Beweis: (siehe zb. Gut 1995) Theorem 2 (Eigenschaften der multivariaten Normalverteilung) Für X N d (µ,σ) gilt: Lineare Kombinationen: Für B IR k d und b IR k. Es gilt dann BX+b N k (Bµ+b, BΣB T ). Randverteilungen: ( Setze X T = X (1)T, X (2)T) für X (1)T = (X 1, X 2,..., X k ) T und X (2)T = (X k+1, X k+2,..., X d ) T und analog ( ( ) µ T = µ (1)T, µ (2)T) Σ (1,1) Σ und Σ = (1,2) Σ (2,1) Σ (2,2). ( ) ( Es gilt dann X (1) N k µ (1),Σ (1,1) und X (2) N d k µ (2),Σ ). (2,2) 15

3 Bedingte Verteilungen: Wenn Σ regulär, dann ist auch der bedingte Z.Vektor X (2) X (1) = x (1) multivariat normal verteilt X (2) X (1) = x (1) N d k ( µ (2,1),Σ (22,1) ) wobei µ (2,1) = µ (2) + Σ (2,1) ( Σ (1,1) ) 1 ( x (1) µ (1) ) und Σ (22,1) = Σ (2,2) Σ (2,1) (Σ (1,1) ) 1Σ (1,2). Quadratische Formen: Wenn Σ regulär, dann gilt D 2 = (X µ) T Σ 1 (X µ) χ 2 d. Die Zufallsvariable D heißt Mahalanobis Distanz. Faltung: Seien X N d (µ,σ) und Y N d ( µ, Σ) zwei unabhängige Zufallsvektoren. Es gilt dann X + Y N d (µ + µ,σ + Σ). 16

4 b) Varianz-gemischte Normalverteilungen Definition 3 Ein Zufallsvektor X IR d hat eine multivariate Varianzgemischte Normalverteilung wenn X d = µ+waz wobei: Z N k (0, I), W 0 ist eine von Z unabhängige positive Zufallsvariable, µ IR d ist ein konstanter Vektor, A IR d k ist eine konstante Matrix, und I ist die Einheitsmatrix. Unter der Bedingung W = w ist X normalverteilt: X N d (µ, w 2 Σ), wobei Σ = AA T. E(X) = µ und cov(x) = E(W 2 AZZ T A T ) = E(W 2 )Σ falls E(W 2 ) < Beispiel 4 Die multivariate t α -Verteilung Sei Y IG(α, β) (Inverse Gamma-Verteilung) mit Dichtefunktion: f α,β (x) = βα Γ(α) x (α+1) exp( β/x) x > 0, α > 0, β > 0 Dann gilt: E(Y ) = β α 1 für α > 1, var(y ) = β 2 (α 1) 2 (α 2) für α > 2 Sei W 2 IG(α/2, α/2). Dann ist die Verteilung von X = µ + WAZ eine multivariate t α Verteilung mit α Freiheitsgraden: X t d (α, µ,σ). cov(x) = E(W 2 )Σ = α α 2 Σ 17

5 c) Sphärische Verteilungen Definition 4 Ein Zufallsvektor X = (X 1, X 2,..., X d ) T hat eine sphärische Verteilung wenn für jede orthogonale Matrix U IR d d die Gleichung UX d = X gilt. Theorem 3 Die folgenden Aussagen sind äquivalent. 1. Der Zufallsvektor X IR d hat eine sphärische Verteilung. 2. Es existiert eine Funktion ψ: IR IR, sodass die charakteristische Funktion von X folgendermaßen gegeben wird: φ X (t) = ψ(t T t) = ψ(t t t2 d ) 3. Für jeden Vektor a IR d gilt a t X d = a X 1 wobei a 2 = a a a2 d. 4. X lässt sich als X d = RS repräsentieren, wobei der Zufallsvektor S IR d gleichmäßig verteilt auf der Einheitskugel S d 1, S d 1 = {x IR d : x = 1}, ist, und R 0 eine von S unabhängige ZV ist. Notation einer sphärischen Verteilung: X S d (ψ) 18

6 Beispiel 5 Normalverteilungen sind sphärische Verteilungen. Sei X N d (0, I). Dann X S d (ψ) mit ψ = exp( x/2). Tatsächlich: φ X (t) = exp{it T tt It} = exp{ t T t/2} = ψ(t T t). Sei X = RS die stochastische Darstellung von X N d (0, I). Es gilt X 2 = d R 2 χ 2 d ; Simulation einer sphärischen Verteilung: (i) Simuliere s aus einer gleichmäßig verteilten Zufallsvektor in S d 1 (zb. in dem y aus einer multivariaten Standard Normalverteilung Y N d (0, I) simuliert und s = y/ y gesetzt wird). (ii) Simuliere r aus R. (iii) Setze x = rs. 19

7 d) Elliptische Verteilungen Definition 5 Ein Zufallsvektor X IR d hat eine elliptische Verteilung wenn X d = µ+ay, wobei Y S k (ψ), µ IR d ist ein konstanter Vektor und A IR d k ist eine konstante Matrix. Die charakteristische Funktion: φ X (t) = E(exp{it T X}) = E(exp{it T (µ+ay )}) = exp{it T µ}e(exp{i(a T t) T Y }) wobei Σ = AA T. = exp{it T µ}ψ(t T Σt), Notation elliptische Verteilungen: X E d (µ,σ, ψ) µ heißt Positionsparameter (location parameter), Σ heißt Dispersionsparameter (dispersion parameter), ψ heißt charakteristischer Generator der elliptischen Verteilung. Falls A IR d d regulär, dann gilt folgende Relation zwischen elliptischen und sphärischen Verteilungen: X E d (µ,σ, ψ) A 1 (X µ) S d (ψ), A IR d d, AA T = Σ 20

8 Theorem 4 ( Stochastische Darstellung der elliptischen Verteilung) Sei X IR d ein d-dimensinaler Zufallsvektor. X E d (µ,σ, ψ) dann und nur dann wenn X d = µ+ras, wobei S IR k ist ein auf der Einheitskugel S k 1 gleichverteilter Zufallsvektor, R 0 ist eine von S unahängige nicht negative Zufallsvariable, A IR d k ist eine konstante Matrix (Σ = AA T ) und µ IR d ist ein konstanter Vektor. Simulation einer elliptischen Verteilung: (i) Simuliere s aus einer gleichmäßig verteilten Zufallsvektor in S d 1 (zb. in dem y aus einer multivariaten Standard Normalverteilung Y N d (0, I) simuliert und s = y/ y gesetzt wird). (ii) Simuliere r aus R. (iii) Setze x = µ + ras. 21

9 Beispiel 6 (Multivariate Normalverteilung) Sei X N(µ,Σ). Es existiert eine Matrix A IR d k, sodass X d = µ+az wobei Z N k (0, I) und AA T = Σ. Weiters gilt Z = RS wobei S ein gleichmäßig verteilter Zufallsvektor in S k 1 ist und R 2 χ 2 k. Daraus folgt X d = µ+ras und daher X E d (µ,σ, ψ) mit ψ(x) = exp{ x/2}. Beispiel 7 (Multivariate normal variance mixture) Sei Z N d (0, I) ein normal-verteilter Zufallsvektor. Z ist sphärischverteilt mit stochastischer Darstellung Z d = V S wobei V 2 = Z 2 χ 2 d. Sei X = µ+w AZ eine Varianz-gemischte Normalverteilung. Dann gilt X = d µ + V WAS wobei V 2 χ 2 d und V W eine nicht-negative von Z unabhängige ZV ist. D.h., X ist elliptisch verteilt mit R = V W. 22

10 Theorem 5 (Eigenschaften der elliptischen Verteilung) Sei X E k (µ,σ, ψ). X hat folgende Eigenschaften: Lineare Kombinationen: Für B IR k d und b IR k gilt: Randverteilungen: ( Setze X T = X (1)T, X (2)T) für BX + b E k (Bµ + b, BΣB T, ψ). X (1)T = (X 1, X 2,..., X n ) T und X (2)T = (X n+1, X n+2,..., X k ) T und analog ( ( ) µ T = µ (1)T, µ (2)T) Σ (1,1) Σ sowie Σ = (1,2) Σ (2,1) Σ (2,2). Es gilt dann ) ) X 1 N n (µ (1),Σ (1,1), ψ und X 2 N k n (µ (2),Σ (2,2), ψ. 23

11 Bedingte Verteilungen: Wenn Σ regulär, dann ist auch die bedingte Verteilung X (2) X (1) = x (1) elliptisch verteilt: X (2) X (1) = x (1) N k n ( µ (2,1),Σ (22,1), ψ ) wobei µ (2,1) = µ (2) + Σ (2,1) ( Σ (1,1) ) 1 ( x (1) µ (1) ) und Σ (22,1) = Σ (2,2) Σ (2,1) (Σ (1,1) ) 1Σ (1,2). Typischerwise sind ψ und ψ unterschiedlich (siehe Fang, Katz und Ng 1987). 24

12 Quadratische Formen: Wenn Σ regulär, dann gilt D 2 = (X µ) T Σ 1 (X µ) R 2. wobei R die nicht-negative ZV aus der stochastischen Darstellung ) Y = RS der spherischen Verteilung Y mit S U (S (d 1) und X = µ+ay ist. Die Zufallsvariable D heißt Mahalanobis Distanz. Faltung: Seien X E k (µ,σ, ψ) und Y E k ( µ,σ, ψ) zwei unabhängige Zufallsvektoren. Es gilt dann X + Y E k (µ + µ,σ, ψ) wobei ψ = ψ ψ. Achtung: Σ muss i.a. dieselbe für X und Y sein. Anmerkung: Aus X E k (µ, I k, ψ) folgt nicht, dass die Komponenten von X unabhängig sind. Die Komponenten von X sind dann und nur dann unabhängig wenn X multivariat normalverteilt mit der Einheitsmatrix als Kovarianzmatrix ist. 25