Bivariate Normalverteilung

Transkript

1 Bivariate Normalverteilung Die Dichtefunktion der gemeinsamen Verteilung für korrelierte normalverteilte Zufallsvariable ist nicht unmittelbar verständlich. Die Definition dieser multivariaten Normalverteilung als Ausgangspunkt für eine Bearbeitung zu nehmen, ist schlechter Stil, der auch bei vielen anderen Themen beobachtbar ist. Er verleitet zu dem Eindruck, Mathematik sei nur etwas für Eingeweihte. Seien X und Y unabhängig und N(0,)-verteilt. Wir basteln uns auf naheliegende Weise zwei korrelierte Zufallsvariable: = X Y = ρx + ρ Y Die Abhängigkeiten für ρ treten deutlich hervor, betrachte ρ =, ρ = 0. (Für standardisierte Zufallsvariable, Y mit der Korrelation ρ gilt stets dieser Zusammenhang.) V( ) = V(Y ) = beachte V(aX +by) = a V(X)+b V(Y) Cov(,Y ) = ρ Cov(X,aX +by) = acov(x,x) +bcov(x,y) = av(x) Die Kovarianz stimmt hier mit dem Korrelationskoeffizienten überein. Um die gemeinsame Verteilung zu ermitteln, ist das Integral P( x,y y ) = f(x,y) dxdy mit f(x,y) = x x ρx+ ρ y y π e (x +y ) auszuwerten. Dies gelingt mit der Transformation (Umkehrabbildung) (x, y ρx ) (x, y) ρ Allgemein gilt für eine Transformation (siehe Verschiedenes, krummlinige Koordinaten) (u,v) (x(u,v), y(u,v)) da = x u x v y u y v dudv und in diesem Fall 0... ρ =. ρ P( x,y y ) = y x f(x, y ρx ) dxdy mit f(x,y) = ρ ρ Einsetzen und leichte Umformungen führen zur gesuchten Dichte: g(x,y) = π ρ e Da x und y vertauscht werden können, ist sie symmetrisch zur Winkelhalbierenden. Die Höhenlinien x ρxy +y = const sind Ellipsen. π e (x +y ) ( ρ ) (x ρxy+y )

2 Bivariate Normalverteilung Fortsetzung Die Matrizenschreibweise der Dichte mit Hilfe der Kovarianzmatrix sollte nun auch einsichtig sein. g(x,y) = Σ = π Σ e (x y)σ ( x y ) ( ρ ρ ) Σ = ρ Σ = ρ ( ) ρ ρ Die Höhenlinien von g(x, y) sind Ellipsen (siehe Hauptachsentransformation) mit der Gleichung: (x y)σ ( x )= const y y Die Eigenwerte von Σ lauten: +ρ, ρ und die Eigenvektoren ( ), ( ). Hieraus ist ersichtlich: Je größer ρ, umso schmaler sind die Ellipsen. Ihre Halbachsen liegen auf den Winkelhalbierenden. x Seien nun X und Y N(0, )-verteilt, ρ der Korrelationskoeffizient, g(x, y) die Dichte der gemeinsamen Verteilung. Beim Übergang zu den Zufallsvariablen σ x X und σ y Y ändert sich die Dichte g(x,y) gemäß h(x,y) = σ x σ y g( x σ x, y σ y ). Der Korrelationskoeffizient bleibt erhalten, beachte ρ(x,y) = ρ(ax,by). Die Kovarianzmatrix lautet nun: ( ) σ x Cov(X,Y) Σ =, Cov(X,Y) = ρσ Cov(X,Y) x σ y, Σ = σ y ( ) σy Cov(X,Y) σxσ y( ρ ) Cov(X,Y) σx = ρ Σ = σ xσ y Cov(X,Y) = σ x σ y ρ σx ρ σ x σ y ρ σ x σ y σy Den allgemeinen Fall (gehe von aus) erhalten wir schließlich durch eine Verschiebung, so dass der Ursprung in (µ x µ y ) übergeht.

3 y 0 0 x

4 Bilder von Kreisen Bei der Abbildung y x = x y = ρx+ ρ y gehen Kreise in Ellipsen über. Das kann direkt eingesehen werden. x Hierzu ermitteln wir das Bild der Kreispunktmenge (x ± r x ), r x r. y = ρx ± ρ r x x ρxy +y = r ( ρ ) umgestellt, quadriert, zusammengefasst, umbenannt in x,y Das ist die Gleichung der um 45 gedrehten Ellipse +ρ + y ρ = r. Aus ihr sind die Hauptachsen a = r +ρ, b = r ρ zu ersehen. Die Umkehrabbildung (inverse Drehmatrix) der Drehung lautet: x = (x+y) y = ( x+y) x (Die Existenz des Quadrats ist noch nicht geklärt.) Die Abbildung x = ρy + ρ x y = y der Kreispunktmenge (± r y y), r y r, erzeugt die gleiche gedrehte Ellipse. 4

5 Geometrie der Abbildung Y X Die Abbildung (hier ρ = 0,6) x = x y = ρx+ ρ y entpuppt sich als gescherte Stauchung, wobei die x-achse in die Regressionsgerade übergeht. Diese halbiert die vertikalen Ellipsenlinien (wie es auch zu erwarten ist). Y 5

6 Geometrie der Abbildung Y X ρ = 0,8 x = x y = ρx+ ρ y Y 6

7 Geometrische Veranschaulichung der bivariaten Normalverteilung X und Y sind unabhängig und N(0,)-verteilt. Wir veranschaulichen uns: = X Y = ρx + ρ Y Zu ρ gibt es ein θ mit cosθ = ρ. Y θ θ Xcosθ + Y sinθ X Tragen wir Y = Xcosθ + Y sinθ auf der y-achse ab, so entsteht folgende Grafik: Y 7

8 Simulation = X Y = ρx + ρ Y X und Y sind unabhängig und N(0,)-verteilt. Die Bilder des Kreises mit dem Radius wurden gezeichnet ρ = 0,9 Y ρ = 0,7 Y 8

9 Hauptachsen X und Y sind unabhängig und N(0,)-verteilt. Y = X Y = ρx + ρ Y cosθ = ρ X Bei der Abbildung (X,Y) (,Y ) des Einheitskreises liegen die Bilder der Punkte (cos θ sin θ ) und (cos θ + π sin θ + π ) auf den Winkelhalbierenden. Nach einer längeren Rechnung (Pythagoras, trigonometrische Identitäten, Wurzel-Regeln) erhalten wir das überraschend einfache Ergebnis a = +ρ, b = ρ. Y a b 9

10 Linearkombination von X und Y Y 0 0 X Seien X und Y unabhängig und N(0,)-verteilt. Die gemeinsame Dichte f(x,y) = (x +y ) ist das Produkt der Dichten f X (x) und f Y (y). π e Y V θ Xcosθ + Y sinθ X θ U Mit X und Y (beide N(0,)-verteilt) ist für α +β = auch αx +βy N(0,)-verteilt. Hierzu betrachten wir für (X,Y) die Koordinaten (U,V) in einem um θ gedrehten Koordinatensystem. Für die Zufallsvariable U gilt U = Xcosθ + Y sinθ, siehe Grafik. Die Dichte von U kann mit f U (u) = f(u, v) dv (Randdichte) ermittelt werden. Da die gemeinsame Dichte drehsymmetrisch ist, stimmen f U (u) und f X (u) überein. 0

11 Summe von normalverteilten Zufallsvariablen Seien X und Y unabhängig und N(λ,σ )- bzw. N(µ,τ )-verteilt. Dann ist X +Y N(λ+µ,τ +τ )-verteilt, d.h. Erwartungswerte und Varianzen addieren sich. Die Zufallsvariaben U = X λ σ und V = Y µ τ sind standardnormalverteilt (siehe Voraussetzung). Dies trifft auch für W = αu +βv mit α = σ σ +τ und β = τ σ +τ zu, da α +β = gilt. Eingesetzt und umgestellt erhalten wir die Behauptung: X +Y = (λ+µ)+ σ +τ W

12 Rayleigh-Verteilung Seien X und Y unabhängig und N(0,)-verteilt. Die gemeinsame Dichte lautet: f(x,y) = π e (x +y ). Wir untersuchen die Verteilung von R = X +Y. Mit ihr können die Wahrscheinlichkeiten von konzentrischen Kreisflächen leicht ermittelt werden. (X,Y) R r dr Das infinitesimale Volumenelement beträgt V = πrdr Die Dichte von R lautet somit f(r) = re r, r 0. π e r = re r dr. F(r) = e r ist dann die Verteilungsfunktion.,0 0,8 F 0,6 0,4 F() = 0,865,45 = F (0,95) 0, f = F r

13 Simulation = X Y = ρx + ρ Y X und Y sind unabhängig und N(0,)-verteilt. Die Bilder der Kreise mit den Wahrscheinlichkeiten α wurden gezeichnet. Hauptachsen (siehe S. 4) a = F (α) +ρ b = F (α) ρ α = 99% Y α = 97% α = 95% ρ = 0,6 n =

14 Dichte der bivariaten Normalverteilung Y y = ρx = X Y = ρx + ρ Y Die Dichte g(x,y) = π ( ρ ) (x ρxy+y ) ρ e kann auch auf einfache Weise hergeleitet werden. Hierzu ist zu berücksichtigen, dass standardnormalverteilt mit der Dichte ϕ(x) = e x π ist und dass die bedingte Verteilung (x ist gegeben) den Erwartungswert µ = ρx und die Standardabweichung σ = ρ hat. Die Dichte der bedingten Verteilung lautet somit ψ x (y) = π ρ e ( ρ ) (y ρx). Die Dichte der bivariaten Normalverteilung ergibt sich nun offensichtlich als Produkt ϕ(x)ψ x (y). Dieses umgeformt stimmt mit g(x, y) überein. Bedingte Wahrscheinlichkeiten (X = x liegt vor) werden - wie gewohnt - mit der Normalverteilung N(ρx, ρ ) berechnet. Um die Wahrscheinlichkeit eines Ereignisses E von zwei korrelierenden Zufallsvariablen U und V zu ermitteln, kann E durch die beiden Standardisierungen U und V und weiter mit Hilfe der obigen Abbildungsgleichungen durch die N(0, )-verteilten Zufallsvariablen X und Y ausgedrückt werden, für die Unabhängigkeit und Rotationssymmetrie der gemeinsamen Dichte vorliegt. Das Integrieren der bivariaten Dichte wird so vermieden. 4

15 Beste Prognosen x y y = ρx Falls x gegeben ist, so ist der Wert der Regressionsgeraden y = ρx die beste Prognose, da dieser y-wert die vertikalen Ellipsenschnitte halbiert. x y x = ρy Falls y gegeben ist, so ist der Wert y = ρx die beste Prognose, da dieser y-wert die horizontalen Ellipsenschnitte halbiert. Die bedingten Wahrscheinlichkeiten (Y = y liegt vor) werden mit der Normalverteilung N(ρy, ρ ) berechnet. 5

16 Dichte der bivariaten Normalverteilung y x Die Abbildung (hier ρ = 0,6) x = x y = ρx+ ρ y setzt sich aus einer Stauchung und einer Scherung zusammen. Die Umkehrabbildung x = x y = y ρ ρ wird in f(x,y) = π e (x +y ) eingesetzt und der Stauchfaktor ρ mit ρ ausgeglichen (das Volumen muss bleiben). Die führt direkt (leichte Umformungen, Umbenennungen) zur bivariaten Dichte g(x,y) = π ( ρ ) (x ρxy+y ). ρ e y x 6

17 Zusammenhang von ρ und P( 0,Y 0) Y α = 99% ρ = 0,6 n = 000 k = 54, theoretisch 5,% Y α = 99% ρ = 0,8 n = 000 k = 95, theoretisch 9,8% , 0, 0, 0,4 0,5 0, 0,4 0,6 0,8,0-0, -0,4-0,6-0,8 -,0 ρ P( 0,Y 0) 7

18 Zusammenhang von ρ und P( 0,Y 0) Y α = 99% ρ = 0,6 n = 000 k = 54, theoretisch 5,% Das Ereignis 0,Y 0 bedeutet, dass die unstandardisierten Zufallsvariablen nicht unter dem jeweiligen Erwartungswert liegen. Aufgrund der Abbildungsgleichungen = X Y = ρx + ρ Y ist das gleichbedeutend mit X 0 Y ρ ρ X. X Y π Die Gerade, die die Fläche nach unten begrenzt, besitzt die Steigung m = ρ ρ. Hiermit kann der gesamte Winkel und der Anteil am Ganzen (π) ermittelt werden. Wir erhalten: P( 0,Y 0) = arctan ρ ρ + π π = arctan ρ ρ + π π Umgekehrt kann durch Auszählen ρ geschätzt werden. 8

19 Unstandardisierte Daten E E x y ( Y ) (U V) µ U = 9 σ U = µ V = 5 σ V = 0,7 α = 99% ρ = 0,6 n = Die Gleichung der Ellipse E lautet ( x µ U σ U + y µ V σ V ) (+ρ) + ( x µ U σ U + y µ V σ V ) ( ρ) = r, r = F (α) = ln( α) Durch Standardisierung geht E in E über x+y (+ρ) + x+y ( ρ) = r, vereinfacht ergibt das x ρxy +y = r ( ρ ). Diese Ellipse ist, wie wir gesehen haben, das Bild des Kreises x +y = r unter der Abbildung x =x y =ρx+ ρ y. Die Gleichung für die in den Ursprung verschobene Ellipse E stimmt mit (x,y)σ ( x y ) = r überein, siehe Seite unten. Hauptachsen von E : a = r /e, b = r /e, Eigenwerte e i von Σ 9

20 Unstandardisierte Daten E E x y ( Y ) (U V) µ U = 9 σ U = µ V = 5 σ V = 0,7 α = 99% ρ = 0,6 n = Je Ellipse verringert sich der Anteil von 99% um %. Auf die Matrizenschreibweise der Dichte mit Hilfe der Kovarianzmatrix Σ soll noch eingegangen werden. Für standardisierte Daten gilt: g(x,y) = π Σ e (x y)σ ( x y ) Σ = ( ρ ρ ), Σ = ρ Mit der Abbildung x = µ X +σ X x y = µ Y +σ X y x x x y y x y y = σ Xσ Y geht die Dichte über in g(x,y) = π Σ e (x µ X y µ Y )Σ ( x µx y µ Y ) Σ = σ X ρσ X σ Y ρσ X σ Y σ Y, Σ = σ X σ Y ( ρ ), Σ = σx σ Y ρ 0

21 Höhenlinien ρ = 0,8 Y Je Ellipse verringert sich die Höhe von 0,5 um 0,0. Die maximale Höhe beträgt 0,65.