Wiederholung: Transformationsformel für Dichten

Transkript

1 Der folgende Aufschrieb enthält die fehlenden Beweise aus der Vorlesung. Wiederholung: ransforationsforel für Dichten Zur Herleitung der χ und t-verteilung verwenden wir ehrals die ransforationsforel. Deswegen wird diese hier nochal kurz wiederholt. heore. Sei X X,..., X n eine Zufallsvariable it Werten in R n und Dichtefunktion f X : R d R + wobei R + : {x R x } und φ : R d R d stetig differenzierbar it stetig differenzierbarer Ukehrabbildung φ. Dann gilt fuer die Dichte f Y von Y φx, f Y f X φ det J φ. Proof: Für A R d gilt: f Y d PY A PX φ A A φ A f X x dx. Es gilt X φ Y und da φ als auch φ stetig differenzierbar sind, können wir die ransforationsforel aus der ehrdiensionalen Integralrechnung anwenden f X x dx f X φ det J φ d φ A Da diese Beziehung für jede beliebige eilenge A gilt, erhalten wir A f Y f X φ det J φ. Wir wenden die ransforationsforel für Dichten nun an, u die Verteilung einer affinen ransforation von Gauss-Variablen zu bestien. Dieses Resultat benötigen wir später. heore. Sei A R n it n und der Rang von A sei. Ferner sei X X,..., X n eine Zufallsvariable it Werten in R n und X N µ, C, wobei µ R d der Mittelwert ist und C R d d die Kovarianzatrix. Die Verteilung der affinen ransforation Y AX + b it b R ist gegeben durch Y N Aµ + b, ACA. Proof: Wir erweitern die Matrix A R n durch Hinzufügen von Zeilen zu einer Matrix R n n it volle Rang n, d.h. A, B wobei B R n n Wir wählen die Zeilenvektoren b j B, j,..., n, so, daß gilt a i, Cb j, i,...,, j,..., n. In Matrixnotation kann an das kurz schreiben als: ACB. Dies ist öglich, da wir ier eine eilenge von linear unabhängigen Vektoren die Zeilenvektoren von A in R n zu einer Basis d.h. n linear unabhängigen Vektoren in R n ergänzen können Basisergänzungssatz aus der MfI. Hier wählen wir die hinzugefügten Zeilenvektoren aus de Orthogonalrau vo span{a,..., a } bezüglich des inneren Produckt u, v : u Cv beachte, daß C positiv definit ist. Weiterhin ergänzen wir den Vektor b R zu eine Vektor c R n inde wir ihn it Nullen auffüllen. Wir betrachten Z : φx X + c. Man beachte, daß die ersten Koponenten von Z gleich Y AX + b sind. Da die Matrix vollen Rang hat, ist invertierbar und wir erhalten die Ukehrabbildung: X φ Z Z c und J φ z für alle z R n. Da φ als auch φ stetig differenzierbar sind, gilt it f Z z f X φ z det J φ z f X φ z det

2 Wir haben in der MfI folgende Regeln für Deterinanten hergeleitet: det A det A, und det A deta, und detab detba det B det A. Daraus leiten wir ab Dait erhalten wir det det C det det det C det det C det det C. f X b z det e z c µ,c z c µ det det C π n e z c µ,c z c µ det C π n e z c µ, C z c µ det C π n e z c µ, C z c µ, det C π n wobei wir i letzen Schritt die Beziehung ABC C B A für die Inverse eines Matrixprodukts ausgenützt haben. Dait hat Z X + c eine Noralverteilung it Mittelwert µ + c und Kovarianzatrix C d.h. Z N µ + c, C. Die neue gesate Kovarianzatrix ist gegeben als C A C A B B ACA ACB ACA BCA BCB BCB, wobei wir i letzten Schritt die spezielle Wahl der Zeilenvektoren in B it ACB und BCA ACB verwendet haben. Die Kovarianzatrix von Z ist daher blockdiagonal. Die Deterinante einer Blockatrix ist das Produkt der Deterinante der Blöcke d.h. ACA det BCB detaca detbcb. Dait hat Z die Dichte it z, u it x R und u R n, f Z z e z c µ, C z c µ det C π n e b Aµ,ACA b Aµ e u Bµ,BCB u Bµ detaca detbcb π n π detaca e b Aµ,ACA b Aµ π n detbcb e u Bµ,BCB u Bµ f Y f U u Dait sind Y AX + b die ersten Koponenten von Z und U BX die letzten n Koponenten von Z unabhängige Zufallsvariablen, da die geeinsae Dichte f Z in die Dichte f Y von Y und f U von U faktorisiert. Dait ergibt sich sofort die Verteilung von Y, Y N Aµ + b, ACA. I allgeeinen würde an die geeinsae Dichte der ersten Koponenten als Randverteilung der geeinsaen Dichte von Z erhalten, d.h. f Y,..., f Z,...,, z +,..., z n dz +... dz n R n f Y,..., f U z +,..., z n dz +... dz n R n f Y,...,.

3 Reark. Anwendung: Wir bestien die Verteilung einer Sue Z n i X i von unabhängigen Zufallsvariablen, wobei X i N µ i, σi d.h. nicht identisch verteilt. Sei e Rn der Vektor bei de jede Koponente eins ist. Es gilt Z e X wobei X X,..., X n und X N µ, C it C ii σi und C ij für i j, da X i unabhängig ist von X j. Anwendung des heores. liefert Z N e µ, e C e N n i µ i, n i σ i. Dait erhalten wir das Resultat der Übungsaufgabe deutlich schneller wer das so löst bekot natürlich keine Punkte - allerdings ussten wir dazu erst den etwas technischen Beweis führen. Das Resultat des nächsten Leas wurde schon iplizit i Beweis des vorigen Satzes benützt. Lea. Sei X N µ, C it µ R n und C R n n. Sei A R r n und B R s n. Dann sind AX und BX unabhängig genau dann wenn ACB. Proof: Mittels des heores. erhalten wir die Verteilung von AX als N Aµ, ACA und von BX als N Bµ, BCB. Für die geeinsae Verteilung von AX, BX erhält an, N Aµ, Bµ, Σ wobei die Kovarianzatrix Σ gegeben ist als ACA ACB Σ BCA BCB. Sind AX und BX unabhängig, dann ist deren Kovarianz null d.h. dann gilt ACB und BCA ACB. Ugekehrt folgt aus ACB die blockdiagonale Struktur der Kovarianzatrix von AX, BX. Dait faktorisiert aber die Dichtefunktion der geeinsaen Gaussverteilung in das Produkt der Dichten von AX und BX d.h. sie sind unabhängig. Die χ -Verteilung Definition. Eine Zufallsvariable X ist χ -verteilt it Paraeter oder kurz χ verteilt, wenn sie folgende Dichte besitzt {, if x, fx K x e x, if x >., where K, Γ wobei Γx die Gaa-Funktion ist. Die wichtigste Eigenschaft der χ -Verteilung ist der Zusaenhang it der Gauss-Verteilung. Proposition. Seien Z,..., Z unabhängige und identisch verteilte Zufallsvariablen it Z i N, für i,...,. Dann hat X Zi, eine χ -Verteilung. Darüberhinaus gilt für X χ k and Y χ l, wobei X und Y unabhängig sind, i X + Y χ k+l. Proof: Es gilt X i Z i it Z N, und daher PX x P Zi x π i n i z i x e i z i dz... dz. Wir führen -diensionale Kugelkoordinaten ein und erhalten dadurch den Faktor r. Da die zu integrierende Funktion nur vo Radius r abhängt r i z i können wir den eil, der die 3

4 Oberfläche paraetrisiert, direkt herausintegrieren: i z i dz... dz π n i z i x e π π r x π Γ Γ x e r r dr dω x e r r dr e u u du, wobei Ω die Paraetrisierung der Oberfläche der -diensionalen Einheitskugel darstellt. Die Integration über die Oberfläche ergibt dann die Kugeloberfläche O der Einheitskugel in Diensionen O π. Γ Der letzte Schritt ergibt sich dann it der Variablentransforation u r. Der Hauptsatz der Differential- und Integralrechnung liefert dann die Dichtefunktion als Ableitung der Verteilungsfunktion F X x PX x. Das zweite Resultat ergibt sich direkt aus de ersten. Es folgt X k i Z i it Z i N, und Y l j U j it U j N,. Mit der Unabhängigkeit von X und Y folgt dann, k+l X + Y Zi χ k+l, i wobei Z i N, für i,..., k + l. Die Student t-verteilung Definition. Eine Zufallsvariable X ist Student t-verteilt it Parater oder kurz t -verteilt, wenn sie folgende Dichte besitzt: fx L + x + Γ +, wobei L. π Γ Wie bei der χ -Verteilung ergeben sich die Hauptanwendungen aus folgende Resultat. Proposition. Seien Z N, und U χ zwei unabhängige Zufallsvariablen. Dann ist t -verteilt. Proof: Wir betrachten die ransforation, φ : R R + R R +, z x u φz, u. u Die Ukehrabbildung φ existiert und ist z φ x, u x. Z U 4

5 Die Jacobi-atrix J φ x, ist x J φ x, it Deterinante det J φ x,. Dait ergibt sich die geeinsae Dichte von X, Y φz, U unter Verwendung der Unabhängigkeit von Z und U als fx, f Z φ x, f U φ x, det J φ x, e x π Γ e Die gesuchte Dichte der ersten Koponente berechnen wir als Randverteilung der geeinsaen Dichte: fx fx, d e x π π Γ Wir führen die Variablentransforation w fx π Γ π Γ Γ + π Γ x + x + x Γ + + e, d e + x d durch und erhalten w + x e w + x dw w + e w dw I letzten Schritt haben wir die Definition der Gaafunktion, Γx t x e t dt, verwendet. Dait erhalten wir das gewünschte Ergebnis. 3 Verteilung der Schätzer von Mittelwert und Varianz bei noralverteilter Stichprobe Bevor wir zur Verteilung der Schätzer koen noch folgender wichtiger Satz. Proposition 3. Seien X und Y unabhängige Zufallsvariablen und f, g : R R. Dann sind auch fx und gy unabhängige Zufallsvariablen. Proof: Wir beweisen diesen Satz nur für den Fall, daß f, g und deren Ukehrabbildungen stetig diferenzierbar sind. Sei u, v φx, fx, g, dann ist x, φ u, v f u, g v. Man beachte, daß die Jacobiatrix nur Einträge auf der Diagonalen hat und daher det J φ u, v f u g v u v. Unter Ausnützung der Unabhängigkeit von X und Y d.h. die geeinsae Dichte faktorisiert: f X,Y x, f X x f Y gilt: fu, v f X φ u, v f Y φ u, v det φ u, v f X f u f Y g v f u u f X f u f u u 5 g v v f Y g v g v v

6 Die geeinsae Dichte von U fx und V gy faktorisiert in ein Produkt. Daher sind fx und gy unabhängig. Proposition 3. Seien X,..., X n unabhängige und identisch verteilte Zufallsvariablen it X i N µ, σ. Wir bezeichnen it ˆµ n n i X i den Schätzer des Mittelwerts µ und it ˆσ n n i X i ˆµ den Schätzer der Varianz σ. Es gilt ˆµ und ˆσ sind unabhängig, n ˆσ hat eine χ σ n -Verteilung, µ ˆµ ˆσ n hat eine t n -Verteilung. Proof: Wir definieren die Zentrierungsatrix Z n n e e und fassen die Stichprobe zusaen als X X,..., X n. Dann kann der Varianz-Schätzer ˆσ geschrieben werden als ˆσ n ZX ZX n X ZX, wobei wir ausgenützt haben, daß ZZ Z Z ist eine Projektionsatrix d.h. Z Z und ZZ Z. Den Mittelwertschätzer schreiben wir als ˆµ n e X. Da X N µ, σ n und sowohl ZX als auch e X lineare Funktionen von einer Gaussvariable sind, können wir Lea. anwenden. Danach sind ZX und e X unabhängig, wenn Z e. Wir rechnen nach Z e Z e e n ee e e e. Da nach Proposition 3. Funktionen von unabhängigen Zufallsvariablen wieder unabhängig sind, sind auch ˆσ n ZX und ˆµ n e X unabhängig. Für die Herleitung des zweiten Resultats schreiben wir ˆσ ittels standardnoralverteilter Zufallsvariablen u: X σ X µ e X N n, n, wobei n der n-diensionale Nullvektor ist. Wir erhalten ˆσ n σx + µ e ZσX + µ e σ n X ZX. Wir definieren eine orthogonale Matrix A, wobei wir die erste Zeile als n e definieren. So eine Matrix kann ier it Hilfe des Gra-Schidt Orthogonalisierungsverfahren erzeugt werden. Wir definieren Y AX X A Y, wobei wir die Eigenschaft A A einer orthogonalen Matrix ausgenützt haben. Y hat eine N A n, A n A N n, n -Verteilung. Es gilt: σ ˆσ n A Y ZA Y σ Y AZA Y σ n Y A n n e e A Y σ n Y n n A e e A Y σ n n i Y i, n wobei wir verwendet haben, daß A e n. Mittels Proposition. folgt, daß ˆσ χ. σ n. 6

7 Wir führen ein: Z n n µ ˆµ, X σ σ ˆσ. Wie in der Vorlesung gezeigt, gilt Z N, und X hat it Hilfe des zweiten Resultats eine χ n - Verteilung. Wir erhalten: µ ˆµ nµ ˆµ Z. ˆσ σ n ˆσ X n n σ n Die Anwendung von Proposition. liefert das Ergebnis. 7