Reelle Zufallsvariablen

Transkript

1 Kapitel 3 eelle Zufallsvariablen 3. Verteilungsfunktionen esultat aus der Maßtheorie: Zwischen der Menge aller W-Maße auf B, nennen wir sie W B ), und der Menge aller Verteilungsfunktionen auf, nennen wir sie V), ist eine bijektive Abbildung gegeben durch W B ) P F P V), F P x) = P, x ] ) x. Dabei heißt F eine Verteilungsfunktion auf ), wenn gilt: o) F : ; i) F ist isoton; ii) F ist rechtsseitig stetig; iii) lim x Bemerkungen: F x) = 0 und lim x F x) =.. Eine Verteilungsfunktion F ist nicht notwendig linksseitig stetig also nicht notwendig stetig); für die linksseitigen Grenzwerte von F gilt i.a. nur F x ) := lim F z) F x). z x,z<x Ist P W B ) das zu F korrespondierende W-Maß, d.h. F = F P, dann gilt F x ) = P, x ) ), folglich F x) F x ) = P {x} ). 2. Für P W B ) mit Verteilungsfunktion F P gilt die Äquivalenz: F P ist stetig P {x}) = 0 x. 3. Wenn P Lebesgue-stetig ist d.h. wenn P eine λ -Dichte besitzt), dann ist F P stetig. Definition 3. Verteilungsfunktion einer reellen Zufallsvariablen) Seien Ω, A, P) ein W-aum und X : Ω, A), B ) eine reelle Zufallsvariable. Die Verteilungsfunktion der Verteilung P X der Zufallsvariablen X wird auch einfach die Verteilungsfunktion der Zufallsvariablen X genannt und oft mit F X bezeichnet). Die reelle Zufallsvariable X heißt stetig-verteilt, wenn ihre Verteilungsfunktion stetig ist. 7

2 Kapitel 3: eelle Zufallsvariablen 8 Bemerkung: Diskret-verteilte reelle ZV oder einfach: diskrete reelle ZV) Der entgegengesetzte Fall zu einer W-Verteilung auf B mit stetiger Verteilungsfunktion ist eine diskrete W-Verteilung P auf B : Es existiert eine abzählbare Teilmenge M mit P M) =. Eine reelle Zufallsvariable X, deren Verteilung P X diskret ist, heißt eine diskret-verteilte oder kurz eine diskrete reelle Zufallsvariable. eelle Zufallsvariablen F stetig F nicht stetig Nicht stetig-verteilte Zufallsvariablen Stetig-verteilte ZV Diskrete reelle) ZV Beispiel: Verteilungsfunktion einer stetig-verteilten ZV Beispiel: Verteilungsfunktion einer ZV, deren Verteilung sowohl stetige als auch diskrete Anteile hat Beispiel: Verteilungsfunktion einer diskreten reellen) ZV 3.2 Erwartungswert und Varianz Definition 3.2 Erwartungswert, Varianz, Standardabweichung einer reellen Zufallsvariablen) Seien Ω, A, P) ein W-aum und X : Ω, A), B ). a) Wenn das P-Integral von X existiert in ), dann heißt EX) := X dp der Erwartungswert der Zufallsvariablen X unter P). b) Wenn X P-integrierbar ist, dann heißt ) 2 [ ] ) 2 VarX) := X EX) dp = E X EX) Ω die Varianz der Zufallsvariablen X, und VarX) heißt die Standardabweichung von X, wobei := ). Ω

3 Kapitel 3: eelle Zufallsvariablen 9 Bemerkung: Erwartungswert, Varianz und Standardabweichung einer Zufallsvariablen sind Kenngrößen der Verteilung der Zufallsvariablen Nach dem elementaren Transformationssatz für Integrale gilt: EX) = x d P X ) 2 x) und VarX) = x EX) d P X x). Für eine beliebige W-Verteilung P WB ) definiert man auch: E[P ] := x dp x) Erwartungswert von P ), sofern das P -Integral der identischen Fkt x x über existiert; Var[P ] := x E[P ] ) 2 dp x) die Varianz von P ), sofern E[P ] existiert und endlich ist, und dann heißt Var[P ] die Standardabweichung von P. Für eine reelle Zufallsvariable X haben wir also unter den entsprechenden Voraussetzungen) : EX) = E[P X ] und VarX) = Var[P X ]. Folgerung: Die Fälle a) Lebesgue-stetige Verteilung b) diskrete Verteilung a) Wenn P X = f λ, dann EX) = x fx) d λ x) und VarX) = x EX) ) 2 fx) d λ x) unter den entsprechenden Voraussetzungen über die Existenz des zuerst genannten Integrals). b) Wenn X eine diskrete reelle Zufallsvariable ist und M eine abzählbare Menge mit P X M) = ist, dann EX) = x M x P X = x ) und VarX) = x M x EX) ) 2 P X = x ), unter den entsprechenden Voraussetzungen über die Existenz der zuerst genannten Summe) Eine simple Beziehung zwischen dem zweiten Moment EX 2 ) und der Varianz einer reellen Zufallsvariablen X ist die folgende. Dabei heißt eine reelle Zufallsvariable X quadrat-p-integrierbar, wenn X L 2 P), d.h. EX 2 ) <. Lemma 3.3 Varianz, Erwartungswert und zweites Moment) Sei X eine reelle Zufallsvariable. a) Wenn X P-integrierbar ist, dann gilt VarX) = EX 2 ) EX) ) 2. b) X ist genau dann quadrat-p-integrierbar, wenn X P-integrierbar ist und VarX) <. Bemerkungen:. Der Erwartungswert ist offensichtlich ein affin-) lineares Funktional auf dem aum L P) aller P-integrierbaren reellen Zufallsvariablen auf Ω) : E a X + a 2 X 2 + c ) = a EX ) + a 2 EX 2 ) + c.

4 Kapitel 3: eelle Zufallsvariablen Für die Varianz einer P-integrierbaren reellen Zufallsvariablen bei einer affin-linearen Transformation gilt offensichtlich: VarbX + c) = b 2 VarX), bzw. VarbX + c) = b VarX). Mit den oben gegebenen Formeln lassen sich insbesondere für die in Kapitel eingeführten speziellen Verteilungsfamilien reeller Zufallsvariablen Erwartungswerte und Varianzen berechnen. X EX) VarX) gleichverteilt auf {x,..., x m } x = m m x i m m x i x) 2 binomial-n, p)-verteilt np np p) hypergeometrisch-n, s, n)-verteilt ns N N n N n s N Poisson-λ)-verteilt λ λ s N ) negativ-binomial-r, p)-verteilt r p r p) p 2 normal-β, σ 2 )-verteilt β σ 2 gleichverteilt auf a, b ) 2 a + b) 2 b a)2 exponential-λ)-verteilt λ Weibull-c, λ)-verteilt λ Γ c + ) λ 2 [ Γ 2 c + ) c λ λ 2 c λ 2 Γ c + )) 2] Gamma-c, λ)-verteilt lognormal-β, σ 2 )-verteilt exp β + 2 σ2) exp 2β + σ 2) exp σ 2) ) 3.3 Kovarianz und Korrelation Für zwei reelle P-integrierbare Zufallsvariablen X und X 2 auf Ω kommt die Kovarianz ins Spiel, wenn wir die Varianz einer affinen) Linearkombination a X + a 2 X 2 + c, wobei a, a 2, c ), betrachten; dabei sei noch vorausgesetzt, dass auch X X 2 P-integrierbar ist. Dann: Var a X + a 2 X 2 + c ) [ = E a X EX ) ) + a 2 X2 EX 2 ) )] 2) [X = ae 2 EX ) ] ) 2 [X2 + a2e 2 EX 2 ) ] ) 2 [X + 2a a 2 E EX ) ] [ X 2 EX 2 ) ] ) = a 2 VarX ) + a 2 2VarX 2 ) + 2a a 2 CovX, X 2 ), wobei wir den Begriff der Kovarianz gemäß der folgenden Definition verwendet haben.

5 Kapitel 3: eelle Zufallsvariablen 2 Definition 3.4 Kovarianz zweier reeller Zufallsvariablen) Seien X und X 2 reelle Zufallsvariablen auf Ω, die P-integrierbar sind und deren Produkt X X 2 ebenfalls P-integrierbar ist. Dann heißt die reelle Zahl [X CovX, X 2 ) := E EX ) ] [ X 2 EX 2 ) ] ) die Kovarianz der beiden Zufallsvariablen X und X 2. Bemerkungen:. Wenn die beiden Zufallsvariablen identisch sind, X = X 2 = X, dann ist offensichtlich CovX, X) = VarX). 2. Eine optisch andere Formel für die Kovarianz ist analog zur Varianzformel von Lemma 3.3a) ): CovX, X 2 ) = EX X 2 ) EX )EX 2 ). 3. Die Kovarianz ist eine Kenngröße der gemeinsamen Verteilung Bezeichnen wir zur Abkürzung β i = EX i ), i =, 2, so erhalten wir mit dem elementaren Transformationssatz für Integrale: CovX, X 2 ) = x β )x 2 β 2 ) d P X,X 2 ) x, x 2 ), und auch: 2 CovX, X 2 ) = x x 2 d P X,X 2 ) x, x 2 ) β β 2. 2 Für eine beliebige W-Verteilung P auf B 2 definiert man auch, unter den entsprechenden Integrierbarkeitsvoraussetzungen P -Integrierbarkeit der Projektionsfunktionen pr und pr 2 und ihrem Produkt pr pr 2 ) : Cov[P ] := x β ) x 2 β 2 ) dp x, x 2 ) = x x 2 dp x, x 2 ) β β 2 die Kovarianz von P ) 2 2 wobei: β i := x i dp x, x 2 ) = u dp pr iu) = E [ P pr i], i =, 2). 2 Damit gilt also: CovX, X 2 ) = Cov [ P X,X 2 ) ]. Folgerung: Die Fälle a) Lebesgue-stetige gemeinsame Verteilung b) diskrete Zufallsvariablen a) Wenn P X,X 2 ) = f λ 2, sowie X, X 2 und X X 2 P-integrierbar), dann: CovX, X 2 ) = x β )x 2 β 2 )fx, x 2 ) d λ 2 x, x 2 ) = x x 2 fx, x 2 ) d λ 2 x, x 2 ) β β 2, 2 2 wobei β i = EX i ), i =, 2 ). b) Wenn X und X 2 diskrete reelle Zufallsvariablen sind, X, X 2 und X X 2 P-integrierbar), und M, M 2 abzählbare Teilmengen mit PX M ) = und PX 2 M 2 ) =, dann: CovX, X 2 ) = x β )x 2 β 2 ) P X = x, X 2 = x 2 ) x,x 2 ) M M 2 = x x 2 P X = x, X 2 = x 2 ) β β 2, x,x 2 ) M M 2 wobei β i = EX i ), i =, 2).

6 Kapitel 3: eelle Zufallsvariablen 22 Die Integrierbarkeitsvoraussetzungen für die Kovarianz sind insbesondere erfüllt, wenn X und X 2 quadrat-p-integrierbar sind. Lemma 3.5 Quadrat-integrierbare Zufallsvariablen) Seien X und X 2 quadrat-p-integrierbare reelle Zufallsvariablen auf Ω. Dann gilt: a) b) c) Für a, a 2, c ist die affine) Linearkombination a X + a 2 X 2 + c ebenfalls quadrat-p- -integrierbar. Das Produkt X X 2 ist eine P-integrierbare Zufallsvariable. ) ) 2 ) ) E X X 2 E X 2 E X 2 2, und die Gleichheit gilt genau dann, wenn die beiden Zufallsvariablen X und X 2 P-fast-sicher linear abhängig sind, d.h. wenn Zahlen a, a 2, nicht beide gleich 0, existieren mit ) P a X + a 2 X 2 = 0 =. Aus Definition 3.4 sowie Lemma 3.5) ist ersichtlich: Die Kovarianz ist ein symmetrisches, bilineares Funktional auf dem aum L 2 P) der quadrat-pintegrierbaren reellen Zufallsvariablen auf Ω, d.h. es gilt für X, Y, X, X 2 L 2 P), a, a 2 ) : CovX, Y ) = CovY, X), Cov a X + a 2 X 2, Y ) = a CovX, Y ) + a 2 CovX 2, Y ). Das Kovarianzfunktional ist positiv-semi)-definit : ferner gilt noch: CovX, X) 0, da CovX, X) = VarX) ; CovX + c, Y + d) = CovX, Y ) für reelle Konstanten c und d. Weitere daraus resultierende echenregeln: Lemma 3.6 Kovarianz und Varianz von Linearkombinationen) Seien X,..., X m, Y,..., Y n quadrat-p-integrierbare reelle Zufallsvariablen auf Ω, und seien a,..., a m, b,..., b n reelle Zahlen. Dann gilt: m Cov a i X i, n ) b j Y j j= = m n a i b j CovX i, Y j ). j= Insbesondere: m ) Var a i X i = = m a i a j CovX i, X j ) i,j= m a 2 i VarX i ) + 2 i<j m a i a j CovX i, X j ).

7 Kapitel 3: eelle Zufallsvariablen 23 Definition 3.7 Unkorreliertheit) Seien X und X 2 reelle Zufallsvariablen auf Ω, die P-integrierbar sind und deren Produkt X X 2 ebenfalls P-integrierbar ist. Die beiden Zufallsvariablen X und X 2 heißen unkorreliert, wenn CovX, X 2 ) = 0, bzw. äquivalent damit, EX X 2 ) = EX ) EX 2 ). Beispiel: Zwei gemeinsam normalverteilte Zufallsvariablen ) Die zwei-dimensionale Zufallsvariable X = X, X 2 ) t β sei Nβ, V )-verteilt, wobei β = und β ) 2 v v V = 2. Dann: EX v 2 v i ) = β i, VarX i ) = v ii,,2), und CovX, X 2 ) = v Beispiel: n 2 gemeinsam normalverteilte Zufallsvariablen Sei X = X,..., X n ) t Nβ, V ), wobei also β = β,..., β n ) t n und V = v ij )i,j=,...,n positiv definit. Dann: EX i ) = β i, i n), CovX i, X j ) = v ij, i, j n), insbes. VarX i ) = v ii ). Der Vektor β heißt Erwartungswertvektor) von X, und die positiv definite) Matrix V heißt Kovarianzmatrix von X. Lemma 3.8 Stoch.Unabhängigkeit impliziert Unkorreliertheit) Seien X und X 2 P-integrierbare und stochastisch unabhängige reelle Zufallsvariablen auf Ω. Dann ist X X 2 ebenfalls P-integrierbar, und es gilt d.h. X und X 2 sind unkorreliert. EX X 2 ) = EX ) EX 2 ), Theorem 3.9 Verallgemeinerung) Seien X,..., X n stochastisch unabhängige reelle Zufallsvariablen auf Ω. a) Wenn X i 0 für alle i =,..., n, dann gilt n ) n E X i = E ) X i. b) Wenn X i P-integrierbar ist für jedes i =,..., n, dann ist auch n X i P-integrierbar, und es gilt n ) n E X i = E ) X i. Die normierte Version der Kovarianz ist der Korrelationskoeffizient, auch einfach Korrelation genannt. Zuerst folgt aus Lemma 3.5c), für quadrat-p-integrierbare reelle Zufallsvariablen X und X 2 : CovX, X 2 ) ) 2 VarX ) VarX 2 ), bzw. VarX ) VarX 2 ) CovX, X 2 ) VarX ) VarX 2 ).

8 Kapitel 3: eelle Zufallsvariablen 24 Definition 3.0 Korrelationskoeffizient) Seien X und X 2 quadrat-p-integrierbare reelle Zufallsvariablen auf Ω mit VarX i ) > 0 für i =, 2. Dann heißt CovX, X 2 ) ρx, X 2 ) := VarX ) [, ] VarX 2 ) der Korrelationskoeffizient oder die Korrelation der Zufallsvariablen X und X 2. Interpretation: Der Korrelationskoeffizient ρ = ρx, X 2 ) ist eine Maßzahl für die Stärke der linearen Abhängigkeit der beiden Zufallsvariablen X und X 2. Die extremen Fälle ρ = ± liegen genau dann vor, wenn X 2 = bx + c P -f.s. mit gewissen reellen Konstanten b 0 und c im Fall b > 0 ist ρ =, im Fall b < 0 ist ρ = ). Der Fall ρ = 0 ist die Unkorreliertheit der beiden Zufallsvariablen. Als weitere Unterlegung für die genannte Interpretation des Korrelationskoeffizienten mag das folgende Lemma dienen. Lemma 3. Konstante und lineare Approximationen im quadratischen Mittel) Seien X und X 2 quadrat-p-integrierbare reelle Zufallsvariablen auf Ω mit VarX i ) > 0, i =, 2. Zur Abkürzung bezeichne β i = EX i ), σ i = VarX i ) i =, 2) und ρ = ρx, X 2 ). Dann gilt: a) min E X 2 a) 2) = σ2 2, a und das Minimum auf der linken Seite wird angenommen für a = β 2. b) X2 min E bx c ) ) 2 = ρ 2 ) σ2 2, b, c und das Minimum auf der linken Seite wird angenommen für b = ρ σ 2 σ, c = β 2 ρ σ 2 σ β. 3.4 Charakteristische Funktionen Für ein beliebig gegebenes t betrachten wir die komplexwertige Funktion auf, x e itx C, wobei bekanntlich e ia = cosa) + i sina) a. Wegen e itx =, ist diese Funktion P -integrierbar für jedes P WB ) Menge aller W-Verteilungen auf der Borel schen Sigma-Algebra B ). Wir haben also e itx dp x) C. Lesen wir dieses Integral als Funktion der reellen Variablen t, so ist damit jedem P WB ) eine komplexwertige Funktion zugeordnet.

9 Kapitel 3: eelle Zufallsvariablen 25 Definition 3.2 Charakteristische Funktion) Für jedes P WB ) heißt die Funktion ϕ P : C, ϕ P t) = e itx dp x) t, die charakteristische Funktion oder die Fourier-Transformierte) von P. Wenn Ω, A, P) ein W-aum und X : Ω, A), B ), dann heißt ϕ X = ϕ P X die charakteristische Funktion der Zufallsvariablen X; mit dem elementaren Transformationssatz können wir schreiben: ) ϕ X t) = E e itx t. Bemerkungen:. Für eine charakteristische Funktion ϕ = ϕ P bzw. ϕ = ϕ X sieht man leicht: ϕt) t, sowie ϕ0) =. Desweiteren ist nicht sehr schwer zu zeigen: ϕ ist gleichmäßig stetig. 2. Aus Definition 3.2 sehen wir, wie sich die charakteristische Funktion bei einer linearen Transformation der Zufallsvariablen X zu bx + c mit reellen Konstanten b und c) ändert: ϕ bx+c t) = e ict ϕ X bt) t. Beispiel: Normalverteilte reelle Zufallsvariable Für X Nβ, σ 2 ) erhalten wir mit esultaten der Funktionentheorie Kurvenintegrale holomorpher Funktionen) : ϕ X t) = exp iβt 2 σ2 t 2) t. Beispiel: Binomialverteilte reelle Zufallsvariable Sei X Bin, p). Mit elementarer Berechnung erhält man: ϕ X t) = = n j=0 e itj ) n j p j p) n j n n j) p e it ) j p) n j j=0 = p e it + p ) n t. Theorem 3.3 Eindeutigkeitssatz für charakteristische Funktionen) Wenn P, Q WB ) und ϕ P = ϕ Q, d.h. ϕ P t) = ϕ Q t) t, dann gilt: P = Q. Bemerkung: Inversionsformel Der Eindeutigkeitssatz lässt sich durch die Herleitung der Inversionsformel beweisen, die für sich genommen interessant ist: Für P WB ) mit charakteristischer Funktion ϕ P gilt: P a, b ) ) + 2 P {a, b} ) = lim T 2π T T e iat e ibt ϕ P t) d λ t) für alle a, b, a < b. it

10 Kapitel 3: eelle Zufallsvariablen 26 Theorem 3.4 Summe stoch. unabhängiger reeller Zufallsvariablen) Seien X,..., X n stochastisch unabhängige reelle Zufallsvariablen auf Ω. Wir betrachten die Summenvariable S = n X i. Dann gilt: ϕ S t) = n ϕ Xi t) t. Lemma 3.5 Momente und Differenzierbarkeit) Seien P WB ) und r N mit x r dp x) <. Dann ist die charakteristische Funktion von P r-mal stetig-differenzierbar mit k t k ϕ P t) = i k und für die lokale Taylor-Approximation in t 0 = 0 gilt: ϕ P t) = + x k e itx dp x) t, k r, r i k m k [P ] t k + ot r ) für t 0, k= wobei: m k [P ] := x k dp x) das k-te Moment von P ), k r.