Kapitel 6. Verteilungsparameter. 6.1 Der Erwartungswert Diskrete Zufallsvariablen

Transkript

1 Kapitel 6 Verteilungsparameter Wie bei einem Merkmal wollen wir nun die Lage und die Streuung der Verteilung einer diskreten Zufallsvariablen durch geeignete Maßzahlen beschreiben. Beginnen wir mit Maßzahlen für die Lage. 6.1 Der Erwartungswert Diskrete Zufallsvariablen In der Datenanalyse haben wir den Mittelwert eines diskreten Merkmals mit den Merkmalsausprägungen a 1,...,a k und zugehörigen relativen Häufigkeiten h 1,...,h k folgendermaßen berechnet: k x = a i h i. i=1 Die folgende Definition überträgt dieses Konzept auf eine diskrete Zufallsvariable X mit Wahrscheinlichkeitsfunktion f X (x). Definition 6.1 Sei X eine diskrete Zufallsvariable mit Wahrscheinlichkeitsfunktion f X (x) und Träger T X. Der Erwartungswert E(X) vonx ist definiert durch E(X) = xf X (x) (6.1) Beispiel 54 (fortgesetzt) Wir betrachten die Anzahl XMädchen in Familien mit zwei Kindern. Es gilt E(X) = =

2 16 KAPITEL 6. VERTEILUNGSPARAMETER Beispiel 61 Tversky und Kahneman fragten Personen, welche der beiden folgenden Alternativen sie vorzögen. Alternative A Man erhält eine sichere Auszahlung von $ 24. Alternative B Mit Wahrscheinlichkeit.25 erhält man eine Auszahlung von $ 1 und mit Wahrscheinlichkeit.75 keine Auszahlung. Wir wollen zunächst untersuchen, ob eine der beiden Situationen günstiger ist. Die Konsequenz von Alternative A ist klar. Wir erhalten auf jeden Fall $ 24. Wir betrachten für Alternative B die Auszahlung X. Es gilt P (X =)=.75 P (X = 1) =.25. Es gilt E(X) = = 25. Bei Alternative A haben wir eine sichere Auszahlung von $ 24 und bei Alternative B eine erwartete Auszahlung von $ 25. Obwohl die erwartete Auszahlung bei Alternative B höher ist, entschieden sich 84 Prozent der von Tversky und Kahneman befragten Personen für Alternative A Stetige Zufallsvariablen Definition 6.2 Sei X eine stetige Zufallsvariable mit Dichtefunktion f X (x). Der Erwartungswert E(X) vonx ist definiert durch E(X) = xf X (x) dx. (6.2) Beispiel 59 (fortgesetzt) Es gilt E(X) = xf X (x) dx = 1 x.1 dx = ] [.1 x2 1 =5. 2

3 6.1. DER ERWARTUNGSWERT 161 Beispiel 6 (fortgesetzt) Es gilt E(X) = [ ] xf X (x) dx = xe x dx = xe x e x dx x [ ] = lim x e + e x x = lim x 1 +( ( 1)) = 1 ex Der Erwartungswert einer Zufallsvariablen muss nicht existieren. Beispiel 62 Die Zufallsvariable X besitze die Dichtefunktion f X (x) = 1 x 2 für x>1 sonst Der Erwartungswert von X existiert nicht. Dies sieht man folgendermaßen: 1 x 1 [ ] x dx = ln x Erwartungswerte von Funktionen von Zufallsvariablen Ist X eine diskrete Zufallsvariable mit Wahrscheinlichkeitsfunktion f X (x) und g(x) eine Funktion von X. Dann können wir den Erwartungswert von g(x) dadurch bestimmen, dass wir die Wahrscheinlichkeitsfunktion von g(x) und über diese den Erwartungswert von g(x) bestimmen. Wir können den Erwartungswert von g(x) aber auch bestimmen, ohne die Wahrscheinlichkeitsfunktion von g(x) herzuleiten. Es gilt nämlich E(g(X)) = g(x) f X (x) (6.3)

4 162 KAPITEL 6. VERTEILUNGSPARAMETER Beispiel 58 (fortgesetzt) Wir betrachten nun noch einmal die Position X des Teilchens, das sich auf den ganzen Zahlen bewegt. Es gilt x P (X = x) Hieraus folgt E( X ) = = 1.5. Wir können diesen auch mit der Wahrscheinlichkeitsfunktion von Y = X bestimmen. Es gilt P (Y =1)=.75 und P (Y =3)=.25. Hieraus folgt E(Y )= = 1.5. Bei einer stetigen Zufallsvariablen X mit Dichtefunktion f X (x) bestimmen wir den Erwartungswert einer Funktion g(x) folgendermaßen: E(g(X)) = g(x) f X (x) dx. (6.4) Beispiel 59 (fortgesetzt) Wir suchen den Erwartungswert von X 2. Es gilt E(X 2 ) = x 2 f X (x) dx = 1 x 2.1 dx = ] [.1 x3 1 = Beispiel 6 (fortgesetzt) Es gilt E(X 2 ) = [ ] x 2 f X (x) dx = x 2 e x dx = x 2 e x 2x( e x ) dx = lim x2 x e +2 x xe x dx = lim x 2x e x + 2 = lim x 2 e x +2=2

5 6.1. DER ERWARTUNGSWERT Eigenschaften des Erwartungswerts Der folgende Satz zeigt, wie sich der Erwartungswert unter linearen Transformationen verhält. Satz 6.1 Sei X eine Zufallsvariable mit Wahrscheinlichkeitsfunktion bzw. Dichtefunktion f X (x) und a und b reelle Zahlen. Dann gilt E(aX + b) =ae(x)+b. (6.5) Beweis: Wir zeigen den diskreten Fall. Mit E(aX + b) = = = a = ae(x)+b (ax+ b) f X (x) = axf X (x)+ xf X (x)+b g(x) =ax+ b bf X (x) f X (x) gilt also E(g(X)) = g(e(x)). Dies gilt aber nicht immer, wie das folgende Beispiel zeigt. Beispiel 59 (fortgesetzt) Es gilt und Nun gilt E(X 2 )= 1 3 E(X) 2 =25 E(X 2 ) E(X) 2 = = (axf X (x)+bf X (x))

6 164 KAPITEL 6. VERTEILUNGSPARAMETER Also ist bei der Gleichverteilung E(X 2 ) >E(X) 2. Oft betrachtet man die Zufallsvariable Y = X E(X). Man sagt auch, dass man die Zufallsvariable X zentriert. Es gilt E(X E(X)) =. (6.6) Setzen wir in Gleichung (6.5) a = 1 und b = E(X), so gilt E(X E(X)) = E(X) E(X) =. Der Erwartungswert einer zentrierten Zufallsvariablen ist also gleich. Bei einer zentrierten Zufallsvariablen sieht man also sofort, welche Werte kleiner und welche größer als der Erwartungswert sind. Die folgende Eigenschaft des Erwartungswertes benötigen wir im nächsten Kapitel. Satz 6.2 X sei eine Zufallsvariable mit Erwartungswert E(X). Außerdem seien g und h reellwertige Funktionen. Dann gilt Beweis: Wir zeigen den diskreten Fall. E(g(X)+h(X)) = E(g(X)) + E(h(X)) (6.7) E(g(X)+E(h(X)) = = = (g(x)+h(x)) f X (x) (g(x)f X (x)+h(x)f X (x)) g(x)f X (x)+ = E(g(X)) + E(h(X)) h(x)f X (x) Die Aussage des Satzes gilt auch, wenn wir mehr als zwei Funktionen von X betrachten. Sind also g 1,...,g k reellwertige Funktionen, so gilt [ k ] E g i (X) = i=1 k E(g i (X)) (6.8) i=1

7 6.2. DIE VARIANZ Die Varianz Der Erwartungswert einer Zufallsvariablen X ist ein Maß für die Lage von X. Neben der Lage der Verteilung einer Zufallsvariablen X ist auch die Streuung von Interesse. Für eine Urliste x 1,...,x n ist die mittlere quadratische Abweichung d 2 folgendermaßen definiert: d 2 = 1 n n (x i x) 2 i=1 Wir bestimmen hier den Mittelwert der quadratierten Abweichungen der Beobachtungen vom Mittelwert. Ersetzen wir in diesem Satz Mittelwert durch Erwartungswert und Beobachtungen durch Zufallsvariable, so erhalten wir folgende Definition: Definition 6.3 Sei X eine Zufallsvariable. Die Varianz V ar(x) von X ist definiert durch Var(X) =E([X E(X)] 2 ) (6.9) Wir berechnen die Varianz im diskreten Fall also durch Var(X) = [x E(X)] 2 f X (x) (6.1) und im stetigen Fall durch Var(X) = [x E(X)] 2 f X (x) dx (6.11) Wir wählen für die Varianz oft die Abkürzung σ 2. Die Varianz besitzt nicht die gleiche Maßeinheit wie X, die Standardabweichung Var(X) hingegen doch. Wir kürzen im folgenden die Standardabweichung mit σ ab.

8 166 KAPITEL 6. VERTEILUNGSPARAMETER Beispiel 63 Im Beispiel 61 auf Seite 16 haben wir zwei Alternativen betrachtet. Bei Alternative A erhalten wir $ 24. Wir bezeichnen die zugehörige Zufallsvariable mit X. Es gilt P (X = 24) = 1 Bei Alternative B erhalten wir mit Wahrscheinlichkeit.25 $ 1 und mit Wahrscheinlichkeit.75 nichts. Wir bezeichnen die zugehörige Zufallsvariable mit Y. Es gilt P (Y =)=.75 P (Y = 1) =.25 Es gilt E(X) = 24 und E(Y ) = 25. Obwohl der Erwartungswert von Alternative B höher ist, entscheiden sich 84 Prozent der Befragten für Alternative A. Dies liegt an der unterschiedlichen Streuung. Offensichtlich gilt Für Y gilt Var(X) =. Var(Y ) = ( 25) (1 25) 2.25 = 1875 Die zweite Alternative hat die größere Varianz. Tversky und Kahneman stellen fest, dass die meisten Personen in Situationen mit möglichem Gewinn nicht risikofreudig sind. Bei möglichen Verlusten ist dies anders. Tversky und Kahneman fragten Personen, welche der beiden folgenden Alternativen sie vorzögen. Alternative A Man hat einen sicheren Verlust von $ 75. Alternative B Mit Wahrscheinlichkeit.75 verliert man $ 1 und mit Wahrscheinlichkeit.25 nichts. Sei X der Verlust bei Alternative A und Y der Verlust bei Alternative B. Es gilt P (X = 75) = 1 und P (Y = 1) =.75 P (Y =)=.25.

9 6.2. DIE VARIANZ 167 Somit gilt E(X) = 75 und E(Y ) = 75. In beiden Fällen ist der erwartete Verlust gleich hoch. Die Varianz ist bei Alternative A gleich und bei Alternative B: Var(Y ) = ( 75) (1 75) 2.75 = In diesem Fall entscheiden sich 87 Prozent der Befragten für Alternative B. Der folgende Satz zeigt, wie man die Varianz einfach berechnen kann. Satz 6.3 Sei X eine Zufallsvariable mit Varianz Var(X). Dann gilt Var(X) =E(X 2 ) E(X) 2 (6.12) Beweis: Mit Gleichung (6.8) auf Seite 164 gilt: Var(X) = E([X E(X)] 2 )=E(X 2 2XE(X)+E(X) 2 ) = E(X 2 ) E(2XE(X)) + E(E(X) 2 ) = E(X 2 ) 2E(X)E(X)+E(X) 2 = E(X 2 ) E(X) 2 Beispiel 63 (fortgesetzt) Wir berechnen die Varianz der Zufallsvariablen Y mit Hilfe von (6.12). Es gilt P (Y = 1) =.75, P (Y =)=.25 und E(Y ) = 75. Weiterhin gilt E(Y 2 ) = y y 2 P (Y = y) = = 75. Also gilt Var(Y ) = E(Y 2 ) E(Y ) 2 = = 1875 Beispiel 59 (fortgesetzt) Für die Gleichverteilung gilt E(X) = 5 und E(X 2 ) = 1/3. Also gilt Var(X) =E(X 2 ) E(X) 2 = 1 3 5=25 3. Beispiel 6 (fortgesetzt) Für die Exponentialverteilung mit λ = 1 gilt E(X) = 1 und E(X 2 )=2. Also gilt Var(X) =E(X 2 ) E(X) 2 =2 1=1.

10 168 KAPITEL 6. VERTEILUNGSPARAMETER Schauen wir uns an wie sich die Varianz einer Zufallsvariablen X ändert, wenn X linear transformiert wird. Ist X eine Zufallsvariable und a und b reelle Zahlen, dann gilt: Var(aX + b) =a 2 Var(X). (6.13) Dies sieht man folgendermaßen: Var(aX + b) = E ( [ax + b E(aX + b)] 2) = E ( [ax + b ae(x) b] 2) = E ( [a (X E(X))] 2) = E ( a 2 [X E(X)] 2) = a 2 E ( [X E(X)] 2) = a 2 Var(X) Auf Seite 164 haben wir zentrierte Zufallsvariablen betrachtet. Der Erwartungswert einer zentrierten Zufallsvariablen ist gleich. Sei X eine Zufallsvariable mit E(X) =µ und Var(X) =σ 2. Wir betrachten die Zufallsvariable Z = X µ σ. (6.14) Man nennt Z standardisierte Zufallsvariable. Es gilt E(Z) = (6.15) und Var(Z) =1. (6.16) Schauen wir uns erst Beziehung (6.15) an: [ ] X µ E(Z) = E = 1 E(X µ) =. σ σ Beziehung (6.16) gilt wegen (6.13): [ ] X µ Var(Z) = Var = 1 σ σ Var(X µ) = 1 Var(X) =1. 2 σ2

11 6.3. DIE TSCHEBYSCHEFF-UNGLEICHUNG Die Tschebyscheff-Ungleichung Bisher haben wir die Frage noch nicht beantwortet, wann eine Varianz klein odwer groß ist. Dies wollen wir jetzt nachholen. Wir betrachten zunächst eine nichtnegative Zufallsvariable Y. Es gilt also P (Y = y) =für y<. Ist a eine positive reelle Zahl, so gilt P (Y a) E(Y ) a. (6.17) Dies ist die Markow-Ungleichung. Wir beweisen sie für eine stetige Zufallsvariable Y mit Dichtefunktion f Y (y) am Ende dieses Unterkapitels. Vorerst schauen wir uns aber an, welche Folgerungen man aus der Markow- Ungleichung ziehen kann. Ist X eine Zufallsvariable mit E(X) =µ und Var(X) =σ 2. Wir betrachten die Zufallsvariable Y =(X µ) 2. Da diese nichtnegativ ist, können wir die Markow-Ungleichung anwenden. Es gilt also Wegen P ((X µ) 2 a) E([X µ]2 ) a c2 = c. und ist dies äquivalent zu: Var(X) =E((X µ) 2 ) P ( X µ a) Var(X) a Setzen wir a = k 2 σ 2 mit k>, so gilt:. P ( X µ kσ) 1 k 2. (6.18) Gleichung (6.18) ist die Tschebyscheff-Ungleichung. Diese erlaubt es, die Wahrscheinlichkeit abzuschätzen, dass eine Zufallsvariable X Werte im Intervall (µ kσ,µ + kσ) annimmt. Multiplizieren wir beide Seiten von Gleichung (6.18) mit 1 und addieren 1, so erhalten wir folgende Ungleichung: 1 P ( X µ kσ) 1 1 k 2 (6.19)

12 17 KAPITEL 6. VERTEILUNGSPARAMETER Auf der linken Seite von Gleichung 6.19 zeigt die Wahrscheinlichkeit des Komplementärereignisses von X µ kσ. Dieses ist X µ <kσ.also gilt Für k =1, 2, 3 gilt also P (µ kσ<x<µ+ kσ) 1 1 k 2 für k =1 3 P (µ kσ<x <µ+ kσ) für k =2 4 8 für k =3 9 Bei jeder Zufallsvariablen X liegen also mindestens 75 Prozent der Werte im Intervall (µ 2 σ, µ +2σ). Bei speziellen Verteilungen kann dieser Wert aber bedeutend größer sein. Beispiel 59 (fortgesetzt) Bei der Gleichverteilung auf [, 1] gilt σ = 25/3 =2.87. Hieraus folgt µ 2 σ = =.74 und µ +2σ = = Somit liegen alle Werte im Intervall [µ 2 σ<x<µ+2σ]. Beispiel 6 (fortgesetzt) Bei der Exponentialverteilung mit λ = 1 gilt µ = 1 und σ = 1. Hieraus folgt und P (µ 2 σ<x<µ+2σ) = P (1 2 1 <X<1+2 1) = P ( 1 <X<3) = F X (3) F X ( 1) = 1 e 3 =.952 P (µ 3 σ<x<µ+3σ) = P (1 3 1 <X<1+3 1) = P ( 2 <X<4) = F X (4) F X ( 2) = 1 e 4 =.9817

13 6.4. QUANTILE 171 Nun noch der Beweis der Markow-Ungleichung. Es gilt E(Y ) = a yf Y (y)dy = yf Y (y)dy + yf Y (y)dy a yf Y (y)dy a f Y (y)dy = ap(y a) a a Also gilt Hieraus folgt E(Y ) ap(y a). P (Y a) E(Y ) a. 6.4 Quantile Im Kapitel haben wir empirische Quantile betrachtet. Das p-quantil ist der Wert, der von 1 p Prozent der Beobachtungen nicht überschritten wird. Bei einem stetigen Merkmal gilt ˆF (x p )=p. Wir wollen Quantile hier nur für stetige Zufallsvariablen betrachten, bei denen die Verteilungsfunktion auf dem Träger streng monoton wachsend ist. Dies ist bei den Verteilungen in den Beispielen 59 und 6 der Fall. In Analogie zur Empirie ist das (theoretische) Quantil x p der Wert, für den gilt F X (x p )=p. Beispiel 59 (fortgesetzt) Der Träger der Gleichverteilung auf [, 1] ist das Intervall [, 1]. Hier gilt F X (x) =.1 x. (6.2) Um das Quantil x p zu bestimmen, setzen wir x p für x in die Gleichung (6.2) ein und erhalten: F X (x p )=p =.1 x p. Lösen wir diese Gleichung nach x p auf, so erhalten wir x p =1 p So ist das untere Quartil der Gleichverteilung auf [, 1] gleich x.25 =1.25 = 2.5.

14 172 KAPITEL 6. VERTEILUNGSPARAMETER Beispiel 6 (fortgesetzt) Für die Exponentialverteilung mit Parameter λ = 1istderTräger das Intervall [, ). Hier gilt F X (x) =1 e λx. (6.21) Um das Quantil x p zu bestimmen, setzen wir x p für x in die Gleichung (6.21) ein und erhalten: F X (x p )=p =1 e λxp. Diese Gleichung können wir nach x p auflösen: p =1 e λxp e λxp =1 p λx p =ln(1 p) x p = 1 λ ln (1 p) So ist der Median der Exponentialverteilung mit λ =1gleichx.5 =ln.5 =.693. Wir werden später oftmals die standardisierte Zufallsvariable Z = X µ σ betrachten. Dabei ist µ der Erwartungswert und σ 2 die Varianz von X. Ist x p das p-quantil von X, sogiltfür das p-quantil z p von Z z p = x p µ σ. (6.22) Wir haben zu zeigen: P (Z x p µ )=p σ Dies sieht man folgendermaßen: P (X x p )=p P (X µ x p µ) =p P ( X µ x p µ )=p σ σ P (Z x p µ )=p σ Wir können z p natürlich auch aus x p bestimmen, indem wir Gleichung 6.22 nach z p auflösen. Wir erhalten x p = µ + z p σ. (6.23)