2. Zufallsvariable, Verteilungsfunktion, Erwartungswert,

Transkript

1 2. Zufallsvariable, Verteilungsfunktion, Erwartungswert, momentenerzeugende Funktion Ziel des Kapitels: Mathematische Präzisierung der Konzepte Zufallsvariable Verteilungsfunktion Dichtefunktion Erwartungswerte und Momente Momentenerzeugende Funktion 8

2 Dazu zunächst: Wiederholung der Begriffe Zufallsvorgang Ergebnis und Ergebnismenge Ereignis Wahrscheinlichkeit (vgl. Wilfling (2011), Kapitel 2) 9

3 2.1 Grundlegende Begriffe Definition 2.1: (Zufallsvorgang, Zufallsexperiment) Unter einem Zufallsvorgang verstehen wir einen Vorgang, bei dem (a) im Voraus feststeht, welche möglichen Ausgänge dieser theoretisch haben kann, (b) der sich einstellende, tatsächliche Ausgang im Voraus jedoch unbekannt ist. Zufallsvorgänge, die geplant sind und kontrolliert ablaufen, heißen Zufallsexperimente. 10

4 Beispiele für Zufallsexperimente: Ziehung der Lottozahlen Roulette, Münzwurf, Würfelwurf Technische Versuche (Härtetest von Stahlproben etc.) In der VWL: Oft keine Zufallsexperimente (historische Daten, Bedingungen nicht kontrollierbar) Moderne VWL-Disziplin: Experimentelle Ökonomik 11

5 Definition 2.2: (Ergebnis, Ergebnismenge) Die Menge aller möglichen Ausgänge eines Zufallsvorgangs heißt Ergebnismenge und wird mit Ω bezeichnet. Ein einzelnes Element ω Ω heißt Ergebnis. Beispiele: Zufallsvorgang Werfen eines Würfels : Ω = {1, 2, 3, 4, 5, 6} Zufallsvorgang Werfen einer Münze solange, bis Kopf erscheint : Ω = {K, ZK, ZZK, ZZZK, ZZZZK,...} Zufallsvorgang Bestimmung des morgigen Wechselkurses zwischen Euro und US-$ : Ω = [0, ) 12

6 Offensichtlich: Die Anzahl der Elemente von Ω kann endlich, abzählbar unendlich oder nicht abzählbar unendlich sein Jetzt: Mengentheoretische Definition des Begriffes Ereignis Definition 2.3: (Ereignis) Unter einem Ereignis verstehen wir eine Zusammenfassung von Ergebnissen eines Zufallsvorgangs, d.h. ein Ereignis ist eine Teilmenge der Ergebnismenge Ω. Man sagt Das Ereignis A tritt ein, wenn der Zufallsvorgang ein ω A als Ergebnis hat. 13

7 Bemerkungen: Notation von Ereignissen: A, B, C,... oder A 1, A 2,... A = Ω heißt das sichere Ereignis (denn für jedes Ergebnis ω gilt: ω A) A = (leere Menge) heißt das unmögliche Ereignis (denn für jedes ω gilt: ω / A) Falls das Ereignis A eine Teilmenge des Ereignisses B ist (A B), so sagt man: Das Eintreten von A impliziert das Eintreten von B (denn für jedes ω A folgt ω B) Offensichtlich: Ereignisse sind Mengen Anwendung von Mengenoperationen auf Ereignisse 14

8 Ereignisverknüpfungen (Mengenoperationen): Durchschnittsereignis (-menge): n i=1 Vereinigungsereignis (-menge): n i=1 A i tritt ein, wenn alle A i eintreten A i tritt ein, wenn mindestens ein A i eintritt Differenzereignis (-menge): C = A\B tritt ein, wenn A eintritt, aber B nicht Komplementärereignis: C = Ω\A A tritt ein, wenn A nicht eintritt Die Ereignisse A und B heißen unvereinbar oder disjunkt, wenn A B = (beide Ereignisse können nicht gleichzeitig eintreten) 15

9 Jetzt: Jedem Ereignis A soll eine Zahl P (A) zugeordnet werden, welche die Wahrscheinlichkeit für das Eintreten von A repräsentiert Formal: P : A P (A) Frage: Welche Eigenschaften sollte die Zuordnung (Mengenfunktion) P besitzen? 16

10 Definition 2.4: (Kolmogorov sche Axiome) werden als Kol- Die folgenden 3 Mindestanforderungen an P mogorov sche Axiome bezeichnet: Nichtnegativität: Für alle A soll gelten: P (A) 0 Normierung: P (Ω) = 1 Additivität: Für zwei disjunkte Ereignisse A und B (d.h. für A B = ) soll gelten: P (A B) = P (A) + P (B) 17

11 Es ist leicht zu zeigen: Die 3 Kolmogorov schen Axiome implizieren bestimmte Eigenschaften und Rechenregeln für Wahrscheinlichkeiten Satz 2.5: (Eigenschaften von Wahrscheinlichkeiten) Aus den Kolmogorov schen Axiomen ergeben sich folgende Eigenschaften für die Wahrscheinlichkeit beliebiger Ereignisse: Wahrscheinlichkeit des Komplimentärereignisses: P (A) = 1 P (A) Wahrscheinlichkeit des unmöglichen Ereignisses: P ( ) = 0 Wertebereich der Wahrscheinlichkeit: 0 P (A) 1 18

12 Weiterhin: Allgemeine Rechenregeln für Wahrscheinlichkeiten, die aus den Kolmogorov schen Axiomen folgen Satz 2.6: (Rechenregeln für Wahrscheinlichkeiten) Aus den Kolmogorov schen Axiomen ergeben sich die folgenden Rechenregeln für die Wahrscheinlichkeit von beliebigen Ereignissen A, B, C: Additionssatz für Wahrscheinlichkeiten: P (A B) = P (A) + P (B) P (A B) (Wahrscheinlichkeit, dass A oder B eintritt) 19

13 Additionssatz für 3 Ereignisse: P (A B C) = P (A) + P (B) + P (C) P (A B) P (B C) P (A C) + P (A B C) (Wahrscheinlichkeit, dass A oder B oder C eintritt) Wahrscheinlichkeit des Differenzereignisses: P (A\B) = P (A B) = P (A) P (A B) 20

14 Man beachte: Wenn das Ereignis B das Ereignis A impliziert (d.h. wenn B A gilt), dann folgt P (A\B) = P (A) P (B) 21

15 2.2 Zufallsvariable, Verteilungs- und Dichtefkt Häufige Situation in der Praxis: Es interessiert weniger das konkrete Ergebnis ω Ω eines Zufallsexperimentes, sondern eine Zahl, die von ω abhängt Beispiele: Gewinn in Euro im Roulette Gewinn einer Aktie an der Börse Monatsgehalt einer zufällig ausgewählten Person Intuitive Bedeutung einer Zufallsvariablen: Vorschrift, die das abstrakte ω in eine Zahl übersetzt 22

16 Definition 2.7: (Zufallsvariable [kurz: ZV]) Unter einer Zufallsvariablen versteht man formal eine (mathematische) Funktion X : Ω R ω X(ω). Bemerkungen: Eine Zufallsvariable ordnet jedem Ergebnis ω Ω eine reelle Zahl zu Intuition: Eine Zufallsvariable X charakterisiert eine Zahl, deren Wert man noch nicht kennt 23

17 Nach der Durchführung des Zufallsexperimentes realisiert sich die Zufallsvariable X im Wert x x heißt die Realisation oder Realisierung der ZV X nach Durchführung des zugehörigen Zufallsexperimentes In dieser VL: Zufallsvariablen werden immer mit Großbuchstaben, Realisationen immer mit Kleinbuchstaben bezeichnet Die Zufallsvariable X beschreibt die Situation ex ante, d.h. vor der tatsächlichen Durchführung des Zufallsexperimentes Die Realisation x beschreibt die Situation ex post, d.h. nach der Durchführung des Zufallsexperimentes 24

18 Beispiel 1: Betrachte den 1-maligen Münzwurf (Z=Zahl, K=Kopf). Die ZV X bezeichne die Anzahl der Köpfe bei diesem Zufallsexperiment Es gilt: Ω = {K, Z} Die ZV X kann 2 Werte annehmen: X(Z) = 0, X(K) = 1 25

19 Beispiel 2: Betrachte den 3-maligen Münzwurf. erneut die Anzahl der Köpfe Die ZV X bezeichne Es gilt: Ω = {(K, K, K), (K, K, Z),..., (Z, Z, Z) }{{}}{{}}{{} =ω 1 =ω 2 Die Zufallsvariable X ist definiert durch X(ω) = Anzahl der K in ω =ω 8 } Offensichtlich: X ordnet verschiedenen ω dieselbe Zahl zu, z.b. X((K, K, Z)) = X((K, Z, K)) = X((Z, K, K)) = 2 26

20 Beispiel 3: Aus einer Personengruppe wird zufällig 1 Person ausgewählt. Die ZV X soll den Erwerbsstatus der ausgewählten Person bezeichnen Es gilt: Ω = { erwerbstätig }{{}, } nicht erwerbstätig {{} =ω 1 =ω 2 } Die ZV X kann codiert werden durch X(ω 1 ) = 1, X(ω 2 ) = 0 27

21 Beispiel 4: Das Zufallsexperiment bestehe in der Messung des morgigen Kurses einer bestimmten Aktie. Die ZV X bezeichne diesen Aktienkurs Es gilt Ω = [0, ), d.h. X ist definiert durch X(ω) = ω Zwischenfazit: Die ZV X kann verschiedene Werte annehmen und zwar mit bestimmten Wskt en 28

22 Frage: Wie kann man diese Wskt en bestimmen und mit diesen rechnen? Zunächst vereinfachte Schreibweise: (a, b, x R) P (X = a) P ({ω X(ω) = a}) P (a < X < b) P ({ω a < X(ω) < b}) P (X x) P ({ω X(ω) x}) Lösung: Die Berechnung solcher Wskt en kann über die sogenannte Verteilungsfunktion der ZV en X erfolgen 29

23 Intuition: Die Verteilungsfunktion der ZV en X charakterisiert die Wahrscheinlichkeiten, mit denen sich die potenziellen Realisationen x auf der reellen Zahlenachse verteilen (die sogenannte Verteilung der ZV en X) Definition 2.8: (Verteilungsfunktion [kurz: VF]) Gegeben sei die Zufallsvariable X. Unter der Verteilungsfunktion der ZV en X (in Zeichen: F X ) versteht man die folgende Abbildung: F X : R [0, 1] x F X (x) = P ({ω X(ω) x}) = P (X x). 30

24 Beispiel: Betrachte den 3-fachen Münzwurf. Anzahl Kopf. Die ZV X messe die Zunächst gilt: Ω = {(K, K, K), (K, K, Z),..., (Z, Z, Z) } }{{}}{{}}{{} = ω 1 = ω 2 = ω 8 Für die Wskt en der ZV X errechnet sich: P (X = 0) = P ({(Z, Z, Z)}) = 1/8 P (X = 1) = P ({(Z, Z, K), (Z, K, Z), (K, Z, Z)}) = 3/8 P (X = 2) = P ({(Z, K, K), (K, Z, K), (K, K, Z)}) = 3/8 P (X = 3) = P ({(K, K, K)}) = 1/8 31

25 Daraus ergibt sich die VF: F X (x) = für x < für 0 x < für 1 x < für 2 x < 3 1 für x 3 Bemerkungen: Es genügt (fast immer), lediglich die VF F X der ZV X zu kennen Oft ist es in praxi gar nicht möglich, den Grundraum Ω oder die explizite Abbildung X : Ω R anzugeben (jedoch kann man meistens die VF F X aus sachlogischen Überlegungen heraus angeben) 32

26 Allgemeingültige Eigenschaften von F X : F X (x) ist monoton wachsend Es gilt stets: lim x F X(x) = 0 und lim x + F X(x) = 1 F X ist rechtsseitig stetig, d.h. lim z x z>x F X (z) = F X (x) 33

27 Fazit: VF F X (x) der ZV en X gibt Antwort auf die Frage Wie hoch ist die Wahrscheinlichkeit, dass X höchstens den Wert x annimmt? Jetzt: Antwort auf die Frage Welchen Wert wird die ZV e X mit einer vorgegebenen Wahrscheinlichkeit p (0, 1) nicht überschreiten? Quantilfunktion der ZV en X 34

28 Definition 2.9: (Quantilfunktion) Gegeben sei die ZV X mit VF F X. Für jeden reellen Wert p (0, 1) versteht man unter der Quantilfunktion von X (in Zeichen: Q X (p)) die folgende Abbildung: Q X : (0, 1) R p Q X (p) = min{x F X (x) p}. Der Wert der Quantilfunktion x p = Q X (p) heißt p Quantil der ZV en X. Bemerkungen: Das p-quantil x p ist die kleinste Zahl x R mit der Eigenschaft, dass F X (x) den Wert p erreicht oder überschreitet Interpretiert man p (0, 1) als eine Wahrscheinlichkeit, so ist das p-quantil x p die kleinste Realisation der ZV en X, die X mit Wskt. p nicht überschreitet 35

29 Spezielle Quantile: Median: p = 0.5 Quartile: p = 0.25, 0.5, 0.75 Quintile: p = 0.2, 0.4, 0.6, 0.8 Dezile: p = 0.1, 0.2,..., 0.9 Jetzt: Typisierung von ZV en (diskrete vs. stetige ZV en) 36

30 Grund: Unterschiedliche mathematische Methoden zur Behandlung von ZV en Bei diskreten ZV en: Endliche und unendliche Summen Bei stetigen ZV en: Differential- und Integralrechnung Bemerkungen: Es gibt auch ZV en, die gleichzeitig teilweise diskret und teilweise stetig sind Solche ZV en werden hier nicht behandelt 37

31 Definition 2.10: (Diskrete Zufallsvariable) Die ZV X heißt diskret, wenn sie entweder (a) nur endlich viele Realisationen x 1, x 2,..., x J oder (b) abzählbar unendlich viele Realisationen x 1, x 2,... mit streng positiver Wahrscheinlichkeit annehmen kann, d.h. falls für alle j = 1,..., J,... gilt P (X = x j ) > 0 und J,... j=1 P (X = x j ) = 1. 38

32 Typische diskrete Merkmale sind: Zählmerkmale ( X = Anzahl von... ) Codierte qualitative Merkmale Weitere Definitionen: Definition 2.11: (Träger einer diskreten Zufallsvariablen) Die Menge aller Realisationen, die eine diskrete ZV X mit streng positiver Wskt. annehmen kann, heißt Träger von X (in Zeichen: T X ): T X = {x 1,..., x J } bzw. T X = {x 1, x 2,...}. 39

33 Definition 2.12: (Wahrscheinlichkeitsfunktion) Für eine diskrete ZV X heißt die Funktion f X (x) = P (X = x) die Wahrscheinlichkeitsfunktion von X. Bemerkungen: Die Wahrscheinlichkeitsfunktion f X der ZV X nimmt nur für die Elemente des Trägers T X positive Werte an. Für Werte außerhalb des Trägers, d.h. für x / T X, gilt f X (x) = 0: f X (x) = { P (X = xj ) > 0 für x = x j T X 0 für x / T X 40

34 Die Wahrscheinlichkeitsfkt. f X hat die Eigenschaften f X (x) 0 für alle x x j T X f X (x j ) = 1 Für eine beliebige Menge A R berechnet sich die Wskt. des Ereignisses {ω X(ω) A} = {X A} durch P (X A) = x j A f X (x j ) 41

35 Beispiel: Betrachte 3-fachen Münzwurf und X = Anzahl Kopf (vgl. Folien 31, 32) Offensichtlich: X ist diskret mit dem Träger T X = {0, 1, 2, 3} Die Wahrscheinlichkeitsfunktion ist gegeben durch f X (x) = P (X = 0) = für x = 0 P (X = 1) = für x = 1 P (X = 2) = für x = 2 P (X = 3) = für x = 3 0 für x / T X 42

36 Die Verteilungsfunktion ist gegeben durch F X (x) = für x < für 0 x < für 1 x < für 2 x < 3 1 für x 3 Offensichtlich: Für die Verteilungsfunktion gilt F X (x) = P (X x) = {x j T X x j x} =P (X=x j ) {}}{ f X (x j ) 43

37 Fazit: Die VF einer diskreten ZV en X ist eine Treppenfunktion mit Sprüngen an den Stellen x j T X. Die Sprunghöhe an der Stelle x j beträgt F X (x j ) lim x xj x<x j F (x) = P (X = x j ) = f X (x j ), d.h. die Sprunghöhe ist der Wert der Wskt.-Funktion (Beziehung: Verteilungs- und Wahrscheinlichkeitsfunktion) 44

38 Jetzt: Definition von stetigen Zufallsvariablen Intuition: Im Gegensatz zu diskreten ZV en können stetige ZV e überabzählbar viele Realisationen (z.b. jede reelle Zahl in einem Intervall) annehmen Tatsächlich: Definition stetiger ZV en komplizierter (technischer) 45

39 Definition 2.13: (Stetige ZV, Dichtefunktion) Eine ZV X heißt stetig, wenn sich ihre Verteilungsfunktion F X als Integral einer Funktion f X : R [0, ) schreiben lässt, d.h. wenn x F X (x) = f X(t)dt für alle x R. Die Funktion f X (x) heißt Dichtefunktion [kurz: Dichte] von X. Bemerkungen: Die VF F X einer stetigen ZV en X ist (eine) Stammfunktion der Dichtefunktion f X F X (x) = P (X x) ist gleich dem Flächeninhalt unter der Dichtefunktion f X von bis zur Stelle x 46

40 Verteilungsfunktion F X und Dichte f X P(X x) = F X (x) f X (t) x t 47

41 Eigenschaften der Dichtefunktion f X : 1. Die Dichte f X ist niemals negativ, d.h. f X (x) 0 für alle x R 2. Die Fläche unter der Dichte ist gleich 1, d.h. + f X(x)dx = 1 3. Wenn F X (x) differenzierbar ist, gilt f X (x) = F X (x) df X(x)/dx 48

42 Beispiel: (Gleichverteilung über [0, 10]) Gegeben sei die ZV X mit Dichtefunktion f X (x) = { 0, für x / [0, 10] 0.1, für x [0, 10] Berechnung der VF F X : Für x < 0 gilt: F X (x) = x f X(t) dt = x 0 dt = 0 49

43 Für x [0, 10] gilt: F X (x) = = x f X(t) dt 0 0 dt }{{} =0 + x dt = [0.1 t] x 0 = 0.1 x = 0.1 x 50

44 Für x > 10 gilt: F X (x) = x f X(t) dt = = dt }{{} = dt + } 0 {{ } = dt }{{} =0 51

45 Jetzt: Wskt. en für Intervalle, d.h. (für a, b R, a < b) P (X (a, b]) = P (a < X b) Es gilt: P (a < X b) = P ({ω a < X(ω) b}) = P ({ω X(ω) > a} {ω X(ω) b}) = 1 P ({ω X(ω) > a} {ω X(ω) b}) = 1 P ({ω X(ω) > a} {ω X(ω) b}) = 1 P ({ω X(ω) a} {ω X(ω) > b}) 52

46 = 1 [P (X a) + P (X > b)] = 1 [F X (a) + (1 P (X b))] = 1 [F X (a) + 1 F X (b)] = F X (b) F X (a) = = b f X(t) dt b a f X(t) dt a f X(t) dt 53

47 Intervall-Wahrscheinlichkeit mit den Grenzen a und b f X (x) P(a < X b) a b x 54

48 Wichtiges Ergebnis für stetige ZV X: P (X = a) = 0 für alle a R Begründung: P (X = a) = lim b a P (a < X b) = = a a f X(x)dx = 0 b lim f b a X(x) dx a Fazit: Die Wskt., dass eine stetige ZV X einen einzelnen Wert annimmt, ist immer Null!! 55

49 Punkt-Wahrscheinlichkeit f X (x) a b 3 b 2 b 1 x 56

50 Vorsicht: Das bedeutet nicht, dass dieses Ereignis unmöglich ist Konsequenz: Da bei stetigen ZV en für alle a R stets P (X = a) = 0 gilt, folgt für stetige ZV stets P (a < X < b) = P (a X < b) = P (a X b) = P (a < X b) = F X (b) F X (a) (Ob Intervalle offen oder geschlossen sind, spielt für die Wskt.-Bestimmung bei stetigen ZV keine Rolle) 57

51 2.3 Erwartungswerte, Momente und momentenerzeugende Funktionen Bekannt aus WRUSS: Der Erwartungswert einer ZV en X ist eine Maßzahl für die Lage der Verteilung (Lagemaß) Definition 2.14: (Erwartungswert) Der Erwartungswert der ZV en X [in Zeichen: E(X)] ist definiert als E(X) = {x j T X } + x j P (X = x j ), falls X diskret ist x f X(x) dx, falls X stetig ist. 58

52 Bemerkungen: Der Erwartungswert der ZV en X entspricht also (in etwa) der Summe aller möglichen Realisationen jeweils gewichtet mit der Wskt. ihres Eintretens Anstelle von E(X) schreibt man häufig µ X Es gibt ZV en, die keinen Erwartungswert besitzen (vgl. Übung) 59

53 Beispiel 1: (Diskrete ZV) Man betrachte den 2-maligen Würfelwurf. Die ZV X stehe für die (betragliche) Differenz der Augenzahlen. Man berechne den Erwartungswert von X Zunächst ergibt sich als Träger der Zufallsvariablen T X = {0, 1, 2, 3, 4, 5} 60

54 Die Wahrscheinlichkeitsfunktion ist gegeben durch f X (x) = Als Erwartungswert ergibt sich E(X) = 0 P (X = 0) = 6/36 für x = 0 P (X = 1) = 10/36 für x = 1 P (X = 2) = 8/36 für x = 2 P (X = 3) = 6/36 für x = 3 P (X = 4) = 4/36 für x = 4 P (X = 5) = 2/36 für x = 5 0 für x / T X = =

55 Beispiel 2: (Stetige ZV) Es sei X eine stetige ZV mit der Dichte f X (x) = x, für 1 x 3 4 0, sonst Zur Berechnung des Erwartungswertes spaltet man das Integral auf: E(X) = + x f X(x) dx = dx + x x dx dx 62

56 = 3 1 = 1 4 x 2 4 dx = 1 4 ( ) [ ] x3 1 = = Häufige Situation: Kenne ZV X mit Wskt.- oder Dichtefunktion f X Suche den Erwartungswert der transformierten ZV Y = g(x) 63

57 Satz 2.15: (Erwartungswert einer Transformierten) Gegeben sei die ZV X mit Wskt.- oder Dichtefunktion f X. Für eine beliebige (Baire)Funktion g : R R berechnet sich der Erwartungswert der transformierten ZV Y = g(x) als E(Y ) = E[g(X)] = {x j T X } + g(x j ) P (X = x j ), falls X diskret ist g(x) f X(x) dx, falls X stetig ist. 64

58 Bemerkungen: Alle Funktionen, die in unserer Veranstaltung auftauchen, sind Baire-Funktionen Für den Spezialfall g(x) = x (die Identitätsfunktion) fällt der Satz 2.15 mit der Definition 2.14 zusammen Zunächst: Erste wichtige Rechenregeln für Erwartungswerte 65

59 Satz 2.16: (Regeln für E-Werte) Es seien X eine beliebige ZV (diskret oder stetig), c, c 1, c 2 R konstante Zahlen und g, g 1, g 2 : R R Funktionen. Dann gelten die folgenden Aussagen: 1. E(c) = c. 2. E[c g(x)] = c E[g(X)]. 3. E[c 1 g 1 (X) + c 2 g 2 (X)] = c 1 E[g 1 (X)] + c 2 E[g 2 (X)]. 4. Falls g 1 (x) g 2 (x) für alle x R gilt, so folgt: E[g 1 (X)] E[g 2 (X)]. Beweis: Übungsaufgabe 66

60 Jetzt: Betrachte die ZV X (diskret oder stetig) und die explizite Funktion g(x) = [x E(X)] 2 Varianz und Standardabweichung der ZV en X Definition 2.17: (Varianz, Standardabweichung) Für eine beliebige stetige oder diskrete ZV X ist die Varianz von X [in Zeichen: Var(X)] definiert als die erwartete quadrierte Abweichung der ZV von ihrem Erwartungswert E(X), d.h. Var(X) = E[(X E(X)) 2 ]. Unter der Standardabweichung von X [in Zeichen: SD(X)] versteht man die (positive) Wurzel aus der Varianz, d.h. SD(X) = + Var(X). 67

61 Bemerkungen: Mit g(x) = [X E(X)] 2 und Satz 2.15 (Folie 64) berechnet sich die Varianz von X explizit als Var(X) = E[g(X)] = {x j T X } + [x j E(X)] 2 P (X = x j ), für diskretes X [x E(X)]2 f X (x) dx Es gibt ZV en, die keine endliche Varianz besitzen (vgl. Übung), für stetiges X 68

62 Beispiel: (Diskrete ZV) Betrachte erneut den 2-maligen Würfelwurf mit der ZV X als (betraglicher) Differenz der Augenzahlen (vgl. Beispiel 1, Folie 35). Für die Varianz gilt: Var(X) = (0 70/36) 2 6/36 + (1 70/36) 2 10/36 + (2 70/36) 2 8/36 + (3 70/36) 2 6/36 + (4 70/36) 2 4/36 + (5 70/36) 2 2/36 = Man beachte: Die Varianz ist per definitionem ein Erwartungswert Rechenregeln für Erwartungswerte anwendbar 69

63 Satz 2.18: (Rechenregeln für Varianzen) Es seien X eine beliebige ZV (diskret oder stetig) sowie a, b R reelle Zahlen. Es gilt 1. Var(X) = E(X 2 ) [E(X)] Var(a + b X) = b 2 Var(X). Beweis: Übungsaufgabe Jetzt: Zwei wichtige Ungleichungen im Zusammenhang mit Erwartungswerten und transformierten ZV en 70

64 Satz 2.19: (Allgemeine Chebyshey-Ungleichung) Es seien X eine beliebige ZV sowie g : R R + eine nichtnegative Funktion. Dann gilt für jedes k > 0 Jetzt Spezialfall: Betrachte P [g(x) k] E [g(x)]. k g(x) = [x E(X)] 2 und k = r 2 Var(X) (r > 0) Hierfür liefert der Satz 2.19 P { [X E(X)] 2 r 2 Var(X) } Var(X) r 2 Var(X) = 1 r 2 71

65 Nun gilt P { [X E(X)] 2 r 2 Var(X) } = P { X E(X) r SD(X)} = 1 P { X E(X) < r SD(X)} Daraus folgt P { X E(X) < r SD(X)} 1 1 r 2 (spezielle Chebyshev-Ungleichung) 72

66 Bemerkung: Die spezielle Chebyshev-Ungleichung gibt die Mindestwahrscheinlichkeit an, mit der eine beliebige ZV in das folgende (offene oder geschlossene) Intervall fällt: Z.B. gilt für r = 3: [E(X) r SD(X), E(X) + r SD(X)] P { X E(X) < 3 SD(X)} = 8 9 was äquivalent ist zu P {E(X) 3 SD(X) < X < E(X) + 3 SD(X)} bzw. P {X (E(X) 3 SD(X), E(X) + 3 SD(X))}

67 Satz 2.20: (Jensen-Ungleichung) Es seien X eine beliebige ZV sowie g : R R eine konvexe (bzw. eine konkave) Funktion, d.h. für alle x gelte g (x) 0 (bzw. g (x) 0). Dann folgt E [g(x)] g(e[x]) bzw. E [g(x)] g(e[x]). Bemerkung: Es ist wichtig zu beachten, dass im Allgemeinen E [g(x)] g(e[x]) 74

68 Beispiel: Betrachte die ZV X und die Funktion g(x) = x 2 Es gilt: g (x) = 2 0 für alle x, d.h. g ist konvex Mit der Jensen-Ungleichung folgt d.h. E [g(x)] }{{} =E(X 2 ) g(e[x]) }{{} =[E(X)] 2 E(X 2 ) [E(X)] 2 0 Mit dem Satz 2.18 folgt also Var(X) = E(X 2 ) [E(X)] 2 0 (die Varianz einer ZV en kann niemals negativ sein) 75

69 Jetzt: Betrachte die beliebige ZV X mit E-Wert E(X) = µ X, eine natürliche Zahl n N sowie die Funktionen g 1 (x) = x n g 2 (x) = [x µ X ] n Definition 2.21: (Momente, zentrale Momente) (a) Das n-te Moment der ZV en X (in Zeichen: µ n ) ist definiert als µ n E[g 1(X)] = E(X n ). (b) Das n-te zentrale Moment um den Erwartungswert (in Zeichen: µ n ) ist definiert als µ n E[g 2 (X)] = E[(X µ X ) n ]. 76

70 Beziehungen: µ 1 = E(X) = µ X (das 1. Moment entspricht dem E-Wert) µ 1 = E[X µ X ] = E(X) µ X = 0 (das 1. zentrale Moment ist immer 0) µ 2 = E[(X µ X ) 2 ] = Var(X) (das 2. zentrale Moment entspricht der Varianz) 77

71 Bemerkungen: Speziell die ersten 4 Momente einer ZV en X sind Bausteine für wichtige Kenngrößen der Verteilung (Erwartungswert, Varianz, Schiefe, Kurtosis) Die Momente einer ZV en X spielen eine zentrale Rolle in der theoretischen und angewandten Statistik In einigen Fällen kann aus der Kenntnis aller Momente der ZV en X die vollständige Verteilung (d.h. die Wahrscheinlichkeits- bzw. die Dichtefunktion) hergeleitet werden 78

72 Frage: Gibt es eine mathematische Funktion, die eine Darstellung aller Momente einer Verteilung liefert? Definition 2.22: (Momentenerzeugende Funktion) Es sei X eine ZV mit Wskts- bzw. Dichtefunktion f X (x). Für eine reelle Zahl t R betrachte man den Erwartungswert E [ e t X]. Falls dieser E-Wert für alle t aus einem Intervall h < t < h, h > 0, existiert, so definiert man die momentenerzeugende Funktion von X (in Zeichen: m X (t)) als diesen E-Wert, d.h. m X (t) = E [ e t X]. 79

73 Bemerkungen: Die momentenerzeugende Funktion m X (t) wird als Funktion in t aufgefasst Es gibt ZV en X, für die m X (t) nicht existiert Falls m X (t) existiert, so berechnet sich die Funktion aufgrund des Satzes 2.15 (Folie 64) als m X (t) = E [ e t X] = {x j T X } + e t x j P (X = x j ), falls X diskret et x f X (x) dx, falls X stetig 80

74 Frage: Warum heißt m X (t) momentenerzeugende Funktion? Antwort: Man betrachte die n-te Ableitung von m X (t) nach t: d n dt nm X(t) = {x j T X } + (x j ) n e t x j P (X = x j ), falls X diskret xn e t x f X (x) dx, falls X stetig 81

75 Für die n-te Ableitung an der Stelle t = 0 gilt d n dt nm X(0) = {x j T X } + (x j ) n P (X = x j ), falls X diskret xn f X (x) dx, falls X stetig = E(X n ) = µ n (vgl. Definition 2.21(a), Folie 76) 82

76 Beispiel: Es sei X eine stetige ZV mit Dichtefunktion f X (x) = { 0, falls x < 0 λ e λ x, falls x 0 (Exponentialverteilung mit Parameter λ > 0) Es gilt m X (t) = E [ e t X] = + et x f X (x) dx für t < λ = + 0 λ e (t λ) x dx = λ λ t 83

77 Es folgt und somit m X (t) = λ (λ t) 2 sowie m 2λ X (t) = (λ t) 3 m X (0) = E(X) = 1 λ sowie m X (0) = E(X2 ) = 2 λ 2 Jetzt: Zentrales Resultat über momentenerzeugende Funktionen 84

78 Satz 2.23: (Identifikationseigenschaft) Es seien X und Y zwei ZV en mit Wskts- bzw. Dichtefunktionen f X ( ) und f Y ( ). Angenommen, die beiden momentenerzeugenden Funktionen m X (t) und m Y (t) existieren und es gilt m X (t) = m Y (t) für alle t im Intervall h < t < h, h > 0. Dann haben die beiden ZV en identische Verteilungsfunktionen, d.h. es gilt F X (x) = F Y (x) für alle x. Bemerkung: Der Satz 2.23 besagt, dass zu einer gegebenen momentenerzeugenden Funktion m X (t) eine eindeutige Verteilungsfunktion F X (x) gehört Wenn m X (t) für die ZV X bekannt ist, dann kann man (zumindest theoretisch) die Verteilung von X bestimmen Diese Eigenschaft werden wir in Kapitel 4 benutzen 85

79 Beispiel: Angenommen, die ZV X hat die momentenerzeugende Funktion m X (t) = 1 für 1 < t < 1 1 t Dann muss die Dichtefunktion von X gegeben sein durch f X (x) = { 0, falls x < 0 e x, falls x 0 (Exponentialverteilung mit Parameter λ = 1) 86

80 2.4 Spezielle Verteilungen Bisher: Analyse allgemeiner mathematischer Eigenschaften beliebiger Verteilungen Unterscheidung zwischen diskreten und stetigen Verteilungen Betrachtung der Verteilungsfunktion F X (x) der Wskt- bzw. Dichtefunktion f X (x) von Erwartungswerten E[g(X)] der momentenerzeugenden Funktion m X (t) 87

81 Zentrale Erkenntnis: Die Verteilung einer ZV en X ist (im wesentlichen) durch f X (x) oder F X (x) bestimmt Mit f X (x) lässt sich F X (x) bestimmen (vgl. Folie 46) Aus F X (x) lässt sich (im wesentlichen) f X (x) bestimmen (vgl. Folie 48) Frage: Wieviele verschiedene Verteilungen gibt es? 88

82 Antwort: Unendlich viele Jedoch: In der Praxis haben sich einige wichtige parametrische Verteilungsfamilien als gute Modelle für real auftretende Zufallsereignisse herauskristallisiert Diese Verteilungsfamilien werden in allen Statistik-Lehrbüchern ausführlich beschrieben (z.b. in Mosler & Schmid (2008), Mood et al. (1974)) 89

83 Zentrale diskrete Verteilungsfamilien Bernoulli-Verteilung Binomial-Verteilung Geometrische Verteilung Poisson-Verteilung Zentrale stetige Verteilungsfamilien Gleichverteilung Exponentialverteilung Normalverteilung 90

84 Bemerkung: Die wichtigste parametrische Verteilungsfamilie überhaupt ist die Normalverteilung Definition 2.24: (Normalverteilung) Die stetige ZV X heißt normalverteilt mit Parametern µ R und σ 2 > 0 [in Zeichen: X N(µ, σ 2 )], falls X die folgende Dichtefunktion besitzt: f X (x) = 1 ( ) x µ 2 e 1 2 σ, x R. 2π σ 91

85 Dichtefunktionen der Normalverteilung f X (x) N(0,1) N(5,1) N(5,3) N(5,5) 0 5 x 92

86 Bemerkungen: Die Normalverteilung N(0, 1) heißt Standardnormalverteilung. Ihre Dichte wird oft mit ϕ(x) bezeichnet Die Kenntnis aller Eigenschaften sowie das Rechnen mit normalverteilten ZV en ist zwingende Voraussetzung für diese Veranstaltung (vgl. Wilfling (2011), Kapitel 3.4) 93