Statistik B. Wahrscheinlichkeitsrechnung und induktive Statistik. Prof. Dr. Alois Kneip Sommersemester 2012

Transkript

1 Statistik B Wahrscheinlichkeitsrechnung und induktive Statistik Prof. Dr. Alois Kneip Sommersemester 2012 Literatur: Fahrmeier, Künstler, Pigeot und Tutz (2004): Statistik, Springer Verlag Fahrmeier, Künstler, Pigeot, Tutz, Caputo und Lang (2005): Arbeitsbuch Statistik, Springer Verlag Statistik_II@finasto 0 1

2 Inhalt: 1) Wahrscheinlichkeitsrechnung 2) Diskrete Zufallsvariablen 3) Stetige Zufallsvariablen 4) Mehrdimensionale Zufallsvariablen 5) Stichproben und Schätzverfahren 6) Testen von Hypothesen 7) Spezielle Testprobleme 0 2

3 Einführung Statistik I (Deskriptive Statistik) Analyse von konkreten Daten: Datenaufbereitung, Auswertung und Interpretation mit Hilfe von Maßzahlen (relative Häufigkeiten, Mittelwert, Median, usw.) Statistik II (1. Teil: Wahrscheinlichkeitsrechnung, Zufallszahlen) Entwicklung von stochastischen Modellen; Formalisierung eines Zufallsvorgangs; Fragestellung: Welche Resultate können eintreten und wie sind die zugehörigen Wahrscheinlichkeiten? Statistik II (2. Teil: Induktive Statistik) Vergleich konkreter Daten mit idealisierter Modellvorstellung; Quantifzierung von Unsicherheit; Testen von Hypothesen. Statistik_II@finasto 0 3

4 Fragestellungen der Wahrscheinlichkeitsrechnung Historisches Beispiel: Analyse von Glücksspiel, Gewinnwahrscheinlichkeit Frage des George Brossin Chevalier de Méré an Blaise Pascal: Was ist wahrscheinlicher: Bei 4 Würfen mit einem Würfel (mindestens) einmal 6 zu werfen oder bei 24 Würfen mit 2 Würfeln mindestens eine Doppelsechs zu werfen? Vermutung: Gleichwahrscheinlich. (Doppelsechs ist zwar 6-mal weniger häufig als 6, aber dafür hat man 6-mal so viele Versuche.) Feststellung des Chevalier de Méré (nach sehr vielen Partien am Spieltisch): Nicht gleichwahrscheinlich. Systematische Analyse dieser Situation? Beispiel: Wie groß ist die Wahrscheinlichkeit, im Lotto 6 Richtige zu tippen? Statistik_II@finasto 0 4

5 Vorgehen der induktiven Statistik Beispiel 1: Experiment: 100-maliges Werfen einer Münze Statistik I: (Datenanalyse) Beobachtete absolute Häufigkeiten: 65 mal Kopf und 35 mal Zahl Frage: Münze fair (d.h. Ergebnis nur Zufall) oder manipuliert? Statistik II: Modellannahme: Münze ist fair Chance für Kopf : Zahl stehen 50 : 50 Induktion: Falls die Modellannahme erfüllt ist, d.h. falls die Hypothese einer fairen Münze richtig ist, so ist die Wahrscheinlichkeit bei 100 Versuchen 65 mal Kopf zu beobachten nur 0, 003 (0,3%) Schlussfolgerung: Die Hypothese einer fairen Münze ist abzulehnen, die Münze ist wohl manipuliert Statistik_II@finasto 0 5

6 Beispiel: Meinungsforschung Frage: Wieviel Prozent der Bevölkerung sind für oder gegen eine bestimmte wirtschaftspolitische Entscheidung der Bundesregierung? Datenerhebung: Befragung von n = 1000 zufällig ausgewählten Bürgerinnen und Bürgern ( Zufallsstichprobe). Datenanalyse (Statistik I): Relative Häufigkeiten z.b. 0, 513 = 51, 3% ( dafür ) und 0, 487 = 48, 7% ( dagegen ) Problem: Unsicherheit! Wie nahe liegt die aus der Stichprobe berechnete relative Häufigkeit an dem wahren Prozentsatz in der Bevölkerung? Induktive Statistik: Formalisierung des Problems und Berechnung von Konfidenzintervallen zur Quantifizierung der Unsicherheit: Mit einer sehr geringen Irrtumswahrscheinlichkeit liegt der wahre Prozentsatz in der Bevölkerung im Intervall [0, 513 ± 0, 031] = [0, 482, 0, 544] Statistik_II@finasto 0 6

7 1 Wahrscheinlichkeitsrechnung 1.1 Grundbegriffe Ziel der Wahrscheinlichkeitsrechnung ist die Analyse einer stochastischen Situation. Grundlage ist die Modellierung von Zufallsvorgängen. Zwei Fragen: Was kann alles passieren? Mit welcher Wahrscheinlichkeit passiert dies oder jenes? Ein Zufallsvorgang führt zu einem von mehreren, sich gegenseitig ausschließenden Ergebnissen. Es ist vor der Durchführung ungewiss, welches Ergebnis tatsächlich eintreten wird. Ein Zufallsexperiment ist ein Zufallsvorgang, der unter kontrollierbaren Bedingungen wiederholbar ist. Idee: Ein Ergebnis ω S tritt ein, zufallsgesteuert. Die (nichtleere) Menge S aller möglichen Ergebnisse heißt Ergebnisraum oder Ereignisraum. Statistik_II@finasto 1 1

8 Beispiele: Lose ziehen (auf Kirmes) S = {Niete, Trostpreis, Teddy, Ferrari} Nächstes Spiel eines Fußballvereins S = {Gewinn, Niederlage, Unentschieden} Ein Münzwurf Würfel S = {Kopf, Zahl} ={+1, 1} ={0, 1} S = {1, 2, 3, 4, 5, 6} Einarmiger Bandit S = {(z 1, z 2, z 3 ) z i {Glocke, Krone, Apfel}} 2 Würfel (Monopoly, Backgammon,... ) S = {(1, 1), (1, 2), (2, 2), (2, 3),..., (6, 6)} Statistik_II@finasto 1 2

9 Beispiele (Fortsetzung): Ziehung der Lottozahlen (vereinfacht, ohne Zusatzzahl) S = {{z 1,..., z 6 } z i z j 1 z i 49} n Münzwürfe S = {ω = (z 1,..., z n ) z i {K, Z}} Anzahl Schadensmeldungen, die bei einer Versicherung in einem bestimmten Monat eingehen S = {0, 1, 2,... } Anzahl Unfälle auf einer bestimmten Kreuzung S = {0, 1, 2,... } Statistik_II@finasto 1 3

10 Beispiele (Fortsetzung): Pfeilwurf auf Zielscheibe (mit Radius 20cm) S = {alle Punkte in einer Kreisscheibe mit Radius 20cm} ˆ={(x, y) x 2 + y } R 2 Drehen eines Glücksrads/Flaschendrehen S = {Winkel von 0 bis 360 } ˆ=[0, 360) Random-Taste auf Ihrem Taschenrechner S = {Zufallszahlen im Einheitsintervall} ˆ=[0, 1] Aktienkurs S = {Möglicher Tages-Verlauf der VW-Aktie morgen} ˆ= {Alle Pfade ausgehend von heutigem Schlusskurs} Statistik_II@finasto 1 4

11 Die letzten Beispiele zeigen: Oft ist das Eintreten jedes einzelnen Ergebnisses sehr, sehr unwahrscheinlich (z.b.: einen festen Punkt auf der Zielscheibe treffen). Diskussion von Wahrscheinlichkeiten nicht auf der Ebene der Ergebnisse, sondern auf der Ebene der Ereignisse A S. Eine Teilmenge A des Ergebnisraums S heißt Ereignis. Wir sagen: A tritt ein, wenn ein Ergebnis ω A eintritt. einzelnes Ergebnis ω S Elementarereignis A = {ω} Beispiele: Ein Münzwurf: A = Kopf liegt oben = {K} S = {K,Z} 1 Würfel: A = Eine 6 wird gewürfelt = {6} {1, 2, 3, 4, 5, 6} B = Eine gerade Zahl wird gewürfelt = {2, 4, 6} C = Mehr als 4 wird gewürfelt = {5, 6} Statistik_II@finasto 1 5

12 Beispiele (Fortsetzung): 2 Würfel: A = Pasch gewürfelt B = Doppelsechs C = Keine 4 dabei Einarmiger Bandit: A = Hauptgewinn = { Automat zeigt 3 Kronen } = {(Krone,Krone,Krone)} Glücksrad / Flaschendrehen: A = Glücksrad bleibt in bestimmtem Sektor stehen = Flasche zeigt auf bestimmte Person = {Winkel [α, α]} Zielscheibe: A = Pfeil trifft ins Schwarze = {(x, y) x 2 + y 2 1} B = Pfeil landet im äußeren Ring = {(x, y) 18 2 < x 2 + y } Statistik_II@finasto 1 6

13 Beispiele (Fortsetzung): Schadensmeldungen / Unfälle: A = kein Schaden = {0} N B = höchstens 4 Schäden C = Mehr als 100 Schäden Aktienkurs: A = Schlusskurs ist größer als Ausgangskurs B = mehr als 3% zugelegt Statistik_II@finasto 1 7

14 1.2 Mengen und Ereignisse x A: x ist ein Element der Menge A. x A: x ist kein Element der Menge A. A B: A ist Teilmenge von B; x A x B. Die Schnittmenge A B ist die Menge aller Elemente, die sowohl in A als auch in B sind; A B = {x : x A und x B} Die Vereinigungsmenge A B ist die Menge aller Elemente, die in A oder B sind; A B = {x : x A oder x B}. Die Differenzmenge A\B ist die Menge aller Elemente, die in A aber nicht in B sind; A\B = {x : x A und x B}. Für A S ist die Komplementärmenge Ā von A bzgl S die Menge aller Elemente von S, die nicht in A sind. (Andere Notation: A c, A.) Die Potenzmenge P(S) ist die Menge aller Teilmengen von S; P(S) = {M M S}. Die Mächtigkeit (Kardinalität) von S ist die Anzahl der Elemente in S; #S = #{x : x S}. Statistik_II@finasto 1 8

15 Rechenregeln für Mengen (Veranschaulichung im Venn-Diagramm) Kommutativgesetz: A B = B A A B = B A Assoziativgesetz: (A B) C = A (B C) (A B) C = A (B C) Distributivgesetz: (A B) C = (A C) (B C) (A B) C = (A C) (B C) De Morgansche Regeln: (A B) = Ā B (A B) = Ā B Aus A B folgt B Ā. Für die Differenzmenge A\B gilt: A\B = A B. Statistik_II@finasto 1 9

16 Ò Ö Ò Ø Ð Ì ÐÑ Ò Ö¹ Ò Ö ÙÑ Ô Ð Ù ÐÐ ÜÔ Ö Ñ ÒØ ÒÑ Ð Ï Ö Ò Ò ÏĐÙÖ Ð Ö Ò Ï Ö Ò Ò Ö Ö Ò Ù ÒÞ Ð µ ¾ Ë Ö Ö Ò Ë Ö Ò Ð Ö Ò Ù ÐÐ ÜÔ Ö Ñ ÒØ ÒØÖ Ø Ò ÑÙ ÍÒÑĐÓ Ð Ö Ò Ö Ò Ñ Ö Ò Ù ÐÐ ÜÔ Ö Ñ ÒØ Ù Ò Ò ÐÐ ÒØÖ Ø Ò ÒÒ 1 10

17 ÃÓÑÔÐ Ñ ÒØĐ Ö Ö Ò Å Ò Đ ÑØÐ Ö Ð Ñ ÒØ Ö Ö Ò Ö ¹ Ò Ö ÙÑ Ë Ò Ø Ñ ØÖ Ø Ø Ò Ö Ò ÒØ ÐØ Ò Ò Ö Ò ÃÓÑÔÐ Ñ ÒØĐ Ö Ö Ò ÞÙ Ë Ô Ð Ù ÐÐ ÜÔ Ö Ñ ÒØ ÒÑ Ð Ï Ö Ò Ò ÏĐÙÖ Ð Ö Ò Ï Ö Ò Ò Ö Ö Ò Ù ÒÞ Ð ¾ ½ 1 11

18 Î ÒÒ¹ Ö ÑÑ 1 12

19 Ê Ð Ø ÓÒ Ò ÙÒ ÇÔ Ö Ø ÓÒ Ò ÚÓÒ Ö Ò Ò Þ Ø Ò Ï ÒÒ Ö Ê Ð ÖÙÒ Ò Ö Ò ÙÒ¹ Ò Ö Ö Ò ÒØÖ ØØ Ø Ø Ù Ö Ò ÒØÖ ØØ Ó Ø Ñ Ò Þ Ø Ò º Ø Ò Ì ÐÑ Ò ÚÓÒ º ÙÒ Ò Ð Û ÖØ Đ ÕÙ Ú Ð Òص Û ÒÒ ÙÒ 1 13

20 Î Ö Ò ÙÒ ÚÓÒ Ö Ò Ò ÐÓ ËÙÑÑ µ Î Ö Ò ÙÒ ÞÛ Ö Ö Ò ÙÒ Ø Å Ò ÐÐ Ö Ð Ñ ÒØ Ö Ö Ò ÞÙ Ó Ö ĐÓÖ Ò Î Ö ÐÐ Ñ Ò ÖÙÒ Ö Ò ½ ¾ Ò ½ ¾ Ò Ò ½ 1 14

21 ÙÖ Ò ØØ ÚÓÒ Ö Ò Ò Ö ÙÖ Ò ØØ ÚÓÒ ÙÒ Ø Å Ò ÐÐ Ö Ð Ñ ÒØ Ö Ö Ò ÓÛÓ Ð ÞÙ Ð Ù ÞÙ ĐÓÖ Ò Î Ö ÐÐ Ñ Ò ÖÙÒ Ö Ò ½ ¾ Ò ½ ¾ Ò Ò ½ 1 15

22 ÙÒ Ø Ö Ò Û Ö Ò ÙÒ Ò ÙÒ Ø Û ÒÒ Ö Ð Þ Ø ÒØÖ Ø Ò ÙÒÑĐÓ Ð Ø ËØ Ø ÙÒ Ø ÙÒ ÙÒ 1 16

23 ÄÓ «Ö ÒÞ ÚÓÒ Ö Ò Ò Ö Ò Ö Ò Ø Ø Ö Ò ÒØÖ ØØ ÛĐ Ö Ò Ö Ò Ò Ø ÒØÖ ØØ Ò Ô Ð Ù ÐÐ ÜÔ Ö Ñ ÒØ ÒÑ Ð Ï Ö Ò Ò ÏĐÙÖ Ð ½ ¾ µ Ò ½ ¾ Ò 1 17

24 ÖÐ ÙÒ Ö Ò Ö ÙÑ Ë Ò ËÝ Ø Ñ ÚÓÒ Ö Ò Ò ½ ¾ Ò Ø Ò ÖÐ ÙÒ ÚÓÒ Ë Û ÒÒ Ê Ð Ø ÓÒ Ò ½ ¾ Òµ ĐÙÖ ÙÒ Ø ½ ¾ Ò Ë ÐØ Ò ÙÒ Ò Ö Ö Ò Ò Ñ Ù ÐÐ ¹ ÜÔ Ö Ñ ÒØ ÒØÖ Ø Ò ÑÙ Ô Ð Ù ÐÐ ÜÔ Ö Ñ ÒØ Ï Ö Ò Ò ÏĐÙÖ Ð Ë ½ ¾ ½ ½ ¾ ½ ¾ ÖÐ ÙÒ ÚÓÒ Ë ½ ¾ ½ ¾ ½ ½ ¾ ¾ ½ ¾ Ë 1 18

25 ÖÐ ÙÒ Ö Ò Ö ÙÑ Ë Ò ËÝ Ø Ñ ÚÓÒ Ö Ò Ò ½ ¾ Ò Ø Ò ÖÐ ÙÒ ÚÓÒ Ë Û ÒÒ Ê Ð Ø ÓÒ Ò ½ ¾ Òµ ĐÙÖ ÙÒ Ø ½ ¾ Ò Ë ÐØ Ò ÙÒ Ò Ö Ö Ò Ò Ñ Ù ÐÐ ¹ ÜÔ Ö Ñ ÒØ ÒØÖ Ø Ò ÑÙ Ô Ð Ù ÐÐ ÜÔ Ö Ñ ÒØ Ï Ö Ò Ò ÏĐÙÖ Ð Ë ½ ¾ ½ ½ ¾ ½ ¾ ÖÐ ÙÒ ÚÓÒ Ë ½ ¾ ½ ¾ ½ ½ ¾ ¾ ½ ¾ Ë 1 19

26 Ù ÑÑ Ò ÙÒ Ö ÙÒ ÞÙ ÖÙÒ ¹ Ð Ò Ò Ë Ú Ö ÐØ Þ ÒÙÒ Û µ ËÔÖ ¹ Ö Ø ÐÐÙÒ ØÖ ØØ Ö Ò Ø Ö Ö Ò Ë ØÖ ØØ Ö Ò Ø Ò Ø ÙÒÑĐÓ Ð Ö ¹ Ò Û ÒÒ ÒØÖ ØØ ØÖ ØØ Ò Ø Ì ÐÑ Ò ÚÓÒ Ò Ù ÒÒ Û ÒÒ ÒØÖ ØØ ØÖ ØØ Ò ÙÒ Ò Đ ÕÙ Ú Ð Ò¹ Ø Ö Ò Û ÒÒ ÒØÖ ØØ ØÖ ØØ Ò Ø Ò ÙÒ Ò ÙÒ Ø Ö Ò Ò Ù ÒÒ Û ÒÒ ÒØÖ ØØ ØÖ ØØ Ò Ø Ò Ò Ù ÒÒ Û ÒÒ Ñ Ò ¹ Ø Ò Ò ÒØÖ ØØ Ò Ù ÒÒ Û ÒÒ ½ Ó Ö ¾ Ó Ö ÒØÖ Øص ØÖ ØØ Ò Ò Ù ÒÒ Û ÒÒ ÐÐ ÒØÖ Ø Ò Ò Ù ÒÒ Û ÒÒ ½ ÙÒ ¾ ÙÒ ÒØÖ Ø Òµ ØÖ ØØ Ò ÙÒ Ò ÓÑÔÐ ¹ Ñ ÒØĐ Ö Ö Ò Ø Î Ö Ò ÙÒ Ö Ø ÙÖ Ò ØØ Ö Ë Ì 1 20

27 1.3 Wahrscheinlichkeiten Vor der Durchführung eines Zufallsvorgangs ist es ungewiss, welches Ereignis eintritt. In der Wahrscheinlichkeitsrechnung wird nun die Chance für das Eintreten eines bestimmten Ereignisses A S durch eine Zahl, die Wahrscheinlichkeit P [A], bewer- tet. Problem: Wie kommt man zu Wahrscheinlichkeiten? 1) Klassischer Wahrscheinlichkeitsbegriff (Laplace-Wahrscheinlichkeiten) Bei fairen Würfeln, Glücksrädern, Münzen, Lotto-Ziehungsgeräten, etc., gilt S = {ω 1,..., ω N } ist endlich Alle Ergebnisse sind gleichwahrscheinlich Die Wahrscheinlichkeit von A S ergibt sich durch Abzählen: P [A] = Anzahl der Elementarereignisse in A Anzahl der Elementarereignisse in S Beispiel: Würfel, A = gerade Augenzahl P [A] = 3/6 = 1/2 Statistik_II@finasto 1 21

28 2) Objektiver (statistischer) Wahrscheinlichkeitsbegriff Wahrscheinlichkeiten ergeben sich als Grenzwert der relativen Häufigkeit eines Ereignisses A S n-malige Wiederholung des interessierenden Zufallsexperiments relative Häufigkeit f n (A) Feststellung: Für n stabilisieren sich die relativen Häufigkeiten erfahrungsgemäß um einen festen Wert. Dieser Wert entspricht der Wahrscheinlichkeit P [A] Beispiel: n = 100, 1000, 10000,... mal würfeln. Bei einem fairen Würfel stabilisieren sich die relativen Häufigkeiten von A = gerade Augenzahl um P [A] = 1/2. 3) Subjektive Wahrscheinlichkeiten Subjektive Wahrscheinlichkeiten geben persönliche Einschätzungen wider. Beispiele: Ihre Einschätzung der Chance, die Klausur Statistik II zu bestehen; Konjunkturprognose durch einen Sachverständigen Statistik_II@finasto 1 22

29 1. Beispiel: Stabilisierung der relativen Häufigkeiten beim wiederholten Wurf einer fairen Münze. n h( Kopf ) f( Kopf ) , , , , , , , , , , , , , ,503 Statistik_II@finasto 1 23

30 2. Beispiel: Stabilisierung der relativen Häufigkeiten beim wiederholten Wurf eines fairen Würfels n = 20 Würfe n = 200 Würfe n = Würfe n = Würfe Statistik_II@finasto 1 24

31 3. Beispiel: Man betrachte ein Land mit N = Bürgerinnen und Bürgern Frauen Anteil = 51% Männer Anteil = 49% Zufallsexperiment: Ziehen eines zufällig ausgewählten Individuums ( mögliche Elementarereignisse Frage: Wahrscheinlichkeit des Ereignisses A ( Frau )? P [A] = = 0.51 Wiederholtes Ziehen von n = 10, 100, 1000,... Individuen: Mit wachsendem n nähert sich f n (A) immer stärker der Wahrscheinlichkeit P [A] an. Vollerhebung: f N (A) = P [A] Statistik_II@finasto 1 25

32 1.4 Wahrscheinlichkeitsverteilungen Ziel: Unabhängig von der Art des Wahrscheinlichkeitsbegriffs entwickeln wir einen Apparat, mit dem wir die Ausgänge eines Zufallsvorgangs quantifizieren können. Wir legen hier nur fest, welche Eigenschaften Wahrscheinlichkeiten haben müssen und wie wir mit ihnen rechnen dürfen. Jede sinnvolle Zuordnung von Wahrscheinlichkeiten für Ereignisse A, B S besitzt z.b. folgenden Eigenschaften: 0 P [A] 1 P [S] = 1 A B P [A] P [B] P [Ā] = 1 P [A] P [A B] = P [A] + P [B], falls A und B nicht gleichzeitig eintreten können. Die von Wahrscheinlichkeiten zu fordernden Eigenschaften sind in den Axiomen des russischen Mathematikers Kolmogoroff zusammengefasst. Alle zum Umgang mit Wahrscheinlichkeiten wichtigen Rechenregeln lassen sich aus diesen Axiomen ableiten. Statistik_II@finasto 1 26

33 Gegeben: Diskreter Ereignisraum S = {ω 1, ω 2,...} Ein Wahrscheinlichkeitsmaß P ist eine Abbildung, die allen Ereignissen A eines Zufallsvorgangs eine Zahl P [A] zuordnet, und die folgenden Bedingungen (Eigenschaften, Axiome) genügt: Axiom 1: Die Wahrscheinlichkeit P [A] eines Ereignisses A ist eine eindeutig bestimmte Zahl mit 0 P [A] 1 (Nichtnegativität) Axiom 2: P [S] = 1 (Normierung) Axiom 3: (Additivität) Sind A 1, A 2,..., A k,... paarweise disjunkt, dann gilt Für disjunkte Ereignisse (A B = ) gilt P [A 1 A 2... A k...] = P [A 1 ]+P [A 2 ]+...+P [A k ]+... (S, P[S], P ) heißt dann ein (diskreter) Wahrscheinlichkeitsraum und P heißt (diskrete) Wahrscheinlichkeitsverteilung. Falls S endlich ist, S = (ω 1,..., ω N ), sprechen wir von einem endlichen Wahrscheinlichkeitsraum. Statistik_II@finasto 1 27

34 S : Was kann alles passieren? genauer: Welche Ereignisse sind modelliert? P : Mit welcher Wahrscheinlichkeit treten die Ereignisse ein? Rechenregeln: P [S] = 1, P [ ] = 0 P [A] P [B], falls A B P [Ā] = 1 P [A] mit Ā = S\A P [A 1 A 2... A k ] = P [A 1 ]+P [A 2 ]+...+P [A k ], falls A 1, A 2,..., A k paarweise disjunkt P [A\B] = P [A] P [A B] Additionssatz: P [A B] = P [A] + P [B] P [A B] Statistik_II@finasto 1 28

35 Beispiele: 1. Fairer Würfel: Elementarwahrscheinlichkeiten: p 1 = P [{1}] = 1 6 = p 2 = = p 6 Wahrscheinlichkeit eine gerade Zahl zu würfeln: P [ Gerade Zahl ] = P [{2, 4, 6}] = p 2 + p 4 + p 6 = = 1 2 Wahrscheinlichkeit eine ungerade Zahl zu würfeln: P [ Ungerade Zahl ] = P [{1, 3, 5}] = p 1 + p 3 + p 5 = 1 2 = 1 P [ Gerade Zahl ] Wahrscheinlichkeit mehr als 4 zu würfeln: P [ Mehr als 4 ] = P [{5, 6}] = p 5 + p 6 = = 1 3 Statistik_II@finasto 1 29

36 2. Gefälschter Würfel: Elementarwahrscheinlichkeiten: p 1 = 1 12, p 2 = p 3 = p 4 = p 5 = 1 6, p 6 = 1 4 Wahrscheinlichkeit eine gerade Zahl zu würfeln: P [ Gerade Zahl ] = P [{2, 4, 6}] = p 2 + p 4 + p 6 = = 7 12 Wahrscheinlichkeit eine ungerade Zahl zu würfeln: P [ Ungerade Zahl ] = P [{1, 3, 5}] = p 1 + p 3 + p 5 = 5 12 = 1 P [ Gerade Zahl ] Wahrscheinlichkeit mehr als 4 zu würfeln: P [ Mehr als 4 ] = P [{5, 6}] = p 5 + p 6 = = 5 12 Statistik_II@finasto 1 30

37 3. Warten auf die erste Zahl beim wiederholten Wurf einer fairen Münze: Elementarwahrscheinlichkeiten: P [ Zahl im 1. Versuch ] = 1 2 =: p 1 P [ Zahl erst im 2. Versuch ] = 1 4 =: p 2 P [ Zahl erst im 3. Versuch ] = = 1 8 =: p 3 P [ Zahl erst im kten Versuch ] = ( 1 k 2) =: pk Probe: k=1 p k = k=1 ( ) k 1 = 1 (Geometr. Reihe) 2 Wahrscheinlichkeit für eine gerade Anzahl von Versuchen: P [ Gerade Anzahl Versuche ] = p 2 + p 4 + p 6 + = k=1 ( ) 2k 1 = = 1 3 Wahrscheinlichkeit für eine ungerade Anzahl von Versuchen: P [ Ungerade Anzahl Versuche ] = = 2 3 = p 1 + p 3 + p 5 + Statistik_II@finasto 1 31

38 Allgemeine Wahrscheinlichkeitsräume Wenn der Grundraum nicht diskret ist, können die Wahrscheinlichkeiten von Ereignissen nicht mehr durch Summieren von Elementarwahrscheinlichkeiten berechnet werden. Betrachtet man z.b. den Pfeilwurf auf eine Zielscheibe, so ist die Trefferwahrscheinlichkeit für jeden fest gewählten, einzelnen Punkt der Scheibe gleich 0. Damit kann die Wahrscheinlichkeit für einen Treffer ins Schwarze nicht als Summe der Elementarwahrscheinlichkeiten aller Punkte im Schwarzen erhalten werden. Anmerkung: Bei nicht diskreten Räumen ist weiterhin zu beachten, dass es aus mathematischen Gründen nicht möglich ist, allen denkbaren Mengen A S Wahrscheinlichkeiten zuzuweisen und gleichzeitig zu verlangen, dass die Rechenregeln für Wahrscheinlichkeiten weiter gelten. Als Ausweg betrachtet man eine Kollektion von Mengen, die abgeschlossen ist unter mengentheoretischen Operationen ( σ-algebra ). Nur noch den in der Kollektion enthaltenen Ereignissen wird eine Wahrscheinlichkeit zugeordnet. Alle in der Praxis relevanten Mengen wie z.b. Intervalle, Quadrate, Rechtecke, Kreise, Kreissektoren, Kreisringe, usw., sind i. Allg. in einer solchen Kollektion enthalten. Statistik_II@finasto 1 32

39 1.5 Laplace-Modell Annahmen im Laplace-Modell: S endlich, S = {ω 1,..., ω N } Alle Elementarereignisse gleichwahrscheinlich Elementarwahrscheinlichkeiten: p k = P [{ω k }] = 1 N = 1 #S für alle k = 1,..., N Berechnung der Wahrscheinlichkeit von A: P [A] = ω k A p k = #{ω k ω k A} 1 N = #{ω k ω k A} #S Anzahl der für A günstigen Fälle = Anzahl aller Fälle Beispiele: Fairer Würfel, faire Münze. 2 faire Würfel: P [ Pasch ] = 6 36 = 1 6 Kompliziertere Modelle (z.b. Wahrscheinlichkeit fuer 3,4,5,6 Richtige beim Lotto) geschicktes Abzählen: Kombinatorik. Statistik_II@finasto 1 33

40 1.6 Zufallsstichproben und Kombinatorik Gegeben: Grundgesamtheit bestehend aus N Elementen {e 1,..., e N } Beispiele: Urne bestehend aus 49 Kugeln (Lottozahlen), Gesamtheit aller Studenten in Bonn,... Wir betrachten nun Stichproben, die durch zufällige Ziehung von n Elementen der Grundgesamtheit entstehen Beispiele: Ziehung der Lottozahlen, Erstellung einer Zufallsstichprobe von Bonner Sudenten zu statistischen Zwecken In vielen Fällen interessiert man sich dabei für die Wahrscheinlichkeit eine bestimmte Stichprobe zu ziehen. Diese hängt ab von der Gesamtzahl der möglichen Stichproben in Abhängigkeit von der Art und Weise des Ziehungsvorgangs. und erfordert die Anwendung von kombinatorischen Überlegungen. Statistik_II@finasto 1 34

41 Modell mit Zurücklegen Grundgesamtheit aus N Elementen; n voneinander unabhängige Ziehungen jeweils eines zufälligen Elements ( nach jeder Ziehung wird das gezogene Element wieder in die Grundgesamtheit zurückgelegt). Anzahl der möglichen Stichproben: N n Grundgesamtheit aus N = 3 Elementen {a, b, c} Stichproben des Umfangs n = 2: {a, a}, {a, b}, {a, c}, {b, a}, {b, b}, {b, c}, {c, a}, {c, b}, {c, c} Jede dieser Stichproben wird mit der gleichen Wahrscheinlichkeit (1/9) gezogen Stichproben, die durch unabhängiges Ziehen mit Zurücklegen aus einer Grundgesamtheit entstehen, heißen einfache Zufallsstichproben. Statistik_II@finasto 1 35

42 Die Antwort auf die Frage des Chevalier de Méré: Was ist wahrscheinlicher: Aus 4 Würfen mindestens eine 6 oder aus 24 Würfen mindestens eine Doppelsechs zu erhalten? Fall 1: Mindestens eine 6 aus 4 Würfen Gesamtzahl aller möglichen Stichproben (= Ergebnisse der 4 Würfe): 6 4 Gesamtzahl aller möglichen Stichproben (= Ergebnisse der 4 Würfe), die keine 6 enthalten: 5 4 P [ mindestens eine 6 aus 4 Würfen ] = 1 P [ keine 6 aus 4 Würfen ] = , Analog: P [ mindestens eine Doppelsechs aus 24 Würfen ] = 1 P [ keine Doppelsechs aus 24 Würfen ] = , (An der kleinen Differenz der Wahrscheinlichkeiten sieht man, dass der Chevalier de Meré ein äußerst eifriger Spieler gewesen sein muss, um den Unterschied am Spieltisch wahrzunehmen.) Statistik_II@finasto 1 36

43 Modell ohne Zurücklegen Grundgesamtheit aus N Elementen; n aufeinanderfolgende Ziehungen jeweils eines zufälligen Elements. Nach jeder Ziehung wird das gezogene Element nicht wieder in die Grundgesamtheit zurückgelegt). Grundgesamtheit aus N = 3 Elementen {a, b, c} 6 Stichproben des Umfangs n = 2 bei Ziehen ohne Zurücklegen: {a, b}, {a, c}, {b, a}, {b, c}, {c, a}, {c, b} Jede dieser Stichproben ist gleichwahrscheinlich (1/6). Anmerkung: Beim Modell ohne Zurücklegen sind die einzelnen Ziehungen nicht unabhängig voneinander; das Resultat einer Ziehung beeinflusst die möglichen Ergebnisse jeder weiteren Ziehung Statistik_II@finasto 1 37

44 Modell ohne Zurücklegen Anzahl der möglichen Stichproben vom Umfang n: N (N 1) (N n + 1) = N! (N n)! Fakultät Die Fakultät einer natürlichen Zahl k ist definiert durch Es gilt k! = k (k 1) (k 2) ! = 1, 0! = 1 Beispiele: 2! = 2 3! = 6 4! = 24 10! = ! = Statistik_II@finasto 1 38

45 Permutationen Grundgesamtheit aus N Elementen; durch N- maliges zufälliges Ziehen ohne Zurücklegen werden nacheinander alle Elemente der Grundgesamtheit gezogen. Die resultierenden Stichproben (Permutationen) unterscheiden sich nur in der Reihenfolge der Ele- mente. Anwendungsbeispiel: Auslosung der Startreihenfolge bei einem Sportereignis mit N teilnehmenden Sportlern. N = 3 Elementen {a, b, c} 6 mögliche Permutationen: {a, b, c}, {a, c, b}, {b, a, c}, {b, c, a}, {c, a, b}, {c, b, a} Jede Permutation ist gleichwahrscheinlich (1/6) Anzahl möglicher Permutationen bei N Objekten: N! Statistik_II@finasto 1 39

46 Modell ohne Zurücklegen und ohne Berücksichtigung der Reihenfolge Grundgesamtheit aus N Elementen; durch zufälliges Ziehen ohne Zurücklegen werden nacheinander n Elemente gezogen. Keine Berücksichtigung der Reihenfolge; zwei Stichproben sind äquivalent, wenn sie die gleichen Ele- entahlten. mente Anzahl der möglichen Stichproben vom Umfang n (jeweils gleichwahrscheinlich): ( ) N n Binomialkoeffizient Der Binomialkoeffizient ( N n) ist definiert als ( ) N N! = n (N n)! n! Es gilt ( ) ( N N = 1, 0 1 ( ) N n ) = N, ( ) N N = 0 falls N < n = 1, Statistik_II@finasto 1 40

47 Anwendungsbeispiel: Ziehung der Lottozahlen. Bei der Ziehung der Lottozahlen handelt es sich um ein Beispiel für ein Modell ohne Zurücklegen und ohne Berücksichtigung der Reihenfolge. Die Stichprobe 4, 7, 11, 13, 26, 28 wird nicht unterschieden von der Ziehung 11, 26, 13, 28, 4, 7 Es gibt also ( ) 49 6 = 49! (43)! 6! = Möglichkeiten 6 Lottozahlen aus 49 Kugeln zu ziehen Wahrscheinlichkeit, dass eine bestimmte (getippte) Kombination die richtige ist: P [ 6 Richtige ] = = 0, Statistik_II@finasto 1 41

48 Wahrscheinlichkeit für 3, 4, 5, 6 Richtige? Modell ohne Zurücklegen, Reihenfolge irrelevant alle Ziehungen gleichwahrscheinlich Laplace-Modell P [ 6 Richtige ] = 1 ( 49 6 ) = P [ 3 Richtige ] = = , #{ 3 Richtige und 3 Falsche } #{Alle möglichen Tipps} ( ) 3)( 6 3 ( 49 6 ) =... P [ k Richtige ] = = #{ k Richtige und 6 k Falsche } #{Alle möglichen Tipps} ( ) k)( 6 k ( 49 6 ) Statistik_II@finasto 1 42

49 Anmerkungen: In der Sprache der Kombinatorik werden Zusammenstellungen (Ziehungen) von n Elementen, die sich unter Berücksichtigung der Reihenfolge ergeben, als Variationen bezeichnet Zusammenstellungen (Ziehungen) von n Elementen, die ohne Berücksichtigung der Reihenfolge ergeben, werden Kombinationen genannt Anzahl Stichproben beim Modell mit Zurücklegen und ohne Berücksichtigung der Reihenfolge (Kombination mit Wiederholung): ( ) N + n 1 Vorsicht: Stichproben nicht gleichwahrscheinlich n Statistik_II@finasto 1 43

50 1.7 Bedingte Wahrscheinlichkeiten und Unabhängigkeit Bei manchen Problemen der Wahrscheinlichkeitsrechnung betrachtet man das Eintreten von Ereignissen in Abhängigkeit von bestimmten anderen Ereignissen. Beispiel: Ein Unternehmen stellt 2000 Teile auf zwei Maschinen her Teile werden auf Maschine 1 hergestellt. Davon sind 1162 Teile fehlerfrei. 600 Teile werden auf Maschine 2 produziert. Hiervon sind 378 Teile fehlerfrei. A ={Teil ist fehlerfrei} B ={Teil auf Maschine 1 hergestellt} C ={Teil auf Maschine 2 hergestellt} Statistik_II@finasto 1 44

51 fehlerfrei = A mit Fehlern = Ā Maschine 1 = B Maschien 2 = C P [A] = 1540 = 0, P [B] = = 0, 7 P [A B] = = 0, 581 Wie hoch ist die Wahrscheinlichkeit, dass ein zufällig entnommenes fehlerfreies Teil auf Maschine 1 hergestellt wurde? P [B A] = P [A B] P [A] = 0, 581 0, 77 = Statistik_II@finasto 1 45

52 Bedingte Wahrscheinlichkeit Wollen definieren: Wahrscheinlichkeit von A, angenommen B tritt ein. (B ist neuer Grundraum) Bezeichnung: P [A B] Definition: [bedingte Wahrscheinlichkeit] Man betrachte Ereignisse A, B S mit P [B] > 0. Die bedingte Wahrscheinlichkeit von A gegeben B wird definiert durch P [A B] := P [A B] P [B] P [ B] als Funktion der Ereignisse A heisst bedingte Wahrscheinlichkeitsverteilung bzgl B. Bedingte Wahrscheinlichkeiten sind wiederum Wahrscheinlichkeiten im Sinne der Axiome von Kolmogoroff (alle Rechenregeln für normale Wahrscheinlichkeiten sind erfüllt). Statistik_II@finasto 1 46

53 Unabhängigkeit Definition: [Unabhängige Ereignisse] Ein Ereignis A ist dann von einem Ereignis B stochastisch unabhängig, wenn das Eintreten des Ereignisses A von dem Eintreten oder Nichteintreten des Ereignisses B nicht abhängt. P [A B] = P [A] P [B A] = P [B] P [A B] = P [A] P [B] Bemerkung: unabhängig ist nicht gleichbedeutend mit disjunkt Beispiel: Zwei Ereignisse: A und B mit P [A] > 0, P [B] > 0 P [A B] = P [A B] = 0 aber: P [A B] = 0 P [A] P [B] Statistik_II@finasto 1 47

54 Beispiel 1: Zweimaliges Werfen eines Würfels A = { Im ersten Wurf eine 6 } B = { Im zweiten Wurf eine 6 } P [B A] = P [B] = 1 6, A und B sind unabhängig Beispiel 2: Augenfarbe und Intelligenz A = { Hohe Intelligenz }, B = { Blaue Augen } Vierfeldertafel der Wahrscheinlichkeiten in einer Population: IQ\Augen B (blau) B (nicht blau) Summe A P [A B] = 0.1 P [A B] = 0.4 P [A] = 0.5 Ā P [Ā B] = 0.1 P [Ā B] = 0.4 P [Ā] = 0.5 Summe P [B] = 0.2 P [ B] = 0.8 P [S] = 1 P [A B] = P [A] P [B] = 0.1, P [Ā B] = P [Ā)] P [ B] = 0.4 A und B sind unabhängig, Statistik_II@finasto 1 48

55 Verallgemeinerung auf mehr als zwei Ereignisse Multiplikationssatz: Für Ereignisse A 1,..., A n P [A 1... A n ] = P [A 1 )] P [A 2 A 1 ] P [A 3 A 1 A 2 ] P [A n A 1... A n 1 ] Unabhängigkeit: Die Ereignisse A 1,..., A n heißen stochastisch unabhängig, wenn für jede Auswahl A i1,..., A im mit m n gilt P [A i1... A im ] = P [A i1 ] P [A i2 ] P [A im ] Statistik_II@finasto 1 49

56 1.8 Totale Wahrscheinlichkeit und das Theorem von Bayes Beispiel: [Weinkeller] Qualitätswein, Kabinett, Spätlese: 5:3:2 Weißweinanteil: 1/5, 1/3 bzw. 1/4 Wahrscheinlichkeit für Weinsorten A 1 = { Qualitätswein } P [A 1 ] = 0, 5 A 2 = { Kabinett } P [A 2 ] = 0, 3 A 3 = { Spätlese } P [A 3 ] = 0, 2 vollständige Zerlegung von S A 1 A 2 A 3 = S A 1 A 2 =, A 1 A 3 =, A 2 A 3 =, Frage: Wie hoch ist die Wahrscheinlichkeit für Ereignis B, eine ausgewählte Flasche ist Weißwein? P [B A 1 ] = 1 5 P [B A 2 ] = 1 3 P [B A 3 ] = 1 4 Statistik_II@finasto 1 50

57 A 1 Qualitätswein A 1 B A 3 B A 2 B A 3 Kabinett A 2 Spätlese Vorgehen: A 1.A 2, A 3 bilden eine vollständige Zerlegung des Grundraums S B = (B A 1 ) (B A 2 ) (B A 3 ) P [B] =P [(B A 1 ) (B A 2 ) (B A 3 )] =P [(B A 1 )] + P [(B A 2 )] + P [(B A 3 )] =P [B A 1 ] P [A 1 ] + P [B A 2 ] P [A 2 ] + P [B A 3 ] P [A 3 ] = = Statistik_II@finasto 1 51

58 Totale Wahrscheinlichkeit Satz von der totalen Wahrscheinlichkeit: Seien A 1,..., A k Ereignisse, die eine Zerlegung von S bilden, d.h. es gilt: A i A j =, i j, und A 1 A 2 A k = S. Dann folgt für ein Ereignis B S: P [B] = P [A 1 B] + P [A 2 B] P [A k B] = = k P [A i B] i=1 k P [B A i ] P [A i ]. i=1 Statistik_II@finasto 1 52

59 Beispiel: [Weinkeller (Fortsetzung)] Weitere mögliche Fragestellung: Wie groß ist die Wahrscheinlichkeit P [A 1 B] dafür, daß eine zufällig ausgewählte Weißweinflasche Qualitätswein ist? Grundlage: Wir kennen die Wahrscheinlichkeiten P [B A i ] und P [A i ] i = 1,..., 3 Aus der Definition der bedingten Wahrscheinlichkeit folgt: P [A 1 B] = P [A 1 B] P [B] = P [B A 1 ] P [A 1 ] P [A 1 B] = P [B A 1] P [A 1 ] P [B] = P [B A 1] P [A 1 ] 3 i=1 P [B A i] P [A i ] = = 2 5 Statistik_II@finasto 1 53

60 Satz von Bayes [Thomas Bayes, englischer Pastor, Mathematiker, ( )] Seien die Vorraussetzungen des Satzes von der totalen Wahrscheinlichkeit erfüllt. Dann kann auch nach der Wahrscheinlichkeit von A i gefragt werden unter der Bedingung, dass B eingetreten ist (Wahrscheinlichkeit a posteriori). Satz von Bayes: Seien A 1,..., A k Ereignisse, die eine Zerlegung von S bilden Sei B Ereignis, derart daß P [B] > 0. Dann gilt: P [A j B] = P [A j ]P [B A j ] k i=1 P [A i]p [B A i ] = P [A j]p [B A j ] P [B] Wir nennen die Wahrscheinlichkeiten P [A i ] a-priori Wahrscheinlichkeiten P [A i B] a-posteriori Wahrscheinlichkeiten Statistik_II@finasto 1 54

61 Hilfsmittel bei der Berechnung von Wahrscheinlichkeiten: Baumdiagramm Voraussetzung: Vollständige Zerlegung des Ereignisraums Beispiel: Ereignisse A, Ā und B, B P (B A) B P (A) A P ( B A) B P (Ā) Ā P (B Ā) B P ( B Ā) B zur Kontrolle: Die Wahrscheinlichkeiten, der von einem Punkt des Baumdiagramms ausgehenden Äste, haben stets die Summe 1. Die Summe aller Pfadwahrscheinlichkeiten ist 1. Statistik_II@finasto 1 55

62 Pfadregeln: 1) Wird ein Ergebnis durch einen einzelnen Pfad beschrieben, so ist die Wahrscheinlichkeit dieses Ergebnisses (= Pfadwahrscheinlichkeit) gleich dem Produkt aller Wahrscheinlichkeiten längs des zugehörigen Pfades. 2) Setzt sich ein Ereignis aus mehreren Pfaden zusammen, so werden die entsprechenden Pfadwahrscheinlichkeiten addiert. 1 56

63 2 Diskrete Zufallsvariablen Beispiel: Zufallsexperiment: dreimaliges Werfen einer idealen Münze (Kopf (K) und Zahl (Z)) Ereignisraum Ω = {KKK, KKZ, KZK, ZKK, KZZ, ZKZ, ZZK, ZZZ} Alle Elementarereignisse sind gleichwahrscheinlich Zufallsvariable: X = Anzahl Z Werte von X: X = 0 falls das Elementarereignis {KKK} eintritt X = 1 falls eines der Elementarereignisse {KKZ}, {KZK} oder {ZKK} eintritt X = 2 falls eines der Elementarereignisse {KZZ}, {ZKZ} oder {ZZK} eintritt X = 3 falls das Elementarereignis {ZZZ} eintritt Statistik_II@finasto 2 1

64 Zufallsvariable Eine numerische Variable oder ein Merkmal X, dessen Werte oder Ausprägungen die Ergebnisse eines Zufallsvorgangs sind, heißt Zufallsvariable X. Die Zahl x R, die X bei einer Durchführung des Zufallsvorgangs annimmt, heißt Realisierung oder Wert von X. Formal ist eine Zufallsvariable eine Abbildung, die jedem möglichen Elementarereignis ω Ω einen Zahlenwert X(ω) zuweist: ω X(ω) Wie in der deskriptiven Statistik ist das Skalenniveau eines Merkmals entscheidend für das weitere Vorgehen. Von besonderer Bedeutung ist die Unterscheidung zwischen diskreten und stetigen Zufallsvariablen. Statistik_II@finasto 2 2

65 Beispiele: 1) Ω = Menge aller Bürgerinnen und Bürger von Bonn Zufallsexperiment: Zufälliges Ziehen aus Ω Diskrete Zufallsvariable: In Abhängigkeit vom Geschlecht nimmt X die Werte 0 und 1 an 0 falls weiblich X = 1 falls männlich Stetige Zufallsvariable: Jedem Bürger wird seine Körpergröße zugewiesen, X = Körpergröße. 2) Würfelspiel: X = Anzahl der benötigten Versuche bis zum ersten Mal eine 6 auftritt X diskrete Zufallsvariable, jede natürliche Zahl ist mögliche Ausprägung Von statistischem Interesse: Wahrscheinlichkeiten, z.b P [X = 1], P [X 3], P [X 4], etc. Anmerkung: Im Fall 1) entsprechen Wahrscheinlichkeiten den relativen Häufigkeiten in der Grundgesamtheit. Statistik_II@finasto 2 3

66 2.1 Wahrscheinlichkeitsverteilungen Eine Zufallsvariable heißt diskret, falls sie nur endlich oder abzählbar unendlich viele Werte x 1, x 2,..., x k,... annehmen kann. Die Wahrscheinlichkeitsverteilung von X ist durch die Wahrscheinlichkeiten P [X = x i ] = p i, i = 1, 2,..., k,... gegeben. Beispiel: Dreimaliges Werfen einer idealen Münze Elementar- Wahrschein- Anzahl Wahrscheinlichereignis lichkeit der Z keiten von X ω j P [{ω j }] x i P [X = x i ] = p i ω 1 - KKK P [{ω 1 }] = 0, 125 x 1 = 0 p 1 = 0, 125 ω 2 - KKZ P [{ω 2 }] = 0, 125 x 2 = 1 p 2 = 0, 375 ω 3 - KZK P [{ω 3 }] = 0, 125 ω 4 - ZKK P [{ω 4 }] = 0, 125 ω 5 - KZZ P [{ω 5 }] = 0, 125 x 3 = 2 p 3 = 0, 375 ω 6 - ZKZ P [{ω 6 }] = 0, 125 ω 7 - ZZK P [{ω 7 }] = 0, 125 ω 8 - ZZZ P [{ω 8 }] = 0, 125 x 4 = 3 p 4 = 0, 125 Statistik_II@finasto 2 4

67 Wahrscheinlichkeitsfunktion Die Wahrscheinlichkeitsfunktion einer diskreten Zufallsvariablen mit möglichen Werten x 1, x 2,..., x k,... ist definiert durch P [X = x] für x {x 1, x 2,..., x k,...} f(x) = 0 sonst Eigenschaften: f(x i ) = p i 0, f(x i ) = 1 i Beispiel: Wahrscheinlichkeitsfunktion f(x) x Statistik_II@finasto 2 5

68 Verteilungsfunktion (einer diskreten Zufallsvariable X mit Werten x i ) Beispiel: F (x) = P [X x] = x i x f(x i ) F (x) = 0 für x < 0 0, 125 für 0 x < 1 0, 5 für 1 x < 2 0, 875 für 2 x < 3 1 für x 3 Verteilungsfunktion F(x) x Statistik_II@finasto 2 6

69 Berechnung von Wahrscheinlichkeiten für beliebige Ereignisse A Ω: P [X A] = P [X = x i ] = Spezialfälle: i:x i A i:x i A P [X b] = p i = F (b) i:x i b P [X a] = i:x i a P [X > a] = p i = 1 F (a) i:x i >a P [X ]a, b]] = p i = F (b) F (a) p i i:a<x i b p i Beispiel: Dreimaliges Werfen einer idealen Münze P [X 2] = p 1 + p 2 + p 3 = 0, 875 P [0 < X 1] = P [X = 1] = p 2 = 0, 375 P [0 X 1] = p 1 + p 2 = 0, 5 P [2 X 3] = p 3 + p 4 = 0, 5 Statistik_II@finasto 2 7

70 2.2 Unabhängigkeit von Zufallsvariablen Idee: Zwei Zufallsvariablen X und Y sind unabhängig, falls sie sich gegenseitig nicht beeinflussen. Zwei diskrete Zufallsvariablen X und Y heißen unabhängig, wenn für alle möglichen Werte x, y P [X = x, Y = y] = P [X = x] P [Y = y] Verallgemeinerung: X 1,..., X n heißen unabhängig, falls P [X 1 = x 1,..., X n = x n ] = P [X 1 = x 1 ] P [X n = x n ] Anmerkung: Seien X 1,..., X n Zufallsvariablen, die jeweils die einzelnen Versuche bei n-maliger unabhängiger Wiederholung eines Zufallsexperiments beschreiben. Dann gilt Alle X i haben die gleiche Verteilung X 1,..., X n sind voneinander unabhängig Statistik_II@finasto 2 8

71 2.3 Erwartungswert und Varianz Der Erwartungswert E(X) einer diskreten Zufallsvariable X ist definiert durch E(X) = x 1 p x k p k +... = i 1 x i p i bzw. E(X) = x 1 f(x 1 ) x k f(x k ) +... = i 1 x i f(x i ) Statt E(X) schreibt man auch µ X oder einfach µ, wenn klar ist, welche Zufallsvariable gemeint ist. µ = E(X) wird häufig auch als Mittelwert der Zufallsvariable X bezeichnet. Subjektive Interpretation von µ X : p i ist ein Gewicht, das dem Wert x i zukommt, da man diesen mit Wahrscheinlichkeit P [X = x i ] = p i erwartet. Für X erwartet man dann die Summe der gewichteten Werte x i p i. Statistik_II@finasto 2 9

72 Analogie( Statistik I): Empirischer Mittelwert eines diskreten Merkmals X mit k möglichen Ausprägungen: n Beobachtungen mit relativen Häufigkeiten f 1,n,..., f k,n x = k x i f i,n i=1 Man beachte jedoch: E(X) charakterisiert eine Zufallsvariable x beschreibt den Schwerpunkt von Daten Asymptotischer Zusammenhang zwischen x und E(X): Gesetz der großen Zahlen Das der Zufallsvariable X zugrundeliegende Zufallsexperiment werde n mal unabhängig voneinander durchgeführt. x n - Mittelwert der resultierenden Beobachtungen Gesetz der großen Zahlen: Falls n groß ist, liegt x n mit hoher Wahrscheinlichkeit nahe bei E(X); je größer n, umso geringer der zu erwartende Unter- schied Häufigkeitsinterpretation von µ X. Statistik_II@finasto 2 10

73 Beispiele: (Erwartete Wettgewinne) 1) Werfen einer Münze; Wetteinsatz: 1 DM Gewinn bei Zahl, 1 DM Verlust bei Kopf 1 falls Z Zufallsvariable: X = 1 falls K E(X) = 1 2 ( 1) = 0 Bei häufigem Werfen der Münze ist der mittlere Gewinn 0, Gewinne und Verluste gleichen sich aus 2) Dreimaliges Werfen einer Münze; Wetteinsatz: 10 DM Gewinn bei ZZZ, jeweils 1 DM Verlust bei anderen Ergebnissen Zufallsvariable: X = 10 falls ZZZ 1 sonst E(X) = 0, , 875 ( 1) = 0, 375 Bei häufiger Wiederholung des Zufallsexperiments ist der mittlere Gewinn 0,375 DM. Statistik_II@finasto 2 11

74 Transformationen Transformationsregel für Erwartungswerte Sei g(x) eine reelle Funktion. Dann gilt für Y = g(x) E(Y ) = E(g(X)) = i 1 g(x i )p i = i 1 g(x i )f(x i ) Beispiel: g(x) = x 2, X diskret mit k möglichen Ausprägungen E(g(X)) = E(X 2 ) = x 2 1p x 2 kp k Lineare Transformationen Für Y = ax + b gilt: E(Y ) = ae(x) + b Für zwei Zufallsvariablen X 1 und X 2 und Konstanten a 1, a 2 gilt: E(a 1 X 1 + a 2 X 2 ) = a 1 E(X 1 ) + a 2 E(X 2 ) Statistik_II@finasto 2 12

75 2.4 Varianz und Standardabweichung Die Varianz Var(X) einer diskreten Zufallsvariable X ist definiert durch Var(X) = (x 1 µ) 2 p (x k µ) 2 p k +... = i 1(x i µ) 2 f(x i ) und die Standardabweichung ist σ X = Var(X) Statt Var(X) schreibt man auch σx 2 oder einfach σ2, wenn klar ist, welche Zufallsvariable gemeint ist. Varianz als erwartete quadratische Abweichung Var(X) = E(X µ) 2 Rechentechnisch günstige Formel Var(X) = E(X 2 ) µ 2 Statistik_II@finasto 2 13

76 Lineare Transformation Für Y = ax + b ist Var(Y ) = a 2 Var(X) und σ Y = a σ X Unabhängige Zufallsvariablen: Sind X und Y unabhängig, so gilt E(X Y ) = E(X) E(Y ) Var(X + Y ) = Var(X) + Var(Y ) Beispiel: Werfen eines idealen Würfels; Gewinn von X = 1 DM bei 1,..., X = 6 DM bei 6 Erwartungswert: µ = E(X) = 6 i=1 1 6 i = 3, 5 Varianz: σ 2 = E(X 2 ) µ 2 = 6 i=1 1 6 i2 (3, 5) 2 = 2, 917 Statistik_II@finasto 2 14

77 2.5 Weitere Charakeristika von Verteilungen Die Definition von Modus, Median, etc. erfolgt analog zu den entsprechenden Definitionen in Statistik I, indem man relative Häufigkeiten durch Wahrschein- ersetzt. lichkeiten Modus: x mod ist ein Wert für den die Wahrscheinlichkeitsfunktion f(x) = P [X = x] maximal wird. Quantile: Ein Wert x p mit 0 < p < 1 für den P [X x p ] = F (x p ) p und P [X x p ] 1 p gilt, heißt p Quantil der diskreten Zufallsvaribale X. Für p = 0, 5 heißt x med = x 0,5 Median Bei symmetrischen Verteilungen gilt: x mod = x med = µ X Statistik_II@finasto 2 15

78 2.6 Wichtige diskrete Verteilungsmodelle Die diskrete Gleichverteilung Eine diskrete Zufallsvariable mit möglichen Ausprägungen x 1,..., x k heißt gleichverteilt auf {x 1,..., x k }, wenn für alle i = 1,..., k P [X = x i ] = 1 k gilt Anwendung: Werfen eines idealen Würfels Die Zufallsvariable X = Augenzahl ist gleichverteilt auf {1, 2,..., 6} p 1 = P [X = 1] =... = p 6 = P [X = 6] = 1 6 Statistik_II@finasto 2 16

79 Übersicht: Diskrete Gleichverteilung Wahrscheinlichkeitsfunktion 1 k für x = x 1, x 2,..., x k f(x) = 0 sonst Erwartungswert k E(X) = µ = 1 k Varianz Var(X) = σ 2 = 1 k i=1 x i k (x i µ) 2 i=1 Verteilungsfunktion 0 für x < x 1 F (x) = i k für x i x < x i+1, 1 i < k 1 für x k x Statistik_II@finasto 2 17

80 Wahrscheinlichkeitsfunktion (diskrete Gleichverteilung) f(x) x Verteilungsfunktion (diskrete Gleichverteilung) F(x) x Statistik_II@finasto 2 18

81 Bernoulli Variablen Oft interessiert man sich bei einem Zufallsvorgang nur dafür, ob ein bestimmtes Ereignis A eintritt oder nicht. Man spricht dann von einem Bernoulli Vorgang oder Bernoulli-Experiment. Die Zufallsvariable 1 falls A eintritt X = 0 falls A nicht eintritt heißt binäre Variable oder Bernoulli- Variable Beispiele: A = weiblich (X = 1), Ā = männlich (X=0) A = arbeitslos (X = 1), Ā = nicht arbeitslos (X=0) X folgt einer Bernoulli-Verteilung mit Parameter p = P [A], kurz Es gilt dann: X Bernoulli(p) P [X = 1] = p, P [X = 0] = 1 p E(X) = p, Var(X) = p(1 p) Statistik_II@finasto 2 19

82 2.6.2 Die geometrische Verteilung Ein Bernoulli-Experiment werde solange wiederholt, bis zum ersten Mal das interessierende Ereignis A eintritt. Man betrachte Beispiel: X = Anzahl der Versuche bis zum ersten Mal A eintritt Würfelspiel: Man würfelt solange, bis zum ersten Mal eine 6 geworfen wird. X = Anzahl der Würfe bis zum ersten Mal 6 eintritt X ist geometrisch verteilt mit Parameter p: Herleitung: X G(p) Mögliche Werte von X: 1, 2, 3,... (alle nat. Zahlen!) X nimmt einen Wert x an, falls zunächst x 1 mal das Komplementärereignis Ā und dann im x ten Versuch A eintritt. Die Unabhängigkeit der Ereignisse führt auf P [X = x] = P (Ā }. {{.. Ā } A) = (1 p) x 1 p x 1 mal Statistik_II@finasto 2 20

83 Übersicht: Geometrische Verteilung Wahrscheinlichkeitsfunktion (1 p) x 1 p für x = 1, 2, 3,... f G (x) = 0 sonst Erwartungswert Varianz E(X) = 1 p Var(X) = 1 p p 2 Verteilungsfunktion [x] (1 p) k 1 p für x 1 F G (x) = k=1 0 sonst [x] - größte ganze Zahl mit [x] x Statistik_II@finasto 2 21

84 Beispiel: Würfelspiel X = Anzahl der Würfe bis zum ersten Mal 6 eintritt Da p = P [ 6 ] = 1 6, gilt X G( 1 6 ) E(X) = 1 p = 6 Im Mittel braucht man also 6 Versuche, um zum ersten Mal eine 6 zu würfeln. P [X 2] = p + (1 p)p = Geometrische Reihe: l k=0 αk = 1 αl+1 1 α für 0 α < 1 P [X 6] = p 5 (1 p) k = p k=0 = 1 ( 5 6 ) 6 = 0, 6651 = 0, (1 p)6 p P [X > 10] = 1 P [X 10] [ ( ) ] 10 5 = 1 1 = 0, Statistik_II@finasto 2 22

85 2.6.3 Die Binomialverteilung n unabhängige Wiederholungen eines Bernoulli- Experiments mit gleicher Erfolgswahrscheinlichkeit p. Man betrachte X = Anzahl der Versuche, bei denen A eintritt Beispiele: Würfelspiel mit einem fairen Würfel: Mit Wahrscheinlichkeit p = 1/6 wird eine 6 geworfen X = Anzahl der 6 bei n = 20 Würfen Meinungsumfrage zu einer bestimmten politischen Entscheidung; p = Anteil der Befürworter in der Population. Einfache Zufallsstichprobe vom Umfang n: X = Anzahl Befürworter in der Stichprobe X ist binomialverteilt mit den Parametern p und n: X B(n, p) Anmerkung: Bernoulli(p) = B(1, p) Statistik_II@finasto 2 23

86 Herleitung der Binomialverteilung Mögliche Werte von X: 0, 1, 2,..., n 1, n X nimmt einen Wert x an, falls z.b. das Ereignis zunächst x mal A, danach n x mal Ā eintritt. Unabhängigkeit impliziert P [A }. {{.. A } Ā }. {{.. Ā } ] = p x (1 p) n x x mal n x mal Anzahl möglicher Ziehungen, bei denen jeweils x mal A und n x mal Ā auftritt: ( ) n! n x!(n x)! = x Alle diese Fälle sind gleichwahrscheinlich P [X = x] = ( ) n p x (1 p) n x x Statistik_II@finasto 2 24

87 Herleitung von Erwartungswert und Varianz: X läßt sich als Summe von unabhängigen Bernoulliverteilten Zufallsvariablen schreiben: n X = mit X i = i=1 X i 1 falls beim i-ten Versuch A eintritt 0 falls beim i-ten Versuch Ā eintritt X 1,..., X n sind unabhängig, und E(X i ) = p, Var(X i ) = p(1 p) i = 1,..., n Damit ergibt sich E(X) = E(X 1 ) E(X n ) = np Var(X) = Var(X 1 ) Var(X n ) = np(1 p) Statistik_II@finasto 2 25

88 Übersicht: Binomialverteilung Wahrscheinlichkeitsfunktion ( n ) x p x (1 p) n x für x = 0, 1, 2,..., n f B (x) = 0 sonst Erwartungswert E(X) = np Varianz Var(X) = np(1 p) Verteilungsfunktion F B (x) = [x] k=0 ( n k ) p k (1 p) n k für x 0 0 sonst Statistik_II@finasto 2 26

89 Ô Ð Ôµ p=0.1 f(x) p=0.25 f(x) p=0.5 f(x) p=0.75 f(x) p=0.9 f(x)

90 Beispiel: Schießen auf eine Zielscheibe Mittelmäßiger Schütze: p = P [ Treffer in Schwarze ] = 0, 3 X = Anzahl der Treffer ins Schwarze bei n = 5 Schüssen X B(5; 0, 3) Wahrscheinlichkeit von 2 Treffern ( ) 5 P [X = 2] = f B (2) = 0, 3 2 0, 7 3 = 0, Wahrscheinlichkeits- und Verteilungsfunktion: p = 0, 3, n = 5 x f B (x) F B (x) 0 0,1681 0, ,3601 0, ,3087 0, ,1323 0, ,0284 0, ,0024 1,0000 Statistik_II@finasto 2 28

91 2.6.4 Die hypergeometrische Verteilung Aus einer endlichen Grundgesamtheit von N Einheiten, von denen M eine interessierende Eigenschaft A besitzen, wird n mal rein zufällig, aber ohne Zurücklegen gezogen. Man betrachte X = Anzahl der gezogenen Objekte mit der Eigenschaft A Beispiele: Lotterie: Behälter mit N = 50 Losen, M = 10 Gewinnen und N M = 40 Nieten X = Anzahl der Gewinne beim Kauf von n = 25 Losen Wohngemeinschaft mit N = 5 Personen, M = 2 Frauen und N M = 3 Männern. Zufällige Ziehung von n = 2 unterschiedlichen Personen. X = Anzahl der Frauen unter den 2 gezogenen Personen X folgt einer hypergeometrischen Verteilung mit den Parametern n, M und N: X H(n, M, N) Anmerkung: H(1, M, N) = Bernoulli(p) = B(1, p) für p = M/N Statistik_II@finasto 2 29

92 Übersicht: Hypergeometrische Verteilung Wir setzen voraus, dass N > n Wahrscheinlichkeitsfunktion ( M x )( N M n x ) für x = 0, 1, 2,..., n ( N n) f H (x) = 0 sonst Achtung: Man setzt hier ( k 1 k 2 ) = 0, falls k2 > k 1. Erwartungswert Varianz Verteilungsfunktion E(X) = n M N Var(X) = n M N (1 M N )N n N 1 F H (x) = [x] k=0 ( M x )( N M n k ) ( N n) für x 0 0 sonst Statistik_II@finasto 2 30

93 Beispiele: Hypergeometrische Verteilung für verschiedene Werte von n, M, N: f(x) N=100, M=20, n= x N=16, M=8, n=8 f(x) x Statistik_II@finasto 2 31

94 Zusammenhang mit der Binomialverteilung Ebenso wie eine binomialverteilte lässt sich auch eine hypergeometrische verteilte Zufallsvariable X als Summe von Bernoulli-verteilten Variablen schreiben: n X = mit X i = i=1 X i 1 falls bei der i-ten Ziehung A eintritt 0 falls bei der i-ten Ziehung Ā eintritt Da ohne Zurücklegen gezogen wird, sind hier die Zufallsvariablen X 1,..., X n voneinander abhängig. Beim Vergleich von X H H(n, M, N) und X B B(n, p) mit p = M/N ergibt sich: E(X H ) = np = E(X B ) Var(X H ) = np(1 p) N n N 1 < Var(X B) = np(1 p) Für kleine Werte n/n ist der Korrekturfaktor N n N 1 praktisch gleich 1. Approximation: Sind N und M groß gegenüber n, so gilt approximativ P (X H = x) P (X B = x) für x = 0, 1,..., n Statistik_II@finasto 2 32

95 Beispiel: Lotterielose Behälter mit N Losen, M Gewinnen und N M Nieten X = Anzahl der Gewinne beim Kauf von n = 2 Losen aus dem Behälter X H(2, M, N) N = 6, M = 2 p = M/N = 1/3 H(2, 2, 6) B(2, 1/3) x f H (x) f B (x) = = N = 60, M = 20 p = M/N = 1/3 H(2, 20, 60) B(2, 1/3) x f H (x) f B (x) = H(2, 20, 60) B(2, 1/3) Statistik_II@finasto 2 33

96 2.6.5 Die Poisson-Verteilung Die Poisson-Verteilung dient zur Modellierung von Zählvorgängen in kontinuierlicher Zeit. Man betrachtet X = Anzahl des Auftretens eines Ereignisses A in einem festen Zeitintervall [0, 1] Beispiele: X = Anzahl der Insolvenzen in einem Jahr X = Anzahl der Unfälle auf einem vorgegebenen Abschnitt der A61 innerhalb eines Monats X = Anzahl der Anrufe bei der Hotline eines Unternehmens innerhalb eines Tages Zur Modellierung solcher Zählvariablen X wird häufig von einer Poisson-Verteilung ausgegangen. Die jeweilige Struktur der Verteilung berechnet sich dann in Abhängigkeit von einem Parameter λ > 0, der dem im Mittel zu erwartenden Wert von X entspricht. Man schreibt X P o(λ) Statistik_II@finasto 2 34

97 Übersicht: Poisson-Verteilung Wahrscheinlichkeitsfunktion λ x x! f Po (x) = e λ für x = 0, 1, 2,... 0 sonst Erwartungswert E(X) = λ Varianz Var(X) = λ Verteilungsfunktion F P o (x) = [x] λ k k! e λ für x 0 k=0 0 sonst Statistik_II@finasto 2 35

98 Beispiele [Poisson-Verteilung] lambda=5 f(x) x lambda=1 f(x) x Statistik_II@finasto 2 36

99 Poisson-Verteilung für Intervalle variabler Länge (Poisson-Prozess) Sei X = Anzahl des Auftretens eines Ereignisses A im Zeitintervall [0, 1] und für einen Zeitpunkt t > 0 sei X t = Anzahl des Auftretens des Ereignisses A in dem Zeitintervall [0, t] Falls X P o(λ), so ist X t Poisson-verteilt mit Parameter λ t: Hieraus folgt X t P o(λt) P [X t = x] = (λt)x x! e λt für x = 0, 1, 2,... E(X t ) = λt, Var(X t ) = λt Statistik_II@finasto 2 37

100 Anmerkung: Die Modellierung von Zählvorgängen durch die Poisson-Verteilung beruht auf einigen Annahmen, deren Gültigkeit - zumindest näherungsweise - kritisch geprüft werden muss. Sei X = Anzahl des Auftretens eines Ereignisses A im Zeitintervall [0, t] X ist Poisson-verteilt, falls Die Wahrscheinlichkeit, dass zwei Ereignisse genau gleichzeitig auftreten, ist Null. Die Wahrscheinlichkeit des Eintretens von A innerhalb eines sehr kleinen Teilintervalls von [0, t] ist proportional zur Länge des Intervalls und hängt nicht von dessen Lage auf der Zeitachse ab. Die Anzahlen von Ereignissen in zwei disjunkten Teilintervallen sind voneinander unabhängig. Statistik_II@finasto 2 38

101 Beispiel: Es treten durchschnittlich zwei Defekte pro Monat an einer Maschine auf 1) Wie groß ist die Wahrscheinlichkeit, dass in einem Monat kein Defekt auftritt? X = Anzahl der Defekte in einem Monat E(X) = λ = 2, X P o(2) P [X = 0] = f P o (0) = 20 0! e 2 = 0, 135 2) Wie groß ist die Wahrscheinlichkeit, dass in zwei Monaten kein Defekt auftritt? X 2 = Anzahl der Defekte in zwei Monaten t = 2, X 2 P o(λ 2) = P o(4) P [X 2 = 0] = 40 0! e 4 = e 4 = 0, 018 Statistik_II@finasto 2 39

102 3) Wie groß ist die Wahrscheinlichkeit, dass in t Monaten kein Defekt auftritt? X t = Anzahl der Defekte in t Monaten E(X t ) = λt = 2t, X P o(2t) P [X t = 0] = (2t)0 0! e 2t = e 2t 4) Wie groß ist die Wahrscheinlichkeit, dass die Wartezeit bis zum nächsten Defekt mehr als zwei Monate beträgt? Y = Wartezeit bis zum nächsten Defekt P [Y > 2] = P [X 2 = 0] = e 4 = 0, 018 5) Wie groß ist die Wahrscheinlichkeit, dass die Wartezeit bis zum nächsten Defekt weniger als 1/2 Monat beträgt? P [Y < 0, 5] = 1 P [Y 0, 5] = 1 P [X 0,5 = 0] = 1 e 1 = 0, 632 Statistik_II@finasto 2 40

103 Approximation der Binomialverteilung durch eine Poisson-Verteilung Sei X B(n, p). Für großes n bei gleichzeitig kleiner Erfolgswahrscheinlichkeit p gilt P [X = x] = ( n x )p x (1 p) n x (np)x e np, x! d.h. X ist approximativ Poisson-verteilt mit Parameter λ = np Faustregel: Approximation sinnvoll, falls n groß und np < 5 Beispiel: Lottospiel Erfolgswahrscheinlichkeit: p = 1/ X = Anzahl 6 Richtige bei n = Lottospielern, np = 0, 715 Approximativ X P o(0, 715) Statistik_II@finasto 2 41