Stochastik. Vorlesung. an der. Albert Ludwigs Universität Freiburg i. Br. Wintersemester 2013/14 Sommersemester Prof. Dr. H. R.

Transkript

1 Stochastik Vorlesug a der Albert Ludwigs Uiversität Freiburg i. Br. Witersemester 203/4 Sommersemester 204 Prof. Dr. H. R. Lerche 5. Oktober 205

2 Ihaltsverzeichis Eileitede ud historische Bemerkuge. Was ist Stochastik? Stochastische Tätigkeite im Alltag Historisches Ereigisse ud Wahrscheilichkeite 4 2. Der Würfel Chace-/Gewiverhältisse ud Auszahlugsquote Megetheoretische Beschreibug vo Ereigisse Wahrscheilichkeitsmaße Gleichverteiluge 4 3. Gleichverteilug ud Kombiatorik Verteiluge, die aus Gleichverteiluge etstehe Verteiluge mit mehr als zwei Kategorie, die aus Gleichverteiluge etstehe Die probabilistische Methode i der Kombiatorik Bedigte Wahrscheilichkeite ud Uabhägigkeit Bedigte Wahrscheilichkeit: Defiitio ud Folgeruge Satz vo der vollstädige Wahrscheilichkeit ud Bayessche Formel Uabhägigkeit vo Ereigisse Awedug der Uabhägigkeit i der Zahletheorie Zufallsvariable ud ihre Verteilug Zufallsvariable, Verteilug eier Zufallsvariable Uabhägigkeit vo Zufallsvariable I

3 6 Erwartugswert ud Variaz vo Verteiluge Der Erwartugswert Beispiele vo Erwartugswerte Variaz ud Kovariaz Variaze eiiger Verteiluge Das Gesetz der Große Zahle Die Approximatio stetiger Fuktioe durch Polyome Poisso-Verteilug ud das Gesetz der kleie Zahle Der zetrale Grezwertsatz Der Beweis des Satzes vo de Moivre-Laplace Zufallsvariable ud Wahrscheilichkeitsdichte 8 7. Dichte ud Verteilugsfuktioe Die Normalverteilug Expoetial- ud Gamma-Verteilug Lebesdauer Gemeisame Verteilug mehrerer Zufallsvariable Bedigte Verteiluge ud Bedigte Erwartuge Empirische Verteilugsfuktio ud Quatile Kombiatorische Resultate zur Symmetrische Irrfahrt 05 9 Erzeugede Fuktioe ud Mometeerzeugede Fuktioe 3 9. Defiitio ud Eigeschafte erzeugeder Fuktioe Poisso-Prozesse Ausgedüte Poisso-Prozesse Poisso-Prozess über dem Eiheitsquadrat Mometeerzeugede Fuktioe χ 2 k-verteilug t -Verteilug Die mehrdimesioale Normalverteilug 24 II

4 Schätze 29. Maximum-Likelihood Methode Methode der Momete Die Bayessche Formel im stetige Fall Eigeschafte vo Schätzer Bewertug vo Schätzer: Die Risikofuktio bei Beroulli-Beobachtuge 35.6 Kofidezitervalle Hypothesetests Grudtatsache der Testtheorie Die Gütefuktio vo Tests Der χ 2 -Apassugstest Lieare Regressio ud Methode der kleiste Quadrate Markov-Kette Die Kai ud Abel-Aufgabe Markov-Kette Absorbierede Zustäde Rekurrete ud trasiete Zustäde Statioäre Verteiluge Kovergez gege die statioäre Verteilug Literaturverzeichis 77

5 Kapitel Eileitede ud historische Bemerkuge. Was ist Stochastik? Stochastik ist der Oberbegriff vo Wahrscheilichkeitsrechug ud mathematischer Statistik. I der Stochastik werde mathematische Modelle vo Zufallserscheiuge kostruiert, dere Gesetzmäßigkeite studiert ud ihre Awedbarkeit auf reale Date utersucht. Die Modelle basiere auf Zufallsbegriffe, wie z.b. dem der Wahrscheilichkeit. Diese werde durch mathematische Axiome beschriebe. Die Axiome erkläre jedoch icht das Wese des Zufalls. Dieses ist bis heute, trotz diverser mathematischer Asätze durch vo Mises ud Kolmogorov, och weitgehed ugeklärt..2 Stochastische Tätigkeite im Alltag. Rate 2. Etscheide 3. Schätze 4. Vergleiche / Teste 5. Vorhersage 6. Versicher 7. Kotrolliere 8. Messe. 3. ket ma scho aus dem Kidesalter. Alle acht Type vo Tätigkeite habe zum Ziel dem Zufall geschickt zu begege.

6 .2. Beispiele Rate a I welcher Had ist der Gegestad? b Welche Atwort ist richtig bei Uwisseheit, z. B. bei Wer wird Millioär? c Wieviele Prozet erhält die AfD bei der Europwahl? Etscheide a Das Spiel: Stei Schere Papier b Wa ud wo lege ich mei Geld a? c Zu welchem Arzt gehe ich? Schätze a Wieviel Sprit ist och im Tak meies Autos? b Wie hoch ist das Steueraufkomme i der BRD i Jahr 204? c Wie häufig ist eie Krakheit i der Bevölkerug (Izidezrate? Vergleiche / Teste a ärztliche Utersuchug auf Krakheit b Vergleich vo ärztliche Behadluge c Etwicklug vo Medikamete Vorhersage a Tippe: Toto, Lotto b Dollarkurs a Weihachte c Das Wetter morge i Freiburg Versicher Auto, Haus, Lebe Kotrolliere a Kotrolliere des Blutdrucks b Fehlerkotrolle i der Produktio eies idustrielle Teils c Flugsicherug 2

7 Messe vo physikalische Größe i Experimete wie Masse, Läge, Temperatur, Geschwidigkeit, Eergie, Impuls: a Die Kombiatio der Ergebisse geschieht i der Regel mit der mit der sogeate Fehlerausgleichsrechug. b Will ma sehr geau messe, ka ma i Koflikt mit der Uschärferelatio vo Heiseberg gerate. Diese gibt eie utere Schrake für die Maßgeauigkeit zweier zueiader kojugierter physikalischer Größe, wie z.b. Ort ud Impuls eies Teilches. Die vo Heiseberg, Schrödiger u.a. etwickelte Theorie ist stochastischer Natur. Aus heutiger Sicht fuktioiert sie i der Praxis sehr gut, ist aber vo ihre Grudlage her och immer uvollstädig. Es scheit heute aber ziemlich klar, dass Eistei mit seiem Spruch: Gott würfelt icht ur da recht hat, we es Gott tatsächlich icht gibt..3 Historisches Die Wahrscheilichkeitsrechug geht i ihre Afäge auf das Bestimme vo Chace ud Auszahluge bei Spiele zurück; etwa um 480 gibt es dazu erste Zeugisse. Das Spiele aber ist so alt wie die Meschheit ud der Zufall war wohl scho immer beim Spiele mit dabei. Im Altertum hat ma sehr oft mit würfelähliche Gebilde gespielt, meist hergestellt aus Koche vo Tiere. Bei de Grieche ud Römer hieß ei solcher Würfel Astragalus; er wurde aus Ziegekoche gefertigt. Im Mittelalter kate ma scho die us heute geläufige Würfel ud atürlich die dazugehörige Spiele. Eies der früheste Werke, das sich mit Chace ud Quote beim Würfelspiele beschäftigt, geht zurück auf Cardao, ca Es heißt Liber de Ludo Alea. Dari fide sich Überleguge vo der Art, dass, we ei Würfel icht gezikt ist, die Wette auf, 3, 5 als geauso güstig azusehe ist, wie die auf 2, 4, 6. Cardao war auch eier der erste, der Additios- ud Multiplikatiosgesetze für Wahrscheilichkeite formulierte. Später um 650 berechete Pascal ud auch Huyges die Wahrscheilichkeite vo Spielergebisse. Um 800 gab es bereits statistische Überleguge i der Astroomie, z. B. bei der Bestimmug vo Plaeteorte durch Gauss. Im 9. Jahrhudert wurde die Wahrscheilichkeitsrechug och zur Physik gezählt. Aber Hilberts Bemühuge die Gebiete der Mathematik solide zu begrüde, führte dazu, dass Kolmogorov 933 eie axiomatische Zugag zur Wahrscheilichkeitstheorie fad, der diese zu eiem Teilgebiet der Mathematik machte. Wahrscheilichkeite ud Statistike begege us heute a viele Stelle des Alltags, sei es im Sport, i der Techik ud Wisseschaft, i der Medizi, im Bake- ud Versicherugswese. Ich will diese eileitede Bemerkuge schließe mit eiem Beispiel, das die Brücke schlägt vo Cardao zu de Ereigisse userer Tage. Am sollte ursprüglich die Hochzeit zwische Priz Charles ud Camilla Parker-Bowles stattfide. Ede März 2005 stellte die Buchmacher i Lodo die Wette auf eie Verschiebug der Hochzeit mit eier Quote 9:, d.h. 9 Pfud Gewi bei Pfud Eisatz. Tatsächlich trat durch de Tod des Papstes das Ereigis ei ud die Lodoer Wettbüros durfte kräftig zahle. 3

8 Kapitel 2 Ereigisse ud Wahrscheilichkeite 2. Der Würfel Ei Würfel werde eimal geworfe: Die Mege der mögliche Ergebisse ist Ω {, 2,..., 6}. Ist der Würfel fair, so hat ma P ({i}, i 6. Folglich ergibt sich weiter 6 P ({2, 4, 6} P ({2} + P ({4} + P ({6} ud ebeso P ({, 3, 5} 2 sowie P (Ω. Ist A Ω, so defiiert ma P (A : A Ω. Dabei ist A die Azahl der Elemete der Mege A. Nu eiige Beispiele zu mögliche Ereigisse. Beispiele:. Ergebis ist ugerade {, 3, 5}. 2. Ergebis ist gerade ud kleier als 4 {2, 4, 6} {, 2, 3} {2}. Ei Würfel werde zweimal geworfe: Ei Ergebis ist z.b. (, 3. Beim. Wurf kommt eie, beim 2. Wurf kommt eie 3. Hier ist die Mege der mögliche Ergebisse Ω 2 {(,, (, 2,..., (6, 6} {(i, j i 6, j 6}, Ω Für A Ω 2 defiiert ma P (A : A Ω 2 A 36. 4

9 Beispiel: Was ist die Wahrscheilichkeit, dass die Summe zweier Würfe 0 ist? P (Summe 0 P (Summe > 0 P (Summe P (B c 0 Bc 0 Ω Dabei sid B 0 {(,,..., (4, 6} ud B c 0 {(5, 6, (6, 5, (6, 6}. Beispiel: Was ist die Wahrscheilichkeit, dass das Ergebis des 2. Wurfs größer ist als das des.? Sei C {(i, j i < j, i 6, j 6}. Da ist P (2. Wurf >. Wurf P (C 6( Ei Würfel wird -mal geworfe: Zuächst solle Produktmege erklärt werde. Seie Ω,..., Ω Mege ud A i Ω i, i,..., Teilmege. Da heißt A A 2 A : {(a,..., a a i A i, i,..., } Produktmege der A i. Gilt A i < für alle i, so ist A A 2 A A i. Die Ergebismege beim -malige Würfelwurf ist Es gilt Ω 6. Ω Ω Ω }{{} {(a,..., a a i {,..., 6}, i }. Beispiel: Was ist die Wahrscheilichkeit, dass alle Ergebisse größer als sid? Sei A {(a,..., a a i >, i,..., } {(a,..., a a i {2,..., 6}, i,..., } Damit ist P (A A Ω 5 6 ( 5. 6 Es sei och bemerkt, dass icht alle Ergebismege Ω Produktform habe, wie das folgede Beispiel zeigt. 5

10 Beispiel: I der erste Stufe wird ei Würfel eimal geworfe, sage wir mit Ergebis i. I der zweite Stufe wird i mal gewürfelt ud das Ergebis jedes Wurfes festgehalte. Wie groß ist die Wahrscheilichkeit, dass die Summe der Ergebisse der zweite Stufe kleier gleich 6 sid? Seie Ω i {(a,..., a i a j 6 für j i}, Ω 6 {i} Ω i, { } i A i (a,..., a i Ω i a j 6. Sei A 6 {i} A i, da ist j ( 6 P (A P {i} A i Bestimme die A i ud ihre Azahl. A {(, (2,..., (6}, A 6 6 P ({i} A i A 2 {(,, (, 2,..., (5, }, A 2 5 A 3 {(,,, (,, 2,..., (4,, }, A 3 20 A 4 5, A 5 6, A P (A i 6 6 A i Ω i. Es folgt P (Summe 6 6 ( , Chace-/Gewiverhältisse ud Auszahlugsquote Das Chaceverhältis (eglisch: odds Sei A ei Ereigis ud A c das Gegeereigis. heißt das Chaceverhältis vo A. Beispiel: Sechs beim Würfel Für eie faire Würfel gilt: R(A : P (A P (A c P (A P (A I Worte: R(A ist zu 5. P ({6} 6 ud P ({6}c 5 6 R(A /6 5/6 5. 6

11 Das Gewiverhältis Bleibe wir bei obigem Beispiel ud spiele folgedes Spiel. Der Spieler gewit, we die 6 kommt, asoste verliert er. Der Eisatz sei AC. Die Auszahlug ist 6AC, we 6 kommt ud 0AC, we keie 6 kommt. Die Auszahlug setzt sich aus 5ACGewi + AC Eisatz zusamme. Der mittlere Gewi (MG ist MG P ({6} Gewi P ({6} c Eisatz Da der mittlere Gewi gleich 0 ist, spricht ma vo eiem faire Spiel. Das Gewiverhältis beträgt hier 5 zu (5:. Grudprizip des faire Wettes Bei eier faire Wette, verhalte sich die Gewiverhältisse umgekehrt proportioal wie die Chaceverhältisse. Ma ka dieses Prizip aber auch über de Eisatz ausdrücke: Die Eisätze sid proportioal zu de Wahrscheilichkeite. Ma deke ur a das Würfelspiel, bei dem der Spieler AC Eisatz ud der Wettabieter 5AC zahle. Auszahlugsverhältisse Bei Sportwette wie z.b. b-wi werde icht die Gewiverhältisse agegebe, soder die Auszahlugsverhältisse, auch eifach Quote geat. Das Auszahlugsverhältis gibt die Auszahlug im Verhältis zum Eisatz a. Die Auszahlug setzt sich aus Eisatz ud Gewi zusamme. So gab es für das Budesligaspiel Karlsruher SC - TSG Hoffeheim am die Quote: 2,85 : bei Karlsruher SC-Sieg 2 3,20 : bei Uetschiede 3 2,30 : bei Karlsruher SC-Niederlage. Das Agebot ist icht gaz fair, was atürlich dara liegt, dass b-wi etwas Gewi mache will. Betrachte wir ochmals die Situatio beim Würfel, we wir die drei Ereigisse {, 2, 3}, {4, 5} ud {6} wähle. Faire Quote sid da: 2 : bei {, 2, 3} 2 3 : bei {4, 5} 3 6 : bei {6}. Die jeweilige Wahrscheilichkeite ergebe sich gerade als die Kehrwerte der Quote. Dies gilt allgemei. Hat die faire Wette auf ei Ereigis E die Wahrscheilichkeit p ud de Gewi G, so gilt bei eiem Eisatz vo p(g +. 7

12 De sei E c das Gegeereigis vo E, so ist der mittlere Gewi MG G p ( p 0. Diese Gleichug ist aber äquivalet zur voragegagee. Also gilt bei eier faire Wette der Zusammehag p, wobei (G + : die Wettquote ist. G + Bezoge auf das Spiel Karlsruher SC gege TSG Hoffeheim fidet ma Karlsruher SC-Sieg p 0, 35 Uetschiede p 2 0, 36 Karlsruher SC-Niederlage p 3 0, 43 Da p + p 2 + p 3, 4 ist, ist die Wette icht gaz fair. Bekatlich ist das Spiel 2:2 ausgegage. 2.3 Megetheoretische Beschreibug vo Ereigisse Sei Ω die Mege aller mögliche Ergebisse ω eies Zufallsexperimets. Ei Ereigis wird durch eie logische Aussage festgelegt. Dazu gehört geau eie Mege A Ω. Wir idetifiziere vo u a Ereigisse mit Teilmege vo Ω, ämlich geau mit de Mege, dere Elemete die logische Aussage erfülle. Das heißt, was eitritt bzw. icht eitritt, beschreibe wir durch Mege. Bezeichugsweise Grudraum Ω: sicheres Ereigis Leere Mege Ø : umögliches Ereigis A B: A liegt i B; aus A folgt B B \ A: B ohe A; ω B \ A geau da we ω B ud ω A A c : Komplemet vo A, Gegeereigis; ω A c geau da we ω A A B: A ud B; ω A B geau da we ω A ud ω B A B: A oder B; ω A B geau da we ω A oder ω B (lässt ω A B zu! P(Ω : Potezmege vo Ω; das System aller Teilmege vo Ω. Wichtige Recheregel: Kommutativgesetze: A B B A, A B B A Assoziativgesetze: A (B C (A B C, A (B C (A B C Distributivgesetze: A (B C (A B (A C, A (B C (A B (A C Gesetze vo de Morga: (A B c A c B c, (A B c A c B c 8

13 Edliche Vereiiguge ud Schitte. Seie A,..., A Ereigisse A i A... A ud A i A... A Abzählbare Vereiiguge ud Schitte. Seie A, A 2,... Ereigisse A i A A 2... ud A i A A 2... Gesetze vo de Morga gelte auch hier: ( A i c A c i ud ( A i c A c i Ma defiiert auch zu eier Folge vo Ereigisse (A ; ud lim if A : lim sup A : m m Es gilt stets lim if A lim sup A. Ma sagt lim A existiert, we lim if A lim sup A gilt. Dies gilt zum Beispiel, we A A + für alle ist ud A A. Da ist A lim A. A m A m 2.4 Wahrscheilichkeitsmaße Sprechweise: Zwei Ereigisse A ud B mit A B Ø heiße disjukt. Ist A, A 2,... eie edliche oder abzählbare Folge vo Ereigisse mit A i A j Ø für i j, so heiße diese Ereigisse paarweise disjukt. Defiitio 2.4. Sei Ω eie edliche oder abzählbar uedliche Mege. Eie Abbildug P vo P(Ω ach IR heißt Wahrscheilichkeitsmaß auf P(Ω, falls gilt. P (A 0 für A P(Ω 2. P (Ω 3. für paarweise disjukte Ereigisse A, A 2,... aus P(Ω ist ( P A i P (A i (σ-additivität. 9

14 Recheregel: i P (Ø 0. Begrüdug: A i Ø für i ist paarweise disjukte Folge. Damit P (Ø P (Ø+ P (Ø ii P (A B P (A + P (B falls A ud B disjukt sid. Begrüdug: A B A B Ø Ø.... Damit ist P (A B P (A + P (B P (A + P (B. iii P (A c P (A. Begrüdug: folgt aus ii mit Ω A A c. iv Ist A B, so gilt P (B \ A P (B P (A. Begrüdug: folgt aus ii mit B A (B \ A ud A (B \ A Ø. v Ist A B, so gilt P (A P (B. vi P (A B P (A + P (B P (A B. Begrüdug: A B A (B \ (A B. Für die weitere Überleguge ist die folgede Gleichug ützlich: P (A ω A P ({ω} Sie ist eie direkte Folge der Defiitio eies Wahrscheilichkeitsmaßes. Weitergehed hat ma P (A B C P (A + P (B + P (C P (A B P (A C P (B C + P (A B C Dies sieht ma durch Falluterscheidug, we ma alle Terme als Summe gemäß der voragegagee Gleichug liest ud zählt wie oft die eizele Terme jeweils auftauche. Etspreched argumetiered erhält ma die Ugleichuge ( P A i ( P A i P (A i P (A i i<j P (A i A j Schließlich gilt allgemei die Ei- ud Ausschlussformel vo Poicaré: ( vii P A i P (A i P (A i A j i<j + P (A i A j A k + + ( + P (A A 2... A. i<j<k 0

15 Sie beweist ma folgedermaße: Wir schreibe die Aussage wie folgt um: ( P A i I {,...,} ( I P (A I Dabei ist A I : i I A i ud I bezeichet eie icht leere Teilmege vo {,..., }. Zeige, die rechte Seite ist gleich der like. Sei J ω {i ω A i }. Da gilt ω A I geau da, we I J ω. Die rechts Seite ist folglich gleich ( ( I P ({ω} ( P ({ω} ( I. ω A I I J ω I {,...,} Sei u J w j. Da gilt I J ω ( I ω A i j ( j ( i i j ( j ( i i Der 2. Term i der 2. Zeile ist gleich Null wege der biomische Formel für ( (siehe ute!. Wir wolle zuächst och drei weitere Eigeschafte vo Wahrscheilichkeitsmaße agebe, die auf uedliche Folge ud Reihe beruhe: viii Seie A Ω mit A A + für alle ud sei A P (A lim P (A. ix Seie A Ω mit A + A für alle ud sei A i0 P (A lim P (A. ( x P A i P (A i für beliebige A i Ω. A. Da gilt A. Da gilt Beweis vo viiiud ix: Seie B A, B i A i \ A i für i. Da sid die B i paarweise disjukt ud es gilt A B i ud A B i. Es folgt mit der σ-additivität ( P (A P B i P (B i lim P (B i lim P (A.

16 Eigeschaft ix sieht ma so: A A +..., A Seie A A c ud A A c. Da ist A A +..., Wege viii gilt A. A A. lim P (A P (A, d.h. lim ( P (A P (A, woraus lim P (A P (A folgt. Beispiel für die Stetigkeitseigeschaft Wir betrachte beim beliebig lage Würfelwurf das Ergebis Im Grudraum lässt sich A c leicht darstelle als Sei A {irgedwa kommt eie 6 } Ω {(ω, ω 2, ω 3,... ω i {,..., 6}} A c {(ω, ω 2, ω 3,... ω i 6 für alle i }. A {uter de erste Würfe kommt 6 }. Da ist A c {(ω, ω 2, ω 3,... ω i 6 für i,..., }. Da A c A c + für alle ud A c A c, köe wir, Formel ix awede: Damit ist P (A P (A c. ( 5 P (A c lim P (A c lim Möglichkeit: Ma ka dies auch so erhalte: P (irgedwa kommt 6 P ( 6 kommt erstmals im i-te Wurf ( 5 i ( 5 i i0 5 6 Eie eifache Festlegug eies Wahrscheilichkeitsmaßes geschieht durch eie Wahrscheilichkeitsfuktio. Defiitio Sei Ω eie höchstes abzählbar uedliche Mege. Eie Abbildug p : Ω [0, ] heißt Wahrscheilichkeitsfuktio, falls ω Ω p(ω ist. 2

17 Satz (Zusammehag zwische WS-Maße ud WS-Fuktio. Sei p eie Wahrscheilichkeitsfuktio auf Ω. Für A Ω wird durch P (A : ω A p(ω ei Wahrscheilichkeitsmaß defiiert. 2. Sei P ei Wahrscheilichkeitsmaß. Durch p(ω : P ({ω} wird eie Wahrscheilichkeitsfuktio erklärt. Beweis: Zu.: Weise die Eigeschafte eies Wahrscheilichkeitsmaßes ach. a P (Ω p(ω ach Defiitio ω Ω b Seie A i Ω i disjukt. Da folgt mit dem Reiheumordugssatz ( P A i p(ω p(ω P (A i. A i ω A i ω i Zu 2. Weise die Eigeschaft eier Wahrscheilichkeitsfuktio ach. ( P ({ω} P {ω} P (Ω. ω Ω p(ω ω Ω ω Ω Die Wahrscheilichkeitsfuktio heißt oft auch Zähldichte oder Wahrscheilichkeitsgewichtsfuktio. Beispiele für Wahrscheilichkeitsfuktioe:. Würfel: Ω {, 2,..., 6}, p(ω Fairer Müzewurf: Ω {ω (ω,..., ω ω i {0, }, i,..., }, p(ω 2 für ω Ω. 3. Gleichverteilug: Ω edlich, p(ω Ω. 3

18 Kapitel 3 Gleichverteiluge 3. Gleichverteilug ud Kombiatorik Ma immt a, es gibt edlich viele Ausgäge, die alle gleich wahrscheilich sid. Sei Ω {ω, ω 2,..., ω } mit Ω P ({ω } P ({ω 2 }... P ({ω } / Für beliebiges A Ω gilt da: P (A Azahl der für A güstige Ergebisse Azahl aller mögliche Ergebisse A Ω. Dies ist die sogeate Abzählregel. Beispiel: Dreimaliges Werfe eier faire Müze. Wappe kodiere wir mit 0 ud Zahl mit. Da ist Ω {0, } {0, } {0, } {(0, 0, 0, (, 0, 0, (0,, 0, (0, 0,, (,, 0, (, 0,, (0,,, (,, } Offesichtlich ist Ω Sei A das Ereigis midestes eimal Wappe ud midestes eimal Zahl. Da ist A {(, 0, 0, (0,, 0, (0, 0,, (,, 0, (, 0,, (0,, }. Wir habe A 6 ud somit P (A 6/8 3/4. Ma ka atürlich auch über das Gegeereigis kei mal Wappe oder kei mal Zahl argumetiere ud erhält A c {(0, 0, 0, (,, } 4

19 mit P (A c 2/8 /4. Auch bei Ereigisse mit uedlich viele Elemete lässt sich mit Gleichverteilug reche: Ma werfe eie faire Müze beliebig lage. Was ist die Wahrscheilichkeit irgedwa eie zu werfe? Das etsprechede Ereigis lautet: A {(, (0,, (0, 0,,...}. Mit Hilfe der σ Additivität des Wahrscheilichkeitsmaßes ergibt sich P (A P (( + P ((0, + P ((0, 0, i. Kombiatorische Hilfsmittel Zuächst führe wir die Biomialkoeffiziete ei. Wie betrachte ei quadratisches Gitter ud zähle die Wege vo (0, 0 zu dem Pukt (k, k. Dies geht rekursiv. Wir bezeiche diese Azahl mit ( k Drehe wir u dieses Schema, so erhalte wir das Pascalsche Dreieck Nach Kostruktio gehorcht es dem folgede Bildugsgesetz Zusätzlich gilt ( k ( + k ( k 5 für k ud.

20 ( ( für 0 ud 0 ( 0 für k >. k Aus dem Bildugsgesetz folgt mit vollstädiger Iduktio ( k! k!( k!. Dabei ist! ( 2, gesproche Fakultät. Hier sid eiige Formel für für Biomialkoeffiziete. (! ( für 0 k k k!( k! ( ( (2 k k ( ( (3 k k k m ( (4 (x + y x k y k, x, y IR k (5 (6 (7 (8 k0 k0 ( 2 k ( ( k 0 k k0 ( k 2 k k0 k0 ( k m ( + m + für m Wir gebe u zwei Mege a, dere Mächtigkeite jeweils ( k ist.. Sei A {(ω,..., ω ω i {0, }, ω i k} Da ist A ( k. Diese Mege etspricht geau de Wege im Gitter mit Läge ud k Astiege i Richtug y-achse. 2. Sei Ω {,..., } ud P k {A Ω A k}. Da ist P k ( k. Dies folgt so: Jede Teilmege mit k Elemete eier -elemetige Mege etspricht eie 0- Folge der Läge. A der i-te Stelle der 0- Folge steht eie, we das i-te Elemet i der Mege A liegt. 6

21 Eie wichtige Methode zum Abzähle stelle wir u vor. Das Kombiatiosprizip: Sei Ω eie Mege vo k-tupel ω (ω,..., ω k, die ma als Ergebisse eies aus k Teilexperimete bestehede Zufallsexperimetes auffasse ka, wobei ω i das Ergebis des i-te Teilexperimetes ist. Für das erste Teilexperimet gebe es mögliche Ausgäge. Für jedes i sei i die Zahl der mögliche Ausgäge des i-te Teilexperimetes, uabhägig davo wie die frühere Teilexperimete ausgegage sid. Da ist: Ω 2... k Ei Beispiel: I eier Ure sid 5 weiße ud 4 schwarze ummerierte Kugel. Es werde 3 Kugel gezoge. Was ist die Wahrscheilichkeit 2 weiße ud eie schwarze Kugel zu ziehe? Die Azahl der mögliche Fälle ist ( 9 3. Die Azahl der güstige Fälle ist ( 5 2( 4. Die gesuchte Wahrscheilichkeit beträgt also (5 2( 4 ( Was heißt Ziehe? Sei eie Ure mit ummerierte Kugel gegebe. Aus der Ure wird eie Stichprobe vom Umfag k gezoge. Wir iteressiere us für die Azahl der verschiede Stichprobe. Dies ist für die Berechug vo Wahrscheilichkeite ach der Abzählregel vo Nutze. Dabei gilt es zu beachte, dass uter Ziehe uterschiedliches gemeit sei ka. Berücksichtigug der Reihefolge: Reihefolge der Ziehug wird berücksichtigt: geordete Probe. Reihefolge der Ziehug wird icht berücksichtigt: ugeordete Probe. Zurücklege: mit Zurücklege: Mehrfachziehug möglich. ohe Zurücklege: Mehrfachziehug icht möglich. Damit ergebe sich vier Kombiatiosmöglichkeite. Geordete Probe mit Zurücklege: Die Azahl der Probe ist gleich der Azahl der k-tupel (x,..., x k mit x i N für i,..., k. Diese Azahl ist k. Geordete Probe ohe Zurücklege: Die Azahl der Probe ist gleich der Azahl der k-tupel (x,..., x k mit x i N für i,..., k, bei dee x i x j für i j gilt. Mit dem Kombiatiosprizip ergibt sich diese Azahl (die Zahl der Möglichkeite wird bei jeder Ziehug um eis kleier! als: k (... ( (k ( i. 7 i0

22 Offesichtlich muss hier k gelte. Für de Spezialfall k etspricht jede Stichprobe eier Aordug der Elemete der Mege N {,..., }. Ma erhält also die Permutatioe vo N. Dere Azahl (... ist gleich!. Damit ist (... ( k +! ( k!. Ugeordete Probe ohe Zurücklege: Die Azahl solcher Probe ist gleich der Azahl der verschiedee Teilmege vo N mit geau k Elemete. Diese Azahl ist ( (... ( (k! k(k... k!( k!. k Dies ist der Biomialkoeffiziet über k. Ugeordete Probe mit Zurücklege: Bei der voragegagee Situatio lässt sich die Mege aller mögliche Ergebisse schreibe als Ω k : {(ω,..., ω k ω < ω 2 < < ω k } Hier u beim Ziehe mit Zurücklege ist die Mege aller Ergebisse Ω : {(ω,..., ω k ω ω 2 ω k } Um u Ω abzuzähle, bilde wir Ω auf eie eue Mege mit derselbe Mächtigkeit ab ud bestimme dere Größe. Die Abbildug geht so: Sei ω Ω ud dargestellt als ω ω 2 ω 3 ω k. Für das Bildelemet wähle wir (ω, ω 2 +, ω 3 + 2,..., ω k + k, so dass gilt: ω < ω 2 + < ω < < ω k + k + k. Diese Zuordug liefert eie Bijektio vo Ω auf Ω +k k. Letztere Mege hat aber ( +k k Elemete. Awedug: (Lotto 6 aus 49 Es werde 6 Kugel aus 49 Kugel gezoge, die vo bis 49 ummeriert sid. Die Reihefolge der Ziehug spielt dabei keie Rolle. Der Ziehugsmechaismus stellt sicher, dass jede Kombiatio ( ugeordete Stichprobe ohe Zurücklege! gleichwahrscheilich ist. Damit liegt Gleichverteilug vor. Der Grudraum lässt sich folgedermaße beschreibe: Ω {(ω,..., ω 6 ω < ω 2 < ω 3 < ω 4 < ω 5 < ω 6 49}. Die Wahrscheilichkeit für Sechs Richtige ist ( , Um die Wahrscheilichkeit für Drei Richtige zu bestimme, beötige wir die Azahl der Kombiatioe, die geau drei der vo us getippte Zahle ethalte. User Tipp 8

23 zerlegt die 49 Zahle i zwei Mege: die 6 vo us getippte ud die 43 vo us icht getippte. Eie Kombiatio mit drei richtige ethält drei Zahle aus de 6 getippte ud drei Zahle aus de 43 icht getippte. Die Wahrscheilichkeit für Drei Richtige ist damit ( 6 ( ( 49 0, Die Wahrscheilichkeit für 5 Richtige mit Zusatzzahl ist ( ( ( 0 ( 49 4, Richtige güstige Fälle Chace 6R / R+Z 6 / R 258 / R+Z 630 /2296 4R 3545 /032 3R /57 Tabelle 3.: Lotto 6 aus 49 Fixpuktfreie Permutatioe Nu wolle wir och eie Aufgabe behadel, die sowohl die kombiatorische Hilfsmittel als auch die Ei- ud Ausschlussformel beutzt. Persoe komme mit je eiem Geschek zu eier Party. Die Gescheke werde zufällig verteilt. Jede Perso erhält geau ei Geschek. Wie groß ist die Wahrscheilichkeit, dass weigstes eie Perso ihr Geschek zurückerhält? Wir deke us die Persoe durchummeriert vo,...,. Sei ω i die Nummer der Perso, die ihr Geschek vo i erhält. Sei Ω {ω (ω,..., ω ω i, ω i ω j für i j}. Ω stellt die Mege der Permutatioe vo,..., dar. Ω hat ach dem Kombiatiosprizip! Elemete ud ma immt Gleichverteilug a: P ({ω}!. Sei A i das Ereigis, dass Perso i ihr Geschek zurückerhält. Das geau k Persoe ihr Geschek zurückerhalte, hat Wahrscheilichkeit P (A i... A ik P (A... A k ( k!.! De die Azahl der Permutatioe, die die erste k Elemete fest lasse, ist gleich der Azahl der Permutatioe vo k Elemete, also ( k!. Da ist die Wahrscheilichkeit, dass midestes eie Perso ihr Geschek zurückerhält, ach der Ei- ud 9

24 Ausschlussformel gleich P (A... A k {i,...,i k } P k ( k P (A i... A ik ( ( k! ( k k! k ( k k k! ( k k0 Für sehr viele Gäste ( kovergiert diese Wahrscheilichkeit gege e. Das Komplemetärereigis hierzu ist, dass kei Gast sei mitgebrachtes Geschek zurückerhält. Die Wahrscheilichkeit dafür kovergiert gege e 0, 37. Folglich sid für große etwa 37 % aller Permutatioe fixpuktfrei. k! Eie kombiatorische Aufgabe I eier Ure seie weiße ud schwarze ummerierte Kugel. Die weiße Kugel trage die Nummer,...,, die schwarze Kugel die Nummer +,..., 2. Persoe ziehe ohe Zurücklege je zwei Kugel. Was ist die Wahrscheilichkeit, dass jede Perso eie schwarze ud eie weiße Kugel zieht? Sei A {, 2,...,, +,..., 2} die Mege der Kugel i der Ure. Der Grudraum }{{}}{{} weiß schwarz ist da: Ω {({a, b },..., {a, b } a i, b i A, {a i, b i } A}. Die erste Perso zieht zwei Kugel. Dafür gibt es ( 2 2 Möglichkeite. I der Ure befide sich jetzt ur och 2 2 Kugel. Für die zweite Perso gibt es also och ( Möglichkeite. Führt ma diese Gedake fort, so gibt es für die k-te Perso ( 2+2 2k 2 Möglichkeite ud für die letzte Perso ur och ( ( Möglichkeit. Nach dem Kombiatiosprizip ist somit die Mächtigkeit des Grudraumes: ( ( ( ( (2(2 (2 2(2 3 Ω (2! Sei B : {({a, b },..., {a, b } a i {,..., }, b i { +,..., 2}, {a i, b i } A} Ω das Ereigis, dass alle Perso zwei Kugel mit uterschiedliche Farbe ziehe. Da ist die Mächtigkeit vo B : B ( (... (! 2. 20

25 Damit ist P (B (!2 (2!/2. Für große lässt sich die Wahrscheilichkeit äherugsweise mit der Stirlig-Formel bereche: P (B (!2 2 (2! (2π2 e 2 2 4π(2 2 e 2 π π/2. Dabei habe wir die Stirlig-Formel verwedet. Diese lautet:! 2π e für, das heißt!/ 2π e für. Das Schachtelmodell Dies ist eie duale Betrachtugsweise zum Uremodell. Verteilt ma k ummerierte Kugel auf ummerierte Schachtel, so gibt (a,..., a k die Schachtelummer a, i dee die Kugel liege. a i ist die Schachtel, die die i-te Kugel ethält. Da es Möglichkeite für jede Kugel gibt, hat ma k Möglichkeite. Erlaubt ma ur je eie Kugel pro Schachtel, hat die erste Kugel mögliche Schachtel zur Auswahl, die zweite Kugel ur ( u.s.w.; isgesamt! ( k! Möglichkeite. Sid die Kugel icht ummeriert, so gelte sie als uuterscheidbar. Eifachbesetzug bedeutet eie k-elemetige Teilmege vo Schachtel auszuwähle. Dies geht auf ( k Weise. Wie ist es mit Mehrfachbesetzuge bei uuterscheidbare Kugel? Beispiel: 5, k Abbildug 3.: Schachtelmodell Sehe die äußere Wäde als fest, die iere Wäde als verschiebbar a. Dies liefert die Darstellug: Abbildug 3.2: Schachtelmodell Umgekehrt liefert eie solche Darstellug eie Urebelegug. Wieviele Möglichkeite gibt es? Was ist die Azahl der Möglichkeite 4 Wäde zwische ud ebe 5 Kugel zu stecke? ( 9 4!! 2

26 Zwische dem Uremodell ud dem Schachtelmodell besteht ei eger Zusammehag. Die Fragestelluge: Wie viele Möglichkeite gibt es k Kugel aus eier Ure mit Kugel zu ziehe? ud Wie viele Möglichkeite gibt es k Kugel auf Schachtel zu verteile? sid äquivalet. Dabei ist das Zurücklege i die Ure äquivalet zur Mehrfachbesetzug der Schachtel ud das Beachte der Reihefolge ist äquivalet zur Agabe der Schachtelummer, i die die ummerierte Kugel falle. Ohe Reihefolge bedeutet, dass die Kugel icht ummeriert sid. Da wird lediglich die Azahl der Kugel pro Schachtel agegebe. So gibt es zum Beispiel geau so viele Möglichkeite 3 Kugel aus eier Ure mit 8 Kugel ohe Zurücklege ud mit Beachtug der Reihefolge zu ziehe wie es Möglichkeite gibt 3 ummerierte Kugel auf 8 Schachtel zu verteile. Die folgede Tabelle gibt die Größe der verschiedee Grudräume im Ure ud Schachtelmodell a. Uremodell mit Zurücklege ohe Zurücklege mit Reihefolge k! ( ohe Reihefolge k ( +k k ( k! ummeriert icht ummeriert mit Mehrfachbesetzug ohe Mehrfachbesetzug Schachtelmodell Tabelle 3.2: Uremodell ud Schachtelmodell 3.2 Verteiluge, die aus Gleichverteiluge etstehe Die Biomialverteilug Wir leite diese Verteilug für ratioale Erfolgswahrscheilichkeite mit Hilfe des Uremodells her. I eier Ure seie W weiße ud S schwarze Kugel. Es werde Kugel mit Zurücklege gezoge. Die Kugel seie ummeriert, die Kugel mit de Nummer,... W seie weiß ud die Kugel mit de Nummer W + bis N W +S seie schwarz. Da hier Ziehe mit Zurücklege ud mit Reihefolge vorliegt ethält der Grudraum N Elemete. Frage wir u ach der Wahrscheilichkeit eie gewisse Stichprobe zu ziehe mit geau k weiße Kugel. Diese Stichprobe köe wir darstelle als eie 0- Folge der Läge (c,..., c mit c i k. Dabei bedeutet c i, die i-te gezogee Kugel ist weiß. Nu gibt es ach dem Kombiatiosprizip geau W k S k Möglichkeite eie solche Folge zu ziehe ud die Wahrscheilichkeit für eie Stichprobe mit geau k weiße Kugel ist W k S k (W + S. Da es aber ( k mögliche Folge gibt mit k weiße Kugel, ist die Wahrscheilichkeit k weiße Kugel zu ziehe : 22

27 P ( k weiße Kugel ( ( W k ( S k k W + S W + S ( ( W k N ( k k ( W r N p k ( p k mit p W ud 0 k. N Wege der Biomialformel summiert sich die rechte Seite über k zu Eis auf ud defiiert damit eie Wahrscheilichkeitsfuktio. Sie gehört zur Biomialverteilug mit Parameter ud p. Die Hypergeometrische Verteilug I viele Aweduge, etwa bei der Qualitätskotrolle mittels Stichprobe, wird ohe Zurücklege gezoge. Wir betrachte deshalb u die folgede Situatio. I eier Ure seie W weiße Kugel ud S schwarze Kugel. Aus dieser Ure werde mal jeweils eie Kugel gezoge ud daach icht zurückgelegt. Offesichtlich muss da W + S N gelte. Sei X die Azahl der weiße Kugel i der gesamte Stichprobe. Wir bestimme u die P (X k auf zwei Weise. Für die erste Herleitug deke wir us die Kugel vo bis N ummeriert ud ehme a, die Kugel seie prizipiell uterscheidbar. Die Kugel mit de Nummer bis W seie weiß ud die Kugel mit de Nummer W + bis N seie schwarz. Es gibt ( N verschiedee Möglichkeite, aus de N Kugel eie -elemetige Teilmege auszuwähle. Um eie Stichprobe mit k weiße Kugel zu erhalte, muss ma k Elemete aus der Mege {,..., W } auswähle ud k Elemete aus der Mege {W +,..., N} auswähle. Dies ergibt ach dem Kombiatiosprizip ( ( W S k k viele Möglichkeite. Damit erhalte wir P (X k ( W ( S k k ( W +S für alle k mit 0 k W ud 0 k S. (Offesichtlich köe wir icht mehr als W weiße oder mehr als S schwarze Kugel ziehe! Die obige Verteilug vo X heißt Hypergeometrische Verteilug. Beispiel: Ei Kude weiß, dass im Mittel 0% der Lieferuge vo Bauteile eier Firma defekt sid. Dieser Ateil ist vertraglich akzeptiert. Um sich gege eie höhere Ateil a defekte Bauteile abzusicher, etimmt der Kude jeder Eiheit zu 50 Bauteile eie 23

28 Stichprobe vom Umfag 5 (selbstverstädlich ohe Zurücklege! ud testet diese 5 Bauteile. Der Kude leht die Eiheit ab, falls sich uter de füf gezogee mehr als ei defektes Bauteil befidet. Mit welcher Wahrscheilichkeit leht er eie Eiheit ab, die 8 defekte Bauteile ethält? Hier ist N 50, 5, W 8, S 42. Damit ist P (X > (P (X 0 + P (X ( 42 ( ( 8 0 ( 50 5 ( 8 ( Wir wolle u och eie weitere Herleitug der Hypergeometrische Verteilug betrachte. Dabei gehe wir ählich wie bei der Biomialverteilug vor. Es zeigt sich ämlich, dass trotz der Abhägigkeit zwische de Ziehuge die Reihefolge, i der weiße ud schwarze Kugel gezoge werde, keie Rolle spielt. Ma sieht dies am beste a eiem Beispiel: sei W 3, S 5 ud 3. Die Wahrscheilichkeit erst zwei weiße ud da eie schwarze Kugel zu ziehe ist Die Wahrscheilichkeit erst eie weiße, da eie schwarze ud da och eie weiße Kugel zu ziehe ist Die zwei Ausdrücke ergebe deselbe Wert. Offesichtlich hat sich ur die Reihefolge der Zahle im Zähler geädert. Eie Möglichkeit k weiße Kugel zu erhalte besteht dari, erst k weiße Kugel i Folge zu ziehe ud aschließed k schwarze Kugel i Folge zu ziehe. Die Wahrscheilichkeit für dieses Elemetarereigis ist W W +S W W +S W k+ W +S k+ S W +S k S S ( k+. W +S k W +S + Die k weiße Kugel ud k schwarze Kugel köe atürlich auch i eier adere Reihefolge auftrete; dies ädert jedoch ichts a der Wahrscheilichkeit des betreffede Elemetarereigisses. Isgesamt gibt es ( k viele verschiedee Elemetarereigisse mit k gezogee weiße Kugel. Damit erhalte wir P (X k ( k k j0 (W j k+ j0 (S j j0 (W + S j ( W! S! k (W k! (S + k! ( W ( S k k ( W +S. 24 (W + S! (W + S!

29 Ma rechet die letzte Gleichug leicht direkt ach. Ist N W +S groß im Verhältis zu, so sollte der Uterschied zwische Ziehe mit ud Ziehe ohe Zurücklege kaum bemerkbar sei. Wir betrachte u de Grezübergag S, W mit W p (0,. W + S Da gilt auch S/(W + S q ud N. Gleichzeitig lasse wir k ud fest. Terme der Form W j W + S j strebe da für 0 j k gege p ud Terme der Form S j W + S k j strebe für 0 j k gege p. Damit strebt P (X k gege ( p k ( p k. k Die Wahrscheilichkeite der Hypergeometrische Verteilug strebe also gege die Wahrscheilichkeite der Biomialverteilug. Die folgede Tabelle veraschaulicht diese Approximatio. Dabei ist 5. k W 20, S0 W 00, S50 W 200, S00 W 000, S500 p 2/ Die geaue Formulierug der Grezwertaussage lautet: Satz 3.2. Sei N W N + S N Da gilt für N ( ( WN SN k k ( N k W ud gelte lim N N N p mit 0 < p <. Sei IN fest. ( p k ( p k für 0 k. k Ei typisches Awedugsbeispiel ist bei Wahlumfrage. Hier ist typischerweise N aber

30 Awedug i der Qualitätskotrolle Sowohl Biomial- als auch Hypergeomoetrische Verteilug trete i der Qualitätskotrolle auf. I eier Warelieferug oder Produktioseiheit sei W die Azahl der defekte Stücke ud S die Azahl der itakte Stücke. Wird eie Produktioseiheit verkauft, so eiige sich Produzet ud Abehmer darauf, dass der Verkauf ur da stattfidet, we die Lieferug gewisse Qualitätsstadards erfüllt. Der Qualitätsstadard gelte als erfüllt, we der Ateil der defekte Stücke i der Lieferug maximal c sei. Es wäre ideal, we es eie Möglichkeit gäbe, de Ateil der defekte Stücke exakt zu bestimme. Das ist jedoch ur möglich, we ma jedes eizele Stück prüft. Dafür ist aber der Aufwad a Zeit ud Geld i der Regel zu hoch. Also bleibt ur die Möglichkeit aufgrud vo Stichprobe etwas über die Größe W ud S herauszufide. We A(p die Abahmewahrscheilichkeit eier Lieferug bezeichet, i der ei Ateil vo p Stücke defekt ist, wäre ei Prüfverfahre ideal, für das gilt: { falls p p 0 A(p. 0 falls p > p 0 Das geht jedoch ur mit eier Vollutersuchug aller Stücke. Ma muss sich also für eie Mittelweg zwische Umfag der Stichprobe ud Geauigkeit des Testverfahres etscheide. Bei eier Qualitätskotrolle werde Teile aus eier Eiheit gezoge ud überprüft. Die Wahrscheilichkeit bei dieser Stichprobe vom Umfag geau k defekte Stücke zu fide beträgt p(k ( ( W S k k /( W + S Ma legt eie Greze c fest, bei der die Eiheit gerade och akzeptiert wird, d.h. sid höchstes c Teile i dieser Stichprobe defekt, wird die Produktioseiheit abgeomme. Wir defiiere zwei Größe: Das Produzeterisiko α ist die Wahrscheilichkeit, dass eie Prokuktioseiheit, i der maximal ei Ateil vo p Stücke defekt ist, icht abgeomme wird. Das Abehmerrisiko β ist die Wahrscheilichkeit, dass eie Produktioseiheit, i der der Ateil der defekte Stücke größer oder gleich p 2 ist, abgeomme wird. Ma beachte, im Idealfall ist p 0 p p 2. Um de Recheaufwad zu verriger verwedet ma oft die Biomialverteilug als Näherug der hypergeometrische Verteilug. p ist dabei der Ateil der defekte Teile i der utersuchte Eiheit. Damit ist c ( A(p : P p (höchstes c defekte Teile i Stichprobe vom Umfag p i ( p i i die Wahrscheilichkeit, dass die Produktioseiheit abgeomme wird. Trägt ma für eie feste Stichprobeumfag die Abahmewahrscheilichkeit A(p gege de Ateil p der defekte Stücke auf, so ergibt sich folgedes Schaubild, das ma operatio characteristic (OC et: 26. i0

31 Abblidug3.3: OC-Kurve We p, p 2, α ud β festgelegt sid, stellt sich die Frage ach ud c. Im Allgemeie wird die OC-Fuktio steiler, we größer wird. Für 00 ud c 5 gilt: a A(0, 05 0, 960, b A(0, 0 0, Verteiluge mit mehr als zwei Kategorie, die aus Gleichverteiluge etstehe I eier Ure seie N Kugel. Davo seie N i vom Typ i (i,..., k ud k 2, wobei der Typ z.b. die Farbe oder de physikalische Eergiezustad bezeiche soll. Es soll wieder k N i N gelte. Es werde Kugel gezoge. Frage: Was ist die Wahrscheilichkeit jeweils i Kugel vom Typ i zu ziehe (i,.., k? Dabei ist k i. Der Multiomialkoeffiziet (... k bezeichet die Azahl der Möglichkeite eie - k elemetige Mege i k Teilmege vom Umfag i, i,..., k, zu zerlege, wobei i. Für k 2 gilt: ( 2! (! 2!. Für ( k 2 gilt: (... k ( ( 2 ( k k! (!!(! 2!( 2! ( 2! 3!( 2 3!...!! 2!... k!. Ziehe mit Zurücklege ud mit Reihefolge Die Wahrscheilichkeit jeweils i Kugel vom Typ i zu ziehe (mit k i ist: P ({(,..., k } (... N k...n k k ( N... k p... p k k 27 mit p i N i N.

32 Es gilt: k P ({(,..., k } k Dabei habe wir die Multiomialformel ( (a + a a k... k a... a k k verwedet k (... k p... p k k (p p k. Damit wird durch P eie Wahrscheilichkeitsfuktio erklärt. Sie heißt Multiomialverteilug. I der Physik wird diese Verteilug auch Maxwell-Bolzma-Verteilug geat. Sie gibt a, wieviele Teilche sich im Eergieiveau i befide. Dabei wird ageomme, dass die Teilche uterscheidbar (ummerierbar sid; eie typische Aahme der klassische Physik! I de folgede Beispiele sid die Teilche icht uterscheidbar, was typisch für die Quatemechaik ist. Ziehe ohe Zurücklege ud ohe Reihefolge P ({(,..., k } ( N (... Nk ( N 0 i N i, i,..., k k Diese Verteilug ist eie Verallgemeierug der hypergeometrische Verteilug. I der Physik wird sie auch Fermi-Dirac-Verteilug geat. Im Schachtelbild: ei Teilche pro Schachtel gemäß Pauli-Verbot. Typische Teilche sid Elektroe. Ziehe mit Zurücklege ud ohe Reihefolge P ({(,..., k } ( N + ( N+ (... Nk + k k 0 i N i, i,..., k I der Physik wird diese Verteilug Bose-Eistei-Verteilug geat. Im Schachtelbild: mehrere Teilche pro Schachtel, kei Pauli-Verbot. Typische Teilche sid Photoe. 3.4 Die probabilistische Methode i der Kombiatorik Wir wolle u a eiem Beispiel zeige, wie wahrscheilichkeitstheoretische Überleguge zu ichttriviale Resultate der Kombiatorik führe. Wir wähle als Beispiel Ramsey-Zahle. Diese sid Objekte der Kombiatorik, die sehr uzugäglich sid. Zuächst führe wir Ramsey-Zahle ei. Dazu betrachte wir de vollstädige Graphe K N mit N Ecke. Dieser Graph verbidet alle N Ecke miteiader. Beispiel: Wir sage K N hat die Eigeschaft (m,, we, egal wie wir die Kate vo K N rot oder blau färbe, es immer eie vollstädige Utergraphe K m gibt, desse Kate alle rot sid, oder es eie vollstädige Utergraphe K gibt, desse Kate alle blau sid. Ist s N, so hat K s auch diese Eigeschaft. Die kleiste Zahl N mit der Eigeschaft (m, heißt Ramsey-Zahl R(m,. 28

33 usw. K 2 K 3 K 4 K 5 Abbildug 3.: vollstädige Graphe mit N Ecke Bemerkug: Es gilt R(m, 2 m ebeso R(2, m m. De, etweder sid alle Kate vo K m rot oder es gibt eie blaue Kate, also ei blaues K 2. Ma ka zeige: Für m, 2 ist ( m + 2 R(m,, m ud isbesodere R(k, k 2 2k 3 für k 2. Wir leite u eie utere Schrake für R(k, k her. Dazu müsse wir zeige, dass für ei möglichst großes N < R(k, k es keie Färbug vo K N gibt, für die ei roter oder blauer K k auftritt. Satz 3.4. (Erdös, P. R(k, k 2 k/2 für k 2 Beweis: Wir wisse R(2, 2 2. Außerdem ist R(3, 3 6, wege der folgede Füfeckfärbug: de Rad auße blau ud alle Diagoale rot. Sei k 4 ud ageomme, dass N < 2 k/2. Wir betrachte alle rot-blau Färbuge vo K N, wobei jede Kate uabhägig ( mit Wahrscheilichkeit rot oder blau gefärbt wird. 2 N2 Alle Färbuge, es gibt 2, sid gleichwahrscheilich. Sei A eie Eckemege der Größe ( k. Die Wahrscheilichkeit des Ereigisses A R, alle Kate i A sid rot gefärbt, ist 2 k2. Da ist die Wahrscheilichkeit, dass irgedeie k-mege rot gefärbt ist, P R P A R ( ( N P (A R 2 k2. k A k A k ( Mit N < 2 k N 2 ud k 4 ud wege k N k für k 2 folgt 2 k ( ( N P R 2 k2 N k ( ( k+ k2 k 2 k 2 < 2 k2 2 k2 2 k P R < 2. Gaz etspreched folgt, dass die Wahrscheilichkeit P B, dass irgedeie k-mege blau gefärbt ist, P B < ist. Es folgt weiter 2 P R + P B < für N < 2 k/2. Das heißt es muss eie Färbug ohe rote oder blaue K k gebe, das heißt K N hat icht die Eigeschaft (k, k. 29

34 Kapitel 4 Bedigte Wahrscheilichkeite ud Uabhägigkeit 4. Bedigte Wahrscheilichkeit: Defiitio ud Folgeruge Eiführedes Beispiel: Eie faire Müze wird dreimal hitereiader geworfe. Dabei etspreche dem Ausgag Zahl ud 0 dem Ausgag Wappe i eiem eizele Wurf. Also Ω {0, } {0, } {0, }. Sei A das Ereigis midestes zweimal Zahl: A {(0,,, (, 0,, (,, 0, (,, }. Für die faire Müze sid alle Ergebisse gleichwahrscheilich. Damit ist P (A A Ω Ageomme wir wisse bereits, dass der erste Wurf Zahl ergebe hat. Wie ädert sich usere Eischätzug der Wahrscheilichkeit für das Eitrete vo A? Wir wisse also, dass das Ereigis B {(, 0, 0, (,, 0, (, 0,, (,, } auf alle Fälle eitritt. Was ist die bedigte Wahrscheilichkeit vo A gegebe dieses Wisse? Die Ituitio legt es ahe, alle Elemete aus B als gleichwahrscheilich azusehe ud diese Mege als eue Grudraum herazuziehe. Damit erhalte wir als bedigte Wahrscheilichkeit A B B 3 A B 4 Ω B Ω P (A B. P (B Defiitio 4.. Seie A ud B Ereigisse ud sei P (B > 0. Da ist P (A B die bedigte Wahrscheilichkeit vo A gegebe B. 30 P (A B P (B

35 Aus der Defiitio folgt sofort (für P (B > 0 die Multiplikatiosregel Aus der Defiitio folgt weiter P (A B P (A BP (B. ( P ( A ist Wahrscheilichkeitsmaß auf P(Ω mit P (B A für B A ud P (C A 0 für C A c. (2 Seie A, A 2,..., A k Ω mit P (A A 2... A k > 0. Da gilt: P (A A 2... A k P (A P (A 2 A P (A 3 A A 2... P (A k A... A k. Beweis: Zu (: a P (Ω A P (A Ω P (A P (A P (A. b Seie B i Ω disjukt. Da gilt: P ( B i A P ([ B i ] A P ( [B i A] P (A P (A P (B i A P (A Damit ist P ( A ei Wahrscheilichkeitsmaß auf P(Ω. Sei B A ud C A c. Da gilt: P (B A P (A B P (A P (A P (A P (B i A. ud P (C A P (A C P (A P (Ø P (A 0. Zu (2: Beweis mit Iduktio. Richtig für k 2 per Defiitio. Gelte die Formel für k, d.h. so schreibe P (A... A k P (A P (A 2 A... P (A k A... A k 2 P (A... A k P (A k A... A k P (A... A k ud setze die Formel für k ei. Beispiel: Das Geburtstagsproblem k Persoe befide sich i eiem Raum. Mit welcher Wahrscheilichkeit habe midestes zwei vo ihe am selbe Tag Geburtstag? Wir setze voraus das Jahr hat 365 Tage, jeder Tag kommt mit gleicher Wahrscheilichkeit als Geburtstag i Frage, es besteht keie Abhägigkeit zwische de Geburtstage verschiedeer Persoe (also keie Zwillige!. 3

36 Der Eifachheit halber deke wir us die Persoe vo bis k ummeriert ud stelle us vor, dass wir sie der Reihe ach befrage. Sei Ω {,..., 365} k {ω ω (ω,..., ω k ; ω i {,..., 365}}. Dabei ist ω i der Geburtstag der i-te Perso. Sei D j {(j + -te Perso hat a eiem adere Tag Geburtstag als die Persoe bis j} {ω Ω ω j+ ω i für i j}. Da gilt P (D P (ω ω Sei u j 2. Auf dem Ereigis D... D j habe die Persoe,..., j a j verschiedee Tage Geburtstag. Damit ergibt sich die bedigte Wahrscheilichkeit des Ereigisses D j gegebe D... D j zu P (D j D... D j 365 j 365 j 365. (Ma beachte, dass dies bedigte Wahrscheilichkeite sid. So ist etwa P (D 3 D c 2 364/365. Wir erhalte u wege Folgerug (2 P (D D 2... D k P (D P (D 2 D P (D 3 D D 2... P (D k D D 2... D k 2 ( ( 2 (... k k ( j. 365 j Für größere Werte vo k bietet sich folgede Näherug a. Es gilt log( h h ud somit k k log(p (D D 2... D k log( j/365 (/365 j j k(k Die Wahrscheilichkeit, dass midestes zwei Persoe am selbe Tag Geburtstag habe, ist daher äherugsweise e k(k Die Näherug ist sehr gut. Für k 23 liefert sie im Vergleich zu dem exakte Wert j 32

37 Beispiel: Sterbetafel Wir betrachte eie Bevölkerugsgruppe, z.b. die Eiwoher eier Stadt oder eies Lades ud wolle die Lebesdauer ihrer Eiwoher erfasse. Dazu orde wir jedem Idividuum sei gazzahliges Sterbealter zu. Wir ee diese Größe T. T ist eie gazzahlige Größe, die vom Zufall abhägt. Sei p(k die Wahrscheilichkeit im Alter k zu sterbe. Diese ist da p(k P (T k. Im Versicherugswese, isbesodere bei Lebesversicheruge iteressiert die Sterberate. Diese wird wie folgt erklärt. Sei S(l : P (T l die Wahrscheilichkeit midestes l Jahre alt zu werde (Überlebeswahrscheilichkeit ud sei h(l P (T l T l die Wahrscheilichkeit im Alter vo l Jahre zu sterbe, we ma bereits dieses Lebesjahr erreicht hat (Sterberate. Es gilt: h(l P (T l T l P (T l, T l P (T l P (T l P (T l p(l S(l S(l S(l +. S(l Darstellug vo S(l durch h(l: Es gilt: S(l l ( h(i. Das ergibt sich aus der Awedug der Folgerug (2: S(l P (T l l P (T i + T i l S(i+ S(i ( h(i. l Beispiel: Wir ehme folgedes a: Die Wahrscheilichkeit im Alter i zu sterbe, gegebe ma hat das Alter i bereits erreicht, sei für alle i gleich p. I Formel: h(i p für alle i. Da ist S(l ( p l ud p(k P (T k P (T k P (T k P (T k h(ks(k p( pk für k N. Dies ist die Wahrscheilichkeitsfuktio der geometrische Verteilug. Beispiel: Sterbetafel vo Breslau ach Halley (693 Sterberate berechet ach der Halleysche Tafel: S( P (T p( 45/000 h( 45/000 S(2 P (T 2 855/000 p(2 57/000 h(2 57/855 S(3 P (T 3 798/000 p(3 38/000 h(3 38/798 S(4 P (T 4 760/000 p(4 28/000 h(4 28/ S(82 28/000 p(82 5/000 h(82 5/28 S(83 23/000 p(83 4/000 h(83 4/23 S(84 9/000 p(84 9/000 h(84 S(85 0 p(85 0 h(

38 Abblidug 4.: Die Sterberate h für die Sterbetafel vo Halley 4.2 Satz vo der vollstädige Wahrscheilichkeit ud Bayessche Formel Beispiel: Vo eiem gut gemischte Skat-Blatt (bestehed aus 32 Karte werde vom Stapel acheiader zwei Karte gezoge. Was ist die Wahrscheilichkeit, dass die zweite Karte Kreuz oder Pik, d.h. schwarz ist? Vermutug: Sie ist gleich 2. P (2. Karte schwarz P (2. Karte schwarz. Karte schwarz P (. Karte schwarz + P (2. Karte schwarz. Karte rot P (. Karte rot Satz 4.2. (Satz vo der vollstädige Wahrscheilichkeit Es seie A, A 2,... paarweise disjukte Mege mit A i Ω. Weiter sei B Ω. Da gilt: P (B P (B A i P (A i. Dabei setzt ma P (B A k P (A k 0, falls P (A k 0. Beweis: A B, A 2 B,... sid paarweise disjukt ud (A i B B. Damit gilt: P (B P ( (A i B P (A i B P (B A i P (A i. 34

39 Eie direkte Folgerug aus dem Satz vo der vollstädige Wahrscheilichkeit ist die Bayessche Formel. Sie ist vo grudlegeder Bedeutug ud beschreibt, wie eues Wisse zu verwerte ist. Sie wird deswege auch oft als Lerformel bezeichet. Satz (Bayesche Formel {A,... A } sei eie disjukte Zerlegug vo Ω. Sei B ei weiteres Ereigis. Da gilt: Beweis: P (A i B P (B A ip (A i. P (B A j P (A j j P (A i B P (B A ip (A i P (B P (B A ip (A i m P (B A j P (A j Dabei wurde i der letzte Gleichug der Satz vo der vollstädige Wahrscheilichkeit verwedet. j Beispiel: Farbeblidheit Farbeblidheit ist eie typische Mäerkrakheit. M stehe für mälich, W für weiblich ud f b für farbeblid. Die Zahleverhältisse seie wie folgt: P (M P (W 2, P (fb M 2, P (fb W 288. Wie groß ist die Wahrscheilichkeit, dass eie Perso mälich ist, we sie farbeblid ist? P (fb MP (M P (M fb P (fb MP (M + P (fb W P (W Beispiel: Zuverlässigkeit vo Prüfverfahre Ei bestimmter Chip wird i Masseproduktio hergestellt. Dabei wird jeder Chip vor Auslieferug getestet. Die Produktio hat eie Ausschussrate vo 0.0; dass heißt ei eizeler Chip ist mit Wahrscheilichkeit 0.0 defekt. Das Prüfverfahre besitzt folgede Eigeschafte: bei eiem fehlerfreie Chip zeigt das Prüfverfahre mit Wahrscheilichkeit 0. fälschlich eie Fehler a. bei eiem fehlerbehaftete Chip zeigt das Prüfverfahre mit Wahrscheilichkeit 0.05 fälschlich keie Fehler a. 35

40 Chips bei dee das Prüfverfahre eie Fehler azeigt werde aussortiert ud die verbleibede Chips werde ausgeliefert. Mit welcher Wahrscheilichkeit ist ei ausgelieferte Chip auch wirklich fehlerfrei? Sei A {Chip ist fehlerfrei} ud B {Prüfverfahre zeigt Fehler a}. Wir wisse P (A 0.99, P (B A 0. ud P (B A c Mit A A ud A 2 A c liefert die Formel vo Bayes P (A B c P (B c AP (A P (B c AP (A + P (B c A c P (A c Die Wahrscheilichkeit, dass ei aussortierter Chip auch wirklich defekt ist ergibt sich mit aaloger Rechug als P (A c B Beispiel: Welche Ure (Box? 3 Ure mit weiße ud schwarze Kugel seie gegebe: Box Box 2 Box 3 Abbildug 4.2: Ure -3 Es wird eie Ure zufällig ausgewählt ud da eie Kugel daraus gezoge; die Kugel wird gezeigt, icht aber die Ure. Ma rate, aus welcher Ure gezoge wurde. Pick Box Pick Ball /2 /3 /2 /3 2/3 /3 /3 3/4 /4 Bayes-Formel: P (Ure i weiß? Abbildug 4.3: Wahrscheilichkeite P (Ure i ud weiß P (weiß Ure ip (Ure i 3 36 i i +

41 Da folgt Weiter sid: P (weiß P (Ure 3 weiß P (Ure 2 weiß 8 23 P (Ure weiß Beispiel: Diagostischer Test Wir betrachte eie Test auf Vorhadesei eier Krakheit, z.b. de PSA-Test auf ei Prostata-Karziom. Der Test hat die Ausgäge positiv ud egativ. Aus positiv schließt ma auf das Vorhadesei der Krakheit, aus egativ auf das Nichtvorhadesei. Doch der Test ka ei falsches Ergebis liefer. Ma uterscheidet zwische zwei Fehler: Fehler. Art: falsch positiv (Es liegt keie Krakheit vor; falscher Alarm Fehler 2. Art: falsch egativ (Die Krakheit wurde icht etdeckt; kei Alarm trotz Gefahr Wir betrache das folgede Diagose-Beispiel: Die Krakheitsrate sei % ud der Testfehler 0%. Die Awedug der Bayessche Formel ergibt da das Folgede P (k + 9 P (+ kp (k P (+ kp (k + P (+ gp (g Dabei steht k für krak, + steht für der Test war positiv ud steht für der Test war egativ. Ei Weg ohe die Bayessche Formel ud ohe Wahrscheilichkeitsrechug das Resultat zu erhalte, geht so: Ma stellt sich die Größe i eier Vierfelder-Tafel bezoge auf 000 Probade dar ud liest das Ergebis daraus ab. gesamt Test positiv Test egativ krak 0 9 gesud gesamt Wie groß ist die Wahrscheilichkeit krak zu sei, we der Test positiv ist? Auch hier 9 lautet die Atwort:. Schließlich lässt sich die Tafel auch och durch eie biäre 08 2 Graphe darstelle, was wir jedoch dem Leser überlasse hizuschreibe. Für alle die später mal etwas mit Mediziischer Statistik zu tu habe werde, seie och ei paar fudametale Begriffe erklärt. P (+ k heißt Sesitivität ud P ( g heißt Spezifität des diagostische Tests. Diese beide Größe beschreibe die statistische Qualität der Tests. P (k heißt Prävalez. P (k + heißt positiver prädiktiver Wert ud P (g 37

42 heißt egativer prädiktiver Wert. Bei userem Beispiel ist P (g 89. Dieser Wert 892 besagt, dass es sehr uwahrscheilich ist, dass ma krak ist, we der Test egativ ist. Adererseits, we der Test positiv ist, ist die Chace, dass ma gesud ist trotzdem P (g + P (k +. Der Test produziert also häufig falsche Alarm Uabhägigkeit vo Ereigisse Beim wiederholte Würfelwerfe sid wir scho davo ausgegage, dass sich die Wahrscheilichkeite für die Ergebisse verschiedeer Würfe miteiader multipliziere. Hier u komme wir zur allgemeie Situatio. Defiitio 4.3. Zwei Ereigisse A, B Ω heiße (stochastisch uabhägig, falls gilt. P (A B P (A P (B Sid A ud B uabhägig ud gilt P (B > 0, so ist P (A B P (A B P (B P (AP (B P (B P (A. Sid A ud B uabhägig ud gilt P (A > 0, so ist P (B A P (B. Stochastische Uabhägigkeit zweier Ereigisse bedeutet, dass Ketis über das Eitrete des eie Ereigisses keie Iformatio hisichtlich des Eitretes des adere Ereigisses liefert. Sid A ud B uabhägig, so sid auch A ud B c, A c ud B sowie A c ud B c uabhägig. Da ist ämlich P (A B c P (A P (A B P (A P (AP (B P (A( P (B P (AP (B c. Betrachtet ma mehr als zwei Ereigisse gleichzeitig, so muß ma mit der Defiitio vorsichtiger sei. Defiitio Drei Ereigisse A, B ud C heiße uabhägig, falls die folgede vier Gleichuge gelte: P (A B P (AP (B P (A C P (AP (C P (B C P (BP (C P (A B C P (AP (BP (C. 38

43 Paarweise Uabhägigkeit impliziert icht Uabhägigkeit vo drei Ereigisse. (Dies soll heiße, die erste drei Gleichuge impliziere icht die dritte. Wir zeige das i folgedem Beispiel. Beispiel: Sei Ω {0, } {0, } ud P ({(0, 0} P ({(, 0} P ({(0, } P ({(, } /4. Dies etspricht also dem zweimalige Werfe eier faire Müze. Sei A {(0,, (0, 0} (Erster Wurf liefert Wappe B {(0,, (, } (Zweiter Wurf liefert Zahl C {(0, 0, (, } (Beide Würfe liefer dasselbe Ergebis Da gilt A B C 2 ud A B A C B C. Daraus folgt P (A P (B P (C /2 ud P (A B P (A C P (B C /4. Außerdem ist A B C Ø ud somit P (A B C 0 /8 P (AP (BP (C. hei- Defiitio (Uabhägigkeit vo Ereigisse Die Ereigisse A,..., A ße uabhägig, falls für jede Teilmege I {,..., } gilt ( P A j P (A j. j I j I Bemerkug: Dies sid 2 ichttriviale Gleichuge bei Ereigisse. Für 4 also Gleichuge. Satz Seie A,..., A uabhägig ud C i {Ø, A i, A C i, Ω} für i,...,. Da sid C,..., C uabhägig. I Formel: ( P C i P (C i für alle I {,..., }. i I i I Isbesodere sid A c,..., A c uabhägig. Beweis: Es geügt de Fall I {,..., } zu betrachte. Ist eies der C i Ø, so steht auf der like Seite P (Ø ud auf der rechte Seite steht ei Produkt, i dem ei Faktor 0 ist. Ist eies der C i Ω, so köe( wir o.b.d.a. aehme, dass das C ist. I diesem ([ ] ( Fall steht auf der like Seite: P C i P C i Ω P C i. Auf der 39

44 rechte Seite steht: C i Ω igoriere. P (C i [ ] P (C i P (Ω P (C i. Somit köe wir die O.B.d.A. ehme wir a, dass C i {A i, A c i} ud ach evetueller Umummerierug C i A c i für i,..., m ud C i A i für i m +,..., ist.. Fall: m + Mit A m jm+ A j gilt da: ( ( m P C i P A c j j jm+ ( m P A c j A m j A j (( m c P A j A m j P ( ( m A m P (A m A j j P ( ( m ( A m P Am A j j P ( A m m P ( A m + m P ( A m + k {i,...,i k } {,...,} k {i,...,i k } m k {i,...,i k } P ( m A m ( P (A j j P ( A m m jm+ j P (A j P (C i. P ( A c j m P ( Aj c. j ( k P ( A m A i... A ik ( k P ( A m P (Ai... P (A ik 40 ( k P (A i... P (A ik

45 2. Fall: m Hier ist C i A c i für i,...,. Nu setzt ma für A m Ω ud argumetiert bis zur drittletzte Zeile geauso! Korollar Seie A,..., A uabhägig. Da gilt: ( P A i Beweis: Es gilt ( ( P (A i exp P (A i. ( (( c ( P A i P A i P A c i P (A c i ( P (A i. Wege exp( x x gilt weiter ( [ ] P A i exp ( P (A i exp P (A i. Defiitio Eie Folge vo Ereigisse (A ; heißt uabhägig, falls A,..., A k uabhägig sid für alle k. Korollar (Borel-Catelli Lemma Sei (A eie Folge vo Ereigisse ud A lim sup A : A m. Da gilt: m ( P (A < P (A 0. (2 Sid A, A 2,... uabhägig ud gilt P (A k P (A. Beweis: Zu (: Sei ε > 0. Da gilt wege P (A < ud A A m für : ( m P (A P A m P (A m < ε für ei hireiched großes. m m P (A ist also kleier als jede positive Zahl. Damit folgt P (A 0. 4

46 Zu (2: Es gilt P (A lim P ( lim lim p P A m m ( +p m A m ( +p lim lim p exp P (A m m }{{} 0 für p Folglich ist P (A. Gamblers Rules Ageomme ma spielt ei Spiel sehr oft hitereiader ud desse Gewichace ist /N. Wie oft muß ma spiele, damit ma mit midestes 50% Wahrscheilichkeit weigstes eimal gewit? ( P (kei Gewi i Spiele N ( P (Gewi i Spiele N 2 ( N 2 ( log log N 2. Sei [log( / log( ]; dabei ist [x] die kleiste gaze Zahl größer als x für x IR. 2 N Da log( + z z für z 0 gilt, ist die rechte Seite vo asymptotisch gleich ( /( log N log 2, wobei log(2 0, 69 2/3. 2 N Im Fall des Würfels beötigt ma also [ log ( 2 /( ] 5 [3, 8] 4 6 Würfe um mit midestes 50% Wahrscheilichkeit eie 6 zu werfe. Beispiel: Fluß i eiem Leiter Ageomme für jede vo de Schalter i dem folgede Schaltkreis ist die Wahrscheilichkeit, dass der Schalter geschlosse ist p i ud dass er offe ist q i p i, i,..., 5. Ma bereche die Wahrscheilichkeit, dass ei Strom durch de Schaltkreis fließt uter der Aahme, dass die Zustäde der Schalter uabhägig sid. 42

47 S S 2 S 3 S 4 S 5 Abblidug 4.4: Schaltkreis P (Strom fließt P (Strom fließt obe etlag + P (Strom fließt ute etlag P (Strom fließt sowohl obe als auch ute etlag Dabei ist wege der Uabhägigkeit P (Strom fließt obe p p 2, P (Strom fließt ute p 3 p 4 p 5 ud P (Strom fließt obe ud ute p p 2 p 3 p 4 p 5 ud damit P (Strom fließt p p 2 + p 3 p 4 p 5 p p 2 p 3 p 4 p Awedug der Uabhägigkeit i der Zahletheorie 4.4. Primzahle ud Uabhägigkeit Sei N N. Da gilt N p α p α k k für geeigete Primzahle p i ud α i N. Sei φ(n #{i N i < N mit GGT(i, N } die Azahl der atürliche Zahle, die kleier N ud zu N teilerfremd sid. Beispiel: N φ(n Die zählt stets mit als teilerfremd. k Behauptug: φ(n N ( p j (Eulersche Fuktio. j Wir übersetze die Aufgabestellug i die Sprache der Wahrscheilichkeitsrechug: Defiiere Ω N : {i N i N} {,..., N}. Für A Ω N sei P (A : A. Ω N Sei A i {m Ω N p i teilt m} die Teilmege der Zahle aus Ω N, die durch p i teilbar sid. (Bemerkug: N p i ist eie atürliche Zahl, da p i ei Faktor i der Da ist A i N p i Primzahlzerlegug vo N ist. ud P (A i N/p i N p i. Weiter gilt: P (A i... A il p i...p il l j p ij l P (A ij, de A i... A il j 43 N p i...p il.

48 Die Ereigisse A,..., A k sid also uabhägig. Folglich gilt P (Zahl N ist teilerfremd zu N P (A c... A c k k P (A c j k ( p j. Ud damit folgt die Behauptug φ(n N k ( p j. j j j dimesioaler Fall Wähle zufällig 2 Zahle N. Dabei soll zufällig heiße, dass jedes Paar (i, j mit derselbe Wahrscheilichkeit gewählt wird. Wie groß ist die Wahrscheilichkeit, dass N 2 diese beide Zahle teilerfremd sid? Der Grudraum ist Ω 2 N {(i, j i, j N, max(i, j N}.Für A Ω2 N sei P (A A Ω 2 N A N 2. Da N N ist, gibt es eideutig bestimmte Primzahle p i ud α i N mit N p α... p α k k. Sei A m : {(i, j p m teilt i ud p m teilt j} Ω 2 N. Da ist A m ( N p m 2 ud P (A m. p 2 m Ebeso wie im -dimesioale Fall folgt: Die A,..., A k sid uabhägig ud P (Zahlepaar N ist teilerfremd P (A c... A c k Betrachte wir u de Grezübergag N. Da hat ma lim P (Zahlepaar N ist teilerfremd lim N Dabei folgt das Ergebis aus dem folgede Lemma: Lemma 4.4. Für s > sei ζ(s s. Da gilt Isbesodere ist ζ(2 lim Beweis: ζ(s lim N N p N p prim p N p prim k k j ( p s. ( 2 π2. p 2 6 Das folgede Produkt ist ei Produkt geometrischer Reihe. p N p prim k k P (A c j j(. p 2 j j ( ( + p s p + s p s p N (α,...,α l p prim 44 ( 6 p 2 j π. 2 p sα p sα l l

49 Dabei sid p i die Primzahle mit p < p 2 <... < p l N < p l+. Nu gilt aber weiter, da sich jedes N als Produkt vo Poteze vo p i agebe lässt, dass obige Summe größer gleich ist. Adererseits ist diese Summe kleier gleich ζ(s. Folglich gilt N s 0 ζ(s p N p prim ( p s >N s. Da für s > die rechte Seite für N gege 0 kovergiert, folgt die Behauptug. Bemerkug: Lässt sich das obe defiierte P im Fall N als Wahrscheilichkeitsmaß auf N N iterpretiere? Atwort: Nei! De sei für A N N Q(A lim P (A N Ω2 N, so ist Q kei Wahrscheilichkeitsmaß, da für jedes Paar (i, j N 2 gilt: Q({(i, j} lim N zu Q(N N. 0 ud damit Q({(i, j} 0 im Widerspruch N 2 (i,j 45

50 Kapitel 5 Zufallsvariable ud ihre Verteilug 5. Zufallsvariable, Verteilug eier Zufallsvariable Sei Ω eie diskrete, höchstes abzählbare Mege. Defiitio 5.. Sei (Ω, P ei Wahrscheilichkeitsraum.Eie Zufallsvariable ist eie Abbildug X : Ω R. Durch q(x : P ({ω X(ω x} wird eie Wahrscheilichkeitsfuktio auf X(Ω R defiiert. Das Wahrscheilichkeitsmaß Q : P(X(Ω [0, ] mit Q(A : x A q(x heißt Verteilug vo X. Ma schreibt auch P X für Q. Abbildug 5. Sei p(ω P ({ω} die Wahrscheilichkeitsfuktio vo P. Für x X(Ω ist im obige Bild q(x p(ω + p(ω 2 + p(ω 3. Bemerkuge: X(Ω ist als Bild vo Ω höchstes abzählbar. 46

51 2 q ist Wahrscheilichkeitsfuktio, da q(x P ({ω X(ω x} x X(Ω x X(Ω p(ω x X(Ω ω X(ωx ω Ω p(ω. 3 Für A X(Ω ist Q(A x A q(x x A P ({ω X(ω x} P ({ω X(ω A} P ( X (A. Beispiel: (Summe zweier Würfelwürfe Wir betrachte die Summe der Augezahle zweier Würfelwürfe. Bei zweimalige Werfe ist der Grudraum Ω 2 {ω (ω, ω 2 ω i {,..., 6}, i, 2}. Wir köe u jedem ω (ω, ω 2 Ω 2 eie reelle Zahl X(ω ω + ω 2 zuorde. Da ist X eie Abbildug vo Ω 2 R ud damit eie Zufallsvariable. Für die Wahrscheilichkeitsfuktio ud das Wahrscheilichkeitsmaß auf Ω 2 gilt: p(ω Ω 2 ud P (A A. Ω 2 Die zu X gehörede Wahrscheilichkeitsfuktio q : R [0, ] hat folgede Gestalt: q(k P ({ω Ω 2 X(ω k} P ({ω (ω, ω 2 Ω 2 ω + ω 2 k} {ω ω +ω 2 k} Ω 2. q(2 {ω ω + ω 2 2} Ω 2 q(3 {ω ω + ω 2 3} Ω 2. {(, } {(, 2, (2, } q( q( {ω ω + ω 2 } Ω 2 q(2 {ω ω + ω 2 2} Ω 2 {(5, 6, (6, 5} 36 {(6, 6} Sei A R. Da gilt für die Verteilug vo X: Q(A k A q(k. Sei beispielsweise A {k R k 3}. So ist Q(A q(k 3 q(k. 2 k 3 k2 47

52 Bemerkuge:. Die Verteilug vo X defiiert ei Maß auf R. Ma setzt P X (A : P X (A X(Ω P ( X (A für A R. P X ist aber ei Wahrscheilichkeitsmaß auf R. De P X (R P X (X(Ω P (Ω ud ( P X A i P X (A i für A i R, paarweise disjukt. De: ( ( ( P X A i P X A i ( P X (A i P (X (A i P X (A i. 2. Sei eie Wahrscheilichkeitsfuktio p auf eier diskrete Teilmege W {x, x 2,...} R gegebe. Durch X : W R mit X(x i : x i wird eie Zufallsvariable auf W erklärt, dere Verteilug P X die Wahrscheilichkeitsfuktio p hat. De: P X ({x i } P ({z W X(z x i } p(x i. 3. Wege 2 spricht ma vo eier Verteilug, we eie Wahrscheilichkeitsfuktio p auf eier diskrete Teilmege vo R gegebe wird. Beispiel vo Verteiluge: Biomial-Verteilug b(, p b(, p; k ( k p k ( p k defiiert eie Wahrscheilichkeitsfuktio auf {0,,..., }. 2 Beroulliverteilug b(, p b(, p; k p k ( p k für k {0, }. Die Beroulliverteilug ist ei Spezialfall der Biomialverteilug mit. 3 Poisso-Verteilug pois(λ pois(λ; k λk k! e λ ist eie Wahrscheilichkeitsfuktio auf N {0}. 48

53 4 Pascal-Verteilug pasc(r, p pasc(r, p; ( r p r ( p r für {r, r +, r + 2,... }, r N. 5 Geometrische Verteilug Speziell: Für r ergibt sich pasc(, p; p( p für. 5.2 Uabhägigkeit vo Zufallsvariable Defiitio 5.2. (Uabhägigkeit vo Zufallsvariable X, X 2,..., X seie Zufallsvariable auf (Ω, P ud X i (Ω sei der Wertebereich vo X i für i,...,. X,..., X heiße uabhägig, falls für alle z i X i (Ω für i,..., gilt: ( P {X i z i } P ({X i z i }. Dabei habe wir die Kurzschreibweise: {X i z i } {ω Ω X i (ω z i } verwedet. Satz X,..., X seie Zufallsvariable auf (Ω, P. Da sid folgede Aussage äquivalet: X,..., X sid uabhägig. ( 2 Für alle A,..., A R gilt: P {X i A i } P ({X i A i }. Dabei bedeutet {X i A i } : {ω Ω X i (ω A i }. Beweis: Nur 2 ist zu zeige. Seie A,..., A gegebe. Da ur die Elemete aus X i (Ω A i eie Wahrscheilichkeit 0 habe ud X i (Ω höchstes abzählbar ist, köe wir o.b.d.a. aehme, dass die A i abzählbar sid ud die Form A i {y i, y i2,...} habe. Damit köe wir die Mege {X i A i } folgedermaße zerlege: {X i A i } {X i y ij }. j Somit gilt {X i A i } j i {X i y iji } j,...,j {X y j, X 2 y 2j2,..., X y j } 49

54 ud damit ( P {X i A i } P ({X y j, X 2 y 2j2,..., X y j } i j,...,j P (X i y iji j,...,j ( P ({X i y iji } j i P ({X i A i }. Beispiel: (-facher Müzewurf eier p-müze Beim -fache Müzwurf ist der atürliche Grudraum Ω {ω (ω,..., ω ω i {0, }} ud das dazugehörige Wahrscheilichkeitsmaß wird gegebe durch P ({(ω,..., ω } p ω i ( p ω i. Wir defiiere die Zufallsvariable X i : Ω {0, }, X i (ω ω i für i,...,. Da sid X,..., X uabhägig ud Beroulli-verteilt ach b(, p. Beweis: Sei (ω,..., ω Ω beliebig. Da gilt: ( P {X i ω i} P ({(ω,..., ω } p ω i ( p ω i P ({X i ω i} ud damit sid X,..., X uabhägig. Die Verteilugseigeschaft der X i folgt wie im Beweis vo Satz (siehe ute. Sei u S X i. Da gilt: ({ P (S k P ω ω ω i k ω ω i k } X i (ω k P ({(ω,..., ω } p k ( p k ( p k ( p k. k Ma sieht, S ist biomialverteilt ach b(, p. Wir gebe u eie Kostruktio eies Wahrscheilichkeitsraumes aus uabhägige Zufallsvariable zu vorgegebee Verteiluge. 50

55 Satz Seie (Ω i, P i diskrete Wahrscheilichkeitsräume mit Ω i R für i,..., ud p i, die zu de Wahrscheilichkeitsmaße P i gehörige Wahrscheilichkeitsfuktioe. Weiter sei Ω Ω... Ω {ω (ω,..., ω ω i Ω i, i,..., } ud p(ω p i (ω i. Seie X i (ω ω i für i,..., Zufallsvariable ud sei P das zu p gehörige Wahrscheilichkeitsmaß. Da gilt: p(ω ist eie Wahrscheilichkeitsfuktio auf Ω. 2 Die Zufallsvariable X i ist ach P i verteilt. 3 X,..., X sid uabhägig. Beweis: Zu : p(ω ω Ω p i (ω i... p i (ω i ω ω (ω,...,ω ( ( p (ω... p (ω ω ω Zu 2: {X i A i } {ω X i (ω A i } {ω ω i A i } Ω Ω i A i Ω i+ Ω P ({X i A i } P (Ω Ω i A i Ω i+ Ω P (Ω P i (Ω i P i (A i P i+ (Ω i+ P (Ω P i (A i Zu 3: {X i A i } {ω X i (ω A i, i,..., } {ω ω i A i, i,..., } A A 2 A ( P {X i A i } P (A A ω A A p(ω p i (ω i ( ω A A ( p (ω... p (ω ω A ω A P (A... P (A P ({X i A i } Ma sieht u auch: Startet ma mit Beroulli-Experimete, so liefert der Satz gerade de im Beispiel zuvor behadelte -fache Müzwurf. 5

56 Im ächste Resultat behadel wir Stabilitätseigeschafte vo Verteiluge bei Summebildug uabhägiger Zufallsvariable. Satz Seie X ud X 2 uabhägige Zufallsvariable. Sid die X i biomialverteilt mit Parameter i ud p für i, 2, da ist X + X 2 biomialverteilt ach b( + 2, p. 2 Sid die X i Poisso-verteilt mit Parameter λ i für i, 2, da ist X + X 2 Poissoverteilt mit Parameter λ + λ 2. 3 Sid die X i Pascal-verteilt mit Parameter r i ud p für i, 2. Da sid X + X 2 Pascal-verteilt mit Parameter r + r 2 ud p. Beweis: Zu : P ({X + X 2 l} P ( l {X i, X 2 l i} i0 l P ({X i, X 2 l i} i0 l P ({X i}p ({X 2 l i} i0 l ( i0 p i ( p i i l p l ( p + 2 l i0 p l ( p + 2 l p l ( p + 2 l l ( 2 p l i ( p 2 l+i l i ( ( 2 i ( i0 + 2 l i ( ( 2 Zu 2: P ({X + X 2 l} P ( l {X i, X 2 l i} i0 l i l i l P ({X i}p ({X 2 l i} i0 l i0 λ i e (λ +λ 2 e (λ +λ 2 l! λ l i i! e λ 2 (l i! e λ 2 l i0 i0 λ i λ l i 2 i! (l i! l ( l i e (λ +λ 2 (λ + λ 2 l λ i λ l i 2, da Die letzte Gleichug folgt mit der biomische Formel. l! l! i!(l i! ( l i 52

57 l r 2 Zu 3: P (X + X 2 l P (X i, X 2 l i ir l r 2 P (X ip (X 2 l i ir l r 2 ( ( i p r ( p i r l i p r 2 ( p l i r 2 r ir r 2 [ l r2 ( ( ] i l i p r +r 2 ( p l (r +r 2 r r 2 ir Wir bereche de Klammerausdruck weiter ud setzte dazu j i r. Da gilt l r 2 ir ( i r ( l i r 2 l (r +r 2 j0 l (r +r 2 ( j0 ( ( r + j l r j r ( r + j l l (r + r 2 j. r 2 ( l r j l (r + r 2 j Letzteres folgt aus der Normierug der Bose-Eistei-Verteilug (siehe S. 28. Setzt ma dort N i r i für i, 2 ud j sowie 2 l (r + r 2 j, so ergibt N + N + N l ud + 2 l (r + r 2. Ma beachte, j zählt die Mißerfolge bis zum r -te Erfolg ud l (r + r 2 j die Mißerfolge zwische r -te Erfolg ud (r + r 2 -te Erfolg. Bemerkuge: Ählich wie die Biomial-Verteilug b(, p die -fache Faltug vo b(, p ist, ergibt sich die Pascal-Verteilug pasc(r, p als r-fache Faltug der geometrische Verteilug pasc(, p. Gelegetlich wird sie auch als egative Biomial-Verteilug bezeichet. Satz Sei X ud X 2 uabhägige Zufallsvariable. Sid X i biomialverteilt mit Parameter i ud p für i, 2, so ist X gegebe X + X 2 l hypergeometrisch verteilt mit Parameter l ud, 2. 2 Sid X i Poisso-verteilt mit Parameter λ i für i, 2, so ist X gegebe X + X 2 l biomialverteilt mit Parameter l ud λ /(λ + λ 2. Beweis: Zu : Wege Satz gilt 53

58 P (X i X + X 2 l P (X i, X 2 l i P (X + X 2 l ( i p i ( p ( i 2 l i p l i ( p 2 l+i ( + 2 pl ( p l + 2 l ( ( 2 i l i ( + 2 l. 2 wird i de Übuge behadelt. 54

59 Kapitel 6 Erwartugswert ud Variaz vo Verteiluge 6. Der Erwartugswert Vorbereitede Beispiele Eimaliges Werfe eies Würfels. Der Gewi sei i, falls der Würfel i zeigt. Was ist ei fairer Eisatz? Atwort: , Sei i die Azahl der Familie mit i Kider. Da ist die Azahl der Familie, ud m die Azahl der Kider. Die mittlere Azahl der Kider pro Familie ist m. Defiitio 6.. (Erwartugswert Sei (Ω, P ei Wahrscheilichkeitsraum, p die zu P gehörige Wahrscheilichkeitsfuktio ud X eie Zufallsvariable auf Ω. E(X : ω Ω X(ωp(ω heißt Erwartugswert vo X, falls X 0 ist oder X(ω p(ω < gilt. ω Ω Bemerkuge: Der Erwartugswert ist der mittlere Wert eier Zufallsvariable bzw. ihrer Verteilug. 2 Sei f : R R eie Fuktio. Da ist f X eie Zufallsvariable ud we ihr Erwartugswert existiert, so ist dieser E(f X : ω Ω f(x(ωp(ω. 3 EX ist möglich, falls X 0 ist! Siehe dazu ei Beispiel ute. 55

60 4 Falls X(ω p(ω <, so gilt E X X(ω p(ω. Dies sieht ma so: Da auf der ω Ω ω Ω rechte Seite eie absolut kovergete Reihe steht, ka ma die Reihe X(ωp(ω ω Ω umorde. Es gilt E(X ω X + (ωp(ω ω X (ωp(ω E(X + E(X, wobei X + (ω : X(ω 0 ud X (ω : ( X(ω 0 sid. Es gilt außerdem X ± (ω 0. Da X(ω X + (ω + X (ω ist, gilt auch E X E(X + + E(X. Eigeschafte des Erwartugswertes E(α X α E(X. 2 Für A Ω gilt: E( A P (A, wobei A (ω 3 EX E X { falls ω A 0 falls ω / A ist. 4 Sid E X ud E Y kleier uedlich, so gilt E(X + Y E(X + E(Y. 5 Sid X, Y Zufallsvariable mit P ({ω X(ω Y (ω}, so gilt: E(X E(Y. Beweis: Zu : E(αX αx(ωp(ω α X(ωp(ω αe(x. ω Ω ω Ω Zu 2: E( A A (ωp(ω p(ω P (A. ω Ω ω A Zu 3: EX E(X + E(X EX + + EX E(X + + X E X. Zu 4: E(X + Y ω Ω(X(ω + Y (ωp(ω X(ωp(ω + Y (ωp(ω ω Ω ω Ω E(X + E(Y. Zu 5: Da P (X Y folgt E(X X(ωp(ω ω Ω X(ωp(ω + ω {ω X(ω Y (ω} Y (ωp(ω + 0 ω {ω X(ω Y (ω} Y (ωp(ω + ω {ω X(ω Y (ω} ω Ω Y (ωp(ω E(Y. ω {ω X(ω>Y (ω} ω {ω X(ω>Y (ω} 56 X(ωp(ω Y (ωp(ω

61 Wir folger u ohe Kombiatorik Poicarés Ei- ud Ausschlußformel: Beweis: ( P A k k k ( k k P ( A k P (( A k c P ( k A c k k E( E( E( k A c k A c k k ( Ak k i,...,i k P (A i... A ik. k E( + ( k Aij k i,...,i k j + ( k E( Ai... A ik k i,...,i k + ( k P (A i... A ik k i,...,i k ( k P (A i... A ik i,...,i k k Die folgede Trasformatiosformel ist besoders wichtig. Astatt auf dem Grudraum Ω, ka ma de Erwartugswert auch über de Bildraum X(Ω bereche. Satz 6..2 Sei (Ω, P ei Wahrscheilichkeitsraum ud X eie Zufallsvariable mit der Bildmege X(Ω {x, x 2,...}. Für x X(Ω sei q(x P ({ω X(ω x}. Weiter sei f : R R ud es gelte f 0 oder E f(x <. Da gilt: E(f(X f(x i q(x i. 2 Ist Y eie weitere Zufallsvariable auf (Ω, P mit Y (Ω {y, y 2,...}. Sei g : R 2 R ud gelte g 0 oder E g(x, Y <. Da gilt Eg(X, Y i,j g(x i, y j q(x i, y j mit q(x i, y j P (X x i, Y y j. 57

62 Beweis: Zu E(f(X ω Ω f(x(ωp(ω f(x(ωp(ω {ω X(ωx i } f(x i {ω X(ωx i } p(ω f(x i P ({ω X(ω x i } f(x i q(x i. Zu 2 Der Beweis geht etspreched wie. 6.2 Beispiele vo Erwartugswerte Biomialverteilug Seie X,..., X Beroulli-Zufallsvariable mit P (X i p i P (X i 0 für i,...,. Da gilt E(X i P (X i + 0 P (X i 0 p i. Außerdem gilt: E(X + X X E(X E(X p i. Gilt p i p für i,...,, so liegt die Biomialverteilug vor. Für de Erwartugswert der Biomial-Verteilug gilt: E(X X p. Auf dasselbe Ergebis kommt ma auch mit Hilfe vo Satz 6..2, jedoch mit viel mehr Rechug. Ausgehed vo P (X k q(k ( k p k ( p k, hat ma ( E(X k p k ( p k k k0 ( k p k ( p k k k ( p k ( p k k k ( p p k ( p k k k ( p p l ( p ( l l l0 p. 58

63 I der dritte Gleichug wird dabei ( ( k k k beutzt ud i der letzte die Biomische Formel. Poisso-Verteilug Ma hat P (X k λk k! e λ. Es folgt da wege der Normierugsbedigug. E(X λ λ k P (X k k0 k λ, k λk k! e λ k l0 λ k (k! e λ λ l l! e λ Geometrische Verteilug Hier ist P (X k p( p k für k, 2,... Der Erwartugswert ergib sich als E(X kp( p k p k( p k p p 2 p. k Dabei verwede wir folgede Idetität: k k kx k (x 2 für x. Ei etwas aderer Weg ist: Für X eie Zufallsvariable mit Werte i Z + E(X P (X. (Beweis später. Ma erhält da gilt E(X P (X ( p Ei Beispiel für E(T ( p m m0 ( p p. Seie X i für i, 2,... uabhägige Zufallsvariable mit P (X i P (X 2 i. Sei S X i. Wir deke us diese Variable als Gewi ach Müzwurfspiele. Für de Erwartugswert der X i gilt: EX i + ( Der Erwartugswert der Gewisumme ach Spiele ist: ES 59 EX i 0.

64 Sei T mi{ S } die Azahl der Spiele bis die Gewisumme zum erste Mal de Wert aimmt. Ma hat da: P (T < ud 2 E(T. Dazu zeigt ma (dies folgt später: P (T 2k + ( 2k 2 (2k+ k + k Mit Hilfe der Stirlig-Formel folgt da (mit etwas Rechug P (T 2k + 2(k + πk. Wählt ma u zu vorgegebeem ε > 0, K 0 (ε so, dass für alle k K 0 (ε gilt: Da folgt a P (T 2k + ( ε 2(k + πk b 2k + 2k + 2 ε ET (2k + P (T 2k + k0 ( ε ( ε 2 k K(ε k K(ε 2k + 2(k + πk πk. Die Divergez der Reihe folgt u zum Beispiel durch Vergleich mit der harmoische Reihe. k k 6.3 Variaz ud Kovariaz Defiitio 6.3. (Variaz, Stadardabweichug X sei eie Zufallsvariable auf (Ω, P mit E(X 2 <. Da heißt Var(X E(X E(X 2 Variaz vo X ud σ(x Var(X Stadardabweichug vo X. Bemerkuge: Beide Größe sid Maßzahle für die Streubreite der Verteilug vo X um E(X herum. Die Stadardabweichug hat lieare Skala, die Variaz quadratische. 60

65 2 Durch die Forderug E(X 2 < ist die Variaz wohldefiiert, de es gilt: X + X 2 E X + E(X 2 <. Folglich ist E(X < ud weiter < E(X <. E(X E(X 2 EX 2 + 3(E X 2 3 Var(X E(X 2 (E(X 2. Dies sieht ma folgedermaße. Setze µ E(X. Da ist Var(X E(X µ 2 E(X 2 2Xµ + µ 2 E(X 2 2µE(X + µ 2 E(X 2 2µ 2 + µ 2 E(X 2 µ 2. 4 Var(aX + b a 2 Var(X, de: Var(aX + b E(aX + b E(aX + b 2 E(aX E(aX 2 E(a(X E(X 2 a 2 E(X E(X 2 a 2 Var(X. Defiitio (Kovariaz, Korrelatioskoeffiziet X ud Y seie Zufallsvariable mit Var(X < ud Var(Y <. Da heißt Kovariaz vo X ud Y. Die Größe Kov(X, Y : E(XY E(XE(Y Kor(X, Y : Kov(X, Y σ(xσ(y heißt Korrelatioskoeffiziet vo X ud Y. Bemerkuge: Es gilt < Kov(X, Y <. Dies sieht ma wie folgt: Für a, b R gilt 2 a b a 2 + b 2. Setze a X EX ud b Y EY, so folgt (X EX(Y EY 2 [(X EX2 + (Y EY 2 ] ud damit Kov(X, Y [(X 2 EX2 + (Y EY 2 ] (Var(X + Var(Y <. 2 2 Es gilt Kov(X, Y E(X Y EX EY. Dies ist eie ähliche Rechug wie i Bermerkug 3 zur Variaz. Kov(X, Y E ((X EX(Y EY E (X Y XEY Y EX + EX EY E(X Y EX EY. 6

66 3 Sid X ud Y uabhägig, so gilt E(XY E(XE(Y ud damit Kov(X, Y 0 ud Kor(X, Y 0. Die Umkehrug gilt im Allgemeie icht (siehe Übuge. Beweis vo 3: Wege Satz 6..2 gilt: E(X Y i,j i,j x i y j P ({ω X(ω x i, Y (ω y j } x i y j P ({ω X(ω x i }P ({ω Y (ω y j } ( i x i P ({ω X(ω x i }( j y j P ({ω Y (ω y j } E(XE(Y. Satz Seie X i, i,..., Zufallsvariable für i,..., mit E(Xi 2 < ud S X i. Da gilt: Var(S Var(X i + Kov(X i, X j. i j 2 Falls X, X 2,..., X uabhägig sid, ist Var(S Var(X i. Diese Gleichug heißt Gleichug vo Bieaymé. Beweis: Zu : Sei µ k E(X k. (S E(S 2 ( (X i µ i 2 ( (X i µ i ( (X j µ j (X i µ i 2 + (X i µ i (X j µ j i j Bildet ma auf beide Seite de Erwartugswert, so folgt. Zu 2: Sid die X i uabhägig, so gilt Kov(X i, X j 0 für i j. Daraus folgt die Behauptug. j 6.4 Variaze eiiger Verteiluge 6.4. Gleichverteilug auf eier edliche Mege Sei Ω {,..., } ud p(i für alle i Ω. Weiter sei X : Ω R die idetische Abbildug. Da gilt: E(X x i : x, 62 Var(X (x i x 2.

67 Da Var(X E(X 2 [E(X] 2 ist, gilt: (x i x 2 x 2 i x 2 ud damit x 2 i (x i x 2 + x 2. Ma et i diese Fall E(X arithmetisches Mittel ud Var(X empirische Variaz Beroulli-Variable ud ihre Summe Seie X,..., X uabhägige Zufallsvariable mit P (X i p i ud P (X i 0 p i. Da gilt: E(X i p i ud Var(X i p i p 2 i p i ( p i. Sei S X i. Da ist E(S E(X i p i ud Var(S p i p 2 i. Im Fall, dass p i p ist für alle i, gilt Var(S p( p. Sei p : p i. Da gilt: Var(S wird maximal, we p i p für alle i. I diesem Fall ist da Var(S p( p. Beweis: Var(S p p 2 i p (p 2 + (p i p 2 (siehe Beispiel obe. Die rechte Seite wird miimal, falls (p i p 2 0. Dies gilt geau da, we p i p für alle i ist. Wir betoe, dass für p i p S biomialverteilt ist mit Parameter ud p, so dass Var(S p( p die Variaz vo S ist Poisso-Verteilug Sei X Poisso-verteilt mit Parameter λ. Da gilt: E(X λ ud Var(X E(X 2 [E(X] 2 λ, de ma ka schreibe: E(X 2 k 2 λk k! e λ k λ k λk (k! e λ k λ 2 k2 λ 2 l0 λ k 2 (k 2! e λ + λ λ l l! e λ + λ 63 m0 k λ m m! e λ λ k (k! e λ

68 λ 2 + λ. Ud damit ist Var(X λ 2 + λ λ 2 λ Hypergeometrische Verteilug I eier Ure seie r rote ud s schwarze Kugel. Davo werde Kugel ohe Zurücklege gezoge ( r +s. Um die Variaz der Azahl der schwarze Kugel i der Ziehug zu bestimme, defiiere wir für i,..., die Zufallsvariable X i falls die i-te gezogee Kugel schwarz ist, X i 0, falls die i-te gezogee Kugel rot ist. Sei S X i die Azahl der schwarze Kugel i der Ziehug. Mit p : s gilt E(X r+s E(X 2 p ud damit Var(X E(X 2 (E(X 2 p p 2 p( p. Es lässt sich weiter zeige, dass P (X i P (X p für alle i ist ud dass P (X j, X k s r+s s r+s für alle j k ist. Der Beweis folgt später. Damit ist: Var(X i E(X 2 i (E(X i 2 p p 2 p( p Var(X ud Kov(X j, X k E(X j X k E(X j E(X k P (X j, X k p 2 s r + s s r + s p2 p( p r + s für j k. Uter Verwedug vo Satz folgt daraus: ( Var(S Var X i Var(X i + j k Var(X ( p( p r + s p( p p( p( [ r + s p( p ]. r + s Kov(X j, X k We wir alle r + s Kugel aus der Ure ziehe, habe wir auch alle schwarze Kugel gezoge ud somit ist S s. Für r + s ist Var(S 0, was auch die Formel bestätigt. 64

69 6.5 Das Gesetz der Große Zahle Wir wolle u das Verhalte des arithmetische Mittels X X i studiere, we groß wird. Seie X, X 2,..., X uabhägig ud X X i. Da gilt ach Satz Var ( ( X Var X i ( Var Xi Var(X 2 2 i. Habe die X,..., X alle dieselbe Verteilug, so gilt: Var(X Var(X 2 ud E(X E(X i E(X. Da die Variaz vo X gege 0 geht für, vermutet ma, dass X E(X. Es ist aber icht umittelbar klar, wie das zu formuliere ist. Vorbereited zeige wir eie grudlegede Ugleichug. Satz 6.5. (Tschebychev-Ugleichug Sei X eie Zufallsvariable mit E(X 2 <. Da gilt für jedes ε > 0: P ({ω : X(ω E(X > ε} Var(X ε 2. Beweis: Sei X (ω : X(ω E(X. Da gilt: E(X 0 ud Var(X Var(X E(X 2. Damit folgt: P ( X E(X ε P ( X ε ε 2 {x X (Ω: x ε} {x X (Ω: x ε} x X (Ω ε 2 E(X 2 ε 2 Var(X P (X x x 2 ε 2 P (X x x 2 P (X x ε 2 Var(X. Satz (Gesetz der Große Zahle Für jedes seie X i, i,..., uabhägige ud idetisch verteilte Zufallsvariable mit E(X 2 <. Sei X X i. Da gilt für jedes ε > 0: lim P ({ω : X (ω E(X > ε} 0. 65

70 P E(X ud sage X E(X stocha- Bemerkug: Wir schreibe dafür auch X stisch. Beweis: Setze i die Tschebychev-Ugleichug (Satz 6.5. X : X ei. Da gilt: P ( X E(X > ε Var ( ( X ε 2 ε Var X 2 i Var(X ε 2 2 ε Var(X. 2 Damit folgt, we ma E(X E(X eisetzt lim P ( X E(X > ε lim P ( X E(X > ε 0. Beispiel p-müze: Wir betrachte eie p-müze, d. h. P (X i p, P (X i 0 p. Damit ist E(X i p. Die X i seie uabhägig ud X Die relative Häufigkeit der bei Würfe kovergiert gege p, X P E(X p. X i. Das ist aber geau der Spezialfall des Gesetzes der große Zahle, de Beroulli 73 etdeckte. Speziell beim Würfel setzt ma X i, falls das Ergebis 6 ist ud 0 sost. Da gilt X X i. I Worte: 6 Die relative Häufigkeit der Sechse i Würfe kovergiert für gege /6. relative Haeufigkeit der "6" Wuerfe Abbildug 6.: relative Häufigkeit Eie Awedug (Wahlumfrage: Vor eier Wahl werde Persoe befragt, ob sie die Partei A wähle werde oder icht. Nur Ja-Nei-Atworte sid zugelasse. Dabei setze ma X i falls Perso i die Partei A wählt ud 0 sost. Es sei P (X i p die Popularität der Partei A. Mit Hilfe vo X lässt sich u p schätze. Es gilt: E(X p, Var(X p( p ud X p. 66

71 Die Empirische Verteilug Seie X, X 2,..., X uabhägig Zufallsvariable mit gleicher Verteilug Q ud Wertebereich X(Ω {z, z 2,..., z k }. Sei F (z {Xi z} für z X(Ω. Da gilt für : F (z Q(z für alle z X(Ω. F ( heißt empirische Verteilug, i Eglisch: sample distributio. Beachte: F (z. z Beweis: Da die X i uabhägig sid, sid auch {Xi z}, i,..., uabhägig. Das Gesetz der Große Zahle liefert: F (z E {X z} P (X z Q(z. Beispiel: Würfel! relative Haeufigkeite relative Haeufigkeite Ergebis Ergebis Abbildug 6.2: Empirische Verteilug bei Die Approximatio stetiger Fuktioe auf dem Itervall [0,] durch Polyome. Mit Stochastik lasse sich auch Resultate der Aalysis beweise. Wir zeige u, wie sich jede stetige Fuktioe durch Berstei-Polyome approximiere lässt. Satz 6.6. Sei f : [0, ] R, f stetig. Sei B (p : k0 f( k ( k p k ( p k. Da gilt: Die Folge vo Fuktioe (B N kovergiert gleichmäßig gege f für. I Formel: lim max 0 p B (p f(p 0. Beweis: Seie X,..., X uabhägige, idetisch verteilte Beroulli-Variable mit P (X i p P (X i 0 ud S X i. Da ist Ef( S k0 f( k b(, p; k, wobei b(, p; k ( k p k ( p k. 67

72 Da f auf dem kompakte Itervall [0, ] stetig ist, ist f gleichmäßig stetig auf [0, ]. Damit gilt: ε > 0 δ > 0 mit f(x f(y ε falls, x y δ. Außerdem ist f beschräkt, also max f(x M für ei geeigetes M R. 0 x Sei ε 0. Da gibt es ei δ 0 mit f(x f(y ε falls x y δ. Es gilt da mit Hilfe der Abschätzug beim Beweis des Gesetzes der Große Zahle: f(p B (p f(pb(, p; k f( k b(, p; k k0 k0 (f(p f( k b(, p; k k0 k k f(p f( b(, p; k + f(p f( b(, p; k {k: k p δ} {k: k p >δ} ε b(, p; k + 2M b(, p; k {k: k p δ} {k: k p >δ} ε + 2M P ({ S p > δ} p( p ε + 2M δ 2 ε + 2M 4δ 2 da max p( p /4 ist, 0 p ε + M 2δ 2 2ε, falls hireiched groß ist uabhägig vo p. Damit ist die Kovergez gleichmäßig über [0, ]. 6.7 Poisso-Verteilug ud das Gesetz der kleie Zahle Wir werde u eie Grezwertsatz speziell für die Biomialverteilug keelere. Sei X biomialverteilt, das heißt ( P (X k p k ( p k für 0 k. k Wir betrachte i diesem Abschitt de Fall p 0 ud, so dass p λ. Wir habe also eie große Azahl vo Versuche vorliege mit jeweils sehr kleier Erfolgswahrscheilichkeit. Dies erklärt de Name Gesetz der kleie Zahle. Es gilt ( P (X 0 ( p p 68 ( λ e λ.

73 Letzteres folgt aus ( lim λ e λ. Damit habe wir scho eie Näherugsformel für P (X 0. Um auch für die weitere Wahrscheilichkeite eie Approximatio zu erhalte, betrachte wir zuächst das Verhältis P (X k R(k P (X k. Es gilt R(k ( k ( k p k ( p k! p k ( p k+ k!( k!! (k!( k+! p p k + p k p. Damit folgt bei ud p 0 mit p λ (bei festem k R(k p k Also R(k λ/k. Damit gilt weiter ( k λ q k. P (X k P (X 0R(R(2... R(k e λ λ λ 2... λ k λ λk e k!. Diese Näherug heißt Poisso-Näherug. Ma ka u zusammefasse als das Gesetz der kleie Zahle: ( p k( p k λk k k! e λ falls p λ gilt. Beispiel: Defekte i eiem Produktiosprozess Ei Produktiosprozess führt zu % defekte Eiheite. Wie groß ist die Wahrscheilichkeit 2 oder mehr defekte uter 00 produzierte Teile zu fide? Die Verteilug der Defekte ist biomialverteilt mit 00 ud p 00 : ( P (0 oder Defektes ( 00 ( , , , ( Näherugsweise ist die Verteilug der Defekte poissoisch mit Parameter. Da ist 69

74 P (0 oder Defektes 2 e 0, Damit erhält ma i beide Rechuge P (2 oder mehr Defekte 0, Der Uterschied i der Approximatio erscheit erst i der 6. Stelle hiter dem Komma. Ei Datebeispiel, für das die Poisso-Verteilug sehr gut paßt, ist die Statistik der Hufschlagtote i der Preußische Armee vo 875 bis 894. Dabei ergebe sich 96 Tote i 280 Regimetsjahre. Dies ergibt als beste Apassug eie Poisso-Verteilug mit λ ,7. Number of Deaths by Horsekicks i the Prussia Army from for 4 Corps Year G I II III IV V VI VII VIII IX X XI XIV XV Total Total G idicates Guard Corps G, I, VI ad XI Corps orgaizatio differ from the others 70

75 6.8 Der zetrale Grezwertsatz Seie X, X2,..., X uabhägige Zufallsvariable, alle mit derselbe Verteilug ud mit edlichem Erwartugswert E(X µ ud edlicher Variaz Var(X σ 2. Sei S Xi. Wir iteressiere us für das Verhalte vo S S µ σ für wachsedes. Es gilt E(S 0 ud Var(S. Ma sagt S ist stadardisiert. Nu gilt: b 2 e x /2 dx lim P (a S b Φ(b Φ(a 2π a Diese Aussage wird zetraler Grezwertsatz geat. Sie besagt, dass für große S äherugsweise ormalverteilt ist Abbildug 6.3: Approximatio der Biomialverteilug durch die Normalverteilug (00, 000 Aschaulich heißt dies, die Fläche uter dem Histogramm der Verteilug vo S zwische 2 a ud b kovergiert für gege die Fläche uter der Kurve vo φ(x 2π e x /2 zwische a ud b. φ heißt Gaußsche Glockekurve (Sie fidet sich auch auf der Vorderseite des 0 DM Scheis. Abbildug 6.4: 0 DM Schei 7

76 Die Fuktio Φ(z z φ(x dx ist gut tabelliert ud i viele hochwertige Tascherecher abrufbar. Sie lässt sich icht elemetar bereche. Es gilt Φ( z Φ(z für z > 0. Dies folgt direkt aus der Symmetrie vo φ(x um /2. Abbildug 6.5: Symmetrie der Normalverteilug Es gilt Φ(z Φ( z 2Φ(z. Hier sid drei Werte dieser Fuktio, die ma sich für Rechezwecke merke ka. z Φ(z Φ( z 0, , ,997 Der Wert Φ(4 Φ( 4 0, Ei altbekater Spezialfall des zetrale Grezwertsatzes ist die Approximatio der Biomialverteilug für de Fall icht selteer Ereigisse: Satz 6.8. (de Moivre-Laplace Seie X, X 2,..., X uabhägige Beroulli-verteilte Zufallsvariable mit Parameter p. Sei S X i. Da gilt für a < b lim P ( a Der Beweis folgt i Abschitt 6.9. ka S p b p( p Φ(b Φ(a. Bemerkug: Beachte S ist biomialverteilt. Der Satz wird oft so verwedet: b ( ( (+ P (a S b p k ( p k b p Φ Φ k p( p Dazu beachte ma: S b S p p( p b p. p( p ( a p. p( p Für kleie ist die Approximatio (+ icht sehr gut ud es empfiehlt sich eie Stetigkeitskorrektur, die dari besteht die approximierede Normalverteilug der Kästchebreite azupasse. 72

77 mit µ p ud σ 2 p( p. ( b + 2 P (a S b Φ µ σ ( a Φ 2 µ σ Abbildug 6.6 De Vorteil zeigt das folgede extreme Beispiel: 00, p 2 P (S 50 Φ(( /5 Φ((50 50/5 Φ(0, Φ(.0, 0, Der exakte Wert ist 0,07959, währed die Approximatio mit (+ eifach 0 ergibt. Es folgt u ei Beispiel, bei dem so groß ist, dass ma die Stetigkeitskorrektur außer acht lasse ka. Beispiel : Wie groß ist die Wahrscheilichkeit, dass i 6000 Würfe eies Würfels die 6 a mehr als 00 mal auftritt, b midestes 950 mal ud höchstes 050 mal auftritt? Zu a P (S 6000 > 00 P (S > 00 Zu b P ( S P ( S 6000 > 2 P ( S P 00 > Φ( 2 0,00028 ( S Beispiel 2: (Wahlumfrage (Fortsetzug [ Φ( 3 Φ( 3 ] 0,97. Wir verwede das Biomialmodell. Seie p die Popularität eier Partei A, die Azahl der befragte Wähler, S X i die Azahl der Stimme i der Umfrage für A. p X S ist Popularität der Partei A i der Wahlumfrage, ei Schätzer für p. Sei p. Wie groß ist die Wahrscheilichkeit ei Ergebis zu erhalte, das um 2 73

78 mehr als 2,5% vo der Schätzug p abweicht, we 200 bzw Wähler befragt werde. I Formel: ( S P 0,5 0, 5 0, 025? Hier wedet ma de Satz vo de-moivre-laplace äherugsweise a. Obiger Ausdruck ist gleich P 0,5 ( S 0, 5 (0, 5 2 0, 025 (0, 5 2 P 0,5 ( S 0, 5 (0, 5 2 0, 05 Φ( 0, 05 + Φ(0, 05 2Φ( 0, 05 { 0, 033 für 200 0, 025 für Eie verwadte Frage ist: Wie wahrscheilich ist es, dass bei eier Befragug vo 200 bzw Wähler ud bei eier Schätzug vo p 0, 525 doch icht die absolute Mehrheit vorliegt. Gefragt ist ach sup P p ( p 0, 525 P 0,5 ( p 0, 525 p 2 P 0,5 ( p 0, 5 0, 025 ( S 0, 5 P 0,5 0, 5 ( P0,5 S 0, 05 0, 025 0, 5 Φ(0, 05 { 0, 046 für 200 0, 026 für Beispiel 3: Wie viele Wähler muss ma befrage, um mit eier Abweichug vo höchstes % das Wahlergebis eier Partei A mit 90% Sicherheit vorherzusage? Hier ist das Biomialmodell agebracht. Sei p S der Ateil der Befürworter der Partei A uter de Befragte. S ist biomialverteilt mit Parameter ud p 0. p 0 ist ubekat ud soll bis auf % bestimmt werde, d.h. ( P p0 ( p p 0 0,0 0,90. Wie groß muss sei, damit Aussage ( für alle p 0 gilt? Sei p p 0 0,0, p 2 p 0 + 0,0, da gilt 74

79 P p0 (p p p 2 P p0 ( (p p 0 p0 ( p 0 S (p2 p 0 p0 ( p 0 ( (p2 ( (p p 0 p Φ 0 Φ p0 ( p 0 p0 ( p 0 ( (p2 p 0 2 Φ p0 ( p 0 ( 0,0! 2 Φ 0,9. p0 ( p 0 Dies ist äquivalet zu : Nu folgt ( 0,0 0, 2 Φ. p0 ( p 0 Φ (0,05 0,0 p0 ( p 0 ud Damit muss gelte: [Φ (0,05] 2 0,02 p 0 ( p 0. 0 ( Φ (0,05 2 /0,0 2 p 0 ( p 0. Beachte p( p mit Gleichheit für p, Φ(0,05, Für p 0 ist , für p 0 0, ist Der Beweis des Satzes vo de Moivre-Laplace Die Ladausche Symbole ud die Stirlig Formel Defiitio 6.9. (Ladausche Symbole Seie (a N ud (b N Folge mit Werte i R. Sei b 0 für alle.. Ma schreibt a o(b für, we a b 0 für. 2. Seie a > 0 ud b > 0 für alle. Ma schreibt a O(b für, falls eie Kostate K > 0 ud ei 0 N existiere, so dass a K b für 0 gibt. 3. Sid a, b 0 für alle, so schreibt ma: a b für falls a b für. Ma sagt a is asymptotisch äquivalet zu b. 75

80 Beispiel:. Die folgede zwei Aussage sid äquivalet: a o( ud a 0 für. 2. o( 2 für. 3. l o( für. De setze y l, da ist: l y y 0 für y e y +y+ y2 2! + y3 3! y 2! + y ! ud y. 4. Es gilt: a b für a b + o( für. Dabei bedeutet a b + o(c für : Es existiert eie Folge (d N mit a b + d ud d o(c für. Stirlig Formel:! 2π e. Sei a 2π e. Da wird! für große gut durch a approximiert. Es gibt jedoch zwei Folge a ud a, die! och etwas besser approximiere ud besoders für kleiere sehr ützlich sid: a a e 2 ud a a e 2+. Hier ist ei Vergleich der Folge:! a a a 0,922,002 0, ,99 2,006, ,836 6,003 5, ,506 24,00 23, ,09 20,002 9, a /! 0,922 0,9595 0,977 0,9794 a /!,002,0003,00005,00004 a /! 0,996 0,9985 0,9997 0,99958 Ma sieht, dass isbesodere für kleie die Folge a ud a besser sid. Da aber für alle drei Folge asymptotische Äquivalez zu! gilt, ist es für mathematische Beweise icht wesetlich, welche ma immt. Deshalb werde wir stets die Formel für a verwede. Approximatio der Biomialverteilug Die Wahrscheilichkeit bei Würfe mit eier p-müze k Eise zu werfe beträgt P (X k ( k p k ( p k. Für ud k so, dass auch k, gilt äherugsweise uter Verwedug der Stirlig-Formel (Dabei schreibe wir k für k :! k!( k! pk ( p k 2π e p k ( p k 2πkkk e k 2π( k( k k e ( k 76

81 ( p 2π k ( k k/ k ( p k/ k 2πp ( p ( p k ( p p p k mit p k [ ( p p ( p p 2πp ( p p p 2πp ( p e I(p,p ] mit I(q, p q l( q q + ( q l(, wobei 0 < p < ud 0 < q <. I(q, p heißt p p relative Etropie vo q bezüglich p. Zusammefassed habe wir folgedes bewiese. Satz Sei 0 < p < ud sei δ < mi(p, p. Da gilt P p (S p 2πp ( p e I(p,p ( + o( gleichmäßig für alle Folge (p ; mit p {0,,..., } ud mi(p, p > δ/ 2 für. Bemerkug: Gleichmäßig bedeutet hier, dass der o(-term lediglich vo δ ud abhägt. Nu wolle wir de Expoete I(p, p etwickel ud eie lokale Grezwertsatz herleite. Dazu brauche wir eiige Eigeschafte der relative Etropie. Eigeschafte vo I(q, p Es gilt: I(p, p 0, 2 I(q, p > 0 für q p, 3 I(q, p ist strikt kovex ud zweimal stetig differezierbar i beide Argumete. Folglich ist eie quadratische Approximatio ahe p möglich. (p p 2 Lemma Sei 0 < p <. Da gilt I(p, p + o((p 2 p ( p p 2 für p p. Beweis: Mit Hilfe der Taylor-Etwicklug vo l( x erhält ma: I(p, p p l( p p ( p l( p p p l( p p ( p l( p p p p 77

82 p [ ( p p p 2 (p p 2 + o(( p p 2 ] p p ( p [ ( p p p 2 (p p 2 + o(( p p 2 ] p p [(p p + (p p 2 + o( (p p 2 ] 2 p p +[(p p + (p p 2 + o( (p p 2 ] 2 p p (p p 2 2 p ( p + o((p p 2 + o((p p 2, (p p 2 2 p ( p + o((p p 2 für p p, da l( x x 2 x2 + o(x 2 für x. Damit ergibt sich folgeder Satz: Satz (Lokaler zetraler Grezwertsatz Sei 0 < p <. Da gilt für jedes K > 0 ud alle Folge (p N mit p {0,, 2,..., } ud p p K für : ( P p (S p (p p 2 2πp ( p e 2p( p ( + o(, (2 P p (S p e (p p 2 2p( p ( + o(. 2πp( p Diese Kovergez ist gleichmäßig für alle Folge (p N mit de obe geate Bediguge. Beweis: Zu (: Sei p p K. Da existiert eie Folge (a N mit p p + a ud a K für alle. Nach Lemma ist I(p, p [ (p p2 + o((p 2p ( p p 2 ]. Da (p p 2 a2 K 2 ist, folgt sofort I(p, p (p p 2 2p ( p +o(k2 ud weil o(k 2 o( ist, ergibt sich I(p, p (p p2 2p ( p + o(. Damit ist e I(p,p e (p p 2 2p( p +o( e (p p2 2p( p e o( e (p p2 2p( p ( + o(. Also gilt mit Satz P (S p woraus Behauptug ( folgt. 2πp ( p e I(p,p (+o( Zu (2: Führe diese Fall auf ( zurück: Zeige 2πp ( p (p p 2 [ 2 p( p p ( p ] o( gleichmäßig für a K. Es gilt: (p p2 [ ] (p p2 2 p( p p ( p [ 2 p Weiter gilt: p p a / p(p+a / a / p 2 (+ a p + p p ]. a / K p p 2 p 2 78 o(. (p p 2 e 2p( p (+o( 2,

83 Etspreched zeigt ma: p p o(. Zusamme mit (p p 2 K 2 folgt daraus: (p p 2 [ ] o(. 2 p( p p ( p Außerdem ist ( + o( gleichmäßig für p p K p( p p( p für. Damit ist der Satz bewiese. Jetzt köe wir de Satz vo de Moivre-Laplace beweise: Beweis vo Satz 6.8.:. Fall: Sei < a < b <. Setze u a p + a p( p ud b p + b p( p. Da gilt aufgrud des lokale Grezwertsatzes P (a S p b P (a S b p( p ( p k ( p k k Mit l k p Setze u h a k b e (k p 2 2 p( p ( + o( 2πp( p a k b e l 2 2 p( p ( + o( 2πp( p a p( p l b p( p h e (lh 2 2 p( p ( + o( 2πp( p a p( p l h b p( p Dies sid aber Riema-Summe eier stetige Fuktio auf eiem kompakte Itervall. Folglich hat mal Kovergez für h 0 b p( p e z2 2p( p dz. 2πp( p Setze y z. Da folgt: p( p a p( p b p( p e z2 2p( p dz 2πp( p b 2π e y2 2 dy a p( p a ud damit die Behauptug. 2. Fall: Sei a, b R. Sei ε > 0 vorgegebe. Wege ei a ε > 0 mit Φ( a ε + Φ(a ε ε 2 ud a ε < b < a ε. Nach Teil gilt lim P ( a ε S a ε Φ(a ε Φ( a ε ud damit 2π e y2 2 dy existiert P (S < a ε P ( a ε S a ε Φ(a ε + Φ( a ε + ε 2 ε für hireiched groß. 79

84 Nu gilt für a ε < b < a ε b e y2 2 dx P (S b 2π a ε b e y2 2 dy P (S a ε + e y2 2 dy P ( aε S b 2π 2π a ε a ε e y2 2 dy 2π + P b (S a ε + e y2 2 dy P ( aε S b 2π ε 2 + ε + ε 2 2ε a ε für hireiched groß! 80

85 Kapitel 7 Zufallsvariable ud Wahrscheilichkeitsdichte 7. Dichte ud Verteilugsfuktioe Bis jetzt habe wir ur diskrete Verteiluge mit Puktmasse keegelert. Viele Vorgäge etwa die (verrauschte Messug eies Sigals lasse sich besser durch kotiuierliche Verteiluge beschreibe. Um solche Verteiluge eizuführe, sid die folgede Begriffe hilfreich. Defiitio 7.. Eie Zufallsvariable X ist eie meßbare Abbildug X : Ω IR. Die Fuktio F : IR [0, ] mit F (x P (X x P ({ω X(ω x} heißt die Verteilugsfuktio vo X. Meßbar heißt dabei, dass die rechte Seite der Gleichug für alle x erklärt ist. Eigeschafte eier Verteilugsfuktio F : i F ist wachsed. ii F ist rechtsseitig stetig. iii Es gilt ud lim F (x 0 ud lim F (x. x x P (a < X b F (b F (a P (X > a F (a. Defiitio 7..2 Sei X eie Zufallsvariable. Da heißt X stetig verteilt mit Dichte f, falls für die Verteilugsfuktio F vo X F (x x f(udu gilt. Die Fuktio f heißt Wahrscheilichkeitsdichte (Dichtefuktio vo X. 8

86 Eigeschafte eier Dichtefuktio f: i f(udu. ii f(u 0 für alle u R. Es gilt ud damit P (a < X b b a f(udu b P (X b lim P (b h < X b lim f(udu 0. h 0 h 0 b h Es gibt also keie Puktmasse. Die Dichte f lässt sich (falls f stetig ist folgedermaße verstehe: P (x < X x + h x+h x f(udu hf(x. Ma schreibt dafür gere mit Differetiale P (X dx f(xdx. Ist die Dichte f i eier Umgebug vo x x 0 stetig, so gilt f(x 0 F (x 0. Für stetige Dichte f ist die zugehörige Verteilugsfuktio F folglich eie Stammfuktio. Defiitio 7..3 Sei X eie stetig verteilte Zufallsvariable mit Dichte f. Da heißt der Erwartugswert vo X, falls E(X xf(xdx x f(xdx <. Defiitio 7..4 Sei X eie stetig verteilte Zufallsvariable mit Dichte f ud Erwartugswert E(X µ. Da heißt Var(X (x µ 2 f(xdx die Variaz vo X. Ist Var(X <, so heißt σ(x Var(X die Stadardabweichug vo X. Auch hier gilt die Verschiebugsformel Var(X E(X 2 (E(X 2. Ist g eie Fuktio vo R ach R ud X eie stetig verteilte Zufallsvariable mit Dichte f, so ist g(x Zufallsvariable ud der Erwartugswert E(g(X vo g(x durch g(xf(xdx 82

87 gegebe, falls g(x f(xdx < gilt. Beispiel: Gleichverteilug auf [a, b] Hier ist f(x b a [a,b](x, falls a < b ist. Es gilt: F (x x a b a für a x b F (x 0 für x < a F (x für x > b. E(X b a b a x dx b b a 2 x2 a b2 a 2 2(b a a + b 2 Var(X b a b a 3 (b3 a 3 (b a 2 (b a2. ( a + b x 2 dx 2 ( 2 a + b Die Normalverteilug Eie stetige Zufallsvariable X heißt ormalverteilt mit Mittelwert µ ud Variaz σ 2 (kurz N(µ, σ 2 -verteilt, falls für die zugehörige Dichte f f(x (x µ2 e 2σ 2 2πσ 2 gilt. Dabei ist π die Kreiszahl ud e die Eulersche Kostate e Ist X N(µ, σ 2 -verteilt, so ist ax + b gemäß N(aµ + b, a 2 σ 2 -verteilt. Isbesodere ist Z mit Z X µ σ 83

88 N(0, -verteilt. Diese Verteilug heißt Stadard Normalverteilug. Die Dichte der Stadard Normalverteilug wird üblicherweise mit ϕ bezeichet. ϕ(x 2π e x2 2. Abbildug 7.: Die Stadard Normal Dichte Die zugehörige Verteilugsfuktio wird mit Φ bezeichet. Also Es gilt ud Φ(x x ϕ(udu 2π x Φ( x Φ(x P ( z Z z 2Φ(z. e u2 2 du. Die Fuktio Φ lässt sich icht explizit darstelle, soder muß umerisch berechet werde. Es gilt P ( Z 0.68, ud P ( 2 Z P ( 3 Z Wie scho obe erwäht, ist sie überall tabelliert ud i jedem gute Tascherecher verfügbar. Ist X N(µ, σ 2 -verteilt, so gilt für die zugehörige Verteilugsfuktio F ( X µ F (x P (X x P x µ ( x µ Φ. σ σ σ Damit erhalte wir isbesodere die sogeate -σ, 2-σ ud 3-σ Regel: P (µ σ X µ + σ 0.68, ud P (µ 2σ X µ + 2σ 0.95 P (µ 3σ X µ + 3σ Es gilt E(X µ ud Var(X σ 2, de 84

89 a E(X /2σ x 2 2πσ 2 e (x µ2 dx /2σ (x µ 2 2πσ 2 e (x µ2 dx + µ /2σ y 2 2πσ 2 e y2 dy + µ, we y x µ gesetzt wird, µ. Das Itegral ist Null, da über eie atisymmetrische Fuktio itegriert wird. b Var(X (x µ 2 2πσ 2 e (x µ2 /2σ 2 dx σ 2 σ 2 σ 2. z 2 e z2 /2 dz, we z x µ 2π σ z e z2 /2 + e z2 /2 dz 2π 2π Hier wurde partielle Itegratio verwedet. gesetzt wird, 7.3 Expoetial- ud Gamma-Verteilug Wir wolle u ei weiteres wichtiges Beispiel für eie stetige Verteilug mit Dichte äher keelere. Eie Zufallsvariable T heißt expoetialverteilt mit Parameter λ > 0, falls sie die Dichte { 0 für t 0 f(t λe λt für t > 0 besitzt. Für die Verteilugsfuktio F vo T gilt da Damit erhalte wir F (t t Für de Erwartugswert vo T gilt { 0 für t 0 f(udu λ t 0 e λu du für t > 0. { 0 für t 0 F (t e λt für t > 0. E(T λ. 85

90 Die Variaz ist gleich λ 2. Abbildug 7.2: Die Expoetialdichte für λ 0.5,, 2 Wir wolle u die Bedeutug vo λ überlege. Sei T die Lebesdauer eier techische Kompoete ud sei T expoetialverteilt mit Paramerter λ. Da ist P (T t + T > t P (T > t + T > t e [ λ λ + ] 2 λ λ für klei. Dies besagt, dass die Ausfallrate für kleies äherugsweise proportioal ist zu λ. Beispiel : Die mittlere Lebesdauer eies Trasistors ist 00 Stude. Was ist die Wahrscheilichkeit, dass der Trasistor läger als 50 Stude hält? 00, λ 0, 0 λ P (T > 50 e λ 50 e 0,5 0, 606. Beispiel 2: Radioaktiver Zerfall Jedes Atom hat uabhägig vo de adere eie expoetialverteilte Lebesdauer T. P (T > t e λt Die Halbwertszeit eier radioaktive Substaz ist diejeige Zeit h, für die gilt. e λh 2 Beispiel: Strotium 90, h28 Jahre λ log(2/h 0, 0248/Jahr oder h log(2 λ 86 λ 40, 4 Jahre.

91 Die Wahrscheilichkeit bei Strotium 90, dass ei Atom mehr als 50 Jahre icht zerfällt, ist P (T > t e λ 50 0, 29. Dies ist auch der Ateil vo Strotium 90, der ach 50 Jahre och vorhade ist. Dies folgt aus dem Gesetz der Große Zahle. Bis 99 % vo Strotium 90 zerfalle ist, vergehe 86 Jahre. Die Expoetialverteilug ist durch die Eigeschaft der sogeate Gedächtislosigkeit ausgezeichet. Damit ist folgedes gemeit: Für 0 < s < t gilt P (T > t T > s P (T > t P (T > s F (t F (s e λt e λ(t s λs e P (T > t s. Nehme wir etwa a, dass die Bredauer vo Glühbire eier bestimmte Sorte eier Expoetialverteilug folgt, so ist P (T > t T > s die bedigte Wahrscheilichkeit, dass eie Glühbire, die seit dem Zeitpukt 0 i Betrieb ist, zum Zeitpukt t och icht durchgebrat ist, gegebe die Ketis, dass sie zum Zeitpukt s och itakt war. Die Wahrscheilichkeit P (T > t s gibt die Wahrscheilichkeit a, dass eie Glühbire, die zum Zeitpukt s i Betrieb geomme wurde, zum Zeitpukt t s + (t s och itakt ist. Damit bedeutet die obige Gleichug, dass sich eie zum Zeitpukt s och itakte Bire i der Zukuft wie eie zum Zeitpukt s eue Bire verhält. Das heißt, es fidet keie Abutzug oder Alterug statt. Im folgede Abschitt wird die Möglichkeit der Alterug geauer diskutiert. Eg verwadt mit der Expoetialverteilug ist die Klasse der Gamma-Verteiluge. Dies ist eie sehr flexible Klasse vo Wahrscheilichkeitsverteiluge, auch i Hiblick auf Lebesdauer. Defiitio 7.3. Die Γ-Fuktio ist gegebe durch Γ(α : 0 y α e y dy für α > 0 Bemerkug: Für α IN gilt Γ(α + α!. Dies lässt sich mit partieller Itegratio beweise. Defiitio Die Gamma-Verteilug zu de Parameter α ud β, geat G(α, β hat die Wahrscheilichkeitsdichte Beispiele: f α,β (x βα Γ(α xα e βx [0, (x. Für α ud β λ ergibt sich die Expoetialverteilug mit Parameter λ. 87

92 2 Sid T, T 2,..., T r uabhägig (zur Defiitio siehe de ächste Abschitt ud expoetialverteilt mit Parameter λ, so ist T i Gamma-verteilt mit de r Parameter α r ud β λ. Der Beweis folgt weiter ute. Abbildug 7.3: Die Dichte der Gamma-Verteilug für r,..., Lebesdauer Wir wolle us u mit eiem etwas adere Zugag zur Beschreibug vo zufällige Ausfallzeite befasse. Dabei beschräke wir us auf de Fall, dass diese stetig verteilt sid. Das diskrete Aalogo (Sterberate habe wir bereits am Ede vo Abschitt 4. behadelt. Defiitio 7.4. Sei T eie positive ud stetige Zufallsvariable mit Dichte f. Da heißt G(t F (t die Zuverlässigkeitsfuktio vo T. Die Fuktio heißt Ausfallrate. λ(t f(t G(t 88 t f(udu

93 Es besteht folgeder Zusammehag zwische der Zuverlässigkeitsfuktio G ud der Ausfallrate λ: { t } G(t exp λ(udu. Die Größe t λ(udu heißt kumulierte Ausfallrate. Ma sieht die obige Idetität folgedermaße ei: 0 d d dt log(g(t G(t dt f(t G(t G(t λ(t. Bei der Expoetialverteilug ergibt sich G(t e λt 0 ud λ(t λe λt e λt λ. Bisweile ist die folgede Formel für E(T vo Nutze: E(T 0 G(tdt. Ma ka diese Gleichug mit Hilfe partieller Itegratio aus E(T 0 tf(tdt herleite. Eigeschafte vo Ausfallrate: i λ(t 0 für alle t 0. ii 0 λ(udu +. Durch Vorgabe eier Ausfallrate lässt sich eie Verteilug spezifiziere. Beispiel: (Weibull-Verteilug Sei α > 0 ud λ > 0. Sei Da gilt { G(t exp Für die zugehörige Dichte f ergibt sich λ(t λαt α. t 0 } λ(udu exp { λt α }. f(t G (t λαt α e λtα. Für 0 < α < fällt die Ausfallrate mit wachseder Zeit (Verjügugseffekt ud für α > wächst die Ausfallrate mit wachseder Zeit (Alterugseffekt. Sei 0 < s < t. Für die bedigte Wahrscheilichkeit vo s < T t gegebe T > s erhält ma P (s < T t F (t F (s P (s < T t T > s P (T > s F (s Darüberhiaus gilt F (s t s f(udu P (T > t T > s F (t F (s. 89 t s f(u F (s du.

94 7.5 Gemeisame Verteilug mehrerer Zufallsvariable Wir betrachte u Zufallsvariable X,..., X simulta ud iteressiere us für die gemeisame Verteilug. Dabei werde wir de Fall 2 besoders behadel ud us im wesetliche auf stetige Verteiluge mit Dichte kozetriere. Mit der gemeisame Verteilug meie wir P (X I, X 2 I 2,..., X I, wobei I,..., I beliebige Itervalle aus R sid. Wir fasse gewissermaße X,..., X als Zufallselemet aus R auf. Defiitio 7.5. Die Zufallsvariable X,..., X heiße gemeisam stetig verteilt mit Dichte f, falls für alle Itervalle I,..., I aus R gilt P (X I, X 2 I 2,..., X I... f(x,..., x dx... dx. I I Die Fuktio f heißt gemeisame Dichte vo X,..., X. Ist g eie (stetige Fuktio vo R ach R ud sid X,..., X Zufallsvariable, da ist g(x,..., X ebefalls eie Zufallsvariable. Sid die Zufallsvariable X,..., X gemeisam stetig verteilt mit Dichte f, so erhält ma de zugehörige Erwartugswert E(g(X,..., X durch E(g(X,..., X... g(x,..., x f(x,..., x dx... dx, falls... g(x,..., x f(x,..., x dx... dx <. Wir betrachte u de Fall 2 ausführlicher. Sei X X ud Y X 2. Sid X ud Y gemeisam stetig verteilt mit Dichte f, so gilt ( ( P (X I, Y I 2 f(x, ydy dx f(x, ydx dy. I 2 I Isbesodere gilt für beliebige a ud b a ( b P (X a, Y b f(x, ydy dx Damit folgt mit P (X a P (X a, Y < a I f X (xdx f X (x 90 a f(x, ydy. I 2 b ( a f(x, ydx dy. ( f(x, ydy dx

95 Die Dichte vo X ist also durch die sogeate Raddichte f X gegebe. Aalog erhält ma P (Y b b f Y (ydy mit f Y (y f(x, ydx. Die folgede Defiitio ist die gleiche wie für diskrete Zufallsvariable. Defiitio X ud Y seie Zufallsvariable mit Da heißt die Kovariaz vo X ud Y. Die Größe heißt Korrelatioskoeffiziet vo X ud Y. E(X 2 < ud E(Y 2 <. Kov(X, Y E [(X E(X(Y E(Y ] ρ(x, Y Kov(X, Y σ(xσ(y Für die Kovariaz gilt folgede Verschiebugsformel Kov(X, Y E(XY E(XE(Y. Es gilt stets ρ(x, Y. Ist X Y, so gilt Damit ist ρ(x, X. Kov(X, Y Kov(X, X Var(X. Als Beispiel wolle wir die 2-dimesioale Normalverteilug betrache. Bei ihr ist die Dichte der gemeisame Verteilug der Zufallsvariable X ud Y gegebe durch (+ f(x, y 2π(det Σ /2 ( ( (x µx 2 exp 2( ρ 2 σ 2 X 2ρ (x µ X(y µ Y (y µ Y 2 σ X σ Y σy 2 die Dichte der Radverteiluge sid f X (x f Y (y 2πσ 2 X e (x µ X 2 /2σ 2 X 2πσ 2 Y e (y µ Y 2 /2σ 2 Y. Außerdem ist ρ Kor(X, Y ud σ XY : Kov(X, Y ρ σ X σ Y. Die Matrix Σ ist gegebe durch ( σ 2 X σ XY. σ XY 9 σ 2 Y

96 Es gilt atürlich σ XY (x µ X (y µ Y f(x, ydxdy R R Ma erket, dass gilt f(x, y f X (xf Y (y, d.h. dass X ud Y uabhägig sid, falls ρ 0 bzw. σ XY 0 sid. Siehe auch die Überleguge ach der folgede Defiitio Abbildug 7.4: 2-dimetioale Normalverteilug Das folgede Beispiel gilt allgemei ud liefert eie Iterpretatio vo Kovariaz ud Korrelatio. Beispiel: (Lieares Filter Seie X ei gesedetes ud Y das zugehörige empfagee Sigal. Gesucht wird eie lieare Rekostruktio ay + b mit miimaler mittlerer quadratischer Abweichug E ( [X (ay + b] 2. Das Miimum wird für a ρ(x, Y σ(x σ(y ud b E(X ae(y erreicht. Es gilt ämlich E ( [X (ay + b] 2 E(X 2 2E[(aY + bx] + E[(aY + b 2 ] E(X 2 2aE(XY 2bE(X + a 2 E(Y 2 +2abE(Y + b 2. Ableite ach a ud b ud 0 setze ergibt die Gleichuge ae(y 2 E(XY + be(y 0 b E(X + ae(y 0. Hieraus folgt zuächst b E(X ae(y 92