Angewandte Stochastik I

Transkript

1 Vorlesugsskript Agewadte Stochastik I Dr. Katharia Best Sommersemester 2011

2

3 1 Eileitug Im Grude ist Wahrscheilichkeitsrechug ur ormaler gesuder Mescheverstad, ausgedrückt durch Mathematik. Sie versetzt us i die Lage, Dige exakt abzuschätze, die wir i eier Art Istikt fühle, aber icht erkläre köe. Pierre-Simo Laplace 1.1 Der Begriff Stochastik Die Stochastik gliedert sich i die Wahrscheilichkeitstheorie ud die Statistik. Der Begriff Stochastik stammt aus dem Griechische στωχαστικη (die Kust des Vermutes) ud ist abgeleitet vo στωχωξ (Vermutug, Ahug, Ziel). Der Begriff wurde vo Jacob Beroulli i seiem Buch Ars cojectadi 1713 geprägt, i dem das erste Gesetz der große Zahle bewiese wurde. Die Stochastik beschäftigt sich mit de Auspräguge ud quatitative Merkmale des Zufalls. Dabei ist och zu kläre, was Zufall ist. Gibt es Zufall überhaupt? Ud was würde ma als Zufall betrachte? Mit diesem Aspekt beschäftigt sich die Philosophie 1. Für die modere Mathematik ist der Zufall eie Arbeitshypothese, die es uter aderem ermöglicht, Vorgäge i der Natur, Techik oder Wirtschaft, dere Ausgag ugewiß ist, zu beschreibe ud zu aalysiere. Das Kozept des Zufalls eröffet eie Weg, Vorgäge mit Wahrscheilichkeite zu belege, diese zu bereche, zu quatifiziere ud zu vergleiche. Allerdigs muss ma a dieser Stelle ereut achhake: Was ist Wahrscheilichkeit? Wie köe wir Wahrscheilichkeit iterpretiere? Bei eiem Spiel, für das wir die Regel festlege, ist die Atwort och vergleichsweise eifach. Zwei Ausgäge sid gleich wahrscheilich, we keier bevorzugt wird. Dazu muss ma aus eier weitergehede Quelle wisse, dass ebe keier bevorzugt ist. Bei viele Fragestelluge steht der Begriff der Wahrscheilichkeit für das Maß a Sicherheit resp. Usicherheit 2. Diese, der Wahrscheilichkeit iewohede, Ambivalez sollte ma stets im Hiterkopf behalte. 1.2 Geschichtliche Etwicklug Die Stochastik wurde zu Begi über das Gebiet der Glücksspiele etwickelt. Die erste Würfelspiele sid i Ägypte (ca v. Chr.) achgewiese, ud wurde i Griechelad ud vor allem im römische Reich fortgesetzt. Zugleich gab es im Hadel i Bezug auf Versicheruge vo Schiffstraspor- 1 siehe hierzu 2 siehe hierzu ud Versio 6. Juli

4 1 Eileitug Abbildug 1.1: Vo liks ach rechts: Gerolamo Cardao, Jakob Beroulli, Pierre-Simo Laplace ud Adrej Nikolajewitsch Kolmogorov. te das Bedürfis ach Berechebarkeit. Die älteste bekate Form der Versicherugsverträge stammt aus Babylo (4-3 T. Jahre v. Chr.). Die erste Sterbetafel i der Lebesversicherug stamme vo dem römische Juriste Ulpia (220 v. Chr.), die erste datierte Police aus dem Jahr 1347 aus Geua. Der erste Wisseschaftler, der sich mit diese Fragestelluge aus mathematischer Sicht beschäftigt, ist Gerolamo Cardao. I seiem Buch der Glücksspiele (Liber de Ludo Aleae) beschreibt er 1524 zum erste Mal für de Spieler vorteilhafte Ereigisse ud dere Kombiatioe beim Würfelspiel, verwedet Biomialkoeffiziete ud auch als erster de Ateil Azahl vorteilhafter Ereigisse Azahl aller Ereigisse als Maß für die Wahrscheilichkeit. Außerdem ist er auch ei Praktiker: Sei Uiversitätsgehalt bessert er mit dem durch sei Wisse beim Glücksspiel verdiete Geld auf. Etwa hudert Jahre später diskutiere Blaise Pascal ud Pierre de Fermat die Wahrscheilichkeit betreffede Probleme i ihrem Briefwechsel. Wieder etwa hudert Jahre später geligt Pierre-Simo Laplace 1812 i seiem Buch Théorie Aalytique des Probabilités eie mathematische Behadlug der Wahrscheilichkeit. Allerdigs erlaubte diese Betrachtuge och keie Aussage bei Probleme, bei dee die Gesamtheit der Ereigisse gar icht beschreibbar ist, ud das Problem sich icht auf eie Betrachtug gleichwahrscheilicher Ereigisse reduziere lässt. A dieser Stelle wurde vo David Hilbert ei axiomatischer Asatz, ählich wie er i adere Gebiete der Mathematik bereits verwedet wurde, gefordert. Basiered auf der Maß- ud Itegratiostheorie vo Émile Borel ud Heri Léo Lebesgue, führte Adrei Nikolajewitsch Kolmogorow i seiem Werk Grudbegriffe der Wahrscheilichkeitsrechug 1933 Axiome der Wahrscheilichkeitstheorie ei. 4 Versio 6. Juli 2011

5 1.3 Wahrscheilichkeitsbegriffe 1.3 Wahrscheilichkeitsbegriffe Klassisches Vorgehe Im obige Abschitt wurde scho die Beschreibug der Wahrscheilich vo Laplace als das Verhältis der güstige Ausgäge zu alle, Azahl vorteilhafter Ereigisse Azahl aller Ereigisse vorgestellt. Dieses Vorgehe ist jedoch eiige Eischräkuge uterworfe. So verschwidet zum Eie der Bruch, falls die mögliche Azahl aller Ereigisse uedlich ist. Zum adere fuktioiert die Defiitio ur, we die Ereigisse, auf die ma sich bezieht, alle gleich wahrscheilich sid. Machmal ist eie solche Aufspaltug gar icht möglich Statistisches Vorgehe Das Kozept der relative Häufigkeit ka auf Beobachtuge ausgeweitet werde. Die Wahrscheilichkeit wird da als Azahl der Beobachtuge mit gesuchtem Ausgag lim Azahl der Beobachtuge Azahl aller Beobachtuge verstade. Dass diese Betrachtug mit der klassische koform geht, ist dem Gesetz der große Zahle geschuldet. Das Problem, welches sich hier ergibt, ist, dass die Beobachtuge tatsächlich gemacht werde müsse, dass also der Zufallsvorgag durchgeführt wird. Bevor ma begit, ka keie Aussage gemacht werde. Eie weitere Schwierigkeit ist die Frage ach der Durchführbarkeit. Ist es tatsächlich möglich, eie Zufallsvorgag mehrmals, vielleicht sogar sehr oft, uter gleiche Bediguge durchzulaufe? Selbst we es ur zeitlich oder fiaziell icht geht, kommt dieses Verfahre schell a seie Greze Subjektive Wahrscheilichkeitssicht Bei der subjektive Betrachtug werde Ereigisse uter Ketis exterer Iformatioe bewertet. Diese basiere auf Sachketis, persölicher Erfahrug ud vergageer Beobachtug. Die Wahrscheilichkeit reflektiert somit die Usicherheit resp. Uketis. Bei diesem Vorgehe besteht die Gefahr, dass die Wahrscheilichkeit icht bedacht geug oder icht uvoreigeomme vergebe werde. Auch werde uterschiedliche Persoe zu uterschiedliche Eischätzuge komme. Zu beachte ist ebefalls, dass sich diese Eischätzuge mit dem Eitreffe euer Iformatioe immer wieder äder. I der Praxis ist die subjektive Wahrscheilichkeit icht ubedeuted, de sowohl das Aufstelle aller mögliche Ausgäge, die gleichwahrscheilich sid als auch die Wiederholug des Zufallsvorgags sid selte möglich. Versio 6. Juli

6 1 Eileitug 1.4 Problemstelluge der Stochastik Die typische Fragestelluge der Stochastik ergebe sich direkt aus de Wahrscheilichkeitsbegriffe. Zum Eie müsse Vorgäge, die zu betrachte sid, modelliert werde. Dazu muss ei geeigetes Zufallsexperimt erstellt ud beschriebe werde. Des weitere müsse Ereigisse formuliert ud dere Wahrscheilichkeite bestimmt werde. Darüber hiaus solle iteressate Fuktioe der Ereigisse, sogeate Zufallsvariable, formuliert werde. Ihre Kezahle, wie Mittelwert oder Variaz, sid weitere iteressate Details. Machmal werde aber diese icht ausreiche ud Verteilugsgesetze werde beötigt. Sollte auch diese zu schwierig sei, so helfe oft Grezwertsätze bei der Näherug. Sid bereits eiige Date ud ei Modell vorhade, köe sich Frage ach de Modellparameter, die aus de Date zu schätze sid, ergebe oder die Prüfug statistischer Hypothese gewollt sei. 6 Versio 6. Juli 2011

7 2 Ergebisse, Ereigisse ud Wahrscheilichkeit I der Wahrscheilichkeitsrechug iteressiere wir us für Ausgäge vo Zufallsexperimete. Um sie beschreibe zu köe, werde die verschiedee Ausgäge als Mege betrachtet. Diese Mege wird daach die Wahrscheilichkeit ihres Eitretes als Zahl zugeordet. Damit wir mit ihe reche köe, müsse wir zuerst Mege selbst geauer betrachte. 2.1 Mege Im folgede defiiere/wiederhole wir eiige Grudbegriffe der Megelehre ud betrachte zugehörige Megeoperatioe. A die Wahrscheilichkeite voraus deked ist es machmal sivoller, sich die gesuchte Ausgäge des Zufallsvorgags aus adere zusammezustelle astatt direkt vorzugehe. Defiitio 2.1 (Mege): Eie Mege ist eie Zusammefassug verschiedeer Objekte zu eiem Gaze. Die eizele Objekte werde Elemete geat. Mege werde etweder durch eie Auflistug ihrer Elemete oder durch eie defiierede Eigeschaft agegebe. Beispiel 2.2: Sei A eie Mege der Zahle auf eiem Würfel. Wir köe A als schreibe. A = {1, 2, 3, 4, 5, 6} oder A = { : ist eie atürliche Zahl mit 1 6} Notatio: Die leere Mege wird mit dargestellt. Defiitio 2.3 (Grudbegriffe der Megelehre): (i) Die Eigeschaft x ist ei Elemet vo A wird mit x A otiert, das Gegeteil mit x / A. (ii) Für A B, d. h. A ist Teilmege vo B, gilt dass für alle x A auch x B gilt. (iii) Die Schittmege A B ist die Mege aller Elemete, die sowohl i A als auch i B sid. Für alle x A B gilt x A ud x B. (iv) Die Vereiigugsmege A B ist die Mege aller Elemete, die i A oder i B sid. Für alle x A B gilt x A oder x B. (v) Die Differezmege A \ B ist die Mege aller Elemete, die i A aber icht i B sid. Für alle x A \ B gilt x A ud x / B. (vi) Die Komplemetärmege A c vo A Ω wird bezüglich eier Grudmege Ω defiiert ud ist die Mege aller Elemete, die i Ω sid, aber icht i A. (vii) Die Potezmege P(A) ist die Mege aller Teilmege vo A. Für alle M P(A) gilt M A. (viii) Die Mächtigkeit vo A bezeichet die Azahl der Elemete vo A. Notiert wird sie mit A = #{x : x A}. (ix) Die Gleichheit vo zwei Mege A ud B ist gegebe, we A B ud B A gilt. Versio 6. Juli

8 2 Ergebisse, Ereigisse ud Wahrscheilichkeit (x) Zwei Mege A ud B sid disjukt, we sie keie gemeisame Elemete habe, d. h. A B =. (xi) Die Mege A 1, A 2,... heiße paarweise disjukt, falls für alle Paare i ud j mit i = j die Mege A i ud A j disjukt sid. Zur Darstellug eige sich häufig Ve-Diagramme. Beispiel 2.4: (a) Sei Ω = {1, 3, 4}. Da ist P(Ω) = {, {1}, {3}, {4}, {1, 3}, {1, 4}, {3, 4}, Ω }. (b) Sei Ω = {1, 2, 3, 4, 5} ud seie A 1 = {2, 4, 5} ud A 2 = {x Ω : x ugerade}. Da gilt A 1 A 2 = {1, 2, 3, 4, 5} = Ω A 1 A 2 = {5} A 1 \ A 2 = {2, 4} A 2 \ A 1 = {1, 3} A1 c = {1, 3} (c) Seie A = {2, 4, 6}, B = {1, 2, 3} ud C = {1, 3, 5}. Da gilt A B C =, aber A B = {2} A C = B C = {1, 3}, die Mege sid somit icht paarweise disjukt, obwohl der Gesamtschitt leer ist. Defiitio 2.5 (Symmetrische Differez): Die symmetrische Differez zweier Mege A 1 ud A 2 ist defiiert als A B := (A \ B) (B \ A) = (A B) \ (A B) Um kompliziertere Mege ud Megebeziehuge beschreibe zu köe, beötige wir och eiige Recheregel. Satz 2.6 (Recheregel für Mege): Seie A, B ud C Mege. (i) Eideutigkeitsgesetze A = A, A = ud A Ω = Ω, A Ω = A (ii) Kommutativgesetze (iii) Assoziativgesetze (iv) Distributivgesetze A B = B A ud A B = B A (A B) C = A (B C) ud (A B) C = A (B C) (A B) C = (A C) (B C) ud (A B) C = (A C) (B C) (v) De Morgasche Regel (A B) c = A c B c ud (A B) c = A c B c (vi) Aus A B folgt für die Iklusio bei Negatio B c A c. (vii) Die Differezmege A \ B lässt sich als Schitt darstelle durch A B c. 8 Versio 6. Juli 2011

9 2.2 Megesysteme 2.2 Megesysteme Ereut a die Wahrscheilichkeite deked, werde wir beötige, dass betrachtete Familie vo Mege bezüglich der Operatioe, ud \ abgeschlosse sid. Defiitio 2.7 (Algebra): Eie ichtleere Familie F vo Teilmege vo Ω heißt Algebra, we (A1) aus A F folgt A c F, (A2) aus A 1, A 2 F folgt A 1 A 2 F gilt. Beispiel 2.8: (a) Sei Ω gegebe. Da ist F = {, Ω} eie Algebra. (b) Sei Ω = {1, 2, 3, 4, 5} ud F = {, {1, 2}, {3, 4, 5}, Ω }. Da ist F eie Algebra. Allgemei ist zu eier Mege A Ω das Megesystem {, A, A c, Ω } eie Algebra. (c) Sei Ω = {0, 1} N. Da ist P(Ω) eie Algebra. Allgemei ist die Potezmege eie Algebra. Lemma 2.9 (Eigeschafte eier Algebra): Sei F eie Algebra ud A 1, A 2,..., A F. Da gilt (i), Ω F, (ii) A 1 A 2 F, (iii) A 1 \ A 2 F, (iv) A i F ud A i F. Beispiel 2.10: Wir betrachte das Beispiel 2.8 (c) ereut, sei A 1 = {1, 2} ud A 2 = {3, 4, 5}. Da ist auch A 1 A 2 = F. Um Grezwerte vo Mege bilde zu köe, beötige wir ei Megesystem F, das icht ur bezüglich Vereiigug ud Durchschitt edlich vieler Mege, soder bezüglich Vereiigug ud Durchschitt vo abzählbar uedlich viele Mege abgeschlosse ist. Dazu immt ma die folgede Bedigug hizu. Defiitio 2.11 (σ-algebra): Sei F eie Algebra. (A3) Aus A 1, A 2,... F folgt A i F. Beispiel 2.12: Sei Ω gegebe. Da ist P(Ω) eie σ-algebra. Lemma 2.13: Sei F eie σ-algebra ud A 1, A 2,... F. Da gilt A i F. 2.3 Zufallsereigisse Die Ausgäge, die bei eiem Zufallsexperimet eitrete köe, werde als Mege modelliert. Sei E ei Grudraum. Defiitio 2.14 (Ergebisse): Die Mege Ω E aller mögliche Ausgäge eies Zufallsexperimets ee wir Ergebisraum oder Stichproberaum. Die Elemete ω Ω heiße Ergebisse oder Elemetarereigisse. Eie Vereiigug vo Elemetarerigisse ist ei Ereigis. Beispiel 2.15: Ω = {0, 1}. (a) Beroulli-Experimet: Eimaliger Müzwurf. Ω = {Kopf, Zahl} oder E = N ud Versio 6. Juli

10 2 Ergebisse, Ereigisse ud Wahrscheilichkeit (b) -maliger Würfelwurf. E = N ud Ω = {1, 2, 3, 4, 5, 6} = { ω = (ω 1,..., ω ) : ω i {1, 2, 3, 4, 5, 6} für 1 i }. Zu beachte ist, dass hier icht jeweils ei ω i das Ergebis ist, soder ω = (ω 1,..., ω ). (c) Die Strahlewerte i Fukushima solle zeh Jahre lag gemesse werde. Das beutzte Messgerät misst sehr häufig, so dass die Zeit als stetig ageomme werde ka. Da ist Ω = { f (t) : 0 t 3653, f C([0, 3653]]) }, we t = 0 geau dem 11. März 2011 um 15:41 etspricht ud eie Zeiteiheit eiem Tag. Die letzte zwei Beispiele zeige, dass als Ergebiss eies Zufallsexperimets auch Folge ud Fuktioe auftrete köe ud Ω deswege icht ur edlich sei ka, soder auch uedlich abzählbar oder sogar überabzählbar. Beispiel 2.16: (a) Zum Beispiel 2.15 (d) ist Die erste 3 Würfe ergebe Zahl ei Ereigis, A 2 = { (ω i ) 1 i : ω i = 1 für 1 i 3 ud ω i {0, 1} für 4 i }. (b) Zum { Beispiel 2.15 (e) ist Der gemessee Wert bleibt uter 700 msv } ei Ereigis, A 3 = f (t) : 0 t 3653, f C([0, 3653]]) ud sup t f (t) < 700 Mit dieser Modellierug ist es klar, wieso wir vorher die Megesysteme defiiert habe. Bevor wir us der Wahrscheilichkeit zuwede, schaue wir us die Formulierug der Ereigisse als Mege och etwas geauer a. Amerkug (Termiologie): (a) Wird bei eiem Zufallsexperimet das Ergebis ω erzielt, so sage wir: Das Ereigis A tritt ei, falls ω A. (b) Iteressiert ma sich für das Ereigis A c, so sagt ma, dass A icht eitritt. (c) Ist A =, so wird A das umögliche Ereigis geat. (d) Ist A = Ω, so wird A das sichere oder wahre Ereigis geat. (e) Gilt A B, so folgt aus dem Eitrete vo A auch, dass B eitritt Wahrscheilichkeite De auf diese Weise defiierte Ereigisse wolle wir jetzt eie Kezahl zuorde, die wir Wahrscheilichkeit ee. Eie solche Zahl sollte icht-egativ sei. Sie sollte ormiert sei, damit wir die Ereigisse bewerte köe. Außerdem wolle wir Ereigisse sivoll verbide köe Axiome vo Kolmogorov Die obe geate Forderuge wurde vo Kolmogorov i drei Axiome festgehalte, die für de allgemeie Fall wie folgt aussehe: Defiitio 2.17 (Kolmogorov-Axiome): Ei Wahrscheilichkeitsraum (Ω, F, P) ist ei Tripel bestehed aus eier Mege Ω, eier σ-algebra F ud eier Fuktio P : F [0, 1], Wahrscheilichkeitsmaß geat, mit de Eigeschafte (i) Nichtegativität P(A) 0 für alle A F. (ii) Normiertheit P(Ω) = Versio 6. Juli 2011

11 2.4 Wahrscheilichkeite (iii) σ-additivität Sid die Mege A 1, A 2,... F paarweise disjukt, so gilt P A i = P(A i ). Amerkug: Im abzählbar uedliche Fall ka ma die geforderte σ-algebra eifach durch die Potezmege P(Ω) ersetze. Im edliche Fall ka ma das Axiom der σ-additivität vereifached och durch die Additivität ersetze, da sich jede uedliche Vereiigug i eie edliche Vereiigug umschreibe lässt. Aus diese Axiome lasse sich u Recheregel ableite. Satz 2.18 (Recheregel für Wahrscheilichkeite): Sei (Ω, F, P) ei Wahrscheilichkeitsraum ud A, A 1, A 2,... F. Da gilt (i) P( ) = 0, (ii) P(A c ) = 1 P(A), (iii) Aus A 1 A 2 folgt P(A 1 ) P(A 2 ), (iv) P(A ( 1 A 2 ) = P(A 1 ) + P(A 2 ) P(A 1 A 2 ), (v) P BEWEIS ) A i P(A i ). (i) Wir wisse, dass Ω = Ω ud Ω =. Da ist 1 = P(Ω) = P(Ω ) = P(Ω) + P( ) = 1 + P( ), ud damit P( ) = 0. (ii) Auch hier wisse wir, dass A A c = ud A A c = Ω ud erhalte 1 = P(Ω) = P(A A c ) = P(A) + P(A c ) (iii) Da A 1 A 2 ist, lässt sich A 2 schreibe als A 2 = (A 2 \ A 1 ) A 1, wobei A 2 \ A 1 ud A 1 disjukt sid ud damit folgt P(A 2 ) = P ( (A 2 \ A 1 ) A 1 ) = P(A2 \ A 1 ) + P(A 1 ) P(A 1 ) (iv) Wege A 1 A 2 = ( A 1 \ (A 1 A 2 ) ) (A 1 A 2 ) ( A 2 \ (A 1 A 2 ) ), wobei die drei Mege disjukt sid, gilt P(A 1 A 2 ) = P ( A 1 \ (A 1 A 2 ) ) + P(A 1 A 2 ) + P ( A 2 \ (A 1 A 2 ) ) mit de Erketisse aus (iii). (v) Dies folgt durch Iduktio aus (iii). = ( P(A 1 ) P(A 1 A 2 ) ) + (A 1 A 2 ) + ( P(A 2 ) P(A 1 A 2 ) ) = P(A 1 ) + P(A 2 ) P(A 1 A 2 ) Eie Verallgemeierug des Satzes 2.18 (iv) ist der Allgemeie Additiossatz, auch Siebformel vo Poicaré- Sylvester geat, bei dem für Mege alle k-weise Schittmege (Paare, Tripel, usw.) betrachtet ud etspreched addiert oder subtrahiert werde. Satz 2.19 (Siebformel vo Poicaré-Sylvester): Sei (Ω, F, P) ei Wahrscheilichkeitsraum ud seie A 1, A 2,..., A F. Da gilt P ) = ( 1) i 1 P (A k1... A ki (2.1) A i 1 k 1 <...<k i BEWEIS durch Iduktio mit Hilfe des Satzes 2.18 (iv). Versio 6. Juli

12 2 Ergebisse, Ereigisse ud Wahrscheilichkeit Laplacescher Wahrscheilichkeitsraum Sei Ω edlich, also Ω <. Da gilt atürlich auch für alle A Ω, dass A <. Da heißt ei Wahrscheilichkeitsraum (Ω, F, P) ei edlicher Wahrscheilichkeitsraum. Defiitio 2.20 (Laplacescher Wahrscheilichkeitsraum): Sei Ω edlich ud F = P(Ω). Ei edlicher Wahrscheilichkeitsraum (Ω, P(Ω), P), bei dem alle Elemetarereigisse gleichwahrscheilich sid, d. h. ( P {ω} ) = 1 für alle ω Ω, heißt Laplacescher Wahrscheilichkeitsraum. Ω Amerkug: Sei (Ω, P(Ω), P) ei Laplacescher Wahrscheilichkeitsraum. Für alle A Ω gilt da P(A) = A wege der σ-additivität vo Wahrscheilichkeitsmaße. Die so defiierte Wahrscheilichkeit heißt Ω Laplace-Wahrscheilichkeit. Beispiel 2.21 (Zweimaliges Würfel): Als erstes muss ma sich über Ω klar werde: Ω = { ω = (i, j) : 1 i, j 6, i = Augezahl beim 1. Wurf, j = Augezahl beim 2. Wurf } Da ist Ω = 36 ud wir ehme F = P(Ω). Sei P : Ω [0, 1] ei Laplace-Wahrscheilichkeitsmaß, d. h. für alle ω 1, ω 2 Ω ist ( P {ω 1 } ) = ( P {ω 2 } ) ud ( P {ω} ) = 1, somit ( P {ω} ) = 36 1 ω Ω für alle ω Ω. Das Tripel ( Ω, P(Ω), ) P bildet eie Laplacesche Wahrscheilichkeitsraum. Sei u A = {Gesamtaugezahl 10} = { (4, 6), (5, 6), (6, 6), (5, 5), (6, 5), (6, 4) }. Da ist A = 6 ud P(A) = A Ω = Kombiatorische Wahrscheilichkeite Oft lässt sich die Größe des Laplacesche Wahrscheilichkeitsraum wie auch diejeige eies gesuchte Ereigisses durch kombiatorische Überleguge herausfide. Dazu beötige wir och eiige Begriffe. Defiitio 2.22 (Fakultät): Für eie atürliche Zahl defiiere wir Fakultät als weiterhi ist 0! = 1 (als leeres Produkt).! = ( 1) ( 2) , Defiitio 2.23 (Biomialkoeffiziet): Für zwei atürliche Zahle 1 ud 2 mit 1 > 2 defiiere wir de Biomialkoeffiziete als ( ) 1 := 1! 2! ( 1 2 )!. 2 Lemma 2.24 (Multiplikatiosregel): Werde Zufallsexperimete ausgeführt ud hat das Experimet k immer (ohe Beachtug der Ergebisse i de vorherige Experimete) k mögliche Ergebisse, so ist die Gesamtazahl der Ergebisse m. Damit komme wir jetzt zu de Uremodelle. Defiitio ud Lemma 2.25 (Uremodell): I eier Ure liege N durchummerierte Kugel. Es werde Kugel zufällig gezoge. Die Ziehug ka mit oder ohe Zurücklege ud mit oder ohe Beachtug der Reihefolge geschehe. 12 Versio 6. Juli 2011

13 2.4 Wahrscheilichkeite (i) Ziehe mit Reihefolge ud mit Zurücklege: Damit ist der Ergebisraum Ω = { ω = (ω 1,..., ω ) : ω i {1,..., N} } mit der Mächtigkeit Ω = N. (ii) Ziehe mit Reihefolge ud ohe Zurücklege: Hier ist der Ergebisraum { } Ω = ω = (ω 1,..., ω ) : ω i {1,..., N} mit ω i = ω j für i = j mit der Mächtigkeit Ω = N! (N )!. (iii) Ziehe ohe Reihefolge ud ohe Zurücklege: Der Ergebisraum ist Ω = { } ω = (ω 1,..., ω ) : ω i {1,..., N} ud ω 1 < ω 2 <... < ω ( ) N! N mit der Mächtigkeit Ω =!(N )! =. (iv) Ziehe ohe Reihefolge ud mit Zurücklege: I diesem Fall ist der Ergebisraum Ω = { } ω = (ω 1,..., ω ) : ω i {1,..., N} ud ω 1 ω 2... ω mit der Mächtigkeit Ω = (N+ 1)!!(N 1)! = ( N + 1 Beispiel 2.26: (a) Ei Ruderverei hat 23 (ei Vorsitzeder ud 22 weitere) Mitglieder ud plat sei jährliches Sommerfest. Dabei wird der Vorsitzede vo 5 Mitglieder eimal über de See gerudert. Der Verei köte ( 22 5 ) = verschiedee Rudermaschafte aufstelle. Wir habe hier de Fall ohe Reihefolge ud ohe Zurücklege. (b) Bei eier Tombola mache 87 Persoe mit ud es gibt 10 Preise zu gewie. Für de erste Preis wird der Name des Gewiers aus eier Ure gezoge, da wird aus der gleiche Ure der Name des Gewiers des zweite Preises gezoge usw. bis alle 10 Preise vergebe sid. Wir habe 77! 87! mögliche Gewier-10-tupel. Uter de Teilehmer ist das Ehepaar Müller. Wie groß ist die Wahrscheilichkeit, dass beide Müllers uter de Gewier sid? Wir habe Ω = 87! 77! ud betrachte wieder das Gegeereigis. Seie ). A = {kei Herr Müller} mit A = 86! 76! B = {keie Frau Müller} mit A = 86! 76! C = {gar kei Müller} mit A = 85! 75! Da ist P(beide Müller) = 1 ( P(A) + P(B) P(C) ) = 1 86! 76! + 86! 76! 85! 75! 87! 77! 0, 012 = 1, 2% (c) I eier Gruppe sid 30 Persoe. Wie groß ist die Wahrscheilichkeit, dass zwei Persoe mit dem Geburtstag am gleiche Tag daruter sid. Zuerst wird jeder Perso ei Geburtstag zugeordet. Wir ziehe also mit Reihefolge ud mit Zurücklege, da jede Perso eideutig eie Geburtstag bekommt ud diese sich auch wiederhole köe. Versio 6. Juli

14 2 Ergebisse, Ereigisse ud Wahrscheilichkeit Mathematisch formuliert ist N = 365 die Azahl der mögliche Geburtstage ud = 30 die Azahl der Leute. Da ist Ω = { ω = (ω 1,..., ω ) : ω i {1,..., N} } ud Ω = N. Das Ereigis A = { midestes 2 Persoe habe am gleiche Tag Geburtstag } lässt sich schreibe als } = {ω = (ω 1,..., ω ) Ω : es gibt 1 i, j mit i = j : ω i = ω j. Zur Berechug der Wahrscheilichkeit wähle wir de Asatz über das Gegeereigis P(A ) = 1 P(A c ), d. h. wir iteressiere ud für das Ereigis uter Beachtug der Reihefolge, da wieder jede eizele Perso betrachtet wird, ud ohe Zurücklege, weil wir mehrfache Geburtstage icht zulasse ud habe { } A c = ω = (ω 1,..., ω ) Ω : ω i = ω j für alle 1 i, j mit i = j Die Mächtigkeit des Ereigisses ist da ud somit A c = }{{} N P(A c ) = frei Wahl (N 1) }{{} icht am gewählte Tag (N 2) }{{} icht a de 2 gewählte Tage N (N 1)... (N + 1) N... (N ( 1)) }{{} icht a de 1 gewählte Tage Für die obige Gruppe vo obe folgt P(A 30 ) = 1 P(A30 c ) 0, , also i etwa 71% der Fälle sid zwei Persoe mit Geburtstag am gleiche Tag zu fide. Diese Fragestellug ist uter dem Begriff Geburtstagsproblem oder Geburtstagsparadoxo bekat. 2.5 Stochastische Uabhägigkeit ud bedigte Wahrscheilichkeite Wir wolle us icht ur mit de Ereigisse selbst beschäftige, soder auch ihre Zusammehäge beschreibe. Als erstes schaue wir us de Fall a, dass es keie Verbidug zwische ihe gibt. Wir setze de Wahrscheilichkeitsraum (Ω, F, P) voraus Uabhägige Ereigisse Wir ee zwei Ereigisse A ud B uabhägig voeiader, we das Eitrete vo A die Wahrscheilichkeit des Eitretes vo B icht verädert. Defiitio 2.27 (Uabhägigkeit zweier Ereigisse): Zwei Ereigisse A, B F heiße uabhägig, we gilt P(A B) = P(A) P(B). (2.2) 14 Versio 6. Juli 2011

15 2.5 Stochastische Uabhägigkeit ud bedigte Wahrscheilichkeite Wir sehe, dass diese Eigeschaft symmetrisch ist. Amerkug: Beim Laplacesche Wahrscheilichkeitsraum sehe wir zur Iterpretatio, dass sich die relative Häufigkeit icht ädert, we wir die Bezugsmege vo Ω zu A äder P(B) = B B A = = Ω A P(A B), P(A) das Ereigis B i der Mege A ateilig also geauso oft auftritt, wie i der Grudgesamtheit Ω. Lemma 2.28: Das sichere ud das umögliche Ereigis sid vo alle adere uabhägig, isbesodere sid sie vo sich selbst uabhägig. Umgekehrt gilt für ei Ereigis, welches vo sich selbst uabhägig ist, dass seie Wahrscheilichkeit etweder 0 oder 1 ist. BEWEIS Sei A F. Da gilt xp(a Ω) = P(A) = P(A) 1 = P(A) P(Ω), P(A ) = P( ) = 0 = 0 P(A) = P( ) P(A), wobei A keierlei Eischäkug uterworfe war, isbesodere gilt die Argumetatio für A = Ω ud A =. Sei u B F vo sich selbst uabhägig, also P(B) = P(B B) = P(B) P(B) falls P(B) = 0, köe wir beide Seite durch P(B) teile 1 = P(B), aderfalls ist gerade P(B) = 0. Wir köe die Defiitio auch auf Familie vo Ereigisse ausweite. Defiitio 2.29: Seie A 1,..., A F. Die Ereigisse A 1,..., A heiße uabhägig, we für jedes 1 k ud jede Auswahl {i 1,..., i k } {1,..., } gilt P(A i1... A ik ) = P(A i1 )... P(A ik ). (2.3) Amerkug: (a) Wir müsse die Eigeschaft der Uabhägigkeit für jede Auswahl der Mege der Familie forder, de sost wäre jede Familie uabhägig, we ei A i = für 1 i wäre. (b) Betrachte wir das Beispiel des 2-malige Wurfs mit eier faire Müze, also ud dabei die Ereigisse Da gilt Ω = {(0, 0), (0, 1), (1, 0), (1, 1)} A = {beim erste Wurf Kopf} = {(0, 0), (0, 1)} B = {beim zweite Wurf Kopf} = {(0, 0), (1, 0)} C = {Azahl der Würfe mit Kopf ist gerade} = {(0, 0), (1, 1)} P(A) = 1 2 P(B) = 1 2 P(C) = 1 2 P(A B) = 1 4 P(A C) = 1 4 P(B C) = 1 4 = P(A) P(B) = P(A) P(C) = P(B) P(C) Versio 6. Juli

16 2 Ergebisse, Ereigisse ud Wahrscheilichkeit aber P(A B C) = 1 4 = Deswege ist paarweise Uabhägigkeit icht ausreiched für die Uabhägigkeit eier Familie vo Mege Bedigte Wahrscheilichkeit Beispiel 2.30: (a) Eie Familie mit zwei Kider hat midestes eie Juge. Was ist die Wahrscheilichkeit, dass sie zwei Juge habe? Alle Möglichkeite mit midestes eiem Juge sid (M, J), (J, M), (J, J). Vo diese drei ist eie die gesuchte, d. h. die Atwort ist 3 1. (b) Das jügere Kid eier Familie mit zwei Kider ist ei Juge. Was ist die Wahrscheilichkeit, dass sie zwei Juge habe? Hier sid die Möglichkeite (J, M), (J, J), also ur zwei ud damit ist die Atwort 1 2. Defiitio 2.31 (Bedigte Wahrscheilichkeit): Seie A ud B zwei Ereigisse mit P(A) > 0. Da ist P(A B) P(B A) := (2.4) P(A) die bedigte Wahrscheilichkeit vo B gegebe A. Amerkug (bedigte Wahrscheilichkeit ist ei Wahrscheilichkeitsmaß): Sei A F mit P(A) > 0. Da gilt, dass die Abbildug P( A) : F [0, 1] B P(B A) ei Wahrscheilichkeitsmaß ist. Dazu überprüfe wir die Axiome vo Kolmogorov. (i) 0 P(B A) 1 wege 0 P(B A) P(A), (ii) P(Ω A) = P(Ω A), P(A) (iii) Seie B 1, B 2,... paarweise disjukt, so sid auch B i A paarweise disjukt. Damit gilt B i A = ud wir habe P ( B i A = P (B i A) ) P(A) (B i A) = P(B i A) P(A) Lemma 2.32: Sid zwei Ereigisse A ud B uabhägig, so ist P(B A) = P(B) BEWEIS Da P(A) > 0 ist, gilt = P(B i A). (2.5) P(B A) = P(A B) P(A) = P(A)P(B) P(A) = P(B). 16 Versio 6. Juli 2011

17 2.5 Stochastische Uabhägigkeit ud bedigte Wahrscheilichkeite Beispiel 2.33: Wir betrachte zweimaliges Ziehe ohe Zurücklege aus eier Ure mit N Kugel, R rote ud N R blaue, ud defiiere die Ereigisse A = {ω = (ω 1, ω 2 ) : ω 1 = rot}, B = {ω = (ω 1, ω 2 ) : ω 2 = rot} Wir kee P(A) = R N R(R 1) R 1 ud P(A B) = ud somit P(B A) = N(N 1) N 1. Es folge drei wichtige Aussage über bedigte Wahrscheilichkeite. Defiitio 2.34 (Partitio): Die Megefamilie B 1,..., B Ω ist eie Partitio vo Ω, falls B 1... B = Ω ud B i B j = für alle 1 i, j mit i = j gilt. Satz 2.35 (Satz vo der totale Wahrscheilichkeit): Es seie B 1,... B F eie Partitio vo Ω ud gelte P(B i ) > 0 für alle 0 i. Da gilt für alle A F. P(A) = P(A B i )P(B i ) (2.6) BEWEIS Defiiere C i = A B i für 1 i. Da sid die Mege C 1,..., C disjukt ud A = C 1... C ud es gilt P(A) = P(C i ) = P(A B i ) = P(A B i )P(B i ). Der Satz vo der totale Wahrscheilichkeit wird vor allem zu Modellierug mehrstufiger Experimete verwedet. Beispiel 2.36 (Zweistufiges Experimet): Betrachte 10 Ure mit jeweils 9 Kugel. Die erste Ure ethält 9 rote Kugel, die zweite 8 rote ud eie blaue, usw., die zehte Ure ethält 9 blaue Kugel. Es wird zufällig eie Ure ausgewählt. Aschließed wird zweimalig aus dieser Ure mit Zurücklege gezoge. Da ist Ω = { ω = (ω 1, ω 2, ω 3 ) : ω 1 {Ure 1,..., Ure 10}, ω 2, ω 3 {rot, blau}} } die betrachtete Grudgesamtheit. Wir defiiere die Ereigisse B i = {ω = (ω 1, ω 2, ω 3 ) : ω 1 = Ure i}, A 1 = {ω = (ω 1, ω 2, ω 3 ) : ω 2 = rot}, A 2 = {ω = (ω 1, ω 2, ω 3 ) : ω 3 = rot} ud iteressiere us für P(A 1 ) ud P(A 2 A 1 ). Wir kee P(B i ) = 10 1 ud P(A 1 B i ) = 10 i Damit bereche wir Weiter gilt P(A 1 ) = 10 P(A 1 B i )P(B i ) = i = P(A 2 A 1 ) = P(A 1 A 2 ) = 2 P(A P(A 1 ) 1 A 2 ) = 2 = 2 10 ( ) 10 i = i 2 = i= i = 1 2. i=0 P(A 1 A 2 B i )P(B i ) = Versio 6. Juli

18 2 Ergebisse, Ereigisse ud Wahrscheilichkeit Satz 2.37 (Bayes-Formel): Es seie B 1,... B F eie Partitio vo Ω ud es gelte P(B i ) > 0 für alle 1 i. Da gilt P(B k A) = P(A B k)p(b k ) (2.7) für alle A F mit P(A) > 0 ud alle 1 k. P(A B i )P(B i ) BEWEIS Mit zweimaliger Awedug der Defiitio der bedigte Wahrscheilichkeit wisse wir, dass P(B k A) = P(A B k) P(A) = P(A B k)p(b k ) P(A) wobei die letzte Gleichheit aus dem Satz 2.35 folgt. = P(A B k)p(b k ), P(A B i )P(B i ) Beispiel 2.38: Wir betrachte das Modell aus dem Beispiel 2.36 ud iteressiere us für P(B k A 1 ): P(B k A 1 ) = P(A 1 B k )P(B k ) 10 P(A 1 B i )P(B i ) = 10 k i = 10 k 9 i i=0 = 10 k 45 Beispiel 2.39 (Mammografie): ] Etwa 1% aller Fraue zwische 40 ud 50 habe Brustkrebs. Eie Frau mit Brustkrebs bekommt mit 90% Wahrscheilichkeit ei positives Ergebis, eie Frau ohe Brustkrebs erhält mit 10% Wahrscheilichket ei fälschlicherweise positives Ergebis. Wir defiiere die Ereigisse Wir iteressiere us für P(A B): A = {Frau hat Brustkrebs} B = {positives Testergebis} P(B A) P(A) P(A B) = P(B A) P(A) + P(B A c ) P(A c ) 0, 9 0, 01 = 0, 9 0, , 1 0, 99 = 0, = %, d. h. vo alle Persoe, bei dee der Test positiv ausfällt, sid ur 8.3% erkrakt. Beispiel 2.40: Wir betrachte die Zisetwicklug eier Alageform ierhalb eies vorgegebee Zeitraumes ud defiiere die Ereigisse A 1 = {Der Zis fällt um 0, 5%} A 2 = {Der Zis bleibt uverädert} A 3 = {Der Zis steigt um 0, 5%} der Eifachheit halber sei Ω = A 1 A 2 A 3 ud Wir kee die folgede Eischätzuge B = {Alageberater sagt, der Zis steige} P(A 1 ) = 0, 1 P(A 2 ) = 0, 6 P(A 3 ) = 0, 3 18 Versio 6. Juli 2011

19 2.5 Stochastische Uabhägigkeit ud bedigte Wahrscheilichkeite ud die Erfahrugswerte P(B A 1 ) = 0, 15 P(B A 2 ) = 0, 3 P(B A 3 ) = 0, 75 Wir iteressiere us für P(A 1 B), P(A 2 B) ud P(A 3 B). P(B) = P(B A 1 )P(A 1 ) + P(B A 2 )P(A 2 ) + P(B A 3 )P(A 3 ) = 0, 15 0, 1 + 0, 3 0, 6 + 0, 75 0, 3 = 0, 42 ud damit P(A 1 B) = 0, 15 0, 1 0, 42 0, 036 P(A 2 B) 0, 429 P(A 3 B) 0, 536 Usere Usicherheit bezüglich des Eitretes des us iteressierede Ereigisses A 3 ist also mit Hilfe der Iformatio B gestiege. (Wir habe och keie Aussage, was passiert, we der Alageberater etwas aderes vermutet.) Versio 6. Juli

20 2 Ergebisse, Ereigisse ud Wahrscheilichkeit 20 Versio 6. Juli 2011

21 3 Zufallsvariable ud Verteiluge Zufallsvariable sid ei weiteres Istrumet bei der Beschäftigug mit Zufallsexperimete. Sie komme immer da zum Eisatz, we wir us icht für die Eizelheite der Ergebisse ud Ereigisse iteressiere, soder ur eie Zusammefassug brauche. 3.1 Grudbegriffe Eie Zufallsvariable ordet jedem Elemetarergebis eie Zahl zu. Beispiel 3.1: Ei Uterehme hat drei eue Produkte A, B ud C etwickelt, dere Erfolgswahrscheilichkeite auf 70, 90 ud 60% eigeschätzt werde. Die Produkte selbst sid voeiader uabhägig ud dere Erfolg wäre etwa gleich azusetze. Die Frage ist, mit wie viele erfolgreiche Produkte zu reche ist. Wir köe die Ereigisse A = {Produkt A ist erfolgreich}, B = {Produkt B ist erfolgreich}, C = {Produkt C ist erfolgreich} defiiere ud betrachte die 8 Elemetarereigisse: Elemetarereigis Wahrscheilichkeit Azahl der Erfolge dere Wahrscheilichkeit A c B c C c Erfolge A B c C c A c B C c Erfolg A c B c C A B C c A c B C Erfolge A B c C A B C Erfolge Wir habe die Elemetarereigisse zu iteressierede Ereigisse sortiert. Diese Sortierug, also die fragebezogee Zuordug der Elemetarereigisse zu de Zahle 0, 1, 2, 3 ist eie Zufallsvariable. Diese ist eie Fuktio auf de Elemetarereigisse. Amerkug: Zur Defiitio der Zufallsvariable beötige wir eie Regularitätsbedigug, die Messbarkeit. Sei (Ω, F, P) ei Wahrscheilichkeitsraum. Eie Fuktio X : Ω R heißt bezüglich der σ-algebra F messbar, we { ω : X(ω) y } F (3.1) für alle y R gilt. Defiitio 3.2 (Zufallsvariable): Sei (Ω, F, P) ei Wahrscheilichkeitsraum. Eie Zufallsvariable ist eie messbare Fuktio X : Ω R. Versio 6. Juli

22 3 Zufallsvariable ud Verteiluge Amerkug: Eie Zufallsvariable heißt zwar Variable, ist aber eie Fuktio. Beispiel 3.3: Die Zufallsvariable aus Beispiel 3.1 ist X : Ω {0, 1, 2, 3} R. Amerkug: Oft iteressiert ma sich icht für eie spezielle Wert, de X aimmt, soder ob sie i eie Bereich fällt, also für X B, wobei B R ist, z. B. B = (, c] oder B = [c 1, d 1 ] [c 2, d 2 ]. Deshalb betrachte wir auch im Bildraum R vo X eie σ-algebra. Dazu ehme wir die sogeate Borel-σ-Algebra, die als die kleiste σ-algebra vo Teilmege vo R, die alle offee Itervalle vo R ethält, defiiert ist, d. h. ( {(a, } ) B(R) = σ b) : < a < b < Durch Bildug vo Schitte über uedlich viele Mege ethält B(R) auch alle halboffee ud abgeschlossee Itervalle, de ud damit sid auch eielemetige Mege (a, b] = (a, b + 1/) B(R) =1 [a, b) = (a 1/, b) B(R) =1 [a, b] = (a 1/, b + 1/) B(R) =1 {c} = (c 1/, c + 1/) B(R) =1 ethalte. Damit köe wir Gleichug (3.1) schreibe als { ω : X(ω) B } F für alle B B(R), (3.2) was äquivalet ist. Notatio: Bei der Defiitio vo B(R) habe wir eie Notatio verwedet, die der Erläuterug bedarf. Zu eier Grudmege Ω ud eier Mege vo Mege G aus Ω, also für alle G G gilt G Ω bezeichet σ(g) eie σ-algebra, die vo G erzeugt wird. Sie ethält alle Mege aus G, d. h. für alle G G gilt G σ(g) ud darüber hiaus ethält sie alle Mege, die sich durch Awedug der Komplemetbildug ud (uedlicher) Vereiigug aus diese zusammestelle lasse. Damit erfüllt σ(g) die Eigeschafte (A1), (A2) ud (A3) aus de Defiitioe 2.7 ud 2.11 ud ist eie σ-algebra, ud zwar, da bei dieser Kostruktio zusätzlich ichts überflüssiges hizukam, die kleiste σ-algebra, welche G ethält. Eie alterative Iterpretatio ist, dass σ(g) der Schitt aller σ-algebre ist, die G ethalte. Damit falle auch alle icht otwedige Mege heraus ud sie ist die kleiste σ-algebra, welche G ethält. Ei Spezialfall ist die vo eier Mege erzeugte σ-algebra. Für eie Mege A Ω ist σ(a) := σ ( {A} ) = {, A, A c, Ω } ud damit die kleiste σ-algebra, die A ethält. Notatio: Es ist üblich eie Zufallsvariable mit eiem große lateiische Buchstabe zu bezeiche. Der Wert X(ω) eier Zufallsvariable X wird mit dem etprechede Kleibuchstabe, hier x bezeichet, ud Realisierug vo X geat. 22 Versio 6. Juli 2011

23 3.1 Grudbegriffe Beispiel 3.4 (Idikatorfuktio): Sei (Ω, F, P) gegebe ud A F ei Ereigis. Die Idikatorfuktio ist defiiert als { 1, falls ω A, 1 A (ω) := (3.3) 0, falls ω A. ud wir betrachte die Zufallsvariable X(ω) = 1(ω) ud habe A, falls 1 B ud 0 B, { } A c, falls 0 B ud 1 B, ω : X(ω) B = Ω, falls 0 B ud 1 B,, falls 0 B ud 1 B für alle B B(R). Defiitio 3.5 (Verteilug): Sei (Ω, F, P) ei Wahrscheilichkeitsraum ud X : Ω R eie Zufallsvariable. (i) Da heißt die Fuktio ( {ω } ) F X (y) := P Ω : X(ω) y für alle y R Verteilugsfuktio vo X. Es gilt F X : R [0, 1]. (ii) Die Fuktio ( {ω } ) P X (B) := P Ω : X(ω) B für alle Mege B der σ-algebra B(R) heißt Verteilug vo X ud es gilt P X : B(R) [0, 1]. Satz 3.6 (Eigeschafte der Verteilugsfuktio): Sei X eie Zufallsvariable ud F X ihre Verteilugsfuktio. Da gilt (i) Asymptotisches Verhalte lim F X(y) = 0 ud lim F X (y) = 1, y y (ii) Rechtsstetigkeit lim F X(y) = F(z) ud y z,y>z (iii) Mootoie F X (y) F X (z) für y z. lim F X(y) existiert, y z,y<z Notatio: Die folgede Schreibweise sid zur Vereifachug üblich: F X (y) = P(X y) P X (B) = P(X B) Amerkug: Die Fuktio P X ist ei Wahrscheilichkeitsmaß, auch vo X iduziertes Wahrscheilichkeitsmaß geat, ud wir erhalte de Wahrscheilichkeitsraum (R, B(R), P X ). Amerkug: Wir habe zuerst eie eue Grudmege geomme, us da eie σ-algebra defiiert ud im Aschluss ei Wahrscheilichkeitsmaß auf demselbe mit Hilfe vo X gebastelt. Die Abbildug P P X heißt auch Maßtrasport. Arte vo Zufallsvariable Wir uterscheide zwische diskrete ud stetige Zufallsvariable. Diskret ist eie Zufallsvariable, we die Realisatio ur eizele bestimmte Werte eies Itervalls aehme ka. Stetig ist sie higege, we im Prizip jeder beliebige Wert eies Itervalls agekoem werde ka. Besteht die Realisatio aus ur eier Größe, so ee wir die Zufallsvariable ei-dimesioal, setzt sie sich aus mehrere Zahle zusamme, ee wir sie mehr-dimesioal. Wir wolle zuerst diskrete Zufallsvariable utersuche. Versio 6. Juli

24 3 Zufallsvariable ud Verteiluge 3.2 Diskrete Zufallsvariable Dazu beötige wir die folgede Grudbegriffe Defiitio 3.7 (Diskrete Zufallsvariable): Eie Zufallsvariable heißt diskret, we es eie edliche oder abzählbar uedliche Teilmege W R gibt mit P(X W) = 1. Im Abschitt 2.4 habe wir diskrete Wahrscheilichkeitsverteiluge defiiert. Eie Zufallsvariable ist geau da diskret, we ihre Verteilug diskret ist. Aalog gilt für diskrete Zufallsvariable, dass sie vollstädig durch ihre Wahrscheilichkeitsfuktio beschriebe werde. Defiitio 3.8 (Wahrscheilichkeitsfuktio): Sei X eie diskrete Zufallsvariable mit Wertebereich W = {x 1, x 2,...}. Da heißt die Fuktio p : W [0, 1] defiiert durch p(x i ) := P ( {ω : X(ω) = xi } ) = P(X = x i ), (3.4) die Wahrscheilichkeitsfuktio vo X, auch Zähldichte geat. Amerkug: Gelegetlich wird p zu eier Fuktio auf gaz R ausgedeht, idem p(x) = 0 für x R \ X(Ω) gesetzt wird. Beispiel 3.9: Wir betrachte wieder die Idikatorfuktio aus dem Beispiel 3.4. Sie ist eie diskrete Zufallsvariable mit dem Wertebereich {0, 1}. Die zughörige Wahrscheilichkeitsfuktio ist gegebe durch p(1) = P(A) ud p(0) = P(A c ) = 1 P(A). Beispiel 3.10 (Müzwurf): Wir betrachte 4-maliges Werfe eier faire Müze. Sei X defiiert durch X(ω) = ω 1 + ω 2 + ω 3 + ω 4 die iteressierede Zufallsvariable. Sie ist diskret mit dem Wertebereich {0, 1, 2, 3, 4}. Wir erhalte da die Wahrscheilichkeitsfuktio k p(k) 1/16 4/16 6/16 4/16 1/16 Damit lässt sich gaz leicht die Wahrscheilichkeit aller Ereigisse der Form {X A} bereche, z. B. ist A = (, 2] ud P(A) = P(X 2) = p(0) + p(1) + p(2) = 11/ Charakterisierug diskreter Zufallsvariable Es gibt eie Vielzahl praktisch auftreteder Verteiluge, dere Form sich stark uterscheidet. Wir wolle us im Folgede Möglichkeite asehe, diese Form zu charakterisiere. Dazu führe wir die Begriffe des Erwartugswertes ud der Variaz ei ud beschreibe dere Eigeschafte. Der Erwartugswert eier Zufallsvariable ist der Wert, der sich gemittelt über alle Realisieruge, gewichtet mit der Wahrscheilichkeit ihres Auftretes, ergibt. Er sollte icht mit dem wahrscheilichste Eizelwert verwechselt werde. Das Kozept stammt aus der Utersuchug vo Glücksspiele, wo der Erwartugswert de durchschittliche Gewi oder Verlust bei praktisch uedlicher Wiederholug des Spiels beschreibt. 24 Versio 6. Juli 2011

25 3.2 Diskrete Zufallsvariable Defiitio 3.11 (Erwartugswert): Sei X eie diskrete Zufallsvariable mit Wertebereich W ud p ihre Wahrscheilichkeitsfuktio. Der Erwartugswert vo X existiert, falls x x p(x) <. Der Erwartugswert ist da defiiert als als Symbol wählt ma machmal µ oder µ X. E(X) := x p(x), (3.5) X W Beispiel 3.12: Betrachte wir die Zufallsvariable aus Beispiel Da ist E(X) = = 2 der Erwartugswert i dem Spiel, d. h. vo vier Würfe mit eier faire Müze werde zweimal Kopf erwartet. Das etspricht auch dem commo sese. Lemma 3.13 (Erwartugswerte vo Idikatorfuktioe): Sei (Ω, F, P) ei Wahrscheilichkeitsraum, seie A, B F. Da gilt für die Idikatorfuktioe 1 A ud 1 B, dass E(1 A ) = P(A) ud E(1 A 1 B ) = P(A B). (3.6) BEWEIS Aus der Defiitio der Idikatorfuktio 3.4 wisse wir, dass 1 A (A) = 1, falls ω A, ud 1 A (A) = 0, falls ω / A. Da ist Weiter ist E(1 A ) = 1 P(A) + 0 P(A c ) = P(A). 1, ω A, ω B, 0, ω A, ω / B, (1 A 1 B )(ω) = 1 A (ω) 1 B (ω) = = 0, ω / A, ω B, 0, ω / A, ω / B, ud mit dem erste Teil folgt die Behauptug. { 1, ω A B, 0, ω / A B, Amerkug: Das vorige Lemma gibt us ei Werkzeug a die Had, wie die Megeoperatio Schittbildug durch eie Multiplikatio ersetzt wird. Zusamme mit der Eigeschaft der Komplemetärmege ud ihrer Berechug, siehe Beispiel 3.9, ud damit auch der Berechug vo Vereiiguge, köe wir Megeopertatioe durch die eifacher hadhabbare Multiplikatio ud Additio ersetze. Nicht zuletzt i der Programmierug erweist sich das als sivoll. Satz 3.14 (Trasformatioformel für de Erwartugswert): Sei X eie diskrete Zufallsvariable mit Wertebereich W, p ihre Wahrscheilichkeitsfuktio, sei weiter u : W R eie Abbildug, für die u(x) p(x) < gilt. Wir defiiere Y := u(x) ud es gilt x W E(Y) = E ( u(x) ) = für de Erwartugswert der trasformierte Zufallsvariable Y. BEWEIS Wir utersuche die zugehörige Wahrscheilichkeitsfuktio mit der wir de Erwartugswert bereche. E(Y) = y p Y (y) = P ( Y = y ) = P ( u(x) = y ) = y p Y (y) = y y x:u(x)=y u(x) p(x) (3.7) x X(Ω) p(x) = y x:u(x)=y p(x), x:u(x)=y u(x)p(x) = u(x)p(x) x Versio 6. Juli

26 3 Zufallsvariable ud Verteiluge Satz 3.15 (Dreiecksugleichug für de Erwartugswert): Sei X eie diskrete Zufallsvariable mit Wertebereich W, dere Erwartugswert existiert, d. h. x p(x) <. Da gilt x W E(X) ( E X ). (3.8) BEWEIS Die Trasformatiosformel aus Satz 3.14 mit u(x) = x liefert xp(x) = E(X) ( E X ) = x p(x) = xp(x) x W x W wobei bei der Ugleichheit die Dreiecksugleichug für Summe reeller Zahle verwedet wurde. Satz 3.16 (Liearität des Erwartugswertes): Seie X ud Y zwei Zufallsvariable auf dem gleiche Wahrscheilichkeitsraum, dere Erwartugswerte existiere. Da gilt für a, b R (i) E(aX) = ae(x), (ii) E(X + Y) = E(X) + E(Y), (iii) E(b) = b. BEWEIS x W (i) Aus der Trasformatiosformel habe wir mit der Fuktio u(x) = a x E(aX) = x (ax)p(x) = a xp(x) = ae(x) (ii) Eie hireichede Bedigug für die Gleichheit vo Summe ist die Gleichheit ud das Auftrete aller Summade, somit E(X + Y) = z P(X + Y = z), z aus der Summe wir mit dem Satz vo der totale Wahrscheilichkeit (Satz 2.35) eie Doppelsumme bilde die wir umstelle köe = z = x z P(X + Y = z, X = x), x ( ) (z x) + x P(Y = z x, X = x) z ud jetzt y := z x defiiere ud wege x, z R gilt auch y R, weswege wir u ur die Reihefolge der Summade äder = x = x = x (y + x) P(Y = y, X = x) y y x y x P(Y = y, X = x) + x P(Y = y, X = x) + y der Satz vo der totale Wahrscheilichkeit liefert = x x P(X = x) + y P(Y = y), y = E(X) + E(Y). x y P(Y = y, X = x), y y P(Y = y, X = x), x 26 Versio 6. Juli 2011

27 3.2 Diskrete Zufallsvariable (iii) Die kostate Zufallsvariable X b hat geau eie Realisierug, ud zwar mit Wahrscheilichkeit 1. Die Wahrscheilichkeitsfuktio ist da p(b) = 1 ud p(x) = 0 falls x = b. Amerkug: Wir habe i diesem Beweis verwedet, dass X + Y eie Zufallsvariable ist. Allgemeier formuliert sage wir, dass u(x, Y) eie Zufallsvariable ist, we u messbar ist. Das ist eie Geeralisierug des Trasformatiossatzes 3.14, die wir im Abschitt 3.4 für mehrdimesioale Zufallsvariable keelere werde. Die Aussage selbst werde hi ud wieder vorwegehme. Nebe der Erwartug beötige wir och die Variaz eier Zufallsvariable. Defiitio 3.17 (Variaz): Sei X eie Zufallsvariable mit E(X 2 ) <. Da ist die Variaz vo X gegebe durch VarX := E ( X E(X) ) 2. (3.9) Als Symbol wird oft σ 2 oder σx 2 verwedet. Die positive Wurzel aus der Variaz et ma die Stadardabweichug vo X. Amerkug: Aus der Bedigug E(X 2 ) < folgt, dass E( X ) <, also die Existez des Erwartugswertes. Mit dieser Defiitio als mittlere quadratische Abweichug ist die Variaz ei Maß für die Streuug. Satz 3.18 (Recheregel für die Variaz): Sei X eie Zufallsvariable mit E(X 2 ) <. Da gilt (i) Var(aX + b) = a 2 Var(X) für a, b R, (ii) Var(X) = E(X 2 ) ( E(X) ) 2. BEWEIS (i) Wege der Liearität des Erwartugswertes gilt E(aX + b) = ae(x) + b ud es folgt Var(aX + b) = E ( ax + b (ae(x) + b) ) 2 = E ( a(x EX) ) 2 = a 2 E ( X E(X) ) 2 = a 2 Var(X). (ii) Ebefalls aus der Liearität des Erwartugswertes folgt Var(X) = E ( X E(X) ) 2 = E (X 2 2 ( E(X) ) X + ( E(X) ) 2 ) = E ( X 2) ( E(X) ) 2. Die Variaz ud de Erwartugswert i Beziehug setzed sehe wir, dass der Erwartugswert eie Miimumeigeschaft besitzt. Satz 3.19 (Miimiereigeschaft des Erwartugwertes): Sei X eie Zufallsvariable, für die E(X 2 ) < gilt, ud sei a R. Da gilt ud damit E(X a) 2 = Var(X) + ( E(X) a ) 2 (3.10) E(X a) 2 Var(X). (3.11) BEWEIS Wege der Liearität des Erwartugswertes ist E(X EX) = 0 ud damit folgt E(X a) 2 = E(X EX + EX a) 2 = E ((X EX) 2 + 2E(X EX)(EX a) + (EX a) 2) ( = E (X EX) 2) + ( 2E (X EX)(EX a) ) + E ((EX a) 2) ( = E (X EX) 2) + 2(EX a) E (X EX) + E ((EX a) 2) = E (X EX) 2 + (EX a) 2, weiterhi ist der Term für a = EX miimal. Versio 6. Juli

28 3 Zufallsvariable ud Verteiluge 3.3 Stetige Zufallsvariable Für viele Zufallsexperimete, die wir modelliere wolle, beötige wir ei Kotiuum a mögliche Werte für die verwedete Zufallsvariable. Beispielsweise sid dies die Lebesdauer eier Perso, eie Zahl aus dem Itervall [0, 1] oder der zufällige Zeitpukt a dem eie Optio auf ei Wertpapier ausgeübt wird usw. Der Wertebereich eier (absolut) stetige 1 Zufallsvariable ist überabzählbar. Defiitio 3.20: Eie itegrierbare, icht-egative Fuktio f heißt Wahrscheilichkeitsdichte, Dichtefuktio oder Dichte der Zufallsvariable X, falls für alle a, b R mit a < b gilt ( ) b P(a < X b) = P X (a, b] = a f (x)dx. (3.12) Verteiluge mit eier Dichtefuktio heiße (absolut) stetige Verteiluge. Die Verteilugsfuktio F X besitzt die Darstellug F X (y) = y f (x)dx. (3.13) Amerkug: (i) Für eie Dichtefuktio f gilt immer f (x)dx = 1. Umgekehrt wird vo eier Fuktio f mit dieser Eigeschaft eie Wahrscheilichkeitsverteilug auf R defiiert. Daher ist jede Fuktio f mit f (x)dx = 1 eie Wahrscheilichkeitsdichte. (ii) Zwei Verteiluge P X ud P Y sid gleich, we ihre Dichtefuktioe bis auf edlich oder abzählbar uedlich viele Werte übereistimme. Beispiel 3.21: Sei f c (x) = cx 3 1 [0,1] (x) mit c R eie Fuktioeschar. Für welche Werte vo c ist f c eie Dichtefuktio? Wir halte fest, dass f c (x) 0 für alle x R ud alle c R gilt. Als ächstes bestimme wir das Itegral 1 cx 3 1 [0,1] (x)dx = cx 3 dx = c 1 1 = c 4, 0 4 x4 0 d. h. für c = 4 habe wir eie Dichte. Sei X eie Zufallsvariable mit der Verteilug mit Dichte f 4. Da gilt ud P (1/4 < X 1/2) = P(X a) = 1/2 1/4 a 4x 3 1 [0,1] (x)dx = 4x 3 1 [0,1] (x)dx = 1/2 1/4 0 = falls 0 > a, = a 4 = falls 0 a 1, 1 = falls 1 < a. 4x 3 dx = x 4 1/2 mi{max{0,a},1} 0 1/4 = = x 3 dx = x 4 mi{max{0,a},1} 1 Im allgemeie Sprachgebrauch wird der Begriff stetig verwedet, mathematisch spricht ma i dem Fall vo absolut stetig. Trotz uterschiedlicher Bezeichuge wird i beide Kotexte eie Zufallsvariable betrachtet, für dere Verteilug eie Dichte (siehe Defiitio 3.20) existiert Versio 6. Juli 2011

29 3.4 Mehrdimesioale Verteiluge Satz 3.22 (Eigeschafte der Verteilugsfukio eier (absolut) stetige Zufallsvariable): Sei X eie (absolut) stetige Zufallsvariable ud sei F X ihre die Verteilugsfuktio. Da gilt (i) Für jede Pukt x R gilt P(X = x) = 0. (ii) Für Itervalle erhalte wir ud P(X a) = 1 F X (a). P(a X b) = P(a < X b) = P(a X < b) = P(a < X < b) Charakterisierug stetiger Zufallsvariable Wir gehe hier aalog zum Abschitt für diskrete Zufallsvariable vor. Defiitio 3.23 (Erwartugswert): Sei X eie stetige Zufallsvariable mit Dichte f. Der Erwartugswert existiert, falls x f (x)dx < ud ist da defiiert durch EX = x f (x)dx. (3.14) Beispiel 3.24: Sei X eie Zufallsvariable mit der Dichte f X (x) = 1/2 1 (0,2) (x). Da ist E(X) = x (0,2)(x)dx = 1 2 xdx = x2 = Satz 3.25 (Trasformatiosformel für de Erwartugswert): Sei X eie stetige Zufallsvariable mit Dichte f ud sei u : R R eie messbare Abbildug. Da gilt ( E u(x) ) = u(x) f (x)dx (3.15) falls u(x) f (x)dx < ist. Amerkug (Aalogie vo Eigeschafte stetiger Zufallsvariable): Die adere Sätze zum Erwartugswert aus dem Abschitt wie die Dreiecksugleichug (Satz 3.15) ud die Liearität (Satz 3.16) gelte aalog. Für die Defiitio der Variaz (Defiitio 3.17) als auch ihre Eigeschafte (Satz 3.18) habe wir ur die Defiitio des Erwartugswertes verwedet ud köe sie deswege problemlos überehme. 3.4 Mehrdimesioale Verteiluge Wir hatte es scho bei der Liearität des Erwartugswertes mit mehrere Zufallsvariable zu tu ud ware davo ausgegage, dass auch ihre Summe eie Zufallsvariable ist. Das müsse wir us och geauer asehe. Versio 6. Juli

30 3 Zufallsvariable ud Verteiluge Gemeisame ud margiale Verteiluge We wir mehrere Zufallsvariable X 1,..., X betrachte, so köe wir diese als eie Zufallsvektor X = (X 1,..., X ) auffasse. Eigetlich sollte wir X als Spaltevektor schreibe ud damit kosequeterweise X = (X 1,..., X ) T. Wir lasse das der bessere Lesbarkeit zu Grude oft ugeschriebe. Defiitio 3.26 (Zufallsvektor): Sei (Ω, F, P) ei Wahrscheilichkeitsraum ud X 1,..., X Zufallsvariable X i : Ω R für 1 i. Die Abbildug X : Ω R heißt da -dimesioaler Zufallsvektor mit de Kompoete (oder Koordiate) X 1,..., X. Die Fuktio F X : R [0, 1] defiiert durch F X (x 1,..., x ) = F X1,...,X (x 1,..., x ) = P(X 1 x 1,..., X x ) (3.16) heißt gemeisame (oder multivariate) Verteilugsfuktio des Zufallsvektors X = (X 1,..., X ). Amerkug: Da ist X : Ω R eie messbare Fuktio. Dazu müsste wir us eigetlich die Regularitätsbedigug der Messbarkeit auf R geauer asehe. Ma ka zeige, dass die Messbarkeit vo X = (X 1,..., X ) zur Messbarkeit aller Koordiate X 1,..., X ist. Beispiel 3.27: Wir betrachte zweifache Würfelwurf. Sei X = (X 1, X 2, X 3 ) : Ω R 3 mit Wertebereich W = {2, 3,..., 12} {1,..., 6} {0, 1} Dabei bezeichet X 1 die Summe der Augezahle der zwei Würfel, X 2 die Augezahl des erste Würfels ud X 3 die Kodierug ob die Augezahl des zweite Würfels gerade ist. Satz 3.28 (Eigeschafte multivariater Verteilugsfuktioe): Sei X = (X 1,..., X ) ei Zufallsvektor mit der Verteilugsfuktio F X. Da gilt (i) Asymptotisches Verhalte: Für alle x 1,... x R ud alle 1 i gilt weiterhi lim F X(x 1,..., x i 1, x i, x i+1,..., x ) = 0, x i lim F X(x 1,..., x ) = 1. x 1,...,x Seie 1 i 1 <... < i k Idizes ud {j 1,..., j k } := {1,..., } \ {i 1,..., i k } die komlemetäre Idexmege. Da ist lim F X(x 1,..., x ) = lim F X x j1,...,x j k x j1,...,x j k 1,...,X (x 1,..., x ) = F Xi1,...,X ik (x i1,..., x ik ) die Verteilugsfuktio der k-dimesioale Margialverteilug der gemeisame Verteilug. (ii) Rechtsstetigkeit: F X ist stetig vo rechts mit liksseitige Grezwerte, formal F X (x 1,..., x ) = lim F X(x 1 + h 1,..., x + h ) h 1,...,h 0 für alle x 1,... x R ud alle h 1,..., h 0. (iii) Mootoie: F X ist mooto wachsed mit Werte im Itervall [0, 1], formal für alle x 1,... x R ud alle h 1,..., h 0. F X (x 1,..., x ) F X (x 1 + h 1,..., x + h ) Beispiel 3.29: Nehme eie Zufallsvektor X = (X 1, X 2 ) mit Wertebereich {0, 1, 2} {5, 10} ud sei die gemeisame Wahrscheilichkeitsfuktio p X1,X 2 gegebe durch 30 Versio 6. Juli 2011

31 3.4 Mehrdimesioale Verteiluge /4 1/6 1/3 3/4 10 1/12 1/12 1/12 1/4 5 4/12 3/12 5/12 Da ist F X1,X 2 (1, 5) = 1/4 + 1/6 = 5/12 ud lim x 2 F X 1,X 2 (1, x 2 ) = F X1,X 2 (1, 5) + F X1,X 2 (1, 10) = 7/12, da für größere x 2 ichts mehr hizukommt. Amerkug: (i) Ei Zufallsvektor heißt diskret, we jede Koordiate X i für a i diskret ist. Da existiert eie Wahrscheilichkeitsfuktio p X = p X1,...,X vo X. (ii) Ist jede Koordiate X i für a i stetig, so ee wir auch de Zufallsvektor stetig. Es existiert da eie itegrierbare Fuktio f X = f X1,...,X vo X. (iii) Aalog zur Verteilugsfuktio eier Margialverteilug köe wir die zugehörige Wahrscheilichkeitsfuktio oder Dichte durch aufsummiere resp. itegriere erhalte. Seie {i 1,..., i k } ud {j 1,..., j k } zwei komlemetäre Idexmege mit Idizes aus {1,..., }. Da gilt j 1,...,j k p X1,...,X (x 1,..., x ) = p Xi1,...,X ik (x i1,..., x ik ) ud f X1,...,X (x 1,..., x )dx j1 dx j k = f Xi1,...,X ik (x i1,..., x ik ) Erwartugswert Defiitio 3.30 (Erwartugswert): (i) Sei X = (X 1,..., X ) T ei diskreter Zufallsvektor mit gemeisamer Wahrscheilichkeitsfuktio p X bei dem alle Koordiate X i mit 1 i eie Erwartugswert besitze. Da ist x 1 p X (x 1,..., x ) X 1 x 1 x EX = E. =. p 1,...,x X(x 1,..., x ) =. x X 1,...,x x x p X (x 1,..., x ) x 1,...,x (3.17) x 1 p X1 (x 1 ) x1 EX 1 =. =. x p X (x ) EX x der Erwartugswert vo X. (ii) Sei Y = (Y 1,..., Y ) T ei stetiger Zufallsvektor mit gemeisamer Wahrscheilichkeitsdichte f Y bei dem alle Koordiate Y i mit 1 i itegrierbar sid. Da ist der Erwartugswert vo Y gegebe durch Y 1 EY 1 EY = E. = (y 1,..., y ) T f Y (y 1,..., y )dy 1... dy =.. (3.18) Y R EY Versio 6. Juli

32 3 Zufallsvariable ud Verteiluge Beispiel 3.31: Wir beziehe us auf das Beispiel Der Erwartugswert ist X 1 EX EX = E. = 1 7 EX 2 = 7/2, EX 3 1/2 da EX 1 = 7, EX 2 = 7/2, EX 1 = 1/2 gilt. X Satz 3.32 (Trasformatio vo Zufallsvektore): Sei X = (X 1,..., X ) ei Zufallsvektor ud u : R R m mit m 1. Da ist u(x) ei m-dimesioaler Zufallsvektor. Korollar 3.33 (Allgemeie Trasformatiosformel für de Erwartugswert): Aalog zum Satz (3.14) ud Satz (3.25) köe wir die Trasformatiosformel für de Erwartugswert agebe. (i) Sei X = (X 1,..., X ) ei diskreter Zufallsvektor mit der gemeisame Wahrscheilichkeitsfuktio p ud sei u : R R m eie Fuktio. Da gilt E(u(X)) = E(u(X 1,..., X )) = x 1,...,x u(x 1,..., x )p(x 1,..., x ). (3.19) (ii) Sei Y = (Y 1,..., Y ) ei stetiger Zufallsvektor mit der gemeisame Wahrscheilichkeitsdichte f ud sei u : R R m eie Fuktio. Da gilt E(u(Y)) = E(u(Y 1,..., Y )) = u(y 1,..., y ) f (y 1,..., y )dy 1... dy. (3.20) y 1,...,y Satz 3.34 (Eigeschafte des Erwartugwertes): Seie X = (X 1,..., X ) T ud Y = (Y 1,..., Y ) T beide -dimesioale Zufallsvektore, a, b R ud A R k eie Matrix. Da gilt (i) E(a X + b Y) = a EX + b EY, (ii) E(AX) = A EX, der Erwartugswert ist also liear Uabhägige Zufallsvariable Wir wolle das Kozept der Stochastische Uabhägigkeit aus Abschitt 2.5 auf Zufallsvariable ausweite. Defiitio 3.35 (Uabhägige Zufallsvariable): Seie X 1,..., X Zufallsvariable. Da heiße X 1,..., X (stochastisch) uabhägig, falls für alle B 1,..., B R gilt. P(X 1 B 1,..., X B ) = P(X i B i ) (3.21) Lemma 3.36: Die Zufallsvariable X 1,..., X sid geau da uabhägig, we die Ereigisse {X 1 B 1 },..., {X B } uabhägig sid für alle B 1,..., B R. Satz 3.37: Für zwei uabhägige Zufallsvariable X ud Y gilt E(XY) = EX EY, (3.22) falls EX ud EY existiere. Seie X = (X 1,..., X ) T ud Y = (Y 1,..., Y ) uabhägige Zufallsvektore, so gilt E(X Y T ) = E(X) E(Y) T. (3.23) 32 Versio 6. Juli 2011

33 3.4 Mehrdimesioale Verteiluge BEWEIS Diese Aussage zeige wir für diskrete Zufallsvariable durch Nachreche, für stetige folgt sie aalog E(XY) = z x =0 = x y= z x = x = x z P(XY = z) = z P(XY = z, X = x) z x z (Y x x P = zx ), X = x y y x P(Y = y, X = x) y y x y P(X = x)p(y = y) = x P(X = x) y P(Y = y) x y ( ) = x P(X = x) x =EX EY y y P(Y = y) Satz 3.38 (Faltugsformel für Wahrscheilichkeitsfuktioe): Seie X ud Y uabhägige Zufallsvariable. Wir betrachte ihre Summe Z = X + Y. (i) Sid X ud Y diskret mit de Wahrscheilichkeitsfuktioe p X resp. p Y, so hat Z die Wahrscheilichkeitsfuktio p Z (z) = x p X (x)p Y (z x) = p X (z y)p Y (y). (3.24) y (ii) Sid X ud Y stetig mit de Wahrscheilichkeitsdichte f X resp. f Y, so hat Z die Wahrscheilichkeitsfuktio f Z (z) = f X (x) f Y (z x)dx = f X (z y) f Y (y)dy. (3.25) x R BEWEIS Das Ereigis {X + Y = z} schreibe wir uter Verwedug vo x ud y mit x + y = z als disjukte Vereiigug der Ereigisse {X = x} {Y = y} = {X = x, Y = y} mit x R. Da gilt y = z x ud es folgt mit dem Satz vo der totale Wahrscheilichkeit ud der Defiitio der Uabhägigkeit im diskrete Fall, dass im stetige aalog. P(X + Y = z) = x = x y y R P(X = x, Y = y) = P(X = x, Y = z x) x P(X = x)p(y = z x) = p X (x)p Y (z z), x Notatio: Für die Faltug zweier Wahrscheilichkeitsfuktioe schreibe wir p X p Y Variaz ud Kovariaz Defiitio 3.39 (Kovariaz ud Korrelatioskoeffiziet): Für zwei Zufallsvariable X ud Y defiiere wir die Kovariaz durch Cov(X, Y) = E ( (X EX)(Y EY) ) (3.26) Versio 6. Juli

34 3 Zufallsvariable ud Verteiluge ud de Korrelatioskoeffiziete durch ρ X,Y = Cov(X, Y) VarX VarY. (3.27) Die Zufallsvariable heiße ukorreliert, falls ρ X,Y = 0 ist. Satz 3.40 (Reche mit Kovariaze): Seie X ud Y Zufallsvariable. Da gilt (i) Cov(X, X) = VarX, (ii) Cov(X, Y) = E(XY) (EX)(EY), (iii) Var(X + Y) = VarX + VarY + 2 Cov(X, Y), (iv) sid X ud Y uabhägig, so sid sie ukorreliert ud es gilt falls alle Ausdrücke existiere. Var(X + Y) = VarX + VarY, (3.28) BEWEIS Teil (i) folgt direkt aus de Defiitioe 3.17 ud 3.39, (ii) erhält ma aalog zum Satz 3.18 (ii) aus der Liearität des Erwartugswertes. Für Teil (iii) gilt ( (X ) ) 2 Var (X + Y) = E + Y E(X + Y) = E ((X EX + Y EY) 2) = E ((X EX) 2 + (Y EY) ((X EX)(Y EY) )) = VarX + VarY + 2Cov(X, Y), ud Teil (iv) folgt hieraus da direkt. Amerkug: Aus Ukorreliertheit folgt icht Uabhägigkeit. Beispiel 3.41 (Gegebeispiel zur Umkehrug): Betrachte die Zufallsvariable X mit Wertebereich W X = { 1, 0, 1} ud der Wahrscheilichkeitsfuktio p X ( 1) = 1/4, p X (0) = 1/2, p X (1) = 1/4. Sei weiter Y := X 2. Da gilt W Y = {0, 1} ud Y besitzt die Wahrscheilichkeitsfuktio p Y (0) = 1/2, p Y (1) = 1/2. Da gilt EX = 1/4 ( 1) + 1/ /4 1 = 0 ud EY = 1/ /2 1 = 1/2 ud die Kovariaz ist Cov(X, Y) = E ( (X EX)(Y EY) ) = E ( X(Y 1/2) ) = E(XY) 1/2EX = E(X 3 ) = 1/4 ( 1) 3 + 1/ /4 1 4 = 0, ud damit ist auch ρ X,Y = 0, also sid X ud Y ukorreliert. Sie sid aber icht uabhägig, da z. B. P(X = 0, Y = 1) = P(X = 0, X 2 = 1) = 0 = = P(X = 0) P(Y = 1). Defiitio 3.42 (Kovariazmatrix): Sei X = (X 1,..., X ) T ei Zufallsvektor ud defiiere die Kovariaze s ij := Cov(X i, X j ) für 1 i, j. Da ist die Kovariazmatrix vo X. ( Σ := CovX = E (X EX)(X EX) T) = s 11 s s s 21 s s s 1 s 2... s (3.29) 34 Versio 6. Juli 2011

35 3.5 Spezielle/Wichtige diskrete Verteiluge Amerkug: Zu beachte ist, dass auf der Diagoale der Kovariazmatrix die Variaze zu fide sid. Deswege habe wir de Zusammehag s ii = σi 2 für die Eiträge der Kovariazmatrix mit der Variaz. Satz 3.43 (Eigeschafte der Kovariazmatrix): Die Kovariazmatrix Σ ist (i) symmetrisch, d. h. s ij = s ji, (ii) icht-egativ defiit, d. h. x T Σx 0 für alle x R. Gilt sogar x T Σx > 0, so ist Σ positiv defiit. 3.5 Spezielle/Wichtige diskrete Verteiluge Im Folgede wolle wir us eiige i der Praxis häufig vorkommede Verteiluge asehe. Notatio: Ist eie Zufallsvariable X eier Verteilug F(x) := P(X x) etspreched verteilt, so sagt ma X F. Beroulli-Verteilug Sei A Ω mit P(A) = η mit η (0, 1) gegebe. Sei X eie Zufallsvariable, defiiert durch X(ω) = 1 A (ω) wobei wir das Eitrete vo A mit Erfolg, dasjeige vo A c mit Misserfolg idetifiziere. Der Wertebereich W = {0, 1} ud X ist diskret mit der Wahrscheilichkeitsfuktio { η für k = 1, p(k) = 1 η für k = 0. Die Verteilug heißt da Beroulli-Verteilug mit Parameter η. Als Erwartugswert erhalte wir ud als Variaz VarX = E(X 2 ) (EX) 2 = EX = 1 P(X = 1) + 0 P(X = 0) = η ( ) 1 2 P(X = 1) P(X = 0) η 2 = η(1 η). Biomial-Verteilug Beispiel 3.44: Typisches Szeario als eiführedes Beispiel. Seie X i uabhägige Zufallsvariable für i = 1,..., Beroulli-verteilt mit Parameter η. Da defiiert S := X X eie Zufallsvariable, die die Azahl der Erfolge i Experimete agibt. Die Wahrscheilichkeitsfuktio ist ( ) p(k) = P(S = k) = η k (1 η) k für k = 0,...,, k Versio 6. Juli

36 3 Zufallsvariable ud Verteiluge was aus der Überlegug folgt, dass wir, um geau k Erfolge zu erhalte, k Erfolge ud k Misserfolge beötige, wobei dere Reihefolge uwichtig ist. Notatio: Die Biomialverteilug mit de Parameter ud η wird mit Bi(, η) abgekürzt. Bevor wir de Erwartugswert ausreche, müsse wir us och folgede Idetitäte kee. Lemma 3.45: (i) Für k, N mitk > gilt ( ) = 0. (3.30) k (ii) Für k, N mit 0 < k < gilt (iii) Für die atürliche Zahle k, l, m gilt ( ) l + m = k ( ) ( ) 1 k =. (3.31) k k 1 k i=0 ( )( ) l m. i k i Der Erwartugswert vo S ist da ES = EX i = η = η ud weiter ( E S (S 1) ) ( = k(k 1) k k=0 ( = k(k 1) k k=2 ( 1 = (k 1) k 1 k=2 ( 2 = ( 1) k 2 k=2 = ( 1) η 2 ( 2 k 2 k=2 = ( 1) η 2 2 ( 2 j = ( 1) η 2 j=0 ) η k (1 η) k ) η k (1 η) k ) η k (1 η) k ) η k (1 η) k ) η k 2 (1 η) ( 2) (k 2) ) η j (1 η) ( 2) j } {{ } =1, da Bi( 2,η) ud damit die Variaz Var(S ) = E(S 2 ) (ES ) 2 = E ( S (S 1) ) + ES (ES ) 2 = ( 1)η 2 + η (η) 2 = η η 2 = η(1 η) 36 Versio 6. Juli 2011

37 3.5 Spezielle/Wichtige diskrete Verteiluge Beispiel 3.46: Im Beispiel 3.10 hatte wir es mit eier Biomialverteilug mit = 4 ud η = 0, 5 zu tu. Damit ist ES 4 = 4 0, 5 = 2 (was wir scho hatte) ud VarS 4 = 4 0, 5 0, 5 = 1. Satz 3.47 (Symmetrieeigeschaft): Sei X Bi(, η) ud sei Y := X. Da gilt Y Bi(, 1 η). (3.32) BEWEIS Seie p X ud p Y die Wahrscheilichkeitsfuktio vo X resp. Y. Da ist p Y (k) = P(Y = k) = P( X = k) = P(X = k) = p X ( k) ( ) = η k (1 η) ( k) k ( ) = (1 η) k ( 1 (1 η) ) k k was die Wahrscheilichkeitsfuktio vo Bi(, 1 η) ist. Faltug biomialverteilter Zufallsvariable Seie X ud Y uabhägige Zufallsvariable mit Bi(, η) bzw. Bi(m, η)- Verteilug. Da lässt sich die Wahrscheilichkeitsfuktio vo Z = X + Y bereche ( k ( ) ( ( ) m p Z (k) = )η i (1 η) i )η k i (1 η) m (k i) i k i i=0 = η k (1 η) +m k k ( )( ) m i k i i=0 ( ) + m = η k (1 η) +k k k was die Wahrscheilichkeitsfuktio der Bi( + m, η)-verteilug ist. Beispiel 3.48: Betrachte de füffache ud de siebefache Müzwurf, die uabhägig voeiader stattfide. Sei X die Azahl der Erfolge beim füffache Wurf, also X Bi(5, 1/2) ud sei Y die Azahl der Erfolge beim siebefache Wurf, also Y Bi(7, 1/2). Da gilt für Z = X + Y, dass Z Bi(12, 1/2) ud Z beschreibt die Azahl der Erfolge beim zwölffache Müzwurf. Hypergeometrische Verteilug Beispiel 3.49: Typisches Szeario als eiführedes Beispiel. Wir betrachte eie Ure mit N Kugel, vo dee R rot ud N R weiß sid. Daraus ziehe wir ohe Zurücklege ud ohe Beachtug der Reihefolge Kugel. Wir bezeiche mit X die Azahl der gezogee rote Kugel. Da ist der Wertebereich W = { max{ (N R), 0},..., mi{, R} } ud die Wahrscheilichkeitsfuktio vo X ist )( ) N R p(r) = P(X = r) = ( R r r ( ) für r = 0,...,. N Versio 6. Juli

38 3 Zufallsvariable ud Verteiluge Der Neer ist klar, da er sich aus dem Uremodell ohe Zurücklege ud ohe Reihefolge ergibt. Für de Zähler teile wir die Ure im Geiste i die rote ud i die weiße Kugel. Aus der rotkugelige Ure mit R Kugel ziehe wir r Kugel, aus der weißkugelige Ure mit N R Kugel ziehe wir r Kugel. Damit stelle wir sicher, dass geau r der gezogee Kugel rot sid. Diese Verteilug heißt hypergeometrische Verteilug mit de Parameter N, R ud ud wir sage X Hyper(N, R, ). Der Erwartugswert ist EX = r=0 r (R r )(N R r ) ( N ) = 1 ( )( ) R 1 N R ( N ) R r 1 r r=0 = R ( )( R 1 ( N ) r 1 r=0 = R ( ) N 1 ( N ) = R 1 N. N R ( 1) (r 1) Dabei etspricht N R dem Ateil der rote Kugel i der Ure vor dem Ziehe, die Wahrscheilichkeit, als erste Kugel eie rote Kugel zu ziehe ist N R ud damit ist der Erwartugswert aalog dem eier Biomial-verteilte Zufallsvariable Y Bi(, N R ). Zur Berechug der Variaz betrachte wir EX 2 = 1 ( N ) r 2( )( ) R N R r r r=0 = R ( )( ) R 1 N R ( N ) r r 1 r r=0 ( = R ( )( ) R 1 N R ( N ) (r 1) + r 1 r r=0 ( )( R(R 1) R 2 = ( N ) r 2 k=0 ( ) R(R 1) N 2 = ( N ) 2 ud somit ist r=0 N R ( 2) (r 2) ) ( R 1 r 1 ) + R N )( N R r + R R(R 1) = N N(N 1) ( 1) + R N VarX = R ( R 1 N N 1 ( 1) + 1 R ) N = RN ( 1 R ) N N N 1. Auch hier sehe wir eie Ählichkeit zur Biomialverteilug. Wir habe VarX = VarY N N 1, d. h. für 2 wird die Variaz kleier. Da wir ohe Zurücklege ziehe, wisse wir scho etwas mehr über de eue Ureihalt ud utze diese Iformatio. ) ) Geometrische Verteilug Die geometrische Verteilug wurde bereits auf dem Übugszettel 5 i der Aufgabe 3 vorgestellt. 38 Versio 6. Juli 2011

39 3.5 Spezielle/Wichtige diskrete Verteiluge Zu beachte ist, dass machmal die Azahl der Misserfolge bis zum erste Erfolg gezählt wird, machmal adererseits die Azahl der Versuche gezählt wird. Die etsprechede Zufallsvariable uterscheide sich da um 1. Amerkug: Die geometrische Verteilug wird agewedet, we es um Lebesdauer geht. Dabei wird eie Grudmege a baugleiche Produkte oder eie Populatio modelliert, die mit der Wahrscheilichkeit η ausfalle resp. sterbe. Negative Biomial-Verteilug Die Negative Biomial-Verteilug ist eie Verallgeimeierug der geometrische Verteilug. Sie wurde bereits auf dem Übugszettel 7 i der Aufgabe 3 vorgestellt. Poisso-Verteilug Beispiel 3.50: Typisches Szeario als eiführedes Beispiel. Die Poisso-Verteilug wird als Grezverteilug der Biomialverteilug bei seltee Ereigisse motiviert. Wir werde dies och äher beim Thema der Approximatioe ud Grezwertsätze keelere. Wir betrachte eie Zufallsvariable X, die die Azahl der Erfolge agibt, die ierhalb eier Zeiteiheit eitrete. Die Wahrscheilichkeitsfuktio ist λ λk p(k) = (X = k) = e k! für k = 0, 1, 2,... ud sage, dass X Poisso-verteilt ist mit Parameter λ bezeiche die Verteilug mit Poisso(λ). Auch hier beötige wir eie Reihe, bevor wir de Erwartugswert ausreche köe. Lemma 3.51: Für ei x R ist die Expoetialreihe mit dem Expoete x. Da ist der Erwartugswert ud ud damit die Variaz EX = EX 2 = λ λk ke k=0 x! = ex =0 k! = λe λ =0 k 2 λ λk e k! = λ2 + λ k=0 VarX = EX 2 (EX) 2 = λ. λ! = λe λ e λ = λ Versio 6. Juli

40 3 Zufallsvariable ud Verteiluge Faltug der Poisso-Verteilug ist S Poisso(λ). Seie X 1,..., X Poisso(λ), weiterhi sei S := X X. Da Multiomialverteilug Die Multiomialverteilug ist das multivariate Aalogo der Biomialverteilug. Dabei betrachte wir eie Experimet mit k mögliche Ausgäge 1,..., k ud de Eizelwahrscheilichkeite η 1,..., η k mit k η i = 1. Wir ziehe -mal mit Zurücklege. Bevor wir us de Zufallsvariable ud der Wahrscheilichkeitsfuktio zuwede, beötige wir och die folgede Defiitio: Defiitio 3.52: Seie, 1,..., k N 0 mit k i =. Da ist ( )! = 1,..., k 1!... k! (3.33) der Multiomialkoeffiziet. Der Vollstädigkeit halber sage wir ( 1,..., k ) = 0, falls k i = oder i < 0 für ei 1 i k. Lemma 3.53: Für de Multiomialkoeffiziete gelte folgede Idetitäte ( ) ( )! = m, m m!( m)! = m ud ( ) ( ) ( ) = i 1,..., k i 1,..., i 1, i+1,..., k für alle 1 i k. (3.34) (3.35) Bezeiche u N i die Azahl der Experimete mit dem Ausgag i. Die gemeisame Wahrscheilichkeitsfuktio ist ( ) p N1,...,N k ( 1,..., k ) = η 1 1,..., 1... η k k. k Wir müsse zuerst achprüfe, dass p N1,...,N k tatsächlich eie Wahrscheilichkeitsfuktio ist. (i) p N1,...,N k ( 1,..., k ) für alle 1,..., k N 0 wege der Defiitio des Biomialkoeffiziete. (ii) Die Normiertheit ergibt sich iduktiv aus der Gleichug (3.35) durch sukzessive Berechug der Margialverteiluge. Isbesodere folgt, dass die 1-dimesioale Margialverteiluge Biomialverteiluge mit dem etsprechede Parameter η i sid. 3.6 Spezielle/Wichtige stetige Verteiluge Stetige Gleichverrteilug Die Gleichverteilug auf dem Itervall [a, b] R ist gegebe durch f (x) = 1 b a 1 [a,b](x) (3.36) 40 Versio 6. Juli 2011

41 3.6 Spezielle/Wichtige stetige Verteiluge für alle x R. Da ist f eie Dichtefuktio da (i) f (x) 0 für alle x R ud (ii) 1 b a 1 [a,b](x)dx = b a 1 1[a,b] (x)dx = b a 1 b a 1dx = 1 b a x b Die Verteilugsfuktio ergibt sich da als 0 falls x < a, F(x) = x a b a falls a x b, 1 falls b < x. a = b a 1 (b a) = 1 gilt. (3.37) Als Symbol verwede wir U(a, b) ud sage, dass eie Zufallsvariable mit dieser Verteilug auf [a, b] gleichverteilt ist. Eie auf [0, 1] gleichverteilte Zufallsvariable ee wir stadardgleichverteilt. Die stetige Gleichverteilug ist ei stetiges Aalogo der Laplace-Wahrscheilichkeit. Sei u X eie auf [a, b] gleichverteilte Zufallsvariable. Da ist EX = a+b 2, da 1 EX = x b a 1 [a,b](x)dx = 1 b x dx = 1 b a b a 1 a gilt. Für die Variaz bereche wir zuerst EX 2 = x 2 1 b a 1 [a,b](x)dx = 1 b x 2 dx = 1 b a b a 1 a ud damit die Variaz VarX = EX 2 (EX) 2 = b2 + ab + a 2 ( b + a 3 2 ) 2 2 x2 3 x3 a b = 1 a 2 b b 2 a 2 b a = b + a 2 = b3 a 3 3(b a) = b2 + ab + a 2 3 = 1 12 (4b2 + 4ab + 4a 2 3b 2 6ab 3a 2 ) = 1 12 (a2 2ab + b 2 (a b)2 ) = 12 Expoetialverteilug Die Expoetialverteilug ist das stetige Aalogo der geometrische Verteilug. Siehe Übugszettel 7 mit Aufgabe 2 bezüglich der Defiitio. Normalverteilug Die Normalverteilug mit de Parameter µ ud σ 2, wobei µ R ud σ 2 > 0 sid, wird defiiert durch die Dichte ( ) 1 f (x) = 1 x µ 2 2πσ 2 e 2 σ (3.38) Bereits zu zeige, dass f ei Dichte ist, ist icht gaz trivial ud deswege übergehe wir diese Schritt. Als Symbol verwede wir N (µ, σ 2 ). Es gilt EX = µ ud VarX = σ 2, was wir ebefalls icht achreche. Versio 6. Juli

42 3 Zufallsvariable ud Verteiluge Amerkug: Die Normalverteilug hat eie große Bedeutug, da viele Messgröße zumidest approximativ ormalverteilt sid. Eie Erklärug werde wir mit dem zetrale Grezwertsatz keelere. Amerkug: Zuerst wurde die Normalverteilug vo de Moivre defiiert als Approximatio der Biomialverteilug für große. Gauß hat die Wichtigkeit der Normalverteilug gezeigt, weshalb die Dichtefuktio auch Gaußsche Glockekurve geat wird. Die Stadardormalverteilug ist der Spezialfall mit µ = 0 ud σ 2 = 1, ihre Dichte ist ϕ(x) = 1 2π e x2 2 (3.39) ud ihre Verteilugsfuktio Φ(x), die sich icht durch elemetare Fuktioe darstelle lässt. Aus der (Achse-)Symmetrie vo ϕ bezüglich x = 0, d. h. ϕ( x) = 1 2π e ( x)2 2 = 1 2π e x2 2 = ϕ(x) folgt die Puktsymmetrie vo Φ bezüglich des Puktes (0, 1/2) ud es gilt Φ( x) = 1 Φ(x). (3.40) Stadardisierug Die Verteilugsfuktio F eier N (µ, σ 2 )-verteilte Zufallsvariable X lässt sich durch Umreche aus der Verteilugsfuktio eier Stadardormal-verteilte Zufallsvariable ausdrücke. Es gilt ( ) x µ F(x) = Φ ; (3.41) σ die Zufallsvariable Z = X µ σ ist N (0, 1)-verteilt. Additivität Satz 3.54: Seie X ud Y uabhägige Zufallsvariable, die N (µ X, σ 2 X ) resp. N (µ Y, σ 2 Y )-verteilt sid. Da ist dere Summe Z = X + Y wieder ormalverteilt, ud zwar Z N (µ X + µ Y, σ 2 X + σ2 Y ). Diese Eigeschaft wird Faltugsstabilität geat. Multivariate Normalverteilug Ei Zufallsvektor X = (X 1,..., X ) T mit der Dichte f X (x 1,..., x ) = 1 (2π) det(σ) e 1 2 (x µ)t Σ 1 (x µ) (3.42) heißt multivariat ormalverteilt mit de Parameter µ = (µ 1,..., µ ) T ud σ1 2 ρ 12 σ 1 σ 2... ρ 1 σ 1 σ ρ Σ = 12 σ 1 σ 2 σ 2 2 ρ 2 σ 2 σ....., (3.43) ρ 1 σ σ 1... ρ, 1 σ σ 1 σ 2 42 Versio 6. Juli 2011

43 3.6 Spezielle/Wichtige stetige Verteiluge wobei σ 2 1,..., σ2 die Variaze der eizele Koordiate sid ud ρ ij < 0 die Korrelatioskoeffiziete vo X i ud X j für 1 i, j ud i = j. Amerkug: (a) Die Margialverteiluge vo X 1 ud X 2 sid N (µ 1, σ 2 1 ) resp. N (µ 2, σ 2 2 ). (b) Zu beachte ist, dass X 1 ud X 2 im Allgemeie icht uabhägig sid. Dies ist de Margialverteiluge icht azusehe. (c) Gilt higege Uabhägigkeit, so ist Σ eie Diagoalmatrix. Uter der zusätzliche Bedigug σ 1 = σ 2 ist die Dichte rotatiosivariat. (d) Wie im eidimesioale Fall durch µ ud σ 2 wird im mehrdimesioale Fall die Verteilug eies ormalverteilte Zufallsvektors eideutig durch (µ 1,..., µ ) T ud Σ bestimmt. Versio 6. Juli

44 3 Zufallsvariable ud Verteiluge 44 Versio 6. Juli 2011

45 4 Abschätzuge ud Grezwertsätze Oftmals lässt sich die Wahrscheilichkeit eies bestimmte Ereigisses icht i geschlosseer Form agebe bzw. die Berechug ist sehr aufwedig. I diesem Fall helfe vielfach Ugleichuge, um Schrake für die Wahrscheilichkeit zu bestimme. 4.1 Ugleichuge Satz 4.1 (Markov-Ugleichug): Sei X eie Zufallsvariable mit E X <. Da gilt für alle reelle a > 0. ( P X a ) 1 E X (4.1) a BEWEIS Sei X diskret mit der Wahrscheilichkeitsfuktio p. Für x R mit x a gilt x a 1 ud damit P ( X a ) = p(x) x: x a x a p(x) x x: x a x a p(x) = 1 a x Sei u X stetig mit der Dichte f X. Da folgt mit aaloge Argumete zu obe P ( X a ) = 1 { x a} f X (x) dx x a f X(x) dx = 1 a x a 1 { x a} f X(x) dx x f X (x) dx x p(x) = 1 a E X. = 1 a E X. Beispiel 4.2: Betrachte de -fache Wurf mit eier faire Müze, sei X die Zufallsvariable für die Azahl der Würfe mit dem Ausgag Kopf. Da ist X Bi(, 1/2). Die mögliche Ausgäge sid X(Ω) = {0, 1,..., }. Damit ist X = X ud wir kee auch EX = /2. Die Wahrscheilichkeit, i midestes 75% der Würfe Kopf zu erziele, ist beschräkt durch P(X 3 4 EX ) 3 4 = = 2 3 wobei die Markov-Ugleichug mit a = 3 4 verwedet wurde. Versio 6. Juli

46 4 Abschätzuge ud Grezwertsätze Satz 4.3 (Tschebyschev-Ugleichug): Sei X eie Zufallsvariable mit EX 2 <. Da gilt für alle reelle a > 0. ( P X EX a ) 1 VarX (4.2) a2 BEWEIS Wir betrachte die Zufallsvariable X EX 2 ud wede auf diese die Markov-Ugleichug (4.1) a. Da ist ( P X EX a ) = P ( X EX 2 a 2) 1 ( a 2 E X EX 2) = 1 a 2 VarX. Amerkug: Die Tschebyschev-Ugleichug gibt eie eifache Abschätzug für die Wahrscheilichkeit a, dass die Zufallsvariable vom Erwartugswert abweicht. Korollar 4.4: Sei X eie Zufallsvariable mit EX 2 P(X = EX) = 1. <. Da gilt VarX = 0 geau da, we BEWEIS Falls VarX = 0 gilt, so folgt aus der Tschebyschev-Ugleichug (4.2), dass für alle ε > 0 ud damit P ( X EX ε ) = 0 1 P(X = EX) = P ( X EX > 0 ) = lim ε 0 P ( X EX ε ) = 0, woraus über das Gegeereigis P(X = EX) = 1 folgt. Adererseits ergibt sich aus P(X = EX) = 1, dass X diskret ist. Da gilt (EX) 2 = ( x P(X = x) x ) 2 = EX P(X = EX) EX P(X = EX) = (EX) 2 P(X = EX) = x 2 P(X = x) x = EX 2 wobei die Trasformatiosformel für Erwartugswerte (Satz 3.14) verwedet wurde. Nu habe wir VarX = EX 2 (EX) 2 = 0, also die Aussage. Beispiel 4.5: Wir betrachte eie Messmethode, die fehlerhafte Ergebisse liefert. Dabei sei µ R zu messe, X i der Messfehler ud Z i := µ + X i das Messergebis der i-te Messug für 1 i. Wir gehe davo aus, dass X 1,..., X uabhägig ud idetisch verteilt sid (i.i.d. Folge). Wir bereche die Azahl der erforderliche Messuge, die otwedig sid, damit das arithmetische Mittel Y := 1 Z i der zufällige Messwerte mit eier Wahrscheilichkeit vo höchstes 0, 1 um mehr als 1 vo dem ubekate Wert µ abweicht. 46 Versio 6. Juli 2011

47 4.2 Grezwertsätze (a) Wir wisse über die Verteilug der X i ur, dass EX i = 0 ud VarX i = 1. Wege der Liearität des Erwartugswertes ud der Uabhägigkeit wisse wir, dass EY = µ ud VarY = 1 ud damit folgt aus der Tschebyschev-Ugleichug (4.2) P ( Y µ > 1 ) 1, also ( P Y µ > 1 ) 0, 1, falls 1/ 0, 1 ist, d. h. 10. (b) Habe wir higege Iformatio über die Verteilug der Fehler, so köe wir diese utze. Seie hier die Messfehler X i N (0, 1). Da gilt Y N (µ, 1/) ud ormiert (Y µ) N (0, 1). Da gilt ( P Y µ 1 ) ( = P Y µ ) ( = P (Y µ) ) ( + P (Y µ) ) = Φ( ) + (1 Φ( )) = (1 Φ( )) + (1 Φ( )) = 2 (1 Φ( )), wobei wir die Puktsymmetrie der Verteilugsfuktio Φ der Normalverteilug verwedet habe. Es gilt 2 (1 Φ( )) 0, 1 Φ( ) 0, 95 1, 645 d. h. 3. Wir sehe hier, dass Verteilugsiformatio zu eier viel höhere Geauigkeit führt. Amerkug: Sowohl die Markov- als auch die Tschebyschev-Ugleichug komme ohe Verteilugsaahme aus. Das macht sie zu eiem beliebte Istrumet. Der Nachteil davo ist allerdigs, dass die Abschätzuge, die sie liefer, relativ grob sid. Sid zusätzlich Aahme über die Verteilug der Zufallsvariable X möglich, so lasse sich geauere Abschätzuge erreiche. 4.2 Grezwertsätze Grezwertsätze sid Aussage, die es us ermögliche, Aäheruge zur Berechug vo Wahrscheilichkeite zu verwede. Das ist immer da sivoll, we die exakte Berechug zu kompliziert ist. Der erkaufte Nachteil ist, dass wir eie gewisse Ugeauigkeit bekomme. Betrachte eie Bi(, η)-verteilte Zufallsvariable. Die Berechug der Biomialkoeffiziete ist icht eifach, we groß ist. Die Poisso-Approximatio wird für große Werte vo ud sehr kleie Werte vo p agewedet, also seltee Ereigisse. Satz 4.6 (Poisso-Grezwertsatz): Es sei X 1, X 2,... eie Folge vo uabhägige Zufallsvariable, wobei X Bi(, p )-verteilt ist. Falls ei λ > 0 existiert so dass p λ für, so gilt für alle k N 0 lim P(X = k) = e also bekomme wir eie Poisso-Verteilug. λ λk k! (4.3) Versio 6. Juli

48 4 Abschätzuge ud Grezwertsätze Abbildug 4.1: Reiskörer auf eiem Schachbrett zur Darstellug der Poisso-Approximatio aus dem Beispiel 4.7 (b). Amerkug: Zur Geauigkeit betrachte wir die Vergleichstabelle Verteilug Wahrscheilichkeit Bi(5, 0.3) Bi(50, 0.03) Bi(500, 0.003) Bi(5000, ) Poi(1.5) Beispiel 4.7 (Gesetz der kleie Zahle): (a) Betrachte eie Folge X 1,..., X idetisch verteilter Zufallsvariable, die voeiader uabhägig sid ud mögliche Ausgäge habe, d. h. W =, die gleichverteilt ageomme werde. Dabei iteressiere wir us dafür, eie bestimmte Ausgag k-mal zu erziele, sei Z die zugehörige Zufallsvariable, d. h. Z (k) := 1 {X i =k}. Da ist Z Bi(, 1/)-verteilt. Mit dem Satz 4.6 gilt, dass Z ugefähr Poi(1)-verteilt ist. (b) Wir beschäftige wir us mit eiem Schachbrett ud 64 Reiskörer, die wir auf das Schachbrett werfe. Dazu utersuche wir die Zufallsvariable Z 64 aus dem Teil (a), die agibt, auf wie viele Schachbrettfelder jeweils die Azahl k der Reiskörer zu liege kommt. (Siehe hierzu Bild 4.1.) k Z 64 Z 64/64 Poi(1) Versio 6. Juli 2011