Stochastik für Informatiker

Transkript

1 Stochastik für Iformatiker Dr. D. Uhlig-Düvelmeyer - SS 008 Copyright c 008 Tobias Doerffel Diese private Mitschrifte der o.g. Vorlesug erhebe weder de Aspruch auf Vollstädigkeit och auf Fehlerfreiheit. Die Verwedug der hier vorliegede Iformatioe geschieht auf eigee Gefahr! Korrekturhiweise a tobias.doerffel )at( iformatik.tu-chemitz.de werde daked etgegegeomme. Weitere Iformatioe auf doto/ Chemitz, 8. April 009

2 Ihaltsverzeichis Ihaltsverzeichis 1 Eiführug i die Wahrscheilichkeitsrechug Zufälle Ereigisse ud dere Wahrscheilichkeit Reche mit zufällige Ereigisse Relative Häufigkeite Wahrscheilichkeit Geometrische Wahrscheilichkeit Bedigte Wahrscheilichkeit Stochastische Uabhägigkeit vo Ereigisse Zufallsgröße Die Verteilugsfuktio Diskrete Zufallsgröße Stetige Zufallsgröße Erwartugswert ud Variaz Spezielle Verteiluge Das Gesetz der große Zahle ud Grezwertsätze Mehrdimesioale Verteiluge Eiführug i die mathematische Statistik 40.1 Grudbegriffe der beschreibede Statistik Grudbegriffe der beurteilede Statistik Parameterschätzug Itervallschätzuge (Bereichsschätzuge) Hauptsatz der mathematische Statistik Prüfe statistischer Hypothese (Tests) Mitschrifte vo Tobias Doerffel, SS 008

3 1. Eiführug i die Wahrscheilichkeitsrechug 1 Eiführug i die Wahrscheilichkeitsrechug Stochastik: griech. Kust des Mutmaßes Mathematik des Zufalls Ziel: Wisse über die Usicherheit zu gewie (wie verhält sich der Zufall?) Aufteilug des mathematische Gebiets: Wahrscheilichkeitsrechug: Theorie zufälliger Ereigisse, Beschreibug vo Modelle beschreibede Stochastik (deskriptive Statistik): Strukturierug ud Zusammefassug vo Date (operative Dateaalyse) beurteilede Statistik (iduktive/schließede Statistik): iduktiver Schluss ahad eier Zufallsgröße auf die zugrudeliegede Grudgesamtheit Spezialgebiete: stochastische Prozesse, Bedieugstheorie Awedugsgebiete statistische Qualitätskotrolle Versicherugswese Warteschlagetheorie Medizi Meiugsforschug Fiazmathematik 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit Ei stochastischer Vorgag heißt (ideales) Zufallsexperimet, we Folgedes gilt: das Experimet wird uter geau festgelegte Bediguge (Versuchsbediguge) durchgeführt die Mege der mögliche Ergebisse (Ausgäge) ist vor dem Experimet bekat das Experimet ka zumidest prizipiell beliebig oft wiederholt werde (uter gleiche Bediguge) Mitschrifte vo Tobias Doerffel, SS 008 3

4 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit Die Mege der mögliche Ereigisse eies ideale Zufallsexperimets heißt Ergebisraum (Ereigisraum, Grudmege, Merkmalraum) ud wird mit Ω bezeichet. Liegt ei edlicher Ergebisraum vor, schreibe wir Ω = {ω 1, ω,..., ω } Im Falle eies abzählbar-uedliche Ergebisraumes setze wir Ω = {ω j,..., j N} Es gibt auch Ergebisräume mit überabzählbar viele Elemete, z.b. Ω = [0, T ]. Beispiel: wiederholter Würfelwurf, solage bis 6 fällt. Beobachte Azahl der beötigte Würfe. Ω = {ω 1, ω,...} mit ω j = i-würfe bzw. ω i = i. Beispiel: Azahl der Arufe i eier Telefozetrale zwische 8:00 ud 9:00 Uhr. Möglichkeit 1: Ω = {ω 0, ω 1,...}, ω i = i Arufe { i 99 Möglichkeit : Ω = {ω 0, ω 1,...ω 100 } mit ω i = i = 100 abzählbar-uedlich edlich Oft iteressiert icht das kokrete Ergebis eies Zufallsexperimets, soder ur, ob der Ausgag des Experimets zu eier gewisse Mege gehört. Beispiel: Dowload-Zeit icht geau 60 Sekude, soder icht mehr als 60 Sekude. Ei zufälliges Ereigis A ist eie Teilmege des Ergebisraumes Ω. Ma sagt das Ereigis A tritt ei, we ei Ergebis ω Ω mit ω A beobachtet wird. Bemerkug: Nach der Durchführug des Experimets ka ma stets sage, ob A eigetrete ist (ω A) oder icht (ω / A). Nicht jede Teilmege vo Ω muss als zufälliges Ereigis sivoll sei (aber alle zufälle Ereigisse sid Teilmege vo Ω). Spezielle Ereigisse: A = Ω A = Ω Ω A = {ω} für ω Ω umögliches Ereigis, weil ω ie eitritt sicheres Ereigis, weil ω Ω immer eitritt Elemetarereigis 4 Mitschrifte vo Tobias Doerffel, SS 008

5 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit Die Mege aller betrachtete Ereigisse heißt Ereigissystem a (σ-algebra, Ereigisalgebra), we folgede 3 Bediguge erfüllt sid. Ω a aus A a folgt A a (Komplemetärereigis, Gegeereigis) A 1, A,... a A i a A 1, A,... a Bemerkug: A a a Ereigissystem: a ( = Ω), A, B a A B a (A B = A B, A\B a) sivolle Operatioe führe aus a icht heraus Falls Ω edlich ist, wählt ma der Eifachheit halber oft die Mege aller Teilmege vo Ω als Ereigissystem (d.h. a = P(Ω)). Da ist tatsächlich jede Teilmege vo Ω ei Ereigis. Für überabzählbare Mege ka ma jedoch wilde Teilmege vo Ω kostruiere, dee keie verüftige Wahrscheilichkeit mehr zugeordet werde ka. Deswege kozetriert ma sich auf Ereigissysteme. Ereigisse sid Mege ( Ω), so dass mit Ereigisse wie mit Mege gerechet werde ka Reche mit zufällige Ereigisse Durchschitt: A B = {ω Ω : ω A ud ω B} Vereiigug: A B = {ω Ω : ω A oder ω B} Differez vo B ud A: B\A = B A = {ω Ω, w B ud ω / A} Komplemetärereigis: A = {ω Ω : ω / A} = Ω\A (A tritt icht ei) A ud B sid uvereibar, we A B = Gleichheit: A = B A B ud B A Recheregel A B = B A, A B = B A (Kommutativgesetz) (A B) C = A (B C) = A B C, (A B) C = A (B C) = A B C) (Assoziativgesetz) A (B C) = (A B) (A C), A (B C) = (A B) (A C) (Distributivgesetz) Mitschrifte vo Tobias Doerffel, SS 008 5

6 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit A B = A B, A B = A B A i = A A i = A (Regel vo De Morga) 1.1. Relative Häufigkeite Wir betrachte ei Zufallsexperimet, das durch seie Ergebisraum Ω ud sei Ereigissystem a beschriebe ist. Sei A a ei Ereigis. Wir wiederhole das Experimet uter gleiche Bediguge mal ud otiere de Ausgag a j (=Ergebis im j-te Experimet (j = 1,..., )) ud erhalte eie -Tupel a = (a 1,..., a ) relative Häufigkeit h,a (A) = Azahl der j {1,..., } mit a j A ( Gewissheitsgrad für das Eitrete vo A) h,a (A) hägt ab vo Ereigis A Azahl kokrete Beobachtuge a = A Beispiel: Wurf eies Würfels Ω = {1,, 3, 4, 5, 6}, a = P(Ω), A = {, 4, 6}=gerade Augezahl, = 10 a 1 = 3, a = 3, a 3 =, a 4 = 5, a 5 = 4, a 6 = 1, a 7 = 6, a 8 =, a 9 = 4, a 10 = 5 a = {3, 3,, 5, 4, 1, 6,, 4, 5} h,a (A) = 5 10 = 1 Eigeschafte der relative Häufigkeit 0 h,a (A) 1 h,a (Ω) = 1, h,a ( ) = 0 h A B = h,a (A) + h,a (B) falls A B = (h,a (A B) = A+ B = A + B Wir iterpretiere h,a (A) als empirische Gewissheitsgrad für das Eitrete vo A. Bei ereuter -maliger Durchführug tritt i.a. ei aderes -Tupel b = (b 1,..., b ) ei ud es gilt h,a (A) h,b (A) Oftmals stabilisiere sich die relative Häufigkeite für wachsede Wahrscheilichkeit= Grezwert vo h,a (A) für. 6 Mitschrifte vo Tobias Doerffel, SS 008

7 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit aber: Schwierigkeite, da Kovergezbegriff icht im klassische Sie verwedbar ist. Defiitio vo Wahrscheilichkeit icht über relative Häufigkeit, soder implizit durch axiomatische Festlegug ihrer Eigeschafte Wahrscheilichkeit (Axiomesystem vo Kolgomorov (1933)) Sei Ω ei Ergebisraum ud a eie σ-algebra vo Ereigisse über Ω. Sei P (...) eie für beliebige A a defiierte reellwertige Fuktio, die folgede Axiome geügt: P (A) 0 P (Ω) = 1 ( ) P A i = } {{ } a A a P (A i ) A i a mit A i A j = (i j) Da heißt P Wahrscheilichkeitsmaß auf a ud die Zahl P (A) für A a heißt Wahrscheilichkeit des Ereigisses A. Das Tripel (Ω, a, P ) heißt Wahrscheilichkeitsraum oder Wahrscheilichkeitsmodell. Satz: Sei (Ω, a, P ) ei Wahrscheilichkeitsraum. Da gilt P ( ) = 0 P (A B) = P (A) + P (B) P (A) = 1 P (A) P (A) 1 A a aus A B folgt P (A) P (B) P (A B) = P (A) + P (B) P (A B) Beweis: A, B a mit A B = A, B a 1. Ω = Ω sowie Ω = P (Ω) = P (Ω)+P ( ) 1 = 1+P ( ) P ( ) = 0. klar 3. Ω = A A sowie A A = 1 = P (Ω) = P (A) + P (A) P (A) = 1 P (A) 4. P (A) = 1 P (A) 1 Mitschrifte vo Tobias Doerffel, SS 008 7

8 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit 5. A B B = A (B\A) mit A (B\A) = P (B) = P (A (B\A)) = P (A) + P (B\A) P (A) 6. A B = (A\B) (A B) (B\A) P (A B) = P (A\B)+P (A B)+P (B\A) ferer gilt A = (A B) (A B) = A( B) (A\B) P (A) = P (A B) + P (A\B) P (B) = P (A B) + P (B\A) P (A B) = P (A) P (A B) + P (A B) + P (B) P (A B) = P (A) + P (B) P (A B) Beispiel: Qualitätskotrolle Ω = {ω 1, ω } = {0, 1} (ω 1 = 0 = Produkt defekt, ω 1 = 1=Produkt icht defekt) a = P(Ω) = {, {0}, {1}, Ω} P muss für alle A a defiiert werde, so dass die Axiome erfüllt sid P ( ) = 0, P (Ω) = 1 muss gelte Sei P ({0}) = p 0 p 1 P (A) = 1 P (A), {0} = {1} P ({1}) = P ({0}) = 1 P ({0}) = 1 p Damit ist das Wahrscheilichkeitsmodell durch die Agabe eier Zahl p mit 0 p 1 charakterisiert. Ei Zufallsexperimet mit geau mögliche Ausgäge heißt Beroulli- Experimet. Als Ergebisraum beutzt ma Ω = {0, 1}. Das Wahrscheilichkeitsmaß wird durch P ({1}) = p mit 0 p 1 festgelegt. Der der resultierede Wahrscheilichkeitsraum (Ω, a, P ) heißt Beroulli-Modell. Ei Zufallsexperimet habe edlich viele Versuchsausgäge, d.h. Ω = {ω 1,..., ω N }, die alle gleichmöglich sid (d.h. alle Elemetarereigisse ω i habe die gleiche Wahrscheilichkeit) ( ) N wege 1 = P (Ω) = P {ω i } = P ({ω i }) = N P ({ω i }) i = 1...N P ({ω i }) = 1 N i = 1...N Da heißt der der Wahrscheilichkeitsraum (Ω, P(Ω), P ) Laplacescher Wahrscheilichkeitsraum der Ordug N, das Zufallsexperimet heißt Laplace-Experimet, das Wahrscheilichkeitsmaß P heißt Laplace-Verteilug oder diskrete Gleichverteilug auf Ω. 8 Mitschrifte vo Tobias Doerffel, SS 008

9 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit Folgerug: Sei A P(Ω) = a ei beliebiges Ereigis. Da gilt offebar P (A) = Azahl der für A güstige Elemetarereigisse Azahl aller Elemetarereigisse = Azahl j {1,..., N} mit ω j A N Bemerkug: Diese Vorgehesweise fuktioiert ur i Laplacesche Wahrscheilichkeitsräume! Sie heißt auch klassische Methode zur Bestimmug vo Wahrscheilichkeite. Beispiel: Wurf mit fairem Würfel Ω = {ω 1,..., ω 6 } mit ω i = i, P ({ω i }) = 1 6, a = P(Ω) A= Wurf eier gerade Augezahl ={ω, ω 4, ω 6 } a P (A) = 3 6 = 1 Hilfsmittel aus der Kombiatorik Zähle aller Möglichkeite, aus eier -elemetige Mege k Elemete auszuwähle: kommt es auf die Reihefolge der ausgewählte Elemte a? dürfe Elemete mehrfach ausgewählt erde? 1. Reihefolge wichtig, Wiederholug möglich: Variatio vo Elemete zur k-te Klasse mit Wiederholuge: V k = k. Reihefolge wichtig, Wiederholug icht möglich: Variatio vo Elemete zur k-te Klasse ohe Wiederholug: V k = ( 1)( )... ( (k 1)) =! ( k)! 3. Reihefolge icht wichtig, Wiederholug möglich: Kombiatio vo Elemete zur k-te Klasse mit Wiederholug ( ) C k + k 1 ( + k 1)! = = k k!( 1)! 4. Reihefolge icht wichtig, Wiederholug icht möglich: Kombiatio vo Elemete zur k-te Klasse ohe Wiederholug ( ) C k! = k!( k)! = k Mitschrifte vo Tobias Doerffel, SS 008 9

10 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit Geometrische Wahrscheilichkeit klassische Methode (Laplace-Experimet): edliche Azahl möglicher Versuchsausgäge jetzt geometrische Objekte (Kurve, Fläche, Volume) mit edlichem Ihalt beihalte aber uedlich viele Pukte, d.h. zufällig gewählter Pukt hat immer die Wahrscheilichkeit 0 Spezialfall der klassische Wahrscheilichkeit uter folgede Bediguge: Ω lässt sich als geometrisches Objekt mit edlichem Ihalt darstelle Wahrscheilichkeit für ei Ereigis A ist proportioal zur Größe dieser Teilmege Da gilt: P (A) = Ihalt vo A Ihalt vo Ω Beispiel: Stellug des Miutezeigers eier Uhr (Zeiger Läge r) klar: Ω = r π B = α 360 πr α = = 1 B=Miutezeiger zwische 10 ud 1 P (B) = B Ω = α 360 πr πr = 1 30 Beispiel: Persoe vereibare Treffe zwische 1:00 ud 13:00 Uhr. Jeder trifft uabhägig vom adere zu eiem zufällige Zeitpukt zwische 1:00 ud 13:00 Uhr ei. A=Perso, die zuerst eitrifft, muss max. 10 Miute warte P (A) = = = = 0, Bedigte Wahrscheilichkeit Verschiedee Ereigisse sid oft icht uabhägig voeiader. Die Wahrscheilichkeit ka uterschiedlich sei, je achdem, ob ei aderes Ereigis eigetrete ist oder icht. Beispiel: Skatspiel (3 Spieler, jeder je 10 Karte, Karte im Skat) A=Grü-As bei Spieler 1 P (A) = 10 3 B=Grü-As im Skat P (B) = 3 C=Spieler hat Grü-As icht (Zusatzifo) 10 Mitschrifte vo Tobias Doerffel, SS 008

11 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit P (A C) = 10, P (B C) = Wahrscheilichkeit vo Ereigis A uter Bedigug C (Zusatziformatio/Vorabiformatio) es gilt: P (A C) = P (A C) P (C) = = 10 Es sei (Ω, a, P ) ei Wahrscheilichkeitsraum ud A ud B Ereigisse (A, B a) P (A B) mit P (B) > 0. Da heißt P (A B) = die bedigte Wahrscheilichkeit P (B) des Ereigisses A uter der Bedigug B. Machmal wird P (A B) = P B (A) geschriebe. Beispiel: Zweimaliges Würfel mit idealem Würfel. A= erster Wurf 6 ={(6, 1), (6, ), (6, 3), (6, 4), (6, 5), (6, 6)} P (A) = 6 36 = 1 6 B= Augesummer beider Würfe ist 8 ={(6, ), (, 6), (5, 3), (3, 5), (4, 4)} P (B) = 5 36 A B = {(6, )} P (A B) = P (A B) P (B) = = 1 5 Satz: (Recheregel für bedigte Wahrscheilichkeit) Es sei (Ω, a, P ) ei Wahrscheilichkeitsraum ud A 1, A, B a mit P (B) > 0. Da gilt 1. P (B B) = 1 ud P ( B) = 0. A B = P (A B) = 0 3. P (A B) = 1 P (A B) 4. P (A 1 A B) = P (A 1 B) + P (A B) P (A 1 A B) 5. B A P (A B) = 1 6. A B P (A B) = P (A) P (B) ( P (A) = P (B) P (A B)) Mitschrifte vo Tobias Doerffel, SS

12 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit Bemerkug: Bedigug B bleibt immer fest, d.h. wird icht variiert Satz macht keie Aussage für sich veräderde Bediguge i.a. gilt icht: P (B A) = P (A B) P (A B) = 1 P (A B) Umstelle der Formel für bedigte Wahrscheilichkeit liefert die sogeate Multiplikatiosregel P (A B) = P (A B) P (B) = P (B A) P (A) Satz: (erweiterte Multiplikatiosregel) Sei (Ω, a, P ) ei Wahrscheilichkeitsraum ud A 1,..., A a mit P (A 1... A ) > 0. Da gilt P (A 1... A ) = P (A 1 )P (A A 1 )P (A 3 A 1 A )...P (A A 1... A 1 ) Beweis: vollstädige Iduktio Iduktiosstart: P (A 1 A ) = P (A A 1 )P (A 1 ) ( = ) Iduktiosvoraussetzug für 1, d.h. P (A 1... A 1 ) = P (A 1 )P (A A 1 )P (A 3 A 1 A )...P (A 1 A 1... A ) Iduktiosschritt: P (A 1... A ) = P (A 1... A 1 A ) = P (A A 1... A 1 )P (A 1... A 1 = P (A 1 )P (A A 1 )P (A 3 A 1 A )...P (A 1 A 1... A 1 )P (A 3 A 1... A 1 ) Sei (Ω, a, P ) ei Wahrscheilichkeitsraum. Die Ereigisse A 1,..., A a bilde vollstädiges Ereigissystem, falls A i A j = (i j) ud A i = Ω gilt. Satz: (Satz vo der totale Wahrscheilichkeit) Sei (Ω, a, P ) ei Wahrscheilichkeitsraum, A 1,..., A a ei vollstädiges Ereigissystem ud B a. Da gilt P (B) = P (B A i ) P (A i ) 1 Mitschrifte vo Tobias Doerffel, SS 008

13 Satz: (Satz vo Bayes) 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit Sei (Ω, a, P ) ei Wahrscheilichkeitsraum, A 1,...A a ei vollstädiges Ereigissystem ud B a mit P (B) > 0. Da gilt für i = 1,..., : P (A i B) = P (B A i)p (A i ) P (B) = P (B A i )P (A i ) j=1 P (B A j)p (A j ) Beispiel: Haschisch=Eistiegsdroge? aus Polizeibericht bekat: vo 300 Persoe habe 96 Haschisch geraucht, 10 ware heroiabhägig ud 6 Persoe habe Haschisch geraucht ud heroiabhägig. A 1 =Haschisch, A =kei Haschisch, B=heroiabhägig P (A 1 ) = , P (A ) = P (B A 1) = 6 96, P (B A ) = 4 04 P (A 1 B) = P (A 1 B) P (B) 6 10 = 0, 6 aber: P (B A 1 ) = 6 96 = = 0, P (B A 1 )P (A 1 ) P (B A 1 )P (A 1 ) + P (B A )P (A ) = = Beispiel: Spam-Filter Aalyse: Ateil Spam Ateil gesamt *** im Betreff = A 1 95% = P (S A 1 ) 5% = P (A 1 ) Sex im Text = A 68% = P (S A ) 13% = P (A ) weder *** im Betreff och Sex im Text=A 3 18% = P (S A 3 ) 8% = P (A 3 ) vollstädiges Ereigissystem gesucht: Wahrscheilichkeit, dass eie Spam-Mail weder *** im Betreff och Sex im Text stehe hat. P (A 3 S) = P (A 3 S) P (S) = P (S A 3) P (A 3 ) P (S) = 0, 5 P (S) = P (S A 1 )P (A 1 ) + P (S A )P (A ) + P (S A 3 )P (A 3 ) = 0, 835 Mitschrifte vo Tobias Doerffel, SS

14 1.1 Zufälle Ereigisse ud dere Wahrscheilichkeit Stochastische Uabhägigkeit vo Ereigisse Zwei Ereigisse A, B a heiße stochastisch uabhägig (bezüglich des Maßes P ), falls gilt P (A B) = P (A) P (B) Bemerkug: 1. We A ud B stochastisch uabhägig sid, so gilt P (A B) = P (A B) P (B) = P (A)P (B) P (B) = P (A) P (B A) = P (A B) P (A) = P (A)P (B) P (A) = P (B). Ma uterscheidet strikt zwische Uvereibarkeit (A B = ) ud Uabhägigkeit (P (A B) = P (A)P (B)). Satz: (Eigeschafte uabhägiger Ereigisse) Sei (Ω, a, P ) ei Wahrscheilichkeitsraum. Da gilt 1. ud Ω sid zu jedem A a uabhägig. falls A ud B uabhägig sid, so sid auch A ud B, A ud B sowie A ud B uabhägig 3. Uvereibare Ereigisse A ud B mit P (A) > 0 ud P (B) > 0 sid stets abhägig Defiitio Die zufällige Ereigisse A 1,..., A a heiße paarweise uabhägig, falls P (A i A j ) = P (A i )P (A j ) i, j i j gilt. A 1,..., A a heiße uabhägig i der Gesamtheit, falls für k ud alle i 1, i,..., i k {1,..., } gilt. P (A i1 A i... A ik ) = P (A i1 )P (A i )...P (A ik ) Bemerkug: aus der Uabhägigkeit i Gesamtheit folgt die paarweise Uabhägigkeit. Die Umkehrug gilt i.a. icht! 14 Mitschrifte vo Tobias Doerffel, SS 008

15 1. Zufallsgröße 1. Zufallsgröße Häufig sid Ergebisse vo Zufallsversuche Zahlewerte. Auch i adere Fälle möchte ma zur Charakterisierug der Ergebisse vo Zufallssituatioe Zahlewerte verwede. Dies geschieht mit Hilfe vo Zufallsgröße X, idem jedem Ergebis ω Ω eie reelle Zahl X(ω) als Wert der Zufallsgröße zugeordet wird. Defiitio Es sei (Ω, a, P ) ei Wahrscheilichkeitsraum zu eier feste Zufallssituatio. Da heißt eie Abbildug X : Ω R Zufallsgröße (oder Zufallsvariable) aber (Ω, a, P ), we für alle Itervalle I R gilt. {ω Ω X(ω) I} a Wir schreibe P (X I) für die Wahrscheilichkeit P ({ω Ω : X(ω) I}) Bemerkug: Bedigug der Messbarkeit, d.h. {ω Ω : X(ω) I} a sichert, dass die Wahrscheilichkeit für dieses Ereigis auch defiiert ist. Beispiel: Roulette-Spiel, mehrfach, betrachte ur Rot/Schwarz (Null=Grü) Ω = {(a 1, a,...) wobei a j { r, s, g }, j = 1,,..., } X(ω) = mi{j : a j = r } (X = 5 beim 5. Versuch 1 mal rot ) 1..1 Die Verteilugsfuktio Sei (Ω, a, P ) ei Wahrscheilichkeitsraum ud X eie Zufallsgröße. Die Fuktio F X (x) = P ({ω Ω : X(ω) < x}) die für alle x (, ) = R defiiert ist, heißt Verteilugsfuktio der Zufallsgröße X. Bemerkug: F X : R R P ({ω Ω : X(ω) < x} = P ({ω Ω : X(ω) (, x)}) ist wege Messbarkeitsforderug {ω Ω : X(ω) I} a immer defiiert. i Literatur auch machmal: F X (x) = P ({ω Ω : X(ω) x}) adere Eigeschafte F X (x 0 ) gibt die Wahrscheilichkeit a, dass X Werte (echt) kleier als x 0 aimmt Mitschrifte vo Tobias Doerffel, SS

16 1. Zufallsgröße Beispiel: (idealer) Würfel Ω = {ω 1,..., ω 6 } mit w i = i, i = 1...6, a = P(Ω) F X ( 3) = P (X < 3) = 0 F X () = P (X < ) = 0 F X (, 1) = P (X <, 1) = P ({ω 1 }) = 1 6 F X (4, 01) = P (X < 4, 01) = P ({ω 1, ω }) = 6 = 1 3 Satz: (Eigeschafte der Verteilugsfuktio) Sei (Ω, a, P ) ei Wahrscheilichkeitsraum ud X eie Zufallsgröße. Da gilt für a, b R (a < b) 1. P (X < b) = P ({ω Ω : X(ω) < b}) = F X (b) P (X a) = P ({ω Ω : X(ω) a}) = 1 F X (a) P (a X < b) = P ({ω Ω : a X(ω) < b}) = F X (b) F X (a). 0 F X (x) 1 x R 3. F (x 1 ) F (x ) x 1, x mit x 1 x, d.h. F ist mooto wachsed 4. lim F (x) = 0 ud lim F (x) = 1 x x 5. F ist liksseitig stetig, d.h. lim x x 0 0 F (x) = F (x 0) Satz: Eie beliebige Fuktio F (x) mit de Eigeschafte -5 (vorheriger Satz) ist eie Verteilugsfuktio eier gewisse Zufallsgröße X. Bemerkug: I viele Situatioe ist ma gar icht a der kokrete Abbildug X : Ω R iteressiert (oder diese Abbildug ist icht zugäglich oder bekat) ud ma verwedet ur die Verteilugsfuktio zur Beschreibug der Zufallsgröße bei Defiitio mit F (x) = P (X x) ist Verteilugsfuktio F rechtsseitig stetig (restliche Eigeschafte -5 bleibe) 16 Mitschrifte vo Tobias Doerffel, SS 008

17 1. Zufallsgröße 1.. Diskrete Zufallsgröße Eie Zufallsgröße X heißt diskret, we sie ur edlich oder abzählbar uedlich viele Werte aehme ka. Offebar ka eie diskrete Zufallsgröße beschriebe werde, we die Werte vo X ud die zugehörige Wahrscheilichkeite bekat sid. Sei X eie diskrete Zufallsgröße mit de Werte x 1, x, x 3,... Die Fuktio p(x) = P ({ω Ω : X(ω) = x}) = P (X = x) heißt Wahrscheilichkeitsfuktio vo X. Satz: Sei X eie diskrete Zufallsgröße mit de Werte x 1, x,... ud de etsprechede Wahrscheilichkeite p i = p(x i ) = P (X = x i ). Da gilt für die Verteilugsfuktio F (x) = P (X < x) = x i <x p i Bemerkug: Die Verteilugsfuktio eier diskrete Zufallsgröße ist eie (mooto wachsede) Treppefuktio, die a de Stelle x i Sprüge der Hohe p i = p(x i ) = P (X = x i ) aufweist. Beispiel: Ω = {ω 1, ω }, a = P(Ω) = {, {ω 1 }, {ω }, Ω}, P ({ω 1 }) = 1 = P ({ω }) Wahrscheilichkeitsfuktio: p 1 = p(x 1 ) = p(0) = P (X = 0) = 1, p = p(x ) = p(1) = P (X = 1) = 1 Verteilugsfuktio: F (x) = P (X < x) = i:x i <x x (, 0] F (x) = 0 (= P ( )) x (0, 1] F (x) = p 1 = 1 (= P ({ω 1 }) x (1, ) F (x) = p 1 + p = 1 (= P (Ω)) p i Mitschrifte vo Tobias Doerffel, SS

18 1. Zufallsgröße 1..3 Stetige Zufallsgröße Eie Zufallsgröße heißt stetig, we ihre Verteilugsfuktio stetig ist. Eie Zufallsgröße heißt (absolut) stetig, we eie itegrierbare Fuktio f(t) (t R) existiert, so dass für die Verteilugsfuktio F X (x) vo X gilt F (x) = ˆ x f(t) dt Die Fuktio f(t) heißt Dichtefuktio oder Verteilugsdichte der Zufallsgröße X. Für (absolut) stetige Zufallsgröße gilt also P (X < x) = F (x) = ˆ x f(t) dt Beispiel: Gleichverteilug a < b, a, b R fest. Die Zufallsgröße heißt gleichverteilt { auf dem Itervall (a, b), 1 t [a, b] b a we ihre Dichtefuktio f(t) mittels f(t) = gegebe ist. Da 0 sost gilt für die Verteilugsfuktio ˆ x 0 x a x a F (x) = f(t) dt = a x b b a 1 x b Satz: Die Dichtefuktio f(t) eier stetige Zufallsgröße X hat die Eigeschafte f(t) 0 ˆ f(t) dt = 1 Satz: (Umkehrug) Jede itegrierbare Fuktio f, die die Eigeschafte aus dem vorherige Satz hat, ist Dichtefuktio eier gewisse stetige Zufallsgröße. 18 Mitschrifte vo Tobias Doerffel, SS 008

19 Bemerkug: 1. Zufallsgröße Ist f(t) a der Stelle t 0 stetig, da gilt: F (t 0 ) = f(t 0 ). Allerdigs muss f(t) icht stetig sei. Für eie stetige Zufallsgröße gilt P (a X < b) = F (b) F (a) = P (X = a) = P (a X a) = ˆ b ˆ a a f(t) dt f(t) dt = 0 ˆ a f(t) dt = P (a X < b) = P (a < X < b) = P (a X b) = P (a < X b) ˆ b a f(t) dt 1..4 Erwartugswert ud Variaz Allgemei ist der Erwartugswert als Itegral (Lebesgue-Itegral) bezüglich dem Wahrscheilichkeitsmaß P defiiert. ˆ ˆ EX = X dp = X(ω)P ( dω) Ω Für diskrete ud (absolut) stetige Zufallsgröße hat der Erwartugswert folgede Form: Sei X eie diskrete Zufallsgröße mit de Werte x 1, x,... mit Wahrscheilichkeitsfuktio p (p x = p(x k ) = P (X = x k )). Da heißt Ω EX = k x k p(x k ) = k x k p k = k x k P (X = x k ) Erwartugswert der diskrete Zufallsgröße X. Der Erwartugswert ist eie edliche reelle Zahl, falls gilt x k p k < k Sei X eie (absolut) stetige Zufallsgröße mit Dichte f(x). Da heißt EX = ˆ xf(x) dx Erwartugswert der stetige Zufallsgröße X. Der Erwartugswert ist eie edlich reelle Zahl, falls ˆ x f(x) dx = Mitschrifte vo Tobias Doerffel, SS

20 1. Zufallsgröße Satz: (Eigeschafte des Erwartugswertes) Seie X ud Y Zufallsgröße (beliebig) ud c R (kostat). Da gilt: 1. Ec = c. E(cX) = cex 3. E(X + Y ) = EX + EY Beweis: (ur für diskrete Zufallsgröße) 1. c R etspricht (etartet) Zufallsgröße mit ur eiem Wert, d.h. Ec = c 1 = c. X habe Wahrscheilichkeit p, z := cx X x 1 x x 3... p(x ) p 1 p p 3... E(cX) = EZ = k Z z 1 = cx 1 z = cx z 3 = cx 3... p(z ) p 1 p p 3... z k p k = k z c p(z ) 1 x k p k = c x k p k = c EX k } {{ } =EX 3. E(X + Y ) = i = i (x i + y j )P (X = x i Y = y j ) j x i P (X = x j Y = y j ) + j j y j P (X = x i Y = y j ) i = i x i P (X = x i ) + j x j P (Y = y i ) = EX + EY Satz: Sei X eie Zufallsgröße ud g : R R eie Fuktio. Da ist Y = g(x) eie Zufallsgröße ud es gilt { k g(x k) P (X = x k ) = k g(x k) p(x k ) falls X diskrete Zufallsgröße EY = Eg(X) = g(x) f X(x) dx falls X stetige Zufallsgröße Der Erwartugswert eier Zufallsgröße gibt a, um welche Wert die Realisieruge der Zufallsgröße schwake. 0 Mitschrifte vo Tobias Doerffel, SS 008

21 1. Zufallsgröße Sei X eie Zufallsgröße mit EX <. Der Erwartugswert vo (X EX) heißt Variaz der Zufallsgröße X ud wird mit D X = E(X EX) bezeichet. Die Zahl δ = D X heißt Stadardabweichug der Zufallsgröße X. Bemerkug: aus vorherigem Satz folgt mit µ = EX ud g(x) = (X µ) { D k X = Eg(X) = (x k µ) p(x k ) = k (x k EX) p(x k ) X diskret (x µ) f X (x) dx = (x EX) f(x) dx X stetig Satz: (Eigeschafte der Variaz) Sei X eie Zufallsgröße ud c R (kostat). Da gilt 1. D X = EX (EX). D c = 0 3. D (cx) = c D X 4. D (c + X) = D (X) Bemerkug: i.a. gilt icht D (X + Y ) = D + D Y (gilt ur für uabhägige Zufallsgröße) D (X + Y ) = E(X + Y E(X + Y )) = E((X EX) + (Y EY )) = E((X EX) + (Y EY ) ) + (X EX)(Y EY )) = D XD Y + E(X EX)(Y EY ) Sei X eie Zufallsgröße. Da heißt m k = EX k, k = 1,... k-te Momete der Zufallsgröße X ud µ k = E(X EX) k, k = 1,,... k-te zetrale Momete der Zufallsgröße X. Bemerkug: µ 1 = 0 (1. zetrales Momet) m 1 = EX µ = E(X EX) = D X = EX (EX) = m m 1 um die Asymmetrie vo Verteiluge zu utersuche, verwedet ma oft γ 1 = µ 3 = E(X EX)3 ) m 3 (D X) 3 bzw. γ = β 3 (Exzess) (Maß für die Wölbug) Mitschrifte vo Tobias Doerffel, SS 008 1

22 1. Zufallsgröße Sei X eie Zufallsgröße ud p (0, 1) eie reelle Zahl. Als Quatil der Ordug p bezeichet ma die Zahl Q p mit Bemerkug: F X (Q p ) p F X (Q p + 0) X diskrete Zufallsgröße: liksseitig stetige Verteilugsfuktio i.a. Media Erwartugswert X stetige Zufallsgröße, F stetig gilt F (Q p ) = p Eie Zufallsgröße X heißt stadardisiert, falls EX = 0 ud D X = 1 gilt. Bemerkug: für D X 0 (EX <, D X < ) ist stadardi- Die Zufallsgröße Y = X EX D X siert (ormiert). EY = E ( ) X EX = D X 1 (EX EX) = 0 D X ( ) X EX D Y = D = 1 D X D X D (X EX) = 1 D X D X = 1 Satz: (Tschebyscheff-Ugleichug) Sei X eie Zufallsgröße. Da gilt P ( X EX > ε) < D X ε ε > 0 Folgerug: Für jedes k > 0 gilt P ( X EX > kσ) < D X k σ = 1 bzw. P ( X EX kσ) k 1 1 k z.b. k = 3 P (EX 3σ X EX + 3σ) = 8 9 0, 889 Mitschrifte vo Tobias Doerffel, SS 008

23 1. Zufallsgröße Iterpretatio: die Wahrscheilichkeit dafür, dass eie beliebige Zufallsgröße (mit EX <, D X < ) eie Wert aimmt, der um höchstes 3σ vo ihrem Erwartugswert abweicht, beträgt midestes 89% (allgemeie 3σ-Regel) Bemerkug: Die Tschebyscheff-Ugleichug gilt für beliebige Zufallsgröße. Es geügt EX ud D X zu kee, um die Wahrscheilichkeit der Abweichug abzuschätze. Hat ma geauere Verteilugsaussage, sid geauere Abschätzuge zu erwarte oder P ( X EX > ε) ka sogar exakt berechet werde Spezielle Verteiluge Diskrete Zufallsgröße: Biomialverteilug: -malige Wiederholug vo Beroulli-Experimet. Beroulli k-ter Versuch: X k (ω) = { 1 falls ω = ω 1 0 falls ω = ω P (X k = 1) = p, P (X k = 0) = 1 p Wir defiiere X = X k =Azahl der Erfolge bei Wiederholuge X = k k=1 Erfolg tritt geau k mal bei Versuche ei. Offebar gibt es ( ) dafür P (X = k) = p k k (1 p) k Eie Zufallsgröße X mit der Wahrscheilichkeitsfuktio ( ) P (X = k) = p k (1 p) k (k = 0, 1,..., ) k ( ) Möglichkeite k heißt biomialverteilt mit de Parameter (Freiheitsgrade) ud p (Erfolgswahrscheilichkeit oder Fehlerquote) Schreibweise: X B(, p) Mitschrifte vo Tobias Doerffel, SS 008 3

24 1. Zufallsgröße Bemerkug: wesetlich beim Beroullischem Versuchsschma sid: die Uabhägigkeit der Versuche die stets gleichbleibede (Erfolgs-)Wahrscheilichkeit p Satz: Sei X B(, p). Da gilt EX = p ud D X = p (1 p) Beispiel: Prüfug mit 10 Frage: jeweils 3-mögliche Atworte (geau eie jeweils richtig) Prüfug bestade, we midestes 5 richtige Atworte gesucht: Wahrscheilichkeit für Bestehe, we zufällig agekreuzt wird { 1 k-te Frage richtig X k = p = P (X k = 1) = sost 10 X = X k =Azahl richtiger Atworte X B(, p), = 10, p = 1 3 k=1 P (X = k) = ( ) 10 k ( ) k 1 3 ( ) k 3 P (X 5) = P (X = 5) P (X = 10) = 0, 131 Geometrische Verteilug: Beroulli-Experimet: X p (ω) = { 1 ω = ω 1 p = P (X k = 1) 0 ω = ω X = k beim k-te Versuch tritt Erfolg erstmalig ei, d.h. {X 1 = 0}... {X k 1 = 0} {X k = 1} P (X = k) = (1 p) k 1 p, k = 1,,... p k = k=1 p (1 p) k 1 = p k=1 (1 p) k 1 = p 1 (1 p) = 1 k=0 4 Mitschrifte vo Tobias Doerffel, SS 008

25 1. Zufallsgröße Eie Zufallsgröße X mit der Wahrscheilichkeit P (X = k) = (1 p) k 1 p, k = 1,,... für p (0, 1] heißt geometrisch verteilt, mit dem Parameter p. Satz: Sei X geometrisch verteilt mit p (0, 1]. Da gilt EX = 1 p ud D X = 1 p p Hypergeometrische Verteilug: Referezmodell Ure mit N Kugel, davo M schwarze, N M weiße ziehe ohe Zurücklege der Kugel X=Azahl schwarzer Kugel ( ) ( ) M N M m m P (X = m) = ( ) m = max {0, (N M)},..., mi {, M} N Eie Zufallsgröße mit obiger Wahrscheilichkeitsfuktio heißt hypergeometrisch verteilt. Schreibweise: X H(, N, M) Satz: Sei X H(, N, M). Da gilt EX = M N ud D X = M N Bemerkug: Y B(, p) EY = p, X H(, N, M) p = M N Kugel gezoge wird ( 1 M ) N N N 1. D Y = p (1 p) = Uremodell mit Zurücklege = beim 1. Ziehe Wahrscheilichkeit, dass schwarze EX = p, D X = p (1 p) N Grezfall = N D X = 0 N 1 Uterschied groß, we N, da da Faktor N sehr klei. Für N sehr N 1 groß, kaum Uterschiede zwische hypergeometrischer Verteilug ud Biomialverteilug H(, N, M) B(, p), d.h. für große N (ud etspreched N p= M N kleie ) ist eie hypergeometrisch verteilte Zufallsgröße aäherd biomialverteilt. Mitschrifte vo Tobias Doerffel, SS 008 5

26 1. Zufallsgröße Poisso-Verteilug: λ λk Eie diskrete Zufallsgröße X mit Wahrscheilichkeitsfuktio P (X = k) = e k! k = 0, 1,... heißt Poisso-verteilt mit dem Parameter λ > 0 X π(λ) Satz: Sei X π(λ). Da gilt EX = λ ud D X = λ. Bemerkug: 1. X B(, p), we groß ud p sehr klei, wird Biomialverteilug schell uhadlich. Poisso-Verteilug ist aber gute Näherug i solche Fälle (p = 1, λ = = p) Grezwertsätze N N. Poisso-Prozesse Stetige Zufallsgröße: Gleichverteilug: (siehe Beispiel im Abschitt 1..3) Eie stetige Zufallsgröße X mit Dichtefuktio { 1 x [a, b] b a f(x) = 0 x / [a, b] heißt gleicherteilt mit de Parameter a ud b. X Gl[a, b]. Satz: Für X Gl[a, b] gilt 0 x < a x a F (x) = x [a, b] b a 1 x > b EX = a + b D X = (a b) 1 6 Mitschrifte vo Tobias Doerffel, SS 008

27 1. Zufallsgröße Expoetialverteilug Eie stetige Zufallsgröße X mit der Dichtefuktio { 0 x 0 f(x) = λ e λ x x > 0 heißt expoetialverteilt mit dem Parameter λ > 0. X Exp(λ) Satz: Sei X Exp(λ). Da gilt { e λx x > 0 EX = 1 λ D X = 1 λ Ei Zufallsprozess {X t, t [0, )}, der zum Zeitpukt t zählt, wie oft ei gewisses Ereigis eigetrete ist ud obige Voraussetzug erfüllt, heißt Poisso-Prozess mit Itesität µ. Satz: Für eie Poisso-Prozess gilt: P (X t = k) = (µt)k k! e µ t k = 0, 1,... (λ = µ t) d.h. X t π(µt) (λ t = µ t) Eigeschafte: EX = µt = λ t D X t = µt = λ t Mitschrifte vo Tobias Doerffel, SS 008 7

28 1. Zufallsgröße Satz: Sei {X t, t [0, )} ei Poisso-Prozess mit Itesität µ. Die Zufallsgröße bezeiche die Zeit zwische dem Auftrete vo Ereigisse. Da ist Y expoetialverteilt, d.h. Y Exp(µ). Beweis: Sei y 0 F Y (y) = P (Y < y) = 1 P (Y y) µy (µy)0 = 1 P (X y = 0) = 1 e { 0! 1 e µy y 0 F Y (y) = 0 y < 0 = 1 e µy Beispiel: Ei Server erhält im Mittel 10 Afrage pro Stude. Er ist überlastet, we i eier Miute 5 oder mehr Afrage eitreffe. Gesucht ist die Wahrscheilichkeit, das ierhalb eier Miute der Server überlastet ist. X t =Azahl Serverafrage i t Miute Aahme 1-3 (idealerweise) erfüllt Poisso-Prozess Itesität µ bekat: EX 60 = 10 = µ t = µ 60 µ = P (X 1 5) = 1 P (X 1 < 5) = 1 (P (X 1 = 0) + P (X 1 = 1) P (X 1 = 4)) ( ) (µ 1) = 1 e µ1 0 (µ 1)1 (µ 1) ! 1! 4! = 1 7e = 0, 053 Wie groß ist die Wahrscheilichkeit, dass zwische Afrage midestes 1 Miute liegt? Y =Zeit zwische Afrage Exp() P (Y 1) = 1 P (Y < 1) = 1 F Y (1) = 1 (1 e µ1 ) = e µ = e = 0, 135 Bemerkug: Aufgrud des Zusammehags zwische Poisso-Prozess ud Expoetialverteilug sid viele zufällige Zeite, wie z.b. Wartezeite, Reparaturzeite, Lebesdauer vo (Bau)Teile expoetialverteilt. Bei Lebesdauer ist zu beachte, dass keie Spätausfälle aufgrud vo Alterserscheiuge modelliert werde köe (Grud: Aahme 1-3) 8 Mitschrifte vo Tobias Doerffel, SS 008

29 Normalverteilug 1. Zufallsgröße Eie stetige Zufallsgröße X heißt ormalverteilt (oder Gauß-verteilt) mit de Parameter µ ud σ > 0, we ihre Dichtefuktio der Gleichug f X (x) = 1 ) (x µ) exp ( πσ σ x R geügt. Schreibweise: X N(µ, σ ). Eie N(0, 1)-verteilte Zufallsgröße heißt stadardormalverteilt. Bemerkug: Für N(0, 1)-verteilte Zufallsgröße wird die Dichtefuktio häufig mit ϕ ud die Verteilugsfuktio Φ bezeichet, d.h. ϕ(x) = 1 e x π sowie Φ(x) = ˆ x ϕ(t) dt = 1 π ˆ x e t dt Satz: Sei X N(µ, σ ). Da gilt Bemerkug: EX = ˆ x 1 ) (x µ) exp ( dx = µ ud D X = σ πσ σ Die Verteilugsfuktio eier N(µ, σ )-verteilte Zufallsgröße ist durch gegebe F (x) = 1 πσ ˆ x ) (t µ) exp ( dt σ Die aalytische Berechug ) vo F (x) ist umöglich (da sich die Stammfuktio zu exp (x µ) ( dx icht durch elemetare Fuktioe aufschreibe σ lässt) umerische Berechug ud Tabellierug umerische Berechug ud Tabellierug für Φ(x) (d.h. N(0, 1)), da icht für jedes Paar (µ, σ ) möglich. Mitschrifte vo Tobias Doerffel, SS 008 9

30 1. Zufallsgröße Für X N(µ, σ ) gilt F X (x) = 1 πσ ˆ x = 1 ˆ x µ σ πσ ( ) x µ = Φ σ exp ( ( σ exp t ) dt (t µ) σ ) d t oft ist Φ(x) ur für x 0 tabelliert, da Φ(x) = 1 Φ( x) gilt Erierug: Y = X EX D X = X µ ist ormiert, d.h. EY = 0, D Y = 1 falls σ X ormalverteilt ist, so ist auch Y ormalverteilt. Satz: Sei X N(µ, σ ). Da ist Y = X µ σ N(0, 1). Bemerkug: X N(µ, σ ) ( ) ( ) b µ a µ P (a < Y < b) = F X (b) F X (a) = Φ Φ σ σ ( a µ P < X µ < b µ ) ( ) ( ) b µ a µ = Φ Φ σ σ σ σ σ Bemerkug: Als ormalverteilt köe Zufallsgröße agesehe werde, die durch Überlageruge eier große Azahl vo (uabhägige) Eiflüsse etstehe, wobei jede Eiflussgröße ur eie im Verhältis zur Gesamtsumme ubedeutede Betrag liefert. Diese Problematik werde wir später i Form des zetrale Grezwertsatzes präzisiere. Beispiele ormalverteiler Zufallsgröße sid zufällige Beobachtuge oder Messfehler zufällige Abweichuge vom Nemaß bei der Fertigug vo Werkstücke 30 Mitschrifte vo Tobias Doerffel, SS 008

31 1. Zufallsgröße Summe ormalverteilter Zufallsgröße Satz (Additiossatz) Seie X i N(µ i, σi ) für i = 1,..., vollstädig uabhägige ormalverteilte Zufallsgröße. Da gilt ( ) Z = X i N µ i, σ i Bemerkug: Zufallsgröße X ud Y heiße stochastisch uabhägig, falls P (A B) = P (A) P (B) mit A = {ω Ω : X(ω) < x} ud B = {ω Ω : Y (ω) < y} P (X < x, Y < y) = P (X < x) P (Y < y) F (X,Y ) (x, y) = F X (x) F Y (y) Beispiel: Ker eies Trasformators: 5 Bleche ud dazwische jeweils Isolierschichte (4 Stück) X i =Dicke des i-te Bleches, X i N(0, 8, 0, 04 ) Y j =Dicke der j-te Isolierschicht, Y j N(0,, 0, 03 ) gesucht: Wahrscheilichkeit, dass Bleche ud 1 Isolierschicht dicker als 1,85 mm sowie Wahrscheilichkeit, dass Ker zu dick für Spuleöffug (5,3 mm) Z = X 1 + Y 1 + X (1, 8, 0, 0041) ( Z µ P (Z > 1, 85) = P > σ = 1 Φ ) ( 1, 85 µ Z µ = P > ( ) σ σ 0, 05 = 1 Φ(0, 78) = 1 0, 7830 = 0, , 0041 ) 0, 05 0, Z = X i + Y j N(4, 8, 0, 0616) j=1 ( Z µ P (Z > 5, 3) = P > σ 5, 3 4, 8 0, 0616 ) =... = 1 Φ(, 015) = 0, 0 Mitschrifte vo Tobias Doerffel, SS

32 1.3 Das Gesetz der große Zahle ud Grezwertsätze 1.3 Das Gesetz der große Zahle ud Grezwertsätze Häufig trete Folge Zufallsgröße X 1, X,..., X ud Liearkombiatioe Y = a 1 X 1 + a X a X auf. Frage: Verteilug vo Y? Die Zufallsgröße X 1,.X,..., X heiße uabhägig ud idetisch verteilt (kurz: vom Typ i.i.d.) we sie vollstädig uabhägig sid, idetische Verteiluge aufweise sowie Erwartugswert ud Variaze existiere (edlich sid). Für X 1,..., X i.i.d gilt also: EX 1 = EX =.., = EX = µ R D X 1 = D X =... = D X = σ < arithmetische Mittel: ( ) X = 1 1 X i EX = E X i = 1 EX = µ ( ) ( D X = D 1 ) X i = 1 X i = 1 D X i = σ = σ Das Gesetz der große Zahle Satz: (Schwache Gesetze der große Zahle) Seie X 1,...X vom Typ i.i.d mit µ = EX i = EX. Da gilt ε > 0 lim P ( X µ ε ) = 1 d.h. das arithmetische Mittel X kovergiert für wachsede im Sie der Wahrscheilichkeit gege de Erwartugswert der Zufallsgröße X i. Spezialfall: relative Häufigkeit des Ereigisses A: H (A) = X mit { 1 falls A im i-te Versuch eitritt X i = 0 falls A icht im i-te Versuch eitritt wobei p = P (A) EX i = p = µ d.h. der letzte Satz besagt lim P ( H (A) p ε) = 1 3 Mitschrifte vo Tobias Doerffel, SS 008

33 Grezwertsätze Satz: (Grezwertsatz vo Moivre-Laplace) Seie X 1,..., X Zufallsgröße mit X i = 1.3 Das Gesetz der große Zahle ud Grezwertsätze { 1 A tritt im i-te Versuch ei 0 sost ud P (X i = 1) = p ud P (X i = 0) = 1 p. Da ist Y = X X B(, p) ud es gilt für die zugehörige ormierte Zufallsgröße Ỹ = Y EY = Y p D Y p(1 p) lim P (Ỹ < y) = lim F (y) = Φ(y) y R für größe ist Ỹ äherugseise N(0, 1) verteilt ud somit Y äherugsweise N(p, p(1 p)) (Schreibweise: Y N(p, p(1 p))) Bemerkug: 1. praktische Umsetzug: wa ist groß? Faustregel: p(1 p) > 9 gute Näherug p(1 p) > 4 brauchbare Näherug. Y B(, p), da Y N(p, p(1 p)), offebar P (a Y b) = P (a 1 < Y < b + 1) ( ) ( ) b p a p Φ Φ p(1 p) p(1 p) ( ) ( ) a 1 p b + 1 p Φ Φ p(1 p) p(1 p) Es zeigt sich, dass die Methode der Stetigkeitskorrektur bessere Näheruge liefert ( P (A Y b) = P a 1 < Y < b + 1 ) ( b + 1 Φ p ( a 1 ) Φ p ) p(1 p) p(1 p) Mitschrifte vo Tobias Doerffel, SS

34 1.3 Das Gesetz der große Zahle ud Grezwertsätze aalog: P (a < Y < b) = P (a+1 Y b 1) = P Φ ( b 1 p ( a + 1 ) Φ p ) p(1 p) p(1 p) Faustregel: p(1 p) = 18, 75 > 9 GWS vo Moivre-Laplace liefert gute Näherug Y N(5, 18, 75) exakt (Computer): P (15 Y 30) = 30 k=15 ( ) 100 0, 5 k 0, k = 0, 8908 k GWS ohe Stetigkeitskorrektur ( ) ( ) P (15 Y 30) Φ Φ = 0, , 75 18, 75 GWS mit Stetigkeitskorrektur P (14, 5 < Y < 30, 5) Φ ( ) ( ) 30, 5 14, 5 5 Φ = 0, , 75 18, 75 Zusammefassug Y i = X i B(, p) N(p, p(1 p)) wobei X 1,..., X i.i.d mit X i = { 1 falls A eitritt p = P (A) 0 sost Satz: (Zetraler GWS vo Lidberg/Levy) Sei X 1,..., X eie Folge vo Zufallsgröße vom Typ i.i.d mit µ = EX i R ud σ = D X i (0, ) ud X = 1 X i sowie Y = X EX = X µ σ = (X µ) D X σ 34 Mitschrifte vo Tobias Doerffel, SS 008

35 1.4 Mehrdimesioale Verteiluge ud F (y) = P (Y < y) die Verteilugsfuktio des stadardisierte arithmetische Mittels. Da gilt lim F (y) = Φ(y) y R Bemerkug: Das arithmetische Mittel eier Folge vo beliebig verteilte Zufallsgröße (i.i.d) ka i guter Näherug als ormalverteilt ageomme wede. Somit motiviert der zetrale GWS die Aahme, dass eie durch Überlagerug zahlreicher uabhägiger Eizeleiflüsse etstehede Zufallsgröße (z.b. Messfehler beim wiederholte Messe) als ormalverteilt aufgefasst werde ka Soderstellug der Normalverteilug. es gibt zahlreiche Verallgemeieruge des zetrale GWS - z.b. ka die Aahme der idetische Verteiluge falle gelasse werde, we sichergestellt ist, dass keie der Eizelgröße X 1,...X zu große Eifluss auf die Summe hat. Auch die Uabhägigkeit ka leicht abgeschwächt werde. Grezverteilugssatz vo Poisso Satz: Gegebe sei eie Folge Y B(, p ) mit p lim P (Y = k) = π λ (k) = e λ λk k! 0 ud p Zufallsgröße Y sid asymptotisch Poisso-verteilt mit Parameter λ. λ. Da gilt Bemerkug: Faustregel Grezverteilugsssatz vo Poisso liefert gute Approximatio falls p 10 ud 1500p. 1.4 Mehrdimesioale Verteiluge bisher: eidimesioale (rellwertige) Zufallsgröße, also Modellierug eies Merkmals eies beachbarte Objektes Häufig braucht ma jedoch ei Modell mit mehrere Merkmale mehrdimesioale Zufallsgröße/Zufallsvektore. Mitschrifte vo Tobias Doerffel, SS

36 1.4 Mehrdimesioale Verteiluge Seie X 1,..., X Zufallsgröße. Da heißt X = (X 1,...X ) -dimesioaler Zufallsvektor. Die Verteilugsfuktio vo X ist defiiert durch F X (x 1, x,.., x ) = P (X 1 < x 1, X < x,..., X < x ) (d.h. F X (x 1,...x ) ist die Wahrscheilichkeit, dass X 1 < x 1 ud X < x... ud X < x gelte). Im Folgede werde wir de Fall = behadel, d.h. X = (X1, X ) (oder X = (X, Y )). DIe meiste Aussage gelte da aalog für allgemeies. Für eie zufällige Vektor X = (X, Y ) heiße die Fuktioe F X (x) = lim y F X (x, y) ud F y (y) = lim x F X (x, y) Radverteiluge vo X bzw. Y. Die zugehörige Wahrscheilichkeits- bzw. Dichtefuktioe werde ebefalls mit Radverteilug bezeichet. allgemei: F Xi (x i ) lim x 1 lim x... lim x i 1 lim x i+1... lim x F X (x 1,..., x ) Satz: (Eigeschafte der Verteilugsfuktio falls = ) Sei X = (X, Y ) ei Zufallsvektor mit Verteilugsfuktio F X (x, y) = P (X < x, Y < y). Da gilt 1. 0 F (x, y) 1 x, y R. lim F (x, y) = 0 y R ud lim F (x, y) = 0 x x y R 3. F X (x) = lim F X (x, y) = P (X < x) x R ud F Y (y) = lim F Y (x, y) = y x P (Y < y) y R d.h. Radverteiluge F X ud F Y sid Verteilugsfuktioe der eidimesioale Zufallsgröße X ud Y. 4. lim F X (x, y) = 1 x y 5. F X (x, y) ist i beide Kompoete mooto wachsed: x 1 < x F (x 1, y) < F (x, y) y R, y 1 < y F (x, y 1 ) < F (x, y ) y R 6. F X (x, y) ist i beide Kompoete liksseitig stetig, d.h. lim F (x h, y) = F (x, y) = lim F (x, y h) x, h 0 h 0 y R 36 Mitschrifte vo Tobias Doerffel, SS 008

37 1.4 Mehrdimesioale Verteiluge Die Zufallsgröße X ud Y heiße stochastisch uabhägig, falls x, y R gilt: F X (x, y) = P (X < x, Y < y) = P (X < x) P (Y < y) = F X (x) F Y (y) Seie X ud Y zwei Zufallsgröße. Da heißt cov(x, Y ) = E(X EX)(Y EY ) Kovariaz der Zufallsgröße X ud Y. We cov(x, Y ) = 0 gilt, heiße Zufallsgröße X ud Y ukorreliert. Satz: Seie X ud Y Zufallsgröße mit E x <, E Y < ud D X <, D Y <. Da gilt: 1. cov(x, Y ) = cov(y, X) = E(XY ) EX EY. cov(ax + b, cy + d) = ac cov(x, Y ) a, b, c, d R kostat 3. cov(x, X) = D X 4. D (X + Y ) E(X + Y E(X + Y )) = E((X EX) + (Y EY )) = E((X EX) + (X EX)(Y EY ) + (Y EY ) ) E(X EX) + E(X EX)(Y EY ) + E(Y EY ) = D X + cov(xy ) + D Y Der Korrelatioskoeffiziet ϱ xy der Zufallsgröße X ud Y ist defiiert durch ϱ xy = cov(x, Y ) D X D Y Satz: Seie X ud Y Zufallsgröße. Da gilt für de Korrelatioskoeffiziete ϱ xy = ϱ yx ϱ xy 1 Mitschrifte vo Tobias Doerffel, SS

38 1.4 Mehrdimesioale Verteiluge Bemerkug: Der Korrelatioskoeffiziet misst, wie stark eie lieare Beziehug zwische X ud Y vorliegt. (Y = ax+b (a 0, a, b R) da gilt cov(x, Y ) = cov(x, ax+b) = a cov(x, X) = ad X, D Y = D (ax + b) = a D X ϱ xy = ad X D X a D X = ad X a D X = { +1 a > 0 1 a < 0 Satz: Sid X ud Y stochastisch uabhägig, so gilt 1. EXY = EX EY. cov(x, Y ) = 0 3. D (X + Y ) = D X + D Y 4. ϱ xy = 0 Bemerkug: X, Y uabhägig X, Y ukorreliert aber aus Ukorreliertheit folgt i.a. icht die Uabhägigkeit (das ist mehr!) da Korrelatio ur lieare Zusammehag misst (bei ormalverteilte Zufallsgröße gilt auch Umkehrug). Fall > : X = (X 1,..., X ) T Erwartugsvektor µ = EX =. µ 1 µ = EX 1. EX Kovariazmatrix K = covx = (cov(x i, X j )) = E(X EX)(X EX) T i = 1... j = 1... K ist symmetrisch K T = K ud positiv defiit ( v R gilt: v T K v = ( K v, v) 0) Ei zufälliger Vektor X = (X 1,..., X ) T heißt diskret verteilt, we alle eidimesioale Radverteiluge diskrete Verteiluge sid. 38 Mitschrifte vo Tobias Doerffel, SS 008

39 1.4 Mehrdimesioale Verteiluge Ei zufälliges X = (X 1,..., X ) heißt stetig verteilt ud mit der Verteilugsfuktio F, we es eie itegrierbare Dichtefuktio f mit gibt. für = : X = (X, Y ) Raddichte f X (x) = EX = D X = F (x 1, x,...x ) = P (X 1 < x 1, X < x,..., X < x ) ˆ ˆ cov(x, Y ) = ˆ = ˆ x1 ˆ x... ˆ x f(x, y) dy, f y (y) = xf x (x) dx = µ x, EY = (x µ x ) f x (x) dx D Y = ˆ ˆ ˆ ˆ f(t 1, t,..., t ) dt 1 dt...dt ˆ f(x, y)dx yf y (y) dy = µ y (x µ x )(y µ y )f(x, y) dxdy (y µ y ) f y (y) dy Satz: Sei X = (X, Y ) ei ormalverteilter Zufallsvektor. Da sid X ud Y geau da stochastisch uabhägig, we sie ukorreliert sid. allgemei: X = (X 1, X,..., X ) ud X i, X j paarweise ukorreliert, d.h. cov(x i, X j ) = 0 i j K = 1 σx 1 1 σx σx 1... det K 1 = K 1 = 1 1 σx σx σx 1... σx 1 σx... 1 σx = K 1 = Mitschrifte vo Tobias Doerffel, SS

40 . Eiführug i die mathematische Statistik Eiführug i die mathematische Statistik beschreibede (deskriptive) Statistik Strukturierug ud Zusammefassug (Reduktio) vo Date Bestimmug typischer Kegröße beurteilede (iduktive/schließede) Statistik Auswertug eier erhobee Stichprobe um Aufschluss über die Eigeschafte der größere Grudgesamtheit zu erhalte.1 Grudbegriffe der beschreibede Statistik Datebasis: eie statistische Utersuchug bezieht sich stets auf eie klar festgelegte Grudgesamtheit (GG) Ω (Populatio) die Mege aller mögliche (dekbare) Beobachtugseiheite. Die Elemete ω Ω et ma Merkmalsträger. Beispiel: Ω = {ω : ω ist Studet a der TU Chemitz im SS08} Gegestad statistischer Erhebuge ist i der Regel icht die GG Ω selbst, soder Eigeschafte ihrer Elemete. Eie Abbildug X : Ω R, die jedem Merkmalsträger ω Ω eie Zahl X(ω) zuordet heißt Merkmal. Die Mege X(Ω) et ma Mege der Merkmalsauspräguge. Bemerkug: Zufallsgröße sid spezielle Merkmale (Messbarkeit). I der Literatur werde die Begriffe Merkmal, Zufallsgröße ud Grudgesamtheit oft syoym verwedet. Klassifizierug vo Merkmale: Merkmal: diskretes Merkmal X(Ω) = {x 1, x,...} stetiges Merkmal X(Ω) R (überabzählbar) 40 Mitschrifte vo Tobias Doerffel, SS 008

41 Merkmal:.1 Grudbegriffe der beschreibede Statistik qualitativ: artmäßige Merkmale, z.b. Augefarbe, Religioszugehörigkeit, Familiestad quatitativ: messbar (Erfassug durch Zahle) z.b. Schuhgröße, Gewicht, Umsatz,... Auspräguge des Merkmals lasse sich i eie eideutige Ragfolge brige (orde) Bemerkug: Ma ka qualitative Merkmale durch Zahle kodiere. Trotzdem sid solche Merkmale icht als quatitativ zu sehe, da sie i keie Reihefolge gebracht werde köe! Skalierug vo Merkmale: Normialskala: keie Ordug der Auspräguge (Bsp.: mälich, weiblich ; Farbe...) ur Utersuchuge auf Gleichheit sivoll Ordial- oder Ragskala: Ragordug der Merkmalsausprägug, Abstäde zwische Merkmalsauspräguge köe icht iterpretiert werde (Bsp: Schadstoffklasse, Schulote) metrische Skala: Ragordug ud Abstäde zwische Merkmalsauspräguge sid messbar ud iterpretierbar. Itervallskala: ur Differezbildug möglich ur Vergleich vo Abstäde (da keie atürliche Eiheit, kei atürlicher Nullpukt) Verhältisskala: Quotietebildug zulässig ud somit Verhältis sivoll iterpretierbar (keie atürliche Eiheit, aber atürlicher Nullpukt) Absolutskala: zusätzlich atürliche Eiheit (d.h. sie ergibt sich zwagsläufig) Bsp: Azahl der Geschwister (empirische Stichprobe) Sei Ω eie Grudgesamtheit, X ei Merkmal ud {ω 1, ω,..., ω } Ω. Da heißt (x 1,..., x ) mit x i = X(ω i ) i = 1... (empirische) Stichprobe vom Umfag (oder Messreihe oder Date). Eie Stichprobe heißt 1. zufällig, we jedem Elemet aus der Grudgesametheit die gleiche Chace hat, i die Awedug der Stichprobe bezüglich X zu gelage. repräsetativ, we die der Stichprobe zugrudeliegede ausgewählte Elemete alle Aspekte der Grudgesamtheit bezüglich des Merkmals X repräsetiere (z.b. Wahlprogose gazes Parteiespektrum). Mitschrifte vo Tobias Doerffel, SS

42 .1 Grudbegriffe der beschreibede Statistik Bemerkug: isbesodere bilde die Realisieruge x 1...x vo Zufallsgröße vom Typ i.i.d. eie zufällige ud repräsetative Zufallsgröße vom Umfag. Ziel: Datereduktio ud Darstellug Empirische (Häufigkeits-)Verteilug diskrete Merkmale (häufig omiale oder ordiale Merkmale): Merkmal X hat mögliche Auspräguge a 1...a s absolute Häufigkeite H j = 1 {xk =a j } j = 1...s (klar: H j =, 0 H j ) k=1 relative Häufigkeite: h j = 1 H j bei stetige Merkmale ist die Azahl der beobachtete Merkmalsauspräguge sehr groß H j 1, h j 1 - deswege Klasseeiteilug mit jeweilige Repräsetate (z.b. Itervallmitte) [a 1, a ), [a, a 3 ),..., [a s, a s+1 ) j=1 H j = 1 {xk [a j,a j+1 )}, h j = 1 H j k=1 Regel zur Klasseeiteilug: 1. x mi = mi k=1... {x k}, x max = max k=1... {x k} bestimme Zahle a 1 < x mi < a <... < a s+1 (> x max ). Faustregel: 5 s 5; s (im Zweifel ugerade) 3. i.a. Klassebreite a j+1 a j kostat Histogramm: Graph der empirische Dichtefuktio wobei Histogrammfläche eier Klasse der relative Häufigkeit h j dieser Klasse etspricht Höhe eies Balkes: d j = h j a j+1 a j d j (a j+1 a j ) = h j Lagemaße: bei der Berechug vo Lagemaße vo Stichprobe muss sorgfältig auf die Art ud Messbarkeit der etsprechede Merkmale geachtet werde. Für omiale bzw. quatitative Merkmale macht die Berechug vo (arithmetische) Mittelwerte keie Si! 4 Mitschrifte vo Tobias Doerffel, SS 008

43 1. empirischer Modalwert.1 Grudbegriffe der beschreibede Statistik x mod = i Stichprobe am häufigste vorkommeder Wert (icht eideutig!) Verwedug hauptsäclich für omiale Skale, macht aber auch für adere Merkmalstype Si. (auch we Aussagegehalt machmal gerig) (bei stetige Merkmale abhägig vo Klasseeiteilug) Im Folgede betrachte wir ur och ordiale oder metrische Merkmale ud setze geordete Stichprobe voraus. x (1) x () x (3)... x (). empirischer Media x +1 x 0,5 = ( ) ) 1 x ( ) + x ( +1) ugerade gerade midestes die Hälfte aller Stichprobe-Elemete sid kleier oder gleich x 0,5 ud midestes die Hälfte aller Stichprobe-Elemete sid größer oder gleich x 0,5 Beispiele: Stichprobe: 3, 5, 7, 9, 10 x 0,5 = 7 Stichprobe: 3, 5, 7, 9, 10, 5 x 0,5 = 1 (7 + 9) = 8 3. arithmetisches Mittel x = 1 x sehr afällig gegeüber sogeate Dateausreißer. x 0,5 ist higege robust. Streuugsmaße icht für omiale Merkmale, i der Regel ur für metrische Merkmale 1. Spaweite: x (1)... x () geordete Stichprobe R = x () x (1) =Differez zwische größtem ud kleistem Beobachtugswert. empirische Variaz (mittlere quadratische Abweichug) s = 1 1 x i (x i x) 3. mittlere absolute Abweichug (mittlere lieare Abweichug) Mitschrifte vo Tobias Doerffel, SS

44 . Grudbegriffe der beurteilede Statistik d = 1 x i x icht so afällig gege Ausreißer, wird i der Praxis aber icht so häufig verwedet. 4. Variatioskoeffiziet v = s x diet dem Vergleich der Streuug er verschiedeer Stichprobe. Grudbegriffe der beurteilede Statistik Wahrscheilichkeitsrechug: mathematische Modelle zufallsbedigter Vorgäge (Ω, a, P ), X, P mathematische Statistik: Auswertug vo Ergebisse, um Rückschlüsse auf X, F X zu ziehe Stichprobe x 1,..., x Gegestad der beurteilede Statistik Wir wolle ahad vo Beobachtuge der Realisieruge eier Zufallsgröße Rückschlüsse auf die Verteilug der Zufallsgröße ziehe. Schätzverfahre: Schluss auf Parameter Testverfahre: Beurteilug aufgestellter Hypothese ahad empirisch gewoeer Date Ei Zufallsvektor X k = (X 1,..., X ), desse Kompoete uabhägige, idetisch verteilte (i.i.d.) sid, heißt (mathematische) Stichprobe vom Umfag. Eie Realisierug x 1 = (x 1,...x ) heißt kokrete Stichprobe vom Umfag. Der Wertebereich vo X heißt Stichproberaum ud wird mit X bezeichet. 44 Mitschrifte vo Tobias Doerffel, SS 008