Materialien zur Vorlesung. Stochastik. Einführung in die Wahrscheinlichkeitsrechnung und Statistik

Transkript

1 Materialien zur Vorlesung Stochastik Einführung in die Wahrscheinlichkeitsrechnung und Statistik Alexander Stoffel Institut für Nachrichtentechnik Fakultät für Informations-, Medien- und Elektrotechnik Fachhochschule Köln 4. Februar 202

2 2

3 Einleitung Dieses Skript ist nur für die Teilnehmer meiner Lehrveranstaltung konzipiert. Hierfür gilt analog, was in der Einleitung zum Analysis-Skript gesagt wurde, das braucht also nicht wiederholt zu werden. Für Hinweise auf Tippfehler und andere Unstimmigkeiten sowie für Verbesserungsvorschläge bin ich sehr dankbar. Noch eine Anmerkung zum Namen: Stochastik kommt vom griechischen Wort στóχoς, Vermutung, Kunst des Mutmaßens. Es bezeichnet das Gebiet der Wahrscheinlichkeitstheorie und der mathematischen Statistik. Diese Bezeichnungsweise ist aber eine Besonderheit des deutschen Sprachraums. Ein entsprechendes englisches Substantiv scheint zumindest außerordentlich wenig gebräuchlich zu sein, das Adjektiv stochastic wird vor allem im Zusammenhang mit den speziellen Fachausdrücken stochastic process, stochastischer Prozess und stochastic differential equation, stochastische Differentialgleichung, benutzt. Beide dieser Fachausdrücke bezeichnen aber sehr spezielle Teilgebiete der (deutschen) Stochastik. Das Thema dieses Skriptes und der zugehörigen Lehrveranstaltung wäre im englischen probability and statistics, was dem oben angegebenen Untertitel entspricht. 3

4 Hier die Literaturempfehlungen: Literatur [] Dimitri P. Bertsekas and John N. Tsitsiklis. Introduction to Probability. Athena Scientific, Belmont, Massachusetts, second edition edition, [2] Karl Bosch. Elementare Einführung in die Wahrscheinlichkeitsrechnung. Vieweg, Braunschweig, 5. Auflage, 986. [3] Karl Bosch. Elementare Einführung in die angewandte Statistik. Vieweg, Braunschweig, 4. Auflage, 987. [4] Norbert Henze. Stochastik für Einsteiger. Vieweg, Braunschweig/Wiesbaden, 997. [5] Alberto Leon-Garcia. Probability and Random Processes for Electrical Engineering. Addison-Wesley, Reading, Massachusetts, second edition, 994. [6] Lothar Papula. Mathematik für Ingenieure und Naturwissenschaftler, Band 3, Vektoranalysis, Wahrscheinlichkeitsrechnung, Mathematische Statistik, Fehler- und Ausgleichsrechnung. Vieweg, Braunschweig/Wiesbaden, 994. [7] Sheldon M. Ross. Introduction to Probality and Statistics for Engineers and Scientists. Elsevier Academic Press, Amsterdam, third edition, [8] Volker Schmidt. Wahrscheinlichkeitsrechnung. Skript, Universität Ulm, Institut für Stochastik, 07/wr/skript.pdf, [9] Hubert Weber. Einführung in die Wahrscheinlichkeitsrechnung und Statistik für Ingenieure. Teubner, Stuttgart,

5 Inhaltsverzeichnis Grundbegriffe 6. Beispiele, Zufallsexperimente, Ereignisse, Ergebnisraum Wahrscheinlichkeitsmaß, Wahrscheinlichkeitsraum Laplace-Modelle, Kombinatorik Rechenregeln für Wahrscheinlichkeiten Bedingte Wahrscheinlichkeit und Unabhängigkeit 6 2. Definitionen und wichtige Folgerungen Produktwahrscheinlichkeitsmaß Anwendungen von bedingten Wahrscheinlichkeiten Zufallsvariable Beispiele, Verteilungsfunktion, Dichtefunktion Erwartungswert und Varianz Quantil und Median Spezielle Verteilungen Binomialverteilung Poissonverteilung Normalverteilung Mehrere Zufallsvariable mit demselben Grundraum 5 5. Zwei Zufallsvariable mit demselben Grundraum Mehr als zwei Zufallsvariable auf demselben Grundraum Summen von Zufallsvariablen, Grenzwertsatz Grundbegriffe der Statistik Histogramm, Mittelwert, Stichprobenvarianz Parameterschätzungen Allgemeine Prinzipien zur Gewinnung von Schätzungen Lineare Regression Intervallschätzungen, Konfidenzintervalle Tests von Hypothesen Zufallszahlen, Simulation von Zufallsexperimenten 00 A Anhang: Mehrfachintegrale 03 A. Funktionen von 2 Variablen: Zweifachintegrale A.2 Funktionen von 3 und mehr Variablen

6 Grundbegriffe. Beispiele, Zufallsexperimente, Ereignisse, Ergebnisraum Beispiele für Zufallsexperimente: Werfen einer Münze Würfeln Ziehen der Lottozahlen Lebensdauer einer Glühbirne messen Übertragen eines Bits über eine unzuverlässige Übertragungsstrecke Ein Zufallsexperiment ist durch folgende Eigenschaften gekennzeichnet: Die Bedingungen sind genau festgelegt (Ziehen der Lottozahlen!). Das Experiment ist vom Prinzip her beliebig oft wiederholbar. Es gibt mehrere unterscheidbare Elemente der Menge der Ergebnisse des Zufallsexperiments Die Ergebnisse sind nicht vorhersagbar. Beachten Sie, dass hier gedanklich Annahmen gemacht und Näherungen vorgenommen werden, die in der Praxis in voller Strenge nicht realisiert sind! Definition.. Die Menge der Ergebnisse eines Zufallsexperiments heißt Ergebnismenge, Ergebnisraum, Ereignisraum oder Grundraum und wird hier mit Ω bezeichnet. Beispiele: Für den Würfel ist Ω = {, 2, 3, 4, 5, 6}, für das Werfen einer Münze ist Ω = {W, Z} (oder Ω = {0, }). Für die Lebensdauer einer Glühbirne ist Ω = R +. Als Ereignis möchte man zulassen, dass beispielsweise eine Zahl größer als 3 gewürfelt wurde. Man definiert also Definition..2 Ereignisse sind Teilmengen von Ω. Sie werden hier meist mit A, B, C oder D bezeichnet. A = Ω ist das sichere Ereignis, ist das unmögliche Ereignis. Elementarereignisse sind Ereignisse mit nur einem Element A = {ω} mit ω Ω. Das Ereignis, eine Zahl größer als 3 zu würfeln, ist also A = {4, 5, 6}. Zur Erinnerung: A B := {ω Ω ω A oder ω B} A B := {ω Ω ω A und ω B} A \ B := {ω Ω ω A und ω B} Beachten Sie, dass das oder bei der Bildung der Vereinigung im nicht ausschließlichen Sinn gemeint ist. Also, wenn ω A und ω B, dann ist auch ω A B. 6

7 Definition..3 Zwei Ereignisse A und B heißen disjunkt, wenn A B =. In diesem Fall wird A+B := A B geschrieben. Die Ereignisse A, A 2, A 3,... A n heißen paarweise disjunkt, wenn A i A k = für alle i k mit i, k n gilt. In diesem Fall schreibt man A k = A + A 2 + A A n := A A 2 A 3 A n = A := Ω \ A heißt Komplementärereignis, Gegenereignis oder Komplement von A. Es wird auch A c := A geschrieben. Weitere Beispiele: (a) Werfen von zwei Würfeln. Ω = {, 2, 3,... 6} {, 2, 3,... 6}. Beachten Sie, dass beim kartesischen Produkt die Elemente (i, k) und (k, i) zu unterscheiden sind, wenn i k. Das Ereignis, dass eine Eins und eine Fünf gewürfelt wurde (ohne zu unterscheiden, welcher Würfel ein Auge zeigt), ist also die Teilmenge A = {(, 5), (5, )}. n A k Abbildung : Zum Nadelexperiment von Buffon (b) Nadelexperiment von Buffon. Eine Nadel der Länge l = wird auf eine Ebene geworfen, die ein Gitter von Parallelen im Abstand d = enthält. Die Lage der Nadel soll durch den Abstand a des Mittelpunkts zur nächsten unteren Parallelen und den Winkel ϕ mit der Senkrechten zur Parallelen gekennzeichnet sein. Wir haben also 0 a < und π < ϕ π (siehe auch die Abb. ). Der Ereignisraum 2 2 ist also Ω = [0, [ ] π 2, +π 2 ] Das Ereignis Die Nadel trifft keine Parallele ist also die Teilmenge A = {(a, ϕ) Ω a > 2 cos(ϕ) und ( a) > 2 cos(ϕ)}.2 Wahrscheinlichkeitsmaß, Wahrscheinlichkeitsraum Betrachten wir als Beispiel das Ereignis A, bei einem Würfel eine Sechs zu würfeln. Wir wiederholen das Experiment sehr häufig und als n A bezeichnen wir die Zahl der Würfe mit ω A und die Gesamtzahl der Würfe nennen wir N. Dann erwarten wir im Limes 7

8 N, dass n A N. Wir werden als Bewertung des nicht exakt vorhersagbaren Ereignisses A sagen, dass die Wahrscheinlichkeit P (A) =. Wir wollen allgemeiner mit 6 6 der Wahrscheinlichkeit nicht exakt vorhersagbare Ereignisse bewerten. Es hat sich als nicht sinnvoll herausgestellt, für die Definition des Begriffes der Wahrscheinlichkeit den Grenzwert für N zu benutzen, wobei N die Gesamtzahl der Wiederholungen des Zufallsexperiments ist. Man faßt daher den Begriff allgemeiner und sieht als die Wahrscheinlichkeit eine zahlenmäßige Bewertung der nicht exakt vorhersehbaren Ereignisse an, die bestimmten Grundregeln (Axiomen) genügt. Vorher ist eine kleine technische Schwierigkeit zu klären. Bei Grundräumen, die unendlich viele Elemente enthalten und die deren Elemente auch nicht durchnumeriert werden können (beispielsweise bei Ω = R + ), kann nicht jede Teilmenge als Ereignis zugelassen werden, das wir mit einer bestimmten Wahrscheinlichkeit bewerten. In solchen Fällen können wir nur vernünftige Teilmengen als Ereignis zulassen. Wir müssen daher die ursprüngliche Definition..2 des Begriffs Ereignis geauer formulieren. Definition.2. Ereignisse sind Teilmengen des Grundraums Ω. In den Fällen, in denen nicht jede Teilmenge von Ω als Ereignis zugelassen ist, werden folgende Regeln vorausgesetzt: (a) Ω ist ein Ereignis (b) A ist ein Ereignis = A = Ω \ A ist ein Ereignis (c) Für jede Folge A, A 2, A 3, A 4... von Ereignissen ist Hinweise: ebenfalls ein Ereignis. A A 2 A 3 A 4... = (a) Für endlich viele Ereignisse A, A 2, A 3... A n ist A A 2 A 3 A n = für alle n N ein Ereignis. Dies folgt aus (c), wenn man A k = für k > n setzt. (b) Weil für alle Ereignisse A, B Ω gilt n A B = (A c B c ) c ist auch A B ein Ereignis. Entsprechendes gilt für endlich viele Ereignisse und auch für Folgen A k von Ereignissen: Der Durchschnitt ( ) c A A 2 A 3 A 4... = A k = ebenfalls ein Ereignis. A k A k A c k 8

9 Damit können wir die Grundregeln (Axiome) für die Wahrscheinlichkeit formulieren. Definition.2.2 Gegeben sei ein Grundraum Ω und als Ereignisse zugelassene Teilmengen von Ω, die die Bedingungen der Definition.2. erfüllen. Dann heißt eine Zuordnungsvorschrift, die jedem Ereignis A die reelle Zahl P (A) zuordnet, Wahrscheinlichkeitsmaß auf Ω und P (A) heißt Wahrscheinlichkeit von A, wenn folgende Grundregeln (Axiome) erfüllt sind: (a) P (A) [0, ] ( Positivität ) (b) P (Ω) = ( Normierung ) (c) Für alle Folgen A, A 2, A 3, A 4,... von paarweise disjunkten Ereignissen gilt ( ) P A k = P (A k ) ( Additivität ) Dann wird Ω mit den zugelassenen Ereignissen und dem Wahrscheinlichkeitsmaß ein Wahrscheinlichkeitsraum genannt. Hinweis: Aus der Grundregel (c) folgt, dass für paarweise disjunkte Ereignisse A, A 2, A 3,... A n (also endlich viele Ereignisse) gilt ( n ) P A k = P (A k ) (Um dies einzusehen, braucht man nur in (c) A k = für k > n zu setzen.) Beispiele: (a) Würfel, Ω = {, 2, 3,... 6}, P ({k}) = für alle k =, 2,... 6, es werden alle Teilmengen von Ω als Ereignisse zugelassen und wir 6 haben P (A) = Zahl der Elemente in A 6 (b) Triviales Beispiel: Ω = {, 2, 3,... 6}, alle Teilmengen sind als Ereignisse zugelassen. { falls 6 A P (A) := 0 falls 6 A ist ein Wahrscheinlichkeitsmaß auf Ω. (c) Ω = {g, e} Bei der Übertragung eines Bits steht g dafür, dass es richtig übertragen wird, e dafür, dass es umgekehrt wird (aus wird 0 und aus 0 wird ). Alle Teilmengen, also, {g}, {e}, Ω sind als Ereignis zugelassen. Für jede Zahl p mit 0 < p < ist 0 falls A = p P (A) := falls A = {g} p falls A = {e} falls A = Ω ein Wahrscheinlichkeitsmaß. Man hofft, dass p nahe an (z.b. p = 0, 999) ein gutes Modell für die Übertragung ist. 9

10 (d) Glücksrad. Hier ist eine Möglichkeit für den Grundraum Ω = ] π, +π] (die Winkelpositionen, die das Glücksrad nach Stillstand einnehmen kann). Es stellt sich hier heraus, dass es nicht möglich ist, alle Teilmengen dieses Intervalls als Ereignisse zuzulassen. Eine Möglichkeit ist, als Ereignisse links offene und rechts abgeschlossene Intervalle der Form ]a, b] mit π a < b +π sowie die leere Menge, Vereinigungen von Folgen derartiger Mengen sowie die Komplementmengen derartiger Mengen zuzulassen. Beachten Sie, dass man damit auch offene und abgeschlossene Intervalle als Ereignisse bekommt mit [a, b] = ]a k ε, b], ]a, b[= ]a, b k ε] und einem geeignet gewählten ε > 0. Es ist ein plausibles Modell, dass die Wahrscheinlichkeit dafür, dass das Glücksrad in der Winkelposition ϕ mit ϕ ]a, b] stehen bleibt, proportional zur Länge des Intervalls, also zu b a ist. Aus der Normierungsbedingung ergibt sich sofort P (]a, b]) = b a 2π Beachten Sie, dass die Wahrscheinlichkeit, dass das Glücksrad in einer genau festgelegten Winkelposition stehen bleibt, verschwindet, also beispielsweise P ({ π }) = 0. 6 (e) Nadelexperiment von Buffon. Hier war schon früher als Grundraum Ω = [0, [ ] π 2, +π 2 ] angegeben worden (siehe auch Abb. ). Auch hier hat man die technische Schwierigkeit, dass man nicht alle Teilmengen als Ereignisse zulassen kann. Man kann jedoch Rechtecken analog zu den Intervallen beim Glücksrad und Vereinigungen von Folgen derartiger Mengen als Ereignisse zulassen und so alle vernünftigen Teilmengen von Ω erhalten. Eine sinnvolle Wahrscheinlichkeit einer Teilmenge von Ω sollte proportional zur Fläche dieser Teilmenge sein. Wir bezeichnen mit F (A) die Fläche einer Teilmenge von Ω. Aus der Normierungsbedingung und der Gesamtfläche F (Ω) = π ergibt sich die Wahrscheinlichkeit P (A) = F (A) π Wir hatten schon früher das Ereignis Die Nadel trifft keine Parallele als die Teilmenge A = {(a, ϕ) Ω a > 2 cos(ϕ) und ( a) > 2 cos(ϕ)} charakterisiert. Eine kleine Aufgabe zum Knobeln: Wie groß ist die Wahrscheinlichkeit P (A) dieses Ereignisses? Hierzu empiehlt es sich, eine Zeichnung anzufertigen und die Randkurven der Fläche, die sich aus den beiden Bedingungen in der Definition von A ergeben, einzuzeichnen. Mit Hilfe von Symmetrieüberlegungen sieht man, dass sich die Menge A aus vier kleineren Teilmengen derselben Fläche zusammensetzen lässt. Die Fläche dieser kleineren Teilmenge ergibt sich durch eine einfache Integration, und als Ergebnis erhält man P (A) = 2 π 0

11 (f) Zufallszahlen aus dem Computer. In vielen Programmen ist es möglich, Zufallszahlen x zu berechnen mit x ]0, [. In Scilab erhält man nach Initialisierung durch den Aufruf rand( u ) bei jedem Aufruf der Form x=rand() eine Zahl in ]0, [. Dies ist strenggenommen kein Zufallsexperiment. Wenn man den Algorithmus kennt, so lässt sich jede so erzeugte Zufallszahl exakt vorhersagen (es genügt, das Quellprogramm zu kennen!). Aber für viele Zwecke kann man mit diesen Zufallszahlen Zufallsexperimente simulieren, bei denen die Wahrscheinlichkeit für das Ereignis x ]a, b[ durch P (]a, b[) = b a für 0 a < b ist. Beachten Sie, dass auch hier die Wahrscheinlichkeit, dass die Zufallszahl einen genau festgelegten Wert annimmt, verschwindet, also beispielsweise P ({ }) = Laplace-Modelle, Kombinatorik Für viele Ergebnisräume Ω mit endlich vielen Elementen ist das folgende Wahrscheinlichkeitsmaß ein sinnvolles Modell P (A) = Zahl der Elemente in A Zahl der Elemente in Ω = A Ω P heißt dann diskrete Gleichverteilung oder Laplace-Verteilung, das zugehörige Experiment Laplace-Experiment, das zugehörige Modell Laplace-Modell. Man hat jedoch sorgfältig zu überprüfen, ob die darin ausgedrückte völlige Gleichberechtigung aller Elemente des Grundraums wirklich berechtigt ist, wie das erste Beispiel zeigt. Beispiele: (a) Werfen von zwei Münzen (oder zweimaliges Werfen einer Münze). Wir bezeichnen die Ergebnismenge für eine Münze mit Ω = {W, Z} (für Wappen oder Zahl). Wir haben zwei verschiedene Varianten, das Zufallsexperiment durchzuführen, also streng genommen zwei verschiedene Zufallsexperimente mit zwei Münzen: (a) ohne Unterscheidung der beiden Münzen oder der Reihenfolge: (nach dem Mathematiker d Alembert) Ω A = {(W, W ) A, (W, Z) A, (Z, Z) A } (b) mit Unterscheidung der Münzen oder der Reihenfolge (nach dem Mathematiker Laplace) Ω L = {(W, W ), (W, Z), (Z, W ), (Z, Z)} Wenn man ohne Überlegung auf Ω A ein Laplace-Modell anwendet, dann erhält man für die Wahrscheinlichkeit, dass Wappen und Zahl geworfen wird, die falsche Wahrscheinlichkeit 3. Die Ereignisse A = {(W, Z) A} und B = {(W, W ) A } sind jedoch nicht gleichberechtigt, denn man erhält beim Vergleich der beiden Beschreibungen A = {(W, Z) A } = {(W, Z), (Z, W )}, B = {(W, W )} A = {(W, W )}

12 Also das eine Ereignis ist ein Elementarereignis bei der Beschreibung nach Laplace, das andere hat nach Laplace zwei Elemente! Die richtige Wahrscheinlichkeit, dass Wappen und Zahl geworfen wird, ist also P (A) = 2 Dies ist sinnvoll, weil es zwei Möglichkeiten für Wappen und Zahl gibt (erste Münze Wappen, zweite Münze Zahl und umgekehrt) dagegen nur eine Möglichkeit dafür, dass zweimal Wappen auftritt. Wenn man immer noch zweifelt, dann kann man in Gedanken das Experiment von zwei verschiedenen Beobachtern durchführen lassen, von denen der eine die beiden Münzen unterscheiden kann, (beispielsweise durch eine Spezialbrille) und der andere sie nicht unterscheiden kann. Der Ausgang des Zufallsexperiments sollte nicht von der Anwesenheit des Beobachters mit der Spezialbrille abhängen. Auf dem Grundraum Ω L ist also die Beschreibung durch ein Laplace- Modell sinnvoll, auf dem Grundraum Ω A ist das sinnvolle Wahrscheinlichkeitsmaß durch P {(W, W ) A }) = 4, P {(W, Z) A}) = 2, P {(Z, Z) A}) = 4 gegeben. Die Beschreibung nach Laplace mit Ω L ist jedoch einfacher! (b) Würfeln mit drei Würfeln (oder dreimaliges Würfeln). Für einen Würfel haben wir den Grundraum Ω 0 = {, 2, 3, 4, 5, 6} und damit für drei Würfel Ω = Ω 0 Ω 0 Ω 0 = {(i, k, l) i, k, l Ω 0 } Beachten Sie, dass wir das kartesische Produkt von Mengen so definiert haben, dass Tripel mit denselben Elementen und unterschiedlicher Reihenfolge als unterschiedliche Elemente anzusehen sind. Also ist hier (3, 2, ) (2, 3, ) und unser Grundraum hat insgesamt 6 3 = 26 Elemente. Nach Laplace erhält jedes Elementarereignis die Wahrscheinlichkeit P ({(i, k, l)}) = 26 Die Wahrscheinlichkeit, dreimal eine Sechs zu würfeln, ist also. Das Ereignis, 26 dass die Augenzahl, 2, 3 ohne Berücksichtigung der Reihenfolge gewürfelt wird, ist also die Teilmenge A = {(, 2, 3), (, 3, 2), (3,, 2), (2,, 3)(2, 3, )(3, 2, )} () mit 6 Elementen und der Wahrscheinlichkeit P (A) = 6 26 =. Das letzte Beispiel gibt Anlass zur Definition Definition.3. Eine Umordnung der Zahlen (, 2, 3, 4,... n) (alle Zahlen verschieden!) in eine andere Reihenfolge heißt Permutation, genauer n-permutation ohne Wiederholung. Mathematisch ist eine Umordnung eine bijektive Abbildung von {, 2, 3, 4,... n} {, 2, 3, 4,... n} Auch eine Umordnung von n verschiedenen Elementen einer Menge (z.b. n verschiedenen Buchstaben eines Alphabets) heißt Permutation. 2

13 Das letzte Beispiel legt die Frage nahe, wieviel Permutationen es gibt (in Abhängigkeit von n). In () sind alle 6 = 3 2 Permutationen für n = 3 aufgeführt. Aus einer beliebigen Permutation (i, k, l) für n = 3 erhält man für n = 4 die Permutationen (4, i, k, l), (i, 4, k, l), (i, k, 4, l), (i, k, l, 4) und man kann sich überzeugen, dass man aus allen Permutationen für n = 3 auf diese Weise alle 4 6 = 24 Permutationen für n = 4 erhält. Entsprechend erhält man aus einer beliebigen Permutation (i, k, l, m) für n = 4 die Permutationen für n = 5 (5, i, k, l, m), (i, 5, k, l, m), (i, k, 5, l, m), (i, k, l, 5, m), (i, k, l, m, 5) und man erhält auf diese Weise alle = 5! = 20 Permutationen für n = 5. Wir erhalten so das Ergebnis (genauer Beweis durch vollständige Induktion): Satz.3. Für beliebiges n N existieren genau n! verschiedene Permutationen der Zahlen (, 2, 3, n). weiteres Beispiel: (c) Lotto 6 aus 49. Die Lottozahlen werden nach dem Ziehen sortiert, die Reihenfolge beim Ziehen wird also nicht berücksichtigt. Der Grundraum ist hier Ω = {(k, k 2, k 3, k 4, k 5, k 6 ) k l 49} und dem Ereignis A, dass die Lottozahlen (i < i 2 < i 3 < i 4 < i 5 < i 6 ) betragen, entspricht also die Menge A = {(k, k 2,... k 6 ) (k, k 2,... k 6 ) ist Permutation von (i < i 2 < < i 6 )} mit 6! = 720 verschiedenen Elementen. 720 verschiedene Ziehungen führen also zu denselben Lottozahlen. Für die Ziehung der ersten Zahl k gibt es 49 Möglichkeiten, für die Ziehung von k 2 gibt es 48 Möglichkeiten, für k 3 47 Möglichkeiten. Für die Ziehung von (k, k 2, k 3, k 4, k 5, k 5, k 6 ) in der angegebenen Reihenfolge gibt es also insgesamt N R = 49 (49 ) (49 2) (49 3) (49 4) (49 5) Möglichkeiten. Legt man ein Laplace-Modell zugrunde, so ist die Wahrscheinlichkeit für die Ziehung von (k, k 2, k 3, k 4, k 5, k 5, k 6 ) in der angegebenen Reihenfolge N R. Das Ereignis A besteht aber aus 6! derartigen Elementen. Für das Ereignis Lottozahlen (i < i 2 < i 3 < i 4 < i 5 < i 6 ) erhalten wir also die Wahrscheinlichkeit P (A) = 6! 49 (49 ) (49 2) (49 3) (49 5) = Dies ist die Wahrscheinlichkeit, 6 Richtige im Lotto zu haben! 3

14 Zur Erinnerung: Die Binomialkoeffizienten ( n k) sind durch ( ) { n falls k = 0 := n! k falls k n k!(n k)! definiert. Sie haben die Eigenschaften ( ) ( ) ( ) n n n =, = = n, n n ( ) ( ) n n =, k n k ( ) n + k ( ) n = k ( ) n + Sie stehen in der n. Zeile des Pascal-Dreiecks an der k. Position von links, wenn man jeweils mit 0 anfängt zu zählen. Kürzen in der Definition liefert für k ( ) n 2 3 (n k) (n k + ) n (n k + ) (n k + 2) (n ) n = = k k! 2 3 (n k) k! n (n ) (n 2) (n k + ) = k! Wir erhalten also für die Wahrscheinlichkeit 6 Richtige beim Lotto P (A) = ( 49 6 ) und allgemeiner für die Wahrscheinlichkeit, bei der zufälligen Auswahl von k Zahlen aus den Zahlen {, 2, 3,... n} eine vorgegebene Menge A von k Zahlen zu erhalten P (A) = ( n k) k allgemeinere Permutationen: Definition.3.2 M sei eine Menge mit n Elementen, beispielsweise M = {, 2, 3,... n} und k N. Eine k-permutation aus M mit Wiederholung ist ein k-tupel (a, a 2, a 3,... a k ) mit a k M. Die Menge Ω der k-permutationen aus M mit Wiederholung ist also Ω = M k = M M M M }{{} k mal d.h. das k-fache kartesische Produkt von M. Wenn k n, dann ist eine k-permutation aus M ohne Wiederholung ein k-tupel Hinweise: (a, a 2, a 3,... a k ) mit a k M und a i a k für i k (a) Beachten Sie, dass es bei k-tupeln grundsätzlich auf die Reihenfolge der Elemente ankommt. (b) Es gibt n k k-permutationen mit Wiederholung (das k-fache kartesische Produkt einer Menge mit n Elementen hat n k Elemente). 4

15 (c) Die Zahl der möglichen k-permutationen ohne Wiederholung ist n (n ) (n 2) (n k + ) Für k = n spricht man von einer n-permutation in Übereinstimmung mit Definition.3. und Satz.3.. (d) Beim Ausmultiplizieren von (a + b) n = (a + b) (a + b) (a + b) (a + b) }{{} n Faktoren entspricht die Zahl der Summanden a n k b k der Zahl der Möglichkeiten der Ziehung von k Faktoren b aus den Klammern der gedachten Nummern, 2,... n ohne Berücksichtigung der Reihenfolge der Ziehung. Dies erklärt das Auftauchen der Binomialkoeffizienten bei Problemen der Art der Ziehung von Lottozahlen..4 Rechenregeln für Wahrscheinlichkeiten Aus den Grundregeln für die Wahrscheinlichkeit ergeben sich folgende enfache Rechenregeln: Satz.4. P sei ein Wahrscheinlichkeitsmaß über dem Grundraum Ω und A, B seien ein Ereignisse. Dann gilt (a) P ( ) = 0 (b) P (A) = P (A) (c) B A = P (A \ B) = P (A) P (B) und P (B) P (A) (d) P (A B) = P (A) + P (B) P (A B) P (A) + P (B) Beweis: (a) ergibt sich aus Ω = Ω. Anwendung der Grundregeln ergibt = P (Ω) = P (Ω) + P ( ) = + P ( ) und daraus folgt P ( ) = 0. (b) ergibt sich aus Ω = A A = A (Ω \ A). Anwendung der Grundregeln ergibt = P (A) + P (Ω \ A) und damit P (Ω \ A) = P (A) = P (A) (c): Wenn B A dann ist A = (A \ B) B. Die Mengen A \ B und B sind disjunkt, also hat man nach Grundregel (c) P (A) = P (A \ B) + P (B) und daraus ergibt sich P (A \ B) = P (A) P (B) und P (A) P (B). (d): Hierfür benutzen wir die Identität A B = (A \ (A B)) (B \ (A B)) (A B) die man sich leicht an einem Venn-Diagramm klarmachen kann. Die drei Mengen auf der rechten Seite sind disjunkt (sie sind gerade so konstruiert). Aus (A B) A folgt nach (c) P (A \ (A B)) = P (A) P ((A B), analog folgt aus (A B) B, dass P (B \ (A B)) = P (B) P ((A B). Damit erhalten wir aus der obigen Mengenidentität P (A B) = P (A \ (A B)) + P (B \ (A B)) + P (A B) = P (A) P (A B) + P (B) P (A B) + P (A B) = P (A) + P (B) P (A B) 5

16 Satz.4.2 (a) Wenn Ω aus endlich vielen Elementen besteht, also Ω = {ω, ω 2, ω 3,... ω n }, dann ist das Wahrscheinlichkeitsmaß durch die Wahrscheinlichkeiten der Elementarereignisse gegeben mit p k = P ({ω k }), 0 p k und p k = (2) erfüllen. Umgekehrt definieren beliebige Zahlen p, p 2, p 3,... p n, die (2) erfüllen, ein Wahrscheinlichkeitsmaß auf Ω. Die Wahrscheinlichkeit beliebiger Ereignisse ist durch k P ({ω i, ω i2, ω i3... ω ik }) = p il mit k n gegeben. (b) Wenn Ω = {ω, ω 2, ω 3,...} aus einer Folge unendlich vieler Elemente besteht (also die Elemente von Ω durchnummeriert werden können), dann ist das Wahrscheinlichkeitsmaß analog durch p k = P ({ω k }) gegeben mit l= 0 p k und p k = und umgekehrt definiert jede Folge p k, die diesen Bedingungen genügt, ein Wahrscheinlichkeitsmaß auf Ω. Hinweise: (a) Der Beweis ist leicht mit Hilfe der Grundregeln zu führen. (b) Man kann nachweisen, dass die reellen Zahlen und nichtleere Intervalle nicht die Eigenschaft haben, dass man ihre Elemente durchnummerieren kann! Definition.4. Wenn Ω die Voraussetzungen einer der beiden Teilaussagen des Satzes.4.2 erfüllt, dann heißt P diskretes Wahrscheinlichkeitsmaß und Ω heißt diskreter Wahrscheinlichkeitsraum. Wenn eine Menge unendlich viele Elemente hat und man die Elemente einer Menge durchnummerieren kann, dann sagt man, sie habe abzählbar (unendlich) viele Elemente. 2 Bedingte Wahrscheinlichkeit und Unabhängigkeit 2. Definitionen und wichtige Folgerungen Beispiel: In einem Nachbarraum wird mit 2 Würfeln gewürfelt und es soll erraten werden, ob das Ereignis A eingetreten ist, dass mindestens eine 6 gewürfelt wurde. Um dieses etwas zu erleichtern, wird mitgeteilt, ob das Ereignis B eingetreten ist, dass die Augensumme mindestens 8 ist, oder ob dieses nicht der Fall ist. Wir haben also eine Wahrscheinlichkeit 6

17 Abbildung 2: Zwei Würfel, Ereignis A: Mindestens eine 6 grau unterlegt, Ereignis B: Augensumme mindestens 8 eingerahmt für das Ereignis A anzugeben, unter der Zusatzinformation, dass das Ereignis B eingetreten ist. Dabei ist der ursprüngliche Grundraum Ω = Ω 0 Ω 0 mit Ω 0 = {, 2, } und A = {(i, k) Ω i = 6 oder k = 6}, B = {(i, k) Ω i + k 8} Die Idee ist, dass wir aufgrund der Zusatzinformation, das Ereignis B ist eingetreten, den Grundraum verkleinern und als neuen Grundraum B wählen können. Dieser ist in Abb. 2 eingerahmt. Das Ereignis A ist in der Abb. 2 grau unterlegt. Um die Wahrscheinlichkeit des Ereignisses A unter der Bedingung B zu bestimmen, brauchen wir jetzt nur alle Elemente aus B abzuzählen, die zu A gehören (in der Abb. alle eingerahmten und grau unterlegten Elemente, also 9) und diese durch die Gesamtzahl aller Elemente von B (aller eingerahmten, also 5) zu dividieren. Einfaches Abzählen ergibt also als die gesuchte bedingte Wahrscheinlichkeit 9 = Allgemein möchten wir, dass die bedingte Wahrscheinlichkeit von A unter der Bedingung B proportional zur ursprünglichen Wahrscheinlichkeit sein soll, wenn man sie auf B als neuem Grundraum einschränkt. Also haben wir als Ansatz für diese bedingte Wahrscheinlichkeit c P (A B). Sie soll auf B ein Wahrscheinlichkeitsmaß sein. Die Normierungsbedingung ergibt dann sofort c P (B) =, also c =. Dies motiviert die P (B) folgende Definition: Definition 2.. Sei P ein Wahrscheinlichkeitsmaß auf dem Grundraum Ω und B Ω ein Ereignis mit P (B) 0. Dann ist die bedingte Wahrscheinlichkeit von A unter der Bedingung B durch P (A B) P (A B) := P (B) definiert. Hinweise: (a) Für Elementarereignisse A = {ω} erhalten wir aus der Definition { 0 falls ω B P ({ω} B) = falls ω B P ({ω}) P (B) 7

18 Die bedingte Wahrscheinlichkeit ist in diesem Fall dann größer als die ursprüngliche, wenn P (B) < und P ({ω}) > 0. (b) Trivialerweise erhalten wir P (Ω B) =. Aus der Definition ergibt sich sofort der Multiplikationssatz: Satz 2.. Sei P ein Wahrscheinlichkeitsmaß auf dem Grundraum Ω und seien A Ω und B Ω Ereignisse mit P (A) 0 und P (B) 0. Dann gilt P (A B) = P (A B) P (B) = P (B A) P (A) Definition 2..2 Zwei Ereignisse A und B heißen (stochastisch) unabhängig, wenn P (A B) = P (A) P (B) Drei Ereignisse A, B, C heißen (stochastisch) unabhängig, wenn P (A B) = P (A) P (B), P (A C) = P (A) P (C), P (B C) = P (B) P (C) P (A B C) = P (A) P (B) P (C) Die Ereignisse A, A 2, A 3... A n heißen (stochastisch) unabhängig, wenn für alle Nummern i < i 2 < i 3 < < i k mit k n gilt P (A i A i2 A i3... A ik ) = P (A i ) P (A i2 ) P (A i3 ) P (A ik ) Hinweis: Wenn A und B unabhängig sind, dann ist P (A B) = P (A), falls P (B) 0, und P (B A) = P (B) falls P (A) 0, die bedingten Wahrscheinlichkeiten stimmen dann mit den ursprünglichen überein. Beispiel: Würfeln mit zwei Würfeln. A sei das Ereignis, dass die Augensumme ungerade ist und B sei das Ereignis, dass die Augenzahl beim. Würfel gerade ist. Eine einfache Überlegung oder Abzählen der Elemente in Abb. 2 ergibt P (A) = 2, P (B) = 2, P (A B) = 4 Die beiden Ereignisse sind also unabhängig, obwohl anschaulich ein Zusammenhang des einen Ereignisses mit dem andern besteht. 2.2 Produktwahrscheinlichkeitsmaß Führt man zwei einzelne Zufallsexperimente mit den Grundräumen Ω und Ω 2 und den Wahrscheinlichkeitsmaßen P und P 2, die sich nicht gegenseitig beeinflussen, gleichzeitig oder zeitlich nacheinander durch, so kann man dies auch als ein einziges Experiment beschreiben mit dem Grundraum Ω = Ω Ω 2 Beispielsweise wählen wir für das gleichzeitige Werfen einer Münze und eines Würfels den Grundraum Ω = {W, Z} {, 2,... 6} Als Ereignisse lässt man Teilmengen der Form A = A A 2 8

19 sowie Vereinigungen von Folgen derartiger Ereignisse sowie Komplementmengen derartiger Ereignisse zu, wobei mit A zugelassene Ereignisse in Ω und mit A 2 zugelassene Ereignisse in Ω 2 bezeichnet sind. Durch P (A) = P (A ) P 2 (A 2 ) erhält man aus den Wahrscheinlichkeitsmaßen in Ω und Ω 2 ein Wahrscheinlichkeitsmaß auf Ω, das man Produktwahrscheinlichkeitsmaß nennt. Im angegebenen Beispiel ist die Wahrscheinlichkeit, Wappen und 6 Augen zu erhalten P ({W } {6}) = P ({W }) P 2 ({6}) = 2 6 = 2 Bei dieser Beschreibung entspricht dem Ereignis: In Experiment tritt A auf ohne Berücksichtigung von Experiment 2 die Teilmente A = A Ω 2 und entsprechend gehört zum Ereignis In Experiment 2 tritt Ereignis A 2 Berücksichtigung von Experiment die Teilmenge auf ohne B = Ω A 2 Derartige Ereignisse sind in der Tat unabhängig in Bezug auf das Produktwahrscheinlichkeitsmaß, denn P (A A 2 ) = P ( (A Ω 2 ) (Ω A 2 ) ) = P (A ) P 2 (A 2 ) = P (A ) P 2 (Ω 2 ) P (Ω ) P 2 (A 2 ) Für n nacheinander oder gleichzeitig durchgeführte unabhängige Zufallsexperimente wird analog vorgegangen. Beispiel: Bereits früher wurde das Zufallsexperiment Übertragen eines Bits über einen unzuverlässigen Kanal erwähnt (siehe Beispiel (c) in Abschnitt.2) mit Ω = {g, e}und g für korrekte Übertragung, e für Übertragungsfehler und 2 < P 0({g}) < für eine akzeptable Übertragung. In der Praxis überträgt man nicht Bit sondern n Bits. Man wiederholt dieses Experiment also n mal. Ein entsprechendes Einzelexperiment (mit 2 möglichen Ausgängen) heißt Bernoulli-Experiment. Die n-fache Wiederholung eines Bernoulli-Experiments wird also durch das Produktwahrscheinlichkeitsmaß beschrieben mit Ω = {g, e} n und P (A A 2 A 3 A n ) = P 0 (A ) P 0 (A 2 ) P 0 (A 3 ) P 0 (A n ) Beispielsweise wird das Ereignis, dass nur beim 3. und 5. Bit ein Übertragungsfehler auftritt, durch A = { (g, g, e, g, e, g, g, g... g) } beschrieben, seine Wahrscheinlichkeit ist P (A) = p p ( p) p ( p) p p p p = p n 2 ( p) 2 Wenn bei einem derartigen Elementarereignis k Bits korrekt übertragen werden und bei (n k) Bits ein Fehler auftritt, dann ist seine Wahrscheinlichkeit p k ( p) n k. In der 9

20 Praxis interessiert man sich meist nicht, bei welchen Bits die Fehler auftreten. Die Frage, wieviele derartige Elementarereignisse es gibt, also wieviele Möglichkeiten es gibt, k Bits aus insgesamt n Bits auszusuchen ohne Berücksichtigung der Reihenfolge des Aussuchens entspricht demselben Problem beim Lotto: Es sind ( n k) Möglichkeiten. Wir haben also das für die Praxis wichtige Ergebnis: Die Wahrscheinlichkeit, k von n Bits fehlerfrei zu übertragen, ist P B (n, k) = ( ) ( ) n n p k ( p) n k = p k ( p) n k k n k Als Zahlenwerte erhält man für p = 0, 99 und n = 024 die Wahrscheinlichkeit für 5 Fehler 0,033, für 0 Fehler 0,25, für 5 Fehler 0,0388. Wir werden uns später genauer mit diesem Ergebnis befassen. 2.3 Anwendungen von bedingten Wahrscheinlichkeiten Bei der Einführung der bedingten Wahrscheinlichkeit P (A B) war diese in einem Beispiel berechnet worden, in dem die Wahrscheinlichkeiten P (A k ) bekannt waren. In der Praxis ist es häufig umgekehr: Man kennt bedingte Wahrscheinlichkeiten und möchte daraus die Wahrscheinlichkeiten berechnen. Hierzu benutzt man eine Zerlegung des Grundraums in disjunkte Ereignisse und den folgenden Satz: Satz 2.3. Seien A, A 2, A 3... A n Ereignisse mit n Ω = A k mit P (A k ) 0 und A i A k = für alle i, k n mit i k Dann gilt für alle Ereignisse B (a) P (B) = n P (A k ) P (B A k ) ( Formel von der totalen Wahrscheinlichkeit ) (b) Wenn P (B) 0, dann gilt für alle k =, 2, 3,... n die Formel von Bayes Beweis: (a) Die Regel P (A k B) = P (A k) P (B A k ) P (A l ) P (B A l ) l= (C D) E = (C E) (D E) kann man sich leicht an einem Venn-Diagramm klarmachen und durch eine Wahrheitstafel beweisen (siehe das. und 2. Übungsblatt zur Mathematik, Analysis). Man kann sie (Beweis durch vollständige Induktion) auf den Fall der Vereinigung von n Mengen verallgemeinern. Wir wenden sie hier an: (( n ) ( n ) P (B) = P (Ω B) = P = P = P (A k B) = P (A k ) P (B A k ) ) A k B Dabei wurde am Schluß Satz 2.. benutzt. 20 (A k B)

21 (b) Nach Satz 2.. gilt und damit P (B) P (A k B) = P (B A k ) P (A k ) P (A k B) = P (B A k) P (A k ) P (B) Ersetzt man den Nenner nach der Formel von der totalen Wahrscheinlichkeit durch die rechte Seite dieser Formel, dann erhält man die behauptete Formel von Bayes. Anwendungsbeispiele: Abbildung 3: Baumdiagramm zum Beispiel zur Formel von Bayes aus der Medizin (a) Bei vielen Krankheiten, die im Frühstadium ohne Symptome verlaufen, gibt es einen Früherkennungstest, meist durch eine Blutuntersuchung. Das hier angeführte Beispiel stammt von Gehen wir davon aus, dass die Wahrscheinlichkeit, dass eine zufällig ausgesuchte Testperson an der Krankheit leidet, P (A) = 0, 0002 ist. B bezeichne das Ereignis, dass der Test für diese Person positiv verläuft. Der Hersteller des Tests versichert, dass die Wahrscheinlichkeit, dass der Test falsch positiv ist P (B A) = 0, 0 beträgt und die Wahrscheinlichkeit, dass die Krankheit erkannt wird P (B A) = 0, 99 Wie groß ist die Wahrscheinlichkeit P (B), dass der Test positiv verläuft? Wie groß ist die Wahrscheinlichkeit, dass die Testperson erkrankt ist, wenn der Test positiv verläuft? P (B) erhält man aus der Formel von der totalen Wahrscheinlichkeit, wenn man die Zerlegung Ω = A A = A (Ω \ A) 2

22 benutzt: P (B) = P (A) P (B A) + P (A) P (B A) 0, 002 Aus der Formel von Bayes erhält man P (A B) = P (A) P (B A) P (A) P (B A) + P (A) P (B A) 0, Die Wahrscheinlichkeit, bei positivem Test tatsächlich erkrankt zu sein, ist recht klein. Man kann sich den entsprechenden Sachverhalt auch graphisch klarmachen mit Hilfe eines Baumdiagramms oder Ereignisbaumes wie in Abb. 3. Wir erhalten zunächst P (B) = P (positiv getestet) = P (krank) P (positiv getestet krank) +P (gesund) P (positiv getestet gesund) was mit der Anwendung der Formel von der totalen Wahrscheinlichkeit identisch ist. Aus der Definition bedingter Wahrscheinlichkeiten erhält man dann P (krank positiv getestet) = = P (krank positiv getestet) P (positiv getestet) 0, , 99 0, , , , , 0 In der medizinischen Praxis sollte ein entsprechender Test viel besser sein! So liefert P (B A) = 0, 000 und P (B A) = 0, 9999 bei gleichem P (A) den eher akzeptablen Wert P (A B) 0, 667. Abbildung 4: Baumdiagramm für die Übertragung über einen unsicheren Kanal (b) Übertragung über einen unsicheren Kanal, genaueres Modell (siehe auch Abb. 4). Wir haben für das Senden Ω S = {0, } und für das Empfangen Ω E = {0, }, für beides also Ω = Ω s Ω E. Das Ereignis, dass Null gesendet wird, ist also A 0 = {0} Ω E mit P (A 0 ) = r 0 und das Ereignis, dass Eins gesendet wird, ist A = {} Ω E mit P (A ) = r = r 0 22

23 denn A 0 A = und Ω = A 0 A. Als bekannt werden vorausgesetzt Weil haben wir und analog p 0 = P ( empfangen 0 gesendet) = P (Ω S {} {0} Ω E ) p = P (0 empfangen gesendet) = P (Ω S {0} {} Ω E ) (Ω S {0}) (Ω S {}) = und Ω = (Ω S {0}) (Ω S {}) p 0 = P (0 empfangen 0 gesendet) = P (Ω S {0} {0} Ω E ) p = P ( empfangen gesendet) = P (Ω S {} {} Ω E ) Das Ereignis, dass ein Übermittlungsfehler auftritt, sei Wir erwarten anschaulich B = { (0, ), (, 0) } = ({0} {}) ({} {0}) P (B A 0 ) = P (Fehler 0 gesendet) = P ( empfangen 0 gesendet) = p 0 Dies ist in der Tat richtig, denn und P (Fehler 0 gesendet) = P ({(0, ), (, 0)} {0} Ω E ) = P ( {(0, ), (, 0)} ({0} Ω E ) ) P ({0} Ω E ) P ( empfangen 0 gesendet) = P (Ω S {} {0} Ω E ) = P ( (Ω S {}) ({0} Ω E ) ) Analog erhält man P ({0} Ω E ) = P ({(0, )} P ({0} Ω E ) = P ({(0, )} P ({0} Ω E ) P (B A ) = P (Fehler gesendet) = P (0 empfangen gesendet) = p Nach der Formel für die totale Wahrscheinlichkeit erhalten wir somit P (B) = P (A 0 ) P (B A 0 ) + P (A )P (B A ) = r 0 p 0 + r p Wir bezeichnen nun mit C 0 das Ereignis, dass wir 0 empfangen, also C 0 = Ω s {0} Nach der Formel von Bayes erhält man für P ( gesendet 0 empfangen) P (A C 0 ) = = P (A ) P (C 0 A ) P (A 0 ) P (C 0 A 0 ) + P (A )P (C 0 A ) r p r 0 ( p 0 ) + r p 23

24 und für P (0 gesendet 0 empfangen) P (A 0 C 0 ) = = P (A 0 ) P (C 0 A 0 ) P (A 0 ) P (C 0 A 0 ) + P (A )P (C 0 A ) r 0 ( p 0 ) r 0 ( p 0 ) + r p Man kann die Formel von der totalen Wahrscheinlichkeit auch durch die folgende Regel über die Baumdiagramme ausdrücken, die man sich leicht anhand der Beispiele plausibel machen kann: Die totale Wahrscheinlichkeit eines Ereignisses erhält man aus dem Baumdiagramm, indem man über die Wahrscheinlichkeiten aller zu dem Ereignis führenden Pfade summiert. Die entlang der Pfade auftretenden Wahrscheinlichkeiten sind dabei zu multiplizieren. Die Formel von Bayes kann man entsprechend durch die Regel ausdrücken: Die bedingte Wahrscheinlichkeit P (A k B) erhält man aus dem Baumdiagramm, indem man die Wahrscheinlichkeit längs des Pfades über A k nach B bestimmt (durch Multiplikation der entsprechenden Wahrscheinlichkeiten) und diese dann durch die Wahrscheinlichkeit dividiert, die sich nach der Formel für die totale Wahrscheinlichkeit für P (B) nach der entsprechenden Diagrammregel ergibt. 3 Zufallsvariable 3. Beispiele, Verteilungsfunktion, Dichtefunktion Häufig interessiert man sich nicht für das ursprüngliche Zufallsexperiment, sondern für eine Funktion, die aus dem Ergebnis des Experiments berechnet wird. Beim Würfeln mit zwei Würfeln könnte dies die Augensumme beider Würfel sein. Man hat in diesem Fall den Grundraum Ω = Ω 0 Ω 0 mit Ω 0 = {, 2, 3,... 6} und die Funktion X : Ω R, (ω, ω 2 ) ω + ω 2 Man kann dann nach der Wahrscheinlichkeit fragen, dass die Augensumme kleiner oder gleich 6 ist, also das Ereignis A = {ω Ω X(ω) 6} betrachten (dieses Beispiel wird in den Übungen näher untersucht). Dies motiviert die folgende Definition: Definition 3.. Gegeben sei ein Grundraum Ω und als Ereignisse zugelassene Teilmengen von Ω, die die Bedingungen der Definition.2. erfüllen. Dann heißt eine Funktion X : Ω R, ω X(ω) Zufallsvariable oder Zufallsgröße, wenn für alle Intervalle I die Menge {ω Ω X(ω) I} 24

25 ein zugelassenes Ereignis ist. Man benutzt dann die folgenden Kurzschreibweisen {X = a} := {ω Ω X(ω) = a} {X < a} := {ω Ω X(ω) < a} und analoge Kurzschreibweisen für, > und. Hinweise: (a) Zuweilen werden allgemeinere Abbildungen mit der Definitionsmenge Ω und einer von R verschiedenen Menge als Zielmenge Zufallsvariable genannt und der Name Zufallsgröße bleibt den Abbildungen mit der Zielmenge R vorbehalten. Wir werden uns zunächst nicht mit solchen allgemeineren Abbildungen beschäftigen. (b) Um zu überprüfen, ob eine auf Ω definierte Funktion eine Zufallsvariable ist, genügt es festzustellen, dass {X b} für alle b R ein zugelassenes Ereignis ist. Denn wir können beispielsweise {a < X b} = {X a} c {X b} schreiben und durch die Vereinigung von Folgen von Intervallen mit einem Randpunkt erhält man Intervalle ohne den Randpunkt und umgekehrt erhält man durch den Durchschnitt von Intervallen ohne den Randpunkt Intervalle mit dem Randpunkt, wie das am Beispiel der Ereignisse für das Glücksrad erklärt wurde. Definition 3..2 Wenn wir R als Ereignisraum für ein Wahrscheinlichkeitsmaß ansehen, dann vereinbaren wir, dass zunächst alle Intervalle und dann alle Teilmengen, die aus bereits zugelassenen Ereignissen mit den in Definition.2. aufgeführten Operationen konstruiert werden können, als Ereignisse zugelassen sind. Also alle Teilmengen, die sich wie in Definition.2. angegeben mit Vereinigungen von Folgen von Teilmengen und Bildung des Komplements aus Intervallen konstruieren lassen, sind in R als Ereignisse zugelassen. Für in Ω definierte Zufallsvariable X und als Ereignisse zugelassene Teilmengen A R vereinbaren wir die allgemeine Schreibabkürzung {X A} := {ω Ω X(ω) A} Hinweis: Weil {a} = [a, a] [a, a + ], sind damit auch Teilmengen mit nur einem Element zugelassen; solche Ereignisse sind die Elementarereignisse in R. Die Definitionen 3.. und 3..2 erlauben es nun, mit jeder Zufallsvariable ein Wahrscheinlichkeitsmaß in R einzuführen: Satz 3.. Sei Ω ein Grundraum mit einem Wahrscheinlichkeitsmaß P und einer in Ω definierten Zufallsvariable X. Dann wird durch P X (A) := P ( {ω Ω X(ω) A} ) = P ( {X A} ) für beliebige als Ereignisse zugelassenen Teilmengen A von R ein Wahrscheinlichkeitsmaß in R definiert. Dieses Wahrscheinlichkeitsmaß wird auch Verteilung oder Wahrscheinlichkeitsverteilung von X genannt. 25

26 Hinweise: (a) Beachten Sie, dass speziell für Intervalle A =]a, b] gilt P X ( ]a, b]) = P ({a < X b} ) = P ( {ω Ω a < X(ω) b} ) (b) Der Beweis ist leicht aufgrund der Definitionen zu führen, wenn man beachtet, dass für beliebige Ereignisse A, B R gilt Beispiele {X A c } = {X A} c und {X A B} = {X A} {X B} (a) Für einen Würfel mit dem Grundraum Ω = {, 2, } haben wir die triviale Zufallsvariable Ω R, ω ω. Wir erhalten das Wahrscheinlichkeitsmaß in R, das P X (A) = A Ω 6 für alle als Ereignis zugelassene Mengen A R erfüllt. Dabei bezeichnet A Ω die Zahl der in A Ω enthaltenen Elemente. (b) Für das Würfeln mit zwei Würfeln und die Augensumme als Zufallsvariable X erhalten wir das Wahrscheinlichkeitsmaß P X (A) = {(ω, ω 2 ) ω + ω 2 A} wobei auch hier M die Zahl der Elemente der Menge M bezeichnet. Weitere Einzelheiten dieses Beispiels werden in einer Übungsaufgabe behandelt. (c) Für das Glücksrad haben wir die triviale Zufallsvariable X : Ω = ] π, +π] R, ω ω und das Wahrscheinlichkeitsmaß P X (I) = 2π l( I ] π, +π] ) für alle Intervalle I R, wobei l(k) die Länge des Intervalls K bezeichnet. Ein Wahrscheinlichkeitsmaß auf R ist bereits dadurch gegeben, dass wir den Wert für Intervalle kennen, denn für Ereignisse, die aus Intervallen konstruiert sind, können wir die Wahrscheinlichkeit nach den Rechenregeln aus Definition.2.2 und Satz.4. berechnen. (d) Übertragung von n Bits über einen unzuverlässigen Kanal. Hier ist Ω = {g, e} n und wir betrachten bei festgehaltenem n die Gesamtzahl der Einzelereignisse g der fehlerfreien Übertragung in ω als Zufallsvariable X(Ω), also X(ω) = { k n ω k = g} Wir haben bereits früher die Wahrscheinlichkeit (bei festgehaltenem n) P ( {X = k} ) ( ) ( ) n n = p k ( p) n k = p k ( p) n k (3) k n k berechnet. Wir werden uns später genauer mit diesem Beispiel beschäftigen. 26

27 Für die Behandlung von Zufallsvariablen ist die folgende Definition von entscheidender Bedeutung: Definition 3..3 Sei X eine auf dem Grundraum Ω definierte Zufallsvariable. Dann heißt die Funktion F X : R R, die durch F X (t) := P ( {X t} ) = P ( {ω Ω X(ω) t} ) definiert ist, Verteilungsfunktion von X. Beispiele: Abbildung 5: Verteilungsfunktion für einen Würfel (a) Für die triviale Zufallsvariable bei einem Würfel erhalten wir die Verteilungsfunktion 0 falls t < falls t < F X (t) = falls 2 t < falls 5 t < 6 6 falls 6 t Diese Verteilungsfunktion ist in Abb. 5 grafisch dargestellt. (b) Für das Glücksrad erhalten wir die Verteilungsfunktion 0 falls t < π F X (t) = (t + π) falls π t < π 2π falls t π Diese ist in Abb. 6 gezeigt. 27

28 Abbildung 6: Verteilungsfunktion für das Glücksrad Folgende allgemeine Eigenschaften von Verteilungsfunktionen sind wichtig: Satz 3..2 Sei X eine Zufallsvariable und F X ihre Verteilungsfunktion. Dann gilt (a) F X ist monoton wachsend. (b) (c) lim F X(t) = 0, t lim F X(t) =. t + lim F X (t) = F X (a) für alle a R (also F X ist rechtsseitig stetig). t a+ (d) Für alle a < b gilt P ( {a < X b} ) = P ( {ω Ω a < X(ω) b} ) = F X (b) F X (a) (e) Für alle a R gilt P ( {X = a} ) = P ( {ω Ω X(ω) = a} ) = F X (a) lim t a F X (t) Hinweise zum Beweis: (a) und (b) folgen unmittelbar aus der Definition, für den Beweis von (c) und (e) muß man die Grundregel der Additivität für Folgen von disjunkten Ereignissen ausnutzen. (d) ergibt sich aus {X b} = {X a} {a < X b} und {X a} {a < X b} = 28

29 also P ( {X b} ) = P ( {X a} ) + P ( {a < X b} ) wegen der Grundregel der Additivität. Damit hat man F X (b) = F X (a) + P ( {a < X b} ) Das durch die Zufallsvariable X definierte Wahrscheinlichkeitsmaß ist durch die Verteilungsfunktion F X eindeutig bestimmt. Dies folgt unmittelbar aus Teilaussage (d). Wir haben sogar den Satz: Satz 3..3 Sei F : R R eine Funktion, die die folgenden Bedingungen erfüllt: (a) F ist monoton wachsend (b) (c) lim F (t) = 0, lim t F (t) = t + lim F (t) = F (a) für alle a R t a+ Dann gilt: Durch P (]a, b]) := F (b) F (a) wird ein Wahrscheinlichkeitsmaß auf Ω = R definiert, das für alle a R erfüllt. P ( {a} ) = F X (a) lim t a F X (t) Der Beweis ist elementar, man hat für kompliziertere Ereignisse A R die Wahrscheinlichkeit P (A) gemäß den Rechenregeln aus Definition.2.2 und Satz.4. zu definieren. Abbildung 7: Verteilungsfunktion für die Lebensdauer eines elektronischen Bauelements Beispiel: Für die Lebensdauer eines elektronischen Bauteils erhalten wir mit einer vom Bauteil abhängigen Zeitkonstante τ > 0 ein sinnvolles Wahrscheinlichkeitsmaß durch die Verteilungsfunktion { 0 falls t < 0 F T (t) = e t τ falls t 0 Diese ist in Abb. 7 gezeigt. Die Wahrscheinlichkeit, dass die Lebensdauer T (die wir als Zufallsvariable auffassen können) im Intervall [a, b] liegt, ist also P ( {T [a, b]} ) = F (b) F (a) = e a τ e b τ 29

30 Da F stetig ist, haben wir hier P ( {T [a, b]} ) = P ( {T ]a, b]} ) = P ( {T ]a, b[} ) für alle a < b und P ( {T = a} ) = 0 für alle a R. Für Zufallsvariable, die auf diskreten Wahrscheinlichkeitsräumen definiert sind, die den Voraussetzungen einer der beiden Teilaussagen von Satz.4.2 genügen, haben wir das Ergebnis: Satz 3..4 (a) Sei Ω = {ω, ω 2, ω 3,... ω n }, und das Wahrscheinlichkeitsmaß sei durch p k = P ({ω k }), mit 0 p k und p k = gegeben und X sei eine auf Ω definierte Zufallsvariable. Dann erfüllt die Verteilungsfunktion F X (t) = k =,... n X(ω k ) t Sie besitzt an den Funktionswerten von X, also für t = X(ω k ) Sprungstellen und ist dort rechtsseitig stetig; die Differenz zwischen dem rechts- und dem linksseitigen Grenzwert ist p k. Zwischen diesen Sprungstellen ist F X (t) konstant. (b) Sei Ω = {ω, ω 2, ω 3,...} (also eine Folge unendlich vieler Elemente) und sei das Wahrscheinlichkeitsmaß durch p k = P ({ω k }) gegeben mit p k 0 p k und p k = und sei X eine auf Ω definierte Zufallsvariable. Dann erfüllt die Verteilungsfunktion F X (t) = k N X(ω k ) t und sie hat dieselben Eigenschaften wie in Teilaussage (a) mit dem Unterschied, dass hier eine Folge unendlich vieler Sprungstellen in t = X(ω k ) vorliegt. Definition 3..4 Wir nennen eine Zufallsvariable X eine diskrete Zufallsvariable, wenn die Menge der möglichen Werte {X(ω) ω Ω} nur aus endlich vielen Elementen besteht oder durchnummeriert werden kann (aus einer Folge von Elementen besteht, also abzählbar unendlich viele Elemente hat). Hinweise: (a) Beachten Sie, dass die Elemente eines reellen Intervalls [a, b] mit a < b nicht durchnummeriert werden können! (b) Wenn X eine diskrete Zufallsvariable ist, dann wissen wir nicht, ob der Grundraum Ω endlich viele oder abzählbar unendlich viele Elemente besitzt. Wir haben dennoch eine Situation, die analog zu der des Satzes.4.2 ist. Wir können die Menge der p k 30

31 möglichen Funktionswerte durchnummerieren und bezeichnen diese mit x k (k läuft von bis n oder durchläuft ganz N). Wir definieren dann die Zahlen p k := P ( {X = x k } ) = P ( {ω Ω X(ω) = x k } ) = P X (x k ) Weil Ω = {ω Ω X(ω) = x k }, haben wir = P (Ω) = P ( {ω Ω X(ω) = x k } = Weiterhin gilt für alle Ereignisse A R P ( {ω Ω X(ω) = x k } ) = p k P (X A) = 0 wenn x k A für alle k und insbesondere und allgemeiner P ( {x} ) = 0 P (X A) = für alle x x k k N x k A Die Verteilungsfunktion ist dann gegeben durch F X (t) = P ( {X t} ) = p k k N x k t p k Wenn die Menge der möglichen Werte {X(ω) ω Ω} nur aus endlich vielen Elementen besteht, dann hat die Verteilungsfunktion die Gestalt einer Treppenfunktion ähnlich wie beim Würfel (siehe Abb. 5); zwischen den Werten x k ist sie konstant, bei jedem x k macht sie einen Sprung um p k (sie ist dabei rechtsseitig stetig). Statt F X (t) kann man auch die Zahlen p k grafisch darstellen, dies erfolgt häufig als Balken- oder Stabdiagramm. Ein Beispiel für eine diskrete Zufallsvariable wurde als Beispiel (d) nach Satz 3.. (Übertragung von n Bits über einen unzuverlässigen Kanal) angegeben. Diese Zufallsvariable X kann die Werte 0,, 2,... n annehmen, ist also eine diskrete Zufallsvariable (wir haben hier n + mögliche Werte und müssen berücksichtigen, dass die Numerierung bei 0 anfängt). Die Zahlen p k = P ( {X = k} ) sind in Gleichung (3) angegeben. Aus dem binomischen Lehrsatz ergibt sich sofort, dass tatsächlich n k=0 p k =. (c) Wenn die Verteilungsfunktion F X (t) in Gestalt einer Treppenfunktion vorliegt, dann sind die möglichen Werte {X(ω) ω Ω} die Sprungstellen x k von F X (t) und die zugehörigen Wahrscheinlichkeiten ergeben sich aus der Höhe des Sprungs in x k : p k = P ( {X = x k } ) = F X (x k ) lim t x k F X(t) 3