Mehrstufige Zufallsexperimente Inhalt 6.1 6.1 Mehrstufige Experimente 6.2 6.2 Bedingte Wahrscheinlichkeiten Seite 2
6.1 Mehrstufige Experimente Grundvorstellung: Viele Viele Experimente werden der der Reihe nach nach (in (in Stufen) ausgeführt. Dabei können die die Experimente einer einer Stufe von von den den Experimente der der vorigen Stufen abhängen oder oder nicht. Grundmodellierung: Ω = Ω 1 1 Ω 2 2 Ω 3 3...... Ω n, n, dabei ist ist Ω i die i die Ergebnismenge der der i-ten i-ten Stufe. Seite 3 Beispiel In In einer einer Urne Urne seien eine eine rote roteund drei drei blaue Kugeln enthalten. Man Man zieht zieht zufällig eine eine der der Kugeln und und legt legt dann dann diese und und eine eine weitere Kugel der der gezogenen Farbe in in die die Urne Urne zurück. Nun Nun zieht zieht man man ein ein zweites Mal. Mal. Wie Wie groß groß ist ist die die Wahrscheinlichkeit, jetzt jetzt eine eine rote rotekugel zu zu ziehen? Modellierung: Ω = Ω 1 1 Ω 2 mit 2 mit Ω 1 = 1 Ω 2 = 2 {r, {r, b}. b}. Das Das Ereignis beim zweiten Mal Mal eine eine rote rote Kugel ist ist A = {(r {(r,, r), r), (b (b,, r)}. r)}. Seite 4
Bestimmung der Wahrscheinlichkeiten Frage: Was Was ist ist p(ω) p(ω) für für ω = (a (a 1, 1, a 2 ) 2 ) A? A? 1. 1. Stufe: Die Die Wahrscheinlichkeit für für rr ist ist ¼, ¼, die die für für b ist ist ¾. ¾. 2. 2. Stufe: Im Im Fall Fall a 1 = 1 rr enthält die die Urne Urne vor vor dem dem zweiten Ziehen 2 rote roteund 3 blaue Kugeln. Also Also ist ist die die Wahrscheinlichkeit für für rot rot = 2/5. 2/5. Im Im Fall Fall a 1 = 1 b enthält die die Urne Urne vor vor dem dem zweiten Ziehen 1 rote roteund 4 blaue Kugeln. Also Also ist ist die die Wahrscheinlichkeit für für rot rot = 1/5. 1/5. Seite 5 Übergangswahrscheinlichkeiten Daraus ergibt sich sich p(r, p(r, r) r) = 1/4 2/5 = 2/20, 2/20, p(r, p(r, b) b) = 1/4 1/4 3/5 3/5 = 3/20, 3/20, p(b, p(b, r) r) = 3/4 1/5 = 3/20, 3/20, p(b, p(b, b) b) = 3/4 3/4 4/5 4/5 = 12/20. Erster Faktor: Wahrscheinlichkeit für für das das erste erste Experiment Zweiter Faktor: Wahrscheinlichkeit für für den den Ausgang des des zweiten Experiments aufgrund des des Ausgangs des des ersten Experiments Diese zweiten Faktoren heißen Übergangswahrscheinlichkeiten. Es Es ergibt sich: sich: P(A) P(A) = p(r, p(r, r) r) + p(b, p(b, r) r) = 2/20 2/20 + 3/20 3/20 = ¼. ¼. Seite 6
Baumdiagramm Start 1/4 3/4 r b 2/5 3/5 1/5 4/5 r b r b 2/20 3/20 3/20 12/20 Seite 7 Pfadregeln An An jeder jeder Verbindung findet man man die die entsprechende Übergangswahrscheinlichkeit. 1. 1. Pfadregel (Multiplikationsregel): Um Um die die Wahrscheinlichkeit eines Elementarereignisses ω zu zu erhalten, multipliziert man man die die Wahrscheinlichkeiten auf auf dem dem Pfad Pfad zu zu ω. ω. 2. 2. Pfadregel (Additionsregel): Um Um die die Wahrscheinlichkeit eines Ereignisses A zu zu erhalten, addiert man man die die Wahrscheinlichkeiten aller aller Ereignisse ω A. A. Seite 8
Formalisierung 1. 1. Startverteilung: Es Es gibt gibt Wahrscheinlichkeiten p 1 (a 1 (a i ), i ), a i i Ω 1 mit 1 mit p 1 (a 1 (a 1 ) 1 ) + p 1 (a 1 (a 2 ) 2 ) +...... = 1. 1. 2. 2. Für Für alle alle a i i Ω 1 gibt 1 gibt es es Übergangswahrscheinlichkeiten p 2 (b 2 (b j j a i ), i ), b j j Ω 2 mit 2 mit p 2 (b 2 (b 1 1 a i ) i ) + p 2 (b 2 (b 2 2 a i ) i ) +...... = 1. 1. 3. 3. Für Für alle alle a i i Ω 1, 1, b j j Ω 2 gibt 2 gibt es es Übergangswahrscheinlichkeiten p 3 (c 3 (c k k a i, i, b j ), j ), c k k Ω 3 mit 3 mit p 3 (c 3 (c 1 1 a i, i, b j ) j ) + p 3 (c 3 (c 2 2 a i, i, b j ) j ) +...... = 1. 1. Usw. Usw. 1. 1. Pfadregel: Für Für ω = (a (a i, i, b j, j, c k, k,...) gilt gilt p(ω) p(ω) = p 1 (a 1 (a i ) i ) p 2 (b 2 (b j j a i ) i ) p 3 (c 3 (c k k a i, i, b j ) j )...... Seite 9 Produktexperimente Idee: Idee: Das Das j-te j-teexperiment wird wird unabhängig von von den den ersten j 1 j 1 Experimenten durchgeführt. Vorstellung: (a) (a) Experimente räumlich und und zeitlich getrennt. (b) (b) Experimente gleichzeitig. Beispiel: Mehrfaches Würfeln Mathematische Beschreibung: Für Für ω = (a (a i, i, b j, j, c k, k,...) gilt gilt p(ω) p(ω) = p 1 (a 1 (a i ) i ) p 2 (b 2 (b j j a i ) i ) p 3 (c 3 (c k k a i, i, b j ) j )...... Seite 10
6.2 Bedingte Wahrscheinlichkeiten Idee: Idee: Verwertung von von Teilinformationen, Lernen aus aus Erfahrung In In der der Regel: Wahrscheinlichkeit eines Ereignisses, das das feststeht das das wir wir aber aber nicht nicht kennen. Seite 11 Beispiele 1, 1, 2 Beispiel 1. 1. In In einer einer Urne Urne sind sind zwei zwei rote, rote, zwei zwei schwarze und und zwei zwei blaue Kugeln. Eine Eine Person zieht zieht zufällig Kugeln (ohne Zurücklegen). Sie Sie teilt teilt einer einer anderen Person (per (per Telefon) mit, mit, wann sie sie zum zum ersten Mal Mal eine eine blaue Kugel zieht. Angenommen, das das ist ist beim beim dritten Mal. Mal. Wie Wie groß groß ist ist die die Wahrscheinlichkeit, dass dass die die ersten beiden Kugeln rot rotwaren? Beispiel 2. 2. Ziegenproblem : Der Der Kandidat zeigt zeigt auf auf Tür Tür 1, 1, der der Moderator öffnet Tür Tür 3 (Ziegentür). Wie Wie groß groß ist ist die die Wahrscheinlichkeit, dass dass Tür Tür 2 die die Autotür ist? ist? Seite 12
Beispiel 3 Beispiel 3. 3. Weit Weit entfernt werden zwei zwei Würfel geworfen. Per Per Telefon erhalten wir wir die die Nachricht Augensumme mindestens 8. 8. Wie Wie groß groß ist ist die die Wahrscheinlichkeit, dass dass mindestens einer einer der der Würfel eine eine Sechs zeigt? Bemerkung: Bei Bei allen allen Experimenten geht geht es es um um die die Wahrscheinlichkeit eines Ereignisses, das das feststeht aber aber uns uns unbekannt ist. ist. Seite 13 Erste mathematische Modellierung Wir Wir betrachten ein ein Zufallsexperiment ω. ω. Wir Wir wissen nur, nur, dass dass ein ein Ereignis B Ω eingetreten ist, ist, dass dass also also ω B ist. ist. Ziel: Ziel: Bestimmung der der Wahrscheinlichkeit für für das das Eintreten eines Ereignisses A Ω unter unter der der Bedingung B. B. Wir Wir schreiben dafür dafür P(A B). Seite 14
Motivation durch relative Häufigkeiten Man Man könnte sich sich vorstellen, den den Wert Wert P(A B) dadurch anzunähren, dass dass man man viele viele Versuche durchführt: rr n (A B) n = (Anzahl der der Versuche, in in denen A und und B eintritt) :: (Anzahl der der Versuche, bei bei denen B eintritt) Anders geschrieben: rr n (A B) n = rr n (A n (A B) B) // rr n (B). n (B). Seite 15 Definition Definition. Sei Sei (Ω, (Ω, P) P) ein ein Wahrscheinlichkeitsraum, und und seien A, A, B Ω Ereignisse mit mit P(B) P(B) > 0. 0. Dann heißt heißt P(A B) = P(A P(A B) B) // P(B) P(B) die die bedingte Wahrscheinlichkeit von von A unter der der Bedingung (Hypothese )) B. B. Schreibweise: P B (A) (A) = P(A B) Seite 16
Einfache Eigenschaften 6.2.1 6.2.1 Hilfssatz. (a) (a) 0 P B (A) B (A) 1 für für alle alle A Ω. Ω. (b) (b) P B (Ω) B (Ω) = P B (B) B (B) = 1. 1. (c) (c) P B (A B (A 1 1 A 2 ) 2 ) = P B (A B (A 1 ) 1 ) + P B (A B (A 2 ), 2 ), falls falls A 1, 1, A 2 disjunkte 2 Ereignisse sind. sind. Beweis. (a) (a) Wegen A B B ist ist P(A P(A B) B) P(B), P(B), also also P(A B) = P(A P(A B) B) // P(B) P(B) 1. 1. (c) (c) P B (A B (A 1 A 1 A 2 ) 2 ) = P((A P((A 1 A 1 A 2 ) 2 ) B) B) // P(B) P(B) = P((A P((A 1 B) 1 B) (A (A 2 B)) 2 B)) // P(B) P(B) = [P(A [P(A 1 B) 1 B) + P(A P(A 2 B)] 2 B)] // P(B) P(B) = P(A P(A 1 B) 1 B) // P(B) P(B) + P(A P(A 2 B) 2 B) // P(B) P(B) = P B (A B (A 1 ) 1 ) + P B (A B (A 2 ). 2 ). Seite 17 Spezialfall Für Für ω Ω gilt gilt p B (ω) B (ω) = p(ω) p(ω) P(B) P(B) 1 1,, falls falls w B p B (ω) B (ω) = 0 sonst. D.h. D.h. man man stellt stellt sich sich vor, vor, dass dass für für alle alle ω Ω die die Wahrscheinlichkeit p(ω) p(ω) um um den den Faktor P(B) P(B) 1 1 vergrößert wird, wird, und und sonst = 0 gesetzt wird. wird. Seite 18
Lösung 1. 1. Beispiel Wir Wir nummerieren die die Kugeln mit mit 1, 1, 2, 2, 3, 3, 4, 4, 5, 5, 6 durch, wobei 1, 1, 2: 2: rot, rot, 3, 3, 4: 4: blau, blau, 5, 5, 6: 6: schwarz. Wir Wir betrachten die die Ereignisse A = {(a {(a 1, 1, a 2, 2, a 3 ) 3 ) {a {a 1, 1, a 2 } 2 } = {1,2}} ( die ( die beiden ersten Kugeln sind sind rot ) rot ) B = {(a {(a 1, 1, a 2, 2, a 3 ) 3 ) a 3 3 {3,4}, a 1, 1, a 2 2 {1,2,5,6}} ( beim dritten Wurf Wurf zum zum ersten Mal Mal eine eine blaue Kugel ). Wir Wir interessieren uns uns für für P(A B). Seite 19 Lösung 1. 1. Beispiel Es Es gilt gilt Seite 20
Das Ziegenproblem Wir Wir modellieren das das Ziegenproblem wie wie folgt: folgt: Sei Sei Ω = {1,2,3} {1,2,3} {1,2,3}. Ein Ein Element ω = (a (a 1, 1, a 2, 2, a 3 ) 3 ) Ω interpretieren wir wir so: so: a 1 ist 1 ist die die Nummer der der Autotüre, a 2 die 2 die Nummer der der vom vom Kandidaten gewählten Tür, Tür, a 3 die 3 die vom vom Moderator geöffnete Tür. Tür. Für Für die die Wahrscheinlichkeiten nehmen wir wir an: an: p 1 (j) 1 (j) = 1/3, 1/3, denn denn das das Auto Auto wird wird zufällig auf auf eine eine der der Türen verteilt. p 2 (k 2 (k j) j) = 1/3, 1/3, denn denn der der Kandidat wählt rein rein zufällig eine eine Tür. Tür. Es Es gilt gilt p(ω) p(ω) = p(a p(a 1, 1, a 2, 2, a 3 ) 3 ) = p 1 (a 1 (a 1 ) 1 ) p 2 (a 2 (a 2 2 a 1 ) 1 ) p 3 (a 3 (a 3 3 a 1, 1, a 2 ). 2 ). Seite 21 Das Ziegenproblem II II Wir Wir nehmen an, an, dass dass der der Moderator im im Fall, Fall, dass dass ihm ihm zwei zwei Türen zur zur Auswahl stehen, zufällig eine eine der der beiden wählt. Das Das bedeutet: p 3 (h 3 (h j, j, k) k) = 1, 1, falls falls j, j, k, k, h die die drei drei Zahlen 1, 1, 2, 2, 3 sind. sind. p 3 (h 3 (h j, j, k) k) = 1/2, 1/2, falls falls j j = k, k, aber aber h j. j. p 3 (h 3 (h j, j, k) k) = 0 in in allen allen anderen Fällen. Das Das bedeutet p(j, p(j, k, k, h) h) = 1/9, 1/9, falls falls j, j, k, k, h die die drei drei Zahlen 1, 1, 2, 2, 3 sind. sind. p(j, p(j, k, k, h) h) = 1/18, 1/18, falls falls j j = k, k, aber aber h j. j. p(j, p(j, k, k, h) h) = 0 in in allen allen anderen Fällen. Seite 22
Das Ziegenproblem III: III: Die Gewinnwahrscheinlichkeiten Schließlich definieren wir: wir: A j = j {(a {(a 1, 1, a 2, 2, a 3 ) 3 ) Ω a 1 = 1 j} j} ( das ( das Auto Auto ist ist hinter der der Türe Türe j ) j ) W k = k {(a {(a 1, 1, a 2, 2, a 3 ) 3 ) Ω a 2 = 2 k} k} ( der ( der Kandidat wählt Türe Türe k ) k ) M h = h {(a {(a 1, 1, a 2, 2, a 3 ) 3 ) Ω a 3 = 3 h} h} ( der ( der Moderator öffnet die die Türe Türe h ) h ) Wir Wir interessieren uns uns zum zum Beispiel für für die die Wahrscheinlichkeit P(A P(A 2 2 W 1 1 M 3 ), 3 ), d.h. d.h. die die Wahrscheinlichkeit, das das Auto Auto hinter Tür Tür 2 zu zu finden, falls falls der der Kandidat Tür Tür 1 gewählt und und der der Moderator Tür Tür 3 geöffnet hat hat (Erfolg der der Wechselstrategie). Seite 23 Das Ziegenproblem IV IV P(A P(A 2 2 W 1 1 M 3 ) 3 ) = P(A P(A 2 2 W 1 1 M 3 ) 3 )// P(W P(W 1 1 M 3 ) 3 ) = = p(2, p(2, 1, 1, 3) 3) //[p(2, [p(2, 1, 1, 3) 3) + p(1, p(1, 1, 1, 3)] 3)] = 1/9 1/9 //[1/9 [1/9 + 1/18] 1/18] = 2/3. 2/3. (Beachte, dass dass W 1 1 M 3 = 3 {(2,1,3), (1,1,3)}, da da das das Ereignis (3,1,3) nicht nicht möglich ist.) ist.) Andererseits ist ist P(A P(A 1 1 W 1 1 M 3 ) 3 ) = P(A P(A 1 1 W 1 1 M 3 ) 3 )// P(W P(W 1 1 M 3 ) 3 ) = = p(1, p(1, 1, 1, 3) 3) //[p(2, [p(2, 1, 1, 3) 3) + p(1, p(1, 1, 1, 3)] 3)] = 1/18 1/18 //[1/9 [1/9 + 1/18] 1/18] = 1/3. 1/3. Mit Mit anderen Worten: Die Die Wechselstrategie verdoppelt die die Gewinnchancen! Seite 24
Die Formel von der totalen Wahrscheinlichkeit 6.2.2 6.2.2 Formel von von der der totalen Wahrscheinlichkeit. Seien A 1, 1, A 2, 2,,, A s Ereignisse, s die die paarweise disjunkt sind, sind, und und für für die die A 1 1 A 2 2 A s = s Ω gilt. gilt. Dann gilt gilt für für jedes Ereignis B: B: P(B) P(B) = P(A P(A 1 ) P(B 1 ) P(B A 1 ) 1 ) + P(A P(A 2 ) P(B 2 ) P(B A 2 ) 2 ) + + + P(A P(A s ) P(B s ) P(B A s ). s ). Beweis für für s = 2. 2. P(B) P(B) = P(Ω P(Ω B) B) = P((A P((A 1 1 A 2 ) 2 ) B) B) = P((A P((A 1 1 B) B) (A (A 2 2 B)) B)) = P(A P(A 1 1 B) B) + P(A P(A 2 2 B) B) = P(A P(A 1 ) P(B 1 ) P(B A 1 ) 1 ) + P(A P(A 2 ) P(B 2 ) P(B A 2 ). 2 ). Seite 25 Die Formel von Bayes 6.2.3 6.2.3 Formel von von Bayes (Thomas Bayes 1702-1761). Seien P(A) P(A) > 0, 0, P(B) P(B) > 0. 0. Dann gilt: gilt: P(A P(A B) B) = P(A) P(A) P(B P(B A) A) // P(B). P(B). Beweis. Da Da P(A) P(A) > 0 und und P(B) P(B) > 0, 0, existieren die die bedingten Wahrscheinlichkeiten P(B P(B A) A) und und P(A P(A B), B), und und nach nach Definition gelten: P(A P(A B) B) = P(A P(A B) B) P(B) P(B) und und P(A P(A B) B) = P(B P(B A) A) P(A). P(A). Zusammen folgt folgt P(A P(A B) B) P(B) P(B) = P(A P(A B) B) = P(B P(B A) A) P(A). P(A). Seite 26
Das Simpson-Paradox Vor Vor einigen Jahren trat trat an an der der University of of Berkeley in in Kalifornien folgendes Phänomen auf: auf: --Unter je je 1000 1000 Bewerbern wurde weniger Frauen als als Männer zugelassen, --in in jedem Fach Fach wurden Frauen gegenüber Männern prozentual bevorzugt. Seite 27 Simpson-Paradox: Beispiel Wir Wir machen uns uns das das an an einem Beispiel klar. klar. Die Die Universität möge nur nur zwei zwei Fächer haben. Männer Frauen Bewerber zugelassen Bewerberinnen zugelassen Fach Fach 1 900 900 720 720 (80%) 200 200 180 180 (90%) Fach Fach 2 100 100 20 20 (20%) 800 800 240 240 (30%) Summe 1000 1000 740 740 1000 1000 420 420 Seite 28
Stochastische Unabhängigkeit Wir Wir wollen ausdrücken, dass dass das das Eintreten eines Ereignisses B keinen Einfluss auf auf das das Eintreten eines Ereignisses A hat. hat. Definition. Seien A und und B Ereignisse. Wir Wir nennen diese stochastisch unabhängig, wenn P(A) P(A) = P(A P(A B) B) gilt. gilt. Beobachtung: P(A) P(A) = P(A P(A B) B) P(A P(A B) B) = P(A) P(B) P(B) P(B) = P(B P(B A). A). (Beweis: P(A) P(A) = P(A P(A B) B) P(A) P(A) = P(A P(A B) B) // P(B) P(B) P(A) P(A) P(B) P(B) = P(A P(A B) B) P(B) P(B) = P(A P(A B) B) // P(A) P(A) P(B) P(B) = P(B P(B A).) A).) Seite 29 Beispiele 1. 1. Würfeln mit mit einem Würfel: A = {2,3}, B = {2,4,6}. P(A) P(A) = 2/6 2/6 = 1/3, 1/3, P(B) P(B) = 3/6 3/6 = 1/2, 1/2, P(A P(A B) B) = 1/6. 1/6. 2. 2. Zweimaliges Würfeln. A = Augensumme ist ist gerade, B = der der erste erste Wurf Wurf hat hat eine eine gerade Augenzahl P(A) P(A) = 1/2, 1/2, P(B) P(B) = 1/2, 1/2, P(A P(A B) B) = ¼. ¼. Seite 30
Komplementäre Ereignisse 6.2.4 6.2.4 Hilfssatz. Seien A und und B unabhängige Ereignisse. Dann sind sind auch auch A und und B (= (= Ω \\ B) B) unabhängig. Beweis. Es Es gilt gilt P(A P(A B) B) = P(A P(A \\(A (A B)) B)) = P(A) P(A) P(A P(A B) B) = P(A) P(A) P(A) P(A) P(B) P(B) = P(A) P(A) (1 (1 P(B)) = P(A) P(A) P(B). Seite 31 Verallgemeinerung der Definition Definition. Drei Drei Ereignisse A, A, B, B, C werden stochastisch unabhängig genannt, wenn folgende Gleichungen gelten: P(A) P(A) P(B) P(B) = P(A P(A B), B), P(B) P(B) P(C) P(C) = P(B P(B C), C), P(A) P(A) P(C) P(C) = P(A P(A C), C), P(A) P(A) P(B) P(B) P(C) P(C) = P(A P(A B C). C). Entsprechend: Verallgemeinerung auf auf vier, vier, fünf, fünf, Ereignisse. Seite 32
Beispiel Viermaliger Münzwurf. A = Kopf Kopf im im ersten Wurf Wurf B = Kopf Kopf im im zweiten Wurf Wurf C = Kopf Kopf im im dritten Wurf Wurf P(A) P(A) = P(B) P(B) = P(C) P(C) = 1/2. 1/2. P(A P(A B) B) = P(B P(B C) C) = P(A P(A C) C) = 1/4. 1/4. P(A P(A B C) C) = 1/8. 1/8. Seite 33