3. Kombinatorik und Wahrscheinlichkeit

Transkript

1 3. Kombinatorik und Wahrscheinlichkeit Es geht hier um die Bestimmung der Kardinalität endlicher Mengen. Erinnerung: Seien A, B, A 1,..., A n endliche Mengen. Dann gilt A = B ϕ: A B bijektiv Summenregel: A 1... A n = A A n, falls A 1,..., A n paarweise disjunkt sind Produktregel: A 1... A n = A 1 A n Potenzregel: A B = A B Potenzmenge: 2 A = 2 A 1

2 3.1 Permutationen und Binomialkoeffizienten Definition. Sei M eine endliche Menge. Eine bijektive Abbildung ϕ: M M heißt eine Permutation von M. Wir bezeichnen die Menge der Permutationen von M mit Perm(M). Bemerkung. Perm(M) ist bezüglich der Komposition von Abbildungen eine Gruppe. Die Gruppenoperation ist also Perm(M) Perm(M) Perm(M), (ϕ, ψ) ϕ ψ Das Neutralelement ist die Identität id M auf M. Die Inverse von ϕ Perm(M) ist die zu ϕ inverse Abbildung. 2

3 Definition. (Fakultät) Die Fakultätsfunktion ist rekursiv definiert durch 0! = 1 und n! = n (n 1)! für n N, n > 0. Satz. Sei M eine endliche Menge mit M = n. Dann Perm(M) = n!. 3

4 Definition. Seien k, n N. Sei M eine Menge mit M = n. Die Kardinalität von ( ) M : = {X 2 M : X = k} k heißt Binomialkoeffizient und wird mit ( n k) bezeichnet. Bemerkung. ( n k) ist also die Anzahl k-elementiger Teilmengen von M. Offensichtlich ist ( n k) unabhängig von der Wahl von M. ( n k) = 0 für k > n ( n 0) = 1, ( n n) = 1 4

5 Proposition. Für n N gilt 2 n = n k=0 ( n k). Proposition. (Symmetrie) Für k, n N mit 0 k n gilt: ( ) ( ) n n =. k n k 5

6 Satz. (Rekursionsformel) Für k, n N, k, n 1, gilt ( ) ( ) ( ) n n 1 n 1 = +. k k 1 k Aus der Rekursionsformel folgt die rekursive Berechnung von Binomialkoeffizienten mit dem Pascalschen Dreieck. 6

7 Satz. Für k, n N, 0 k n, gilt ( ) n k = n! k!(n k)! Folgerung. ( ) n k = n (n 1) (n 2) (n k + 1) k Beispiel. ( ) 6 4 = = 15. 7

8 Satz. (Binomischer Lehrsatz) Sei R ein kommutativer Ring, x, y R, n N. Dann gilt (x + y) n = n k=0 ( ) n x k y n k. k 8

9 Folgerung. R = Z (1) 2 n = (1 + 1) n = n k=0 ( n k). Wissen wir schon! (2) Für n 1 gilt 0 = (1 1) n = n ( ) n ( 1) k. k k=0 9

10 3.2 Endliche Wahrscheinlichkeitsräume Entwickeln ein mathematisches Modell zur Beschreibung und Analyse von zufälligen Experimenten. Zuerst Motivation der Begriffe. Bsp: Die möglichen Augenzahlen beim Würfeln sind beschrieben durch ein Element ω der Menge Ω: = {1, 2, 3, 4, 5, 6}. Nennen Ω Ergebnisraum ω bzw. {ω} heißt Elementarereignis Unter einem Ereignis verstehen eine Teilmenge A Ω. Z.B. beschreibt A = {2, 4, 6} das Ereignis gerade Augenzahl. 10

11 Angenommen, wir wiederholen ein Experiment n mal unabhängig. Sei n A die Anzahl Experimente, bei denen das Ereignis A Ω eingetreten ist (absolute Häufigkeit). relative Häufigkeit n A n Intuitive Vorstellung: für großes n kommt n A n sogenannte Wahrscheinlichkeit von A. nahe an eine Zahl p A [0, 1], die Z.B. bei einem fairen Würfel ist p A = 3 6 = 1 2 für A = {2, 4, 6}. Feststellung. Für A, A 1, A 2 Ω gilt: (1) 0 n A n 1 (2) n n = 0, n Ωn = 1 (3) n A 1 A 2 n = n A 1 n + n A 2 n, falls A 1 A 2 =. 11

12 Definition. Sei Ω eine endliche Menge. Eine Abbildung Pr: 2 Ω [0, 1] heißt Wahrscheinlichkeitsmaß, falls Pr( ) = 0, Pr(Ω) = 1 und für disjunkte A, B Ω. Pr(A B) = Pr(A) + Pr(B) Man nennt das Paar (Ω, Pr) einen (endlichen) Wahrscheinlichkeitsraum. 12

13 Bemerkung. Sei (Ω, Pr) ein Wahrscheinlichkeitsraum. Es gilt Pr(A 1 A 2... A n ) = Pr(A 1 ) + Pr(A 2 ) Pr(A n ) für paarweise disjunkte A 1,..., A n Ω. (Beweis mit Induktion.) Die Funktion Ω [0, 1], ω Pr(ω) := Pr({ω}) erfüllt ω Ω Pr(ω) = 1. Solche Funktionen heißen Wahrscheinlichkeitsverteilungen auf Ω. 13

14 Bemerkung. Sei p: Ω [0, 1] eine Wahrscheinlichkeitsverteilung, d.h. ω Ω p(ω) = 1. Dann definiert Pr: 2 Ω [0, 1], Pr(A): = ω A p(ω) ein Wahrscheinlichkeitsmaß. Fazit: Wahrscheinlichkeitsmaße und Wahrscheinlichkeitsverteilungen sind äquivalente Konzepte. Im folgenden schreiben dafür kurz W-Verteilung bzw. W-Maß. 14

15 Proposition. Sei (Ω, Pr) ein Wahrscheinlichkeitsraum, A, B Ω Ereignisse. Dann gilt A B = Pr(A) Pr(B) Pr(Ω \ A) = 1 Pr(A) Pr(A B) = Pr(A) + Pr(B) Pr(A B) Der Beweis ist trivial. 15

16 Beispiel. Die uniforme Verteilung (oder Gleichverteilung) auf Ω ist gegeben durch Pr(A) = A Ω. Man spricht dann auch vom Laplace-Modell. In diesem Modell reduziert sich die Berechnung von Pr(A) auf die Bestimmung der Kardinalität von A. Beispiel. (Lotto) Gegeben sei eine Menge von 49 Kugeln, nummeriert von 1 bis 49. Ziehe daraus 6 Kugeln (ohne Zurücklegen). Die Reihenfolge der gezogenen Kugeln sei egal. Ω = ( ) {1,2,...,49} 6. Jedes Elementarereignis ω Ω tritt auf mit Wahrscheinlichkeit Pr(ω) = ( ) , falls Gleichverteilung angenommen wird. 16

17 Beispiel. Was ist wahrscheinlicher, bei vier Würfen mit einem Würfel mindestens eine Sechs zu werfen oder bei 24 Würfen mit zwei Würfeln eine Doppelsechs? 17

18 Beispiel. (Binomialverteilung) Ω = {0, 1} n, 0 p 1. Für ω = (ω 1,..., ω n ) Ω bezeichne ω : = {i: ω i = 1} die Anzahl der Einsen in ω. Behauptung. Pr: Ω [0, 1], Pr(w) = p ω (1 p) n ω definiert eine W-Verteilung, die sog. Binomialverteilung zum Parameter p. Beachte: Pr{ω Ω : ω = k} = ( ) n p k (1 p) n k k 18

19 Beispiel. Andreas und Berta gehen zum Abendessen. Um zu entscheiden, wer bezahlen soll, werfen sie dreimal eine faire Münze. Falls öfters Zahl (Z) als Kopf (K) herauskommt, bezahlt Andreas, andernfalls Berta. 1. Wie sind die Chancen? 2. Nach erstmaligem Wurf der Münze kommt Zahl heraus. Wie sind jetzt die Chancen? 19

20 Definition. (Bedingte Wahrscheinlichkeit) Sei (Ω, Pr) ein W-Raum und B Ω ein Ereignis mit Pr(B) > 0. Für A Ω heißt Pr(A B): = Pr(A B) Pr(B) die bedingte Wahrscheinlichkeit des Ereignisses A unter der Bedingung B. 20

21 Beispiel. Die Polizei macht Fahrzeugkontrollen. Die Erfahrung zeigt: Mit Wahrscheinlichkeit 3% wird das angehaltene Auto gelb sein und mit Wahrscheinlichkeit 2% wird das angehaltene Auto gelb und der Fahrer blond sein. Ich sehe, dass die Polizei gerade ein gelbes Auto angehalten hat. Wie groß ist die Wahrscheinlichkeit, dass der Fahrer blond ist? 21

22 Wir definieren nun einen sehr wichtigen Begriff. Intuitiv: Wenn das Ereignis A unabhängig von B ist, so gilt Pr(A B) = Pr(A). Letzteres bedeutet Pr(A B) Pr(B) = Pr(A), d.h. Pr(A B) = Pr(A) Pr(B). 22

23 Definition. (stochastische Unabhängigkeit) Sei (Ω, Pr) ein W-Raum. Zwei Ereignisse A, B Ω heißen unabhängig, falls Pr(A B) = Pr(A) Pr(B) gilt. Andernfalls heißen A und B abhängig. Bemerkung. (1) Pr(A) = 0 oder Pr(B) = 0 A und B unabhängig (2) Falls Pr(B) > 0 so gilt A und B unabhängig Pr(A B) = Pr(A) (3) Vorsicht: A B = impliziert nicht, dass A und B unabhängig sind. Gilt nämlich Pr(A) > 0, Pr(B) > 0 und A B =, so sind A und B abhängig. 23

24 Definition. Sei (Ω, Pr) ein W-Raum. Die Ereignisse A 1, A 2,..., A n heißen unabhängig, falls für alle I {1, 2,..., m}, I, gilt ( ) Pr A i = Pr(A i ). i I i I Vorsicht: A 1,..., A n paarweise unabhängig A 1,..., A n unabhängig 24

25 Bemerkung. Seien (Ω 1, Pr 1 ) und (Ω 2, Pr 2 ) zwei W-Räume. Wir definieren das Produktmaß auf Ω: := Ω 1 Ω 2 folgendermassen: Für E Ω setzen Pr(E): = Pr 1 (ω 1 )Pr 2 (ω 2 ). (ω 1,ω 2 ) E Dann ist (Ω, Pr) ein W-Raum, der sogenannte Produktraum von (Ω 1, Pr 1 ) und (Ω 2, Pr 2 ). Behauptung. Seien A 1 Ω 1, A 2 Ω 2. Dann sind A 1 Ω 2 und Ω 1 A 2 unabhängig im Produktraum. Eine analoge Definition kann für mehrere Faktoren gemacht werden. 25

26 Analyse der Binomialverteilung. Sei 0 p 1. Sei Ω i = {0, 1} mit W-Verteilung Pr i (1) = p und Pr i (0) = 1 p. Definiere Ω = Ω 1... Ω n = {0, 1} n und betrachte das Produktmaß Pr(ω 1,..., ω n ) = Pr 1 (ω 1 ) Pr 2 (ω 2 ) Pr n (ω n ) = p ω (1 p) n ω wobei ω : = {i: ω i = 1}. Die resultierende W-Verteilung auf Ω = {0, 1} n ist die Binomialverteilung zum Parameter p. Betrachte das Ereignis A i = {ω {0, 1} n : ω i = 1}. Dann gilt Pr(A i ) = p. Seien 1 i 1 < i 2 <... < i m n. Beh: Die Ereignisse A i1, A i2,..., A im sind unabhängig. Interpretation: n unabhängige Münzwürfe: Kopf entspricht 0, Zahl entspricht 1. 26

27 3.3 Zufallsvariablen Definition. Sei (Ω, Pr) ein W-Raum. Eine (reelle) Zufallsvariable (Zva) ist eine Abbildung X : Ω R. 27

28 Sei X : Ω R eine Zva. Für a R interessiert die Wahrscheinlichkeit, dass X den Wert a annimmt, d.h. Pr{ω Ω: X(ω) = a}. Man schreibt dafür meist kürzer Pr(X = a). Sei S = {X(ω): ω Ω} die Bildmenge von X. S ist endlich und Pr(X = a) = 0 für a R \ S. Die Abbildung S [0, 1], a Pr(X = a) definiert eine W-Verteilung auf S. Diese heißt die von X induzierte W-Verteilung. 28

29 Beispiel. Ω = {1, 2,..., 6} 2, X(ω 1, ω 2 ) = ω 1 + ω 2, S = {2, 3,..., 12}. a Pr(X = a)

30 Indikator Zva. Sei A Ω ein Ereignis. Definiere die Zva 1 falls ω A X A : Ω {0, 1}, X A (ω) = 0 sonst. X A heißt die Indikator Zufallsvariable von A. Offensichtlich gilt Pr(X A = 1) = Pr(A). 30

31 Definition. Sei X : Ω R eine Zva im W-Raum (Ω, Pr). Der Erwartungswert von X ist definiert als die Zahl E(X): = ω Ω X(w)Pr(ω) Behauptung. Für eine Zva X : Ω R mit Bildmenge S gilt E(X) = a S a Pr(X = a). Insbesondere hängt E(X) nur von der von X induzierten Verteilung auf S ab. Bemerkung. Sei X A die Indikator Zva des Ereignisses A. Dann gilt E(X A ) = Pr(X A = 1) = Pr(A). 31

32 Die folgende Eigenschaft von Erwartungswerten ist außerordentlich wichtig. Proposition. (Linearität des Erwartungswertes) Seien X, Y : Ω R Zva und α, β R. Dann gilt E(αX + βy ) = αe(x) + βe(y ). 32

33 Beispiel. Sei Ω = {0, 1} n mit der Binomialverteilung zum Parameter p [0, 1]. Sei X : Ω N, X(ω) = Anzahl Einsen in ω = (ω 1,..., ω n ). Man sagt, daß X binomialverteilt zum Parameter p ist. Interpretation: Führe n-mal unabhängig ein Experiment mit Erfolgswahrscheinlichkeit p durch. Die Zva X zählt die totale Anzahl Erfolge. Satz. Für eine binomialverteilte Zva zum Parameter p gilt E(X) = np. 33

34 Definition. Sei (Ω, Pr) ein W-Raum und X i : Ω R eine Zva für 1 i n. Die Zva X 1,..., X n heißen unabhängig, falls die Ereignisse {ω Ω: X 1 (ω) = a 1 },..., {ω Ω: X n (ω) = a n } unabhängig sind, für alle (a 1,..., a n ) R n. Bemerkung. Zwei Zva X, Y : Ω R sind unabhängig, genau dann, wenn Pr(X = a, Y = b) = Pr(X = a) Pr(Y = b) für alle a, b R. Hierbei ist (X = a, Y = b) eine Abkürzung für das Ereignis {ω Ω: X(a) = a, Y (ω) = b}. 34

35 Satz. Seien X, Y : Ω R unabhängige Zva. Dann gilt E(X Y ) = E(X) E(Y ). 35

36 Bemerkung. (Konstruktion unabhängiger Kopien von Zva) Sei X : Ω R eine Zva und n N, n 1. Bilde den Produktraum Ω n (mit dem Produktmaß) und für i = 1,... n die Zva X i : Ω n R, (ω 1,..., ω n ) X(ω i ). Dann sind X 1,..., X n unabhängig. Diese Zva induzieren jedoch die gleiche Verteilung auf S = X(Ω). Beweis als Übung. 36

37 Wir definieren nun ein Maß für die Abweichung einer Zva von ihrem Erwartungswert. Defintion. Sei (Ω, Pr) ein W-Raum und X : Ω R eine Zva mit µ = E(X). Die Varianz von X ist definiert als Var(X) = E((X µ) 2 ). Bemerkung. 1. Var(X) ist die mittlere quadratische Abweichung von X von µ. 2. Beachte E(X µ) = E(X) µ = µ µ = Var(cX) = c 2 Var(X) für c R. 4. Var(X) hängt nur von der Verteilung von X ab. 37

38 Proposition. Für eine Zva X : Ω R gilt Var(X) = E(X 2 ) E(X) 2. 38

39 Satz. Seien X 1,..., X n : Ω R paarweise unabhängige Zva. Dann gilt Var(X X n ) = Var(X 1 ) Var(X n ). 39

40 Anwendung: Proposition. (Varianz einer binomialverteilten Zva) Sei Ω = {0, 1} n mit Binomialverteilung zum Parameter p [0, 1]. X : Ω N, X(ω) = Anzahl Einsen in ω = (ω 1,..., ω n ). Dann gilt Var(X) = np(1 p). Beispiel. (Augensumme bei zwei Würfeln) Ω = {1, 2,..., 6} 2, X : Ω N, X(ω 1, ω 2 ) = ω 1 + ω 2. Var(X) = 35/6 = 5,

41 Die Bedeutung der Varianz liegt darin, dass sie die Abweichung einer Zva vom Erwartungswert mißt. Die folgende Aussage ist oft nützlich zur Abschätzung von Wahrscheinlichkeit. Markowsche Ungleichung Sei Y : Ω R eine Zufallsvariable mit nichtnegativen Werten. Dann gilt für ε R, ε > 0 Pr(Y ε) 1 E(Y ). ε 41

42 Tschebyschewsche Ungleichung (1867) Sei (Ω, Pr) ein W-Raum und X : Ω R eine Zva mit Erwartungswert µ = E(X) und Standardabweichung σ = Var(X). Dann gilt für t > 0. Pr( X µ t σ) 1 t 2 Folgerung. Pr( X µ 2σ) 1 4 = 25% Gültig für jede Zva X! Pr( X µ 10 σ) = 1% Bemerkung. Wenn X binomialverteilt ist, gibt es viele bessere Abschätzungen. 42

43 Schwaches Gesetz der großen Zahlen Sei (Ω, Pr) ein W-Raum und seien X 1,..., X n : Ω R paarweise unabhängige Zufallsvariablen mit Erwartungswert µ = E(X i ) und Varianz σ 2 = Var(X i ) (1 i n). Setze S n : = X 1 + X X n. Dann gilt für t > 0 Pr( S n n µ t σ) 1 nt 2. Interpretation. Für wachsendes n wird eine Abweichung von S n n unwahrscheinlicher. Präziser: von µ immer Für jedes t > 0 konvergiert Pr( S n n Analysis). µ t σ) gegen 0 für n (vgl. 43

44 Spezialfall: Binomialverteilung (Jakob Bernoulli 1713) Ein Experiment mit Erfolgswahrscheinlichkeit p werde n mal unabhängig durchgeführt. Sei S n die Anzahl Erfolge. Dann gilt für die relative Häufigkeit S n n der Erfolge für jedes δ > 0 Pr( S n n p δ) p(1 p)) nδ 2. Die rechte Seite konvergiert gegen Null für n. 44