Rumpfskript Elementare Wahrscheinlichkeitsrechnung Prof. Dr. Ralf Runde Statistik und Ökonometrie, Universität Siegen
Vorbemerkung Vorbemerkung Das vorliegende Skript heißt nicht nur Rumpf skript, sondern ist auch nur ein Rumpf skript. Als solches dient es sowohl zur Vorbereitung auf die nächste Vorlesung als auch zur Nachbereitung aller schon gehörten Vorlesungen. Dies beinhaltet als natürliche Konsequenz den Besuch der Vorlesungen: Ein Akt, der unerlässlich ist, wenn man nicht nur Statistik verstehen, sondern die Klausur auch bestehen will. Als Ergänzung zum Skript sind die vorlesungsbegleitenden Materialien im Internet erhältlich. Es schadet auch nicht unbedingt, mal in dem ein oder anderen Statistikbuch zu schmökern. Doch auch das allein reicht noch nicht aus, denn das Ziel ist schließlich das Lösen von statistischen Problemen. Um den Studierenden hierzu das erforderliche Training zu ermöglichen, werden Übungsveranstaltungen angeboten, deren Besuch ebenfalls unbedingt notwendig ist. Was letztendlich nachdrücklich empfohlen wird: Nach Möglichkeit ganz, ganz viele Aufgaben rechnen. gez. Prof. Dr. Ralf Runde 1
Inhaltsverzeichnis Inhaltsverzeichnis Literaturliste 5 1 Grundbegriffe 6 1.1 Zufallsexperiment............................. 6 1.2 Ergebnis.................................. 6 1.3 Ergebnisraum............................... 6 1.4 Ereignis.................................. 6 2 Spezielle Ereignisse 7 2.1 Elementarereignis............................. 7 2.2 Sicheres Ereignis............................. 7 2.3 Unmögliches Ereignis........................... 7 2.4 Komplementärereignis.......................... 7 2.5 Durchschnitt von zwei Ereignissen................... 8 2.6 Durchschnitt von n Ereignissen..................... 8 2.7 Vereinigung von zwei Ereignissen.................... 9 2.8 Vereinigung von n Ereignissen...................... 9 2.9 Differenz von zwei Ereignissen...................... 9 2.10 Teilereignis................................ 10 2.11 Rechenregeln für Ereignisse....................... 10 2.12 Disjunkte Ereignisse........................... 11 2.13 Paarweise Disjunkte Ereignisse..................... 11 2
Inhaltsverzeichnis 3 Wahrscheinlichkeit von Ereignissen 12 3.1 Wahrscheinlichkeit............................ 12 3.2 Axiome von Kolmogoroff......................... 12 3.3 Laplace-Experiment........................... 13 3.4 Laplace sche Wahrscheinlichkeit..................... 13 4 Wahrscheinlichkeit von speziellen Ereignissen 14 4.1 Wahrscheinlichkeit des unmöglichen Ereignisses............ 14 4.2 Wahrscheinlichkeit des Komplementärereignisses........... 14 4.3 Wahrscheinlichkeit des Teilereignisses.................. 14 4.4 Wahrscheinlichkeit durch Zerlegung eines Ereignisses......... 14 4.5 Additionssatz für zwei Ereignisse.................... 15 4.6 Additionssatz für drei Ereignisse.................... 15 4.7 Wahrscheinlichkeit der Differenz zweier Ereignisse........... 16 5 Bedingte Wahrscheinlichkeit 17 5.1 Bedingte Wahrscheinlichkeit....................... 17 5.2 Multiplikationssatz für zwei beliebige Ereignisse............ 17 5.3 Totale Wahrscheinlichkeit........................ 17 5.4 Formel von Bayes............................. 18 6 Unabhängigkeit von Ereignissen 19 6.1 Unabhängigkeit von zwei Ereignissen.................. 19 6.2 Unabhängigkeit von n Ereignissen................... 19 6.3 Multiplikationssatz für zwei unabhängige Ereignisse......... 19 3
Inhaltsverzeichnis 6.4 Multiplikationssatz für n unabhängige Ereignisse........... 20 7 Kombinatorik 21 7.1 Fakultät.................................. 21 7.2 Binomialkoeffizient............................ 21 7.3 Anordnungsmöglichkeiten/Permutationen............... 21 7.4 Auswahlmöglichkeiten mit Berücksichtigung der Reihenfolge..... 22 7.5 Auswahlmöglichkeiten ohne Berücksichtigung der Reihenfolge.... 22 7.6 Urnenmodelle............................... 23 4
Literaturliste Weiterführende Literatur zum Rumpfskript: Bamberg, G.; Baur, F. (2002): Statistik, 12. Auflage, Oldenbourg Verlag, München. Bleymüller, J.; Gehlert, G.; Gülicher, H. (2002): Statistik für Wirtschaftswissenschaftler, 13. Auflage, Vahlen Verlag, München. Mosler, K.; Schmid, F. (2004): Wahrscheinlichkeitsrechnung und schließende Statistik, Springer Verlag, Berlin. Pflaumer, P.; Heine, B.; Hartung, J. (2001): Statistik für Wirtschafts- und Sozialwissenschaften: Induktive Statistik, Oldenbourg Verlag, München. Weiterführende populärwissenschaftliche Literatur: Beck-Bornholdt, H.-P.; Dubben, H.-H. (2001): Der Hund, der Eier legt - Erkennen von Fehlinformationen durch Querdenken, Rowohlt, Reinbek. Krämer, W. (2000): So lügt man mit Statistik, Piper Verlag, München. Randow, G. von (1992): Das Ziegenproblem - Denken in Wahrscheinlichkeiten, Rowohlt, Reinbek. Scheid, H. (1996): Zufall: Kausalität und Chaos in Alltag und Wissenschaft, BI- Taschenbuchverlag, Mannheim. Singh, S. (2003): Fermats letzter Satz. Die abenteuerliche Geschichte eines mathematischen Rätsels, 8. Auflage, Deutscher Taschenbuch Verlag, München. 5
Grundbegriffe 1 Grundbegriffe 1.1 Definition (Zufallsexperiment) Unter einem Zufallsexperiment versteht man einen Vorgang, der nach einer ganz bestimmten Vorschrift ausgeführt wird, der beliebig oft wiederholbar ist und dessen Ergebnis vom Zufall abhängt, d.h. im voraus nicht eindeutig bestimmt werden kann. 1.2 Definition (Ergebnis) Jeder einzelne der bei einem Zufallsexperiment möglichen Ausgänge, die sich gegenseitig ausschließen, heißt Ergebnis des Zufallsexperiments. Symbol: ω i 1.3 Definition (Ergebnisraum) Die Menge aller möglichen Ergebnisse eines Zufallsexperiments heißt Ergebnisraum. Symbol: Ω = {ω 1, ω 2,..., ω n }. Es ist auch n = möglich. 1.4 Definition (Ereignis) Jede beliebige Teilmenge des Ergebnisraumes Ω heißt Ereignis. Symbol: A, B, C, u.s.w. Abbildung: 6
Spezielle Ereignisse 2 Spezielle Ereignisse 2.1 Definition (Elementarereignis) Ein Ereignis A heißt Elementarereignis, wenn es nur ein einziges Ergebnis w i enthält. 2.2 Definition (Sicheres Ereignis) Ein Ereignis A heißt sicheres Ereignis, wenn gilt: D.h. A tritt sicher ein. A = Ω. 2.3 Definition (Unmögliches Ereignis) Ein Ereignis A heißt unmögliches Ereignis, wenn gilt: A =. D.h. A tritt sicher nicht ein. bezeichnet die leere Menge. 2.4 Definition (Komplementärereignis) Gegeben sei ein Ereignis A. Dann heißt A das Komplementärereignis von A, wenn gilt: A = {ω ω A}. D.h. A tritt ein, wenn A nicht eintritt. A = A 7
Spezielle Ereignisse Abbildung: 2.5 Definition (Durchschnitt von zwei Ereignissen) Gegeben seien zwei Ereignisse A und B. Dann heißt A B der Durchschnitt von A und B, wenn gilt: A B = {ω ω A und ω B}. D.h. A B tritt ein, wenn sowohl A als auch B eintritt. Abbildung: 2.6 Definition (Durchschnitt von n Ereignissen) Gegeben seien n Ereignisse A 1,..., A n. Dann heißt n i=1 A i der Durchschnitt der Ereignisse, wenn gilt: n A i = {ω ω A 1 und ω A 2 und... und ω A n }. i=1 D.h. n i=1 A i tritt ein, wenn alle n Ereignisse A 1,..., A n gleichzeitig eintreten. n i=1 A i = A 1 A 2... A n 8
Spezielle Ereignisse 2.7 Definition (Vereinigung von zwei Ereignissen) Gegeben seien zwei Ereignisse A und B. Dann heißt A B die Vereinigung von A und B, wenn gilt: A B = {ω ω A oder ω B}. D.h. A B tritt ein, wenn mindestens eins der Ereignisse A oder B eintritt. Abbildung: 2.8 Definition (Vereinigung von n Ereignissen) Gegeben seien n Ereignisse A 1,..., A n. Dann heißt n i=1 A i die Vereinigung der Ereignisse, wenn gilt: n A i = {ω ω A 1 oder ω A 2 oder... oder ω A n }. i=1 D.h. n i=1 A i tritt ein, wenn mindestens eins der Ereignisse A 1,..., A n eintritt. n i=1 A i = A 1 A 2... A n 2.9 Definition (Differenz von zwei Ereignissen) Gegeben seien zwei Ereignisse A und B. Dann heißt A\B die Differenz von A und B (sprich: A ohne B), wenn gilt: A\B = {ω ω A und ω B}. D.h. A\B tritt ein, wenn A, aber nicht B eintritt. 9
Spezielle Ereignisse A\B = A B Abbildung: A = Ω \ A 2.10 Definition (Teilereignis) Gegeben seien zwei Ereignisse A und B. Dann heißt A Teilereignis von B, wenn gilt: A B = A und A B = B. D.h. wenn A eintritt, tritt auch B ein. Man schreibt dafür A B (sprich: A ist enthalten in B). Abbildung: 2.11 Satz (Rechenregeln für Ereignisse) Assoziativgesetze: A (B C) = (A B) C = A B C A (B C) = (A B) C = A B C 10
Spezielle Ereignisse Distributivgesetze: A (B C) = (A B) (A C) A (B C) = (A B) (A C) Regeln von de Morgan: A B = A B A B = A B 2.12 Definition (Disjunkte Ereignisse) Zwei Ereignisse A und B heißen disjunkt (unvereinbar), wenn gilt: A B =. D.h. A und B können nicht beide gleichzeitig eintreten. Abbildung: 2.13 Definition (Paarweise Disjunkte Ereignisse) Gegeben seien n Ereignisse A 1,..., A n. Die Ereignisse heißen paarweise disjunkt (unvereinbar), wenn für alle i j mit 1 i, j n gilt: A i A j =. D.h. von den n Ereignissen A 1,..., A n können nicht zwei gleichzeitig eintreten. 11
Wahrscheinlichkeit von Ereignissen 3 Wahrscheinlichkeit von Ereignissen 3.1 Definition (Wahrscheinlichkeit) Bei einem Zufallsexperiment soll die Sicherheit bzw. Unsicherheit für das Eintreten eines bestimmten Ereignisses A Ω durch eine Maßzahl P(A) beschrieben werden. Diese Maßzahl nennt man Wahrscheinlichkeit des Ereignisses A. P für Probability. 3.2 Definition (Axiome von Kolmogoroff) A. N. Kolmogoroff (1903 1987) hat für Wahrscheinlichkeiten folgende widerspruchsfreien Grundsätze (Axiome) angegeben, auf die die Theorie der Wahrscheinlichkeitsrechnung aufbaut: 1.) Die Wahrscheinlichkeit P(A), die jedem Ereignis A Ω zugeordnet wird, ist eine reelle Zahl mit 0 P(A) 1. 2.) Für die Wahrscheinlichkeit des sicheren Ereignisses Ω gilt: P(Ω) = 1. 3.) Für die Wahrscheinlichkeit der Vereinigung von n paarweise disjunkten Ereignissen gilt: n n P( A i ) = P(A i ). i=1 i=1 Es ist auch n = möglich. 12
Wahrscheinlichkeit von Ereignissen 3.3 Definition (Laplace-Experiment) Falls bei einem Zufallsexperiment mit endlich vielen Ergebnissen alle Elementarereignisse mit gleicher Wahrscheinlichkeit eintreten können, spricht man von einem Laplace-Experiment. 3.4 Definition (Laplace sche Wahrscheinlichkeit) Für die Wahrscheinlichkeit eines Ereignisses A bei einem Laplace-Experiment gilt: P(A) = A Ω Man nennt sie Laplace sche Wahrscheinlichkeit. Anzahl der für A günstigen F älle =. Anzahl aller möglichen F älle A bezeichnet die Anzahl der Elementarereignisse in A. Alternativ schreibt man auch: #A. 13
Wahrscheinlichkeit von speziellen Ereignissen 4 Wahrscheinlichkeit von speziellen Ereignissen Die in diesem Kapitel aufgeführten Sätze lassen sich aus den Axiomen von Kolmogoroff (3.2) folgern. 4.1 Satz (Wahrscheinlichkeit des unmöglichen Ereignisses) Für die Wahrscheinlichkeit des unmöglichen Ereignisses gilt: P( ) = 0. Wenn ein Ereignis die Wahrscheinlichkeit Null hat, folgt daraus nicht, daß es das unmögliche Ereignis ist. 4.2 Satz (Wahrscheinlichkeit des Komplementärereignisses) Ist A das Komplementärereignis von A, so gilt für die Wahrscheinlichkeit: P(A) = 1 P(A). 4.3 Satz (Wahrscheinlichkeit des Teilereignisses) Ist A Teilereignis von B, also A B, so gilt für die Wahrscheinlichkeit: P(A) P(B). 4.4 Satz (Wahrscheinlichkeit durch Zerlegung eines Ereignisses) Seien A und B zwei beliebige Ereignisse, so gilt für die Wahrscheinlichkeit: P(A) = P(A B) + P(A B) 14
Wahrscheinlichkeit von speziellen Ereignissen 4.5 Satz (Additionssatz für zwei Ereignisse) Ist A B die Vereinigung zweier beliebiger Ereignisse, so gilt für die Wahrscheinlichkeiten: P(A B) = P(A) + P(B) P(A B). Abbildung: 4.6 Satz (Additionssatz für drei Ereignisse) Ist A B C die Vereinigung dreier beliebiger Ereignisse, so gilt für die Wahrscheinlichkeit: P(A B C) = P(A)+P(B)+P(C) P(A B) P(A C) P(B C)+P(A B C). Abbildung: 15
Wahrscheinlichkeit von speziellen Ereignissen 4.7 Satz (Wahrscheinlichkeit der Differenz zweier Ereignisse) Ist A\B die Differenz zweier beliebiger Ereignisse, so gilt für die Wahrscheinlichkeit: P(A\B) = P(A) P(A B). Falls B A gilt: P(A\B) = P(A) P(B). 16
Bedingte Wahrscheinlichkeit 5 Bedingte Wahrscheinlichkeit 5.1 Definition (Bedingte Wahrscheinlichkeit) Oft interessiert man sich bei einem Zufallsvorgang für die Wahrscheinlichkeit eines Ereignisses A unter der Voraussetzung, daß ein bestimmtes Ereignis B bereits eingetreten ist. Man schreibt dafür P(A B) und spricht von der bedingten Wahrscheinlichkeit des Ereignisses A unter der Bedingung B (kurz: P von A gegeben B). Sie wird definiert durch wobei P(B) > 0 vorausgesetzt ist. P(A B) = P(A B), P(B) 5.2 Satz (Multiplikationssatz für zwei beliebige Ereignisse) Sind A und B zwei beliebige Ereignisse mit P(A) > 0 bzw. P(B) > 0, so folgt für die Wahrscheinlichkeit, daß sowohl A als auch B eintritt (Ereignis A B) unmittelbar aus 5.1: P(A B) = P(A) P(B A) bzw. P(A B) = P(B) P(A B). 5.3 Satz (Totale Wahrscheinlichkeit) Seien A 1,..., A n paarweise disjunkte Ereignisse mit n i=1 A i = Ω. Dann gilt für die Wahrscheinlichkeit eines beliebigen Ereignisses B: P(B) = n P(B A i ) P(A i ). i=1 17
Bedingte Wahrscheinlichkeit 5.4 Satz (Formel von Bayes) Seien A 1,..., A n paarweise disjunkte Ereignisse mit n i=1 A i = Ω. Weiter sei B ein beliebiges Ereignis mit P(B) > 0. Dann gilt: P(A j B) = P(B A j ) P(A j ) n i=1 P(B A i) P(A i ), j = 1,..., n. 18
Unabhängigkeit von Ereignissen 6 Unabhängigkeit von Ereignissen 6.1 Definition (Unabhängigkeit von zwei Ereignissen) Die Ereignisse A und B heißen (stochastisch) unabhängig, wenn die Wahrscheinlichkeit des einen Ereignisses nicht von dem Eintreten oder Nicht-Eintreten des anderen Ereignisses abhängt. Das ist genau dann der Fall, wenn gilt: P(A B) = P(A B) und P(B A) = P(B A) mit 0 < P(A), P(B) < 1 oder vereinfacht P(A B) = P(A) P(B). 6.2 Definition (Unabhängigkeit von n Ereignissen) Die Ereignisse A 1, A 2,..., A n (n 2) heißen genau dann (stochastisch) unabhängig, wenn für alle Kombinationen von zwei und mehr Ereignissen gilt: P(A i A j ) = P(A i ) P(A j ) für alle 1 i, j n, i j P(A i A j A k ) = P(A i ) P(A j ) P(A k ) für alle 1 i, j, k n,i j k. P(A 1 A 2... A n ) = P(A 1 ) P(A 2 )... P(A n ) 6.3 Satz (Multiplikationssatz für zwei unabhängige Ereignisse) Sind A und B zwei unabhängige Ereignisse mit P(A) > 0 bzw. P(B) > 0, so gilt für die Wahrscheinlichkeit, daß sowohl A als auch B eintritt (Ereignis A B): P(A B) = P(A) P(B). 19
Unabhängigkeit von Ereignissen 6.4 Satz (Multiplikationssatz für n unabhängige Ereignisse) Sind A 1,..., A n unabhängige Ereignisse mit P(A i ) > 0, i = 1,..., n, so gilt für die Wahrscheinlichkeit, daß alle n Ereignisse eintreten: n n P( A i ) = P(A i ). i=1 i=1 20
Kombinatorik 7 Kombinatorik 7.1 Definition (Fakultät) n! (sprich: n Fakultät) ist die Abkürzung für das Produkt der ersten n aufeinander folgenden positiven ganzen Zahlen: n! = 1 2... (n 1) n für n N. Es gilt 0! = 1. 7.2 Definition (Binomialkoeffizient) Der Ausdruck ( n k) (sprich: n über k) ist eine Abkürzung für den Quotienten ( ) n n (n 1) (n 2)... (n k + 1) n! = = für k, n N, k n, k k! k!(n k)! und heißt Binomialkoeffizient. Es gilt ( n n) = ( n 0) = 1. 7.3 Satz (Anordnungsmöglichkeiten/Permutationen) (a) n verschiedene Dinge lassen sich (mit Berücksichtigung der Reihenfolge) auf n (n 1)... 2 1 = n! (b) verschiedene Arten anordnen (Anzahl der Permutationen). n Dinge, von denen jeweils n 1, n 2,..., n r gleich sind lassen sich auf n! n 1! n 2!... n r! verschiedene Arten anordnen (Anzahl der Permutationen). 21
Kombinatorik 7.4 Satz (Auswahlmöglichkeiten mit Berücksichtigung der Reihenfolge) Aus n verschiedenen Dingen werden k Stück mit Berücksichtigung der Reihenfolge ausgewählt. Dann beträgt die Anzahl der verschiedenen Auswahlmöglichkeiten: (a) beim Ziehen ohne Zurücklegen n (n 1) (n 2)... (n k + 1) = n! (n k)! für k n. (b) beim Ziehen mit Zurücklegen n k für beliebiges k. 7.5 Satz (Auswahlmöglichkeiten ohne Berücksichtigung der Reihenfolge) Aus n verschiedenen Dingen werden k Stück ohne Berücksichtigung der Reihenfolge ausgewählt. Dann beträgt die Anzahl der verschiedenen Auswahlmöglichkeiten: (a) beim Ziehen ohne Zurücklegen ( ) n = k n! k! (n k)! für k = 1,..., n. (b) beim Ziehen mit Zurücklegen ( ) n + k 1 k für beliebiges k. 22
Kombinatorik 7.6 Satz (Urnenmodelle) Eine Urne enthalte N Kugeln, von denen M schwarz und die restlichen N M weiß sind. Dabei gelte 1 M N. Aus dieser Urne werden n Kugeln zufällig ausgewählt. p k sei die Wahrscheinlichkeit dafür, dass sich unter den n ausgewählten Kugeln genau k schwarze befinden. Die Wahrscheinlichkeit lautet: (a) beim Ziehen ohne Zurücklegen p k = ( M )( N M ) k n k ( N n) für 0 k min(n, M); 0 n k N M; n N. (b) beim Ziehen mit Zurücklegen p k = ( ) n k ( ) M k N ( N M N ) n k für k = 0, 1,..., n; n beliebig. 23