Wahrscheinlichkeitsräume und Zufallsvariablen

Transkript

1 Kapitel 1 Wahrscheinlichkeitsräume und Zufallsvariablen 1.1 Modellierung von Zufallsexperimenten Der Begriff Zufallsexperiment steht hier für jeden realen Vorgang, der vom Zufall beeinflusst wird. Typischerweise liefert ein Zufallsexperiment ein Ergebnis, das zufällig (zumindest teilweise) ist. Beispiele für Zufallsexperimente: Glücksspiele (z.b. Münzwurf, Würfeln, Lotto) 0-1-Experimente (Bernoulli-Experimente), wobei z.b. 1 für Erfolg und 0 für Misserfolg steht (z.b. Therapie, Platzierung, Schießen). Das betrachtete Zufallsexperiment kann die einmalige Durchführung eines 0-1-Experimentes sein oder auch eine mehrmalige (z.b. die 10-malige) unabhängige Durchführung eines 0-1-Experimentes. Zufällige Anzahlen (z.b. Anzahl von Kunden oder Aufträgen, Anzahl von Verkehrsunfällen, Anzahl radioaktiver Zerfälle) Lebensdauern / Ausfallzeitpunkte (z.b. von technischen Bauteilen, von Lebewesen) Industrielle Fertigung: Quantitative Charakteristika gefertigter Produkte (z.b. elektr. Widerstände, Festigkeit von Materialien, geometrische Abmessungen von techn. Bauteilen) Mathematisches Modell eines Zufallsexperiments: Ein W-Raum (M, A, P ), wobei die Bestandteile diese Tripels folgende Bedeutung haben. M ist die Menge aller möglichen Ergebnisse des Zufallsexperiments. Die Festlegung der Ergebnismenge M kann ruhig auch Redundanzen beinhalten, d.h. Elemente x als mögliche Ergebnisse einbeziehen, die praktisch gar nicht möglich sind. A ist ein System von Ereignissen, denen jeweils eine Wahrscheinlichkeit zugeordnet werden kann; ein Ereignis A ist eine Teilmenge von M und steht für das Ereignis, dass das Ergebnis x des Zufallsexperiments in A liegt (x A). P ist eine W-Verteilung, die jedem Ereignis A A eine W keit P (A) [ 0, 1 ] zuordnet. Die W-Verteilung P ist geeignet festzulegen ( Verteilungsannahme ) entsprechend dem konkret zu beschreibenden Zufallsexperiment. Im diskreten Fall, d.h. wenn die Ergebnismenge M abzählbar ist (z.b. endlich ist), definiert man eine W-Verteilung P einfach durch Festlegung der W keiten P (x) für jedes mögliche Ergebnis x M (Elementarereignis); das Ereignissystem A ist die gesamte Potenzmenge von M und die W keiten für beliebige Ereignisse ergeben sich dann durch P (A) = x A P (x) A M. 1

2 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 2 In nicht-diskreten Fällen (z.b. M = R) ist das komplizierter; hier können wir uns i.a. nicht auf Elementarereignisse zurückziehen; auch kann i,a. das Ereignissystem A nicht als die gesamte Potenzmenge P(M) gewählt werden. Beispiele: Modelle für einige einfache Zufallsexperimente (1) Würfeln (einmal). M = 1, 2, 3, 4, 5, 6},. P (x) = 1/6 x = 1, 2,..., 6. (2) Würfeln (zweimal, unabhängig voneinander). Ein Würfel wird zweimal geworfen (erster Wurf und zweiter Wurf), oder es werden zwei unterscheidbare Würfel (Würfel Nr. 1 und Würfel Nr. 2) gleichzeitig geworfen. M = x = (x 1, x 2 ) : x 1, x 2 1, 2, 3, 4, 5, 6} }, P (x) = 1/36 x = (x 1, x 2 ) M. (3) Lotto-Ziehung 6 aus 49 ohne Zusatzzahl. M = x = (x 1, x 2,..., x 6 ) : 1 x 1 < x 2 <... < x 6 49, x i N (1 i 6) }, P (x) = 1 /( ) 49 6 x M. (4) 0-1-Experiment (einmalige Durchführung). M = 0, 1 }, P (x) = p, falls x = 1 1 p, falls x = 0, wobei p [ 0, 1 ] gegeben ist (die Erfolgswahrscheinlichkeit ). Interessanter sind mehrmalige unabhängige Durchführungen des 0-1-Experiments: (5) 0-1-Experiment (n-malige unabhängige Durchführung). M = 0, 1} n = x = (x 1, x 2,..., x n ) : x i 0, 1} i = 1,..., n }, P (x) = p S(x) (1 p) n S(x) x = (x 1,..., x n ) M, wobei S(x) = n (6) Eine zufällige Anzahl: Binomial-Modell. Zufallsexperiment: Ein 0-1-Experiment (mit Erfolgswahrscheinlichkeit p [ 0, 1 ] ) wird n-mal unabhängig durchgeführt, und als Ergebnis wird lediglich die Anzahl der erzielten Erfolge festgehalten. Modell: ( ) n M = 0, 1, 2,..., n }, P (x) = p x (1 p) n x x = 0, 1,..., n. x (6) Eine zufällige Anzahl: Poisson-Modell. Z.B.: Die Anzahl der Ankünfte von Kunden oder Aufträgen in einer Service-Station in einem definierten Zeitraum; die Anzahl von Verkehrsunfällen in einer definierten Region in einem definierten Zeitraum; die Anzahl verkaufter Produkte in einem definierten Zeitraum; die Anzahl registrierter Impulse in der Umgebung einer radioaktiven Substanz in einem definierten Zeitraum. Ein oft verwendetes Modell: x i. M = N 0, mit einem geeigneten λ ( 0, ). λ λx P (x) = e x! x N 0,

3 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen Sigma-Algebra, W-Verteilung und W-Raum Definition 1.1 (Sigma-Algebra) Seien M eine nicht-leere Menge und A P(M) (Potenzmenge von M). Das Mengensystem A heißt eine Sigma-Algebra in M, wenn es die folgenden drei Bedingungen erfüllt. (i) M A. (ii) Wenn A A, dann A c A (wobei A c = M \ A). (iii) Wenn A n A für alle n N, dann n=1 A n A. Wenn A eine Sigma-Algebra in M ist, dann heißt das Paar (M, A) ein Messraum oder ein messbarer Raum. Folgerung: Man zeigt leicht, dass eine Sigma-Algebra A in M auch folgende Eigenschaften hat: Wenn A, B A, dann A B A, A B A und A \ B A ; wenn A n A n N, dann n=1 A n A. Insbesondere für überabzählbare Mengen M (wie M = R oder M = R k ) wird die folgende implizite Definition von interessanten Sigma-Algebren wichtig. Lemma 1.2 (Erzeugte Sigma-Algebra) Seien M eine nicht-leere Menge und E P(M). Dann: Es existiert genau eine Sigma-Algebra A 0 in M, die die beiden folgenden Bedingungen (1) und (2) erfüllt. (1) E A 0. (2) Für jede Sigma-Algebra A in M mit E A gilt A 0 A. Die Sigma-Algebra A 0 heißt die von E erzeugte Sigma-Algebra in M; abkürzende Schreibweise: A 0 = σ(e) Definition 1.3 (W-Verteilung) Seien (M, A) ein Messraum und P : A [ 0, 1 ]. Die Funktion P heißt eine W-Verteilung auf (M, A), wenn P die folgenden beiden Bedingungen erfüllt. (i) P ( ) = 0 und P (M) = 1. (ii) Wenn A n A (n N) eine Folge paarweise disjunkter Mengen ist, dann ( ) P A n n=1 = P ( ) A n. n=1 (Diese Bedingung nennt man die Sigma-Additivität von P ). Wenn P eine W-Verteilung auf (M, A) ist, dann heißt das Tripel (M, A, P ) ein W-Raum.

4 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 4 Bemerkung Eine W-Verteilung P hat insbesondere die Eigenschaft der Additivität : Wenn A, B A und A B =, dann P (A B) = P (A) + P (B). Desweiteren implizieren Bedingungen (i), (ii) von Definition 1.3 weitere Eigenschaften: Lemma 1.4 (Weitere Eigenschaften einer W-Verteilung) Sei (M, A, P ) ein W-Raum. Dann gilt: (1) Wenn A, B A und A B, dann P (A) P (B) und P (B \ A) = P (B) P (A). Insbesondere: P ( A c) = 1 P (A) A A. ( ) (2) Wenn A n A für alle n N, dann P A n P ( ) A n. n=1 n=1 (3) Wenn A n A (n N) eine isotone Mengenfolge ist (d.h. A n A n+1 n N), ( ) dann: P A n = lim P (A n). (Stetigkeit von unten) n n=1 Wenn B n A (n N) eine antitone Mengenfolge ist (d.h. B n+1 B n n N), ( ) dann: P B n = lim P (B n). (Stetigkeit von oben) n n=1 Für Situationen, in denen eine Sigma-Algebra nur implizit durch einen Erzeuger definiert ist, ist das folgende Eindeutigkeitsresultat für W-Verteilungen bisweilen nützlich. Lemma 1.5 (Durchschnitt-stabiler Erzeuger / Eindeutigkeitsresultat) Sei E P(M) ein durchschnitt-stabiles Mengensystem, d.h.: Wenn E, F E, dann E F E. Sei A = σ(e), und seien P 1 und P 2 zwei W-Verteilungen auf (M, A), die auf E übereinstimmen: P 1 (E) = P 2 (E) E E. Dann folgt: P 1 = P 2, d.h. P 1 (A) = P 2 (A) A A. 1.3 Diskrete W-Räume Kleiner Exkurs: Abzählbare Summation nicht-negativer erweitert-reeller Zahlen Seien I eine abzählbare Menge und a i [ 0, ] = [ 0, ) } i I. Dann wird a i [ 0, ] i I wie folgt (in Schritten (0) - (3)) definiert. Zunächst sei vorausgesetzt: a i < i I. (0) Im Fall I = : a i := 0. i (1) Wenn I und I endlich ist, I = r und I = i 1,..., i r }, dann r a i := a in. i I n=1

5 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 5 (2) Wenn I unendlich ist, dann sei eine bijektive Abbildung σ : N I gewählt, und a i := a σ(n), wobei im Fall der (bestimmten) Divergenz der Reihe: a σ(n) :=. i I n=1 Anmerkung: Nach dem Umordnungssatz für absolut konvergente Reihen ist damit i I d.h. unabhängig von der speziellen Wahl der Abzählung σ. n=1 a i wohldefiniert, (3) Im Fall, dass nicht alle a i endlich sind, also ein i 0 I mit a i0 = existiert, wird definiert: a i ; =. i I Zwei Folgerungen: } a i = sup a i : E I, E endlich. i I i E (Das Supremum einer nicht-leeren Teilmenge S [ 0, ] ist das kleinste c [ 0, ] mit s c s S ; außerdem wird hier definiert: sup := 0). Sei eine disjunkte Zerlegung von I in abzählbar viele Teilmengen gegeben: I = k K I k, wobei K abzählbar und I k I, (k K), paarweise disjunkt. Dann: a i = ( ) a i. i I k K i I k Lemma 1.6 (Diskrete W-Verteilung und Zähldichte) Sei M eine nicht-leere abzählbare Menge, und A = P(M) (die Potenzmenge von M). (a) Sei P eine W-Verteilung auf ( M, P(M) ) ; betrachte die reelle Funktion auf M : M x P (x) := P ( x} ) (die Zähldichte von P ). Diese Funktion erfüllt die Bedingung P (x) 0 x M und und es gilt P (A) = x A P (x) A M. P (x) = 1, x M ( ) (b) Sei umgekehrt eine reelle Funktion M x P (x) gegeben, die die Bedingung ( ) erfüllt; dann ist durch P (A) := x A P (x) A M eine W-Verteilung auf ( M, P(M) ) definiert. Bemerkung: Wenn M abzählbar und P eine W-Verteilung auf ( M, P(M) ) sind, dann nennen wir (M, P(M), P ) einen diskreten W-Raum, für den wir auch einfach (M, P ) schreiben. Definition 1.7 (Spezielle diskrete W-Verteilungen) In den nachfolgend genannten Fällen (1) (6) wird jeweils eine abzählbare Menge M spezifiziert und durch Angabe einer Zähldichte P (x) eine W-Verteilung P auf ( M, P(M) ) definiert.

6 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 6 (1) Sei M irgendeine nicht-leere endliche Menge. Die Gleichverteilung auf M, Abk.: P = U(M), ist durch die konstante Zähldichte definiert: P (x) = 1 für alle x M. M (2) Sei M = 0, 1,..., n } für ein gegebenes n N, und sei noch p [ 0, 1 ] gegeben. Die Binomialverteilung zu den Parameterwerten n und p, Abk.: P = Bi(n, p), ist durch die Zähldichte definiert: ( ) n P (x) = p x (1 p) n x für alle x = 0, 1,..., n. x (3) Sei M = 0, 1,..., n } für ein gegebenes n N, und seien noch N N, s N 0 mit N s und N n gegeben. Die hypergeometrische Verteilung zu den Parameterwerten N, s und n, Abk.: P = Hyp(N, s, n), ist durch die Zähldichte definiert: P (x) = ( s ( N s ) x) n x ( N für alle x = 0, 1,..., n. n) (4) Seien M = N 0 und λ eine gegebene positive reelle Zahl. Die Poisson-Verteilung zum Parameterwert λ, Abk.: P = Poi(λ), ist durch die Zähldichte definiert: P (x) = e λ λx x! für alle x N 0. (5) Seien M = x N : x r } mit einem gegebenen r N, und sei noch p ( 0, 1) gegeben. Die negative Binomialverteilung zu den Parameterwerten r und p, Abk.: P = NegBi(r, p), ist durch die Zähldichte definiert: P (x) = p r ( x 1 r 1 ) (1 p) x r für alle x = r, r + 1, r + 2,.... Im Fall r = 1, d.h. M = N und P (x) = p (1 p) x 1 für alle x N, heißt NegBi(r, p) auch die geometrische Verteilung zum Parameterwert p, Abk.: Geo(p). (6) Sei M = x = (x 1, x 2,..., x k ) N k 0 : } k j=1 x j = n, für gegebene k N, k 2, und n N, und seien noch p 1, p 2,..., p k [ 0, 1 ] mit k j=1 p j = 1 gegeben. Die Multinomialverteilung zu den Parameterwerten n und p 1, p 2,..., p k, Abk.: P = Mu(n; p 1, p 2,..., p k ), ist durch die Zähldichte definiert: n! P (x) = x 1! x 2! x k! px 1 1 px 2 2 px k k x = (x 1, x 2,..., x k ) M. Diskrete Verteilungen von Definition 1.7 : Typische Zufallsexperimente (1) Gleichverteilung Ein Objekt wird rein zufällig aus einer endlichen Grundgesamtheit M gezogen. Modell: Der W-Raum ( M, U(M) ). (2) Binomialverteilung n-malige unabhängige Durchführung eines 0-1-Experiments mit Wahrscheinlichkeit p für 1 und 1 p für 0, und als Ergebnis des (Gesamt-)Experiments wird die Anzahl der erzielten 1 -en festgehalten. Modell: Der W-Raum ( 0, 1,..., n}, Bi(n, p) ).

7 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 7 (3) Hypergeometrische Verteilung Gegeben eine Grundgesamtheit mit N Objekten; jedes Objekt trägt einen binären (0-1-wertigen) Merkmalswert (z.b. gut/schlecht); insgesamt haben genau s Objekte den Merkmalswert 1. Zufallsexperiment: Es wird eine Zufallsstichprobe vom Umfang n aus der Grundgesamtheit gezogen (Ziehen ohne Zurücklegen), und als Ergebnis wird die Anzahl aller Objekte der Stichprobe mit Merkmalswert 1 festgehalten. Modell: Der W-Raum ( 0, 1,..., n}, Hyp(N, s, n) ). (4) Poisson-Verteilung Eine zufällige Anzahl, die nicht von vorne herein nach oben beschränkt ist (im Unterschied zu (2) und (3)), kann oft näherungsweise modelliert werden durch den W-Raum ( N 0, Poi(λ) ) (mit einem geeigneten λ > 0). Konkretere Beispiele etwa: Anzahl von Kunden, die innerhalb eines definierten Zeitraumes eine bestimmte Service-Station besuchen; Anzahl der zerfallenen Teilchen einer radioaktiven Substanz in einem definierten Zeitraum. (5) Negative Binomialverteilung, insbes. Geometrische Verteilung Ein 0-1-Experiment mit Wahrscheinlichkeit p für 1 und 1 p für 0 wird so oft unabhängig durchgeführt, bis 1 r-mal aufgetreten ist (z.b. warten auf den r-ten Erfolg ). Die Anzahl der benötigten Durchführungen ist das Ergebnis des (Gesamt-)Zufallsexperiments. Modell: Der W-Raum ( r, r + 1, r + 2,...}, NegBi(r, p) ). (6) Multinomialverteilung Das Zufallsexperiment bestehe in der n-maligen unabhängigen Durchführung eines Einzelexperiments, das k mögliche verschiedene Ergebnisse a 1, a 2,..., a k hervorbringen kann, und zwar mit den jeweiligen W keiten p 1, p 2,..., p k. Als Ergebnis des (Gesamt-)Experiments werde nur festgehalten x = (x 1, x 2,..., x k ) mit x j = Anzahl des Auftretens von a j (1 j k). Modell: Der W-Raum ( M, Mu(n; p 1, p 2,..., p k ) ) mit M = x = (x 1, x 2,..., x k ) N k 0 : k j=1 } x j = n. 1.4 W-Verteilungen auf der Zahlengeraden Hier beschäftigen wir uns mit W-Verteilungen im Fall M = R. Zunächst ist eine geignete Sigma- Algebra zu definieren. Definition 1.8 (Borelsche Sigma-Algebra in R) Bezeichne I 1 das System aller links offenen und rechts abgeschlossenen Intervalle endlicher Länge: } I 1 = (a, b ] : a, b R, a b. Die von I 1 in R erzeugte Sigma-Algebra heißt die Borelsche Sigma-Algebra in R, und wir bezeichnen sie mit B 1 Bemerkung:. Andere Erzeuger der Borelschen Sigma-Algebra Es lassen sich viele andere Mengensysteme in R finden, die ebenfalls Erzeuger von B 1 sind, z.b. die links unbeschränkten und rechts abgeschlossenen Intervalle: } (, b ] : b R.

8 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 8 W-Verteilungen auf (R, B 1 ) können wir nicht elementar direkt definieren, zumindest nicht die stetigen W-Verteilungen (s.unten). Elementar definierbar sind jedoch diskrete W-Verteilungen auf (R, B 1 ) : Dies sind effektiv diskrete W-Verteilungen auf ( M, P(M) ) wie in Abschnitt 1.3, wobei M eine abzählbare Teilmenge von R ist, z.b. M = 0, 1..., n} für ein gegebenes n N, oder M = N 0. Es gilt nämlich: Lemma 1.9 (Diskrete W-verteilungen auf (R, B 1 )) Sei M eine nicht-leere, abzählbare Teilmenge von R, und sei P eine W-Verteilung auf ( M, P(M) ). Dann können wir P zu einer W-Verteilung auf (R, B 1 ) machen: P (A) := P (A M) A B 1. Anmerkung: Dies ist eine triviale Fortsetzung der W-Verteilung P ; es gilt offensichtlich: P P(M) = P, und P (R \ M) = 0. Im Wesentlichen sind P und P dasselbe, aber formal verschieden. Ein wichtiges Hilfsmittel zur Beschreibung beliebiger W-Verteilungen auf (R, B 1 ) erweist sich der Begriff der Verteilungsfunktion. Definition 1.10 (Verteilungsfunktion einer W-Verteilung auf (R, B 1 )) Sei P eine W-Verteilung auf (R, B 1 ). Die Verteilungsfunktion von P ist die Funktion F P : R [ 0, 1 ], F P (b) := P ( (, b ] ) b R. Lemma 1.11 (Eigenschaften einer Verteilungsfunktion) Für die Verteilungsfunktion F P einer W-Verteilung P auf (R, B 1 ) gilt: (i) F P ist isoton; (ii) F P ist rechtsseitig stetig; (iii) lim F (b) = 0 und lim F (b) = 1. b b Weiterhin gilt: P ( (a, b ] ) = F P (b) F P (a) a, b R, a b ; P ( c} ) = F P (c) F P (c -) c R, wobei F P (c -) := lim x c, x<c F P (x). Bemerkung: Stetige W-Verteilung Wenn P eine W-Verteilung auf (R, B 1 ) ist, deren Verteilungsfunktion F P stetig ist, dann nennen wir P eine stetige W-Verteilung (im Kontrast zu einer diskreten W-Verteilung). Nach Lemma 1.11 ist P genau dann stetig, wenn P ( c} ) = 0 c R. Das entscheidende Resultat über Verteilungsfunktionen ist nun, dass eine Eins-zu Eins-Korrespondenz zwischen Verteilungsfunktionen und W-Verteilungen auf (R, B 1 ) besteht. Dabei heiße jetzt jede Funktion F : R [ 0, 1 ], die die Bedingungen (i), (ii) und (iii) von Lemma 1.11 (mit F statt F P ) erfüllt,

9 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 9 eine Verteilungsfunktion auf R, wobei nicht gesagt ist, dass F tatsächlich die Verteilungsfunktion einer W-Verteilung auf (R, B 1 ) ist. Dem ist aber so, wie das folgende Hauptresultat zeigt. Theorem 1.12 (Korrespondenz: W-Verteilung Verteilungsfunktion) Bezeichne V(R) die Menge aller Verteilungsfunktionen auf R und W(R, B 1 ) die Menge aller W- Verteilungen auf (R, B 1 ). Dann ist durch P F P eine bijektive Abbildung von W(R, B 1 ) auf V(R) gegeben. Die für uns wichtigen stetigen W-Verteilungen sind sogar Lebesgue-stetig, d.h. sie besitzen eine Lebesgue- Dichte im Sinne des nachfolgenden Lemmas. Lemma 1.13 (W-Verteilung mit Lebesgue-Dichte) Sei f : R [ 0, ) eine über R integrierbare Funktion mit Dann ist durch F (b) := b f(x) dx b R f(x) dx = 1. eine (stetige) Verteilungsfunktion auf R gegeben und damit eine W-Verteilung P auf (R, B 1 ). Man sagt: P besitzt die Lebesgue-Dichte f. Bemerkung: W keiten als Integrale der Lebesgue-Dichte Die W-Verteilung P besitze die Lebesgue-Dichte f. Dann: P ( [ a, b ] ) = b a f(x) dx a, b R, a b ; P ( [ a, ) ) = a f(x) dx a R. Darüber hinaus, wenn wir die allgemeinere Theorie des Lebesgue-Integrals einbeziehen: P (A) = f dµ A B 1. A Definition 1.14 (Spezielle Lebesgue-stetige W-Verteilungen) In den nachfolgenden Fällen (1) (6) wird jeweils eine W-Verteilung P auf (R, B 1 ) durch eine Lebesgue- Dichte f definiert. (1) Seien β R und σ ( 0, ) gegeben. Die Normalverteilung zu den Parameterwerten β und σ 2, Abk.: P = N(β, σ 2 ), ist definiert durch die Lebesgue-Dichte: ( 1 f(x) = σ 2π exp 1 ( x β ) ) 2 x R. 2 σ (2) Seien c, d R mit c < d gegeben. Die Rechteck-Verteilung oder die Gleichverteilung auf dem Intervall ( c, d ), Abk.: P = R(c, d), ist definiert durch die Lebesgue-Dichte: 1/(d c), falls c < x < d f(x) = x R. 0, sonst (3) Sei λ ( 0, ) gegeben. Die Exponentialverteilung zum Parameterwert λ, Abk.: P = Exp(λ), ist definiert durch die Lebesgue-Dichte: ( ) λ exp λ x, falls x > 0 f(x) = x R. 0, sonst

10 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 10 (4) Seien c, λ ( 0, ) gegeben. Die Weibull-Verteilung zu den Parameterwerten c und λ, Abk.: P = Wei(c, λ), ist definiert durch die Lebesgue-Dichte: ( ) c λ f(x) = c x c 1 exp (λx) c, falls x > 0 x R. 0, sonst (5) Seien c, λ ( 0, ) gegeben. Die Gamma-Verteilung zu den Parameterwerten c und λ, Abk.: P = Ga(c, λ), ist definiert durch die Lebesgue-Dichte: λ c f(x) = Γ(c) xc 1 exp ( λx ), falls x > 0 x R, 0, sonst wobei Γ die Gamma-Funktion bezeichnet, d.h. Γ(c) = 0 t c 1 exp( t ) dt. (6) Seien β R und σ ( 0, ) gegeben. Die Log-Normalverteilung zu den Parameterwerten β und σ 2, Abk.: P = LogN(β, σ 2 ), ist definiert durch die Lebesgue-Dichte: ( 1 f(x) = σ 1 2π x exp 1 ( ln(x) β ) ) 2 x ( 0, ) ; f(x) = 0 x 0. 2 σ Bemerkung: Modellierung Exponential- und Weibull-Verteilungen werden insbesondere zur Modellierung zufälliger Lebensdauern verwendet. Beispiele zur Verwendung von Normalverteilungen und Log-Normalverteilungen: Charakteristik eines gefertigten Produkts (z.b. Dicke eines Bleches, Länge eines Stiftes, Widerstand eines elektrischen Bauteils). Insbesondere Normalverteilungen werden in vielen weiteren Situationen zur Modellierung verwendet. 1.5 W-Verteilungen im euklidischen Raum Wir betrachten den k-dimensionalen euklidischen Raum R k, (k N gegeben). In Verallgemeinerung von Definition 1.8 definiert man die Borelsche Sigma-Algebra in R k wie folgt. Definition 1.15 (Borelsche Sigma-Algebra in R k ) Bezeichne I k das System aller links offenen und rechts abgeschlossenen achsen-parallelen Quader : } I k = ( a, b ] : a, b R k, a b, wobei für a = (a 1,..., a k ) R k und b = (b 1,..., b k ) R k definiert sei: a b : a i b i i = 1,..., k ; a < b : a i < b i i = 1,..., k ; und für a, b R k mit a b : ( a, b ] := x R k : a < x b } = k ( a i, b i ]. Die von I k in R k erzeugte Sigma-Algebra heißt die Borelsche Sigma-Algebra in R k, und wir bezeichnen sie mit B k Bemerkung: Andere Erzeuger von B k Es ist nicht schwer zu zeigen, dass jedes der folgenden Mengensysteme ebenfalls ein Erzeuger der Borelschen Sigma-Algebra B k ist.

11 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 11 (i) Das System aller abgeschlossenen nicht-degenerierten achsen-parallelen Quader: [ a, b ] : a, b R k, a < b }, wobei [ a, b ] : x R k : a x b } ; (ii) das System (iii) das System k (, b i ] : b = (b 1,..., b k ) R k} ; k } A i : A i B 1 i = 1,..., k ; (iv) das System aller offenen Teilmengen von R k ; (v) das System aller abgeschlossenen Teilmengen von R k ; (vi) das System aller kompakten Teilmengen von R k. Bemerkung:. Lebesgue-messbare Mengen (im Sinne der Analysis) Das System der Lebesgue-messbaren Teilmengen von R k, das in der Analysis eingeführt wurde, steht mit der Borelschen Sigma-Algebra in folgendem Zusammenhang (was aber nicht leicht zu sehen ist). (a) Wenn A R k eine Lebesgue-messbare Menge (im Sinne der Analysis) ist, dann gibt es eine Borelsche Menge B B k und eine Lebesgue-Nullmenge N R k, so dass A = B N. (b) Jede Borelsche Menge B B k mit endlichem äußeren Lebesgueschen Maß ist eine Lebesguemessbare Menge. Analog zum Fall der Dimension k = 1 lassen sich diskrete W-Verteilungen auf (R k, B k ) auf simple Weise gewinnen: Lemma 1.16 (Diskrete W-Verteilungen auf (R k, B k )) Sei M eine nicht-leere, abzählbare Teilmenge von R k, und sei P eine W-Verteilung auf ( M, P(M) ). Dann können wir P zu einer W-Verteilung P auf (R k, B k ) fortsetzen: P (A) := P (A M) A B k. Beispiel: Multinomial-Verteilung (s. Definition 1.7, Punkt (6)). Die Korrespondenz zwischen W-Verteilungen und Verteilungsfunktionen im Fall k = 1 (Theorem 1.12) lässt sich auf beliebige Dimension k 1 verallgemeinern, was hier aber nicht dargestellt werden soll (weil recht aufwändig). Als stetige W-Verteilungen auf (R k, B k ) seien hier nur die Lebesgue-stetigen W-Verteilungen genannt, die also eine Lebesgue-Dichte besitzen. Hier wird der Begriff des Lebesgue- Integrals der Analysis verwendet. Lemma 1.17 (W-Verteilung auf (R k, B k ) mit Lebesgue-Dichte) Sei f : R k [ 0, ) eine Lebesgue-integrierbare Funktion mit f dµ = 1. R k Dann ist durch P (A) := f dµ := f 1 A dµ A B k A R k eine W-Verteilung P auf (R k, B k ) gegeben. Man sagt: P besitzt die Lebesgue-Dichte f. Dabei bezeichnet 1 A die Indikatorfunkttion von A R k, d.h. 1 A (x) = 1, falls x A 0, falls x A c, x R k.

12 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 12 Von besonderem Interesse sind Lebesgue-Dichten, die aus k eindimensionalen Lebesgue-Dichten durch eine Produkt gewonnen werden: Lemma 1.18 (Produkt von k Lebesgue-stetigen W-Verteilungen auf (R, B 1 )) Seien f 1,..., f k mit f i : R [ 0, ) und f i (x) dx = 1, für alle i = 1,..., k. Bezeichne P i die W-Verteilung auf (R, B 1 ) mit Lebesgue-Dichte f i (s. Lemma 1.13), i = 1,..., k. Definiere: k f : R k [ 0, ), f(x) = f i (x i ) x = (x 1,..., x k ) R k. Dann erfüllt f die Bedingungen von Lemma 1.17; die W-Verteilung P auf (R k, B k ) mit der Lebesgue- Dichte f heißt das Produkt der W-Verteilungen P 1,..., P k, Abk.: P = k P i. Beispiel: Produkt von Normalverteilungen Seien P i = N(β i, σi 2) mit β i R, σ i ( 0, ), i = 1,..., k. Dann ist die Lebesgue-Dichte von P = k N(β i, σi 2 ) gemäß Lemma 1.18 gegeben durch: f(x) = k ( 1 exp ( (x i β i ) 2 ) ) ( k = (2π) k/2 σ i 2π 2σ 2 i σ 2 i ) 1/2 exp ( 1 2 k (x i β i ) 2 ). Unter Verwendung von etwas Matrix-Formalismus, wenn x als Spaltenvektor geschrieben ist und wir den (Spalten-)Vektor β = (β 1,..., β k ) t und die Diagonalmatrix D = diag ( σ1 2,..., k) σ2 einführen, können wir die Dichte f auch so schreiben: f(x) = (2π) k/2 ( det(d) ) ) 1/2 exp ( 1 2 (x β)t D 1 (x β). σ 2 i Allgemeiner definiert man eine k-dimensionale Normalverteilung (die nicht Produnkt von ein-dimensionalen Normalverteilungen sein muss) wie folgt. Definition 1.19 (k-dimensionale Normalverteilung) Seien β = (β 1,..., β k ) t R k und V eine positiv definite (reelle) k k Matrix (also V symmetrisch und a t V a > 0 für alle (Spalten-)Vektoren a R k \0} ). Die Normalverteilung N(β, V ) ist die W-Verteilung auf (R k, B k ) mit der Lebesgue-Dichte f(x) = (2π) k/2 ( det(v ) ) ) 1/2 exp ( 1 2 (x β)t V 1 (x β), x R k.

13 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen Zufallsvariablen In diesem Abschnitt gehen wir von einem W-Raum (Ω, C, P) und einem Messraum (M, A) aus. Definition 1.20 (Messbare Abbildung / Zufallsvariable) Eine Abbildung X : Ω M heißt messbar (bezgl. der Sigma-Algebren C und A), wenn gilt: X 1 (A) C A A. Dabei bezeichnet X 1 (A) für A M das Urbild von A unter der Abbildung X, d.h. Statt X 1 (A) schreiben wir auch X A}. X 1 (A) = ω Ω : X(ω) A }. Eine messbare Abbildung X : Ω M, (wobei (Ω, C, P) ein W-Raum und (M, A) ein Messraum sind), heißt eine Zufallsvariable (auf Ω mit Werten in M). Lemma 1.21 (Verteilung einer Zufallsvariablen) Sei X : Ω M eine Zufallsvariable. Definiere P X : A [ 0, 1 ] durch: P X (A) := P ( X 1 (A) ) A A. Dann ist P X eine W-Verteilung auf (M, A) ; sie heißt die Verteilung von X. Anmerkung: Andere gebräuchliche Bezeichnungen für P X sind X(P) und P X. Spezialfall: Diskrete Zufallsvariable Wenn M abzählbar ist und A = P(M), dann nennen wir eine Zufallsvariable X : Ω M diskrete Zufallsvariable. Ihre Verteilung ist durch ihre Zähldichte vollständig beschrieben: eine P X (x) = P(X = x) x M, wobei X = x} = ω Ω : X(ω) = x } und P(X = x) = P ( X = x} ). Bemerkung: Zufallsexperiment: Modellformulierung mit Zufallsvariablen Der W-Raum (M, A, P ) sei das Modell für ein Zufallsexperiment. Eine virtuell andere (aber äquivalente) Modellformulierung ist die folgende. Gegeben sei ein W-Raum (Ω, C, P) (der meistens nicht konkretisiert wird) und eine Zufallsvariable X : Ω M (die ebenfalls meistens nicht näher spezifiziert wird, außer ihrer Verteilung, s. unten). Ein Ergebnis x M des Zufallsexperiments wird als Wert der Zufallsvariablen X aufgefasst, (der Zufall wählt ein Element ω Ω und das Ergebnis des Zufallsexperiments ist dann x = X(ω)). Die Verteilung P X der Zufallsvariablen X ist geeignet festzulegen: P X = P. Effektiv ist wiederum der W-Raum (M, A, P ) das Modell für das Zufallsexperiment.

14 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 14 Lemma 1.22 (Komposition messbarer Abbildungen) Seien (Ω, C, P) ein W-Raum, (M, A) und (N, B) zwei Messräume und X : Ω M eine Zufallsvariable und T : M N eine messbare Abbildung (bezgl. der Sigma-Algebren A und B). Betrachte die Komposition T X : Ω N, (T X)(ω) = T ( X(ω) ) ω Ω. Dann ist T X eine Zufallsvariable (auf Ω mit Werten in N), und für ihre Verteilung gilt: P T X = ( P X) T. Definition 1.23 (Produkt-Sigma-Algebra) Seien n 2 Messräume (M i, A i ), i = 1,..., n, gegeben. Betrachte das cartesische Produkt M := n M i. Die Produkt-Sigma-Algebra A = n wird vom Mengensystem E := n A i A i } : A i A i, i = 1,..., n. ist die Sigma-Algebra in M, die erzeugt Beispiel: Diskrete Messräume Seien M i abzählbare Mengen und A i = P(M i ), i = 1,..., n. Man zeigt leicht: n P(M i ) = P(M), wobei M = n M i (ebenfalls eine abzählbare Menge). Beispiel: Borelsche Sigma-Algebren Seien (M i, A i ) = (R, B 1 ), i = 1,..., n. Man zeigt leicht: n B 1 = B n. Lemma 1.24 (Mehrere Zufallsvariablen, gemeinsame Verteilung) Seien (Ω, C, P) ein W-Raum, (M i, A i ) (i = 1,..., n) Messräume und X i : Ω M i (i = 1,..., n) Zufallsvariablen. Betrachte die Abbildung (X 1,..., X n ) : Ω M := n M i, (X 1,..., X n )(ω) := ( X 1 (ω),..., X n (ω) ) ω Ω. Dann ist (X 1,..., X n ) eine Zufallsvariable, d.h. messbar bezgl. der Sigma-Algebren C und A := n A i. Die Verteilung P (X 1,...,X n) von (X 1,..., X n ) wird die gemeinsame Verteilung der Zufallsvariablen X 1,..., X n genannt. Bemerkung: Gemeinsame Verteilung und Randverteilungen Der gemeinsame Verteilung P (X 1,...,X n ) bestimmt die Verteilungen P X i (i = 1,..., n) der einzelnen Zufallsvariablen (sog. Randverteilungen) eindeutig, denn: Betrachte die Projektionsabbildungen Π i : M M i, Π i (x 1,..., x n ) := x i (x 1,..., x n ) M, (i = 1,..., n). Man sieht leicht, dass Π i messbar ist (bezgl. der Sigma-Algebren A und A i. Wegen X i = Π i (X 1,..., X n ) gilt nach Lemma 1.22 : ( ) P X i = P Π i (X 1,...,X n ) = P (X Π 1,...,X n ) i, i = 1,..., n.

15 Kapitel 1: Wahrscheinlichkeitsräume und Zufallsvariablen 15 Das lässt sich auch einfacher sehen, z.b. für i = 1 haben wir für jedes A 1 A 1 : P X 1 (A 1 ) = P(X 1 A 1 ) = P ( (X 1,..., X n ) A 1 M 2... M n ) = P (X 1,...,X n) ( A 1 M 2... M n ). Umgekehrt aber bestimmen die Randverteilungen P X i (i = 1,..., n) i.a. nicht die gemeinsame Verteilung P (X 1,...,X n ). Wichtige Ausnahme: Der Fall, dass die Zufallsvariablen X 1,..., X n stochastisch unabhängig sind, (s. Kap. 2). Spezialfall: Diskrete Zufallsvariablen Seien X 1,..., X n diskrete Zufallsvariablen, d.h. M i ist abzählbar und A i = P(M i ) für alle i = 1,..., n. Dann ist (X 1,..., X n ) ebenfalls eine diskrete Zufallsvariable (da M = n M i abzählbar und A = n P(M i ) = P(M) ). Die gemeinsame Verteilung P (X 1,...,X n ) ist durch ihre Zähldichte vollständig beschrieben: P (X 1,...,X n) (x 1,..., x n ) = P ( X 1 = x 1, X 2 = x 2,..., X n = x n ) (x 1,..., x n ) M, wobei X 1 = x 1, X 2 = x 2,..., X n = x n } = ω Ω : X i (ω) = x i i = 1,..., n }. Die Zähldichten der Randverteilungen P X i erhält man durch die entsprechenden Randsummen der gemeinsamen Zähldichte, z.b. für i = 1 : P X 1 (x 1 ) = P (X1,X2,...,Xn) (x 1, x 2,..., x n ) x 1 M 1. x 2 M 2,..., x n M n