Wahrscheinlichkeitsräume und Zufallsvariablen

Transkript

1 Kapitel Wahrscheinlichkeitsräume und Zufallsvariablen. W-Raum Unter einem Zufallsexperiment verstehen wir einen vom Zufall beeinflussten Vorgang, der ein entsprechend zufälliges Ergebnis hervorbringt. Ein mathematisches Modell für ein Zufallsexperiment ist ein Wahrscheinlichkeitsraum (kurz: W-Raum). Dieser besteht aus einer Ergebnismenge M (die Menge aller möglichen Ergebnisse des Zufallsexperiments), und einer W-Verteilung P auf M. [W-Verteilung] Eine Wahrscheinlichkeitsverteilung (kurz: W-Verteilung) auf einer Menge M ist eine Funktion P, die jeder Teilmenge A M eine Zahl P (A) [ 0, ] als Wahrscheinlichkeit des Ereignisses A zuordnet und dabei die folgenden beiden Bedingungen erfüllt. (i) P (M) =. (ii) P ( A B ) = P (A) + P (B) für je zwei disjunkte Teilmengen A, B M (d.h. A B = ) (Additivität). Wenn P eine W-Verteilung auf M ist, dann heißt das Paar (M, P ) ein Wahrscheinlichkeitsraum, (kurz: W-Raum). Sprechweisen im Kontext eines W-Raumes (M, P ) : Jede Teilmenge A von M wird ein Ereignis genannt und P (A) seine Wahrscheinlichkeit. Grund für diese Sprechweise: Eine Teilmenge A M steht für das Ereignis, dass das Ergebnis x M des Zufallsexperiments zu A gehört (also x A gilt), und P (A) ist die Wahrscheinlichkeit hierfür. Eine ein-elementige Teilmenge {x} (für ein einzelnes x M) wird ein Elementarereignis genannt. Wir können das Elementarereignis {x} mit dem Element x identifizieren. Ein Ereignis A Ω, das aus mehr als nur einem Element besteht, wird auch ein zusammengesetztes Ereignis genannt. Als Folgerungen aus den Bedingungen (i), (ii) der ergeben sich weitere Rechenregeln für eine W-Verteilung P, z.b.: P ( A c ) = P (A), wobei A c = M \ A, das Komplement von A; P ( ) = 0 ; P ( A B ) = P (A) + P (B) P ( A B ) für beliebige A, B M; P ( A \ B ) = P (A) P ( A B ) für beliebige A, B M; aus A B M folgt P (A) P (B).

2 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 2.2 Diskrete W-Räume Von einem diskreten W-Raum (M, P ) und einer diskreten W-Verteilung P sprechen wir, wenn die Menge M entweder endlich oder abzählbar-unendlich (wie z.b. N) ist. Dann ist die gesamte W-Verteilung P schon durch die Wahrscheinlichkeiten für die Elementarereignisse beschrieben, P (x) für alle x M. Denn wegen der Additivitätseigenschaft (ii) der allgemeinen einer W-Verteilung ergeben sich die Wahrscheinlichkeiten beliebiger Ereignisse durch: ( ) P (A) = x A P (x) für jedes A Ω. Umgekehrt: Konstruktion diskreter W-Verteilungen Sei M eine endliche oder eine abzählbar-unendliche Menge. Wenn für jedes x M eine Wahrscheinlichkeit P (x) 0 festgelegt wird und x M P (x) = gilt, dann ist damit (unter Verwendung von Formel ( ) ) eine W-Verteilung P auf M definiert. [Spezielle diskrete W-Verteilungen] (a) Sei M endlich. Die Gleichverteilung oder Laplace-Verteilung auf M ist definiert durch P (x) = M Abk.: P = U M. für alle x M, ( M = Anzahl der Elemente von M). (b) M = { 0,,..., n } für ein gegebenes n N; sei noch p ( 0, ) gegeben. Die Binomialverteilung mit den Parameterwerten n und p ist definiert durch ( ) n P (k) = p k ( p) n k für k = 0,,..., n. k Abk.: P = Bi(n, p). (c) Seien N N, s N 0 und n N mit s, n N gegeben. Sei M = { 0,,..., n }. Die hypergeometrische Verteilung mit den Parameterwerten N, s und n ist definiert durch ( ) ( ) / ( ) s N s N P (k) = für k = 0,,..., n. k n k n Abk.: P = Hyp(N, s, n). (d) M = N 0 ; sei λ ( 0, ) gegeben. Die Poisson-Verteilung mit dem Parameterwert λ ist definiert durch P (k) = e λ λk für alle k N 0. k! Abk.: P = Poi(λ). (e) M = N ; sei p ( 0, ) gegeben. Die geometrische Verteilung mit dem Parameterwert p ist definiert durch P (k) = p ( p) k für alle k N. Abk.: P = Geo(p).

3 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 3 Wir skizzieren typische Zufallsexperimente, deren Modellierung durch W-Räume (a) (e) obiger erfolgt. Typische Zufallsexperimente (a) Ein Objekt wird rein zufällig aus einer endlichen Grundgesamtheit M gezogen. (b) n-malige unabhängige Durchführung eines 0--Experiments (Bernoulli-Experiments) mit Wahrscheinlichkeit p für und p für 0 ; als Ergebnis wird die Anzahl der erzielten -en festgehalten. (c) Gegeben eine Grundgesamtheit mit N Objekten; jedes Objekt trägt einen binären (0--wertigen) Merkmalswert (z.b. gut/schlecht); insgesamt haben genau s Objekte den Merkmalswert. Zufallsexperiment: Es wird eine Zufallsstichprobe vom Umfang n aus der Grundgesamtheit gezogen (Ziehen ohne Zurücklegen), und als Ergebnis wird die Anzahl der Objekte in der Stichprobe mit Merkmalswert festgehalten. (d) Eine zufällige Anzahl, die nicht von vorne herein nach oben beschränkt ist (im Unterschied zu (b) und (c)), kann oft näherungsweise modelliert werden durch eine Poisson-Verteilung (mit einem geeigneten Parameterwert λ > 0). Konkretere Beispiele etwa: Anzahl von Kunden, die innerhalb eines definierten Zeitraumes eine bestimmte Service-Station besuchen; Anzahl der Verkehrsunfälle in einer Region in einem definierten Zeitraum. (e) Ein Bernoulli-Experiment mit Wahrscheinlichkeit p für und p für 0 wird so oft unabhängig durchgeführt, bis erstmalig auftritt. Die Anzahl der benötigten Durchführungen ist das Ergebnis des Zufallsexperiments..3 Stetige W-Verteilungen Hier haben wir es mit kontinuierlichen Ergebnismengen M zu tun: Intervalle der Zahlengeraden, z.b. M = [ a, b ], M = ( 0, ), M = (, ) = R. Entsprechende kontinuierliche W-Verteilungen auf M sind durch Dichtefunktionen definiert. [W-Verteilung mit Dichtefunktion] Sei M R ein Intervall. Eine Dichtefunktion auf M ist eine Funktion f : M R mit den Eigenschaften f(x) 0 für alle x M und f(x) dx =. Wenn f eine Dichtefunktion auf M ist, dann definiert diese eine W-Verteilung P auf M durch P (I) = f(x) dx für jedes Teilintervall I M. I Anmerkung: Zwar sind somit nur den Intervall-förmigen Ereignissen I M Wahrscheinlichkeiten zugeordnet (und noch nicht beliebigen Ereignissen A M), aber andere Ereignisse als Intervalle sind für uns wenig interessant. Bemerkung. Für eine solche W-Verteilung P (mit einer Dichtefunktion f) gilt, dass jedes Elementarereigniss z M Wahrscheinlichkeit gleich 0 hat: P (z) = f(x) dx = 0. M {z}

4 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 4 [Spezielle W-Verteilungen mit Dichtefunktionen] (a) M = [ a, b ], wobei a, b R mit a < b. Die Gleichverteilung oder Rechteck-Verteilung auf dem Intervall [ a, b ] ist gegeben durch die (konstante) Dichtefunktion Abk.: P = R(a, b). f(x) = b a für alle x [ a, b ]. (b) M = R ; seien µ R und σ ( 0, ) gegeben. Die Normalverteilung mit den Parameterwerten µ und σ ist gegeben durch die Dichtefunktion Abk.: P = N(µ, σ). f(x) = ( σ 2π exp ( x µ ) 2 ) 2 σ für alle x R. (c) M = (0, ) ; sei λ ( 0, ) gegeben. Die Exponentialverteilung mit dem Parameterwert λ ist gegeben durch die Dichtefunktion Abk.: P = Exp(λ). f(x) = λ e λ x für alle x ( 0, ). Anwendung in der Modellierung: Die in der genannten Verteilungen werden oft zur Modellierung von Zufallsvorgängen mit kontinuierlichen Ergebnissen verwendet. Normalverteilungen haben einen fast universell erscheinenden Anwendungsbereich (z.b. eine Produkt- Charakteristik in der industriellen Fertigung, eine Projektdauer, eine Nachfrage nach einem gehandelten Produkt). Die Gleichverteilung auf einem Intervall [ a, b ] bildet ein stetiges Analogon zu einer diskreten Gleichverteilung. Das Ergebnis des Zufallsexperiments ist eine völlig zufällig gezogene Zahl aus dem Intervall [ a, b ]. Die Erzeugung einer Standard-Zufallszahl mit dem Computer ist (näherungsweise) ein solches Zufallsexperiment mit a = 0 und b =. Exponentialverteilungen werden insbesondere zur Modellierung zufälliger kontinuierlicher Zeitdauern verwendet (Lebensdauern, Projektdauern, Wartezeiten)..4 Zufallsvariable Seien Ω und M zwei Mengen. Der Begriff einer Abbildung oder Funktion X von Ω (sbereich) in M (Wertevorrat) ist bekannt ; Kurzschreibweise: X : Ω M. Im w-theoretischen Kontext nennen wir X eine Zufallsvariable, wenn außerdem eine W-Verteilung P auf Ω gegeben ist, also der sbereich (zusammen mit der W-Verteilung) einen W-Raum darstellt. Achtung: Entgegen der bisherigen Notation haben wir jetzt einen W-Raum (Ω, P ), während M nur eine Menge (der Wertevorrat der Zufallsvariablen) ist; jedoch werden wir gleich sehen, dass auch M durch Transportieren der W-Verteilung P mittels X ebenfalls ein W-Raum wird.

5 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 5 [Verteilung einer Zufallsvariablen] Seien (Ω, P ) ein W-Raum und X : Ω M auf M wie folgt definiert. eine Zufallsvariable. Dann wird die W-Verteilung P X Für jedes B M : P X (B) = P (A), wobei A = {X B} = { ω Ω : X(ω) B } ; kurz: P X (B) = P (X B) für jedes B M. Diese W-Verteilung P X heißt die Verteilung von X (unter P ). Bemerkung: Diskreter Wertevorrat Im Fall, dass der Wertevorrat M der Zufallsvariablen X endlich oder abzählbar-unendlich ist, genügen zur Beschreibung der Verteilung von X die Wahrscheinlichkeiten der ein-elementigen Mengen B = {x} für jedes x M : P X (x) = P (X = x) für alle x M. Reelle Zufallsvariable Wenn der Wertevorrat M der Zufallsvariablen X eine Teilmenge von R ist (M R), so nennen wir X eine reelle Zufallsvariable. (a) Diskret-verteilte reelle Zufallsvariable : M ist eine endliche oder abzählbar-unendliche Teilmenge von R ; z.b.: eine auf {,..., 6} uniform-verteilte Zufallsvariable: M = {,..., 6} und P X = U {,...,6} ; eine binomial-(n, p)-verteilte Zufallsvariable: M = {0,,..., n} und P X = Bi(n, p) ; eine Poisson-(λ)-verteilte Zufallsvariable: M = N 0 und P X = Poi(λ). (b) Stetig-verteilte reelle Zufallsvariable : M ist ein Intervall, und die Verteilung von X besitzt eine Dichtefunktion f (man sagt auch kürzer: X besitzt eine Dichtefunktion f), d.h. P (X I) = f(x) dx für jedes Teilintervall I M. I Zum Beispiel: Eine auf [ a, b ] uniform-verteilte Zufallsvariable: M = [ a, b ] und P X = R(a, b) ; eine normal-(µ, σ)-verteilte Zufallsvariable: M = R und P X = N(µ, σ). [Verteilungsfunktion einer reellen Zufallsvariablen] Sei X eine reelle Zufallsvariable. Die Verteilungsfunktion F X der Zufallsvariablen X ist die Funktion F X : R [ 0, ], F X (x) = P (X x) für alle x R, wobei wie üblich {X x} = {ω Ω : X(ω) x}. Bemerkungen: () P (u < X v) = F X (v) F X (u) für alle u, v R, u < v. Insbes.: F X ist monoton wachsend. Desweiteren: lim x F X (x) = und lim x F X (x) = 0. (2) Wenn X diskret-verteilt ist (mit dem endlichen oder abzählbar-unendlichen Wertevorrat M R), dann F X (x) = P (X = z) für alle x R ; z M, z x insbesondere: F X ist eine Treppenfunktion.

6 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 6 (3) Wenn X stetig-verteilt ist mit Dichtefunktion f (und mit dem Intervall M R als Wertevorrat), dann F X (x) = f(z) dz für alle x R ; (,x] M insbesondere: F X ist stetig, und F X ist an jeder Stetigkeitsstelle x der Dichtefunktion f differenzierbar mit Ableitung F X (x) = f(x). [Quantile einer reellen Zufallsvariablen] Sei X eine reelle Zufallsvariable. Sei p ( 0, ) gegeben. Ein p-quantil der Verteilung von X (man sagt auch kürzer: ein p-quantil von X) ist eine reelle Zahl x p mit der Eigenschaft P (X x p ) p und P (X < x p ) p. Anmerkung: Wenn X stetig-verteilt ist, dann ist die Bedingung für ein p-quantil x p äquivalent mit F X (x p ) = p ; wenn außerdem F X strikt monoton wachsend ist, dann ist x p = F X (p). Grundsätzliche Bemerkung: Modellformulierungen mit Zufallsvariablen Die Modellierung eine Zufallsexperiments kann durch Angabe eines (geeigneten) W-Raumes (M, P ) erfolgen, (M die Ergebnismenge, P eine passende W-Verteilung). Im Folgenden, insbesondere im statistischen Kontext, werden wir oft eine optisch andere Modellformulierung vornehmen, mit Hilfe von Zufallsvariablen. Die Ergebnismenge wird dabei nach wie vor mit M bezeichnet, aber es werden ein W-Raum (Ω, P ) im Hintergrund und eine Zufallsvariable X : Ω M postuliert. Das Ergebnis x M des Zufallsexperiments wird aufgefasst als ein Wert X(ω) der Zufallsvariablen X, (wobei ω Ω vom Zufall gewählt wird). Geeignet festzulegen ist die Verteilung der Zufallsvariablen X. Der eigentliche (konkrete) W-Raum, der den Zufallsvorgang modelliert, ist hier (M, P X ), während der Hintergrund-W-Raum (Ω, P ) in der Regel nicht weiter spezifiziert wird; auch die Zufallsvariable X wird (in der Regel) nicht vollständig spezifiziert, sondern nur ihre Verteilung. Zum Beispiel: Würfelexperiment einmal Würfeln. X eine Zufallsvariable mit Werten in M = {, 2, 3, 4, 5, 6} und Verteilung P (X = i) = /6 für alle i =,..., 6 (d.h. P X die Gleichverteilung auf {,..., 6}). Diese Art der Modellierung mag auf den ersten Blick unnötig umständlich erscheinen, erweist sich aber für komplexere Zufallsexperimente (mit mehrdimensionalen Ergebnissen) als nützlich, insbesondere weil der Begriff der Unabhängigkeit von Zufallsvariablen (s. Abschnitt.6) eingebracht werden kann. Zum Beispiel: Würfelexperiment zweimal (unabhängig) Würfeln. X, X 2 zwei unabhängige Zufallsvariablen, X : Ω {, 2,..., 6} und X 2 : Ω {, 2,..., 6}, deren Verteilungen gegeben sind durch P (X = i) = /6 für alle i =, 2,..., 6 und P (X 2 = j) = /6 für alle j =, 2,..., 6. Die Voraussetzung der Unabhängigkeit der beiden Zufallsvariablen besagt: P ( X = i, X 2 = j ) = P (X = i) P (X 2 = j) = /36 für alle i, j =, 2,..., 6. Die Ergebnismenge M ist hier M = {, 2,..., 6} 2 und die Zufallsvariable X ist X = (X, X 2 ).

7 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 7.5 Skalare Kenngrößen reeller Zufallsvariablen Erwartungswert, Varianz und Standardabweichung Sei X eine reelle Zufallsvariable, also X : Ω M R. (a) Wenn X diskret-verteilt ist, also M endlich oder abzählbar-unendlich ist: E(X) = x P (X = x) und Var(X) = ) 2 x E(X). x M x M( (b) Wenn X stetig-verteilt ist, also M ein Intervall ist und X eine Dichtefunktion f besitzt : ( ) 2 E(X) = x f(x) dx und Var(X) = x E(X) dx. M M Die (nicht-negative) Zahl Var(X) heißt die Standardabweichung von X. Alternative Formel für die Varianz Var(X) = E ( X 2) ( E(X) ) 2. Die (nicht-negative) Zahl E ( X 2) heißt das zweite Moment der (reellen) Zufallsvariablen X ; die Berechnung hiervon kann mit Hilfe der Transformationsformeln des nachfolgenden Theorems erfolgen, mit der quadratischen Transformation g(x) = x 2. Theorem [Erwartungswert transformierter Zufallsvariablen] Sei X eine reelle Zufallsvariable, also X : Ω M R. Sei eine Funktion ( Transformation ) g : M N R gegeben. Für den Erwartungswert der transformierten reellen Zufallsvariablen g(x) gilt dann: (a) Wenn X diskret-verteilt ist, also M endlich oder abzählbar-unendlich ist : E ( g(x) ) = g(x) P (X = x). x M (b) Wenn X stetig-verteilt ist, also M ein Intervall ist und X eine Dichtefunktion f besitzt : E ( g(x) ) = g(x) f(x) dx. M Theorem [Lineare Transformation einer reellen Zufallsvariablen] Sei X eine reelle Zufallsvariable, und seien β, c R. Dann: E(β X + c) = β E(X) + c und Var(β X + c) = β 2 Var(X). Wenn X normalverteilt ist, X N(µ, σ), dann β X + c N(βµ + c, β σ) (sofern β 0). Wenn X Rechteck-verteilt ist, X R(a, b), dann β X + c { R(βa + c, βb + c), falls β > 0 R(βb + c, βa + c), falls β < 0. Wenn X exponential-verteilt ist, X Exp(λ), und β > 0, dann β X Exp(λ/β).

8 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 8 Für die in Abschnitten.2 und.3 genannten speziellen Verteilungen sind die Erwartungswerte und Varianzen in nachfolgender Tabelle zusammengestellt. X E(X) Var(X) 0--wertig mit P (X = ) = p p p( p) gleichverteilt auf {x,..., x m } x m (x i x) 2 m binomial-(n, p)-verteilt np np( p) hypergeometrisch-(n, s, n)-verteilt ns N i= N n N n s ( s ) N N Poisson-(λ)-verteilt λ λ geometrisch-(p)-verteilt p p p 2 normal-(µ, σ)-verteilt µ σ 2 gleichverteilt auf [a, b] exponential-(λ)-verteilt 2 (a + b) (b a) 2 2 λ λ 2 Theorem [Linearkombination zweier reeller ZV en: Linearität des Erwartungswertes] Seien X und X 2 zwei reelle Zufallsvariablen und β, β 2 und c reelle Zahlen. Dann: E ( β X + β 2 X 2 + c ) = β E(X ) + β 2 E(X 2 ) + c. [Kovarianz und Korrelation zweier reeller Zufallsvariablen] Für zwei reelle Zufallsvariablen X und X 2 heißen Cov(X, X 2 ) = E [ ( X E(X ) )( X 2 E(X 2 ) ) ] = E(X X 2 ) E(X ) E(X 2 ) die Kovarianz der Zufallsvariablen X, X 2 und ρ(x, X 2 ) = Cov(X, X 2 ) Var(X ) Var(X 2 ) [, ] die Korrelation (oder der Korrelationskoeffizient) der Zufallsvariablen X, X 2. Die Korrelation ρ(x, X 2 ) ist eine Maßzahl für die lineare Abhängigkeit der beiden Zufallsvariablen X, X 2. Die extremen Werte ρ(x, X 2 ) = ± bedeuten perfekte (positive oder negative) lineare Abhängigkeit; der Wert ρ(x, X 2 ) = 0 (Unkorreliertheit) bedeutet, dass keine lineare Abhängigkeit vorhanden ist.

9 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 9.6 Stochastische Unabhängigkeit [Unabhängigkeit von Ereignissen] Sei (Ω, P ) ein W-Raum. (a) Zwei Ereignisse A, A 2 Ω heißen (stochastisch) unabhängig, wenn P (A A 2 ) = P (A ) P (A 2 ). (b) Allgemeiner: n Ereignisse A, A 2,..., A n Ω heißen (stochastisch) unabhängig, wenn gilt: P ( ) A i A i2... A ik = P (Ai ) P (A i2 )... P (A ik ) für alle i < i 2 <... < i k n, k =,..., n. Theorem [Ein nützliches Resultat] Seien unabhängige Ereignisse A, A 2,..., A n gegeben. Betrachte eine Gruppierung dieser Ereignisse in K Gruppen: {A,..., A n }, {A n +,..., A n2 },..., {A nk +,..., A n }, wobei n < n 2 <... < n K < n. Wenn für jedes k =,..., K ein Ereignis B k gebildet wird aus den Ereignissen der k-ten Gruppe durch Mengenoperationen (Vereinigung, Durchschnitt, Differenzmenge, Komplement), dann sind die Ereignisse B,..., B K unabhängig. [Unabhängigkeit von Zufallsvariablen] Sei (Ω, P ) ein W-Raum, und seien X,..., X n Zufallsvariablen, X i : Ω M i, i =,..., n. Die Zufallsvariablen X,..., X n heißen (stochastisch) unabhängig, wenn P ( X B, X 2 B 2,..., X n B n ) = P (X B ) P (X 2 B 2 )... P (X n B n ) für alle B M, B 2 M 2,..., B n M n. Bemerkung: Diskrete Wertevorräte Wenn M i, i =,..., n, endlich oder abzählbar unendlich sind, dann genügt es in der, ein-elementige Mengen B i = {x i }, i =,..., n, zu betrachten: Die Zufallsvariablen X,..., X n sind genau dann unahhängig, wenn P ( X = x, X 2 = x 2,..., X n = x n ) = P (X = x ) P (X 2 = x 2 )... P (X n = x n ) für alle x M, x 2 M 2,..., x n M n. Theorem [Analog zu oben] Seien unabhängige Zufallsvariablen X, X 2,..., X n gegeben. Betrachte eine Gruppierung dieser Zufallsvariablen in K Gruppen: {X,..., X n }, {X n +,..., X n2 },..., {X nk +,..., X n }, wobei n < n 2 <... < n K < n. Wenn für jedes k =,..., K eine neue Zufallsvariable Y k gebildet wird aus den Zufallsvariablen der k-ten Gruppe durch Anwendung einer Funktion, Y k = g k ( Xnk +,..., X nk ), k =,..., K, (dabei sei n0 = 0, n K = n), dann sind die Zufallsvariablen Y,..., Y K unabhängig.

10 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen 0 Theorem [Produktregel für Erwartungswerte unabhängiger reeller ZV en] Wenn X,..., X n unabhängige reelle Zufallsvariablen sind, dann gilt E ( ) X X 2... X n = E(X ) E(X 2 )... E(X n ). Insbesondere für n = 2 : Zwei unabhängige reelle Zufallsvariablen sind stets auch unkorreliert. Theorem Wenn X,..., X n [Summationsregel für Varianzen unabhängiger reeller ZV en] unabhängige reelle Zufallsvariablen sind, dann gilt ( n ) Var X i i= = n Var(X i ). i=.7 Summen von unabhängigen reellen Zufallsvariablen Theorem [Spezielle Verteilungen] Seien X,..., X n unabhängige reelle Sufallsvariablen. Betrachte die Summenvariable S n = (a) (Bernoulli-Variablen) Wenn X i Bi(, p), i =,..., n, dann S n Bi(n, p). n i= X i. (b) (Poisson-verteilte ZV en) Wenn X i Poi(λ i ), i =,..., n, dann S n Poi(λ) mit λ = n λ i. (c) (Normalverteilte ZV en) Wenn X i N(µ i, σ i ), i =,..., n, dann S n N(µ, σ) mit µ = n µ i und σ 2 = n σi 2. i= i= i= Theorem [Zentraler Grenzwertsatz] Seien X,..., X n unabhängige und identisch verteilte reelle Zufallsvariablen; (identisch verteilt: P X = P X2 =... = P Xn ). Bezeichne µ = E(X i ) und σ 2 = Var(X i ). Betrachte die Summenvariable sowie die standardisierte Summenvariable S n = n i= X i und S n = n σ ( Sn nµ ). Dann gilt für großes n näherungsweise: S n N(0, ) und S n N ( nµ, n σ ). Anmerkung: Die präzise Formulierung des Resultats ist die Konvergenz (für n ) der Verteilung von Sn gegen die Standard-Normalverteilung, im Sinne der gleichmäßigen Konvergenz der Verteilungsfunktionen: lim P ( Sn x ) = Φ(x) = n und folglich x [ lim P ( S n x ) ( x nµ ) ] Φ n n σ exp ( 2 z2) dz gleichmäßig für alle x R, = 0 für jedes x R.

11 Norbert Gaffke: Kurzskript zur Vorlesung Schätzen und Testen, Wintersemester 20/2 Kapitel : Wahrscheinlichkeitsräume und Zufallsvariablen Spezialfall: U.i.v. Bernoulli-Variablen X,..., X n Bi(, p). Die exakte Verteilung der Summenvariablen S n ist Bi(n, p) ; für großes n (gemäß ZGWS) : Bi(n, p) N ( np, np( p) ), d.h. x ( ) n ( P (S n x) = p i ( p) n i x np ) Φ für alle x R, x 0 i np( p) i=0 Theorem [Starkes Gesetz der Großen Zahlen] Sei X, X 2,..., X n,... eine unendliche Folge von unabhängigen und identisch verteilten reellen Zufallsvariablen; bezeichne µ = E(X i ). Betrachte die Folge der arithmetischen Mittel, X n = n X i, (n N). n i= ( ) Diese konvergieren (für n ) mit Wahrscheinlichkeit gegen µ : P lim X n = µ =. n Interpretation des StGGZ für die Modellierung: Zufallsexperiment und w-theoretisches Modell n unabhängige Durchführungen modelliert durch u.i.v. ZV en X,..., X n eines Zufallsexperiments (reelle) Daten x,..., x n interpretiert als Werte von X,..., X n relative Häufigkeiten konvergieren (für n ) gegen Wahrscheinlichkeiten ν n (x) = n {i : x i = x} ( ) ν n [ a, b ] = n {i : a x i b} (n ) P (X = x) (n ) P (a X b) (n ) empirische Verteilungsfunktion: Verteilungsfunktion: F n (x) = n {i : xi x} F X (x) = P (X x) empirischer Mittelwert: n x = n x i i= empirische Varianz: n s 2 = n (x i x) 2 i= (n ) Erwartungswert µ = E(X i ) (n ) Varianz σ 2 = Var(X i )