1 Die stetige Gleichverteilung 2. 2 Die Exponentialverteilung 3. 3 Die Normalverteilung 5. 4 Die Testverteilungen Gauss-Vektoren 17

Transkript

1 Wirtschaftswissenschaftliches Zentrum 9 Universität Basel Mathematik 2 Dr. Thomas Zehrt Stetige Standardverteilungen Benötigtes Vorwissen: Der Stoff der Vorlesung,,Statistik wird als bekannt vorausgesetzt, insbesondere das Kapitel 8,,Zufallsvariablen und das Kapitel 9,,Diskrete Standardverteilungen Inhaltsverzeichnis Die stetige Gleichverteilung 2 2 Die Exponentialverteilung 3 3 Die Normalverteilung 5 4 Die Testverteilungen 3 5 Gauss-Vektoren 7 6 *Zufallszahlen* 9 7 Übungsaufgaben 2

2 2 Die stetige Gleichverteilung Definition. Eine stetige Zufallsvariable X mit der Dichte f Re (t) = b a t [a, b] 0 sonst heisst (stetig) gleichverteilt oder auch rechtecksverteilt auf dem Intervall [a, b]. f Re (t) = b a t [a, b] 0 sonst E(X) = a + b 2 V ar(x) = (b a)2 2 Wir wollen die Verteilungsfunktion F Re der stetigen Gleichverteilung auf dem Intervall [a, b] bestimmen und skizzieren. Es gilt: 0 x < a x x F Re (x) = f Re (t) dt = + c x [a, b] b a x > b Die Integrationskonstante c muss nun so gewählt werden, dass F Re (a) = 0 (oder F Re (b) = ) gilt. Insbesondere kann man im allgemeinen nicht c = 0 setzen. F Re (a) = a b a + c = 0 c = a b a F Re f Re a b

3 3 2 Die Exponentialverteilung Definition 2. Eine stetige Zufallsvariable X mit der Dichte λe λt t 0 f Ex (t; λ) = 0 sonst heisst exponentialverteilt mit dem Parameter λ. Kurz: X Ex(λ) f Ex (t; λ) = λe λt t 0 0 sonst E(X) = λ V ar(x) = λ 2 Wir wollen wieder die Verteilungsfunktion F Ex der Exponentialverteilung bestimmen. Es gilt: 0 x < 0 x F Ex (x) = f Ex (t) dt = x λ e λt dt x 0 = = 0 0 x < 0 λ λ [e λt ] x 0 x 0 0 x < 0 e λx x 0

4 4 Aufgabe 2. Ermitteln Sie für eine mit λ = 0.4 exponentialverteilte Zufallsvariable X die folgenden Wahrscheinlichkeiten (bzw. bedingten Wahrscheinlichkeiten): P (X < 3), P (2 < X 3), P (X 3 X > 2) und P (X 3 X > 2). Lösungen: , 0.48, , P (X 3 X > 2) = P (X 3 X > 2) P (X > 2) = P (2 < X 3) P (X > 2) = F Ex(3) F Ex (2) F Ex (2) = e 0.4 Aufgabe 2.2 X sei eine exponentialverteilte Zufallsvariable. Beweisen Sie die folgende Gleichung P (X w + x X > w) = P (X x).

5 5 3 Die Normalverteilung Die Normalverteilung kommt in der Praxis relativ häufig vor. Beispiele für normalverteilte Zufallsvariablen sind: der Intelligenzquotient, die täglichen Renditen einer Firma, das Schlachtgewicht von Mastochsen... Gemeinsamkeit: Es sind Grössen, die aus der Summe vieler verschiedener (und kleiner) zufälliger Einflüsse entstehen. Einflüsse auf den Intelligenzquotienten: Gene, Eltern, Geschwister, Schule, Lehrer, Ernährung, wie lange man als Säugling einen Schnuller hatte usw. Definition 3. Eine stetige Zufallsvariable X heisst normalverteilt oder N(µ, σ 2 )-verteilt, mit den Parametern µ ( < µ < ) und σ 2 (0 < σ 2 ), falls ihre Dichte durch die Funktion f(t) = σ (t µ) 2 2π e 2σ 2 =: φ(t; µ, σ 2 ) gegeben ist. Der Graph von f wird auch als Gaußsche Glockenkurve bezeichnet.

6 6 Beispiel 3. φ(t;.8, ) = 0.0 (t.8) 2 2π e Satz (Eigenschaften von φ(t; µ, σ 2 )) Die Zufallsvariable X sei N(µ, σ 2 )-verteilt mit der Dichtefunktion φ(t; µ, σ 2 ). Dann gilt:. φ(t; µ, σ 2 ) ist symmetrisch bezüglich der Achse x = µ, d.h. es gilt φ(µ + t; µ, σ 2 ) = φ(µ t; µ, σ 2 ) für alle reellen Zahlen t. 2. φ(t; µ, σ 2 ) hat ein lokales Maximum an der Stelle t = µ und sonst keine Extremalstellen. 3. Die einzigen beiden Wendestellen von φ(t; µ, σ 2 ) sind µ + σ und µ σ. 4. lim t ± φ(t; µ, σ2 ) = 0 5. E(X) = µ und V ar(x) = σ 2

7 7 Die Verteilungsfunktion ist dann F (x) = x f(t) dt = σ 2π x e (t µ)2 2σ 2 dt =: Φ(x; µ, σ 2 ). Bemerkung: Die Dichtefunktion f ist nicht elementar integrierbar, d.h. f hat keine Stammfunktion, die aus den elementaren Funktionen (Polynome, rationale Funktionen, e x, log(x), sin(x), cos(x),...) zusammengesetzt ist. Beispiel 3.2 Dichtefunktion (rot) und Verteilungsfunktion (blau) für µ = 0 und σ = 0.5, und 2

8 8 Die Standardnomalverteilung Von spezieller Bedeutung ist die Standardnormalverteilung eine Normalverteilung mit den Parametern µ = 0 und σ 2 =. Die Dichte ist f(t) = 2π e t2 2 =: φ(t) und die zugehörige Verteilungsfunktion schreibt sich als: F (x) = 2π x e t2 2 dt =: Φ(x). Satz 2 (Einfache Eigenschaften von Φ) Φ(0) = /2 Φ( x) = Φ(x) Beweisidee: Beide Eigenschaften beruhen darauf, dass die Dichtefunktion φ symmetrisch zur y Achse ist, d.h. es gilt stets φ( t) = φ(t). Deshalb befindet sich genau die Hälfte der Gesamtfläche unter dem Graphen von φ links von 0 und es gilt Φ(0) = /2. Ist x > 0 so erkennt man auch, dass die Flächen unter dem Graphen links von x und rechts von x gleich gross sind. Daraus folgt die zweite Eigenschaft.

9 9 stan- Satz 3 Ist die Zufallsvariable X N(µ, σ 2 )-verteilt, so ist die Zufallsvariable X µ σ dardnormalverteilt: ( ) x µ Φ(x; µ, σ 2 ) = Φ σ Meist werden wir die folgende Formel benötigen, die diesen Zusammenhang auf konkrete Wahrscheinlichkeitsbestimmungen anwendet: b φ(x; µ, σ 2 ) dx = b µ σ φ(x) dx a a µ σ bzw. Φ ( b; µ, σ 2) Φ ( a; µ, σ 2) ( ) ( ) b µ a µ = Φ Φ σ σ Beweis: Wir wählen die Substitution u = u(x) = x µ σ damit schrittweise: und damit du = σ dx und erhalten b a φ(x; µ, σ 2 ) dx = σ 2π b a e 2( x µ σ ) 2 dx = 2π b µ σ e 2 u2 du a µ σ = 2π b µ σ e 2 x2 dx 2π a µ σ e 2 x2 dx, } ( {{ ) } b µ = Φ σ } ( {{ ) } a µ = Φ σ Es genügt also, die Funktionswerte von Φ(x) bestimmen zu können, um die Funktionswerte jeder der Funktionen Φ(x; µ, σ 2 ) zu berechnen!!

10 0 Früher gab es umfangreiche Tafelwerke, in denen die Funktionswerte von Φ tabelliert waren. x Aufgabe 3. Die Zufallsvariable sei normalverteilt mit E(X) = und V ar(x) = 4. Drücken Sie die folgenden Wahrscheinlichkeiten durch Funktionswerte der Funktion Φ aus: P ( X > 4) und P ( X > 6). Lösungen: P ( X > 4) = P (X < 4 oder X > 4) = Φ( 4;, 4) + ( Φ(4;, 4)) =... = 2 Φ(5/2) Φ(3/2) P ( X > 6) = P (X < 5 oder X > 7) = Φ( 5;, 4) + ( Φ(7;, 4)) =... = 2 2Φ(3)

11 Satz 4 (kσ-bereiche der Normalverteilungen) Die folgenden Wahrscheinlichkeiten sind unabhängig von der konkreten Wahl der Parameter µ und σ: P (µ σ X µ + σ) = P (µ 2σ X µ + 2σ) = P (µ 3σ X µ + 3σ) = Beweis: Die Zufallsvariable X sei N(µ, σ 2 )-verteilt. Dann gilt: P (µ σ X µ + σ) = Φ(µ + σ; µ, σ) Φ(µ σ; µ, σ) = Φ ((µ + σ µ)/σ) Φ ((µ σ µ)/σ) = Φ () Φ ( ) = 2Φ () Die anderen beiden Regeln können analog bewiesen werden.

12 2 Wir wollen noch darauf hinweisen, dass Summen von normalverteilten Zufallsvariablen selbst wieder normalverteilte Zufallsvariablen sind. Satz 5 Seien X, X 2,..., X n unabhängige und normalverteilte Zufallsvariablen mit X i N(µ i, σ 2 i ) für i =, 2,..., n. Dann ist die Zufallsvariable X + X X n perfekt (nicht nur asymptotisch) N(µ + µ µ n, σ 2 + σ σ 2 n)-verteilt.

13 3 4 Die Testverteilungen Aus der Normalverteilung lassen sich drei wesentliche Verteilungen, die sogenannten Prüf- oder Testverteilungen, gewinnen. Diese Verteilungen spielen eine grosse Rolle beim Prüfen von Hypothesen über Nomalverteilungen. Zur Beschreibung der Dichtefunktionen benötigt man zunächst die folgenden beiden Funktionen. Dabei sind diese Funktionen hier nur dazu nötig, die Normalisierungskonstanten (die gewährleisten, dass der Flächeninhalt unter den Graphen der Dichtefunktionen genau ist) einheitlich ausdrücken zu können. Die Gammafunktion (x > ) Γ(x) = 0 t x e t dt Es gilt z.b. Γ() = 0 t 0 e t dt = lim c [ e t ] c 0 = Γ(/2) = π Γ(n + ) = n Γ(n) für alle n N (oder sogar n R + ) Diese Eigenschaft kann durch partielle Integration bewiesen werden und zeigt, dass die Gammafunktion die Fakultät interpoliert, die nur für natürliche Zahlen definiert ist. Dass die Gammafunktion dabei so definiert ist, dass nicht Γ(n) sondern Γ(n+) gleich n! ist, hat historische Gründe. Die Betafunktion (p, q > 0) B(p, q) = Γ(p)Γ(q) Γ(p + q)

14 4 χ 2 -Verteilungen Definition 4. Z, Z 2,..., Z n seien n unabhängige und identisch N(0, )-verteilte Zufallsvariablen. Dann ist die Summe ihrer Quadrate Z = n i= Z2 i χ 2 -verteilt mit n Freiheitsgraden. Kurz: Z χ 2 n Die Dichtefunktion einer χ 2 n-verteilten Zufallsvariablen mit n Freiheitsgraden ist 0 t 0 f(t) = 2 n 2 Γ( n) t n 2 e t 2 2 t > 0 Die Dichtefunktionen für χ 2 5 (rot), χ 2 0 (grün) und χ 2 5 (blau): Satz 6 (Additionssatz) Die Summe zweier unabhängiger χ 2 n-verteilter bzw. χ 2 m-verteilter Zufallsvariablen ist χ 2 n+m-verteilt. Wesentliches Beispiel: Für unabhängige Zufallsvariablen X i N(µ, σ 2 ) (i =, 2,..., n) gilt für die Stichprobenvarianz S 2 X = n n (X i X) 2 i= tatsächlich n σ 2 S 2 X χ 2 n.

15 5 t-verteilungen Definition 4.2 Sind X und Y unabhängige Zufallsvariablen mit X N(0, ) und Y χ 2 n so besitzt der Quotient X Y/n t n eine t n -Verteilung (Student-Verteilung) mit n Freiheitsgraden. Die Dichtefunktion einer t n -verteilten Zufallsvariablen mit n Freiheitsgraden ist f(t) = Γ( n+ 2 ) π n Γ( n 2 ) ( ) n+ + t2 2 n Die Dichtefunktionen für t (rot), t 3 (grün) und t 0 (blau): Satz 7 Seien X, X 2,..., X n unabhängige und identisch N(µ, σ 2 )-verteilte Zufallsvariablen. Dann sind X und S 2 X unabhängig. Der folgende Quotient ist t n -verteilt: (X µ) n S X = n (X µ) n t n n i= (X i X) 2 Die linke Seite kann auch wie folgt (vergl. Definition oben) geschrieben werden: (X µ) n S X = X µ σ/ N(0, ) n n SX 2 χ 2 n σ 2 n.

16 6 F -Verteilungen Definition 4.3 Sind X und Y unabhängige Zufallsvariablen mit X χ 2 m und Y χ 2 n so besitzt der Quotient X/m Y/n F m,n eine Fisher sche F-Verteilung mit (m, n) Freiheitsgraden. Die Dichtefunktion einer F -verteilten Zufallsvariablen mit (m, n) Freiheitsgraden ist 0 t 0 f(t) = m m 2 n n m 2 t 2 B( m, n) 2 2 (m t + n) m+n 2 t > 0 Die Dichtefunktionen für F 3,3 (rot), F 5,50 (grün) und F 50,5 (blau): Für X N(µ X, σ 2 ) und Y N(µ Y, σ 2 ) betrachten wir zunächst die beiden Stichprobenvarianzen SX 2 = m (X i X) 2 m i= Stichprobenumfang m SY 2 = n (Y i Y ) 2 n Stichprobenumfang n Dann gilt für das Verhältnis der beiden Stichprobenvarianzen: i= S 2 X S 2 Y F m,n Anmerkung: Ist eine Zufallsvariable W nach F m,n -verteilt, so ist /W natürlich F n,m - verteilt.

17 7 5 Gauss-Vektoren Wir wollen uns hier noch eine besonders wichtige 2-dimensionale Verteilung etwas genauer ansehen. Sei X = (X, X 2 ) ein (stetiger) Zufallsvektor. Wir setzen hier ausdrücklich nicht voraus, dass X und X 2 unabhängig sind. Sei also Weiterhin seien C = σ 2 := Cov(X, X 2 ) und ρ = Cov(X, X 2 ) σ σ 2. ( σ σ 2 σ 2 σ 2 ), µ = ( µ µ 2 ) und x = ( x Definition 5. Ein stetiger Zufallsvektor X = (X, X 2 ) heisst Gauss-Vektor, wenn die gemeinsame Dichtefunktion von X durch die folgende Funktion gegeben ist: f X (x, x 2 ) = 2π det(c) e x 2 2 (x µ)t C (x µ). Wir schreiben dann auch X N 2 (µ, C). Die obige Definition kann direkt auf Zufallsvektoren beliebiger Länge verallgemeinert werden. Beispiel 5. Wir wollen einige dieser Funktionen skizzieren. Wir setzen stets µ = (0, 0), denn eine Veränderung von µ verschiebt den Graphen von f X (nur) parallel zur Grundebene. ). σ =, σ 2 =, ρ = 0 σ =, σ 2 =, ρ = 0.5 σ =, σ 2 =, ρ = 0.9 σ =.5, σ 2 =, ρ = 0

18 8 Der Exponent der e-funktion ist die quadratische Form Expandiert man diese Form erhält man: f X (x, x 2 ) = q(x) = 2 (x µ)t C (x µ). 2πσ σ 2 ρ 2 e [ (x µ ) 2 2 ρ 2 σ 2 ] 2ρ (x µ )(x 2 µ 2 ) + (x 2 µ 2 )2 σ σ 2 σ 2 2. Satz 8 Die Randverteilungen von X = (X, X 2 ) N 2 (µ, C) sind selbst wieder (eindimensionale) Normalverteilungen. Genauer gilt sogar X N(µ, σ 2 ) und X N(µ, σ 2 ) Beweis: Wir wollen nochmals ausdrücklich darauf hinweisen, dass der Satz für alle ρ gilt. Wir wollen den Beweis aber nur für den Fall ρ = 0 andeuten. In diesem Fall kann man die gemeinsame Verteilung in zwei Faktoren zerlegen, deren Gestalt wohlbekann sein sollte: f X (x, x 2 ) = = [ 2 e 2πσ σ 2 ( e 2 2πσ (x µ ) 2 σ 2 (x µ ) 2 σ 2 } {{ } f X (x ) ] + (x 2 µ 2 )2 σ 2 2 ) ( e 2 2πσ2 (x 2 µ 2 ) 2 σ 2 2 ) } {{ } f X2 (x 2 )

19 9 6 *Zufallszahlen* Ein konkretes in der Praxis (Simulation und Monte-Carlo-Algorithmen) auftretendes Problem ist die Erzeugung von Zufallszahlen, die einer vorgegebenen Verteilung folgen. Im Allgemeinen wird man dabei zunächst versuchen, stetig gleichverteilte Zufallszahlen auf dem Intervall [0, ] zu erzeugen. Dann wird man im nächsten Schritt versuchen, die erhaltene Sequenz so zu bearbeiten, dass die neue Sequenz von Zufallszahlen der gewünschten Verteilung folgt. Erzeugung gleichverteilter Zufallszahlen Um ein Folge echter (gleichverteilter) Zufallszahlen am Computer zu erzeugen, benötigt man einen zufälligen physikalischen Prozess. Insbesondere kann ein (deterministisches) Computerprogramm keine echten Zufallszahlen erzeugen, daher benötigt man spezielle Hardware. Die Firma Intel nutzt beispielsweise das thermische Rauschen eines Widerstandes, um daraus Zufallszahlen zu generieren. Oftmals genügen aber auch so genannte Pseudozufallszahlen, die von speziellen Computerprogrammen, so genannten Pseudozufallszahlgeneratoren, deterministisch erzeugt werden. Einfache Pseudozufallszahlgeneratoren sind beispiesweise so genannte Schieberegister oder Kongruenzgeneratoren. Diese Programme erzeugen zufällig erscheinende Zahlenfolgen. Kennt man allerdings den Algorithmus, kann man jede Zahl der Folge vorhersagen. Richtig verteilte Zufallszahlen Nehmen wir an, dass wir eine Folge auf dem Intervall [0, ] gleichverteilter Zufallszahlen erzeugt haben. Wie kann man daraus Zufallszahlen konstruieren, die irgend einer anderen Verteilung folgen? Satz 9 Sei F die Verteilungsfunktion einer gewünschten (stetigen) Verteilung mit der zugehörigen Umkehrfunktion F. Weiterhin sei U eine auf dem Intervall [0, ] stetig gleichverteilte Zufallsvariable. Dann ist die Zufallsvariable X := F (U) eine Zufallsvariable mit Verteilungsfunktion F. Beweis: Zunächst gilt sicher F (U) x U F (x) und somit folgt: P (X x) = P (F (U) x) = P (U F (x)) = F (x). Dabei ist die letzte Umformung korrekt, da U stetig gleichverteilt auf dem Intervall [0, ] ist, also ganz allgemein P (U y) = y gilt. Zufallszahlen in R erzeugen können. R hat enthält Befehle, die beliebig verteilte (Pseudo)zufallszahlen > x < runif(000, min=0, max=) erzeugt 000 auf [0, ] gleichverteilte Zufallszahlen (Vektorkomponeten von x) > x < rnorm(000, mean=0, sd=) erzeugt 000 standardnormalverteilte Zufallszahlen

20 20 > x < rexp(000, rate=) erzeugt 000 exponentialverteilte Zufallszahlen (mit Parameter ) Beispiel 6. Geben wir in R die folgenden beiden Kommandos ein, sollte eine ähnliche Skizze erzeugt werden. > x < rnorm(0000, mean=0, sd=4) > hist(x) Histogram of x Frequency x

21 2 7 Übungsaufgaben. Eine Reifenfirma untersucht die Lebensdauer eines neu entwickelten Reifens. Dabei zeigt sich, dass die ermittelte Lebensdauer der Reifen gut durch eine Normalverteilung mit den Parametern µ = km und σ = km angenähert werden kann. (a) Wie gross ist die Wahrscheinlichkeit dafür, dass ein zufällig ausgewählter Reifen höchstens km hält? (b) Wie gross ist die Wahrscheinlichkeit dafür, dass ein zufällig ausgewählter Reifen mehr als km hält? (c) Welche Lebensdauer wird von 95 Prozent der Reifen nicht überschritten? 2. Eine Maschine produziert Bandnudeln, deren Längen normalverteilt sind. Die durchschnittliche Nudellänge kann eingestellt werden, jedoch beträgt die Varianz unabhängig davon immer 4. (a) Wie gross ist die Wahrscheinlichkeit dafür, dass der eingestellte Wert µ = 50 mm um mehr als 3 mm unterschritten wird? (b) Auf welchen Wert muss die durchschnittliche Nudellänge eingestellt werden, damit die produzierten Nudeln mit einer Wahrscheinlichkeit von 0.99 eine Länge von höchstens 60 mm haben? 3. Z sei ein N(0; )-verteilte Zufallsgrösse. Wie gross muss eine positive Zahl c gewählt werden, damit gilt: P ( c Z +c) = 0.97? 4. Eine Glühlampe sei ununterbrochen in Betrieb, bis sie ausfällt. Die Zufallsgrösse X, die die (zufällige) Lebensdauer der Glühlampe angibt, sei exponentialverteilt. Weiterhin sei bekannt, dass derartige Glühlampen eine mittlere Lebenszeit von 6000 Stunden haben. (a) Wie muss λ gewählt werden, damit E(X) gleich der mittleren Lebenszeit ist? (b) Wie gross ist die Wahrscheinlichkeit, dass die Glühlampe nach 6000 Stunden bereits ausgefallen ist? (c) Eine Glühlampe sei bereits 3000 Stunden in Betrieb. Wie gross ist die Wahrscheinlichkeit, dass sie noch mindestens 3000 Stunden weiterbrennt? 5. Bestimmen Sie mittels der Tabellen in der Formelsammlung die folgenden Quantile. (a) Z standardnormalverteilt: z 0.95, z 0.99 und z (b) χ 2 -Verteilung: χ 2 0;0.95, χ 2 20;0.99 und χ 2 00;0.95 (c) t-verteilung: t 0;0.9, t 30;0.99 und t 20;0.99 (d) F -Verteilung: F 0,0;0.95 und F 4,0;0.95 Skizzieren Sie (grob) die zugehörigen Dichtefunktionen. Wo kann man für das jeweilige p-quantil den Wert p,,sehen?

22 22 Lösungen einiger Übungsaufgaben. (a) 99.87%, (b) 97.7%, (c) (a) Φ(.5) = (b) µ ist so zu wählen, dass Φ( 60 µ 2 ) = 0.99 und das heisst µ = c = (a) λ = /6000, (b) 0.632, (c) (a) Z standardnormalverteilt: z 0.95 =.645, z 0.99 = und z = 2.58 (Genau genommen gibt es in der Tabelle die sieben Werte 2.55, 2.56,..., 2.6 die zum Wert p = passen. Sie könnten jeden dieser Werte wählen.) (b) χ 2 -Verteilung: χ 2 0;0.95 = 8.3, χ 2 20;0.99 = und χ 2 00;0.95 = (c) t-verteilung: t 0;0.9 =.37, t 30;0.99 = 2.46 und t 20;0.99 = 2.36 (d) F -Verteilung: F 0,0;0.95 = 2.98 und F 4,0;0.95 = 2.86