Größe von Unendlich. Statistik. usw. Enthält die Menge. 1. der natürlichen Zahlen N = {1, 2, 3, 4,...}

Transkript

1 Größe von Unendlich Enthält die Menge Statistik 1. der natürlichen Zahlen N = {1, 2, 3, 4,...} Institut für angewandte Statistik & EDV Universität für Bodenkultur Wien Sommersemester Wahrscheinlichkeitsrechnung 2. aller reellen Zahlen im Intervall [0, 1] mehr Elemente? Gibt es verschiedene Arten von Unendlich? 1 Größe von Unendlich Größe von Unendlich 1.0 1/1 Gesamt Es gibt zwei Arten von unendlich : /2 usw. Abzählbar unendlich: Elemente können durchnummeriert werden. Es gibt eine eindeutige Abbildung, die jedem Element der Menge eine natürliche Zahl zuordnet /3 1/4 1/5 1/6 Überabzählbar unendlich: Die natürlichen Zahlen reichen nicht aus, um jedem Element der Menge eine Nummer zuzuordnen. 0.0 Die bekanntesten Beispiele für überabzählbare Mengen sind die reellen Zahlen R und alle Teilintervalle [a, b] R mit a < b. 2 3

2 Klassische Wahrscheinlichkeitsdefinition Merkmalsraum M = {ω 1, ω 2,..., ω m } 3.1 Wahrscheinlichkeit Ereignis E = {ω i1, ω i2,..., ω ig } M P ({ω 1 }) = P ({ω 2 }) =... = P ({ω m }) = p = 1 m P (E) = g m = Anzahl der günstigen Fälle Anzahl der möglichen Fälle Statistik 2012: 3.1 Wahrscheinlichkeit 5 Beispiel: 1 Würfel Beispiel: 2 Wüfel Merkmalsraum M = {1, 2, 3, 4, 5, 6} m = 6 Ergebnis ungerade Augenzahl E = {1, 3, 5} M g = 3 Merkmalsraum M = {(1, 1), (1, 2),..., (1, 6), (2, 1),...,..., (2, 6),..., (6, 1),..., (6, 6)} m = 36 Ereignis E = {(1, 1), (1, 2), (1, 3), (2, 1), (2, 2), (3, 1)} g = 6 P (E) = 3 6 = 0.5 P (E) = 6 36 = 1 6 = Statistik 2012: 3.1 Wahrscheinlichkeit 6 Statistik 2012: 3.1 Wahrscheinlichkeit 7

3 Relative Häufigkeiten Relative Häufigkeiten Was passiert, wenn wir oft würfeln? empirisches Gesetz der großen Zahlen h r;n (E) n Grenzwert (Wahrscheinlichkeit) (relative) Häufigkeit: H1) 0 h r (E) 1 für alle E E, H2) h r ( ) = 0 und h r (M) = 1, H3) E 1, E 2 E und E 1 E 2 = (E 1 und E 2 schließen einander aus ) h r (E 1 E 2 ) = h r (E 1 ) + h r (E 2 ) (Additivität) Wahrscheinlichkeit: P1) 0 P (E) 1 für alle E E, P2) P ( ) = 0 und P (M) = 1, P3) } E 1, E 2,... E E i E j = für alle i j P (E 1 E 2...) = P ( i=1 E i ) = P (E i ) i=1 (σ Additivität, abzählbare Additivität) Statistik 2012: 3.1 Wahrscheinlichkeit 8 Statistik 2012: 3.1 Wahrscheinlichkeit 9 Relative Häufigkeiten Relative Häufigkeiten a) b) M M E 1 E 2.. Additionsregel k Ereignisse.. a) Gegenwahrscheinlichkeit P (E c ) = 1 P (E).... E 1 E 2. P (E 1 E 2... E k ) = = P (E 1 ) + P (E 2 ) P (E k ) P (E 1 E 2 ) P (E 1 E 3 )... P (E k 1 E k ) +P (E 1 E 2 E 3 ) P (E k 2 E k 1 E k )... k = ( 1) l+1 P (E i1 E i2... E il ) l=1 {i 1,...,i l } {1,...,k} b) Additionssregel 2 Ereignisse P (E 1 E 2 ) = P (E 1 ) + P (E 2 ) P (E 1 E 2 ) Statistik 2012: 3.1 Wahrscheinlichkeit 10 Statistik 2012: 3.1 Zufällige Größen 11

4 Zufällige Größen In der Statistik werden numerische Merkmale durch sogenannte Zufallsvariablen (zufällige Größen, ZG) X modelliert: 3.2 Zufällige Größen diskret: Wertebereich ist endliche Menge von Zahlen oder höchstens abzählbar unendlich (natürliche Zahlen, ganze Zahlen,... ): {x 1, x 2,...} stetig: Wertebereich ist überabzählbar unendlich, z.b. Intervall oder reelle Zahlen. Statistik 2012: 3.2 Zufällige Größen 13 Zufällige Größen Verteilungsfunktion Verteilungsfunktion (VF) F X einer ZG X (engl. cumulative distribution function) Merkmalsraum M X Wahrscheinlichkeitsverteilung P X der ZG X Es gilt: F X (x) := P X ((, x]) = P (X x) für x R Beispiel: a) Würfeln: M X = {1, 2, 3, 4, 5, 6}, P X =? b) Rundungsfehler: M X = ( 0.5, 0.5], P X =? VF 1) 0 F X (x) 1 x R; VF 2) F X ist monoton wachsend mit lim x F X(x) = 0 und lim F x X (x) = 1 ; VF 3) P X ((a, b]) = P (a < X b) = F X (b) F X (a). für < a b < Statistik 2012: 3.2 Zufällige Größen 14 Statistik 2012: 3.2 Zufällige Größen 15

5 Diskrete Zufallsgrößen Beispiel Würfeln mit 2 Würfeln es gibt höchstens abzählbar unendlich viele Werte für X M X = {x 1, x 2,...} Wahrscheinlichkeitsfunktion (W-Fkt) p X (x i ) = P (X = x i ) x i M X p X (x i ) = 1 X: Augensumme M X = {2, 3,..., 11, 12} W-Fkt i p X (i) 1/36 2/36 3/36 4/36 5/36 6/36 p X (5) = P (X = 5) = P ({(1-4), (2-3), (3-2), (4-1)}) = 4/36 Statistik 2012: 3.2 Zufällige Größen 16 Statistik 2012: 3.2 Zufällige Größen 17 Stetige Zufallsgröße Stetige Zufallsgröße X kann (alle) Werte aus einem Kontinuum (z.b. Intervall) annehmen Da es überabzählbar viele Punkte gibt, gilt für alle Punkte x aus dem Wertebereich von X P (X = x) = 0 Nur intervalle haben positive Wahrscheinlichkeiten. Dichtefunktion (DF): nichtnegative Funktion f X : R R + Es gilt: P (a < X b) = b X(x) dx, a X(x) dx = 1... P X ((a, b]). a b x Statistik 2012: 3.2 Zufällige Größen 18 Beispiel: Digital-Waage: X... Gewicht Anzeige (in kg) DF f X (x) Statistik 2012: Beispiel 19 x

6 Erwartungswert 3.3 Momente von Zufallsgrößen x i M X x i p X (x i ) E(X) = µ X = x f X (x) dx falls X diskret falls X stetig Statistik 2012: 3.3 Momente von Zufallsgrößen 21 Varianz durchschnittliche quadratische Abweichung von µ X σx 2 = Var(X) = E((X µ X) 2 x i M X (x i µ X ) 2 p X (x i ) ) = (x µ X ) 2 f X (x) dx diskret stetig 3.4 Verteilungen Verschiebungssatz σ 2 X = E(X2 ) (E(X)) 2 Statistik 2012: 3.3 Verteilungen 22

7 Diskrete Verteilungen Diskrete Gleichverteilung Diskrete Gleichverteilung: Mögliche Ereignisse x 1,..., x m (Münze, Würfel,... ): X D(m) P {X = x i } = 1 m Binomialverteilung: X Treffer mit Wahrscheinlichkeit p in Stichprobe vom Umfang n: X Bi(n, p) P {X = k} = ( n) p k (1 p) n k, EX = np, Var(X) = np(1 p) k Poissonverteilung: Modellierung von gleichverteilten Zeitpunkten, Standort von Pflanzen,... : X P o(µ) Wahrscheinlichkeit Würfel P {X = k} = µk e µ, EX = µ, Var(X) = µ k! Statistik 2012: Diskrete Verteilungen 24 Statistik 2012: Diskrete Verteilungen 25 Binomialverteilung Poissonverteilung Wahrscheinlichkeit Bi(6, 0.25) Wahrscheinlichkeit Po(2) Statistik 2012: Diskrete Verteilungen 26 Statistik 2012: Diskrete Verteilungen 27

8 Stetige Gleichverteilung Univariate Normalverteilung Mögliche Werte sind die reellen Zahlen auf dem Intervall [a, b]. Dichte ist Rechtecksfunktion: { 1 f(x) = b a, a x b 0, sonst EX = a + b (b a)2, Var(X) = 2 12 Analog mehrdimensionale Gleichverteilung auf Rechtecken, Würfeln oder allgemeinen Bereichen: Dichte ist immer konstant 1/Fläche bzw. 1/Volumen Eine stetige Zufallsvariable X heißt normalverteilt, in Zeichen X N(µ, σ 2 ), wenn sie die Dichte f(x) = 1 ( ) σ 2π exp (x µ)2 2σ 2 besitzt. E(X) = µ Var(X) = σ 2 Die spezielle Verteilung mit µ = 0 und σ 2 = 1 heißt Standardnormalverteilung. Statistik 2012: Stetige Verteilungen 28 Statistik 2012: Univariate Normalverteilung 29 Univariate Normalverteilung Univariate Normalverteilung Dichte N(0,1) N(2,2) ca. 68% ca. 95% ca. 99.7% µ µ ± σ µ ± 2σ µ ± 3σ f(x) = 1 2πσ exp 2 (x µ)2 2σ 2 Im Bild: µ = 2, σ 2 = Statistik 2012: Univariate Normalverteilung 30 Statistik 2012: Univariate Normalverteilung 31

9 Kennzahlen der Normalverteilung Anwendung: Boxplot 3-σ-Regel: [µ σ, µ + σ]: ca. 68% der Daten [µ 2σ, µ + 2σ]: ca. 95% der Daten [µ 3σ, µ + 3σ]: ca. 99.7% der Daten Quartile: 1. Quartil x 0.25 µ 2σ/3 3. Quartil x 0.75 µ + 2σ/3 IQR d Q = 4σ/3 Standardisieren: Ist X normalverteilt nach N(µ, σ 2 ), so ist die standardisierte Zufallsgröße standardnormalverteilt. Z = X µ σ N(0, 1) 1.5 d Q = σ = 2σ Suche Grenze für untypische Beobachtungen (Ausreißer) unterer Whisker: oberer Whisker: z u = x d Q µ 2 σ 2σ = µ 2.66σ 3 z o = x d Q µ + 2 σ + 2σ = µ σ 3 Bei Normalverteilung gilt: [µ 2.66σ, µ σ] enthält etwas mehr als 99% der Daten (exakt %). Statistik 2012: Univariate Normalverteilung 32 Statistik 2012: Univariate Normalverteilung 33 Anwendung: Boxplot Anwendung: Boxplot 50 Stichproben aus der N(0,1) mit n=100 Häufigkeitsverteilung Anzahl Ausreißer Anzahl Boxplots beobachtete Häufigkeiten erwartete Häufigkeiten Bi(100, ) Statistik 2012: Univariate Normalverteilung 34 Statistik 2012: Univariate Normalverteilung 35

10 Lognormalverteilung Lognormalverteilung Eine stetige, nicht-negative Zufallsvariable X heißt logarithmisch normalverteilt, in Zeichen X LN(µ, σ 2 ), falls die transformierte Zufallsvariable Y = log(x) N(µ, σ 2 )-verteilt ist. Die Dichte von X ist gegeben durch f(x) = 1 xσ 2π exp ( (log(x) µ) 2 /2σ 2 ), x > 0. E(X) = exp(µ + σ 2 /2), Var(X) = exp(2µ + σ 2 ) (exp(σ 2 ) 1). Dichte LN(0,1) Statistik 2012: Lognormalverteilung 36 Statistik 2012: Lognormalverteilung 37 Exponentialverteilung Exponentialverteilung Eine stetige, nicht-negative Zufallsvariable X heißt exponentialverteilt mit Parameter λ > 0, in Zeichen X Ex(τ), wenn sie folgende Dichte besitzt: f(x) = λ exp( x/τ), x > 0. E(X) = τ Var(X) = τ 2 Dichte Ex(1) Statistik 2012: Exponentialverteilung 38 Statistik 2012: Exponentialverteilung 39

11 χ 2 -Verteilung χ 2 -Verteilung Eine stetige, nicht-negative Zufallsvariable X mit Dichte f X (x) = xf/2 1 e x/2 Γ(f/2) 2 f/2 x > 0 heißt χ 2 -verteilt mit f Freiheitsgraden, in Zeichen X χ 2 f. E(X) = f Var(X) = 2f Sind X 1,..., X f unabhängig und identisch standardnormalverteilt, so ist f Y f = Xi 2 i=1 Dichte χ χ 5 2 χ 2 -verteilt mit f Freiheitsgraden. Statistik 2012: χ 2 -Verteilung 40 Statistik 2012: χ 2 -Verteilung 41 t-verteilung t-verteilung Eine stetige Zufallsvariable X heißt t-verteilt mit f Freiheitsgraden, in Zeichen X t f, wenn Sie folgende Dichte besitzt: f(x) = Γ(f + 1)/2 fπγ(f/2)(1 + x 2 /f) (f+1)/2. E(X) = 0, f > 1 Var(X) = f/(f 2), f > 2 Die t 1 -Verteilung wird auch als Cauchy-Verteilung bezeichnet. Sind X und Y unabhängig standardnormal- bzw. χ 2 f-verteilt, so gilt Dichte N(0,1) t 15 t 5 T = X Y f t f Statistik 2012: t-verteilung 42 Statistik 2012: t-verteilung 43

12 F-Verteilung F-Verteilung Sind X 1 und X 2 unabhängig χ 2 n- bzw. χ 2 m-verteilt, so heißt F = X 1/n X 2 /m F-verteilt mit n und m Freiheitsgraden, in Zeichen F F n,m. Dichte F 3,30 F 3,3 χ 30, Statistik 2012: F-Verteilung 44 Statistik 2012: F-Verteilung 45 Beispiel: Standort von Pflanzen Zusammenhänge: Beispiel Standort gleichverteilt auf Fläche, im Schnitt µ = 0.5 Pflanzen/m 2. Anzahl der Pflanzen auf Teilstück von 4m 2 hat Poissonverteilung mit Parameter 4µ = 2 (allgemein: Fläche * µ) P {X 3} P {X 6} PKW auf einspuriger Straße: Aus Vogelperspektive sind die Autos gleichverteilt auf der Fahrbahn Die Anzahl der Autos in Teilabschnitten ist poissonverteilt (Parameter proportional zu Länge des Abschnittes) Pro Zeiteinheit fahren eine poissonverteilte Anzahl von Autos durch eine Zählstelle mit Parameter µ, Mittelwert µ Die Zeiten zwischen zwei Autos sind exponentialverteilt, ebenfalls mit Parameter τ = 1/µ, Mittelwert 1/µ. Statistik 2012: Beispiele 46 Statistik 2012: Beispiele 47

13 Zusammenhänge: Mathematik Weitere Beispiele Gegeben sei eine gleichverteilte Stichprobe X der Größe n auf dem Intervall [a, b]. Dann gilt: 1. Die Anzahl der Beobachtungen in jedem Teilintervall [c, d], a c < d b ist annähernd poissonverteilt mit Parameter (d c) n/(a b) falls d c << b a. 2. Die Anzahl der Beobachtungen in [c, d] ist exakt poissonverteilt, falls n nicht fix, sondern eine poissonverteilte Zufallsgröße ist. 3. Die Abstände x (i) x (i 1) zwischen zwei Werten der geordneten Stichprobe sind exponentialverteilt mit Parameter τ = (b a)/n. Sind die Zeitpunkte des Auswechselns einer Glühbirne gleichverteilt über die Zeit, so ist die Lebensdauer der Glühbirne exponentialverteilt, und die Anzahl der verbrauchten Glühbirnen pro Jahr poissonverteilt. Isolationsfehler je Kupferdrahtspule Webfehler je Stoffballen Teilchen, die von radioaktiver Substanz je Zeiteinheit emittiert werden Druckfehler je Buchseite Zahl der Kunden in einem Geschäft pro Tag Statistik 2012: Beispiele 48 Statistik 2012: Beispiele 49 Eine Frage Nehmen Sie an, wir befragen 3.5 Der zentrale Grenzwertsatz Einwohner Österreichs, BOKU-StudentInnen, und BOKU-ProfessorInnen, ob sie Schnitzel oder Pizza bevorzugen. Die Stichproben seien jeweils zufällig. Über die kulinarischen Präferenzen welcher Personengruppe wissen wir dann am besten Bescheid? Statistik 2012: 3.5 Der zentrale Grenzwertsatz 51

14 Zentraler Grenzwertsatz Zentraler Grenzwertsatz: Würfel # Wuerfel = 1 # Wuerfel = 2 Sind X 1,... X n stochastisch unabhängige Zufallsvariablen mit Mittelwert µ und Varianz σ 2, dann konvergiert die Summe η = n X i i=1 für n gegen eine standardnormalverteilte Zufallsvariable mit Mittelwert µ η = nµ und Varianz ση 2 = nσ # Wuerfel = 10 # Wuerfel = 100 Folgerung (Gesetz der großen Zahlen): Das Mittel x = 1 n x i n i=1 einer unabhängig identisch verteilten Stichprobe {x 1,..., x n } hat Erwartungswert µ und Varianz σ 2 /n Statistik 2012: 3.5 Der zentrale Grenzwertsatz 52 Statistik 2012: 3.5 Der zentrale Grenzwertsatz 53 Bsp: Würfel Bsp: Würfel 1 Würfel Summe 2 Würfel Statistik 2012: 3.5 Der zentrale Grenzwertsatz 54 Statistik 2012: 3.5 Der zentrale Grenzwertsatz 55

15 Bsp: Würfel Bsp: Würfel Summe 3 Würfel Summe 10 Würfel Statistik 2012: 3.5 Der zentrale Grenzwertsatz 56 Statistik 2012: 3.5 Der zentrale Grenzwertsatz 57 Bsp: Würfel Bsp: Ja/Nein Frage (40% Ja) Summe 25 Würfel 1 Antwort Wahrscheinlichkeit Statistik 2012: 3.5 Der zentrale Grenzwertsatz 58 Statistik 2012: 3.5 Der zentrale Grenzwertsatz 59

16 Bsp: Ja/Nein Frage (40% Ja) Bsp: Ja/Nein Frage (40% Ja) Summe 2 Antworten Summe 3 Antworten Wahrscheinlichkeit Wahrscheinlichkeit Statistik 2012: 3.5 Der zentrale Grenzwertsatz 60 Statistik 2012: 3.5 Der zentrale Grenzwertsatz 61 Bsp: Ja/Nein Frage (40% Ja) Bsp: Ja/Nein Frage (40% Ja) Summe 10 Antworten Summe 25 Antworten Wahrscheinlichkeit Wahrscheinlichkeit Statistik 2012: 3.5 Der zentrale Grenzwertsatz 62 Statistik 2012: 3.5 Der zentrale Grenzwertsatz 63

17 Bsp: Ja/Nein Frage (40% Ja) Bedeutung der Normalverteilung Dichte Verteilung Prozentsatz Ja 25 Antworten 50 Antworten 200 Antworten Immer wenn eine Zufallsvariable als additive Überlagerung vieler unabhängiger Einflußfaktoren angesehen werden kann, so ist sie annähernd normalverteilt (oder ein Funktional davon). Typische Beispiele: Messungen (Schwankungen der gemessenen Werte, Fehler der Instrumente,... ), egal ob an biologischen oder technischen Objekten Preise in effizienten Märkten (Angebot und Nachfrage durch viele unabhängige Marktteilnehmer) log-normalverteilung Prozentwerte Statistik 2012: 3.5 Der zentrale Grenzwertsatz 64 Statistik 2012: 3.5 Der zentrale Grenzwertsatz 65 Welche Verteilung? Manche Verteilungen ergeben sich natürlich aus der Anwendung: Diskrete Verteilungen aus Kombinatorik (Binomial-, Gleich-VT) Exponential und Poisson aus Gleichverteilungsannahmen Normalverteilung wegen ZGWS Prüfverteilungen (t, F, χ 2 ) als Funktion der Normalverteilung 3.6 QQ-Diagramme In jedem Fall müssen vor einer entsprechenden Analyse etwaige Verteilungsannahmen geprüft werden explorativ, Tests Statistik 2012: 3.5 QQ-Diagramme 66

18 Bsp: 200 gleichverteilte Zufallsgrößen Bsp: 200 gleichverteilte Zufallsgrößen Frequency Fn(x) Frequency Fn(x) x x x x Statistik 2012: 3.6 QQ-Diagramme 68 Statistik 2012: 3.6 QQ-Diagramme 69 Bsp: 200 standardnormalverteilte ZG Bsp: 50 standardnormalverteilte ZG Frequency Fn(x) Frequency Fn(x) x200 x x50 x Statistik 2012: 3.6 QQ-Diagramme 70 Statistik 2012: 3.6 QQ-Diagramme 71

19 Kurven vergleichen PP-Diagramme Das menschliche Auge kann Kurven nicht besonders gut vergleichen. exp(x) x Ob Punkte auf einer Linie liegen ist dagegen sehr einfach zu entscheiden. Zum Vergleich einer empirischen Verteilung vergleicht man daher nicht die Verteilungskurven, sondern trägt die theoretischen Werte auf der x-achse ab, die empirischen Werte auf der y-achse ab. Stimmen die Werte überein, sollten die resultierenden Punkte im Streudiagramm auf einer Geraden liegen. Statistik 2012: 3.6 QQ-Diagramme 72 Statistik 2012: 3.6 QQ-Diagramme 73 PP-Diagramme PP-Diagramme Fn(x) beobachtete Wahrscheinlichkeiten beobachtete Wahrscheinlichkeiten beobachtete Wahrscheinlichkeiten x theoretische Wahrscheinlichkten N(0,1) theoretische Wahrscheinlichkten N(0,1) theoretische Wahrscheinlichkten N(2,1) Statistik 2012: 3.6 QQ-Diagramme 74 Statistik 2012: 3.6 QQ-Diagramme 75

20 QQ-Diagramme QQ-Diagramme Ein großer Nachteil von PP-Diagrammen ist, daß die Parameter der Verteilung geschätzt werden müssen, Verteilungen mit unterschiedlichen Definitionsbereichen schwer verglichen werden können. Abhilfe schafft Verwendung der Quantilsfunktion statt Verteilungsfunktion: Definitionsbereich ist für alle Verteilungen das Intervall [0, 1]. Für mehrere Familien von Verteilungen, inkl. Gleichverteilung und Normalverteilung gilt, daß QQ Diagramme gerade Linien ergeben, auch wenn man falsche Parameter wählt. beobachtete Quantile theoretische Quantile N(0,1) beobachtete Quantile theoretische Quantile N(2,1) Statistik 2012: 3.6 QQ-Diagramme 76 Statistik 2012: 3.6 QQ-Diagramme 77 Bsp: Normalverteilte Daten Bsp: Gleichverteilte Daten x50 x200 3 runif(50) runif(200) norm quantiles norm quantiles norm quantiles norm quantiles Statistik 2012: 3.6 QQ-Diagramme 78 Statistik 2012: 3.6 QQ-Diagramme 79

21 Bsp: Exponentialverteilte Daten rexp(50) rexp(200) norm quantiles norm quantiles Statistik 2012: 3.6 QQ-Diagramme 80