Statistik I für Betriebswirte Vorlesung 13

Transkript

1 Statistik I für Betriebswirte Vorlesung 13 Prof. Dr. Hans-Jörg Starkloff TU Bergakademie Freiberg Institut für Stochastik 4. Juli 2016 Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

2 3.3 Parameterschätzungen: Punktschätzungen Eine der Grundaufgaben der schließenden Statistik besteht in der Schätzung unbekannter Verteilungsparameter, z.b. µ bzw. σ 2 bei einer Normalverteilung oder p bei einer Binomialverteilung. Im Weiteren werden ϑ als Bezeichnung des unbekannten Parameters und ˆϑ als Schätzung für den Parameter gewählt. Bei einer Punktschätzung wird der Parameter durch einen Zahlenwert geschätzt, dieser wird mittels einer Stichprobenfunktion aus der konkreten Stichprobe (x 1,..., x n ) berechnet. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

3 Beispiel: normalverteilte Grundgesamtheit Beispiel: Für eine normalverteilte Grundgesamtheit X N(µ, σ 2 ) ist X ein Schätzer für µ, d.h. ˆµ = X mit Schätzwert ˆµ(x 1,..., x n ) = x = 1 n n x i ; die Stichprobenvarianz S 2 ein Schätzer für σ 2, d.h. ˆσ2 = S 2 mit Schätzwert ˆσ 2 (x 1,..., x n ) = s 2 = 1 n 1 n (x i x) 2. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

4 Wünschenswerte Eigenschaften von Punktschätzungen i) Erwartungstreue Die Schätzung ˆϑ heißt erwartungstreu oder unverzerrt, wenn der Erwartungswert des Schätzers gleich dem zu schätzenden Wert ist, d.h. wenn man im Mittel den Parameter richtig schätzt, E ˆϑ = ϑ. Gilt jedoch E ˆϑ ϑ, dann heißt der Schätzer ˆϑ verzerrt und die Differenz E ˆϑ ϑ heißt systematischer Fehler, Verzerrung oder Bias. Wird die Forderung E ˆϑ = ϑ dahingehend abgeschwächt, dass man nur fordert lim E ˆϑ = ϑ, n kommt man zu dem Begriff der asymptotisch erwartungstreuen Schätzung. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

5 Beispiel zur Erwartungstreue Beispiel: Für eine Zufallsgröße X mit Erwartungswert EX R und endlicher Varianz VarX ist 1 n das Stichprobenmittel X = X i eine erwartungstreue n Schätzung von EX und die Stichprobenvarianz S 2 = 1 n ( Xi X ) 2 eine n 1 erwartungstreue Schätzung der Varianz. Die Schätzfunktion 1 n ( Xi X ) 2 ist im Gegensatz dazu nur n eine verzerrte Schätzung der Varianz. Sie ist jedoch eine asymptotisch erwartungstreue Schätzung der Varianz VarX. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

6 Konsistenz einer Punktschätzung ii) Konsistenz Die Schätzung ˆϑ heißt konsistent, wenn sie mit wachsendem Stichprobenumfang n dem zu schätzenden Parameter immer näher kommt. Insbesondere heißt sie schwach konsistent, wenn für beliebige ε > 0 gilt lim P( ˆϑ ϑ ε) = 1. n Hinreichend dafür sind zum Beispiel die Bedingungen ˆϑ ist (asymptotisch) erwartungstreu und lim Var ˆϑ = 0. n Beispiel: Wegen VarX = σ2 ist für eine Zufallsgröße mit n endlicher Varianz σ 2 das Stichprobenmittel X ein schwach konsistenter Schätzer für den Erwartungswert EX. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

7 Optimalität iii) Optimalität Eine weitere wünschenswerte Eigenschaft einer Schätzung ist ihre Optimalität. Dies besagt, dass die Schätzung in einer Menge von möglichen Schätzungen auf bestimmte Art und Weise optimal ist, zum Beispiel die geringste Varianz besitzt. Beispiel: Für eine Zufallsgröße X mit endlicher Varianz ist das Stichprobenmittel X derjenige lineare erwartungstreue Schätzer für den Erwartungswert EX, der die kleinste Varianz besitzt ( BLUE, best linear unbiased estimator ). Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

8 Konstruktionsmethoden für Punktschätzungen Die unbekannten Parameter einer Wahrscheinlichkeitsverteilung können ganz unterschiedlich sein, so dass man nicht immer auf naheliegende Formeln für Schätzfunktionen zurückgreifen kann. Außerdem kann man ganz verschiedene Schätzfunktionen mit unterschiedlichen Eigenschaften zur Schätzung eines Parameters nutzen. Deshalb hat man einige systematische Verfahren zur Bestimmung geeigneter Schätzfunktionen entwickelt, zum Beispiel die Momentenmethode oder die Maximum-Likelihood-Methode. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

9 Die Momentenmethode Bei der Momentenmethode werden die theoretischen Momente der Verteilung mit den unbekannten Parametern mit den empirischen Momenten gleichgesetzt und das resultierende Gleichungssystem nach den interessierenden Parametern aufgelöst. Beispiel: Schätzung der Parameter λ und p der Gammaverteilung. Theoretische Momente: EX = p λ, VarX = p λ 2. Empirische Momente: X, S 2. So erhält man das Gleichungssystem p λ = X, p λ 2 = S 2 und aufgelöst nach λ und p die Schätzfunktionen ˆλ = X S 2 und ˆp = X 2 S 2. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

10 Die Maximum-Likelihood-Methode I Bei der Maximum-Likelihood-Methode wird als Schätzwert ˆϑ(x 1,..., x n ) der Parameter verwendet, der das beobachtete Stichprobenergebnis am wahrscheinlichsten macht. Dazu wird die sogenannte Likelihood-Funktion L(x 1,..., x n, ϑ) gebildet: P(X = x 1, ϑ)... P(X = x n, ϑ), für diskrete Verteilungen; L(x 1,..., x n, ϑ) = f (x 1, ϑ)... f (x n, ϑ), für stetige Verteilungen, dabei ist f (x, ϑ) die Dichtefunktion der stetigen Zufallsgröße X, wenn ϑ der tatsächliche Parameter ist. Bei der Bildung der Likelihood-Funktion wird die stochastische Unabhängigkeit der Zufallsgrößen der mathematischen Stichprobe ausgenutzt. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

11 Die Maximum-Likelihood-Methode II Der Maximum-Likelihood-Schätzer wird dann als Lösung der Extremwertaufgabe bestimmt. L(x 1,..., x n, ϑ)! = max ϑ Häufig wird auch die äquivalente Aufgabenstellung genutzt. ln L(x 1,..., x n, ϑ)! = max ϑ Schätzer, die mit Hilfe der Maximum-Likelihood-Methode konstruiert wurden, haben oft bessere Eigenschaften als die Schätzer, die mit Hilfe der Momentenmethode konstruiert wurden. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

12 Beispiel 1 Maximum-Likelihood-Methode Schätzung des Parameters λ der Exponentialverteilung. Für x i > 0, i = 1,..., n gilt L(x 1,..., x n, ϑ) = λe λx1... λe λxn, L(x 1,..., x n, ϑ) = λ n e λ n x i, ln L(x 1,..., x n, ϑ) = n ln λ λ d ln L(x 1,..., x n, ϑ) dλ = n λ n ˆλ(x 1,..., x n ) = n n n x i, x i = 1 x. x i! = 0 Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

13 Beispiel 2 Maximum-Likelihood-Methode Schätzung des Parameters λ der Poissonverteilung. Für x i N 0, i = 1,..., n gilt n x i L(x 1,..., x n, ϑ) = λx 1 x 1! e λ... λxn λ x n! e λ = x 1!... x n! e nλ, ( n ) ln L(x 1,..., x n, ϑ) = x i ln λ ln(x 1!... x n!) nλ, d ln L(x 1,..., x n, ϑ) dλ = ˆλ(x 1,..., x n ) = n x i λ n =! 0 n x i n = x. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

14 3.4 Parameterschätzungen: Konfidenzschätzungen Ein Nachteil von Punktschätzungen ist darin zu sehen, dass diese als Zufallsgrößen mit einer Verteilung mit einer positiven Varianz den wahren Wert des Parameters ϑ nur selten exakt treffen. Bei stetigen Verteilungen, wie z.b. der Normalverteilung, geschieht dies sogar nur mit Wahrscheinlichkeit Null, da z.b. P ( X = µ ) = 0 gilt. Daher ist es häufig besser, einen ganzen Bereich (ein ganzes Intervall) als Schätzung anzubieten, dieser Bereich soll dann den unbekannten tatsächlichen Parameter mit hoher Wahrscheinlichkeit überdecken. Das Intervall I ist ein Konfidenzintervall (Vertrauensintervall) oder allgemeiner eine Konfidenzschätzung für den Parameter ϑ zum Niveau 1 α, wenn P(ϑ I ) 1 α gilt. Dabei wird eine Zahl 0 < α < 1, üblicherweise nahe 0, vorgegeben. Sie gibt die Wahrscheinlichkeit an, mit der Fehlentscheidungen (der wahre Parameter wurde nicht überdeckt) akzeptiert werden. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

15 Konfidenzintervalle Wenn also für 100 verschiedene Stichproben aus ein und derselben Grundgesamtheit für ein und denselben Parameter jeweils ein Konfidenzintervall zum Niveau 1 α bestimmt werden, werden im Mittel (1 α) 100 Intervalle den unbekannten Parameter überdecken und α 100 nicht. Ob das eine konkret berechnete Intervall den Parameter überdeckt oder nicht, ist aber nicht entscheidbar. Jeder Parameterwert aus dem Konfidenzintervall I kann als wahrer Parameterwert akzeptiert werden, allerdings mit einer Irrtumswahrscheinlichkeit von α. Ausgangspunkt zur Konstruktion eines Konfidenzintervalles für einen Parameter ϑ ist meistens eine Schätzgröße für eine Punktschätzung ˆϑ. Dazu muss man jedoch die exakte (oder asymptotische) Verteilung der Schätzfunktion oder einer geeigneten abgeleiteten Stichprobenfunktion finden. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

16 Konfidenzintervall für µ falls X N(µ, σ 2 ), σ 2 bekannt Wegen X N (µ, σ2 n Mit dem Quantil z 1 α 2 Standardnormalverteilung P ) ( z 1 α X µ gilt n N(0, 1). σ zum Niveau 1 α 2 der ( d.h. Φ(z 1 α ) = 1 α ) gilt dann 2 2 n z1 α 2 P X µ 2 σ ( X σ z 1 α µ X + σ z n 2 1 α n 2 ) = 1 α, ) = 1 α. Damit erhält man die Formel für das (zweiseitige) Konfidenzintervall I für den Erwartungswert µ der Normalverteilung bei bekannter Varianz σ 2 zum Konfidenzniveau 1 α [ I = X σ z 1 α ; X + σ ] z n 2 1 α. n 2 Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

17 Zahlenbeispiel Aufgabe: 10 Wägungen eines leichten Objektes (auf einer Apothekerwaage) ergaben (in mg): Die Waagengenauigkeit sei mit σ = 0.25 bekannt, die Messwerte können als normalverteilt angenommen werden. Bestimmen Sie das konkrete Konfidenzintervall für µ zur Irrtumswahrscheinlichkeit von 0.05! Lösung: α = α 2 = z = 1.96, n = 10, x = 10.1 [ I = ; ] 1.96, I = [9.945 ; ]. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

18 Notwendiger Stichprobenumfang Aus einer vorgegebenen Überdeckungswahrscheinlichkeit 1 α und einer vorgegebenen Intervalllänge kann man den dazu notwendigen Stichprobenumfang ableiten. In dem schon behandelten Fall eines Konfidenzintervalles für den Erwartungswert µ einer normalverteilten Grundgesamtheit bei bekannter Varianz σ 2 beträgt die halbe Intervalllänge d = σ ( ) z1 z 1 α, folglich n α 2 2 σ 2. n 2 d Im Wägebeispiel ergibt das für α = 0.05, d = 0.1 einen Wert von n = 24. In anderen Situationen hängen häufig mehrere Größen in der Formel für die Intervalllänge von n ab, z.b. das vorkommende Quantil. Dann kann man mit einem iterativen Vorgehen den notwendigen Stichprobenumfang bestimmen. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli

19 Allgemeine Wirkung von α und n Allgemeine Wirkung der Irrtumswahrscheinlichkeit α : Je kleiner α ist, desto größer ist bei gegebem n das Konfidenzintervall, d.h. desto unschärfer wird ϑ lokalisiert, desto größer ist aber auch die Überdeckungswahrscheinlichkeit. Allgemeine Wirkung des Stichprobenumfangs n : Je größer n ist, desto kleiner wird bei gegebenem α das Konfidenzintervall, d.h. umso schärfer wird ϑ lokalisiert. Prof. Dr. Hans-Jörg Starkloff Statistik I für Betriebswirte Vorlesung 13 Version: 14. Juli