27. Statistische Tests für Parameter. Was ist ein statistischer Test?

Transkript

1 27. Statistische Tests für Parameter Wenn du eine weise Antwort verlangst, musst du vernünftig fragen Was ist ein statistischer Test? Ein statistischen Test ist ein Verfahren, welches ausgehend von Stichproben bestimmte Hypothesen überprüft, und diese - mit gewissen Fehlerwahrscheinlichkeiten - bestätigt oder verwirft. Steht die Form der Verteilung außerfrage und man macht nur Hypothesen über Parameter der Verteilung (wie µ, σ 2, Anteilswert, Korrelationskoeffizient etc), so liegt ein parametrischer Test vor Dieses Kapitel. Hypothesen über die komplette Verteilung als solche (Stichprobe ist konsistent mit bestimmter Verteilung, zwei Stichproben gehorchen der selben Verteilung, zwei Stichproben sind konsistent mit Unabhängigkeit etc) werden in nichtparametrischen Tests untersucht Kap. 28. ff

2 27.1 Prinzip des Signifikanztests Fast immer werden statistische Tests in Form von Signifikanztests durchgeführt: Man formuliert eine Nullhypothese H 0 und die komplementäre Alternativhypothese H 1 = H 0 und überprüft, ob die Zufalls-Stichprobe wesentlich ( signifikant ) von H 0 abweicht. Wichtig: Durch Stichproben kann man mit den Mitteln der Statistik i.a. keine Fragen der Art zeige, dass...! beantworten, sondern nur Fragen der Art zeige, dass nicht widerlegt werden kann, dass...! das Wortes signifikant wird dabei durch das Signifikanzniveau quantifiziert: Das Signifikanzniveau α = P( abgelehnt H 0 ) ist die Wahrscheinlichkeit dafür, bei einem Signifikanztest die Nullhypothese H 0 abzulehnen, obwohl sie wahr ist. Üblich: α =0.10, 0.05, 0.01 Tabellen! α wird auch als α-fehler, Fehlerwahrscheinlichkeit oder Fehler erster Art bezeichnet. Der komplementäre Fehler zweiter Art oder β-fehler P( angenommen H 0 ) ist i.a. schwer zu kontrollieren und kann viel größer als α werden.

3 27.1 (b): Hintergrund: Entscheidungsmatrix unschuldig schuldig Freispruch Schuldspruch Ent- richtige scheidung Ent- richtige scheidung Irrtum zugunsten des Angeklagten Irrtum zuungunsten des Angeklagten In der Entscheidungsmatrix gibt es drei Mengen von Objekten: Eine Menge von Zuständen (H 0 ist wahr oder falsch) Eine Menge von möglichen Entscheidungen (H 0 annehmen oder nicht) Eine Menge möglicher Konsequenzen (Entscheidung richtig oder falsch) Aufgabe: 1. Ordnen Sie in obigen Beispiel die drei Mengen zu 2. Als Nullhypothese könnten Sie der Angeklagte ist unschuldig oder der Angeklagte ist schuldig annehmen. Warum ist hier die Nullhypothese der Angeklagte ist unschuldig besser?

4 27.1 (c): Entscheidungsmatrix beim Rührei Scherzhafte Beispiele haben manchmal größere Bedeutung als ernste Michael Stifel ( ) Man hat fünf (gute) Eier in einen Topf geschlagen und hat noch ein Ei. Soll man es gleich dazugeben, sicherheitshalber zunächst in eine Tasse aufschlagen oder gleich fortwerfen? 6.Ei ist gut 6.Ei ist faul Ei 6 dazugeben Ei 6 fortwerfen Ei 6 zunächst in Tasse Aufgabe: Tragen Sie die Konsequenzen in die fehlenden Kästchen ein. Diskutieren Sie die Entscheidungen der linken Spalte unter dem Gesichtspunkt: Nullhypothese annehmen oder verwerfen.

5 27.1 (c) II: Lösung 6.Ei ist gut 6.Ei ist faul Ei 6 dazugeben 6-Ei Rührei alles verdorben Ei 6 fortwerfen Verlust: 6.Ei 5-Ei Rührei 6. Ei zunächst in Tasse 6-Ei Rührei + zusätzlicher Abwasch 5-Ei Rührei + zusätzlicher Abwasch Hier ist die Konsequenz des Zustands 6. Ei ist faul schwerwiegender als die des Zustandes 6. Ei ist gut, deshalb muss man die Wahrscheinlichkeit einer möglichen Fehleinschätzung Ei als gut erklärt, obwohl es faul ist durch den Fehler erster Art kontrollieren können. Als Nullhypothese ist deshalb H 0 : Das 6. Ei ist faul dem Sachverhalt angemessen.

6 27.1 (d): Entscheidungsmatrix beim Signifikanztest H 0 annehmen H 0 verwerfen H 0 ist richtig richtig falsch Fehler 1. Art H 0 ist falsch falsch Fehler 2. Art richtig Die Wahrscheinlichkeit für einen Fehler erster Art: Ablehnung einer zutreffenden Nullhypothese kann man durch die Irrtumswahrscheinlichkeit α genau angeben und beeinflussen: P(H 0 verworfen H 0 ) = α Wesentlich weniger Kontrolle hat man über den Fehler zweiter Art oder β-fehler, bei einem Signifikanztest eine falsche Nullhypothese nicht abzulehnen: P(H 0 angenommen H 0 ) = β Richtlinie für die Auswahl der Nullhypothese: Der jeweils schwerwiegendere Fehler sollte kontrollierbar sein, also dem Fehler erster Art entsprechen. Im Zweifel für den Angeklagten!

7 27.1(e) Beispiele und Aufgaben 1. Welche Nullhypothese ist sinnvoll (i) beim Gericht (Schuldig oder unschuldig?), (ii) in der Qualitätssicherung (Ware ist gut oder schlecht?) Hinweis: Im Zweifel für den Angeklagten! 2. Nutella, qualitativ: Bei Stiftung Warentest geht der Vorwurf ein, dass Nutellagläser im Mittel nicht die angegebenen 400 g Nutella enthalten. Stiftung Warentest kauft daraufhin 9 Nutellagläser, stellt die Abfüllgewichte fest und führt einen parametrischen Test zum Signifikanzniveau α = 5% durch. Voruntersuchungen ( Kap. 28) zeigten, dass eine Gaußverteilung angenommen werden kann. (a) Was stellt die Zufallsgröße X dar und welcher statistische Parameter wird getestet? (b) Formulieren Sie eine sinnvolle Nullhypothese (c) Bestimmen Sie - analog wie bei der Schätztheorie - eine Schätzgröße und ihre Verteilung, falls H 0 grenzwertig zutrifft, d.h. der wahre Mittelwert µ = 400 g ist. (d) Die Schätzgröße ist t-verteilt (d.h. sieht wie Gaußverteilung aus). Formulieren Sie, zunächst rein grafisch, die Kriterien, die zur Annahme bzw. Ablehnung von H 0 führen. (e) Tatsächlich sei das mittlere Abfüllgewicht nun g, die Herstellerfirma füllt also in der Tat zu wenig Nutella ein. Schätzen Sie grob ohne Rechnung die Wahrscheinlichkeit β dafür ab, das Stiftung Warentest dies nicht erkennt (=Fehler zweiter Art)

8 27.2 Die Testfunktion Um eine datenbasierte Entscheidung durchführen zu können, wird für das jeweilige Testproblem eine Testfunktion T mit folgenden Eigenschaften definiert: Die Testfunktion T( X) = T(X 1, X 2,..., X n ) wird aus der Stichprobe gebildet. Als Funktion von Zufallsgrößen (nämlich den i.i.d. Merkmalsausprägungen X i der Stichprobe) ist T selbst eine Zufallsgröße. Genau wie bei den Schätzverfahren wird T aus dem effizienten Schätzer des zu testenden Merkmals durch Standardisierung gebildet, und zwar so, dass sie an der Grenze des durch H 0 definierten Parameterraums definierte statistische Eigenschaften hat. Beispielsweise gilt für einen Test des Mittelwertes µ bei bekannter Varianz σ, dass an der Grenze von H 0, also µ = µ 0, die Testfunktion T = Z = X µ 0 µ=µ n 0 N(0, 1) σ einer Standardnormalverteilung gehorcht. In Abhängigkeit von H 0 und der Fehlerwahrscheinlichkeit α wird aus dem Wertebereich von T (z.b. reelle oder positive Zahlen) ein kritischer Bereich K α gebildet. Liegt die Stichproben- Realisierung t von T in K, wird H 0 abgelehnt.

9 27.2 (b) Gütefunktion Zur Bestimmung der α-und β- Fehler und zur Definition von Gütekriterien für die Tests wird die Gütefunktion als Ablehnwahrscheinlichkeit in Abhängigkeit der wahren Parameterwerte definiert. Für Tests auf den Mittelwert µ (keine Einschränkung der Allgemeinheit) gilt G α (µ) = P T( X) K α wahrer Wert µ Damit kann man für alle möglichen wahren Werte µ die jeweiligen Fehler erster und zweiter Art α(µ) bzw. β(µ) angeben: α(µ) = j G(µ) µ H0 0 sonst, β(µ) = j 0 µ H0 1 G(µ) sonst. und folgende Gütekriterien definieren: Ein Test {T, K} ist unverfälscht, falls α(µ) = G(µ) α für alle µ H 0, G(µ) > α für alle µ H 1 = H 0. Ein unverfälschter Test {T, K} einer Nullhypothese H 0 ist der gleichmäßig beste Test, falls alle anderen Tests {T 2, K 2 } derselben Nullhypothese einen größeren β-fehler für alle anwendbaren Parameterwerte µ H 1 aufweisen. Mit der zu T 2 gehörigen Gütefunktion G 2 (µ) und Fehlerfunktion β 2 (µ) bedeutet dies β(µ) β 2 (µ) für alle µ H 1.

10 27.2(c) Beispiele: Verschiedenen Tests auf µ Nullhypothese H 0 : µ = µ 0, T = Z = X µ 0 σ n K = {z : z < z α/2 oder z > z 1 α/2 }, G(µ) = Φ `z α/2 y + 1 Φ `z 1 α/2 y, y = µ µ 0 n σ 1 Wahrscheinlichkeit α Fehler β Fehler Gütefunktion n 1/2 (µ µ 0 )/σ Nullhypothese H 0 : µ µ 0, T = Z = X µ 0 σ n K = {z : z > z 1 α }, G(µ) = 1 Φ (z 1 α y), y = µ µ 0 n σ Wahrscheinlichkeit α Fehler β Fehler Gütefunktion n 1/2 (µ µ 0 )/σ

11 27.2(d) Allgemeines Vorgehen bei der Durchführung 1. Festlegen der Nullhypothese H 0 und des Signifikanzniveaus α. Es gibt zwei Arten von Nullhypothesen Zweiseitige Tests: Gleichheits-Hypothese, z.b. µ = µ 0, Einseitige Tests: Ungleichheits-Hypothese, z.b. µ > µ Bestimmung der Testfunktion und deren Verteilung unter der vorläufigen Annahme, dass H 0 zutrifft (Gleichheits-Hypothese) bzw. grenzwertig zutrifft (Ungleichheits-Hypothese). In beiden Fällen wird also dieselbe Testfunktion verwendet und auch dessen hypothetische Verteilung unter der Annahme von z.b. µ = µ 0 ist dieselbe. Die Testfunktionen werden auf den nächsten Seiten vorgestellt. 3. Bestimmung des konkreten, aus der Stichprobe ermittelten Wertes der Testfunktion. 4. Testentscheidung durch Vergleich der Schwellwerte der Testverteilung mit dem aus der Stichprobe ermittelten Wert. Die Schwellwerte sind so definiert, dass sie die Grenze(n) für die Annahme von H 0 darstellen: Bei zweiseitige Tests sind es die α/2- und (1 α/2)- Quantile, Bei einseitigen Tests ist es das (1 α)- Quantil.

12 27.3 Test des Mittelwertes µ 1. Nullhypothese H 0 : Entweder zweiseitiger Test auf Gleichheit µ = µ 0 (z.b. genau 400 g Nutella ), oder einseitiger Test auf Ungleichheit µ µ 0 oder µ µ 0 (z.b. mindestens 400 g Nutella oder höchstens 400 g Nutella ), 2. Die Testfunktion ist dieselbe wie bei der Ermittlung der Konfidenzintervalle, wobei man den bei den Konfidenzintervallen vorausgesetzten wahren Wert µ durch die Nullhypothese µ 0 ersetzt (die Test-Statistik wird ja unter Annahme von H 0 ermittelt!) Bekannte Varianz: Z = X µ 0 σ n N(0; 1) Unbekannte Varianz: T = X µ 0 S n T(n 1) 3. Realisierung z von Z bzw. t von T aus der Stichprobe 4. Testentscheidung: H 0 wird angenommen beim einseitigen Test auf µ µ 0, falls z z α = z 1 α bzw. t t (n 1) α beim zweiseitigem Test, falls z z 1 α 2 bzw. t t (n 1) 1 α 2 = t (n 1) 1 α

13 27.3 (b) Beispiele und Aufgaben.. weil so schließt er messerscharf, nicht sein kann was nicht sein darf. Christian Morgenstern Nutellabeispiel, quantitativ: Lösen Sie die Nutella-Aufgabe von 27.1 für α = 5% und 1% für eine Stichprobe mit folgenden festgestellten Abfüllgewichten: 403 g, 400 g, 393 g, 396 g, 398 g, 401 g, 398 g, 397 g, 396 g. Annahme- und Ablehnungsbereiche Zeichnen Sie qualitativ die Testverteilung samt Annahme- und Ablehnungsbereiche für die Tests auf µ = µ 0, µ µ 0 und µ µ 0. Ändert sich bei normalverteilten Zufallsvariablen etwas, wenn man auf µ < µ 0 anstelle µ µ 0 testet? Fehlerwahrscheinlichkeiten. Wie groß sind die Wahrscheinlichkeiten für Fehler erster und zweiter Art maximal bei (i) einseitigen, (ii) zweiseitigen Tests? Tests vs. Konfidenzintervalle. Von einer Zufallsgröße hat man bereits das Konfidenzintervall für den Mittelwert berechnet: µ 50 ± 2. Kann man nun ohne zusätzliche Rechnung für dieselbe Fehlerwahrscheinlichkeit α einen zweiseitigen Test z.b. auf µ 0 = 47 oder µ 0 = 51.5 durchführen?

14 27.3 (c) Zweiseitiger Test vs. Konfidenzintervalle Beim zweiseitigen Test auf Gleichheit wird die Fehlerwahrscheinlichkeit α auf die Extremwerte der Test-Statistik zu beiden Seiten verteilt, so dass für jede Seite nur eine Fehlerwahrscheinlichkeit α/2 übrig bleibt: w P(t<t )= α/2 α/2 P(t>t )= α/2 1 α/2 Ablehnungs bereich t= 0 Annahme bereich t Ablehnungs bereich t α/2 t 1 α/2 Für symmetrische Test-Statistiken (d.h. für alle hier behandelten Parameter-Tests mit Ausnahme des Varianztests) gilt folgender wichtiger Zusammenhang (vgl. die Übungsfrage bei 27 (b)): Hat man ein empirisches Konfidenzintervall, so ergibt sich direkt auch das Ergebnis des zweiseitigen Tests auf H 0 : µ = µ 0 : H 0 abgelehnt, falls µ 0 nicht im Konfidenzintervall, ansonsten wird H 0 akzeptiert. Die Umkehrung: Konfidenzintervall aus Ergebnis eines zweiseitigen Tests geht natürlich nicht!

15 27.4 Tests für den Anteilswert θ Setzt man die Gültigkeit des Zentralen Grenzwertsatzes voraus, nθ 0 (1 θ 0 ) > 9, so sind die einseitigen (θ θ 0 bzw. θ θ 0 ) und zweiseitigen Tests des tatsächlichen Anteilswertes der Grundgesamtheit θ auf den Wert = θ 0, sowie der Zusammenhang des zweiseitigen Tests mit dem Konfidenzintervall, identisch zu den Mittelwert-Tests für bekannte Varianz. Ersetzt man in der standardnormalverteilte Testfunktion Z = ( X µ 0 )/σ das Stichprobenmittel X durch den Stichprobenanteil (=relative Häufigkeit) f = h n, entsprechend den Erwartungswert µ = f = θ 0, und die Varianz σ 2 = θ 0 (1 θ 0 )/n, erhält man die auf den Anteilswert spezialisierte Test-Statistik Z = f θ 0 p θ0 (1 θ 0 ) n

16 27.5 Einige weitere statistische Tests Varianztest: z.b. Überprüfen einer oberen zulässigen Grenze σ 0 der Streuung von gaußverteilten Bruchlasten sicherheitsrelevanter Teile (oder Check der Streuungen beim obigen Flugzeug- Beispiel): Nullhypothese: H 0 = Varianz σ 2 > σ 2 0, Test-Statistik: Q = (n 1)s2 σ 0 2 = 1 P n σ 0 2 i=1 (X i X) 2, Realisierung q von Q aus der Stichprobe, H 0 ist verworfen und damit zulässige Grenze überprüft, falls für die Stichproben-Realisierung u gilt: u χ 2 n 1,α mit χ 2 n 1,α dem α-quantil der χ2 -Verteilung mit (n 1) Freiheitsgraden. Differenztest der Erwartungswerte bei zwei verbundenen Stichproben X i und Y i, i = 1,, n (z.b. X i : Körpergewicht vor, und Y i : Körpergewicht nach einem Amerikabesuch): Führe die ganz normalen Mittelwert-Tests an der Differenzvariablen Z i = Y i X i durch, z.b. mit der Nullhypothese Z z 0 = 0. Zwei-Stichproben-Differenztest der Erwartungswerte zweier unabhängigen Stichproben {X i, i = 1,, n} und {Y j, j = 1,, m} (z.b. Körpergewichte von n Deutschen und m Amerikanern gleichen Alters). Falls n > 30 und m > 30 ist bei beliebigen Verteilungen die Testvariable Z = Ȳ X q Sx 2 n + S2 y m N(0, 1). Ansonsten siehe z.b. Baur, Kap oder Bohley Kap. 18

17 27.5(b) Güte- und Fehlerfunktionen für den Varianztest Nullhypothese H 0 : σ = σ 0, T = Q K = {q : q < q α/2 oder q > q 1 α/2 }, G(σ) = F Q q α/2 /y F Q q 1 α/2 /y 2, y = σ σ 0 1 Wahrscheinlichkeit α Fehler β Fehler Gütefunktion Freiheitsgrade σ/σ 0 Nullhypothese H 0 : σ σ 0, T = Q K = {q : q < q α }, G(σ) = F Q q α /y 2, y = σ σ 0 Wahrscheinlichkeit β Fehler α Fehler Gütefunktion Freiheitsgrade σ/σ 0 Verständnisfrage: Sind beide Tests unverfälscht?

18 27.5 (c) Test der Werte der linearen Regression Aus der Varianz der Schätzfunktion der linearen Regression Ŷ (x) = Â + ˆBx (vgl. die Übungsaufgabe zu 25.6),! V Ŷ (x) = σ2 R (x x) n ergibt sich folgende Test-Statistik für den Test des Regressionsparameters b auf den Wert b 0 bzw. der Regressionsfunktion selbst auf y 0 (x) = a 0 + b 0 x: s 2 x T b = ˆB b0 sx n ˆσ R T(n 2). s x n T y(x) = Ŷ (x) y0 (x)) p ˆσ R s 2 x + (x x)2 T(n 2). mit Ŷ (x) = Â + ˆBx und der (nicht-stochastischen) Varianz s 2 x = 1 n P n i=1 (x i x) 2. Die Test-Statistiken enthalten die Schätzer der linearen Regressionskoeffizienten: Â = Ȳ ˆB x, ˆB = 1 ns 2 x nx `Yi Ȳ (x i x), i=1 und den Schätzer für die Residualvarianz σ 2 R von Kap. 25.6: ˆσ 2 R = 1 n 2 nx i=1 Y i Ŷ (x i) 2. Der Test von b auf b 0 findet häufig Anwendung, wenn man Zeitreihen auf das Vorhandensein eines Trends prüfen will (b 0 = 0).

19 27.5 (d) Beispiele und Aufgaben Motorenherstellung Bei einem Kfz-Hersteller wurde ein Teil der Motorenherstellung in ein neues Werk verlagert. Sowohl vor als auch nach der Verlagerung wurde in Stichproben (Umfang in beiden Fällen n = 36) die PS-Zahl ermittelt. Man erhielt Vor der Verlagerung einen empirischen Mittelwert von 110 bei einer (als bekannt angenommenen) Varianz von 4 2, Nach der Verlagerung einen empirischen Mittelwert von 108 bei einer Varianz von 3 2 Hat sich die PS-Zahl signifikant (α = 5%) verschlechtert? Führen Sie den entsprechenden einseitigen Test an der Differenz durch! Berücksichtigen Sie, dass die Differenz eine Varianz von 5 2 hat und das n > 30 ist! tägliches Reisezeitbudget Das tägliche Reisezeitbudget für Alltagsfahrten wie Wohnen- Arbeit, Arbeit-Einkaufen, Wohnen-Freizeitbeschäftigung etc. ist in Europa seit vielen Jahrzehnten erstaunlich konstant. Nehmen Sie folgende Zeitreihe dafür an: Jahr Zeitbudget (min) Testen Sie, ob man bei einer Fehlerwahrscheinlichkeit von 5% die Aussage das Reisezeitbudget ist konstant oder sinkt widerlegen kann und damit auf ein steigendes Zeitbudget schließen kann.