Motivation. Benötigtes Schulwissen. Wirtschaftswissenschaftliches Zentrum 12 Universität Basel. Statistik

Transkript

1 Wirtschaftswissenschaftliches Zentrum 1 Universität Basel Statisti Dr. Thomas Zehrt Testen von Hypothesen Motivation Bei einem Testverfahren wird die aus einer Stichprobe gewonnene Information dazu verwendet, eine Entscheidung über eine Hypothese zu treffen. Hypothesen sind hier meist Annahmen über die Verteilung oder über einzelne Parameter der Verteilung eines Mermals in einer Grundgesamtheit. Hier ein lassisches Beispiel: Eine Lady behauptet, dass sie am Geschmac erennen ann, ob zuerst die Milch oder zuerst der Tee in die Tasse gegossen wurde. Wir wollen versuchen, diese Behauptung zu überprüfen, wobei uns wohl ein direter Weg einfällt. Wir önnten zwar den Tee mit Milch und die Milch mit Tee physialisch-chemisch untersuchen, um eventuell existierende Unterschiede aufzuspüren, aber jede hier gewonnene Erenntnis wäre bestenfalls ein Indiz, aber ein Beweis. Wir werden deshalb die Methoden der Statisti heranziehen, um das Problem (höchstwahrscheinlich) zu lösen. Es gibt offensichtlich zwei (sich gegenseitig ausschliessende) Hypothesen, an die man hier glauben ann: die Lady hat die behauptete Fähigeit nicht und die Lady hat die Fähigeit In der Testtheorie werden diese beiden Hypothesen nicht symmetrisch behandelt, wir müssen eine von beiden (die dann so genannte Nullhypothese) bevorzugen. Das wird im Allgemeinen die Hypothese sein, die der (im Moment) gültigen Weltanschauung am nächsten ommt. Benötigtes Schulwissen Rechnen mit Binomialoeffizienten Ungleichungen

2 1 Einführung: Die,,tea tasting Lady Eine Lady behauptet, dass sie am Geschmac erennen ann, ob zuerst die Milch oder zuerst der Tee in die Tasse gegossen wurde. Wir wollen versuchen, diese Behauptung zu überprüfen. 1.1 Test 1 In vier Tassen wird zuerst Tee und dann ein Zusatz Milch gegeben (Tassen vom Typ 1). In vier weitere Tassen wird zuerst Milch und dann der Tee eingegossen (Tassen vom Typ ). Der Lady werden die acht Tassen in zufälliger Reihenfolge (d.h. mit der Gleichverteilung auf der Menge der 8! Permutationen) gereicht. Sie wird aufgefordert, genau vier Tassen zu benennen, die sie für die vom Typ 1 hält. Benennt sie alle vier Tassen orret, so soll der Beweis ihrer Behauptung erbracht sein, denn die Wahrscheinlicheit, dass dieses Resultat zufällig zu Stande ommt ist mit der hypergeometrischen Verteilung (N = 8, S = 4, n = 4 und s = 4): ( 4 )( 4 4( 0) 8 = 4) 1 70 = Schwieriger wird das Problem, wenn die Lady behauptet, zwar nicht unfehlbar zu sein, aber doch öfter die richtige Klassifiation herauszuschmecen als das dem Zufall entspricht. Sollte man ihre Behauptung schon glauben, wenn sie (mindestens) drei Tassen vom Typ 1 herausfindet? Die Wahrscheinlicheit, dass dieses Resultat zufällig zu Stande ommt ist: ( 4 )( 4 ) ( )( 4 3 ( 1) 8 ) = Daher wären drei richtig lassifizierte Tassen vom Typ 1 ein wirlich überzeugender Beweis ihrer Fähigeiten. Natürlich ann man bei solchen Tests Irrtümer nie ausschliessen, aber man möchte doch eine Grenze für die Irrtumswahrscheinlicheit setzen, z.b. sollte sie nicht grösser als α = 0.05 sein. Diese Grenze ann natürlich stets eingehalten werden, indem man die Zahl der Tassen erhöht. z.b.. ann man bei mehr als 13 Tassen einen Fehler der Lady zulassen, ohne die Schrane α zu unterschreiten.

3 3 1. Test Der Lady wird 10-mal die Aufgabe gestellt, zwei Tassen, von denen eine vom Typ 1 und die andere vom Typ ist, orret zu lassifizieren. Damit die Lady unabhängig von früheren Entscheidungen urteilen ann, wird jedes Teilexperiment an einem anderen Tag ausgeführt. Sei X die Zahl der Tage, an denen sie die Tassen richtig lassifiziert. Als Modell bietet es sich an, X als binomialverteilt mit den Parametern n = 10 und p anzunehmen: X B(10; p). X ann also nur die Werte { 0, 1,, 3, 4, 5, 6, 7, 8, 9, 10 } mit P (X = ) = p (1 p) n annehmen. Die sogenannte Nullhypothese H 0 ist der Fall p = 1/ und in diesem Fall werden wir X = 5 erwarten, d.h. dass die Lady 5 Tassen richtig lassifiziert. Die Alternative H 1 ann man durch p > 1/ beschreiben. Wir nehmen also an, dass die Lady, wenn ihre Behauptung stimmt, an jedem Tag unabhängig von den anderen Tagen mit der Wahrscheinlicheit p > 1/ einen Erfolg erziehlt. Die Auswertung des Testes läuft ähnlich wie im ersten Fall: Wir werden die Nullhypothese nur dann verwerfen und somit der Lady glauben schenen, wenn sie genügend oft Erfolg hat, also sagen wir mindestens x-mal, oder anders ausgedrüct, wenn X R := { x, x + 1,..., 10 } { 0, 1,,..., 5,..., x, x + 1,..., 10 } ist. Falls sie allerdings weniger als x Tassen richtig lassifiziert, glauben wir weiterhin an die Nullhypothese. Bei der Bestimmung der Zahl x orientieren wir uns an einer (von uns) festgelegten Irrtumswahrscheinlicheit α. Wir verlangen also: P ( H 0 verwerfen H 0 richtig ) = P (X R p = 1/ ) = P ( X {x, x + 1,..., 10} p = 1/ ) }{{} Wahrscheinlicheit, dass die Lady mindestens, = x Tassen richtig lassifiziert, obwohl sie die Fähigeit nicht hat 10 =x ( 10 ) ( 1 ) ( 1 1 ) 10 = = ( ) ( ) x ( ) 10 x x }{{} =( 1 ) α =x ( 10 9 ) ( ) 9 ( ) 10 9 }{{} =( 1 ) 10 ( ) ( ) } {{ } =( ) 1 10

4 4 Oder äquivalent dazu: Finde die leinste natürliche Zahl x, so dass 10 =x 10 α oder (mit dem Gegenereignis) gilt. x 1 =0 10 (1 α) Beispiel 1.1 Sei α = 0.05 und wir nehmen an, dass die Nullhypothese gilt, also p = 1/. Wir suchen eine Zahl x, so dass P ( X x H 0 richtig ) = = = 10 ( 10 =x ) ( 1 ) ( 1 =x ) 1 (( ) 1 10 x x + 1 ( )) gilt, oder 0.05 ( ) ( ) x x Wir untersuchen also die Summe ( ) ( ) }{{} =1 } {{ } =11 } {{ } =56 } {{ }... } {{ } } {{... }... und erennen, dass wir x = 9 wählen müssen, um die Schrane α = 0.05 einzuhalten.

5 5 Grundbegriffe der Testtheorie Sei X eine Zufallsvariable mit den möglichen Verteilungen { } Hypothesenraum: Ω = = P θ (X = x) : θ Θ P θ Bei einem (parametrischen) Testproblem wird der Hypothesenraum in zwei Teilmengen aufgeteilt: die zu testende Nullhypothese H 0 : θ Θ 0 und die Alternative H 1 : θ Θ 1 entscheiden soll. Dabei gilt stets: Θ 0 Θ 1 = und bei Signifianztests (die wir im weiteren ausschliesslich behandeln werden) auch Θ 0 Θ 1 = Θ. Die typischen Situationen dabei sind: H 0 H 1 1. H 0 : θ = θ 0 H 1 : θ = θ 1, θ 0 θ 1 einfache Hypothese. H 0 : θ = θ 0 H 1 : θ θ 0 zweiseitigen Fragestellung 3. H 0 : θ θ 0 H 1 : θ > θ 0 einseitige Fragestellung 4. H 0 : θ θ 0 H 1 : θ < θ 0 einseitige Fragestellung Eine Funtion T (X) = T (X 1,..., X n ) der Stichprobenvariablen X = (X 1,..., X n ) heisst Testgrösse. Für die onrete Stichprobe (x 1,..., x n ) ergibt sich t = T (x 1,..., x n ) als Realisierung der Testgösse. Der Wertebereich der Zufallsgrösse T (X) wird in folgende zwei Teile zerlegt: Verwerfungsbereich, ritischer Bereich oder Ablehnbereich R Annahmebereich R c. Beispiel.1 Für das Beispiel der Lady 1.1 gilt somit: { } Ω = B(10, p) : p [0, 1] = Θ H 0 : p Θ 0 = {1/} und H 1 : p Θ 1 = (1/, 1] Hier gilt nicht Θ = [0, 1] = Θ 0 Θ 1 = {1/} (1/, 1] (ein typischer Test). T = X 1 + X X 10 wobei X i entweder 1 oder 0 ist, je nach dem ob die Lady am i-ten Tag richtig oder falsch lassifiziert.

6 6 Aufgrund der Realisierung (x 1,..., x n ) wird dann folgende Testentscheidung getroffen: H 0 ablehnen, falls t = T (x 1,..., x n ) R H 0 beibehalten, falls t = T (x 1,..., x n ) R c Innerhalb des gewählten Modells gibt es nun vier Möglicheiten, wie die Realität und die Testentscheidung zusammentreffen önnen. Realität H 0 ist richtig H 0 ist falsch Testentscheidung H 0 Fehler. Art, beibehalten o β-fehler H 0 Fehler 1. Art, verwerfen α-fehler o Bei der Testonstrution gibt man die Wahrscheinlicheit α eines Fehlers 1. Art vor. Diese Schrane bezeichnet man als Signifianzniveau und der Test heisst dann natürlich Signifianztest zum Niveau α. Der ritische Bereich R wird dann so onstruiert, dass die Wahrscheinlicheit eines Fehlers 1. Art nicht grösser als α wird: P (H 0 verwerfen H }{{} 0 richtig ) α T (X) R Dabei sollte aber die Wahrscheinlicheit eines Fehlers. Art P (H 0 beibehalten H 0 falsch ) nicht zu gross werden. Hierin liegt eine unsymmetrische Behandlung der beiden Risien. Das Risio einen Fehler 1. Art zu machen wird stärer gescheut. Ist man daran interessiert, ob irgendwelche Daten innerhalb einer bestehenden Theorie erlärbar sind oder auf eine neue Theorie hindeuten, so sollte man im Zweifelsfall bei der bestehenden Theorie bleiben. Wird ein neues mit einem alten Mediament verglichen, so wird man bei unlaren Werten beim alten und erprobten Mediament bleiben. Im Testproblem trägt man dieser Überlegung Rechnung, in dem man als Hypothese die Verteilung(en) wählt, die der etablierten Theorie oder der reinen Zufälligeit entspricht. Deshalb verwendet man auch oft das Wort Nullhypothese.

7 7 Allgemeines Vorgehen: 1. Verteilungsannahme über die Zufallsvariable X (bzw. über deren Verteilungsfuntion F ) machen. Formulieren der Nullhypothese und der Alternative. 3. Vorgabe der Irrtumswahrscheinlicheit α 4. Konstrution einer geeigneten Testgrösse T (X) = T (X 1,..., X n ) als Funtion der Stichprobenvariablen X, deren Verteilung unter der Nullhypothese vollständig beannt sein muss. 5. Wahl eines ritischen Bereichs R aus dem möglichen Wertebereich von T (X), so dass P (T (X) R H 0 richtig ) α gilt. 6. Bestimmung der Realisierung t = T (x 1,..., x n ) der Testgrösse T (X) anhand einer onreten Stichprobe. 7. Entscheidungsregel: Liegt t in R, so wird die Nullhypothese abgelehnt, sonst beibehalten.

8 8 3 Signifianztests für die Wahrscheinlicheit p Ein Zufallsexperiment, bei dem ein Ereignis E mit einer unbeannten Wahrscheinlicheit θ = p eintritt, wird n-mal durchgeführt. Die Zufallsvariable X zähle die Anzahl der Durchführungen, bei denen das Ereignis E eingetreten ist. Natürlich gilt wieder X B(n; p) für irgend ein unbeanntes p [0, 1]. Nun führen wir das Experiment n-mal durch und erhalten X = t, d.h. t-mal den Ausgang E (und (n t)-mal den Ausgang E c ). 3.1 Zweiseitiger Test gegeben: H 0 : p = p 0 H 1 : p p 0 α Verwerfungsbereich: R = {0, 1,..., x l } {x }{{} r,..., n} }{{} R l x l grösste Zahl s.d. x r leinste Zahl s.d x l =0 x r 1 =0 R r p 0 (1 p 0 ) n α p 0 (1 p 0 ) n 1 α Konstrution des Verwerfungsbereiches P (H 0 verwerfen H 0 richtig ) = P (X R p = p 0 ) = P (X R l oder X R r p = p 0 ) = P (X R l p = p 0 ) + P (X R r p = p 0 ) α Wir bestimmen nun die Grenzen x l und x r der beiden Komponenten von R durch die Forderungen: P (X R l p = p 0 ) = P (X R r p = p 0 ) = n =x r x l =0 p 0 (1 p 0 ) n p 0 (1 p 0 ) n α = 1 x r 1 =0 p 0 (1 p 0 ) n α

9 9 3. Linsseitiger Test gegeben: H 0 : p p 0 H 1 : p < p 0 α Verwerfungsbereich: R = {0, 1,..., x} x grösste Zahl s.d. x =0 p 0 (1 p 0 ) n α Konstrution des Verwerfungsbereiches P (H 0 verwerfen H 0 richtig ) = P (X R p p 0 ) P (X R p = p 0 ) α Wir bestimmen nun die Grenze x durch die Forderung: x P (X R p = p 0 ) = p 0 (1 p 0 ) n =0 α 3.3 Rechtsseitiger Test gegeben: H 0 : p p 0 H 1 : p > p 0 α Verwerfungsbereich: R = {x, x + 1,..., n} x leinste Zahl s.d. x 1 =0 p 0 (1 p 0 ) n 1 α Konstrution des Verwerfungsbereiches P (H 0 verwerfen H 0 richtig ) = P (X R p p 0 ) P (X R p = p 0 ) α Wir bestimmen nun die Grenze x durch die Forderung: n P (X R p = p 0 ) = p 0 (1 p 0 ) n = 1 =x x 1 =0 p 0 (1 p 0 ) n α

10 10 Aufgabe 3.1 Ein Hersteller von Überraschungseiern behauptet, dass in mindestens 14% der Eier Figuren stecen. Sie wollen das testen und nehmen eine Stichprobe von n = 1000 Eier in denen Sie 130 Figuren finden. Genügt dieses Ergebnis, um die Behauptung des Herstellers, mit einer genügend hohen Wahrscheinlicheit, zu widerlegen? Lösung: Stichprobengrösse n = 1000 X := Anzahl Figuren in der Stichprobe also X B(1000, p) Linsseitiger Test H 0 : p 0.14 (Behauptung des Herstellers) und H 1 : p < 0.14 Verwerfungsbereich: R = {0, 1,,..., x}, s.d. x die grösste Zahl mit P (0 X x p = 0.14) = x = Loaler Grenzwertsatz µ = = 140 und σ = = und somit x ( ) ( ) ( ) 1000 x Φ Φ =0 }{{} 0 Bestimme x so, dass folgendes gilt: ( ) x Φ = 0.05 Gleichwertig dazu (denn stets gilt Φ(z) + Φ( z) = 1): Bestimme x so, dass folgendes gilt: ( Φ x ) = = 0.95 Mit Hilfe der Formelsammlung erhält man, dass Φ an der Stelle den Wert 0.95 hat. Dann müssen wir die Gleichung x = nach x auflösen und wir erhalten x = Sicherheitshalber abrunden auf x = 11. Verwerfungsbereich: R = {0, 1,,..., 10, 11} und da wir 130 Figuren gefunden haben, önnen wir die Behauptung des Herstellers nicht (mit der gewünschten Sicherheit) verwerfen.

11 11 4 Übungsaufgaben 1. In einem verregneten Land beträgt die Regenwahrscheinlicheit in den Herbstmonaten 50%. Jeden Morgen im Herbst fragt sich Susi, ob sie einen Regenschirm mitnehmen soll oder nicht. Um zu einer Entscheidung zu ommen, wirft sie eine faire Münze. Wirft sie Kopf, nimmt sie einen Regenschirm mit, ansonsten lässt sie den Schirm zu Hause. (a) Betrachten Sie die Situation wie einen statistischen Test. Wie müssen die Hypothesen gewählt werden, damit der Fehler 1.Art die schlimmere Auswirung darstellt? (b) Bestimmen Sie die Wahrscheinlicheit für den Fehler 1. Art.. In einer Prüfung werden 10 Fragen gestellt, die nur mit,,ja oder,,nein zu beantworten sind. Der Dozent legt fest, dass ein Student der 8 oder mehr Fragen richtig beantwortet, die Prüfung besteht. Die Nullhypothese H 0 sei: der Student hat (ausschliesslich) geraten. Bestimmen Sie die Wahrscheinlicheit eines Fehlers 1. Art. 3. Max hat die Vermutung, dass Moritz einen Würfel so gezint hat, dass die Zahl 6 seltener als das für einen fairen Würfel zu erwarten wäre, fällt. Er überlegt sich folgendes:,,ich werde den Würfel 30-mal werfen. Dann sollte ich etwa 5-mal eine 6 erhalten. Erhalte ich eine oder nur eine 6, so werde ich annehmen, dass der Würfel gezint ist. Modellieren Sie das Experiment. Was ist H 0? Was ist H 1? Verwerfungsbereich? Wahrscheinlicheit eines Fehlers 1. Art? 4. Bei der Massenprodution eines Produtes treten immer wieder unbrauchbare Stüce auf. Der Produzent versichert, dass ihr Anteil p nicht mehr als % beträgt. Eine Stichprobe vom Umfang n = 5000 ergab 10 unbrauchbare Produte. Formulieren Sie H 0 und H 1. Bestimmen Sie den Verwerfungsbereich des Testes zum Signifianzniveau α = Sollte man H 0 ablehnen?

12 1 Lösungen einiger Übungsaufgaben 1. (a) Testproblem: Regen oder ein Regen Entscheidungsregel: Ich glaube, dass es regnen wird, wenn Münzwurf,Kopf, zeigt. Entscheidung / Realität Regen ein Regen,,Kopf Regen Schirm trocen Schirm umsonst,,zahl ein Regen ein Schirm nass trocen Mögliche Fehler: Schirm umsonst mitgenommen bzw. nass werden(ist wohl die schlimmere Konsequenz) Damit der Fehler 1. Art die schlimmere Konsequenz darstellt, müssen die Hypothesen wie folgt gewählt werden: H 0 : Regen H 1 : ein Regen (b) P ( H 0 verworfen H 0 stimmt ) = 0.5. α = 5.5% 3. R = {0, 1} (ann man der Aufgabenstellung entnehmen) und α =.9% 4. H 0 : p 0.0 gegen H 1 : p > 0.0, X zähle die Anzahl unbrauchbarer Produte in der Stichprobe, X B(5000, p) Hinweis: Nutzen Sie den Grenzwertsatz von De Moivre und Laplace.