I N F E R E N Z S T A T I S T I K Terminologie

Transkript

1 Seite 1 von 70 I N F E R E N Z S T A T I S T I K Terminologie i.i.d. independent and identically distributed bedeutet, unabhängig und in gleicher Weise verteilt, d.h., der gleichen Verteilung unterworfen. Vorsicht! gleich verteilt ist nicht gleichverteilt! Modell Die Parameter einer Verteilung liegen in einer bestimmten Menge, entweder in der Nullhypothese oder in der Alternative H A. Nullhypothese, Alternative Wir stellen eine Vermutung auf, die Nullhypothese, deren Gültigkeit wir anhand von Daten mit einer gewissen Wahrscheinlichkeit, dem Signifikanzniveau, nicht verwerfen werden. Belegen die Daten diese Nullhypothese nicht, so verwerfen wir diese und die Alternative wird angenommen. Test Ein Test wird so gewählt, dass die Wahrscheinlichkeit des Fehlers 1. Art (die Irrtumswahrscheinlichkeit) gleich einem vorher bestimmten α ist. Ein Test ist umso besser, je kleiner der Fehler 2. Art, der β-fehler, bei gegebenen α ist.

2 Seite 2 von 70 Einseitige oder zweiseitige Alternativen Wir unterscheiden einseitige Alternativen (one-sided alternative) und zweiseitige Alternativen (two-sided alternative). Einseitige Alternativen enthalten Verteilungen mit Parametern aus einem Halbstrahl von Parameter ist größer oder kleiner als eine reelle Zahl., d.h., der zu bewertende Zweiseitige Alternativen enthalten Verteilungen mit Parametern aus zwei Halbstrahlen, d.h., der Parameter nimmt einen gewissen Wert an oder nicht. Teststatistik, Testgröße, Prüfgröße Die Testgröße (test statistic) ist eine aus den Daten gewonnene Größe, die typischerweise in der Nullhypothese klein, in der Alternative groß ist. Kritischer Wert, Annahmebereich, Ablehnbereich Der kritische Wert (critical value) ist jener Wert, mit dem die Testgröße verglichen wird, um über eine Ablehnung der Nullhypothese entscheiden zu können. Der oder die kritischen Werte bestimmen den Annahmebereich bzw. Ablehnbereich für die Nullhypothese. Irrtumswahrscheinlichkeit Im Zusammenhang des Testens unterscheidet man zwischen zwei verschiedenen Irrtumswahrscheinlichkeiten, i.e. der Fehler erster und zweiter Art.

3 Seite 3 von 70 Signifikanzniveau Unter der Annahme der Nullhypothese wird mit der Wahrscheinlichkeit in Höhe des Signifikanzniveaus die Nullhypothese nicht verworfen (1 - α). Alpha-Fehler, Fehler erster Art, falsch negativ Der Fehler der jene Fälle misst, in denen die Nullhypothese abgelehnt wird, obwohl sie richtig ist (Ablehnung falsch, α- Fehler, error of first kind, false negatives). Beta-Fehler, Fehler zweiter Art, falsch positiv Jener Wert, der misst, wenn die Nullhypothese nicht abgelehnt wird, obwohl sie falsch ist (Annahme falsch, β-fehler, error of second kind, false positives). Je kleiner der β-fehler ist, desto schärfer trennt der Test und H A (more powerful), desto größer ist die Macht oder Güte des Tests. Güte, Macht Die Güte oder Macht eines Tests (power function) gibt die Annahmewahrscheinlichkeit der Alternative unter Annahme der Alternativverteilung in Abhängigkeit vom Parameter der Alternativhypothese an. D.h., sie misst die Güte eines Tests. Je kleiner der β-fehler ist, desto schärfer trennt der Test und H A (more powerful), desto größer ist die Macht oder Güte des Tests.

4 Seite 4 von 70 Die Güte eines Tests nimmt auch zu, wenn eine größere Stichprobe genommen wird. Beim Übergang vom einseitigen zum zweiseitigem Test nimmt die Macht eines Tests ab, da der Annahmebereich der Teststatistik größer wird (es bleibt nur mehr α/2 statt α am Rand), somit wird β größer und damit (1 - β), die Macht des Tests, kleiner. OC-Kurve, Operationscharakteristik, Prüfplankurve Die OC-Kurve misst den β-fehler in Abhängigkeit von der Verteilung der Alternativhypothese. Sie wird als 1 - Güte berechnet. P-Wert, p-value Die kleinst-mögliche Irrtumswahrscheinlichkeit α, die zur Ablehnung von führt. Oder: Die Wahrscheinlichkeit, dass - falls die Nullhypothese zutrifft - eine Teststatistik größer oder gleich der Beobachteten vorkommt. Schätzer Der Mittelwert ist ein Schätzer für den Erwartungswert. Die Stichprobenvarianz ist ein Schätzer für die Varianz. Die relative Häufigkeit eines Ereignisses ist ein Schätzer für die Wahrscheinlichkeit p eines Ereignisses.

5 Seite 5 von 70 Punktschätzer, Intervallschätzer Aus einer gegebenen Stichprobe werden statistische Parameter geschätzt. D.h., wir nehmen an, dass wir die Verteilung der Grundgesamtheit kennen, und "schätzen" die Parameter aus der vorliegenden Stichprobe. Dabei unterscheiden wir Punktschätzer, d.h. ein "exakter" Wert wird berechnet und Intervallschätzer, d.h. wir schätzen ein Intervall, in das der zu berechnende statistische Parameter mit einer gewissen Wahrscheinlichkeit fällt. Diese Schätzer müssen natürlich konsistent sein, sie sollten erwartungstreu sein und effizient. Konsistenz Ein Schätzer bzw. Schätzwert muss konsistent sein, d.h., er muss umso genauer sein, je mehr Daten zur Verfügung stehen. In Formelschreibweise wird die Konsistenz folgendermaßen beschrieben: Erwartungstreu, unverzerrt, unbiased Ein Schätzwert für einen statistischen Parameter heißt erwartungstreu (unverzerrt, unbiased), falls Bemerkung: Für unverzerrte Schätzer gilt:

6 Seite 6 von 70 Beispiele für erwartungstreue Schätzer Der Mittelwert ist ein erwartungstreuer Schätzer für den Erwartungswert. Die Stichprobenvarianz ist ein erwartungstreuer Schätzer für die Varianz σ²,

7 Seite 7 von 70 Beispiel für einen nicht erwartungstreuen Schätzer Die Stichprobenvarianz ist der Maximum-Likelihood-Schätzer, der kein erwartungstreuer Schätzer für die Varianz σ² ist. Effizienz Seien und zwei erwartungstreue Schätzwerte. Falls für alle möglichen Parameter ist, heißt besser als. Der Schätzer mit der kleinsten Varianz heißt effizient. Irrtumswahrscheinlichkeit, α-fehler, Fehler 1. Art Die Irrtumswahrscheinlichkeit α gibt jene Wahrscheinlichkeit an, mit der eine statistische Aussage falsch sein kann.

8 Seite 8 von 70 Signifikanzniveau Das Signifikanzniveau (1 - α) gibt jene Wahrscheinlichkeit an, mit der eine statistische Aussage eintreten kann. Konfidenzintervall Ein für einen statistischen Parameter ermitteltes Intervall heißt Konfidenzbereich (confidence region) zum Signifikanz- Niveau (1 - α), falls für alle Parameter gilt: Der Konfidenzbereich (das Konfidenzintervall, der Intervallschätzer) überdeckt den wahren Parameter mit einer Wahrscheinlichkeit von mindestens (1 - α), wobei α die Irrtumswahrscheinlichkeit ist. Je nach Verwendung sprechen wir von Toleranz- oder von Prognose-Intervallen.

9 Seite 9 von 70 I N F E R E N Z S T A T I S T I K Methodik Punktschätzer Allgemein Wir schätzen einen statistischen Parameter aus einer vorliegenden Stichprobe, wobei wir die Verteilung der Grundgesamtheit als bekannt voraussetzen. Der "einfachste" Schätzer ist der Mittelwert einer Stichprobe als erwartungstreuer Schätzer für den Erwartungswert µ, d.h. Verteilungen eine "zentrale" Rolle.. Dieser spielt auch in allen Die Stichprobenvarianz ist ein erwartungstreuer Schätzer für die Varianz σ², ( siehe Inferenzstatistik - Terminologie - Erwartungstreue), d.h.

10 Seite 10 von 70 Maximum Likelihood Es ist das wichtigste Konstruktionsprinzip von Punktschätzern, es funktioniert aber nur dann, wenn die den Daten zugrundeliegende Verteilung bekannt ist. So ist etwa beim Würfeln bekannt, dass jede Augenzahl gleich wahrscheinlich ist. Aus der Warteschlangentheorie wissen wir, dass die Wartezeiten in einer Schlange exponentialverteilt sind. Beispiel: In einer Urne befinden sich n = 10 Kugeln, von denen eine unbekannte Anzahl schwarz und der Rest weiß ist. Die Wahrscheinlichkeit, eine schwarze Kugel zu ziehen sei p. Befinden sich k schwarze Kugeln in der Urne, so ist p = k/n, einer der Werte 0, 0.1, 0.2,, 0.9, 1. Um die Anzahl der schwarzen Kugeln zu schätzen, werden nacheinander 4 Kugeln mit Zurücklegen gezogen. Es werden 3 schwarze und 1 weiße Kugel gezogen. Die Likelihood dafür ist: L(p) = p 3 (1 - p). Was ist die plausibelste Anzahl k für den beobachteten Ausgang dieses Experiments? p L(p) Wir erhalten, dass der beobachtete Ausgang am ehesten eintritt, wenn sich 7 (oder 8) schwarze Kugeln in der Urne befinden. Das können wir auch direkt durch die Berechnung des Maximums von L(p) erhalten - L(p)nach p ableiten und Null setzen: L(p) = 3p² - 4p³ = 0 also p = 3/4

11 Seite 11 von 70 Notation / Formeln / Berechnungen Allgemeine Berechnung der Maximum-Likelihood Sei eine Familie von Dichten, wobei ein Parameter (oder Parametervektor) ist, der die Dichten näher bestimmt. Wir schreiben für die Wahrscheinlichkeit, für den Erwartungswert und für die Varianz. Da die Zufallsvariablen X i unabhängig sind, ist die gemeinsame Dichte gleich dem Produkt der einzelnen Dichten Vorgangsweise Setze die Daten in die Dichte ein Finde jenes, welches die Likelihood-Funktion

12 Seite 12 von 70 oder die Log-Likelihood maximiert (Logarithmieren von Dichten verändert die Lage des Maximums nicht, da der Logarithmus eine streng monoton wachsende Funktion ist und die Dichten positive Funktionen sind). ist nun der Maximum-Likelihood Schätzer von. Maximum-Likelihood Beispiel mit Parameter der Poissonverteilung Seien die X 1,, X n Poisson(λ)-verteilt. Die Wahrscheinlichkeitsfunktion ist Wir können nun das Maximum direkt ausrechnen, d.h., die Wahrscheinlichkeitsfunktion (Likelihood) maximieren. Einfacher kann das über die Log-Likelihood berechnet werden:

13 Seite 13 von 70 Wir erhalten den Schätzer durch Maximieren in λ, d.h., durch Differenzieren nach λ: Der Schätzer für den Parameter λ der Poissonverteilung: ist erwartungstreu, da

14 Seite 14 von 70 Maximum-Likelihood Beispiel mit Parameter der Normalverteilung Seien die Zufallsvariablen normalverteilt. Die Wahrscheinlichkeitsdichte Maximieren in µ und ergibt

15 Seite 15 von 70 Der obige ML-Schätzer ist nicht erwartungstreu! Maximum-Likelihood Beispiel mit Anteilswert einer Binomialverteilung Sei X eine binomialverteilte Zufallsvariable, X B(n, p). "Welche Wahrscheinlichkeit p ist am wahrscheinlichsten, wenn eine Anzahl x von Ausfällen des Experiments beobachtet wurde?" Die Likelihood

16 Seite 16 von 70 I N F E R E N Z S T A T I S T I K Methodik Intervallschätzer Allgemein Ein Punktschätzer eines Parameters alleine enthält noch keine Information über dessen Genauigkeit. Durch einen Intervallschätzer wird ein Unsicherheitsbereich angegeben, der als Maß für die Genauigkeit gelten kann, d.h. der geschätzte Parameter liegt mit einer gewissen Wahrscheinlichkeit in dem geschätzten Konfidenzintervall. Ein ermitteltes Intervall heißt Konfidenzbereich (confidence region) zum Niveau (1 - α), falls für alle Parameter gilt: Der Konfidenzbereich (das Konfidenzintervall, der Intervallschätzer) überdeckt den wahren Parameter mit einer Wahrscheinlichkeit von mindestens (1 - α). Dies ist das sogenannte Signifikanzniveau, α ist die Irrtumswahrscheinlichkeit. Achtung! Je sicherer wir ein Intervall angeben wollen, d.h. je kleiner wir α wählen, desto größer wird das Intervall, desto "ungenauer" also die Schätzung für den Parameter. Üblich:

17 Seite 17 von 70 Intervallschätzer für die Parameter der Normalverteilung Allgemein Die Normalverteilung N(µ, σ² ) wird durch zwei Parameter parametrisiert: Den Erwartungswert und die Varianz. Punktschätzer für Mittelwert und Stichprobenvarianz siehe Inferenzstatistik - Terminologie - Erwartungstreue Bei Intervallschätzer für den Mittelwert unterscheiden wir zwei Fälle: 1. Die Varianz wird als bekannt vorausgesetzt. 2. Die Varianz ist unbekannt, muss also auch aus der Stichprobe geschätzt werden. Mittelwert der Normalverteilung bei bekannter Varianz Voraussetzung: Statistik: Konfidenzintervall:

18 Seite 18 von 70 Stichprobenumfang: Wurde die Stichprobe mit Zurücklegen gezogen und ist wobei N die Größe der Grundgesamtheit ist, so wird mit einer Endlichkeitskorrektur versehen und wir verwenden statt Herleitung des Konfidenzintervalls Wir rechnen die Wahrscheinlichkeit in ein Konfidenzintervall um:

19 Seite 19 von 70 und erhalten Der Intervallschätzer kann auch kurz durch angegeben werden. Herleitung des Stichprobenumfangs Ein Konfidenzntervall der Länge L erhalten wir, wenn wir das Intervall betrachten. Daraus ergibt sich

20 Seite 20 von 70 und somit Herleitung der Verteilung des Mittelwertes Wir wollen zeigen, dass also Da ist, folgt und

21 Seite 21 von 70 Es wird auch oft die Bezeichnung verwendet. Wir haben also und daher folgt die Behauptung nach Standardisierung. Mittelwert der Normalverteilung bei unbekannter Varianz Voraussetzung:

22 Seite 22 von 70 Statistik: Konfidenzintervall: Stichprobenumfang: Bemerkung: Das n 0 in der Formel für den Stichprobenumfang ist nicht leicht zu ermitteln, der kritische t-wert kann aber bei großen Stichproben durch den entsprechenden Wert der Normalverteilung ersetzt werden. Wurde die Stichprobe mit Zurücklegen gezogen und ist, wobei N die Größe der Grundgesamtheit ist, so wird mit einer Endlichkeitskorrektur versehen und wir verwenden statt

23 Seite 23 von 70 Herleitung des Konfidenzintervalls Wir rechnen die Wahrscheinlichkeit in ein Konfidenzintervall um: und erhalten

24 Seite 24 von 70 Varianz der Normalverteilung Voraussetzung: Statistik: Konfidenzintervall: Herleitung des Konfidenzintervalls Ausgehend von berechnen wir das zugehörige Konfidenzintervall für σ² als

25 Seite 25 von 70 Intervallschätzer für die Differenz zweier Erwartungswerte Fallunterscheidungen Im Fall der Differenz der Erwartungswerte zweier normalverteilter Stichproben ist folgende Fallunterscheidung zu treffen: 1. Zwei unabhängige Stichproben liegen vor Es werden unabhängige Stichproben verglichen, die daher auch nicht dieselbe Anzahl von Merkmalsträgern, d.h., den selben Umfang, haben müssen. Wir unterscheiden hier mehrere Fälle: Die Varianzen sind bekannt Die Varianzen sind unbekannt Die unbekannten Varianzen sind gleich Die unbekannten Varianzen sind verschieden 2. Zwei abhängige Stichproben liegen vor Hierbei handelt es sich um sogenannte verbundene Stichproben, die Merkmalsträger (untersuchten Objekte) sind in beiden Stichproben identisch. Wir sprechen auch von sogenannten Vor-Nach-Vergleichen, d.h., die Ausprägungen eines Merkmals werden vor und nach einer Maßnahme bzw einem Ereignis untersucht. Die Stichproben müssen demnach auch gleich groß sein. Es wird die Differenz der Mittelwerte der Stichproben bzw. der Mittelwert d der gepaarten Differenzen d i der Zufallsvariablen X i und Y i, d i = X i - Y i, geschätzt. Wir gehen hierbei genau so vor, wie beim Schätzen des Mittelwerts einer normalverteilten Zufallsgröße.

26 Seite 26 von 70 Folgende Fälle werden unterschieden: Die Varianzen sind bekannt Die Varianzen sind unbekannt Unabhängige Stichproben mit bekannter Varianz Voraussetzung: Statistik: Konfidenzintervall:

27 Seite 27 von 70 Unabhängige Stichproben mit unbekannter und gleicher Varianz Voraussetzung: Statistik: Konfidenzintervall:

28 Seite 28 von 70 Unabhängige Stichproben mit unbekannter und verschiedener Varianz Voraussetzung: Statistik: Konfidenzintervall:

29 Seite 29 von 70 Abhängige Stichproben mit bekannter Varianz Voraussetzung: Statistik: Konfidenzintervall: Abhängige Stichproben mit unbekannter Varianz Voraussetzung:

30 Seite 30 von 70 Statistik: Konfidenzintervall: Intervallschätzer für Anteilswerte Herleitung des Konfidenzintervalls Voraussetzung: beobachten m Erfolge bei n Versuchen Statistik:

31 Seite 31 von 70 Konfidenzintervall: Stichprobenumfang: Herleitung des Konfidenzintervalles Nach Wahl des Signifikanzniveaus (1 - α) soll für die beobachteten m Erfolge bei n Versuchen gelten: Diese Wahrscheinlichkeit rechnen wir in ein Intervall für den Anteilswert p um Da das unbekannte p in den Intervallgrenzen vorkommt, muss es dort durch den Schätzwert ersetzt werden.

32 Seite 32 von 70 Also erhalten wir das exakte Konfidenzintervall Da dieses Konfidenzintervall auf einer Approximation beruht, hält es nur für große n das Niveau. Bemerkung 1 zum KI Da für Anteilswerte gilt, dass und auch stets wird auch oft das größere, aber schneller zu berechnende approximative Konfidenzintervall verwendet. Bemerkung 2 zum KI Eigentlich betrachten wir ein Binomial-Experiment, d.h., Ziehen mit Zurücklegen. Falls ist, kann die obige Approximation durch die Normalverteilung verwendet werden. Bei großen Grundgesamtheiten kann dieses Konfidenzintervall auch im Fall der hypergeometrischen Verteilung verwendet werden, d.h., bei einem Experiment ohne Zurücklegen.

33 Seite 33 von 70 Bemerkung 3 zum KI Die Wilson-Score-Methode gibt ein auch schon bei kleinen p besseres Intervall [p 1, p 2 ], das durch gegeben ist. Ebenso können die Pearson-Clopper Werte verwendet werden. Herleitung des Stichprobenumfangs Bei Umfragen und statistischen Analysen ist es von Interesse zu wissen, wie groß eine Stichprobe sein muss, um ein in einem gewissen Rahmen sicheres Ergebnis zu erreichen. Wir messen diese "Sicherheit" mit Hilfe der Größe des Konfidenzintervalls, d.h., wir wollen eine "maximale" Größe des Konfidenzintervalls vorgeben, und dann berechnen, wie groß die Stichprobe mindestens sein muss, um dieses Ergebnis mit einer vorgegebenen Signifikanz zu erzielen.

34 Seite 34 von 70 Sei nun die Länge des Konfidenzintervalls mit L festgelegt, d.h., eine Abweichung um um den geschätzten Anteilswert, so ist das Konfidenzintervall und hat also die vom Stichprobenumfang N L abhängige Länge Durch Umformen dieser Formel erhalten wir Beispiel zur Herleitung des Konfidenzintervalls und Stichprobenumfangs Vor einer Volksabstimmung erklären 316 von 1000 befragten Leuten mit Nein stimmen zu wollen. Wir suchen das 99%- Konfidenzintervall für den erwarteten Anteil p der Nein-Stimmen.

35 Seite 35 von 70 Antwort: Dies ergibt eine "Unsicherheit" von ± 3.75 Prozent. Wie viele Personen müssten befragt werden, wenn die Abweichung des Ergebnisses nur ± 1 Prozent betragen soll? Antwort (approximativ): Differenz zweier Anteilswerte Voraussetzung:

36 Seite 36 von 70 Statistik: Konfidenzintervall: Beispiel zur Differenz von Anteilswerten Vor Beginn einer Werbekampagne kennen von 1000 Befragten 120 Personen eine bestimmte Marke. Nach der Werbekampagne kennen 160 von 1000 Befragten eine bestimmte Marke.

37 Seite 37 von 70 Ein 99 % Konfidenzintervall für die Differenz der Anteile berechnet sich folgendermaßen: Ergebnis: Die Werbekampagne brachte "von keinen bis 8 %" Zuwachs absolut.

38 Seite 38 von 70 Testen I N F E R E N Z S T A T I S T I K Methodik Allgemein Beim Testen geht es darum, eine aufgestellte Hypothese (Nullhypothese) auf Gültigkeit zu testen oder diese anhand der vorliegenden Datenlage zu widerlegen, d.h. das wahrscheinliche Vorliegen einer Alternative nachzuweisen. Dazu stellen wir Modelle auf, legen eine Irrtumswahrscheinlichkeit fest und sammeln Daten, aus denen wir statistische Parameter schätzen. Liegen diese dann in einem Annahmebereich für die Nullhypothese, wird diese nicht verworfen, im anderen Fall sagen wir, die Alternative liegt vor, d.h., der geschätzte Parameter liegt im Ablehnbereich. Der Annahmebereich entspricht "in etwa" dem Konfidenzintervall des geschätzten statistischen Parameters. Zur Beurteilung der Sachlage wird eine Teststatistik, ein statistischer Vergleichswert aus den Daten berechnet (mit den geschätzten statistischen Parametern) und mit einem berechneten kritischen Wert der zugrunde liegenden Verteilung verglichen. Heute wird allerdings meist nur mehr der berechnete p-wert mit einer vorgegebenen Irrtumswahrscheinlichkeit verglichen. Einführende Beispiele Oft müssen zweiwertige Entscheidungen (Ja/Nein) getroffen werden. 1. Ein einfaches Beispiel liefert der Münzwurf, wo wir entscheiden müssen, ob eine Münze fair ist. Die Entscheidung sollte dabei nicht nach Gefühl getroffen werden, sondern durch Daten belegt sein. 2. Wo es beim Glücksspiel Münzwurf noch ohne Folgen ist (niemand muss spielen), geht es bei den elektronischen

39 Seite 39 von 70 Diebstahlsicherungen um "Volksvermögen": Am Ausgang eines Verkaufslokals wird durch eine Maschine geprüft, ob eine nicht bezahlte Ware mitgenommen wird oder nicht. Das heißt, es wird automatisch die Hypothese Ware vollständig bezahlt gegen die Alternative unbezahlte Ware vorhanden getestet. Da die vorliegende Information, die die Testvorrichtung erhält, zu gering ist, kann es zu Fehlentscheidungen kommen. Es können zwei Arten von Fehlern auftreten: Bezahlte Ware als nicht bezahlt gemeldet (Fehlalarm), wir nennen dies einen Fehler der 1. Art. Oder es tritt der (teure) Fehler Nicht bezahlte Ware nicht gemeldet auf, wir nennen dies einen Fehler der 2. Art. Solche Fehler können unter anderem auftreten, wenn an der Kasse der elektronische Streifen/Chip nicht oder nicht vollständig entwertet wird oder wenn etwa ein elektronisches Gerät (etwa ein Mobiltelefon) einen Alarm auslöst. Unsere Testvorrichtung nimmt nun einen konstanten Fehler der 1. Art in Kauf, während der Fehler 2. Art minimiert werden soll. 3. Im Bereich der medizinischen Diagnostik geht es um mehr als nur um Geld. Hier können Fehldiagnosen lebensbedrohliche Folgen für die PatientInnen haben. MedizinerInnen müssen entscheiden, ob bei einem/r PatientIn/en eine Krankheit vorliegt oder nicht. Als Hypothese wird hier das Vorliegen einer Krankheit angenommen. In der Medizin bezeichnen wir Kranke, die als gesund (nicht erkannte Kranke) diagnostiziert sind, als falsch negativ eingeordnete (Fehler 1. Art), Gesunde, die als krank eingestuft werden, als falsch positiv eingestufte. Beide Fehldiagnosen können mit folgenschweren Auswirkungen verbunden sein. Entscheidung für wahr ist wahr ist H A Nullhypothese 1 - α β, Fehler 2. Art, falsch negativ Alternative H A α, Fehler 1. Art, falsch positiv 1 - β, Macht

40 Seite 40 von 70 Folgende Graphik visualisiert die Verteilung unter der Null- und Alternativhypothese, die Fehler 1. und 2. Art, sowie die Güte des Tests (einseitig). Modellbildung 1. Umwandlung einer Fragestellung in eine wissenschaftliche Fragestellung Formulierung einer Nullhypothese H (null hypothesis) 0 Formulierung einer Alternative H (alternative hypothesis). A 2. Wahl einer Irrtumswahrscheinlichkeit α bzw. eines Signikanzniveaus (1 - α) (level of significance). Bemerkung: Von manchen Autoren wird auch α selbst fälschlicherweise als Signifikanzniveau bezeichnet - dies ist falsch!

41 Seite 41 von 70 Üblich sind: α = 0.05 Ökonomie, Soziologie α = 0.01 Biologie, Psychologie, Naturwissenschaften α = Medizin 3. Auswahl eines Tests, wobei zwischen parametrischen und nichtparametrischen Tests unterschieden wird. Beim parametrischen Test werden Grundannahmen über die Verteilung der Grundgesamtheit getroffen. 4. Berechnung der Teststatistik T und eines kritischen Werts (bei einseitigen Tests) bzw. der kritischen Werte (bei zweiseitigen Tests) und damit eines Ablehnbereichs (Menge A). D.h., finde einen Wertebereich für die Daten, welcher unter der Nullhypothese sehr unwahrscheinlich ist (P(A) α) und unter dem die Alternative viel wahrscheinlicher ist. 5. Sammle Daten. Als Generalvoraussetzung wird angenommen, dass es sich um eine Zufallsstichprobe handelt. Durch Randomisieren kann die Selektion verbessert werden. Stelle fest, ob die gesammelten Daten Anlass dazu geben, dass die Teststatistik in diesen Wertebereich (kritischer Bereich, Ablehnbereich) fällt oder nicht. Entweder wird dazu die Teststatistik mit den kritischen Werten c α bzw. c 1 - α in den einseitigen Fällen und c α/2 und c 1 - α/2 im zweiseitigen Fall verglichen, oder es wird der P-Wert (p-value, level attained, descriptive level) berechnet und die Nullhypothese abgelehnt, falls dieser kleiner als das vorher gewählte Niveau (α) ist! p < α: lehne ab, d.h., verwerfen. p α: lehne nicht ab, d.h., kann nicht verworfen werden, da die Daten nicht im Widerspruch zu stehen.

42 Seite 42 von 70 Berechnung des Kritischen Wertes Für die Teststatistik (Prüfgröße) T wird ein kritischer Wert bzw. werden zwei kritische Werte berechnet, die vom vorgegebenen Fehler 1. Art (α-fehler) abhängen. Es soll gelten Einseitig (i) Einseitig (ii) Zweiseitig gleichbedeutend mit: Für den Fall einseitig (i) gilt folgendes: Wird c 1 - α unterschritten, so kann die Nullhypothese nicht abgelehnt werden, bei Überschreitung wird das Vorliegen der Alternative H A als wahrscheinlicher angesehen. Analog werden die Entscheidungen im Fall einseitig (ii) und zweiseitig getroffen.

43 Seite 43 von 70 Berechnung der Güte und des β-fehlers Die Güte oder Macht eines Tests für den Parameter einer Verteilung (unter der Alternative) ist definiert als Einseitig (i) Einseitig (ii) Zweiseitig wobei T die gewählte Teststatistik (Prüfgröße), α die gewählte Irrtumswahrscheinlichkeit und c α der kritische Wert ist. heißt β-fehler, Operationscharakteristik, OC-Kurve oder Prüfplankurve. Beim Übergang vom einseitigen zum zweiseitigem Test nimmt die Macht eines Tests ab, da der kritische Wert der Teststatistik größer wird (einseitig (i): c 1-α c 1 - α/2 ) kleiner wird (einseitig (ii): c α c α/2 ) somit bleibt nur mehr α/2 statt α am Rand, daher wird β größer und damit (1 - β), die Macht des Tests, kleiner.

44 Seite 44 von 70 Beispiel zur Berechnung der Güte Wir berechnen nun die Güte eines Tests, d.h., was passiert, wenn unsere Annahme über den Mittelwert der Verteilung (µ 0 ) nicht stimmt. Die Güte eines Tests ist die Wahrscheinlichkeit unter der Alternativhypothese (mit Parameter µ A ), dass die Teststatistik in den Ablehnbereich fällt, wobei der Ablehnbereich wiederum von der Nullhypothese (mit Parameter µ 0 ) abhängt. Nehmen wir an, dass eine Grundgesamtheit normalverteilt ist mit unbekanntem Erwartungswert µ und bekannter Varianz σ x ². Die beiden Hypothesen lauten: Nullhypothese : µ 0 Alternativhypothese H A : µ > 0 In folgender Graphik sieht man, dass die Güte des Tests davon abhängt, welcher konkrete Wert für µ A eingesetzt wird.

45 Seite 45 von 70 Die Güte g(µ A ) mit der Formel

46 Seite 46 von 70 und der β-fehler mit oder berechnet sich also im Falle der Normalverteilung: wobei C 1 - α das (1 - α)-quantil der Normalverteilung mit Mittelwert µ 0 und Varianz σ x ² ist. Die Güte ist dann Test für den Mittelwert Einstichprobentest des Mittelwertes bei bekannter Varianz, Gauss-Test, Z-Test Wir haben eine i.i.d. N(µ, σ²)-verteilte Stichprobe vorliegen, und wollen testen, ob die Daten belegen, dass ein

47 Seite 47 von 70 Erwartungswert µ im Verhältnis zu einem µ 0 angenommen werden kann. Dazu wird der Mittelwert als Schätzer für den Erwartungswert aus den Daten berechnet, die Testgröße berechnet und je nach Nullhypothese mit den kritischen Werten, die sich aus der Normalverteilung ergeben, verglichen. Voraussetzung: σ² bekannt Testgröße: Einseitig (i) ablehnen, falls T > Φ -1 (1 - α) Einseitig (ii) ablehnen, falls T < Φ -1 (α) Zweiseitig ablehnen, falls T > Φ -1 (1 - α/2) Einstichprobentest des Mittelwertes bei unbekannter Varianz, t-test Der t-test ist der am häufigsten zitierte Test, aber Vorsicht: es gibt "mehrere" t-tests. Wir haben eine i.i.d. N(µ, σ²)-verteilte Stichprobe vorliegen, wobei allerdings die Varianz σ² nicht bekannt ist, also durch die

48 Seite 48 von 70 Stichprobenvarianz s² geschätzt werden muss. Es ergeben sich folgende Tests: Voraussetzung: σ² unbekannt Testgröße: Einseitig (i) ablehnen, falls T > t n - 1, 1 - α Einseitig (ii) ablehnen, falls T < t n - 1, α Zweiseitig ablehnen, falls T > t n - 1, 1 - α/2 Bemerkung Wenn die quadrierte Teststatistik T² berechnet wird, folgt diese einer F-Verteilung mit einem und (n - 1) Freiheitsgraden:

49 Seite 49 von 70 BEISPIEL KAFFEEAUTOMAT Ohne philosophische Diskussionen über Qualität von Kaffee in Abhängigkeit von der Wasser- oder Kaffeemenge beginnen zu wollen, stellen wir uns folgende zwei Situationen vor: Der Automat verspricht "Kaffeegenuss - Becherinhalt 0.2l" 1. Für KundInnen des Automaten sei es wichtig, dass mindestens diese versprochenen 0.2 Liter enthalten sind. Also setzen wir an: : Die durchschnittliche Befüllung beträgt mindestens 0.2l (µ 0.2). H A : Die durchschnittliche Befüllung beträgt weniger als 0.2l (µ < 0.2). 2. Für die anbietende Firma, vertreten durch einen Servicetechniker, ist es wichtig, dass diese Füllmenge von 0.2 Litern ziemlich genau getroffen wird, um eine kalkulierbare Wartung durchführen zu können (Nachfüllen etc.), nicht zu viel zu verbrauchen, aber auch nicht "schlechtere" Qualität anzubieten und damit die KundInnen zu verärgern. Also setzen wir an:

50 Seite 50 von 70 : Die durchschnittliche Befüllung beträgt genau 0.2l (µ = 0.2). H A : Die durchschnittliche Befüllung beträgt nicht 0.2l (µ 0.2). Unter der Annahme, dass die Daten der Stichprobe unabhängig normalverteilt sind und aus einer normalverteilten Grundgesamtheit stammen, berechnen wir die Teststatistik T zu Wir haben die Irrtumswahrscheinlichkeit α mit 10% festgelegt und berechnen nun für beide Fälle die kritischen Werte.

51 Seite 51 von 70 Fall 1 Wir haben eine einseitige Nullhypothese, daher müssen wir das (untere) 10%-Quantil berechnen und erhalten den kritischen Wert t 0.1; 9 = Fall 2 Es liegt ein zweiseitiger Test vor, d.h., die 10% Fehler teilen sich in je 5% oberer und 5% unterer Fehler, und da die Dichte der t-verteilung symmetrisch um 0 ist, gilt: t 0.95; 9 = -t 0.05; 9 = Deshalb kommen wir zu folgenden Ergebnissen: Im ersten Fall wird die Nullhypothese abgelehnt, da die Teststatistik kleiner als der kritische Wert (-1,38) ist. Die durchschnittliche Füllmenge wird als zu gering eingeschätzt. Im zweiten Fall liegt die Teststatistik zwischen den beiden kritischen Werten bzw. es gilt T < 1.83, d.h., der Servicetechniker meldet, dass der Kaffeeautomat richtig eingestellt ist. Aus den berechneten Daten können wir die Annahme- und Ablehnbereiche sowohl der standardisierten Teststatistiken berechen also auch jene für die mittlere Füllmenge.

52 Seite 52 von 70 Teststatistik Annahmebereich Ablehnbereich Fall Fall Diese Werte können in tatsächliche Werte für den Messbereich umgerechnet werden, indem wir die Standardisierung zurückrechnen, d.h., die Intervallgrenzen a erhalten wir aus: und somit ergeben sich folgende Intervalle mittlere Füllmenge Annahmebereich Ablehnbereich Fall Fall Test für die Differenz zweier Mittelwerte Fallunterscheidungen Hier haben wir, genau so wie beim Schätzen, Fallunterscheidungen vorzunehmen.

53 Seite 53 von Zwei unabhängige Stichproben liegen vor Wir unterscheiden hier mehrere Fälle: Die Varianzen sind bekannt Die Varianzen sind unbekannt unbekannt aber gleich unbekannt und verschieden 2. Zwei abhängige Stichproben liegen vor Bei verbundenen Stichproben gehen wir von zwei abhängigen (gepaarten, verbundenen) Stichproben aus. Die Werte werden an identischen Entitäten (Merkmalsträgern) gemessen, wie etwa bei Vor-Nach-Vergleichen. Die Differenzen D i = Y i - X i werden dann wie im Einstichprobentest für Mittelwerte behandelt, d.h., entweder der Einstichprobentest des Mittelwerts bei bekannter Varianz oder der t-test für den Mittelwert, sollte die Varianz nicht bekannt sein. Folgende Fälle werden unterschieden: Die Varianzen sind bekannt Die Varianzen sind unbekannt Unabhängige Stichproben mit bekannter Varianz Zweistichproben t-test (Differenz der Mittel bei bekannten Varianzen) Sind die Varianzen der beiden unabhängigen und normalverteilten Stichproben bekannt, so ergeben sich folgende Tests: Voraussetzung:

54 Seite 54 von 70 X i, Y i unabhängig σ X und σ Y bekannt Testgröße: Einseitig (i) ablehnen, falls T > Φ -1 (1 - α) Bei der Differenz (µ X - µ Y ) = D ergeben sich foglende Testprobleme: Einseitig (ii) ablehnen, falls T < Φ -1 (α) Zweiseitig ablehnen, falls T > Φ -1 (1 - α/2) Unabhängige Stichproben mit unbekannter und gleicher Varianz Sind die Varianzen der beiden Stichproben nicht bekannt, können aber als gleich vorausgesetzt werden, so muss diese Varianz aus den Stichproben geschätzt werden. Es ergeben sich dann folgende Tests:

55 Seite 55 von 70 Voraussetzung: X i, Y i unabhängig σ X und σ Y unbekannt, aber gleich für beide Stichproben Testgröße: wobei Bei der Differenz (µ X - µ Y ) = D ergeben sich foglende Testprobleme: Einseitig (i) ablehnen, falls T > t n + m - 2; 1 - α Einseitig (ii) ablehnen, falls T < t n + m - 2; α Zweiseitig ablehnen, falls T > t n + m - 2; 1 - α/2

56 Seite 56 von 70 Unabhängige Stichproben mit unbekannter und ungleicher Varianz Voraussetzung: X i, Y i unabhängig σ X und σ Y unbekannt und nicht gleich in den beiden Stichproben Testgröße: ist approximativ t-verteilt, wobei die Freiheitsgrade v berechnet werden aus Bei der Differenz (µ X - µ Y ) = D ergeben sich foglende Testprobleme: Einseitig (i) ablehnen, falls T > t v; 1 - α

57 Seite 57 von 70 Einseitig (ii) ablehnen, falls T < t v; α Zweiseitig ablehnen, falls T > t v; 1 - α/2 Abhängige Stichproben mit bekannter Varianz Voraussetzung: σ X ², σ Y ² und σ X, Y bekannt Testgröße: wobei Einseitig (i)

58 Seite 58 von 70 ablehnen, falls T > Φ -1 (1 - α) Einseitig (ii) ablehnen, falls T < Φ -1 (α) Zweiseitig ablehnen, falls T > Φ -1 (1 - α/2) Abhängige Stichproben mit unbekannter Varianz Voraussetzung: σ X ², σ Y ² sind unbekannt Testgröße: wobei Einseitig (i)

59 Seite 59 von 70 ablehnen, falls T > t n - 1; 1 - α Einseitig (ii) ablehnen, falls T < t n - 1; α Zweiseitig ablehnen, falls T > t n - 1; 1 - α/2 BEISPIEL Verbundene Stichproben Wir wollen die Wirkung einer Diätkur testen. Gewicht vor Diätkur (X) Gewicht nach Diätkur (Y) Differenzen D i Die Differenzen werden einseitig auf Mittelwert 0 getestet, d.h., wir wollen wissen, ob die Kur eine signifikante Wirkung gehabt hat, mit einem α-fehler von 1%. Wir haben also : µ D 0 und H A : µ D < 0. Händische Analyse

60 Seite 60 von 70 Da T > t 4; 0.01 = kann nicht abgelehnt werden, d.h., es ist keine statistisch signifikante Wirkung der Diätkur nachweisbar. Analyse in R Programmtext von R für Dateneingabe und einen einseitigen, gepaarten Test, also einen Zweistichprobentest. x <- c(73,85,68,90,77) y <- c(72,81,70,82,73) d <- y - x t.test(y, x, alternative = c("less"), mu = 0, paired = TRUE, var.equal = FALSE, conf.level = 0.99) # Output: Paired t-test data: y and x t = , df = 4, p-value = alternative hypothesis: true difference in means is less than 0 99 percent confidence interval: -Inf sample estimates: mean of the differences -3

61 Seite 61 von 70 Hier der Programmtext von R für den entsprechenden Einstichprobentest t.test(d, alternative = c("less"), mu = 0, conf.level = 0.99) # Output: One Sample t-test data: d t = , df = 4, p-value = alternative hypothesis: true mean is less than 0 99 percent confidence interval: -Inf sample estimates: mean of x -3 Wir sehen, dass die Ergebnisse identisch sind. Analyse in MS-Excel Hier gibt es nur den gepaarten Zweistichproben t-test.

62 Seite 62 von 70 Testen von Anteilswerten Anteilswerte Test des Anteilswertes p einer B(n, p)-verteilung Voraussetzung: Testgröße:

63 Seite 63 von 70 wobei m die Anzahl der Versuche ist, bei denen das Ereignis von Interesse eingetreten ist. Einseitig (i) ablehnen, falls T > Φ -1 (1 - α) Einseitig (ii) ablehnen, falls T < Φ -1 (α) Zweiseitig ablehnen, falls T > Φ -1 (1 - α/2) Es gilt: Ist X N(0,1)-verteilt, so ist X² -verteilt.

64 Seite 64 von 70 Testen von Varianzen Einstichprobentest der Varianz Voraussetzung: Testgröße: bzw. wobei Einseitig (i) ablehnen, falls T² > Einseitig (ii) ablehnen, falls T² <

65 Seite 65 von 70 Zweiseitig ablehnen, falls T² < oder falls T² > Wichtig: Die obige Teststatistik T ist nur dann -verteilt, wenn µ unbekannt ist, ansonsten -verteilt. Beispiel Einstichprobentest der Varianz Beispiel Toleranzen bei Lagerwellen Wellen eines Lagers sollen eine Toleranz vom Sollwert σ 0 ² = 0.01 bei µ = 3.3 haben. Wir wollen eine Produktionscharge mit α = 0.05 anhand einer Stichprobe testen und erhalten folgende Daten: Der Mittelwert ist somit. Die beiden Hypothesen lauten: : σ² 0.01 und H A : σ² > 0.01

66 Seite 66 von 70 Da muss auf dem 5%-Fehlerniveau abgelehnt werden, d.h., die Varianz - und damit die Toleranz - ist signifikant größer als Die Produktionsmaschinen müssen daher neu eingestellt werden. Vergleich zweier Varianzen bei unabhängigen Stichproben Voraussetzung: Testgröße: wobei

67 Seite 67 von 70 Einseitig (i) ablehnen, falls T > F n - 1, m - 1; 1 - α Einseitig (ii) ablehnen, falls T < F n - 1, m - 1; α Zweiseitig ablehnen, falls T > F n - 1, m - 1; 1 - α/2 Bemerkung Für die Vertauschung der beiden Freiheitsgrade (Parameter) der F-Verteilung gilt: Die Verteilung der Teststatistik T kann aus Folgendem abgeleitet werden: Wir wissen, dass

68 Seite 68 von 70 -verteilt mit (n - 1) Freiheitsgraden ist. Wenn wir nun zwei -verteilte Zufallsvariablen X und Y haben, so kann gezeigt werden, dass nach der F-Verteilung F(n, m) verteilt ist. Beispiel Vergleich zweier Varianzen Beispiel Vergleich zweier Toleranzen Wir wollen die Produktion zweier Maschinen auf ihre Genauigkeit testen, indem wir die Toleranzen bei den produzierten Werkstücken testen, bei einem zulässigen Fehler von α = Stichprobe X i : Stichprobe Y i :

69 Seite 69 von 70 Da kann bei α = 0.01 nicht abgelehnt werden, d.h., die beiden Varianzen (Toleranzen) sind nicht signifikant verschieden, die beiden Maschinen arbeiten daher in demselben Normbereich. Vergleich zweier Varianzen bei abhängigen Stichproben Für den Test des unbekannten Streuungsparameters σ D ² der gepaarten Differenzen zweier abhängiger Meßreihen gilt folgendes: Voraussetzung: Testgröße:

70 Seite 70 von 70 bzw. falls µ X und µ Y bekannt sind. Wobei D i = X i - Y i und Einseitig (i) ablehnen, falls T² > Einseitig (ii) ablehnen, falls T² < Zweiseitig ablehnen, falls T² < oder falls T² >