F O R M E L S A M M L U N G S T A T I S T I K

Transkript

1 F O R M E L S A M M L U N G S T A T I S T I K Michael Melcher Gregor Laaha, Friedrich Leisch, Bernhard Spangl Universität für Bodenkultur Department für Raum, Landschaft und Infrastruktur Institut für Angewandte Statistik & EDV Peter-Jordan-Straße 82, 1190 Wien c , alle Rechte vorbehalten 10. Juni 2016

2 1 Beschreibende Statistik Kenngrößen Ausgangssituation: Stichprobe bzw. Rohdaten x 1, x 2,..., x n (n... Stichprobenumfang, x i... Merkmalsausprägung der i-ten Beobachtung). 1.1 Häufigkeiten & empirische Verteilungsfunktion Sind a 1, a 2,..., a k die k verschiedenen Werte in der Stichprobe, so bezeichnet h j = h(a j ) = # {x i : x i = a j } die absoluten und f j = f(a j ) = h j n die relativen Häufigkeiten für j = 1,..., k. Die absolute kumulierte Häufigkeitsverteilung H(x) ist gegeben durch H(x) = # {x i : x i x} = h(a j ), j:a j x die relative kumulierte Häufigkeitsverteilung (oder empirische Verteilungsfunktion) F n (x) = ˆF n (x) durch ˆF n (x) = F n (x) = F (x) = H(x) = f(a j ). n j:a j x 1.2 Ränge und Quantile x (i) in der aufsteigend sortierten Stichprobe Minimum = x (1) x (2)... x (n 1) x (n) = Maximum bezeichnet man als i-te Ordnungsstatistik, den geklammerten Index nennt man den Rang einer Beobachtung. Bei Bindungen, d.h. k 2 der x i sind identisch, erhalten diese k Beobachtungen denselben durchschnittlichen Rang. Das α Quantil q α (0 < α < 1) ist definiert als q α = x ( nα +1) = x ( nα ), q α [x (nα), x (nα+1) ], wenn nα nicht ganzzahlig, wenn nα ganzzahlig. Dabei ist nα die zu nα nächstkleinere, nα die nächstgrößere ganze Zahl. 1.3 Lagemaße arithmetisches Mittel (Stichprobenmittel) x (oder x n ) aus Rohdaten bzw. Häufigkeitsdaten x = 1 n x i = 1 k k a j h(a j ) = a j f(a j ) n n j=1 j=1 Stichprobenmedian x med = x = q 0.5 { x((n+1)/2) falls n ungerade x med = x = q 0.5 = (x (n/2) + x (n/2+1) )/2 falls n gerade 1

3 1.4 Streuungsmaße empirische Standardabweichung (Stichprobenstandardabweichung) s s = 1 n (x i x) n 1 2 = 1 ( n ) x 2 i n 1 n x2 Das Quadrat s 2 bezeichnet man als empirische Varianz oder Stichprobenvarianz. Variationskoeffizient (coefficient of variation) cv cv = s x MAD (mean absolute deviation) bzw. Medmed Medmed = MAD = median,...,n { x i x } Interquartilsabstand IQR IQR = q 0.75 q 0.25 Spannweite (Spannbreite) R R = x (n) x (1) = max,...,n x i min,...,n x i 1.5 Beurteilung der Gestalt empirische Schiefe ˆγ 1 ˆγ1 = 1 n n ( xi x s ) 3 empirische Wölbung/Kurtosis ˆγ 2 & Exzeß n ( xi x ) 4 Wölbung = Kurtosis = ˆγ 2 = 1 n Exzess = ˆγ 2 3 s 2

4 2 Normalverteilungsverfahren 2.1 Konfidenzintervalle und Tests für µ Ausgangssituation: Stichprobe x 1,..., x n als Realisation einer normalverteilten Zufallsgröße X N ( µ, σ 2) bzw. X N ( µ, σ0) 2 für den Fall, dass σ 2 = σ0 2 bekannt ist. Für eine Irrtumswahrscheinlichkeit α (0, 1) sind die Grenzen eines (1 α) Konfidenzintervalls (µ u, µ o ) für den Mittelwertparameter µ bzw. die Grenzen des Annahmebereichs (c u, c o ) für einen Mittelwerttest mit Signifikanzniveau α den folgenden Tabellen zu entnehmen. σ Teststatistik t H 0 Annahmebereich (c u, c o ) σ µ o µ u } Grenzen σ = x ± z 0 1 α/2 n µ = µ 0 c o c u t = x µ 0 σ/ n } = ±z 1 α/2 bekannt µ o = x + z 1 α σ = σ 0 µ u = unbekannt σ 0 n µ o = µ u = σ x z 0 1 α n µ o µ u } = x ± t n 1;1 α/2 s n µ o = s x + t n 1;1 α n µ u = µ o = µ u = s x t n 1;1 α n bekannt σ = σ 0 µ µ 0 c o = z 1 α c u = µ µ 0 c o = c u = z 1 α µ = µ 0 c o c u t = x µ 0 s/ n } = ±t n 1;1 α/2 unbekannt µ µ 0 c o = t n 1;1 α c u = µ µ 0 c o = c u = t n 1;1 α Quantile der Standardnormalverteilung sowie der t f -Verteilungen sind in den Tabellen A.1 und A.2 zu finden. 3

5 2.2 Konfidenzintervalle und Tests für σ 2 Ausgangssituation: Stichprobe x 1,..., x n als Realisation einer normalverteilten Zufallsgröße X N ( µ, σ 2). Für eine Irrtumswahrscheinlichkeit α (0, 1) sind die Grenzen eines (1 α) Konfidenzintervalls (σ 2 u, σ 2 o) für die Varianz σ 2 bzw. die Grenzen des Annahmebereichs (c u, c o ) für einen Varianztest mit Signifikanzniveau α den folgenden Tabellen zu entnehmen. Teststatistik t Grenzen H 0 Annahmebereich (c u, c o ) σ 2 u σ 2 o c u c o (n 1)s 2 /χ 2 n 1;1 α/2 (n 1)s 2 /χ 2 n 1;α/2 t = (n 1) s2 σ (n 1)s 2 /χ 2 n 1;α (n 1)s 2 /χ 2 n 1;1 α σ 2 = σ 2 0 χ 2 n 1;α/2 χ 2 n 1;1 α/2 σ 2 σ χ 2 n 1;1 α σ 2 σ 2 0 χ 2 n 1;α Quantile der χ 2 f -Verteilungen sind in Tabelle A.3 zu finden. 4

6 2.3 Vergleich zweier Mittelwerte für unabhängige Stichproben Ausgangssituation: zwei unabhängige Stichproben x 1, x 2,..., x nx und y 1, y 2,..., y ny aus Normalverteilungen N ( µ X, σx) 2 ( bzw. N µy, σy 2 ) der Umfänge nx bzw. n Y. Für eine Irrtumswahrscheinlichkeit α (0, 1) sind die Grenzen eines (1 α) Konfidenzintervalls ( µ u, µ o ) für die Größe µ = µ X µ Y bzw. die Grenzen des Annahmebereichs (c u, c o ) für einen Test der Differenz µ = µ X µ Y mit Signifikanzniveau α den folgenden Tabellen zu entnehmen. σ X und σ Y µ o µ u } Grenzen = (x y) ± z 1 α/2 σ 2 X nx + σ2 Y n Y bekannt σ 2 µ o = (x y) + z X 1 α nx µ u = + σ2 Y n Y µ o = µ u = (x y) z 1 α σ 2 X nx + σ2 Y n Y µ o µ u } (nx 1)s 2 X +(n Y 1)s 2 Y n X +n Y 2 s = f = n X + n Y 2 = (x y) ± s t f;1 α/2 1 n X + 1 n Y unbekannt σ X = σ Y = σ µ o = (x y) + s t f;1 α 1 n X + 1 n Y µ u = µ o = µ u = (x y) s t f;1 α 1 n X + 1 n Y µ o µ u s = f = s 2 X n X + s2 Y n ( Y ) s 2 2 X + s2 Y n X ny ( ) ( ) s 2 s 2 X n 2/(n X 1)+ Y X n 2/(n Y 1) Y } = (x y) ± s t f;1 α/2 unbekannt σ X, σ Y beliebig µ o = (x y) + s t f;1 α µ u = µ o = µ u = (x y) s t f;1 α 5

7 σ X und σ Y Teststatistik t H 0 Annahmebereich (c u, c o ) t = x y σ 2 X n X + σ2 Y n Y µ X = µ Y (µ X µ Y = 0) c o c u } = ±z 1 α/2 bekannt µ X µ Y (µ X µ Y 0) µ X µ Y (µ X µ Y 0) c o = z 1 α c u = c o = c u = z 1 α t = s x y 1 n X + 1 n Y unbekannt σ X = σ Y = σ unbekannt σ X, σ Y beliebig µ X = µ Y (µ X µ Y = 0) µ X µ Y (µ X µ Y 0) µ X µ Y (µ X µ Y 0) t = (nx 1)s 2 X +(n Y 1)s 2 Y n X +n Y 2 s = f = n X + n Y 2 } c o = ±t c f;1 α/2 u x y s 2 X n X + s2 Y ny µ X = µ Y (µ X µ Y = 0) µ X µ Y (µ X µ Y 0) µ X µ Y (µ X µ Y 0) f = c o = t f;1 α c u = c o = c u = t f;1 α ( ) s 2 2 X + s2 Y n X ny ( ) ( ) s 2 s 2 X n 2/(n X 1)+ Y X n 2/(n Y 1) Y c o c u } = ±t f;1 α/2 c o = t f;1 α c u = c o = c u = t f;1 α Quantile der Standardnormalverteilung sowie der t f -Verteilungen sind in den Tabellen A.1 und A.2 zu finden. 6

8 2.4 Vergleich zweier Mittelwerte für abhängige Stichproben Ausgangssituation: Für zwei Merkmale X und Y aus Normalverteilungen N(µ X, σx 2 ) bzw. N(µ Y, σy 2 ) liegen paarweise Beobachtungen (x 1, y 1 ), (x 2, y 2 ),..., (x n, y n ) vor X Y normalverteilt Grenzen der (1 α) Konfidenzintervalle ( µ u, µ o ) für die Größe µ = µ X µ Y und eine Irrtumswahrscheinlichkeit α bzw. Annahmebereiche (c u, c o ) für Tests der Differenz µ = µ X µ Y zum Signifikanzniveau α basierend auf den Differenzen d i = x i y i (i = 1,..., n), deren Mittel d = 1 n n d i sowie deren empirischer Varianz s 2 D = 1 n (d i d) 2 n 1 sind den folgenden Tabellen zu entnehmen. Teststatistik t µ u µ o H 0 Annahmebereich (c u, c o ) c u c o s (x y) t D n 1;1 α/2 n s (x y) + t D n 1;1 α/2 n t = x y s D / n s (x y) t D n 1;1 α n s (x y) + t D n 1;1 α n µ X = µ Y (µ X µ Y = 0) µ X µ Y (µ X µ Y 0) t n 1;1 α/2 t n 1;1 α/2 t n 1;1 α µ X µ Y (µ X µ Y 0) t n 1;1 α Quantile der t f -Verteilungen sind in Tabelle A.2 zu finden X Y beliebig verteilt Näherungsweise (1 α) Konfidenzintervalle ( µ u, µ o ) für µ = µ X µ Y und Irrtumswahrscheinlichkeit α bzw. Annahmebereiche (c u, c o ) der Tests zum Signifikanzniveau α für die Differenz µ = µ X µ Y bei großen Stichprobenumfängen (Faustregel n 30) sind mit den gleichen Bezeichnungen wie im vorigen Abschnitt den nachfolgenden Tabellen zu entnehmen. Teststatistik t µ u µ o H 0 Annahmebereich (c u, c o ) c u c o s (x y) z D 1 α/2 n s (x y) + z D 1 α/2 n t = x y s D / n s (x y) z D 1 α n s (x y) + z D 1 α n µ X = µ Y (µ X µ Y = 0) µ X µ Y (µ X µ Y 0) z 1 α/2 z 1 α/2 z 1 α µ X µ Y (µ X µ Y 0) z 1 α Quantile der Standardnormalverteilung sind in Tabelle A.1 zu finden. 7

9 2.5 Vergleich zweier Varianzen Ausgangssituation: zwei unabhängige Stichproben x 1, x 2,..., x nx und y 1, y 2,..., y ny der Umfänge n X bzw. n Y aus Normalverteilungen N(µ X, σx 2 ) bzw. N(µ Y, σy 2 ). s2 X und s2 Y stehen für die entsprechenden empirischen Varianzen. Annahmebereiche (c u, c o ) der Tests mit Signifikanzniveau α für einen Vergleich der Varianzen finden sich in nachfolgender Tabelle. Teststatistik t Annahmebereich (c H u, c o ) 0 c u c o t = s2 X s 2 Y σ X = σ Y F nx 1,n Y 1;α/2 F nx 1,n Y 1;1 α/2 σ X σ Y 0 F nx 1,n Y 1;1 α σ X σ Y F nx 1,n Y 1;α Quantile der F f1,f 2 -Verteilungen sind in Tabelle A.4 zu finden. 8

10 3 Varianzanalyse 3.1 Einfache Varianzanalyse Ausgangssituation: J i Beobachtungen einer quantitativen Variable y zu den I Stufen eines Faktors A: y ij (i = 1,..., I; j = 1,..., J i ) und das zugehörige Modell y ij = µ + α i + e ij (i = 1,..., I; j = 1,..., J i ) mit Gesamtmittel µ, Effekten α i und Fehlern e ij. Getestet wird die Nullhypothese H A H A : α 1 = α 2 =... = α I = 0 Der ANOVA Table im Falle der einfachen Varianzanalyse lautet Ursprung der Variabilität SS d.f. MS F p A Fehler I J i(y i. y.. ) 2 I 1 I Ji j=1 (y ij y i. ) 2 I J i I SS A I 1 MS A MS e p A SS e I Ji I Total I Ji j=1 (y ij y.. ) 2 I J i 1 mit den Abkürzungen y i. = 1 J i J i j=1 y ij und y.. = 1 I J i I J i y ij. j=1 Testentscheidung: Unter der Nullhypothese H A gilt F = MS A MS e F I 1, I J i I, weshalb die Nullhypothese H A zum Signifikanzniveau α zu verwerfen ist, falls F = MS A MS e > F I 1, I J i I;1 α Quantile der F f1,f 2 -Verteilungen sind in Tabelle A.4 zu finden. Die Schätzung der Modellparameter erfolgt mittels ˆµ = y.. und ˆα i = y i. y... 9

11 3.2 Zweifache Varianzanalyse ohne Wechselwirkungen Im Falle der zweifachen Varianzanalyse ohne Wechselwirkungen liegen Beobachtungen y ijk (i = 1,..., I; j = 1,..., J; k = 1,..., K) zu den I bzw. J Stufen zweier Faktoren A und B mit jeweils K Wiederholungen vor. Es wird das Modell y ijk = µ + α i + β j + e ijk (i = 1,..., I; j = 1,..., J; k = 1,..., K) mit Gesamtmittel µ, Effekten α i und β j sowie Fehlern e ijk unterstellt. Getestet werden die Nullhypothesen H A und H B : H A : α 1 =... = α I = 0 H B : β 1 =... = β J = 0 Der ANOVA Table der zweifachen Varianzanalyse ohne Wechselwirkungen lautet Ursprung der Variabilität A B Fehler Total SS d.f. MS F p i JK(y i.. y... ) 2 I 1 j IK(y.j. y... ) 2 J 1 ijk (y ijk y i.. IJK I y.j. + y... ) 2 J + 1 SS A I 1 SS B J 1 MS A MS e MS B MS e p A p B SS e IJK I J+1 ijk (y ijk y... ) 2 IJK 1 mit den Abkürzungen y... = 1 IJK I J K j=1 k=1 y ijk y i.. = 1 JK J K j=1 k=1 y ijk y.j. = 1 IK I K k=1 y ijk Testentscheidung: unter den Nullhypothesen H A bzw. H B gilt F A = MS A MS e F I 1,IJK I J+1 und F B = MS B MS e weshalb H A verworfen wird, falls und H B verworfen wird, falls F A > F I 1,IJK I J+1;1 α F B > F J 1,IJK I J+1;1 α. Quantile der F f1,f 2 -Verteilungen sind in Tabelle A.4 zu finden. Schätzwerte für die Modellparameter ergeben sich zu F J 1,IJK I J+1 ˆµ = y... ˆα i = y i.. y... ˆβj = y.j. y... 10

12 3.3 Zweifache Varianzanalyse mit Wechselwirkungen Werden zusätzlich Wechselwirkungen (αβ) ij berücksichtigt, gelangt man zum Modell y ijk = µ + α i + β j + (αβ) ij + e ijk (i = 1,..., I; j = 1,..., J; k = 1,..., K) mit der zusätzlichen Nullhypothese H AB H AB : (αβ) 11 =... = (αβ) IJ = 0. Der ANOVA Table für die zweifache Varianzanalyse mit Wechselwirkungen lautet Ursprung der Variabilität A B AB Fehler Total mit der Abkürzung SS d.f. MS F p i JK(y i.. y... ) 2 I 1 j IK(y.j. y... ) 2 J 1 ij K(y ij. y i.. (I 1)(J 1) y.j. + y... ) 2 ijk (y ijk y ij. ) 2 IJ(K 1) SS A I 1 SS B J 1 SS AB (I 1)(J 1) MS A MS e MS B MS e MS AB MS e p A p B p AB SS e IJ(K 1) ijk (y ijk y... ) 2 IJK 1 y ij. = 1 K K k=1 y ijk Testentscheidung: unter den Nullhypothesen H A, H B und H AB gilt F A F B F AB weshalb H A verworfen wird, falls H B verworfen wird, falls und H AB verworfen wird, falls = MS A MS e = MS B MS e F I 1,IJ(K 1) F J 1,IJ(K 1) = MS AB MS e F (I 1)(J 1),IJ(K 1), F A > F I 1,IJ(K 1);1 α, F B > F J 1,IJ(K 1);1 α F AB > F (I 1)(J 1),IJ(K 1);1 α. Quantile der F f1,f 2 -Verteilungen sind in Tabelle A.4 zu finden. Die Schätzwerte für die Modellparameter lauten ˆµ = y... ˆα i = y i.. y... ˆβj = y.j. y... (αβ)ij = y ij. y i.. y.j. + y... 11

13 3.4 Varianztests Ausgangssituation: I Stichproben mit Umfängen n 1,..., n I y y 1n1 mit Var(Y 1j1 ) = σ1 2 j 1 = 1,..., n 1 y y 2n2 mit Var(Y 2j2 ) = σ2 2 j 2 = 1,..., n y I1... y InI mit Var(Y IjI ) = σi 2 j I = 1,..., n I sowie die zu testende Nullhypothese H 0 : σ 2 1 = σ2 2 =... = σ2 I Bartlett Test Die Testgröße b lautet b = 1 I (n i 1) ln s2 c s 2 = i [( I ) = 1 (n i 1) ln s 2 c ] I (n i 1) ln s 2 i mit den I Gruppen-Varianzen s 2 i und der gemittelten Stichprobenvarianz s2 s 2 i = 1 n i 1 n i j=1 (y ij y i. ) 2 s 2 = 1 I (n i 1) I (n i 1)s 2 i sowie der Konstante c c = ( I ) (I 1) n i 1 1 I (n + 1 i 1) Unter H 0 ist die Testgröße b annähernd χ 2 verteilt mit I 1 Freiheitsgraden. H 0 wird zum Niveau α verworfen, wenn b > χ 2 I 1;1 α. Quantile der χ 2 f -Verteilungen sind in Tabelle A.3 zu finden Levene Test Basierend auf den Hilfsgrößen z ij = y ij y i. und dem Gesamtstichprobenumfang n = n n I lautet die Teststatistik w des Levene Tests mit den Mittelwerten z i. = 1 n i w = n i j=1 1 I 1 1 n I I n i (z i. z.. ) 2 n i I (z ij z i. ) 2 j=1 z ij und z.. = 1 n I n i j=1 Unter der Nullhypothese gilt w F I 1,n I. H 0 wird daher bei einem Test zum Niveau α verworfen, wenn w > F I 1,n I;1 α. In einer Variante des Levene Tests verwendet man die Größen z ij = y ij ỹ i. (Stichprobenmediane anstatt der Stichprobenmittel). Quantile der F f1,f 2 -Verteilungen sind in Tabelle A.4 zu finden. z ij 12

14 4 Korrelations- und Regressionsanalyse Ausgangssituation: Stichprobe paarweiser Beobachtungen (x 1, y 1 ), (x 2, y 2 ),..., (x n, y n ). 4.1 Korrelation (Pearson-)Korrelationskoeffizient Stichprobenkovarianz s xy : ( s xy = 1 n n ) (x i x)(y i y) = 1 x i y i n x y n 1 n 1 Stichprobenkorrelationskoeffizient r xy : r xy = s xy = s x s y n = (x i x)(y i y) n (x i x) 2 n (y i y) = 2 n = x iy i nxy ( n x2 i nx2) ( n y2 i ny2) wobei s 2 x und s 2 y die Stichprobenvarianzen der x- bzw. y-werte bedeuten (und daher s x und s y die Stichprobenstandardabweichungen): s 2 x = 1 n (x i x) 2 und s 2 y = 1 n (y i y) 2 n 1 n 1 Test auf Unkorreliertheit (H 0 : ρ X,Y = 0): Unter H 0 ist die Testgröße t = r xy n 2 1 rxy 2 verteilt nach t n 2. Die Testentscheidung zum Niveau α lautet { } { > ablehnen t t n 2;1 α/2 H 0 beibehalten Quantile der t f -Verteilungen sind in Tabelle A.2 zu finden Spearman Korrelationskoeffizient Der Spearman sche Rangkorrelationskoeffizient r S verwendet anstatt der Originaldaten (x i, y i ) die Ränge, welche getrennt voneinander für die x i und y i bestimmt werden. Bezeichne r i den Rang von x i und s i den von y i, so ergibt sich r S zu n r S = (r i r) (s i s) n (r i r) 2 n (s i s) 2 wobei r und s die arithmetischen Mittel der Ränge darstellen. Diese Darstellung lässt sich erheblich vereinfachen zu r S = 1 6 n d2 i (n 1) n (n + 1) wobei d i := r i s i die Rangdifferenz des Beobachtungspaars i darstellt. 13

15 4.2 Einfache lineare Regressionsanalyse Modell der einfachen linearen Regression: mit Fehlern E N(0, σ 2 ). Y x = a + bx + E Schätzung der Regressionskoeffizienten anhand einer Stichprobe (x 1, y 1 ),..., (x n, y n ) des Umfangs n: s xy ˆb = s 2 und â = y ˆbx x mit der Stichprobenkovarianz s xy und der Stichprobenvarianz der x-werte s 2 x. Vorhergesagte/mittels der Regression modellierte Werte ŷ: ŷ i = â + ˆb x i Schätzung der Fehlervarianz σ 2 : ˆσ 2 = s 2 = 1 n 2 n (y i â ˆbx i ) 2 = n 1 n 2 (s2 y ˆb 2 s 2 x) Beidseitiges (1 α) Konfidenzintervall für die Fehlervarianz σ 2 : (n 2)s 2 χ 2 n 2;1 α/2 σ 2 (n 2)s2 χ 2 n 2;α/2 Beidseitige (1 α) Konfidenzintervalle für Regressionskoeffizienten: 1 â ± t n 2;1 α/2 s n + x 2 (n 1)s 2 x s ˆb ± tn 2;1 α/2 s x n 1 Tests zum Niveau α für die Regressionskoeffizienten: Test für a: Die Teststatistik H 0 : a = a 0 vs. H 1 : a a 0 t = â a 0 1 s n + x2 (n 1)s 2 x ist unter H 0 t-verteilt mit n 2 Freiheitsgraden. H 0 wird verworfen, wenn t > t n 2;1 α/2. 14

16 Test für b: H 0 : b = b 0 vs. H 1 : b b 0 Die Teststatistik ˆb b0 t = s/( n 1s x ) ist unter H 0 t-verteilt mit n 2 Freiheitsgraden. H 0 wird verworfen, wenn t > t n 2;1 α/2. Bestimmtheitsmaß R 2 : R 2 = 1 n (y i ŷ i ) 2 (n 2)s2 n (y = 1 i y) 2 (n 1)s 2 y Konfidenz- und Prognoseband: (1 α) Konfidenzintervall des Erwartungswerts für einen y Wert an der Stelle x 0 : ( ) y â + ˆbx 1 0 ± t n 2;1 α/2 s n + (x 0 x) 2 (n 1)s 2 x (1 α) Prognoseintervall für einen y Wert an der Stelle x 0 : ( ) y â + ˆbx 0 ± t n 2;1 α/2 s n + (x 0 x) 2 (n 1)s 2 x Quantile der t f -Verteilungen sind in Tabelle A.2, Quantile der χ 2 f -Verteilungen in Tabelle A.3 zu finden. 15

17 5 Nichtparametrische Verfahren 5.1 Wilcoxon-Vorzeichenrangtest Für eine Stichprobe x 1, x 2,..., x n und einen ein- oder zweiseitigen Test für den Median der Population x 0.5 werden die Hilfsgrößen x i = x i ζ 0 und anschließend die Ränge r i der Absolutbeträge x i gebildet. Tritt dabei x i = 0 auf, wird diese Beobachtung aus der Stichprobe eliminiert. Die Testgröße t + lautet t + = (Rangzahlen der positiven x i) = n c i r i mit c i = { 1 falls x i > 0 0 falls x i < 0 Annahmebereiche (c u, c o ) in den verschiedenen Testsituationen sind der folgenden Tabelle zu entnehmen, kritische Werte der Einstichproben Wilcoxon Verteilung w n finden sich in Tabelle A.5. Teststatistik t + H 0 Annahmebereich (c u, c o ) c u c o t + = n c ir i x 0.5 = ζ 0 w n;α/2 w n;1 α/2 x 0.5 ζ 0 w n;α n(n + 1)/2 x 0.5 ζ 0 0 w n;1 α 5.2 Wilcoxon Rangsummentest Ausgangssituation: zwei unabhängige Stichproben x 1,1, x 1,2,..., x 1,n1 und x 2,1, x 2,2,..., x 2,n2 der Umfänge n 1 bzw. n 2 als Realisationen der Zufallsgrößen X 1 und X 2 mit Verteilungsfunktionen F 1 und F 2 und den Hypothesen (c R) H 0 : F 1 (z) = F 2 (z) vs. H A : F 1 (z) = F 2 (z c) Die Testgröße lautet n 1 w n1,n 2 = r i, wobei r i die n 1 Rangzahlen der ersten Stichprobe in der vereinigten Stichprobe der Größe n 1 + n 2 bedeuten. Als Entscheidungsregel eines Tests zum Signifikanzniveau α ergibt sich w n1,n 2 < w 2,u n 1,n 2 oder w n1,n 2 > w 2,o n 1,n 2 Ablehnung von H 0. 16

18 mit den α/2 bzw. (1 α/2) Quantilen wn 2,u 1,n 2 bzw. wn 2,o 1,n 2 der Rangsummenverteilung W n1,n 2 unter H 0. Dabei gelten wn 2,u 1,n 2 = (n 1 + n 2 )(n 1 + n 2 + 1) wn 2,o 2 2,n 1 und wn 2,o 1,n 2 = (n 1 + n 2 )(n 1 + n 2 + 1) wn 2,u 2 2,n 1 Die kritischen Werte der Zweistichproben Wilcoxon Verteilung w n1,n 2 finden sich in Tabelle A Kruskal-Wallis Test Ausgangssituation: Stichproben der Größen n 1, n 2,..., n k aus k Verteilungen: x ij (i = 1,..., k; j = 1,..., n i ) sowie das Testproblem gegen die Alternative H 0 : alle k Verteilungen stimmen überein H A : mindestens eine Verteilung hat eine andere Lokation Bezeichne r ij den Rang von x ij in der gemeinsamen (vereinigten) Stichprobe mit n = n n k Messwerten und für jede Gruppe i (i = 1,..., k) r i. die Summe der Rangzahlen ihrer Stichprobenwerte r i. = dann ist die Testgröße gegeben durch [ t = 1 12 b n(n + 1) Die Korrekturgröße b beträgt n i j=1 k b = 1 1 n 3 n r ij, r 2 i. n i 3(n + 1) g (t 3 l t l) beim Vorliegen von Bindungen (sonst gilt b = 1). g steht für die Anzahl an verschiedenen Werten z 1 < z 2 <... < z g in der vereinigten Stichprobe und t l (l = 1,..., g) bezeichnet die jeweilige Anzahl der Messwerte unter den x ij, die gleich z l sind. Die Entscheidungsregel lautet { } { beibehalten t h > k;(n1,...,n k );1 α H 0 ablehnen unter Verwendung des (1 α) Quantils h k;(n1,...,n k );1 α der Verteilung der Prüfgröße unter H 0. Kritische Werte der Kruskal-Wallis Verteilung h k;(n1,...,n k ) finden sich in Tabelle A.7. l=1 ]. 17

19 5.4 Der einfache χ 2 Test Ausgangssituation: Stichprobe x 1,..., x n als Realisation einer Zufallsgröße X mit Wahrscheinlichkeitsverteilung P X sowie eine Zerlegung des Merkmalraums M X in k disjunkte Bereiche (Klassen): M X = K 1 K 2 K k. Zu untersuchen ist die Behauptung, dass P 0 die Verteilung von X ist: H 0 : P X = P 0 Die Testgröße lautet t = k (y n;l e l ) 2 l=1 mit den beobachteten absoluten Häufigkeiten y n;l für die k Klassen und den unter H 0 zu erwartenden Häufigkeiten e l (l = 1,..., k). Unter H 0 ist die Testgröße asymptotisch χ 2 verteilt mit k 1 Freiheitsgraden, wodurch sich als Entscheidungsregel ergibt t { > } χ 2 k 1;1 α { Beibehaltung Ablehnung Quantile der χ 2 f -Verteilungen sind in Tabelle A.3 zu finden. e l } von H Der zusammengesetzte χ 2 Test Ausgangssituation: gleicht der beim einfachen χ 2 Test, allerdings mit der Nullhypothese H 0 : P X {P θ : θ Θ}. Die Testgröße lautet t = k l=1 (y n;l ê l ) 2 ê l, wobei ê l = n ˆp l = n Pˆθ(X K l ) die geschätzten erwarteten Häufigkeiten und ˆθ ein Schätzwert für θ ist (l = 1,..., k). Unter H 0 ist die Teststatistik asymptotisch χ 2 verteilt mit k s 1 Freiheitsgraden, wobei s die Anzahl der zu schätzenden Parameter in der Nullhypothese angibt. Als Entscheidungsregel ergibt sich somit für einen Test mit Signifikanzniveau α { } { } t χ 2 Beibehaltung > k s 1;1 α von H Ablehnung 0 Quantile der χ 2 f -Verteilungen sind in Tabelle A.3 zu finden. 18

20 5.6 Kolmogorov Smirnov Test Einstichproben Kolmogorov Smirnov Test Ausgangssituation: Stichprobe x 1, x 2,..., x n (mit empirischer Verteilungsfunktion F n ) als Realisation einer stetigen Zufallsgröße X mit Verteilungsfunktion F X sowie das Testproblem H 0 : F X = F 0. Die Teststatistik lautet mit t = n d n d n = sup F 0 (x) ˆF n (x) = max F 0(x i ) ˆF n (x i ), x R,...,n also dem maximalen Unterschied zwischen empirischer und hypothetischer Verteilungsfunktion. Die Testentscheidung für einen Test mit Signifikanzniveau α lautet { } { } t d (1) Beibehaltung > n;1 α von H Ablehnung 0. Kritische Werte d (1) A.8. n;1 α für den Einstichproben Kolmogorov Smirnov Test finden sich in Tabelle Zweistichproben Kolmogorov Smirnov Test Ausgangssituation: Stichproben x 1, x 2,..., x nx und y 1, y 2,..., y ny (mit empirischen Verteilungsfunktionen ˆF X;nX und ˆF Y ;ny ) als Realisationen stetiger Zufallsgrößen X und Y mit Verteilungsfunktionen F X und F Y. Das Testproblem (Signifikanzniveau α) lautet H 0 : F X = F Y. Die Berechnung der Teststatistik basiert auf dem Maximalabstand zwischen den empirischen Verteilungsfunktionen d nx,n Y = max ˆF X;nX (t) ˆF Y ;ny (t). t R Im Fall n X = n Y = n lautet die Testgröße und H 0 wird verworfen, falls t > d (2) n;1 α. t = n d nx,n Y Im Fall n X n Y wählt man als Teststatistik t = 1 und verwirft H 0, wenn t > d (2) n X,n Y ;1 α. 1 n X + 1 n Y d nx,n Y = nx n Y n X + n Y d nx,n Y Kritische Werte d (2) n;1 α und d(2) n X,n Y ;1 α finden sich in den Tabellen A.9 und A

21 6 Kontingenztafeln 6.1 Kreuztabellen Ausgangssituation: zwei betrachtete Variablen X 1 und X 2 mit Merkmalsbereichen M 1 = {1,..., r} und M 2 = {1,..., c}, angeordnet in Matrixform (Tabelle 1). p ij bezeichne die gemeinsame Wahrscheinlichkeit p ij = P (X 1 = i X 2 = j), p i. und p.j die Randwahrscheinlichkeiten. Von den insgesamt n Beobachtungen werden n ij Objekte mit der Ausprägung i für X 1 und j für X 2 festgestellt (i = 1,..., r; j = 1,..., c). Mit den Randhäufigkeiten c r n i. = n ij bzw. n.j = j=1 ergeben sich Schätzungen für die Wahrscheinlichkeitsverteilungen von X 1 und X 2 ˆp i. = n i. /n bzw. ˆp.j = n.j /n n ij Tabelle 1: Schema einer Kreuztabelle X c X 1 p 11 p 12 p 1c p 1. 1 n 11 n 12 n 1c n 1. e 11 e 12 e 1c np 1. p 21 p 22 p 2c p 2. 2 n 21 n 22 n 2c n 2. e 21 e 22 e 2c np p r1 p r2 p rc p r. r n r1 n r2 n rc n r. e r1 e r2 e rc np r. p.1 p.2 p.c n.1 n.2 n.c n np.1 np.2 np.c 6.2 χ 2 -Test Die Testgröße des χ 2 -Tests lautet t = r c (n ij ê ij ) 2 ê j=1 ij mit den geschätzten erwarteten Häufigkeiten ê ij = n ˆp i. ˆp.j = n i.n.j n 20

22 Unter H 0 (Unabhängigkeit) ist die Testgröße asymptotisch χ 2 -verteilt mit (r 1)(c 1) Freiheitsgraden, was zu folgender Entscheidungsregel für einen Test mit asymptotischem Signifikanzniveau α führt t { > } χ 2 (r 1)(c 1);1 α { Ablehnung ( abhängig ) Annahme ( unabhängig ) Quantile der χ 2 f -Verteilungen sind in Tabelle A.3 zu finden. Im Fall einer 2 2 Tafel lässt sich die Teststatistik des χ 2 -Tests vereinfachen zu t = n (n 11n 22 n 12 n 21 ) 2 n 1. n.1 n 2. n.2 } von H 0 21

23 A Anhang A.1 Quantile der Standardnormalverteilung Tabelle A.1: N(0, 1) Verteilung; γ = Φ(z γ ) = P(Z z γ ) z γ

24 A.2 Quantile der t-verteilungen Tabelle A.2: t Verteilung; γ Quantile t f;γ ; γ = P(T t f;γ ) FG f γ

25 A.3 Quantile der χ 2 -Verteilungen Tabelle A.3: χ 2 Verteilung; γ Quantile χ f;γ γ = P(X χ f;γ ) FG γ f

26 A.4 Quantile der F -Verteilungen Tabelle A.4: F f1,f 2 Verteilung; 0.9 Quantile F f1,f 2 ;0.9 P(F F f1,f 2 ;0,9) = 0.9; F fz,f n;0,1 = 1/F fn,f z;0,9 f 1 f 2 FG i f 1 f 2 FG

27 Tabelle A.4: F f1,f 2 Verteilung; 0.95 Quantile F f1,f 2 ;0.95 P(F F f1,f 2 ;0,95) = 0.95; F fz,f n;0,05 = 1/F fn,f z;0,95 f 1 f 2 FG f 1 f 2 FG

28 Tabelle A.4: F f1,f 2 Verteilung; Quantile F f1,f 2 ;0.975 P(F F f1,f 2 ;0,975) = 0.975; F fz,f n;0,025 = 1/F fn,f z;0,975 f 1 f 2 FG f 1 f 2 FG

29 Tabelle A.4: F f1,f 2 Verteilung; 0.99 Quantile F f1,f 2 ;0.99 P(F F f1,f 2 ;0,99) = 0.99; F fz,f n;0,01 = 1/F fn,f z;0,99 f 1 f 2 FG f 1 f 2 FG

30 Tabelle A.4: F f1,f 2 Verteilung; Quantile F f1,f 2 ;0.995 P(F F f1,f 2 ;0,995) = 0.995; F fz,f n;0,005 = 1/F fn,f z;0,995 f 1 f 2 FG f 1 f 2 FG

31 A.5 Quantile der Einstichproben Wilcoxon Verteilungen Tabelle A.5: Wilcoxon Vorzeichenrangtest; kritische Werte w n;γ n w n;0.01 w n;0.025 w n;0.05 w n;0.1 w n;0.9 w n;0.95 w n;0.975 w n;

32 A.6 Quantile der Zweistichproben Wilcoxon Verteilungen Tabelle A.6: Wilcoxon Rangsummentest; γ Quantile w n1,n 2 ;γ 1. Zeile: γ = ; 2. Zeile: γ = 0.05 ; 3. Zeile: γ = 0.1 n 1 n

33 A.7 Quantile der Kruskal Wallis Verteilungen Tabelle A.7: Kruskal Wallis Test; kritische Werte h 3;(n1,n 2,n 3 );1 α h 3;(n1,n 2,n 3 );1 α n n 1 n 2 n 3 α = 0.10 α =

34 A.8 Quantile der Einstichproben Kolmogorov Smirnov Verteilungen Tabelle A.8: Einstichproben Kolmogorov Smirnov Verteilungen; kritische Werte d (1) n;1 α n d (1) n;0.80 d (1) n;0.90 d (1) n;0.95 d (1) n;0.98 d (1) n; >

35 A.9 Quantile der Zweistichproben Kolmogorov Smirnov Verteilungen Tabelle A.9: Zweistichproben Kolmogorov Smirnov Verteilungen (n = n X = n Y ); kritische Werte d (2) n;1 α α n n > n n n n n Tabelle A.10: Zweistichproben Kolmogorov Smirnov Verteilungen; kritische Werte d (2) n X,n Y ;1 α α n (1) n (2) d (2) n (1),n (2) ;1 α sonst sonst sonst 1.36 Festsetzung: n (1) < n (2) 34