Versuchsplanung. Teil 2 Varianzanalyse (ANOVA) Dr. Tobias Kiesling

Transkript

1 Versuchsplanung Teil 2 Varianzanalyse (ANOVA) Dr. Tobias Kiesling <kiesling@stat.uni-muenchen.de> Gliederung Grundlagen der Varianzanalyse Streuungszerlegung und Modellschätzer Modellannahmen und Transformationen Bestimmung der Stichprobengröße Verschiedenes Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 2 1

2 Hintergrund Bsp. 2.1 (1) Keine direkte Anwendung des t-tests bei mehr als zwei Werten eines Faktors In der Praxis häufig entweder mehr als zwei Werte oder mehr als ein Faktor Angemessenes Analysewerkzeug für diesen Fall ist die Varianzanalyse (ANOVA) Entwickelt von R. A. Fisher in den frühen 20er Jahren für Experimente in der Landwirtschaft Heute intensiv für Industrie-Experimente eingesetzt Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 3 Die Varianzanalyse (ANOVA) Typische Daten eines Ein-Faktor-Experiments Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 4 2

3 Die Varianzanalyse (ANOVA) Im Allgemeinen gibt es a Faktorstufen und n Wiederholungen pro Stufe Zufällige Reihenfolge der Experimente Completely Random Design (CRD) Gesamtzahl der Experimente N = a * n Ziel ist Überprüfung von Hypothesen über die Gleichheit der Mittelwerte der Faktorstufen Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 5 Die Varianzanalyse (ANOVA) Idee: Modell-basierte Partitionierung der Streuung der Zielgröße in Komponenten Grundmodell einer Ein-Faktor-ANOVA: y i= 1,2,..., a = μ+ τ + ε, j = 1,2,..., n ij i ij μ = Gesamtmittelwert τ i = Effekt der i-ten Faktorstufe (Fixed Effect) ε ij = Restfehlerstreuung des Experiments, NID(0, σ 2 ) Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 6 3

4 ANOVA-Modelle Verschiedene Arten von Modellen für ANOVA Effektmodell y = μ + τ + ε ij i ij Mittelwertmodell mit y = μ + ε ij i ij μ = μ+ τ Weitere Möglichkeiten: Einsatz von Regressionsmodellen, Random Effects Modellen i i Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 7 Gliederung Grundlagen der Varianzanalyse Streuungszerlegung und Modellschätzer Schätzung von Modellparametern Modellannahmen und Transformationen Bestimmung der Stichprobengröße Verschiedenes Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 8 4

5 Die Varianzanalyse Gesamtstreuung durch Gesamt- Quadratsumme dargestellt a n SS = ( y y ) T i= 1 j= 1 Grundlegende ANOVA-Partitionierung a n a n 2 2 ( yij y.. ) = [( yi. y.. ) + ( yij yi. )] i= 1 j= 1 i= 1 j= 1 ij Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung a a n 2 2 ( i...) ( ij i. ) i= 1 i= 1 j= 1 = n y y + y y SS = SS + SS T Treatments E Die Varianzanalyse SS Treatments groß große Unterschiede zwischen Faktorstufen SS Treatments klein keine bedeutenden Unterschiede Formale statistische Hypothesen H H SST = SSTreatments + SSE : μ = μ = L = μa : Mindestens At least one ein mean Mittelwert is different unterschiedlich Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 10 5

6 Die Varianzanalyse Keine direkte Verwendung von Quadratsummen zum Testen von Hypothesen Mittlere Quadratsummen Mean Square: Quadratsumme / Anzahl Freiheitsgrade MS dftotal = dftreatments + dferror an 1= a 1 + a( n 1) SSTreatments SSE =, MSE = a 1 a( n 1) Treatments MS Treatment = MS Error bei gleichen Mittelwerten der Faktorstufen, sonst MS Treatment > MS Error Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 11 Die ANOVA-Tabelle Referenzverteilung für F 0 : F-Verteilung mit a-1 und a(n-1) Freiheitsgraden Ablehnung von H 0 (gleiche Faktorstufen-Mittelwerte): F > F α 0, a 1, a( n 1) Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 12 6

7 Berechnung der Quadratsummen Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 13 Schätzung der Modellparameter Ein-Faktor-Effektmodell Bsp. 2.1 (2) Schätzer für den Gesamt-Mittelwert Schätzer für die Effekte Konfidenzintervall für eine Faktorstufe Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 14 7

8 Gliederung Grundlagen der Varianzanalyse Streuungszerlegung und Modellschätzer Modellannahmen und Transformationen Bestimmung der Stichprobengröße Verschiedenes Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 15 Überprüfung der Modellannahmen Modellannahmen Normalverteilung Feste Varianz Unabhängigkeit der Beobachtungen Angemessenheit des Effekt- bzw. Mittelwertmodells Überprüfung Residuenplots Bsp. 2.1 (3) Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 16 8

9 Transformationen der Zielgröße Nötig bei nicht-konstanter Varianz Kann durch Residuen-Plots erkannt werden Anwendung einer Varianz-stabilisierenden Transformation auf die Zielgröße Häufig verwendete Transformationen Wurzel-Transformation Logarithmische Transformation Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 17 Transformationen der Zielgröße Bsp. 2.2 Empirische Bestimmung der Transformation aus Verhältnis zwischen und Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 18 9

10 Box-Cox-Methode für Transformationen Annahme: Zusammenhang von Standardabweichung und Mittelwert Dann gilt für die transformierte Variable dass deren Standardabweichung unabhängig vom Mittelwert ist (varianzstabilisierende Transformation) Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 19 Box-Cox-Methode für Transformationen Methode nach Box- Cox: Berechnung von SS Error für verschiedene Werte von λ Bestimmung von λ mit minimalem SS Error Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 20 10

11 Gliederung Grundlagen der Varianzanalyse Streuungszerlegung und Modellschätzer Modellannahmen und Transformationen Bestimmung der Stichprobengröße Verschiedenes Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 21 Bestimmung der Stichprobengröße Kritische Entscheidung bei Versuchsplanung Gesteuert durch Anzahl an Wiederholungen Abhängig von Art des Experimentes und der Durchführung Verfügbare Ressourcen (Budget, Zeit) Gewünschte Sensitivität (Genauigkeit der Entdeckung von Unterschieden zwischen den Mittelwerten) Mehr Wiederholungen höhere Sensitivität Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 22 11

12 Bestimmung der Stichprobengröße Ziel: Entdeckung eines vorgegebenen Unterschiedes mit gewünschten Werten der Fehler 1. und 2. Art 1. Art: H 0 abgelehnt obwohl zutreffend (α) 2. Art: H 0 akzeptiert obwohl nicht zutreffend (β) Mächtigkeit = 1 - β OC-Kurve (Operating Characteristic) zeigt Entwicklung von β gegenüber Parameter Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 23 OC-Kurven Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 24 12

13 OC-Kurven (Plasma-Ätzen) Wahrscheinlichkeit der Entdeckung für Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 25 Verwendung von OC-Kurven Alternative Verwendung von OC-Kurven Festlegung eines maximalen Abstands D zwischen zwei Mittelwerten Ablehnung von H 0 bei Überschreitung von D Minimaler Wert von Φ nd Φ = 2 2aσ Ermittelte Stichprobengröße ist konservativer Wert, d.h. mind. vorgegebene Mächtigkeit Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 26 13

14 Gliederung Grundlagen der Varianzanalyse Streuungszerlegung und Modellschätzer Modellannahmen und Transformationen Bestimmung der Stichprobengröße Verschiedenes Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 27 Vergleich der Mittelwerte ANOVA überprüft Gleichheit der Mittelwerte aller Faktorenstufen Kein Wissen über spezifische Unterschiede bei Ablehnung von H 0 Bestimmung der Unterschiede: Mehrfachvergleich der Mittelwerte der Faktorenstufen Graphischer Vergleich Kontraste Verschiedene Tests (t-test, Tukey s Test, LSD) Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 28 14

15 Graphischer Vergleich von Mittelwerten Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 29 LSD-Test von Design-Expert Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 30 15

16 Verwendung von Regressionsmodellen Teil 2 -- ANOVA Tobias Kiesling, Versuchsplanung 31 16