ANalysis Of VAriance (ANOVA) 1/2

Transkript

1 ANalysis Of VAriance (ANOVA) 1/2 Markus Kalisch

2 ANOVA - Idee ANOVA 1: Zwei Medikamente zur Blutdrucksenkung und Placebo (Faktor). Gibt es einen sign. Unterschied in der Wirkung (kontinuierlich)? Y ~ X + ε 1-weg ANOVA ANOVA 2: Zwei Medikamente zur Blutdrucksenkung, Placebo (Faktor) und Geschlecht (Faktor). Gibt es einen sign. Unterschied in der Wirkung (kontinuierlich) (evtl. geschlechterspezifisch)? Y ~ X1 + X2 + ε 2-weg ANOVA ((Vorname Nachname))

3 ANOVA: Mögliche Missverständnisse ANOVA = «Varianzanalyse» Macht Aussagen über Mittelwerte (analysiert dazu Varianzen) ANOVA = Spezialfall einer Linearen Regression kont. Variable ~ Faktoren + Fehler Verallgemeinerung des t-test (2 Gruppen viele Gruppen) Historisch: Sehr verbreitet; heute: Immer noch extrem verbreitet Markus Kalisch

4 Wdh: Ungepaarter t-test D: Streuung zwischen MW ( Signal ) σ: Streuung um MW ( Fehler ) t D σ ; falls H 0 stimmt: t t n 1 N(0,1) Senkung Blutdruck [mmhg] D M P Medikament σ Senkung Blutdruck [mmhg] D M P Medikament σ Markus Kalisch

5 ANOVA: Idee g: Anzahl Gruppen 3 p: Anzahl Beob. pro Gruppe 10 Ann: p in jeder Gruppe gleich Streuung zwischen Gruppen: Between-Sum-of-Squares (SS B ) RSS der Gruppenmittelwerte (rote Kreuze) um den totalen Mittelwert (blaue Linie) SS B = p g i=1 Y i. Y.. 2 Senkung Blutdruck [mmhg] Y 2. Y 1. Y.. M1 M2 P Medikament Y 3. Streuung innerhalb Gruppen: Within-Sum-of-Squares (SS W ) RSS der Einzelbeobachtungen (schwarze Kreise) um die einzelnen Mittelwerte (rote Kreuze) SS W = g p i=1 j=1 Y ij Y i. 2 Teststatistik SS B SS W Markus Kalisch

6 ANOVA: Teststatistik In welchem Bild ist die Teststatistik der ANOVA grösser? Senkung Blutdruck [mmhg] A M1 P Medikament Senkung Blutdruck [mmhg] B M1 P Medikament Markus Kalisch

7 ANOVA: Modell Y ij = μ + α i + ε ij, ε ij ~ N 0, σ 2 iid g Technische Nebenbedingung: i=1 αi = 0 H 0 : α 1 = α 2 = = α g = 0 Teststatistik: T = Theorie: Falls H 0 stimmt SS B/(g 1) SS W /(g p 1 ) = MS B MS W Degrees of freedom (Df) Analyse der Varianzen Mean Squares T ~ F g 1,g p 1 Damit kann ein Hypothesentest mit den üblichen 6 Schritten durchgeführt werden Markus Kalisch

8 Exkurs: Verteilungen Angenommen: Z i ~ N 0,1, i = 1, n alle unabhängig A = Chi-Quadrat-Verteilung mit n Freiheitsgraden: A ~ X n Angenommen: A ~ Χ n, B ~ Χ m unabhängig Q = A/n B/m F-Verteilung mit n und m Freiheitsgraden Q ~ F n;m n i=1 Z i 2 Markus Kalisch

9 Beispiel in R: ANOVA-Tabelle g = 3, p = 10 Senkung Blutdruck [mmhg] M1 M2 P Medikament g 1 = 2 g*(p-1)=27 SS B = SS W = MS B = = MS W = = 23.8 F = = Markus Kalisch

10 Wo ist der Unterschied? Teil 1: Paarweise Tests Falls ANOVA signifikant: Zwischen welchen Gruppen sind signifikante Unterschiede? t-tests für alle Gruppenpaare Problem: Multiples Testen Bei n Gruppen gibt es n t-tests 2 Bsp: n = Tests auf 5%-Niveau Könnten etwa falsch positive Tests haben Lösung: t-test korrigieren (z.b. Bonferroni, ) = n(n 1) 2 Markus Kalisch

11 Beliebte Alternative bei ANOVA: Tukey s Honestly Significant Difference (HSD) Test Vorteil: - Vertrauensintervalle für Differenzen der Gruppenmittelwerte - Wa., dass alle wahren Differenzen in den Vertrauensintervallen liegen: 95% Alternative zum paarweisen t-test Empfehlung: Tukey HSD verwenden Markus Kalisch

12 Beispiel in R: TukeyHSD 95% family-wise confidence level M2 ist deutlich wirksamer als M1 P-M2 P-M1 M2-M Differences in mean levels of g Senkung Blutdruck [mmhg] M1 und M2 sind deutlich wirksamer als Placebo M1 M2 P Medikament Markus Kalisch

13 Wo ist der Unterschied? Teil 2: Allgemeine Kontraste Bisher: Differenz von zwei Gruppen Jetzt: Linearkombination von beliebigen Gruppen Bsp: Sind die beiden Medikamente im Mittel besser als das Placebo? Markus Kalisch

14 Kontraste: Notation Vektor mit wahren Gruppenmittelwerten: μ = Kontraste-Matrix K Parameter-Vektor m Senkung Blutdruck [mmhg] μ M1, μ M2, μ P T M1 M2 P Medikament H 0 : K μ = m Praxis: Benutzer definiert K und m; Computer berechnet p-werte für Hypothesen und korrigiert für mult. Testen Markus Kalisch

15 Konstraste Bsp 1: Paarweise Vergleiche (Alternative zu TukeyHSD) K μ m μ M2 μ M1 = 0 μ P μ M1 = 0 μ P μ M2 = 0 Markus Kalisch

16 Kontraste Bsp 1: R Funktion glht (General Linear Hypotheses Test) im package multcomp Approx. 95%-VI für Unterschied M1 vs. M2: 5.67 ± Markus Kalisch

17 Kontraste Bsp 2: Gruppe der Medikamente vs. Placebo Medikamente vs. Placebo 0.5 μ M μ M2 μ P = 0 μ M2 μ M1 = 0 Medikamente untereinander Markus Kalisch

18 Kontraste Bsp 2: R Die Medikamente sind deutlich wirksamer als Placebo M2 ist deutlich wirksamer als M1 Markus Kalisch

19 Kontraste Angenommen, es gibt zwei Medikamente (M1, M2) und auch zwei mögliche Formen von Placebo (P1, P2). Folgende Matrix ist dann eine mögliche Kontrastmatrix für die Vergleiche: (M1, M2) vs. (P1, P2) M1 vs. M2 P1 vs. P2 Ja Nein Markus Kalisch

20 Grundregeln für Kontraste Wenige Kontraste viel Macht Software: Korrektur für multiples Testen innerhalb von einem Funktionsaufruf (aber nicht bei mehreren Funktionsaufrufen mit verschiedenen Kontrasten) Deshalb: Einen Satz von Kontrasten definieren, dann auswerten; anschliessend keinen neuen Satz von Kontrasten mehr untersuchen Markus Kalisch

21 Residuenanalyse bei ANOVA Y ij = μ + α i + ε ij, ε ij ~ N 0, σ 2 iid 1. Daten in jeder Gruppe normalverteilt 2. Gleiche Varianz in Gruppen 3. Unabhängige Fehler ε ij In R: Funktion plot wie bei Linearer Regression Vorteil: Balanciertes Experiment (gleiche Anzahl pro Gruppe): ANOVA ist robuster gegenabweichungen obiger Annahmen Markus Kalisch