Vorlesung: Multivariate Statistik für Psychologen

Transkript

1 Vorlesung: Multivariate Statistik für Psychologen 1. Vorlesung:.5.3 Agenda 4. Multivariate Varianzanalyse i. Einführung in die multivariate Variananalyse ii. iii. iv. Statistisches Modell, Hypothesentestung Varianzzerlegung, Multivariate Prüfgrößen Beispielanalyse v. Post-hoc Tests bei der MANOVA vi. Annahmen und Voraussetzungen der MANOVA 5. Kovarianzanalyse (ANCOVA, MANCOVA) i. Einführung in die Kovarianzanalyse ii. iii. iv. Anwendunsbeispiele Statistisches Modell und Hypothesentestung Interpretation der Ergebnisse der Kovarianzanalyse v. Beispielanalysen in SPSS

2 Zusammenfassung der letzten Vorlesung: MANOVA I Grundidee der multivariaten Varianzanalyse gleichzeitige Testung von Mittelwertsunterschieden verschiedener Gruppen auf mehreren abhängigen Variablen Statistisches Modell Verrechnung der Zwischengruppeneffekte ("erklärt" durch Faktor/en) mit den Innergruppeneffekten (nicht "erklärt" durch Faktor/en) Berücksichtigung der Zusammenhänge zwischen den abhängigen Variablen ( Betrachtung der Varianz-Kovarianz-Matrizen) Hypothesen der multivariaten Varianzanalyse Nullhypothese inhaltlich: keine Gruppenunterschiede auf irgendeiner abhängigen Variablen und auf allen Linearkombinationen der abhängigen Variablen statistisch: keine Unterschiede der Mittelwertsvektoren der abhängigen Variablen zwischen den Gruppen 3 Zusammenfassung der letzten Vorlesung: MANOVA II Hypothesen der multivariaten Varianzanalyse (Fortsetzung) Alternativhypothese statistisch: Gruppenunterschiede auf Mittelwertsvektoren der abhängigen Variablen inhaltlich: Unterschiede auf mindestens einer abhängigen Variable (oder einer Linearkombination der abhängigen Variablen) zwischen mindest. zwei Gruppen Multivariate Prüfgrößen 4 verschiedene Prüfgrößen bei MANOVA Anwendung abhängig von inhaltlicher Fragestellung (Dimensionalität der abhängigen Variablen) und Erfüllung der Annahmen und Voraussetzungen (unterschiedliche Robustheit hinsichtlich statistischer Power) 4

3 Zusammenfassung der letzten Vorlesung: MANOVA II Post-hoc Tests Ziel Ermittlung der abhängigen Variablen (bzw. Linearkombination der abhängigen Variablen) auf der Gruppenunterschiede bestehen Ermittlung der Gruppen, zwischen denen Unterschiede bestehen Voraussetzung: Verwerfung der Nullhypothese bei MANOVA-Gesamttest verschiedene Post-hoc Verfahren für verschiedene Fragestellungen 5 Annahmen und Voraussetzungen der MANOVA I Grund für Annahmen und Voraussetzungen des Testverfahrens Grundlage für Gültigkeit des Testmodells und der Prüfgröße Konsequenzen der Verletzungen der Annahmen und Voraussetzungen potentiell fehlerhafte Parameterschätzung potentiell unbekannte Verteilung der Prüfgröße Annahmen und Voraussetzungen Multivariate Normalverteilung Annahme univariate Normalverteilung aller abhängigen Variablen univariate Normalverteilung aller Linearkombinationen der abh. Variablen multivariate Normalverteilung aller Teilmengen der abhängigen Variablen Prüfung kein direkter Test für multivariate Normalverteilung indirekt über univariate NV (als notwendige, nicht hinreichende Bedingung) 6

4 Annahmen und Voraussetzungen der MANOVA II Multivariate Normalverteilung (Fortsetzung) Veranschaulichung einer bivariaten Normalverteilung bei Kor( YY 1, ) = Streudiagramm Dichtefunktion Annahmen und Voraussetzungen der MANOVA III Multivariate Normalverteilung (Fortsetzung) Veranschaulichung einer bivariaten Normalverteilung bei Kor( YY 1, ) =,9 Streudiagramm Dichtefunktion

5 Annahmen und Voraussetzungen der MANOVA IV Multivariate Normalverteilung (Fortsetzung) Veranschaulichung einer bivariaten Normalverteilung bei Kor( YY 1, ) =,6 Streudiagramm Dichtefunktion Annahmen und Voraussetzungen der MANOVA V Multivariate Normalverteilung (Fortsetzung) Robustheit gegen Verletzung der Annahme relative Robustheit hinsichtlich des Alpha-Fehlers Einfluss auf statistische Power verschieden für Prüfgrößen (siehe vorne) geringerer Einfluss bei größerernstichproben Varianzgleichheit/Homoskedastizität Annahme Homogenität der Varianz-Kovarianz-Matrizen aller abhängigen Variablen für alle Faktorstufen/Gruppen (bzw. Kombinationen von Faktorstufen) Prüfung Box M-Test Nullhypothese: gleiche Varianz-Kovarianz-Matrizen (Homoskedastizität) anwendbar bis 5 Gruppen und 5 abhängige Variablen Voraussetzung: multivariate Normalverteilung Bartlett's Chi-Quadrat Test 1

6 Annahmen und Voraussetzungen der MANOVA VI Varianzgleichheit/Homoskedastizität (Fortsetzung) Beispiel abhängige Variablen (motorische Intelligenz, sprachliche Intelligenz) 3 Faktorstufen/Gruppen (Hauptschule, Realschule, Gymnasium) Homoskedastizität (gleiche Varianzen und Kovarianzen über alle Gruppen) Cov HS = Cov RS = Cov Gym = Heteroskedastizität (ungleiche Varianz-Kovarianz-Matrizen in Gruppen) Cov HS = Cov RS = Cov Gym = Annahmen und Voraussetzungen der MANOVA VII Varianzgleichheit/Homoskedastizität (Fortsetzung) Robustheit Homogenitätstest selber anfällig für Verletzung der Normalverteilungsannahme Auswirkungen von Heteroskedastizität unerheblich bei gleicher Stichprobengröße in allen Gruppen bei ungleichem Stichprobenumfang (kleinste vs. größte Zellbesetzung > Faktor 1,5) zu progressive oder zu konservative Testung (abhängig von Korrelation der Varianzen und Mittelwerte) Unabhängigkeit der Beobachtungen Annahme Messwert einer Person unabhängig von Wert der anderen Personen in der eigenen Gruppe und in fremden Gruppen Prüfung kaum möglich Kontrolle über (experimentelles) Untersuchungsdesign 1

7 Annahmen und Voraussetzungen der MANOVA VIII Unabhängigkeit der Beobachtungen (Fortsetzung) Robustheit Linearität schwerwiegende Auswirkungen auf Teststatistik und Schätzungen der Innergruppenvarianz Maßnahmen: Wechsel der Beobachtungseinheit für Untersuchung (Gruppen statt einzelne Personen) Herauspartialisieren systematischer Störeffekte / Berücksichtigung von Kovariaten in der MANOVA linearer Zusammenhang (Korrelation) zwischen abhängigen Variablen wichtig für Bildung der Linearkombinationen keine Abbildung nicht-linearer Zusammenhänge möglich evtl. durch Datentransformation der abhängigen Variablen 13 Annahmen und Voraussetzungen der MANOVA IX Multikollinearität Multikollinearität = zu hohe Korrelation der abhängigen Variablen, d.h. Kor( YY 1, ) >,7 Auswirkungen Verzerrung der Teststatistik evtl. keine Berechnung der Prüfgrößen möglich Maßnahme Entfernen redundanter abhängiger Variablen Ausreißer Teststatistik der MANOVA sensitiv gegenüber extremen Ausreißern Maßnahmen vorheriges Datenscreening evtl. Umkodierung der abhängigen Variablen evtl. Löschen der Ausreißer 14

8 Annahmen und Voraussetzungen der MANOVA X Stichprobe Repräsentativität der Stichprobe für die Population Empfehlungen zur Stichprobengröße pro Zelle (alle Kombinationen von Faktorstufen) mindestens Personen Anzahl der Personen pro Kombination von Faktorstufen m u s s größer sein als Anzahl der abhängigen Variablen möglichst gleich große Stichproben pro Zelle (Kombination der Faktorstufen) Anzahl und Struktur der abhängigen Variablen Effekte zu vieler abhängiger Variablen Fehlervarianzen verdecken u.u. Effekte niedrigere statistische Power (größere Wahrscheinlichkeit für Beta-Fehler) 15 Ende der MANOVA FRAGEN? 16

9 Einführung in die Kovarianzanalyse I Grundidee Berücksichtigung des ("störenden") Einflusses von Drittvariablen bei der Überprüfung von Mittelwertsunterschieden bei mehreren Gruppen Verbindung der Verfahren Regression und Varianzanalyse Hauptanwendungen der Kovarianzanalyse Kontrolle des Einflusses von Störvariablen auf die abhängige(n) Variable(n) Reduzierung der nicht vorhergesagten Varianz der abhängigen Variablen (Fehler- bzw. Innergruppenvarianz) Erhöhung der Sensitivität (d.h. Wahrscheinlichkeit der Entdeckung) für systematische Effekte der Faktoren Berücksichtigung anfänglicher Gruppenunterschiede (statistische) Vergleichbarkeit von Gruppen herstellen Analyse von Gruppenunterschieden ohne konfundierende Variablen 17 Einführung in die Kovarianzanalyse II Beispiel 1: Kontrolle des Einflusses von Störvariablen Untersuchung der Auswirkungen verschiedener Therapien auf die Befindlichkeit der Patienten Randomisierung (zufällige Zuordnung) der Patienten zu Therapien keine Anfangunterschiede zwischen Gruppen erwartet Problem: Befindlichkeit vor allem beeinflusst durch Schwere der Krankheit (in beiden Gruppen unterschiedliche Schweregrade) Kovarianzanalyse Herausrechnen des Effekts des Schwergrads der Störung bei Patienten auf Befindlichkeit nach Therapie (keine Korrelation mit Therapiegruppe Verminderung nur der nicht-erklärten / Innergruppenvarianz) Betrachtung der Gruppenunterschiede verschiedener Therapiegruppen auf "korrigierte" Befindlichkeit 18

10 Einführung in die Kovarianzanalyse III Beispiel : Berücksichtigung anfänglicher Gruppenunterschiede Untersuchung des Effekts der Teilnahme an Statistik-Tutorium auf Punktzahl in Statistikklausur Zuordnung der Studierenden zu Gruppen (keine Teilnahme vs. Teilnahme) auf Freiwilligkeitsprinzip keine zufällige Zuordnung (quasi-experimentelles Design) Berücksichtigung des Einflusses der Motivation auf Klausurpunktzahl Problem: Gruppenunterschiede bei Motivation (Korrelation der Gruppenzugehörigkeit und Ausprägung der Motivation) Interpretation der Effekte (bessere Punktzahlen "aufgrund" der höheren Motivation der Teilnehmer oder aufgrund der Teilnahme an Tutorien)? Kovarianzanalyse Ermittlung des Effekts der Teilnahme an Tutorien nach "Bereinigung" anfänglicher Motivationsunterschiede der Gruppen 19 Statistisches Modell der Kovarianzanalyse I Grundlegendes Vorgehen Herauspartialisieren des Einflusses der Kovariaten auf die abhängige(n) Variable(n) mittels Regression Vorhersage der abhängigen Variablen mit Kovariate Speichern der Residuen (nicht-vorhergesagten) Teile der abhängigen Variablen pro Person Y = a+ b X + e i i( Kov) i Y = Yˆ + e i ikov ( ) i e = Y Yˆ = Y * i i ikov ( ) i Y = a+ b X ˆi ( Kov ) i ( Kov ) Vergleich der Gruppenmittelwerte auf der um den Einfluss der Kovariaten bereinigten abhängigen Variablen (Residuum der Regression) mittels ANOVA bzw. MANOVA (oder Regression mit Dummy-Kodierung) Y * ˆi = a+ b X itreatment ( )

11 Statistisches Modell der Kovarianzanalyse II Statistische Grundlagen des Verfahrens statistisches Vorgehen entspricht einer hierarchischen (schrittweisen) Regression 1. Schritt: Regression der abhängigen Variable(n) an der/n Kovariaten. Schritt: Regression des Residuums des ersten Regressionsschritts an der/n (dummy-kodierten) Gruppierungsvariablen alternativ: Testung der Gruppenunterschiede auf "bereinigter" abhängiger Variable mittels Varianzanalyse (nominale/kategorisierte Prädiktoren) Varianzzerlegung bei der Kovarianzanalyse siehe hierarchische Regression Beispiel für eine abhängige Variable, einen Faktor und eine Kovariate Gesamtvarianz = erklärte Varianz (Kovariate) + Fehlervarianz (Kovariate) Fehlervarianz (Kovariate) = erklärte Varianz (Faktor) + Fehlervarianz (Faktor) SS Gesamt = SS Kov + SS Faktor + SS Fehler SS = SS + SS + SS TO R( Kov) BG WG 1 Statistisches Modell der Kovarianzanalyse III Statistische Grundlagen des Verfahrens Interpretation des Ergebnisse abhängig von Korrelationsstruktur der abhängigen Variablen und des/r Faktors/en mit Kovariaten Zusammenhang der abhängigen Variablen mit Kovariaten kein Zusammenhang: kein Einfluss der Kovariaten auf abhängige Variable(n) Ergebnis der ANCOVA gleich ANOVA sign. Zusammenhang: Einfluss der Kovariaten auf abhängige Variable(n) potentielle Unterschiede zwischen ANCOVA und ANOVA Zusammenhang des/r Faktors/en mit Kovariaten kein Zusammenhang (Fall 1): Interpretation der Gruppenunterschiede hinsichtlich der (um Einfluss der Kovariaten bereinigten) abhängigen Variable/n möglich Zusammenhang: eingeschränkte Interpretation der Gruppenunterschiede möglich

12 Statistisches Modell der Kovarianzanalyse IV Hypothesentestung äquivalent zur Beurteilung von Regressionskoeffizienten bei Regression (Kovariate) bzw. Faktoren bei Varianzanalyse Details: 1. Schritt: Regression mit Kovariate Einfluss der Kovariaten auf abhängige(n) Variable(n) Beurteilung des Anteils der erklärten Varianz der Kovariaten an der Gesamtvarianz der abhängigen Variable(n) Nullhypothese: keine Zusammenhang Kovariate abhängige Variable(n). Schritt: Varianzanalyse mit Faktoren Einfluss der Gruppenzugehörigkeit auf nicht-erklärten Teil der abhängigen Variablen aus Schritt 1 Beurteilung der Zwischengruppenvarianz im Verhältnis zur Innergruppenvarianz (Gesamtvarianz = Residualvarianz aus Schritt 1) Nullhypothese: kein Zusammenhang Faktor(en) abhängige Variable(n) 3 Statistisches Modell der Kovarianzanalyse V Hypothesentestung (Fortsetzung) Interpretation signifikanter Ergebnisse Fall 1: keine Korrelation Kovariate Faktor(en), z.b. experimentelles Design keine Unterschiede hinsichtlich der mittleren Ausprägung der Kovariaten bei Gruppen des Faktors Bereinigung des Einflusses der Kovariaten i n n e r h a l b der Gruppen keine Verzerrung des Treatmenteffekts (Faktorausprägung) durch Kovariate uneingeschränkte Interpretation der Varianzanalyse möglich Fall : Korrelation Kovariate Faktor(en) unterschiedliche Ausprägung der Gruppen auf Kovariate Bereinigung des Einflusses der Kovariaten bei allen Personen i n n e r h a l b und z w i s c h e n Gruppen Verzerrung der Analyse im Sinne des Treatmenteinflusses keine uneingeschränkte Interpretation der Varianzanalyse möglich (siehe Interpretation partieller Regressionskoeffizienten) 4

13 Ausblick Kovarianzanalyse Interpretation der Ergebnisse der Kovarianzanalyse Beispielanalysen in SPSS Annahmen und Voraussetzungen der Kovarianzanalyse Varianzanalyse abhängiger Daten / Messwiederholungsdesign 5