Die SAS-Prozedur MIXED

Transkript

1 Die SAS-Prozedur MIXED Hans-Peter Altenburg Deutsches Krebsforschungszentrum Heidelberg Inhalt: Prozedur MIXED verwandte SAS-Prozeduren: GLM, VARCOMP, NESTED Schätzverfahren Varianzkomponenten Syntax Beispiele 1 2 Feste Effekte: Faktoren, bei denen die Stufen der Faktoren diejenigen Stufen sind, die im Experiment gerade betrachtet werden. Modell mit festen Effekten Zufällige Effekte: Faktoren, bei denen die Stufen, die gerade betrachtet werden, eine Zufallsauswahl aus einer unendlichen Population von möglichen Stufen darstellen. Inferenzaussage für die gesamte Population der Faktorstufen. Modell mit zufälligen Effekten Gemischtes Modell (Mixed Model): enthält feste und zufällige (random) Effekte. Varianz-Schätzungen assoziiert mit den zufälligen Effekten werden als Varianzkomponenten bezeichnet. Kombination: gemischte (mixed) Modelle 3 4 Completely Random Model: Jeder erwartete MS (expected mean square) ist eine Funktion der Varianzen der zufälligen Effekte Mixed Model: Jeder erwartete MS (expected mean square) ist eine Funktion der Varianzen der zufälligen Effekte plus quadratische Funktionen der Parameter der festen Effekte. 5 Beispiel: Studie über die Wirkung einer Chemotherapie Effekte: Behandlung: Chemo- / Radio-Therapie fester Effekt Alter: Kind / Erwachsener fester Effekt Klinik: 5 beteiligte Kliniken fester Effekt: nur Interesse an der Variabil. der 5 Kl. zufälliger Effekt: falls Interesse an der Pop. der Klein. Patient: zufälliger Effekt, da zugrunde gelegt wird, daß die Patientenstichprobe aus einer unendlichen GG stammt. 6 SAS-Benutzertreff Heidelberg,

2 Konzept ist/war nicht unumstritten: z.b. die Kontroverse zwischen Yates und Nelder: Arbeit von Nelder (1977) wurde als The great mixed model muddle bezeichnet. Kommentar zu Mixed Models: To a Non-Baysian, all things are BLUPs. 7 Prozedur GLM: Feste Effekte Normalfall: feste Effekte Prozedur GLM Modell: y=xβ + ε y=vektor der beobachteten Daten X=bekannte Versuchsdesignmatrix β =Vektor der unbekannten festen Effektparameter ε =Vektor der nicht beobachtbaren Zufallsfehler Voraussetzung: Komponenten von ε sind unkorreliert, normal verteilt mit Varianz σ 2 und Erw. null 8 Prozedur GLM: Feste Effekte Prozedur MIXED: Modell: y=xβ + ε d.h. es gilt E[ε]=0 und VAR[ε]= σ 2 I, I=Einheitsmatrix und somit E[y] = Xβ und VAR[y] = σ 2 I Wichtig: Die Prozedur GLM modelliert stets alle Effekte als feste Effekte, auch wenn das RANDOM-Statement benutzt wurde. RANDOM liefert nur expected mean squares. CLASS- und MODEL-Statement spezifizieren gemeinsam X. 9 Erweitertes Modell: feste und zufällige Effekte Prozedur MIXED Modell: y=xβ + Zν + ε y=vektor der beobachteten Daten X, Z=bekannte Versuchsdesign-Matrizen β =Vektor der unbekannten festen Effektparameter ν = Vektor der unbek. zufälligen Effektparameter ε =Vektor der nicht beobachtbaren Zufallsfehler 10 Prozedur MIXED: Erweitertes Modell: y=xβ + Zν + ε ν und ε normal verteilt: (mit µ = (ν, ε ) T ) E[µ] = 0 und Var[µ] = Diag{G,R} Das allgemeine lineare Modell ist ein Spezialfall des gemischten Modells mit Z=0 und R= σ 2 I. Prozedur MIXED: SAS Proceduren mit RANDOM-Statement: GLM MIXED SAS Prozeduren assoziiert mit Random Effects: NESTED VARCOMP MIXED NLMIXED (Vs 8) Die Prozedur MIXED erlaubt es verschiedene Kovarianzstrukturen für G und R zu spezifizieren SAS-Benutzertreff Heidelberg,

3 Verallgemeinerung von GLM ähnliche Syntax gleiche Parametrisierung, manchmal unterschiedliche CLASS Level MIXED bietet nur die Typ III Teste für feste Effekte (dagegen GLM Typ I, II, III und IV) MIXED nur LSMEANS (GLM auch noch MEANS) RANDOM- und REPEATED-Statements werden unterschiedlich benutzt Varianzkomponentenschätzung: REML, ML, MM oder MIVQUE0, GLM dagegen nur Momentenmethode (MM) 13 Wahl der Prozedur: GLM oder MIXED Zufällige Effekte vorhanden: GLM: Standardfehler sind falsch SE der LS Means falsch Einfluß auf: Hypothesentesten, Schätzen der Differenzen von LS means / Konfidenzintervalle Schätzverfahren: GLM benutzt LS, Varianzkomponenten für zufällige Effekte müssen per Hand berechnet werden anhand der ausgegebenen GLM-Schätzwerte GLM: keine Unterscheidung zwischen festen und zuf. Effekten Hypothesenprüfung stets über F=MS/MSE Mixed Modell: erwartete MS um herauszufinden welcher MS im Zähler für die Prüfung eines best. Effektes erforderlich ist. Manchmal existiert kein geeigneter MS und muß entsprechend synthetisiert werden. 14 Wahl der Prozedur: GLM oder MIXED Zufällige Effekte vorhanden: GLM: Annahme alle Fehler iid GLM für Mixed Modelle: Annahme alle Var.-Komp. unabhängig und innerhalb VK ident. Verteilt, Verfeinerung durch Annahme einer sehr einfachen Abhängigkeitsstruktur unter den Fehlern (insbes. bei Repeated Measurements). MIXED dagegen, keine Annahme Fehler oder Var.-Komp. iid, Struktur und Beziehungen der Fehler und Var.-Komps werden ins Modell einbezogen. 15 Varianzkomponenten Eine Varianzkomponente ist, vereinfacht gesprochen, eine Quelle weißen Rauschens, die die Beobachtungswerte beeinflusst. Die Bezeichnung Varianzkomponente wird i.d.r. verwendet, wenn unterschiedliche Komponenten einer Variabilität unabhängig sind. Beispiel: Zweifache Varianzanalyse Reagentgruppe \ Wdh Teste \ y y33 y Varianzkomponenten - Beispiel Zwei Variationsursachen: Reagent- / Testeffekt Varianzkomponenten: assoziierte Varianzen Ziel eines statistischen Modells: Erfasse Struktur und Einfluß des Nicht-Beobachtbaren Varianzkomponenten Modell für die Struktur des Nichtbeobachtbaren: Zwei oder mehrere Variationskomponenten Praktische Fragen verlangen meist ein konzeptionelles Verständnis der Variations-Komponenten SAS-Benutzertreff Heidelberg,

4 Variationsursachen: Varianzkomponenten Messung: Kalibrierung, Operator-to-Operator Differenz, Variation bzgl. Temperaturschwankungen, Ablesefehler,... Stichprobenvariabilität: Unterscheidet sich das beobachtete Material vom nicht beobachteten? Kann z.b. reduziert werden durch Vergrößern der Stichprobe Wechselwirkung: zwischen Behandlung / Faktor und den äußeren Umständen Varianzkomponentenschätzung MM: Momentenmethode, vergleicht erwartete Werte mit den Stichprobenschätzwerten Varianzkomponenten: Varianzen, die mit der Variationsursache oder Zufälligkeit in den Daten assoziiert sind kann u.u. negative Schätzwerte der Varianz liefern Varianzkomponentenschätzung MIVQUE0: ein bestimmter Typ von Momentenmethode, Schätzer sind invariant bzgl. fester Effekte, Mittelwertquadrate, die mit den zufälligen Effekten assoziiert sind, werden nach den festen Effekten adjustiert Varianzkomponentenschätzung ML: Maximum Likelihood-Methode, iteratives Verfahren zur Schätzung von Parameterwerten, maximiert die Likelihoodfunktion negative Varianzen werden bei der Prozedur MIXED auf null gesetzt Varianzkomponentenschätzung REML: restricted / residual Maximum Likelihood, Likelihoodfunktion wird in zwei Teilen konstruiert (ein Teil feste Effekte, der andere frei von festen Effekten) liefert ML-Schätzung der Varianzkomponenten aus dem Anteil des Modells, der frei von festen Effekten ist negative Varianzen werden bei der Prozedur MIXED auf null gesetzt Beispiel 1: Prozedur MIXED Experiment zur Überprüfung der Wirksamkeit eines Antibiotikas, das zwei Jahre gelagert worden war. Aus acht Behältern wurden jeweils zwei Proben gezogen und die Konzentration der aktiven Komponente gemessen. Fragestellung: 1) Schätzung der (overall) mittleren Gesamtkonzentration. 2) Hat die zufällige Auswahl der Behälter einen Einfluß auf die Variabilität der Responsen? SAS-Benutzertreff Heidelberg,

5 Daten Beispiel 1 %HK½OWHU %DWFK Beispiel 1: Einfaktorielles Modell Start von Beispielprogramm Beispiel 1: Prozedur MIXED - zufällige Effekte Beispiel 1: Prozedur MIXED - feste Effekte Modell 1(Behälter: Zufallsauswahl aus allen Behältern): y ij = µ + β i + ε ij µ = overall Mittel (fixed Effekt), β i = zufälliger (random) Effekt, ε ij = Zufallsfehler für Beobachtung j in Batch i. β i ~ iid N(0, σ 2 b ) ε ij ~ iid N(0, σ 2 ), unabhängig voneinander E[y ij ]= µ, Modell 2 (Behälter sind alle möglichen gewesen): y ij = µ + β i + ε ij µ = overall Mittel (fixed Effekt), β i = Haupt-Effekt für Behälter i (fixed Effekt), ε ij = Zufallsfehler für Beobachtung j in Batch i. ε ij ~ iid N(0, σ 2 ), unabhängig voneinander E[y ij ]= µ+β i, i=1,...,8 (Jeder Behälter hat seinen speziellen Erwartungswert) 27 Varianzkomponenten: Var[y ij ]= σ 2 b + σ2 (σ 2 << σ 2 b ). Varianz: Var[y ij ]= σ 2 (Nur eine Quelle für die Variabilität) 28 Gegen die Prozedur VARCOMP: MIXED verallgemeinert VARCOMP VARCOMP berechnet auch Typ I ANOVA Varianzkomponenten beide erlauben als Schätzverfahren: REML, ML und MIVQUE0 beide erlauben feste und zufällige Effekte VARCOMP erlaubt keine stetigen unabh. Variabl. Std-Schätzverfahren: MIVQUE0 (MIXED:REML) 29 Verwende VARCOMP um Schätzungen für Varianzkomponenten zu erhalten, die assoziiert sind mit den zufälligen Effekten 30 SAS-Benutzertreff Heidelberg,

6 Die Prozedur NESTED: berechnet Varianzkomponenten und Schätzwerte nach der Momentenmethode erlaubt keine stetigen Effekte in X schätzt zufällige Effekte Modelle nur für Experimente mit einer geschachtelten Struktur 31 Weitere Prozeduren: CALIS: erlaubt nur feste Effekte ARIMA / AUTOREG: passen Zeitreihenfehlerstrukturen an aber keine Varianzkomponenten und nur feste Effekte RSCREG: Zeitreihenquerschnittmodelle, Park s Fehlerstruktur (nicht in MIXED möglich) 32 Einsatz der Prozedur MIXED Wann kann die Prozedur MIXED benutzt werden? Repeated Measurements (Wachstumskurvenmodell) Zufällige Effekte (Varianzkomponentenmodell, z.b. Split-Plot-Design) Zufällige Koeffizienten (spezielles Wachstumskurvenmodell bei dem die Spalten von Z stetige Variablen und keine Dummy-Variablen) Räumliche Daten (Landwirtschaft, Geostatistik) Heterogene Varianzen (Anova mit ungleichen Gruppenvarianzen) Metaanalyse (Studie als zufälliger Effekt) Verallgem. Lin. Mixed Models (Macros GLIMMIX, Syntax Prozedur MIXED PROC MIXED < options > ; BY variables ; CLASS variables ; ID variables ; MODEL dependent = < fixed-effects > < / options > ; RANDOM random-effects < / options > ; REPEATED < repeated-effect > < / options > ; PARMS (value-list)... < / options > ; PRIOR < distribution > < / options > ; CONTRAST 'label'< fixed-effect values...> < random-effect values...> < / options>; ESTIMATE 'label' < fixed-effect values... > < random-effect values...>< / options >; LSMEANS fixed-effects < / options > ; MAKE 'table' OUT=SAS-data-set ; WEIGHT variable ; NLINMIX / Vs 6.12, ab Vs 8: PROC NLMIXED) Statements Prozedur MIXED CLASS variables ; Spezifiziert die Namen der Klassifikationsvariablen; die Werte dieser Variablen identifizieren die Levels. MODEL dependent = < fixed-effects > < / options > ; Spezifiziert die Namen der abhängigen und unabhängigen Variablen (feste Effekte und Kovariablen). RANDOM random-effects < / options > ; Spezifiziert die zufälligen Effekte, die mit dem Vektor ν assoziiert sind, die Matrix Z sowie die Struktur der Matrix G. 35 Statements Prozedur MIXED REPEATED < repeated-effect > < / options > ; Spezifiziert die Wiederholungseffekte und die Matrix R; Effekte, die hier aufgelistet sind, müssen im CLASS- Statement auch gelistet sein. PARMS (value-list)... < / options > ; Spezifiziert die Anfangswerte für Kovarianzparameter PRIOR < distribution > < / options > ; Bayes Analyse für die Varianzkomponentenmodelle CONTRAST 'label'< fixed-effect values...> < random-effect values...> < / options>; Lineare Kontraste für Hypothsenteste 36 SAS-Benutzertreff Heidelberg,

7 Statements Prozedur MIXED ESTIMATE 'label' < fixed-effect values... > < random-effect values...>< / options >; Schätzt Linearkombinationen von festen und zufälligen Effekten LSMEANS fixed-effects < / options > ; Liefert verallgemeinerte Kleinste-Quadrate Mittelwerte für die festen Effekte. MAKE 'table' OUT=SAS-data-set ; Konvertiert jede Tabelle der Ausgabe in SAS-Data Set WEIGHT variable ; Beispiel 2: Zweifache Varianzanalyse Geprüft werden soll die Tauglichkeit von drei Wachstumsmethoden für fünf verschiedene Grassamensorten (n=6 Wdh.): Methoden: A, B, C Sorte: 1,2,3,4,5 Zielgröße: Ertrag nach vier Wochen Vollständig randomisiertes Experiment mit 2 Fakt. Unterschiede beim Ertrag? Unterschiede bei der Methode pro Sorte? Spezifiziert die Gewichtungsvariable für R Beispiel 2: Zweifache Varianzanalyse Sorte: zufälliger Effekt (Zufallsauswahl aus größerer Pop.) Methode: fester Effekt (nur die drei Methoden interessieren) gemischtes Modell Ziel: Hypothesenteste zum Vergleich der Methoden, die Sorte als zufälligen Effekt zulassen. 39 Beispiel 2: gemischtes Modell Mixed Modell: y ijk = µ + α i + β j + (αβ) ij + ε ijk µ = overall Mittel (fixed Effekt), α i = Effekt der i-ten Methode (fester Effekt), β i = Effekt der j-ten Sorte (zufälliger Effekt), (αβ) ij =Wechselwirkung zwischen i-ter Methode und j-ter W ε ijk = Zufallsfehler für Beobachtung j in Batch i. (αβ) ij ~ iid N(0, σ 2 ab ) β j ~ iid N(0, σ 2 b ) 40 ε ijk ~ iid N(0, σ 2 ), unabhängig voneinander Beispiel 2: gemischtes Modell Beispiel 2: gemischtes Modell Mixed Modell: y ijk = µ + α i + β j + (αβ) ij + ε ijk Erwartungswert von Methode i (über alle Sorten): E[y ijk ]= µ + α i, Varianzkomponenten: Var[y ijk ]= σ 2 b + σ2 ab + σ2. 41 Mixed Modell in Matrix-Schreibweise: y=xβ + Zν + ε y= 90 1 Vektor der beobachteten Erträge β= 4 1 Vektor (µ, α 1, α 2, α 3 ) ν=20 1Vektor der zufälligen Effekte (5 Sorten, 15 WW) ε= 90 1 Vektor der Fehler X=90 4 Design-Matrix (aufgeteilt in I 30 -Matrizen) Z= Design-Matrix (aufgeteilt in I 6 -Matrizen) G=Diag{σ 2 b I 5, σ2 ab I 15 } und R= σ2 I SAS-Benutzertreff Heidelberg,

8 Beispiel 2: gemischtes Modell Start von Beispielprogramm 2 Beispiel 3: Wachstumskurvenmodell Wachstumskurve mit zusammengesetzter Symmetrie (Compound symmetry): Gegeben: drei Wachstumskurvenmessungen bei s Individuen Problem: Anpassung eines overall linearen Trends in der Zeit (Lineares Regressionsmodell) Beispiel 3: Wachstumskurvenmodell Prozedur-Aufruf: PROC MIXED DATA=dset ; CLASS indiv ; MODEL y = time ; REPEATED / TYPE=cs SUBJECT=indiv ; RUN ; Option TYPE definiert dabei die Kovarianzstruktur: vc (=variance components, Default) cs (=compound symmetry) un (=unstructered) 45 Beispiel 3: Wachstumskurvenmodell -2- Alternative: spezifiziere die Matrizen Z und G wie auf der Folie angegeben und R= σ 2 I 3s 46 Beispiel 3: Wachstumskurvenmodell -2- Prozedur-Aufruf: Beispiel 3: Wachstumskurvenmodell -2- Prozedur-Aufruf: PROC MIXED DATA=dset ; CLASS indiv ; MODEL y = time ; RANDOM indiv ; RUN ; PROC MIXED DATA=dset ; CLASS indiv ; MODEL y = time ; RANDOM intercept / SUBJECT=indiv ; RUN ; SAS-Benutzertreff Heidelberg,

9 Beispiel 3: Wachstumskurvenmodell -2- Alle drei Prozedur-Aufrufe passen das gleiche Modell an: RANDOM-Statement: Einschänkung der Korrelationen auf positive Korr s REPEATED-Statement: Korr s nicht eingeschränkt 49 Zusammenfassung Verwende MIXED für Random Effekte: Varianzkomponentenmodelle Random Koeffizienten: best. Typ von Wachstumskurvenmodellen in denen die Spalten von Z stetige Variablen sind, nicht Dummyvariablen Repeated Measures: multiple Measurements bei Subjekten und Growth-Kurven-Modellen Heterogenenen Varianzen: ANOVA mit ungleichen Gruppen-Varianzen Meta-Analysen: Studie als random Effekt 50 MIXED: Literaturhinweise Gert Verbeke / Geert Molenberghs (eds.): Linear Mixed Models in Practice - A SASoriented Approach. Springer Lecture Notes in Statistics No 126, 1997 SAS V8 Online Dokumentation MIXED: Literaturhinweise - 2 Littell, R.C., Milliken, G.A., Stroup, W.W. and Wolfinger, R.D. (1996): SAS System for Mixed Models. SAS Institute Inc. Cary, NC, USA SUGI-Proceedings Zur Prozedur MIXED Any Questions? ;-) 53 SAS-Benutzertreff Heidelberg,