Logistische Regressionsanalyse mit SPSS

Transkript

1 Univrsität Trir Zntrum für Informations-, Mdinund Kommuniationstchnologi (ZIMK) Trir, dn B. Balts-Götz Logistisch Rgrssionsanalys mit SPSS

2 Logistisch Rgrssionsanalys mit SPSS Inhaltsübrsicht VORWORT 5 EINLEITUNG 6 DIE BINÄRE LOGISTISCHE REGRESSION 9. Modll 9.. Populationsmodll 9.. Stichprobnmodll 0..3 Äquivalnt Modllformulirungn 0..4 Ein möglichr Entsthungshintrgrund..5 Vrglich mit dr Probit-Analys 4. Anwndungsbispil 5.3 Schätzung dr Paramtr 7.3. Di Maimum-Lilihood-Mthod 7.3. Altrnativ Vrfahrn 9.4 Burtilung dr Modllgültigit 0.4. Global Modllgültigitststs Parson- -Statisti Dvianz-Statisti Hosmr-Lmshow - Statisti 4.4. Untrsuchung von Rsidun und Einflussindiatorn Rsidundiagnosti Einflussrich Fäll 34.5 Burtilung dr Modllrlvanz Dr Lilihood-Quotintntst zur globaln Nullhypoths Psudo-R -Statistin Präditiv Effizinz Di Klassifiationstabll Klassifiationsdiagramm 40.6 Burtilung dr inzlnn Rgrssorn 4.6. Rgrssionsoffizintn und Efftgrößn 4.6. Signifianz Fhlnd bzw. irrlvant Präditorn 45.7 Nominalsalirt Rgrssorn mit mhr als zwi Katgorin 46.8 Intrationn 5.8. Intrationn zwischn nominalsalirtn Rgrssorn Bdutung dr Rgrssionsgwicht bi Indiatorodirung Bdutung dr Rgrssionsgwicht bi Abwichungsodirung Hauptfft in Modlln mit Wchslwirung 56.9 Stratgin zur Modllbildung Signifianztsts zu Präditorblöcn Automatisch Modllsuch Empfhlungn zur Modllbildung 6

3 Logistisch Rgrssionsanalys mit SPSS 3 DIE MULTINOMIALE LOGISTISCHE REGRESSION 6 3. Populationsmodll 6 3. Stichprobnmodll Anwndungsbispil Paramtrschätzung Modllgültigit Burtilung dr Modllrlvanz Burtilung dr inzlnn Rgrssorn Log-Lilihood - Variantn 70 4 DIE ORDINALE LOGISTISCHE REGRESSION 7 4. Das umulativ Logit-Modll 7 4. Anwndungsbispil Paramtrschätzung Modllgültigit Paralllität Global Modllgültigit Loal Modllanalys Burtilung dr Modllrlvanz Burtilung dr inzlnn Rgrssorn Vrglich mit altrnativn Auswrtungsvrfahrn Multinomial logistisch Rgrssion Linar Rgrssions- bzw. Varianzanalys Loations-Saln - Modll 84 5 NUMERISCHE SCHÄTZPROBLEME Multiollinarität Quasi-vollständig Trnnung Vollständig Trnnung 9 3

4 Logistisch Rgrssionsanalys mit SPSS 6 ANHANG Symbolvrzichnis SPSS-Programm zu dn Bispiln SPSS-Syntadati zum DBS-Bispil SPSS-Syntadati zum Bispil für di multinomial Rgrssion 96 LITERATUR 97 STICHWORTVERZEICHNIS 99 Hrausgbr: Autor: Copyright Univrsität Trir Zntrum für Informations-, Mdin und Kommuniationstchnologi (ZIMK) Univrsitätsring 5 D-5486 Trir Tl.: (065) 0-347, Fa.: (065) 39 Brnhard Balts-Götz ( balts@uni-trir.d) 0; ZIMK 4

5 Logistisch Rgrssionsanalys mit SPSS Vorwort In dism Manusript wird di logistisch Rgrssionsanalys für Kritriumsvariabln mit folgndr Strutur bhandlt: nominalsalirt mit zwi odr mhr Katgorin ordinalsalirt Als Softwar ommt SPSS Statistics 0.0 für Windows zum Einsatz, jdoch önnn pratisch all vorgstlltn Vrfahrn auch mit andrn SPSS-Vrsionn untr Linu, MacOS odr Windows ralisirt wrdn. Di atull Vrsion ds Manusripts ist als PDF-Doumnt zusammn mit alln im Kurs bnutzn Datn und SPSS-Programmn auf dm Wbsrvr dr Univrsität Trir von dr Startsit ( ausghnd folgndrmaßn zu findn: Rchnzntrum > Studirnd > EDV-Doumntationn > Statisti > Logistisch Rgrssionsanalys mit SPSS Lidr sind in dism Manusript inig Til mit hißr Nadl gstrict, so dass Unzulänglichitn zu bfürchtn und ntsprchnd Hinwis dr Lsr(innn) zu rhoffn sind (z.b. an di Mail-Adrss Trir, im Juni 0 Brnhard Balts-Götz 5

6 Logistisch Rgrssionsanalys mit SPSS Einlitung In dr statistischn Forschungsprais sind oft nominal- odr ordinalsalirt Kritrin zu untrsuchn, z.b.: Kaufntschidung für in Produt (nominals Kritrium mit zwi Katgorin): o ja o nin Wahl ins Vrhrsmittls für dn Wg zur Uni (nominals Kritrium mit dri Katgorin): o pr Pds odr Pdal (Fahrrad) o ÖPNV o PKW Durchblutungsstörung (ordinals Kritrium): o in o priphr o oronar Stllungnahm (ordinals Kritrium): o ntschidn daggn o hr daggn o nutral o hr dafür o ntschidn dafür Auf dr Such nach inm Modll zur Erlärung und odr Vorhrsag solchr Kritrin solln in dr Rgl mhrr Rgrssorn mit mtrischr odr nominalr Salnqualität inbzogn wrdn, wobi vntull auch Intrationn zwischn zwi odr mhrrn Rgrssorn untrstllt wrdn solln. In disr Situation ann di vrtraut linar Rgrssionsanalys nicht ingstzt wrdn: Ihr Vorausstzung normalvrtiltr und varianzhomognr Rsidun ist offnsichtlich vrltzt. Ihr prognostizirtn Wrt önnn außrhalb ds plausibln Brichs lign. Z.B. sind bi inr dichotomn Kritriumsvariabln nur Prognoswrt von 0 bis sinnvoll, damit dis als Wahrschinlichitn dr Zughörigit zur rstn Grupp intrprtirt wrdn önnn. Di linar Disriminanzanalys bitt zwar in Prognos dr Gruppnzughörigit, ist abr vilfach wgn ihrr Vorausstzungn bzgl. dr Präditorn nicht anwndbar: Intrvallsalnqualität multivariat Normalvrtilung innrhalb dr Populationn zu dn Kritriumsausprägungn Homognität dr Kovarianzmatrizn Kin Wchslwirungn zwischn dn Präditorn in Bzug auf das Kritrium Sofrn nur in inzlnr Präditor in Frag ommt, dr zudm nominals Mssnivau bsitzt, ann zur Analys ins nominaln Kritriums di Kruztabllnanalys vrwndt wrdn (sih z.b. Balts-Götz 0, Kap. ). Di Bschränung auf inn Präditor ntfällt bi dn zur Analys von multivariatn Kontingnztablln oft vorgschlagnn log-linar Modlln (sih z.b. Bühl 0, Kap. ). Zwar wrdn hir zunächst nur Assoziationn modllirt (ohn Untrschidung zwischn abhängign und unabhängign Variabln), doch lassn sich auch asymmtrisch Modll für di Erlärung atgorialr Kritriumsvariabln aus atgorialn Präditorvariabln formulirn, di oft als logit-linar Modll bzichnt wrdn. In SPSS rmöglicht di Prozdur GENLOG sowohl symmtrisch als auch asymmtrisch Modll. Als Problm bi dr Anwndung log- bzw. logit-linarr Modll sind zu nnnn: 6

7 Logistisch Rgrssionsanalys mit SPSS Mtrisch Präditorn önnn nur durch in durch ünstlich (und willürlich) Katgorisirung inbzogn wrdn. Dabi vrlirt man sowohl Information (durch Vrgröbrung) als auch statistisch Effizinz (durch in rhöht Anzahl von Paramtrn). Vil Forschungspratir(innn) mit inm rgrssionsanalytischn Dnansatz mpfindn di primär assoziativn log-linarn Modll, di oft vrwirrnd vil Paramtr bsitzn, und drn asymmtrisch Rformulirung als rlativ unhandlich. Trotz inr dutlichn Vrwandtschaft mit dm log-linarn Ansatz ist di logistisch Rgrssionsanalys zur Untrsuchung von atgorialn odr ordinaln Kritrin oft bssr gignt. Bi disr multivariatn Mthod wrdn di Wahrschinlichitn dr Zughörigit zu dn Kritriumsgruppn aufgrund von intrvall- odr nominalsalirtn Präditorn modllirt, wobi in vrallgminrts linars Modll zum Einsatz ommt (vgl. McCullagh & Nldr 989). Vil Schätzr und Tsts im Rahmn dr logistischn Rgrssionsanalys habn dirt Entsprchungn bi dr linarn Rgrssionsanalys, z.b.: dr Tst zur globaln Nullhypoths, dass all Paramtr außr dm onstantn Trm glich 0 sind di Tsts zu dn Nullhypothsn zu dn inzlnn Paramtrn Bstimmthitsmaß zur Burtilung dr Modllrlvanz Es sind Modllgültigitststs vrfügbar, di auch bi Individualdatn (also ldiglich infach bstztn Präditorwrtombinationn) anwndbar sind. Wil di logistisch Rgrssion Wahrschinlichitn für di Zughörigit zu Kritriumsgruppn zu modllirn hat, bsitzt ihr Modllglichung inig Bsondrhitn im Vrglich zur linarn Rgrssion, di abr nach dr Ltür diss Manusripts in Schwirigitn mhr machn solltn. Lohn für dis Bmühungn ist in für nahzu blibig abhängig Variabln (ohn Bauchschmrzn) anwndbars Analysvrfahrn. Auf dr unabhängign Sit bsthn dislbn Möglichitn und Einschränungn wi bi inr linarn Rgrssionsanalys. Man ann mtrisch und atgorial Rgrssorn vrwndn, muss ordinal Variabln also ntwdr als atgorial odr als mtrisch bhandln. In SPSS sthn für di logistisch Rgrssionsanalys u.a. di dri folgndn Prozdurn brit: LOGISTIC REGRESSION Dis übr dn Mnübfhl Analysirn > Rgrssion > Binär Logistisch ansprchbar Prozdur analysirt dichotom Kritrin untr Vrwndung von Individualdatn und ist damit bsondrs gignt für Modll, di nbn atgorialn auch mtrisch, in zahlrichn Ausprägungn ralisirt Rgrssorn nthaltn. LOGISTIC REGRESSION bitt u.a. dn für Modll mit übrwignd infach bstztn Präditorwrtombinationn (Zlln) gigntn Hosmr-Lmshow-Modllgültigitstst, ann zahlrich diagnostisch Informationn zum g- Zu jdm logistischm Rgrssionsmodll mit ausschlißlich atgorialn Rgrssorn istirt in äquivalnts loglinars Modll. Di dri aufglisttn und im Manusript bhandltn Prozdurn sind schon in dr SPSS-Vrsion 0 vorhandn. Atull SPSS-Vrsionn bitn witr Optionn: Analysirn > Vrallgminrt Linar Modll > Vrallgminrt Schätzglichungn Für Datn mit Abhängigitsstruturn (durch Clustrbildung odr Msswidrholung) sind Modll mit dichotomn Kritrin möglich, wobi di Abhängigitn durch di GEE-Mthodologi nach Liang & Zgr (986) nutralisirt wrdn. Analysirn > Gmisch Modll > Vrallgminrt Linar Für Datn mit Abhängigitsstruturn (durch Clustrbildung odr Msswidrholung) sind Mhrbnnmodll für atgorial Kritrin (mit zwi odr mhr Ausprägungn) möglich. Analysirn > Kompl Stichprobn Für ompl Stichprobn, di nicht durch infach Zufallsauswahl zustand gommn sind, önnn logistisch Rgrssionn mit inm atgorialn odr ordinaln Kritrium grchnt wrdn. 7

8 Logistisch Rgrssionsanalys mit SPSS schätztn Modll (z.b. Rsidun, Coo-Distanzn) als nu Variabln abspichrn und rlaubt bi nominalsalirtn Präditorn in flibl Wahl dr Kontrastodirung. NOMREG Dis übr dn Mnübfhl Analysirn > Rgrssion > Multinomial Logistisch rrichbar Prozdur untrstützt auch nominalsalirt Kritrin mit mhr als zwi Katgorin. Obwohl NOMREG auch für dn binärn Spzialfall vrwndbar ist, wird LOGISTIC REGRES- SION nicht ompltt rstzt, wil bid Prozdurn mit tilwis untrschidlichn Algorithmn arbitn. Währnd di rin binär Variant mit Individualdatn rchnt, fasst NOMREG all Fäll mit inr gminsamn Präditorwrtombinationn zu inr Grupp zusammn. Bi zntraln Ergbnissn inr binärn logistischn Rgrssionsanalys (z.b. bi dr Paramtrschätzung) wirn sich di Algorithmus-Untrschid nicht aus, so dass di Entschidung zwischn dn bidn SPSS-Prozdurn irrlvant ist. Spzill zur Bschribung und Tstung dr Anpassungsgüt ins Modlls sind jdoch Statistin vorgschlagn wordn, di hr für aggrgirt Datn odr hr für Individualdatn gignt sind. Dmntsprchnd wrdn si nur von NOMREG (z.b. Modllgültigitstst übr Parsons Goodnss of Fit Statisti) odr nur von LOGISTIC REGRESSION (z.b. Hosmr-Lmshow - Modllgültigitstst) brchnt. PLUM Dis übr dn Mnübfhl Analysirn > Rgrssion > Ordinal rrichbar Prozdur vrwndt di PLUM-Tchnologi (PoLytomous Univrsal Modl) zur Analys von ordinaln Kritrin. Nbn dr logistischn Linfuntion (sih untn) wrdn auch tlich Altrnativn untrstützt. Wi NOMREG arbitt auch PLUM intrn mit aggrgirtn Datn. J nach SPSS-Vrsion sind di dri Prozdurn untrschidlich auf di Modul Bas, Rgrssion und Advancd vrtilt. In dn mistn SPSS-Installationn dürftn jdoch all gnanntn Modul und damit auch all im Manusript bhandltn Optionn zur logistischn Rgrssionsanalys nthaltn sin. Wir wrdn in dism Manusript di wichtigstn statistischn Grundlagn dr logistischn Rgrssion in inigr Ausführlichit bsprchn und natürlich auch di Vrwndung dr SPSS-Prozdurn bhandln. Im Abschnitt wird dr bsondrs wichtig und angnhm infach Spzialfall dr binärn logistischn Rgrssion (mit inr dichotomn Kritriumsvariabln) vorgstllt. Im Abschnitt 3 folgt mit dr multinomialn logistischn Rgrssion di Gnralisirung auf nominalsalirt Kritrin mit mhr als zwi Katgorin, und im Abschnitt 4 wrdn ordinal Kritriumsvariabln bhandlt. Schlißlich ommn im Abschnitt 4.8 noch ritisch Datnvrhältniss zur Sprach, di zu irrgulärn Ergbnissn führn önnn. 8

9 Logistisch Rgrssionsanalys mit SPSS Di binär logistisch Rgrssion Dr Bqumlichit halbr wird im Manusript glgntlich di Abürzung BLR für di binär logistisch Rgrssion vrwndt.. Modll.. Populationsmodll Für in (0,) - odirt Kritriumsvariabl Y und di Präditorvariabln X bis X M (intrvallsalirt odr durch Kodirung von atgorialn Variabln ntstandn) rlärt das logistisch Rgrssionsmodll di Wahrschinlichit für das Erignis {Y = } folgndrmaßn: X βx P( Y ), mit β : [,,,.., X M ] und : 0 X. () βx βx. X M Anmrungn: Zur Vrinfachung dr Formln wrdn im Manusript glgntlich lmntar Vtorausdrüc vrwndt. Zum Vrständnis ist abr ldiglich di folgnd Multipliationsrgl rfordrlich (am Bispil X): X M βx [ X 0,,,.., M ] 0 m X m. m. X M Mit ist di Eulrsch Zahl gmint, also di Basis zum natürlichn Logarithmus. In dr Modllglichung ist hintr di linar Funtion X dr Präditorn di logistisch Vrtilungsfuntion gschaltt. Si sorgt dafür, dass all Modllprognosn im Intrvall von 0 bis lign und dahr als Wahrschinlichitn intrprtirt wrdn önnn. Wi di folgnd Abbildung zigt, lifrt di logistisch Vrtilungsfuntion für blibig Argumnt (von - bis ) inn Funtionswrt im Intrvall (0,): Im Vrglich zur Standardnormalvrtilungsfuntion bsitzt di logistisch Vrtilungsfuntion inrsits inn shr ähnlichn Vrlauf und andrrsits in mathmatisch infachr Bschribung (sih Abschnitt..4). 9

10 Logistisch Rgrssionsanalys mit SPSS.. Stichprobnmodll Währnd sich das bn vorgstllt Populationsmodll auf thortischr Ebn bwgt, bschribt das Stichprobnmodll, wi di Datn inr mpirischn Studi zustand gommn sind. Bobachtt man bi N Fälln mit dn Präditorwrtombinationn i (i =,.., N) jwils di Kritriumsatgori, ommt folgnds BLR-Stichprobnmodll zum Einsatz: Es sind N unabhängig (0, ) - wrtig Zufallsvariabln Y i vorhandn. Für di Wahrschinlichit zum Einsrrignis gilt bi dr i-tn Bobachtung: βi P( Yi ), mit βi i i... M β 0 im i Sofrn di Unabhängigit (z.b. durch in gignt Fallrrutirung) sichrgstllt ist, ann bi inr logistischn Rgrssionsanalys also nur di zwit Annahm vrltzt sin (z.b. durch inn Spzifiationsfhlr im linarn Til ds Modlls). Um präzis Schätzungn und zuvrlässig Signifianztsts zu rhaltn, ist auf in ausrichnd Stichprobngröß zu achtn. In dr Litratur findn sich u.a. folgnd Empfhlungn: Urban (993, S. 3) nnnt 50 Fäll als minimal Stichprobngröß, rchnt abr rst ab 00 Fälln mit inr zufridn stllndn Präzision. Nach Bachaus t al. (008, S. 88) sollt jd Katgori dr abhängign Variabln mindstns 5 Fälln nthaltn, bi inr größrn Anzahl von unabhängign Variabln jdoch mhr. Bi Hosmr & Lmshow (000, S. 346) und Norušis (005, S. 39) wird das Zhnfach dr Anzahl zu schätzndr Paramtr als minimal Häufigit dr schwächr bstztn Kritriumsatgori gnannt. Bi inm dichotomn Kritrium und 4 mtrischn Präditorn in inm Modll mit Ordinatnabschnitt (also insgsamt 5 Paramtrn) solltn also bid Kritriumsatgorin minimal 50 Fäll nthaltn. Für Modllgültigitststs auf dr Basis von Parson- odr Dvianz-Rsidun müssn all K Präditorwrtombinationn mhrfach bstzt sin. Häufig wird gfordrt, dass di rwarttn Häufigitn untr dm zu prüfndn Modll bi alln ( K) Zlln größr als und bi mindstns 80% allr Zlln größr als 5 sin solln. Dr bi übrwignd infach bstztn Präditorwrtombinationn anwndbar Hosmr- Lmshow-Modllgültigitstst bnötigt übr di obign Empfhlungn hinaus in Vorausstzungn bi dn Zllhäufigitn aus. Insbsondr bi dr Analys von sltnn Attributn ist in spzill Libralität dr binärn logistischn Rgrssionsanalys hinsichtlich dr Stichprobnzihung von Vortil: Man ann aus dn Tilpopulationn mit bzw. ohn das zu untrsuchnd Attribut (z.b. in sltn Kranhit) Stichprobn mit untrschidlichn Quotn zihn (z.b. 0 % aus dr Patintnpopulation und % aus dr Kontrollpopulation), um stabilr Ergbniss (z.b. linr Standardfhlr) im Vrglich zu inr infachn Zufallsstichprob aus dr Gsamtpopulation zu rhaltn. Di ssntilln Ergbniss (z.b. di Rgrssionsoffizintn mit Ausnahm ds onstantn Trms) sind ggnübr inr solchn ritriumsgsturtn Quotirung invariant (Allison 999, S. 78ff; Norušis 008, S. 63). Bi dr linarn Rgrssionsanalys sind analog Stratgin dr Stichprobnzihung mit Problmn vrbundn...3 Äquivalnt Modllformulirungn Aus dm Populationsmodll () rgibt sich durch äquivalnt Umformung folgnd Darstllung für das logarithmirt Vrhältnis aus dn bidn btiligtn omplmntärn Wahrschinlichitn: 0

11 Logistisch Rgrssionsanalys mit SPSS P( Y ) ln βx X X X 0... M M () P( Y 0) P( Y ) Für dn Wahrschinlichitsquotintn schlägt Urban (993, S. 5) di Bzichnung Gwinnchanc vor; in dr anglsächsischn Litratur spricht man von dn odds. Dr logarithmirt Wahrschinlich- P( Y 0) itsquotint wird gnrll als Logit bzichnt. In dr folgndn Tabll sind zur Illustration dr Bzihungn zwischn dn btiligtn Bgriffn für inig Einsrwahrschinlichitn di zughörign Odds- und Logit-Wrt anggbn: P(Y = ) P( Y ) P( Y 0) P( Y ) ln P( Y 0) 0,90 9,0 0,75 3,0 0,5 0 0,5 0, 3 -,0 0,0 0, -,0 Obwohl auf dr rchtn Sit von Glichung () in linars Modll stht, ist das in dr Einlitung angsprochn Wrtbrichsproblm bi dr linarn Modllirung von Wahrschinlichitn durch di Logit-Dfinition übrwundn: Dr Wahrschinlichitsquotint nimmt Wrt von 0 bis + (positiv unndlich) an. Durch das Logarithmirn rgibt sich in Wrtbrich von - bis +. Übr di Logit-Formulirung ds Modlls lassn sich sin Koffizintn analog zur gwöhnlichn linarn Rgrssionsglichung intrprtirn: Bi dr binärn logistischn Rgrssion gibt dr Koffizint m an, wi sich das Logit vrändrt, wnn dr Präditor X m um in Einhit rhöht wird, und all andrn Präditorn unvrändrt blibn. Dis Btrachtungswis stzt (wi bi dr linarn Rgrssion) voraus, dass X m bi inr Intration btiligt ist. Durch Anwndung dr Eponntialfuntion auf Glichung () rhaltn wir: P( Y ) βx 0 X X... M X M 0 X P( Y 0) Di Glichung zur Erlärung dr Wahrschinlichitsquotintn (ngl. odds) bitt in altrnativ Intrprtationsmöglichit für di Rgrssionsoffizintn. Dr Ausdruc gibt dn Fator an, um dn sich das m Wahrschinlichitsvrhältnis ändrt, wnn dr Präditor X m um in Einhit rhöht wird, und all andrn unvrändrt blibn: Wil 0 X m ( X m ) M X M 0 X m X m m grad dm Quotintn aus dn Odds für (X, X,..., X m +,..., X M ) und (X, X,..., X m,..., X M ) m 0 0 X m ( X m ) X m X m ntspricht, wird dr Ausdruc (nicht nur) in dr anglsächsischn Litratur mist als odds ratio bzichnt. Urban (993, S. 40f) spricht von dr Efftgröß. Aus dm Vrhaltn dr Eponntialfuntion folgt unmittlbar: M X M M X M M X M M X M m (3)

12 Ist m positiv (also Ist m ngativ (also m m Logistisch Rgrssionsanalys mit SPSS > ), dann stigt das Wahrschinlichitsvrhältnis (P(Y = ) wird größr). < ), dann sint das Wahrschinlichitsvrhältnis (P(Y = ) wird linr). Wird in mtrischr Präditor vor dr binärn logistischn Rgrssionsanalys (BLR) standardisirt, lifrt dn Efft bi inr Erhöhung ds Wrts um in m Standardabwichung. Oft wird das BLR-Modll übr di Logit-Glichung () ingführt bzw. dfinirt. Man übrzugt sich licht davon, dass aus disr Modllformulirung sofort di Glichung () folgt...4 Ein möglichr Entsthungshintrgrund Bi viln binärn Kritriumsvariabln ann man sich vorstlln, dass ihr Wrt durch das Dichotomisirn inr latntn mtrischn Variabln ntstandn sind. Für di manifst Kritriumsvariabl Y und di zughörig latnt Variabl nimmt man also folgnds Mssmodll an: 0, Y, falls falls Für di Rgrssion dr latntn Variabln auf di (manifstn) Präditorvariabln X bis X M stzt man in linars Modll mit dr Rsidualvariabln an: 0 X X... M X M (4) Schlißlich wird angnommn, dass für jd Präditorwrtombination in logistisch Vrtilung mit dr folgndn Dichtfuntion bsitzt: w f( w) w ( ) Dis Vrtilung hat dn Erwartungswrt 0 sowi di Varianz 3 (mit dr Kriszahl = 3,45...) und ähnlt dr Normalvrtilung, lädt abr im Vrglich zu disr mhr Mass an dn Rändrn ab: Dicht dr logistischn Vrtilung (Varianz ) Dicht dr Standardnormalvrtilung (Varianz ) 3 Damit di Varianz dr Rsidualvariabln inn blibign Wrt annhmn ann, nthält di Glichung (4) noch dn frin Paramtr als Vorfator zu. Vrmutlich ommt Ihnn das Intgral dr logistischn Dicht, also di zughörig Vrtilungsfuntion, vrtraut vor: w F( w) w

13 Logistisch Rgrssionsanalys mit SPSS Das zughörig Diagramm nnn Si schon aus Abschnitt... Bi fstn Präditorausprägungn gilt für di Wahrschinlichit P(Y = ) = P( > ): Einfachs Umstlln rgibt. P( ) P( 0 X X... M X M ) P( ) P( X X... 0 M X M Dividirt man di Unglichung in dr rchtn Erignisdfinition durch (-), wchslt dr Vrglichsoprator ( > 0!): 0 X X... P( ) P Aus dr Symmtri und Sttigit dr logistischn Vrtilung M X M ) X X... 0 X M M X X... 0 X M M folgt: Mit dn Dfinitionn: rhaltn wir: 0 X X... P( ) P 0 0 : m m :, m,..., M P( ) P( βx) M X M Di Wahrschinlichit dafür, dass di Zufallsvariabl inn Wrt linr odr glich X annimmt, ist idntisch mit dm Wrt ihrr Vrtilungsfuntion an disr Stll: Insgsamt rhaltn wir di Modllglichung (): P( βx) βx βx P( Y ) βx βx (5) Aus dm für vil Lsr wohl wnig vrtrautn Bgriff dr Sttigit folgt, dass von dn übrabzählbar unndlich viln Ausprägungn inr Variabln mit sttigr Vrtilung jd inzln Ausprägung di Wahrschinlichit Null bsitzt: P( ) 0 P( ) P( ) 3

14 Logistisch Rgrssionsanalys mit SPSS Di Koffizintn ds logistischn Modlls für di manifst (dichotom) Kritriumsvariabl sind also im Vrglich zu dn Koffizintn ds Modlls für di orrspondirnd latnt Variabl um dn Fator gmindrt. Mit Ausnahm ds onstantn Trms hängn si nicht davon ab, bi wlchm Schwllnwrt di latnt Variabl dichotomisirt wurd. Wil in raln Studin unbannt ist, lassn sich di Koffizintn m (m =,, M) in Glichung (4) nicht aus dn Koffizintn m (m =,, M) in Glichung () brchnn, doch wgn ist in Signifianztst zur Hypoths äquivalnt zu inm Tst dr Hypoths m m, m,..., M H 0 H 0 : : Um Missvrständniss zu vrmidn, soll noch inmal btont wrdn, dass di in dism Abschnitt präsntirt Hrlitung dr Modllglichung () insfalls in Vorausstzung für di Vrwndung dr binärn logistischn Rgrssion ist. Si hilft jdoch bim Vrständnis und bi dr Einordnung ds Vrfahrns. m m Vrglich mit dr Probit-Analys Aus dm logistischn Modll für in latnt und mtrisch Kritriumsvariabl (sih Glichung 4) rgibt sich sofort das analog Modll dr so gnanntn Probit-Analys, wnn für di Rsidualvariabl an Stll dr logistischn Vrtilung in Standardnormalvrtilung angnommn wird. Dmntsprchnd rgibt sich di Probit-Modllglichung aus dr BLR-Variant, indm di logistisch Vrtilungsfuntion durch das Normalvrtilungs-Analogon rstzt wird: βx w P( Y ) ( βx ), mit ( βx) : Daraus rhält man sofort di mist vrwndt Darstllungsform ds Probit-Modlls: (P( Y )) βx Wgn dr starn Vrwandtschaft ihrr Modllglichungn wrdn di BLR- und di Probit-Analys in dr Rgl witghnd äquivalnt Ergbniss produzirn (sih z.b. Mnard 995, S. 59). SPSS untrstützt di Probit-Analys in dn Prozdurn PROBIT (vrfügbar übr Analysirn > Rgrssion > Probit) und PLUM (vrfügbar übr Analysirn > Rgrssion > Ordinal, sih Abschnitt 4). d w 4

15 Logistisch Rgrssionsanalys mit SPSS. Anwndungsbispil Zur Erläutrung dr logistischn Rgrssion für dichotom abhängig Variabln wird in ünstlichr Bispildatnsatz vrwndt. Wir stlln uns vor, dass bi inr mdizinischn Untrsuchung zu dn Ursachn von Durchblutungsstörungn an inr Stichprob dr Größ N = 00 folgnd Variabln rhobn wordn sind: Kritriumsvariabl: DBS Vorlign inr Durchblutungsstörung ( = ja, 0 = nin) Rgrssorn: o ABWIG Abwichung vom Idalgwicht (gmssn in g) o BEWEG Körprlich Btätigung (Sala von bis 6) o DRUCK Diastolischr Blutdruc (gmssn in mm/hg) o STRESS Strss (Sala von bis 6) o ERBE Erblich Vorblastung ( = ja, 0 = nin) o RAUCHER ( =ativr Rauchr, = hmaligr Rauchr, 3 = Nichtrauchr) In dr zu untrsuchndn ünstlichn Population gilt für in latnt Variabl im Sinn von Abschnitt..4: 4 0,06 ABWIG 0,75 BEWEG 0,033DRUCK, STRESS,55 ERBE 4 RAUCHERRAUCHER,5, RAUCHER 0,, RAUCHER 0, falls RAUCHEN sonst falls RAUCHEN hat für jd blibig Präditorwrtombination in logistisch Vrtilung mit dr Vrtilungsfuntion: w F( w) Als Schwllnwrt für dn Übrgang von dr latntn Variabln zur manifstn abhängign Variabln DBS wird vrwndt: 0, DBS, w sonst falls falls Nach dn Übrlgungn von Abschnitt..4 gilt in dr ünstlichn Population also in BLR-Modll gmäß Glichung (). Si findn di simulirtn Datn in dr Dati DBS.SAV an dr im Vorwort vrinbartn Stll. Mit Hilf dr Dati DBS.SAV önnn wir in SPSS nach dm Mnübfhl Analys > Rgrssion > Binär logistisch in folgndr Dialogbo in binär logistisch Rgrssion anfordrn: Mdizinisch gbildt Lsr mögn vntull rfahrungswidrig odr gar mdizinisch ausgschlossn Wrtonstllationn in dr ünstlichn Stichprob nachshn. 5

16 Logistisch Rgrssionsanalys mit SPSS Aus didatischn Gründn wird dr Präditor RAUCHER bis zum Abschnitt.7 ignorirt. In unsrr Dmostudi trtn aum mhrfach bstzt Wrtombinationn auf, wil auch präzis rfasst mtrisch Rgrssorn mit zahlrichn Ausprägungn (z.b. ABWIG, DRUCK) zum Einsatz ommn. Dahr wrdn wir primär mit dr für Individualdatn onzipirtn Prozdur LOGISTIC REGRESSION arbitn. Für inig im Bispil sinnvoll und zulässig Ergbniss bnötign wir jdoch di für aggrgirt Datn onzipirt und pr Mnübfhl rrichbar Prozdur NOMREG: Analys > Rgrssion > Multinomial logistisch Um in inhaltlich unbdutnd, bi dr Intrprtation jdoch licht störnd Invrtirung dr Vorzichn bi dn gschätztn Rgrssionsoffizintn (im Vrglich zu dn Ergbnissn von LOGISTIC REGRESSION) zu vrhindrn, wird im NOMREG-Aufruf bi dr abhängign Variabln di Rfrnzatgori übr dn glichnamign Schaltr gändrt: 6

17 Logistisch Rgrssionsanalys mit SPSS Warum auch dr atgorial Präditor ERBE bdnnlos als Kovariat angmldt wrdn darf, wird in Abschnitt 3.3 rläutrt. Zur Dmonstration inigr mthodischr Dtails (z.b. Modllgültigitstst übr Parsons Goodnss of Fit Statisti) btrachtn wir in rduzirts Modll mit mhrfach bstztn Präditorwrtombinationn, wobi dislb Variabl DBS als Kritrium vrwndt wird, im Dsign abr ldiglich di Variabl BEWEG vrblibt: Wil dr mtrisch Rgrssor BEWEG rlativ grob gmssn ist (in 6 Stufn), rsultirt in Modll mit aggrgirbarn Datn..3 Schätzung dr Paramtr.3. Di Maimum-Lilihood-Mthod Währnd in dr linarn Rgrssionsanalys Klinst-Quadrat-Schätzr Vrwndung findn, wlch di Summ dr quadrirtn Abwichungn zwischn dn bobachttn und dn vom Modll vorhrgsagtn Wrtn minimirn, ommt in dr logistischn Rgrssionsanalys di Maimum-Liihood-Mthod zum 7

18 Logistisch Rgrssionsanalys mit SPSS Einsatz. Hir wrdn Paramtrschätzungn bstimmt, wlch di Wahrschinlichit dr bobachttn Datn untr dm paramtrisch spzifizirtn Modll maimirn. Di gmäß Modllglichung () von dn als fst ggbn anzunhmndn Rgrssorwrtn ds i-tn Falls (gsammlt im Vtor i ) und vom Paramtrvtor abhängig wahr Wahrschinlichit P(Y i = ) wrd mit i bzichnt: βi i : P( Yi ), mit βi i i... β 0 i Für in onrt Stichprobnralisation ( y, y,..., yn mit yi {0,}, i,.., N ) dr Zufallsvariabln Y i zu dn N (unabhängign!) Bobachtungn rgibt sich dann folgnd Wahrschinlichit: P( Y N y y, Y y,..., Y N y N ) i ( i ) i i y i Bobachtungn mit ralisirtr ghn mit i in das Produt in, di Bobachtungn mit ralisirtr 0 hinggn mit ( - i ). Wir rstztn di unbanntn Paramtr in durch di fri schätzbarn Wrt b m (m = 0,,..., M) im Vtor b und bzichnn mit L i (b) di Lilihood für (Y i = ) untr dr Annahm = b:... b i bi Li ( b) :, mit bi b0 b i b b i Für di gsamt Stichprob rgibt sich dann di folgnd Lilihood-Funtion: L N yi yi b : (L ( b)) ( L ( b)) (6) i i Das unmittlbar plausibl Prinzip dr Maimum-Lilihood-Schätzung bstht darin, dnjnign Vtor b zu bstimmn, wlchr di Lilihood-Funtion maimirt. Um di Such nach dm Maimum zu rlichtrn, ght man zum Logarithmus übr, was aufgrund dr Monotoni disr Funtion zulässig ist: LL( b) : ln(l( b)) N i i i i y ln( L ( b)) ( y ) ln( L ( b)) Aus dm Produt in Glichung (6) ist in Summ gwordn, was di Etrmwrtbstimmung rlichtrt, di mit inm itrativn numrischn Vrfahrn (z.b. Nwton-Raphson) vorgnommn wird. Als Ergbnis rhält man dn Vtor β ˆ (βˆ 0,βˆ,βˆ,...,βˆ m ) mit dm ML-Schätzungn dr Paramtr. Daraus rgbn sich sofort di ML-Schätzungn ˆ i dr Wahrschinlichitn P(Y i = ): ˆ i β ˆ i : Mit disr Vrinbarung önnn wir di Lilihood an dr Stll βˆ so schribn: L( βˆ) N i ˆ yi i βˆ i ( ˆ ) yi i i M i im M im (7) Es zigt sich übrigns, dass di Klinst-Quadrat-Schätzr in dr linarn Rgrssionsanalys untr dr üblichn Annahm normalvrtiltr Rsidun auch Maimum-Lilihood-Schätzr sind. 8

19 Logistisch Rgrssionsanalys mit SPSS Für das in Abschnitt. vorgstllt Bispil (Durchblutungsstörungn) lifrt LOGISTIC REGRESSI- ON nach inr ntsprchndn Auffordrung in dr Optionn-Subdialogbo das folgnd Itrationsprotooll: Nach ldiglich 6 Itrationn stllt sich in Konvrgnz allr Paramtrschätzungn auf stabil Wrt in, und das Vrfahrn stoppt. Erfrulichrwis bitt di allgmin Maimum-Lilihood-Thori (sih z.b. Rao 973) inig für uns außrordntlich nützlich Ergbniss: Übr di Matri dr zwitn partilln Ablitungn dr Log-Lilihood-Funtion an dr Stll βˆ gwinnt man in Schätzung dr Varianz-Kovarianzmatri dr Paramtrschätzr, so dass sich Konfidnzintrvall und Tsts onstruirn lassn (sih z.b. Agrsti 990, S. ff; Hosmr & Lmshow 000, S. 34ff). Di mit vormultiplizirt Log-Lilihood an dr Stll βˆ, im folgndn mit LL(ˆ β) bzichnt, spilt bi viln Signifianztsts und Goodnss-of-Fit - Indizs in wichtig Roll (sih untn). Allrdings gltn di Vrtilungsaussagn dr Maimum-Lilihood-Thori gnrll nur approimativ, d.h. für N. In Abschnitt.. findn sich Empfhlungn zur minimal rfordrlichn Stichprobngröß. In Abschnitt 4.8 bschäftign wir uns mit numrischn Schätzproblmn, di durch spzill Mustr in dn Datn vrursacht wrdn (z.b. Multiollinarität, lr Zlln bi atgorialn Präditorn)..3. Altrnativ Vrfahrn Als Mthod zur Paramtrschätzung hat sich in dr logistischn Rgrssionsanalys di Maimum- Lilihood-Mthod (ML-Mthod) witghnd durchgstzt. Wil dis vor allm auch für atull Statisti-Programmpat wi SPSS gilt, wrdn altrnativ Vrfahrn in dism Manusript nicht bhandlt (sih z.b. Hosmr & Lmshow 000, S. 43ff). Bi linn Stichprobn (sih Abschnitt..) ist di Maimum-Lilihood-Tchnologi unbfridignd, wil si nur approimativ Konfidnzintrvall zu Paramtrschätzungn und Übrschritungswahrschinlichitn zu Hypothsntsts lifrt. Währnd sich di mistn Statistiprogrammpat (wi auch SPSS) bi dr logistischn Rgrssion auf ML-Mthodn bschränn, lifrt das Programm Log- Xact (sih at Ergbniss übr in Gnralisirung von Fischrs atm Tst für 4-Fldr-Kontingnztablln (Allison 999, S. 47f). Außrdm lifrt LogXact sinnvoll Ergbniss für problmatisch Datn mit inr quasi-vollständign Trnnung (sih Abschnitt 5.3), währnd di ML-Mthod hir vrsagt. Wgn ds normn Rchnaufwands ignt sich LogXact nur für lin Stichprobn. In großn Stichprobn sind di approimativn ML-Ergbniss allrdings azptabl, und mit inr quasi-vollständign Trnnung ist aum zu rchnn. 9

20 Logistisch Rgrssionsanalys mit SPSS.4 Burtilung dr Modllgültigit Bvor di Schätz- und Tstrgbniss zum gsamtn Modll bzw. zu inzlnn Rgrssorn intrprtirt wrdn, sollt zunächst di Modllgültigit anhand von divrsn diagnostischn Informationn übrprüft wrdn. Als potntill Schwachstlln sind u.a. zu bachtn: Spzifiationsfhlr Di Logit-Modllformulirung in Glichung () ann sich als fhlrhaft rwisn. Evntull sind hir nichtlinar odr multipliativ Bzihungn angmssnr. Wi bi dr linarn Rgrssion sind auch bi dr logistischn Rgrssion di Paramtrschätzungn vrzrrt, wnn rlvant Rgrssorn im Modll fhln, di mit vorhandnn Rgrssorn orrlirt sind (omittd-variablrror, sih z.b. Balts-Götz 994, S. -3f). Ein Analys diss Problms stzt natürlich voraus, dass di potntill rlvantn Rgrssorn rfasst wordn sind. Übrflüssig Rgrssorn önnn di Vrtraunsintrvall zu Rgrssionsoffizintn und di -Fhlr von Signifianztsts vrgrößrn, spzill bi Korrlationn mit andrn Rgrssorn. Im Zusammnhang mit dr Burtilung inzlnr Rgrssorn wrdn wir und mit fhlndn und mit irrlvantn Präditorn bschäftign (sih Abschnitt.6.3). Aus dr Entschidung für di logistisch Vrtilungsfuntion zur Anpassung dr Modllprognos an dn Wrtbrich von Wahrschinlichitn rsultirn in dr Rgl in Einschränungn für di Modllgültigit (vgl. Abschnitt..5). Wr Altrnativn ausprobirn möcht, findt si in dn SPSS-Prozdurn PLUM und PROBIT. Schwächn ds Modlls bi bstimmtn Tilstichprobn Bi inr Analys dr Rsidun lassn sich Tilstichprobn idntifizirn, drn Vrhaltn vom Modll schlcht rlärt wrdn ann. Einzlfäll mit starm Einfluss auf di Schätzrgbniss Wnn inzln Fäll di Schätzrgbniss star binflussn, ist di Gnralisirbarit in Frag gstllt..4. Global Modllgültigitststs In dr Litratur zur logistischn Rgrssion sind inig Goodnss-of-Fit - Statistin vorgschlagn wordn, di global burtiln solln, wi gut in gschätzts Modll zu dn Datn passt. Dabi gibt man sich nicht mit dsriptivn Indizs zufridn, sondrn vrsucht zu Modllgültigitststs zu ommn. Bi dr Auswahl inr Goodnss-of-Fit Statisti ist unbdingt zu brücsichtign, ob Individualdatn odr aggrgirt Datn vorlign..4.. Parson- -Statisti Übr di folgnd Parson- -Statisti ann bi aggrgirtn Datn mit K mhrfach bstztn Präditorwrtombinationn in Modllgültigitstst onstruirt wrdn (sih z.b. Hosmr & Lmshow 000, S. 45): K ( ~ y h ˆ ) P : (8) h ˆ ( ˆ ) Für in mit Häufigit h ralisirt Präditorwrtombination (ngl.: covariat pattrn) wird di rwartt Häufigit h ˆ rmittlt, wobi ˆ di vom gschätztn Modll für di -t Wrtombination prognostizirt Wahrschinlichit zum Einsrrignis ist. Mit y~ soll bi aggrgirtn Datn di bobachtt Anzahl von Einsn in dr -tn Wrtombination ausgdrüct wrdn. Im Zählr ins P - Summandn stht also di quadrirt Abwichung dr bobachttn Häufigit y~ von ihrr Erwartung 0

21 Logistisch Rgrssionsanalys mit SPSS h ˆ untr dm Modll. Im Nnnr stht di gschätzt Varianz dr B( ˆ, h ) - binomialvrtiltn Variabln y~. Bi dr Wurzl aus inm P -Summandn handlt s sich offnbar um in standardisirts Rsiduum nach lassischr Bauart, das anschlißnd als Parson-Rsiduum bzichnt und mit rp notirt wrdn soll. Insgsamt nthält P di Summ dr quadrirtn Parson-Rsidun zu dn K Prädi- torwrtombinationn: K ~ y ˆ h P rp mit rp : h ˆ ( ˆ ) Altrnativ ann man di P - Statisti auch als Disrpanzmaß nach dm Mustr: (bobachtt Häufigit rwartt Häufigit) rwartt Häufigit intrprtirn, wobi übr (K) Zlln (für bid Katgorin ds Kritriums) zu summirn ist: K ( ~ K ~ K y ˆ ˆ ( ~ ˆ ˆ ˆ ~ ˆ h ) (( h y ) h ( )) y h ) ( ) ( h y ) ˆ ( ˆ h ) ( ~ ˆ ( ˆ h h ) K y ˆ h ) h ˆ ( ˆ ) Parsons- -Statisti ist bi Gültigit ds Modlls -vrtilt, wnn all rwarttn Häufigitn groß gnug sind (vgl. Abschnitt..). Di Anzahl dr Frihitsgrad bträgt K (M + ), wobi K für di Anzahl dr Präditorwrtombinationn stht und M für di Anzahl dr Dsignvariabln. Ist di Vrtilungsasymptoti azptabl, ann in Modlgültigitstst auf Basis dr Parson- -Statisti vorgnommn wrdn, dr zwischn folgndn Hypothsn ntschidt: H 0 : Das logistisch Modll gmäß Glichung () ist gültig. Di Wahrschinlichitn P(Y i = ) gnügn sinn Rstritionn. H : Das logistisch Modll ist ungültig. Sinnvollrwis stht dr Parson- -Statisti in dr SPSS-Prozdur zur binärn logischn Rgrssion, di mit Individualdatn arbitt, nicht zur Vrfügung. Bi dr multinomialn Variant ann r in dr Statistin-Subdialogbo übr das Kontrollästchn Anpassungsgüt angfordrt wrdn: P Ein nominalsalirtr Rgrssor mit s Ausprägungn wird im Dsign durch (s ) Kodirvariabln rpräsntirt (vgl. Abschnitt.7). Ein Modllgültigitstst ist nur dann möglich, wnn wnigr als K - Dsignvariabln vorhandn sind.

22 Logistisch Rgrssionsanalys mit SPSS Mit dm in Abschnitt. bschribnn Modll zur Erlärung von Durchblutungsstörungn ann in Modllgültigitstst auf Basis dr Parson-Statisti durchgführt wrdn, wil pratisch all Rgrssor- Wrtombinationn nur infach bstzt sind. Dahr btrachtn wir das rduzirt Modll mit BEWEG als inzigm (mtrischm!) Rgrssor (vgl. Abschnitt.). Trotzdm rhaltn wir von NOMREG in Warnung im Hinblic auf dn angfordrtn Modllgültigitstst: Bi inr (BEWEG DBS) - Kombination ligt di bobachtt Häufigit 0 vor. Für di Anwndbarit ds Modllgültigitstst via Parsons- -Statisti sind allrdings di rwarttn Häufigitn dr (BE- WEG DBS) - Kombinationn rlvant (sih untn). Folglich dürfn wir di Warnung ignorirn. Wir rhaltn in Parson-Statisti von,507, di bi 4 Frihitsgradn in Übrschritungswahrschinlichit von 0,643 bsitzt, und önnn das linar Modll dahr azptirn: Es lign 4 (= 6 ) Frihitsgrad vor, dnn Es sind 6 Präditorwrtombinationn (di BEWEG-Ausprägungn) vorhandn (K = 6). Das Dsign nthält inn Präditor (M = ).

23 Logistisch Rgrssionsanalys mit SPSS Wr di Brchnung dr Parson- -Statisti nachvollzihn und di rwarttn Häufigitn ontrollirn möcht, ann in dr NOMREG-Subdialogbo Statisti übr das Kontrollästchn Zllwahrschinlichitn di folgnd Tabll mit dn bobachttn und prognostizirtn Häufigit sowi dn Parson-Rsidun anfordrn: Di Summ dr quadrirtn Parson-Rsidun zu dn 6 Präditorwrtombinationn rgibt dn Indwrt:,66 +0,6 +0, , ,75 + 0,79,5 Nach Forml (8) habn wir di K quadrirtn Parson-Rsidun zu dn Einsratgorin zu addirn. Dass di Parson-Rsidun zu dn Null-Katgorin grad dn ngativn Wrt -rp annhmn, rgibt sich sofort: ( h ~ y ) h ( ˆ ) ~ y h ˆ rp h ˆ ( ˆ ) h ˆ ( ˆ ) In zwi Zlln (BEWEG =, DBS = 0 bzw. BEWEG = 6, DBS = ) ist di rwartt Häufigit shr lin (0,34 bzw. 0,575), so dass di Intrprtirbarit ds Modllgültigitststs nach dr Empfhlung aus Abschnitt.. twas fraglich ist..4.. Dvianz-Statisti Für aggrgirt Datn ann auch di Dvianz-Statisti als GFI-Ind (Goodnss of Fit) und Basis für inn Modlgültigitstst vrwndt wrdn. Hir vrglicht man di maimal Lilihood dr Datn untr dm btrachttn Modl mit dr Lilihood L S ds saturirtn Modlls, das für jd Präditorwrtombination in ign Einsrwahrschinlichit rlaubt, wlch übr di rlativ Häufigit gschätzt wird. Mit dn Bzichnungn wi in dn Abschnittn.3. und.4.. gilt für di Lilihood ds paramtrisch spzifizirtn Modlls: L( βˆ) N i ˆ yi i ( ˆ ) yi i Di Lilihood L S ds saturirtn Modlls ist dfinirt durch: K ˆ ~ y ( ˆ ) h ~ y 3

24 Logistisch Rgrssionsanalys mit SPSS L S : Di folgndrmaßn dfinirt Dvianz D: K ~ y h ~ y h ~ y h L(ˆ) D : ln L S ist bi Gültigit ds Modlls approimativ -vrtilt mit K (M + ) Frihitsgradn. Dis folgt aus gnrlln Thormn übr Lilihood-Quotintn, di wir noch mhrfach ausnutzn wrdn (vgl. Abschnitt.5.). Wi di in Abschnitt.4.. nthaltn SPSS-Tabll Güt dr Anpassung zigt, rricht das DBS- Partialmodll mit dm inzign Rgrssor BEWEG in Dvianz (dutsch: Abwichung) von,53, so dass bi 4 Frihitsgradn in Übrschritungswahrschinlichit von 0,639 rsultirt. Folglich ann di Nullhypoths (also das Modll) bibhaltn wrdn. Auch dr Modllgültigitstst pr Dvianz-Statisti ist nur bi aggrgirtn Datn mit mhrfach bstztn Rgrssor-Wrtombinationn anwndbar, hat also dislbn Vorausstzungn wi dr im ltztn Abschnitt bschribn Parson-Anpassungstst. Nach dn Ergbnissn von Stlzl (000) ist di Parson- Variant in dr Rgl aufgrund dr bssrn Vrtilungsapproimation zu bvorzugn. Bid GFI-Statistin bzw. Modllgültigitststs önnn in dr Statistin-Subdialogbo dr SPSS- Prozdur NOMREG übr das Kontrollästchn Anpassungsgüt angfordrt wrdn (sih Abschnitt.4..). h ~ y.4..3 Hosmr-Lmshow - Statisti Für Individualdatn mit übrwignd nur infach bstztn Rgrssor-Wrtombinationn schlagn Hosmr & Lmshow (000, S. 47f) vor, aufgrund dr prognostizirtn Wahrschinlichitn L (z.b. 0) annährnd glich star bstzt Gruppn zu bildn und dann analog zur Parson- -Statisti rwartt und bobachtt Häufigitn zu vrglichn. Wnn mit l das arithmtisch Mittl dr prognostizirtn Wahrschinlichitn zu alln Fälln in dr l-tn Grupp bzichnt wird, lässt sich di Hosmr-Lmshow Goodnss-of-Fit Statisti so notirn: L ( l ll ~ y h ) HL : h ( ) l Analog zu Forml (8) stht h l für di Anzahl dr Fäll in Grupp l und y~ l für di hir bobachtt Anzahl von Einsn, wobi jdoch di Gruppn dismal nicht übr Präditorwrtombinationn fstglgt sind, sondrn übr Intrvall bzgl. dr prognostizirtn Wahrschinlichitn. Analog zu dr in Abschnitt.4.. vorgführtn Umstllung ann man auch HL so notirn, dass Disrpanzbiträg aus L Zlln zu addirn sind: L L L ( ~ yl hl l ) ( l l l hl yl hl l ~ y h ) (( ~ ) ( )) h ( ) h h ( ) l l l l l l l Bi unsrm Durchblutungsbispil mit dm in Abschnitt. bschribnn Präditornsatz (jdoch noch ohn RAUCHER) wrdn di 00 Fäll nach dr prognostizirtn Einsrwahrschinlichit in 0 at glich star bstzt Gruppn aufgtilt, all h l sind also glich 0. l l l l l l 4

25 Logistisch Rgrssionsanalys mit SPSS Durch Kruzn disr Auftilungsvariabln mit dm dichotomn Kritrium ntsthn 0 Zlln mit folgndn rwarttn Häufigitn: h für di Ja-Variantn l l l ( l h ) für di Nin-Variantn In jdr Zll wird di Diffrnz Bobachtung Erwartung quadrirt und durch di Erwartung dividirt. Übr all 0 Zlln summirt rgibt sich di Hosmr-Lmshow Goodnss-of-Fit Statisti. Mit Hilf von Simulationn habn Hosmr & Lmshow rmittlt, dass HL bi orrtm Modl inr Vrtilung mit L Frihitsgradn folgt, sofrn all Präditorwrtombinationn nur infach bstzt sind. Di Autorn vrmutn, dass di Approimation auch dann noch vrlässlich ist, wnn nur wnig Kombinationn mhrfach auftrtn. SPSS bitt dn Hosmr-Lmshow Modlgültigitstst in dr Prozdur zur binärn logistischn Rgrssion, anzufordrn in dr Optionn-Subdialogbo: 5

26 Logistisch Rgrssionsanalys mit SPSS Im DBS-Bispil lifrt dr Tst zur HL -Statisti inn Anlass, di Modllgültigit zu bzwifln:.4. Untrsuchung von Rsidun und Einflussindiatorn.4.. Rsidundiagnosti Anhand von Rsidun ann man loal Anpassungsschwächn ins Modlls aufspürn. Lidr ist di Rsidundiagnosti bi dr logistischn Rgrssion mit inign Schwirigitn blastt (z.b. im Vrglich zur linarn Rgrssionsanalys). Insbsondr gltn di Individualrsidun als problmatisch, so dass mist mpfohln wird, di Rsidun für Präditorwrtombinationn (covariat pattrns) zu btrachtn (sih z.b. Hosmr & Lmshow 000, S. 70; Ryan 997, S. 84). Zudm solltn di inzlnn Wrtombinationn mit adäquatr Häufigit in dr Stichprob vrtrtn sin, was in Abhängigit von dr Stichprobngröß, Anzahl dr Rgrssorn und Mssgnauigit vntull aum zu ralisirn ist. In unsrr Stichprob (N = 00) trtn durch di rlativ gnau gmssnn Rgrssorn ABWIG (in g) und DRUCK (in mm/hg) aum mhrfach bstzt Wrtombinationn auf. Ein tchnischs Problm bstht zudm darin, dass SPSS nur Individualrsidun produzirt, so dass man di Rsidun zu Präditorwrtombinationn twas aufwändig (z.b. pr Aggrgation, sih untn) rmittln muss. Fallbzogn ann SPSS tlich Rsidualvariantn rzugn, wobi di BLR-Prozdur in dr Spichrn-Subdialogbo ntsprchnd Wünsch ntggn nimmt: In dism Manusript wrdn nur di Parson- und di Dvianz-Rsidun brücsichtigt, di in ngr Bzihung zu brits disutirtn Goodnss-of-Fit Statistin sthn (sih Abschnitt.4.) und in obigr SPSS-Dialogbo untr dn Bzichnungn Standardisirt bzw. Abwichung zu findn sind Dvianz-Rsidun Di in Abschnitt.4.. vorgstllt Dvianz-Statisti lässt sich als Summ von Biträgn dr K Präditorwrtombinationn schribn, sofrn all Einsrhäufigitn y~ größr 0 und linr als h sind: 6

27 ln K K ~ y Logistisch Rgrssionsanalys mit SPSS L(ˆ) L S D ln ln LS L(ˆ) ~ y ˆ h ~ y ln ˆ h ~ y h ~ y h ( ˆ ( h ) h ~ y h ~ y ~ y ) ln h ( ˆ ) falls 0 ~ y Wi in Abschnitt.4.. bdutn (jwils für di -t Präditorwrtombination): h Gruppnstär ˆ vom Modll prognostizirt Einsrwahrschinlichit y~ bobachtt Anzahl von Einsn Di Wurzl ds -tn Summandn, vrshn mit dm Vorzichn von ( ~ y h ˆ ), bzichnt man als Dvianzrsiduum rd zur -tn Präditorwrtombination (sih z.b. Hosmr & Lmshow 000, S. 46). Es gilt trivialrwis: D K Bi dr Dfinition ds Dvianzrsiduums rd i für inn Einzlfall muss man di Gruppnforml modifizirn, um das ungültig Logarithmus-Argumnt 0 zu vrmidn: rd i : ln(ˆ ) rd ln( ˆ ) i i für für y 0 i y Mit disr Dfinition arbitt di BLR-Prozdur in SPSS, wnn Abwichungs-Rsidun angfordrt wrdn. Di Summ dr quadrirtn Dvianz-Individualrsidun rgibt übrigns grad LL(βˆ ) (vgl. Abschnitt.3.): N i rd i LL(ˆ) Aus dism Grund wird di Größ LL(βˆ ) aus dr logistischn Rgrssion oft mit dr Fhlrquadratsumm aus dr linarn Rgrssion vrglichn (sih Abschnitt.5.). Bi Individualdatn orrlirn di Dvianzrsidun hoch mit dn Parson-Rsidun (z.b. 0,9 im omplttn DBS-Modll) und zign dahr im Wsntlichn dasslb Vrhaltn. Dahr önnn wir uns anschlißnd auf in Disussion dr Parson-Rsidun bschränn. i h 7

28 Logistisch Rgrssionsanalys mit SPSS.4... Parson-Rsidun Das Parson-Rsiduum für di -t Präditorwrtombination ist dfinirt durch: ~ y ˆ h rp : (9) h ˆ ( ˆ ) Folglich ist di in Abschnitt.4.. vorgstllt Parson- -Statisti grad di Summ dr quadrirtn Parson-Rsidun zu alln Präditorwrtombinationn. Das Parson-Rsiduum für inn Einzlfall rgibt sich aus Forml 9 als Spzialfall mit Häufigit : y ˆ i i rpi : ˆ ( ˆ ) Es wird in SPSS als standardisirts Rsiduum bzichnt und nthält im Zählr di B( ˆ i, ) binomialvrtilt Zufallsvariabl y i, di durch Subtrahirn ihrr modlgmäßn Erwartung ˆ i zntrirt wird im Nnnr di gschätzt Standardabwichung von y i Ein analog Standardisirung ist auch in dr Gruppnforml nthaltn, so dass all Parson-Rsidun bi gültigm Modll approimativ dn Erwartungswrt 0 und di Varianz habn. i i Untrsuchung von Individualrsidun Als Blg für di obn rwähnt Übrlgnhit dr Gruppnrsidun wolln wir btrachtn, wi sich di bidn Variantn ds Parson-Rsiduums vrhaltn, wnn all Fäll in inr Präditorwrtombination dn slbn Kritriumswrt 0 rrichn (vgl. Hosmr & Lmshow 000, S. 70). Für di Individualrsidun gilt dann: rp i ˆ i ˆ ( ˆ ) i i ˆ i ˆ i Das Rsiduum zur Grupp ist btragsmäßig um dn Fator h größr: rp h ˆ h ˆ ( ˆ ) h ˆ ˆ Wnn z.b. bi inr prognostizirtn Wahrschinlichit von 0,5 all 9 Fäll inr Präditorwrtombination zur Nullatgori ds Kritriums ghörn, ann man von inm loaln Anpassungsproblm ds Modlls ausghn. Währnd diss Problm im Gruppnrsiduum von -3 dutlich zum Ausdruc ommt (3 Standardabwichungn vom Mittlwrt ntfrnt), zign all 9 Individual-Rsidun dn unauffällign Wrt -. Für di von LOGISTIC REGRESSION aufgrund dr obign Spichrn-Subdialogbo (sih Anschnitt.4..) in dr Arbitsdati rzugtn Variabln PRE_ und ZRE_ mit dn Modllprognosn bzw. Parson-Individualrsidun zum DBS-Modll (ohn dn Präditor RAUCHER) ann man z.b. übr dn folgndn Mnübfhl Diagramm > Vraltt Dialogfldr > Stru-/Punt-Diagramm > Einfach Das Parson-Gruppnrsiduum ist gnrll idntisch mit dm h - fachn ds mittlrn Individualrsiduums. 8

29 Logistisch Rgrssionsanalys mit SPSS in Strudiagramm anfordrn. Es untrschidt sich star von analogn Diagrammn aus inr linarn Rgrssionsanalys: Das prägnant Mustr ntstht, wil für all Fäll mit inr bstimmtn prognostizirtn Wahrschinlichit nur zwi Bobachtungswrt (0 odr ) und infolgdssn auch nur zwi Rsidualwrt auftrtn önnn. Trotz disr Bsondrhitn müssn auch di individulln Parson-Rsidun aus dr binärn logistischn Rgrssion bi gültigm Modll für jd Modllprognos inn Mittlwrt von Null bsitzn, d.h. di Funtion dr bdingtn Erwartungn muss annährnd onstant in dr Höh Null vrlaufn (Fo & Wisbrg 0, S. 30). Um dis Fordrung graphisch burtiln zu önnn, wurd in Anpassungslini ingzichnt und durch Zuwisung dr Anpassungsmthod Loss (locally stimatd scattrplot smoothing) stücwis optimal an di Datn angpasst. Dis Anpassungslini zigt in nnnnswrtn Abwichungn von dr rwarttn Gradn. Auch in dn Strudiagrammn dr Parson-Individualrsidun mit jwils inm inzlnn mtrischn Präditor sollt di Loss-Anpassungslin nicht wsntlich vom waagrchtn Vrlauf in dr Höh Null abwichn. Wir rhaltn di folgndn Diagramm: 9

30 Logistisch Rgrssionsanalys mit SPSS Bim atgorialn Präditor ERBE ist in Boplot gignt, um das Vrhaltn dr Parson-Rsidun zu bschribn: Wr bi dn mtrischn Präditorn inn Signifianztst zur Burtilung auf Anpassungsschwächn ds BLR-Modlls bvorzugt, ann übr dn Mnübfhl Analysirn > Rgrssion > Kurvnanpassung für di Rgrssion dr Parson-Rsidun auf dn fraglichn Präditor in linars, quadratischs und ubischs Modll rprobn, z.b.: 30

31 Logistisch Rgrssionsanalys mit SPSS Untrsuchung von Gruppnrsidun Zum rduzirtn DBS-Modll (mit BEWEG als inzigm Präditor) ann di Prozdur NOMREG di Parson-Rsidun dr Gruppn in inr Tabll ausgbn (wählbar übr das Kontrollästchn Zllwahrschinlichitn in dr Statistin-Subdialogbo): Bi hinrichnd star bstztn Präditorwrtombinationn folgn di standardisirtn Gruppnrsidun ins gültign Modlls approimativ inr Standardnormalvrtilung, so dass man durch Vrglich mit dn Przntiln disr Vrtilung loal Anpassungsdfizit aufdcn ann. Im Bispil sind di Bträg allr Rsidun dutlich linr als das 97,5 - Przntil dr Standardnormalvrtilung (,96): Mit twas Handarbit lässt sich im Bispil auch in Strudiagramm mit dn Parson-Rsidun und dn mittlrn Prognoswrtn dr BEWEG-Gruppn rstlln: Man lässt di gschätztn Zughörigitswahrschinlichitn zu dn Kritriumsatgorin in nu Variabln dr Arbitsdati sichrn, z.b. übr das Kontrollästchn Gschätzt Wahrschinlichitn für abhängig Variabl in dr NOMREG-Subdialogbo Spichrn. Di vorgschlagn Schrittfolg lässt sich mit dr folgndn SPSS-Synta automatisirn: NOMREG dbs WITH bwg /SAVE ESTPROB. AGGREGATE /OUTFILE=* /BREAK=bwg /prd = MEAN(st_) /y = SUM(dbs) /h=n. COMPUTE rsid = (y prd * h)/sqrt(h*prd*( prd)). GRAPH /SCATTERPLOT(BIVAR)=prd WITH rsid. Bachtn Si bitt, dass di von NOMREG rstlltn Variabln mit dn Zllwahrschinlichitn (im Programm bnötigt: EST_) bi jdm Aufruf innrhalb inr Sitzung nu Namn rhaltn. 3

32 Logistisch Rgrssionsanalys mit SPSS Man aggrgirt di Datn mit dr Bra-Variabln BEWEG. Man rmittlt di Parson-Rsidun pr COMPUTE Kommando gmäß Forml (9). Man rstllt in Strudiagramm. Erwartungsgmäß zign sich im Diagramm in prägnantn Abwichungn vom rwünschtn Mustr inr diffusn Struung dr Parson-Rsidun um di Paralll zur X-Achs mit Ordinatnabschnitt 0: Ausrißr-Diagnos übr Individualrsidun Trotz dr obn disutirtn Schwächn von Individualrsidun ann s sich lohnn, di trmn Emplar disr Gattung zu inspizirn. So lrnt man z.b. Fäll nnn, bi dnn trotz shr hohr prognostizirtr Wahrschinlichit das Einsrrignis nicht aufgtrtn ist. Es ist dann zu prüfn, ob in Modllschwäch odr in Bsondrhit bi Einzlfälln vorligt. Di BLR-Prozdur von SPSS bitt in dr Optionn Subdialogbo di Fallwis Auflistung dr Rsidun an, wobi man sich auf Ausrißr (btragsmäßig trm Wrt) bschränn ann: In unsrm DBS-Bispil (mit alln Präditorn außr RAUCHER) rsultirt di folgnd Tabll: 3

33 Logistisch Rgrssionsanalys mit SPSS Di Anzahl dr trmn Wrt bwgt sich im normaln Rahmn: Von 00 Fälln rrichn nur 7 in standardisirts Rsiduum im zwisitign 5%-Ablhungsbrich dr Standardnormalvrtilung (Btrag >,96). Folglich bstht in Anlass, inzln Fäll als Ausrißr auszuschlißn. Hir handlt s sich zuggbnrmaßn um in unsaubr Argumntation, wil nach obign Übrlgungn di Normalvrtilungsthori zur Burtilung dr standardisirtn Individualrsidun aum gnutzt wrdn ann. Bim Fall Nr. 8 mit dm trmn Parson-Rsiduum von 5,64 zigt sich di Ungrchtigit ds Psudozufallszahlngnrators. Dr Fall ist von Durchblutungsstörungn btroffn, obwohl sin Präditorwrt für in shr grings Risio von 0,03 sprchn: g Untrgwicht, übrdurchschnittlich Bwgung (Wrt 4 von 6), shr nidrigr Blutdruc von 60 mm/hg, durchschnittlichr Strss (3 von 6), in rblich Blastung. Es zigt sich, dass auch bi inm gültign Modll durch purn Zufall in trms Rsiduum auftrtn ann Trnnwrt-Optimirung pr Rsidun-Diagramm Am End dr Ausführungn zur Rsidualdiagnosti soll noch darauf hingwisn wrdn, dass man dn Plot dr infachn (nicht standardisirtn) Rsidun ggn di prognostizirtn Wahrschinlichitn auch zur Bstimmung ins optimaln Trnnwrts für di Prognos dr Kritriumsgruppnzughörigit vrwndn ann (vgl. Abschnitt.5.3). In dr Prozdur zur binärn logistischn Rgrssion fordrt man di bnötigtn Variabln pr Spichrn-Subdialogbo an: 33

34 Logistisch Rgrssionsanalys mit SPSS Mit dn (z.b. bi dr rstn Modllirung innrhalb inr Sitzung als PRE_ bzw. RES_ bzichntn) Variabln rstllt man in Strudiagramm, z.b. übr: Diagramm > Vraltt Dialogfldr > Stru-/Punt-Diagramm > Einfach Bim folgndn Emplar wurd übr das Optionn-Mnü ds Diagramm-Editors in Bzugslini für di -Achs rgänzt: Lins obn (Rsiduum > 0,5; Prognos falsch ngativ) sowi rchts untn (Rsiduum < -0,5; Prognos falsch positiv) bfindn sich di vom Modll übr dn Trnnwrt 0,5 falsch lassifizirtn Fäll..4.. Einflussrich Fäll Oft habn Ausrißr (Fäll mit btragsmäßig großn Individualrsidun) inn übrdurchschnittlichn Einfluss auf di Paramtrschätzungn. Allrdings ann in großr Einfluss auch durch trm Präditorwrt zustand ommn, und nicht jdr influssrich Fall muss auch als Ausrißr in Erschinung trtn. Er ann di Schätzungn so in sinm Sinn binflussn, dass sin Rsiduum unauffällig blibt. Dahr muss bi jdr Analys nbn dr Ausrißr-Diagnosti auch in Kontroll auf Fäll mit ungbührlichm Einfluss auf di Schätzrgbniss vorgnommn wrdn. Mit zunhmndr Stichprobngröß wird s allrdings unwahrschinlichr, dass inzln Fäll das Ergbnis dominirn. SPSS bitt in dr BLR-Prozdur inig Maß an, di dn Einfluss ins Falls auf di Paramtrschätzungn quantifizirn solln. Si sind wi di Rsidun in dr Spichrn-Subdialogbo anzufordrn: 34

35 Logistisch Rgrssionsanalys mit SPSS In folgndm Diagramm sind Coo s Distanzn aus dm DBS-Bispil (mit alln Präditorn außr RAUCHER) in Abhängigit von dr Modllprognos zu shn: SPSS spichrt dis Informationn aufgrund dr abgbildtn Dialogbo in dr nun Variabln COO_. All Fäll haltn inn großn Abstand zum ritischn Wrt, dn Hosmr & Lmshow (000, S. 80) nnnn. 35

36 .5 Burtilung dr Modllrlvanz Logistisch Rgrssionsanalys mit SPSS.5. Dr Lilihood-Quotintntst zur globaln Nullhypoths Bi dr logistischn Rgrssion wrdn di Paramtr m in dr Rgl nach dm Maimum-Lilihood- Prinzip gschätzt, d.h. di Schätzr βˆ m wrdn so bstimmt, dass di Lilihood (Wahrschinlichit) dr Stichprobndatn untr dm paramtrisch spzifizirtn Modll maimal wird (vgl. Abschnitt.3.). Für vil Aussagn ist di Lilihood allrdings wnigr gignt als di mit - vormultiplizirt, logarithmirt Variant (Bzichnung: -LL). J bssr in Modll zu dn Datn passt, dsto größr wird sin Lilihood, und dsto linr folglich di Größ -LL, di somit als Fhlrmaß aufgfasst wrdn ann. Di LL - Statistin taugn vor allm zum Vrglich vrschidnr Modll, di in inr bstimmtn Spzialisirungs- bzw. Gnralisirungsbzihung zuinandr sthn. Zur Konurrnz sthn dabi: Ein uningschränts, als gültig azptirts Modll Ein ingschräntn Modll, das sich aus dm uningschräntn Modll durch Strichn von Paramtrn, also durch zusätzlich Rstritionn, rgibt Wnn in disr Situation auch das ingschränt Modll gilt, dann folgt di Diffrnz zwischn dm -LL - Wrt ds ingschräntn Modlls (-LL(E)) und dm LL - Wrt ds uningschräntn Modlls (-LL(U)) bi hinrichnd großr Stichprob (sih Abschnitt..) inr -Vrtilung, wobi df di Anzahl dr gstrichnn Paramtr ist. Damit taugt di -LL Diffrnz als Prüfstatisti für inn Signifianztst zum Hypothsnpaar: H 0 : Das ingschränt Modll ist gültig, d.h. di gstrichnn Paramtr sind all glich 0. H : Das ingschränt Modll ist falsch, d.h. mindstns in gstrichnr Paramtr ist von 0 vrschidn. Drart onstruirt Tsts arbitn nach dm so gnanntn Lilihood-Quotintn Prinzip (ngl.: lilihood ratio). Dass s sich bi dr Diffrnz -LL(E) (-LL(U)) tatsächlich um inn logarithmirtn und anschlißnd mit - multiplizirtn Lilihood-Quotintn handlt, lässt sich mit Hilf dr Rchnrgln für dn Logarithmus zign: L( E) ln U L( U ) ln(l( E)) ln(l( U ) LL( E) ( LL( )) Bi dr Konstrution ins globaln Modlltsts nach dm Lilihood-Quotintn-Prinzip sind folgnd Modll bzw. -LL Ausdrüc btiligt: Bim uningschräntn Modll handlt s sich hir um das vollständig Modll, dssn logarithmirt Lilihood wir mit LL( βˆ ) bzichnn. Bim ingschräntn Modll handlt s sich um das so gnannt Basismodll mit dm onstantn Trm als inzigm Paramtr. Di logarithmirt Lilihood ds Basismodlls soll mit LL(0) bzichnt wrdn. Nach obign Übrlgungn rlaubt di Diffrnz -LL(0) ( LL(βˆ ) ) inn Tst dr folgndn globaln Nullhypoths: : 0 (0) H0 M Offnbar ntspricht disr Tst dm globaln F-Tst in dr linarn Rgrssionsanalys. Für unsr DBS-Bispil (mit alln Präditorn außr RAUCHER) rgibt sich in Prüfgröß von 5,54, di mit inr shr linn Übrschritungswahrschinlichit vrbundn ist, so dass di global df 36

37 Logistisch Rgrssionsanalys mit SPSS Nullhypoths lar schitrt. Das Ergbnis rschint in dr folgndn Tabll aus dr BLR-Ausgab glich drimal, wil all Rgrssorn simultan in das Modll aufgnommn wurdn: Dn LL Wrt ds vollständign Modlls rfahrn wir in folgndr Tabll: Dn LL Wrt ds Basismodlls (= 76,939) lifrt di BLR-Prozdur übr das Itrationsprotooll (Anfordrung via Optionn-Subdialogbo) zum Anfangsbloc: Manch Autorn shn folgnd Entsprchungn zwischn dn LL Wrtn dr logistischn Rgrssion und dn Quadratsummn dr linarn Rgrssion: Logistisch Rgrssion Linar Rgrssion -LL(Basismodll) Total Quadratsumm (SST) -LL(Vollständigs Modll) Fhlrquadratsumm (SSE) (sih Abschnitt.4...) -LL(Basismodll) (-LL(Vollständigs Modll)) Aufglärt Quadratsumm (SSR).5. Psudo-R -Statistin In dr obn widrggbnn Tabll Modllzusammnfassung präsntirt di SPSS-Prozdur zur binärn logistischn Rgrssion auch zwi Maßzahln, di in Analogi zum Dtrminationsoffizintn (R ) dr linarn Rgrssion dn Antil dr vom BLR-Modll rlärtn Kritriumsvarianz schätzn solln: 37

38 Gnralisirts R nach Co & Snll Logistisch Rgrssionsanalys mit SPSS Di von Co & Snll (989) vorgschlagn R -Variant ist folgndrmaßn dfinirt: R cs L(0) : L(ˆ) cs Dabi ist L(0) di Lilihood ds Basismodlls und L( ˆ) di Lilihood ds Modlls mit dn gschätztn Koffizintn. R basirt unmittlbar auf dr -Prüfgröß -LL(0) ( LL(βˆ ) ) für dn globaln Modlltst (vgl. Abschnitt.5.): LL(0) ( LL(ˆ)) p(ll(0)) L(0) p R p(ll(ˆ)) L(ˆ) N Auch das lassisch R dr linarn Rgrssionsanalys bsitzt in Darstllung wi im linn Trm. Zudm ann R cs für jds pr Maimum-Lilihood gschätzt Rgrssionsmodll brchnt wrdn und vrdint dahr di Bzichnung gnralisirts R. Da L( ˆ) als Produt von Wahrschinlichitn nach obn durch dn Wrt bschränt ist, ann maimal dn Wrt R cs : L(0) ma rrichn. Im Nullhypothsnmodll ist für jdn Fall di Modllprognos grad mit dm Stichprobnantil dr Einsn idntisch, dr mit ˆ bzichnt wrdn soll. Damit gilt: Bi ˆ = 0,5 rsultirt z.b. in maimals R csma ˆ ˆ ˆ N ˆ R cs von 0,75. N (- ˆ) (- ˆ) Psudo-R nach Naglr Um dn gwohntn R -Wrtbrich von 0 bis zu rhaltn, hat Naglr (99) di folgnd Dfinition vorgschlagn: R R N : R cs csma N N-ˆ N -ˆ N N N cs R cs Psudo-R nach McFaddn In dr Prozdur zur multinomialn logistischn Rgrssion lifrt SPSS auch di R -Variant nach Mc- Faddn: R M LL(ˆ) : LL(0) Vrwndt man di am End von Abschnitt.5. angführtn Analogin zwischn dn Quadratsummn dr linarn Rgrssion und bstimmtn -LL Statistin dr logistischn Rgrssion, dann hat McFaddns Maß in Darstllung, di auch für dn Dtrminationsoffizintn dr linarn Rgrssion gilt: 38

39 Logistisch Rgrssionsanalys mit SPSS SSE SST Für unsr DBS-Modll (mit alln Präditorn bis auf RAUCHER) lifrt di NOMREG-Prozdur nach inm Aufruf mit dr in Abschnitt. bschribnn Dialogbo: Di Psudo-R -Maß önnn sowohl aus Individualdatn als auch (mit idntischm Ergbnis) aus aggrgirtn Datn brchnt wrdn. In dr Ausgab dr Prozdur LOGIST REGRESSION, di schon in Abschnitt.5. zu shn war, fhlt dr Ind von McFaddn. Bi vrglichbarn Modlln falln di Psudo-R -Maß mist gringr aus als dr Dtrminationsoffizint dr linarn Rgrssionsanalys (Norušis 005, S. 38), so dass z.b. bim R M von McFaddn Wrt zwischn 0, und 0,4 als shr rfolgrich gltn (Tabachni & Fidll 007, S. 460). Bi dn Psudo-R -Maßn dr logistischn Rgrssion fhlt in Korrtur analog zum adjustirtn R dr linarn Rgrssion. Si wachsn also grundsätzlich mit dr Anzahl dr Präditorn..5.3 Präditiv Effizinz Oft sind bi inm Forschungsprojt nicht nur thortisch Übrlgungn von Bdutung, sondrn auch diagnostisch Aufgabn. Dann sollt in ntwiclts Modll auch nach sinr Klassifiationslistung burtilt wrdn. Di Rat orrtr Klassifiationn (Corrct Classification Rat) ist oft wichtigr als di Psudo-R -Maß, und s ann in bidn Disziplinn zu rcht untrschidlichn Bwrtungn ins Modlls ommn Di Klassifiationstabll Di logistisch Rgrssion lifrt gmäß Modllglichung () für jdn Fall in Schätzung ˆ i für di Wahrschinlichit, zur Einsrgrupp zu ghörn. Es ligt nah, di Fäll aufgrund ihrr ˆ i -Wrt wi folgt zu lassifizirn: 0,5 Grupp 0 ˆ i () 0,5 Grupp Nun ann durch Vrglich mit dn tatsächlichn Gruppnzughörigitn di Klassifiationslistung ins Modlls burtilt wrdn. Unsr ggnwärtigs DBS-Modll schnidt folgndrmaßn ab: 39

40 Logistisch Rgrssionsanalys mit SPSS Di Fäll aus Grupp 0 (in Durchblutungsstörungn diagnostizirt) wrdn zu 79,% richtig lassifizirt, di Fäll aus Grupp zu 83,7%. Insgsamt wrdn 8,5% allr Fäll von unsrm Modll richtig ingordnt. Dis Trffrrat ist zu vrglichn mit dr Listung ds Basismodlls (ohn Präditorn), das jdn Fall unbshn in di stärr bstzt Grupp 0 inordnt, was bi unsrn Datn zu inr Trffrrat von 5,0 % führn würd. Bi dr Arbit mit solchn Klassifiationstablln, di auch bi Disriminanzanalysn grn vrwndt wrdn, ist gnrll zu bdnn, dass di Trffrratn in dr Stichprob, aus dr das Modll stammt, übrschätzt wrdn. Einn ralistischn Eindruc vrmittlt nur di Kruzvalidirung ds Modlls anhand inr unabhängign Stichprob. SPSS rmöglicht di Auswahl inr Tilstichprob zur Modllgwinnung, so dass di ausgschlossnn Fäll für in cht Kruzvalidirung zur Vrfügung sthn: Bi dn folgndn Kruzvalidirungsrgbnissn wurd di Zughörigit zur Schätzstichprob (Antil ca. 7%) bzw. zur Kruzvalidirungsstichprob (Antil ca. 8%) übr di Variabl AUSWAHL gsturt: Di in dr Kruzvalidirungsstichprob nur gringfügig rduzirt Trffrrat spricht für di diagnostisch Tauglichit ds Modlls Klassifiationsdiagramm Im folgndn Klassifiationsdiagramm wrdn di bobachttn Gruppnzughörigitn y i in Abhängigit von dr gschätztn Wahrschinlichit ˆ i dargstllt. Daraus lässt sich z.b. ablsn, ob di falsch ngativn Klassifiationn (in vorhandn Durchblutungsstörung wird nicht prognostizirt) 40

41 Logistisch Rgrssionsanalys mit SPSS übrwignd bi nappn Entschidungn ( ˆ i nah 0,5) aufgtrtn sind. Wi wir brits aus Abschnitt wissn, hat s in unsrr Stichprob allrdings inn Fall (Nr. 8) rwischt, dm das Modll in shr lins Risio (0,03) zugordnt hatt. Obsrvd Groups and Prdictd Probabilitis 6 F R E Q U J J E 8 J J N N J J C N J J Y N N N J J J 4 NNNJ N JN J J J J J J JJJ NNNN N N NJ NN JN J N JJ N J J J JJ J JJ J JJJ NNNN NJN NNNNN NNNN J N N N NJ J N NJ J JJ JN JJ JJ JJ JJ JJ JJJJJJ JJJJJJJJ NNNNN NNNNNNNNNNJNNNN N N NNNN NNN JNNNNNJ JJJNN NNNNJJNJJJ NNNNJ NJ JJ JJNN NJJJNNJJNJNJJJJJJJJJ Prdictd Prob: 0,,,3,4,5,6,7,8,9 Group: NNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNNJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJJ Prdictd Probability is of Mmbrship for Ja Th Cut Valu is,50 Symbols: N Nin J Ja Each Symbol Rprsnts Cas. Aufgrund ins solchn Plots önnt man di Standardlassifiationsrgl in Forml () so abändrn, dass vor allm di mit höhrn Kostn vrbundn Fhldiagnos vrmidn wird. Für dnslbn Zwc ann man auch dn Plot dr infachn (nicht standardisirtn) Rsidun ggn di prognostizirtn Wahrschinlichitn vrwndn (sih Abschnitt.4..). In dr SPSS-Prozdur zur binärn logistischn Rgrssion wird das Klassifiationsdiagramm in dr Optionn-Subdialogbo angfordrt: Hir ann man auch dn Klassifiationsschwllnwrt ändrn. 4

42 .6 Burtilung dr inzlnn Rgrssorn Logistisch Rgrssionsanalys mit SPSS.6. Rgrssionsoffizintn und Efftgrößn Für unsr ggnwärtigs DBS-Modll lifrt SPSS folgnd Schätzrgbniss: Wir rfahrn z.b. übr dn Rgrssor ABWIG, dass bi inr Erhöhung um in Einhit ( g) das logarithmirt Wahrschinlichitsvrhältnis (sih Glichung ()) um 0,063 anstigt. Rchts nbn dn gschätztn Koffizintn sthn di zughörign Standardfhlr. Bi dr Intrprtation ins Rgrssionsoffizintn ist sin Salirung bzw. Maßinhit zu brücsichtign. In dr obign Tabll vrmisst man in zum standardisirtn Rgrssionsoffizintn (Bta- Gwicht) dr linarn Rgrssion analog Statisti. Mnard (995, S. 46) brichtt übr ntsprchnd Dfinitionsvorschläg und bschribt auch, wi man dis standardisirtn Koffizintn in SPSS (mit inigm Aufwand) zu brchnn sind. Wnn s nur darum ght, di Biträg dr mtrischn Rgrssorn vrglichbar zu machn, ann man dis Rgrssorn vor dr Analys standardisirn, was z.b. Tabachni und Fidll (007, S. 469) vorschlagn. Wil bim Kritrium in Standardisirung stattfindt, rhält man allrdings in Koffizintn im Variationsbrich von Bta-Gwichtn. Außrdm wird z.b. bim Standardisirn dr Variabln DRUCK di Maßinhit mm/hg rstzt durch DRUCK-Standardabwichung in dr btrachttn Stichprob. Folglich hängt dr Rgrssionsoffizint nicht nur vom Einfluss ds Blutdrucs auf das Kritrium ab, sondrn auch von dr Varianz ds Blutdrucs in dr untrsuchtn Stichprob. Spätstns bim Vrglich von vrschidnn Stichprobn bzw. Populationn sind di Ergbniss zu standardisirtn Variabln wnigr gignt. Urban (993, S. 38f) mpfihlt, di Biträg dr Rgrssorn übr di Wald-Statisti (sih Abschnitt.6.) zu vrglichn, und bgründt dis Empfhlung mit dm Hinwis, dass di Wald-Statisti bi mtrischn Rgrssorn invariant ggnübr Ändrungn dr Sala (Varianz) ist. In dr ltztn Spalt dr obign Tabll bfindt sich für jdn Rgrssor dr von Urban (993, S. 40f) als m Efftgröß, von andrn Autorn als odds ratio bzichnt Ausdruc. Er gibt an, um wlchn Fator sich das Wahrschinlichitsvrhältnis P( Y ) P( Y 0) ändrt, wnn dr Präditor X m um in Einhit stigt und all andrn onstant blibn (vgl. Abschnitt..3). In dr Dmostudi führt z.b. di Stigrung ds STRESS-Indiators um in Einhit zu inm nahzu vrdoppltn Wahrschinlichitsvrhältnis. Di Konfidnzintrvall zu dn Efftgrößn müssn bi dr SPSS- Prozdur zur binärn logistischn Rgrssion in dr Optionn-Subdialogbo angfordrt wrdn. Übr di Rdution dr Psudo-R -Statistin bim Entfrnn ins Rgrssors aus dm Modll ann man sinn ignständign Erlärungsbitrag burtiln. 4

43 Logistisch Rgrssionsanalys mit SPSS.6. Signifianz Zum Tstn dr Nullhypoths, dass in Rgrssor irrlvant ist, ann di Wald-Statisti vrwndt wrdn, di bi hinrichnd großr Stichprob (sih Abschnitt..) annährnd -vrtilt ist. Bi mtrischn und dichotomn Rgrssorn, di jwils inn Frihitsgrad bsitzn, ist di Wald-Statisti grad idntisch mit dm quadrirtn Quotintn aus dm gschätztn Rgrssionsoffizintn und sinm Standardfhlr. Bi inm Fator (nominalsalirtn Rgrssor) mit ( > ) Katgorin folgt di Wald- Statisti untr dr Nullhypoths inr -Vrtilung mit ( - ) Frihitsgradn (sih Abschnitt.7). In dr Sig-Spalt sind di mpirischn Übrschritungswahrschinlichitn dr Wald-Tsts zu dn Rgrssorn anggbn. Bi Rgrssorn mit btragsmäßig großn Wrtn ist di Wald-Statisti nach untn vrfälscht, so dass di Signifianztsts mit inm rhöhtn Fhlrrisio zwitr Art blastt sind (Norušis 005, S. 39). Gnrll solltn auch zur Burtilung dr inzlnn Rgrssorn Lilihood-Quotintn-Tsts durchgführt wrdn, di gnaur arbitn als all onurrirndn Mthodn (Mnard 995, S. 38). Bi ihrr Konstrution nach dm in Abschnitt.5. bschribnn Prinzip sind im ingschräntn Modll gnau di Paramtr dr zu tstndn Rgrssorn gstrichn. Um di Prozdur LOGISTIC REGRESSION mit inm bi Norušis (005, S. 39) bschribnn Tric zur Brchnung dr Lilihood-Quotintn-Tsts zu übrrdn, wählt man di zur automatischn Modllsuch (sih Abschnitt.9.) gdacht Mthod Rücwärts: LR und stzt im Optionn-Dialog das Ausschluss-Kritrium auf : 43

44 Logistisch Rgrssionsanalys mit SPSS Im Ergbnis startt SPSS bi dr Modllsuch mit alln Präditorn, vrwndt Lilihood-Quotintn- Tsts (ab jtzt urz bzichnt als: LQ-Tsts) zur Burtilung dr Präditorn und stoppt sofort, wil in Präditor mit sinm P-Lvl im LQ-Tst das Ausschlussritrium übrbitt. Wir rhaltn di Tabll und findn dort all Ergbniss dr Wald-Tsts bstätigt. Di Prozdur NOMREG zur multinomialn logistischn Rgrssion bitt in dr Statistin-Subdialogbo übr in (pr Vorinstllung marirts) Kontrollästchn Lilihood-Quotintn-Tsts zu dn Präditorn an: 44

45 Logistisch Rgrssionsanalys mit SPSS In unsrm Bispil rsultirt di folgnd Tabll mit längst banntn Tstntschidungn:.6.3 Fhlnd bzw. irrlvant Präditorn Wir btrachtn in Modll, das ldiglich dn Präditor STRESS nthält, dr mit dn nun fhlndn Präditorn ABWIG, BEWEG und DRUCK orrlirt. Im Vrglich zu dn ralistischn Schätzrgbnissn zum orrtn Modll (vgl. Abschnitt.6.) rhaltn wir für dn STRESS-Rgrssionsoffizintn inn dutlich rhöhtn Wrt (,04 statt 0,65): Ein analogs Problm ist auch für das obn glgntlich btrachtt Modll mit BEWEG als inzigm Präditor anzunhmn. Um di Binträchtigung dr Schätz- und Tstrgbniss durch irrlvant Präditorn bobachtn zu önnn, nhmn wir vorübrghnd dri solch Präditorn in das Modll auf, von dnn zwi (IRRE und IRRE) rcht hoch mit rlvantn Präditorn orrlirn: Si findn di simulirtn Datn in dr Dati DBS MIT IRRELEVANTEN PRÄDIKTOREN.SAV an dr im Vorwort vrinbartn Stll. 45

46 Logistisch Rgrssionsanalys mit SPSS Außrdm rduzirn wir di Stichprobngröß auf 50, was sich auf di Ergbniss zum orrtn Modll aum auswirt: Durch di Aufnahm dr irrlvantn Variabln wird di Intrprtation dr Ergbniss rschwrt: Währnd dr rlvant Präditor ABWIG di Signifianzgrnz vrpasst, wird in irrlvantr Präditor als signifiant burtilt. Außrdm wrdn di Standardfhlr zu dn rlvantn Präditorn größr..7 Nominalsalirt Rgrssorn mit mhr als zwi Katgorin Analog zum Vorghn bi dr linarn Rgrssion önnn auch bi dr logistischn Rgrssion nominalsalirt Rgrssorn inbzogn wrdn. Di dichotom-atgorial Variabl ERBE habn wir bishr schon als Präditor vrwndt. Pr (0,)-Kodirung wurd für inn licht intrprtirbarn Rgrssionsoffizintn gsorgt: 5 stht für dn Logit-Zuwachs bi Vorlign ds Risiofators (sih Glichung ). Dichotom atgorial Rgrssorn lassn sich bi dr logistischn Rgrssion also gnauso vrwndn wi mtrisch Rgrssorn (Kovariatn). Nun wolln wir unsr Modll um in nominalsalirt Variabl mit dri Katgorin rwitrn, so dass inig Übrlgungn zur Bildung gigntr Kodirvariabln nötig wrdn. Es handlt sich um di vom Lsr sichr längst rwartt Variabl RAUCHER, di mit folgndn Katgorin rhobn wordn ist: Katgori odirtr Wrt in DBS.SAV Rauchr Ehmaligr Rauchr Nichtrauchr 3 Wir fordrn mit dr folgndn Dialogbo in nu BLR-Analys an: 46

47 Logistisch Rgrssionsanalys mit SPSS Zwar sind in unsrm onrtn Bispil di Katgorin gordnt, abr s ist trotzdm nicht sinnvoll, RAU- CHER durch inn inzlnn Rgrssor (z.b. mit dn Wrtn,, 3) zu rpräsntirn, da übr di Abständ zwischn dn 3 Katgorin nichts bannt ist. Wir müssn also wi im Fall inr nominalsalirtn Variabln mit S (> ) Stufn vorghn. Um di Information inr solchn Variabln vollständig in das Dsign inzubringn, müssn S - nu Variabln, so gnannt Kodirvariabln, gignt dfinirt und als Rgrssorn vrwndt wrdn. In unsrm onrtn Bispil RAUCHER ist also das Modll um Kodirvariabln mit zughörign Rgrssionsgwichtn 6 und 7 zu rwitrn. In dr Logit-Formulirung lautt das rwitrt Modll: P( Y ) ln = 0 + X X X X 7 P( Y 0) Nach dr Erwitrung ann unsr Modll für jd Rauchratgori inn ignn Logit-Efft schätzn, dr bi alln Wrtombination dr andrn Präditorn zu dn sonstign Efftn addirt wird. In Signifianztsts zum Präditor RAUCHER wird di folgnd Nullhypoths gprüft: H 0 : 6 = 7 = 0 Damit SPSS di Variabl RAUCHER bi dr binärn logistischn Rgrssion als atgorial bhandlt und durch automatisch gbildt Kodirvariabln in das Dsign inbindt, muss man in dr zughörign Dialogbo mit dm Schaltr Katgorial di folgnd Subdialogbo anfordrn und RAUCHER in di List dr atgorialn Variabln bfördrn: 47

48 Logistisch Rgrssionsanalys mit SPSS Bzgl. dr gnaun Dfinition dr Kodirvariabln zu inm nominalsalirtn Präditor mit mhr als zwi Katgorin bitt SPSS mhrr Altrnativn, von dnn di Bdutung dr Rgrssionsoffizintn zu dn Kodirvariabln abhängt. In dr Dialogbo Katgorial Variabl dfinirn wählt man inn Kontrast aus dr vrstctn List sowi in Rfrnzatgori und quittirt übr dn Schaltr Ändrn. Ist nur in atgorialr Präditor vorhandn, übrsiht man licht dn Schaltr Ändrn, so dass di gsamt Dialogbo ohn Efft blibt. Im Bispil solln für dn Präditor RAUCHER Abwichungsontrast mit dr ltztn Katgori als Rfrnz vrwndt wrdn. Wlch Kodirvariabln SPSS daraufhin bildt, wird in dr Ausgab protoollirt: Anschlißnd wird di Bdutung dr Rgrssionsoffizintn 6 und 7 zu dn so dfinirtn RAUCHER- Kodirungsvariabln X 6 und X 7 rläutrt. Wir btrachtn in blibig, abr fst gwählt, Wrtombination,..., 5 für di Rgrssorn X bis X 5 und rhaltn mit dr Abürzung := für di Rauchratgorin folgnd Modllaussagn: Rauchratgori X 6 X 7 Logit Rauchr 0 L := + 6 Ehm. Rauchr 0 L := + 7 Nichtrauchr - - L 3 := Als ungwichtts Mittl dr Modllprognosn für di dri Rauchratgorin rhaltn wir: 48

49 Nun wird lar: Logistisch Rgrssionsanalys mit SPSS ( 7 6 ) ( 7 ) ( 6 3 ) 6 ist di Abwichung ds Logits zur Katgori Rauchr vom (ungwichttn) Mittl dr dri Logits 7 ist di Abwichung ds Logits zur Katgori Ehm. Rauchr vom (ungw.) Mittl dr dri Logits di Abwichung ds Logits zur Katgori Nichtrauchr vom (ungwichttn) Mittl bträgt (- 6-7 ) In dism Zusammnhang soll noch vor dr Vrwchslung zwischn dn bn bhandltn Kodirvariabln und dn zughörign Kontrastvtorn gwarnt wrdn. Di Nullhypoths H : 6 0 ann nach obign Übrlgungn äquivalnt auch folgndrmaßn formulirt wrdn: L ( 3 3 ( L 3 0 L L3 ) 0 L 3) L 0 L3 Gnau dr Kontrastvtor ( 3 3 3) ist z.b. im SPSS-Rgrssions-Handbuch (SPSS 0, S. 4) zur Abwichungsodirung anggbn. Er gibt Aufschluss darübr, wlch Linarombination dr Katgorin-Logits durch di Nullhypoths zu inm Kodirvariabln-Rgrssionsgwicht glich 0 stzt wird. In dr SPSS-Ausgab zur binärn logistischn Rgrssion rschinn jdoch nicht di Kontrastvtorn, sondrn di Kodirvariabln, also di orrspondirndn Spaltn dr Dsignmatri (vgl. Nichols 993). In unsrm Bispil rhaltn wir für das rwitrt Modll folgnd Schätzrgbniss: Wi di Ergbniszil zu RAUCHER zigt, lhnt dr Wald-Tst di Nullhypoths ( 6 = 7 = 0) dutlich ab. RAUCHER ist also insgsamt in signifiantr Risiofator. Von dn bidn Kodirvariabln hat nur RAU- CHER() in signifiants Gwicht (b 6 =,787, p = 0,00). Das logarithmirt Wahrschinlichitsvrhältnis ln ligt also bi Rauchrn signifiant übr dm (ungwichttn) Mittl. P( Y ) P( Y 0) 49

50 Logistisch Rgrssionsanalys mit SPSS P( Y ) Bi disn Prsonn ist dr Wahrschinlichitsquotint ggnübr dm gomtrischn Mittl dr P( Y 0) b6 3 Wahrschinlichitsquotintn um dn Fator (= 5,974, sih Spalt Ep(B)) rhöht, dnn: L 3 ( L L L ) 3 6 L ( L L L3 ) 6 ( 3 ) 3 L L L L L L3 P( Y ) rhöht. Frnr rchnt man licht nach, dass bi Rauchrn dr Wahrschinlichitsquotint im P( Y 0) Vrglich zu Nichtrauchrn um dn Fator rhöht ist. b6 b6 b7 b6 b7 b6 b6 b7 9,96 Dmggnübr schinn E-Rauchr mit inm mittlrn Risio blastt zu sin (in signifiantr Logit-Kontrast zum ungwichttn Mittl). Im Vrglich zu Nichtrauchrn ist ihr Wahrschinlichitsquotint immrhin noch um dn Fator rhöht. b7 b6 b7 b6 b7 b6 b7 b7,87 Für di Nichtrauchr ann man ausrchnn, dass Ihr Logit im Vrglich zum (ungwichttn) Mittl um b 6 + b 7 =,787-0,58 =,06 P( Y ) rnidrigt ist. Ihr Wahrschinlichitsquotint ist im Vrglich zum gomtrischn Mittl dr 3 P( Y 0) b Wahrschinlichitsquotintn um dn Fator 6 b7 (= 0,3) rduzirt. Für das rwitrt Modll rmittlt SPSS inn azptabln Gültigitstst und hoh Psudo-R - Statistin: Di global Nullhypoths wird rwartungsgmäß dutlich abglhnt, und di Klassifiationslistung stigt an: 50

51 Logistisch Rgrssionsanalys mit SPSS Als Altrnativ zur obn bschribnn Abwichungsodirung ommt vor allm di so gnannt Indiator- odr Dummy-Kodirung in Frag, di SPSS im Ausgabfnstr folgndrmaßn protoollirt: Hir stht 6 bzw. 7 für di Logit-Diffrnz zwischn dr rstn bzw. zwitn RAUCHER-Katgori und dr Rfrnzatgori, wobi di Prozdur LOGISTIC REGRESSION pr Vorinstllung di ltzt Katgori (mit dm höchstn Wrt, im Bispil: Nichtrauchr) als Rfrnz vrwndt. Für dis Roll ist z.b. di in viln Studin vorhandn Kontrollgrupp prädstinirt. In dr folgndr Tabll önnn di obn mühsam brchntn odds-fatorn für Rauchr und E- Rauchr im Vrglich zu dn Nichtrauchrn dirt abglsn wrdn:.8 Intrationn Di aus dr Varianz- odr Rgrssionsanalys wohlbannt Intration, wobi dr Efft ins Rgrssors auf das Kritrium durch inn andrn Rgrssor (odr auch durch mhrr) modrirt wird, lässt sich auch in in logistischs Modll intgrirn. Man ann Intrationn zwischn blibign mtrischn odr atgorialn Rgrssorn spzifizirn, wobi SPSS Produtvariabln als zusätzlich Rgrssorn in das Dsign aufnimmt. Wir bschränn uns anschlißnd auf di Zwifachwchslwirung zwischn zwi atgorialn Rgrssorn. Jaccard (00) widmt dn Intrationsfftn in dr logistischn Rgrssion in ompltts 5

52 Logistisch Rgrssionsanalys mit SPSS Buch und bschribt witr Spzialfäll, z.b. Drifachwchslwirung, Btiligung von mtrischn Rgrssorn..8. Intrationn zwischn nominalsalirtn Rgrssorn Wnn wir in unsrm DBS-Bispil twa vrmutn, dass dr Efft ds Rauchns durch rblich Vranlagung modrirt wird, und inn ntsprchndn Intrationsfft spzifizirn, dann bildt SPSS zu dr Vranlagungs-Kodirvariabln X 5 und dn bidn Rauchr-Kodirvariabln X 6 und X 7 di bidn Wchslwirungs-Kodirvariabln X 8 und X 9 als Produt X 5 X 6 und X 5 X Bdutung dr Rgrssionsgwicht bi Indiatorodirung Bi Vrwndung dr Indiatorodirung für di btiligtn Variabln ERBE und RAUCHER (vgl. Abschnitt.7) rhält man insgsamt folgnd Kodirvariabln: Mrmalsombination Erblich Vranlag. Bim Signifianztst für dn Intrationsfft wird di Nullhypoths gprüft, dass di zu X 8 bzw. X 9 ghörign Rgrssionsgwicht 8 bzw. 9 bid glich Null sind. Di Bdutung dr Rgrssionsoffizintn in Modlln mit Intrationsfftn hängt von dn vrwndtn Kodirungsmthodn ab. Um di Bdutung für di Situation in obigr Tabll zu rläutrn, wolln wir für di Variabln X bis X 4 di blibig, abr fst gwählt Wrtombination,..., 4 btrachtn. Frnr soll mit L ij das untr disn Randbdingungn vom Modll für di Vranlagungs-Rauchr- Kombination (i, j) prognostizirt Logit bzichnt wrdn. Mit dr Abürzung := schätzt unsr Modll für di schs (ERBE RAUCHER) Mrmalsombinationn (sih obig Tabll) folgnd Logits: L 0 = + 6 L 0 = + 7 L 03 = L = L = L 3 = + 5 Kodirvariabln Rauchr X 5 X 6 X 7 X 8 = X 5 X 6 X 9 = X 5 X 7 Nin Ja Nin E Nin Nin Ja Ja 0 0 Ja E 0 0 Ja Nin Nach disn Vorbritungn ann di Bdutung dr Rgrssionsoffizintn 5 bis 9 präzis anggbn wrdn: 5

53 Logistisch Rgrssionsanalys mit SPSS 5 stht für dn Untrschid zwischn dn ERBE-Logits bi Prsonn aus dr RAUCHER - Rfrnzatgori 3 (Nin): L 5 3 L03 5 stht also nicht für dn Hauptfft von ERBE, sondrn für dn bdingtn Efft von ERBE ggbn in bstimmt RAUCHER-Katgori. 6 stht für dn Logit-Untrschid zwischn dn RAUCHER-Gruppn und 3 ggbn di ERBE- Katgori 0 (Nin): 6 = L 0 - L 03 6 stht also nicht für dn Kontrast zwischn dn RAUCHER-Katgorin und 3, sondrn für dn bdingtn Kontrast ggbn in bstimmt ERBE-Katgori. 7 stht für dn Logit-Untrschid zwischn dn RAUCHER-Gruppn und 3 ggbn di ERBE- Katgori 0 (Nin): 7 = L 0 - L 03 8 bschribt, wi sich dr Logit-Untrschid zwischn dn rblich blasttn Rauchrn und dn rblich blasttn Nichtrauchrn untrschidt vom Logit-Untrschid zwischn dn rblich unblasttn Rauchrn und dn rblich unblasttn Nichtrauchrn: 8 = (L - L 3 ) - (L 0 - L 03 ) = ( ) bschribt, wi sich dr Logit-Untrschid zwischn dn rblich blasttn E-Rauchr und dn rblich blasttn Nichtrauchrn untrschidt vom Logit-Untrschid zwischn dn rblich unblasttn E-Rauchrn und dn rblich unblasttn Nichtrauchrn: 9 = (L - L 3 ) - (L 0 - L 03 ) = ( ) - 7 Um bi dr SPSS-Prozdur zur binärn logistischn Rgrssion in Wchslwirung zu spzifizirn, marirt man in dr Variablnlist bid Intrationspartnr, was bi fstghaltnr Strg-Tast glingt. Dann nimmt man übr dn Schaltr >a*b> dn Wchslwirungstrm ins Dsign auf: Im onrtn Bispil muss dr Präditor RAUCHER als atgorial dfinirt wrdn. Wnn di Rgrssionsgwicht di obn disutirt Bdutungn habn solln, müssn di RAUCHER-Kodirvariabln nach dr Indiatormthod gbildt wrdn. Bid Einstllungn nimmt man nach inm Mauslic 53

54 Logistisch Rgrssionsanalys mit SPSS auf dn Schaltr Katgorial in dr Subdialogbo Katgorial Variabln dfinirn vor (vgl. Abschnitt.7). Dr Wald-Tst zur ERBE RAUCHER Wchslwirung, d.h. zur ombinirtn Nullhypoths 8 = 9 = 0 vrfhlt mit inr Übrschritungswahrschinlichit von 0,7 dutlich di Signifianzgrnz: Damit ist wohl das Hauptfftsmodll aus Abschnitt.7 di bssr Lösung..8.. Bdutung dr Rgrssionsgwicht bi Abwichungsodirung Nachdm wir in Abschnitt.7 di Abwichungs-Kontrast für RAUCHER rläutrt habn, soll nun vorgführt wrdn, wi sich dis Kodirung auf di Bdutung dr Rgrssionsoffizintn in inm Modll mit Wchslwirung auswirt. Wr sich auf di (in SPSS voringstllt) Indiatorodirung bschränn möcht, ann dn Rst ds atulln Abschnitts.8.. übrspringn. Bi Vrwndung dr Indiatorodirung für di Variabl ERBE und dr Abwichungsodirung für di Variabl RAUCHER rsultirn in inm Modll mit Wchslwirung zwischn dn bidn Variabln di folgndn Kodirvariabln: 54

55 Logistisch Rgrssionsanalys mit SPSS Mrmalsombination Erblich Vranlag. Bim Signifianztst für dn Intrationsfft wird di Nullhypoths gprüft, dass di zu X 8 bzw. X 9 ghörign Rgrssionsgwicht 8 bzw. 9 bid glich Null sind. Um di Bdutung dr Rgrssionsoffizintn zu rläutrn, wolln wir für di Variabln X bis X 4 di blibig, abr fst gwählt Wrtombination,..., 4 btrachtn. Frnr soll mit L ij das untr disn Randbdingungn vom Modll für di Vranlagungs-Rauchr-Kombination (i, j) prognostizirt Logit bzichnt wrdn. Mit dr Abürzung := schätzt unsr Modll für di schs (ERBE RAUCHER) Mrmalsombinationn (sih obig Tabll) folgnd Logits: L 0 = + 6 L 0 = + 7 L 03 = L = L = L 3 = Mit L bzw. 0. L. soll das das ungwichtt Mittl dr Logits aus dn dri rblich unblasttn bzw. blasttn Zlln bzichnt wrdn, also: L L 0.. : L0 L0 L 3 : L L L Kodirvariabln Rauchr X 5 X 6 X 7 X 8 = X 5 X 6 X 9 = X 5 X 7 Nin Ja Nin E Nin Nin Ja Ja 0 0 Ja E 0 0 Ja Nin Aus obign Glichungn folgt: L 0. = L. = 5 Nach disn twas mühsamn Vorbritungn ann di Bdutung dr Rgrssionsoffizintn 5 bis 9 präzis anggbn wrdn: 55

56 Logistisch Rgrssionsanalys mit SPSS 5 ist di Diffrnz zwischn dm mittlrn Logit aus dn dri rblich blasttn und dm mittlrn Logit aus dn dri unblasttn Zlln: 5 L. L0. 6 bschribt, wi sich di rblich unblasttn Rauchr vom Mittl allr rblich unblasttn Prsonn untrschidn: = L L0. 7 bschribt, wi sich di rblich unblasttn E-Rauchr vom Mittl allr rblich unblasttn Prsonn untrschidn: L 7 0 L0. 8 bschribt, wi sich di Abwichung dr rblich blasttn Rauchr vom Gsamtmittl allr blasttn Prsonn untrschidt von dr Abwichung dr rblich unblasttn Rauchr vom Mittl allr rblich unblasttn Prsonn: = L - L ) ( L - L ) 8 ( bschribt, wi sich di Abwichung dr rblich blasttn E-Rauchr vom Gsamtmittl allr rblich blasttn Prsonn untrschidt von dr Abwichung dr rblich unblasttn E-Rauchr vom Mittl allr rblich unblasttn Prsonn: = L - L ) ( L - L ) 9 ( Auf dn Signifianztst zum Wchslwirungsfft wirt sich di Ändrung dr Kodirungstchni nicht aus:.8. Hauptfft in Modlln mit Wchslwirung In dr Tabll Variabln in dr Glichung präsntirt di Prozdur LOGISTIC REGRESSION u.a. in Signifianzburtilung zur Variabln ERBE. Konrt ght s dabi um dn Paramtr 5, dssn Bdutung abr star vom Kodirungsschma für dn ERBE-Intrationspartnr RAUCHER abhängt (vgl. Abschnitt.8.. und.8..). Es darf also nicht vrwundrn, dass in unsrm Bispil ganz vrschidn Übrschritungswahrschinlichitn rsultirn: Kodirungsschma RAUCHER Übrschritungswahrschinlichit 5 Indiator 0,00 Abwichung 0,065 56

57 Logistisch Rgrssionsanalys mit SPSS Für dn Hauptfft RAUCHER rhaltn wir im Bispil unabhängig von dr RAUCHER-Kodirung di idntisch Übrschritungswahrschinlichit 0,004. Ändrt man jdoch di ERBE-Kodirung durch in schlicht Vrtauschung dr Wrt 0 und, dann rsultirt für RAUCHER dr shr vrschidn Wrt 0,58: Wir habn aufwndig di Bdutung dr Rgrssionsoffizintn in Abhängigit von dn gwähltn Kodirungsmthodn glärt. Mit disr Vorarbit lassn sich auch di dubiosn Hauptfftburtilungn zu RAUCHER vrsthn. Di mitgtilt Übrschritungswahrschinlichit ghört zum Wald-Tst zur ombinirtn Nullhypoths, dass di zu dn RAUCHER-Kodirvariabln X 6 und X 7 ghörign Rgrssionsgwicht 6 bzw. 7 bid glich Null sin. Dis Hypoths bziht sich auf zwi bdingt Kontrast (vgl. Abschnitt.8.. und.8..) und ist in ihrm Ghalt star von dr ERBE-Kodirung abhängig (wlch Katgori hat dn Wrt 0). Übr das Subommando TEST dr Prozdur NOMREG (vgl. Abschnitt 3.7) lässt sich dis ombinirt Nullhypoths plizit formulirn: NOMREG dbs (BASE=LAST ORDER=ASCENDING) BY rb rauchr WITH abwig bwg druc strss /FULLFACTORIAL /INTERCEPT=INCLUDE /TEST (0, 0) = ALL ; ALL Es rsultirt das rwartt Tstrgbnis: Damit sollt lar gwordn sin, dass man bi inm logistischn Rgrssionsmodll mit Wchslwirung nicht übr di Hauptfft dr Intrationspartnr rdn sollt. Stattdssn sind bdingt Efft von Intrss, drn gnau Bdutung bi atgorialn Rgrssorn von dn vrwndtn Kodirungstchnin abhängt. Untr bstimmtn Vorausstzungn (Zntrirung bi mtrischn Rgrssorn, Vrwndung dr gwichttn Efftodirung bi nominalsalirtn Rgrssorn) lässt sich für inn Intrationspartnr sin mittlrr bdingtr Efft schätzn, dn man als Ersatz für dn nicht dfinirtn Hauptfft vrwndn ann (Balts-Götz 009). 57

58 .9 Stratgin zur Modllbildung Logistisch Rgrssionsanalys mit SPSS.9. Signifianztsts zu Präditorblöcn Di SPSS-Prozdur zur linarn Rgrssion rlaubt in suzssiv Modllrwitrung um Blöc von Rgrssorn, wobi mit inm F-Tst burtilt wrdn ann, ob dr zultzt inbzogn Bloc von Rgrssorn in signifiant R -Vrbssrung bwirt hat (hirarchisch Rgrssionsanalys). Ein analogr Tst ist auch in dr logistischn Rgrssion vrfügbar. Di zughörig Prüfgröß ist durch di -LL - Diffrnz zwischn inm rwitrtn Modll und inm Ausgangsmodll dfinirt und folgt untr dr Nullhypoths inr df ntspricht (sih Abschnitt.5.). -Vrtilung, wobi df dr Anzahl zusätzlichr Paramtr im rwitrtn Modll Di folgnd Dialogbo ghört zu inr logistischn Rgrssionsanalys dr DBS-Datn mit zwi Blöcn von Präditorn: In inm rstn Bloc wrdn di Rgrssorn ABWIG, DRUCK und ERBE aufgnommn. Nach inm Mauslic auf Witr folgn in inm zwitn Bloc di Rgrssorn BEWEG, STRESS und RAUCHER: In dr Ausgab ziht SPSS nach jdm Bloc Zwischnbilanz und lifrt in dr Tabll mit Omnibus- Tsts dr Modlloffizintn nbn dr Bzichnung Bloc dn Lilihood-Quotintntst zum Pat mit dn nu aufgnommnn Rgrssorn. Für dn zwitn Bloc rfahrn wir: Da wir in dn frührn Analysn vom Basismodll (mit dm Ordinatnabschnitt als inzigm Paramtr) dirt zum vollständign Modll übrggangn sind, stimmtn di Bloc- und di Modll-Tstrgbniss stts übrin..9. Automatisch Modllsuch Innrhalb ins Blocs, dr auch all Rgrssorn umfassn darf, ann man LOGISTIC REGRESSION automatisch nach inm gutn Modll suchn lassn. Es wird schrittwis anhand von Signifianztsts ntschidn, ob Rgrssorn aufgnommn odr ntfrnt wrdn solln, wobi zwi Stratgin zur Vrfügung sthn (Bschribung nach Norušis 005, S. 338ff): 58

59 Logistisch Rgrssionsanalys mit SPSS Vorwärts Ausghnd vom Modll ohn dn fraglichn Bloc wird in jdm Schritt darübr ntschidn, ob in (witrr) Rgrssor aus dm Bloc aufgnommn wrdn sollt. Dazu wird für jdn noch vrfügbarn Rgrssor di Nullhypoths gprüft, dass r nach Aufnahm in das atull Modll dn Rgrssionsoffizintn 0 bsitzt. Untrschritt das linst dabi rmittlt p-lvl das Aufnahmritrium (Vorinstllung: 0,05), wird dr zughörig Präditor ins Modll intgrirt. Nach jdr Aufnahm wird durch analog Nullhypothsnprüfungn darübr ntschidn, ob vorhandn Präditorn übrflüssig gwordn sind. Übrschritt das größt rmittlt p-lvl das Ausschlussritrium (Vorinstllung: 0,0), wird dr zughörig Präditor ntfrnt. Anschlißnd wird das Modll nu gschätzt und nach witrn Entlassungsandidatn gsucht. Nach inr Entlassungswll bginnt di nächst Such nach inm Aufnahmandidatn. Das Vrfahrn ndt,... o wnn in witr Variabl das Aufnahm- odr Entlassungsritrium rfüllt, o odr wnn das Vrfahrn auf in brits zuvor btrachtts Modll stößt, also zu zirulirn droht. Rücwärts Zunächst wird dr gsamt Bloc aufgnommn. Dann wird Schritt für Schritt gprüft, ob in Rgrssor ntfrnt wrdn sollt. Nach jdr Elimination wird gprüft, ob in frühr ausgschlossnr Präditor widr aufgnommn wrdn sollt. Bi inr rlativ linn Stichprob ist in Komplttmodll mit viln Präditorn wgn sinr problmatischn Präzision vntull in schlchtr Ausgangspunt für di Modllsuch (Norušis 005, S. 34). Bi dn Signifianztsts zur Aufnahm ins Präditors vrwndt LOGISTIC REGRESSION grundsätzlich di mit gringm Rchnaufwand zu rmittlnd Scor-Statisti. Bi dn Signifianztsts zur Entfrnung ins Präditors bstht in Wahlmöglichit: Nbn dm lar zu bvorzugndn Lilihood- Quotintn-Tst bitt SPSS auch dn Wald-Tst und dn so gnanntn bdingtn Tst an, wobi s sich um in Lilihood-Quotintn - Variant mit rduzirtm Rchnaufwand handlt. Di Auswahlstratgi und das Tstvrfahrn für di Entfrnung von Präditorn wählt man übr di Mthodn-List: Di ritischn Übrschritungswahrschinlichitn für di Aufnahm bzw. für dn Ausschluss von Präditorn wrdn in dr Optionn-Subdialogbo ingstllt: 59

60 Logistisch Rgrssionsanalys mit SPSS Um dr automatischn Modllsuch in nifflig Aufgab zu stlln, rwitrn wir di obig List dr Präditorn (all außr RAUCHER) um dri irrlvant Variabln, von dnn zwi (IRRE und IRRE) rcht hoch mit rlvantn Präditorn orrlirn, und rduzirn di Stichprob auf di rstn 50 Fäll (sih Abschnitt.6.3). Wi di folgnd Tabll mit dm Vrlauf dr VORWÄRTS-Modllsuch zigt, nimmt LOGISTIC REGRESSION in irrlvant Variabl ins Modll auf (IRRE) und lässt inn rlvantn Präditor wg (ABWIG): In dr Spalt Wrt sind di Prüfgrößn ds Scor-Tsts anggbn, dn LOGISTIC REGRESSION als Aufnahmprüfung vrwndt. 60

61 Logistisch Rgrssionsanalys mit SPSS.9.3 Empfhlungn zur Modllbildung Ein automatisch Modllsuch ann zwar als plorativ Tchni in bstimmtn Situationn sinnvoll sin, doch in dr Rgl sollt di Modllonstrution untr Vrwndung von inhaltlichn und statistischn Informationn durch inn rativn und rationaln Forschr vorgnommn wrdn. Dazu inig Empfhlungn (vgl. Klinbaum 994): Man startt mit alln Rgrssorn, di nach inhaltlichn Übrlgungn rlvant sind. Es gilt, dn omittd-variabl-rror zu vrmidn (vgl. Abschnitt.4). Dann wrdn suzssiv irrlvant Variabln ntfrnt. Sind im Modll Wchslwirungn vorgshn, wrdn dis zurst gprüft. Bi inr signifiantn Wchslwirung müssn all nthaltnn Rgrssorn im Modll vrblibn. Wr ompl Übrlgungn vrmidn will, sollt gnrll mit hirarchisch wohlgformtn Modlln arbitn, di zu jdm Intrationstrm auch all Komponntn von nidrigrr Ordnung nthaltn (Cohn t al. 003, S. 84; Jaccard 00). 6

62 Logistisch Rgrssionsanalys mit SPSS 3 Di multinomial logistisch Rgrssion In dism Abschnitt btrachtn wir in Vrallgminrung dr binärn logistischn Rgrssion, wlch di Analys von nominalsalirtn Kritrin mit mhr als zwi Katgorin rlaubt. Dr Bqumlichit halbr wird im Manusript glgntlich di Abürzung MLR für di multinomial logistisch Rgrssion vrwndt. 3. Populationsmodll Im Fall ins nominalsalirtn Kritriums mit J Katgorin ist für J - Gruppn di Wahrschinlichit in Abhängigit von dn Präditorn X bis X M (intrvallsalirt odr durch Kodirung von atgorialn Variabln ntstandn) zu modllirn. Damit ligt auch di Wahrschinlichit für di ltzt Grupp fst Statt (wi im binärn Fall) dirt Modllglichungn für di Wahrschinlichitn P(Y = j) anzustzn, startn wir mit inr äquivalntn Modllformulirung übr di folgndn J Logit-Glichungn, wobi im Nnnr dr Wahrschinlichitsquotintn jwils di Rfrnzatgori J auftritt (vgl. Abschnitt..3): P( Y ln P( Y X j) X β jx, mit β j : j0, j, j,.., jm, j,.., J, und X : J. () ). X M Dis ist in nah lignd Gnralisirung ds binärn logistischn Modlls, das als Spzialfall (mit J = ) nthaltn ist. Durch Anwndung dr Eponntialfuntion rhaltn wir äquivalnt Glichungn übr J Wahrschinlichitsquotintn (odds): P( Y j) β jx j 0 jx j X... jm X M j 0 jx jm X M, j,.., J P( Y J ) Zu inm Präditor X m sagt dr Eponntialfuntionswrt jm ds Paramtrs jm aus, um wlchn Fator sich dr j-t Wahrschinlichitsquotint ändrt, wnn sich X m um in Einhit rhöht, und all andrn Präditorn unvrändrt blibn. jm ( X m ) Im binärn Fall habn wir von dr Efftgröß J Efftgrößn jm vorhandn (vgl. Abschnitt.6). jm X m jm jm X m jm m ins Präditors gsprochn; im multinomialn Fall sind Für di Wahrschinlichit dr Rfrnzatgori J in Abhängigit von dn Präditorn im Vtor X bhauptt das Modll: P( Y J ) J P( Y j) P( Y J ) j J j P( Y P( Y j) J ) J j β X j P( Y J ) J j β X j Damit gilt für di andrn J Wahrschinlichitn: 6

63 Logistisch Rgrssionsanalys mit SPSS β X j β jx P( Y j) P( Y J ) J j β X j, j,.., J Dis Darstllungn dr Wahrschinlichitn lifrn sofort widrum das Logit-Modll (): P( Y ln P( Y β jx J ) j j ln J ) J j β X j β X j ln β jx β X, j,.., J j (3) 3. Stichprobnmodll Bobachtt man bi N Fälln mit dn Präditorwrtombinationn i jwils di Kritriumsatgori, ommt folgnds MLR-Stichprobnmodll zum Einsatz: Es sind N unabhängig Zufallsvariabln Y i mit Wrtn aus dr Mng {,,.., J} vorhandn. Für di Wahrschinlichitn dr J Kritriumsatgorin gilt bi Y i : β ji für j,.., J J β j i... für j J J β ji j j P( Yi j) mit β ji j0 ji ji Bi K mhrfach bstztn Präditorwrtombination ann man di Vrhältniss in dr Stichprob auch so bschribn: Wnn für di Präditorwrtombination mit h di Gruppnstär, mit y~ j di bobachtt Häufigit dr j-tn Kritriumsatgori und mit Y ~ j di zughörig Zufallsvariabl bzichnt wird, dann sind bi unabhängign Bobachtungn di J-dimnsionaln Zufallsvariabln ~ ~ ~ ~ Y : Y, Y,..., YJ,,..., K M( h ;,,..., J ) - multinomialvrtilt, und für di Wahrschinlichitn j bhauptt das Modll dr multinomialn logistischn Rgrssion: β j j, j,.., J, und J J J β j j Bi zntraln Ergbnissn inr logistischn Rgrssionsanalys (z.b. bi dr Paramtrschätzung) bsthn zwischn Algorithmn für individull odr gruppirt Datn jdoch nur rchntchnisch Untrschid. Im Manusript wird spzill darauf hingwisn, wnn mhrfach bstzt Präditorwrtombinationn rfordrlich odr schädlich sind. Wi schon in Abschnitt.. rläutrt, ist di logistisch Rgrssionsanalys auch dann anwndbar, wnn in Zufallsstichprob aus dr Gsamtpopulation vorligt, sondrn aus dn J Tilpopulationn zu dn j β j jm im 63

64 Logistisch Rgrssionsanalys mit SPSS Kritriumsausprägungn jwils in Stichprob mit individullr Quot gzogn wurd. Diss Vorghn ommt z.b. dann in Frag, wnn sich di Tilpopulationn in dr Größ rhblich untrschidn. Zur rfordrlichn Stichprobngröß önnn di Angabn aus Abschnitt.. übrnommn wrdn. Ist di Unabhängigit sichrgstllt und di Stichprobngröß ausrichnd, ann bi inm MLR-Modll also nur di Linarität in dn Logit-Glichungn () vrltzt sin. Wir wrdn im witrn Vrlauf von Abschnitt 3 ohn Bschränung dr Allgminhit aus Gründn dr trminologischn Vrinfachung mist dn Fall J = 3 btrachtn, so dass zwi Vtorn und mit zusammn (M + ) Rgrssionsoffizintn btiligt sind. 3.3 Anwndungsbispil Wi schon im binärn Fall wird auch zur Dmonstration dr multinomialn logistischn Rgrssion in ünstlichr Datnsatz vrwndt. Zwar ommt hir wnigr Spannung auf als bi chtn Datn, doch bim Erzugn dr Datn bschäftigt man sich gründlich mit dn vom Modll bhaupttn mpirischn Gstzmäßigitn und gwinnt inn gutn Eindruc von dn potntilln Einsatzmöglichitn ds Vrfahrns. Wir stlln uns vor, dass in inr Studi Bwohnr inr Klinstadt nach ihrr Vorlib für in von dri Knipn bfragt wrdn. Di so ntsthnd nominalsalirt Kritriumsvariabl mit dri Katgorin soll dn Namn KNEIPE rhaltn. Außrdm vrwndn wir als atgorialn Präditor in fingirt Gschlchtsvariabl (GESCHL) mit folgndr Kodirung: o : Frau o 0: Mann als mtrischn Präditor in fingirt Altrsvariabl (ALTER) Im Vrglich zur Rfrnznip Nummr 3 spricht di rst Knip hr Publium rifrn Altrs an, so dass dr logarithmirt Wahrschinlichitsquotint P(KNEIPE ) ln P(KNEIPE 3) mit dm Altr wächst. In dr zwitn Knip fühln sich vor allm jung Lut wohl, so dass drn Präfrnz ggnübr dr drittn Knip P(KNEIPE ) ln P(KNEIPE 3) mit dm Altr sint Außrdm soll di zwit Knip noch in spzill Attration für Fraun bsitzn, z.b. durch inn Prisnachlass auf all Gträn. Wir lgn in unsrr ünstlichn Population übr zwi Logit-Glichungn das folgnd wahr Modll fst: P(KNEIPE ) ln 3,5 0,07 ALTER P(KNEIPE 3) P(KNEIPE ) ln,5 0,05 ALTER,3 GESCHL P(KNEIPE 3) Gmäß Abschnitt 3. gilt z.b. für dn Efft (das odds ratio) von Gschlcht in dr zwitn Glichung: 64

65 Logistisch Rgrssionsanalys mit SPSS P(KNEIPE ALTER, GESCHL ) P(KNEIPE 3 ALTER, GESCHL ) P(KNEIPE ALTER, GESCHL 0) P(KNEIPE 3 ALTER, GESCHL 0) G Ein Zufallsstichprob mit 5 Fälln aus dr ünstlichn Population findn Si in dr Dati KNEI- PE.SAV an dr im Vorwort vrinbartn Stll. Di multinomial logistisch Rgrssionsanalys dr Bispildatn (durch di SPSS-Prozdur NOM- REG) wird nach folgndrmaßn angfordrt: Analys > Rgrssion > Multinomial logistisch 3,67 Übr dn Schaltr Statistin ativirn wir noch di folgndn optionaln Ausgabn: Klassifiationsmatri Anpassungsgüt Statt di (dichotom!) GESCHL-Variabl (wi schon dn Präditor ERBE im DBS-Bispil) als Kovariat zu bhandln, ann si auch als Fator inbzogn wrdn. Dabi ommt s zu sachlich irrlvantn Ändrungn dr Schätzrgbniss: Di GESCHL-Rgrssionsoffizintn in dn bidn Logit-Glichungn wchsln das Vorzichn, und bi dn Konstantn ommt s zu ompnsirndn Ändrungn. Mit dr folgndn GESCHL-Kodirung : Frau : Mann lassn sich di obrflächlich Abwichungn dr Schätzrgbniss vrhindrn. NOMREG vrwndt nämlich bi nominalsalirtn Präditorn di Indiator- (alias Dummy-) Kodirung (vgl. Abschnitt.7), wobi di Katgori mit dm höchstn Wrt als Rfrnz fungirt, also dn Wrt 0 bi alln Kodirvariabln rhält. Bi dr bn vorgschlagnn GESCHL-Rodirung rsultirt ltztlich in Indiatorvariabl mit dn rwünschtn Wrtn: : Frau 0: Mann 65

66 Logistisch Rgrssionsanalys mit SPSS 66 Wil di Bhandlung als Fator bi dichotomn Rgrssorn inn Vortil bringt, ann man sich dn Aufwand sparn. 3.4 Paramtrschätzung Im Untrschid zu Abschnitt.3. btrachtn wir anschlißnd in Individualdatn, sondrn Präditorwrtombinationn, wil di SPSS-Prozdur NOMREG grundsätzlich mit aggrgirtn Datn rchnt. Dahr glangn wir zu inr Lilihood-Funtion, di sich licht (um in Konstant) vom Ggnstüc für Individualdatn untrschidt, sofrn tatsächlich mhrfach bstzt Präditorwrtombinationn vorhandn sind. Für di Präditorwrtombination wrd mit h di Gruppnstär und mit j y~ di bobachtt Häufigit dr j-tn Kritriumsatgori bzichnt, di als Ralisation inr Zufallsvariabl j Y ~ aufgfasst wrdn ann. Für in onrt Stichprobnralisation ( ~ y, ~ y, 3 ~ y, ~ y,..., ~ K y, ~ K y, 3 ~ K y ) dr Zufallsvariabln j Y ~ zu K Präditorwrtombinationn und 3 Kritriumsatgorin rgibt sich aus dm Modll dr multinomialn logistischn Rgrssion folgnd Wahrschinlichit: K y y y y y y h ~ ~ ~ 3 3! ~! ~! ~! β β β β β β β β Auch in Abschnitt.3. zum binärn Modll hätt man analog di Wahrschinlichit ) ~ ~...,, ~ ~ P( K Y K y y Y an Stll von {0,} ),...,,, P( i N N y y Y y Y y Y btrachtn önnn. Dort wurdn nicht zultzt mit Rücsicht auf di SPSS-Prozdur LOGISTIC REG- RESSION Individualdatn bvorzugt. Bid Ansätz untrschidn sich nur um in trivial Konstant, doch sorgn di untrschidlichn Lilihood-Brchnungn für inig Vrwirrung, so dass wir das Thma in Abschnitt 3.8 noch inmal aufgrifn. Mit dn fri schätzbarn Vtorn b und b an Stll von und rhaltn wir für das multinomial Modll di folgnd Lilihood-Funtion: K y y y y y y h ~ ~ ~ 3 3! ~! ~! ~! ) :, L( b b b b b b b b b b Gsucht sind Paramtrvtorn M 0 ˆ...,, ˆ, ˆ ˆ β β β β und M 0 ˆ...,, ˆ, ˆ ˆ β β β β, wlch di Lilihood- Funtion maimirn. Um di Etrmwrtbstimmung zu rlichtrn, di mit inm itrativn Vrfahrn (z.b. Nwton-Raphson) rfolgt, ght man zum Logarithmus übr: K K K K h y y y y y h y y y y y y h ln ~ ~! ~! ~! ~! ln ln ~ ln ~ ln ~! ~! ~! ~! ln, L ln :, LL b b b b b b b b b b b b b b b b Als Ergbnis rhält man di ML-Schätzungn dr Paramtr, aus dnn sich sofort di ML-Schätzungn dr Wahrschinlichitn P(Y = j) zu dn Präditorwrtombination rgbn.

67 Logistisch Rgrssionsanalys mit SPSS Für unsr Knipnbispil mit dn banntn Populationsvrhältnissn lifrt di Zufallsstichprob folgnd Schätzr: Trotz dr nicht allzu großn Stichprob lign all Schätzr rlativ nah bi dn wahrn Populationsparamtrn. Wil unsr Modll garantirt stimmt, dürfn wir uns schon vor inr Modllgültigitsprüfung mit dr Paramtrintrprtation bschäftign. Übr di rst Logit-Glichung rfahrn wir aus dn Schätzrgbnissn, dass bi inm Altrszuwachs von 0 Jahrn das Wahrschinlichitsvrhältnis P(KNEIPE ) P(KNEIPE 3) 0 0,067 um dn Fator, 95 wächst. Zum Einfluss ds Präditors GESCHL önnn wir aus dn Schätzrgbnissn für di zwit Logit- Glichung dirt ablsn, dass bi Fraun das Wahrschinlichitsvrhältnis P(KNEIPE ) P(KNEIPE 3) ungfähr um dn Fator,96 höhr ligt als bi Männrn. 3.5 Modllgültigit Wi Si brits wissn, sind Modllgültigitststs übr di Parson- bzw. Dvianz-Statisti nur bi Datn mit mhrfach bstztn Präditorwrtombinationn möglich. Damit ist bi unsrn Datn nicht zu rchnn, wil mit ALTER in rlativ präzis gmssnr mtrischr Rgrssor btiligt ist. SPSS ritisirt, dass bi zahlrichn Präditorwrtombinationn lr Kritriumszlln auftrtn: Kritisch für di Aussagraft dr Modllgültigitststs übr di Parson- bzw. Dvianz-Statisti sind zwar nicht gring bobachtt Häufigitn, sondrn gring rwartt Häufigitn, doch sprchn lr Kritriumszlln bi zahlrichn Präditorwrtombinationn ggn ausrichnd rwartt Häufigitn untr dm zu prüfndn Modll. Di igntlich unzulässign Tsts ommn abr trotzdm zum orrtn Ergbnis: 67

68 Logistisch Rgrssionsanalys mit SPSS Durch diss Bispil solln Si abr insfalls dazu rmuntrt wrdn, di bidn Tsts unvrdrossn auf Individualdatn (mit übrwignd nur infach bstztn Präditorwrtombinationn) anzuwndn. Di bssr Altrnativ bstht darin, für jd Logit-Glichung in binärs Partialmodll mit inr gignt ingschräntn Stichprob schätzn zu lassn, um dn hir vrfügbarn Hosmr-Lmshow-Tst nutzn zu önnn (vgl. Hosmr & Lmshow 000, S. 8). Diss Vrfahrn ist aum bdnlich, wil aus binärn Partialmodlln onsistnt Schätzr rsultirn, di in viln Situationn sogar rlativ ffizint sind (Hosmr & Lmshow 000, S. 78). In unsrm Fall rsultirt für di rst Logit-Glichung: und für di zwit Glichung: Dass all Tsts für unsr Modll votirn, durftn wir rwartn. Übr das Kontrollästchn Zllwahrschinlichitn in dr Statistin-Subdialogbo ann man NOMREG dazu bwgn, di Parson-Rsidun ds Modlls zu tabllirn. Dis sind jdoch nur bi mhrfach bstztn Präditorwrtombinationn sinnvoll zu intrprtirn (sih Abschnitt.4..), so dass wir bi unsrm Bispil auf in Insption vrzichtn. 3.6 Burtilung dr Modllrlvanz Di global Nullhypoths 0 : j j... jm 0, j,.., J H wird pr Lilihood-Quotintn-Tst dutlich zurücgwisn: Wil di global Nullhypoths in zwi Logit-Glichungn jwils zwi Paramtr (zu ALTER und GESCHL) ngirt, rsultirt in approimativ - vrtilt Prüfgröß mit 4 Frihitsgradn. Di Psudo-R -Statistin basirn auf dn Lilihood-Wrtn vrschidnr Modll und sind im multinomialn Fall analog zum binärn instzbar (vgl. Abschnitt.5.). Wir rhaltn: Ebnso uningschränt vom binärn Fall zu übrnhmn ist di Klassifiationstabll: Konsistnt Schätzr ommn dn wahrn Wrtn mit wachsndr Stichprobngröß blibig nah. Effizint Schätzr bsitzn im Vrglich zu potntilln Altrnativn in rlativ lin Varianz. 68

69 Logistisch Rgrssionsanalys mit SPSS Das Publium dr Knip 3 ann offnbar mit dn vrfügbarn Präditorn schlcht lassifizirt wrdn. 3.7 Burtilung dr inzlnn Rgrssorn Zur Signifianzburtilung dr inzlnn Paramtr sthn für jd Logit-Glichung Wald-Tsts zur Vrfügung. In unsrm Bispil wrdn all in dr ünstlichn Population von 0 vrschidnn Paramtr als signifiant burtilt (sih Tabll in Abschnitt 3.4). Zusätzlich lifrt NOMEG auch Lilihood-Quotintn-Tsts, di bid Logit-Glichungn simultan brücsichtign: Übr das NOMREG-Subommando TEST, dssn Listungn nur pr Synta vrfügbar sind, lassn sich Hypothsn übr blibig Linarombinationn von Paramtrn prüfn. Z.B. ann man: zwi (odr mhr) Paramtr auf Idntität tstn, inn Paramtr ggn in spzilln Wrt tstn (statt ggn 0), mhrr Hypothsn simultan tstn. Mit folgndr Synta NOMREG nip WITH altr gschl /MODEL /INTERCEPT = INCLUDE /PRINT = FIT PARAMETER SUMMARY LRT /TEST () = ALL 0 0. wird für das Knipnbispil di Hypoths H 0 : G = gtstt, di inn bstimmtn Gschlchtsfft in Logit-Glichung bhauptt. NOMREG protoollirt zunächst sin Intrprtation dr Synta: In dr folgndn Tabll intrssirn nur di Ergbniss für di zwit Logit-Glichung: 69

70 Logistisch Rgrssionsanalys mit SPSS 70 Dr Wald-Tst schitrt napp an dr Signifianzgrnz, so dass di (tatsächlich falsch) Nullhypoths nicht abglhnt wrdn ann. Nbn dn sparatn Wald-Tsts für di inzlnn Logit-Glichungn lifrt NOMREG auch inn simultann Wald-Tst übr all Glichungn, dr abr im Bispil nicht intrssirt: Nähr Informationn zum NOMREG-Subommando TEST findt man in dr SPSS-Hilf übr Hilf > Bfhlssynta-Rfrnz > NOMREG 3.8 Log-Lilihood - Variantn Bi Vrglichn mit dr Litratur odr mit dn Ergbniss andrr Programm (z.b. SAS, Stata) stößt man bi dn mitgtiltn Log-Lilihood Wrtn zu vrschidnn Modlln auf drastisch Untrschid, di abr nicht auf Fhlr sondrn auf untrschidlich Dfinitionn zurücghn. Sogar di bidn SPSS-Prozdurn LOGISTIC REGRESSION und NOMREG untrschidn sich in disr Hinsicht. Es schint also rfordrlich, twas Müh in di Auflärung dr Untrschid zu invstirn. Aus Abschnitt 3.4 nnn wir schon folgnd Darstllung für di Lilihood im Modll dr multinomialn logistischn Rgrssion: Krn Konstant! ~! ~! ~!! ~! ~! ~! ), L( ~ ~ ~ 3 ~ ~ ~ K y y y K K y y y y y y h y y y h b b b b b b b b b b b b b b b b b b Wil dr lin Fator offnbar nicht von dn Paramtrn abhängt und dahr sowohl bi dr ML- Schätzung wi auch bi Modllvrglichn irrlvant ist, lassn manch Programm bzw. Autorn dis multinomial Konstant untr dn Tisch falln und bschränn sich auf dn (oft als Krn bzichntn) rchtn Fator. Ist in inzig Präditorwrtombination mhrfach bstzt (K = N), dann ist di multinomial Konstant glich und ihr Brücsichtigung folglich irrlvant. Auch di von LOGISTIC REGRESSION pratizirt Vrarbitung auf Individualdatn und Btrachtung dr Wahrschinlichit )...,,, P( N Y N y y Y y Y an Stll von P( ~ Y = ~ y, ~ Y = ~ y,.., K Y ~ = K y~ ) führt zu inr Lilihood-Funtion ohn das binomial Analogon zur obign Konstantn. Im folgndn Bispil aus Hosmr & Lmshow (000, S. 66) zum Efft von familiärr Erfahrung mit Brustrbs (Variabl HIST) auf di Tilnahm an dr Frührnnung pr Mammographi (Variabl ME)

71 Logistisch Rgrssionsanalys mit SPSS lifrt di SPSS-Prozdur NOMREG u.a. folgnd Tabll mit -LL - Wrtn: Bi Hosmr & Lmshow (000, S. 67) findt sich dmggnübr in Log-Lilihood von -396,7. Es zigt sich, dass di SPSS-Prozdur NOMREG di mit (-) vormultiplizirt ompltt Lilihood ausgibt, währnd sich Hosmr & Lmshow auf dn Krn bschränn: LL( Paramtr) ln( multinomialkonstant) ln( Krn) ln 386,34 396,7 9,89 368! 0!85!63! 44! 4!9!! ln( Krn) 7

72 Logistisch Rgrssionsanalys mit SPSS 4 Di ordinal logistisch Rgrssion Zur Auflärung von ordinaln Kritrin durch in Modll mit nominaln und/odr mtrisch Rgrssorn stht in SPSS di Prozdur PLUM (PoLytomous Univrsal Modl) brit. Nbn dr ordinaln logistischn Rgrssion, auf di wir uns bschränn, wrdn auch ordinal Variantn andrr Modll untrstützt (z.b. das ordinal Probit-Modll). Dr Bqumlichit halbr wird im Manusript glgntlich di Abürzung OLR für di ordinal logistisch Rgrssion vrwndt. Prinzipill ann in ordinals Kritrium auch mit dr multinomialn logistischn Rgrssion (MLR) untrsucht wrdn, doch bringt di OLR rhblich Vortil, wil si di ordinal Strutur im Kritrium brücsichtigt und dahr dutlich wnigr Paramtr bnötigt: Di Ergbniss sind lichtr zu intrprtirn. Di Hypothsntsts habn in größr Tststär. Allrdings önnn di im ordinaln Modll nthaltnn Rstritionn auch falsch sin, z.b. wgn inr falschn Annahm übr di Anordnung dr Kritriumsatgorin. Für di Erwitrung dr BLR auf ordinal Kritrin sind mhrr Vorschläg rarbitt wordn (sih Allison 999, S. 33ff; Hosmr & Lmshow 000, S. 88ff), wobi wir uns auf das mist vrwndt und in dr SPSS-Prozdur PLUM untrstützt umulativ Logit-Modll (McCullagh 980) bschränn. 4. Das umulativ Logit-Modll Bi inm ordinaln Kritrium mit J Stufn rlärt das umulativ Logit-Modll in J Glichungn jwils di umulativ Wahrschinlichit P(Y j) für j =,,..., J - : P( Y j j) βx j βx, mit β : X X. X,,.., und X :., j,.., J M Jd inzln Glichung ist im Wsntlichn von drslbn Form, di schon im binärn Fall zum Einsatz am (sih Glichung ()). Offnbar ist das BLR-Modll als Spzialfall mit J = im OLR-Modll nthaltn. Allrdings ist in trminologisch Abwichung im Vrglich zum BLR-Modll zu bachtn: Im Modll (4) wird di Wahrschinlichit dr Zughörigit zu inr Klass mit Ind linr odr glich j modllirt. Andrrsits rwartt man von inm ordinaln Rgrssionsmodll intuitiv, dass in Präditor mit ritriums-stigrndr Wirung inn positivn Rgrssionsparamtr bsitzt. Als infach Lösung hat sich ingbürgrt, di Rgrssionsparamtr im Modll (bis auf di onstantn Trm) mit inm ngativn Vorzichn zu vrshn. Damit bhaupt di j-t Modllglichung bi Wrtstigrungn ins positiv wirndn Präditors in sinnd Wahrschinlichit dr Kritriumsatgorin mit Ind linr odr glich j. Man ann sich abr nicht gnrll darauf vrlassn, dass all Statisti-Programmpat mit disr Modllvariant arbitn. Di SAS-Prozdur LOGISTIC tut s z.b. nicht und lifrt dahr im Vrglich zur SPSS-Prozdur PLUM btragsglich Schätzr mit umghrtn Vorzichn. Dass dr (im Vrglich zu frührn analogn Dfinitionn um 0 gürzt) Paramtrvtor ohn Ind für di Glichung ausommt, stllt in zntral Eignschaft ds umulativn Modlls dar: Währnd s für jd Glichung inn fri schätzbarn onstantn Trm j nthält, sind di rstlichn Rgrssionsoffizintn in alln Glichungn idntisch. Dis Annahm paralllr Rgrssionn stllt di ntschidnd Rstrition dr umulativn OLR ggnübr dr MLR dar und muss bi jdr Anwndung ds M (4) 7

73 Logistisch Rgrssionsanalys mit SPSS Modlls gtstt wrdn. Bgründt man das umulativ Logit-Modll durch in linars Hintrgrundmodll für in mtrisch Variabl, aus dr di ordinal Kritriumsvariabl Y durch vrgröbrnds Mssn hrvorggangn ist, dann rschint di Annahm paralllr Rgrssionn als shr plausibl (sih untn). Analog zum binärn Fall ann man di Modllformulirung in Forml (4) äquivalnt auch durch di folgndn Glichungssystm übr Odds (Wahrschinlichitsquotintn) odr Logits (logarithmirt Wahrschinlichitsquotintn) rstzn, di u.a. bi dr Intrprtation dr Rgrssionsoffizintn von Nutzn sind: P( Y j) j βx j X X... M X M j X X M X M, j,.., J P( Y j) P( Y ln P( Y j) j) j X, j,.., J Auch das ordinal logistisch Modll ann aus inm linarn Modll für in latnt ontinuirlich Variabl mit logistisch vrtiltm Fhlrantil hrglitt wrdn (vgl. Abschnitt..4), wobi di manifst Kritriumsvariabl Y aus dr latntn Variabln durch in Trppnfuntions-Mssmodll mit Schwllnwrtn hrvorght: 0 X X... M X M (5),, Y.. J, falls 0 falls falls J J Wi im binärn Fall gilt ausdrüclich, dass di Untrstllung inr solchn Hrunft in Vorausstzung für di Vrwndung ds ordinaln logistischn Modlls ist. Im folgndn Bispil hängt di latnt Kritriumsvariabl von inm Präditor X ab und ght durch vrgröbrnd Mssung in in manifsts Kritrium mit vir Stufn übr: 73

74 Logistisch Rgrssionsanalys mit SPSS Di farblich gnnzichntn Flächnantil sthn für di Wahrschinlichitn dr vir Y-Katgorin bi inm bstimmtn X-Wrt. Offnbar sint mit wachsndm X-Wrt z.b. di Wahrschinlichit dr rstn Y-Katgori, währnd für di virt Y-Katgori das Ggntil gilt. Analog zur BLR-Situation bstht auch im OLR-Modll mit latntm Hintrgrund in infach Bzihung zwischn dn -Koffizintn in dr Rgrssionsglichung für und dn Koffizintn im Modll (4). Für di Wahrschinlichit gilt: Wi in Abschnitt..4 rhaltn wir: Mit dn Dfinitionn: gilt: P(Y > j) = P( > j ), j =,,, J - P( j ) P( 0 j X X... M X M ) P( j ) P j m 0 j X X... j 0 : m :, m,..., M P( ) P( βx) j Di Wahrschinlichit dafür, dass di Zufallsvariabl inn Wrt linr odr glich (- j + X) annimmt, ist idntisch mit dm Wrt ihrr Vrtilungsfuntion an disr Stll: P( j βx) j j βx j βx Bi Btrachtung dr Wahrschinlichit P(Y j) rgibt sich Modll (4): j βx P( Y j) P( Y j) j βx j βx M X M Wir habn grad gshn, dass di aus inm latntn Modll abglittn Koffizintn dr j-tn Glichung ds umulativn Logit-Modlls mit Ausnahm ds onstantn Trms nicht von dr Wahl ds Schwllnwrts j abhängn. Wil sich di J - Glichungn ds umulativn OLR-Modlls nur durch dn zur Dichotomisirung dr latntn Variabln vrwndtn Schwllnwrt j untrschidn, rgibt sich untr disr Prsptiv zwingnd das umulativ Logit-Modll (4) mit inm inzign -Vtor. Aus dr Annahm paralllr Rgrssionn folgt für zwi fst Präditorwrtombinationn und, dass dr Quotint aus ihrn Wahrschinlichitsvrhältnissn (ihr odds ratio) nicht von dr Grnzatgori j abhängt: P( Y j X ) P( Y j X ) P( Y j X ) P( Y j X ) β( ) j βx j βx Dahr wird das umulativ Logit-Modll in dr anglsächsischn Litratur auch als proportional-odds modl - Modll bzichnt. (6) 74

75 Logistisch Rgrssionsanalys mit SPSS 4. Anwndungsbispil Als Bispil grifn wir di Risiofatorn für Durchblutungsstörungn widr auf (Dati DBS.SAV, sih Abschnitt.), wobi abr in dristufigs Kritrium (Variabl DBS3) vrwndt wird: 0 Kin diagnostizirt Durchblutungsstörung Priphr Durchblutungsstörungn Koronar Hrzranhit, Schlaganfall odr Vorstuf Abwichnd von dn in Abschnitt. bschribnn Vrhältnissn stht in dr ünstlichn Population das manifst und ordinal Kritrium DBS3 in folgndr Bzihung zur latntn und sttign Variabln : 0, falls DBS3, falls, falls 5 Das Modll für di latnt Variabl lautt unvrändrt: 4RAUCHERRAUCHER, ,06ABWIG 0,75 BEWEG 0,033DRUCK, STRESS,55ERBE Wir bzihn all Präditorn (ABWIG, BEWEG, DRUCK, STRESS, ERBE, RAUCHER) in und fordrn in OLR mit dr SPSS-Prozdur PLUM nach in folgndr Dialogbo an: Analysirn > Rgrssion > Ordinal Hir wird dr dichotom Präditor ERBE als Kovariat bhandlt. Dlarirt man ihn als Fator, ommt s zu sachlich irrlvantn Ändrungn dr Schätzrgbniss: Dr Rgrssionsoffizint wchslt das Vorzichn, und bi dn Schwlln ommt s zu ompnsatorischn Ändrungn. Aufgrund dr BLR-Histori habn di Katgorin unsrs Kritriums numrisch Wrt ab 0, was in licht Disrpanz zur obign Formulirung ds allgminn OLR-Modlls schafft (mit j =,,.., J). 75

76 Logistisch Rgrssionsanalys mit SPSS Übr dn Schaltr Ausgab fordrn wir zusätzlich dn Paralllitätstst für Linin an: 4.3 Paramtrschätzung Di Paramtrschätzungn wrdn wi üblich nach dm ML-Prinzip rmittlt. Wil sich in wsntlichn Untrschid zur Situation bi dr BLR und dr MLR rgbn, rsparn wir uns dismal di Formln. Für unsr Bispil mit banntn Populationsparamtrn lifrt di Zufallsstichprob folgnd Schätzr: Für P(Y 0) lifrt das Modll di folgnd Schätzung:,745βX ˆ,745βX ˆ mit β ˆX 0,05 ABWIG - 0,80 BEWEG 0,035 DRUCK 0,49STRESS,563 ERBE,59 RAUCHER 0,76 RAUCHER Trotz dr nicht allzu großn Stichprob lign all Schätzr azptabl nah bi dn wahrn Populationsparamtrn, wobi wgn Bzihung (6) und =,5 jwils das,5-fach dr Schätzr zum Vrglich hrangzogn wrdn muss. 76

77 Logistisch Rgrssionsanalys mit SPSS SPSS bzichnt di gschätztn Ordinatnabschnitt (im Bispil ˆ und ˆ ) als Schwlln, siht also darin offnbar Schätzr für di Trnnwrt und, di dn Übrgang von zu Y dfinirn. Allrdings sind di Trnnwrt nicht ohn witrs aus dn Ordinatnabschnittn j ds OLR-Modlls zu gwinnn. In dr folgndn Bstimmungsglichung (sih obn) j 0 j j j 0 stcn zwi Idntifiationsproblm: Das Fhlrgwicht ist unbannt. Auch bi banntm Fhlrgwicht önnt man aus j nicht glichzitig dn Ordinatnabschnitt 0 und dn Schwllnwrt j brchnn. Dis Idntifiationsproblm sind nur durch Annahmn zu lösn. Wil di Statisti-Programmpat dabi vrschidn Wg ghn, rmittln si bi glichn Datn untrschidlich Schätzwrt für di Schwlln (vgl. Long 997, S. ). SPSS ommt übr di Annahmn = 0 = 0 zum Ergbnis: j = j Mit dm (in chtn Studin natürlich nicht vorhandnn) Wissn übr 0 ( = -4) und (=,5) lifrt das gschätzt Modll andr Schwlln, di rcht nah bi dn wahrn Wrtn ( und 5) lign: ˆ ˆ,745,5 4 0,8 0 ˆ ˆ 0 6,0,5 4 5,0 Wil unsr Modll garantirt stimmt, dürfn wir uns schon vor inr Disussion dr Modllgültigitsprüfung mit dr Paramtrintrprtation bschäftign. Wir rfahrn z.b., dass di Wahrschinlichitsquotintn P(DBS 0) P(DBS ) bzw. P(DBS 0) P(DBS ) bi Rauchrn um dn Fator -,59 0, 075 linr ingschätzt wrdn als bi Nichtrauchrn. Bi jdr blibign DBS-Dichotomisirung ist also di gschätzt Wahrschinlichit dr gsündrn Sit bi Rauchrn dutlich linr. Bi disr Intrprtation ist zu bachtn: PLUM arbitt bi nominalsalirtn Rgrssorn mit dr Indiator- bzw. Dummy-Kodirung und vrwndt di ltzt Katgori als Rfrnz. So rsultirn im Bispil für dn Fator RAU- CHER zwi Kodirvariabln mit zughörign Paramtrn, wlch di rst (Rauchr) bzw. zwit (E-Rauchr) Katgori mit dr drittn Katgori (Nichtrauchr) vrglichn. Folglich ann dr z.b. dr Logit-Untrschid zwischn Rauchrn und Nichtrauchrn dirt als ˆ 6 aus dn Schätzrgbnissn abglsn wrdn. In dr folgndn (mit LOGISTIC REGRESSION rzugtn) Tabll wrdn di Indiator-Kodirvariabln bschribn: 77

78 Logistisch Rgrssionsanalys mit SPSS Bim Brchnn dr Efftgrößn ist zu bachtn, dass di -Koffizintn mit inm ngativn Vorzichn in das OLR-Modll inghn. Für in um 3 Salnpunt höhrs Maß an Körprbwgung wird für di Wahrschinlichitsvrhältniss in Ändrung um dn Fator, 09 in dr gsundn Richtung 3 0,80 gschätzt. 4.4 Modllgültigit 4.4. Paralllität Zunächst wird im Paralllitätstst wird das OLR-Modll in Glichung (4) mit inr libralisirtn Variant vrglichn, di für jd Logitglichung inn ignn Vtor j mit Rgrssionsgwichtn schätzt: β X j j P( Y j), mit β : j j j j β jx,,..,, j,.., J jm Bi inm dristufign Kritrium (mit zwi Logit-Glichungn) prüft dr Paralllitätstst di folgnd Nullhypoths: H 0 :,,..., M M Wil durch di Rstritionn im parallln Modll grad M Paramtr ingspart wrdn, rhaltn wir in unsrm Bispil in Prüfgröß mit 7 Frihitsgradn: Dr Tst spricht dutlich für di Annahm paralllr Rgrssionn, so dass di Globalburtilung ds OLR-Modlls für unsr Bispil insgsamt positiv ausfällt. Im Fall inr unhaltbarn Paralllitätsannahm ann vntull in Modifiation ds Modlls Abhilf schaffn (z.b. di nichtlinar Transformation ins mtrischn Präditors). Sollt di in Abschnitt 4.8 disutirt Homognitätsannahm problmatisch sin, ann mit SPSS-PLUM in Loations-Saln - Modll gschätzt wrdn. Bi O Connll (006, S. 47ff) wrdn witr Optionn disutirt, z.b.: Sparat Btrachtung dr binärn Bstandtil von Modll (4) So rhält man allrdings wdr in sparsams Modll, noch indutig Schätzungn zu dn Wahrschinlichitn dr Kritriumsausprägungn. Vrwndung dr multinomialn logistischn Rgrssion Dabi wird allrdings di ordinal Strutur ds Kritriums ignorirt Global Modllgültigit Auch bi dr OLR rmöglichn di Parson- und di Dvianz-Statisti jwils di Konstrution ins globaln Modllgültigitststs. Aus dn in Abschnitt.4. disutirtn Gründn sind di Tsts abr nur bi mhrfach bstztn Präditorwrtombinationn anwndbar, in unsrm Bispil also aum. Si ommn abr trotzdm zum orrtn Ergbnis: 78

79 Logistisch Rgrssionsanalys mit SPSS Durch diss Bispil solln Si abr insfalls dazu rmuntrt wrdn, di bidn Tsts auf Individualdatn (mit übrwignd infach bstztn Präditorwrtombinationn) anzuwndn. Ersatzwis wird vorgschlagn, di Gültigit ds OLR-Modlls (4) in zwi Schrittn zu tstn: Man bildt für jd inzln Logit-Glichung durch gignt Dichotomisirung ds Kritriums in binärs Modll und nutzt dn hir vrfügbarn Hosmr-Lmshow - Tst (sih Abschnitt.4..3). Sind di dichotomn Modll azptirt, ist noch di Annahm paralllr Rgrssionn zu prüfn. Dazu bitt di PLUM-Prozdur inn Tst, dr auch bi Individualdatn anwndbar ist (sih untn). Für das rst binär Partialmodll ist in unsrm Bispil folgnds Kritrium zu vrwndn:, DBSa 0, falls DBS3 0 sonst Abgshn von dr (ltztlich blibign) Katgorinnummrirung handlt s sich natürlich um dasslb Kritrium, das wir im Zusammnhang mit dr BLR untrsucht habn. Wi wir brits wissn, azptirt dr Hosmr-Lmshow-Tst diss binär Modll: Für das zwit binär Partialmodll wird folgnds Kritrium vrwndt:, falls DBS3 DBSb 0, sonst Auch diss Modll bstht dn Gültigitstst: Loal Modllanalys Wr auch in loal Modllanalys vornhmn möcht, ann übr das Kontrollästchn Zllinformationn in dr PLUM-Subdialogbo Ausgab Parson-Rsidun sowi bobachtt und rwartt Zllhäufigitn anfordrn, wobi in Intrprtation dr Rsidun nur bi mhrfach bstztn Präditorwrtombinationn sinnvoll ist, in unsrm Bispil also sichr nicht. 79

80 4.5 Burtilung dr Modllrlvanz Di global Nullhypoths Logistisch Rgrssionsanalys mit SPSS 0 :... M 0 H wird für unsr Bispil pr Lilihood-Quotintn-Tst dutlich zurücgwisn: Wil von dr globaln Nullhypoths 7 Rgrssionsgwicht auf 0 fiirt wrdn, rsultirt in approimativ - vrtilt Prüfgröß mit 7 Frihitsgradn. Auch bi dr OLR önnn di in Abschnitt.5. disutirtn Psudo-R -Statistin brchnt wrdn, di auf dn Lilihood-Wrtn vrschidnr Modll basirn. Wir rhaltn: Lidr gibt di Prozdur PLUM in Klassifiationstabll aus, ann abr immrhin di vorhrgsagt Katgori in in nu Variabl schribn (Subdialogbo Ausgab): Nach disr Vorarbit rhält man in brauchbar Klassifiationstabll übr dn folgndn Mnübfhl Analysirn > Dsriptiv Statistin > Kruztablln Übr di Subdialogbo Zlln ann man auch noch di Prozntantil richtigr Klassifiationn brchnn lassn: 80

81 Logistisch Rgrssionsanalys mit SPSS Im Bispil wrdn 48 ( ) von 00 Fälln (= 74 %) richtig ingordnt. Einn ralistischn Eindruc von dr Diagnoslistung ins Modlls vrmittlt allrdings nur in Kruzvalidirung, di bi inr OLR mit SPSS lidr twas Handarbit rfordrt: Man brchnt für di Fäll dr Kruzvalidirungsstichprob mit Hilf dr gschätztn Paramtr di prognostizirtn Wahrschinlichitn dr Kritriumsatgorin und wählt di Katgori mit dm größtn Wrt als Modllprognos. 4.6 Burtilung dr inzlnn Rgrssorn Zur Signifianzburtilung dr inzlnn Paramtr sthn Wald-Tsts zur Vrfügung (sih Abschnitt.6). In unsrm Bispil wrdn all Rgrssorn mit Ausnahm dr zwitn RAUCHER-Kodirvariabln als signifiant burtilt (sih Tabll in Abschnitt 4.3). Wi di SPSS-Prozdur NOMREG bsitzt auch PLUM in Subommando TEST, das pr Synta di Prüfung von Hypothsn übr blibig Linarombinationn von Paramtrn rlaubt. Man ann z.b.: zwi (odr mhr) Paramtr auf Idntität tstn, inn Paramtr ggn inn blibign Wrt tstn (statt ggn 0), mhrr Hypothsn simultan tstn. Um in unsrr Bispilstudi zu inm Gsamturtil übr dn atgorialn Rgrssor RAUCHER zu ommn, sollt man di Rgrssionsoffizintn 6 und 7 zu dn RAUCHER-Kodirvariabln inm simultann Tst untrzihn, dssn Nullhypoths lautt: H : Ein solchr Tst ann mit dr folgndn Synta angfordrt wrdn: PLUM dbs3 BY rauchr WITH abwig bwg druc strss rb /TEST (0, 0) = ALL ; ALL PLUM protoollirt zunächst sin Intrprtation dr Synta: 0 8

82 Logistisch Rgrssionsanalys mit SPSS Anschlißnd rschinn sparat Wald-Tsts für di inzlnn Kontrast bzw. Paramtr, di im onrtn Bispil abr in Nuigitn nthaltn: Im simultann Wald-Tst übr bid Paramtr wird di RAUCHER-Nullhypoths dutlich vrworfn: Nähr Informationn zum PLUM-Subommando TEST findt man in dr SPSS-Hilf übr Hilf > Bfhlssynta-Rfrnz > NOMREG Übr das Kontrollästchn Zllinformation in dr Ausgab-Subdialogbo ann man PLUM dazu bwgn, di Parson-Rsidun ds Modlls zu tabllirn. Dis sind jdoch nur bi mhrfach bstztn Präditorwrtombinationn sinnvoll zu intrprtirn (sih Abschnitt.4..), so dass wir bi unsrm Bispil auf in Insption vrzichtn. 4.7 Vrglich mit altrnativn Auswrtungsvrfahrn Zum Urtil übr di Listungsfähigit dr OLR-Analys önnn di Ergbniss altrnativr Auswrtungsvrfahrn inn Bitrag listn Multinomial logistisch Rgrssion Ignorirt man in unsrm Bispil di ordinal Strutur ds Kritriums und führt in MLR-Analys durch, dann rhält man grundsätzlich vrglichbar, abr in Dtails wnigr prägnant Ergbniss, di zudm schwrr zu intrprtirn sind. 8

83 Logistisch Rgrssionsanalys mit SPSS Di Nullhypoths zum Präditor STRESS ann im Lilihood-Quotintn-Tst nicht vrworfn wrdn: Di höhrn Psudo-R Statistin sprchn nicht für in Übrlgnhit ds multinomialn Modlls, wil bi drn Brchnung di 7 zusätzlichn Paramtr (im Vrglich zum OLR-Modll) nicht in Rchnung gstllt wrdn: 4.7. Linar Rgrssions- bzw. Varianzanalys Bi inm dristufign Kritrium sind di Annahmn dr linarn Rgrssions- bzw. Varianzanalys übr di Normalvrtilung dr Rsidun zwifllos grob vrltzt. Trotzdm wurd zu Vrglichszwcn übr Analysirn > Allgmins linars Modll > Univariat 83

84 Logistisch Rgrssionsanalys mit SPSS in Kovarianzanalys mit unsrn Datn grchnt. Aufgrund dr bi DBS3 im Vrglich zur latntn Variabln rhblich ingschräntn Standardabwichung (0,77 vrsus 4,74) sind di gschätztn Rgrssionsoffizintn btragsmäßig dutlich linr als di wahrn Paramtr im Modll für di latnt Variabl, si sthn jdoch untrinandr in plausibln Rlationn: Zwar sind di Ergbniss trotz dr grob vrltztn Normalvrtilungsannahm insgsamt nur mäßig vrzrrt, doch wird wi bi dr MLR-Analys dr Efft ds Präditors STRESS übrshn : Di banntrmaßn falsch Nullhypoths ann nicht vrworfn wrdn. Dr (unorrigirt) Dtrminationsoffizint ligt mit 0,597 ungfähr im slbn Brich wi di Psudo-R - Maß dr OLR. 4.8 Loations-Saln - Modll In Abschnitt 4. habn wir das linar Hintrgrundmodll für in mtrisch latnt Variabl auf di ordinal logistisch Rgrssion angwndt: X X... 0 M X M Hir wird angnommn, dass di Rsidualvariabl für jd Präditorwrtombination in logistisch Vrtilung mit dr idntischn Varianz bsitzt (Homognitätsannahm), wobi dr Paramtr für 3 di Anpassung an di Rsidualvarianz in dr atull untrsuchtn Population zuständig ist. Wi di witr Argumntation in dn Abschnittn..4 und 4. zigt, ght nbn m auch in dn Paramtr m ds Modlls für das manifst ordinal Kritrium in: m m :, m,..., M Im bishrign (homosdastischn) Modll ann dr Paramtr nicht gschätzt wrdn. Wird in Studi in zwi Populationn (mit jwils gültigr Homognitätsannahm) durchgführt, lign vntull zwi vrschidn - Wrt vor. Findt man für inn Rgrssionsoffizintn in bidn Populationn vrschidn Wrt, ann nicht ntschidn wrdn, ob vrschidn Wirungn vorlign, odr untrschidlich Rsidualvarianzn (mit-)vrantwortlich sind (Williams, R. 009). Für jd Anwndung dr logistischn Rgrssionsanalys (mit inm nominaln odr ordinaln Kritrium) hat in Vrltzung dr Varianzhomognitätsannahm zwi unrfrulich Konsqunzn (Kl & Par 006): 84

85 Logistisch Rgrssionsanalys mit SPSS untr- odr übrschätzt Standardfhlr mit ntsprchndn Folgn für di Infrnzstatisti (Konfidnzintrvall, Hypothsntsts) vrzrrt, inonsistnt Paramtrschätzungn Währnd bi inr linarn Rgrssionsanalys (mit inm mtrischm Kritrium) nur di Infrnzstatisti untr vrltztr Homosdastizität lidt, sind bi dr logistischn Rgrssion auch di Paramtrschätzungn btroffn, was aufgrund ds in Glichung (6) bschribnn Zusammnhangs zwischn dn Paramtrn m, m und vrständlich wird. Di SPSS-Prozdur PLUM untrstützt in rwitrts Modll, das htrogn Varianzn rlaubt. Für inn Fall i mit dn Präditorwrtn im Vtor i i :.. M und inr Auswahl sinr Präditorwrt im Vtor z i wird dr bishrig Modllrn z z z i :.. zq j β i nun als Loationsmodll bzichnt und durch das so gnannt Salnmodll mit Paramtrvtor λ,.., λzi, :, dividirt, um inn individulln Salirungsfator (in individull Varianz) zu rmöglichn: j βi λzi In dr Rgl wird man sich im Varianz- bzw. Salnmodll auf wnig Präditorn bschränn. Mit dr Abürzung F L für di logistisch Vrtilungsfuntion, rgibt sich das folgnd Loations-Saln Modll: j βi P( y ),,..,,,.., i j FL i N j J (7) λzi Es wird von inign nglischsprachign Autorn auch als Htrognous Choic Modl bzichnt (z.b. Williams 009). In inr Simulationsstudi btrachtn wir in ordinals Kritrium Y Q 85

86 Logistisch Rgrssionsanalys mit SPSS sowi inn mtrischn Rgrssor X und inn glichvrtiltn dichotomn Rgrssor G. Für di latnt Variabl gilt das wahr Modll X G mit inr logistisch vrtiltn Rsidualvariabln, drn Varianz von G abhängt. Nach dm Mnübfhl Analysirn > Rgrssion > Ordinal wrdn di Variabln gwählt: G 86

87 Logistisch Rgrssionsanalys mit SPSS Wil das voringstllt Loationsmodll mit zwi Hauptfftn orrt ist, muss s nicht gändrt wrdn. Bi ignorirtr Htrosdastizität wird das Modll vrworfn, und di Paramtrschätzr sind star vrzrrt: Nun dfinirn wir im Dialog dr ordinaln Rgrssion nach inm Klic auf dn Schaltr Sala das Salnmodll: und rhaltn daraufhin in günstig Modllburtilung sowi sinnvoll Schätzrgbniss: 87