Logistische Regressionsanalyse mit SPSS

Transkript

1 Univrsität Trir Zntrum für Informations-, Mdinund Kommuniationstchnologi (ZIMK) Trir, dn B. Balts-Götz Logistisch Rgrssionsanalys mit SPSS

2 Logistisch Rgrssionsanalys mit SPSS Inhaltsübrsicht VORWORT 5 EINLEITUNG 6 DIE BINÄRE LOGISTISCHE REGRESSION 9. Modll 9.. Populationsmodll 9.. Stichprobnmodll 0..3 Äquivalnt Modllformulirungn 0..4 Ein möglichr Entsthungshintrgrund..5 Vrglich mit dr Probit-Analys 4. Anwndungsbispil 5.3 Schätzung dr Paramtr 7.3. Di Maimum-Lilihood-Mthod 7.3. Altrnativ Vrfahrn 9.4 Burtilung dr Modllgültigit 0.4. Global Modllgültigitststs Parson- -Statisti Dvianz-Statisti Hosmr-Lmshow - Statisti 4.4. Untrsuchung von Rsidun und Einflussindiatorn Rsidundiagnosti Einflussrich Fäll 34.5 Burtilung dr Modllrlvanz Dr Lilihood-Quotintntst zur globaln Nullhypoths Psudo-R -Statistin Präditiv Effizinz Di Klassifiationstabll Klassifiationsdiagramm 40.6 Burtilung dr inzlnn Rgrssorn 4.6. Rgrssionsoffizintn und Efftgrößn 4.6. Signifianz Fhlnd bzw. irrlvant Präditorn 45.7 Nominalsalirt Rgrssorn mit mhr als zwi Katgorin 46.8 Intrationn 5.8. Intrationn zwischn nominalsalirtn Rgrssorn Bdutung dr Rgrssionsgwicht bi Indiatorodirung Bdutung dr Rgrssionsgwicht bi Abwichungsodirung Hauptfft in Modlln mit Wchslwirung 56.9 Stratgin zur Modllbildung Signifianztsts zu Präditorblöcn Automatisch Modllsuch Empfhlungn zur Modllbildung 6

3 Logistisch Rgrssionsanalys mit SPSS 3 DIE MULTINOMIALE LOGISTISCHE REGRESSION 6 3. Populationsmodll 6 3. Stichprobnmodll Anwndungsbispil Paramtrschätzung Modllgültigit Burtilung dr Modllrlvanz Burtilung dr inzlnn Rgrssorn Log-Lilihood - Variantn 70 4 DIE ORDINALE LOGISTISCHE REGRESSION 7 4. Das umulativ Logit-Modll 7 4. Anwndungsbispil Paramtrschätzung Modllgültigit Paralllität Global Modllgültigit Loal Modllanalys Burtilung dr Modllrlvanz Burtilung dr inzlnn Rgrssorn Vrglich mit altrnativn Auswrtungsvrfahrn Multinomial logistisch Rgrssion Linar Rgrssions- bzw. Varianzanalys Loations-Saln - Modll 84 5 NUMERISCHE SCHÄTZPROBLEME Multiollinarität Quasi-vollständig Trnnung Vollständig Trnnung 9 3

4 Logistisch Rgrssionsanalys mit SPSS 6 ANHANG Symbolvrzichnis SPSS-Programm zu dn Bispiln SPSS-Syntadati zum DBS-Bispil SPSS-Syntadati zum Bispil für di multinomial Rgrssion 96 LITERATUR 97 STICHWORTVERZEICHNIS 99 Hrausgbr: Autor: Copyright Univrsität Trir Zntrum für Informations-, Mdin und Kommuniationstchnologi (ZIMK) Univrsitätsring 5 D-5486 Trir Tl.: (065) 0-347, Fa.: (065) 39 Brnhard Balts-Götz ( balts@uni-trir.d) 0; ZIMK 4

5 Logistisch Rgrssionsanalys mit SPSS Vorwort In dism Manusript wird di logistisch Rgrssionsanalys für Kritriumsvariabln mit folgndr Strutur bhandlt: nominalsalirt mit zwi odr mhr Katgorin ordinalsalirt Als Softwar ommt SPSS Statistics 0.0 für Windows zum Einsatz, jdoch önnn pratisch all vorgstlltn Vrfahrn auch mit andrn SPSS-Vrsionn untr Linu, MacOS odr Windows ralisirt wrdn. Di atull Vrsion ds Manusripts ist als PDF-Doumnt zusammn mit alln im Kurs bnutzn Datn und SPSS-Programmn auf dm Wbsrvr dr Univrsität Trir von dr Startsit ( ausghnd folgndrmaßn zu findn: Rchnzntrum > Studirnd > EDV-Doumntationn > Statisti > Logistisch Rgrssionsanalys mit SPSS Lidr sind in dism Manusript inig Til mit hißr Nadl gstrict, so dass Unzulänglichitn zu bfürchtn und ntsprchnd Hinwis dr Lsr(innn) zu rhoffn sind (z.b. an di Mail-Adrss Trir, im Juni 0 Brnhard Balts-Götz 5

6 Logistisch Rgrssionsanalys mit SPSS Einlitung In dr statistischn Forschungsprais sind oft nominal- odr ordinalsalirt Kritrin zu untrsuchn, z.b.: Kaufntschidung für in Produt (nominals Kritrium mit zwi Katgorin): o ja o nin Wahl ins Vrhrsmittls für dn Wg zur Uni (nominals Kritrium mit dri Katgorin): o pr Pds odr Pdal (Fahrrad) o ÖPNV o PKW Durchblutungsstörung (ordinals Kritrium): o in o priphr o oronar Stllungnahm (ordinals Kritrium): o ntschidn daggn o hr daggn o nutral o hr dafür o ntschidn dafür Auf dr Such nach inm Modll zur Erlärung und odr Vorhrsag solchr Kritrin solln in dr Rgl mhrr Rgrssorn mit mtrischr odr nominalr Salnqualität inbzogn wrdn, wobi vntull auch Intrationn zwischn zwi odr mhrrn Rgrssorn untrstllt wrdn solln. In disr Situation ann di vrtraut linar Rgrssionsanalys nicht ingstzt wrdn: Ihr Vorausstzung normalvrtiltr und varianzhomognr Rsidun ist offnsichtlich vrltzt. Ihr prognostizirtn Wrt önnn außrhalb ds plausibln Brichs lign. Z.B. sind bi inr dichotomn Kritriumsvariabln nur Prognoswrt von 0 bis sinnvoll, damit dis als Wahrschinlichitn dr Zughörigit zur rstn Grupp intrprtirt wrdn önnn. Di linar Disriminanzanalys bitt zwar in Prognos dr Gruppnzughörigit, ist abr vilfach wgn ihrr Vorausstzungn bzgl. dr Präditorn nicht anwndbar: Intrvallsalnqualität multivariat Normalvrtilung innrhalb dr Populationn zu dn Kritriumsausprägungn Homognität dr Kovarianzmatrizn Kin Wchslwirungn zwischn dn Präditorn in Bzug auf das Kritrium Sofrn nur in inzlnr Präditor in Frag ommt, dr zudm nominals Mssnivau bsitzt, ann zur Analys ins nominaln Kritriums di Kruztabllnanalys vrwndt wrdn (sih z.b. Balts-Götz 0, Kap. ). Di Bschränung auf inn Präditor ntfällt bi dn zur Analys von multivariatn Kontingnztablln oft vorgschlagnn log-linar Modlln (sih z.b. Bühl 0, Kap. ). Zwar wrdn hir zunächst nur Assoziationn modllirt (ohn Untrschidung zwischn abhängign und unabhängign Variabln), doch lassn sich auch asymmtrisch Modll für di Erlärung atgorialr Kritriumsvariabln aus atgorialn Präditorvariabln formulirn, di oft als logit-linar Modll bzichnt wrdn. In SPSS rmöglicht di Prozdur GENLOG sowohl symmtrisch als auch asymmtrisch Modll. Als Problm bi dr Anwndung log- bzw. logit-linarr Modll sind zu nnnn: 6

7 Logistisch Rgrssionsanalys mit SPSS Mtrisch Präditorn önnn nur durch in durch ünstlich (und willürlich) Katgorisirung inbzogn wrdn. Dabi vrlirt man sowohl Information (durch Vrgröbrung) als auch statistisch Effizinz (durch in rhöht Anzahl von Paramtrn). Vil Forschungspratir(innn) mit inm rgrssionsanalytischn Dnansatz mpfindn di primär assoziativn log-linarn Modll, di oft vrwirrnd vil Paramtr bsitzn, und drn asymmtrisch Rformulirung als rlativ unhandlich. Trotz inr dutlichn Vrwandtschaft mit dm log-linarn Ansatz ist di logistisch Rgrssionsanalys zur Untrsuchung von atgorialn odr ordinaln Kritrin oft bssr gignt. Bi disr multivariatn Mthod wrdn di Wahrschinlichitn dr Zughörigit zu dn Kritriumsgruppn aufgrund von intrvall- odr nominalsalirtn Präditorn modllirt, wobi in vrallgminrts linars Modll zum Einsatz ommt (vgl. McCullagh & Nldr 989). Vil Schätzr und Tsts im Rahmn dr logistischn Rgrssionsanalys habn dirt Entsprchungn bi dr linarn Rgrssionsanalys, z.b.: dr Tst zur globaln Nullhypoths, dass all Paramtr außr dm onstantn Trm glich 0 sind di Tsts zu dn Nullhypothsn zu dn inzlnn Paramtrn Bstimmthitsmaß zur Burtilung dr Modllrlvanz Es sind Modllgültigitststs vrfügbar, di auch bi Individualdatn (also ldiglich infach bstztn Präditorwrtombinationn) anwndbar sind. Wil di logistisch Rgrssion Wahrschinlichitn für di Zughörigit zu Kritriumsgruppn zu modllirn hat, bsitzt ihr Modllglichung inig Bsondrhitn im Vrglich zur linarn Rgrssion, di abr nach dr Ltür diss Manusripts in Schwirigitn mhr machn solltn. Lohn für dis Bmühungn ist in für nahzu blibig abhängig Variabln (ohn Bauchschmrzn) anwndbars Analysvrfahrn. Auf dr unabhängign Sit bsthn dislbn Möglichitn und Einschränungn wi bi inr linarn Rgrssionsanalys. Man ann mtrisch und atgorial Rgrssorn vrwndn, muss ordinal Variabln also ntwdr als atgorial odr als mtrisch bhandln. In SPSS sthn für di logistisch Rgrssionsanalys u.a. di dri folgndn Prozdurn brit: LOGISTIC REGRESSION Dis übr dn Mnübfhl Analysirn > Rgrssion > Binär Logistisch ansprchbar Prozdur analysirt dichotom Kritrin untr Vrwndung von Individualdatn und ist damit bsondrs gignt für Modll, di nbn atgorialn auch mtrisch, in zahlrichn Ausprägungn ralisirt Rgrssorn nthaltn. LOGISTIC REGRESSION bitt u.a. dn für Modll mit übrwignd infach bstztn Präditorwrtombinationn (Zlln) gigntn Hosmr-Lmshow-Modllgültigitstst, ann zahlrich diagnostisch Informationn zum g- Zu jdm logistischm Rgrssionsmodll mit ausschlißlich atgorialn Rgrssorn istirt in äquivalnts loglinars Modll. Di dri aufglisttn und im Manusript bhandltn Prozdurn sind schon in dr SPSS-Vrsion 0 vorhandn. Atull SPSS-Vrsionn bitn witr Optionn: Analysirn > Vrallgminrt Linar Modll > Vrallgminrt Schätzglichungn Für Datn mit Abhängigitsstruturn (durch Clustrbildung odr Msswidrholung) sind Modll mit dichotomn Kritrin möglich, wobi di Abhängigitn durch di GEE-Mthodologi nach Liang & Zgr (986) nutralisirt wrdn. Analysirn > Gmisch Modll > Vrallgminrt Linar Für Datn mit Abhängigitsstruturn (durch Clustrbildung odr Msswidrholung) sind Mhrbnnmodll für atgorial Kritrin (mit zwi odr mhr Ausprägungn) möglich. Analysirn > Kompl Stichprobn Für ompl Stichprobn, di nicht durch infach Zufallsauswahl zustand gommn sind, önnn logistisch Rgrssionn mit inm atgorialn odr ordinaln Kritrium grchnt wrdn. 7

8 Logistisch Rgrssionsanalys mit SPSS schätztn Modll (z.b. Rsidun, Coo-Distanzn) als nu Variabln abspichrn und rlaubt bi nominalsalirtn Präditorn in flibl Wahl dr Kontrastodirung. NOMREG Dis übr dn Mnübfhl Analysirn > Rgrssion > Multinomial Logistisch rrichbar Prozdur untrstützt auch nominalsalirt Kritrin mit mhr als zwi Katgorin. Obwohl NOMREG auch für dn binärn Spzialfall vrwndbar ist, wird LOGISTIC REGRES- SION nicht ompltt rstzt, wil bid Prozdurn mit tilwis untrschidlichn Algorithmn arbitn. Währnd di rin binär Variant mit Individualdatn rchnt, fasst NOMREG all Fäll mit inr gminsamn Präditorwrtombinationn zu inr Grupp zusammn. Bi zntraln Ergbnissn inr binärn logistischn Rgrssionsanalys (z.b. bi dr Paramtrschätzung) wirn sich di Algorithmus-Untrschid nicht aus, so dass di Entschidung zwischn dn bidn SPSS-Prozdurn irrlvant ist. Spzill zur Bschribung und Tstung dr Anpassungsgüt ins Modlls sind jdoch Statistin vorgschlagn wordn, di hr für aggrgirt Datn odr hr für Individualdatn gignt sind. Dmntsprchnd wrdn si nur von NOMREG (z.b. Modllgültigitstst übr Parsons Goodnss of Fit Statisti) odr nur von LOGISTIC REGRESSION (z.b. Hosmr-Lmshow - Modllgültigitstst) brchnt. PLUM Dis übr dn Mnübfhl Analysirn > Rgrssion > Ordinal rrichbar Prozdur vrwndt di PLUM-Tchnologi (PoLytomous Univrsal Modl) zur Analys von ordinaln Kritrin. Nbn dr logistischn Linfuntion (sih untn) wrdn auch tlich Altrnativn untrstützt. Wi NOMREG arbitt auch PLUM intrn mit aggrgirtn Datn. J nach SPSS-Vrsion sind di dri Prozdurn untrschidlich auf di Modul Bas, Rgrssion und Advancd vrtilt. In dn mistn SPSS-Installationn dürftn jdoch all gnanntn Modul und damit auch all im Manusript bhandltn Optionn zur logistischn Rgrssionsanalys nthaltn sin. Wir wrdn in dism Manusript di wichtigstn statistischn Grundlagn dr logistischn Rgrssion in inigr Ausführlichit bsprchn und natürlich auch di Vrwndung dr SPSS-Prozdurn bhandln. Im Abschnitt wird dr bsondrs wichtig und angnhm infach Spzialfall dr binärn logistischn Rgrssion (mit inr dichotomn Kritriumsvariabln) vorgstllt. Im Abschnitt 3 folgt mit dr multinomialn logistischn Rgrssion di Gnralisirung auf nominalsalirt Kritrin mit mhr als zwi Katgorin, und im Abschnitt 4 wrdn ordinal Kritriumsvariabln bhandlt. Schlißlich ommn im Abschnitt 4.8 noch ritisch Datnvrhältniss zur Sprach, di zu irrgulärn Ergbnissn führn önnn. 8

9 Logistisch Rgrssionsanalys mit SPSS Di binär logistisch Rgrssion Dr Bqumlichit halbr wird im Manusript glgntlich di Abürzung BLR für di binär logistisch Rgrssion vrwndt.. Modll.. Populationsmodll Für in (0,) - odirt Kritriumsvariabl Y und di Präditorvariabln X bis X M (intrvallsalirt odr durch Kodirung von atgorialn Variabln ntstandn) rlärt das logistisch Rgrssionsmodll di Wahrschinlichit für das Erignis {Y = } folgndrmaßn: X βx P( Y ), mit β : [,,,.., X M ] und : 0 X. () βx βx. X M Anmrungn: Zur Vrinfachung dr Formln wrdn im Manusript glgntlich lmntar Vtorausdrüc vrwndt. Zum Vrständnis ist abr ldiglich di folgnd Multipliationsrgl rfordrlich (am Bispil X): X M βx [ X 0,,,.., M ] 0 m X m. m. X M Mit ist di Eulrsch Zahl gmint, also di Basis zum natürlichn Logarithmus. In dr Modllglichung ist hintr di linar Funtion X dr Präditorn di logistisch Vrtilungsfuntion gschaltt. Si sorgt dafür, dass all Modllprognosn im Intrvall von 0 bis lign und dahr als Wahrschinlichitn intrprtirt wrdn önnn. Wi di folgnd Abbildung zigt, lifrt di logistisch Vrtilungsfuntion für blibig Argumnt (von - bis ) inn Funtionswrt im Intrvall (0,): Im Vrglich zur Standardnormalvrtilungsfuntion bsitzt di logistisch Vrtilungsfuntion inrsits inn shr ähnlichn Vrlauf und andrrsits in mathmatisch infachr Bschribung (sih Abschnitt..4). 9

10 Logistisch Rgrssionsanalys mit SPSS.. Stichprobnmodll Währnd sich das bn vorgstllt Populationsmodll auf thortischr Ebn bwgt, bschribt das Stichprobnmodll, wi di Datn inr mpirischn Studi zustand gommn sind. Bobachtt man bi N Fälln mit dn Präditorwrtombinationn i (i =,.., N) jwils di Kritriumsatgori, ommt folgnds BLR-Stichprobnmodll zum Einsatz: Es sind N unabhängig (0, ) - wrtig Zufallsvariabln Y i vorhandn. Für di Wahrschinlichit zum Einsrrignis gilt bi dr i-tn Bobachtung: βi P( Yi ), mit βi i i... M β 0 im i Sofrn di Unabhängigit (z.b. durch in gignt Fallrrutirung) sichrgstllt ist, ann bi inr logistischn Rgrssionsanalys also nur di zwit Annahm vrltzt sin (z.b. durch inn Spzifiationsfhlr im linarn Til ds Modlls). Um präzis Schätzungn und zuvrlässig Signifianztsts zu rhaltn, ist auf in ausrichnd Stichprobngröß zu achtn. In dr Litratur findn sich u.a. folgnd Empfhlungn: Urban (993, S. 3) nnnt 50 Fäll als minimal Stichprobngröß, rchnt abr rst ab 00 Fälln mit inr zufridn stllndn Präzision. Nach Bachaus t al. (008, S. 88) sollt jd Katgori dr abhängign Variabln mindstns 5 Fälln nthaltn, bi inr größrn Anzahl von unabhängign Variabln jdoch mhr. Bi Hosmr & Lmshow (000, S. 346) und Norušis (005, S. 39) wird das Zhnfach dr Anzahl zu schätzndr Paramtr als minimal Häufigit dr schwächr bstztn Kritriumsatgori gnannt. Bi inm dichotomn Kritrium und 4 mtrischn Präditorn in inm Modll mit Ordinatnabschnitt (also insgsamt 5 Paramtrn) solltn also bid Kritriumsatgorin minimal 50 Fäll nthaltn. Für Modllgültigitststs auf dr Basis von Parson- odr Dvianz-Rsidun müssn all K Präditorwrtombinationn mhrfach bstzt sin. Häufig wird gfordrt, dass di rwarttn Häufigitn untr dm zu prüfndn Modll bi alln ( K) Zlln größr als und bi mindstns 80% allr Zlln größr als 5 sin solln. Dr bi übrwignd infach bstztn Präditorwrtombinationn anwndbar Hosmr- Lmshow-Modllgültigitstst bnötigt übr di obign Empfhlungn hinaus in Vorausstzungn bi dn Zllhäufigitn aus. Insbsondr bi dr Analys von sltnn Attributn ist in spzill Libralität dr binärn logistischn Rgrssionsanalys hinsichtlich dr Stichprobnzihung von Vortil: Man ann aus dn Tilpopulationn mit bzw. ohn das zu untrsuchnd Attribut (z.b. in sltn Kranhit) Stichprobn mit untrschidlichn Quotn zihn (z.b. 0 % aus dr Patintnpopulation und % aus dr Kontrollpopulation), um stabilr Ergbniss (z.b. linr Standardfhlr) im Vrglich zu inr infachn Zufallsstichprob aus dr Gsamtpopulation zu rhaltn. Di ssntilln Ergbniss (z.b. di Rgrssionsoffizintn mit Ausnahm ds onstantn Trms) sind ggnübr inr solchn ritriumsgsturtn Quotirung invariant (Allison 999, S. 78ff; Norušis 008, S. 63). Bi dr linarn Rgrssionsanalys sind analog Stratgin dr Stichprobnzihung mit Problmn vrbundn...3 Äquivalnt Modllformulirungn Aus dm Populationsmodll () rgibt sich durch äquivalnt Umformung folgnd Darstllung für das logarithmirt Vrhältnis aus dn bidn btiligtn omplmntärn Wahrschinlichitn: 0

11 Logistisch Rgrssionsanalys mit SPSS P( Y ) ln βx X X X 0... M M () P( Y 0) P( Y ) Für dn Wahrschinlichitsquotintn schlägt Urban (993, S. 5) di Bzichnung Gwinnchanc vor; in dr anglsächsischn Litratur spricht man von dn odds. Dr logarithmirt Wahrschinlich- P( Y 0) itsquotint wird gnrll als Logit bzichnt. In dr folgndn Tabll sind zur Illustration dr Bzihungn zwischn dn btiligtn Bgriffn für inig Einsrwahrschinlichitn di zughörign Odds- und Logit-Wrt anggbn: P(Y = ) P( Y ) P( Y 0) P( Y ) ln P( Y 0) 0,90 9,0 0,75 3,0 0,5 0 0,5 0, 3 -,0 0,0 0, -,0 Obwohl auf dr rchtn Sit von Glichung () in linars Modll stht, ist das in dr Einlitung angsprochn Wrtbrichsproblm bi dr linarn Modllirung von Wahrschinlichitn durch di Logit-Dfinition übrwundn: Dr Wahrschinlichitsquotint nimmt Wrt von 0 bis + (positiv unndlich) an. Durch das Logarithmirn rgibt sich in Wrtbrich von - bis +. Übr di Logit-Formulirung ds Modlls lassn sich sin Koffizintn analog zur gwöhnlichn linarn Rgrssionsglichung intrprtirn: Bi dr binärn logistischn Rgrssion gibt dr Koffizint m an, wi sich das Logit vrändrt, wnn dr Präditor X m um in Einhit rhöht wird, und all andrn Präditorn unvrändrt blibn. Dis Btrachtungswis stzt (wi bi dr linarn Rgrssion) voraus, dass X m bi inr Intration btiligt ist. Durch Anwndung dr Eponntialfuntion auf Glichung () rhaltn wir: P( Y ) βx 0 X X... M X M 0 X P( Y 0) Di Glichung zur Erlärung dr Wahrschinlichitsquotintn (ngl. odds) bitt in altrnativ Intrprtationsmöglichit für di Rgrssionsoffizintn. Dr Ausdruc gibt dn Fator an, um dn sich das m Wahrschinlichitsvrhältnis ändrt, wnn dr Präditor X m um in Einhit rhöht wird, und all andrn unvrändrt blibn: Wil 0 X m ( X m ) M X M 0 X m X m m grad dm Quotintn aus dn Odds für (X, X,..., X m +,..., X M ) und (X, X,..., X m,..., X M ) m 0 0 X m ( X m ) X m X m ntspricht, wird dr Ausdruc (nicht nur) in dr anglsächsischn Litratur mist als odds ratio bzichnt. Urban (993, S. 40f) spricht von dr Efftgröß. Aus dm Vrhaltn dr Eponntialfuntion folgt unmittlbar: M X M M X M M X M M X M m (3)

12 Ist m positiv (also Ist m ngativ (also m m Logistisch Rgrssionsanalys mit SPSS > ), dann stigt das Wahrschinlichitsvrhältnis (P(Y = ) wird größr). < ), dann sint das Wahrschinlichitsvrhältnis (P(Y = ) wird linr). Wird in mtrischr Präditor vor dr binärn logistischn Rgrssionsanalys (BLR) standardisirt, lifrt dn Efft bi inr Erhöhung ds Wrts um in m Standardabwichung. Oft wird das BLR-Modll übr di Logit-Glichung () ingführt bzw. dfinirt. Man übrzugt sich licht davon, dass aus disr Modllformulirung sofort di Glichung () folgt...4 Ein möglichr Entsthungshintrgrund Bi viln binärn Kritriumsvariabln ann man sich vorstlln, dass ihr Wrt durch das Dichotomisirn inr latntn mtrischn Variabln ntstandn sind. Für di manifst Kritriumsvariabl Y und di zughörig latnt Variabl nimmt man also folgnds Mssmodll an: 0, Y, falls falls Für di Rgrssion dr latntn Variabln auf di (manifstn) Präditorvariabln X bis X M stzt man in linars Modll mit dr Rsidualvariabln an: 0 X X... M X M (4) Schlißlich wird angnommn, dass für jd Präditorwrtombination in logistisch Vrtilung mit dr folgndn Dichtfuntion bsitzt: w f( w) w ( ) Dis Vrtilung hat dn Erwartungswrt 0 sowi di Varianz 3 (mit dr Kriszahl = 3,45...) und ähnlt dr Normalvrtilung, lädt abr im Vrglich zu disr mhr Mass an dn Rändrn ab: Dicht dr logistischn Vrtilung (Varianz ) Dicht dr Standardnormalvrtilung (Varianz ) 3 Damit di Varianz dr Rsidualvariabln inn blibign Wrt annhmn ann, nthält di Glichung (4) noch dn frin Paramtr als Vorfator zu. Vrmutlich ommt Ihnn das Intgral dr logistischn Dicht, also di zughörig Vrtilungsfuntion, vrtraut vor: w F( w) w

13 Logistisch Rgrssionsanalys mit SPSS Das zughörig Diagramm nnn Si schon aus Abschnitt... Bi fstn Präditorausprägungn gilt für di Wahrschinlichit P(Y = ) = P( > ): Einfachs Umstlln rgibt. P( ) P( 0 X X... M X M ) P( ) P( X X... 0 M X M Dividirt man di Unglichung in dr rchtn Erignisdfinition durch (-), wchslt dr Vrglichsoprator ( > 0!): 0 X X... P( ) P Aus dr Symmtri und Sttigit dr logistischn Vrtilung M X M ) X X... 0 X M M X X... 0 X M M folgt: Mit dn Dfinitionn: rhaltn wir: 0 X X... P( ) P 0 0 : m m :, m,..., M P( ) P( βx) M X M Di Wahrschinlichit dafür, dass di Zufallsvariabl inn Wrt linr odr glich X annimmt, ist idntisch mit dm Wrt ihrr Vrtilungsfuntion an disr Stll: Insgsamt rhaltn wir di Modllglichung (): P( βx) βx βx P( Y ) βx βx (5) Aus dm für vil Lsr wohl wnig vrtrautn Bgriff dr Sttigit folgt, dass von dn übrabzählbar unndlich viln Ausprägungn inr Variabln mit sttigr Vrtilung jd inzln Ausprägung di Wahrschinlichit Null bsitzt: P( ) 0 P( ) P( ) 3

14 Logistisch Rgrssionsanalys mit SPSS Di Koffizintn ds logistischn Modlls für di manifst (dichotom) Kritriumsvariabl sind also im Vrglich zu dn Koffizintn ds Modlls für di orrspondirnd latnt Variabl um dn Fator gmindrt. Mit Ausnahm ds onstantn Trms hängn si nicht davon ab, bi wlchm Schwllnwrt di latnt Variabl dichotomisirt wurd. Wil in raln Studin unbannt ist, lassn sich di Koffizintn m (m =,, M) in Glichung (4) nicht aus dn Koffizintn m (m =,, M) in Glichung () brchnn, doch wgn ist in Signifianztst zur Hypoths äquivalnt zu inm Tst dr Hypoths m m, m,..., M H 0 H 0 : : Um Missvrständniss zu vrmidn, soll noch inmal btont wrdn, dass di in dism Abschnitt präsntirt Hrlitung dr Modllglichung () insfalls in Vorausstzung für di Vrwndung dr binärn logistischn Rgrssion ist. Si hilft jdoch bim Vrständnis und bi dr Einordnung ds Vrfahrns. m m Vrglich mit dr Probit-Analys Aus dm logistischn Modll für in latnt und mtrisch Kritriumsvariabl (sih Glichung 4) rgibt sich sofort das analog Modll dr so gnanntn Probit-Analys, wnn für di Rsidualvariabl an Stll dr logistischn Vrtilung in Standardnormalvrtilung angnommn wird. Dmntsprchnd rgibt sich di Probit-Modllglichung aus dr BLR-Variant, indm di logistisch Vrtilungsfuntion durch das Normalvrtilungs-Analogon rstzt wird: βx w P( Y ) ( βx ), mit ( βx) : Daraus rhält man sofort di mist vrwndt Darstllungsform ds Probit-Modlls: (P( Y )) βx Wgn dr starn Vrwandtschaft ihrr Modllglichungn wrdn di BLR- und di Probit-Analys in dr Rgl witghnd äquivalnt Ergbniss produzirn (sih z.b. Mnard 995, S. 59). SPSS untrstützt di Probit-Analys in dn Prozdurn PROBIT (vrfügbar übr Analysirn > Rgrssion > Probit) und PLUM (vrfügbar übr Analysirn > Rgrssion > Ordinal, sih Abschnitt 4). d w 4

15 Logistisch Rgrssionsanalys mit SPSS. Anwndungsbispil Zur Erläutrung dr logistischn Rgrssion für dichotom abhängig Variabln wird in ünstlichr Bispildatnsatz vrwndt. Wir stlln uns vor, dass bi inr mdizinischn Untrsuchung zu dn Ursachn von Durchblutungsstörungn an inr Stichprob dr Größ N = 00 folgnd Variabln rhobn wordn sind: Kritriumsvariabl: DBS Vorlign inr Durchblutungsstörung ( = ja, 0 = nin) Rgrssorn: o ABWIG Abwichung vom Idalgwicht (gmssn in g) o BEWEG Körprlich Btätigung (Sala von bis 6) o DRUCK Diastolischr Blutdruc (gmssn in mm/hg) o STRESS Strss (Sala von bis 6) o ERBE Erblich Vorblastung ( = ja, 0 = nin) o RAUCHER ( =ativr Rauchr, = hmaligr Rauchr, 3 = Nichtrauchr) In dr zu untrsuchndn ünstlichn Population gilt für in latnt Variabl im Sinn von Abschnitt..4: 4 0,06 ABWIG 0,75 BEWEG 0,033DRUCK, STRESS,55 ERBE 4 RAUCHERRAUCHER,5, RAUCHER 0,, RAUCHER 0, falls RAUCHEN sonst falls RAUCHEN hat für jd blibig Präditorwrtombination in logistisch Vrtilung mit dr Vrtilungsfuntion: w F( w) Als Schwllnwrt für dn Übrgang von dr latntn Variabln zur manifstn abhängign Variabln DBS wird vrwndt: 0, DBS, w sonst falls falls Nach dn Übrlgungn von Abschnitt..4 gilt in dr ünstlichn Population also in BLR-Modll gmäß Glichung (). Si findn di simulirtn Datn in dr Dati DBS.SAV an dr im Vorwort vrinbartn Stll. Mit Hilf dr Dati DBS.SAV önnn wir in SPSS nach dm Mnübfhl Analys > Rgrssion > Binär logistisch in folgndr Dialogbo in binär logistisch Rgrssion anfordrn: Mdizinisch gbildt Lsr mögn vntull rfahrungswidrig odr gar mdizinisch ausgschlossn Wrtonstllationn in dr ünstlichn Stichprob nachshn. 5

16 Logistisch Rgrssionsanalys mit SPSS Aus didatischn Gründn wird dr Präditor RAUCHER bis zum Abschnitt.7 ignorirt. In unsrr Dmostudi trtn aum mhrfach bstzt Wrtombinationn auf, wil auch präzis rfasst mtrisch Rgrssorn mit zahlrichn Ausprägungn (z.b. ABWIG, DRUCK) zum Einsatz ommn. Dahr wrdn wir primär mit dr für Individualdatn onzipirtn Prozdur LOGISTIC REGRESSION arbitn. Für inig im Bispil sinnvoll und zulässig Ergbniss bnötign wir jdoch di für aggrgirt Datn onzipirt und pr Mnübfhl rrichbar Prozdur NOMREG: Analys > Rgrssion > Multinomial logistisch Um in inhaltlich unbdutnd, bi dr Intrprtation jdoch licht störnd Invrtirung dr Vorzichn bi dn gschätztn Rgrssionsoffizintn (im Vrglich zu dn Ergbnissn von LOGISTIC REGRESSION) zu vrhindrn, wird im NOMREG-Aufruf bi dr abhängign Variabln di Rfrnzatgori übr dn glichnamign Schaltr gändrt: 6

17 Logistisch Rgrssionsanalys mit SPSS Warum auch dr atgorial Präditor ERBE bdnnlos als Kovariat angmldt wrdn darf, wird in Abschnitt 3.3 rläutrt. Zur Dmonstration inigr mthodischr Dtails (z.b. Modllgültigitstst übr Parsons Goodnss of Fit Statisti) btrachtn wir in rduzirts Modll mit mhrfach bstztn Präditorwrtombinationn, wobi dislb Variabl DBS als Kritrium vrwndt wird, im Dsign abr ldiglich di Variabl BEWEG vrblibt: Wil dr mtrisch Rgrssor BEWEG rlativ grob gmssn ist (in 6 Stufn), rsultirt in Modll mit aggrgirbarn Datn..3 Schätzung dr Paramtr.3. Di Maimum-Lilihood-Mthod Währnd in dr linarn Rgrssionsanalys Klinst-Quadrat-Schätzr Vrwndung findn, wlch di Summ dr quadrirtn Abwichungn zwischn dn bobachttn und dn vom Modll vorhrgsagtn Wrtn minimirn, ommt in dr logistischn Rgrssionsanalys di Maimum-Liihood-Mthod zum 7

18 Logistisch Rgrssionsanalys mit SPSS Einsatz. Hir wrdn Paramtrschätzungn bstimmt, wlch di Wahrschinlichit dr bobachttn Datn untr dm paramtrisch spzifizirtn Modll maimirn. Di gmäß Modllglichung () von dn als fst ggbn anzunhmndn Rgrssorwrtn ds i-tn Falls (gsammlt im Vtor i ) und vom Paramtrvtor abhängig wahr Wahrschinlichit P(Y i = ) wrd mit i bzichnt: βi i : P( Yi ), mit βi i i... β 0 i Für in onrt Stichprobnralisation ( y, y,..., yn mit yi {0,}, i,.., N ) dr Zufallsvariabln Y i zu dn N (unabhängign!) Bobachtungn rgibt sich dann folgnd Wahrschinlichit: P( Y N y y, Y y,..., Y N y N ) i ( i ) i i y i Bobachtungn mit ralisirtr ghn mit i in das Produt in, di Bobachtungn mit ralisirtr 0 hinggn mit ( - i ). Wir rstztn di unbanntn Paramtr in durch di fri schätzbarn Wrt b m (m = 0,,..., M) im Vtor b und bzichnn mit L i (b) di Lilihood für (Y i = ) untr dr Annahm = b:... b i bi Li ( b) :, mit bi b0 b i b b i Für di gsamt Stichprob rgibt sich dann di folgnd Lilihood-Funtion: L N yi yi b : (L ( b)) ( L ( b)) (6) i i Das unmittlbar plausibl Prinzip dr Maimum-Lilihood-Schätzung bstht darin, dnjnign Vtor b zu bstimmn, wlchr di Lilihood-Funtion maimirt. Um di Such nach dm Maimum zu rlichtrn, ght man zum Logarithmus übr, was aufgrund dr Monotoni disr Funtion zulässig ist: LL( b) : ln(l( b)) N i i i i y ln( L ( b)) ( y ) ln( L ( b)) Aus dm Produt in Glichung (6) ist in Summ gwordn, was di Etrmwrtbstimmung rlichtrt, di mit inm itrativn numrischn Vrfahrn (z.b. Nwton-Raphson) vorgnommn wird. Als Ergbnis rhält man dn Vtor β ˆ (βˆ 0,βˆ,βˆ,...,βˆ m ) mit dm ML-Schätzungn dr Paramtr. Daraus rgbn sich sofort di ML-Schätzungn ˆ i dr Wahrschinlichitn P(Y i = ): ˆ i β ˆ i : Mit disr Vrinbarung önnn wir di Lilihood an dr Stll βˆ so schribn: L( βˆ) N i ˆ yi i βˆ i ( ˆ ) yi i i M i im M im (7) Es zigt sich übrigns, dass di Klinst-Quadrat-Schätzr in dr linarn Rgrssionsanalys untr dr üblichn Annahm normalvrtiltr Rsidun auch Maimum-Lilihood-Schätzr sind. 8

19 Logistisch Rgrssionsanalys mit SPSS Für das in Abschnitt. vorgstllt Bispil (Durchblutungsstörungn) lifrt LOGISTIC REGRESSI- ON nach inr ntsprchndn Auffordrung in dr Optionn-Subdialogbo das folgnd Itrationsprotooll: Nach ldiglich 6 Itrationn stllt sich in Konvrgnz allr Paramtrschätzungn auf stabil Wrt in, und das Vrfahrn stoppt. Erfrulichrwis bitt di allgmin Maimum-Lilihood-Thori (sih z.b. Rao 973) inig für uns außrordntlich nützlich Ergbniss: Übr di Matri dr zwitn partilln Ablitungn dr Log-Lilihood-Funtion an dr Stll βˆ gwinnt man in Schätzung dr Varianz-Kovarianzmatri dr Paramtrschätzr, so dass sich Konfidnzintrvall und Tsts onstruirn lassn (sih z.b. Agrsti 990, S. ff; Hosmr & Lmshow 000, S. 34ff). Di mit vormultiplizirt Log-Lilihood an dr Stll βˆ, im folgndn mit LL(ˆ β) bzichnt, spilt bi viln Signifianztsts und Goodnss-of-Fit - Indizs in wichtig Roll (sih untn). Allrdings gltn di Vrtilungsaussagn dr Maimum-Lilihood-Thori gnrll nur approimativ, d.h. für N. In Abschnitt.. findn sich Empfhlungn zur minimal rfordrlichn Stichprobngröß. In Abschnitt 4.8 bschäftign wir uns mit numrischn Schätzproblmn, di durch spzill Mustr in dn Datn vrursacht wrdn (z.b. Multiollinarität, lr Zlln bi atgorialn Präditorn)..3. Altrnativ Vrfahrn Als Mthod zur Paramtrschätzung hat sich in dr logistischn Rgrssionsanalys di Maimum- Lilihood-Mthod (ML-Mthod) witghnd durchgstzt. Wil dis vor allm auch für atull Statisti-Programmpat wi SPSS gilt, wrdn altrnativ Vrfahrn in dism Manusript nicht bhandlt (sih z.b. Hosmr & Lmshow 000, S. 43ff). Bi linn Stichprobn (sih Abschnitt..) ist di Maimum-Lilihood-Tchnologi unbfridignd, wil si nur approimativ Konfidnzintrvall zu Paramtrschätzungn und Übrschritungswahrschinlichitn zu Hypothsntsts lifrt. Währnd sich di mistn Statistiprogrammpat (wi auch SPSS) bi dr logistischn Rgrssion auf ML-Mthodn bschränn, lifrt das Programm Log- Xact (sih at Ergbniss übr in Gnralisirung von Fischrs atm Tst für 4-Fldr-Kontingnztablln (Allison 999, S. 47f). Außrdm lifrt LogXact sinnvoll Ergbniss für problmatisch Datn mit inr quasi-vollständign Trnnung (sih Abschnitt 5.3), währnd di ML-Mthod hir vrsagt. Wgn ds normn Rchnaufwands ignt sich LogXact nur für lin Stichprobn. In großn Stichprobn sind di approimativn ML-Ergbniss allrdings azptabl, und mit inr quasi-vollständign Trnnung ist aum zu rchnn. 9

20 Logistisch Rgrssionsanalys mit SPSS.4 Burtilung dr Modllgültigit Bvor di Schätz- und Tstrgbniss zum gsamtn Modll bzw. zu inzlnn Rgrssorn intrprtirt wrdn, sollt zunächst di Modllgültigit anhand von divrsn diagnostischn Informationn übrprüft wrdn. Als potntill Schwachstlln sind u.a. zu bachtn: Spzifiationsfhlr Di Logit-Modllformulirung in Glichung () ann sich als fhlrhaft rwisn. Evntull sind hir nichtlinar odr multipliativ Bzihungn angmssnr. Wi bi dr linarn Rgrssion sind auch bi dr logistischn Rgrssion di Paramtrschätzungn vrzrrt, wnn rlvant Rgrssorn im Modll fhln, di mit vorhandnn Rgrssorn orrlirt sind (omittd-variablrror, sih z.b. Balts-Götz 994, S. -3f). Ein Analys diss Problms stzt natürlich voraus, dass di potntill rlvantn Rgrssorn rfasst wordn sind. Übrflüssig Rgrssorn önnn di Vrtraunsintrvall zu Rgrssionsoffizintn und di -Fhlr von Signifianztsts vrgrößrn, spzill bi Korrlationn mit andrn Rgrssorn. Im Zusammnhang mit dr Burtilung inzlnr Rgrssorn wrdn wir und mit fhlndn und mit irrlvantn Präditorn bschäftign (sih Abschnitt.6.3). Aus dr Entschidung für di logistisch Vrtilungsfuntion zur Anpassung dr Modllprognos an dn Wrtbrich von Wahrschinlichitn rsultirn in dr Rgl in Einschränungn für di Modllgültigit (vgl. Abschnitt..5). Wr Altrnativn ausprobirn möcht, findt si in dn SPSS-Prozdurn PLUM und PROBIT. Schwächn ds Modlls bi bstimmtn Tilstichprobn Bi inr Analys dr Rsidun lassn sich Tilstichprobn idntifizirn, drn Vrhaltn vom Modll schlcht rlärt wrdn ann. Einzlfäll mit starm Einfluss auf di Schätzrgbniss Wnn inzln Fäll di Schätzrgbniss star binflussn, ist di Gnralisirbarit in Frag gstllt..4. Global Modllgültigitststs In dr Litratur zur logistischn Rgrssion sind inig Goodnss-of-Fit - Statistin vorgschlagn wordn, di global burtiln solln, wi gut in gschätzts Modll zu dn Datn passt. Dabi gibt man sich nicht mit dsriptivn Indizs zufridn, sondrn vrsucht zu Modllgültigitststs zu ommn. Bi dr Auswahl inr Goodnss-of-Fit Statisti ist unbdingt zu brücsichtign, ob Individualdatn odr aggrgirt Datn vorlign..4.. Parson- -Statisti Übr di folgnd Parson- -Statisti ann bi aggrgirtn Datn mit K mhrfach bstztn Präditorwrtombinationn in Modllgültigitstst onstruirt wrdn (sih z.b. Hosmr & Lmshow 000, S. 45): K ( ~ y h ˆ ) P : (8) h ˆ ( ˆ ) Für in mit Häufigit h ralisirt Präditorwrtombination (ngl.: covariat pattrn) wird di rwartt Häufigit h ˆ rmittlt, wobi ˆ di vom gschätztn Modll für di -t Wrtombination prognostizirt Wahrschinlichit zum Einsrrignis ist. Mit y~ soll bi aggrgirtn Datn di bobachtt Anzahl von Einsn in dr -tn Wrtombination ausgdrüct wrdn. Im Zählr ins P - Summandn stht also di quadrirt Abwichung dr bobachttn Häufigit y~ von ihrr Erwartung 0