Statistische Regressionsmodelle

Transkript

1 Statstsche Regressonsmodelle Tel II: Verallgemenerte Lneare Modelle Werner Stahel Semnar für Statstk, ETH Zürch März 2005 / Ma 2008 Zweter Tel der Unterlagen zu enem Kurs über Regressonsmodelle, gehalten vom Jun 2008, veranstaltet von der Schwezerschen Gesellschaft für Statstk.

2 11 Ene und zwe kategorelle Varable 11.1 Enletung a In Umfragen wrd für jede Frage vorzugswese ene Lste von Auswahlantworten angeboten. Es wrd bespelswese gefragt, welches von 5 Produkten man bevorzugt. In der Medzn wrd ene Dagnose bestmmt, de den Patenten ener Gruppe von Kranken zuwest. In der Botank kann man de Blütenfarbe oder de Blattform festhalten. In der Technk kann be Geräte-Ausfällen ene Ursache, der Hersteller, de Produktons-Schcht u.a.m. notert werden. b In all desen Bespelen entstehen kategorelle Daten. Ene kategorelle Varable hält fest, zu welcher Kategore oder Klasse jede Beobachtungsenhet (Person, Objekt, Zetperode,...) bezüglch enes Merkmals gehört. In der Regresson haben wr solche Varable bsher nur als Engangsvarable benützt und se dann als Faktoren bezechnet. Manchmal entstehen solche Daten auch durch Klasserung von kontnuerlchen Merkmalen: Man telt bespelswese Personen n de Altersklassen unter 26, 26-45, 46-65, über 65 en. Dabe geht Informaton verloren, aber manchmal wrd de Auswertung enfacher verständlch. c Bespel. In ener Umfrage zum Umweltschutz wurde unter anderem gefragt, ob man sch durch Umweltschadstoffe beenträchtgt fühle (Quelle: Umweltschutz m Prvatberech. Erhebung des EMNID, Zentralarchv für emprsche Sozalforschung der Unverstät Köln, vergleche Stahel (2002), 10.3.a). De möglchen Antworten waren: (1) überhaupt ncht beenträchtgt, (2) etwas beenträchtgt, (3) zemlch beenträchtgt und (4) sehr beenträchtgt. Man nteressert sch u.a. dafür, ob de Beenträchtgung etwas mt der Schulbldung zu tun hat. Man wrd also deses sozologsche Merkmal ebenfalls erfragen und dazu de Schulbldung bespelswese n de fünf Kategoren (1) Volks-, Hauptschule ohne Lehrabschluss; (2) mt Lehrabschluss; (3) weterbldende Schule ohne Abtur; (4) Abtur, Hochschulrefe, Fachhochschulrefe; (5) Studum (Unverstät, Akademe, Fachhochschule) entelen. In der Umfrage wurde natürlch auch das Alter und das Geschlecht erfasst. Wr werden das Bespel n den folgenden Kapteln mmer weder aufgrefen und dabe auch Verbndungen mt Antworten auf de Frage nach der Hauptverantwortung untersuchen, de de Befragten (1) dem Staat, (2) den Enzelnen oder (3) beden zusammen zuwesen konnten. d De Auswertung solcher Daten muss berückschtgen, dass Dfferenzen zwschen den Kategoren ncht snnvoll als Unterschede zwschen Beobachtungsenheten nterpretert werden können, auch wenn man se oft mt numerschen Codes 1,2,..., bezechnet; dass de möglchen Werte oft kene natürlche Ordnung aufwesen; st ene solche doch vorhanden (Gefährlchket ener Krankhet, Antworten von gar ncht enverstanden bs vollkommen enverstanden, klasserte quanttatve Varable usw.), so sprcht man von ordnalen Daten, andernfalls von nomnalen Daten; dass für de mesten solchen Varablen nur wenge, vorgegebene Werte möglch Verson Ma 2008, c W. Stahel

3 11.1. EINLEITUNG 115 snd. Ene Normalvertelung oder ene andere stetge Vertelung kommt für solche Daten ncht n Frage ausser allenfalls als grobes erstes Modell, wenn wengstens ene ordnale Skala vorlegt. e Den ersten Schrtt der Auswertung solcher Daten bldet hre Zusammenfassung: Man zählt, we vele Beobachtungsenheten n de möglchen Kategoren oder Kombnatonen von Kategoren fallen. De (absoluten oder relatven) Häufgketen werden n enem Stabdagramm (Abbldung 11.1.e), enem Hstogramm oder enem Kuchendagramm (pe chart) dargestellt. Wr zechnen her ken Kuchendagramm, wel emprsche Untersuchungen gezegt haben, dass dese wenger genau erfasst werden als Stabdagramme (Cleveland, 1994). Studum Abtur ohne.ab Lehre ungelernt Antel % Abbldung 11.1.e: Stabdagramm der Schulbldung m Bespel der Umweltumfrage f Mt zwe kategorellen Varablen entsteht ene (zwedmensonale) Kreuztabelle oder Kontngenztafel. Im Bespel der Umweltumfrage zegt Tabelle 11.1.f de Ergebnsse für de zwe Varablen Schulbldung und Beenträchtgung. Beenträchtgung (B) ncht etwas zeml. sehr Summe ungelernt Lehre Schulbldung (A) ohne.ab Abtur Studum Summe Tabelle 11.1.f: Schulbldung und Beenträchtgung durch Umweltschadstoffe Man kann natürlch auch de Anzahlen für alle Kombnatonen von dre und mehr Varablen festhalten und sprcht dann von höher-dmensonalen Kontngenztafeln.

4 EINE UND ZWEI KATEGORIELLE VARIABLE g Durch de Zusammenfassung entstehen Häufgketsdaten, oft auch Zähldaten genannt. Modelle, de de Grundlage für de schlessende Statstk blden, legen dann fest, mt welchen Wahrschenlchketen welche Anzahlen auftreten werden. Lndsey (1995) legt Wert auf ene nützlche Unterschedung: Zähldaten, de auf de geschlderte Wese durch Auszählen der Beobachtungsenheten, de n bestmmte Kategoren fallen, zu Stande kommen, nennt er frequency data (also Häufgketsdaten). Wenn für jede Beobachtungsenhet ene Anzahl angegeben wrd, bespelswese de Zahl der aufgetretenen Fehler n jeder Woche oder de Zahl der beobachteten Hrsche pro Begehung, so sprcht er von count data, was wr zur Unterschedung vom zwedeutgen Wort Zähldaten mt Anzahldaten bezechnen wollen. En solcher count kann rgendwelche Objekte oder Eregnsse zählen. Der wesentlche Untersched st der, dass für Häufgketsdaten de unabhänggen Beobachtungen zuerst zusammengefasst werden müssen. De Varablen für de ursprünglchen Beobachtungen snd dann kene Anzahlen, sondern kategorelle Varable. h Häufg kann man be statstschen Studen von der Problemstellung her ene Varable als Zelgrösse oder Antwortfaktor erkennen, deren Zusammenhänge mt anderen, den erklärenden Varablen oder Faktoren durch en Modell beschreben werden sollen. Im Bespel der Umweltumfrage wrd man de Beenträchtgung oder auch de Benennung der Hauptverantwortung als Antwortfaktor ansehen und de Enflüsse der Schulbldung oder anderer sozologscher Merkmale auf dese Grösse erfassen wollen. Es geht also darum, en Regressonsmodell zu entwckeln, be dem de Zelgrösse kategorell st. Wenn de Zelgrösse nur zwe möglche Werte hat, also bnär st, betet de logstsche Regresson das brauchbarste und enfachste Modell an. De Verallgemenerung auf mehr als zwe möglche Werte hesst multnomale Regresson. Für geordnete Zelgrössen gbt es ebenfalls Erweterungen; de wchtgste läuft unter dem Namen kumulatve Logts. Dese Modelle gehören zum allgemeneren Gebet der Verallgemenerten Lnearen Modelle (Generalzed Lnear Models), de berets behandelt wurden. Wenn de Varablen glechberechtgt behandelt werden sollen, könnte man von ener Fragestellung der multvaraten Statstk kategoreller Daten sprechen. De Analyse von Zusammenhängen entsprcht dann der Korrelatons-Analyse von stetgen Daten. Herfür beten sch Methoden für Kontngenztafeln, vor allem de loglnearen Modelle an, de wr n Kaptel 14.S.0.b behandeln werden. Loglneare Modelle egnen sch auch dazu, Fragestellungen mt mehreren Antwortgrössen zu behandeln. Se gehören ebenfalls zu den Verallgemenerten Lnearen Modellen Modelle für Kreuztabellen a Zunächst wollen wr uns mt Zusammenhängen zwschen zwe Varablen befassen. De Daten aus ener Umfrage, Beobachtungsstude oder enem Versuch kann man, we n 11.1.f gesagt, n ener Kreuztabelle zusammenfassen. Wr führen Bezechnungen en:

5 11.2. MODELLE FÜR KREUZTABELLEN 117 Varable B k s Varable A 1 n 11 n 12 n n 1k... n 1s n 1+ 2 n 21 n 22 n n 2k... n 2s n h n h1 n h2... n hk... n hs n h r n r1 n r2... n rk... n rs n r+ n+1 n n +k... n +s n De Tabelle enthält de absoluten Häufgketen n hk von Beobachtungen für zwe Varable A, mt r Kategoren, und B, mt s Kategoren. Insgesamt gbt es rs möglche Kombnatonen. De Randhäufgketen für de enzelnen Varablen werden mt n h+ und n +k bezechnet. b De Tabelle macht klar, welche Art von Daten wr erwarten. Damt wr rgendwelche Fragen statstsch beantworten können, brauchen wr en Modell, das beschrebt, welche Wahrschenlchket jede möglche Kombnaton von Werten für ene enzelne Beobachtung hat. Wr bezechnen de Wahrschenlchket, dass Varable A Ausprägung h und Varable B Ausprägung k erhält, mt π hk. De Wahrschenlchketen π hk legen de gemensame Vertelung von A und B fest. Es muss h,k π hk = 1 gelten. De Randvertelungen der Varablen snd durch de Randsummen π h+ = k π hk und π +k = h π hk bestmmt. Interessante Modelle werden dadurch entstehen, dass man für de π hk Enschränkungen enführt. c Das enfachste Modell macht kene Enschränkungen. De Wahrschenlchketen werden dann durch de relatven Häufgketen geschätzt, π hk = N hk /n Her wurden de N hk gross geschreben, da se jetzt Zufallsvarable snd. De gesamte Anzahl Beobachtungen n wrd dagegen üblcherwese als feste Zahl angenommen. Im Bespel der Umweltumfrage (11.1.c) ergbt sch Tabelle 11.2.c. Beenträchtgung (B) ncht etwas zeml. sehr Summe ungelernt Lehre Schulbldung (A) ohne.ab Abtur Studum Summe Tabelle 11.2.c: Relatve Häufgketen n Prozenten m Bespel der Umweltumfrage

6 EINE UND ZWEI KATEGORIELLE VARIABLE d Wenn der Faktor A ene erklärende Varable für de Zelgrösse oder den Antwortfaktor B st, dann st es nformatv, de Wahrschenlchketsvertelung von B auf jeder Stufe von A zu blden, also de bedngten Wahrschenlchketen π k h = P B = k A = h = π hk π h+ zu betrachten. Ene Schätzung für dese Grössen erhält man, ndem man de N hk durch de Randsummen N h+ telt, π k h = N hk /N h+. Für das Bespel zegt Tabelle 11.2.d, dass de Beenträchtgung mt höherer Schulstufe zunmmt. Des seht man noch besser n ener grafschen Darstellung, n der de Vertelungen der Beenträchtgung für de verschedenen Schulbldungsklassen mt Hstogrammen verglchen werden (Abbldung 11.2.d). Beenträchtgung (B) ncht etwas zeml. sehr Summe ungelernt Lehre Schulbldung (A) ohne.ab Abtur Studum Summe Tabelle 11.2.d: Beenträchtgung der Gruppen n Prozentzahlen m Bespel der Umweltumfrage ungelernt Lehre ohne Ab Abtur Studum sehr zeml. etwas ncht Abbldung 11.2.d: Hstogramme zum Verglech der Beenträchtgung für de Schulbldungsklassen m Bespel der Umweltumfrage e De π hk legen de Wahrschenlchketen fest, mt denen de enzelnen Beobachtungen n de Zellen [h, k] der Tabelle fallen. Wenn wr nun n Beobachtungen machen, stellt sch de Frage, welcher Vertelung de Häufgketen N hk der Beobachtungen folgen. De Antwort lefert de Multnomale Vertelung, de genau für solche Fälle engeführt wurde (Stahel (2002), 5.5). Dass de Enzelwahrschenlchketen π hk her zwe Indzes tragen, ändert an der Stuaton nchts. Es glt also P N 11 = n 11,N 12 = n 12,...,N rs = n rs = n! n 11!n 12!...n rs! πn πn 12 12,...,πnrs rs.

7 11.2. MODELLE FÜR KREUZTABELLEN 119 Wr schreben [N 11,N 12,...,N rs ] M n;π 11,π 12,...,π rs. In englschen Büchern sprcht man von multnomal samplng. De Erwartungswerte der Anzahlen N hk snd E N hk = nπ hk. f In manchen Studen snd de enen Randtotale m Voraus festgelegt: Man befragt bespelswese glech vele Frauen und Männer oder ene vorbestmmte Anzahl Mtarbetende aus jeder Herarchestufe. Im Snne der Stchproben-Erhebungen zeht man ene geschchtete Stchprobe. De N h+ snd also vorgegeben, N h+ = n h+. Man erhält r unabhängge Stchproben, und jede folgt ener Multnomalen Vertelung, [N h1,n h2,...,n hs ] M n h+ ;π h1,π h2,...,π hs, unabhängg, für h = 1,...,r. Man sprcht von ndependent multnomal samplng. g Rechnungen und Überlegungen können enfacher werden, wenn man das folgende Modell verwendet, das ncht nur de Randtotale fre lässt, sondern sogar de Gesamtzahl N der Beobachtungen als zufällg annmmt: Zur Herletung der Posson-Vertelung wurden n Stahel (2002), 5.2.a Regentropfen betrachtet, de auf Platten fallen. Her stellen wr uns r s Platten mt den Flächen π hk vor. Zählt man de Regentropfen, de n enem festen Zetabschntt auf de Platten fallen, dann wrd hre Gesamtzahl gemäss der erwähnten Herletung ene Posson-Vertelung P λ haben, wobe λ de erwartete Anzahl msst. De Überlegung glt aber auch für jede enzelne Platte: N hk st Posson-vertelt, und de erwartete Anzahl λ hk st proportonal zur Fläche, nämlch λ hk = π hk λ, da π hk der Antel der Platte [h,k] an der Gesamtfläche st. De Zahlen der Tropfen, de m betrachteten Zetraum auf de enzelnen Platten fallen, snd stochastsch unabhängg. Es ergbt sch das Modell der unabhänggen Posson-Vertelungen (Posson samplng), N hk P π hk λ, unabhängg für h = 1,...,r und k = 1,...,s. De Wahrschenlchketen werden mt λ hk = π hk λ. P N 11 = n 11,N 12 = n 12,...,N rs = n rs = h,k λ n hk hk n hk! e λ hk h Man kann m letzten Modell de Gesamtzahl N festhalten und de bedngte Vertelung der N hk, gegeben N = n, betrachten. Das ergbt exakt das Modell der Multnomalen Vertelung (11.2.e),... *... denn es glt λ = h,k λ hk, π hk = λ hk /λ und deshalb P N 11 = n 11, N 12 =n 12,..., N rs =n rs N =n = h,k P n! = h,k n hk! h,k λn hk hk λ P e h,k λ hk n! h,k n hk e λ = h,k n hk! λ n / hk hk n hk! e λ hk λ n n! e λ h,k π n hk hk.

8 EINE UND ZWEI KATEGORIELLE VARIABLE Hält man zudem de Randtotale N h+ = n h+ fest, dann erhält man de unabhänggen Multnomalen Vertelungen von 11.2.f. (Später werden wr auch noch de anderen Randsummen festhalten, sehe 11.3.d, 11.3.l.) Dese Zusammenhänge werden wr be Wahrschenlchketsrechnungen m Zusammenhang mt kategorellen Daten mmer weder ausnützen. En grundlegender Trck wrd darn bestehen, mt dem sehr enfachen Modell der unabhänggen Posson-Varablen N hk zu arbeten und nachher für de Bedngthet Korrekturen vorzunehmen Unabhänggket von zwe Varablen und Verglech von Stchproben a De Frage, ob zwe Varable mt enander n enem Zusammenhang stehen, st ene grundlegende Frage der Wssenschaft. Se verlangt nach enem Test für de stochastsche Unabhänggket n unserem Zusammenhang de Unabhänggket von zwe kategorellen Grössen. Ene Nullhypothese, de statstsch getestet werden soll, muss durch en Wahrschenlchketsmodell beschreben sen. Her geht es darum, de der Nullhypothese entsprechenden Enschränkungen an de π hk zu formuleren. Wenn de Varablen A und B unabhängg snd, dann hesst das, dass π hk = P A=h,B = k = P A=h P B = k = π h+ π +k glt. Für de Anzahlen N hk erhalten wr gemäss 11.2.e de Erwartungswerte E N hk = nπ h+ π +k. b Um de Nullhypothese zu prüfen, schätzen wr de πs und blden de Dfferenzen π hk π h+ π +k = N hk n N h+ n N+k n. Multplzert man dese Ausdrücke mt n, so werden se zu Dfferenzen zwschen den Anzahlen N hk und λ (0) hk = N h+n +k /n = n π h+ π +k, welche man gemäss dem vorhergehenden Absatz als de geschätzten Erwartungswerte deser Anzahlen unter der Nullhypothese erkennt. Wenn dese Dfferenzen zu stark von null verscheden snd, st de Nullhypothese zu verwerfen. We stark zu stark st, können wr beurtelen, da gemäss 11.2.h (näherungswese) N hk P und deshalb var N hk λ hk st. Es st also λ (0) hk hk = N hk R (P) näherungswese ene Grösse mt Erwartungswert 0 und Varanz 1. Für ncht allzu klene λ (0) hk st de Posson-Vertelung näherungswese ene Normalvertelung, und R(P) hk st standard-normalvertelt. λ (0) hk λ (0) hk

9 11.3. UNABHÄNGIGKEIT VON 2 VAR., VERGLEICH VON STICHPROBEN 121 c Um aus den standardserten Dfferenzen ene enzge Teststatstk zu erhalten, blden wr we bem Krterum der Klensten Quadrate n der Regresson hre Quadratsumme T = h,k (R (P) hk )2 = h,k (0) (N hk λ hk )2 λ (0) = hk h,k (N hk N h+ N +k /n) 2 N h+ N +k /n. Dese Summe entsprcht der allgemenen Merkform ener Ch-Quadrat-Teststatstk T = h,k ( beobachtet hk erwartet hk ) 2 erwartet hk Ene Quadratsumme von unabhänggen, standard-normalvertelten Grössen st chquadrat-vertelt; de Anzahl Frehetsgrade st glech der Zahl der Summanden. De klene Korrektur, de durch das Bedngen auf de geschätzten λ (0) h+ und λ(0) +k (oder de Randsummen der Kreuztabelle) nötg werden, besteht (we n der lnearen Regresson mt normalvertelten Fehlern) darn, dass de Zahl der Frehetsgrade um de Anzahl solcher Bedngungen reduzert wrd. Es gbt r Bedngungen für de Zelen und danach noch s 1 unabhängge Bedngungen für de Spalten (da de Summen der Randsummen glech sen müssen). So erhält man rs r (s 1) = (r 1)(s 1) Frehetsgrade. d* In 11.2.f wurden de Randsummen n h+ als fest betrachtet. Das entsprcht dem Verlust der Frehetsgrade durch de Schätzung der λ (0) h+. Mt desem Modell kann man also de bedngte Vertelung (0) der Teststatstk, gegeben de λ h+ oder de n h+, untersuchen. Da auch de λ (0) +k geschätzt werden, muss auch auf de n +k bedngt werden. Man kann zegen, dass de Chquadrat-Vertelung mt der angegebenen Zahl von Frehetsgraden ene gute Näherung für dese doppelt bedngte Vertelung st, vergleche auch 11.3.l. e Zusammengefasst erhalten wr den folgenden Chquadrat-Test für Kontngenztafeln: Es se zu testen H 0 : π hk = π h+ π +k Unabhänggket von A und B oder H 0 : π k h = π k h (bedngte) Vertelung von B gegeben A = h st glech für alle h. Teststatstk: T = (N hk N h+ N +k /n) 2. N h+ N +k /n h,k Vertelung unter der Nullhypothese: T χ 2 (r 1)(s 1) f Damt de genäherte Vertelung brauchbar st, dürfen de geschätzten erwarteten Anzahlen λ (0) hk = N h+n +k /n ncht zu klen sen. Nach van der Waerden (1971) und F. Hampel (persönlche Mttelung aufgrund egener Untersuchungen) kann folgende Regel aufgestellt werden: Etwa 4/5 der gross) können enzelne (0) λ hk (0) λ hk müssen 4 sen, de übrgen 1. Be velen Klassen (rs sogar noch klener sen (aus Stahel, 2002, Abschntt 10.1.n). Im Bespel der Umweltumfrage (11.1.c) fragten wr, ob de empfundene Beenträchtgung etwas mt der Schulbldung zu tun hat. Tabelle 11.3.f enthält de erwarteten Anzahlen und de R (P) hk. Deren Quadratsumme T = st deutlch zu gross für ene chquadratvertelte Grösse mt (5 1)(4 1) = 12 Frehetsgraden; der krtsche Wert beträgt Dem entsprechend gbt R als P-Wert ene blanke Null an. De Nullhypothese der Unabhänggket wrd also klar verworfen.

10 EINE UND ZWEI KATEGORIELLE VARIABLE λ (0) hk k R (P) hk k h h Tabelle 11.3.f: Geschätzte erwartete Anzahlen der Umweltumfrage λ (0) hk und Pearson-Resduen R(P) hk m Bespel g De standardserten Dfferenzen R (P) hk werden Pearson-Resduen genannt. Se können anzegen, we de Abwechung von der Nullhypothese zu Stande kommt. Abbldung 11.3.g zegt se grafsch n Form enes assocaton plots (Cohen (1980)). De gezechneten Rechtecke rchten sch n hrer Höhe nach den Pearson-Resduen und n hrer Brete nach hrem Nenner λ(0) hk, so dass de Flächen proportonal zu den (Absolutwerten (0) der) Dfferenzen der N hk von hren geschätzten Erwartungswerten λ hk werden. Schule Beentraechtgung Abbldung 11.3.g: Assocaton Plot für das Bespel der Umweltumfrage

11 11.3. UNABHÄNGIGKEIT VON 2 VAR., VERGLEICH VON STICHPROBEN 123 h Man kann de vorherge Frage auch anders formuleren: Antworten de Personen mt verschedener Schulbldung auf de Frage nach der Belästgung glech oder verscheden? Das st dann ene Frage des Verglechs von Stchproben den Stchproben aus den verschedenen Schulstufen. Dese Formulerung läge vor allem dann nahe, wenn de Stchprobe entsprechend der Schulbldung geschchtet erhoben worden wäre, wenn man also aus den verschedenen Stufen jewels ene vorgegebene Anzahl Personen befragt hätte. Se wäre auch dann noch snnvoll, wenn de Stchprobenumfänge n den verschedenen Schchten kenen Bezug zu hrem Antel n der Grundgesamthet hätten. De Stchproben n den Schchten werden unabhängg gezogen. Es geht also um den Verglech von unabhänggen Stchproben. Im Falle von kontnuerlchen Zufallsvarablen war be enem Verglech unabhängger Stchproben mestens der Lageparameter (Erwartungswert oder Medan) von Interesse. Für kategorelle Varable macht dese Frage kenen Snn; man wll her testen, ob de ganzen Vertelungen der Varablen n den Schchten überenstmmen. Für geordnete Grössen st de Glechhet der Medane oft weder von besonderer Bedeutung, und man kann de Rangtests (U-Test oder Kruskal-Walls) verwenden. Es zegt sch, dass de erwarteten Anzahlen für de enzelnen Zellen der Tabelle unter der Nullhypothese, dass alle Stchproben der glechen Vertelung folgen, genau nach der Formel n 11.3.c zu berechnen snd auch wenn jetzt de Randtotale n h+ ncht mehr zufällg snd. De Teststatstk T, de dort angeführt wurde, zegt auch de Abwechungen von der neuen Nullhypothese an. Ihre Vertelung müsste jetzt, genau genommen, unter dem Modell des ndependent multnomal samplng bestmmt werden. Das macht aber kenen Untersched, da berets für den Test der Unabhänggket de bedngte Vertelung, gegeben de Randtotale, verwendet wurde. Der Test zum Verglech von unabhänggen Stchproben st deshalb mt dem Test für de Unabhänggket zweer Varablen dentsch. j Ene Kreuztabelle mt nur zwe Zelen und zwe Spalten wrd Verfeldertafel genannt. Bespel Herznfarkt und Verhütungsmttel (Agrest, 2002, 2.1.3). De 58 verherateten Patentnnen unter 45 Jahren, de n zwe englschen Sptalregonen wegen Herznfarkt behandelt wurden, und etwa dre Mal mehr Patentnnen, de aus anderen Gründen ns Sptal kamen, wurden befragt, ob se je Verhütungspllen verwendet hätten. De Ergebnsse zegt Tabelle 11.3.j. De Frage st, ob Verhütungspllen enen Enfluss auf Herznfarkte haben. Herznfarkt (B) ja nen Summe Verhütungsplle ja (A) nen Summe Tabelle 11.3.j: Kreuztabelle der Verwendung von Verhütungspllen und Herznfarkt. Zur Beantwortung der Frage verglechen wr n den beden Gruppen de Antele derer, de Pllen benützt hatten. Ist N 11 /n 1+ = 23/58 = 40% sgnfkant von N 21 /n 2+ = 34/166 = 20% verscheden?

12 EINE UND ZWEI KATEGORIELLE VARIABLE k Wr verglechen also zwe Stchproben n Bezug auf ene bnäre Zelgrösse, oder anders gesagt: Wr fragen, ob de Wahrschenlchket für en Eregns (de Pllenverwendung) n zwe Gruppen (Herznfarkt ja oder nen) glech se, was oft auch als Verglech zweer Wahrschenlchketen bezechnet wrd. We m allgemenen Fall egnet sch der gleche Test, um de Unabhänggket von zwe Varablen zu testen n desem Fall von zwe bnären Varablen. De Teststatstk aus 11.3.c kann umgeformt werden zu T = n(n 11n 22 n 12 n 21 ) 2 n 1+ n 2+ n +1 n +2. Se st weder genähert chquadrat-vertelt, mt gerade mal (2 1)(2 1) = 1 Frehetsgrad. De Näherung wrd noch etwas besser, wenn man de so genannte contnuty correcton von Yates verwendet (Hartung, Elpelt und Klösener, 2002, VII.1.2.1). Im Bespel erhält man Pearson s Ch-squared test wth Yates contnuty correcton X-squared = , df = 1, p-value = l* De Vertelung der Teststatstk unter der Nullhypothese lässt sch n desem Fall exakt bestmmen. Wenn de Randtotale weder als fest betrachtet werden, dann st de ganze Tabelle bestmmt, wenn noch ene der ver Zahlen aus dem Inneren der Verfeldertafel bekannt st bespelswese N 11. De Teststatstk hat ja enen enzgen Frehetsgrad! De Vertelung st durch de Wahrschenlchketen ( n1+ )( n2+ ) n P N 11 = n 11 = 11 n ( 21 n ) = n / 1+! n +1 n 11!n 12! n 2+! n! n 21!n 22! n +1!n +2! = n 1+!n 2+!n +1!n +2! n!n 11!n 12!n 21!n 22! gegeben. Se wrd hypergeometrsche Vertelung genannt. Wenn dese Vertelung benützt wrd, sprcht man vom exakten Test von Fsher. Her werden de Randsummen ncht nur für enen Faktor festgehalten we n 11.2.f, sondern für bede. De hypergeometrsche Vertelung entsteht also aus dem Modell der unabhänggen Multnomalen Vertelungen, ndem man n desem Modell de bedngte Vertelung von N 11, gegeben N +1 und N +2, bestmmt, vergleche 11.3.d. m Für kontnuerlche Varable werden n Statstk-Enführungsbüchern ncht nur unabhängge, sondern auch verbundene Stchproben verglchen. Für jede Beobachtungsenhet werden also zwe Varable Y (1) und Y (2) ermttelt, bespelswese das gleche Merkmal vor und nach ener Behandlung. Man fragt mestens, ob sch der Erwartungswert (oder en anderer Lageparameter) verändert hat. Dazu bldet man Dfferenzen Y (2) Y (1) und prüft, ob se zufällg um 0 herum streuen. Für kategorelle Varable machen Lageparameter und Dfferenzen kenen Snn. Wr fragen weder allgemener, ob sch de Vertelungen der beden Varablen unterscheden. Damt de Frage Snn macht, müssen zunächst bede glech vele möglche Werte haben (r = s), und dese müssen enander n natürlcher Wese entsprechen. De Vertelungen snd nun ncht nur dann glech, wenn alle Y (1) = Y (2) snd, sondern auch dann, wenn de Übergangs- Wahrschenlchketen π hk paarwese überenstmmen, also π hk = π kh glt. Das lässt sch recht enfach testen.

13 11.4. ABHÄNGIGKEIT VON ZWEI VARIABLEN 125 n In ener Verfeldertafel verwendet man dazu den McNemar-Test. De Nullhypothese hesst H 0 : π 1+ = π +1 oder, äquvalent dazu, π 12 = π 21. Teststatstk und Vertelung: N 12 B N 12 + N 21,1/2. Man betrachtet also de bedngte Vertelung der Anzahl der Wechsel von 1 nach 2 (oder von 2 nach 1), gegeben de Anzahl aller Wechsel. De Beobachtungen, für de bede Varablen den glechen Wert haben, gehen ncht drekt n den Test en. Se verrngern nur de Anzahl Versuche für de Bnomalvertelung. o* Wenn de Kreuztabelle mehr als zwe Zelen und Spalten hat, lässt sch de Nullhypothese π hk = π kh für alle h < k mt ener Erweterung deses Tests prüfen: Es st T = h<k (N hk N kh ) 2 N hk + N kh genähert chquadrat-vertelt; de Anzahl Frehetsgrade stmmt mt der Anzahl Summanden überen. Es st aber wchtg, zu bemerken, dass en solcher Test ncht egentlch das prüft, was am Anfang gefragt wurde; de Vertelungen von Y (1) und Y (2) können nämlch auch glech sen, wenn ncht alle π hk = π kh snd! We man es rchtg macht, st dem Autor m Moment ncht bekannt. p De Statstk-Programme setzen normalerwese voraus, dass de Daten n der Form der ursprünglchen Daten-Matrx engegeben werden, dass also für jede Beobachtung der Wert der Faktoren, A, B, n ener Zele engegeben wrd. Im Bespel der Herznfarkte snd das 224 Zelen, für jede Patentn ene. De Kreuztabelle mt den N hk erstellt das Programm dann selbst. Wenn man de Kreuztabelle drekt zelenwese engbt, können de mesten Programme nchts damt anfangen. Immerhn kann man jewels de Beobachtungen, de n beden (später: allen) Varablen überenstmmen, zusammenfassen. In ener Zele der Engabe stehen dann de Werte der beden Varablen und de Anzahl der entsprechenden Beobachtungen. Für das Bespel 11.3.j schrebt man de Daten n der folgenden Form auf: A B N De Spalte mt den Anzahlen muss dann oft als Gewcht angesprochen werden Abhänggket von zwe Varablen a Wenn zwe Varable ncht unabhängg snd, möchte man hre Abhänggket durch ene Zahl charakterseren, de de Stärke des Zusammenhangs msst. Für quanttatve Varable gbt es dafür de verschedenen Korrelatonen (Pearson- und Rangkorrelatonen), de eng mtenander verwandt snd (Stahel (2002) 3.2). Für kategorelle Merkmale gbt es verschedene Vorschläge. Besonders bedeutungsvoll und glechzetg enfach zu nterpreteren snd solche Masse m Fall enes bnären Antwortfaktors B, weshalb deser Fall ausführlcher dskutert werden soll. De Wortwahl der Begrffe stammt telwese aus der Medzn, n der das Vorhandensen ener Krankhet (B = 1) n Zusammenhang gebracht mt ener Grupperung (Faktor A), de de Exposton oder Rskogruppe erfasst.

14 EINE UND ZWEI KATEGORIELLE VARIABLE b Wr bezechnen de bedngte Wahrschenlchket des betrachteten Eregnsses B = 1, gegeben de Gruppe A = h, als das Rsko π 1 h = P B = 1 A=h = π h1 /π h+ für de Gruppe h. Zum Verglech des Rskos zwschen zwe Gruppen denen de Rsko-Dfferenz, π 1 1 π 1 2. Deses Mass st weng bedeutungsvoll; es kann allenfalls snnvoll nterpretert werden, wenn man de enzelnen π 1 h ungefähr kennt. das relatve Rsko, π 1 1 /π 1 2. Für klene Rsken st des brauchbarer als de Rsko- Dfferenz. En relatves Rsko von 4 bedeutet, dass de Wahrschenlchket für das Eregns n Gruppe ens 4 mal grösser st als n Gruppe zwe. c Das nützlchste Mass für den Verglech von Rsken bldet das Doppelverhältns, englsch präzser odds rato genannt. Zunächst brauchen wr den Begrff des Wettverhältnsses, englsch odds. Zu ener Wahrschenlchket, her P B = 1, gehört en Wettverhältns P B = 1 /(1 P B =1 ) = P B = 1 /P B = 0. Es drückt aus, we ene Wette abgeschlossen werden müsste, wenn de Wahrschenlchket enes Eregnsses bekannt wäre und de Wette kenem Partner enen postven Erwartungswert des Gewnns/Verlusts brngen sollte. Ene Wahrschenlchket von 0.75 entsprcht enem Wettverhältns von 3 : 1 = 3. Wr verglechen nun de Wettverhältnsse für de beden Gruppen h = 1 und h = 2, ndem wr hren Quotenten blden, θ = P B = 1 A = 1 P B = 2 A = 1 / P B = 1 A = 2 P B = 2 A = 2 = π 1 1 π 2 1 / π1 2 π 2 2 = π 11π 22 π 12 π 21. So entsteht en Verhältns von Verhältnssen; deshalb der Name Doppelverhältns. Es fällt auf, dass m Falle von zwe Gruppen, also ener bnären Varablen A, de Rollen von A und B vertauschbar snd. Das Doppelverhältns st also en symmetrsches Mass für de Abhänggket von zwe bnären Varablen we de Korrelaton für kontnuerlche Varable es st. d En odds rato von 1 bedeutet, dass de odds und damt de (bedngten) Wahrschenlchketen n beden Gruppen glech snd. Wenn nur zwe Gruppen vorhanden snd, st des glechbedeutend mt der Unabhänggket von A und B. En Doppelverhältns, das > 1 st, bedeutet n desem Fall, dass de Wahrschenlchket, für bede Varablen den glechen Wert zu erhalten, gegenüber der Unabhänggket erhöht st also ene postve Abhänggket. e Noch enfacher zu handhaben st das logarthmerte Doppelverhältns (log odds rato) lθ = log θ. Wr betrachten zunächst den Logarthmus der Wettverhältnsse, de log odds log P B =1 A=h /(1 P B = 1 A=h für de beden Gruppen A=h= 1 und h=0. Das logarthmerte Doppelverhältns st glech der Dfferenz der log odds für de beden Gruppen, P B = 1 A=1 P B = 1 A=0 lθ = log log (1 P B = 1 A=1 ) (1 P B =1 A=0 ) = log π 11 /π 10 log π 01 /π 00 = log π 11 log /π 10 log π 01 + log π 00.

15 11.4. ABHÄNGIGKEIT VON ZWEI VARIABLEN 127 Dese Grösse hat folgende Egenschaften: lθ = 0 be Unabhänggket, lθ > 0 be postver Abhänggket, lθ < 0 be negatver Abhänggket. Vertauscht man de Kategoren (1 und 2) der enen Varablen, so wechselt nur das Vorzechen von lθ. Im Untersched zu ener gewöhnlchen (Pearson-) Korrelaton st lθ aber ncht auf das Intervall [ 1, 1] begrenzt. f Zurück zum Begrff des Rskos. Für klene Rsken st π 1+ π 12 und ebenso π 2+ π 22. Deshalb wrd das relatve Rsko näherungswese glech also glech dem Doppelverhältns. π 1 1 π 1 2 = π 11π 2+ π 1+ π 21 π 11π 22 π 12 π 21, g Wenn man de Randvertelung der Varablen A ändert, de bedngten Wahrschenlchketen von B gegeben A aber unverändert lässt, so ändert sch das Doppelverhältns ncht. Das erwest sch als sehr nützlch, wenn man an geschchtete Stchproben denkt: Wenn man de Schchten verscheden ntensv untersucht, ändert man dadurch zwar de π h+, aber ncht de π k h, und de Doppelverhältnsse bleben glech! h Wenn mehr als zwe Klassen für de Faktoren vorlegen, st de snnvolle Defnton von odds ratos ncht mehr endeutg. Man kann für jede Kombnaton von Klassen [h,k] das Doppelverhältns θ hk für de Ergebnsse B = k und B k für A = h gegenüber A h blden und erhält θ hk = π hk h h,k k π h k (π h+ π hk )(π +k π hk ). De Doppelverhältnsse hängen dann weder ncht von den Randsummen ab. Ene andere snnvolle Defnton lautet P B = k A = h θ hk,h k = P B = k A = h / P B = k A = h P B = k A = h = π k h π k h / πk h π k h = π hkπ h k π h kπ hk das hesst, man verglecht nur de Populatonen von 2 Gruppen mt enander und lässt alle übrgen Beobachtungen unberückschtgt. Unabhänggket der beden Faktoren bedeutet, dass alle Doppelverhältnsse glech 1 snd. Es gbt Vorschläge für Gesamt-Masse der Abhänggket zwschen kategorellen Varablen. Wr verwesen auf Agrest, 2002, 2.3. De Doppelverhältnsse müssen n den Anwendungen ja geschätzt werden. Es st zunächst nahelegend, statt der Wahrschenlchketen π hk jewels relatve Häufgketen N hk /n n de Defnton enzusetzen. Da N hk = 0 werden kann, muss man desen Vorschlag abändern: Man schätzt θ hk = (N hh + 0.5)(N kk + 0.5) (N hk + 0.5)(N kh + 0.5). Dese Schätzungen wechen natürlch um ene zufällge Grösse von hrem Modellwert ab. De Streuung der Abwechung hängt von den Randsummen ab, m Gegensatz zum zu schätzenden Parameter selbst!

16 EINE UND ZWEI KATEGORIELLE VARIABLE j* Wetere Abhänggketsmasse sehe Clogg and Shhadeh (1994) Anmerkungen zu medznschen Anwendungen a In der Stude zum Herznfarkt-Rsko (11.3.j) wurde ene Gruppe von Patentnnen, de enen Infarkt erltten hatten, verglchen mt ener Gruppe von Frauen, de davon ncht betroffen waren. Ene solche Untersuchung wrd retrospektve Stude (oder nach dem englschen case control study auch Fall-Kontroll-Stude) genannt; man versucht nach der Manfestaton der Krankhet rückblckend zu ergründen, welche Faktoren se begünstgt haben. Aus der genannten Stude lässt sch das Rsko für enen Herznfarkt ncht abschätzen, denn der Antel der Frauen mt Herznfarkt wurde ja durch den Rahmen der Untersuchung auf 58/224=26% festgelegt. Das st glücklcherwese ncht das Rsko für enen Herznfarkt! Was sch aus ener retrospektven Stude korrekt schätzen lässt, snd Doppelverhältnsse, de de Erhöhung des Rskos durch de untersuchten Rskofaktoren messen. We für de mesten Krankheten st auch für den Herznfarkt be Frauen das absolute Rsko n der Bevölkerung bekannt. Aus ener entsprechenden Angabe und enem Doppelverhältns kann man de Rsken für de untersuchten Gruppen bestmmen (sehe Übungen). b En absolutes Rsko kann man auch schätzen, wenn man ene Zufallsstchprobe aus der Bevölkerung zeht. Ene solche Vorgehenswese nennt man auch Querschnttstude (cross sectonal study). Se egnet sch allerdngs nur für verbretete Krankheten, da sonst ene resge Stchprobe gezogen werden muss, um wengstens enge Betroffene drn zu haben. Wenn man untersuchen wll, we de Lebensgewohnheten mt ener Krankhet zusammenhängen, muss man ausserdem mt der Schwergket rechnen, dass sch de Leute nur schlecht an hre früheren Gewohnheten ernnern und dass dese Ernnerung ausserdem durch de Krankhet beenflusst sen könnte. c Zu präzseren Daten gelangt man allerdngs mt vel grösserem Aufwand mt ener so genannten Kohorten-Stude: Ene (grosse) Gruppe von Menschen (Kohorte) wrd ausgewählt aufgrund von Merkmalen, de mt der Krankhet nchts zu tun haben und bevor de Krankhet be jemandem von hnen ausgebrochen st. Im Idealfall zeht man ene enfache Stchprobe aus ener Grundgesamthet, über de man etwas aussagen möchte. De Ausgangslage wrd durch de Erfassung der Lebensgewohnheten oder -umstände u.a. festgehalten. Nach oft recht langer Zet untersucht man, welche Personen bestmmte Krankhetssymptome entwckelt haben, und prüft, ob sch Gruppen mt verschedenen Ausgangsstuatonen desbezüglch unterscheden. En allfällger Untersched hängt mt der Ausgangsstuaton drekt oder ndrekt zusammen. d De präzsesten Schlussfolgerungen erlauben de klnschen Studen (clncal trals): En Kollektv von Patenten wrd festgelegt, bespelswese alle Patenten, de mt bestmmten Symptomen n ene Klnk entreten. Se werden mt enem Zufallsmechansmus (Zufallszahlen) ener Behandlungsgruppe zugetelt. Wenn sch Krankhetsmerkmale nach erfolgter Behandlung n den verschedenen Gruppen unterschedlch zegen, kommt wegen der zufällgen Zuordnung nur de Behandlung als Ursache dafür n Frage. Dese Untersuchungen egnen sch deshalb, um de Wrksamket und de Nebenwrkungen von Medkamenten und anderen Behandlungen genau zu erfassen.

17 11.5. ANMERKUNGEN ZU MEDIZINISCHEN ANWENDUNGEN 129 e De Kohorten- und de klnschen Studen werden m Gegensatz zu den retrospektven Studen als prospektv bezechnet, da man de Personen n de Untersuchung enbezeht, wenn de unterschedlchen Behandlungen oder Bedngungen noch n der Zukunft legen. Schlüsse auf Wrkungszusammenhänge snd nur für de klnschen Studen zulässg. De andern dre Typen von Studen werden mest verwendet, um Fragestellungen der Präventvmedzn zu untersuchen; se gehören zum Gebet der Epdemologe.

18 12 Zwewertge Zelgrössen, logstsche Regresson 12.1 Enletung a De Regressonsrechnung st wohl de am mesten verwendete und am besten untersuchte Methodk n der Statstk. Es wrd der Zusammenhang zwschen ener Zelgrösse (allenfalls auch mehrerer solcher Varablen) und ener oder mehreren Engangsgrössen oder erklärenden Grössen untersucht. Wr haben de multple lneare Regresson ausführlch behandelt und dabe vorausgesetzt, dass de Zelgrösse ene kontnuerlche Grösse se. Nun wollen wr andere Fälle behandeln zunächst den Fall ener bnären (zwewertgen) Zelgrösse. Vele Ideen der multplen lnearen Regresson werden weder auftauchen; enge müssen wr neu entwckeln. Wr werden uns weder kümmern müssen um Modelle, Schätzungen, Tests, Vertrauensntervalle für de Parameter, Resduen-Analyse, Modellwahl. b Bespel Frühgeburten. Von welchen Engangsgrössen hängt das Überleben von Frühgeburten ab? Hbbard (1986) stellte Daten von 247 Säuglngen zusammen. In Abbldung 12.1.b snd de beden wchtgsten Engangsgrössen, Gewcht und Alter, gegenenander aufgetragen. Das Gewcht wurde logarthmert. De überlebenden Säuglnge snd durch enen offenen Kres markert. Man seht, dass de Überlebenschancen mt dem Gewcht und dem Alter stegen was zu erwarten war. In der Abbldung wrd auch das Ergebns ener logstschen Regressons-Analyse gezegt, und zwar mt Höhenlnen der geschätzten Wahrschenlchket des Überlebens. c De Zelgrösse Y st also ene zwewertge (bnäre) Zufallsvarable. Wr coderen de beden Werte als 0 und 1. Im Bespel soll Y = 1 sen, wenn das Baby überlebt, und andernfalls = 0. De Vertelung ener bnären Varablen st de enfachste Vertelung, de es gbt. Se st durch de Wahrschenlchket P Y = 1 festgelegt, de wr kurz mt π bezechnen. Es glt P Y = 0 = 1 π. Dese enfachste Vertelung wrd Bernoull-Vertelung genannt; hr Parameter st π. d Wr wollten untersuchen, we de Wahrschenlchket P Y = 1 von den Engangsgrössen abhängt. Wr suchen also ene Funkton h mt P Y =1 = h x (1),x (2),...,x (m). Könnten wr de multple lneare Regresson anwenden? Das st schwerg, denn es gbt kene natürlche Auftelung Y = h x (1),...,x (m) + E n Regressonsfunkton h und Zufallsabwechung E. Man kann aber de Erwartungswerte betrachten. Es glt gemäss Verson Ma 2008, c W. Stahel

19 12.1. EINLEITUNG 131 Alter log10(gewcht) Abbldung 12.1.b: Logarthmertes Gewcht und Alter m Bespel der Frühgeburten. De Überlebenden snd mt, de anderen mt markert. De Geraden zegen de Lnen glecher Überlebenswahrschenlchketen (0.1, 0.3, 0.5, 0.7, 0.9) gemäss dem geschätzten logstschen Modell. der Regresson mt normalvertelten Fehlern E Y = h x (1) Für ene bnäre Grösse Y glt,x (2),...,x (m) E Y = 0 P Y = P Y = 1 = P Y = 1. Also kann man n der ersten Glechung P Y =1 durch E Y ersetzen. In desem Snne snd de beden Modelle glech. e In der multplen lnearen Regresson wurde nun für h de lneare Form vorausgesetzt, h x (1),x (2),...,x (m) = β 0 + β 1 x (1) + β 2 x (2) β m x (m) Können wr ene solche Funkton h für de Wahrschenlchket P Y = 1 brauchen? Leder nen: Wenn en β j 0 st, werden für genügend extreme x (j) -Werte de Grenzen 0 und 1, de für ene Wahrschenlchket gelten müssen, überschrtten. In der lnearen Regresson wurden Transformatonen der Zelgrösse n Betracht gezogen, um de Gültgket der Annahmen zu verbessern. Ebenso werden wr jetzt de Wahrschenlchket P Y =1 so transformeren, dass en lneares Modell snnvoll erschent..

20 ZWEIWERTIGE ZIELGRÖSSEN, LOGISTISCHE REGRESSION f Modell. Ene üblche Transformaton, de Wahrschenlchketen (oder anderen Grössen, de zwschen 0 und 1 legen) Zahlen mt unbegrenztem Werteberech zuordnet, st de so genannte Logt-Funkton π g π = log = log π log 1 π. 1 π Se ordnet den Wahrschenlchketen π das logarthmerte Wettverhältns (de log odds) zu (11.4.e). Für g P Y = 1 können wr nun das enfache und doch so flexble Modell ansetzen, das sch be der multplen lnearen Regresson bewährt hat. Das Modell der logstschen Regresson lautet P Y = 1 g P Y =1 = log 1 P Y = 1 = β 0 + β 1 x (1) + β 2 x (2) β m x (m). De rechte Sete hesst auch lnearer Prädktor und wrd mt η (sprch äta ) bezechnet, Mt den Vektoren x = [1,x (1) abkürzen zu η = β 0 + β 1 x (1) + β 2 x (2) β m x (m).,x (2),...,x (m) ] T und β = [1,β 1,β 2,...,β m ] T kann man das η = x T β. We n der lnearen Regresson wrd vorausgesetzt, dass de Beobachtungen Y stochastsch unabhängg snd. An de X -Varablen werden ebenso wenge Anforderungen gestellt we n der multplen lnearen Regresson 3.2 Es können auch nomnale Varable (Faktoren) (3.2.d) oder abgeletete Terme (quadratsche Terme, 3.2.s, Wechselwrkungen, 3.2.q) verwendet werden. Es st nützlch, we n der lnearen Regresson zwschen den Engangsgrössen und den daraus gebldeten X -Varablen oder Regressoren zu unterscheden. g De Funkton g, de de Erwartungswerte E Y n Werte des lnearen Prädktors verwandelt, nennt man de Lnk-Funkton. De logstsche Funkton st zwar de üblchste, aber ncht de enzge geegnete Lnk-Funkton für bnäre Zelgrössen. Im Prnzp egenen sch alle strkt monotonen Funktonen, de den möglchen Werte zwschen 0 und 1 alle Zahlen zwschen und + zuordnen genauer, für de g 0 = und g 1 = st, vergleche 12.2.j. h Im Bespel der Frühgeburten (12.1.b) wrd de Wahrschenlchket des Überlebens mt den weter unten besprochenen Methoden geschätzt als g P Y = 1 log 10 (Gewcht),Alter = log 10 (Gewcht) Alter. De Lnen glecher geschätzter Wahrschenlchket wurden n Abbldung 12.1.b berets engezechnet. Abbldung 12.1.h zegt de Beobachtungen und de geschätzte Wahrschenlchket, aufgetragen gegen den lnearen Prädktor η = log 10 (Gewcht) Alter.

21 12.1. EINLEITUNG 133 Y η = log 10 (Gewcht) Alter Abbldung 12.1.h: De geschätzte Wahrschenlchket P Y = 1 als Funkton des lnearen Prädktors, zusammen mt den Beobachtungen, m Bespel der Frühgeburten In der Multvaraten Statstk wrd de Dskrmnanzanalyse für zwe Gruppen behandelt. Wenn man de Gruppen-Zugehörgket als (bnäre) Zelgrösse Y betrachtet, kann man für solche Probleme auch de logstsche Regresson als Modell verwenden. De multvaraten Beobachtungen x (j), aus denen de Gruppenzugehörgket ermttelt werden soll, snd jetzt de Engangs-Varablen der Regresson. Der lneare Prädktor übernmmt de Rolle der Dskrmnanzfunkton, de ja (n der Fsherschen Dskrmnanzanalyse) ebenfalls lnear n den x (j) war. De Beobachtungen, für de η > c mt c=0 (oder allenfalls ener anderen geegneten Grenze c) glt, werden der enen, de übrgen der andern Gruppe zugeordnet. j Typsche Anwendungen für de logstsche Regresson snd: In toxkologschen Untersuchungen Toxkologe wrd de Wahrschenlchket festgestellt, mt der ene Maus be ener bestmmten Gftkonzentraton überlebt (oder strbt). Stchwort Doss-Wrkungskurven (dose-response curves). In der Medzn denken wr leber an den entgegengesetzten Fall: Wrd en Patent be ener bestmmten Konzentraton enes Medkaments nnerhalb ener vorgegebenen Zet gesund oder ncht? Oft st von Interesse, mt welcher Wahrschenlchket Geräte n ener bestmmten Zetperode ausfallen, gegeben enflussreche Grössen we z.b. de Temperatur. In der Qualtätskontrolle wrd das Auftreten enes Fehlers an enem Produkt untersucht, z.b. verglechend für verschedene Herstellungsverfahren. In der Bologe stellt sch häufg de Frage, ob en bestmmtes Merkmal be Lebewesen vorhanden st und nwewet en Untersched bespelswese zwschen weblchen und männlchen Lebewesen besteht. Im Kredtgeschäft oder m Customer relatonshp management sollen de guten von den schlechten Kunden getrennt werden.

22 ZWEIWERTIGE ZIELGRÖSSEN, LOGISTISCHE REGRESSION We gross st de Wahrschenlchket, dass es morgen regnet, wenn man berückschtgt, we das Wetter heute st? Allgemen soll de Zugehörgket zu ener von zwe Gruppen erfasst und es soll untersucht werden, nwewet se durch gegebene Engangsgrössen genauer bestmmt werden kann. k Ausblck. In der logstschen Regresson wrd also ene bnäre Zelgrösse untersucht. In anderen Stuatonen zählt man Fälle (Indvduen, Enheten) mt bestmmten Egenschaften. Das führt zu ähnlchen Schwergketen be Verwendung von Klensten Quadraten und zu Modellen, n denen de Zelgrösse Posson-vertelt st. De für dese Stuaton geegnete Methodk hesst Posson-Regresson. Solche Modelle denen auch der Analyse von Kontngenztafeln, de n den Sozalwssenschaften ene wesentlche Rolle spelen. Se hessen dann log-lneare Modelle. Wr werden se n Kaptel 14.S.0.b ausführlcher behandeln. Logstsche Regresson, Posson-Regresson und log-lneare Modelle blden Spezalfälle des Verallgemenerten Lnearen Modells. De statstsche Methodk kann zum grossen Tel allgemen für alle dese Modelle formulert werden. Wr behandeln her zuerst den wchtgsten Spezalfall, de logstsche Regresson, werden aber telwese auf Theore verwesen, de allgemen für Verallgemenerte Lneare Modelle glt und deshalb dort behandelt wrd. l Lteratur. Entsprechend deser Enordnung gbt es umfassende und spezalsertere Bücher: Schwerpunktmässg mt logstscher Regresson befassen sch Cox (1989) und Collet (1991, 1999). Bede Bücher snd gut zu lesen und enthalten auch wertvolle Tpps zur Datenanalyse. Umfassender st das Buch von Agrest (2002). Es behandelt auch log-lneare Modelle. De enfachere Varante Agrest (2007) st sehr zu empfehlen. Bücher über Generalzed Lnear Models enthalten jewels mndestens en Kaptel über logstsche Regresson. Das klasssche Buch von McCullagh and Nelder (1989) entwckelt de grundlegende Theore und st trotzdem gut verständlch geschreben. Das Kaptel über logstsche Regresson ( Bnary Data ) behandelt deses Thema n vorzüglcher Art. Ene elegante, kurze Abhandlung der Theore betet Dobson (2002) Betrachtungen zum Modell a Im Modell der logstschen Regresson st das logarthmerte Wettverhältns glech dem lnearen Prädktor η (12.1.f) Umgekehrt kann man auch aus solchen η-werten auf de Wahrschenlchketen zurückschlessen. Dazu braucht man de nverse Lnk-Funkton, also de Umkehrfunkton g 1 η = exp η 1 + exp η, de so genannte logstsche Funkton, de der logstschen Regresson den Namen gegeben hat. Ihre Form st durch de Lne n Abbldung 12.1.h gegeben.

23 12.2. BETRACHTUNGEN ZUM MODELL 135 b Interpretaton der Koeffzenten. Koeffzenten!Interpretaton De logarthmerten Wettverhältnsse für Y = 1 snd, we gesagt, ene lneare Funkton der Prädktoren x (j). In Analoge zur lnearen Regresson können wr jetzt de Wrkung der enzelnen x-varablen formuleren: Erhöht man x (j) um ene Enhet, dann erhöht sch das logarthmerte Wettverhältns zu Gunsten von Y = 1 um β j wenn alle anderen x (k) dabe glech bleben. (Das Letztere st ncht mmer möglch. Bespelswese st ja n der quadratschen Regresson x (2) = (x (1) ) 2.) Für de unlogarthmerten Wettverhältnsse glt odds Y = 1 x = P Y = 1 P Y = 0 = exp β 0 + β jx (j) = e β0 e β 1x (1)... e βmx(m) j = e β0 exp β 1 x(1)... exp β m x(m). Erhöht man x (j) um ene Enhet, dann erhöht sch deshalb das Wettverhältns zu Gunsten von Y = 1 um den Faktor e β j. Anders ausgedrückt: Setzt man das Wettverhältns für den erhöhten Wert x (j) = x + 1 zum Wettverhältns für den Ausgangswert x (j) = x ns Verhältns, so erhält man odds Y = 1 x (j) = x odds Y = 1 x (j) = x + 1 = eβ j. Solche Quotenten von Wettverhältnssen haben wr unter dem Namen Doppelverhältnsse oder odds ratos n 11.4.c engeführt. c Im Bespel (12.1.b) lassen sch de Schätzungen (aus 12.3.h) folgendermassen nterpreteren: Für en Indvdum mt log 10 (Gewcht)= 3.1,Alter =28 erhält man als Schätzung für das logarthmerte Wettverhältns = 1.68 und damt en Wettverhältns für das Überleben von exp 1.68 = 5.4. De geschätzte Wahrschenlchket für das Überleben beträgt g = Verglecht man nun deses Wettverhältns mt dem enes Indvduums mt dem glechen Alter und log 10 (Gewcht)= 2.9, dann erhält man als odds rato den Faktor exp ( 0.2) = 0.13, d.h. das Wettverhältns m zweten Fall st auf 13% des vorhergen gesunken und wrd = 0.70, und de entsprechenden Wahrschenlchket wrd 0.70/1.70 = d Im Bespel der Umweltumfrage (11.1.c) sollte de Abhänggket der Zelgrösse Beenträchtgung von der Schulbldung erfasst werden. De Zelgrösse hat her ver möglche geordnete Werte. Wr machen für de folgenden Betrachtungen daraus ene zwewertge Varable, ndem wr je zwe Kategoren zusammenfassen; später soll de fenere Untertelung berückschtgt werden. Im logstschen Regressonsmodell bldet jede antwortende Person ene Beobachtung Y mt zugehörgen Werten x der Regressoren. e De logstsche Regresson egnet sch also auch zur Analyse von Kontngenztafeln, sofern ene Dmenson der Tafel als Zelgrösse aufgefasst wrd und nur 2 Stufen zegt. Man kann von logstscher Varanzanalyse sprechen. De Analyse von Kontngenztafeln wrd m Kaptel über log-lneare Modelle (14.S.0.b) ausführlcher behandelt.

24 ZWEIWERTIGE ZIELGRÖSSEN, LOGISTISCHE REGRESSION f Grupperte Beobachtungen. Wenn mehrere (m l ) Beobachtungen Y zu glechen Bedngungen x = x l gemacht werden, können wr se zusammenfassen und de Anzahl der Erfolge, also de Zahl der mt Y = 1, festhalten. Wr zehen es vor, statt deser Anzahl den Antel der Erfolge als neue Grösse enzuführen; man kann desen schreben als Ỹ l = 1 m l : x = ex l Y. Das st n der Kontngenztafel berets geschehen: Alle Personen mt glecher Schulbldung x l wurden zusammengefasst, und de Zahlen n den Spalten lefern de Angaben für Ỹl: Wr haben für de gegenwärtge Betrachtung de letzten dre Spalten zusammengefasst. De Summe über de dre Zahlen, dvdert durch de Randsumme, lefert den Antel der mndestens etwas beenträchtgten Personen. Werden mehrere Engangsgrössen betrachtet, so st Ỹl der Antel der beenträchtgten Personen unter den m l Befragten, de gleche Schulbldung x (1) = x (1) l, gleches Geschlecht x (2) = x (2) l und Alter x (3) = x (3) l haben allgemen, der Antel der Erfolge unter den m l Versuchen, de unter den Bedngungen x l durchgeführt wurden. g Wenn für de enzelnen Beobachtungen Y das Modell der logstschen Regresson vorausgesetzt wrd, snd de Y mt x = x l unabhängge Versuche mt glecher Erfolgswahrschenlchket π l = h x l. De Anzahl der Erfolge m l Ỹ l st also bnomal vertelt, Es glt m l Ỹ l B m l, π l, g π l = x T l β. E Ỹl = 1ml E Y = π l. : x = ex l En Vortel von grupperten Daten besteht darn, dass man se kompakter und nformatver darstellen kann. Zudem snd manche Approxmatonen, de wr m Rahmen der Resduen- Analyse und unter dem Stchwort Anpassungsgüte besprechen werden, nur für grupperte Daten aussagekräftg. Es st wchtg, anzumerken, dass das Modell sch durch de Grupperung der Daten ncht geändert hat. Für Gruppen mt nur ener Beobachtung (m l = 1) wrd Y l weder zwewertg und de Bnomalvertelung zur Bernoull-Vertelung (12.1.c). h Bespel Frühgeburten. Um en anschaulches Bespel zu erhalten, untersuchen wr das Überleben von Frühgeburten nur als Funkton der Engangsgrösse Gewcht. Wenn wr Klassen von je 100 g Gewcht blden, können wr de Daten zu den Häufgketen zusammenfassen, de n Tabelle 12.2.h gezegt werden, zusammen mt enem Ausschntt aus den ursprünglchen Beobachtungen. Abbldung 12.2.h zegt se mt dem angepassten Modell n deser Form. Transformerte Beobachtungen. Laut dem Modell snd de logt-transformerten Erwartungswerte π l der Erfolgsraten Ỹl/m l glech ener lnearen Funkton der x (j) l. Im Fall ener enzgen Engangsgrösse legt es nahe, de beobachteten Werte Ỹl/m l selbst zu transformeren und gegen de Engangs-Varable aufzutragen; m Falle von mehreren Engangsgrössen kann man auf der horzontalen Achse stattdessen den lnearen Prädktor η verwenden. Es sollte sch dann statt des sgmoden Zusammenhangs von Abbldung 12.2.h en lnearer ergeben. Nun st aber g 0 und g 1 für de Logt-Funkton ncht defnert, also erhält man für Ỹl = 0 und für Ỹl = m l kenen (endlchen) Wert der transformerten Grösse. Als pragmatschen