Lineare Regression. Werner Stahel Seminar für Statistik, ETH Zürich. Januar Unterlagen zum Block Rg1 des Kurses in Angewandter Statistik

Transkript

1 Lneare Regresson Werner Stahel Semnar für Statstk, ETH Zürch Januar 2006 Unterlagen zum Block Rg1 des Kurses n Angewandter Statstk

2 2

3 3 Inhaltsverzechns 1 Enführung n de statstsche Regressonsrechnung Bespele zur lnearen Regresson Fragestellungen Ausblck Enfache lneare Regresson Das Modell Schätzung der Parameter Tests und Vertrauensntervalle Vertrauens- und Vorhersage-Bereche A Klenste Quadrate B Vertelung der geschätzten Parameter S S-Funktonen Multple lneare Regresson Modell und Statstk Velfalt der Fragestellungen Multple Regresson st mehr als vele enfache Modell und Schätzungen n Matrx-Schrebwese Vertelung der geschätzten Regressonskoeffzenten A Anhang: Grundbegrffe der Lnearen Algebra S S-Funktonen Resduen-Analyse Problemstellung Resduen und angepasste Werte Vertelung der Fehler Zelgrösse transformeren? Ausresser und langschwänzge Vertelung Resduen und erklärende Varable

4 0 4.7 Gewchtete lneare Regresson * Gesamthafte Überprüfung Unabhänggket Enflussreche Beobachtungen A Theoretsche Vertelung der Resduen S S-Funktonen Modellwahl Problemstellung Wchtgket enes enzelnen Terms Automatserte Verfahren zur Modellwahl Kollneartät Strategen der Modellwahl S S-Funktonen Ergänzungen Fehlerbehaftete erklärende Varable Echung Zusammenfassung Enfache lneare Regresson Multple lneare Regresson Resduen-Analyse Modellwahl Ergänzungen Lteratur zur lnearen Regresson

5 1 Enführung n de statstsche Regressonsrechnung 1.1 Bespele zur lnearen Regresson a In der Wssenschaft, n der Technk und m Alltag fragen wr mmer weder danach, we ene Grösse, de uns spezell nteressert, von anderen Grössen abhängt. Dese grundlegende Frage behandelt de statstsche Regresson, de deshalb wohl (neben enfachen grafschen Darstellungen) de am mesten verwendete Methodk der Statstk darstellt. In desem Abschntt soll mttels Bespelen zur gewöhnlchen lnearen Regresson n de Problemstellung engeführt werden, bevor en Überblck über de verschedenen, allgemeneren Regressons-Modelle geboten wrd. b Bespel Sprengungen. Bem Bau enes Strassentunnels zur Unterfahrung ener Ortschaft muss gesprengt werden. De Erschütterung der Häuser darf dabe enen bestmmten Wert ncht überschreten. In der Nähe der Häuser muss daher vorschtg gesprengt werden, was natürlch zu erhöhten Kosten führt. Es lohnt sch, ene Regel zu entwckeln, de angbt, we stark n welcher Stuaton gesprengt werden darf. Erschütterung Ladung Dstanz Abbldung 1.1.c: Erschütterung n Abhänggket von der Dstanz für verschedene Ladungen Verson WL Jan 2006, c W. Stahel

6 2 1 EINFÜHRUNG IN DIE STATISTISCHE REGRESSIONSRECHNUNG De Erschütterung st abhängg von der Sprengladung, von der Dstanz zwschen dem Spreng- und dem Messort, von der Art des Untergrund-Materals zwschen desen Punkten, vom Ort der Sprengung m Tunnelprofl und möglcherwese von weteren Grössen. Wäre de Erschütterung ene exakte, bekannte Funkton deser Grössen und könnte man se be ener geplanten Sprengung alle genau erfassen, dann könnte man de Sprengladung ausrechnen, de zu ener gerade noch tolererbaren Erschütterung führt. c Begnnen wr, mathematsche Symbole und Sprachregelungen enzuführen! De Zelgrösse y (englsch target varable) de Erschütterung hängt über ene Funkton h von den Ausgangsgrössen oder erklärenden Varablen x (1), x (2),..., x (m) (explanatory varables) Ladung, Dstanz, Spreng-Stuaton, Untergrundart ab. (De ebenfalls gebräuchlchen Ausdrücke unabhängge Varable für de x (j) und abhängge Varable für y snd rreführend, da se mt stochastscher Unabhänggket nchts zu tun haben.) Im Idealfall sollte also y = h x (1), x (2),..., x (m) für jede Beobachtung (jede Sprengung) gelten. Leder exstert ene solche Formel ncht, und das Untergrundmateral st soweso ncht genau genug erfassbar. Abbldung 1.1.c zegt de Erschütterung n Abhänggket von der Dstanz für verschedene Ladungen. (De Daten stammen vom Bau der Unterfahrung von Schaffhausen. Se wurden freundlcherwese vom Ingeneurbüro Basler und Hoffmann, Zürch, zur Verfügung gestellt.) De statstsche Regressonsrechnung geht davon aus, dass ene Formel wengstens ungefähr glt bs auf Abwechungen, de zufällg genannt werden. Wr schreben Y = h x (1), x (2),..., x (m) + E und nennen de E de Zufallsfehler. De Vorstellungen, we gross solche Abwechungen snd, werden mt ener Wahrschenlchkets-Vertelung formulert. Oft wrd dafür de Normalvertelung verwendet. Man wrd mt Hlfe deses Modells trotz der Unscherhet ene Regel für de zu wählende Grösse der Sprengladung herleten können. Allerdngs muss man zulassen, dass gemäss Modell auch ene zu grosse Erschütterung mt ener gewssen Wahrschenlchket auftreten kann. Wll man dese Wahrschenlchket klen halten, so muss man entsprechend vorschtg sprengen. De statstsche Regressonsrechnung gbt enen Zusammenhang zwschen der Ladung und der Wahrschenlchket ener zu grossen Erschütterung be ener bestmmten Dstanz an. Deses Bespel wrd uns n den kommenden Abschntten begleten. Auf de Antworten müssen Se deshalb noch ene Wele warten. d Bespel Schadstoffe m Tunnel. De Schadstoffe, de vom motorserten Verkehr ausgestossen werden, blden enen wesentlchen Bestandtel der Belastung der Luft. Um de Grösse deser Belastung zu schätzen, werden für de Fahrzeuge so genannte Emssonsfaktoren bestmmt. Des kann enersets auf dem Prüfstand geschehen, auf dem de Strasse mt Rollen smulert wrd. Der Wderstand der Rol-

7 1.1. BEISPIELE ZUR LINEAREN REGRESSION 3 len wrd dabe varert, so dass en typscher Fahrzyklus durchgespelt werden kann. Anderersets egnen sch Strassentunnels mt En-Rchtungs-Verkehr für Messungen unter realen Bedngungen. Msst man Schadstoff-Konzentratonen am Anfang und am Schluss des Tunnels und zählt, we vele Fahrzeuge durch den Tunnel fahren, so kann man ebenfalls Emssonsfaktoren ausrechnen. Allerdngs erhält man zunächst nur enen gemttelten Faktor für jeden gemessenen Schadstoff, und deser lässt sch ncht ohne zusätzlche Erkenntnsse auf andere Strassenabschntte übertragen. Wenn man de Anzahl der Fahrzeuge nach Fahrzeug-Kategoren auftelen kann, dann kann man mmerhn mt Regressonsrechnung zu enem Emssonsfaktor für jede Fahrzeug-Kategore kommen. Während ener Woche m September 1993 wurden n der Südröhre des Gubrst- Tunnels nördlch von Zürch solche Messungen durchgeführt. De Schadstoff-Konzentratonen am Anfang und am Ende wurden gemessen und de Luftströmung erfasst. Daraus lässt sch de Schadstoff-Emsson Y pro Klometer für alle durchgefahrenen Fahrzeuge zusammen berechnen. Von enem Schlaufen-Detektor m Strassenbelag wurden de Fahrzeuge n zwe Kategoren gezählt: Auf Grund des Abstands von Vorder- und Hnterachse wurden de Lastwagen von den übrgen Fahrzeugen getrennt. Es bezechne x (1) de Anzahl Ncht-Lastwagen und x (2) de Anzahl Lastwagen. De gesamten Emssonen n der Zetperode setzen sch zusammen gemäss Y = θ 1 x (1) + θ 2 x (2) + E, wobe θ 1 de durchschnttlche Emsson pro Ncht-Lastwagen und θ 2 dejenge pro Lastwagen bedeutet also de Grössen, an denen wr n der Stude prmär nteressert snd. De Zufallsfehler E entstehen durch Varatonen n Bauart und Zustand der Fahrzeuge, durch zetlche Abgrenzungs-Schwergketen und durch Mess-Ungenaugketen. e De Formel lässt sch n ene üblchere und vellecht noch enfachere Form brngen: Wr dvderen Y, x (1) und x (2) durch de gesamte Anzahl Fahrzeuge x (1) + x (2) und erhalten Ỹ = θ 1 x (1) + θ 2 x (2) + Ẽ, wobe Ỹ der mttlere Emssonsfaktor für de Zetperode und x (1) und x (2) Lastwagen bedeuten. Da x (1) = 1 x (2) de Antele der Ncht-Lastwagen und der st, glt Ỹ = θ 1 + (θ 2 θ 1 ) x (2) + Ẽ. Mt wenger komplzerten Symbolen geschreben seht das so aus: Y = α + βx + E. Des st das Modell ener so genannten enfachen lnearen Regresson. De Konstanten α und β nennen wr Koeffzenten oder Parameter des Modells. Wr wollen se aus den Daten der Stude bestmmen, also schätzen. In Abbldung 1.1.d zegt sch als Tendenz ene lneare Zunahme des mttleren Emssonsfaktors für NO x mt zunehmendem Lastwagen-Antel, we es dem besprochenen Modell entsprcht.

8 4 1 EINFÜHRUNG IN DIE STATISTISCHE REGRESSIONSRECHNUNG Ef.NOx Lastwagen-Antel Abbldung 1.1.d: Emssonsfaktor für NOx und Lastwagen-Antel, gemttelt über jewels 15 Mnuten, m Bespel der Schadstoffe m Tunnel. Dre extrem hohe Y -Werte snd m Bldrand dargestellt. f Bespel Lastwagen-Antel. Der Schlaufen-Detektor zählt zwar de gesamte Zahl der Fahrzeuge zuverlässg, kann aber den Antel der Lastwagen nur ungenau erfassen. Deshalb (unter anderem) wurde der Verkehr zetwese mt Vdeo aufgenommen und der Lastwagen-Antel auf desen Aufnahmen genau ausgezählt. Da des teurer war, konnte ncht der ganze Zetraum abgedeckt werden. Abbldung 1.1.f zegt, dass de Schlaufen-Zählung systematsche und zufällge Abwechungen von der Vdeo-Zählung aufwest. De zufällgen Abwechungen kommen telwese zustande, wel de Schlaufe am Anfang, de Kamera aber am Ende des Tunnels nstallert war, und de Abgrenzung der Mess-Intervalle ncht entsprechend korrgert wurde. (De Fahrzet beträgt etwa 3 Mnuten, de Intervalle dauerten 15 Mnuten.) Es ergbt sch de wet verbretete Stuaton, dass der Wert ener nteresserenden Grösse auf Grund der Messung ener mt hr zusammenhängenden anderen Grösse mttels ener Umrechnungsformel ermttelt werden soll. Dabe kann de Messung auf ener ganz anderen Skala erfolgen; bespelswese wrd ene Konzentraton mttels ener optschen Durchlässgket erfasst. Man geht zunächst davon aus, dass für enen gegebenen exakten Wert x de Messung Y sch aus enem Idealwert h x und enem Messfehler E zusammensetzt. Das entsprcht enem Regressonsmodell. Man bestmmt de Funkton h mttels Messungen Y, für de der zugehörge Wert x bekannt st. In der Anwendung wrd aber ncht von x auf Y, sondern von enem Messwert Y auf den gesuchten Wert x geschlossen. Aus deser Umkehrung ergeben sch gewsse zu-

9 1.1. BEISPIELE ZUR LINEAREN REGRESSION 5 Schlaufe Vdeo Abbldung 1.1.f: Lastwagen-Antel (n Prozenten) gemäss Schlaufen- und Vdeozählung. De Gerade stellt de Glechhet (y = x) dar. sätzlche Probleme. Deses Vorgehen entsprcht der Echung enes Messgeräts. Man msst Proben mt bekanntem exaktem Wert (z. B. bekannter Konzentraton) und lest de Messung ab. Dann wrd de Ablese-Skala ajustert, was der Schätzung und Verwendung der Funkton h n unserem allgemeneren Zusammenhang entsprcht. g h Bespel bassche Böden. In Inden behndern bassche Böden, also tefe Säurewerte oder hohe ph-werte, Pflanzen bem Wachstum. Es werden daher Baumarten gesucht, de ene hohe Toleranz gegen solche Umweltbedngungen haben. In enem Frelandversuch wurden auf enem Feld mt grossen lokalen Schwankungen des ph-wertes 120 Bäume ener Art gepflanzt und hre Höhe Y nach 3 Jahren gemessen. Abbldung 1.1.g zegt de Ergebnsse mt den zugehörgen ph-werten x (1) des Bodens zu Begnn des Versuchs. Zusätzlch wurde ene Varable x (2) gemessen, de enen etwas anderen Aspekt der Basztät erfasst (der Logarthmus der so genannten sodum absorpton rato, SAR). Deses Bespel hat also zwe Ausgangsgrössen. En Hauptzel der Untersuchung besteht darn, für gegebene Werte der beden Ausgangsgrössen an enem möglchen Pflanzort bestmmen zu können, we gut en solcher Baum dort wohl wachsen wrd. Es stellt sch zusätzlch de Frage, ob de Messung der zweten Grösse x (2) dazu überhaupt etwas beträgt, oder ob der ph (x (1) ) allen auch genügt. Bespel Antkörper-Produkton. Grössere Mengen von Antkörpern werden n botechnologschen Prozessen gewonnen. Dazu werden botechnologsch veränderte Zellen, de den entsprechenden Antkörper produzeren können, Wrtsteren (z. B. Mäusen) njzert. Nach ener gewssen Zet begnnen dese Zellen Antkör-

10 6 1 EINFÜHRUNG IN DIE STATISTISCHE REGRESSIONSRECHNUNG Höhe ph Abbldung 1.1.g: Baumhöhe n Abhänggket vom ph für das Bespel der basschen Böden per zu produzeren und auszuscheden. De ausgeschedene Flüssgket wrd dann engesammelt und weter verarbetet. Deses Bespel wrd ausführlch n Haaland (1989) dargestellt und analysert. Es dent uns her nur zur Illustraton der Fragestellung. De Zellen können erfahrungsgemäss nur Antkörper produzeren, wenn das Immunsystem der Wrtstere geschwächt wrd. Des kann durch 4 Faktoren geschehen. Es wrd zudem vermutet, dass de Menge der njzerten Zellen und deren Entwcklungsstand de Antkörper-Produkton beenflusst. Da es für so komplexe bologsche Prozesse kene theoretschen Modelle gbt, werden de relevanten Prozessfaktoren durch en Experment ermttelt. En solches Experment braucht vele Mäuse, st zetaufwändg und kostet Geld. Mt ener geschckten Versuchsanordnung können unter gerngstmöglchem Aufwand de wchtgen Prozessfaktoren ermttelt werden. Her hlft de statstsche Versuchsplanung. Als relevante Prozessfaktoren wurden n deser Stude zwe Prozessfaktoren dentfzert, nämlch de Doss von Co 60 Gamma-Strahlen und de Anzahl Tage zwschen der Bestrahlung und der Injekton enes renen Öls (englsche Bezechnung prstane). Dese beden Prozessfaktoren sollen nun so engestellt werden, dass ene möglchst optmale Menge von Antkörpern durch de veränderten Zellen produzert wrd. Dazu wollen wr en emprsches Modell Y = h x (1), x (2) +E fnden, das de Ausbeute Y von Antkörpern möglchst gut aus den beden Prozessfaktoren x (1) und x (2) vorhersagt. Als Funkton h wrd oft en quadratsches Polynom n den Varablen x (1) und x (2) verwendet. Mt dem aus den Daten bestmmten Modell lässt sch dann de optmale Enstellung [x (1) o, x (2) o ] der Prozessfaktoren bestmmen.

11 1.2. FRAGESTELLUNGEN Fragestellungen a b Von der Problemstellung her können de Anwendungen der Regresson n Gruppen engetelt werden: Vorhersage, Prognose, Interpolaton. Im Bespel der Sprengungen soll ene Formel helfen, für gegebene Dstanz und Ladung de Erschütterung vorherzusagen. Es nteressert ncht nur der mttlere zu erwartende Wert, sondern auch ene obere Grenze, über der de Erschütterung nur mt klener Wahrschenlchket legen wrd. (De Begrffe Vorhersage und Prognose werden mestens für ene zetlche Extrapolaton n de Zukunft verwendet. Her spelt de Zet kene Rolle ausser dass de Problemstellung nur wesentlch st, wenn de Sprengung noch ncht erfolgt st.) Schätzung von Parametern. Im Bespel des Gubrst-Tunnels sollen zwe Konstanten, de Emssonsfaktoren für Lastwagen und für übrge Fahrzeuge, bestmmt werden. c Bestmmung von Enflussgrössen. Im Bespel der Antkörper-Produkton müssen zunächst aus mehreren n Frage kommenden Ausgangsgrössen dejengen herausgefunden werden, de de Zelvarable wesentlch beenflussen. In velen Forschungs-Projekten steht dese Frage ebenfalls m Vordergrund: Von welchen Grössen wrd ene Zelgrösse egentlch beenflusst? d e f Optmerung. Im Bespel der Antkörper-Produkton sollten optmale Produktonsbedngungen gefunden werden. In allen Berechen der Produkton st dese Frage offenschtlch von grundlegender Bedeutung. Echung. Auf Grund der ungenauen und systematsch verfälschten Angabe des Schlaufen-Detektors soll der Antel der Lastwagen bestmmt werden. Dese Problemstellung kombnert Elemente der Vorhersage und der Schätzung von Parametern. Der Block Regresson 1 wrd sch vor allem mt den ersten dre Fragen befassen. 1.3 Ausblck a b In der lnearen Regresson, de m Folgenden behandelt wrd, setzt man voraus, dass de Zelgrösse ene kontnuerlche Varable st, dass de zufällgen Abwechungen E ener Normalvertelung folgen und von enander statstsch unabhängg snd und dass de Funkton h von ener enfachen Form st, nämlch n enem gewssen Snne lnear (sehe 3.2.w). De glechen Fragestellungen werden auch n der Varanzanalyse 1 behandelt, mt anderen Schwerpunkten bezüglch der Art der Ausgangsgrössen. Am Ende deses Blockes und n späteren Blöcken wrd deser Ansatz n velen Rchtungen erwetert: Wenn de Funkton h ncht m erwähnten Snne lnear st, kommt de nchtlneare Regresson zum Zug.

12 8 1 EINFÜHRUNG IN DIE STATISTISCHE REGRESSIONSRECHNUNG c Wenn de Beobachtungen der Zelgrösse und der erklärenden Grössen n ener zetlchen Abfolge auftreten, entstehen normalerwese besondere Probleme durch entsprechende Korrelatonen. Dese Besonderheten werden n der Theore der Zetrehen behandelt. d Man kann an mehreren Zelgrössen nteressert sen. Ene enfache Art, damt umzugehen, besteht darn, für jede von hnen ene separate Regressonsrechnung durchzuführen. De multvarate Statstk zegt, we man be gemensamer Betrachtung mt multvarater Regresson und Varanzanalyse noch etwas darüber hnaus gewnnen kann. e De Annahme der Normalvertelung für de E st oft nur näherungswese erfüllt. De Methoden, de wr m Folgenden kennen lernen, snd dann ncht mehr gut geegnet. Besser fährt man mt den Methoden der robusten Regresson. f De nteresserende Zelgrösse kann ene zwewertge Varable (Ja/Nen) sen. Das führt zur logstschen Regresson. Ist de Zelvarable ene Zählgrösse, ene dskrete geordnete oder ene nomnale Varable, so snd de verallgemenerten lnearen Modelle anzuwenden, zu denen auch das gewöhnlche und das logstsche Regressonmodell gehören. g Zeten bs zum Ausfall enes Gerätes oder bs zum Entreffen enes anderen Eregnsses folgen mest anderen Vertelungen als der üblcherwese verwendeten Normalvertelung. Ausserdem werden solche Eregnsse oft ncht für alle Beobachtungsenheten abgewartet, was zu so genannt zenserten Daten führt. Es gbt auch für solche Daten geegnete Regressonsmethoden, de m Gebet der Überlebenszeten (survval oder falure tme data) behandelt werden. h In der lnearen Regresson werden nur de Abwechungen E als Zufallsvarable modellert. Manchmal kann es auch snnvoll sen, de Parameter selbst durch Zufallsgrössen zu ersetzen. Des kommt vor allem n enem weterführenden Gebet der Varanzanalyse (repeated measures und Spaltanlagen, splt plot desgns) zum Zug, wo man von zufällgen Effekten sprcht. In all desen Modellen st de Regressonsfunkton en Mtgled ener Schar von vorgegebenen Funktonen, de durch enen oder mehrere Parameter charaktersert st. Es geht dann darum, dese(n) Parameter zu bestmmen. Was wr ntutv oft wollen, st ken n solcher Wese vorgegebener Funktonstyp, sondern enfach ene glatte Funkton. Man sprcht von Glättung der Daten. We man ene solche Idee mathematsch formulert und de entsprechende Funkton schätzt, untersucht de nchtparametrsche Regresson. j In all desen Verallgemenerungen erschenen mmer weder de glechen Grunddeen, de wr nun an Hand der lnearen Regresson zunächst mt ener enzgen erklärenden Varablen, nachher mt mehreren enführen wollen. De folgenden Unterlagen für de enfache Regresson enthalten Repettons- Abschntte zu den Begrffen der Schlessenden Statstk. Se sollen den Ensteg vor allem jenen erlechtern, de ncht gerade den entsprechenden Block des Nachdplomkurses hnter sch haben.

13 122 7 EINFÜHRUNG IN DIE STATISTISCHE REGRESSIONSRECHNUNG

14 123 Lteraturverzechns Agrest, A. (1990). Categorcal Data Analyss, Wley, N.Y. Agrest, A. (1996). Introducton to categorcal data analyss, Wley Seres n Probablty & Math. Statstcs, Wley, New York. Chrstensen, R. (1990). Log-lnear models, Sprnger, N.Y. Cleveland, W. S. (1994). The Elements of Graphng Data, 2nd edn, Hobart Press, Summt, New Jersey. Clogg, C. C. and Shhadeh, E. S. (1994). Statstcal models for ordnal varables, Sage, Thousand Oaks, CA. Cohen, A. (1980). On the graphcal dsplay of the sgnfcant components n a two-way contngency table, Communcatons n Statstcs Theory and Methods A9: Collet, D. (1991, 1999). Modellng bnary data, Chapman & Hall/CRC Press LLC, Boca Raton, Florda. Cook, R. D. and Wesberg, S. (1999). Appled regresson ncludng computng and graphcs, Wley, N.Y. Cox, D. R. (1989). Analyss of Bnary Data, 2nd edn, Chapman and Hall, London. Cox, D. R. and Snell, E. J. (1981). Appled Statstcs, Chapman and Hall, London. Danel, C. and Wood, F. S. (1980). Fttng Equatons to Data, 2nd edn, Wley, N.Y. Daves, P. (1995). Data features, Statstca Neerlandca 49: Devore, J. L. (1991). Probablty and Statstcs for Engneerng and the Scences, 3rd edn, Duxbury Press, Belmont, Calforna. Dobson, A. J. (2002). An Introducton to Generalzed Lnear Models, 2nd edn, Chapman and Hall, London. Draper, N. and Smth, H. (1998). Appled Regresson Analyss, 3rd edn, Wley, N.Y. Fahrmer, L. and Tutz, G. (1994). Multvarate Statstcal Modellng Based on Generalzed Lnear Models, Sprnger-Verlag, New York. Fox, J. and Monette, G. (1992). Generalzed collnearty dagnostcs, Journal of the Amercan Statstcal Assocaton 87: Fuller, W. A. (1987). Measurement Error Models, Wley, N.Y. Haaland, P. D. (1989). Expermental Desgn n Botechnology, Marcel Dekker, N.Y. Hartung, J., Elpelt, B. und Klösener, K. (1998). Statstk. Lehr- und Handbuch der angewandten Statstk, 11. Aufl., Oldenbourg, München.

15 124 7 EINFÜHRUNG IN DIE STATISTISCHE REGRESSIONSRECHNUNG Haste, T., Tbshran, R. and Fredman, J. (2001). The Elements of Statstcal Learnng: Data Mnng, Inference, and Predcton, Sprnger Seres n Statstcs, Sprnger-Verlag, New York. Hosmer, D. W. and Lemeshow, S. (1989). Appled Logstc Regresson, Wley, N.Y. Lnder, A. und Berchtold, W. (1982). Statstsche Methoden II: Varanzanalyse und Regressonsrechnung, Brkhäuser, Basel. Lndsey, J. K. (1995). Modellng Frequency and Count Data, number 15 n Oxford Statstcal Scence Seres, Clarendon Press, Oxford. McCullagh, P. and Nelder, J. A. (1989). Generalzed Lnear Models, 2nd edn, Chapman and Hall, London. Mosteller, F. and Tukey, J. W. (1977). Data Analyss and Regresson: A Second Course n Statstcs, Addson-Wesley, Readng, Massachusetts. Myers, R. H., Montgomery, D. C. and Vnng, G. G. (2001). Generalzed Lnear Models. Wth Applcatons n Engneerng and the Scences, Wley Seres n Probablty and Statstcs, Wley, NY. Ryan, T. P. (1997). Modern Regresson Methods, Seres n Probablty and Statstcs, Wley, N.Y. ncludes dsk Sachs, L. (1997). Angewandte Statstk, 8. Aufl., Sprnger, Berln. Sen, A. and Srvastava, M. (1990). Regresson Analyss; Theory, Methods, and Applcatons, Sprnger-Verlag, N.Y. Stahel, W. A. (2000). Statstsche Datenanalyse: Ene Enführung für Naturwssenschaftler, 3. Aufl., Veweg, Wesbaden. Stahel, W. A. (2002). Statstsche Datenanalyse: Ene Enführung für Naturwssenschaftler, 4. Aufl., Veweg, Wesbaden. van der Waerden, B. L. (1971). Mathematsche Statstk, 3. Aufl., Sprnger, Berln. Vncze, I. (1984). Mathematsche Statstk mt ndustrellen Anwendungen, Band1, 2, 2. Aufl., Bblograhsches Insttut, Mannhem. Wesberg, S. (1990). Appled Lnear Regresson, 2nd edn, Wley, N.Y. Wetherll, G. (1986). Regresson Analyss wth Applcatons, number 27 n Monographs on Statstcs and Appled Probablty, Chapmann and Hall, London.