Lineare Regression (1) - Einführung I -

Transkript

1 Lneare Regresson (1) - Enführung I - Mttels Regressonsanalysen und kompleeren, auf Regressonsanalysen aserenden Verfahren können schenar verschedene, jedoch nenander üerführare Fragen untersucht werden: We eng st und welche Rchtung hat der Zusammenhang zwschen zwe Varalen? Unterscheden sch de Mttelwerte ener Varalen n verschedenen (Tel-) Gruppen? We gut lassen sch de Werte ener Varalen durch ene oder mehrere andere Varalen vorhersagen (d.h. auf de Werte ener oder mehrerer anderer Varalen zurückführen)? Mt welchen Modellen können Zusammenhänge zwschen mehreren Varalen am esten eschreen werden? We gut passt en theoretsches Modell des Zusammenhangs zweer oder mehrerer Varalen zu den Daten? Lneare Regresson () - Enführung II - De grundlegenden Prnzpen der Regressonsanalyse lassen sch anhand der m Folgenden etrachteten enfachen lnearen Regresson darstellen. Be der enfachen lnearen Regresson kennt man den Ausprägungsgrad ener Varalen (z.b. ) und möchte den Ausprägungsgrad ener anderen Varale (z.b. ) vorhersagen. De Varale, de vorhergesagt werden soll, wrd als ahängge Varale (AV) oder als Krterum ezechnet (ülcherwese ). z.b. Gewaltenstellungen, Erfolg von Interventonsmaßnahmen, eruflcher Erfolg De Varale, de zur Vorhersage dent, wrd als unahängge Varale (UV) oder als Prädktor ezechnet (ülcherwese ). z.b. Gewalterfahrung m Elternhaus, Enndung n Peergroups, Aretsmotvaton Es soll dejenge lneare Funkton gefunden werden, de den Zusammenhang zwschen und optmal eschret. 1

2 Lneare Regresson (3) - Enführung III - Das konzeptuelle Modell zur Vorhersage ener ahänggen Varalen durch ene unahängge Varale st: De enfachste mathematsche Funkton zur Vorhersage st ene lneare Glechung, n der de -Werte zur Schätzung der -Werte lnear transformert werden: geschätzter Wert der Varalen a y y Wert der Varalen für den der -Wert geschätzt wrd Geschätzter Wert der Varalen wenn = 0 st ( = addtve Konstante oder ntercept ) Regressonskoeffzent = Stegung (slope) der Lne zur Vorhersage von De Rehenfolge der Indzes y an den Koeffzenten a und gt an, dass se der Vorhersage der -Werte anhand der -Werte denen: Es handelt sch her um ene Regresson von auf. Lneare Regresson (4) - Enführung IV - Der Wert y edeutet nhaltlch de durchschnttlche Veränderungsrate der - Werte pro Zunahme ener Enhet von -Werten, während der Wert a y denjengen -Wert angt, an dem de Regressonslne de y-achse schnedet: 1 a 0 Regressonsgerade mt Stegung und addtver Konstanter a

3 Lneare Regresson (5) - Enführung V - Vorhersage enes -Wertes anhand der Regressonsgeraden: Für enen gegeenen Wert wrd parallel zur -Achse ene Lne zur Regressonsgeraden und von dort parallel zur -Achse s zur -Achse gezogen, der Schnttpunkt gt den geschätzten -Wert : = a y + y y (,y ) e Owohl de Regressonsgerade dem Trend der Punkte m Streudagramm am esten entsprcht (nach enem estmmten Krterum, s.u.), werden.d.r. ncht alle Punkte genau auf der Geraden legen: Der Schätzfehler e der Vorhersage enes estmmten -Wertes st als Dfferenz zwschen dem tatsächlchen und dem vorhergesagten -Wert defnert: e = y. Lneare Regresson (6) - Enführung VI - Da alle anhand der Regressonsglechung vorhergesagten Werte auf der Regressonsgeraden legen, st en Gesamtmaß für den Schätzfehler der Regressonsglechung nach dem Krterum der klensten Quadrate (least squares) de Summe der quadrerten Awechungen der vorhergesagten Werte von den tatsächlchen (gegeenen) Werten. De Koeffzenten y und a y der Regressonsgeraden werden so gewählt, dass dese Summe mnmal st: ( y ) mn Dese Art der lnearen Regresson wrd wegen des Krterums der klensten Quadrate m Englschen auch als ordnary least squares regresson oder OLSregresson ezechnet. 3

4 Lneare Regresson (7) - Enführung VII - De Glechungen, mt denen de Koeffzenten y und a y nach dem Krterum der klensten Quadrate estmmt werden können (mathematsch mt Mtteln der Dfferentalrechnung aletar), snd: Stegung (slope) y n 1 ( ) ( y n 1 ( ) y) cov s y r s y y s Konstante (ntercept) a y y y D.h., zuerst wrd y und dann a y estmmt. De erste Varante der Glechung für y wrd enutzt, wenn Rohdaten vorlegen, de zwete und drtte Varante können enutzt werden, wenn de Kennzffern der Kovaranz und de Varanz von oder der Korrelaton und der Standardawechungen von und verfügar snd. Lneare Regresson (8) - Bespel I - kg cm Aw() Aw(y) AP(,y) AQ() AQ(y) cm ykg Nr y y ( ) ( y y) ( ) ( y y) y -_ y-y_ (-_).(y-y_) (-_)² (y-y_)² Summe: n y s s y s y a y s y s y r y

5 Lneare Regresson (9) - Bespel II Gewcht (kg) y Körpergröße (cm) Lneare Regresson () - Merkmale der lnearen Regresson I - Gt es kene Informaton, auf der de Vorhersage aseren kann, wrd der gleche Schätzwert das arthmetsche Mttel der ahänggen Varalen für jeden vorherzusagenden Fall enutzt. D.h., wenn de Korrelaton zwschen der unahänggen Varalen und der ahänggen Varalen Null st, wrd aus den Formeln für y und a y: a y y sy 0 0 s y 0 y Selstverständlch würde nemand ene Regressonsglechung zur Vorhersage enutzen, wenn Prädktor (UV) und Krterum (AV) unkorrelert wären. 5

6 Lneare Regresson (11) - Merkmale der lnearen Regresson II - Werden alle Werte als z-werte ausgedrückt, st der z-wert der durch de Glechung vorhergesagten Varalen glech dem z-wert der Prädktorvaralen multplzert mt der Produkt-Moment-Korrelaton von und. Da de Standardawechungen der z-werte Ens snd und de Mttelwerte Null, folgt algerasch, dass z r z y Hermt ergt sch ene wchtge Egenschaft der Regresson: Da z mt enem Wert multplzert wrd (der Korrelaton), der n realen Daten numersch mmer klener dem Betrag von Ens st, wrd der z-wert der vorhergesagten Varalen mmer näher am arthmetschen Mttel legen als der z- Wert der Varalen, auf dem de Vorhersage asert. Des st de Bass des sogenannten Regressonseffekts (Regresson zur Mtte von ). Unter anderem demonstrert de Glechung des Weteren, dass de Regressonsgerade durch den Punkt (, y) verläuft: Ist z = 0 (d.h. glech dem Mttelwert), dann st der z-wert der vorhergesagten Varalen eenfalls = 0. Lneare Regresson (1) - Merkmale der lnearen Regresson III - Je näher de Korrelaton zwschen und an Null legt, desto größer st der Vorhersagefehler. Auch wenn de Regressonsglechung den Vorhersagefehler mnmert, kann er doch zu groß sen. Ist de Korrelaton zwschen Prädktor (UV) und Krterum (AV) numersch klen (z.b ), würde de Regresson enen eträchtlchen Vorhersagefehler produzeren, wel de Korrelaton eder Varalen so gerng st. Das edeutet, dass ene Korrelaton nahe Null für praktsche Vorhersagezwecke nutzlos st, auch wenn de Korrelaton statstsch sgnfkant sen sollte (was mt jeder genügend großen Stchproe der Fall sen kann). Das Vorzechen des Korrelatonskoeffzenten hat jedoch nchts mt dem Vorhersagefehler zu tun: Korrelatonen von z.b und 0.55 snd glech gut für Vorhersagen, wel de Stärke des Zusammenhangs n eden Fällen glech st. 6

7 Lneare Regresson (13) - Merkmale der lnearen Regresson IV - De Korrelaton zwschen und jeder lnearen Transformaton von st numersch glech dem Betrag von r y. Da eenfalls nchts anderes als ene lneare Trans-formaton von darstellt, st auch de der Betrag der Korrelaton zwschen und glech dem Betrag der Korrelaton zwschen und. Wenn also der lneare Zusammenhang zwschen und schwach st (r y legt nahe Null), werden de vorhergesagten -Werte größtentels ungenau und zemlch verscheden von den tatsächlchen -Werten sen (r y wrd genauso nahe e Null legen). Ist dagegen der Zusammenhang zwschen und stark (r y st numersch groß), werden de vorhergesagten -Werte präzse und konsstent mt den tatsächlchen -Werten sen (r y wrd numersch genauso groß sen). 7