Ziel der linearen Regression

Transkript

1 Regression 1

2 Ziel der linearen Regression Bei der linearen Regression wird untersucht, in welcher Weise eine abhängige metrische Variable durch eine oder mehrere unabhängige metrische Variablen durch eine lineare Gleichung beschrieben werden kann. x x 1 y y...abhängige Variable (Prognosevariable, Regressand) x 3 x 1...x j...unabhängige Variablen (Prädiktorvariablen, Regressoren)

3 Modellgleichung Regression Y = β 0 + β 1 X 1 + β X β j X j Y...prognostizierte abhängige Variable X 1..i...unabhängige Variablen β 0...Regressionskonstante β 1...i...Regressionskoeffizienten der Variablen X 1...X i 3

4 Residuen In der Regel verlaufen empirische Wertepaare nicht exakt entlang einer Geraden, sondern weichen mehr oder weniger davon ab. 35,00 30,00 Y 5,00 0,00 Y' 15,00 10,00 5,00 0, Y k = β 0 + βx Prognosewert für Y k Y k - Y k = e k Residuen 4

5 Zielfunktion a...gesamtabweichung vom Mittelwert c...erwartete Abweichung (aus der Regression) b...nicht erwartete Abweichung (Residuum) Zielfunktion der Regression: n k = 1 e k n = k = 1 [ y ( β + β x )] min! k 0 1 k Fehler (b) beobachtet prognostiziert (Methode der kleinsten Quadrate/Ordinary Least Square, OLS ) 5

6 Regressionskoeffizienten (Beispiel) Modellgleichung auf Basis der nicht-standardisierten Regressionskoeffizienten: Soma = B_rolle* B_schüler* B_image* B_phys* B_quanti*

7 Fortsetzung Beispiel Skala Anzahl Items der Skala Mittelwert Belastendes Schülerverhalten 9.0 Quantitative Überforderung Physische Belastung Rollenkonflikte Imageprobleme Somatische Beschwerden Soma = B_rolle* B_schüler* B_image* B_phys* B_quanti*0.915 Mittelwerte für UAV einsetzen Soma = * * * * *0.915= 6.33 = Mittelwert von Somatische Beschwerden Was passiert wenn z.b. Schülerverhalten um eine Einheit erhöht wird (von. auf 3.)? Soma = * * * * *0.915 = 7.1 7

8 Standardisierte / Nichtstandardisierte Regressionskoeffizienten Nicht-Standardisierte Regressionskoeffizienten geben an, um wie viele Einheiten sich die abhängige Variable (gemäß der Annahme der Regressionsgleichung) verändert, wenn sich die unabhängige Variable um eine Einheit erhöht. Nicht-Standardisierte Regressionskoeffizienten sind von den Einheiten der Variablen abhängig und daher untereinander nicht vergleichbar Daher Standardisierte Regressionskoeffizienten berechnet, welche mit den Standardabweichungen von x und y normiert werden. b i s = βi s x i y Geben an, um wie viele Standardabweichungen sich y verändert, wenn x um eine Standardabweichung erhöht wird 8

9 Eigenschaften der Regressionskoeffizienten Prognosekoeffizienten: Gibt an, um welchen Anteil y erhöht wird, wenn x i um eine Einheit (Standardabweichung) erhöht wird Stärkekoeffizienten: Standardisierte Regressionskoeffizienten sind zwischen 0 und 1 normiert und drücken wie Korrelationskoeffizienten die Stärke eines Zusammenhanges aus. partielle Koeffizienten: Gibt den direkten Einfluss von x i auf y an, wenn die übrigen unabhängigen Variablen konstant gehalten werden. 9

10 Direkte indirekte Zusammenhänge x 1 r=0.1 r=0.8 x y r=0.3 x 1 x β =-0.39 β=0.61 y wäre der direkte Zusammenhang (x 1,y)=0 dann würde x 1 mit y dennoch mit 0.8*0.3=0.4 korrelieren. Tatsächlich ist die Korrelation jedoch nur 0.1. Daher muss es einen negativen direkten Zusammenhang zwischen x 1 und y geben. Anmerkung: Im Fall von zwei x-variablen lassen sich β 1 und β folgenderweise berechnen: r r r β = β 1 ( y, x1 ) ( y, x ) ( x1, x ) ( y, x ) ( y, x1 ), und = 1 r ( x, x ) 1 r ( x, x 1 r r 1 r ) ( x, x 1 ) 10

11 Beispiel 11

12 Beispiel 1

13 Modellanpassung R Gesamtstreuung = erklärte Streuung + nicht erklärte Streuung a = c + b n n ( y y ) = ( y y ) + ( y y ) ' ' j j j = 1 j= 1 j = 1 R erklärtestreuung GesamtStreuung j= 1 = = n n ' ( y y) ( y j y) j= 1 j n j j 13

14 R - R ="Bestimmtheitsmaß" oder "R-Quadrat" - R =1 wenn Gesamtstreuung durch das Modell vollständig aufgeklärt wird. (erklärte Streuung = Gesamtstreuung) - R =0 wenn das Modell nichts an der Varianz von y aufklärt - R *100=Prozentsatz der erklärten Varianz - R = r =multipler Korrelationskoeffizient = r(y,y ) - aus R -R (i) kann der Anteil erklärter Varianz durch die unabhängige Variable i berechnet werden 14

15 Regression - Anwendungsvoraussetzungen Metrisches Messniveau aller Variablen Lineare Zusammenhänge zwischen x und y Normalverteilung und Varianzhomogenität der Residuen Die Residuen e i =y i -y i ' müssen für alle Ausprägungskombinationen der unabhängigen Variablen normalverteilt mit Mittelwert 0 sein. Bei großen Stichproben ist diese Voraussetzung von untergeordneter Bedeutung (z.b. Greene, 000: 78f). Keine Multikollinearität Multikollinearität tritt auf, wenn mindestens eine unabhängige Variable eine Linearkombination einer anderen unabhängigen Variablen darstellt. Beinahe-Multikollinearität bewirkt ebenfalls eine Verzerrung der Koeffizienten. 15

16 35,00 30,00 Homoskedastizität: 5,00 0,00 15,00 10,00 5,00 0, ,00 30,00 Heteroskedastizität: 5,00 0,00 15,00 10,00 5,00 0,

17 Die Explorative Pfadanalyse Die Pfadanalyse ist eine, auf ein volles rekursives Variablen- Modell angewandte multiple Regression. Unter einem rekursivem Variablenmodell versteht man eine Kausalkette, die nur Kausalbeziehungen in eine gemeinsame Richtung beinhalten. rekursiv nicht rekursiv x1 x x3 x4 x5 x1 x x3 x4 x5 17

18 volles rekursives Modell Als volles rekursives Modell wird eine rekursive Kausalkette bezeichnet, in der alle nachgeordneten Variablen von allen vorangestellten Variablen kausal beeinflusst werden. voll rekursiv x1 x x3 x4 18

19 Das Verfahren der Pfadanalyse Es wird eine Kausale Verknüpfung mehrerer Variablen vermutet und es kann eine kausale Reihenfolge dieser Variablen unterstellt werden. Für die (theoretisch) angenommene Reihung wird zunächst ein volles rekursives Modell angenommen. z.b. x1 x x3 x4 19

20 Das Verfahren der Pfadanalyse Auf dieses angenommene volle rekursive Modell wird eine wiederholte multiple Regression angewandt. β 13 β 4 β 1 z.b. Modell: x1 x x3 x4 β 3 β 34 β Regression: x1 x β 4 β 14 x4 x3 β 34 β 1 3. Regression: x1 x. Regression: x1 x β 3 β 13 x3 0

21 Das Verfahren der Pfadanalyse 0.11 Netzwerkdichte Werthaltungen: unangepasst Anteil Cannabiskonsumenten im Netz Akzeptanz Cannabiskonsum im Netz 0. Konsumbereitschaft Cannabis 0.45 Variable Dichte Angepasst abhängig 3 Anteil abhängig 4 Akzeptanz 0. abhängig 5 Bereit abhängig r

22 Das Verfahren der Pfadanalyse Das volle rekursive Modell vereinfacht sich durch Pfade, für welche die β-koeffizienten nicht signifikant > 0 sind Netzwerkdichte Werthaltungen: unangepasst Anteil Cannabiskonsumenten im Netz Akzeptanz Cannabiskonsum im Netz 0. Konsumbereitschaft Cannabis 0.45 Variable Dichte Angepasst abhängig 3 Anteil abhängig 4 Akzeptanz 0. abhängig 5 Bereit abhängig r

23 Werthaltungen: unangepasst Anteil Cannabiskonsumenten im Netz 0.73 Akzeptanz Cannabiskonsum im Netz 0. Konsumbereitschaft Cannabis Netzwerkdichte 0.16 R = R =0.58 R =0.45 Variable Dichte Angepasst abhängig 3 Anteil abhängig 4 Akzeptanz 0. abhängig 5 Bereit abhängig r

24 Literaturempfehlung: Wolf, Ch., Best, H. (Hrsg.)(010). Handbuch der sozialwissenschaftlichen Datenanalyse. Wiesebaden, VS-Verlag. Kapitel 4. 4