Mehrfachregression: Einfluss mehrerer Merkmale auf ein metrisches Merkmal. Designmatrix Bestimmtheitsmaß F-Test T-Test für einzelne Regressoren

Transkript

1 Mehrfachregresson: Enfluss mehrerer Merkmale auf en metrsches Merkmal Desgnmatrx Bestmmthetsmaß F-Test T-Test für enzelne Regressoren

2 Mehrfachregresson Bvarat: x b b y + = 0 ˆ k k x b x b x b b y = l 0 ˆ Multvarat: Zugehörges Modell: Annahme: Störterme snd unabhängg und k k x x x y ε β β β β = 0 ) (0, ~ σ ε ε N Matrxschrebwese: y = X b X Desgn-Matrx

3 Umsatz n verschedenen Flalen Zwegstelle Umsatz Ausbldung Erfahrung 9, , , , , ,77 7 0, ,5 0 Buch Bespel (S. 0)

4 Berechnung der Koeffzenten b We m bvaraten Fall bestmmt man b 0,b,,b n so, daß de Quadratsumme der Resduen am klensten st. = = = = n n e y y SQR ) ˆ ( st zu mnmeren! d.h. Löse Mnmerungsproblems mt Normalglechungen: y b = T T X X X ( ) y b = T T X X X Multplkaton mt (X T X) - lefert:

5 Berechne Koeffzenten b (Bsp. ) Löse Normalglechungen durch Matrxnverson: Im Prnzp hab ch nun alles um b zu berechnen Praktsch nemand löst dese Glechung per Hand! Softwarepakete we z. Bsp. SPSS und somt Regressonsfunkton y = x x

6 Interpretaton des Resultats (Bsp. ) Regressonsfunkton: y = x x Be enem Leter ohne Berufserfahrung und mt Ausbldungsgrad 0 erwartet man enen Umsatz von b 0 =.56 Mo Euro Mt jedem Jahr an Berufserfahrung stegt der Umsatz um b =.0 Mo Euro Für enen Leter mt 4 Jahren Berufserfahrung und Ausbldungsgrad 3 erwartet man sch enen Umsatz von b 0 +4b +3b =.569 Mo Euro

7 Multples Bestmmthetsmaß Analog zum bvaraten Fall: r SQE = = SQT SQR SQT Gesamtquadratsumme: Erklärte Quadratsumme: SQT n n ( y y) = y ny = = = SQE = n = ( yˆ y) Ncht erklärte Quadratsumme: SQR = n = ( y yˆ ) = n = e Varanzzerlegungsegenschaft: SQT = SQE + SQR

8 Der F-Test Test ob wengstens en Regressor enen Enfluß auf de Response Varable hat H 0 : b = b = = b k = 0, H : b 0 für mndestens enen Regressor Teststatstk: f = ( n k ) r k ( r ) folgt ener F-Vertelung (Sehe Buch S. 07) k und n-k- snd de sogenannten Frehetsgrade

9 Tests für enzelne Regressoren Teststatstk weder von der Form T = b s b Wobe b das -te Dagonalelement von und s n = e e n k = V ( t ) : = s X X e Getestete Hypothese: H0:b = 0, H: b 0 Entschedung für H falls T α ( ) Entsprechende Konfdenzntervalle für de Regressoren (S.) ( ) > Q t n k

10 Vorhersagen Mttels Mehrfachregresson Wetgehend analog zur Enfachregresson! Prognose für den Mttelwert: Welchen Wert nmmt y an ener Stelle x m Mttel an? Indvduelle Prognose: Welchen Wert nmmt ene neue ndvduelle Beobachtung von y an ener Stelle x an? Untersched legt ncht m Schätzer, sondern n der Genaugket des Schätzers KonfdenzntervalleBuch S.4

11 Dummy Varablen Dchotomer Faktor wrd mt 0 und codert Zum Bespel : Geschlecht (männlch, weblch) Raucher (ja, nen) Wrd m Modell genau so behandelt we ene metrsche Varable (Vergleche später das Kaptel über Varanzanalyse)

12 Bespel Gebrauchtwagen Vergleche de Unterlagen von Nagel: 00 Gebrauchtwagen, deren Pres, gefahrene Melen sowe Anzahl der Servces bekannt Frage: We hängt der Pres von desen beden Varablen ab? Multvarate Regresson ˆ = + + y b0 b x b x

13 Bespel Gebrauchtwagen: Ausgabe Bestmmthetsmaß Modell Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,987 a,974,974 4,48 a. Enflußvarablen : (Konstante), SERVICE, MILES Vergleche dazu Regresson mt nur enem Faktor Modell Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,806 a,650,647 5,57 a. Enflußvarablen : (Konstante), MILES

14 Bespel Gebrauchtwagen: Ausgabe Tabelle für F-Test (we m Buch S. 08) Modell Regresson Resduen Gesamt ANOVA b Quadrats Mttel der umme df Quadrate F Sgnfkanz ,3 8,530,000 a 6689, , a. Enflußvarablen : (Konstante), SERVICE, MILES b. Abhängge Varable: PRICE Mttel der Quadrate = Summe der Quadrate/Frehetsgrade F = ,3/70,53

15 Bespel Gebrauchtwagen: Ausgabe 3 Koeffzenten Koeffzenten a Modell (Konstante) MILES SERVICE a. Abhängge Varable: PRICE Regressonsfunkton: Bede Faktoren sgnfkant! Ncht standardserte Koeffzenten Standard serte Koeffzen ten Standardf B ehler Beta T Sgnfkanz 606,8 4,966 48,58,000-3,5E-0,00 -,84-49,788,000 35,837 3,903,569 34,807,000 ˆ y = 606, x + 35, 8 x

16 Bespel Gebrauchtwagen: Graphsch Streudagramme für de enzelnen Faktoren PRICE PRICE MILES SERVICE

17 Zusammenhang zwschen Faktoren Streudagramme zwschen Servce und Melen Korrelaton R = 0.4 De beden Faktoren snd unabhängg 0000 MILES SERVICE

18 Dummy Varable für Servce Servce nur sehr wenge Ausprägungen ncht wrklch metrsche Varable, Man kann de Varable dchotomseren 0 für weng Servces (0 3) für vele Servces (4 oder 5) Führe Regresson mt Dummy Varable für Vele Servces durch

19 Bespel Gebrauchtwagen: Dummy Bestmmthetsmaß: Wesentlch klener als Modell Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,905 a,89,85 09,70 a. Enflußvarablen : (Konstante), VIELSERV, MILES Koeffzenten: Modell (Konstante) MILES VIELSERV a. Abhängge Varable: PRICE Koeffzenten a Ncht standardserte Koeffzenten Standard serte Koeffzen ten Standardf B ehler Beta T Sgnfkanz 646,065 6,64 04,87,000-3,05E-0,00 -,789-8,39,000 7,3 8,579,4 9,49,000 Wagen mt velen Servce snd m Schntt um 7$ teurer als Wagen mt wengen Servces

20 Nchtlneare Regresson Bvarat: y = F( x ) ˆ Multvarat: yˆ = F( x, x, h, x k ) In deser Allgemenhet extrem vele Möglchketen! Nchtlneare Modelle mest wesentlch komplzerter zu berechnen als lneare Modell Auch Interpretaton oft schwerger, hlfrech wenn nchtlneares Modell auf Annahmen beruht, de durch de Problemstellung motvert werden können

21 Bespele für nchtlneare Regresson Regresson mt quadratschen Terme: yˆ = b 0 + b x + b x Wrd häufg verwendet, wenn lneare Regresson ncht gut funktonert (mehr Frehetsgrade, Modell noch ncht so komplzert) x Vorgangswese: Betrachte als zweten unabhänggen Faktor und führe ene lneare Mehrfachregresson durch

22 Bespel 7-9 Quadratsche Regresson 50 ERTRAG x Beobachtet Lnear Quadratsch DÜNGER Graphsche Inspekton zegt, dass das quadratsche Modell wohl besser st als das lneare

23 Bespel 7-9 Fortsetzung Lneares Modell (Enfachregresson) Modell Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,806 a,650,63 6,8378 a. Enflußvarablen : (Konstante), DÜNGER Modell (Konstante) DÜNGER a. Abhängge Varable: ERTRAG Koeffzenten a Ncht standardserte Koeffzenten Standard serte Koeffzen ten Standardf B ehler Beta T Sgnfkanz 6,39 3,75 4,353,00,486,099,806 4,96,000

24 Bespel 7-9 Fortsetzung Mehrfachregresson entsprcht quadratschem Modell (D = Dünger ) Beachte das wesentlch bessere Bestmmthetsmaß! Modell Modell (Konstante) DÜNGER D a. Abhängge Varable: ERTRAG Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,990 a,980,977,6959 a. Enflußvarablen : (Konstante), D, DÜNGER Koeffzenten a Ncht standardserte Koeffzenten Standard serte Koeffzen ten Standardf B ehler Beta T Sgnfkanz -3,07,659 -,85,089,959,07 3,48 8,8,000 -,08E-0,00 -,509-4,9,000

25 Bespele für nchtlneare Regresson Transformaton der Varablen: ln( yˆ ) = b + b x 0 Wrd typscherwese verwendet, falls de Daten ncht auf enen lnearen Zusammenhang sondern eher auf enen exponentellen Zusammenhang schlessen lassen VORSICHT: Transformaton schaut harmloser aus, als se mathematsch st! Zum Bespel verkomplzert sch de Berechnung von Konfdenzntervallen entschedend!

26 Bespel 8-3: Cobb-Douglas Produktonsfunkton V t = δ K L β t β t η t V t Wertschöpfung K t Kaptal L t Arbet η t Fehlerterm Logarthmeren der Glechung lefert: ln( Vt ) = β 0 + β ln( Kt ) + β ln( Lt ) + ln( ηt ) ln( η t ) Wobe Mttelwert 0 und konstante Varanz hat.

27 Überprüfen der Modellvoraussetzung Resduenplots: (Streudagramme zwschen Resduen und Regressoren) Prüfe Konstanz der Resdualvaranzen q-q-plots der Resduen: (Plot der geordneten standardserten Resduen gegen deren Erwartungswert falls N(0,) Prüfe Normalvertelungsannahme

28 Modellvoraussetzung Bsp. 7-9 Resdualplot: lneares Modell Resdualplot: quadratsches Modell Unstandardzed Resdual Unstandardzed Resdual DÜNGER DÜNGER