Mehrfachregresson: Enfluss mehrerer Merkmale auf en metrsches Merkmal Desgnmatrx Bestmmthetsmaß F-Test T-Test für enzelne Regressoren
Mehrfachregresson Bvarat: x b b y + = 0 ˆ k k x b x b x b b y + + + + = l 0 ˆ Multvarat: Zugehörges Modell: Annahme: Störterme snd unabhängg und k k x x x y ε β β β β + + + + + = 0 ) (0, ~ σ ε ε N Matrxschrebwese: y = X b X Desgn-Matrx
Umsatz n verschedenen Flalen Zwegstelle Umsatz Ausbldung Erfahrung 9,5 3 4 5,79 7 3 4,75 4 7 4 3,0 3 6 5 3,9 0 6 4,77 7 0,83 3 6 8 0,5 0 Buch Bespel (S. 0)
Berechnung der Koeffzenten b We m bvaraten Fall bestmmt man b 0,b,,b n so, daß de Quadratsumme der Resduen am klensten st. = = = = n n e y y SQR ) ˆ ( st zu mnmeren! d.h. Löse Mnmerungsproblems mt Normalglechungen: y b = T T X X X ( ) y b = T T X X X Multplkaton mt (X T X) - lefert:
Berechne Koeffzenten b (Bsp. ) Löse Normalglechungen durch Matrxnverson: Im Prnzp hab ch nun alles um b zu berechnen Praktsch nemand löst dese Glechung per Hand! Softwarepakete we z. Bsp. SPSS und somt Regressonsfunkton y =.56 +.0 x + 0.655 x
Interpretaton des Resultats (Bsp. ) Regressonsfunkton: y =.56 +.0 x + 0.655 x Be enem Leter ohne Berufserfahrung und mt Ausbldungsgrad 0 erwartet man enen Umsatz von b 0 =.56 Mo Euro Mt jedem Jahr an Berufserfahrung stegt der Umsatz um b =.0 Mo Euro Für enen Leter mt 4 Jahren Berufserfahrung und Ausbldungsgrad 3 erwartet man sch enen Umsatz von b 0 +4b +3b =.569 Mo Euro
Multples Bestmmthetsmaß Analog zum bvaraten Fall: r SQE = = SQT SQR SQT Gesamtquadratsumme: Erklärte Quadratsumme: SQT n n ( y y) = y ny = = = SQE = n = ( yˆ y) Ncht erklärte Quadratsumme: SQR = n = ( y yˆ ) = n = e Varanzzerlegungsegenschaft: SQT = SQE + SQR
Der F-Test Test ob wengstens en Regressor enen Enfluß auf de Response Varable hat H 0 : b = b = = b k = 0, H : b 0 für mndestens enen Regressor Teststatstk: f = ( n k ) r k ( r ) folgt ener F-Vertelung (Sehe Buch S. 07) k und n-k- snd de sogenannten Frehetsgrade
Tests für enzelne Regressoren Teststatstk weder von der Form T = b s b Wobe b das -te Dagonalelement von und s n = e e n k = V ( t ) : = s X X e Getestete Hypothese: H0:b = 0, H: b 0 Entschedung für H falls T α ( ) Entsprechende Konfdenzntervalle für de Regressoren (S.) ( ) > Q t n k
Vorhersagen Mttels Mehrfachregresson Wetgehend analog zur Enfachregresson! Prognose für den Mttelwert: Welchen Wert nmmt y an ener Stelle x m Mttel an? Indvduelle Prognose: Welchen Wert nmmt ene neue ndvduelle Beobachtung von y an ener Stelle x an? Untersched legt ncht m Schätzer, sondern n der Genaugket des Schätzers KonfdenzntervalleBuch S.4
Dummy Varablen Dchotomer Faktor wrd mt 0 und codert Zum Bespel : Geschlecht (männlch, weblch) Raucher (ja, nen) Wrd m Modell genau so behandelt we ene metrsche Varable (Vergleche später das Kaptel über Varanzanalyse)
Bespel Gebrauchtwagen Vergleche de Unterlagen von Nagel: 00 Gebrauchtwagen, deren Pres, gefahrene Melen sowe Anzahl der Servces bekannt Frage: We hängt der Pres von desen beden Varablen ab? Multvarate Regresson ˆ = + + y b0 b x b x
Bespel Gebrauchtwagen: Ausgabe Bestmmthetsmaß Modell Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,987 a,974,974 4,48 a. Enflußvarablen : (Konstante), SERVICE, MILES Vergleche dazu Regresson mt nur enem Faktor Modell Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,806 a,650,647 5,57 a. Enflußvarablen : (Konstante), MILES
Bespel Gebrauchtwagen: Ausgabe Tabelle für F-Test (we m Buch S. 08) Modell Regresson Resduen Gesamt ANOVA b Quadrats Mttel der umme df Quadrate F Sgnfkanz 667999 333999,3 8,530,000 a 6689,5 97 70,53 6434890 99 a. Enflußvarablen : (Konstante), SERVICE, MILES b. Abhängge Varable: PRICE Mttel der Quadrate = Summe der Quadrate/Frehetsgrade F = 333999,3/70,53
Bespel Gebrauchtwagen: Ausgabe 3 Koeffzenten Koeffzenten a Modell (Konstante) MILES SERVICE a. Abhängge Varable: PRICE Regressonsfunkton: Bede Faktoren sgnfkant! Ncht standardserte Koeffzenten Standard serte Koeffzen ten Standardf B ehler Beta T Sgnfkanz 606,8 4,966 48,58,000-3,5E-0,00 -,84-49,788,000 35,837 3,903,569 34,807,000 ˆ y = 606, 0.035 x + 35, 8 x
Bespel Gebrauchtwagen: Graphsch Streudagramme für de enzelnen Faktoren 6000 6000 5800 5800 5600 5600 5400 5400 500 500 5000 5000 PRICE 4800 4600 0000 0000 30000 40000 50000 PRICE 4800 4600-0 3 4 5 6 MILES SERVICE
Zusammenhang zwschen Faktoren Streudagramme zwschen Servce und Melen 50000 40000 30000 Korrelaton R = 0.4 De beden Faktoren snd unabhängg 0000 MILES 0000-0 3 4 5 6 SERVICE
Dummy Varable für Servce Servce nur sehr wenge Ausprägungen ncht wrklch metrsche Varable, Man kann de Varable dchotomseren 0 für weng Servces (0 3) für vele Servces (4 oder 5) Führe Regresson mt Dummy Varable für Vele Servces durch
Bespel Gebrauchtwagen: Dummy Bestmmthetsmaß: Wesentlch klener als 0.974 Modell Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,905 a,89,85 09,70 a. Enflußvarablen : (Konstante), VIELSERV, MILES Koeffzenten: Modell (Konstante) MILES VIELSERV a. Abhängge Varable: PRICE Koeffzenten a Ncht standardserte Koeffzenten Standard serte Koeffzen ten Standardf B ehler Beta T Sgnfkanz 646,065 6,64 04,87,000-3,05E-0,00 -,789-8,39,000 7,3 8,579,4 9,49,000 Wagen mt velen Servce snd m Schntt um 7$ teurer als Wagen mt wengen Servces
Nchtlneare Regresson Bvarat: y = F( x ) ˆ Multvarat: yˆ = F( x, x, h, x k ) In deser Allgemenhet extrem vele Möglchketen! Nchtlneare Modelle mest wesentlch komplzerter zu berechnen als lneare Modell Auch Interpretaton oft schwerger, hlfrech wenn nchtlneares Modell auf Annahmen beruht, de durch de Problemstellung motvert werden können
Bespele für nchtlneare Regresson Regresson mt quadratschen Terme: yˆ = b 0 + b x + b x Wrd häufg verwendet, wenn lneare Regresson ncht gut funktonert (mehr Frehetsgrade, Modell noch ncht so komplzert) x Vorgangswese: Betrachte als zweten unabhänggen Faktor und führe ene lneare Mehrfachregresson durch
Bespel 7-9 Quadratsche Regresson 50 ERTRAG 40 30 0 0 x Beobachtet Lnear 0 0 0 0 30 40 50 60 70 Quadratsch DÜNGER Graphsche Inspekton zegt, dass das quadratsche Modell wohl besser st als das lneare
Bespel 7-9 Fortsetzung Lneares Modell (Enfachregresson) Modell Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,806 a,650,63 6,8378 a. Enflußvarablen : (Konstante), DÜNGER Modell (Konstante) DÜNGER a. Abhängge Varable: ERTRAG Koeffzenten a Ncht standardserte Koeffzenten Standard serte Koeffzen ten Standardf B ehler Beta T Sgnfkanz 6,39 3,75 4,353,00,486,099,806 4,96,000
Bespel 7-9 Fortsetzung Mehrfachregresson entsprcht quadratschem Modell (D = Dünger ) Beachte das wesentlch bessere Bestmmthetsmaß! Modell Modell (Konstante) DÜNGER D a. Abhängge Varable: ERTRAG Modellzusammenfassung Standardf Korrgertes ehler des R R-Quadrat R-Quadrat Schätzers,990 a,980,977,6959 a. Enflußvarablen : (Konstante), D, DÜNGER Koeffzenten a Ncht standardserte Koeffzenten Standard serte Koeffzen ten Standardf B ehler Beta T Sgnfkanz -3,07,659 -,85,089,959,07 3,48 8,8,000 -,08E-0,00 -,509-4,9,000
Bespele für nchtlneare Regresson Transformaton der Varablen: ln( yˆ ) = b + b x 0 Wrd typscherwese verwendet, falls de Daten ncht auf enen lnearen Zusammenhang sondern eher auf enen exponentellen Zusammenhang schlessen lassen VORSICHT: Transformaton schaut harmloser aus, als se mathematsch st! Zum Bespel verkomplzert sch de Berechnung von Konfdenzntervallen entschedend!
Bespel 8-3: Cobb-Douglas Produktonsfunkton V t = δ K L β t β t η t V t Wertschöpfung K t Kaptal L t Arbet η t Fehlerterm Logarthmeren der Glechung lefert: ln( Vt ) = β 0 + β ln( Kt ) + β ln( Lt ) + ln( ηt ) ln( η t ) Wobe Mttelwert 0 und konstante Varanz hat.
Überprüfen der Modellvoraussetzung Resduenplots: (Streudagramme zwschen Resduen und Regressoren) Prüfe Konstanz der Resdualvaranzen q-q-plots der Resduen: (Plot der geordneten standardserten Resduen gegen deren Erwartungswert falls N(0,) Prüfe Normalvertelungsannahme
Modellvoraussetzung Bsp. 7-9 Resdualplot: lneares Modell Resdualplot: quadratsches Modell 0 3 0 0 Unstandardzed Resdual -0-0 0 0 0 30 40 50 60 70 Unstandardzed Resdual - - -3-4 0 0 0 30 40 50 60 70 DÜNGER DÜNGER