Beispiel zur Regression

Transkript

1 Bespel zur Regresso Bespel Lestug kw ud Kraftstoff-Verbrauch l pro 00 km vo sebe verschedee VW-Golf Bezmotore [] kw l/00km 55 6,4 74 7,6 77 6,8 85 7,9 0 9,3 50 0,8 [] Quelle: Amerkug: Das Bespel basert auf Date, de lage vor dem Skadal um mapulerte Abgaswerte recherchert wurde Statstk für SozologIe Regresso

2 Streudagramm Streudagramm: Lestug - Verbrauch Kraftstoffverbrauch l/00km Lestug kw Amerkug: Offeschtlch besteht e Zusammehag: mt wachseder Motorlestug stegt der Kraftstoffverbrauch. Zel st es dese Bezehug zu quatfzere Statstk für SozologIe Regresso

3 Grudmodell ud Notato Zelgröße (abhägge Varable; Regressad) Y Eflussgröße (uabhägge Varable; Regressor) X Im Bespel: Y... Kraftstoffverbrauch X... Lestug Aahme: Es besteht e fuktoaler Zusammehag zwsche de bede Merkmale: Y = f(x) Statstk für SozologIe 3 Regresso

4 De Regressosaalyse st e Istrumet zur Utersuchug ees fuktoale Zusammehags zwsche zwe Merkmale. Im Utersched zur Korrelatosaalyse hadelt es sch dabe um e gerchtetes Modell Mt der Regressosaalyse ka e fuktoaler Zusammehag ahad emprscher Date aalysert werde ma ee gerchtete Bezehug statstsch achwese ma fehlede oder zuküftge Werte schätze/progostzere Statstk für SozologIe 4 Regresso

5 Regressosfukto Be eer Regressosfukto hadelt es sch cht um ee exakte Fukto m streg mathematsche Se Aufgrud vo Messfehler ud Zufallseflüsse werde de ezele Messuge cht dealtypsch auf dem Fuktosgraphe der Fukto lege, soder zufällg davo abweche Wr erweter user Modell daher um ee Fehlerterm (zufällge Kompoete) e, we folgt: Y = f(x) + e Statstk für SozologIe 5 Regresso

6 Stochastscher Fuktoszusammehag De Pukte folge dem vom Fuktosgraphe vorgegebeem Tred, ud streue zufällg um dese Statstk für SozologIe 6 Regresso

7 Leare Regresso De efachste Form ees fuktoale Zusammehages stellt ee leare Fukto dar Modellvorstellug: der Zusammehag zwsche X ud Y ka (zumdest stückwese) durch ee Gerade beschrebe werde: Y = b 0 + b X + e b 0... Abstad der Gerade vom Ursprug auf der Ordate (Itercept; Kostate) b... Stegug der Gerade (Slope) e Fehlerterm (error-term), Resdue Statstk für SozologIe 7 Regresso

8 Abstad auf der Ordate m Nullpukt Statstk für SozologIe 8 Regresso

9 Notato De Ausgagspukt für de statstsche Aalyse blde Beobachtugspaare (x, y ), de wr als Datepukte eem Streudagramm vsualsere köe. X Y x y x y Beachte: st de Azahl der Datepukte, d.h. wr habe Messuge vo x ud - Messuge vo y, de jewels am gleche Objekt beobachtet wurde. x y x y Statstk für SozologIe 9 Regresso

10 Notato y yˆ e beobachteter Wert dealserter Wert auf der Gerade Abwechug beobachteter Wert vom dealsertewert e y yˆ Statstk für SozologIe 0 Regresso

11 Schätzug der Parameter Statstk für SozologIe Regresso

12 Bestmmug der Regressosgerade.Idee: Gerade so lege, dass de Summe der QUADRATE aller Abwechuge mmal wrd. Klest-Quadrate-Przp De optmale Regressosgerade ergbt sch da durch Lösug folgeder Optmerug: S e y b b x m! 0 Statstk für SozologIe Regresso

13 Statstk für SozologIe 3 Regresso Mathematsche Herletug x b b y b S 0 0 x b x b y b S y b b x 0 x y b x b x 0 ˆ x x y x y x b Normalglechuge Aus folgt: b 0 = y b x

14 Iterpretato der Formel für Koeffzete Stegug der Regressosgerade: Kovaraz vo X ud Y dvdert durch de Varaz vo X x y x y ˆ b x x Abstad auf der Ordate: cov( XY, ) var( X ) Leare Regressosgerade verläuft durch de Schwerpukt der Pukte bˆ y bˆx 0 De Schrebwese b soll azege, dass es sch um aus de emprsche Date geschätzte Werte hadelt. Statstk für SozologIe 4 Regresso

15 Tabellarsches Recheschema Nr. X Y X X*Y Y 55 6, , , ,4 57, , ,6 46, , ,5 6, , , , ,64 Summe 55 48, ,5 40,5 Mttelwert vo X: 9,83 3,73808 Mttelwert vo Y: 8,3 0,04799 Berechug vo b: b 0 = 3,738 Zähler 66,0 b = 0,0479 Neer 3399,00 bˆ x y x bˆ y bˆx 0 x x y Statstk für SozologIe 5 Regresso

16 Graphsche Darstellug Statstk für SozologIe 6 Regresso

17 Ergebs mt SPSS Statstk für SozologIe 7 Regresso

18 Regressosgerade als Istrumet zur Vorhersage Basered auf de geschätzte Parameter köe wr für ee x Wert de zugehörge y Wert schätze, dem wr de x-wert de Regressosglechug Y = b 0 + b X esetze: Schätzwerte für de Parameter: b 0 = 3,738 Wert vo x Schätzwert für y b 0 = 3,738 b = 0,0479 Progose-Szeare b = 0, ,69 3,738+0,0479*0=4,69 Statstk für SozologIe 8 Regresso

19 Wchtge Egeschafte der Regressosgerade Fehlerausglechede Gerade eˆ 0 De Summe der Abwechuge vo der ach dem Kl. Quadrate Przp optmale Gerade st glech Null. Mttelwert der geschätzte Werte y st glech dem Mttelwert der beobachtete Werte y De Regressosgerade läuft durch Schwerpukt y = b 0 + b x Statstk für SozologIe 9 Regresso

20 K.Q. - Gerade geht durch de Schwerpukt y x Statstk für SozologIe 0 Regresso

21 Varabltät der Regresso y y y ŷ P( x, y ) ŷ b 0 b x ŷ y ŷ y y y y ŷ ŷ y SQT SQR SQE y y y yˆ yˆ y Statstk für SozologIe x e x Totale Quadratsumme der Abwechuge der Y-Werte vom arthmetsche Mttel cht erklärte (resduale) Abwechugsquadratsumme (auch Quadratsumme der Resdue) erklärte Abwechugsquadratsumme; Quadratsumme der Abwechuge der geschätzte Y-Werte um das arthmetsche Mttel Regresso

22 Statstk für SozologIe Regresso

23 Statstk für SozologIe 3 Regresso Zerlegug der Quadratsumme y y e y y SQE SQR SQT ˆ y y y y SQT SQE r ˆ

24 Iterpretato vo r² Im Leare Modell Y = b 0 + b X + e st r² geau das Quadrat des r² ka Werte zwsche Null (ke Zusammehag zwsche Y ud X) ud Es (alle Pukte lege exakt auf eer Gerade) aehme Je äher r² be es legt, desto besser wrd Y durch X mttels eer leare Regresso erklärt r² st der Atel der Varato vo Y, der durch X erklärt werde ka Statstk für SozologIe 4 Regresso

25 Bestmmug vo r² m Bespel Nr. X Y X X*Y Y e e ŷ ( y y) ˆ y ˆ y 55 6, ,96 6,37 0,03 0,00 3,00 -,77 3, 356, , ,4 57,76 7,8 0,3 0,0 0,8-0,85 0,73 38, , ,6 46,4 7,4-0,6 0,39,78-0,7 0,5 0, , ,5 6,4 7,8 0,09 0,0 0,05-0,33 0, 46, , ,49 9,00 0,30 0,09,36 0,87 0,76 330, , ,64 0,9-0, 0,0 7,,79 7, ,36 Summe 55 48, ,5 40,5 48,80 0,00 0,60 3,59 0,00, ,83 Mttelwert vo X: 9,83 SQT 3,59 00,00% Mttelwert vo Y: 8,3 SQR 0,60 4,43% yˆ SQE,99 95,57% y SQE r SQT r²=,99/3,59 =0,9557 y y y y ( x x) Statstk für SozologIe 5 Regresso

26 Iferezstatstk Es wrd ageomme, daß de Werte der uabhägge Varable feste (chtzufällge) Größe sd. Es wrd ageomme, daß sch de Beobachtuge der abhägge Varable durch ee X leare Term plus eer zufällge Störkompoete ergebe. Über de Störkompoete werde folgede Aahme getroffe Kee systematsche Störug, d.h. Erwartugswert st ull E(e ) = 0 Kostate Streuug der Störkompoete Var(e ) = cost. De Störuge sd uabhägg voeader Cov(e, e j ) = 0 De Störkompoete se ormalvertelt mt Erwartugswert 0 ud der Varaz s² Statstk für SozologIe 6 Regresso

27 Modellaahme De bedgte Dchte vo Y für gegebee Wert vo X uterschede sch ur hrem Erwartugswert Statstk für SozologIe 7 Regresso

28 Sgfkaz der Regressosbezehug Frage st der Atel der erklärte Varaz sgfkat? Atwort: F-Test Erklärte durch chterklärte mttlere Quadratsumme (das st de Quadratsumme durch de Zahl der Frehetsgrade dvdert) Dese Prüfgröße st F-vertelt mt ud - Frehetsgrade F SQE/ SQR/( ) r / ( r ) /( ) Wr kee dese F-Test scho vo der Varazaalyse Statstk für SozologIe 8 Regresso

29 Durchführug des Tests ANOVA (Aalyss of Varace) Frehetsgrade (df) Quadratsumme (SS bzw. SQ) Mttlere Quadratsumme Prüfgröße (F) P-Wert Regresso,990,990 86,95 0,0007 Resdue 4 0,603 0,5 Gesamt 5 3,593 r²= 0,956 (-r²)= 0,044 (-r²)/4= 0,0 E edrger p-value (z.b. kleer als 0,05) bedeutet, dass e sgfkater Erklärugswert vorlegt. Statstk für SozologIe 9 Regresso

30 Schätzug vo s² De Schätzug der ubekate Varaz der Störkompoete st de Voraussetzug für Iferez über de Parameter bzw. für Kofdeztervalle für Progosewerte. Naheleged st de achstehede Formel, da ja glt: E(e)=0 sˆ e Fehlervaraz De postve Quadratwurzel führt zum Stadardfehler der Resdue (Resdual Stadard Error) Statstk für SozologIe 30 Regresso

31 Kofdeztervalle ud Tests für Regressoskoeffzete Schätzug der Varaz der Regressoskoeffzete ˆ s ˆ s x ˆ b s 0 ( x x) b ˆ s ( x x) Iterpretato: Be große Werte vo x st de Varabltät der Kostate ceters parbus größer. Je stärker de x-werte streue, desto gerger st ceters parbus de Streuug beder Koeffzete Statstk für SozologIe 3 Regresso

32 Test für de Regressoskoeffzete Nullhypothese: b =0 Koeffzet Stadardfehler t-statstk P-Wert b 0 3,73 0,500 7,465 0,007 b 0,048 0,005 9,84 0,0007 Berechug des Stadardfehlers der Stegug Iterpretato: ˆ 0,60 / 4 0,5 b 0 =0... Geht de Regresso durch de Ursprug? b=0... Ist de Stegug sgfkat vo Null verschede? Das etsprcht m Fall der Efachregresso der zuvor dskuterte Fragestellug: Ist der Atel der erklärte Varaz sgfkat? Hwes: Vergleche de p-value für de Stegug mt dem F-Test, der mathematsch detsch st! Statstk für SozologIe 3 s ( x x) x x , ,8 0,5 ˆ s b 0, ,8 Regresso

33 We geau sd Progose? Progose für de Mttelwert: Welche Wert ehme Beobachtuge der abhägge Varable Y für ee gegebee Wert der uabhägge Varable X m Mttel a ud we stark schwake dese Mttelwerte? Ezelprogose: Welche Wert mmt ee dvduelle Beobachtug der abhägge Varable Y für ee gegebee Wert der uabhägge Varable X a ud we stark schwakt deser? y Demo zum Kofdeztervall - Vertrauestervall x Statstk für SozologIe 33 Regresso

34 Kofdeztervall für de durchschttlche Progosewert T Ŷ E(Y S Ŷ ) t-vertelt mt - Frehetsgrade P(Ŷ ts E(Y ) Ŷ ts ) Ŷ Ŷ ŷ ts Ŷ E(Y ) ŷ Ŷ ts mt ŷ b 0 b x ud s Yˆ ˆ s ( x x) j ( x x) j Statstk für SozologIe 34 Regresso

35 Progosetervall für dvduelle Progosewert Y T Ŷ Y S F t-vertelt mt - Frehetsgrade P(Ŷ ts Y Ŷ ts ) F F ŷ ts F Y ŷ ts F mt ŷ b 0 b x ud s F ˆ s ( x x) j ( x x) j Statstk für SozologIe 35 Regresso

36 Awedug m Bespel Progosetervall für Ezelwerte (dvduelle Progosewerte) x S F Progose UG OG se 0, ,477 6,88 4,887 7, t:, ,4604 6, , , ,4504 6, , , ,446 6,8473 5,69 8, ,434 7, ,8836 8, ,48 7,365 6,3756 8, ,437 7,5667 6, , ,408 7,8058 6, , ,494 8, , , ,496 8,85 7,0006 9, ,44 8,5476 7, , ,448 8,7644 7, , ,497 9, ,8069 0, ,4360 9,437 8, , ,4438 9, ,53 0,7558 Statstk für SozologIe 36 Regresso

37 Vertraues- ud Progosetervall Kraftstoffverbrauch l/00km Vertrauestervall Progosetervall Merke: je weter e Pukt auf der x-achse vom Mttelwert etfert st, desto größer st de Uscherhet der Progose! Lestug kw Statstk für SozologIe 37 Regresso

38 Progosegeaugket Eführug de Iferezstatstk 38 Korrelato & Regresso

39 Regresso Dagostcs Eführug de Iferezstatstk 39 Korrelato & Regresso

40 4 Datesätze vo Ascombe Für jede Datesatz glt, dass de Korrelato 0,86 ud somt R²=0,667 st. Eführug de Iferezstatstk 40 Korrelato & Regresso

41 4 verschedee Iterpretatoe Statstk für SozologIe 4 Regresso