Der Korrelationskoeffizient ist ein Maß für den linearen Zusammenhang zwischen zwei Variablen X und Y. Er ist durch folgende Formel charakterisiert:

Transkript

1 Korrelatoskoeffzet Der Korrelatoskoeffzet st e Maß für de leare Zusammehag zwsche zwe Varable X ud Y. Er st durch folgede Formel charaktersert: r xy XY x xy y corr x x y y x y x y cov( XY, ) x x y y Var( X) Var( Y) Statstk für SozologIe 1 Regresso

2 Korrelato basert auf dem Kozept der Kovaraz ( y y) ( x x) Statstk für SozologIe Regresso

3 Test auf Sgfkaz Wll ma Hypothese der Form H 0 : corr=0 versus H 1 : corr0 (zwesetg) bzw. H 0 : corr<0 versus H 1 : corr>0 (esetg) teste, so ka des uter der Aahme eer - dmesoale Normalvertelug mt folgeder Statstk erfolge: r t mt 1 r Dese Teststatstk st uter der Nullhypothese t vertelt mt - Frehetsgrade Statstk für SozologIe 3 Frehetsgrade Regresso

4 Vsualserug der -dmesoale Normalvertelug Statstk für SozologIe 4 Regresso

5 Smulato aus eer -dmesoale Normalvertelug 6 Couts Statstk für SozologIe 5 Regresso

6 Bespel X Y X² XY Y² Summe Wr wolle de Nullhypothese teste, dass de Merkmale X ud Y ukorrelert sd. Output aus SPSS: Statstk für SozologIe 6 Regresso

7 Berechug mt Excel Bestmmug p-value X ~ t(df=10) P(X>3,18)=0,0054 P(X<-3,18)=0,0054 p-value = 0,0108 ~ 0,011 Statstk für SozologIe 7 Regresso

8 Aderes Bespel mt SPSS r = 0,661 = 474 Teststatstk 19, Statstk für SozologIe 8 Regresso

9 CO Emssoe Statstk für SozologIe 9 Regresso

10 Ragkorrelato ach Spearma Vortele: Awedbar auf zumdest ordalskalerte Date Kee Aahme, dass de Bezehug zwsche de Varable lear st. Der Ragkorrelatoskoeffzet st robust gegeüber Ausreßer. Ivarat gegeüber mootoe Trasformatoe Nachtele: Iformatosverlust be Vorlege stetger Merkmale Be ormalvertelte Date resultert daraus e Geaugketsverlust 10 Statstk für SozologIe 10 Statstk 1 - Assozato & Korrelato Regresso

11 Nchtparametrsche Korrelato SPSS Nutzug der Ragformato! Praktsch kee Korrelato! Statstk für SozologIe 11 Regresso

12 Korrelato ach Spearma Statstk für SozologIe 1 Regresso

13 Bespel zum Effekt vo Ausreßer Statstk für SozologIe 13 Regresso

14 Aalyse des Datesatzes mt Bravas Pearso r = 0,4834 = 0 Zähler:,051 Neer: 0,875 Teststatstk,343 Deutlch sgfkates Ergebs! Statstk für SozologIe 14 Regresso

15 Elmato des Ausreßers Ke sgfkates Ergebs! Statstk für SozologIe 15 Regresso

16 Redukto des Skaleveaus Ke sgfkates Ergebs! Statstk für SozologIe 16 Regresso

17 Bespel zur Regresso Bespel Lestug kw ud Kraftstoff-Verbrauch l pro 100 km vo sebe verschedee VW-Golf Bezmotore [1] kw l/100km 55 6,4 74 7,6 77 6,8 85 7, , ,8 [1] Quelle: Amerkug: Das Bespel basert auf Date, de lage vor dem Skadal um mapulerte Abgaswerte recherchert wurde. Statstk für SozologIe 17 Regresso

18 Streudagramm Streudagramm: Lestug - Verbrauch Kraftstoffverbrauch l/100km Lestug kw Statstk für SozologIe 18 Regresso

19 Grudmodell Zelgröße (abhägge Varable; Regressad) Y Eflussgröße (uabhägge Varable; Regressor) X Im Bespel: Y... Kraftstoffverbrauch X... Lestug Aahme: Es besteht e fuktoaler Zusammehag zwsche de bede Merkmale: Y = f(x) Statstk für SozologIe 19 Regresso

20 De Regressosaalyse st e Istrumet zur Utersuchug ees fuktoale Zusammehags zwsche zwe Merkmale. Im Utersched zur Korrelatosaalyse hadelt es sch also um e gerchtetes Modell Mt der Regressosaalyse ka e fuktoaler Zusammehag ahad emprscher Date aalysert werde ma ee leare Bezehug statstsch achwese ma fehlede oder zuküftge Werte schätze/progostzere Statstk für SozologIe 0 Regresso

21 Dabe hadelt es sch cht um ee exakte Fukto m streg mathematsche Se Aufgrud vo Messfehler ud Zufallseflüsse werde de ezele Messuge cht dealtypsch auf dem Fuktosgraphe lege, soder zufällg abweche Wr erweter user Modell daher um ee Fehlerterm (zufällge Kompoete) e, we folgt: Y = f(x) + e Statstk für SozologIe 1 Regresso

22 Stochastscher Fuktoszusammehag De Pukte folge dem vom Fuktosgraphe vorgegebeem Tred, ud streue zufällg um dese Statstk für SozologIe Regresso

23 Leare Regresso De efachste Form ees fuktoale Zusammehages stellt ee leare Fukto dar Modellvorstellug: der Zusammehag zwsche X ud Y ka (zumdest stückwese) durch ee Gerade beschrebe werde: Y = b 0 + b 1 X + e b 0... Abstad der Gerade vom Ursprug auf der Ordate b 1... Stegug der Gerade Statstk für SozologIe 3 Regresso

24 Learer stochastscher Fuktoszusammehag Asteg: b b Statstk für SozologIe 4 Regresso

25 Notato De Ausgagspukt für de statstsche Aalyse blde Beobachtugspaare (x, y ), de wr als Datepukte eem Streudagramm vsualsere köe. X Y x 1 y 1 x y x y x y Statstk für SozologIe 5 Regresso

26 y Notato beobachteter Wert 30 Learer stochastscher Fuktoszusammehag yˆ dealserter 50 Wert auf der Gerade e Abwechug beobachteter Wert vom dealsertewert 40 e y yˆ y Asteg: b b 0 x b0 b1 x yˆ Statstk für SozologIe 6 Regresso

27 Schätzug der Parameter Statstk für SozologIe 7 Regresso

28 Bestmmug der Regressosgerade 1. Idee: Gerade so wähle, dass de SUMME aller Abwechuge mmal wrd. Nachtel: kee edeutge Lösug, da postve ud egatve Abwechuge eader aufhebe köe. y y b b x m! 0 1 x Statstk für SozologIe 8 Regresso

29 Bestmmug der Regressosgerade. Idee: Gerade so lege, dass de Summe des BETRAGES aller Abwechuge mmal wrd Nachtele: Mathematsch aufwädg (Betragsfukto cht zwemal dfferezerbar) hat der Praxs relatv gergere Bedeutug 1 y b b x m! 0 1 Statstk für SozologIe 9 Regresso

30 Bestmmug der Regressosgerade 3.Idee: Gerade so lege, dass de Summe der QUADRATE aller Abwechuge mmal wrd. Klest-Quadrate-Przp De optmale Regressosgerade ergbt sch da durch Lösug folgeder Optmerug: S 1 e 1 y b b x m! 0 1 Statstk für SozologIe 30 Regresso

31 Statstk für SozologIe 31 Regresso Mathematsche Herletug x b b y b S x x b b y b S () y b b x () xy b x b x Aus b y b x 0 1 ach Substtuto: ˆ x x y x y x b Normalglechuge

32 Iterpretato der Formel für Koeffzete Stegug der Regressosgerade: Kovaraz vo X ud Y dvdert durch de Varaz vo X bˆ x y x y x x 1 1 cov( X, Y) var( X ) Abstad auf der Ordate: Leare Regressosgerade verläuft durch de Schwerpukt der Pukte bˆ 0 y b1x Statstk für SozologIe 3 Regresso

33 Tabellarsches Recheschema Nr. X Y X X*Y Y , , , ,4 57, , ,6 46, , ,5 6, , , , ,64 Summe , ,5 410,5 Mttelwert vo X: 91,83 Mttelwert vo Y: 8,13 Berechug vo b 1 : Neer 3399,00 b 1 = 0,05 Zähler 166,0 b 0 = 3,73 bˆ 1 1 x 1 x y 1 x 1 b y b x 0 1 x 1 y Statstk für SozologIe 33 Regresso

34 Graphsche Darstellug Streudagramm: Lestug - Verbrauch Kraftstoffverbrauch l/100km y = 0,05x + 3, ,00 60,00 80,00 100,00 10,00 140,00 160,00 180,00 Lestug kw Statstk für SozologIe 34 Regresso

35 Automatserte Berechug mt EXCEL Statstk für SozologIe 35 Regresso

36 Ergebs mt SPSS Statstk für SozologIe 36 Regresso

37 Regressosgerade als Istrumet zur Vorhersage Basered auf de geschätzte Parameter köe wr für ee x Wert de zugehörge y Wert schätze Progose-Szeare Wert vo x Schätzwert für y 40 5,65 Statstk für SozologIe 37 Regresso

38 Wchtge Egeschafte der Regressosgerade Fehlerausglechede Gerade 1 e De Summe der Abwechuge vo der ach dem Kl. Quadrate Przp optmale Gerade st glech Null. 0 Regressosgerade läuft durch Schwerpukt y b b x 0 1 Statstk für SozologIe 38 Regresso

39 K.Q. - Gerade geht durch de Schwerpukt y x Statstk für SozologIe 39 Regresso

40 Varabltät der Regresso y y y ŷ P( x, y ) ŷ b0 b1 x ŷ y ŷ y y y y ŷ ŷ y SQT SQR y y 1 y yˆ 1 1 x e x Totale Quadratsumme der Abwechuge vom arthmetsche Mttel cht erklärte (resduale) Abwechugsquadratsumme SQE yˆ y 1 erklärte Abwechugsquadratsumme Statstk für SozologIe 40 Regresso

41 Statstk für SozologIe 41 Regresso

42 Zerlegug der Quadratsumme SQT SQR SQE 1 y y e yˆ y 1 1 r SQE SQT 1 y y 1 yˆ y r = Bestmmthetsmaß Atel der erklärte Quadratsumme a der gesamte Quadratsumme Statstk für SozologIe 4 Regresso

43 Iterpretato vo r² Im Leare Modell y=a+bx st r² geau das Quadrat des Korrelatoskoeffzete r² ka Werte zwsche Null (ke Zusammehag zwsche Y ud X) ud Es (alle Pukte lege exakt auf eer Gerade) aehme Je äher r² be es legt, desto besser wrd Y durch X mttels eer leare Regresso erklärt r² st der Atel der Varato vo Y, der durch X erklärt werde ka Statstk für SozologIe 43 Regresso

44 Bestmmug vo r² m Bespel Nr. X Y X X*Y Y e e ŷ ( y y) ˆ y ˆ y , ,96 6,37 0,03 0,00 3,00-1,77 3,1 74 7, ,4 57,76 7,8 0,3 0,10 0,8-0,85 0, , ,6 46,4 7,4-0,6 0,39 1,78-0,71 0, , ,5 6,41 7,81 0,09 0,01 0,05-0,33 0, , ,49 9,00 0,30 0,09 1,36 0,87 0, , ,64 10,9-0,1 0,01 7,11,79 7,77 Summe , ,5 410,5 48,80 0,00 0,60 13,59 0,00 1,99 y y Mttelwert vo X: 91,83 Mttelwert vo Y: 8,13 Berechug vo b1: Neer 3399,00 b 1 = 0,05 Zähler 166,0 b 0 = 3,73 SQT 13,59 100,0% SQR 0,60 4,4% SQE 1,99 95,6% Statstk für SozologIe 44 Regresso

45 Iferezstatstk Es wrd ageomme, daß de Werte der uabhägge Varable feste (chtzufällge) Größe sd. Es wrd ageomme, daß sch de Beobachtuge der abhägge Varable durch ee X leare Term plus eer zufällge Störkompoete ergebe. Über de Störkompoete werde folgede Aahme getroffe Kee systematsche Störug, d.h. Erwartugswert st ull E(e ) = 0 Kostate Streuug der Störkompoete Var(e ) = cost. De Störuge sd uabhägg voeader Cov(e, e j ) = 0 De Störkompoete se ormalvertelt mt Erwartugswert 0 ud der Varaz ² Statstk für SozologIe 45 Regresso

46 Modellaahme De bedgte Dchte vo Y für gegebee Wert vo X uterschede sch ur hrem Erwartugswert Statstk für SozologIe 46 Regresso

47 Sgfkaz der Regressosbezehug Frage st der Atel der erklärte Varaz sgfkat? Atwort: F-Test Erklärte durch chterklärte mttlere Quadratsumme (das st de Quadratsumme durch de Zahl der Frehetsgrade dvdert) Dese Prüfgröße st F-vertelt mt 1 ud - Frehetsgrade F SQE /1 SQR /( ) r /1 (1 r ) /( ) Statstk für SozologIe 47 Regresso

48 Durchführug des Tests ANOVA (Aalyss of Varace) Frehetsgrade (df) Quadratsumme (SS bzw. SQ) Mttlere Quadratsumme Prüfgröße (F) P-Wert Regresso 1 1,990 1,990 86,195 0,0007 Resdue 4 0,603 0,151 Gesamt 5 13,593 r²= 0,956 (1-r²)= 0,044 (1-r²)/4= 0,011 Statstk für SozologIe 48 Regresso

49 Schätzug vo ² De Schätzug der ubekate Varaz der Störkompoete st de Voraussetzug für Iferez über de Parameter bzw. für Kofdeztervalle für Progosewerte. Naheleged st de achstehede Formel (E(e)=0!) ˆ 1 1 e Fehlervaraz De postve Quadratwurzel führt zum Stadardfehler der Resdue (Resdual Stadard Error) Statstk für SozologIe 49 Regresso

50 Kofdeztervalle ud Tests für Regressoskoeffzete Schätzug der Varaz der Regressoskoeffzete ˆ ˆ x 1 ˆ b 0 ( x x) 1 b 1 1 ˆ ( x x) Iterpretato: Be große Werte vo x st de Varabltät der Kostate ceters parbus größer. Je stärker de x-werte streue, desto gerger st ceters parbus de Streuug beder Koeffzete Statstk für SozologIe 50 Regresso

51 Test für de Regressoskoeffzete Nullhypothese: b =0 Koeffzet Stadardfehler t-statstk P-Wert b 0 3,73 0,500 7,465 0,0017 b 1 0,048 0,005 9,84 0,0007 ˆ 0,60 / 4 0,15 Berechug des Stadardfehlers der Stegug Iterpretato: ( x x) x x , ,8 1 1 ˆ b 0, , ,8 b 0 =0... Geht de Regresso durch de Ursprug? b1=0... Ist de Stegug sgfkat vo Null verschede? Das etsprcht m Fall der Efachregresso der zuvor dskuterte Fragestellug: Ist der Atel der erklärte Varaz sgfkat? Hwes: Vergleche de p-value für de Stegug mt dem F-Test Statstk für SozologIe 51 Regresso

52 We geau sd Progose? Demo zum Kofdeztervall - Vertrauestervall y Statstk für SozologIe 5 x Regresso

53 Kofdeztervall für de durchschttlche Progosewert T Ŷ E(Y S Ŷ ) t-vertelt mt - Frehetsgrade P(Ŷ ts E(Y ) Ŷ ts ) 1 Ŷ Ŷ Für ee kokrete Stchprobe ergbt sch damt das folgede Kofdeztervall für de durchschttlche Progosewert (Vertrauestervall) ŷ ts Ŷ E(Y ) ŷ Ŷ ts mt ŷ b 0 b1 x ud s Yˆ ˆ 1 ( x x) j1 ( x x) j Statstk für SozologIe 53 Regresso

54 Progosetervall für dvduelle Progosewert Y T Ŷ Y S F t-vertelt mt - Frehetsgrade P(Ŷ ts Y Ŷ ts ) 1 F F Aus eer kokrete Stchprobe ergbt sch somt das folgede Kofdeztervall für de Progose ees bestmmte Ezelwertes a der Stelle x : ŷ ts F Y ŷ ts F mt ŷ b 0 b1 x ud s F 1 ˆ 1 ( x x) j1 ( x x) j Statstk für SozologIe 54 Regresso

55 Awedug m Bespel Progosetervall für Ezelwerte (dvduelle Progosewerte) x S F Progose UG OG se 0, ,4717 6,188 4,8187 7, t:, ,4604 6, , , ,4504 6, , , ,4416 6,8473 5, , ,434 7, , , ,48 7,365 6, , ,437 7, , , ,408 7,8058 6, , ,4194 8, , , ,4196 8,8511 7, , ,414 8,5476 7, , ,448 8, , , ,497 9, , , ,4360 9,437 8, , ,4438 9, , ,71558 Statstk für SozologIe 55 Regresso

56 Vertraues- ud Progosetervall Kraftstoffverbrauch l/100km Vertrauestervall Progosetervall Merke: je weter e Pukt auf der x-achse vom Mttelwert etfert st, desto größer st de Uscherhet der Progose! Lestug kw Statstk für SozologIe 56 Regresso

57 Progosegeaugket Eführug de Iferezstatstk 57 Korrelato & Regresso

58 Regresso Dagostcs Eführug de Iferezstatstk 58 Korrelato & Regresso

59 Resdue versus Ftted Values Ordary Least Squares Weghted Least Squares Nolear Models Eführug de Iferezstatstk 59 Korrelato & Regresso

60 4 Datesätze vo Ascombe Für jede Datesatz glt, dass de Korrelato 0,816 ud somt R²=0,667 st. Eführug de Iferezstatstk 60 Korrelato & Regresso

61 4 verschedee Iterpretatoe Statstk für SozologIe 61 Regresso

62 Multple Regresso Datestruktur Statstk für SozologIe 6 Regresso

63 Matrx Notato Statstk für SozologIe 63 Regresso

64 Kozeptoelles Verstäds X1 1 X X3 3 ŷ Depedet Varable 4 X4 New Lear Combato Statstk für SozologIe 64 Regresso

65 Regresso Icome ~ Educato ad Ethc Group Statstk für SozologIe 65 Regresso

66 Deutlcher Zusammehag Icome ~ Educato Glt deser Zusammehag für alle ethsche Gruppe? Statstk für SozologIe 66 Regresso

67 1. Lösugsasatz Reche eer Regresso für jede Gruppe erlaubt kee Iferezstatstk Statstk für SozologIe 67 Regresso

68 .Lösugsasatz: Kovarazaalyse Verwedug vo Idkator-Varable Bespel: Geder-specfc Regresso 1 group " m" I group 0 group " f " y xe 0 1 y x I e 0 1 group E( y group f ) x 0 1 E( y group m) ( ) x Ermöglcht ee Parallel-Verschebug der Regresso zwsche de Gruppe 0 1 Test, ob = 0 prüft, ob ee allgemee Regressosbezehug vorlegt oder parallel zueader verlaufede Gerade, de Zusammehag charaktersere. Statstk für SozologIe 68 Regresso

69 Modelle mt Iterakto 1 group " m" I group 0 group " f " y xe 0 1 y x I I xe 0 1 group 3 E( y group f) x 0 1 group E( y group m) ( ) x( ) Test, ob 3 = 0 prüft de sog. commo slope assumpto Iteraktosterm ermöglcht uterschedlche Steguge zwsche de Gruppe Test, ob = 3 = 0 prüft, ob ee allgemee Regressosbezehug vorlegt Statstk für SozologIe 69 Regresso

70 Gemesame Modellerug als Kovarazaalyse Statstk für SozologIe 70 Regresso

71 Commo Slope Modell Statstk für SozologIe 71 Regresso