Kapitel XI - Korrelationsrechnung

Transkript

1 Universität Karlsruhe (TH) Institut für Statistik und Mathematische Wirtschaftstheorie Kapitel XI - Korrelationsrechnung Markus Höchstötter Uni Karlsruhe Karlsruhe, SS 2008

2 Kapitel XI - Korrelationsrechnung 1 Aufgabe der Korrelationsrechnung 2 Bestimmtheitsmaß 3 Kovarianz 4 Korrelationskoeffizient 5 Spearmannscher Rangkorrelationskoeffizient Kapitel XI - Korrelationsrechnung 2

3 Gliederung 1 Aufgabe der Korrelationsrechnung 2 Bestimmtheitsmaß 3 Kovarianz 4 Korrelationskoeffizient 5 Spearmannscher Rangkorrelationskoeffizient Kapitel XI - Korrelationsrechnung 3

4 Aufgabe der Korrelationsrechnung Da es bei quantitativen Merkmalen nicht immer sinnvoll ist, mittels linearer Regression einen Zusammenhang zwischen beiden Merkmalen zu berechnen, erscheint es nützlich, eine Methode zu entwickeln, mit deren Hilfe man Hinweise erhalten kann, ob die Anwendung der linearen Regression berechtigt ist. Ziel der Korrelationsrechnung Messung der Güte eines unterstellten linearen Zusammenhangs Dazu vergleichen wir die Varianz der Trendwerte mit der Varianz der y-werte. ŷ i = ˆmx i + ˆb Kapitel XI - Korrelationsrechnung 4

5 Gliederung 1 Aufgabe der Korrelationsrechnung 2 Bestimmtheitsmaß 3 Kovarianz 4 Korrelationskoeffizient 5 Spearmannscher Rangkorrelationskoeffizient Kapitel XI - Korrelationsrechnung 5

6 Bestimmtheitsmaß Das Bestimmtheitsmaß stellt das Verhältnis aus der Varianz der ŷ-werte und der Varianz der y-werte dar. Varianz der Trendwerte ŷ: s 2 ŷ = Var( ˆmx i + ˆb) = ˆm 2 s 2 x Varianz der y-werte sy. 2 Somit ist das Bestimmtheitsmaß definiert als ˆm 2 sx 2 s 2 y Kapitel XI - Korrelationsrechnung 6

7 Bestimmtheitsmaß Dies kann man umformen: ˆm 2 s 2 x s 2 y = = = = sx 2 ( n xi y i ) 2 ( x i yi sy 2 n x i 2 ( x i ) 2 = s2 x xi y i n 1 sy 2 ) 2 x i yi x 2 i n 1 ( x i 2 ) sx 2 xi yi 2 xi y xi y i yi xi + i n n n sy 2 x 2 xi i 2 xi + ( x i ) 2 n n sx 2 ( xi y i x y i ȳ ) 2 x i + n x ȳ sy 2 x 2 i 2 x x i + n x 2 sx 2 ( 1n ) 2 (xi x)(y i ȳ) sy 2 1 (xi x) n 2 = 1 ( 1 ) 2 sx 2 (xi x)(y i ȳ). s2 y n Der Ausdruck in der Klammer stellt die Kovarianz dar (später). Kapitel XI - Korrelationsrechnung 7

8 Bestimmtheitsmaß Das Bestimmtheitsmaß beschreibt den Anteil an der Varianz der y-werte, der sich bei linearer Regression aus der Varianz der x-werte begründen lässt, also um den Teil der Varianz, den man auch erhalten würde, wenn der lineare Zusammenhang exakt eingehalten würde, die Störgrößen also alle gleich 0 wären. Kapitel XI - Korrelationsrechnung 8

9 Gliederung 1 Aufgabe der Korrelationsrechnung 2 Bestimmtheitsmaß 3 Kovarianz 4 Korrelationskoeffizient 5 Spearmannscher Rangkorrelationskoeffizient Kapitel XI - Korrelationsrechnung 9

10 Kovarianz Den Klammerausdruck aus dem Bestimmtheitsmaß nennt man die Kovarianz der beiden Merkmale: Cov(x, y) = 1 n n (x i x)(y i ȳ) i=1 Analog zur Varianz lässt sich dieser Ausdruck umformen: Cov(x, y) = 1 n = 1 n = 1 n = 1 n n (x i y i xy i x i ȳ + xȳ) i=1 n x i y i 1 n x( n y i ) ( 1 n i=1 i=1 n x i y i xȳ xȳ + xȳ i=1 n x i y i xȳ. i=1 n x i )ȳ + xȳ Kapitel XI - Korrelationsrechnung 10 i=1

11 Kovarianz Es werden das Leergewicht und das maximale Zulandungsgewicht bei PKWs betrachtet. Die Summe dieser beiden bildet das zulässige Gesamtgewicht. i = Leergewicht x i Zuladungsgewicht y i zul. Gesamtgewicht z i = x i + y i i = Leergewicht x i Zuladungsgewicht y i zul. Gesamtgewicht z i = x i + y i Kapitel XI - Korrelationsrechnung 11

12 Kovarianz Beispiel 11.1 Arithmetisches Mittel für Einzelwerte und zulässiges Gesamtgewicht: i = x i y i xi yi x i + y i (x i + y i ) i = x i y i xi yi x i + y i (x i + y i ) Kapitel XI - Korrelationsrechnung 12

13 Kovarianz Beispiel 11.1 Aus der Tabelle ermitteln wir: s 2 x = ; s 2 y = ; Cov(x, y) = und s 2 x+y = , also s 2 x+y = s 2 x + s 2 y + 2Cov(x, y). Kapitel XI - Korrelationsrechnung 13

14 Kovarianz Varianz der Summe s 2 x+y = 1 n n (x i + y i ( x + ȳ)) 2 i=1 = 1 n i=1 = 1 n i=1 n (x i x + y i ȳ) 2 n (x i x) n n (y i ȳ) n i=1 = s 2 x + s 2 y + 2Cov(x, y). n (x i x)(y i ȳ) Bei der Varianz der Summe geht also wesentlich die Beziehung zwischen den Merkmalen ein, wie sie sich aus der Kovarianz ergibt. i=1 Kapitel XI - Korrelationsrechnung 14

15 Kovarianz Kovarianz bei Verteilungen mit absoluten bzw. relativen Häufigkeiten h(a, b) bzw. p(a, b) für a M 1, b M 2 : Cov(x, y) = 1 n (a x)(b ȳ)h(a, b) a M 1 b M 2 = (a x)(b ȳ)p(a, b). b M 2 a M 1 Entsprechend gilt: Cov(x, y) = 1 n a b h(a, b) xȳ a M 1 b M 2 = a b p(a, b) xȳ. b M 2 a M 1 Kapitel XI - Korrelationsrechnung 15

16 Kovarianz Sind die beiden Merkmale unabhängig, so gilt nach Definition: p(a, b) = p(a) p(b) für a M 1, b M 2. Damit ergibt sich in diesem Fall Cov(x, y) = (a x)(b ȳ)p(a, b) a M 1 b M 2 = ( ) (a x)p(a) (b ȳ)p(b). a M 1 b M 2 Kapitel XI - Korrelationsrechnung 16

17 Kovarianz Für den Klammerausdruck gilt: a M 1 (a x)p(a) = a M 1 a p(a) = x x Damit gilt für unabhängige Merkmale Cov(x, y) = 0. a M 1 xp(a) a M 1 p(a) = x x = 0. Kapitel XI - Korrelationsrechnung 17

18 Kovarianz Beispiel 11.2 Bei der Messung von Körpergröße und -gewicht von 10 Personen ergab sich folgende Urliste: (186,85), (155,70), (165,70), (186,75), (160,75), (155,50), (165,60), (175,60), (175,70), (160,65). Kapitel XI - Korrelationsrechnung 18

19 Kovarianz Die Kovarianz kann mit Hilfe von folgendem Arbeitsschema berechnet werden: i = x i y i x i y i i = x i y i x i y i Damit erhält man: Cov(x, y) = = Kapitel XI - Korrelationsrechnung 19

20 Gliederung 1 Aufgabe der Korrelationsrechnung 2 Bestimmtheitsmaß 3 Kovarianz 4 Korrelationskoeffizient 5 Spearmannscher Rangkorrelationskoeffizient Kapitel XI - Korrelationsrechnung 20

21 Korrelationskoeffizient Der (Bravais-Pearson-)Korrelationskoeffizient entspricht der Kovarianz zweier Merkmale über einer statistischen Masse dividiert durch das Produkt der beiden Standardabweichungen : r = Cov(x, y) s x s y Er ist also ein Maß für den linearen Zusammenhang zweier Merkmale. Das Bestimmtheitsmaß ist wegen r 2 = m2 s 2 x s 2 y = (Cov(x, y))2. sx 2 sy 2 das Quadrat des Korrelationskoeffizienten. Kapitel XI - Korrelationsrechnung 21

22 Korrelationskoeffizient Beispiel 11.3 Mit den Standardabweichungen s x = und s y = 9.27 erhält man den Korrelationskoeffizienten zu Beispiel 11.2 r = = Kapitel XI - Korrelationsrechnung 22

23 Korrelationskoeffizient Bemerkung: Für den Korrelationskoeffizienten gilt r = ˆm s x s y, Damit erhält man folgende Beziehungen: (a) Liegen alle Beobachtungswerte auf einer steigenden Geraden, dann ist r > 0 und r 2 = 1, also r = 1. (b) Liegen alle Beobachtungswerte auf einer fallenden Geraden, dann ist r < 0 und r 2 = 1, also r = 1. Es gilt für r: 1 r 1. wobei ˆm der Anstieg der Regressionsgeraden ist. Ist also r < 0, so ist der Anstieg der Regressionsgeraden negativ, bei r > 0 ist er positiv. Kapitel XI - Korrelationsrechnung 23

24 Korrelationskoeffizient Bezeichnungen Gilt r > 0, so heißen die Merkmale positiv korreliert, r = 0, so heißen die Merkmale unkorreliert, r < 0, so heißen die Merkmale negativ korreliert. Wichtig: Sind zwei Merkmale unabhängig, so sind sie also auch unkorreliert, aber die Umkehrung gilt nicht. Unkorrelierte Merkmale können abhängig sein. Kapitel XI - Korrelationsrechnung 24

25 Gliederung 1 Aufgabe der Korrelationsrechnung 2 Bestimmtheitsmaß 3 Kovarianz 4 Korrelationskoeffizient 5 Spearmannscher Rangkorrelationskoeffizient Kapitel XI - Korrelationsrechnung 25

26 Spearmannscher Rangkorrelationskoeffizient Bei Rangmerkmalen hat die Differenz zweier Merkmalswerte keine Aussagekraft. Damit ist auch der Korrelationskoeffizient, wenn er gebildet werden kann (etwa aus skalierten Werten), ohne direkte Bedeutung. Die natürliche Reihenfolge lässt sich dennoch ausnutzen. Dazu ordnet man die Merkmalswerte der statistischen Reihe in ihrer natürlichen Reihenfolge und ersetzt den Merkmalswert durch die entsprechende Rangziffer. Kapitel XI - Korrelationsrechnung 26

27 Spearmannscher Rangkorrelationskoeffizient Beispiel 11.4 Seien als Prüfungsergebnisse von 6 Kandidaten befriedigend, ungenügend, sehr gut, gut, ausreichend, sehr gut bis gut erzielt worden, so erhält man die geordnete Reihe sehr gut, sehr gut bis gut, gut, befriedigend, ausreichend, ungenügend. Die Rangziffern lauten dann: 1 für sehr gut 2 für sehr gut bis gut 3 für gut 4 für befriedigend 5 für ausreichend 6 für ungenügend Kapitel XI - Korrelationsrechnung 27

28 Spearmannscher Rangkorrelationskoeffizient Zusammenfassung: Die Merkmalspaare gehen damit bei einem zweidimensionalen Merkmal (gebildet aus Rangmerkmalen) in Rangzifferpaare über. Aus den Rangzifferpaaren kann dann der Korrelationskoeffizient bestimmt und damit festgestellt werden, ob eine Beziehung zwischen den Rangfolgen der statistischen Einheiten bzgl. der beiden Merkmale besteht. Kapitel XI - Korrelationsrechnung 28

29 Spearmannscher Rangkorrelationskoeffizient Beispiel 11.5 Die sechs oben angeführten Kandidaten haben (in derselben Reihenfolge wie in der geordneten Urliste) in einem weiteren Fach die Bewertungen gut, gut, sehr gut bis gut, befriedigend, befriedigend, ausreichend }{{}}{{}}{{}}{{} 2;3 1 4;5 6 erhalten. Damit erhalten sie hier die Rangziffern 1 2.5, 2.5, 1, 4.5, 4.5, 6. 1 Sind zwei oder mehr Merkmalswerte gleich, so ordnet man ihnen das arithmetische Mittel der zur Verfügung stehenden Rangziffern zu. Beispiel: Liegen x 3 = x 7 auf den Plätzen 3 und 4, so ist r 3 = r 7 = 3.5. Kapitel XI - Korrelationsrechnung 29

30 Spearmannscher Rangkorrelationskoeffizient Beispiel 11.5 Rangzifferpaare sind also (1, 2.5) (2, 2.5) (3, 1) (4, 4.5) (5, 4.5) (6, 6). Kapitel XI - Korrelationsrechnung 30

31 Spearmannscher Rangkorrelationskoeffizient Allgemein Seien die Merkmalspaare und (x 1, y 1 ),..., (x n, y n ) (r 1, s 1 ),..., (r n, s n ) die zugehörigen Rangzifferpaare, so erhält man als Korrelationskoeffizienten r S = 1 n 1 n n (r i r)(s i s) i=1 n (r i r) 2 1 i=1. n (s i s) 2 n i=1 Kapitel XI - Korrelationsrechnung 31

32 Spearmannscher Rangkorrelationskoeffizient Falls kein Merkmalswert doppelt auftritt und damit die Rangziffern jeweils die Werte 1,..., n durchlaufen, lässt sich r S umformen zu n 6 (r i s i ) 2 i=1 r S = 1 n(n 2. 1) r S heißt Spearmanscher Rangkorrelationskoeffizient. Kapitel XI - Korrelationsrechnung 32

33 Spearmannscher Rangkorrelationskoeffizient Analog zum Korrelationskoeffizienten gilt: Rangfolgen bei beiden Merkmalen r S gegenläufig 1 unabhängig 0 identisch +1 Entsprechend wird man Zwischenwerte interpretieren: r S 1 gegenläufiger Trend in den Merkmalen, r S 0 kein Trend erkennbar, r S 1 gleichlaufender Trend. Kapitel XI - Korrelationsrechnung 33

34 Spearmannscher Rangkorrelationskoeffizient Rangziffern bei quantitativen Merkmalen Dies ist dann sinnvoll, wenn zwar ein Trend zwischen den Werten, aber kein funktionaler Zusammenhang vermutet wird und daher insbesondere eine lineare Regression nicht angebracht ist. Kapitel XI - Korrelationsrechnung 34

35 Spearmannscher Rangkorrelationskoeffizient Beispiel Studenten der Statistik-Vorlesung wurden befragt, wieviele Stunden sie für die Nacharbeitung der Vorlesung im Durchschnitt wöchentlich aufgewandt haben und welche Punktzahlen sie in der Klausur erreichten: Student Stunden Punkte Daraus ergeben sich die Rangzifferpaare (r i, s i ): (1,2), (2,1), (3,3.5), (4.5,3.5), (4.5,5), (6,7), (7,6), (8,8) Kapitel XI - Korrelationsrechnung 35

36 Spearmannscher Rangkorrelationskoeffizient Beispiel 11.6 Nach der ersten Formel für r S ergibt sich r S = Cov(r,s) sr 2 ss 2 = bzw. nach der zweiten Formel = = r S = ( ) = = Kapitel XI - Korrelationsrechnung 36