Mathematische und statistische Methoden II

Transkript

1 Methodenlehre e e Prof. Dr. G. Meinhardt 6. Stock, Wallstr. 3 (Raum ) Sprechstunde jederzeit nach Vereinbarung und nach der Vorlesung. Mathematische und statistische Methoden II Dr. Malte Persike persike@uni-mainz.de SS 2010 Fachbereich Sozialwissenschaften Psychologisches Institut Johannes Gutenberg Universität Mainz

2 Definition Kovarianz Korrelation Wahrscheinlichkeitsverteilungen Uni- und multivariate Zufallsvariablen Univariate Zufallsvariable X: Zuweisung nur einer Zahl zu jedem Ergebnis eines Zufallsexperiments (d.h. zu jedem zufällig ausgewählten Merkmalsträger) Multivariate Zufallsvariable X, Y, : Zuweisung mehrerer Zahlen zu jedem Ergebnis Einer der häufigsten Spezialfälle multivariater Zufallsvariablen ist der bivariate Fall mit zwei ZVn X und Y Beispiele für mehrdimensionale Zufallsvariablen: Erfassung von mathematischem und verbalem IQ Messung von Ölverbrauch und Ausfallrate Erfassung von Einkommen und Parteipräferenz

3 Definition Kovarianz Korrelation Wahrscheinlichkeitsverteilungen Uni- und multivariate Wahrscheinlichkeitsverteilungen Die Wahrscheinlichkeitsverteilung einer univariaten Zufallsvariablen wird zumeist mit f(x) bezeichnet. Sie beschreibt die Punktwahrscheinlichkeit h hk i für das Auftreten einer Ausprägung X=x. Die Wahrscheinlichkeitsverteilung h hk it t il einer multivariaten i t Zufallsvariablen wird zumeist mit f(x,y, ) bezeichnet. Sie beschreibt die Punktwahrscheinlichkeit für das Sie beschreibt die Punktwahrscheinlichkeit für das Auftreten einer Wertekombination X=x, Y=y,.

4 Definition Kovarianz Korrelation Wahrscheinlichkeitsverteilungen Der bivariate Fall Multivariate Verteilungsfunktion Die Verteilungsfunktion zweier diskreter Zufallsvariablen X und Y ist definiert als m n f ( X x, Y y ) f( x, y ) = m n i j i= 1 j= 1 Die Verteilungsfunktion zweier stetiger Zufallsvariablen X und Y itdfii ist definiert als F ( x = u X xo, yu Y yo) f XY ( x, y ) dxdy Wie bei univariaten stetigen Verteilungen ist die Punktwahrscheinlichkeit stets Null, nur die Intervallwahrscheinlichkeit ist ein sinnvoller Wert. x x o u y y o u

5 Definition Kovarianz Wahrscheinlichkeitsverteilungen Der bivariate Fall Beispiel Normalverteilung Die univariate Wahrscheinlichkeitsfunktion der Normalverteilung war = 2 x 1 1 x μx Korrelation f ( x ) exp 2πσ x 2 σ f X Die bivariate Wahrscheinlichkeitsfunktion der Normalverteilung lautet 1 1 x x ( x, y) = exp + 2ρ πσ 1 2 2(1 ) xσ y ρ ρ σx σ y σx σ y ( x μ ) ( y μy) ( x μ ) ( y μy) Frage: Welche Rolle spielt der Parameter ρ?

6 Definition Wahrscheinlichkeitsverteilungen Der bivariate Fall Beispiel Normalverteilung Kovarianz Niedriger Zusammenhang zwischen X und Y Hoher Zusammenhang zwischen X und Y Korrelation Die Elongation oder Länglichkeit der multivariaten Wahrscheinlichkeitsverteilung ist ein Kennzeichen für den Zusammenhang der Zufallsvariablen (Parameter ρ im Fall der bivariaten Normalverteilung)

7 Definition Kovarianz Korrelation Wahrscheinlichkeitsverteilungen Der bivariate Fall Numerische Beschreibung Die Größe des Zusammenhangs zweier Zufallsvariablen wird als Kovarianz bezeichnet ( ( ) ) ( ) ( ) cov XY = E X E X Y E Y Die Kovarianz ist Null, wenn kein Zusammenhang zwischen den Zufallsvariablen besteht. Wahrscheinlichkeitsfunktionen für X und Y hängen nicht zusammen Die Kovarianz ist positiv, wenn ein gleichsinniger Zusammenhang besteht Hohe (niedrige) Werte von X treten mit hohen (niedrigen) Werten von Y auf Di K i i t ti i i i Die Kovarianz ist negativ, wenn ein gegensinniger Zusammenhang besteht Niedrige (hohe) Werte von X treten mit hohen (niedrigen) Werten von Y auf

8 Definition Häufigkeitsverteilungen Der bivariate Fall Numerische Beschreibung Kovarianz Korrelation

9 Definition Häufigkeitsverteilungen Der bivariate Fall Numerische Beschreibung Kovarianz Für n Beobachtungen aus einem Zufallsexperiment x 1 x n und y 1 y n ist die Kovarianz definiert als Korrelation n 1 s xy = ( xi x )( yi y ) n i = 1 Es gelten bei der empirischen Kovarianz dieselben Prinzipien wie für die Kovarianz zwischen theoretischen Wahrscheinlichkeitsverteilungen. Die so berechnete Kovarianz ist nur bei mindestens intervallskalierten Zufallsvariablen ein sinnvolles Maß.

10 Definition Kovarianz Korrelation Wahrscheinlichkeitsverteilungen Der bivariate Fall Numerische Beschreibung Problem: Die Kovarianz erfüllt nicht die Forderung der Invarianz gegenüber erlaubten Transformationen Für die Formel der empirischen Kovarianz ist das leicht zu zeigen und gilt ebenso für die theoretische ti h Verteilung Zwar gilt: Addition einer Konstanten zu X und Y: cov X+ a, Y+ B= cov X, Y s ( x+ a, y+ b) = s xy xy Aber: Multiplikation von X und X mit einer Konstanten cov = ab cov ax, by XY, s ( a X, b Y) = a b s Die Kovarianz ist also numerisch schwer zu interpretieren xy xy

11 Definition Kovarianz Korrelation Wahrscheinlichkeitsverteilungen Der bivariate Fall Numerische Beschreibung Die Korrelation zweier Zufallsvariablen ist definiert als ( ( )) ( ) ( ) ( ) cov XY ( ) 2 ( ( )) 2 σ X E X E X Y E Y ρ = = E X E X E Y E Y σ Y Für die Richtungsinformation gelten dieselben Regeln wie bei der Kovarianz Der Wert der Korrelation schwankt zwischen -1 und 1 Bei der Korrelation ist neben der Richtung (Vorzeichen) also auch die Stärke (Betrag) des Zusammenhangs zwischen X und Y interpretier- und vergleichbar.

12 Definition Kovarianz Korrelation Häufigkeitsverteilungen Der bivariate Fall Numerische Beschreibung Für empirische Daten gibt es je nach Skalenniveau verschiedene Berechnungsformel für die Korrelation. Für n intervallskalierte Beobachtungen aus einem Zufallsexperiment x 1 x n und y 1 y n ist der Korrelationskoeffizient definiert als r xy 1 n ( x x)( y y) i i n i= 1 = = n n 1 1 ( x ) 2 ( ) 2 i x yi y n i= 1 n i= 1 s s x xy s y

13 Definition Kovarianz Korrelation Häufigkeitsverteilungen Der bivariate Fall Numerische Beschreibung Der so definierte Korrelationskoeffizient r xy wird auch als Produkt-Moment-Korrelation oder Korrelationskoeffizient nach Pearson bezeichnet. Die Korrelation liegt immer zwischen -1 und 1. Die Korrelation ist Null, wenn kein Zusammenhang zwischen den Ausprägungen der Zufallsvariablen besteht Negative e Werte zeigen einen e gegensinnigen, positive Werte einen gleichsinnigen Zusammenhang an Die Korrelation ist anfällig ggegenüber g Ausreißern

14 Definition Häufigkeitsverteilungen Der bivariate Fall Numerische Beschreibung Kovarianz Kovarianz Korrelation Korrelation s x,y = s y,x s a,x = 0 s a,b = 0 r x,y = r x,y r a,y = nicht def. r a,b = nicht def. s xx = s² x r xx = 1 x,x x x,x s a x+b,c x+d = a c s x,y r a x+b, c y+d = r x, y Mit a, b, c, d = konstante Werte Achtung: Ist a oder b negativ, verändert sich das Vorzeichen von r, sind beide negativ, bleibt r gleich.

15 Definition Kovarianz Korrelation Häufigkeitsverteilungen Der bivariate Fall Numerische Beschreibung Für die Bewertung der absoluten Höhe der Produkt- Moment-Korrelation existieren Faustregeln nach Cohen (1988) r = ± 0.10 kleine Korrelation r = ± 0.30 mittlere Korrelation r = ± 0.50 hohe Korrelation In der nicht-experimentellen imentellen Psychologie liegen Korrelationen selten über r=0.75.

16 Definition Häufigkeitsverteilungen Der bivariate Fall Numerische Beschreibung Kovarianz Korrelation

17 Definition Kovarianz Korrelation Häufigkeitsverteilungen Der bivariate Fall Grafische Beschreibung Liegen für eine Stichprobe Messungen der Ausprägung zweier Zufallsvariablen X und Y vor, so ist jeder Merkmalsträger durch ein Wertepaar gekennzeichnet. Die Merkmalsträger können nun als Punkte in einem Koordinatensystem dargestellt werden, wobei das Wertepaar die Koordinaten festlegt. Dies ist ein Scatterplot

18 Methodenlehre Diskrete Verteilungen Stetige Verteilungen Definition Häufigkeitsverteilungen Der multivariate Fall Grafische Beschreibung Kovarianz Korrelation Die grafische Beschreibung multivariater Wahrscheinlichkeitsverteilungen ist aufwändig und vollständig nur in niedrig multivariaten Fällen zu leisten. Die Darstellungen sind dann oft dreidimensional. Bei höher multivariaten Verbundverteilungen wird zumeist auf die univariate Darstellung der einzelnen Wahrscheinlichkeitsverteilungen zurückgegriffen.

19 1 Stichprobe (abhängig) (unabhängig) Konfidenzint. Korrelationstest Varianten Für den statistischen Test von Korrelationen anhand von Stichprobendaten existieren verschiedene Verfahren, abhängig von der jeweiligen Forschungsfrage Test einer Korrelation gegen Null Test einer Korrelation gegen einen gegebenen Populationswert Vergleich von Korrelationskoeffizienten aus zwei unabhängigen Stichproben Vergleich von Korrelationskoeffizienten aus Vergleich von Korrelationskoeffizienten aus abhängigen Stichproben

20 1 Stichprobe Korrelationstest Schätzung des Populationsparameters ρ Aus Stichprobendaten erhält man eine empirisch (abhängig) beobachtete Produkt-Moment-Korrelation r. (unabhängig) Konfidenzint. Frage: Wie erhält man daraus die Schätzung des Populationsparameters ρ für die Korrelation? Es lässt sich zeigen, dass die Produkt-Moment- Korrelation eine erwartungstreue Schätzung des Populationsparameters ist. Also gilt für die Zufallsvariablen X und Y: ˆ XY ρ = r XY

21 1 Stichprobe Korrelationstest Test einer Korrelation gegen Null Bei empirisch beobachteten Korrelationen zweier (abhängig) Zufallsvariablen ist die erste Forschungsfrage oft, ob es in der Population überhaupt einen Zusammenhang gibt. (unabhängig) Konfidenzint. Dies entspricht dem Test der aus einer Stichprobe geschätzten Korrelation gegen den Erwartungswert ρ = 0. Die zu testenden Hypothesen sind a) H ˆ ˆ 0: ρ = 0; H1: ρ 0 b) H ˆ ˆ 0: ρ 0; H1: ρ > 0 c) H : ˆ ρ 0; H : ˆ ρ < 0 0 1

22 1 Stichprobe Korrelationstest Test einer Korrelation gegen Null Die Verteilung von Korrelationskoeffizienten bzw. ihre (abhängig) Parameter sind nicht einfach bestimmbar. (unabhängig) Konfidenzint. Es lässt sich aber eine geeignete Transformation finden, so dass der Kennwert approximativ t-verteilt ist um einen Erwartungswert von ρ = 0. t = ˆ ρt 0 σ ˆ ρ t mit ˆ ρ = t ˆ ρ 2 1 ˆ ρ und σ = ˆ ρ t n 1 2 Die Prüfgröße ist t-verteilt mit df = n 2 Freiheitsgraden Wie beim t-test kann ein- oder zweiseitig geprüft werden.

23 1 Stichprobe Korrelationstest Test einer Korrelation gegen Null Die Verteilung von Korrelationskoeffizienten bzw. ihre (abhängig) Parameter sind nicht einfach bestimmbar. (unabhängig) Konfidenzint. Es lässt sich aber eine geeignete Transformation finden, so dass der Kennwert approximativ t-verteilt ist um einen Erwartungswert von ρ = 0. t = ˆ ρt 0 σ ˆ ρ t mit ˆ ρ = t r 1 r 2 und σ = ˆ ρ t n 1 2 Die Prüfgröße ist t-verteilt mit df = n 2 Freiheitsgraden Wie beim t-test kann ein- oder zweiseitig geprüft werden.

24 1 Stichprobe Korrelationstest Test einer Korrelation gegen einen Populationswert (abhängig) (unabhängig) Konfidenzint. Bei bestimmten Fragestellung ist der Populationsparameter für die Korrelation zweier Zufallsvariablen bereits bekannt. Beispiel: Korrelation zwischen IST-2000R und Berufserfolg ist ρ =.47. Dies entspricht dem Test einer geschätzten Korrelation gegen den Erwartungswert ρ = c. Die zu testenden Hypothesen sind a) H0: ˆ ρ = c; H ˆ 1: ρ c b) H ˆ ˆ 0: ρ c ; H 1: ρ > c c) H : ˆ ρ c; H : ˆ ρ < c 0 1

25 1 Stichprobe Korrelationstest Test einer Korrelation gegen einen Populationswert Soll geprüft werden, ob ein beobachtetes r einer Population mit dem wahren Parameter ρ =c 0 (abhängig) entstammt, ist die t-prüfgröße nicht anwendbar. (unabhängig) Konfidenzint. Die Fisher-Z Transformation überführt eine Korrelation in einen approximativ normalverteilten Kennwert. Es gilt: Z ist unter der H0 approximativ normalverteilt mit Die Prüfgröße 1 1+ ˆ ρ 1 1+ r = ln = ln ˆ 2 1 ρ 2 1 r z μ Z = Z ( ρ ) Z μz = σ Z und σ = Z 1 n 3 ist standardnormalver teilt mit μ=0 und σ=1.

26 1 Stichprobe Korrelationstest Vergleich von zwei Korrelationskoeffizienten I (unabhängig) (abhängig) Konfidenzint. Liegen aus zwei unabhängigen Stichproben Messungen zweier Zufallsvariablen vor, so kann für jede Stichprobe eine Korrelation zwischen den ZVn berechnet werden. Es kann nun geprüft werden, ob beide Stichproben zu einer Population mit demselben Erwartungswert der Korrelation zwischen den Zufallsvariablen gehören. Die zu testenden Hypothesen sind a) H 0: ˆ ρ1 = ˆ ρ2; H ˆ ˆ 1: ρ1 ρ2 b) H ˆ ˆ ˆ ˆ 0: ρ 1 ρ 2; H 1: ρ 1 > ρ 2 c) H : ˆ ρ ˆ ρ ; H : ˆ ρ < ˆ ρ

27 1 Stichprobe (unabhängig) (abhängig) Konfidenzint. Korrelationstest Vergleich von zwei Korrelationskoeffizienten I Mithilfe der Fisher Z-Transformation können zwei Korrelationskoeffizienten r 1 und r 2 aus zwei unabhängigen Stichproben der Größen n 1 und n 2 auf Unterschiedlichkeit geprüft werden Die Prüfgröße z ist nach Fisher-Z Transformation der Korrelationen standardnormalverteilt mit μ=0 und σ=1σ 1 und berechnet sich als z = Z1 Z2 σ Δ σ ΔZZ 1 2 Der Standardfehler df σ Δz it ist 1 1 σ Δ = ZZ 1 2 n + 3 n 3 1 2

28 1 Stichprobe (unabhängig) (abhängig) Konfidenzint. Korrelationstest Vergleich von zwei Korrelationskoeffizienten II Beim Test von Korrelationen aus einer Stichprobe (also abhängige Korrelationen ) unterscheidet man zwei Fälle: 1. 2 Korrelationen von Zufallsvariablen a X1 und X2 mit einer Drittvariable Y r X1Y vs. r X2Y 2. 2 Korrelationen von Variablen X1 mit X2 und Y1 mit Y2 r X1X2 vs. r Y1Y2 Die Hypothesen sind dieselben wie beim Korrelationstest für zwei unabhängige Stichproben.

29 1 Stichprobe Korrelationstest Vergleich von zwei Korrelationskoeffizienten IIa Die Prüfgröße für den Vergleich von zwei abhängigen gg (unabhängig) Korrelationen aus Stichproben der Größe n ist immer: z = Z XY σ Δ Z X Y 1 2 mit (abhängig) 1 2 ZXYZ 1 X2Y σ 2 2 C = Δ ZxyZx y n 3 Konfidenzint. Der Term C variiert abhängig davon, ob es sich um den Vergleich von r X1Y mit r Y2Y oder r X1X2 mit r Y1Y2 handelt Die Prüfgröße z ist standardnormalverteilt mit μ=0 und σ=1.

30 1 Stichprobe (unabhängig) (abhängig) Korrelationstest Vergleich von zwei Korrelationskoeffizienten IIa Für den Vergleich von zwei abhängigen Korrelationen r X1Y und r X2Y ist der Term C: 1 1 C = r r r r r r 2 ( pooled ) x x ( 1 2 pooled ) pooled ( 1 2 pooled x x ) Konfidenzint. ( ) mit rpooled = rx y + rx y 1 2 2

31 1 Stichprobe (unabhängig) (abhängig) Konfidenzint. Korrelationstest Vergleich von zwei Korrelationskoeffizienten IIa Für den Vergleich von zwei abhängigen Korrelationen r X1X2 und r Y1Y2 ist der Term C: 1 [( rx y rx x rx y) ( rx y rx y. ry y) C = ( ) ( ) ( rpooled ) rxy r 1 2 xy r 1 1 yy r 1 2 x2y r 1 xx r 1 2 xy ( r r r ) ( r r r ) xy xy yy x y xx xy ( r r r ) ( r r r )] x y x x x y x y x y y y ( ) mit rpooled = rx x + ry y

32 1 Stichprobe (unabhängig) (abhängig) Konfidenzint. Korrelationstest Konstruktion von Konfidenzintervallen für r Mithilfe der Fisher Z-Transformation lassen sich Konfidenzintervalle für einen beobachteten Korrelationskoeffizienten r konstruieren Zr z1 α/2 σ Z ; Z r r + z1 α/2 σ Z Die Konfidenzintervallgrenzen konstruiert man zunächst in Z-Metrik über Z z α σ r ± 1 2 Z bzw. Z z1 α 2 r ± r Kritischer Wert aus der Standardnormalverteilung 1 N 3 DannkönnendieGrenzenüber die inverse Fisher Z-Transformation wieder in r-metrik übersetzt werden: r = e e 2 Z 2Z 1 + 1

33 Assoziation Kausalität Korrelationstest Interpretation signifikanter Korrelationen Die Verteilungsannahme der Prüfgröße bei Korrelationen ist besonders bei kleinen Stichprobengrößen eher heikel. Eine signifikante Korrelation zwischen zwei Zufallsvariablen X und Y darf nicht ohne weiteres als Kausalität zwischen den Variablen interpretiert werden. Eine signifikante Korrelation zeigt zunächst nur eine Assoziation an. Diese kann viele Ursachen haben, z.b. X X X Z Y Y Y

34 Assoziation Kausalität Korrelationstest Interpretation signifikanter Korrelationen Frage: Wann darf in einer psychologischen Untersuchung auf Kausalität geschlossen werden? 1. Das Treatment und der Effekt müssen kovariieren der Korrelationstest muss eine Signifkanz anzeigen Probleme: Standards (z.b. Signifkanzniveau) sind normativ Je höher n, desto eher werden kleinste Effekte, signifkant

35 Assoziation Kausalität Korrelationstest Interpretation signifikanter Korrelationen Frage: Wann darf in einer psychologischen Untersuchung auf Kausalität geschlossen werden? 1. Das Treatment und der Effekt müssen kovariieren der Korrelationstest muss eine Signifkanz anzeigen 2. Die Ursache muss der Wirkung zeitlich vorausgehen (z.b. Pretest Treatment Posttest) 3. Andere plausible Erklärungen für die Kovariation müssen ausgeschlossen werden können 4. Die Kovariation muss raum-zeitlich indifferent sein Generalisierung auf eine Population zu jeder Zeit

36 Relevante Excel Funktionen Zusammenhangsmaße KORREL() LN() EXP()