Korrelation Regression. Wenn Daten nicht ohne einander können Korrelation

Transkript

1 DAS THEMA: KORRELATION UND REGRESSION Korrelation Regression Wenn Daten nicht ohne einander können Korrelation Korrelation Kovarianz Pearson-Korrelation Voraussetzungen für die Berechnung die Höhe der Korrelation Korrelation und Kausalität Rangkorrelationen Phi-Koe zient 1

2 KORRELATION ausgehend von visuell sichtbaren Zusammenhängen in Streudiagrammen stellt sich die Frage, wie stark ein Zusammenhang ist diese Stärke lässt sich durch die Korrelation ausdrücken! Die Korrelation ist das Ausmaß des linearen Zusammenhangs zweier Variablen. (d) und (e) sind keine linearen Zusammenhänge KORRELATION Korrelationen unterstellen immer lineare Zusammenhänge! wenn diese Annahme verletzt ist, ist der Korrelationskoeffizient verzerrt oder sogar unbrauchbar 2

3 AUSGANGSPUNKT: KOVARIANZ Ausgangspunkt für die Korrelation: die Kovarianz Kovarianz ist das gleichsinnige Variieren (ko-variieren) von Merkmalen in der Kovarianz liegen die interessanten und aufschlussreichen Mechanismen und Prinzipien von Erleben und Verhalten Kovarianz gemeinsames Variieren von X und Y Anzahl von Datenpunkten (SDchprobengröße) AUSGANGSPUNKT: KOVARIANZ Problem: die Kovarianz ist abhängig von der Skalierung der Variablen Abhilfe schafft die Standardisierung à Korrelation 3

4 PEARSON-KORRELATION relativiert man die Kovarianz an der Streuung (Standardisierung), erhält man die Korrelation (r) sie wird auch Pearson-Korrelation oder Produkt- Moment-Korrelation genannt sie kann nur Werte zwischen -1 (perfekter negativer Zusammenhang) und +1 (perfekter positiver Zusammenhang) annehmen Achtung: Korrelationskoeffizienten sind nicht intervallskaliert (die inhaltliche Bedeutung der Intervalle nimmt von 0 aus gesehen immer mehr zu) Karl Pearson KorrelaDon Kovarianz gemeinsame Streuung von X und Y PEARSON-KORRELATION 4

5 PEARSON-KORRELATION alle Punkte auf einer Linie: nicht alle Punkte auf einer Linie: die Streuung kann komplett durch die Kovarianz aufgeklärt werden à Koeffizient ist 1 die Streuung kann nur zum Teil durch die Kovarianz aufgeklärt werden à Koeffizient sinkt unter 1 DIE HÖHE DER KORRELATION die Höhe der Korrelation ist nur von der Dichte der Punktewolke abhängig, nicht von der Neigung der Gerade Wann sind Korrelationskoeffizienten groß oder klein? pauschal schwer zu beantworten, hängt vom Inhaltsbereich ab grobe Konventionen nach Cohen (1988): 5

6 BERECHNUNGS-VORAUSSETZUNGEN Voraussetzungen für das Berechnen von Korrelationen: Intervallskalenniveau der beiden Variablen hinreichend lineare Zusammenhänge hinreichend normalverteilte Daten Beispiele für r =.82 KORRELATION UND KAUSALITÄT rein rechnerisch bedeutet eine Korrelation, dass man die eine Variable aus der anderen vorhersagen kann das bedeutet jedoch nicht, dass sich die Variablen auch kausal bedingen!!! in vielen Fällen kommen Korrelationen zufällig zustande (besonders bei Variablen, die sich über die Zeit hinweg ändern) 6

7 RANGKORRELATIONEN Als Alternative zur Pearson-Korrelation können Rangkorrelationen berechnet werden, wenn die Normalverteilungs-Voraussetzung bei eigentlich intervall-skalierten Daten verletzt ist à Spearmans Rho (ρ) 2. man von vornherein Ordinaldaten zur Verfügung hat (z.b. Ränge) à Kendalls Tau (τ) Rangkorrelationen sind in der Größe genau so zu interpretieren wie die Pearson-Korrelation meist sind ihre Werte aber etwas kleiner DER PHI-KOEFFIZIENT für den Spezialfall, dass beide Variablen nur zwei Ausprägungen haben darstellbar in einer so genannten Vierfeldertafel: in den Zellen stehen die Häufigkeiten + und stehen für die beiden möglichen Ausprägungen (z.b. ja und nein) der Phi-Koeffizient ist ebenfalls wie die Pearson-Korrelation interpretierbar 7

8 DER PHI-KOEFFIZIENT Beispiel aus der Vorlesung: φ =.051 Freier Wille? Geschlecht? weiblich ja männlich 14 7 nein à es besteht kein nennenswerter Zusammenhang zwischen dem Geschlecht und der Einschätzung, ob Menschen einen freien Wille haben Das gleiche Ergebnis erhält man, wenn man eine Pearson-Korrelation rechnet und Geschlecht und Freier Wille jeweils mit beispielsweise 0 und 1 codiert. KORRELATION STECKBRIEF Korrelationen sind Zusammenhangs-Analysen je stärker zwei Variablen gleichsinnig variieren (ko-variieren), desto höher ist ihre Korrelation die Stärke der Korrelation lässt sich durch einen Korrelationskoeffizienten ausdrücken die Pearson-Korrelation r wird für Intervall-Daten verwendet, Spearmans Rho und Kendalls Tau für Ordinaldaten die Korrelation unterstellt immer einen linearen Zusammenhang dieser muss also mit Hilfe eines Streudiagramms erst geprüft werden die inhaltliche Bedeutsamkeit der Korrelation hängt vom Inhaltsbereich ab, aber es gibt eine grobe Konvention: ab.1: kleiner Effekt, ab.3: mittlerer Effekt, ab.5: großer Effekt 8

9 Von Vätern und Söhnen Regression Regression zur Mitte Grundidee der Regression Regressionsgerade Vorhersagen machen Regressionskoe zient Determinationskoe zient Anwendungsfelder einfache und multiple Regression REGRESSION ZUR MITTE Galtons Entdeckung: größere Väter haben größere Söhne, aber deren Größe tendiert zum Mittelwert zurück (Regression zur Mitte) Francis Galton 9

10 DIE GRUNDIDEE DER REGRESSION Galtons Entdeckung liefert die Voraussetzung für das Vorhersagen von Variablen aus anderen Variablen das Vorliegen einer Korrelation kann daher zur Formulierung von Vorhersagen verwendet werden die vorhersagende Variable wird dabei Prädiktor (auch X oder UV) genannt, die vorherzusagende Variable heißt Kriterium (auch Y oder AV) die Vorhersage von Y aus X geschieht durch eine Gleichung, die im Streudiagramm als Gerade eingezeichnet werden kann DIE REGRESSIONSGERADE Wie gelangt man zur Regressionsgerade? die Gerade sollte so liegen, dass der durchschnittliche Abstand aller Punkte zur Gerade minimiert wird dieser durchschnittliche Abstand wird durch die Quadratsumme (Summe aller quadrierten Abweichungen) definiert 10

11 DIE REGRESSIONSGERADE Was bedeutet die Regressionskonstante a (oder auch b 0 )? wenn man über eine Person gar nichts weiß und ein Kriterium schätzen soll, dann ist der Mittelwert M dieses Kriteriums von einer Vielzahl bekannter Personen die beste Schätzung dieser Mittelwert steckt in der Regressionskonstante (wenn der Mittelwert von X gleich 0 ist) y y M kommt ein sinnvoller Prädiktor hinzu, verbessert sich die Vorhersage für alle Personen der Schni`punkt der Regressionsgerade entspricht dem Mi`elwert und stellt die Regressionskonstante dar Mà b 0 VORHERSAGEN MACHEN Die Vorhersage von Y-Werten aus X-Werten gelingt umso besser, je näher die Punkte an der Gerade liegen (je höher also die Korrelation ist). Warum weichen die Punkte von der Geraden überhaupt ab? Variablen korrelieren nicht Y ist von weiteren Variablen beeinflusst Messfehler die Abweichungen von der Gerade repräsentieren den Vorhersagefehler (Schätzfehler) der Fehler beinhaltet also Varianz, die durch die Regression (also durch X) nicht erklärt werden kann er wird als Residuum oder Residualwert bezeichnet 11

12 VORHERSAGEN MACHEN das Dach zeigt an, dass es sich um eine Schätzung handelt! =! +!"!!!!! =!! +!!!! REGRESSIONSKOEFFIZIENT der Regressionskoeffizient b 1 beschreibt die Stärke des Zusammenhangs von X und Y seine Höhe ist aber von der Skalierung der Ausgangsvariablen abhängig standardisiert man ihn (β), ist sein Wertebereich auf Werte von -1 bis +1 begrenzt der Koeffizient wird auch Beta-Gewicht genannt, da er angibt, mit welchem Gewicht die Korrelation von X und Y in die Vorhersage einfließt 12

13 DETERMINATIONSKOEFFIZIENT die Vorhersage von Y gelingt umso besser, je höher die Korrelation ist um die aufgeklärte Varianz von Y durch X zu beschreiben, muss die Korrelation daher nur quadriert werden so erhält man den Determinationskoeffizienten r 2 seine Werte reichen von 0 bis 1, was einer Varianzaufklärung von 0 bis 100% entspricht z.b.: r =.80 à r 2 =.64 (Varianzaufklärung von 64%) äquivalent dazu kann auch der Schätzfehler betrachtet werden (siehe Inferenzstatistik): bei r 2 = 1 wäre der Schätzfehler 0 ANWENDUNGSFELDER DER REGRESSION 1. praktische Anwendung: zur Bestimmung konkreter Werte für Y Beispiel: welche Umsatzsteigerung in Euro bringt es einem Verkaufsleiter, wenn er die Werbeausgaben um x% erhöht? diese Information steckt im unstandardisierten b außerdem wird die Regressionsgleichung benötigt 2. Anwendung in der Forschung: der theoretische Zusammenhang ist von Interesse hier sind konkrete Vorhersagen unwichtig die Hauptinformationen stecken in den standardisierten Betas und in r² die Regressionsgleichung ist nicht so wichtig 13

14 EINFACHE UND MULTIPLE REGRESSION einfache Regression nur ein Prädiktor r und β sind identisch multiple Regression mehr als ein Prädiktor identifiziert den relativen (spezifischen) Einfluss einer Reihe von Prädiktoren (X 1, X 2...) auf das Kriterium die Betas sind entweder gleich groß wie oder und das ist die Regel kleiner als die rs die Betas sind nur noch untereinander vergleichbar, aber nicht mehr absolut die Varianzaufklärung wird durch den multiplen Determinations- Koeffizienten R 2 für alle Prädiktoren zusammen angegeben der relative Einfluss von Prädiktoren wird an Venn-Diagrammen deutlich VENN-DIAGRAMME EXKURS Venn-Diagramme stellen die Varianz von Variablen als Flächeninhalt von Kreisen dar die Überschneidung von Kreisen entspricht der gemeinsamen Varianz und damit der Korrelation Anteil gemeinsamer Varianz 14

15 MULTIPLE REGRESSION unkorrelierte Prädiktoren: korrelierte Prädiktoren: Kriterium Kriterium x 1 x 2 x 1 x 2 jedes r² leistet seinen spezifischen Beitrag zur Vorhersage von Y jedes r² leistet nur zum Teil einen spezifischen Beitrag zur Vorhersage von Y à R² = r² 1 + r² 2 à R² < r² 1 + r² 2 MULTIPLE REGRESSION Regressionsgleichung für die multiple Regression: 1. Prädiktor 2. Prädiktor usw. Konstante Koeffizient für den Koeffizient für den ersten Prädiktor zweiten Prädiktor 15

16 MULTIPLE REGRESSION Zusammenfassung der multiplen Regression MULTIPLE REGRESSION Beispiel: Prädiktoren für die Stärke von Musikpräferenz 16

17 REGRESSION STECKBRIEF die Regression ist eine Vorhersageanalyse: wenn Variablen korrelieren, lässt sich die eine Variable aus der anderen vorhersagen die Regressionsgerade repräsentiert alle Datenpunkte so gut wie möglich und dient der Vorhersage von Y aus X ihr Steigung wird durch den Regressionskoeffizienten b beschrieben die standardisierte Form des Koeffizienten wird Beta oder Beta-Gewicht genannt bei mehr als einem Prädiktor (multiple Regression) beschreiben die Betas den relativen Einfluss aller Prädiktoren auf das Kriterium die Regression kann der Vorhersage konkreter Werte dienen oder der theoretischen Beschreibung des Zusammenhangs von Variablen LITERATUR Hussy, W., Schreier, M. & Echterhoff, G. (2010). Forschungsmethoden in Psychologie und Sozialwissenschaften. Heidelberg: Springer. Schäfer, T. (2010). Statistik I. Deskriptive und Explorative Datenanalyse. Wiesbaden: Springer VS. Schäfer, T. (2011). Statistik II. Inferenzstatistik. Wiesbaden: Springer VS. Sedlmeier, P. & Renkewitz, F. (2013). Forschungsmethoden und Statistik: Ein Lehrbuch für Psychologen und Sozialwissenschaftler. München: Pearson. 17