Mathematische und statistische Methoden I

Transkript

1 Mathematische ud statistische Methode I Sprechstude jederzeit ach Vereibarug ud ach der Vorlesug Wallstr. 3, 6. Stoc, Raum Dr. Malte Persie persie@ui-maiz.de lordsofthebortz.de twitter.com/methodelehre tiyurl.com/gplusmethodelehre Folie 1 WiSe 011/01 Fachbereich Sozialwisseschafte Psychologisches Istitut Johaes Guteberg Uiversität Maiz

2 Bortz, S Grudlage Gleichug Miimierug Normalgleichuge Grudlage Oft werde i psychologische Utersuchuge icht ur eie soder mehrere UV betrachtet, die eie AV beeiflusse (oder vorhersage solle). Beispiele: Abhägigeit der Lebeszufriedeheit vo sozialem, öoomischem ud Gesudheitsstatus; Beeiflussug sportlicher Leistug durch Traiigszustad ud Aweseheit vo Zuschauer. Solche Fragestelluge werde auch als multifatoriell bezeichet Problem: Die Berechug vieler paarweiser Korrelatioe im multifatorielle Fall verachlässigt mögliche Zusammehäge zwische de UV Folie

3 Grudlage Grudlage Gleichug Miimierug Normalgleichuge Drei Hauptfragestelluge der Regressiosrechug: 1. Gibt es eie statistische Beziehug zwische mehrere Variable, die die Vorhersage der AV aus der UV erlaubt?. Ka eie möglichst eifache mathematische Regel formuliert werde, die diese Zusammehag beschreibt? 3. Wie gut ist diese Regel im Hiblic auf die Vorhersage? Folie 3

4 Grudlage Gleichug Miimierug Normalgleichuge Grudgleichug Die vorherzusagede Variable (AV, y-wert) wird als Kriterium oder Respose bezeichet, die vorhersagede Variable (UV, -Werte) als Präditore oder erlärede Variable. Die Vorhersagegleichug der multiple Regressio mit Präditore wird geschriebe als ˆ y b b b b Folie 4 Bei stadardisierte Date verwedet ma das Symbol β für die Regressiosparameter (bzw. -gewichte ) zˆ z z z y 1 1

5 Grudlage Gleichug Miimierug Normalgleichuge Grudgleichug Grüde für die Aahme eier lieare Gleichug: Lieare Zusammehäge sid eifach zu verstehe Lieare Zusammehäge sid mathematisch ud statistisch eifach zu behadel Lieare Gleichuge habe sich vielfach als gute Approimatioe für omplee Beziehuge erwiese Achtug: Auch we die Beziehug zwische zwei ZV liear aussieht, muss es sich icht zwagsläufig um eie lieare Zusammehag hadel. Folie 5

6 Grudlage Gleichug Miimierug Normalgleichuge Folie 6 Regressio Methode der leiste Quadrate (KQ-Kriterium) Zur Miimierug des Vorhersagefehlers wird oft das Kleiste-Quadrate Kriterium verwedet (KQ; oder Ordiary Least Squares, OLS) Parameter der multiple Regressiosgleichug werde so gewählt, dass das Quadrat der Abweichuge vo gemesseem ud geschätztem Wert miimiert wird Für eie Versuchsperso i aus alle gelte: y yˆ e e y yˆ i i i i i i beobachteter Kriteriumswert = vorhergesagter Wert + Messfehler Da soll für alle Datewerte erreicht werde, dass y yˆ e i i i i1 i1 mi Miimierug der Quadratsumme des Vorhersagefehlers

7 Grudlage Gleichug Miimierug Regressio Methode der leiste Quadrate (KQ-Kriterium) Mithilfe der Allgemeie Gleichug der eifache lieare Regressio lässt sich für die Streuug des Vorhersagefehlers QS e also schreibe: ˆ e i i i 0 1 i1 i i i1 i1 QS y y y b b b b mi Normalgleichuge bzw. i der stadardisierte Form ˆ 1 QS z z z z z z e y y y i1 i1 i i i i1 i i mi Folie 7 Die Miimierug der Regressiosparameter erfolgt über partielle Differezierug ach jedem eizele der b- bzw. β-gewichte

8 Grudlage Gleichug Miimierug Normalgleichuge Folie 8 Regressio Normalgleichuge der multiple Regressio Die partielle Differezierug der ichtstadardisierte Gleichug mit Präditore führt immer auf ei System vo +1 Normalgleichuge, das wie folgt aufgebaut ist: y b b b b i1 i1 i1 i1 i1 y1 b01b 11 b1 b1 i1 i1 i1 i1 i1 y b0 b1 1 b b i1 i1 i1 i1 i1 y b b b b i1 i1 i1 i1 i1

9 Grudlage Gleichug Miimierug Normalgleichuge Regressio Normalgleichuge der multiple Regressio I der stadardisierte Form ergibt sich ei System vo Normalgleichuge: z z 1 y 1 z 1 z z 1 z z 1 i1 i1 i1 i1 z z y 1 z z 1 z z z i1 i1 i1 i1 z zy 1 z z z z z i1 i1 i1 i1 1 Folie 9

10 Grudlage Gleichug Miimierug Normalgleichuge Regressio - Zusammefassug Die partielle Differezierug eier multiple Regressiosgleichug mit Präditore führt immer auf ei System vo +1 (bzw. ) Normalgleichuge Prizip: Die summierte Ausgagsgleichug wird acheiader mit jedem Präditor 0 (bzw. z 1 z ) multipliziert Die Normalgleichuge liefer da für +1 (bzw. ) ubeate Regressiosparameter geau so viele Gleichuge. Dieses Gleichugssystem a u durch Substitutio oder Diagoalisierug für die Parameter gelöst werde Folie 10

11 Bortz, S Matrialgebraische Berechug Iterpretatio der b ud β Folie 11 Matrialgebraische Berechug der multiple Regressio Wir habe gesehe, dass die Normalgleichuge der multiple Regressio für stadardisierte Date lautete: z z 1 y 1 z 1 z z 1 z z 1 i1 i1 i1 i1 z z y 1 z z 1 z z z i1 i1 i1 i1 z zy 1 z z z z z i1 i1 i1 i1 1 Weiterhi ist die Korrelatio zweier Variable p ud q : 1 r z z i, i, i 1 p q p q

12 Matrialgebraische Berechug Matrialgebraische Berechug der multiple Regressio Damit reduziert sich das Normalgleichugssystem zu: Iterpretatio der b ud β r r r r y r r r r y r r r r y r r r r y I Matriotatio ist dies: R 1 r mit T y R Z Z Folie 1

13 Matrialgebraische Berechug Iterpretatio der b ud β Matrialgebraische Berechug der multiple Regressio I Matriotatio ist dies: wobei: R R r y mit R 1 T Z Z Matri der Präditoriterorrelatioe Folie 13

14 Matrialgebraische Berechug Iterpretatio der b ud β Folie 14 Eurs: Die Korrelatiosmatri R Aufbau ud Bedeutug Die Korrelatiosmatri R stellt die Korrelatioe zwische Variable i Matrischreibweise dar. Sie ist quadratisch ud ethält Korrelatioe r r r 1 r r1 r Die Hauptdiagoale ethält die Korrelatioe der Variable mit sich selbst (r = 1) Die utere ud obere Dreiecsmatri sid symmetrisch

15 Matrialgebraische Berechug Iterpretatio der b ud β Matrialgebraische Berechug der multiple Regressio I Matriotatio ist dies: wobei: R r y mit R R Matri der Präditoriterorrelatioe ry 1 Vetor der Kriteriumsorrelatioe 1 Vetor der Regressiosgewichte 1 T Z Z Z Vetor der z-stadardisierte Date Lösug: Iverse Iterorrelatiosmatri vormultipliziere R R R r 1 1 y R r 1 y Folie 15

16 Matrialgebraische Berechug Iterpretatio der b ud β Matrialgebraische Berechug Rücrechug der ustadardisierte Parameter Wurde die β-parameter für die z-stadardisierte Date matrialgebraisch bestimmt, a die Berechug der ustadardisierte b-parameter vorgeomme werde über SDy bi i mit i 1,,..., SD i Die Kostate b 0 wird da berechet als b0 yb 1 1b... b Folie 16

17 Bortz, S Matrialgebraische Berechug Iterpretatio der b ud β Matrialgebraische Berechug Spezialfall: Nur ei Präditor Bei ur eiem Präditor vereifacht sich die Berechug der Regressiosgewichte erheblich. b 1. Steigug: oder 1 r y s s y b 1 ŷ b0 b1 cov( y, ) s. y-achseabschitt: b0 yb1 Folie 17

18 Matrialgebraische Berechug Iterpretatio der b ud β Iterpretatio der Lösug b- ud β-gewichte Die Größe eies b-gewichtes gibt a, um wieviele Eiheite sich der Wert des ustadardisierte Kriteriums verädert, we der Betrag des ustadardisierte Präditors um 1 steigt. Die Größe des β-gewichtes gibt dasselbe für die stadardisierte Variable a Das b-gewicht beatwortet die Frage: Ich möchte eie der Präditore um 1 erhöhe. Welche sollte ich wähle, damit das Kriterium maimal steigt? Das β-gewicht beatwortet die Frage: Mit welchem Präditor erhöhe ich das Kriterium am effizieteste? Folie 18 Das b-gewicht liefert also eie absolute, das β-gewicht eie relative Iformatio.

19 Matrialgebraische Berechug Iterpretatio der b ud β Regressio Iterpretatio der Lösug Vorsicht bei der Iterpretatio der Regressiosgleichug Bei der Korrelatiosrechug bedeutet ei Zusammehag iemals Kausalität, lediglich Assoziatio Bei der Regressiosrechug gilt zuächst dasselbe Die Kausalitätsvermutug wird (we überhaupt) scho bei der Aufstellug der Regressiosgleichug getroffe, icht erst bei der Iterpretatio der Ergebisse. Um tatsächlich Kausalität festzustelle, müsse weitere Radbediguge vorliege (i.e. zeitliche Atezedez vo Ursache vor Wirug, Geeralisierbareit etc.). Folie 19

20 Relevate Ecel Futioe MMULT() MTRANS() MINV() Folie 0