Ordinale abhängige Variablen. Einführung Regressionsmodelle für ordinale Variablen Empirisches Beispiel Ausblick

Transkript

1 Kap. 6: Ordinale abhängige Variablen Einführung Regressionsmodelle für ordinale Variablen Empirisches Beispiel Ausblick

2 6.1 Einführung Typische ökonomische Beispiele für ordinale abhängige Variablen: Bildungsniveau y i Sekundarschule, Matur, Universität Kovariablen: Geschlecht, Bildungsniveau der Eltern,... Zufriedenheit mit Beruf y i Skala von 1 bis 10 Kovariablen: Einkommen, Bildungsniveau,... Risikobereitschaft von Anlegern y i gering, mittel, hoch Kovariablen: Geschlecht, Vermögen,... Ratings von Anleihen (Agenturen Fitch, Moody s und Standard & Poor s bewerten Kreditwürdigkeit) y i AAA, AA+,... (Standard & Poor s) C. Kleiber: Mikroökonometrie Kap. 6-1 U Basel, HS 2009

3 6.2 Regressionsmodelle für ordinale Variablen Ordinale multinomiale Daten könnten auch mit multinomialem Logit analysiert werden. Problem: Information wird nicht voll ausgenutzt. Ausgangspunkt ist wieder eine multinomiale Variable mit m Kategorien und W keiten p ij = P (y i = j), j = 1,..., m Nun seien die Kategorien aber geordnet, einfacher sind dann kumulierte W keiten γ ij = P (y i j) Da γ im = 1: modelliere nur m 1 Kategorien. Ansatz (in Statistik heisst dies manchmal cumulative link model ) g(γ ij ) = α j x i β Achsenabschnitte α j werden explizit spezifiziert, deshalb enthält x i keine Konstante β hängt nicht von j ab, d.h. alle Kovariablen wirken gleich in allen Kategorien (ein Single- Index-Modell) C. Kleiber: Mikroökonometrie Kap. 6-2 U Basel, HS 2009

4 6.2 Regressionsmodelle für ordinale Variablen Grundidee: Schwellenwerte bei einer latenten Variablen (hier m = 4) x C. Kleiber: Mikroökonometrie Kap. 6-3 U Basel, HS 2009

5 6.2 Regressionsmodelle für ordinale Variablen Regressionsmodelle für ordinale abhängige Variablen werden üblicherweise über Schwellenwertmodelle motiviert: Sei latente Variable y i := x i β + ε i, ε i (0, 1) u.i.v.. Beobachtet werde aber nur eine diskretisierte Version y i mit y i = 1, α 0 < yi α 1, j, α j 1 < yi α j, j = 2,..., m 1, m, α m 1 < yi α m. Da Wertebereich der latenten Variablen unbekannt: setze α 0 = und α m =. Damit bleiben α 1,..., α m 1 zu bestimmen. Diese müssen α 1 <... < α m 1 erfüllen. Falls y i x i β = ε i F, sind die kumulierten W keiten gegeben durch P (y i j) = P (y i α j ) = P (y i x i β α j x i β) = F (α j x i β) C. Kleiber: Mikroökonometrie Kap. 6-4 U Basel, HS 2009

6 6.2 Regressionsmodelle für ordinale Variablen Damit ergibt sich für die W keiten der einzelnen Kategorien P (y i = 1 x i ) = F (α 1 x i β) P (y i = j x i ) = P (α j 1 < y i α j ) = F (α j x i β) F (α j 1 x i β) P (y i = m x i ) = 1 F (α m 1 x i β) Je nach Wahl von F resultieren unterschiedliche Varianten des Grundmodells: F Normalverteilung: ordered probit eher in ökonometrischer Literatur F (α j x i β) = Φ(α j x i β) F logistische Verteilung: ordered logit oder proportional odds logistic regression (POLR) eher in statistischer Literatur F (α j x i β) = Λ(α j x i β) = exp(α j x i β) 1 + exp(α j x i β) C. Kleiber: Mikroökonometrie Kap. 6-5 U Basel, HS 2009

7 6.2 Regressionsmodelle für ordinale Variablen Effekte sind P (y i = 1 x i ) x ik = f(α 1 x i β)β k, P (y i = j x i ) x ik = {f(α j 1 x i β) f(α j x i β)}β k, j = 2,..., m 1 P (y i = m x i ) x ik = f(α m 1 x i β)β k Vorzeichen für j = 2,..., m 1 a priori unklar. C. Kleiber: Mikroökonometrie Kap. 6-6 U Basel, HS 2009

8 6.2 Regressionsmodelle für ordinale Variablen Illustration: Modell Λ(α j + x) impliziert (horizontal) parallele Kurven α 1 = 2 α 2 = 1 α 3 = x C. Kleiber: Mikroökonometrie Kap. 6-7 U Basel, HS 2009

9 6.2 Regressionsmodelle für ordinale Variablen Proportional odds logistic regression (POLR): Für ist mit Logit-Trafo oder auch log γ ij = P (y i j x i ) γ ij 1 γ ij = α j x i β, j = 1,..., m 1 γ ij = exp(α j x i β) 1 + exp(α j x j = 1,..., m 1 i β), Für die relativen Chancen ( odds ratio ) gilt demnach γ ij 1 γ ij / γkj 1 γ kj = exp( (x i x k ) β). Dies ist unabhängig von j, d.h. die Log-Chancen unterscheiden sich nur um eine Konstante für unterschiedliche j. Deshalb der Name POLR. C. Kleiber: Mikroökonometrie Kap. 6-8 U Basel, HS 2009

10 6.2 Regressionsmodelle für ordinale Variablen Bemerkungen: Wie schon bei binären abhängigen Variablen ist die logistische Version etwas leichter zu handhaben. Geordnetes multinomiales Modell ist leichter zu interpretieren als ungeordnetes: im geordneten Fall zeigt z.b. das Vorzeichen von β j, ob yi im Regressor j wächst oder fällt. Andererseits ist β j Einfluss auf yi (hypothetische Variable) interessanter sind die W keiten P (y i = j x i ). Für Modellvergleiche deshalb besser: vergleiche prognostizierte W keiten für interessierende Werte von x (z.b. x) Vergleich der Parameterzahlen: geordnetes multinomiales Modell: k + m 1 ungeordnetes multinomiales Modell (MNL): (m 1)(k + 1) Also hat geordnetes Modell tendenziell weniger Parameter und ist leichter zu interpretieren wenn Ordnungsinformation vorhanden, sollte sie auch verwendet werden. C. Kleiber: Mikroökonometrie Kap. 6-9 U Basel, HS 2009

11 6.3 Empirisches Beispiel R> data("bankwages", package = "AER") R> summary(bankwages) job education gender minority custodial: 27 Min. : 8.0 male :258 no :370 admin :363 1st Qu.:12.0 female:216 yes:104 manage : 84 Median :12.0 Mean :13.5 3rd Qu.:15.0 Max. :21.0 R> (tbl <- with(bankwages, table(job, education))) education job custodial admin manage C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

12 6.3 Empirisches Beispiel job custodial admin manage edcat C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

13 6.3 Empirisches Beispiel Umsetzung in R: Funktion polr() aus Paket MASS schätzt geordnetes Logit und Probit (und weitere Varianten) R> library("mass") R> bwmale <- subset(bankwages, gender == "male") R> fm_polr <- polr(job ~ education + minority, data = bwmale, + Hess = TRUE) R> library("lmtest") R> coeftest(fm_polr) t test of coefficients: Estimate Std. Error t value Pr(> t ) education <2e-16 minorityyes C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

14 6.3 Empirisches Beispiel R> summary(fm_polr) Call: polr(formula = job ~ education + minority, data = bwmale, Hess = TRUE) Coefficients: Value Std. Error t value education minorityyes Intercepts: Value Std. Error t value custodial admin admin manage Residual Deviance: AIC: C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

15 6.3 Empirisches Beispiel R> table(bwmale$job, predict(fm_polr, bwmale, type = "class")) custodial admin manage custodial admin manage Dabei Zuweisung der Beobachtung in Kategorie mit höchster prognostizierter W keit: R> predict(fm_polr, bwmale[25, ], type = "probs") custodial admin manage R> predict(fm_polr, bwmale[25, ], type = "class") [1] admin Levels: custodial admin manage C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

16 6.3 Empirisches Beispiel Analog geht Ordered Probit: R> fm_op <- update(fm_polr, method = "probit") R> fm_op Call: polr(formula = job ~ education + minority, data = bwmale, Hess = TRUE, method = "probit") Coefficients: education minorityyes Intercepts: custodial admin admin manage Residual Deviance: AIC: C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

17 6.3 Empirisches Beispiel R> table(bwmale$job, predict(fm_op, bwmale, type = "class")) custodial admin manage custodial admin manage Prognosen sind diesmal: R> predict(fm_op, bwmale[25, ], type = "probs") custodial admin manage R> predict(fm_op, bwmale[25, ], type = "class") [1] admin Levels: custodial admin manage C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

18 6.4 Ausblick Was sind kritische Annahmen des Modells? gleiche Regressionskoeffizienten für alle Kategorien wirklich gerechtfertigt? Informeller Test: Modell ist Folge von m 1 binären Regressionsmodellen mit gleichen Regressionskoeffizienten für die echten Regressoren schätze diese m 1 Modelle separat und vergleiche Koeffizienten! (Aus dieser Idee lässt sich ein formaler Test einwickeln.) Schwellenwerte wirklich konstant oder besser auch abhängig von Kovariablen? Es gibt Multiple-Index-Modelle für geordnete abhängige Variablen (siehe Boes und Winkelmann 2006), diese sind allerdings kaum in Softwarepaketen implementiert. C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

19 6.4 Ausblick Vergleich des geordneten Logit-Modells mit zugehörigen gewöhnlichen Logit-Modellen: R> fm_logit1 <- glm(i(job!= "custodial") ~ education + minority, + family = binomial, data = bwmale) R> coeftest(fm_logit1) z test of coefficients: Estimate Std. Error z value Pr(> z ) (Intercept) e-05 education e-10 minorityyes C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

20 6.4 Ausblick R> fm_logit2 <- glm(i(job == "manage") ~ education + minority, + family = binomial, data = bwmale) R> coeftest(fm_logit2) z test of coefficients: Estimate Std. Error z value Pr(> z ) (Intercept) e-09 education e-09 minorityyes Fazit: Ergebnisse nicht ähnlich, damit scheint POLR kein gutes Modell für diese Daten. (warum plausibel?) C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009

21 6.5 Literatur Boes, S., und Winkelmann, R. (2006). Ordered response models. Allgemeines Statistisches Archiv, 90, Greene, W.H. und Hensher, D.A. (2009). Modeling ordered choices: A primer and recent developments. In Palgrave Handbook of Econometrics, Vol. 2, Kap. 11. C. Kleiber: Mikroökonometrie Kap U Basel, HS 2009