Tobit-I Regressionen. Warum ist die lineare Regression des zensierten y auf x verzerrt?

Transkript

1 Tobit-I Regressionen 29. November 2017 Mit einem Tobit-I Regressionsmodell adressiert man eine Intervall-Zensierung in der erklärten Variable y, im Standardfall eine Linkszensierung bei y = 0. (Beispiel: y = wöchentliche Arbeitszeit von Arbeitnehmern; sie ist = 0 für Arbeitslose.) Man hat dabei gewissermaßen eine Mischung aus linearer und binärer Regression: Für y wäre ein lineares Modell adäquat, zur Erklärung, warum überhaupt y und nicht y = 0 beobachtet wird, ein binäres Modell. Sowohl eine zensierte lineare Regression (verwende alle Beobachtungen, mit ersetztem y = 0 bei den zensierten) als auch eine gestutzte lineare Regression (verwende nur die Beobachtungen mit y ) führt zu Verzerrungen in der Schätzung von Effekten auf die unterstellte latente Variable y, die man mit einer Max.Likelihood- Schätzung des Tobit-I-Modells vermeiden kann. Wir betonen hier diesen Aspekt, obwohl in der Praxis das Tobit-I Modell häufiger zur Prognose des zensierten y (und nicht des latenten y ) benutzt wird. Tobit-I Regressionen Folie 2 Warum ist die lineare Regression des zensierten y auf x verzerrt? Frage könnte auch lauten: Warum schätzt das naive Vorgehen Ignorieren der Zensierung in y nicht den wahren Effekt von x auf y? Erläutern anhand des folgenden Diagramms: Stata-Code zum Erzeugen des Plots: drop all set obs 200 gen x = 2* n/200 gen yexakt= *x gen ystar = yexakt+0.15*rnormal() gen yzens = max(ystar,0) regress yzens x // Lin.Regr. predict yhat // Fit der lin.regr. twoway (line yexakt x) /// (scatter ystar x if ystar<0)/// (scatter yzens x) /// (line yhat x), /// legend(position(11) ring(0)) yexakt yzens ystar Fitted values x Aber: Bei Tobit-I liegt das primäre Interesse meist nicht auf unverzerrter oder konsistenter Schätzung der wahren Effektstärke β j auf das partiell unbeobachtete y (bekommt man auch), sondern auf einem guten Fit des zensierten (aber vollständig beobachteten) y. Tobit-I Regressionen Folie 1 Standard-Tobit Modell (Tobit-I, zensierte Variante) Tobit I: Die zu erklärende Variable y stimmt mit einer latenten Variable y überein, sofern diese positiv ist. Ist y 0, so wird y = 0 beobachtet (y ist bei 0 linkszensiert). Für die latente Variable y gilt ein lineares Regr.Modell (mit normalverteilten Fehlern ε): { 0 wenn yi 0 wobei yi = x i β + ε i, i = 1,..., N (Tobit-I cens ) Beispiele: Arbeitnehmer: y = Arbeitslohn. Tobit-I hier geradezu zynisch y i 0: Person ist arbeitslos und y i quantifiziert deren min. Lohn-Subvention, um Arbeit zu erhalten Individuen: y = Ausgaben für Tabak (od. Alkohol od. Fleisch od Autos od....) y i 0: Die Person ist Nicht-Raucher und y i quantifiziert den Grad an Tabak-Aversion ( Disnutzen ) Krankenversicherte: y = Kosten der Vorsorgeuntersuchung (od. Ambulanz od....) y i 0: Person hat keinen Bedarf und y i quantifiziert ihren Grad der Bedarflosigkeit Anmerkungen: Bei Tobit-I stellt y selbst (bzw. y 0) den Grund für die Zensierung von y dar. Bei Tobit-II gibt es ein eigenes (binäres) Modell, das die Zensierung von y erklärt. Bsp. f. Notwdkt. Tobit-II: y = Rating. Der Fall kein Rating entspricht nicht einem negativen Rating Tobit-I Regressionen Folie 3 Primäres Interesse bei Tobit-I meist: Guter Fit des zensierten y Im folgenden Stata Code wurden nur regress- und predict- Befehl ausgetauscht. Geschätzt wird jetzt ein Tobit-I Modell. Dessen Fit ŷ ˆ= E[y x, y ] ist nicht-linear in x Stata-Code zum Erzeugen des Plots: drop all set obs 200 gen x = 2* n/200 gen yexakt= *x gen ystar = yexakt+0.15*rnormal() gen yzens = max(ystar,0) tobit yzens x, ll(0) //Tobit-Regr. predict yhat, e(0,.) //Tobit-Fit twoway (line yexakt x) /// (scatter ystar x if ystar<0)/// (scatter yzens x) /// (line yhat x), /// legend(position(11) ring(0)) yexakt yzens ystar E(yzens* yzens>0) x Man sieht: Mit dem Tobit-I-Modell bekommt man einen guten Fit des zensierten y Tobit-I eignet sich zur Prognose des zensierten (d.h. faktischen) y (z.b: kein negatives ŷ) Das ist die eigentliche Stärke von Tobit-I. (Wir gehen aber im Folgenden nicht näher darauf ein)

2 Tobit-I Regressionen Folie 4 Likelihood des Tobit-I cens -Modells Ziel: Maximum-Likelihood { Schätzung des Modells 0 wenn yi 0 wobei yi = x i β + ε i, i = 1,..., N (Tobit-I cens ) Immer: Maximum-Likelihood beruht auf Verteilungsannahmen. Dies ist hier die Annahme über die Verteilung der Fehlerterme ε i im latenten Regr.modell y i = x i β + ε i: Verteilung von ε sei durch die (kumulierte) Verteilungsfunktion (cdf) F (e) beschrieben. (Wir schreiben hier e für das vorherige s, da suggestiver) Bei Tobit-Modellen wird i.d.r. Std-Normalvtlg. für ε i σ angenommen: F (e) = Φ( e σ ) Theorie geht allgemein, aber implementiert ist meistens nur Normalvtlg. Beachte: Auch σ ist zu schätzen (Auch: Implizite Homoskedastie-Annahme bzgl. y ) Herleitung der Likelihood: Wir fassen die zensierten i in einer Indexmenge I 0, die unzensierten in I 1 zusammen. Für zensiertes i ( I 0 ) wird nur y i = 0 beobachtet und der Likelihood-Beitrag L i ist Tobit-I Regressionen Folie 6 Unterschied Zensierung (Censoring) und Stutzung (Truncation) Anstatt einer Regression der zensierten y i = max{y i, 0} auf x i könnten wir auch eine Regression nur der i mit unzensiertem y i durchführen. Zugehöriges Tobit-I-Modell: { n.a. wenn yi 0 wobei yi = x i β + ε i, i = 1,..., N (Tobit-I trunc ) Auch die lineare Regression auf den gestutzten Daten ist problematisch, nicht so sehr wegen der Reduktion des Stichprobenumfangs N, sondern weil man damit den potentiellen Selection Bias ignoriert: Die Stichprobe ist danach u.u. nicht mehr repräsentativ für die Gesamtpopulation, da sie auf der impliziten Annahme y beruht. i I 0 : L i = P (y i = 0) = P (y i 0) = P (x iβ + ε i 0) = P (ε i x iβ) = F ( x iβ) Tobit-I Regressionen Folie 5 Für unzensiertes i ( I 1 ) wird ein y i = yi beobachtet, das dem Regr.Modell yi = x i β + ε i folgt. Da ε i stetig verteilt ist, ist die Wkt. für die Punkt-Beobachtung (y i, x i ), d.h. für ε i = y i x iβ, immer 0. Der Ausweg aus diesem Dilemma besteht darin, für die Likelihood die Dichte f = F von ε zu verwenden. (Die Likelihood ist dann nur proportional zur Wkt. der Beobachtg. von ε i in einem kleinen Umgebungsintervall von y i x iβ, aber nicht die Wkt. selbst) P (y i x i i I 1 : L i = lim β de/2 ε i y i x i β + de/2) = f(y i x de 0 de iβ) Die gesamte Likelihood ergibt sich als Produkt der individuellen Likelihoods, die log-likelihood durch Summation der logarithmierten individuellen Likelihoods zu: log L = i I 0 log F ( x iβ) + i I 1 log f(y i x iβ) Anmerkung: Mischung von Wkten (i I 0 ) und Dichten (i I 1 ) verhindert, dass man diese Likelihood als Wkt. interpretieren kann. Aber: Asymptot. Aussagen aus ML-Theorie (z.b. Konsist., Effiz.) bleiben gültig. Bei Normalverteilung mit F (e) = Φ( e σ ), f(e) = F (e) = 1 2π σ e 1 2 ( σ e )2, ergibt sich: log L(β, σ 2 ) = log Φ ( x i β ) i I σ + log ( ( yi x ) 1 i β 2 ) 0 i I 1 2πσ 2 e 1 2 σ Tobit-I Regressionen Folie 7 Likelihood des Tobit-I trunc -Modells Gesehen: Auch OLS mit den gestutzten Daten problematisch (potent. Select. Bias). Ausweg auch hier: ML-Schätzung basierend auf unterstellter Fehlerterm-Vtlg. F für ε. In die Likelihood gehen hier nur die Individuen i I 1 ein (i I 0 ist n.a. ) Entscheidender Unterschied zur naiven Schätzung auf den abgeschnittenen Daten i I 1 : Für i I 1 weiß man, dass i nicht in I 0 war. Das heißt: Für i I 1 ist die bedingte Dichte zu verwenden, gegeb. dass i unzensiert war. Diese ist ( Bayes-Formel ): L i = f(y i x iβ x i, y i ) = f(y i x iβ x i ) / P (y i x i ) Dabei: P (y i x i ) ist das Komplement dessen, was bei zens. Tobit aus i I 0 kam: P (y i ) = P (y i ) = P (x iβ + ε i ) = P (ε i > x iβ) = 1 F ( x iβ) Damit: Gesamte LogLikelihood für Tobit-I trunc log L trunc = log f(y i x i I 1 }{{ iβ) } wie OLS logl Bei symmetr. Vtlg. (insbes. Normalvtlg) ist F ( e) = 1 F (e). Damit für Normalvtlg.: log L trunc (β, σ 2 ) = i I 1 log ( 1 2πσ 2 e 1 2 log ( 1 F ( x iβ) ) }{{} zusätzlich zu OLS-logL ( yi x i β σ ) 2 ) ( x log Φ + i β ) σ

3 Tobit-I Regressionen Folie 8 Hinweise zur Implementierung von Tobit-I in Stata Der Stata-Befehl zur ML-Schätzung des zensierten Modells (Tobit-I cens ) heißt tobit. Der Stata-Befehl zur ML-Schätzung des gestutzten Modells (Tobit-I trunc ) heißt truncreg. Allgemeiner als hier behandelt können diese Befehle Intervall-zensierte Modelle schätzen: a falls y a y = y falls a < y < b, wobei y = x β + ε b falls y b Die hier behandelte Standardvariante entspricht dem Spezialfall a = 0, b =. Die Schwellenwerte a bzw. b werden über die Optionen ll(a) bzw. ul(b) spezifiziert (ll = lower limit, ul = upper limit). Da beide Befehle verlangen, dass mindestens eine der Schwellen a bzw. b spezifiziert ist, müssen sie für die Standardvariante (Linkszensier. bei a = 0) wie folgt eingegeben werden: tobit y $xlist, ll(0) // statt: regress y $xlist bzw. truncreg y $xlist, ll(0) // statt: regress y $xlist if y Implementiert ist jeweils nur die Normalverteilungsvariante. Bei tobit wird, anders als bei truncrec und sonstigen ML-Schätzungen, kein Iterations-Log ausgegeben (Option log) Tobit-I Regressionen Folie 10 ALCTOBAC.DTA: Summary statistics. global xlist age nadults nkids lincome agelnx. sum $xlist share_alc share_tbo age nadults nkids lincome agelnx share_alc share_tbo Also im Schnitt: Alter: ca 35 Jahre Zahl der Erwachsenen: 2 Zahl der Kinder: 0.56 Haushaltseinkommen: e (dabei nicht beachtet: E[e X ] = e µ X +1 2 σ2 X) Welche (Geld-)Einheit zugrundeliegt, spielt im Folgenden keine Rolle, da nur log(income) eingeht. 1.8% des Einkommens gehen in alkohol. Getränke 1.2% des Einkommens werden für Tabakwaren ausgegeben Tobit-I Regressionen Folie 9 Beispiel ALCTOBAC.DTA: Datenbeschreibung Die Datei ALCTOBAC.DTA enthält Daten von 2724 belgischen Haushalten in den Jahren 1995/96 Verfügbare Variablen: share alc: Anteil Ausgaben für alkohl. Getränke am Gesamtbudget (1 = 100%) share tbo: Anteil Ausgaben für Tabakwaren am Gesamtbudget (1 = 100%) lincome: Log. des Haushaltseinkommens age: Alter (von wem?) gemessen in 10-Jahres-Intervallen, 0: jünger als 30, 1: , 2: , 3: , 4: älter als 60 Eigentlich besser: Für jede Altersklasse ein Dummy, Stata: i.age nadults: Anzahl Erwachsener im Haushalt nkids: Anzahl Kinder im Haushalt agelnx: age*lincome für nicht-lineare Interaktion von age und income Tobit-I Regressionen Folie 11 ALCTOBAC.DTA: Summary statistics (II). sum $xlist share_alc share_tbo age nadults nkids lincome agelnx share_alc share_tbo ***********************************************************************. sum $xlist share_alc share_tbo if share_tbo age nadults nkids lincome agelnx share_alc share_tbo

4 Tobit-I Regressionen Folie 12 Tobit für Anteil Tabak (TobitCens). tobit share_tbo $xlist, ll(0) Tobit regression Number of obs = 2724 LR chi2(5) = Prob > chi2 = Log likelihood = Pseudo R2 = age nadults nkids lincome agelnx _cons /sigma Obs. summary: 1688 left-censored observations at share_tbo<= uncensored observations 0 right-censored observations ****** Beachte: left-censored bedeutet hier: Nicht-Raucher ******** Tobit-I Regressionen Folie 14 Lineare Regression des zensierten y (LinCens) Zum Vgl. das Ergebnis der OLS-Schätzung des zensierten y = max{0, y } auf dem gesamten Sample (dies lieferte Stata den Startvektor für die ML-Schätzung tobit share tbo $xlist, ll(0).). regress share_tbo $xlist Source SS df MS Number of obs = F( 5, 2718) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = age nadults nkids lincome agelnx _cons Tobit-I Regressionen Folie 13 Tobit-Schätzung diskutieren Ergebnis der Tobit-Schätzung war: Log likelihood = Pseudo R2 = age nadults nkids lincome agelnx _cons /sigma Fragen: Warum ist es kein Problem, dass die log L ist (so dass die Likelihood L = e log L > 1 ist)? Warum kann es sein, dass Rpseudo 2 < 0? Warum ist das hier irrelevant? Was bedeutet es, dass a) ˆβ nkids und b) ˆβ lincome < 0 ist? Zahlenwert von a) ˆβ nkids und b) ˆβ lincome interpretieren! Tobit-I Regressionen Folie 15 Gestutzte Lineare Regression (LinTrunc) Zum Vgl. auch noch das Ergebnis der OLS-Schätzung auf dem unzensierten Subsample (dies liefert Stata den Startvektor für die ML-Schätzung truncreg share tbo $xlist, ll(0); das Ergebnis dieser ML-Schätzung, d.h. des Tobit-I trunc -Modells, wird im Folgenden aber nicht angegeben.). regress share_tbo $xlist if share_tbo Source SS df MS Number of obs = F( 5, 1030) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = age nadults nkids lincome agelnx _cons

5 Tobit-I Regressionen Folie 16 Vergleich der Schätzungen (rechts für Anteil Alkohol ) Variable LinTrunc LinCens TobitCens LinTrunc LinCens TobitCens share_tbo - share_tbo - share_tbo -+- share_alc- share_alc - share_alc age nadults nkids lincome agelnx _cons sigma N r2/r2_p ll Tobit-I Regressionen Folie 18 Tobit mit log-normalem y (Vorbereitung isoelastisches Modell) Ziel: Wir möchten (nicht den Anteil = share am Einkommen, sondern) den Log. der Ausgaben ( expenditure, expnd ) für Tabak, log(expnd tbo) erklären: Iso-elastisches Modell log(expnd tbo) log(income) Annahme: expnd tbo = income * share tbo. Dann lässt sich log(expnd tbo) als log(expnd tbo) = log(income) + log(share tbo) berechnen. Problem: Dabei werden die zensierten Beobachtungen (= Nicht-Raucher) zu n.a. in lexpnd tbo = log(expnd tbo) (da für die Zensierten log(share tbo) = log(0) = n.a. ist) Lösung: Minimales y der Unzensierten ermitteln, untere Schwelle ll etwas darunter legen: gen lexpnd_tbo = lincome + log(share_tbo) sum lexpnd_tbo scalar ll_tbo = r(min) replace lexpnd_tbo = ll_tbo if lexpnd_tbo ==. Danach lässt sich das isoelastische Tobit-I cens -Modell schätzen mit: tobit lexpnd tbo $xlist, ll(ll tb0) Tobit-I Regressionen Folie 17 Diskussion der Ergebnisse für Anteile an Gesamtausgaben Koeffizienten-Schätzungen sehr verschieden zwischen den Modellen/Methoden Fast durchgängig werden die stärksten Effekte bei TobitCens (Tobit-I-Schätzung für zensiertes y) geschätzt, die schwächsten bei LinTrunc (Lin.Regr. mit gestutzten Daten) Das passiert nicht nur hier, sondern recht systematisch. Das Phänomen hängt mit der Grundannahme von Tobit-I zusammen (dass die Abstinenten den Tabak-/Alkohol-Konsum wegen ihres Disnutzens daraus meiden, und Nutzen wie Disnutzen durch das gleiche lin.regr.modell beschrieben wird) Da die Grundannahme kaum zu rechtfertigen ist, ist vermutlich keines der drei Modelle vollkommen adäquat (auch nicht nicht Tobit-I, die anderen beiden sind es ohnehin nicht) Starke Unterschiede zwischen Tabak und Alkohol (viele Vorzeichen drehen sich um) Insbesondere: Auf den Anteil f. Tabak an den Gesamtausgaben wirkt höheres Einkommen negativ. Auf den Alkohol-Anteil an den Gesamtausg. wirkt höheres Einkommen dagegen positiv (außer LinTrunc, aber dort ist Effekt insignifikant und zweitens ist dies ohnehin ein falsches Modell) Aufgabe: Ökonomische Interpretation, auch des Effekts von Kindern und der Zahl der Erwachsenen im Haushalt Tobit-I Regressionen Folie 19 Ergebnisse log-normales Tobit (y = log(expenditure tobacco/alcohol)) Variable LinTrunc LinCens TobitCens LinTrunc LinCens TobitCens lexpnd_tbo lexpnd_alc age nadults nkids lincome agelnx _cons sigma N r2/r2_p ll