Modul: Zeitreihenanalyse und Anwendungen in der empirischen Kapitalmarktforschung. Leseprobe

Transkript

1 Prof. Dr. Hermann Singer Modul: Zeitreihenanalyse und Anwendungen in der empirischen Kapitalmarktforschung Kurs: Version vom 10/2004 Überarbeitet am 10/2015 Leseprobe

2 Inhaltsverzeichnis 1 Überblick Zeitreihenanalyse Übungen mit EViews Zeitreihen vs. Querschnittsdaten Zeitreihen und stochastische Prozesse Querschnitte Zeitreihen Panel-Daten Zeitmittelwerte und Autokorrelation Stationarität und Ergodizität Stochastische Differenzen-Gleichungen Wold-Zerlegung, ARMA-Prozesse Wold-Zerlegung Autoregressive (AR) Prozesse Moving Average (MA)-Prozesse Autoregressive Moving Average (ARMA)-Prozesse Backshift- und Lag-Operator ACF und PACF Modell-Bildung (Identifikation) Methode von Box und Jenkins Modellselektion mit Informationskriterien Diagnostische Tests Residual-Analyse Portmanteau-Test Durbin-Watson-Test Lagrange-Multiplikator(Score)-Test ARCH-LM-Test Test auf Normalverteilung LQ, LM und Wald-Test Likelihood-Quotienten-(LQ)-Test

3 6 INHALTSVERZEICHNIS Lagrange-Multiplikator-(LM) bzw. Rao-Score-Test Wald-Test ML-Schätzung der ARMA-Parameter Beispiel: AR(1)-Prozeß AR(p)-Prozeß ARMA(p, q)-prozeß Nichtstationäre Zeitreihen ARIMA-Modelle Einheitswurzeln, Dickey-Fuller-Test Problemstellung Einfacher Dickey-Fuller-Test Regression mit AR-Fehlern und ARMAX-Modelle Regression mit autokorrelierten Fehlern ARMAX-Modelle KQ- und ML-Schätzung Heteroskedastische Modelle ARCH und GARCH Asymmetrische Ansätze: TARCH und EGARCH Threshold ARCH Exponential GARCH ARMA-GARCH und ARCH-M ML-Schätzung Stochastische Volatilität: ARV-Modelle Zustandsraum-Modelle Definition des Zustandsraum-Modells Momenten-Gleichungen und Stationarität Der Kalman-Filter-Algorithmus Abkürzungen und Bezeichnungen 169 Literaturverzeichnis 172 Index 175

4 36 KAPITEL 3. STOCHASTISCHE DIFFERENZEN-GLEICHUNGEN AR: γ k 0für k MA: γ k =0für k>q Autoregressive Moving Average (ARMA)-Prozesse ARMA- Modell Wie man sich denken kann, lassen sich die beiden Modelltypen in einem allgemeinen linearen Modellansatz vereinigen, dem ARMA(p, q)-modell: y t = φ 1 y t 1 + φ 2 y t φ p y t p + ǫ t + θ 1 ǫ t θ q ǫ t q (3.60) φ(b)y t = θ(b)ǫ t. (3.61) Dies bedeutet, daß der heutige Wert y t durch p verzögerte Werte der Zeitreihe und q verzögerte Fehlerterme erklärt wird. Durch Invertieren des Lag-Polynoms φ(b)läßt sich der ARMA(p, q)-prozeß als reiner MA( ) y t = φ(b) 1 θ(b)ǫ t = ψ l ǫ t l (3.62) l=0 oder durch Invertieren von θ(b)alsreiner AR( )schreiben θ(b) 1 φ(b)y t = π l y t l = ǫ t. (3.63) l=0 Die Koeffizienten ψ l bzw. π l ergeben sich explizit durch Invertieren der Lag- Polynome und Ausmultiplizieren. ARMA-Prozesse mit Mittelwert µ können durch Zentrieren auf y t µ analog definiert werden: oder φ(b)(y t µ) = θ(b)ǫ t (3.64) φ(b)y t = φ(1)µ + θ(b)ǫ t (3.65) := θ 0 + θ(b)ǫ t. (3.66) ARMA(1,1) Beispiel 3.5 (ARMA(1,1)-Prozeß) Der einfachste ARMA-Prozeß hat die Form y t = φy t 1 + ǫ t + θǫ t 1. (3.67) Löst man nach y t auf, so ergibt sich die MA( )-Darstellung y t = (1 φb) 1 (1 + θb)ǫ t (3.68) = (1+φB + φ 2 B )(1 + θb)ǫ t (3.69) = {1+(φ + θ)[b + φb 2 + φ 2 B ]}ǫ t. (3.70)

5 3.1. WOLD-ZERLEGUNG, ARMA-PROZESSE 37 Hierbei wurde die Taylor-Entwicklung (1 φb) 1 = (1+φB + φ 2 B (3.71) benutzt, die nur für φ < 1konvergiert (also Stationarität). In analoger Weise kann man auch nach ǫ t auflösen, d.h. diear( )-Darstellung (1 + θb) 1 (1 φb)y t = ǫ t (3.72) und die Taylor-Entwicklung für (1 + θb) 1 einsetzen (Übung). Auch hier ist die Invertierbarkeitsbedingung θ < 1 zu beachten. Die Momente und die Autokorrelation ergeben sich wie folgt: Wenn y t stationär ist mit µ = E(y t )=0,sogilt für γ 0 =Var(y t )=E(y 2 t )= E(φy t 1 + ǫ t + θǫ t 1 ) 2 = φ 2 γ 0 + σ 2 + θ 2 σ 2 +2φθE(y t 1 ǫ t 1 ). Setzt man in den letzen Term y t 1 = φy t 2 + ǫ t 1 + θǫ t 2 ein und nutzt die Unkorreliertheit der ǫ j, so ergibt sich E(y t 1 ǫ t 1 )=σ 2 und somit (1 φ 2 )γ 0 = σ 2 (1 + θ 2 +2φθ)oder γ 0 = σ 21+θ2 +2φθ 1 φ 2. (3.73) Zur Berechnung von γ 1 schreibt man Damitgilt y t φy t 1 = ǫ t + θǫ t 1 E(...y t 1 ) γ 1 φγ 0 = θe(ǫ t 1 y t 1 )=θσ 2. γ 1 = φγ 0 + θσ 2. (3.74) Die Autokovarianzen für k 2ergeben sich rekursiv aus y t φy t 1 = ǫ t + θǫ t 1 E(...y t k ) (3.75) γ k φγ k 1 = 0, (3.76) da in diesem Fall die Fehlerterme und y t k unkorreliert sind. Die Autokorrelation verhält sich also für k 2analogzum AR(1)-Prozeß und fällt exponentiell auf Null ab. Allgemein gilt somit beim ARMA(p, q) oder y t φ 1 y t 1 φ 2 y t 2... φ p y t p = ǫ t + θ 1 ǫ t θ q ǫ t q E(...y t k ) γ k φ 1 γ k 1 φ 2 γ k 2... φ p γ k p = 0 (3.77) φ(b)γ k = 0 (k>q). (3.78) Dies zeigt, daß für Zeitverschiebungen k>qdie gleichen Yule-Walker-Gleichungen wie beim AR(p)erfüllt sind.

6 38 KAPITEL 3. STOCHASTISCHE DIFFERENZEN-GLEICHUNGEN 3.2 Backshift- und Lag-Operator Backshift- Operator Dieser Abschnitt ist etwas technisch und soll die formalen Manipulationen mit dem Backshift(Lag)-Operator B und daraus abgeleiteten Differenzen kompakt darstellen. Man definiert Definition 3.1 (Operatoren) By t := y t 1 :Rückwärts (Backshift, Lag)-Operator B 1 y t := Fy t = y t+1 :Vorwärts (Lead, Forward)-Operator y t := (1 B)y t = y t y t 1 :Rückwärts-Differenz (Ableitung) := (1 B):Rückwärts-Differenzen-Operator 1 y t := (1 B) 1 y t =(1+B + B )y t = t j= y j S(B)= 1 =(1 B) 1 = j=0 B j :Summations(Integral)-Operator y t := y t+1 y t =(B 1 1)y t = y t+1 :Vorwärts-Differenz :=B 1 :Vorwärts-Differenzen-Operator 2 y t := (1 B) 2 y t = y t 2y t 1 + y t 2 :2.Ableitung Beispiel 3.6 (Polynomial-Trends) Der lineare Trend µ t = t kann durch t = t (t 1) = 1 beseitigt werden. Analog wird der quadratische Trend µ t = t 2 durch t 2 = t 2 (t 1) 2 =2t 1 und 2 t 2 =2t 1 (2(t 1) 1) = 2 zum Verschwinden gebracht. Allgemein gilt t d = t d (t 1) d = dt d und somit d t d = d!(übung). 3.3 Autokorrelation und partielle Autokorrelation (ACF, PACF) ACF SACF Die Autokorrelationsfunktion (ACF) und ihre Schätzung ˆρ k (SACF; sample autocorrelation function) kann dazu benutzt werden, bei einem Datensatz herauszufinden, welches AR- bzw. ARMA-Modell zu den Daten paßt. Es galt die Form (k>q) ρ k = A 1 λ k 1 + A 2λ k A pλ k p (3.79) wobei die Wurzeln λ i Lösungen der Gleichung φ(1/λ)=0waren(vgl. Glg. 3.77). Allerdings ist es schwierig, zwischen einem AR(p) und einem AR(p )-Prozeß zu

7 3.3. ACF UND PACF 39 partielle Autokorrelation unterscheiden, da in beiden Fällen die Autokorrelationen exponentiell bis Unendlich abfallen. Eine Idee, die hier weiterhilft, ist die sogenannte partielle Autokorrelation, d.h. die Korrelation zwischen y t und y t k unter Herauspartialisierung der Zwischenwerte y t 1,..., y t k+1.diesbedeutet, daß die reine Korrelation zwischen y t und y t k unter Berücksichtigung der Korrelationen mit den Zwischenwerten berechnet wird. Definition 3.2 (Partielle Autokorrelation PACF) Die k-te partielle Autokorrelation (PACF) ist der Koeffizient φ kk in der Gleichung y t = φ k1 y t 1 + φ k2 y t φ kk y t k + ǫ t. (3.80) Satz 3.2 (Partielle Autokorrelation PACF) Der Koeffizient φ kk ist gleich der Korrelation zwischen und y t E(y t y t 1,..., y t k+1 ) (3.81) y t k E(y t k y t 1,..., y t k+1 ). (3.82) Beweis: Gourieroux und Montfort (1997), Kap Dies heißt, daß die Zwischenwerte schon zur Prognose von y t und y t k herangezogen wurden und nur die verbleibende Restkorrelation berechnet wird. Bei einem AR(p)-Prozeß ist also φ kk =0für k>p.manschätzt daher die Koeffizienten in y t = φ 11 y t 1 + ǫ t y t = φ 21 y t 1 + φ 22 y t 2 + ǫ t... y t = φ k1 y t 1 + φ k2 y t φ kk y t k + ǫ t. Im Falle eines AR(p)-Prozesses muß ˆφ kk 0für k>pgelten. Die partielle Autokorrelation PACF nimmt also ab einer bestimmten Zeitverschiebung auf Null ab (bis auf Schätzfehler). Beispiel 3.7 (Partielle Autokorrelation) In Abb. (3.1) istrechts das geschätzte Korrelogramm SACF und die geschätzte partielle Autokorrelation SPACF (sample partial autocorrelation function) eines AR(1)-Prozesses zu sehen. Letztere fällt nach Lag 1 fast auf Null ab, während die geschätzte Autokorrelation exponentiell gegen Null geht. In Abb. (3.3)isteinAR(2)-Prozeß (links) und die zugehörige SACF bzw. SPACF zu sehen. Auch hier fällt die SPACF nach Lag 2 sofort auf Null ab, während die SACF oszillatorisch langsam gegen Null geht. Dieses Verhalten ist optisch leichter

8 40 KAPITEL 3. STOCHASTISCHE DIFFERENZEN-GLEICHUNGEN zu erkennen, besonders wenn Schätzfehler im Spiel sind. Übung: Simulieren Sie AR-Prozesse und stellen Sie die S(P)ACF graphisch dar. Achten Sie auf die statistischen Fluktuationen (Schätzfehler). In folgenden werden die PACF s für den AR(1)- und AR(2)-Prozeß explizit berechnet. Man findet: AR(1): E(y t y t 1 )=γ 1 = φ 11 γ 0 φ 11 = γ 1 /γ 0 = ρ 1 = φ φ kk =0,k 2 AR(2): γ 1 = φ 11 γ 0 φ 11 = ρ 1 γ 1 = φ 21 γ 0 + φ 22 γ 1 ; ρ 1 = φ 21 ρ 0 + φ 22 ρ 1 φ 21 =(1 φ 22 )ρ 1 γ 2 = φ 21 γ 1 + φ 22 γ 0 ; ρ 2 = φ 21 ρ 1 + φ 22 ρ 0 φ 22 = ρ 2 ρ ρ 2 1 φ kk =0,k 3 I.a. gelten wieder die Yule-Walker-Gleichungen φ(b)γ k =0oderexplizit γ k φ k1 γ k 1 φ k2 γ k 2... φ kk γ k k = 0 ρ k φ k1 ρ k 1 φ k2 ρ k 2... φ kk ρ k k = 0;k =1,..., k. Dies entspricht der Matrix-Gleichung 1 ρ 1 ρ 2... ρ k 1 φ k1 ρ 1 ρ 1 1 ρ 1... ρ k ρ 1... = ρ 2... ρ k φ kk ρ k A x = b (3.83) Auflösen nach x ergibt dann die gesuchten Koeffizienten φ kk.dieoben abgeleiteten Formeln ergeben sichalsspezialfälle für k =1und k =2(Übung). Wie schon erwähnt, müssen bei einem AR(p)-Prozeß alle partiellen Autokorrelationen für k > p verschwinden, da nur p verzögerte Werte vorliegen. Man hat also folgende Situation: ACF: geht bis,gedämpfte Schwingungen und abklingende Exponential- Terme λ k PACF: 0für k>p

9 3.3. ACF UND PACF 41 Wie sieht nun die Sache bei einem MA(q)-Prozeß aus? In Abschnitt (3.1.3) wurde schon gezeigt, daß bei einem MA(q) die Autokorrelation ab k>qexakt auf Null abfällt. Anderererseits konnte gezeigt werden, daß dies einem AR( )-Prozeß entspricht, so daß die PACF nicht ab einem Wert k max exakt auf Null abfallen kann. Es ergibt sich also eine duale Situation im Vergleich zum AR-Prozeß. Etwas genauer findet man beim MA(q): ρ k = θ k + θ k+1 θ θ q θ q k,k=1,..., q 1+θ θq 2 (3.84) ρ k = 0,k>q. (3.85) Andererseits ergibt sich durch Invertieren die AR( )-Darstellung θ(b) 1 y t = ǫ t, (3.86) so daß die PACF nicht Null sein kann ab einem Wert k max. Zusammenfassend gilt also beim MA(q): ACF: 0für k>q PACF: geht bis, gedämpfte Schwingungen und abklingende Exponential-Terme λ k. Leider ist im Falle der ARMA-Modelle kein klares Muster erkennbar, da diese, wie schon gezeigt, sowohl als AR( )als auch MA( )-Modelle dargestellt werden können. Daher fällt in diesem Fall weder die ACF noch die PACF exakt auf Null ab. Beispiel 3.8 (ACF und PACF bei MA- und ARMA-Modellen) Im letzten Beispiel wurde schon das AR(1) und AR(2)-Modell und das zugehörige Verhalten der (P)ACF diskutiert. Bild (3.4) zeigt einen simulierten MA(1)-Prozeß (links) und die zugehörigen geschätzten ACF und PACF (rechts). Deutlich ist zu sehen, daß die Autokorrelation nach Lag 1 auf Null abfällt, während die SPACF aufgrund der AR( )- Darstellung nur langsam verschwindet. Als Gleichung wurde y t = ǫ t 0.9ǫ t 1 mit Startwert y 0 =0genommen. EVIEWS-Menü-Befehle: File/Open/Workfile/armasimul.wf1 (öffne Workfile) File/Open/Program/ma1.prg (Simulations-Programm ma1 öffnen) Program: ma1/run/ (simuliere die Zeitreihe ma1) Series: ma1/view/graph/line (Linien-Graphik von ma1)

10 42 KAPITEL 3. STOCHASTISCHE DIFFERENZEN-GLEICHUNGEN Abbildung 3.4: Simulierter Pfad und geschätzte (partielle) Autokorrelation eines MA(1)-Prozesses. Series: ma1/view/correlogram (SACF und SPACF von ma1) Das Simulationsprogramm ma1 hat die Form: rndseed %0 series ma1 =%1 series z = nrnd series ma1(1) =%2 + %3*z(1) + %4*z(0) delete z Diesbedeutet, daß zuerst eine random seed den Zufallsgenerator nrnd (normalverteilte Zufallszahlen) initialisiert. Bei einer Wiederholung des Programms erhält man dann die gleiche Zeitreihe. Im gezeigten Beispiel wurde eine seed von benutzt. Zum Vergleich noch die Simulation eines ARMA(1,1) der Form y t = 0.5y t 1 + ǫ t 0.9ǫ t 1 mit Startwert y 0 =0und gleichen Zufallszahlen (Bild 3.5). EVIEWS-Menü-Befehle: File/Open/Workfile/armasimul.wf1 (öffne Workfile)

11 3.3. ACF UND PACF 43 Abbildung 3.5: Simulierter Pfad und geschätzte (partielle) Autokorrelation eines ARMA(1,1)-Prozesses. File/Open/Program/arma11.prg (Simulations-Programm arma11 öffnen) Program: arma11/run/ (simuliere die Zeitreihe arma11) Series: arma11/view/graph/line (Linien-Graphik von arma11) Series: arma11/view/correlogram (ACF und PACF von arma11) Das Simulationsprogram arma11 hat die Form: rndseed %0 series arma11 =%1 series z = nrnd series arma11(1) =%2 + %3*arma11(0) +%4*z(1) + %5*z(0) delete z Auch jetzt fällt die SACF schnell auf Null ab, was nun auch für die SPACF gilt. Aufgrund der Darstellung (1 0.5B)(1 0.9B) 1 y t = ǫ t ( B +0.36B )y t = ǫ t sieht man, daß das AR( )-Polynom schneller als beim MA(1) gegen 0 abfällt und somit auch die PACF schneller verschwindet. Dort galt ja (1 0.9B) 1 y t = ǫ t

12 Übungsaufgabe

13 KAPITEL 4. ARMA-PROZESSE UND ERWEITERUNGEN Abbildung 4.1: ACF und PACF des ARMA(1,1)-Prozesses mit φ = 0.7 und θ = 0.8 Wir haben im Fall der MA-Prozesse bereits gesehen, dass jeder nicht-invertierbare Prozess ein Gegenstück besitzt, das über dieselbe Autokorrelationsstruktur verfügt wie der ursprüngliche Prozess, aber die geforderten Bedingungen für Invertierbarkeit erfüllt. Diese Eigenschaft erstreckt sich auch auf den MA-Teil des ARMA-Prozesses. Invertierbarkeit scheint also eine eher unproblematische Eigenschaft zu sein. Bezüglich der Stationarität erwartet uns eine angenehme Überraschung. Wir wissen, dass ein MA-Prozess immer stationär ist. Wir haben weiterhin das ARMA(1,1)-Modell in (4.6) als MA( )-Modell dargestellt. Die Bedingung für Stationarität ist also dieselbe, unter der der ARMA(1,1)-Prozess in MA- Form überführt werden kann. Eine kurze Inspektion von (4.5) zeigt, dass die kritische Bedingung φ < 1 ist, da sonst die geometrische Reihenentwicklung unzulässig wäre. Das entspricht aber genau der Stationaritätsbedingung des AR(1)-Modells. Es stellt sich heraus, dass diese Eigenschaft auch für ARMA(p,q)-Modelle gilt: Ein ARMA(p, q)-prozess ist genau dann stationär, wenn sein AR-Teil die Stationaritätsbedingung erfüllt. Das bedeutet konkret, die Wurzeln des AR-Teils müssen außerhalb des komplexen Einheitskreises liegen, oder anders herum, die inversen Wurzeln (inverted roots) müssen innerhalb des komplexen Einheitskreises liegen. Aufgabe 4.1 Zeigen Sie, dass die Autokovarianzfunktion mit Lag 1 im ARMA(1,1)-Modell durch gegeben ist. γ 1 = φγ 0 +θσ 2 72

14 KAPITEL 8. LÖSUNGEN Lösungen zu Kapitel 4 Lösung 4.1 γ 1 = σ 2 (ψ 1 + = σ 2 ( ) ( ) ψ j+1 ψ j = σ 2 φ+θ+(φ+θ) 2 φ 2k 1 j=1 ) φ+θ+φ(φ+θ) 2 φ 2k k=0 ( ) = φσ 2 1+ (φ+θ)2 +θσ 2 = φγ 1 φ 2 0 +θσ 2 j=1 = σ 2 ( φ+θ+ φ(φ+θ)2 1 φ 2 ) Lösung 4.2 φ(b)y t = θ(b)ǫ t (1 φb)y t = (1+θB)ǫ t = (1 φb)ǫ t y t = ǫ t Lösung 4.3 (ǫ t ) t=0,...,6 = {0,2,1, 1, 1, 1,2} l(0.5,0,0.5,1) = = Lösung 4.4 a) (1 φb) y t = ǫ t (1 φb)(1 B)y t = ǫ t (1 B φb +φb 2 )y t = ǫ t y t = (1+φ)y t 1 φy t 2 +ǫ t 156