Stationäre Zeitreihenmodelle

Transkript

1 Exemplarisch für parametrische Zeitreihenmodelle werden in diesem Kapitel autoregressive Prozesse und ARCH-Prozesse vorgestellt. Der autoregressive Prozess ist einer der einfachsten stationären Prozesse. Wir weisen nach, dass eine stationäre Lösung seiner definierenden Rekursionsgleichung existiert, sofern die Nullstellen seines zugehörigen charakteristischen Polynoms außerhalb des Einheitskreises liegen. Mithilfe des Ergodensatzes folgt die starke Konsistenz des Yule-Walker-Schätzers. Der ARCH-Prozess (autoregressive conditional heteroscedastic) ist ein nicht-linearer Prozess. Wir beweisen die Existenz einer stationären Lösung seiner definierenden Gleichung in Form einer explizit angegebenen Volterra-Reihe. Autoregressive Prozesse Motivation. Angenommen, man beobachtet n aufeinanderfolgende Werte X 1,...X n eines zentrierten stationären Prozesses und ist interessiert an der Vorhersage von X n+1. Gehen wir als Approximation davon aus, dass die endlichdimensionalen Verteilungen des stationären Prozesses gaußisch sind, so ist der im L 2 -Sinne beste Prädiktor linear, besitzt also eine Darstellung n X n+1 = a i X n+1 i. i=1 Darüberhinaus sind ε n+1 := X n+1 X n+1 und X n+1 unkorreliert (der Prädiktionsfehler steht senkrecht auf dem Prädiktor), und da beide normalverteilt auch unabhängig. Es folgt die Zerlegung X n+1 = X n+1 + ε n+1 n = a i X n+1 i + ε n+1, i=1 mit ε n+1 unabhängig von der voranstehenden Linearkombination. Je nach Zusammenhang könnte man vermuten, dass X n+1 hauptsächlich von Werten aus der nahen Vergangenheit abhängt, die Folge der Koeffizienten (a i ) also gegen Null konvergiert, oder sogar idealistisch 31

2 a i = 0 für alle i > p > 0. Man erhält X n+1 = p i=1 a ix n+1 i + ε n+1, mit Koeffizienten a 1,...,a p, die aus Gründen der Stationarität unabhängig von n sein müssen. Definition 4.1. (Autoregressiver Prozess) Sei (ε i ) i Z eine iid-folge von ZVA s mit E ε i <. Ein stationärer Prozess, welcher für alle t Z die Gleichung α j X t j = ε t (mit α 0 = 1) erfüllt, heißt autoregressiver Prozess der Ordnung p (AR(p)-Prozess). Die Frage ist, unter welchen Bedingungen an die Koeffizienten α 0,...,α p eine stationäre Lösung dieser Rekursionsgleichung existiert. Es wird sich herausstellen, dass die Existenz in Form einer Moving-Average-Darstellung verbunden ist mit dem Nullstellenverhalten des sog. charakteristischen Polynoms, punktweise definiert durch α(z) := p α jz j. In Vorbereitung auf die nächste Proposition folgendes Lemma 4.2. Sei (Z t ) t Z eine Folge von ZVA s mit sup t E Z t <. Ist (ψ j ) j Z eine absolut summierbare reelle Folge, so ist die Reihe X t = j Z ψ j Z t j f.s. absolut konvergent. Gilt zusätzlich sup t EZ 2 t <, so ist die Reihe auch L 2-konvergent und es gelten EX t = j Z ψ j EZ t j sowie EX s X t = j,k Z ψ j ψ k E(Z s j Z t k ). BEWEIS: Übungsaufgabe. Proposition 4.3. Sei (V t ) t Z eine stationäre Folge mit E V t <. Dann existiert eine fast sicher eindeutige stationäre Lösung von (4.1) α j X t j = V t, t Z, falls α(z) 0 für z 1, d.h. falls alle Wurzeln des charakteristischen Polynoms außerhalb der abgeschlossenen Einheitskreisscheibe liegen. Es gilt X t = ψ jv t j f.s. mit ψ j ρ j mit einem ρ < 1 sowie im quadratischen Mittel, falls EVt 2 endlich ist. 32

3 BEWEIS. Seien Y t := (X t,...,x t p+1 ), W t := (V t,0,...,0) und }{{} p-dim. α 1 α 2... α p A := Offenbar gilt (4.1) genau dann, wenn (4.2) Y t = AY t 1 + W t, t Z. Durch Entwicklung nach der ersten Zeile kann man ferner zeigen, dass det ( te p A ) = t p α ( 1/t ), die absoluten Eigenwerte λ j also strikt kleiner als 1 sind. Daraus folgt mithilfe der Singulärwertzerlegung A spec ρ für ein ρ < 1. Sei nun Ỹ n t := n A j W t j. Es gilt für die k-te Koordinate Ỹ n tk = n (Aj ) k1 V t j, und mit der Abschätzung Bx 2 B spec x 2 erhält man (A j ) k1 = e k Aj e 1 Cauchy- Schwarz e k 2 A j e 1 2 A j spec A j spec ρ j. Das vorangehende Lemma impliziert Ỹ t n Ỹt f.s. (Ỹt) t Z ist offensichtlich eine stationäre Lösung von (4.2) (Prop. 3.1). Umgekehrt folgt aus (4.2) für jede Lösung n 1 Y t = A j W t j + A n Y t n. Der erste Term konvergiert aber f.s. gegen Ỹt und der zweite im Falle einer stationären Lösung f.s. gegen 0, womit Ỹt = Y t f.s. und ψ j = (A j ) 11. Unter der zusätzlichen Voraussetzung EVt 2 < folgt die L 2 -Konvergenz mit Lemma 4.2. Die folgende Proposition beschreibt im Falle seiner Existenz das Spektralmaß von (X t ) t Z. Proposition 4.4. Sei (Z t ) t Z eine stationäre Folge mit EZ 2 t < und (a j) j Z eine absolut summierbare Folge, d.h. j Z a j <. Das Spektralmaß der stationären Folge (X t ) t Z mit X t := j Z a jz t j f.s. ist gegeben durch F X (dλ) = A(λ) 2 F Z (dλ) 33

4 mit sog. Transferfunktion A(.) := j a j exp(ij.). Existiert die Spektraldichte der Folge (Z t ) t Z, so auch die der Folge (X t ) t Z, und es gilt die Identität f X (λ) = A(λ) 2 f Z (λ). BEWEIS. Unter den gegebenen Voraussetzungen konvergiert die Reihe n j= n a jz t j fast sicher und in L 2 (Lemma 4.2). Wegen Proposition 3.1 ist (X t ) stationär. Ferner gilt cov (X t,x t+l ) = a j a k cov (Z t j,z t+l k ) j,k Z = = j,k Z Π a j a k Π exp ( iλ(l k + j) ) F Z (dλ) 2 exp(iλl) a j exp(iλj) F Z (dλ). Wegen der Eindeutigkeit des Spekralmaßes folgt dann F X (dλ) = A(λ) 2 F Z (dλ). j Z Bemerkung 4.5. Die Abbildung ( ) (Z t ) a j Z t j j heißt linearer Filter mit Transferfunktion A(.). Die Namensgebung wird plausibel, wenn man eine Folge (a j ) j Z mit Transferfunktion { 1 λ [λ0,λ A(λ) := 0 + ] 0 sonst betrachtet. Der so definierte Filter filtert dann gerade alle Frequenzen außerhalb von [λ 0,λ 0 + ] heraus. In der Regel muss man sich auf Filter mit α j = 0 für j < 0 und j > m beschränken und sucht dann solche α j, die eine gute Approximation an obiges A(λ) ergeben. Zusammenfassend aus den beiden vorangehenden Propositionen ergibt sich der nachstehende Satz 4.6. Sei (ε i ) i Z eine iid-folge mit Eε i = 0 und Eε 2 i = σ2. Liegen alle Wurzeln des charakteristischen Polynoms nachfolgender Rekursionsgleichung außerhalb des Einheitskreises, so hat die AR-Gleichung (4.3) α j X t j = ε t, t Z (α 0 = 1), eine f.s. eindeutig bestimmte ergodische Lösung der Form X t = ψ jε t j mit ψ j ρ j (d.h. eine MA( )-Darstellung). Für die Spektraldichte von (X t ) t Z gilt f(λ) = σ2 ( ) α exp(iλ) 2 σ 2 p = 1 exp(iλ) 2, 2π 2π z j wobei die z j die Nullstellen des charakteristischen Polynoms sind. 34

5 BEWEIS. Aus Proposition 4.3 folgt X t = ψ jε t j f.s. und in L 2 sowie aus Proposition 4.4 f ε (λ) = α ( exp(iλ) ) 2 f X (λ). Wegen f ε (λ) = σ 2 /(2π) und α(z) = p (1 z/z j) folgt die Form der Spektraldichte. Die Ergodizität folgt aus Proposition 3.1, da eine iid-folge ergodisch ist. Beispiel 4.7. Sei p = 2 und z 1,2 = r exp(±iλ 0 ), r > 1. Dann gilt ( α(z) = 1 1 )( r exp(iλ 0)z 1 1 ) r exp( iλ 0)z und = 1 2cos λ 0 z + 1 r r 2z2 f X (λ) = σ2 1 2π 1 1 r exp( i(λ λ 0 ) ) r exp( i(λ 0 λ) ) 2. Für r nahe bei 1 hat f(λ) ausgeprägte Spitzen an den Frequenzen ±λ 0, d.h. der Prozess hat eine starke periodische Komponente mit Frequenz λ 0. Yule-Walker-Schätzer Sei (X t ) t Z ein AR(p)-Prozess, d.h. stationäre (und ergodische) Lösung der Rekursionsgleichung (4.3). Dann erhält man sowie ( ) 0 = cov (ε t,x t k ) = cov α j X t j,x t k = c(k) + c(0) + c(k j)α j, (k = 1,...,p) c(j)α j = cov (ε t,x t ) = σ 2. Offenbar gelten die Beziehungen α 1 c(0) c(1)... c(p 1) α 2. = c(1) c(0)... c(p 2) α p c(p 1) c(p 2)... c(0) und σ 2 = c(0) + c(j)α j. 1 c(1) c(2). c(p) Mithilfe der Spekraldarstellung kann man zeigen, dass die Matrix ( c(k j) ) j,k=1,...,n strikt positiv definit und damit nicht-singulär ist (Übungsaufgabe). Ersetzt man nun jeweils auf 35

6 der rechten Seite alle vorkommenden Kovarianzen durch die in Kapitel 3 definierten empirischen Kovarianzen ĉ n (j) = 1 n n j X k X k+ j, erhält man Schätzer ( α 1, α 2,..., α p ) und σ 2 für die unbekannten Parameter. ( α 1, α 2,..., α p ) heißt Yule-Walker-Schätzer. Wegen ĉ n (j) c(j) für alle j f.s. (Birkhoff) folgen α k α k f.s. für k = 1,...,p und damit σ 2 σ 2 f.s. im Falle eines korrekt spezifizierten Modells. Bemerkung 4.8. Sofern der zugrundeliegende Prozess quadratintegrabel ist, konvergiert der Yule-Walker-Schätzer auch im missspezifizierten Modell f.s. es bleibt die wichtige Frage, wie sich die Größen α k, k = 1,...,p, dann interpretieren lassen, da parametrische Zeitreihenmodelle bis auf wenige Ausnahmen lediglich als Approximationen verstanden werden. ARCH-Prozesse Definition 4.9. (ARCH-Prozess) Ein stationärer Prozess (X t ) t Z heißt ARCH(p)-Prozess (autoregressive conditional heteroscedastic), falls gilt: (4.4) X t = σ t Z t, σt 2 = a 0 + a j Xt j 2, t Z. Hierbei seien (Z t ) t Z eine iid-folge mit EZ t = 0 und EZ 2 t = 1, und a i > 0 (i = 0,1,...,p) mit p a j = ρ < 1. ARCH-Prozesse werden häufig zur Modellierung der Volatilität bei Finanzzeitreihen verwendet. Bedingt auf die Vergangenheit σ(x t 1,X t 2,...) hat X t die Varianz σt 2, welche zeitlich veränderlich ist (daher conditional heteroscedastic). Es gilt Xt 2 = σt 2 Zt 2. Ersetzt man rekursiv σt 2 durch a 0 + p a jxt j 2, erhält man nachfolgende Reihenentwicklung. Satz Unter den oben genannten Bedingungen hat die ARCH-Gleichung (4.4) eine f.s. eindeutig bestimmte ergodische Lösung, welche gegeben ist durch (4.5) Xt 2 = a 0 Zt 2 + m t (k) mit (4.6) m t (k) = k=1 j 1,...,j k =1 a 0( k r=1a jr) k r=0 Z 2 t P r s=0 js, (j 0 = 0), wobei die obige Summe f.s. konvergent ist. (Man erhält X t = X 2 t sign(z t).) 36

7 Bemerkung Eine Reihenentwicklung der Form (4.5) nennt man Volterra-Reihe. BEWEIS. Wir weisen zunächst nach, dass die Reihe (4.5) f.s. absolut konvergent ist. Da alle Koeffizienten und ZVA s positiv sind, folgt dies aus der Endlichkeit ihres Erwartungswertes. Wegen EZ 2 t = 1, der Unabhängigkeit der Z t sowie dem Satz von Fubini folgt (4.7) EXt 2 = a ( ) k 0 + a 0 a j = a 0 ρ k <. k=1 Da (Z t ) t Z eine iid-folge ist, impliziert Prop. 3.1 Stationarität und Ergodizität von (X t ) t Z. Durch Einsetzen sieht man, dass (X t ) t Z eine Lösung der ARCH-Gleichung ist (man kann verhältnismäßig schnell die Beziehung p a jm t j (k)z 2 t = m t (k + 1) zeigen.). Für die Eindeutigkeit ist zu beweisen, dass jede mögliche Lösung (Y t ) t Z f.s. mit (X t ) t Z übereinstimmt. r-malige Anwendung der ARCH-Gleichung liefert mit Damit gilt V r (t) = Y 2 k=0 r 1 t = a 0 Zt 2 + m t (k) + V r (t) t rp l r<...<l 0 =t k=1 ( r ) a li 1 l i i=1 Zl 2 i. r 1 Yl 2 r i=0 X 2 t Y 2 t = U r (t) V r (t), wobei U r (t) = m t (k). Wegen EZt 2 = 1 und p a j = ρ gilt EU r (t) Cρ r für eine Konstante C > 0. Ferner sind Yl 2 r und r 1 i=0 Z2 l i stochastisch unabhängig (für i < r gilt l i > l r ). Damit folgt E(Yl 2 r 1 r i=0 Z2 l i ) = EYl 2 r, und man erhält EV r (t) = t rp l r<...<l 0 =t ( r i=1 k=r a li 1 l i ) EY 2 l r EY 2 l r ρ r. Anwendung der Markov-Ungleichung ergibt P(U r (t) > ε) C ρ r /ε für eine Konstante C > 0. Damit gilt P ( U r (t) V r (t) > ε ) <. r=1 Da ε > 0 beliebig war, folgt U r (t) V r (t) 0 f.s. nach dem Borel-Cantelli-Lemma, und Yt 2 = Xt 2 f.s. ist bewiesen. 37

8 38