Philipps Universität Marburg FB 02: Wirtschaftswissenschaften Abteilung Statistik c Prof. Dr. Karlheinz Fleischer FORMELSAMMLUNG.

Transkript

1 Philipps Universität Marburg FB 0: Wirtschaftswissenschaften Abteilung Statistik c Prof. Dr. Karlheinz Fleischer FORMELSAMMLUNG Ökonometrie Stand: 14. März 006 Inhaltsverzeichnis 1 Klassisches lineares Modell Annahmen Bedeutung der Exogenen für die Erklärung der Endogenen Eigenschaften des OLS Schätzers Kollinearität Anpassungsgüte Störtermvarianz Hypothesentest für einzelne Parameter Dummy Variable Fehlspezifikation Test von Teilparametervektoren Schätzung unter linearen Restriktionen Eigenschaften des Schätzers Test der Restriktionen Prognosen Eigenschaften des Residuenvektors Prognoseintervalle und Prognosebereiche

2 Formelsammlung Ökonometrie Das verallgemeinerte lineare Modell 1.1 GLS Schätzer Eigenschaften Autokorrelation Schätzverfahren bei Autokorrelation Test auf Autokorrelation Heteroskedastie Anhang A: Lineare Algebra 16 Anhang B: Statistik 17

3 Formelsammlung Ökonometrie 1 1 Klassisches lineares Modell Y t β 1 x 1t β k x kt + U t ; t 1,..., T Bezeichnung: t Messzeitpunkt oder Nummer der Messung), Y t Messwert der endogenen Variablen zum Zeitpunkt t, x it Wert der exogenen Variablen x i zum Zeitpunkt t, β 1,..., β k unbekannte) Regressionskoeffizienten, U t Wert der Störvariable zum Zeitpunkt t. Kurzschreibweise mit Matrizen: Y Xβ + U, mit Y Y 1. Y T, X x 11 x 1 x k 1 1 x k1 x 1 x x k 1 x k x 1T x T x k 1 T x kt β 1, β. β k, U U 1. U T. Weitere Modelle: Exponentialmodell: k β i x i +U Y ei1 Multiplikatives Modell: Y β 0 Beide Modelle lassen sich durch Logarithmieren in lineare Modelle überführen: Exponentialmodell: Multiplikatives Modell: ln Y }{{} : Y k i1 x β i i k β i x i + U. i1 V }{{} ln Y ln β 0 + k β }{{} i ln x i + ln : Y : β0 i1 }{{}}{{} V. : x : U i 1.1 Annahmen A 1) EU t ) 0 ; t 1,..., T Linearität) A ) VarU t ) σ ; t 1,..., T Homoskedastie) A 3) KovU t, U s ) 0 ; t, s 1,..., T ; s t keine Autokorrelation) A 4) X ist fest vorgegeben und hat Rang k. Manchmal: A 5) U t n0, σ ), für t 1,..., T für Tests und Konfidenzintervalle wichtig).

4 Formelsammlung Ökonometrie A 1) A 3) kurz: EU) 0 A1) VarU) σ I σ σ σ σ A, A3). Schätzung für β nach der Methode der kleinsten Quadrate KQ oder OLS) durch β X X) 1 X Y. Dabei ist X X x 1t x 1t x t x 1t x kt x t x 1t... x t x t x kt... x kt x 1t x kt x t x kt X Y x 1t Y t x t Y t. x kt Y t Spezialfall für das einfache Modell Y α + βx + U β s x y s x α Y β x r x y s y s x x t Y t T x Y x t T x 1. Bedeutung der Exogenen für die Erklärung der Endogenen Standardisierte Regressionskoeffizienten: β i s x i s y β i 1.3 Eigenschaften des OLS Schätzers β ist linear in Y Y 1,..., Y T ), da β X X) 1 X Y. Weiter gilt: E β) β Erwartungstreue) Var β 1 ) Kov β 1, β )... Kov β 1, β k ) Var β) σ X X) 1 Kov β, β 1 ) Var β )... Kov β, β k ) Kov β k, β 1 ) Kov β k, β )... Var β k ) EY ) Xβ β β + X X) 1 X U.

5 Formelsammlung Ökonometrie 3 Satz 1.1 Gauß Markov Theorem: Unter den Annahmen des klassischen linearen Regressionsmodells ist β ein BLU Schätzer oder ist BLUE best linear unbiased estimator ), d.h. er ist der beste Schätzer unter allen linearen und unverzerrten Schätzern. D.h. wiederum für jeden anderen linearen unverzerrten Schätzer β für β gilt: für beliebige a i R. k ) k ) Var a β i i Var a β i i i1 i1 Wir setzen: Ŷ : X β Û : Y Ŷ Y X β bzw. für die Daten ŷ X β und û y ŷ y X β. Die Komponenten û t von û heißen Residuen. Eigenschaften der Schätzgrößen: Aus den Normalgleichungen folgt: 1. X Û 0, also T x itût 0 und falls eine Konstante im Modell vorkommt, speziell Û t 0). Ŷ Y, wenn das Modell eine Konstante enthält. 3. Wir setzen P : XX X) 1 X, so dass gilt: ŷ X β P y und M I P. 4. P, M sind idempotent, d.h. P P P, M M M. 5. P, M sind symmetrisch P P, M M) und positiv semidefinit. 6. P M 0, M P 0, X P X, P X X, X M 0, MX Ŷ P Y, Û MY MU MÛ. Ŷ Û Falls U n0, σ I) ist, ist β multivariat normalverteilt, also β nβ, σ X X) 1 ). 10. VarÛ) σ M. Aber: Û ist nicht multivariat normalverteilt Rangabfall ), aber Ût ist als Linearkombination normalverteilter Zufallsvariablen) univariat normalverteilt. Û ist i.allg. nicht homoskedastisch und die Komponenten sind im allgemeinen korreliert.

6 Formelsammlung Ökonometrie β und Û sind unabhängig. Beachte: Die Komponenten von β sind i.allg. abhängig und ebenso die Komponenten des Residuenvektors. Kov 1. Es gilt: β i, β j ) r βi, βj Var β i ) Var β j ) 1.4 Kollinearität Falls Rg X X) < k ist, spricht man Kollinearität. In diesem Fall lassen sich die Parametervektoren nicht mehr eindeutig schätzen. 1.5 Anpassungsgüte Bestimmtheitsmaß in einem Modell mit einer Konstanten) R R y;x s ŷ s y Ŷt Y ) s û 1 Y t Y ) s y Ût 1 1 Y t Y ) Y MY T s y 1 Û MÛ T s y. mit den empirischen Varianzen s y 1 T s Ŷ 1 T s Û 1 T Y t Y ) 1 T Ŷt Y ) 1 T Ût 1 T Û Û Im einfachen linearen Modell Y α + βx + U gilt: Korrigiertes Bestimmtheitsmaß: R rx,y s x,y s xs. y R 1 1 R ) T 1 T k. Y t Y 1 T Y Y Y Ŷ t Y 1 T Ŷ Ŷ Y Da das Bestimmtheitsmaß bei Berücksichtigung zusätzlicher Variablen nie fallen kann, auch wenn die Variablen nichts erklären, bestraft man das Aufnehmen vieler Variablen. Beachte: Das korrigierte Bestimmtheitsmaß kann auch negative Werte annehmen. 1.6 Störtermvarianz σ Û Û T k T T k s ist ein erwartungstreuer Schätzer für Û σ. Damit erhält man einen Schätzer für die Varianz Kovarianz Matrix von β: Var β) σ X X) 1

7 Formelsammlung Ökonometrie 5 Unter der Annahme U n0, σ I) ist U σ M U σ Û Û T k) σ σ σ χ T k. Daraus lassen sich Tests für σ und Konfidenzintervalle ableiten: Prüfgröße: T T k) σ σ0 Û Û σ0. Vorgehen: H 0 : σ σ0 gegen H A: σ σ0 ) wird bei einer Irrtumswahrscheinlichkeit von α abgelehnt, falls entweder T Û Û T k) σ < χ α ) T k oder T Û Û σ 0 σ 0 σ 0 T k) σ σ 0 > χ T k 1 α ) ist. H 0 : σ σ0 gegen H A: σ < σ0 ) wird bei einer Irrtumswahrscheinlichkeit von α abgelehnt, falls T Û Û σ 0 T k) σ σ 0 < χ T k α) ist. H 0 : σ σ0 gegen H A: σ > σ0 ) wird bei einer Irrtumswahrscheinlichkeit von α abgelehnt, falls T Û Û σ 0 T k) σ σ 0 > χ T k 1 α) ist. Ein zweiseitiges 1 α Konfidenzintervall für σ ist [ ] T k) σ T k) σ χ ) T k 1 α ; χ α ) T k [ χ T k Û Û ) 1 α ; Û Û ] α ) χ T k Ein linksseitiges rechtsseitig begrenztes) 1 α Konfidenzintervall für σ ist ] ] ] T k) σ 0 ; Û Û ] χ T k α) 0 ; χ T k α) Ein rechtsseitiges linksseitig begrenztes) 1 α Konfidenzintervall für σ ist [ [ [ T k) σ Û Û [ ; + ; + 1 α) 1 α) χ T k χ T k 1.7 Hypothesentest für einzelne Parameter Unter den Annahmen des klassischen Regressionsmodells und der Annahme U n0, σ I) gilt wegen Eigenschaft 9, Eigenschaft 11 und der Verteilung der Störtermvarianz): T β i β i Var β i ) β i β i σ a ii Û Û T k)σ β i β i σ a ii t T k. Daraus ergeben sich die folgenden Tests hierbei ist a ii das entsprechende Element in Matrix A X X) 1 ):

8 Formelsammlung Ökonometrie 6 H 0 H A Ablehnungsbereich β i βi o β i βi o T β i βi o σ a ii > t ) T k 1 α β i β o i β i < β o i T β i β o i σ a ii < t T k 1 α) β i β o i β i > β o i T β i β o i σ a ii > t T k 1 α) t Wert: Der Wert β i σ a ii der Prüfgröße für den Test von H 0 : β i 0. p Wert: Wahrscheinlichkeit, eine mindestens so extreme Stichprobe zu ziehen, wie die vorliegende bzgl. der gewählten Nullhypothese), d.h. bei beobachtetem t Wert t gilt H 0 : β i 0): p P β ) i σ a ii > t P T > t ). Ist α > p, lehne H 0 ab, ist α p, lehne H 0 nicht ab. Zweiseitiges 1 α) Vertrauensintervall für β i : [ β i t T k 1 α ) σ a ii }{{} Var β) ; β i + t T k 1 α ) σ ] a ii Rechtsseitiges linksseitig begrenztes) 1 α) Vertrauensintervall für β i : [ β i t T k 1 α ) σ [ a ii ; + Linksseitiges rechtsseitig begrenztes) 1 α) Vertrauensintervall für β i : ] ; β i + t T k 1 α ) σ ] a ii 1.8 Dummy Variable Manchmal vermutet man bei verschiedenen Gruppen von Untersuchungseinheiten verschiedene Regressionskurven, etwa Unterschiede bei Männern und Frauen oder auch saisonale Unterschiede. Modelle lassen sich hierbei mit Hilfe von Dummy Variablen 0 1 Variablen) formulieren. Wenn man im Modell k Y β i x i + U i1 vermutet, dass sich die Parameter β 1,..., β g bei Männern und Frauen unterscheiden, verwenden wir folgende Dummies: x M x F { 1, wenn die Person ein Mann ist, 0, wenn die Person eine Frau ist. { 0, wenn die Person ein Mann ist, 1, wenn die Person eine Frau ist.

9 Formelsammlung Ökonometrie 7 Beachte: x M + x F 1. Damit formuliert man ein Modell mit potenziell unterschiedlichen Parametern durch oder Y g i1 Y β 1) i g i1 x i x M }{{} x 1) i β 0) i x i + + g i1 g i1 β 1) i β ) i x i x F }{{} x ) i x i x M }{{} x 1) i + + k ig+1 k ig+1 β i x i + U β i x i + U Im 1. Fall ist β 1) i der Männereffekt und β ) i der Fraueneffekt. Im. Fall ist β 0) i der Fraueneffekt und β 0) i + β 1) i der Männereffekt. Hier ist β 1) i der Unterschied zwischen Männer und Fraueneffekt. Bei saisonalen Schwankungen ist etwa für jedes Quartal ein Dummy einzuführen und entweder die 4 Quartalseffekte ins Modell aufzunehmen oder die Originalvariable und 3 der Dummys. 1.9 Fehlspezifikation Von Fehlspezifikation spricht man, wenn man ein falsches Modell verwendet, d.h. wichtige erklärende Variable vergessen hat, unwichtige Variable, die nichts erklären, überflüssigerweise im Modell berücksichtigt hat oder beides) oder gar einen falschen Modelltyp verwendet. Im 1. Fall wichtige Variable vergessen) gelten für die Störvariable U die Annahmen nicht! In einem fehlspezifizierten Modell wird die Störtermvarianz tendenziell überschätzt, d.h. E σ ) σ. Parameterschätzungen: Im Modell Y Xβ + W γ + U gilt für die OLS Schätzung der Parameter Beachte zur Schätzung: β X M W X) 1 X M W y β X M W X) 1 X M W y γ W M X W ) 1 W M X y M X I XX X) 1 X M W I W W W ) 1 W X I W W W ) 1 W )X) 1 X I W W W ) 1 W )y 1 X X X W )W W ) 1 W X)) X y X W W W ) 1 W y)

10 Formelsammlung Ökonometrie 8 γ W M X W ) 1 W M X yw I XX X) 1 X )W ) 1 W I XX X) 1 X )y 1 W W W X)X X) 1 X W )) W y W XX X) 1 X y) 1 W W ) X W ) X X) 1 X W )) W y) X W ) X X) 1 X y)) Berechne die Schätzungen mit Hilfe von X X), W W ), X W ), X y), W y), W X) X W ) Vorteil: kleinere Matrizen!). Zudem gilt auch falls β oder γ bereits berechnet wurden. Wir vergleichen die beiden Modelle β X X) 1 X y W γ) γ W W ) 1 W y X β) M 1) Y Xβ + U und M ) Y Xβ + W γ + U OLS Schätzer von β im Modell M 1) sei b, OLS Schätzer im Modell M ) seien β und γ. Fall 1: Modell M ) wahr, wir verwenden aber M 1). b ist i.allg.) verzerrt, d.h. Eb) β. Varb) σ X X) 1, also gleiche Varianz Kovarianz Matrix wie bei wahrem Modell M 1). Allerdings wird σ mit dem falschen Modell verzerrt geschätzt i.allg. zu hoch). Fall : Modell M 1) wahr, wir verwenden aber M ). β ist erwartungstreuer Schätzer für β. Var β) Varb) ist positiv semidefinit, d.h. die Varianzen sind größer die Schätzungen ungenauer) als bei Verwendung des korrekten Modells. Es gilt: Var β) σ X M W X) 1. Weitere Konsequenzen: Es gilt weiter für eine einzige Exogene w also W nur Spaltenvektor w) Var γ) T s W [ 1 σ 1 w M X w T s W )] σ T s W 1 R w;x ) σ, 1 Rw;X ) T w t w) wobei Rw;X das Bestimmtheitsmaß einer Regression von w auf die X Exogenen ist. 1 Der Faktor 1 Rw;X heißt Varianzinflationsfaktor kurz VIF). Er misst, wie stark die Exogene w von den anderen Exogenen linear) abhängt, also wie groß der Grad der Multikollinearität bei Aufnahme von w ins Modell ist.

11 Formelsammlung Ökonometrie 9 Übliche Empfehlungen: Keine Gefahr von Multikollinearität, wenn VIF 10 ist; eine schärfere Forderung ist VIF 5. Zur Berechnung des VIF: R w;x kann als Bestimmtheitsmaß der Regression von w auf X berechnet werden oder über R w;x w M X w T s w w w w XX X) 1 X w T s w 1.10 Test von Teilparametervektoren Zu testen H 0 : γ γ 0 gegen H A : γ γ 0 für einen Teilvektor γ im Modell Es gilt: Y Xβ + W γ + U γ nγ, Var γ)) γ γ) Var γ) 1 γ γ) χ g, wobei g die Anzahl der Parameter Komponenten) in γ ist. Prüfgröße F T k g γ γ 0) [W M X W ] γ γ 0 ) Û Û F g;t k, wenn H 0 wahr ist. Vorgehen: Lehne H 0 ab, wenn F > F g;t k 1 α) Schätzung unter linearen Restriktionen Lineare Restriktion sei Hβ h für eine g k Matrix H mit RgH) g Anzahl der Restriktionen) β R β OLS X X) 1 H [HX X) 1 H ] 1 H β OLS h). Nachweis: Substitution oder Lagrange Ansatz Eigenschaften des Schätzers Unter den Annahmen des klassischen linearen Modells gilt E β R ) β X X) 1 H [HX X) 1 H ] 1 Hβ h), also bei Gültigkeit der Restriktionen Hβ h: E β R ) β und auch Var β R ) Var β OLS ) σ X X) 1 H [HX X) 1 H ] 1 HX X) 1.

12 Formelsammlung Ökonometrie Test der Restriktionen Unter den Annahmen A 1) A 5) des klassischen linearen Modells und Hβ h gilt: S R S)T k) gs S R S g S T k 1 g H β OLS h) [ HX X) 1 H ] 1 H β OLS h) σ F g;t k. Dabei bedeuten: Û OLS Y X β OLS S Û OLSÛOLS Û R Y X β R S R Û RÛR σ S T k. Vorgehen: Lehne H 0 : Hβ h ab, wenn S R S)T k) gs > F g;t k 1 α) ist. Spezialfälle: Regressions F Test: H 0 : β β 3... β k 0, β 1 Koeffizient der Konstanten. Vorgehen: Lehne H 0 ab, wenn S R S k 1 S T k R 1 R T k k 1 > F k 1;T k1 α). Hier gilt: S R T s y. Test auf Strukturbruch Chow/Schneeberger): H 0 : Die Koeffizienten β 1,..., β g der Exogenen x 1,..., x g sind in den beiden Perioden t 1,..., T 1 und t T 1 + 1,..., T identisch, d.h. β 1) i β ) i für i 1,..., g gegen H A : β 1) i β ) i für mindestens ein i 1,..., g. Formulierung als Test linearer Restriktionen mit neuen Exogenen: x 1) it x ) it { xit t 1,..., T 1 0 t T 1 + 1,..., T { 0 t 1,..., T1 x it t T 1 + 1,..., T i 1,..., g i 1,..., g Modell Y g i1 β 1) i x 1) i + g i1 β ) i x ) k i + ig+1 β i x i + U. Hinweis: Im Fall g k alle Parameter können sich unterscheiden) können die Parameter für das unrestringierte Modell, d.h. bei potenziell unterschiedlichen Parametern in den beiden

13 Formelsammlung Ökonometrie 11 Zeiträumen, hier auch über zwei einzelne Regressionen berechnet werden für jeden Teilbereich eine eigene Regression). Dies geht nicht, wenn einige Parameter in beiden Perioden denselben Wert haben. Test von Hβ h mit h 0 und der g k + g) Matrix H Lehne H 0 ab, wenn S R S)T k g) gs > F g;t k g 1 α) ist. 1.1 Prognosen X f sei eine g k Datenmatrix von Werten der k Exogenen für g neue Messpunkte. Als Prognose für den Endogenenvektor Y f wie auch für EY f ) zu diesen Messpunkten verwendet man Ŷ f X f β OLS. Es gilt: EŶf ) X f β und VarŶf ) X f σ X X) 1 X f. Es sei f Y f Ŷf der Residuenvektor für die neuen Messpunkte Eigenschaften des Residuenvektors Für die Zufallsvariable f Y f Ŷf gilt: Ef) 0 Varf) σ X f X X) 1 X f + I g ) VarX f β) + VarU f ). U f bezeichnet den Störtermvektor für die Prognosezeitpunkte. Gelten die Annahmen des linearen Modells einschließlich der Normalverteilungsannahme für alle T + g Messpunkte, dann gilt für f Y f Ŷf : f Varf) 1 f f [I g + X f X X) 1 X f ] 1 f σ χ g, f Varf) 1 f f [I g + X f X X) 1X f ] 1 f g σ g σ F g;t k, f n 0, )) σ X f X X) 1 X f + I g,

14 Das verallgemeinerte lineare Modell Prognoseintervalle und Prognosebereiche Aus den letzten Eigenschaften folgt f P Varf) 1 f Û Û T k g F g;t k 1 α) ) 1 α Diese Eigenschaft kann genutzt werden, um einen Bereich anzugeben, in dem der Prognosevektor mit Wahrscheinlichkeit 1 α liegen wird, im Fall g 1 Prognose für einen Zeitpunkt) ein sogen. Prognoseintervall. Die Menge aller Punkte y f, für die die folgende Ungleichung gilt: f Varf) 1 f Û Û T k g Y f Ŷf ) [I g + X f X X) 1 X f ] 1 Y f Ŷf ) g σ F g;t k 1 α) heißt Prognosebereich, im Fall g 1 Prognoseintervall. Für g 1 ergibt sich wegen t T k 1 α ) F 1;T k 1 α) für α < 0.5) als zweiseitiges) 1 α) Prognoseintervall für den Wert Y f der Endogenen [Ŷ f t T k 1 α ) ) σ 1 + X f X X) 1 X f ; Ŷf + t T k 1 α ) ) σ ] 1 + X f X X) 1 X f. Für g 1 lassen sich auch einseitige Prognoseintervalle bestimmen. Rechtsseitiges linksseitig begrenztes) 1 α Prognoseintervall für Y f : [ [ ) Ŷ f t T k 1 α) σ 1 + X f X X) 1 X f ; + und linksseitiges rechtsseitig begrenztes) 1 α Prognoseintervall ] ) ; Ŷf + t T k 1 α) σ ] 1 + X f X X) 1 X f. Das verallgemeinerte lineare Modell Wir unterstellen jetzt das lineare Modell wobei EU) 0, VarU) Σ σ V gelte. Y Xβ + U,.1 GLS Schätzer β GLS X Σ 1 X) 1 X Σ 1 y.

15 Das verallgemeinerte lineare Modell 13. Eigenschaften E β GLS ) β Var β GLS ) X Σ 1 X β GLS ist BLU. ) 1.3 Autokorrelation Autokorrelation liegt vor, falls VarU) keine Diagonalmatrix ist. Wir unterstellen einen autoregressiven Prozeß 1. Ordnung: U t ρu t 1 + ɛ t, t 1,..., T, wobei die Größen ɛ t jetzt die Annahmen des klassischen linearen Regressionsmodells für die Störterme U t erfüllen sollen..3.1 Schätzverfahren bei Autokorrelation Man transformiert das Modell durch Multiplikation der Beziehung Y Xβ + U von links mit 1 ρ ρ A 0 ρ ρ 1 OLS angewendet auf dieses transformierte Modell liefert den GLS Schätzer. Durch Transformation mit ρ ρ 0 0 B ρ 1 erhält man einen Schätzer, der eine Beziehung weniger berücksichtigt. OLS für das solchermaßen transformierte Modell liefert einen BLU Schätzer, nicht aber für das Ausgangsmodell. Problem: ρ ist unbekannt. Hildreth Lu Verfahren: Berechne für das mit B transformierte Modell für das Raster ρ 0.999, 0.9, 0.8,..., 0.9, mit OLS die Parameterschätzungen für β. Wähle ein neues, feineres Raster um den Punkt ρ, für den die Residuenquadratsumme minimal war, usw.

16 Das verallgemeinerte lineare Modell 14 Cochrane Orcutt Verfahren: Betrachte die beiden Beziehungen y t ρy t 1 x t ρx t 1 )β + ɛ t, t,..., T u t y t x t β ρu t 1 + ɛ t, t,..., T. Iterationsverfahren: Starte mit ρ 0. Schätze aus der 1. Gleichung mit OLS β. Schätze aus der. Gleichung mit OLS ρ, wobei für u die Residuen eingesetzt werden. Setze diesen Schätzwert in Gleichung 1 und schätze erneut β usw..3. Test auf Autokorrelation Der klassische Test auf Autokorrelation ist der Durbin Watson Test. Die Teststatistik lautet d Ût Ût 1) t. Ût Für große Stichproben gilt näherungsweise d r. Die Verteilung der Durbin Watson Statistik d hängt von der Datenmatrix X ab. Es gibt aber zwei Zufallsgrößen d l und d u so, daß d l d d u für alle Datenmatrizen X gilt, und deren Verteilungen nur von k und n abhängen. Die Quantile dieser Zufallsgrößen sind tabelliert. Die Nullhypothese lautet H 0 : ρ 0. Vorgehen: H A : ρ > 0: Falls d < d l,α ist, lehne H 0 ab. Falls d > d u,α ist, lehne H 0 nicht ab. Falls d l,α d d u,α, keine Entscheidung; genauere Untersuchungen nötig. H A : ρ < 0: Falls 4 d < d l,α ist, also d > 4 d l,α, lehne H 0 ab. Falls 4 d > d u,α ist, also d < 4 d u,α, lehne H 0 nicht ab. Falls d l,α 4 d d u,α, also 4 d u,α d 4 d l,α, keine Entscheidung; genauere Untersuchungen nötig.

17 Das verallgemeinerte lineare Modell 15 H A : ρ 0: Falls d < d l, α oder d > 4 d l, α ist, lehne H 0 ab. Falls d u, α < d < 4 d u, α, lehne H 0 nicht ab. Falls d l, α d d u, α oder 4 d u, α Untersuchungen nötig. d 4 d l, α, keine Entscheidung; genauere d l,α bezeichne das α Quantil der Zufallsgröße d l und d u,α das der Zufallsgröße d u..4 Heteroskedastie Heteroskedastie liegt vor, falls Σ eine Diagonalmatrix ist, bei der in der Hauptdiagonalen nicht überall dieselben Werte stehen. Falls V bekannt ist, transformiert man das Modell Y Xβ +U in V 1 Y V 1 Xβ +V 1 U. V 1 1 ist eine Diagonalmatrix, bei der an der t ten Stelle der Diagonale das Element zt V an der t ten Stelle z t steht. Tests auf Heteroskedastie: steht, falls in Es mögen zwei Teilstichproben mit den Umfängen T 1 > k und T T 1 > k vorliegen, für die gilt Unter der Nullhypothese H 0 : σ 1 σ σ ist Y 1 X 1 β 1 + U 1 ; u 1 n0, σ 1I 1 ) Y X β + U ; u n0, σ I ). F Û 1Û1 T 1 k Û Û T k F T k;t 1 k. H 0 wird also abgelehnt, falls F < F T k;t 1 k α ) oder F > F T k;t 1 k1 α ) ist. Goldfeld Quandt Test: Falls sich im Fall einer gültigen Alternative die Meßpunkte nach der Größe von VarU t ) ordnen lassen, dann läßt sich der Goldfeld Quandt Test durchführen: Sortiere die Meßwerte nach der Größe von VarU t ) und streiche in der Mitte m Werte so, daß T m > k ist. Berechne anschließend die Varianzschätzungen σ 1 1 T m Û k 1Û1 für die Meßpunkte mit den kleinsten Varianzen und σ 1 Û T m Û für die Meßpunkte mit den größten Varianzen. k Unter H 0 : σ 1 σ σ gilt F σ σ 1 F T m k; T m k. H 0 wird abgelehnt, falls F > F T m k; T m k 1 α) ist.

18 Anhang A: Lineare Algebra 16 Anhang A: Lineare Algebra Definition 1.1: Eine Matrix heißt quadratisch, falls sie genauso viele Zeilen wie Spalten besitzt. Vertauscht man in einer Matrix A Zeilen und Spalten, so heißt die neue Matrix die transponierte Matrix von A, in Zeichen: A oder A t ). Eine Matrix heißt symmetrisch, falls A A gilt. Eine quadratische Matrix A heißt reguläre Matrix, falls es eine Matrix A 1 gibt, so daß AA 1 A 1 A I gilt. A 1 heißt die inverse Matrix zu A. Bemerkung: a) Es gelten folgende Rechenregeln: AB)C ABC) A + B) A + B AB) B A A 1 ) 1 A AB) 1 B 1 A 1, falls A und B regulär sind. ca) 1 1 c A 1 ) 1 1 c A ca 1 b) A A ist stets symmetrisch und positiv semidefinit, denn A A) A A und x A Ax Ax) Ax) Ax 0. Definition 1.: Ist für eine Matrix A x Ax 0 für alle x R n, dann nennt man A und die quadratische Form positiv semidefinit. Ist x Ax > 0 für alle x 0, dann heißt A positiv definit. Ist x Ax 0 für alle x R n, dann heißt A negativ semidefinit, ist x Ax nur 0 für x 0, dann heißt A negativ definit. Gibt es Vektoren x und y, für die x Ax > 0 ist und y Ay < 0, dann heißt A indefinit. Gilt für eine quadratische Matrix A: AA A, dann heißt A idempotent oder Projektionsmatrix. Bemerkung: a) Es läßt sich zeigen: Falls A eine symmetrische Matrix ist, existieren eine Orthogonalmatrix P und eine Diagonalmatrix D so, daß gilt: A P DP. In der Diagonalmatrix stehen gerade die Eigenwerte von A entsprechend ihrer Vielfachheit) und die Spalten von P sind gerade die normierten Eigenvektoren zu den

19 Anhang B: Statistik 17 Eigenwerten in derselben Reihenfolge, in der die Eigenwerte in D aufgeführt sind. Tritt ein Eigenwert mehrfach auf, so muß eine Orthonormalbasis des Eigenraums zu diesem Eigenwert genommen werden. Dies wurde bereits oben für idempotente symmetrische Matrizen angegeben. Dort sind die Eigenwerte 1 oder 0 und somit die Matrix D von der Form I r,n. Ist die Matrix A darüber hinaus positiv semidefinit, so sind alle Eigenwerte nichtnegativ und man kann D 1 gilt D 1 D 1 bilden, indem man von allen Einträgen in D die Wurzel zieht. Dann D und mit B P D 1 P auch A P D 1 P )P D 1 P ) BB BB B B. Ein derartiges B wird auch als A bezeichnet. Falls A P DP und A invertierbar ist, gilt: A 1 P DP ) 1 P 1 D 1 P 1 P 1 D 1 P P D 1 P. D 1 ist die Matrix, die an allen Diagonalelementen, an denen ein Wert d ii steht, den Wert 1 d ii enthält. Der Wert 0 tritt in der Diagonale nicht auf, sonst wären D und A nicht invertierbar!) Falls A symmetrisch und positiv definit ist also auch invertierbar), gilt A BB P D 1 P )P D 1 P ) und A 1 CC P D 1 P )P D 1 P ). Dann gilt auch BC P D 1 P P D 1 P P P I CB. Insbesondere gilt AA 1 A I A 1 A A 1. Da B symmetrisch und positiv definit ist, gibt es eine Basis aus orthonormalen Eigenvektoren. Diese Eigenvektoren sind dann auch Eigenvektoren von A, da Ax BBx Bλx) λ x. Nur der Eigenwert ist gerade das Quadrat des Eigenwerts von B. Anhang B: Statistik Definition.1: Falls Eˆθ) θ gilt für alle möglichen θ, dann nennt man ˆθ einen erwartungstreuen Schätzer für θ. Bias Eˆθ) θ nennt man den Bias oder die Verzerrung. Falls Bias 0 ist, nennt man ˆθ einen verzerrten Schätzer. Ein erwartungstreuer Schätzer schätzt zumindest im Mittel richtig.

20 Anhang B: Statistik 18 Definition.: Ist ˆθ ein Schätzer für θ, dann heißt Eˆθ θ) ) der mean squared error, kurz: MSE, deutsch: mittlerer quadratischer Fehler. Für einen unverzerrten Schätzer ist der MSE gleich der Varianz des Schätzers. Allgemein gilt: Eˆθ θ) ) Eˆθ Eˆθ)) ) + Bias Varˆθ) + Bias. Satz.1: Wir nehmen an, X sei ein k 1 Vektor und Y ein l 1 Vektor von Zufallsvariablen. A sei eine m k Matrix und B eine n l Matrix. a sei ein m 1 Vektor und b ein n 1 Vektor. A, B, a und b seien nicht zufällig. Dann gilt: Ea + AX) a + AEX), Vara + AX) AVarX)A, Kova + AX, b + BY ) AKovX, Y )B B.1) Ist weiter X nµ, Σ) und Rg A) m k), dann ist V a + AX na + Aµ, AΣA ). Satz.: Falls M symmetrisch und idempotent ist mit r Rg M) und X n0, I), dann ist X MX χ verteilt mit r Freiheitsgraden. Insbesondere gilt dann: EX MX) Rg M). Als Konsequenz aus dem vorletzten Satz erhält man sofort die sogen. Standardisierung normalverteilter Zufallsvariablen: Satz.3: Falls X nµ, Σ) und Σ positiv definit ist, existiert Σ 1, so daß Σ 1 Σ 1 Σ 1 und es gilt Σ 1 X µ) n0, I). Satz.4: Unabhängigkeit linearer Formen) X 1,..., X n seien i.i.d. 0, σ ) normalverteilte Zufallsvariable und X X 1. X n. Weiter seien A eine k n Matrix, B eine r n Matrix, a ein k 1 Vektor, b ein r 1 Vektor und Y a + AX und Z b + BX zwei Vektoren von Zufallsvariablen. Y und Z sind unabhängig genau dann, wenn AB 0. Falls Rg A) < k ist, ist Y nicht multivariat normalverteilt. Ist aber die i te Zeile von A nicht die Nullzeile, dann ist Y i univariat normalverteilt.

21 Anhang B: Statistik 19 Bemerkung: Beachte, daß hier nicht gesagt wird, daß Y bei beliebiger Matrix A multivariat normalverteilt ist! Ist die i te Zeile die Nullzeile, dann besitzt Y i eine Einpunktverteilung. Ist die Zeile nicht die Nullzeile, so läßt sich mit Satz sofort einsehen, daß Y i univariat normalverteilt ist, indem man als Matrix A von Satz.4.1 nur die i te Zeile die als Nicht-Nullzeile vollen Rang 1 besitzt verwendet. Den Beweis dieses Satzes führt man einfacherweise über momenterzeugende Funktionen. Er wird in unserer Veranstaltung Statistik für Fortgeschrittene geliefert. Die Addition der Konstanten beeinflußt dabei nicht Abhängigkeit oder Unabhängigkeit.) Satz.5: Sei X nµ, Σ), wobei Σ nichtsingulär ist und X g Komponenten besitzt. Dann besitzt die quadratische Form X µ) Σ 1 X µ) eine χ Verteilung mit g Freiheitsgraden. Satz.6: Falls X nµ, Σ) und Σ nichtsingulär ist und A und B zwei symmetrische idempotente n n Matrizen sind, sind die quadratischen Formen X AX und X BX genau dann unabhängig, wenn AΣB 0 ist. Asymptotische Eigenschaften Wir nehmen also nun eine Folge von Schätzern ˆθ n, n N an. Definition.3: Ein Schätzer ˆθ für θ heißt schwach) konsistent, falls für jedes ɛ > 0 gilt: Man schreibt dann auch plim n ˆθn θ. lim P ˆθ n θ > ɛ) 0 n Diese Konvergenz besagt, daß die Wahrscheinlichkeit, daß man vom Parameter θ um mehr als ein beliebig kleines ɛ abweicht, mit wachsendem n gegen 0 geht. Zu unterscheiden von dieser schwachen Konsistenz ist: Definition.4: Gilt für eine Folge von Schätzern ˆθ n ) n so spricht man von starker Konsistenz. 1 S. Seite 18. P lim ˆθ n θ) 1, n

22 Anhang B: Statistik 0 Hier wird mehr gefordert, nämlich, daß die Menge der Stichproben, für die die Folge der Schätzwerte nicht gegen θ konvergiert, die Wahrscheinlichkeit 0 besitzt. Weitere Konvergenz/Konsistenzkonzepte sind: Definition.5: Gilt für die Folge der Schätzer ˆθ n so spricht man von MSE-Konsistenz. lim Eˆθ n θ) ) 0, n