1 Beispiel zur Methode der kleinsten Quadrate

Größe: px

Ab Seite anzeigen:

Download "1 Beispiel zur Methode der kleinsten Quadrate"

Karoline Fromm
vor 6 Jahren
Abrufe

1 1 Beispiel zur Methode der kleinsten Quadrate 1.1 Daten des Beispiels t x y x*y x 2 ŷ ˆɛ ˆɛ Σ φ Erklärung der Variablen t: Zeitindex x: unabhängige Variable y: abhängige Variable k: Anzahl der Koeffizienten (incl. Absolutglied) ŷ: Schätzwert der abhängigen Variable ɛ: Fehler ˆɛ: geschätzter Fehler β 0 : Parameter (Absolutglied) ˆβ 0 : geschätzter Parameter (Absolutglied) β 1 : Parameter (Steigung) ˆβ 1 : geschätzter Parameter (Steigung) Modellierung ökonomisches Modell: y t = β 0 + β 1 x t empirisches Modell: y t = β 0 + β 1 x t + ɛ t 1

2 ökonometrisches Modell: y t = ˆβ 0 + ˆβ 1 x t + ˆɛ t bzw. ŷ t = ˆβ 0 + ˆβ 1 x t 1.2 Berechnungen Mean Dependent var ȳ = 1 t y t ȳ = 1 5 ( ) = 25 5 = 5 Dies ist der Mittelwert von y. S.D. Dependent var σ 2 = 1 t 1 (y t ȳ) 2 σ 2 = ((3 5)2 + (3 5) 2 + (4 5) 2 + (6 5) 2 + (9 5) 2 ) = 26 4 = 6.5 σ = σ 2 = Dies ist die Standardabweichung von y. Berechnung der geschätzten Parameter Ziel der Methode der kleinsten Quadrate: min ˆɛ 2 t ˆɛ 2 t = (y t ŷ t ) 2 = (y t ˆβ 0 ˆβ 1 x t ) 2 Partielle Ableitungen: ˆɛ 2 t ˆβ 0 und ˆɛ 2 t ˆβ 1 ˆɛ 2 t ˆβ 0 = 2 (y t ˆβ 0 ˆβ 1 x t ) ( 1). = 0 2 ( 1) (y t ˆβ 0 ˆβ 1 x t ) = 0 (y t ˆβ 0 ˆβ 1 x t ) = 0 y t ˆβ0 ˆβ1 x t = 0 y t ˆβ 0 t ˆβ1 x t = 0 ȳ ˆβ 0 ˆβ 1 x = 0 ˆβ 0 = ȳ ˆβ 1 x : t 2

3 ˆɛ 2 t ˆβ 1 = 2 (y t ˆβ 0 ˆβ 1 x t ) ( x t ). = 0 2 ( 1) (y t ˆβ 0 ˆβ 1 x t ) x t = 0 (y t ˆβ 0 ˆβ 1 x t ) x t = 0 y t x t ˆβ0 x t ˆβ1 x t x t = 0 x t y t ˆβ0 x t ˆβ1 x 2 t = 0 x y ˆβ 0 x ˆβ 1 x 2 = 0 x y (ȳ ˆβ 1 x) x ˆβ 1 x 2 = 0 x y x ȳ + ˆβ 1 x x ˆβ 1 x 2 = 0 x y x ȳ = ˆβ 1 x 2 ˆβ 1 x 2 ˆβ 1 (x 2 x 2 ) = x y x ȳ ˆβ 1 = x y x ȳ (x 2 x 2 ) : t Für die Steigung der Geraden ergibt sich: ˆβ1 = = 3 2 = 1.5 Für das Absolutglied ergibt sich: ˆβ0 = ȳ ˆβ 1 x = = 0.5 Damit lautet die Gleichung: y t = ˆ ˆ 1.5 x t + ˆɛ t bzw. ŷ t = ˆ ˆ 1.5 x t Schätzwerte der abhängigen Variablen ŷ t = 0.5 ˆ ˆ x t ŷ 1 = 0.5 ˆ ˆ x 1 = 0.5 ˆ ˆ 1 = 2 ŷ 2 = 0.5 ˆ ˆ x 2 = 0.5 ˆ ˆ 2 = 3.5 ŷ 3 = 0.5 ˆ ˆ x 3 = 0.5 ˆ ˆ 3 = 5 ŷ 4 = 0.5 ˆ ˆ x 4 = 0.5 ˆ ˆ 4 = 6.5 ŷ 5 = 0.5 ˆ ˆ x 5 = 0.5 ˆ ˆ 5 = 8 Die Schätzwerte ŷ und die Originalwerte y stimmen i.d.r. nicht überein. Die Differenz sind die Residuen. Summe der Fehler ˆɛt = (y t ŷ t ) ˆɛ t = (3 2) + (3 3.5) + (4 5) + (6 6.5) + (9 8) = = 0 Die Summe der Fehler ist immer Null. 3

4 Summe der Residuenquadrate: sum squared resid ˆɛ 2 t = (y t ŷ t ) 2 ˆɛ 2 t = (3 2) 2 +(3 3.5) 2 +(4 5) 2 +(6 6.5) 2 +(9 8) 2 = = 3.5 Die kleinstmögliche Summe der Residuenquadrate beträgt 3.5. Wenn ˆβ 0, ˆβ 1 anders gewählt werden, wird die Summe der Residuenquadrate größer. Standardfehler der Regression: s.e. of regression ˆσ 2 = 1 t k ˆɛ 2 t ˆσ 2 = ˆσ = ˆσ 2 = Der Standardfehler der Regression ist i.d.r: kleiner als der Standardfehler von y. Standardfehler der Koeffizienten: std. Error var( ˆ β 0 ) = ˆσ 2 x 2 t (x 2 x 2 ) var( β ˆ 0 ) = = var( β0 ˆ) = var( ˆ β 1 ) = ˆσ 2 1 t (x 2 x 2 ) var( β ˆ 1 1 ) = = var( β1 ˆ) = Der Standardfehler sagt etwas über die Genauigkeit der geschätzten Koeffizienten ˆβ 0, ˆβ 1 aus. Je kleiner der Standardfehler, desto genauer ist die Schätzung des Koeffizienten. Bei einer Irrtumswahrscheinlichkeit von α=5% liegen die wahren, aber unbekannten Koeffizienten β 0, β 1 mit 95%-Wahrscheinlichkeit im Intervall des geschätzten Koeffizienten abzüglich bzw. zuzüglich des doppelten Standardfehlers. Das Bestimmtheitsmaß R-squared R 2 = S ŷŷ S yy = 1 Sˆɛˆɛ S yy S yy = 1 t (y t ȳ) 2 S yy = 1 5 ((3 5)2 + (3 5) 2 + (4 5) 2 + (6 5) 2 + (9 5) 2 ) = 26 5 = 5.2 oder einfacher: S yy = y 2 ȳ 2 = 1 5 ( ) 5 2 = = 5.2 Sˆɛˆɛ = 1 t (ˆɛ t ˆ ɛ) 2 = 1 t (ˆɛ t 2 ) Sˆɛˆɛ = = 0.7 4

5 R 2 = = Das Bestimmtheitsmaß gibt an, wieviel Prozent der Varianz durch das Modell erklärt werden. Es nimmt Werte zwischen 0 und 1 an. Je näher der Wert bei 1 ist, desto besser die Erklärung. Das korrigierte Bestimmtheitsmaß adjusted R-squared R 2 = 1 t 1 t k (1 R2 ) R 2 = ( ) = = Das korrigierte Bestimmtheitsmaß berücksichtigt die Anzahl der Freiheitsgrade. Es kann auch negative Werte annehmen. t-statistic t-wert von ˆβ 0 : ˆβ 0 var( β0 ˆ) = = t-wert von ˆβ 1 : ˆβ 1 var( β1 ˆ) = = Ab einer gewissen Anzahl von Beobachtungen (mindestens 30) kann man die Werte der t-statistik mit dem kritischen Wert der N(0,1)-Verteilung vergleichen. Bei einer Irrtumswahrscheinlichkeit von α = 5 Prozent beträgt der kritische Wert ca. 2, wobei das Vorzeichen der t-statistik keine Rolle spielt. Ein Wert der t-statistik vom Betrag größer als zwei bedeutet einen signifikanten Einfluss dieser Variable auf y. Die Zahl null ist im Konfidenzintervall des geschätzten Koeffizienten abzüglich bzw. zuzüglich der doppelten Standardabweichung nicht enthalten. Alternativ kann der Wert der t-statistik mit Prob. verglichen werden (kritischer Wert für die Irrtumswahrscheinlichkeit). F-Statistic F = R2 t k 1 R 2 k 1 F = = = Vergleich mit kritischen Wert der F(k-1,t-k)-Verteilung bzw. mit Prob(f-statistic) Die F-Statistik überprüft, ob alle Koeffizienten mit Ausnahme des Absolutgliedes gleich Null sind bzw. ob das R 2 von Null verschieden ist. 5

6 Durbin-Watson stat 5 d = (ˆɛ t ˆɛ t 1 ) 2 t=2 5 (ˆɛ t ) 2 t=1 d = ( 0.5 1)2 +( 1 ( 0.5)) 2 +( 0.5 ( 1)) 2 +(1 ( 0.5)) ( 0.5) 2 +( 1) 2 +( 0.5) ) d = ( 1.5)2 +( 0.5) ( 0.5) 2 +( 1) 2 +( 0.5) ) d = d = Die Durbin-Watson Statistik überprüft das Problem der Autokorrelation der Fehler zum Vorgänger bei statischen Modellen. Sie kann Werte zwischen 0 und 4 annehmen. Ein Wert nahe bei 2 spricht gegen das Problem der Autokorrelation. 1.3 EViews-Ausdruck ================================= obs X Y ================================= ================================= Dependent Variable: Y Method: Least Squares Sample: 1 5 Included observations: 5 Variable CoefficientStd. Errort-Statistic Prob. C X R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criteri Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic)

Ähnliche Dokumente

Übung zur Empirischen Wirtschaftsforschung V. Das Lineare Regressionsmodell

Übung zur Empirischen Wirtschaftsforschung V. Das Lineare Regressionsmodell Universität Ulm 89069 Ulm Germany Dipl.-WiWi Christian Peukert Institut für Wirtschaftspolitik Fakultät für Mathematik und Wirtschaftswissenschaften Ludwig-Erhard-Stiftungsprofessur Sommersemester 2010