Scatterplots emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Scatterplot Zwedmesoale Stchprobe köe als Pukte der Ebee dargestellt werde Läge ud Brete vo Veusmuschel PROC GPLOT; PLOT y*x; RUN; Descr_Scatter.sas Descr_Scatter1.sas 243 / 268
Das Regressosproblem emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) X, Y: Zufallsvarable (auch mehrdmesoal) Modell: Y = f(x, θ 1,..., θ p }{{} ) + ǫ, ǫ (0, σ2 ). Parameter zuf. Fehler f lear, bekat bs auf Parameter: leare Regresso f chtlear, bekat bs auf Parameter: chtleare Regresso f ubekat: chtparametrsche Regresso 244 / 268
Regresso f bekat (bs auf Parameter) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Aufgabe: m θ1,...,θ p E(Y f(x, θ 1,..., θ p )) 2 θ 1,..., θ p ubekat. Beobachtuge: (Y, X ). Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) 245 / 268
Regresso f bekat (bs auf Parameter) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Aufgabe: θ 1,..., θ p ubekat. m θ1,...,θ p E(Y f(x, θ 1,..., θ p )) 2 Beobachtuge: (Y, X ). durch arthmetsches Mttel ersetze 1 m θ1,...,θ p (Y f(x, θ 1,..., θ p )) 2 =1 Kleste Quadrat-Schätzug für θ 1,..., θ p (KQS) Least-Squares-Estmato (LSE) 245 / 268
Regresso f bekat (bs auf Parameter) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Lösug des Mmum-Problems 1 m θ1,...,θ p (Y f(x, θ 1,..., θ p )) 2 =1 zu mmerede Fukto dfferezere ud Null setze: 2 (Y f(x, θ 1,..., θ p )) f(x, θ 1,..., θ p ) = 0 θ j =1 j = 1,..., p, Glechugssystem mt p Glechuge. 246 / 268
Regresso f lear: leares Glechugssystem (1) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) f(x, θ 1, θ 2 ) = θ 1 X + θ 2 1 1 f θ 1 = X f θ 2 = 1 (Y (θ 1 X + θ 2 )) X = 0 =1 (Y (θ 1 X + θ 2 )) 1 = 0 =1 X Y θ 1 X 2 θ 2 X = 0 Y θ 1 X θ 2 = 0 247 / 268
Regresso f lear: leares Glechugssystem (2) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe De zwete Glechug ach θ 2 auflöse: θ 2 = 1 1 Y θ 1 X Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) 248 / 268
Regresso f lear: leares Glechugssystem (2) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) De zwete Glechug ach θ 2 auflöse: θ 2 = 1 1 Y θ 1 X ud de erste esetze: X Y θ 1 X 2 1 1 Y X +θ 1 X X = 0 X Y 1 ( Y X θ 1 ( X 2 1 ) X X = 0 248 / 268
Regresso f lear: leares Glechugssystem (2) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) De zwete Glechug ach θ 2 auflöse: θ 2 = 1 1 Y θ 1 X ud de erste esetze: X Y θ 1 X 2 1 1 Y X +θ 1 X X = 0 X Y 1 ( Y X θ 1 ( X 2 1 ) X X = 0 ˆθ 1 = X Y 1 X Y X2 1 ( X ) 2 = S XY SX 2, ˆθ 2 = 1 ( ) Y ˆθ 1 X 248 / 268
Regresso Zähler ud Neer ˆθ 1 emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) S XY = = = = = S X 2 = 1 1 (X X)(Y Y) 1 ( X Y X Y Y X + XY ) 1 1 ( X Y XY XY + XY ) 1 1 ( X Y XY ) 1 1 ( X Y 1 ) X Y 1 1 ( X X 1 ) X X 1 249 / 268
Spezalfall f(x, θ) = θ (kostat) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Y = θ + ǫ, ǫ (0, σ 2 ) Mmerugsaufgabe: ( m (Y θ) 2) θ =1 Lösug: 2 (Y θ) = 0 Y θ = 0 =1 =1 ˆθ = 1 Y = Y D.h. Y st auch KQS. 250 / 268
Spezalfall f(x, θ) = θ Schätzug des Schätzfehlers emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe σy 2 = σθ+ǫ 2 = σǫ 2 = σ 2. Schätzfehler: σ 2ˆθ = var(ˆθ) = var( 1 Y ) = 1 vary 2 = 1 σ2 0 Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) ˆσ 2ˆθ = ˆσ2 251 / 268
Leare ud Nchtleare Regresso emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe f : lear, f(x, θ 1, θ 2 ) = θ 1 X + θ 2 θ 1 ud θ 2 werde geschätzt. Descr_Scatter_1.sas Descr_Scatter_Hero.sas Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) 253 / 268
Leare ud Nchtleare Regresso emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) f : lear, f(x, θ 1, θ 2 ) = θ 1 X + θ 2 θ 1 ud θ 2 werde geschätzt. Descr_Scatter_1.sas Descr_Scatter_Hero.sas f : chtlear, z.b. f(x, θ 1, θ 2 ) = l(θ 1 X + θ 2 ) a) Lösug des chtleare Glechugssystems b) wrd auf de leare Fall zurückgeführt Y e Y = l(θ 1 X + θ 2 ) + ǫ = θ 1 X + θ 2 + ǫ Modelle sd aber.a. cht äquvalet! 253 / 268
Wetere chtleare Regressosfuktoe emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) f(t) = a + bt + ct 2 Parabel f(t) = at b Potezfukto f(t) = ae t Expoetalfukto f(t) = k ae t f(t) = k 1 + be ct logstsche Fukto l f(t) = k a b + t Johso-Fukto l f(t) = k λe t Gompertz-Fukto 254 / 268
Nchtparametrsche Regresso f ubekat, aber glatt emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) z.b. f 2x stetg dfferezerbar, f C 2, λ 0 Glätteder Kubscher Sple st Lösug vo (f (Y f(x )) 2 + λ (x) )2 dx m f C2 =1 Descr_Scatter.sas SYMBOL I=SMS; SM: : Smoothg Sple Glättugsparameter =00: Iterpolereder Sple =99: Gerade S: Puktepaare werde vor der Auswertug ach dem Argumet sortert. 256 / 268
Nchtparametrsche Regresso Kerschätzug, Motvato emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) geg.: Kerfukto K, stadardserte Dchte, z.b. Normaldchte, Epaechkov-Ker. Regressosmodell: Y = f(x) + ǫ, ǫ (0, σ 2 ) also E(Y X = x) = f(x) f(x) = E(Y X = x) = yf Y X (y x) dy g(x, y) = y f 0 (x) dy yg(x, y)dy = f 0 (x) 257 / 268
Regresso Kerschätzug emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe yg(x, y)dy f(x) = f 0 (x) g(x, y): gemesame Dchte vo (X, Y) f 0 (x): Raddchte vo X f Y X : bedgte Dchte vo Y Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) 258 / 268
Regresso Kerschätzug emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) f(x) = yg(x, y)dy f 0 (x) g(x, y): gemesame Dchte vo (X, Y) f 0 (x): Raddchte vo X f Y X : bedgte Dchte vo Y Der Neer wrd geschätzt durch ˆf0 (x) = 1 1 h K(x X ) h =1 ud der Zähler durch 1 Y ĝ(x, Y ) = 1 =1 Y 1 h K(x X ) h =1 258 / 268
Regresso Kerschätzug emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Bede zusamme ergebe de Kerschätzug K: Kerfukto h: Glättugsparameter ˆf(x) = =1 Y 1 K( x X h =1 h ) 1 h K( x X h ) 259 / 268
Nchtparametrsche Kurveschätzug Sple- ud Kerschätzug emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) llustrato: SAS-INSIGHT. Aalyse Ft(Y X) Output Noparametrc Curves Smoothg Sple Normal kerel smoother - Veus-Muschel Date (WORK/Descr Scatter) - Hero-Date (SASUSER/hero) (TIME-DOSE) Glättede Sples köe auch mt Hlfe der Prozedur GPLOT erzeugt werde. 260 / 268
Beschrebede Statstk Zusammefassug (1) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Vertelugsfukto dskrete Vertelug stetge Vertelug F(x) = P(X x) F(x) = : x p p = P(X = x ) F(x) = x f(t)dt, f(t) : Dchte. Bsp: dskrete Vertelug: Bomal, Posso stetge Vertelug: Normal,Glech,Exp 261 / 268
Beschrebede Statstk Zusammefassug (2) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Varaz E(X) = Normalvertelug, Dchte f(x) = f µ,σ (x) = { x p X dskret xf(x)dx X stetg var(x) = E(X EX) 2 1 2 π e x2 2 Stadard 1 2 π σ e 1 2 ( x µ σ )2 262 / 268
Beschrebede Statstk Zusammefassug (3) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Gesetz der Große Zahle (E(X) < ) X EX. Zetraler Grezwertsatz (X d) X µ Z N(0, 1) σ X µ Z N(0, 1) s X = 1 X s 2 = 1 (X X) 2 σ 2 1 264 / 268
Beschrebede Statstk Zusammefassug (4) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Statstsche Maßzahle Lagemaße: X, x 0.5, x α, x 0.25, x 0.75, x α, x α,w Skalemaße: s 2, s, R, IR, MAD, S, Q Formmaße: β 1, β 2 PROC UNIVARIATE PROC UNIVARIATE ROBUSTSCALE PROC UNIVARIATE TRIMMED= PROC UNIVARIATE WINSORIZED= PROC MEANS MEDIAN STD 266 / 268
Beschrebede Statstk Zusammefassug (5) emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1) Varaz Normalvertelug (2) Boxplots PROC BOXPLOT PROC GPLOT Häufgketsdagramme PROC GCHART PROC UNIVARIATE HISTOGRAM Häufgketstabelle: PROC FREQ Zusammehagsmaße: PROC CORR Pearso, Spearma, Kedall-Korrelatoskoeff. Scatterplots, Regresso, Schätzug der Regressoskoeffzete: PROC GPLOT 268 / 268