Formelsammlung zur Vorlesung Statistik I/II für Statistiker, Mathematiker und Informatiker (WS 08/09)

Transkript

1 Departmet für Statistik, LMU Müche Statistik I/II für Statistiker, Mathematiker ud Iformatiker Prof. Gerhard Tutz, Adreas Groll WS 08/09 1 EINDIMENSIONALE MERKMALE Formelsammlug zur Vorlesug Statistik I/II für Statistiker, Mathematiker ud Iformatiker (WS 08/09) 10 Variazaalyse Eifaktorielle Variazaalyse Zweifaktorielle Variazaalyse Zeitreiheaalyse 46 1 Verteilugstabelle Stadardormalverteilug Studets t-verteilug χ -Verteilug Poissoverteilug F-Verteilug Wilcoxo-Vorzeiche-Rag-Test Wilcoxo-Ragsumme-Test Diese Formelsammlug darf i der Klausur verwedet werde. Eigee Notize ud Ergäzuge dürfe eigefügt, aber keie zusätzliche Blätter eigeheftet werde. 1 Eidimesioale Merkmale 1.1 Häufigkeite ud Häufigkeitsverteiluge Bezeichuge: Ihaltsverzeichis 1 Eidimesioale Merkmale 1.1 Häufigkeite ud Häufigkeitsverteiluge. 1. Lageparameter Quatile Streuugsparameter Zweidimesioale Merkmale 6.1 Gemeisame Häufigkeite, Radhäufigkeite, bedigte Häufigkeite Assoziatio bei omiale Merkmale Korrelatiosrechug für metrische ud ordiale Merkmale Kozetratiosmaße Lorezkurve ud Gii-Koeffiziet Kozetratiosrate CR g Herfidahl-Idex Elemetare Wahrscheilichkeitsrechug Recheregel für Wahrscheilichkeite Kombiatorik Bedigte Wahrscheilichkeite Satz vo der totale Wahrscheilichkeit Formel vo Bayes Uabhägigkeit zweier Ereigisse Eidimesioale Zufallsvariable ud ihre Verteiluge Defiitio vo diskrete ud stetige Zufallsvariable ud Dichte Die Verteilugsfuktio eier Zufallsvariable Zusammehäge zwische Dichte ud Verteilugsfuktioe Modus, Media ud Quatile Erwartugswert, Variaz ud Stadardabweichug Recheregel ud Eigeschafte vo Erwartugswerte Spezielle diskrete Verteiluge Spezielle stetige Verteiluge Die Chi-Quadrat-, Studet- ud Fisher- Verteilug Zweidimesioale Zufallsvariable ud ihre Verteiluge Defiitio zweidimesioaler Zufallsvariable Uabhägigkeit, Kovariaz ud Korrelatio 0 7 Ergäzuge zu Zufallsvariable 7.1 Grezwertsätze Approximatio vo Verteiluge Ugleichug vo Tschebyschew Teste ud Schätze Puktschätzug Itervallschätzug Spezielle Schätzprobleme Teste vo Hypothese Spezielle Testprobleme Eistichprobe-Testprobleme Zweistichprobe-Mittelwertsvergleiche Weitere Testprobleme Regressiosaalyse Lieare Eifachregressio Multiple lieare Regressio i Summeotatio Multiple lieare Regressio i Matrixotatio 40 Urliste: x 1,...,x geordete Urliste: x (1)... x () (kodierte) Merkmalsauspräguge: a 1 < < a k absolute Häufigkeit der Ausprägug a j : h j = h(a j ) = 1 {x i=a j}, mit 1 {xi=a j} = relative Häufigkeit der Ausprägug a j : { 1, falls xi = a j, 0, sost, f j = f(a j ) = h j /, Häufigkeitsfuktio (-verteilug): { hj, x = a absolut: h(x) = j, j = 1,...,k 0 sost { fj, x = a relativ: f(x) = j, j = 1,...,k 0 sost Empirische Verteilugsfuktio (kumulierte relative Häufigkeitsverteilug): F(x) = a j x f(a j )

2 1 EINDIMENSIONALE MERKMALE 3 1 EINDIMENSIONALE MERKMALE 4 Klassebildug (Gruppierug): k Klasse der Form [c 0,c 1 ), [c 1,c ),...,[c k 1,c k ) Klassebreite: d j = c j c j 1 Klassemitte: m j = (c j + c j 1 )/ absolute Häufigkeit der Klasse j: h j = j = 1,...,k relative Häufigkeit der Klasse j: f j = h j / a i (c j 1,c j ] h(a i ) Histogramm (flächetreue Häufigkeitsverteilug): { Blockhöhe (abzutragede Höhe) = f(x) fj /d = j x [c j 1,c j ) 0 sost 1. Lageparameter Modus: Media: x mod : Ausprägug mit der größte Häufigkeit ichtklassierte Date: x mod = {a j h j = max ai h i } klassierte Date: x mod = c j 1 + mit j : Modalklasse ichtklassierte Date: klassierte Date: für j = 1,...,k. f j f j 1 f j f j 1 f j+1 (c j c j 1 ), fj := f(x), x [c j 1,c j ] { x( +1 x med = ( 1 ) x ( +1) + x ( ) x med = c j F(c j 1) F(c j ) F(c j 1 ) (c j c j 1 ), Arithmetisches Mittel (Durchschittswert): x = 1 x i ) ugerade gerade mit Mediaklasse j Harmoisches Mittel: x H = g i Geometrisches Mittel: mittleres Etwicklugstempo: g i, x i i G = i 1... i, Gewichtetes arithmetisches Mittel: x w = w i x i wobei g i : Gewicht der i-te Beobachtug x G = x 1... x i t = x t x t 1, t = 1,..., w i = 1 ud 0 w i 1 für alle i Spezialfall: arithmetisches Mittel für w i = 1/. Arithmetisches Mittel bei Schichtebildug: 1.3 Quatile x = 1 ( 1 x r x r ) = 1 r j x j Jeder Wert x p, mit 0 < p < 1, für de midestes ei Ateil p der Date x p ud midestes ei Ateil 1 p der Date x p ist, heißt p-quatil: Azahl (x-werte x p ) p ud Azahl (x-werte x p) Äquivalet dazu ist: x p ist der kleiste x-wert, für de F(x) p gilt, d.h. Damit gilt für das p-quatil bei ichtklassierte Date: bei klassierte Date: x p = c j 1 + F(x) < p für x < x p ud F(x p ) p. x p = x ([p]+1) x p [x (p),x (p+1) ] we p icht gazzahlig, we p gazzahlig. 1 p. p F(c j 1) F(c j ) F(c j 1 ) (c j c j 1 ), p (0, 1), mit j Quatilklasse Speziell: x 0.5 = Media, x 0.5 = uteres Quartil, x 0.75 = oberes Quartil

3 1 EINDIMENSIONALE MERKMALE 5 ZWEIDIMENSIONALE MERKMALE Streuugsparameter Zweidimesioale Merkmale Spaweite: Quatilsabstad: Iterquartilsabstad: SP = x () x (1) = x max x mi x 1 p x p d Q = x 0.75 x Gemeisame Häufigkeite, Radhäufigkeite, bedigte Häufigkeite Bezeichuge: Urliste: (x 1,y 1 ), (x,y ),...,(x,y ) Merkmalsausspräguge: a 1,a,...,a k für X bzw. b 1,b,...,b m für Y Empirische Variaz (mittlere quadratische Abweichug): Urliste: ( ) s = 1 (x i x) 1 = x i x Häufigkeitsdate: s = 1 k k (a j x) h(a j ) bzw. s = (a j x) f(a j ) Empirische Stadardabweichug: Stichprobevariaz: Variatioskoeffiziet: s = 1 1 s = + s (x i x) v = ( x > 0) s x Gemeisame Häufigkeite: Radhäufigkeite: h ij = h(a i,b j ) = l=1 1 {x l=a i}1 {yl=bj} absolute Häufigkeite f ij = f(a i,b j ) = h ij relative Häufigkeite h i = m h ij, h j = Bedigte relative Häufigkeite: k h ij f i = h i = f X(a i ), f j = h j = f Y (b j ) (absolut) (relativ) f X (a i b j ) = f(a i,b j ) f Y (b j ) = h ij h j, f Y (b j a i ) = f(a i,b j ) f X (a i ) = h ij h i Streuugszerlegug: Für r disjukte statistische Masse E 1,...,E r, dere jeweilige arithmetische Mittel bzw. mittlere quadratische Abweichuge mit x 1,..., x r bzw. s 1,..., s r bezeichet sid, berechet sich die mittlere quadratische Abweichug für die Gesamtmasse folgedermaße: wobei j = E j ud x Ges = 1 s Ges = 1 r j s j + 1 r j x j. r j ( x j x Ges ). Assoziatio bei omiale Merkmale χ -Koeffiziet: χ = k m wobei h ij = h i h j, f ij = f i f j. Kotigezkoeffiziet: korrigierter Kotigezkoeffiziet: (h ij h ij ) h ij = k χ K = χ + K = M 1 mit: K max =, wobei M = mi{k;m}. M K K max m (f ij f ij ) f ij

4 ZWEIDIMENSIONALE MERKMALE 7 ZWEIDIMENSIONALE MERKMALE 8 Chace (odds) bzw. Risiko: Relative Chace (odds ratio): χ -Koeffiziet: a b a+b c d c+d a+c b+d γ(j 1,j i) = γ Y X (b j1,b j a i ) = h ij 1 h ij γ(j 1,j i 1,i ) = γ Y X (b j1,b j a i1,a i ) = χ = h i1 j 1 h i1 j Spezialfall: Vierfeldertafel (ad bc) (a + b)(a + c)(b + d)(c + d) Kreuzproduktverhältis (Odds-Ratio, relative Chace): h 11 h 1 h 1 h γ = h 11/h 1 h 1 /h = h 11h h 1 h 1. h i = h i1j1h ij j 1 h i1j h h ij1 i j.3 Korrelatiosrechug für metrische ud ordiale Merkmale Bravais-Pearso-Korrelatioskoeffiziet (x i x)(y i ȳ) x i y i xȳ r = = (x i x) ( (y i ȳ) )( ) x i x yi ȳ Ragkorrelatioskoeffiziet vo Spearma (rg(x i ) rg X )(rg(y i ) rg Y ) r SP = (rg(x i ) rg X ) (rg(y i ) rg Y ) Alterative Darstellugsform (bei Abweseheit vo Biduge) mit d i = rg(x i ) rg(y i ) r SP = 1 6 d i ( 1) korrigierter Ragkorrelatioskoeffiziet (bei Vorliege vo Biduge) rsp = ( 1) 1 k s i(s i 1) 1 m r j(r j 1) 6 d i ( 1) k s i(s i 1) ( 1) l r j(rj 1) mit s i = l=1 1 {x l=a i}, i = 1,...,k, ud r j = l=1 1 {x l=b j}, j = 1,...,m Kedall s τ ohe Biduge Sei (x i,y i ) das Beobachtugstupel des i-te Merkmalsträgers. Wir betrachte u ei Paar vo Beobachtugstupel (x i,y i ) ud (x j,y j ). Sei o.b.d.a. x i < x j. Das Paar heißt kokordat, we auch y i < y j. Das Paar heißt diskordat, we y i > y j. Isgesamt gibt es ( ) = ( 1) Paare, die ma überprüfe muss. Dabei gelte die folgede Bezeichuge: N c = Azahl der kokordate Paare N d = Azahl der diskordate Paare τ = N c N d (( 1)) 1

5 3 KONZENTRATIONSMASSE 9 3 KONZENTRATIONSMASSE 10 Kedall s τ mit Biduge Gii-Koeffiziet: Ist ei Paar weder kokordat och diskordat, ist es ei Tie bzw. eie Bidug, d.h. etweder gilt x i = x j oder y i = y j oder beides: N c ud N d wie im Fall ohe Biduge G = Fläche zwische Diagoale ud Lorezkurve Fläche zwische Diagoale ud u-achse T x = Azahl der Paare mit x i = x j aber y i y j (x-ties) T y = Azahl der Paare mit y i = y j aber x i x j (y-ties) T xy = Azahl der Paare mit x i = x j ud zugleich y i = y j (spiele keie Rolle für die Berechug) Da für jedes zu überprüfede Paar ur eier der obere füf Fälle i Frage kommt, gilt also: ( ) = ( 1) = N c + N d + T x + T y + T xy τ = 3 Kozetratiosmaße 3.1 Lorezkurve ud Gii-Koeffiziet Lorezkurve: N c N d (Nc + N d + T x )(N c + N d + T y ) Für die geordete Urliste x (1)... x () ergibt sich die Lorezkurve als Streckezug durch die Pukte (0, 0), (u 1,v 1 ),...,(u,v ) = (1, 1) mit u j = j/ ud v j = Bei Häufigkeitsdate mit de Klassemitte a 1,...,a k : ũ j = j h i / = j x (i). x (i) j j f i a i f i ud ṽ j = = k f i a i j h i a i x j = 1,...,k. Geordete Urliste: = Fläche zwische Diagoale ud Lorezkurve ix (i) G = x (i) + 1. Häufigkeitsdate mit de Klassemitte a 1 <... < a k : bzw. G = k (ũ i 1 + ũ i )h i a i G = 1 1 k h j (ṽ j 1 + ṽ j ) 1, wobei ũ i = k h i a i Normierter Gii-Koeffiziet (Lorez-Müzer-Koeffiziet): 3. Kozetratiosrate CR g Kozetratiosrate CR g : G = i h j /, ṽ i = 1 G, G [0; 1] Für vorgegebees g ud x 1... x bildet ma CR g = i= g+1 p i, wobei p i = x i x j i k f j a j / f j a j. de Merkmalsateil der i-te Eiheit bezeichet.

6 4 ELEMENTARE WAHRSCHEINLICHKEITSRECHNUNG 11 4 ELEMENTARE WAHRSCHEINLICHKEITSRECHNUNG Herfidahl-Idex Herfidahl-Idex: H = p i, wobei p i = x i. x j Allgemeier Additiossatz für = : P(A B) = P(A) + P(B) P(A B) Allgemeier Additiossatz für = 3: P(A B C) = P(A) + P(B) + P(C) P(A B) P(A C) P(B C) + P(A B C) 4 Elemetare Wahrscheilichkeitsrechug 4.1 Recheregel für Wahrscheilichkeite Axiome vo Kolmogorow: P(A) 0 P(Ω) = 1 für jedes Ereigis A P(A 1 A A 3...) = P(A 1 ) + P(A ) + P(A 3 ) +... für edlich oder abzählbar uedlich viele paarweise disjukte Ereigisse, d.h. Ereigisse mit A i A j = für alle i j Folgeruge: P(A) 1 P( ) = 0 Aus A B folgt P(A) P(B) P(Ā) = 1 P(A) Allgemeier Additiossatz (Ei- ud Ausschlußformel für abhägige Ereigisse): P(E 1 E... E ) = P(E i ) P(E i1 E i ) +... i 1<i + ( 1) r+1 P(E i1 E i... E ir ) +... i 1<i <...<i r + ( 1) +1 P(E 1 E... E ) (Die Summatio i 1<i <...<i r P(E i1 E i... E ir ) läuft über alle ( r) mögliche Teilmege vo {1,,...,}.) 4. Kombiatorik Azahl möglicher Stichprobe vom Umfag N aus Grudgesamtheit vom Umfag N: Permutatio ohe Wiederholug: P(N) = N!. Permutatio mit Wiederholug: P W (N g 1,...,g r ) = N! g 1!... g r! mit r Gruppe mit jeweils gleiche Elemete. Es muss gelte g g r = N. Azahl möglicher Stichprobe vom Umfag aus Grudgesamtheit vom Umfag N: Kombiatio ohe Wiederholug: Modell ohe Zurücklege ohe Berücksichtigug der Reihefolge K(N,) = ( N ). Kombiatio mit Wiederholug: Modell mit Zurücklege ohe Berücksichtigug der Reihefolge K W (N,) = ( ) N+ 1. Variatio ohe Wiederholug: Modell ohe Zurücklege mit Berücksichtigug der Reihefolge V (N,) = N! (N )!. Variatio mit Wiederholug: Modell mit Zurücklege mit Berücksichtigug der Reihefolge V W (N,) = N.

7 4 ELEMENTARE WAHRSCHEINLICHKEITSRECHNUNG 13 5 EINDIMENSIONALE ZUFALLSVARIABLEN UND IHRE VERTEILUNGEN Bedigte Wahrscheilichkeite Defiitio: Folgeruge: P(A B) = P(A B) = P(A B)P(B), falls P(B) > 0 P(B A) = P(B A)P(A), falls P(A) > 0 P(A B), falls P(B) > 0 P(B) P(A 1... A m ) = P(A 1 )P(A A 1 )... P(A m A 1... A m 1 ), falls P(A 1... A m 1 ) > Satz vo der totale Wahrscheilichkeit Sei A 1,...,A k eie disjukte Zerlegug vo Ω, da gilt für jedes Ereigis B Ω 4.5 Formel vo Bayes P(B) = k P(B A i )P(A i ). Sei A 1,...,A k eie disjukte Zerlegug vo Ω, wobei für midestes ei i, i = 1,...,k, P(A i ) > 0 ud P(B A i ) > 0 erfüllt ist, da gilt P(A j B) = P(B A j)p(a j ) k P(B A i )P(A i ) 4.6 Uabhägigkeit zweier Ereigisse = P(B A j)p(a j ) P(B) Zwei Ereigisse A ud B heiße (stochastisch) uabhägig, we gilt P(A B) = P(A) P(B) für jedes j = 1,...,k. bzw. P(A B) = P(A), falls P(B) > 0 bzw. P(B A) = P(B), falls P(A) > 0. 5 Eidimesioale Zufallsvariable ud ihre Verteiluge 5.1 Defiitio vo diskrete ud stetige Zufallsvariable ud Dichte Diskrete Zufallsvariable: Eie ZV X heißt diskret, falls der Wertebereich vo X ur edlich oder abzählbar uedlich viele Werte x 1,x,...,x k,... aehme ka. Wahrscheilichkeitsfuktio (Dichte): { P(X = xi ) = p f(x) = i für x = x i {x 1,x,...,x k,...} 0 sost Stetige Zufallsvariable: Eie ZV X heißt stetig, we es eie Fuktio f(x) 0 gibt, so dass für jedes Itervall [a,b] gilt: Die Fuktio f(x) heißt Dichte vo X Es gilt: P(X = x) = 0 für alle x IR. P(a X b) = b a f(x)dx 5. Die Verteilugsfuktio eier Zufallsvariable Verteilugsfuktio eier Zufallsvariable: Recheregel: P(X = x) = F(x) P(X < x) P(X > x) = 1 F(x) P(a < X b) = F(b) F(a), F(x) = P(X x), falls a < b x IR P(a X b) = F(b) F(a) + P(X = a) speziell: P(a X b) = F(b) F(a) für stetige Verteiluge P(a < X < b) = F(b) F(a) P(X = b) P(a X < b) = F(b) F(a) + P(X = a) P(X = b)

8 5 EINDIMENSIONALE ZUFALLSVARIABLEN UND IHRE VERTEILUNGEN 15 5 EINDIMENSIONALE ZUFALLSVARIABLEN UND IHRE VERTEILUNGEN Zusammehäge zwische Dichte ud Verteilugsfuktioe 5.5 Erwartugswert, Variaz ud Stadardabweichug Im diskrete Fall: F(x) = f(x i ) = P(X = x i ) x i x x i x P(a X b) = f(x i ) = P(X = x i ) a x i b a x i b f(x i ) = P(X = x i ) = F(x i ) F(x i 1 ) Erwartugswert: xf(x), falls X diskret x µ = E(X) = + xf(x)dx, falls X stetig Im stetige Fall: f(x) = F (x) = df(x) dx, F(x) = P(a X b) = 5.4 Modus, Media ud Quatile Modus: Quatile: x mod : Jeder Wert x, a dem f(x) maximal ist. Jeder Wert x p mit 0 < p < 1, für de x b a f(t)dt f(t)dt falls F(x) a der Stelle x differezierbar ist. P(X x p ) 1 p ud gilt, heißt p-quatil eier diskrete Verteilug. P(X x p ) p Jeder Wert x p mit F(x p ) = p heißt p-quatil eier stetige Verteilug. Media: Jedes 50%-Quatil heißt Media (p = 0.5). Variaz: (x E(X)) f(x), falls X diskret x σ = Var(X) = + (x E(X)) f(x)dx, falls X stetig Stadardabweichug: σ = + σ = + Var(X) 5.6 Recheregel ud Eigeschafte vo Erwartugswerte Trasformatio: Die Zufallsvariable Y = g(x) besitzt de Erwartugswert g(x)f(x), falls X diskret x E(Y ) = + g(x)f(x)dx, falls X stetig Spezialfall: lieare Trasformatio E(aX + b) = ae(x) + b für alle a,b IR Var(aX + b) = a Var(X) Verschiebugssatz: Var(X) = E(X ) [E(X)]

9 5 EINDIMENSIONALE ZUFALLSVARIABLEN UND IHRE VERTEILUNGEN 17 5 EINDIMENSIONALE ZUFALLSVARIABLEN UND IHRE VERTEILUNGEN Spezielle diskrete Verteiluge Verteilug Wahrscheilichkeitsfuktio E(X) Var(X) π für x = 1, X Ber(π) f(x) = 1 π für x = 0, π π(1 π) Beroulliverteilug 0, sost Expoetialverteilug: X Exp(λ) Dichte ud Verteilugsfuktio: { λe λx für x 0 f(x) = 0 sost. F(x) = { 1 e λx, x 0, 0, sost. (λ > 0) X G(π) Geometrische Verteilug X B(,π) Biomialverteilug X NB(r,π) egative Biomialverteilug X H(,M,N) Hypergeometrische Verteilug X Po(λ) Poissoverteilug f(x) = f(x) = f(x) = f(x) = (1 π) x 1 π für x = 1,,... { ( ) x π x (1 π) x für x = 0, 1,..., 0, sost { ( x 1 r 1) π r (1 π) x r für x = r,r + 1,... 0, sost 1 π 1 π π π π(1 π) r π r(1 π) π ( M )( N M ) x x f(x) = ( N für x τ ) M s.u. N { λ x x! e λ für x = 0, 1,,... 0, sost Variaz der hypergeometrische Verteilug: V ar(x) = M N 5.8 Spezielle stetige Verteiluge Stetige Gleichverteilug: X U[a; b] Dichte ud Verteilugsfuktio: f(x) = Erwartugswert ud Variaz: { 1, für a x b, b a 0, sost. E(X) = a + b ( ) 1 M N N N 1 (λ > 0) λ λ 0, x < a, x a F(x) = b a, a x b, 1, x > b. (b a), V ar(x) =. 1 Erwartugswert ud Variaz: Normalverteilug: X N(µ,σ ) Dichte: Erwartugswert ud Variaz: Weibullverteilug: X W(λ, ) Dichte ud Verteilugsfuktio: E(X) = 1 λ, V ar(x) = 1 λ. f(x) = 1 ( ) (x µ) exp πσ σ für E(X) = µ, V ar(x) = σ. { λ(λx) f(x) = 1 exp( (λx) ), für x 0, 0, sost. Erwartugswert ud Variaz: mit F(x) = x IR { 1 e (λx), x 0, 0, sost. E(X) = 1 ( ) + 1 λ Γ, V ar(x) = 1 ( ) [ ( )] ) (Γ Γ λ Γ(x) = 0 e t t x 1 dt (x > 0). (λ, > 0)

10 6 ZWEIDIMENSIONALE ZUFALLSVARIABLEN UND IHRE VERTEILUNGEN 19 6 ZWEIDIMENSIONALE ZUFALLSVARIABLEN UND IHRE VERTEILUNGEN Die Chi-Quadrat-, Studet- ud Fisher-Verteilug Chi-Quadrat-(χ -)Verteilug: Z = Xi χ d.h. χ -verteilt mit Freiheitsgrade falls X 1,...,X uabhägige, stadardormalverteilte Zufallsvariable sid Zweidimesioale stetige Zufallsvariable: Die Zufallsvariable X ud Y sid gemeisam stetig verteilt, we es eie zweidimesioale Dichtefuktio f(x,y) 0 gibt, so daß gilt P(a X b,c Y d) = b d a c f(x, y)dydx. Studet-(t-)Verteilug: T = X Z/ t d.h. t-verteilt mit Freiheitsgrade Raddichte: f X (x) = f(x,y)dy ud f Y (y) = f(x, y)dx falls X stadardormalverteilt, Z χ -verteilt ud X ud Z uabhägig sid Fisher-(F-)Verteilug: Z = X/m Y/ F m, falls X χ m- ud Y χ -verteilt ud uabhägig sid. d.h. F-verteilt mit m ud Freiheitsgrade 6 Zweidimesioale Zufallsvariable ud ihre Verteiluge 6.1 Defiitio zweidimesioaler Zufallsvariable Zweidimesioale diskrete Zufallsvariable: Bedigte Wahrscheilichkeitsfuktioe/Dichte: f X (x y) = f(x,y) f Y (y) ud f Y (y x) = f(x,y) f X (x) Gemeisame Verteilugsfuktio: f(x i,y j ) x i x y j y F(x,y) = P(X x,y y) = x y f(u, v)dvdu (diskret) (stetig) Seie X ud Y zwei diskrete ZV, wobei X die Werte x 1,x,... ud Y die Werte y 1,y,... aehme ka, so ist (X, Y ) eie zweidimesioale diskrete Zufallsvariable mit Werte (x i,y j ), i = 1,,..., j = 1,,... Gemeisame Wahrscheilichkeitsfuktio: { P(X = x,y = y) für (x,y) {(x1,y f(x,y) = 1 ), (x 1,y ),...} 0 sost 6. Uabhägigkeit, Kovariaz ud Korrelatio Uabhägigkeit vo zwei Zufallsvariable: Zwei Zufallsvariable X ud Y heiße uabhägig, we für alle x ud y gilt f(x,y) = f X (x)f Y (y) Radverteiluge: f X (x) = P(X = x) = j f(x,y j ) ud f Y (y) = P(Y = y) = i f(x i,y)

11 6 ZWEIDIMENSIONALE ZUFALLSVARIABLEN UND IHRE VERTEILUNGEN 1 7 ERGÄNZUNGEN ZU ZUFALLSVARIABLEN Kovariaz: Erwartugswert ud Variaz vo Liearkombiatioe: Cov(X,Y ) = E{[X E(X)][Y E(Y )]} f(x i,y j )(x i E(X))(y j E(Y )) i j = f(x,y)(x E(X))(y E(Y ))dxdy Verschiebugssatz: Cov(X,Y ) = E(X Y ) E(X) E(Y ) f(x i,y j )x i y j (diskret) i j mit E(X Y ) = xyf(x, y)dydx (stetig) Lieare Trasformatio: Für die Zufallsvariable X = a X X + b X ud Ỹ = a Y Y + b Y gilt Korrelatioskoeffiziet: Ukorreliertheit: ρ = ρ(x,y ) = Cov( X,Ỹ ) = a Xa Y Cov(X,Y ) Cov(X,Y ) Var(X) Var(Y ) = Cov(X,Y ) σ X σ Y Die Zufallsvariable X ud Y heiße ukorreliert, we gilt Variaz der Summe zweier Zufallsvariable: ρ(x,y ) = 0 bzw. Cov(X,Y ) = 0 Var(X + Y ) = Var(X) + Var(Y ) + Cov(X,Y ) (diskret) (stetig) Die gewichtete Summe X = a 1 X a X der Zufallsvariable X 1,...,X besitzt de Erwartugswert ud die Variaz Var(X) = E(X) = a 1 E(X 1 ) a E(X ) 7 Ergäzuge zu Zufallsvariable 7.1 Grezwertsätze a ivar(x i ) + a i a j Cov(X i,x j ) i<j Das Gesetz der große Zahle Sei X 1,...,X,... eie Folge vo Zufallsvariable mit Erwartugswert µ ud Variaz σ. Da gilt für alle c > 0: lim P( X µ c) = 1. Ma sagt: X kovergiert ach Wahrscheilichkeit gege µ. Satz vo Gliveko Catelli Sei X eie Zufallsvariable mit Verteilugsfuktio F(x) ud F (x) die empirische Verteilugsfuktio bei eier Stichprobe vom Umfag. Da gilt für jedes c > 0: lim P(sup F (x) F(x) c) = 1, x IR. x Zetraler Grezwertsatz Seie X 1,...,X uabhägige, idetisch verteilte Zufallsvariable mit Erwartugswert µ ud Variaz σ > 0. Da kovergiert die Verteilugsfuktio F (z) der stadardisierte Summe Z = X X µ σ = 1 X i µ σ für a jeder Stelle z IR gege die Verteilugsfuktio Φ(z) der Stadardormalverteilug, d.h. Z a N(0, 1).

12 É ÉÉ É É É 8 TESTEN UND SCHÄTZEN 3 8 TESTEN UND SCHÄTZEN 4 7. Approximatio vo Verteiluge Abkürzuge der Quatile: Ò µ É ÉÉ Ò Ò ¼ ¼ ¼ ¹ È µ z p... p-quatil der Stadardormalverteilug (siehe S. 48) t p,k... p-quatil der t-verteilug mit k Freiheitsgrade (siehe S. 49) χ p,k... p-quatil der χ -Verteilug mit k Freiheitsgrade (siehe S. 50) Ò ¾ Ò ½ µ É ÉÉ 8.1 Puktschätzug ¾ Ò µ Ò ½ Erwartugstreue: Eie Schätzstatistik T heißt erwartugstreu für θ, we gilt Æ ¾ µ 7.3 Ugleichug vo Tschebyschew Für eie Zufallsvariable X mit Erwartugswert µ ud Variaz σ gelte für jedes c > 0 die folgede Ugleichuge: 8 Teste ud Schätze Bezeichuge: P( X µ c) σ c ud P( X µ < c) 1 σ c. Merkmal X: metrisch oder dichotom (Beroulliverteilt) Ubekater Parameter der Verteilug vo X: θ Stichprobevariable: X 1,X,...,X Aahme: X 1,...,X uabhägig ud idetisch verteilt wie X (etspricht der relative Häufigkeit, falls X dicho- 1 Stichprobemittelwert: X = tom) Stichprobevariaz: S = 1 1 Realisatioe: x 1,x,...,x X i (X i X) Schätzfuktio/Schätzstatistik/Teststatistik: T = g(x 1,...,X ) Schätzwert: ˆθ = g(x 1,...,x ) Asymptotische Erwartugstreue: Bias: E θ (T) = θ Eie Schätzstatistik T heißt asymptotisch erwartugstreu für θ, we gilt lim E θ(t) = θ Eie icht erwartugstreue Schätzstatistik heißt verzerrt. Die Stärke der Verzerrug wird durch de Bias agegebe Bias θ (T) = E θ (T) θ Erwartete mittlere quadratische Abweichug (MSE): Die erwartete mittlere quadratische Abweichug (mea squared error) ist bestimmt durch MSE = E θ ([T θ] ) = Var θ (T) + Bias θ (T) MSE-Kosistez (Kosistez im quadratische Mittel): Eie Schätzstatistik heißt MSE-kosistet, we gilt lim MSE = 0. Eie Schätzstatistik T heißt schwach kosistet, we zu beliebigem ǫ > 0 gilt MSE-Wirksamkeit (MSE-Effiziez): lim P( T θ < ǫ) = 1 bzw. lim P( T θ ǫ) = 0. Vo zwei Schätzstatistike T 1 ud T heißt T 1 MSE-wirksamer (MSE-effiziet), we gilt MSE(T 1 ) MSE(T )

13 8 TESTEN UND SCHÄTZEN 5 8 TESTEN UND SCHÄTZEN 6 Momete-Schätzug: Die Parameter θ 1,...,θ k der theoretische Verteilug vo X werde als Fuktioe der Momete θ i = h i (µ 1,...,µ l ), µ j = E(X j ), j = 1,...,l, i = 1,...,k (1) agegebe. Die Mometeschätzer ˆθ i,i = 1,...,k werde berechet, idem i (1) die empirische Momete ˆµ j = 1 xj i für die Momete µ j eigesetzt werde. Maximum-Likelihood-Schätzug: Der Maximum-Likelihood-Schätzwert ˆθ ist die Lösug der Gleichug bzw. L(ˆθ) = maxl(θ) θ f(x 1,...,x ˆθ) = maxf(x 1,...,x θ) θ Zur praktische Berechug vo ˆθ wird üblicherweise die Log-Likelihood l L(θ) gebildet ud diese bezüglich θ maximiert. Bayes-Schätzug: Bayes-Iferez Sei f(x θ) die Wahrscheilichkeitsfuktio bzw. Dichte vo X, gegebe θ L(θ) = f(x 1,...,x θ) die gemeisame Dichte bzw. Likelihoodfuktio für uabhägige Wiederholuge f(θ) eie a priori Dichte für de ubekate Parameter Da ist die a posteriori Dichte als Basis zur Bestimmug eies Bayes-Schätzers für θ gegebe durch f(θ x 1,...,x ) = f(x 1 θ) f(x θ)f(θ) f(x1 θ) f(x θ)f(θ)dθ = L(θ)f(θ) L(θ)f(θ)dθ Bayes-Schätzer Mögliche Bayes-Schätzer für θ basiered auf der a posteriori Dichte sid a posteriori Erwartugswert: ˆθ = E(θ x 1,...,x ) = θf(θ x 1,...,x )dθ a posteriori Modus, maximum a posteriori Schätzer: Wähle für ˆθ dejeige Parameterwert, für de die a posteriori Dichte maximal wird, d.h. L(ˆθ)f(ˆθ) = maxl(θ)f(θ) θ bzw. l L(ˆθ) + lf(ˆθ) = max{l L(θ) + lf(θ)} θ 8. Itervallschätzug (1 )-Kofidezitervall: Die beide Schätzstatistike G u = g u (X 1,...,X ) ud G o = g o (X 1,...,X ) bilde ei (1 )-Kofidezitervall für θ, falls gilt P(G u G o ) = 1 ud P(G u θ G o ) = 1 Das Kofidezitervall besitzt da die Gestalt KI = [g u (x 1,...,x ),g o (x 1,...,x )]

14 8 TESTEN UND SCHÄTZEN 7 8 TESTEN UND SCHÄTZEN 8 Eiseitige (1 )-Kofidezitervalle: Für G u = bzw. G o = ergibt sich Fehletscheidug: Fehler 1.Art: H 0 wird verworfe, obwohl H 0 zutrifft P(θ G o ) = 1 bzw. P(G u θ) = 1 Fehler.Art: H 0 wird beibehalte, obwohl H 1 zutrifft ud ma erhält die Kofidezitervalle 8.3 Spezielle Schätzprobleme KI = (,g o (x 1,...,x )] bzw. KI = [g u (x 1,...,x ), ) Verteilug θ ˆθ (1 )-Kofidezitervall X N(µ,σ ), σ bekat X N(µ,σ ), σ ubekat X N(µ,σ ), µ beliebig µ X µ X [ ] σ σ X z 1, X + z1 [ X t 1, 1 S, X + t1, 1 S ] σ S ( 1)S 1, ( 1)S 1 χ 1, 1 χ, 1 [ ] Verteilug θ ˆθ approximatives (1 )-Kofidezitervall X beliebig verteilt, 30, E(X) = µ, Var(X) = σ bekat X beliebig verteilt, 30, E(X) = µ, Var(X) = σ ubekat X dichotom, 30 X i B(,π), 30 µ X µ X π X [ ˆπ z 1 [ ] σ σ X z 1, X + z1 [ ] S S X z 1, X + z1 ˆπ(1 ˆπ), ˆπ + z 1 ] ˆπ(1 ˆπ) Sigifikaztest: p-wert: Falls gilt P(H 0 verwerfe H 0 trifft zu) (d.h. P(Fehler 1.Art) ), da heißt der Test Sigifikaztest, oder Test zum Sigifikaziveau Der p-wert ist defiiert als die Wahrscheilichkeit, uter H 0 de beobachtete Prüfgrößewert oder eie i Richtug der Alterative extremere Wert zu erhalte. Gütefuktio: Für vorgegebees Sigifikaziveau ud feste Stichprobeumfag gibt die Gütefuktio g die Wahrscheilichkeit für eie statistische Test a, die Nullhypothese über θ zu verwerfe, d.h. g(θ) = P(H 0 verwerfe θ). Gilt θ H 0, so ist g(θ). Falls θ H 1, so ist 1 g(θ) die Wahrscheilichkeit β für de Fehler.Art. 8.5 Spezielle Testprobleme Eistichprobe-Testprobleme Formulierug der Hypothese: Zweiseitiges Testproblem: (a) H 0 : θ = θ 0 vs. H 1 : θ θ Teste vo Hypothese Statistisches Testproblem: Nullhypothese H 0 ud Alterative H 1 treffe Aussage über θ Eiseitige Testprobleme: (b) H 0 : θ θ 0 vs. H 1 : θ < θ 0 (c) H 0 : θ θ 0 vs. H 1 : θ > θ 0 H 0 : θ Θ 0 vs. H 1 : θ Θ 1 Die Etscheidug für oder gege H 0 wird ahad eier Prüfgröße (Teststatistik) getroffe.

15 8 TESTEN UND SCHÄTZEN 9 8 TESTEN UND SCHÄTZEN 30 Verteilug θ Teststatistik Ablehbereiche 8.5. Zweistichprobe-Mittelwertsvergleiche X N(µ,σ ), σ bekat X N(µ,σ ), σ ubekat X beliebig verteilt, 30, E(X) = µ, Var(X) = σ bekat X beliebig verteilt, 30, E(X) = µ, Var(X) = σ ubekat X dichotom µ Z = X µ 0 σ µ T = X µ 0 S µ Z = X µ 0 σ µ T = X µ 0 S ˆπ π X i B(,π) 0 π Z = π0 (1 π 0 ) Gütefuktio für Spezialfall Eistichprobe-Gauß-Test (a) Z > z 1 (b) Z < z 1 (c) Z > z 1 (a) T > t 1, 1 (b) T < t 1, 1 (c) T > t 1, 1 (a) Z > z 1 (b) Z < z 1 (c) Z > z 1 (a) T > z 1 (b) T < z 1 (c) T > z 1 (a) Z > z 1 (b) Z < z 1 (c) Z > z 1 Bezeichuge: Metrische Merkmale X ud Y Ubekate Parameter: E(X) = µ X ud E(Y ) = µ Y Stichprobevariable: X 1,X,...,X ud Y 1,Y,...,Y m Aahme: X 1,...,X uabhägig ud idetisch verteilt wie X Y 1,...,Y m uabhägig ud idetisch verteilt wie Y X 1,...,X,Y 1,...,Y m uabhägig Formulierug der Hypothese: Zweiseitiges Testproblem: Eiseitige Testprobleme: (a) H 0 : µ X µ Y = δ 0 vs. H 1 : µ X µ Y δ 0 Gegebe seie iid Zufallsvariable X 1,...,X mit X i N(µ,σ ), σ bekat, bzw. mit beliebiger stetiger Verteilug ud E(X i ) = µ, V ar(x i ) = σ, 30. Für die Gütefuktio g(µ) ergibt sich da im Fall des Testproblems (a) H 0 : µ = µ 0 vs. H 1 : µ µ 0 ( g(µ) = Φ z 1 / + µ µ 0 σ ) ( + Φ (b) H 0 : µ µ 0 vs. H 1 : µ < µ 0 ( g(µ) = Φ z µ µ ) 0 σ z 1 / µ µ 0 σ (c) H 0 : µ µ 0 vs. H 1 : µ > µ 0 ( g(µ) = 1 Φ z 1 µ µ ) 0 σ ) (b) H 0 : µ X µ Y δ 0 vs. H 1 : µ X µ Y < δ 0 (c) H 0 : µ X µ Y δ 0 vs. H 1 : µ X µ Y > δ 0 Verteilug Teststatistik Ablehbereiche X N(µ X,σX ), Y N(µ Y,σY ) σx,σ Y bekat Z = X Ȳ δ 0 σx + σ Y m X N(µ X,σ X ), Y N(µ Y,σ Y ) σ X = σ Y ubekat T = ( m X Ȳ δ 0 ) ( 1)S X +(m 1)S Y +m X, Y beliebig verteilt σx,σ Y ubekat,,m > 30 T = X Ȳ δ 0 SX + S Y m (a) Z > z 1 (b) Z < z 1 (c) Z > z 1 (a) T > t 1,+m (b) T < t 1,+m (c) T > t 1,+m (a) T > z 1 (b) T < z 1 (c) T > z 1 wobei Φ die Verteilugsfuktio der N(0,1)-Verteilug ist.

16 8 TESTEN UND SCHÄTZEN 31 8 TESTEN UND SCHÄTZEN Weitere Testprobleme Vorzeiche Test: Aahme: X 1,...,X uabhägige Wiederholuge, X besitzt stetige Verteilugsfuktio Hypothese: Teststatistik: (a) H 0 : x med = δ 0 vs. H 1 : x med δ 0 (b) H 0 : x med δ 0 vs. H 1 : x med < δ 0 (c) H 0 : x med δ 0 vs. H 1 : x med > δ 0 A = Azahl der Stichprobevariable mit eiem Wert kleier als δ 0 Wilcoxo Vorzeiche Rag Test: Aahme: X 1,...,X uabhägig ud idetisch verteilt wie X X metrisch skaliert mit stetiger ud symmetrischer Verteilugsfuktio. Hypothese: Teststatistik: W + = (a) H 0 : x med = δ 0 vs. H 1 : x med δ 0 (b) H 0 : x med δ 0 vs. H 1 : x med < δ 0 (c) H 0 : x med δ 0 vs. H 1 : x med > δ 0 { 1, Di > 0 rg( D i )Z i mit D i = X i δ 0, Z i = 0, D i < 0 Ablehugsbereiche: (a) A b / oder A b / (b) A > o 1 (c) A b Die kritische Schrake b /, o 1 ud b sid bestimmt durch Ablehugsbereiche: (a) W + < w + /, oder W + > w + 1 /, (b) W + < w, + (c) W + > w 1, + (a) B(b / ) / < B(b / + 1) (b) B(o 1 ) < 1 B(o 1 + 1) (c) B(b ) < B(b + 1) wobei B die Verteilugsfuktio der B(, 0.5) Verteilug bezeichet. wobei w +, das tabellierte -Quatil der Verteilug vo W + ist. Bemerkug: Für > 0 ist die Teststatistik uter H 0 approximativ N( (+1) verteilt., (+1)(+1) ) 4 4 Bemerkug: Für 5 ist die Teststatistik uter H 0 approximativ N(0.5, 0.5) verteilt.

17 8 TESTEN UND SCHÄTZEN 33 8 TESTEN UND SCHÄTZEN 34 Wilcoxo Ragsumme Test: Aahme: X 1,...,X uabhägig ud idetisch verteilt wie X Y 1,...,Y m uabhägig ud idetisch verteilt wie Y X 1,...,X ud Y 1,...,Y m uabhägig X ud Y besitze stetige Verteilugsfuktioe F bzw. G Hypothese: Teststatistik: mit Ablehugsbereiche: (a) H 0 : x med = y med vs. H 1 : x med y med (b) H 0 : x med y med vs. H 1 : x med < y med (c) H 0 : x med y med vs. H 1 : x med > y med T W = +m rg(x i ) = iv i { 1, i-te Beobachtug der gepoolte Stichprobe ist X-Variable V i = 0, sost (a) T W < w /;,m oder T W > w 1 /;,m (b) T W < w ;,m (c) T W > w 1 ;,m wobei w das tabellierte -Quatil der Verteilug vo T W ist. Bemerkug: Für m oder > 5 ist die Teststatistik uter H 0 approximativ N( (+m+1) verteilt., m(+m+1) ) 1 χ -Apassugstest: Aahme: X 1,...,X uabhägig ud idetisch verteilt wie X Eiteilug der Date i k disjukte Klasse Hypothese: Teststatistik: Ablehugsbereich: H 0 : P(X = i) = π i H 1 : P(X = i) π i χ = für i = 1,...,k für midestes ei i k (h i π i ) π i χ > χ 1,k 1 Azahl der uter H 0 zu schätzede Parameter Faustregel: Approximative Verteilug der Teststatistik gilt, we π i 1 für alle Klasse ud π i 5 für midestes 80% der Klasse erfüllt ist. χ -Homogeitätstest: Aahme: Uabhägige Stichprobe aus k Populatioe mit de Stichprobeumfäge 1,..., k Hypothese: H 0 : P(X 1 = j) =... = P(X k = j) für j = 1...,m H 1 : P(X i1 = j) P(X i = j) für midestes ei Tupel (i 1,i,j) X 1... m 1 h h 1m k h k1... h km k h 1... h m uter H 0 1. k X 1... m 1h kh 1 1h m 1... h 1... h m. kh m. k Teststatistik: χ = k m (h ij ĥij) mit ĥ ij = ih j ĥ ij Ablehugsbereich: χ > χ 1,(k 1) (m 1)

18 8 TESTEN UND SCHÄTZEN 35 8 TESTEN UND SCHÄTZEN 36 χ -Uabhägigkeitstest: Aahme: Uabhägige Stichprobevariable (X i,y i ), i = 1,..., Hypothese: Teststatistik: H 0 : P(X = i,y = j) = P(X = i) P(Y = j) H 1 : P(X = i,y = j) P(X = i) P(Y = j) Y 1... m 1 h h 1m h 1 X.... k h k1... h km h k Ablehugsbereich: h 1... h m χ = k m uter H 0 für alle i,j für midestes ei Paar (i,j) 1 X. k Y 1... m h 1 h h k h 1 (h ij h ij ) h ij mit hij = h i h j χ > χ 1,(k 1) (m 1) h 1 h m h 1... h 1... h m. h k h m. h k Korrelatiostest: Aahme: Uabhägige gemeisam ormalverteilte Stichprobevariable (X i,y i ), i = 1,..., Hypothese: Teststatistik für ρ 0 = 0 bzw. für ρ 0 = ρ XY Ablehugsbereiche: Z = 1 (a) H 0 : ρ XY = ρ 0 gege H 1 : ρ XY ρ 0 (b) H 0 : ρ XY ρ 0 gege H 1 : ρ XY < ρ 0 (c) H 0 : ρ XY ρ 0 gege H 1 : ρ XY > ρ 0 T = r XY 1 r XY H 0 t, ( l 1 + r XY l 1 + ρ ) 0 H 0,>5 3 N(0, 1). 1 r XY 1 ρ 0 (a) T > t 1 /, bzw. Z > z 1 / (b) T < t 1, bzw. Z < z 1 (c) T > t 1, bzw. Z > z 1.

19 9 REGRESSIONSANALYSE 37 9 REGRESSIONSANALYSE 38 9 Regressiosaalyse 9.1 Lieare Eifachregressio Lieare Eifachregressio: Y abhägige (zu erklärede) Variable, Zielgröße, Regressad X uabhägige (erklärede) Variable, Eiflussgröße, Regressor Regressiosasatz: Y = f(x) + ǫ = + βx + ǫ Bezeichuge: geschätzte Regressiosgerade: Ŷ = ˆ + ˆβx Regressioskoeffiziete: ˆ ud ˆβ Residue: ˆǫ i = Y i Ŷi = Y i (ˆ + ˆβx i ) Normalverteilugsaahme: ǫ i N(0,σ ) Y i N( + βx i,σ ), i = 1,...,. Verteilug der geschätzte Regressioskoeffiziete: x ˆ N(,σ ˆ ) mit Var(ˆ) = σˆ = σ i x (x i x) = i σ ( x i x ) ˆβ N(β,σ ˆβ) mit Var(ˆβ) = σ ˆβ = σ (xi x) = σ x i x Verteilug der stadardisierte Schätzfuktioe: ˆ x t mit ˆσˆ = ˆσ i x ˆσˆ (xi x) = ˆσ ( i x i x ) ˆβ β t mit ˆσˆβ = ˆσˆβ ˆσ (xi x) = ˆσ x i x (1 )-Kofidezitervalle für ud β: ] für : [ˆ ˆσˆ t 1,, ˆ + ˆσˆ t 1, ] für β: [ˆβ ˆσˆβ t 1,, ˆβ + ˆσˆβt 1, Kleiste-Quadrate-Schätzer: Schätzer für die Variaz σ : (x i x)(y i Ȳ ) x i Y i xȳ ˆ = Ȳ ˆβ x, ˆβ = = (x i x) x i x ˆσ = 1 ˆǫ i = 1 (Y i (ˆ + ˆβx i )) Teststatistike: Hypothese ud Ablehbereiche: T 0 = ˆ 0 ˆσˆ ud T β0 = ˆβ β 0 Hypothese ˆσˆβ Ablehbereich H 0 : = 0 vs. H 1 : 0 T 0 > t 1, H 0 : β = β 0 vs. H 1 : β β 0 T β0 > t 1, H 0 : 0 vs. H 1 : < 0 T 0 < t 1, H 0 : β β 0 vs. H 1 : β < β 0 T β0 < t 1, H 0 : 0 vs. H 1 : > 0 T 0 > t 1, H 0 : β β 0 vs. H 1 : β > β 0 T β0 > t 1, Progose: Kofidezitervall für Y 0 : [ Ŷ 0 t 1, ˆσ Ŷ 0 = ˆ + ˆβx (x 0 x) x i x,ŷ0 + t 1, ˆσ ] (x 0 x) x i x

20 9 REGRESSIONSANALYSE 39 9 REGRESSIONSANALYSE 40 Quadratsummezerlegug: SQT: SQE: SQR: (Y i Ȳ ) = (Ŷi Ȳ ) }{{}}{{}}{{} SQT = SQE + SQR Gesamtabweichugsquadratsumme i Y -Richtug Durch die Regressio erklärter Teil vo SQT Trotz der Regressio uerklärt bleibeder Teil vo SQT Bestimmtheitsmaß: R = SQE SQT = 1 SQR SQT, Berechug: R = + (Y i Ŷi) (Ŷi Ȳ ) = (Y i Ȳ ) 9. Multiple lieare Regressio i Summeotatio Regressiosasatz: Normalverteilugsaahme: Gefittete Werte: Residue: Y i = β 0 + β 1 x i1 + β x i β p x ip + ǫ i, i = 1,...,. Ŷ i Ȳ Y i Ȳ ǫ i N(0,σ ), Y i N(β 0 + β 1 x i β p x ip,σ ), i = 1,...,. Schätzer für die Variaz σ : ˆσ = Ŷ i = ˆβ 0 + ˆβ 1 x i1 + ˆβ x i ˆβ p x ip ˆǫ i = Y i Ŷi, 1 p 1 i = 1,...,. ˆǫ 1 i = p 1 (Y i Ŷi) Verteilug der stadardisierte Schätzfuktioe: (1 )-Kofidezitervalle für β j : Teststatistike: Hypothese ud Ablehbereiche: Overall F Test: Hypothese: Teststatistik: Ablehugsbereich: ˆβ j β j ˆσ j t p 1, j = 0,...,p [ˆβj ˆσ j t 1, p 1, ˆβj + ˆσ j t 1, p 1 ] T j = ˆβ j β 0j ˆσ j, j = 0,...,p Hypothese Ablehbereich H 0 : β j = β 0j vs. H 1 : β j β 0j T j > t 1, p 1 H 0 : β j β 0j vs. H 1 : β j < β 0j T j < t 1, p 1 H 0 : β j β 0j vs. H 1 : β j > β 0j T j > t 1, p 1 F = H 0 : β 1 =... = β p = 0 H 1 : β j 0 für midestes ei j R p 1 = SQE p 1 1 R p SQR p F > F 1 ;p, p Multiple lieare Regressio i Matrixotatio Modell i Matrixotatio: mit y = Y 1 Y. Y y = Xβ + ǫ, E(ǫ) = 0, Var(ǫ) = E(ǫǫ ) = σ I 1 x 11 x 1p, X = 1 x 1 x p..., β = 1 x 1 x p β 0 β 1. β p ǫ 1 ǫ, ǫ = ǫ. ud I der -dimesioale Eiheitsmatrix.

21 9 REGRESSIONSANALYSE 41 9 REGRESSIONSANALYSE 4 KQ-Schätzer für β: Aus dem KQ-Asatz (y Xβ) (y Xβ) mi β ergibt sich durch Nullsetze der erste Ableitug ach β ud, falls X X ivertierbar ist, aschließedem Löse des resultierede Gleichugssystems der KQ-Schätzer ˆβ = (X X) 1 X y Hypothesetests: Sei R 1 := (r 0,...,r p ). Ma betrachte folgede Testprobleme (a) H 0 : R 1 β = r gege H 1 : R 1 β r (b) H 0 : R 1 β r gege H 1 : R 1 β < r (c) H 0 : R 1 β r gege H 1 : R 1 β > r. Variaz der Schätzer ˆβ j : Mit de Diagoalelemete v j aus (X X) 1 erhält ma für bekates σ als Variaz vo ˆβ j σ j = Var(ˆβ j ) = σ v j bzw. für ubekates σ die geschätzte Variaz vo ˆβ j gemäß ˆσ j = ˆσ v j. Zusammefassede Darstellug i Vektorotatio Teststatistik: Ablehugsbereiche: R 1 ˆβ r T = ˆσ R 1 (X X) 1 R 1 (a), T > t 1, p 1 (b), T < t 1, p 1 (c), T > t 1, p 1 H 0 t p 1 KQ-Schätzer für σ : Var(ˆβ) = σ (X X) 1 bzw. Var(ˆβ) = ˆσ (X X) 1 ˆσ ˆǫ ˆǫ = p 1 = y y ˆβ X y p 1 Kodierug kategorialer Eiflussgröße: Sei M {1,..., m} eie mehrkategoriale erklärede Variable mit m Kategorie. Dummy-Kodierug: { 1, M = i, x M i := 0, sost. i = 1,...,m 1 Progose: ŷ 0 = x 0 ˆβ Kofidezitervall für ŷ 0 : [ ] ŷ 0 t 1, p 1ˆσ x 0(X X) 1 x 0 + 1,ŷ 0 + t 1, p 1ˆσ x 0(X X) 1 x Effekt-Kodierug: mit m als Referezkategorie. 1, M = i, x M i := 1, M = m, 0, sost. i = 1,...,m 1 Bestimmtheitsmaß ud korrigiertes Bestimmtheitsmaß: Bestimmtheitsmaß: R = (ŷ i ȳ) (y i ȳ) = ˆβ X y ȳ y y ȳ korrigiertes Bestimmtheitsmaß: R = 1 1 p 1 (1 R )

22 9 REGRESSIONSANALYSE VARIANZANALYSE 44 SPSS-Output eier multiple Regressio: 10 Variazaalyse Testprobleme: Coefficiets a Ustadardized Coefficiets Model B Std. Error t Sig. 1 (Costat) ˆβ0 ˆσ 0 T 0 P(T T 0 ) X 1 ˆβ1 ˆσ 1 T 1 P(T T 1 ) X ˆβ ˆσ T P(T T )..... X p ˆβp ˆσ p T p P(T T p ) a Depedet Variable: Y 10.1 Eifaktorielle Variazaalyse Modell 1: Y ij = µ i + ǫ ij, ǫ ij N(0,σ ), uabhägig, i = 1,...,I, j = 1,..., i. Modell : I Y ij = µ + i + ǫ ij, i i = 0, ǫ ij N(0,σ ), uabhägig, i = 1,...,I, j = 1,..., i. t ist der Wert der t-statistik für d.h. T j = ˆβ j ˆσ j, j = 0,...,p Sig. ist der zugehörige p-wert H 0 : β j = 0 vs. H 1 : β j 0, Schätzer für Modell : ˆµ = 1 I i Y ij = Ȳ ud ˆ i = Ȳi Ȳ, mit Ȳ i = 1 i i Die Prüfgröße für das Testproblem H 0 : 1 =... = I = 0 gege H 1 : mid. zwei i 0 Y ij ist gegebe als Ablehugsbereich: F = MQE MQR = I i(ȳi Ȳ ) /(I 1) I i (Y ij Ȳi ) /( I), C = {F : F > F 1 ;I 1, I }. 10. Zweifaktorielle Variazaalyse Modelle: Modell 1: Y ijk = µ ij + ǫ ijk, ǫ ijk N(0,σ ), uabhägig, i = 1,...,I, j = 1,...,J, k = 1,...,K. Modell : I J I Y ijk = µ + i + β j + (β) ij + ǫ ijk, i = 0, β j = 0, (β) ij = 0, ǫ ijk N(0,σ ), uabhägig, i = 1,...,I, j = 1,...,J, k = 1,...,K. J (β) ij = 0,

23 10 VARIANZANALYSE ZEITREIHENANALYSE 46 Schätzer: Die Schätzer der Parameter i Modell sid gegebe als Prüfgröße: ˆµ = 1 IJK I J k=1 K Y ijk = Ȳ, ˆ i = Ȳi Ȳ mit Ȳ i = 1 JK ˆβ j = Ȳ j Ȳ mit Ȳ j = 1 IK J K k=1 I K k=1 Y ijk Y ijk (β) ij = Ȳij Ȳi Ȳ j + Ȳ mit Ȳ ij = 1 K K Y ijk. k=1 11 Zeitreiheaalyse Eifacher gleiteder Durchschitt: Gleiteder Durchschitt ugerader Ordug p = q + 1: ĝ t = 1 q + 1 t+q i=t q Gleiteder Durchschitt gerader Ordug p = q: Globale Tredmodelle: ĝ t = 1 1 q y t q + 1 y t+q + y i, t+(q 1) i=t (q 1) t = q + 1,..., q y i, t = q + 1,..., q Vorliege vo Wechselwirkuge: F A B = MQ(A B) MQR mit Ablehugsbereich = K I J (Ȳij Ȳi Ȳ j + Ȳ ) /((I 1)(J 1)) K k=1 (Y ijk Ȳij ) /(IJ(K 1)) I J F A B > F 1 ;(I 1)(J 1),IJ(K 1). Vorliege vo Haupteffekte bedigt durch Faktor A g t = β 0 + β 1 t g t = β 0 + β 1 t + β t g t = β 0 + β 1 t β q t q g t = β 0 β1 t g t = β 0 exp{β 1 t} g t = β 0 β 1+exp{ β t} liearer Tred quadratischer Tred polyomialer Tred Expoetialtred expoetielles Wachstum logistische Sättigugskurve mit Ablehugsbereich F A = MQA MQR = I J KJ I (Ȳi Ȳ ) /(I 1) K k=1 (Y ijk Ȳij ) /(IJ(K 1)) F A > F 1 ;I 1,IJ(K 1). Vorliege vo Haupteffekte bedigt durch Faktor B mit Ablehugsbereich F B = MQB MQR = KI J (Ȳ j Ȳ ) /(J 1) K k=1 (Y ijk Ȳij ) /(IJ(K 1)) I J F B > F 1 ;J 1,IJ(K 1). Schätzug vo Tredfuktioe: lieare Tredfuktio ĝ t = ˆβ 0 + ˆβ 1 t mit t=1 ˆβ 0 = g t t=1 t t=1 t t=1 g t t t=1 t ( ˆβ1 = t=1 t) Expoetialtred ĝ t = ˆβ 0 ˆβt 1 l ĝ t = l ˆβ 0 + t l ˆβ mit l ˆβ t=1 0 = l g t t=1 t t=1 t t=1 l g t t t=1 t ( l ˆβ 1 = t=1 t) t=1 g t t t=1 g t t=1 t t=1 t ( t=1 t) t=1 l g t t t=1 l g t t=1 t t=1 t ( t=1 t)

24 11 ZEITREIHENANALYSE 47 1 VERTEILUNGSTABELLEN 48 Periodische Schwakuge: 1 Verteilugstabelle Additives Tred-Saiso-Modell: y t = g t + s t + ǫ t, Multiplikatives Zeitreihemodell: y t = g t s t ǫ t, t = 1,..., t = 1,..., 1.1 Stadardormalverteilug Tabelliert sid die Werte der Verteilugsfuktio Φ(z) = P(Z z) für z 0. Ablesebeispiel: Φ(1.75) = Fuktioswerte für egative Argumete: Φ( z) = 1 Φ(z) Die z-quatile ergebe sich geau umgekehrt. Beispielsweise ist z = 1.75 ud z = Saisomodell mit k Uterzeiträume uter Verwedug vo Dummyvariable: { 1, we t zum Uterzeitraum i gehört s t = 1 s 1 (t) k s k (t), s i (t) = 0, sost Schätzug vo 1,..., k : mit P = /k Azahl der Periode. Progose zum Zeitpukt T: im additive Modell: ˆ i = 1 P im multiplikative Modell: ˆ i = 1 P ŷ T = ĝ T + ŝ T. s i (t)(y t ĝ t ), t=1 t=1 s i (t) y t ĝ t

25 1 VERTEILUNGSTABELLEN 49 1 VERTEILUNGSTABELLEN Studets t-verteilug Tabelliert sid die Quatile für Freiheitsgrade. Für das Quatil t 1, gilt F(t 1, ) = 1. Liks vom Quatil t 1, liegt die Wahrscheilichkeitsmasse 1. Ablesebeispiel: t 0.99,0 =.58 Die Quatile für 0 < 1 < 0.5 erhält ma aus t, = t 1, Approximatio für > 30: t, z (z ist das ()-Quatil der Stadardormalverteilug) χ -Verteilug Tabelliert sid die Quatile für Freiheitsgrade. Für das Quatil χ 1, gilt F(χ 1,) = 1. Liks vom Quatil χ 1, liegt die Wahrscheilichkeitsmasse 1. Ablesebeispiel: χ 0.95,10 = Approximatio für > 30: χ, 1 (z + 1) (z ist das -Quatil der Stadardormalverteilug)

26 1 VERTEILUNGSTABELLEN 51 1 VERTEILUNGSTABELLEN Poissoverteilug Tabelliert sid die Werte der Verteilugsfuktio F(x) = P(X x) = x k=0 P(X = k). Ablesebeispiel: X Po(4) F(5) = P(X 5) = Approximatio für λ 10: Po(λ) a N(λ,λ) λ x F-Verteilug Tabelliert sid die rechtsseitige Quatile für ( 1, ) Freiheitsgrade. Für das Quatil f 1 ;1, gilt F(f 1 ;1, ) = 1. Liks vom Quatil f 1 ;1, liegt die Wahrscheilichkeitsmasse 1. Ablesebeispiel: f 0.99;15,8 = Liksseitige Quatile: f ;1, = 1 f 1 ;1,