Formelsammlung. PD Dr. C. Heumann

Transkript

1 Formelsammlug zur Vorlesug Statistik II PD Dr C Heuma

2 Formelsammlug Statistik II Iduktive Statistik Regel der Kombiatorik ohe Wiederholug mit Wiederholug! Permutatioe! 1! s! ( ) ( ) + m 1 ohe Reihefolge m m Kombiatioe ( ) mit Reihefolge m! m m Dabei gilt:! = ( 1) 1 ( m) =! m!( m)! Wahrscheilichkeitsrechug Laplace-Wahrscheilichkeit P(A) = A Ω Axiome vo Kolmogorov (1) 0 P(A) 1, () P(Ω) = 1, Azahl der für A güstige Fälle = Azahl aller mögliche Fälle (3) Seie A ud B disjukte Ereigisse Da gilt: P(A B) = P(A) + P(B) Folgeruge aus de Axiome vo Kolmogorov P(Ā) = 1 P(A), P(/0) = 0, P(A B) = P(A) + P(B) P(A B), Für A B gilt: P(A) P(B), Sei A 1,,A eie vollstädige Zerlegug vo Ω i paarweise disjukte Ereigisse Da gilt: P(B) = P(B A i ) Bedigte Wahrscheilichkeit Für P(B) > 0 gilt: P(A B) = P(A B) P(B) Multiplikatiossatz P(A B) = P(B A) P(A) = P(A B) P(B) Satz vo der totale Wahrscheilichkeit Sei A 1,,A eie vollstädige Zerlegug vo Ω i paarweise disjukte Ereigisse Da gilt: P(B) = Satz vo Bayes P(B A i ) P(A i ) Für P(A) > 0 ud P(B) > 0 gilt: P(A B) = P(B A) P(A) P(B) Uabhägigkeit vo Ereigisse Zwei zufällige Ereigisse A ud B sid geau da voeiader stochastisch uabhägig, we gilt: P(A B) = P(A) P(B) PD Dr Heuma 1

3 Formelsammlug Statistik II Iduktive Statistik Zufallsvariable Diskrete Zufallsvariable Wahrscheilichkeitsfuktio: P(X = x i ) = p i für i = 1,,I Gemeisame Wahrscheilichkeitsfuktio: P(X = x i,y = y j ) = p i j für i = 1,,I, j = 1,,J Radwahrscheilichkeitsfuktioe: P(X = x i ) = P(Y = y j ) = Stetige Zufallsvariable Dichtefuktio: f (x) J p i j = p i+ für i = 1,,I, j=1 I Gemeisame Dichtefuktio: f XY (x,y) Raddichte: f X (x) = f Y (y) = Erwartugswert p i j = p + j für j = 1,,J f XY (x,y)dy, f XY (x,y)dx Bei eier diskrete Zufallsvariable: E(X) = I x i p i Bei eier stetige Zufallsvariable: Variaz E(X) = Allgemei: x f (x)dx Var(X) = E[X E(X)] = E(X ) [E(X)] Bei eier diskrete Zufallsvariable: Var(X) = I (x i E(X)) p i Bei eier stetige Zufallsvariable: Var(X) = [x E(X)] f (x)dx Recheregel für Erwartugswert ud Variaz E(a X + b) = a E(X) + b, Var(a X + b) = a Var(X), E(X ±Y ) = E(X) ± E(Y ), Var(X ±Y ) = Var(X) + Var(Y ) ± Cov(X,Y ) Ugleichug vo Tschebyschev Sei X eie beliebige Zufallsvariable mit E(X) = µ ud Var(X) = σ Da gilt: Kovariaz P( X µ c) σ c, P( X µ < c) 1 σ c Cov(X,Y ) = E[(X E(X))(Y E(Y ))] = E(X Y ) E(X) E(Y ) Dabei gilt im diskrete Fall: E(X Y ) = I J j=1 bzw im stetige Fall: Korrelatio ρ(x,y ) = x i y j p i j, E(X Y ) = x y f XY (x,y)dxdy Cov(X,Y ) Var(X) Var(Y ) Uabhägigkeit vo Zufallsvariable Zwei Zufallsvariable X ud Y sid geau da voeiader stochastisch uabhägig, we gilt: f XY (x,y) = f X (x) f Y (y) für alle x, y PD Dr Heuma

4 Formelsammlug Statistik II Iduktive Statistik Spezielle diskrete Verteiluge Diskrete Gleichverteilug P(X = x i ) = 1 für i = 1,,k k Für de Spezialfall x i = i gilt: E(X) = k + 1, Var(X) = 1 1 (k 1) Beroulli-Verteilug ( X B(1, p) ) P(X = x) = E(X) = p, Var(X) = p(1 p) { p für x = 1, 1 p für x = 0, = p x (1 p) 1 x für x {0,1}, Biomialverteilug ( X B(, p) ) P(X = x) = E(X) = p, ( ) p x (1 p) x für x {0,1,,}, x Var(X) = p(1 p) Geometrische Verteilug ( X G(p) ) P(X = x) = p(1 p) x 1 für x N, Hypergeometrische Verteilug ( X H(,M,N) ) P(X = x) = ( M )( N M ) x x ( N ) für x {max(0, (N M)),, mi(,m)}, E(X) = M N, Var(X) = M N ( 1 M N Poisso-Verteilug ( X Po(λ) ) )( ) N N 1 P(X = x) = λx x! exp( λ) für x N 0, E(X) = Var(X) = λ Multiomialverteilug ( X M(; p 1,, p k )) ) P(X 1 = x 1,, X k = x k ) = für x i {0,1,,} mit! x 1! x k! px 1 1 px k k k x i =, E(X) = 1 p, Var(X) = 1 ( ) 1 p p 1 E(X) = (p 1,,p k ), { pi (1 p Cov(X i,x j ) = i ) für i = j, p i p j für i j PD Dr Heuma 3

5 Formelsammlug Statistik II Iduktive Statistik Spezielle stetige Verteiluge Stetige Gleichverteilug ( X U(a,b) ) f (x) = { 1 b a für x [a; b], 0 sost, E(X) = a + b, (b a) Var(X) = 1 Expoetialverteilug ( X Ex(λ) ) f (x) = E(X) = 1 λ, Var(X) = 1 λ { λexp( λx) für x 0, 0 sost, Normalverteilug ( X N(µ,σ ) ) f (x) = 1 ) ( σ π exp (x µ) σ, E(X) = µ, Var(X) = σ Stadardisierug: Sei X N(µ,σ ) Da gilt: Z = X µ σ N(0,1) Additiossatz: Seie X 1,,X iid N(µ,σ ) Da gilt: X i N(µ,σ ) Recheregel: ( ) b µ P(a X b) = Φ Φ σ χ -Verteilug Φ( z) = 1 Φ(z) Seie Z 1,,Z iid N(0,1) Da gilt: t-verteilug Z i χ ( a µ Seie X ud Y uabhägig mit X N(0,1) ud Y χ Da gilt: X Y / t F-Verteilug σ ), Seie X ud Y uabhägig mit X χ m ud Y χ Da gilt: X/m Y / F m, PD Dr Heuma 4

6 Formelsammlug Statistik II Iduktive Statistik Grezwertsätze ud Approximatioe Gesetz der große Zahle Seie X 1,,X iid mit E(X i ) = µ ud Var(X i ) = σ für i = 1,, ud sei X = 1 X i Da gilt: lim P( X µ < c) = 1, c > 0 Zetraler Grezwertsatz Seie X 1,,X iid mit E(X i ) = µ ud Var(X i ) = σ für i = 1,, ud sei Approximatioe Falls p(1 p) 9: B(, p) N(p,p(1 p)) Falls groß ud p klei: B(, p) Po(p) Falls λ 10: Da gilt: Y = X i µ σ lim P(Y y) = Φ(y), y Po(λ) N(λ,λ) Falls 01 M ud 01 (N M): ( H(,M,N) B, M ) N Pukt- ud Itervallschätzuge Bias bias θ (T (X);θ) = E θ (T (X)) θ Mea Square Error MSE θ (T (X);θ) = E θ ( [T (X) θ] ) = Var θ (T (X)) + [bias θ (T (X);θ)] Kofidezitervall für µ bei N(µ,σ ) (σ bekat) [I u (X),I o (X)] = X = 1 [ X z 1 α/ σ ; X + z 1 α/ σ ] X i Kofidezitervall für σ bei N(µ,σ ) (µ ubekat) [I u (X),I o (X)] = S X = [ 1 c 1;1 α/ S X; 1 1 (X i X) ] 1 SX c 1;α/ Approximatives Kofidezitervall für p bei B(, p) [I u (X),I o (X)] [ = ˆp = X ˆp(1 ˆp) ˆp(1 ˆp) ˆp z 1 α/ ; ˆp + z 1 α/ ] Kofidezitervall für µ bei N(µ,σ ) (σ ubekat) [I u (X); I o (X)] [ ] = X t 1;1 α/ SX ; X +t 1;1 α/ SX X = 1 S X = X i, 1 1 (X i X) PD Dr Heuma 5

7 Formelsammlug Statistik II Iduktive Statistik Tests für Eistichprobeprobleme Eifacher Gauß-Test Aahme: X N(µ,σ ) mit σ bekat Hypothese: a) H 0 : µ = µ 0 vs H 1 : µ µ 0 b) H 0 : µ µ 0 vs H 1 : µ < µ 0 c) H 0 : µ µ 0 vs H 1 : µ > µ 0 T (X) = X µ 0 H 0 N(0,1) σ Ablehbereiche: a) t > z 1 α b) t < z 1 α c) t > z 1 α Eifacher t-test Aahme: X N(µ,σ ) mit σ ubekat Hypothese: a) H 0 : µ = µ 0 vs H 1 : µ µ 0 b) H 0 : µ µ 0 vs H 1 : µ < µ 0 c) H 0 : µ µ 0 vs H 1 : µ > µ 0 T (X) = X µ 0 H 0 t 1 S Ablehbereiche: a) t > t 1;1 α b) t < t 1;1 α c) t > t 1;1 α Approximativer eifacher Biomialtest Aahme: X B(1, p) Hypothese: a) H 0 : p = p 0 vs H 1 : p p 0 b) H 0 : p p 0 vs H 1 : p < p 0 c) H 0 : p p 0 vs H 1 : p > p 0 T (X) = Ablehbereiche: a) t > z 1 α b) t < z 1 α c) t > z 1 α χ -Apassugstest Aahme: X F Hypothese: T (X) = ˆp p 0 H 0, appr N(0, 1) p0 (1 p 0 ) H 0 : F = F 0 vs H 1 : F F 0 k (N i p i ) p i H 0, appr χ k 1 r N i : beobachtete absolute Häufigkeit i Klasse i p i : Wahrscheilichkeit für Klasse i uter H 0 r: Azahl der für F 0 zu schätzede Parameter Ablehbereich: t > c k 1 r;1 α PD Dr Heuma 6

8 Formelsammlug Statistik II Iduktive Statistik Parametrische Tests für Zweistichprobeprobleme F-Test Aahme: Uabhägige Stichprobe zu de Merkmale X N(µ X,σ X ), Y N(µ Y,σ Y ), µ X ud µ Y ubekat Hypothese: a) H 0 : σ X = σ Y vs H 1 : σ X σ Y b) H 0 : σ X σ Y vs H 1 : σ X > σ Y T (X,Y) = S X S Y Ablehbereiche: H 0 FX 1, Y 1 mit T (X,Y) = X Ȳ X Y H 0 tx + S X + Y Y S = ( X 1)SX + ( Y 1)SY, X + Y SX = 1 X 1 (X i X), SY = 1 Y 1 Ablehbereiche: i i (Y i Ȳ ) a) t < f X 1, Y 1; α b) t > f X 1, Y 1;1 α oder t > f X 1, Y 1;1 α a) t > t X + Y ;1 α b) t < t X + Y ;1 α Doppelter Gauß-Test Aahme: Uabhägige Stichprobe zu de Merkmale X N(µ X,σ X ), Y N(µ Y,σ Y ), σ X ud σ Y bekat Hypothese: a) H 0 : µ X = µ Y vs H 1 : µ X µ Y b) H 0 : µ X µ Y vs H 1 : µ X < µ Y c) H 0 : µ X µ Y vs H 1 : µ X > µ Y T (X,Y) = Ablehbereiche: X Ȳ H X Y 0 N(0,1) Y σ X + XσY Paired t-test c) t > t X + Y ;1 α Aahme: Verbudee Stichprobe zu de Merkmale X N(µ X,σ X ), Y N(µ Y,σ Y ), σ X ud σ Y ubekat; für D = X Y mit µ D = µ X µ Y gilt: D N(µ D,σ D ) Hypothese: a) H 0 : µ D = 0 vs H 1 : µ D 0 b) H 0 : µ D 0 vs H 1 : µ D < 0 c) H 0 : µ D 0 vs H 1 : µ D > 0 T (X,Y) = T (D) = Ablehbereiche: D S D H 0 t 1 a) t > z 1 α b) t < z 1 α c) t > z 1 α Doppelter t-test Aahme: Uabhägige Stichprobe zu de Merkmale X N(µ X,σ X ), Y N(µ Y,σ Y ), σ X ud σ Y sid ubekat, aber idetisch Hypothese: a) H 0 : µ X = µ Y vs H 1 : µ X µ Y b) H 0 : µ X µ Y vs H 1 : µ X < µ Y c) H 0 : µ X µ Y vs H 1 : µ X > µ Y a) t > t 1;1 α b) t < t 1;1 α c) t > t 1;1 α Approximativer doppelter Biomialtest Aahme: Uabhägige Stichprobe für zwei Beroulli-verteilte Merkmale, so dass gilt: X B( 1, p 1 ), Y B(, p ) Hypothese: a) H 0 : p 1 = p vs H 1 : p 1 p b) H 0 : p 1 p vs H 1 : p 1 < p c) H 0 : p 1 p vs H 1 : p 1 > p PD Dr Heuma 7

9 Formelsammlug Statistik II Iduktive Statistik D T (X,Y) = ( ) H 0, appr N(0, 1) ˆp(1 ˆp) Ablehbereiche: a) t > z 1 α mit D = X 1 Y ud ˆp = X +Y 1 + b) t < z 1 α c) t > z 1 α PD Dr Heuma 8

10 Formelsammlug Statistik II Iduktive Statistik Nichtparametrische Tests für Zweistichprobeprobleme Ma-Whitey-U-Test Aahme: Uabhägige Stichprobe zu de stetige Merkmale X F ud Y G; die beide Verteiluge köe sich ur bzgl ihrer Lage uterscheide Hypothese: H 0 : F ud G uterscheide sich icht bzgl ihrer Lage H 1 : F ud G uterscheide sich bzgl ihrer Lage U 1 T (X,Y) = X Y 1 1 X Y ( X + Y + 1) wobei U = mi{u X,U Y } ud U X = X Y + X( X + 1) R X+ U Y = X Y + Y ( Y + 1) R Y + H 0, appr N(0, 1) R X+ : Ragsumme der X-Stichprobeelemete R Y + : Ragsumme der Y -Stichprobeelemete Ablehbereich: t > z 1 α Kolmogorov-Smirov-Test Aahme: Uabhägige Stichprobe zu de Merkmale X F ud Y G Hypothese: H 0 : F = G vs H 1 : F G T (X,Y) = D = max t S ˆF(t) Ĝ(t) mit S = X Y als gepoolte Stichprobe beider Merkmale Ablehbereich: t überschreitet (1 α)-quatil der Verteilug vo D uter H 0 Aalyse vo Kotigeztafel χ -Uabhägigkeitstest Aahme: Zu zwei kategoriale bzw zu zwei kategorisiert stetige Merkmale X ud Y liegt die gemeisame Verteilug vor Hypothese: Odds-Ratio-Test Aahme: Zu de dichotome Merkmale X ud Y liegt die gemeisame Verteilug vor Hypothese: H 0 : θ 0 = l(or) = 0 vs H 1 : θ 0 0 H 0 : X ud Y sid uabhägig vs T (X,Y) = ˆθ 0 ˆσˆθ 0 H 0, appr N(0, 1) H 1 : X ud Y sid abhägig mit ) 11 ˆθ 0 = lôr = l( 1 1 T (X,Y) = I J j=1 ( i j ˆ i j ) ˆ i j H 0, appr χ (I 1) (J 1) ( 1 ˆσˆθ 0 = ) Ablehbereich: t > z 1 α mit ˆ i j = i+ + j Kofidezitervall für θ 0 [I u,i o ] = [ˆθ 0 z 1 α ˆσˆθ 0 ; ˆθ 0 + z 1 α ˆσˆθ 0 ] Kofidezitervall für OR Ablehbereich: t > c (I 1) (J 1);1 α [exp(i u ); exp(i o )] PD Dr Heuma 9

11 Formelsammlug Statistik II Tabelleahag Multiple lieare Regressio Klassisches Modell mit Normalverteilugsaahme mit ud y = X β + ε y = β = y 1 y y β 0 β 1 β p 1 x 11 x 1p 1 x 1 x p, X =, 1 x 1 x p ε N(0,σ I ) KQ-Schätzer ˆβ = (X X) 1 X y Streuugszerlegug, ε = ε 1 ε ε SQ Total = SQ Regressio + SQ Residual Bestimmtheitsmaß R = SQ Regressio SQ Total Overall-F-Test = 1 SQ Residual SQ Total Aahme: Klassisches Modell mit Normverteilugsaahme Hypothese: H 0 : β 1 = = β p = 0 vs H 1 : β j 0 für midestes ei j F = R 1 R p 1 p Ablehbereich: f > f p, p 1;1 α Test für Regressioskoeffiziete Aahme: Klassisches Modell mit Normverteilugsaahme Hypothese: H 0 Fp, p 1 SQ Total = SQ Regressio = SQ Residual = (y i ȳ) (ŷ i ȳ) (y i ŷ i ) H 0 : β j = 0 vs H 1 : β j 0 T = ˆβ j ˆσˆβ j H 0 t p 1 Ablehbereich: t > t p 1;1 α PD Dr Heuma 10

12 Formelsammlug Statistik II Tabelleahag z z Tabelle 1: Verteilugsfuktio Φ(z) der Stadardormalverteilug N(0,1) PD Dr Heuma 11

13 Formelsammlug Statistik II Tabelleahag p d f Tabelle : p-quatile c d f ;p der χ -Verteilug PD Dr Heuma 1

14 Formelsammlug Statistik II Tabelleahag d f p Tabelle 3: p-quatile t d f ;p der t-verteilug PD Dr Heuma 13

15 Formelsammlug Statistik II Tabelleahag d f1 d f1 d f d f Tabelle 4: 095-Quatile fd f1,d f;095 der F-Verteilug PD Dr Heuma 14