Statistik. Andrej Depperschmidt. Sommersemester 2016

Transkript

1 Statistik Andrej Depperschmidt Sommersemester 2016

2 Schätzen der Varianz mit Stichprobenmittel Sei X = (X 1,..., X n ) eine Stichprobe u.i.v. ZV mit E[X i ] = µ R, Var[X i ] = σ 2 (0, ) und µ 4 = E[(X i µ) 4 ] <. Wenn µ bekannt ist, so können wir σ 2 wie folgt schätzen: Y i = (X i µ) 2. Dann sind Y 1,..., Y n u.i.v. mit E[Y i ] = Var[X i ] = σ 2 und Var[Y i ] < Dann ist ˆσ 2 1(X ) := Y n = 1 n n Y i = 1 n n (X i µ) 2 ein Schätzer von σ 2. Als Stichprobenmittel ist er erwartungstreu, konsistent etc.

3 Schätzen der Varianz mit Stichprobenvarianz Wenn µ bekannt ist so können wir dennoch die Stichprobenvarianz ˆσ 2 := 1 n 1 n (X i X ) 2 (1) als Schätzer für σ 2 verwenden. Auch dieser Schätzer ist erwartungstreu, denn es ist n (X i µ) 2 = = n ( (Xi X ) + (X µ) ) 2 n (X i X ) 2 + n (X µ) 2 + 2(X µ) n (X i X ) }{{} =0, da n X i =nx.

4 Es folgt [ n E (X i X ) 2] [ n = E (X i µ) 2] [ n E (X µ) 2] und somit Man kann weiter nachrechnen, dass = n Var[X 1 ] n Var[X ] = nσ 2 σ 2 = (n 1)σ 2 E[ˆσ 2 ] = σ 2. Var[ˆσ 2 ] = 1 n (µ 4 n 3 n 1 σ4 ).

5 χ 2 n-verteilung Seien die Zufallsvariablen Z 1,..., Z n unabhängig und identisch verteilt mit Z i N 0,1. Die Zufallsvariable n Z i 2 ist χ 2 n verteilt. Die Verteilung heißt (zentrale) χ 2 -Verteilung mit n Freiheitsgraden. Es gilt χ 2 n = Γ 1/2,n/2. Die Dichte ist gegeben durch f n (x) = 1 2 n/2 Γ(n/2) x n/2 1 e x/2, x > 0.

6 t n -Verteilung Seien U N 0,1 und V χ 2 n stochastisch unabhängig. U Die Zufallsvariable ist t n verteilt. Die Verteilung heißt V /n studentsche t-verteilung (oder einfach t-verteilung) mit n Freiheitsgraden. Die Dichte ist gegeben durch Γ((n + 1)/2) ( f n (x) = 1 + x 2 ) (n+1)/2, x R. (2) nπγ(n/2) n Bemerkung: Man kann zeigen, f n (x) n φ(x), x R, wobei φ die Dichte der Standardnormalverteilung ist.

7 F n,m -Verteilung Seien X 1 χ 2 n und X 2 χ 2 m unabhängig. Die Zufallsvariable X 1/n X 2 /m ist F n,m verteilt. Die Verteilung heißt F -Verteilung mit n Freiheitsgraden im Zähler und m Freiheitsgraden im Nenner. Die Dichte bekommt man aus den entsprechenden Dichten der χ 2 Verteilung. Sie ist gegeben durch f n,m (x) = nn/2 m m/2 Γ((n + m)/2)x n/2 1, x > 0. (3) Γ(n/2)Γ(m/2)(m + nx) (n+m)/2

8 Satz Verteilung von ˆµ und ˆσ 2 bei Normalität Seien X 1,..., X n u.i.v. mit X i N µ,σ 2, 0 < σ 2 <. (i) ˆµ(X ) = 1 n n X i und ˆσ 2 (X ) sind unabhängig. (ii) ˆµ(X ) N µ,σ2 /n, n 1 σ 2 ˆσ 2 (X ) χ 2 n 1. Folgerung Für X 1,..., X n wie oben gilt Beweis. n(ˆµ(x ) µ) t n 1. ˆσ n(ˆµ(x ) µ) σ σ n(ˆµ(x ) µ) ˆσ = }{{ σ } N 0,1 1 ((n 1) ˆσ2 σ 2 }{{} χ 2 n 1 ) 1/2 1 n 1

9 Konfidenzgrenzen für µ bei bekannter Varianz Normalverteilungsmodell Für X 1,..., X n unabhängig mit X i N µ,σ 2 mit bekanntem σ 2 (0, ) haben wir in gezeigt, dass das Konfidenzintervall für µ zur Sicherheit 1 α durch I (X ) = (X z α/2 σ n, X + z α/2 σ n ) gegeben ist, wobei z α/2 das obere α/2-quantil (= 1 α/2-quantil) der Standardnormalverteilung ist, d.h. z α/2 = Φ 1 (1 α/2) bzw. P(Z z α/2 ) = α 2, Z N 0,1.

10 Konfidenzgrenzen für µ bei geschätzter Varianz Normalverteilungsmodell Ist σ 2 (0, ) unbekannt und wird es mit ˆσ 2 (X ) geschätzt dann kann man sich analog überlegen, dass Ĩ (X ) = (X t n 1,α/2 ˆσ n, X + t n 1,α/2 ˆσ n ) ein Konfidenzintervall für µ zur Sicherheit 1 α ist. Dabei bezeichnet t n 1,α/2 das obere α/2 Quantil der t n 1 -Verteilung.

11 Konfidenzgrenzen für µ bei geschätzter Varianz allgemeine Verteilung Sind X 1,..., X n u.i.v. mit E[X i ] = µ und Var[X i ] = σ 2 (0, ) dann hat Ĩ (X ) die asymptotische Sicherheit 1 α, denn es gilt X t n 1,α/2 ˆσ n < µ < X + t n 1,α/2 ˆσ n n X n µ < t n 1,α/2 ˆσ n und somit ( n X n µ ) P(µ Ĩ (X )) = P t n 1,α/2 ˆσ n ( n X n µ σ = P } {{ σ } N 0,1 ˆσ }{{} n P 1 z α/2 t n 1,α/2 } {{ } 1 z α/2 ) n P( Z z α/2 ) = Φ(z α/2 ) Φ( z α/2 ) = 1 α.

12 Konfidenzgrenzen für µ bei geschätzter Varianz allgemeine Verteilung P(µ Ĩ (X )) = P ( n X n µ σ Bemerkung: } {{ } N 0,1 σ ˆσ }{{} n P 1 z α/2 t n 1,α/2 } {{ } 1 z α/2 ) n P( Z z α/2 ) = Φ(z α/2 ) Φ( z α/2 ) = 1 α. Statt t n 1,α/2 kann man z α/2 (auch im allgmeinen Modell) verwenden. Liefert dieselbe asymptotische Sicherheit. Praxisüblich ist es mit t-quantilen zu arbeiten. Sie sind exakt im Normalverteilungsmodell und liefern konservativere (größere) Konfidenzintervalle, da z α/2 < t n,α/2 n N, α < 1/2.

13 Das Maximum-Likelihood Prinzip Betrachte eine einzige Beobachtung einer ZV mit Werten in {0, 1, 2} mit Verteilung P θ, θ {θ 0, θ 1 }, gegeben wie folgt: x = 0 x = 1 x = 2 θ = θ θ = θ X = 0 beobachtet θ = θ 0 plausibler. X = 1 oder X = 2 beobachtet θ = θ 1 plausibler. Folgende Schätzfunktion bietet sich also an { θ 0 : X = 0, ˆθ(X ) = θ 1 : X 0.

14 Das Maximum-Likelihood Prinzip Beispiel verallgemeinerbar auf den Fall diskreter Verteilungen P θ mit θ Θ R k. Wenn X = x beobachtet wird, dann ist θ 1 plausibler als θ 2 genau dann wenn P θ1 ({x}) > P θ2 ({x}). Als Schätzer ˆθ würde man also das θ Θ wählen, das θ P θ ({x}) maximiert, wenn es existiert.

15 Likelihood Funktion, Maximum-Likelihood Schätzer X = (X 1,..., X n ) X, X P P = {P θ : θ Θ}. f θ sind Dichten bzw. Wahrscheinlichkeitsgewichte von P θ. Definition (i) Für jedes x X heißt die Funktion L(, x) L(θ, x) = f θ (x) R Likelihood-Funktion bei Beobachtung x X. (ii) Wir nennen ˆθ Θ die Maximum-Likelihood Schätzung (ML-Schätzung) für θ falls gilt L(ˆθ, x) = sup L(θ, x). θ Θ Fasst man ˆθ als Funktion von X auf, dann nennt man ˆθ = ˆθ(X ) ML-Schätzfunktion bzw. ML-Schätzer für θ.

16 Konkrete Bestimmung einer ML-Schätzung Da Logarithmus streng monoton wachsend ist, kann man anstelle von L(, x) äquivalent auch log L(, x), also Log-Likelhood-Funktion maximieren. Besonders hilfreich, wenn L(, x) Produktform hat. Dies gilt wenn X 1,..., X n unabhängig sind. Ist L(θ, x) bzw. log L(θ, x) differenzierbar in θ auf Θ 0 Θ, Θ 0 offen, so kann man oft (aber nicht immer) die ML-Schätzung durch explizites Lösen der Likelihood-Gleichung L(θ, x) = 0 θ bzw. der Log-Likelihood-Gleichung bestimmen. log L(θ, x) = 0 θ

17 ML-Schätzung für Bernoulli Verteilung Seien X 1,..., X n u.i.v. mit X i Ber θ, θ (0, 1). Es gilt n L(θ, x) = θ x i (1 θ) 1 x i = θ n x i (1 θ) n n x i, log L(θ, x) = n x i log θ + (n Die Log-Likelihood-Gleichung ist und wir erhalten 0 = θ log L(θ, x) = θ=ˆθ 1ˆθ n x i ˆθ n n x i ) log(1 θ). n x i = ˆθn ˆθ ˆθ = 1 n n x i = x. x i 1 1 ˆθ (n n x i n x i ).

18 ML-Schätzung für Bernoulli Verteilung Für die zweite Ableitung gilt 2 2 θ log L(θ, x) θ=ˆθ = 1ˆθ2 n 1 x i (n (1 ˆθ) 2 Also ist ˆθ = x das Maximum wenn x (0, 1). n x i ) < 0. Ist x = 0, so gilt sup θ (0,1) log L(θ, 0) = sup θ (0,1) n log(1 θ). Da log(1 θ) fallend in θ ist, ist ˆθ = 0 = 1 n n 0. Ist x = 1, so gilt sup θ (0,1) log L(θ, 1) = sup θ (0,1) n log θ. Da log θ wachsend in θ ist, ist ˆθ = 1 = 1 n n 1. Insgesamt ist also ˆθ(x) = x die ML-Schätzung von θ.

19 ML für Gleichverteilung mit Mittelpunkt θ X 1,..., X n u.i.v. mit X i U(θ 1 2, θ ), θ Θ = R. Es gilt L(θ, x) = = n f θ (x i ) = n 1 (θ 1 2,θ+ 1 2 ) (x i ) { 1 : θ 1 2 < x i < θ i 0 : sonst, = 1 (x(n) 1 2,x (1)+ 1 2 ) (θ). Dabei ist x (1) = min{x 1,..., x n } und x (n) = max{x 1,..., x n }. Für jede Schätzung ˆθ (x (n) 1 2, x (1) ) gilt L(ˆθ, x) = 1 = sup L(θ, x). θ R Jedes ˆθ (x (n) 1 2, x (1) ) ist ML Schätzung; keine Eindeutigkeit.

20 ML für Normalverteilung X 1,..., X n u.i.v. mit X i N µ,σ 2, θ = (µ, σ 2 ) Es gilt und L(θ, x) = n 1 (x 2πσ 2 e i µ) 2σ 2 ( n = (2πσ 2 ) n/2 exp (x i µ) 2 ) 2σ 2 log L(θ, x) = n n 2 log 2πσ2 (x i µ) 2 2σ 2 Die log-likelhood Gleichung besteht aus zwei Gleichungen, die man lösen kann. Durch Betrachten der Hessematrix sowie des Verhaltens an den Rändern bekommt man die ML-Schätzer ˆµ(X ) = X und ˆσ 2 (X ) = 1 n 2 n (X i X ) 2.

21 Ungleichung von Cramér Rao X = (X 1,..., X n ) X, X P P = {P θ : θ Θ}. f θ sind Dichten bzw. Wahrscheinlichkeitsgewichte von P θ. Für ϑ = h(θ) sei ˆϑ(X ) ein Schätzer mit m(θ) = E θ [ ˆϑ(X )]. Definiere Fisher Information durch [( ) 2 ] I (θ) = E θ θ log f θ(x ) Unter bestimmten Regularitätsvoraussetzungen und falls 0 < I (θ) < gilt die Cramér-Rao Ungleichung Var θ [ ˆϑ(X )] (m (θ)) 2. I (θ) Schätzer, für die asymptotisch die Gleichung gilt, heißen effizient. ML Schätzer sind unter relativ milden Bedingungen an das Modell effizient.

22 Elemente der Testtheorie

23 Statistische Tests Beobachtungsmodell {(X, B, P θ ) : θ Θ}. Θ = Θ 0 Θ 1 eine disjunkte Vereinigung. Ist das wahre θ in Θ 0 oder in Θ 1? Wir betrachten folgende Hypothesen H 0 : θ Θ 0 (Nullhypothese), H 1 : θ Θ 1 (Alternative). Eine Funktion d mit d : X {0, 1} heißt Test für H 0 gegen H 1 wenn sie messbar ist, und wie folgt interpretiert werden kann: d(x) = 1 Verwerfen der Nullhypothese H 0, d(x) = 0 Annahme der Alternative von H 0. Insbesondere gibt es einen kritischen Bereich K B mit d = 1 K. Bemerking: es gibt randomisiserte Tests mit d : X [0, 1].

24 Fehler, Gütefunktion und Fehlerwahrscheinlichkeiten Beim Testen können im Prinzip folgende Fehler enstehen: d(x) = 0 d(x) = 1 θ Θ 0 kein Fehler Fehler 1. Art θ Θ 1 Fehler 2. Art kein Fehler Wir bezeichnen die entsprechenden Irrtumswahrscheinlichkeiten mit α d (θ) := P θ (d(x ) = 1), θ Θ 0 β d (θ) := P θ (d(x ) = 0), θ Θ 1 (W keit für Fehler 1. Art) (W keit für Fehler 2. Art) Definition (Gütefunktion) Die Funktion G d : Θ [0, 1], θ G d (θ) = P θ (d(x ) = 1) = E θ [d(x )] heißt Gütefunktion der Tests d (auch Schärfe, Trennschärfe, Power). Dabei gilt α d (θ) = G d (θ) für θ Θ 0 β d (θ) = 1 G d (θ) für θ Θ 1.

25 Typisches Vorgehen beim Testen Im Allgemeinen ist es nicht möglich Fehler beider Arten klein zu halten ( Beispiel: Einseitiger Gaußtest). Typischerweise wird die Hypothese H 0 so gewählt, dass man sie durch Experimente ablehnen will. Fehler 1. Art ist mit diesem Ansatz der schlimmere der beiden Fehler. Diesen möchte man kontrollieren und unter einer vorgegebenen Schranke halten. Unter solchen Tests sucht man nach Tests mit möglichst kleiner Fehlerwahrscheinlichkeit 2. Art.

26 Beispiel Eine Gruppe von Umweltschützer wollen beweisen, dass der Gehalt eines Schadstoffs in einem Lebensmittel zu hoch ist. Der Hersteller will das Gegenteil beweisen. Sei µ der wahre Inhalt und µ 0 der zugelassene Grenzwert. Die Testansätze der beiden Seiten werden lauten: Umweltschützer: H 0 : µ µ 0, H 1 : µ > µ 0 Hesrteller: H 0 : µ µ 0, H 1 : µ < µ 0

27 Trennschärfste und unverfälschte Tests Definition (i) Ein Test d für H 0 gegen H 1 heißt Test zum Signifikanzniveau oder einfach Niveau α, wenn α d α, also G d (θ) α für alle θ Θ 0. (ii) Ein Test d zum Niveau α heißt trennschärfster Test (engl. uniformly most powerfull (UMP)) für H 0 gegen H 1 wenn für jedes θ Θ 1 gilt G d (θ) = sup{g d (θ) : d Niveau α Test für H 0 gegen H 1 }. (iii) Ein Niveau α Test d heißt unverfälscht zum Niveau α, wenn β d 1 α, d.h. wenn G d (θ) α für alle θ Θ 1.

28 Trennschärfste und unverfälschte Tests II Lemma Ein trennschärfster Niveau α Test d ist unverfälscht. Beweis. Sei d eine Ber α verteilt Zufallsvariable (unabhängig vom Rest). G d (θ) = E θ [d ] = α für alle θ Θ, d.h. d ist ein Niveau α Test. Ist d trennschärfster Niveau α Test, so gilt für alle θ Θ 1 G d (θ) G d (θ) = α d.h. d unverfälscht.

29 Trennschärfste und unverfälschte Tests II Lemma Ein trennschärfster Niveau α Test d ist unverfälscht. Beweis. Sei d eine Ber α verteilt Zufallsvariable (unabhängig vom Rest). G d (θ) = E θ [d ] = α für alle θ Θ, d.h. d ist ein Niveau α Test. Ist d trennschärfster Niveau α Test, so gilt für alle θ Θ 1 G d (θ) G d (θ) = α d.h. d unverfälscht. Klassisches Ziel: Finde trennschärfsten Niveau α Test unter allen Test zu finden. Falls kein trennschärfster existiert, dann finde trennschärfsten unter den unverfälschten Niveau α Tests.

30 Beispiel: einseitiger Gaußtest X = (X 1,..., X n ) u.i.v. mit X i N µ,σ 2, θ = µ R, σ 2 > 0 bekannt. Für µ 0 R betrachte H 0 : µ µ 0, H 1 : µ > µ 0. Plausibler Ansatz: Für zu bestimmendes c Es gilt d(x ) = 1 (c, ) (X ). ( X µ G d (µ) = P µ (d(x ) = 1) = P µ (X > c) = P µ σ/ n > c µ ) σ/ n ( c µ ) ( µ c ) = 1 Φ σ/ = Φ n σ/ (wachsend in µ und fallend in c). n Für ein Test zum Niveau α muss gelten α sup µ µ 0 G d (µ) = G d (µ 0 ) = Φ ( µ0 c σ/ n ).

31 Beispiel: einseitiger Gaußtest II ( µ0 c ) α Φ σ/ n Für jedes c µ 0 + zασ n ist ( c µ0 ) 1 α Φ σ/ n z α = Φ 1 (1 α) c µ 0 σ/ n. d(x ) = 1 (c, ) (X ) ein Niveau α Test. Für trennschärfsten Test d (unter solchen Tests) muss gelten { G d (µ) = sup G d (µ) : d(x ) = 1 (c, ) (X ), c µ 0 + z ασ }. n Dies ist für d (X ) = 1 (c, )(X ) mit c = µ 0 + zασ n der Fall, denn für c > c gilt ( µ c ) ( µ c ) G d (µ) = Φ σ/ > Φ n σ/ = G d (µ) n für alle µ und insbesondere für alle µ > µ 0.

32 Beispiel: einseitiger Gaußtest III Die Gütefunktion ist gegeben durch ( µ c ) G d (µ) = Φ σ/ n ( µ µ0 ) = Φ σ/ n z α. Die maximalen Fehlerwahrscheinlichkeiten sind ( µ µ0 ) sup α d (µ) = sup G d (µ) = sup Φ µ µ 0 µ µ 0 µ µ 0 σ/ n z α = Φ( z α ) = α und sup µ µ 0 β d (µ) = sup µ>µ 0 (1 G d (µ)) = 1 inf µ>µ 0 G d (µ) = 1 G d (µ 0 ) = 1 Φ( z α ) = 1 α.

33 Beispiel: einseitiger Gaußtest III Die Gütefunktion ist gegeben durch ( µ c ) G d (µ) = Φ σ/ n ( µ µ0 ) = Φ σ/ n z α. Die maximalen Fehlerwahrscheinlichkeiten sind ( µ µ0 ) sup α d (µ) = sup G d (µ) = sup Φ µ µ 0 µ µ 0 µ µ 0 σ/ n z α = Φ( z α ) = α und sup µ µ 0 β d (µ) = sup µ>µ 0 (1 G d (µ)) = 1 inf µ>µ 0 G d (µ) Bemerking: = 1 G d (µ 0 ) = 1 Φ( z α ) = 1 α. 1. Einseitiger Gaußtest mit H 0 : µ µ 0 vs. H 1 : µ < µ 0 analog. 2. Zweiseitiger Gaußtest mit H 0 : µ = µ 0 vs. H 1 : µ µ 0 Übung.

34 t-test X = (X 1,..., X n ) u.i.v. mit unbekannten µ = E[X i ] R und σ 2 (0, ). Ähnlich wie beim zweiseitigen Test wollen wir testen. Wir haben gesehen, dass H 0 : µ = µ 0 vs. H 1 : µ µ 0 Ĩ (X ) = (X t n 1,α/2 ˆσ n, X + t n 1,α/2 ˆσ n ) ein Konfidenzintervall für µ zur Sicherheit 1 α ist. Wobei ˆσ 2 = ˆσ 2 (X ) = 1 n 1 t n 1,α/2 = F 1 n 1 (1 α/2), oberes n (X i X ) 2 (Stichprobenvarianz) α/2-quantil der t n 1-Verteilung Das Intervall Ĩ (X ) ist exakt wenn X i N µ,σ 2 und approximativ sonst.

35 t-test II Wir machen folgenden Ansatz d(x ) = 1 µ 0 Ĩ (X ) Dann gilt für den Fehler 1. Art P µ0 (d(x ) = 1) = P µ0 (µ 0 Ĩ (X )) α Also ist d ein Test für H 0 : µ = µ 0 vs. H 1 : µ µ 0 zum Niveau α.

36 Fishers exakter Test Seien A und B zwei Ereignisse auf einem W Raum. Wir nehmen an, dass wir n Versuche beobachten und zählen wie oft das Ereignis jeweils in den folgenden Mengen landet A B, A B C, A C B, A C B C Man kann die Ergebnisse in einer Kontingenztafel zusammenfassen Es soll getestet werden: A A C total B X 11 X 12 n 1 B C X 21 X 22 n 2 total m 1 m 2 n H 0 : A und B sind unabhängig, gegen H 1 : A und B sind abhängig

37 Fishers exakter Test II Bestimme die Verteilung von X 11 gegeben X 11 + X 12 =Gesamtanzahl der Versuche in B X 11 + X 21 =Gesamtanzahl der Versuche in A Interpretation als Urnenexperiment n=gesamtanzahl der Kugeln in der Urne n 1 = X 11 + X 12 sind markiert Es werden m 1 = X 11 + X 21 Kugeln gezogen, wovon X 11 markiert sind. X 11 ist unter H 0 hypergeometrisch verteilt: ( )( ) n1 n n1 / ( ) n P 0 (X 11 = k) =. k m 1 k Liegen konkrete Beobachtungen vor so kann man obige W keit ausrechnen 1. Ist diese zu klein, dann lehnt man die Nullhypothese ab. m 1 1 Diese W keit wird als p-wert bzw. beobachtetes Signifikanzniveau bezeichnet. Es ist das kleinste Signifikanzniveau zu dem die Hypothese noch abgelehnt wird.

38 Markovketten

39 Irrfahrt Es ξ 1, ξ 2,... eine Folge u.i.v. Zufallsvariablen mit P(ξ i = 1) = p und P(ξ i = 1) = 1 p für ein p [0, 1] Für x Z definieren wir (X n ) n 0 durch X n = x + n ξ i. Wegen X n+1 = X n + ξ n+1 und wegen Unabhängigkeit von ξ n+1 von ξ 1,..., ξ n und somit auch von X 0,..., X m ist klar, dass X n+1 von X 0,..., X n nur durch X n abhängt. (X n ) n=0,1,... heißt Irrfahrt (engl. random walk) auf Z. p p p p p p... 1 p 2 1 p 1 1 p 0 1 p 1 1 p 2 1 p...

40 Markovketten und Markoveigenschaft I endliche Menge (Verallgemeinerung auf abzählbar unendlich möglich). P = (p ij ) ij I heißt stochastische Matrix, wenn p ij 0 für alle i, j I und p ij = 1 für alle i I. j I Sei ν = (ν(i)) i I eine Verteilung auf I und P wie oben. Stochastischer Prozess (X n ) n 0 ist eine Markovkette mit Anfangsverteilung ν und Übergangsmatrix P, wenn für alle n N und alle i 0,..., i n 1, i, j I P(X 0 = i 0 ) = ν(i 0 ), P(X n+1 = j X n = i,..., X 0 = i 0 ) = P(X n+1 = j X n = i) = p ij. Die Eigenschaft letzte Eigenschaft wird Markoveigenschaft genannt. P n = (p (n) ij ) ij I heißt n-schritte Übergangsmatrix P(X n = j X 0 = i) = p (n) ij.

41 Beispiel α 1 β α β Übergangsdiagramm einer allgemeinen Markovkette mit Zustandsraum I = {1, 2}, wobei α, β [0, 1]. Die Übergangsmatrix ist ( ) α 1 α P =. 1 β β

42 Aperiodizität und Irreduzibilität Eine Markovkette heißt irreduzibel, wenn jeder Zustand von jedem Zustand aus mit positiver Wahrscheinlchkeit erreichbar ist. Periode eines Zustandes i I ist definiert als d i = ggt{n 1 : p (n) ii > 0}, mit d i = +, falls p (n) ii = 0 für alle n 1 ist. Ist d i = 1, so heißt der Zustand i aperiodisch. Eine Markovkette heißt aperiodisch, wenn alle Zustände aperiodisch sind.

43 Invariante Verteilungen Wir sagen, dass ein W-Maß (π i ) i I eine invariante Verteilung für die Markovkette mit Übergangsmatrix P ist, wenn πp = π Wird eine MK in der invarianten Verteilung gestartet, so bleibt sie in der invarianten Verteilung. Satz Sei X = (X n ) n=0,1,... eine MK auf I (endlich) mit Übergangsmatrix P. Dann gilt: (i) X besitzt eine invariante Verteilung (i.a. mehr als eine möglich!). (ii) Ist X irreduzibel, dann ist invariante Verteilung π eindeutig. (iii) Ist X irreduzibel und aperiodisch, so gilt auch p (n) ij n π j > 0, für alle i, j I.

44 Ergodensatz - Verallgemeinerung des GGZ Satz Es sei (X n ) n 0 eine irreduzible Markovkette mit Übergangsmatrix P und invarianter Verteilung π. Für jede beschränkte Funktion f : I R gilt ( ) 1 n 1 P f (X k ) n f, π = 1, n wobei k=0 f, π := i I f (i)π i das Integral von f bezüglich π ist.