3.4 Bayes-Verfahren Begrifflicher Hintergrund. Satz 3.19 (allgemeines Theorem von Bayes)

Transkript

1 3.4 Bayes-Verfahren Begrifflicher Hintergrund Satz 3.19 (allgemeines Theorem von Bayes) Seien X und U zwei Zufallsvariablen mit gemeinsamer Wahrscheinlichkeitsfunktion f X,U ( ) bzw. Dichte f X,U ( ) (bezüglich eines dominierenden σ-finiten Maßes ν λ) und den bedingten Wahrscheinlichkeitsfunktionen bzw. bedingten Dichten f X U ( u) und f U X ( x) (bezüglich ν bzw. λ). Dann gilt: f U X (u x) = f X U(x u) f U (u) f X (x) (3.14)

2 203 mit f X (x) = f X U (x u) f U (u) dν(u) (3.15) Bei stetigem U mit Dichte f U (u) erhält man also Satz 3.19 mit f X (x) = f X U (x u) f U (u)du. (3.16) Im Fall von diskreten Zufallsvariablen X und U mit U als Träger von U ergibt sich P ({X = x} {U = u}) P ({U = u}) P ({U = u} {X = x}) = P ({X = x}) mit P ({X = x}) = P ({X = x} {U = u}) P ({U = u}) u U

3 Bem (Normierungskonstante) 204 f X (x) aus (3.15) spielt die Rolle einer reinen Normierungskonstante, die nicht von u abhängt. Häufig reicht es daher, f X U (x u) f U (u) zu berechnen. Da man weiß, dass sich insgesamt eine Wahrscheinlichkeitsdichte ergeben muss, kennt man implizit auch die Normierungskonstante.

4 205 Bem (Def. posteriori Verteilung und ergänzende Bem.) Gegeben sei ein datengestütztes Entscheidungsproblem ((A, Θ, l( )); (X, σ(x ), P ϑ ( ))), wobei P ϑ ( ) die Wahrscheinlichkeitsfunktion bzw. Dichte f ϑ ( ) besitze, und eine a priori Verteilung auf (Θ, σ(θ)) mit Dichte bzw. Wahrscheinlichkeitsfunktion π( ). Dann heißt für jedes x X (vgl. (3.19)) π(ϑ x) = c(x) f ϑ (x) π(ϑ) f ϑ (x) π(ϑ) (3.17) mit c(x) als geeigneter Normierungskonstante gemäß (3.15) die (a) posteriori Verteilung von ϑ gegen x.

5 206 Stellt man sich eine Zufallsgröße U ( Umwelt, Nature ) vor, die den konkreten Wert ϑ bestimmt und interpretiert die Stichprobenverteilung P ϑ ( ) als bedingte Verteilung von X gegeben U, z.b. mit Dichte f X U (x ϑ) bzw. Wahrscheinlichkeitsfunktion P ({X = x} {U = ϑ}), x X, so entsteht (5.6) durch Anwenden des Satzes π(ϑ x) ist dann die Dichte (bzw. Wahrscheinlichkeitsfunktion) der bedingten Verteilung von U gegeben X. Für die Normierungskonstante c(x) gilt dann 1 c(x) = f X(x) = f X U (x ϑ)π(ϑ) im Falle von stetigem X und U, und 1 c(x) = P ({X = x}) = P ({X = x} {U = ϑ j }) π({u = ϑ j }) j

6 207 = j P ({X = x} {U = ϑ j }) π(ϑ j ) f X (x) und P ({X = x}) (nicht zu verwechseln mit den als bedingte Verteilungen interpretierten f ϑ (x) und P ϑ ({X = x})) heißen (als Funktion von x) priori-prädiktive Verteilung. Analog gibt es auch eine posteriori-prädiktive Verteilung, wenn man in analoger Weise über die posteriori-verteilung herausintegriert bzw. - summiert.

7 208 Bem (Bayes Postulat (nicht entscheidungstheoretisch)) Nach der Beobachtung der Stichprobe enthält die a posteriori Verteilung die volle Information, d.h. sie beschreibt das Wissen über den unbekannten Parameter vollständig. Alle statistischen Analysen haben sich ausschließlich auf die a posteriori zu stützen; darauf aufbauend insbesondere konstruktion von Bayessche-Punktschätzung: MPD-Schätzer (Maximum Posteriori Density-Schätzer) Bayessche-Intervallschätzung: Highest posterior density-intervalle Bayes-Tests

8 Proposition 3.23 (Suffizienz und a posteriori Verteilung) 209 Ist in der Situation von Definition 3.21 T suffizient für ϑ mit Wahrscheinlichkeitsfunktion bzw. Dichte g ϑ ( ), so hängt die posteriori π(ϑ x) nur mehr über t = T (x) von x ab. Es gilt π(ϑ x) g ϑ (t) π(ϑ) Beweis: Gemäß (3.17) ist π(ϑ x) f ϑ (x) π(ϑ) wobei wegen der Suffizienz von T sich f ϑ (x) schreiben lässt als f ϑ (x) = h X T (x) g ϑ (t). Einsetzen liefert die Behauptung.

9 3.4.2 Konjugierte Verteilungen, Bayes-Lernen 210 Bsp (Beta-Binomialmodell) Absolutes Standardbeispiel Stichprobenmodell: Bernoulliverteilung (allgemein: Binomialverteilung) zu Parameter ϑ P ϑ ({X i = x i }) = ϑ x i (1 ϑ) 1 x i jetzt im Bayes Kontext als bedingte Verteilung schreiben: P ({X i = x i } ϑ) = ϑ x i (1 ϑ) 1 x i

10 gebräuchliche priori-verteilung: Betaverteilung, gilt als sehr flexibel (f(z) aus Aufgabe 42) hier als priori verwendet, Bezeichnung π( ) π(ϑ) = ϑa 1 (1 ϑ) b 1 B(a, b) B(a, b) ist eine reine Normierungskonstante. I [0;1] (ϑ) 211 Es gilt: a Erwartungswert: a+b a 1 Modus: a+b 2, a > 1, b > 1

11 Abbildung 1: Rüger, (1999) Test- und Schätztheorie I, Seite

12 Jetzt Satz von Bayes anwenden: a posteriori berechnen. 213 π(ϑ x i ) = ϑx i (1 ϑ)1 x i ϑa 1 (1 ϑ) b 1 Norm. }{{ B(a, b) } Normierung ϑ x i+a 1 (1 ϑ) b xi I [0;1] (ϑ) = ϑ a 1 (1 ϑ) b 1 I [0;1] (ϑ) I [0;1] (ϑ) Posteriori ist also wieder eine Betaverteilung, nun mit den Parametern. a = a + x i und b = b x i + 1 = b + (1 x i )

13 Start z.b. mit a = 1, b = 1: Gleichverteilung als Nichtwissen verkaufbar x 1 = 1 beobachtet a = a + 1 = 2, b = b + 0 = 1 Beta(2, 1)-Verteilung π(ϑ x 1 ) ϑ 0 1 große Werte von ϑ plausibler, da ja x = 1, also Treffer beobachtet

14 Hätte man x 1 = 0 beobachtet a = 1, b = umgekehrt Schön zu sehen: sehr bequem zu rechnen Vor neuer Beobachtung posteriori als neue priori verwendet + Beobachtung neue Posteriori Bayes-Lernen

15 216 Hier sehr einfach zu rechnen, da priori und posteriori in derselben Verteilungsklasse liegen. Beta und Bernoulli/Binomialverteilung konjugiert (siehe später) Bleiben wir bei Beobachtung x 1 = 1 Jetzt weiteres Experiment x 2 (neue) priori (alte posteriori) Beta(2,1) Verteilung neue Stichprobe x 2 Von der Vorstellung her: Wie muss neue posteriori aussehen? neue posteriori: Beta(a + x i, b + (1 x i ))

16 z.b. x 2 = 0 a (2) = = 2, b (2) = = 2 π 2 (ϑ x) = ϑ2 1 (1 ϑ) 1 Norm. = ϑ1 (1 ϑ) 1 Norm. = ϑ ϑ2 Norm. 217 Ableitung 1 2ϑ =! 0 Maximum bei mal Treffer und 1 mal kein Treffer ϑ nahe Null eher unplausibel, symmetrisch um π 2 (0 x) = π 2 (1 x) = 0

17 Weitere Beobachtung x 3 = 1 Wie sieht posteriori aus? neue posteriori: Beta(a alt + x i, b alt + (1 x i )) a (3) = 2 + 1, b (3) = b alt = 2 π 3 (ϑ x) ϑ 2 (1 ϑ) 1 = ϑ 2 ϑ ganz große/ganz kleine Werte unwahrscheinlich, Schwergewicht eher aber bei ϑ > 1 2, da ja mehr Einser als Nuller beobachtet.

18 x 4 = 1 : π 4 (ϑ x) ϑ 3 (1 ϑ) 1 weitere Verschiebung nach rechts 219 Allgemein bei n unabhängigen Wiederholungen: π n (ϑ x 1,..., x n ) ist B(a + n x i ; b + n i=1 n x i ) (3.18) verteilt. Man kann zeigen: Dasselbe erhält man, wenn man x 1,..., x n auf einmal verarbeitet. i=1

19 Def (Konjugiertheit) 220 Eine Verteilungsfamilie Π von priori Verteilungen heißt zu einer Menge P von Stichprobenverteilungen konjugiert, wenn für jede priori π( ) Π und jedes P ( ) P die zugehörige posteriori-verteilung wieder ein Element von Π ist. Man sagt dann auch, dass jedes Element π( ) Π zu P konjugiert ist. Bem: (vgl. Prop. 3.23) Π, P konjugiert. Die Konjugiertheit überträgt sich auf die Suffizienz. Elemente von P mit suffizienter Statistik T beschreiben, posteriori von ϑ gegeben t bleibt in Π.

20 221 Proposition 3.26 (Weitere Beispiele für Konjugiertheit: Gamma-Poisson-Modell, Selbstkonjugiertheit der Normalverteilung) a) Ist X = (X1,..., X n ) eine i.i.d. Stichprobe eines zum Parameter λ Poisson verteilten Untersuchungsmerkmals, besitzt X also die Wahrscheinlichkeitsfunktion n f λ (x) = λ i=1 x i x 1!x 2!... x n! e nλ = f(x λ), und wählt man als priori Verteilung eine Gamma-Verteilung mit Parametern a und b, d.h. eine Verteilung mit der Dichte π(λ) = b a λ a 1 e bλ, (3.19) }{{} Γ(a) Norm.konst.

21 222 so ist die posteriori Verteilung eine Gamma-Verteilung mit den Parametern n a + x i und b + n. i=1 b) Ist X = (X 1,..., X n ) eine i.i.d. Stichprobe eines mit den Parametern µ und σ 2 normalverteilten Untersuchungsmerkmals, so gilt: i) Ist σ 2 bekannt und wählt man als priori Verteilung für µ eine Normalverteilung mit den Parametern ν und ρ 2, so ist die a posteriori Verteilung π(µ x) eine Normalverteilung mit den Parametern ν und ρ 2 mit ν = xρ 2 + ν σ2 n ρ 2 + σ2 n (3.20)

22 und ρ 2 = ρ 2 σ2 n ρ 2 + σ2 n 223. (3.21) ii) Ist µ bekannt, aber σ 2 unbekannt, so erhält man die konjugierte Verteilung, indem man 1 σ als gammaverteilt annimmt. Man sagt 2 dann, σ 2 sei invers gammaverteilt. Beweis: Übungsaufgabe. Andere Beispiele für Konjugiertheit: Rüger Buch; ganz allgemein: jedes Buch zu Bayes Verfahren, z.b. Einleitung zu Martz & Waller Wie findet man solche konjugierten Paare?

23 Satz 3.27 (Zur Konjugiertheit in Exponentialfamilien) 224 Hat in der Situation von Def jedes Element der Menge P der Stichprobenverteilungen eine Dichte bzw. Wahrscheinlichkeitsfunktion f(x ϑ) der Form f(x ϑ) h(ϑ) exp(t (x) b(ϑ)) (3.22) und jedes Element der Menge Π, aus der die a priori Verteilung stammt, eine Dichte bzw. Wahrscheinlichkeitsfunktion der Form so sind Π und P konjugiert. Es gilt dann π(ϑ) [h(ϑ)] α exp(b(ϑ) β), (3.23) π(ϑ x) [h(ϑ)] α+1 exp (T (x) + β) b(ϑ) (3.24)

24 225 Beweis: (3.24) ergibt sich unmittelbar durch Anwenden der Formel für die a posteriori Verteilung auf (3.22) und (3.23). (3.24) ist mit α := α + 1 und β := β + T (x) von der Form (3.23), also sind tatsächlich Π und P konjugiert.

25 Beachte: 226 Der Satz kann also direkt zur Konstruktion geeigneter, konjugierter Priori-Verteilungen verwendet werden, indem man die Stichprobenverteilung in die Form (3.22) bringt und dann eine priori gemäß (3.23) wählt. b(ϑ) spielte in (3.22) und in (3.23) eine ganz unterschiedliche Rolle: in (3.22): natürlicher Parameter der Exponentialfamilie, aus der die Likelihood / Stichprobenverteilung stammt in (3.23): Suffiziente Statistik für den natürlichen Parameter β der Exponentialfamilie, aus der die priori stammt. Bei der priori ist ja der Wert von ϑ zufällig. Ähnliches gilt für h(ϑ)

26 Bsp (Beispiele zu Satz 3.27) 227 Man bestimmt in folgenden Situationen jeweils eine konjugierte Priori- Verteilung: a) X 1,...X n ist i.i.d. normalverteilt mit unbekanntem µ und bekannter Varianz σ 2 b) X ist binomialverteilt zum unbekannten Parameter p c) X 1,..., X n ist i.i.d. Poisson-verteilt mit unbekanntem Parameter λ

27 a) ausführlich X i N(µ, σ 2 ) X = (X1,..., X n ) 1 f(x µ) = n exp( 1 2 π σ n 2 σ 2 n i=1 228 x 2 i + 2 µ 1 2 σ2n x 2 σ 2n µ2 ) 1. f(x µ) in Form f(x µ) h(µ) exp(t (x) b(µ)) bringen (Form (5.9), µ ˆ=ϑ): f(x µ) exp( µ2 n 2σ 2 ) }{{} h(µ) exp( nµ x σ 2 ) }{{} exp(t (x) b(µ))

28 2. Priori der Form [h(µ)] α exp(b(µ) β) wählen (gemäß (5.10)): π(µ) exp( α µ2 n 2σ 2 ) }{{} [h(µ)] α µ exp( }{{ σ 2β) } exp(b(µ)β) Dies ist die zu X i N(µ, σ 2 ), σ 2 bekannt, konjugierte Priori. Probe: Bestimme Posteriori. 229 π(µ x) h(µ) exp(t (x) b(µ)) [h(µ)] α exp(b(µ) β) = [h(µ)] α+1 exp(b(µ) (T (x) + β)) Dieses Ergebnis entspricht tatsächlich der Form (5.11) und führt genau auf eine Normalverteilung, wie man anhand des folgenden Ansatzes erkennt:

29 230 π(µ) exp( α µ2 n 2σ ) exp( µ 2 σ 2β) = exp( α µ 2 ) exp(β µ) ( π(µ) = 1 exp 1 ) 2 πρ 2 ρ2(µ ν)2 = exp( µ2 2 ρ + 2 ν µ 2 2 ρ nν2 2 2 ρ 2) = exp( ν 1 µ }{{} ρ 2 2 ρ 2 µ2 ) }{{} β α

30 b) X Binomial(n, p) f(x p) = (1 p) n p exp(ln 1 p ) π(p) (1 p) α n p exp(β ln 1 p ) = ( ) β p = (1 p) α = (1 p) α β p β : Betaverteilung 1 p 231

31 c) (X 1,..., X n ) i.i.d. Poisson-verteilt n f( x ϑ) = f(x i ϑ) = Vergleiche Def.(3.25) i=1 λ n i=1 x i n i=1 λ x i x i! exp( λ) = = x 1!x 2!... x n! exp( nλ) n exp( nλ) exp( x i ln λ) i=1 π(λ) exp( (nλ) α) exp(β ln λ) = = exp( α λ) λ β : Gammaverteilung 232

32 3.4.3 Der Hauptsatz der Bayes-Entscheidungstheorie 233 Def (Bayes-Analyse mit Verlustfunktion) Gegeben sei ein datenbasiertes Entscheidungsproblem ((A, Θ, l( )); (X, A, (P ϑ ) ϑ Θ )) und eine priori-verteilung π( ) über (Θ, σ(θ)). Eine Aktion a x A heißt posteriori-verlust optimal zur Beobachtung x X, wenn gilt IE π( x) l(a x, ϑ) IE π( x) l(a, ϑ) a A. a x ist also sozusagen Bayes Aktion zur aufdatierten priori Verteilung π( x).

33 Analog definiert man eine posteriori-nutzen-optimalität. 234 Bisher zwei Stränge, Begriff Bayes in unterschiedlicher Bedeutung, Gemeinsamkeit: a priori-verteilung

34 datengestütztes Entscheidungsproblem + priori Verteilung; Informationsbeschaffungsexperiment Auswertungsproblem + priori Verteilung komplexer Aktionenraum: alle Entscheidungsfunktionen Bayes-optimale Entscheidungsfunktion d : X A ( Testfunktion, Schätzfunktion) konkrete Beobachtung x Bayes optimale Aktion a = d (x) 2 Arten, Bayes-Entscheidungstheorie zu betreiben? priori- Verteilung konkrete Beobachtung 235 Stichprobenverteilung; Informationsbeschaffungsexperiment posteriori Verteilung Bayes Postulat posteriori-verlust optimale Aktion a x, z.b. reine (optimale) Bayes Schätzung ˆϑ x reiner/optimaler Bayes Test ϕ x priori-risiko optimale Aktion

35 Satz 3.30 (Hauptsatz der Bayes Entscheidungstheorie) 236 Gegeben sei ein datengestütztes Entscheidungsproblem ((A, Θ, l( )); (X, A, (P ϑ ) ϑ Θ )), bestehend aus einem datenfreien Entscheidungsproblem (A, Θ, l( )) und einer Informationsstruktur (X, A, (P ϑ ) ϑ Θ ) sowie eine a priori Verteilung π( ) über (Θ, σ(θ)). Eine Entscheidungsfunktion d : X A x d (x) ist genau dann Bayes optimal im zugehörigen Auswertungsproblem, wenn für jedes x X die zugehörige Aktion d (x) posteriori-verlust optimal zur Beobachtung x ist.

36 Beweis: Für den diskreten Fall s.u., für den allgemeinen Fall: Rüger, Witting 237 Beweis: Vorneweg eine Hilfsüberlegung: Suche die Lage des Minimums z min einer Funktion f( z) mit z = (z 1,..., z n ), wobei f( z) = n i=1 c if i (z i ), also linear in den einzelnen Komponenten ist. n f( z) = c i f i (z i ) min z i=1 f i (z i ) min zi für jedes i unabhängig. Angewendet auf Entscheidungsprobleme mit der Posteriori P ({X = x} u = ϑ) π(ϑ) π(ϑ x) ( ) P ({X = x})

37 Betrachte Entscheidungsfunktion d( ) im Auswertungsproblem: R(d, ϑ) = IE Pϑ (l(d(x), ϑ) also hierr(d, ϑ) = l(d(x), ϑ) P ϑ ({X = x}). x X 238 Optimale Entscheidungsfunktion zur priori π( ) minimiert unter allen d also IE π (R(d, ϑ)), ϑ Θ ( x X l(d(x), ϑ) P ϑ ({X = x}) ) π(ϑ) min d

38 wegen ( ) ϑ Θ x X x X ( l(d(x), ϑ) P ({X = x} u = ϑ) π(ϑ) }{{} = π(ϑ x) P ({X=x}) ( ) l(d(x), ϑ) π(ϑ x) P } ({X {{ = x}) } ) min d ϑ Θ }{{}}{{} = n i=1 =f i (z i ) Wegen der Hilfsüberlegung ist dies äquivalent dazu, für jedes feste x l(d(x), ϑ) π(ϑ x) ϑ Θ =c i ; priori-prädiktiv, marginal 239 seperat zu minimieren nach a := d(x) für festes x. Dies liefert jeweils genau die posteriori-verlust optimale Aktion, also die Bayes-Aktion zur posteriori als neuer priori. Genauso für Integrale! min d

39 Satz 3.31 (Bestimmung von Bayes-Aktionen, z.b. Rüger (1999, Satz 2.20)) 240 Gegeben sei das Schätzproblem als datengestütztes Entscheidungsproblem gemäß Bem/Bsp 3.5 sowie eine priori Verteilung π( ). Wählt man die absolute bzw. quadratische Verlustfunktion, so gilt für die Bayes optimale Entscheidungsfunktion d quad ( ) bzw. d abs ( ): Für jedes x ist d quad ( ) genau der Erwartungswert und d abs ( ) der Median der a posteriori Verteilung π(ϑ x).

40 241 Die HPD-Schätzung (Modus) ergibt sich näherungsweise für kleine ɛ, wenn man die sogenannte Toleranzverlustfunktion zum Grade ɛ verwendet: { 1 ˆθ θ > ɛ l ɛ (ˆθ, θ) = 0 ˆθ θ ɛ

41 Bsp (Investitionsproblem) 242 Betrachtet werde wiederum das Investitionsproblem (vgl. Bsp. 1.3 und Bsp. 3.4). Datenfreies Entscheidungsproblem Informationsstruktur Notation: d(1, 2, 2) = θ 1 θ 2 θ 3 a a ( ) x1 x 2 x 3 a 1 a 2 a 2 x 1 x 2 x 3 θ θ θ

42 Datengestütztes Entscheidungsproblem: 243 θ 1 θ 2 θ 3 Minimum Laplace d(1, 1, 1) d(1, 1, 2) d(1, 2, 1) d(1, 2, 2) d(2, 1, 1) d(2, 1, 2) d(2, 2, 1) d(2, 2, 2) Man ermittele die optimale Entscheidungsfunktion nach dem Laplace- Kriterium mit Hilfe des Hauptsatzes.