Numerische Methoden der Bayes-Inferenz. Helga Wagner Bayes Statistik WS 2010/11 338

Transkript

1 Numerische Methoden der Bayes-Inferenz Helga Wagner Bayes Statistik WS 2010/11 338

2 Nichtkonjugierte Analyse Bei bekannter Likelihood und Priori-Verteilung kann die nichtnormierte Dichte der Posteriori-Verteilung p (ϑ y) für beliebige Werte ϑ bestimmt werden. Die normierte Posteriori-Verteilung erfordert die Bestimmung der marginalen Likelihood, d.h. des Integrals p(y) = p(y ϑ)p(ϑ)dϑ. Auch die Bestimmung des Bayes-Schätzers von h(ϑ) bei quadratischer Verlustfunktion erfordert die Berechnung eines Integrals E(h(ϑ) y) = Θ h(ϑ)p(ϑ y)dϑ = Θ h(ϑ)p(y ϑ)p(ϑ)dϑ Θ p(y ϑ)p(ϑ)dϑ Helga Wagner Bayes Statistik WS 2010/11 339

3 Nichtkonjugierte Analyse keine analytische Lösung des Integrals = numerische Integration analytische Approximation: Laplace Approximation Monte-Carlo-Methoden: Monte-Carlo-Integration, Importance sampling Markov-Chain-Monte-Carlo (MCMC) Methoden Helga Wagner Bayes Statistik WS 2010/11 340

4 Beispiel SFr Wechselkurs-Daten Modell: y i = 100(logp i logp i 1 ) t ν ( µ,σ 2 ) Likelihood: p(y µ,σ 2,ν) = Γ((ν +1)/2)N Γ(ν/2) N νπ N ( ) N/2 1 N σ 2 i=1 (1+ (y i µ) 2 ) (ν+1)/2. (37) νσ 2 = keine konjugierte Analyse möglich einfacheres Modell: y i.i.d. t 4 ( 0,σ 2 ), d.h. nur die Varianz ist unbekannt Nichtnormierte Posteriori-Dichte: p(σ 2 y) ( ) N/2 1 N ( ) 5/2 1+ y2 i p(σ 2 ) (38) σ 2 4σ 2 i=1 Helga Wagner Bayes Statistik WS 2010/11 341

5 Beispiel SFr Wechselkurs-Daten 2.5 x Posterior distribution of σ 2 6 x Posterior distribution of σ σ σ 2 Abbildung 39: SFr Wechselkurs-Daten, Modell: i.i.d. t 4 ( 0,σ 2 ) (links) und N ( 0,σ 2) (rechts); nichtnormierte Posteriori-Dichte p(σ 2 y) bei nichtinformativer Priori p(σ 2 ) 1/σ 2 Posteriori gegenüber dem Normalverteilungsmodell nach links verschoben Helga Wagner Bayes Statistik WS 2010/11 342

6 Beispiel SFr Wechselkurs-Daten Inferenz: Posteriori Erwartungswert E(ϑ y) = ϑp(ϑ y)dϑ = ϑp (ϑ y)dϑ p (ϑ y)dϑ Posteriori Varianz: Var(ϑ y) = E(ϑ 2 y) E(ϑ y) 2 E(ϑ 2 y) = ϑ 2 p(ϑ y)dϑ = ϑ 2 p (ϑ y)dϑ p (ϑ y)dϑ p (ϑ y) = p(y ϑ)p(ϑ) ist die nicht-normierte Posteriori-Verteilung. Helga Wagner Bayes Statistik WS 2010/11 343

7 Numerische Methoden der Bayes-Inferenz: Numerische Integration Helga Wagner Bayes Statistik WS 2010/11 344

8 Trapezregel Die Trapezregel für ein univariates Integral Integration b a g(x)dx = G 1 i=0 mit Knoten x 0 = a < x 1 < < x G = b b a xi+1 x i g(x)dx basiert auf stückweiser g(x)dx Approximation der Teilintegrale durch Fläche des Trapezes in einem Intervall: 1 2 (x i+1 x i ) ( g(x i )+g(x i+1 ) ) Bei gleicher Intervallbreite h = (x i+1 x i ) ist b a g(x)dx h ( 1 n 1 2 g(a)+ i=1 g(x i )+ 1 2 g(b)) Helga Wagner Bayes Statistik WS 2010/11 345

9 Beispiel: SFr Wechselkurs-Daten 1. Bestimmen der Normierungskonstanten: g(ϑ) = p (ϑ y) 2. Bestimmen von Erwartungswert und Varianz der Posteriori-Verteilung g(ϑ) = ϑp(ϑ y) bzw. g(ϑ) = (ϑ E(ϑ y)) 2 p(ϑ y) SFr Wechselkurs-Daten: y i i.i.d.t 4 ( 0,σ 2 ) E(σ 2 y) = , SD ( σ 2 y ) = Helga Wagner Bayes Statistik WS 2010/11 346

10 Newton Cotes-Formeln Wahl von m+1 äquidistanten Stützstellen x i0 = x i < x i1 < x i,m+1 = x i+1 in jedem Intervall [x i,x i+1 ] Berechnung der Funktionswerte g(x i,j ) Interpolation der m+1 Punkte (x i,j,g(x i,j )) durch ein Polynom p i (x ij ) vom Grad m Integration des Näherungspolynomes T i = xi+1 x i g(x)dx xi+1 x i p i (x)dx = m w ij g(x ij ) j=0 Helga Wagner Bayes Statistik WS 2010/11 347

11 Newton Cotes-Formeln Beispiel Simpson-Regel: m=2 Stützstellen x i0 = x i und x i1 = (x i +x i+1 )/2 xi+1 x i f(x)dx = x ( ) i+1 x i f(x i )+4f((x i +x i+1 )/2)+f(x i+1 ) 6 Durch die Newton-Cotes-Formel werden Polynome vom Grad m für ungerades m vom Grad m+1 für gerades m exakt integriert. Der Integrationsfehler hängt von der (m + 1)-ten Ableitung der zu integrierenden Funktion ab. Helga Wagner Bayes Statistik WS 2010/11 348

12 Adaptive numerische Integration adaptive Wahl der Knoten Start mit wenigen Knoten Bestimmung des Integrals Bestimmung des Integrals mit Zwischenknoten: Bereiche, in denen Integralschätzung noch stark schwankt, werden weiter zerlegt Die Knoten sind also nicht äquidistant: in schwierigen Integrationsbereichen liegen die Knoten dichter als in einfachen. Eindimensionale (auch uneigentliche) Integrale berechnet die R-Funktion integrate. Mehrdimensionale Integrale auf Rechtecksbereichen können mit der R-Funktion adaptintegrate des Packages cubature berechnet werden. Helga Wagner Bayes Statistik WS 2010/11 349

13 Adaptive numerische Integration Mögliche Probleme bei numerischer Integration: Unendlicher Integrationsbereich: Integrationsbereich abschneiden, Transformation Singularitäten: stückweise Integration, Transformation hochdimensionale Integrale numerische Probleme Helga Wagner Bayes Statistik WS 2010/11 350

14 Berechnung der marginalen Likelihood Für y 1,...,y n i.i.d. N ( 0,σ 2) ist die Likelihood p(y σ 2 1 ) = ( 2πσ 2)n/2 exp ( 1 2σ 2 n i=1 y 2 i ) Mit wachsendem n konvergiert p(y σ 2 ) gegen 0 für σ 2 > 1 bzw. gegen wenn σ 2 < 1. = Log-Likelihood ist robuster bezüglich Over-/Underflows logp(y σ 2 ) = n 2 (log(2π)+log(σ2 )) 1 2σ 2 n yi. 2 i=1 Helga Wagner Bayes Statistik WS 2010/11 351

15 Berechnung der marginalen Likelihood Beispiel: σ 2,true = 0.1: n p(y σ 2,true ) logp(y σ 2,true ) e e Inf Beispiel σ 2,true = 2: n p(y σ 2,true ) logp(y σ 2,true ) e e Helga Wagner Bayes Statistik WS 2010/11 352

16 Berechnung der marginalen Likelihood Wahl der Knoten ϑ 0,...,ϑ G Berechnung der nicht-normierten Log-posteriori-Dichte l(ϑ i ) = log(p (ϑ i y)) = log(p(y ϑ i )) log(p(ϑ i )) Bestimmen des Maximums l max = max i=0,...,g l(ϑ i) Berechnung der marginalen Likelihood als p(y M) = p (ϑ y)dϑ = exp(l max ) exp(l(ϑ) l max )dϑ Helga Wagner Bayes Statistik WS 2010/11 353

17 Berechnung der marginalen Likelihood Berechnung des Posteriori-Erwartungswertes E(ϑ y) = ϑp(ϑ y)dϑ = ϑp (ϑ y)dϑ p (ϑ y)dϑ = exp(l max) ϑexp(l(ϑ) l max )dϑ exp(l max ) exp(l(ϑ) l max )dϑ ϑexp(l(ϑ) lmax )dϑ = exp(l(ϑ) lmax )dϑ Analog: E(ϑ 2 y) = ϑ 2 exp(l(ϑ) l max )dϑ exp(l(ϑ) lmax )dϑ Helga Wagner Bayes Statistik WS 2010/11 354

18 Numerische Methoden der Bayes-Inferenz: Laplace- Approximation Helga Wagner Bayes Statistik WS 2010/11 355

19 Laplace-Approximation Gesucht sei das Integral exp( nh(x))dx wobei h(x) eine konvexe, zweimal differenzierbare Funktion ist, die ihr Minimum an der Stelle x = x hat. Für x gilt damit: h ( x) = dh( x) dx = 0 und h ( x) = d2 h( x) dx 2 > 0 Entwicklung der Funktion h(x) in Taylor-Reihe an der Stelle x ergibt h(x) = h( x)+h ( x)(x x)+ 1 2 h ( x)(x x) 2 = h( x)+ 1 2 h ( x)(x x) 2 Helga Wagner Bayes Statistik WS 2010/11 356

20 Laplace-Approximation Für das Integral ergibt sich damit exp( nh(x))dx exp( nh( x)) 2π = exp( nh( x)) nh ( x) exp( 1 2 nh ( x)(x x) 2 )du Der relative Fehler der Laplace-Approximation ist O( 1 n ). Helga Wagner Bayes Statistik WS 2010/11 357

21 Anwendung der Laplace-Approximation Die Bestimmung des Posteriori-Erwartungswertes der Funktion g(ϑ) E(g(ϑ) y) = Θ g(ϑ)p(y ϑ)p(ϑ)dϑ Θ p(y ϑ)p(ϑ)dϑ erfordert die Berechnung des Quotienten zweier Integrale mit ähnlichem Integranden. Die Laplace-Approximation für E(g(ϑ) y) ist mit einem relativen Fehler von O( 1 n 2 ) genauer als für die marginale Likelihood p(y). Helga Wagner Bayes Statistik WS 2010/11 358

22 Anwendung der Laplace-Approximation Mit nh(ϑ) = logp(y ϑ)+logp(ϑ) nq(ϑ) = logg(ϑ)+logp(y ϑ)+logp(ϑ) ist E(g(ϑ) y) = exp( nq(ϑ))dϑ exp( nh(ϑ))dϑ. Seien ˆϑ und ϑ die Minimumstellen von h(ϑ) und q(ϑ). Dann ist E(g(ϑ) y) h (ˆϑ) q ( ϑ) exp( n(q( ϑ) h(ˆϑ))). Helga Wagner Bayes Statistik WS 2010/11 359

23 Anwendung der Laplace-Approximation Beispiel Verkehrssicherheitsdaten Kinder 6-10: y i.i.d. P(µ) ges.: Laplace-Aproximation des Posteriori-Erwartungswertes Mit der konjugierten G(a 0,b 0 )-Priori ist nh(µ) = (n+b 0 )µ+(ny +a 0 1)log(µ)+c = b n µ+(a n 1)log(µ)+c nq(µ) = b n µ+a n log(µ)+c Die ersten Ableitungen erhält man als d( nh(µ)) dµ = b n + a n 1 µ und d( nq(µ)) dµ = b n + a n µ Ihre Nullstellen sind ˆµ = a n 1 b n und µ = a n b n Helga Wagner Bayes Statistik WS 2010/11 360

24 Anwendung der Laplace-Approximation Die 2. Ableitungen sind gegeben als d 2 ( nh(µ)) dµ 2 = a n 1 µ 2 d 2 ( nq(µ)) dµ 2 = a n µ 2. An der Stelle der Maxima des Integranden erhält man h (ˆµ) = b2 n a n 1 und q ( µ) = b2 n a n und damit h (ˆµ) q ( µ) = a n 1 a n Für den Exponenten n(q( µ) h(ˆµ)) erhält man n(q( µ) h(ˆµ)) = b n ( µ ˆµ) + (a n 1)(log( µ) log(ˆµ)) + log( µ) = = 1 + (a n 1)log( a n a n 1 ) + log(a n b n ) Helga Wagner Bayes Statistik WS 2010/11 361

25 Anwendung der Laplace-Approximation Damit ergibt sich die Laplace-Approximation für den Posteriori-Erwartungswert als E(µ y) = h (ˆµ) q ( µ) exp( n(q( µ) h(ˆµ))) an 1 exp( 1+(a n 1)log( a n = a n 1 ( 1+ 1 b n e a n 1 ) an 1 a n 1 a n a n a n 1 )+log(a n )) = b n Helga Wagner Bayes Statistik WS 2010/11 362

26 Anwendung der Laplace-Approximation Tabelle 17: Verkehrssicherheitsdaten Kinder 6-10;, i.i.d. P (µ) Genauigkeit der Laplace-Approximation für den Posteriori-Erwartungswert, bestimmt aus den ersten n Beobachtungen mit G(2,1)-Priori Posteriori-Mittel Approximation rel. Fehler n µ µ µ µ /µ (=n) Helga Wagner Bayes Statistik WS 2010/11 363

27 Laplace-Approximation eines p-dimensionalen Integrals Die Laplace-Approximation des p-dimensionalen Integrals I = exp( nh(x))dx R p erfolgt analog zum univariaten Fall. Eine Taylor-Reihenentwicklung an der Minimumstelle x von h(x) ergibt h(x) h( x)+ 1 2 (x x) H h (x x) wobei H h die p p-hesse-matrix an der Stelle x bezeichnet. H h = 2 h(x) x i x j x Helga Wagner Bayes Statistik WS 2010/11 364

28 Laplace-Approximation eines p-dimensionalen Integrals Die Laplace-Approximation von I ist damit gegeben als ( 2 π ) p/2 H I = exp( nh(x))dx = 1/2 exp( nh( x)) R p n Die Minimumstelle von h(x) ist i.a. nicht bekannt und muss daher zur Anwendung der Laplace-Approximation bestimmt werden. Die numerische Bestimmung von Minimum und Krümmung ist z.b. mit der R-Funktion optim möglich. Helga Wagner Bayes Statistik WS 2010/11 365

29 Erwartungswerte von Funktionen multivariater Parameter Mit und nh n (ϑ) = logp(y ϑ)+logp(ϑ) nq n (ϑ) = logg(ϑ)+logp(y ϑ)+logp(ϑ), ˆϑ = argmin ϑ h n (ϑ) und ϑ = argminϑ q n (ϑ) ist die Laplace-Approximation für den Erwartungswert von g(ϑ) gegeben als E(g(ϑ)) H h H q exp( n(q n ( ϑ) h n (ˆϑ)) ) Helga Wagner Bayes Statistik WS 2010/11 366

30 Erwartungswerte von Funktionen multivariater Parameter Dabei sind H h und H q die Hesse-Matrizen an den Minimumstellen: H h = 2 h n (ϑ) ϑ i ϑ j ˆϑ und H q = 2 q n (ϑ) ϑ i ϑ j ϑ Helga Wagner Bayes Statistik WS 2010/11 367