Stochastische Bildmodelle und deren Anwendung

Transkript

1 Abtelug Stochastk --Uverstät Ulm Ulm Semar: Bayessche Asätze der der Bldaalyse Stochastsche Bldmodelle ud dere Awedug Sad Bakadr 22.Ma 2006 Sad Bakadr - Uverstät Ulm -

2 Ihalt Eletug Bespele vo Bldmodelle Smulatoe für das Isg-Modell Schätzug der Blder Schätzug der Parameter Graustufeblder 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 2

3 Eletug Wr betrachte Blder als zufällge Markov Felder. De Äquvalez vo zufällge Markov Felder ud Gbbs Markov Felder lefert: Wobe: = π ( ) = ep(- V c()) Z S: Idemege (z.b alle Pel ees Bldes), N: Nachbarschaftssystem auf S. C:Elemet N (alle Nachbar eer Stelle). V c : Potetalfukto c N ( ) S e zufällges Markov Feld, oder e Bld L:Telmege (Phaseraum), L Z ep(- V ()) = c N c 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 3

4 Bespele Isg-Modell : für Blder mt ur zwe Farbe L={0,} β e postver Parameter. Potts -Modell: π ( ) = ep( β I ) = j Z( β ) für Blder mt mehrere Farbe L={0,,...,M} De A-Pror-Vertelug vo hat de gleche Form we bem Isg-Modell ~j 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 4

5 Auto-bomales Modell C det dazu, de Tetur zu beschrebe L={0,,...,M} { V() = l β M ( ) α falls C= {},j ( ) ( M ) N j { } falls C=,j de bedgte Vertelug vo st bomal mt Parameter M ud q, d.h π = M- q (-q) wobe: ep( α + β ),j j j N q= ep( + ) + α β,j j j N 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 5

6 Verrauschte Blder Im Allgemee wrd das Bld cht geau aufgeomme Es werde Date y astatt beobachtet. Bayes-Asatz hlft be der Kostrukto der A-Posteror-Vertelug π( y). y=φ(), wobe φ ee Fukto st. Se lefert Iformatoe über das Rausche Aahme: π (y ) =π(y ) π(y )... π(y ) 2 2 wobe = (,,..., ) ud y=(y,y,...,y ) Ma 2006 Sad Bakadr - Uverstät Ulm - 6

7 Bespele Gaußsches addtves Rausche y = +ε π 2σ daraus folgt wobe ε~ N(0,σ²I), ud ε sd uabhägg 2 (y ) ep(- (y 2 ) ) π 2 (y ) ep( (y 2 ) ) = 2σ Nach dem Satz vo Bayes folgt, π(y,) π(y ). π() π ( y) = = π(y) π(y) wr betrachte bäre Blder. De A-Posteror-Vertelug st π β + 2 ( y) ep( I [= j] (y 2 ) ) j = 2σ 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 7

8 Bäres Rausche (Flp ose) Trtt e, we de falsche Farbe a der Stelle mt eer Beroull Wahrschelchket auftrtt. π (y ) = se k : = = { I p falls y= p falls y [ = y ] π (y ) = ( p) p = k k -p ep(k l( p = )+ l(p)) p d.h π(y ) ep( I[ = y ] l( )) p wr habe π() ep( β I ) j [ = ] j 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 8

9 Nach dem Satz vo Bayes folgt π(y ) π() π( y) = π(y) π( y) ep( β I + h ( p wobe : h (, y ) = I l( ) [ = y ] p [ = j ] j =,y )) (*) Es st zu beachte, dass de A-Posteror-Vertelug dem Gaußsche Rausche- Modell de Form (*) hat, wobe h(,y) = - (y 2 ) 2σ 2 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 9

10 das Ausgagsbld De beobachtete Blder y Gaußsches Rausche bäres Rausche (a) σ² =0. (b) p=0. (c) σ² =0.4 (d) p=0.2 (e) σ²=0.5 (f) p=0.25 (g) σ²=0.6 (h) p=0.3 () σ²=0.8 (j) p= Ma 2006 Sad Bakadr - Uverstät Ulm - 0

11 Smulatoe für das Isg-Modell ( ) π ep( β I ) = j ~j se = I ) de Azahl der schwarze Nachbar vo. b j= ~j = I de Azahl der weße Nachbar vo. w j= 0 ~j ep( β ) π ( = ) = ep( ) ep( ) b b w β + β 22.Ma 2006 Sad Bakadr - Uverstät Ulm -

12 Algorthmus : Gbbs-sampler Wähle =0 oder, for t= to N do for j= to do =Net(j) U ~ Uform(0,) p= b ep( β ) ep( β ) + ep( β ) b f U<p the = else =0 ed f ed for Ed for w Net(j) gbt a, welches Pel aktualsert wrd, z.b Net(j)=j Net(j) wrd zufällg gewählt 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 2

13 Algorthmus 2: Metropols-sampler Wähle =0 oder, for t= to N do for j= to do =Net(j) = ed f ed for ed for d= ep( β I ) ~j = j d = ep( β I ) = j ~j d p= m(, ) d U Uform(0,) f U < p the = 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 3

14 Smulato für das Isg-Modell mt verschedee Betas (a) β= 0.3 (b) β=0.4 (c) β= 0.5 (d) β=0.6 (e) β= 0.7 (f) β=0.8 (g) β= 0.9 (h) β=.0 () β=. (j) β=.3 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 4

15 Algorthmus 3: Metropols sampler für das verrauschte Isg-Modell Italsere, Gebe y ud de Rauschparameter e for t= to N do for j= to do ed for ed for =Net(j) = ~j d =β I + h (,y ) = j d =β I + h (,y ) = j ~j p= ep(m(0,d d)) U Uform(0,) f U < p the ed f = Algorthmus 3 st umersch stabler, da er log-dchte beutzt. 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 5

16 Schätzug der Blder das zugrudelegede Bld y de beobachtete Date z e Schätzer vo Um de optmale Schätzer z vo zu fde, kostruere wr ee so geate Verlustfukto, de de Dfferez vo z zu agbt.. Ee Metrk L(,z) e Schätzer z st besser als z falls L(,z )<L(,z ) falls bekat st, wrd ach der Mmalstelle vo L gesucht. falls ubekat st, wrd der A-Posteror erwartete Abstad zwsche dem Schätzer z ud betrachtet, d.h: y ( ) E L(,z) = π y L(,z) (*) der optmale Bayes Schätzer st de Mmalstelle vo (*) 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 6

17 Wr betrachte de Vektor e, wobe 2. MPM- Schätzer (margal posteror mode) e = I [ z ] De etsprechede Verlustfukto st MPM L (e)= e = Se zählt de Pel der falsche Farbe Der MPM Schätzer etsprcht dem Bld mt mmaler Azahl a Pel falscher Farbe. Zur Berechug der MPM Schätzer bereche wr zuerst de Erwartugswert des Verlusts. 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 7

18 E (L (e))= E e = P( z y) y MPM y = = der MPM-Schätzer =cost - P( = z y) = = arg m{- P( = z y)} MPM MPM z = MPM = z Zur Berechug vo zehe wr N Stchprobe aus der A-Posteror-Vertelug = arg ma(p( = z y) falls #{ } N/2 0 falls #{ = } N/2 { = MPM, = 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 8

19 3. MAP-Schätzer (Mamum A Posteror) De Verlustfukto L MAP(e)=- (-e ) = Uabhägg vo der Azahl der falsche Klassfkatoe mmt dese Fukto de Wert a, we mdestes ee falsche Farbe otert wrd, asoste de Wert 0. Der etsprechede MAP-Schätzer: MAP = arg ma( z π(z y)) Der MAP-Schätzer wrd berechet durch das Zehe vo Stchprobe aus der A-Posteror-Vertelug, oder es wrd der smulated aealg Algorthmus verwedet 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 9

20 Smulated aealg Stochastscher Algorthmus für kombatorsche Optmerug. Wrd der Physk verwedet. Durch lagsames Abkühle eer Substaz wrd ach der edrgste Eergekofgurato gesucht. Es basert auf de stochastsche Methode, z.b Metropols Algorthmus Dese Methode erzeuge jedes Mal ee Kofgurato des MRF. Es wrd ee Fukto (Temperaturfukto) egeführt, de dese Erzeuguge kotrollert. 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 20

21 Zel: *: = arg ma π( y) wr betrachte π () ( π( y)) T + T Also * = arg ma π () T we T gege 0 kovergert, trtt * mt der größte Wahrschelchket e. für T=0 wrd durch ee MCMC-Algorthmus ee lokale Lösug gefude. Um de globale Lösug zu fde, wrd T=T(t) betrachtet (t>0), ud ma lässt t gege kovergere. De Fukto T hat fogede Egeschafte: T st mooto falled T 0, we t. t her wähle wr T(t)=T 0η z.b T0 = 4 ud η= Ma 2006 Sad Bakadr - Uverstät Ulm - 2

22 Algorthmus 4: smulated aealg für das verrauschte Isg-Modell Italsere, T=T0, Gebe y ud de Rauschparameter e for t= to N do for j= to do =Net(j) = ed for T=T(t) ed for Retur ~j d =β I + h (,y ) = j d =β I + h (,y ) = j ~j p= ep(m(0,d d)/t) U Uform(0,) f U < p the ed f = 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 22

23 Gaußsches Rausche bäres Rausche MAP MPM MAP MPM mt Gaußschem Rausche das zugrudlegede mt bäre Rausche erzeugtes Bld (σ²=0.5) Bld erzeugtes Bld (p=0.25) 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 23

24 Schätzug der Parameter Wr betrachte bäre Blder mt Gaußsche Rausche. 2 /2 π ( σ ) 2 ( y) Z( β) ep( β I (y μ ) ) = j [ j] 2 2σ = Es gbt ver Parameter zu schätze: β σ² μ Farbewert für de Htergrud 0 μ Farbewert für de Vordergrud 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 24

25 Falls das Bld bekat st, köe wr durch de Mamum Lkelhood Methode de Parameter σ², μ, =0, schätze. 2 2 ( σˆ, μˆ ˆ 0, μ) = arg ma( π(y ; σ, μ0, μ)) βˆ = arg ma( π(; β)) Nach der Abletug der Lkelhoodfukto erhalte wr : μˆ j σˆ = #{ : = j} : = j 2 2 = (y μˆ ) = y j=0, 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 25

26 Da de Normalserugskostate Z vo β abhägt, wrd der Mamum Pseudo Lkelhood für de Schätzug vo β verwedet. π( β) = π( 2,...,, β) π( 2 3,...,, β)... π( β) π(, β) = π(, β) π(, β) De Mamumstelle vo PSL(β) st der Schätzer für β. Se wrd umersch berechet. PSL( β) = π(, β) = = + ep( β I I ) j [ = ] [ ] j j 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 26

27 Graustufeblder Vorher war der Phaseraum ee edlche Mege. Jetzt st der Phaseraum e Itervall. Das Bld st stückwese glatt. Es besteht aus Bereche getret durch Kate. Das Bld st ee Realsato ees MRF π() ep( U()) mt U()= C N V () de Eergefukto C 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 27

28 Zel: vo de beobachtete Date y werde de Kate bestmmt. Wr ehme a, dass y durch das Gaußsche Rausche erzeugt sd. Wr betrachte das 4-Nachbarschaftssystem De Potetalfukto hat de Form V() = g( ) C j wobe C={,j} ud g ee Fukto st, de de Verletzug der Glatthet bestraft 2 Für stückwese glatte Blde r mmt ma g( ) = m{( ), α} j j De Katebestmmug hägt eg zusamme mt der Wederherstellug der Blder. De Kate sd de Bereche m Bld, dee de Glättug verletzt st. 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 28

29 Geradeprozess zur Etdeckug der Kate = + ε ε σ 2 y wobe N(0, I ) 2 (y ) ep( ) 2 = 2σ π 2 U(y )= de Lkelhood Eerge 2 = 2σ j = (y ) U()= g( ) j (y ) U( y) = (y ) + λ g( ) 2 j j Es wrd de Fukto g modfzert: g(,,l ) = ( ) ( L ) +αl 2 j j j j j { wobe L = j de A-Posteror-Eerge falls es zwsche de Nachbar ud j ee Kate gbt 0 sost 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 29

30 U( y) = (y ) + λ g(,,l ) = 2 j j = j Blake ud Zsserma, 987, habe gezegt : *= arg m { (y ) + λ g( )} = 2 j 2 wobe g( j) m{( j), } ohe Berückschtgug der α j L j Nachdem * berechet wrd, bestmmt ma de Kate durch { falls ( 2 j * ) > α = j 0 sost 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 30

31 Zusammefassug Zufällge Markov Felder bete ee Modellerug der Blder Aus Markov-Gbbs Äquvalez werde verschedee Bldmodelle etwckelt dese Modelle habe vele Aweduge der Wederherstellug der Blder, Etdeckug hrer Kompoete usw. Adere Aweduge sd de ächste Vorträge zu erfahre 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 3

32 Lteratur. Chalmod "Modellg ad Iverse Problems Image Aalyss" Sprger, S.Z. L "Markov Radom Feld Modelg Computer Vso Sprger, W.H.Press, S.A.Teukolsky, W.T.Vetterlg, B.P. Flaery Numercal Recpes C++: The Art of scetfc computg". J.Möller "Spatal Statstcs ad Computatoal Methods" 22.Ma 2006 Sad Bakadr - Uverstät Ulm - 32