Strukturelle Modelle in der Bildverarbeitung Markovsche Ketten II

Transkript

1 Strukturelle Modelle i der Bildverarbeitug Markovsche Kette II D. Schlesiger TUD/INF/KI/IS Statioäre Verteilug Verborgee Markovsche Kette (HMM) Erkeug stochastisches Automate D. Schlesiger SMBV: Markovsche Kette 1 / 9

2 Kotrahierede Abbilduge (Kotraktioe) Sei M ei metrischer Raum, d.h. es existiert ei Abstad d : M M R Eie Abbildug ϕ : M M heißt kotrahiered, we ei λ < 1 existiert, so dass d ( ϕ(x), ϕ(y) ) λ d(x, y) für alle x, y M erfüllt ist, d.h. die Abstäde zwische zwei beliebige Elemete werde ach der Awedug der Abbildug kleier. Spezialfall (relevat für Markovsche Kette): der Raum M = R, der Abstad d ist der quadratische Abstad d(x, y) = x y 2, die Abbildug ϕ ist liear, d.h. durch eie Matrix A agegebe: ϕ(x) = A x Die Matrix A heißt kotrahiered, we A (x y) 2 < λ x y 2 Fixpuktsatz vo Baach: Eie Kotraktio ϕ : M M eies (ichtleere) vollstädige metrische Raumes M besitzt geau eie Fixpukt, also eie Pukt x M mit ϕ(x ) = x. Für das obige Spezialfall heißt das A x = x, d.h. x ist der Eigevektor der Matrix A zum Eigewert λ = 1. Sei x 0, x 1... x eie Folge vo Vektore so, dass x i = ϕ(x i 1 ) mit eier kotrahierede Abbildug ϕ. Da x = x uabhägig vo x 0 die Folge kovergiert zum Fixpukt. D. Schlesiger SMBV: Markovsche Kette 2 / 9

3 Übergagswahrscheilichkeite eier Markov Kette Wie ergibt sich die Wahrscheilichkeitsverteilug der Zustäde im i-te Zeitpukt aus der WV im i 1-te Zeitpukt? p(yi = k) = X p(yi 1 = k 0, yi = k) = k0 = X p(yi = k yi 1 = k 0 ) p(yi 1 = k 0 ) k0 Sei pi = p(yi = 1), p(yi = 2)... p(yi = K ) der Vektor der Zustadswahrscheilichkeite im i-te Zeitpukt ud pi 1 aalog. Die Abbildug pi 1 7 pi ist eie lieare Abbildug pi = Pi pi 1 mit der Matrix der Übergagswahrscheilichkeite Pi (k, k 0 ) = p(yi = k yi 1 = k 0 ). Ist die Matrix Pi kotrahiered? Ja, fast immer :-) eie beliebige streg positive Matrix der Übergagswahrscheilichkeite ist kotrahiered. Beispiel: es gibt ur eie eizige icht-kotrahierede 2 2 Matrix Pi (a der Tafel). Ma betrachte eie uedliche ud homogee Markovsche Kette, d.h. Pi = P. p (Verteilug der Zustäde im Uedliche) ist der Fixpukt der Abbildug P ud heißt statioäre Verteilug der Markovsche Kette. p ist der Eigevektor der P zum Eigewert 1. Matrixmultiplikatio!!! D. Schlesiger SMBV: Markovsche Kette 3 / 9

4 Verborgee Markovsche Kette (HMM) Es gibt zwei Sorte der Variable (beide sid Folge): y = (y1, y2... y ), yi K (verborgee Variable) ud x = (x1, x2... x ), xi F (beobachtbare Variable). Ei Paar (x, y) ist ei elemetares Ereigis. Zwei Darstelluge für p(x, y): Zau ud Kamm (Mealy- ud Moore-Automate). D. Schlesiger SMBV: Markovsche Kette 4 / 9

5 Verborgee Markovsche Kette, Zau p(x, y) = p(y1 ) p(xi, yi yi 1 ) Eie Beobachtug xi hägt explizit vo de verborgee Zustäde i i-te ud i 1-te Zeitpukte ab (x1 existiert icht) p(x, y) = p(y1 ) p(xi, yi yi 1 ) = p(y1 ) mit p(y) = p(y1 ) p(yi yi 1 ) p(x y) = D. Schlesiger p(yi yi 1 )p(xi yi, yi 1 ) = p(y) p(x y) SMBV: Markovsche Kette p(xi yi, yi 1 ) 5 / 9

6 Verborgee Markovsche Kette, Kamm p(x, y) = p(y) p(x y) = p(y1 ) p(yi yi 1 ) p(xi yi ) i=1 Eie Beobachtug xi hägt explizit ur vom verborgee Zustad im i-te Zeitpukt ab Eierseits ist es ei Spezialfall vom Zau, d.h. we p(xi yi, yi 1 ) p(xi yi ) Adererseits... D. Schlesiger SMBV: Markovsche Kette 6 / 9

7 Verborgee Markovsche Kette Adererseits ka jedes Zau-Modell i ei äquivaletes Kamm-Modell überführt werde. Beispiel für drei Variable ud zwei Zustäde Allgemei: Ma führt eue Variable y 1, y 2... y 1 ei, sie etspreche Paare (y1, y2 ), (y2, y3 )... (y 1, y ) Die eue Zustadsmege K = K K repräsetiert Zustadspaare des alte Modells Jede Beobachtug x i hägt explizit ur vom Zustad y i beide Darstelluge (Zau ud Kamm) sid äquivalet. D. Schlesiger SMBV: Markovsche Kette 7 / 9

8 Erkeug stochastisches Automate Gegebe sei zwei Modelle, d.h. p 1 (y 1 ), p 1 (y i y i 1 ) ud p 1 (x i y i ) ud dasselbe für das zweite Modell p 2 (y 1 )... Gegebe sei eie Beobachtug x, ma etscheide, welches Modell sie geeriert hat. Eifache Vorgehesweise: wähle das Modell, i dem die Wahrscheilichkeit der Beobachtug maximal ist. Die Aufgabe ist es diese Wahrscheilichkeite (d.h. p 1 (x) ud p 2 (x)) zu bereche: [ ] p(x) = p(x, y) = p(y 1 ) p(y i y i 1 ) p(x i y i ) y y Die Berechug erfolgt mit demselbe Algorithmus, wie bei der Berechug der Partitio Fuktio die Fuktioe q i sid p(x i y i ) ud die Fuktioe g i sid p(y i y i 1 ). [ ] Z = q i (y i ) g i (y i 1, y i ) y i=1 Die Bellmasche Fuktioe F i (k) habe die Bedeutug: Wahrscheilichkeit dafür, dass das Modell zum Zeitpukt i im Zustad k war ud dabei die Teilfolge (x 1, x 2... x i ) geeriert hat. i=1 D. Schlesiger SMBV: Markovsche Kette 8 / 9

9 Berechug der Wahrscheilichkeit der Beobachtug D. Schlesiger SMBV: Markovsche Kette 9 / 9

10 Überblick (Markovsche Kette) Früher: Awedug: Sprachverarbeitug Wahrscheilichkeitsmodell Uterschiedliche Parametrisieruge Berechug der Partitio Fuktio Heute: Statioäre Verteilug HMM (Hidde Markov Models) Erkeug stochastisches Automate Weitere Theme: Wahrscheilichste Folge Bayessche Etscheidugstheorie, Folge wahrscheilichster Zustäde Lere ach dem Maximum-Likelihood (überwacht ud uüberwacht) Bäume, Chou Aufgabe Diskrimiatives Lere D. Schlesiger SMBV: Markovsche Kette 10 / 9