Hidden Markov Models (HMM)

Transkript

1 Hidden Markov Models (HMM) Kursfolien Karin Haenelt 1

2 Themen Definitionen Stochastischer Prozess Markow Kette (Visible) Markov Model Hidden Markov Model Aufgaben, die mit HMMs bearbeitet werden Algorithmen Viterbi-Algorithmus Formen vom Hidden Markov Models state emission model / arc emission model ergodic model 2

3 Hidden Markov Model Hidden Markov Models (HMM) sind stochastische Modelle, die auf Markow-Ketten beruhen 3

4 Stochastischer Prozess Definition 1 Ein stochstischer Prozess oder Zufallsprozess ist eine Folge von elementaren Zufallsereignissen X i 1, X 2,..., X Ω, i = 1,2,... Definition 2 Die möglichen Zufallswerte in einem stochastischen Prozess heißen Zustände des Prozesses. Man sagt, dass sich der Prozess zum Zeitpunkt t in Zustand Xt befindet. Brants, 1999: 30 4

5 Stochastischer Prozess Beispiel Ein Textgenerator hat ein Lexikon mit drei Wörtern von denen an jeder Position jedes auftreten kann ( Ω = { geschickt, werden, wir} ) wir beobachten an jeder Position, welches Wort generiert wurde Sei o X 1 das Wort zum ersten Beobachtungszeitpunkt o X 2 das Wort zum zweiten Beobachtungszeitpunkt, usw. Dann ist die Folge der Wörter ein stochastischer Prozess mit diskreter Zufallsvariable und diskretem Zeitparameter 5

6 Stochastischer Prozess Für die vollständige Beschreibung eines Zufallsprozesses mit diskretem Zeitparameter benötigt man 1. die Anfangswahrscheinlichkeit: die für jeden Zustand angibt, mit welcher Wahrscheinlichkeit er als Zustand X 1 beobachtet werden kann (d.h. den Startzustand bildet) πi = P ( X 1 = si) 2. die Übergangswahrscheinlichkeit: die für jeden Zustand angibt, mit welcher Wahrscheinlichkeit er in einer Zustandsfolge auftritt: P ( Xt + = xt + 1 X 1 = x1, X 2 = x2,... Xt = 1 t x ) Brants, 1999: 30 6

7 7 Markow-Kette Definition 3 Eine Markow-Kette ist ein spezieller stochastischer Prozess, bei dem zu jedem Zeitpunkt die Wahrscheinlichkeiten aller zukünftigen Zustände nur vom momentanen Zustand abhängen (= Markow-Eigenschaft) d.h. es gilt: ) ( ),..., ( t t t t t t t t x X x X P x X x X x X x X P = = = = = = = Brants, 1999: 30

8 endliche Markow-Kette Definition 4 Für eine endliche Markow-Kette gibt es endlich viele Zustände, und die Kette muss sich zu jedem Zeitpunkt in einem dieser endlich vielen Zustände befinden Brants, 1999: 31 Prozess ohne Gedächtnis (Def 3) mit endlich vielen Zuständen (Def 4), entspricht den Eigenschaften eines endlichen Automaten 8

9 Markow-Kette: Matrix-Darstellung kann beschrieben werden durch die Angaben a ij = P( Xt + 1 = sj Xt = si) Stochastische Übergangsmatrix A i, i Anfangswahrscheinlichkeiten Π πi = P ( X 1 = si) N i = 1 j π i = 1 aij j= 1 0, j = 1 N ai X = s X t = si t + 1 j geschickt werden wir geschickt werden wir X t π geschickt.2 werden.3 wir.5 9 Manning/Schütze, 2000: 318

10 Markow-Kette: Graph-Darstellung kann beschrieben werden durch einen Zustandsübergangsgraphen werden wir.3.3 geschickt

11 Markow-Kette: Berechnung einer Sequenz-Wahrscheinlichkeit Wahrscheinlichkeit der Sequenz der Zustände X 1 X T P( X 1,..., XT) = T P( X 1) P( X 2 X 1) P( X 3 X 2, X 1)... P( XT X 1,..., X 1) für eine Markow-Kette gilt: = T P( X 1) P( X 2 X 1) P( X 3 X 2)... P( XT X 1) T 1 Πt = 1 = ax t X t+ 1 1 π X 11 Manning/Schütze, 2000: 320

12 Markow-Kette: Berechnungsbeispiel Wahrscheinlichkeit der Sequenz der Zustände X 1 X T P ( X 1 = wir, X 2 = werden, X 3 = geschickt) = P( X P( X P( X = wir) = werden X 1 = wir) = geschickt X 2 = werden) = ( ) = 0.08 X = X t s X t = si t + 1 j π geschickt.2 werden.3 wir.5 geschickt werden wir geschickt werden wir.3.4.3

13 Markow-Modell (MM) Ein Markow-Modell ordnet jedem Zustand (andere Variante: jedem Zustandsübergang) eine Ausgabe zu, die ausschließlich vom aktuellen Zustand (bzw. Zustandsübergang) abhängig ist Ausgabe: Sequenz von Ereignissen, die die Beobachtungen in der Beobachtungssequenz repräsentieren Zur Unterscheidung auch Visible Markov Model (VMM) genannt 13

14 Hidden Markov Modell (HMM): Beschreibung Ein Hidden Markov Model ist ein Markow-Modell bei dem nur die Sequenz der Ausgaben beobachtbar ist, die Sequenz der Zustände verborgen bleibt Es kann mehrere Zustandssequenzen geben, die dieselbe Ausgabe erzeugen 14

15 Hidden Markov Modell: Beispiel in einem Text lassen sich nur die Ausgaben (= produzierte Wörter) beobachten (visible) die Sequenz von Zuständen (= Wortarten), die die Wörter ausgeben, (Satzmuster) lässt sich nicht beobachten (hidden) mehrere Sequenzen können dieselbe Ausgabe erzeugen: nomn auxv part wir werden geschickt nomn kopv adje wir werden geschickt.3 x.2 x.4 x.3 x.2 x.4 = x.2 x.3 x.5 x.2 x.2 =

16 Hidden Markov Model: Definition Ein HMM wird spezifiziert durch ein Fünf-Tupel (S,K, Π, A, B) S = {S 1,..., S N } Menge der Zustände K = {k 1,..., k M } Menge der Ausgabesymbole Π = {π i } A = {a ij } B = {b j (k)} Wahrscheinlichkeiten der Startzustände π i = P(X 1 = S i ) Wahrscheinlichkeiten der Zustandsübergänge a ij = P(X t+1 = S j X t = S i ) 1 i, j N N i= 1 N j= 1 πi = 1 aij = 1 Wahrscheinlichkeiten der Symbolemissionen in Zustand j b j (k) = P(K k in t X t = S j ) M 1 j N 1 k M k = 1 bj( k Rabiner, 1989, S. 260/261 ) = 1 16 Manning/Schütze, 2000:

17 Ein Hidden Markov Model Übergangsmatrix Emissionsmatrix Startwahr scheinlich keit X t X t+1 o t π Adje AuxV KopV Nomn Part geschickt werden wir... Adje AuxV KopV Nomn Part

18 Hidden Markov Model: Gewinnung der Daten Übersicht Annotation eines Corpus Auszählung der Sequenzen Umrechnung der Häufigkeiten in prozentuale Anteile 18

19 Hidden Markov Model: Gewinnung der Daten (1) Annotation eines Corpus Auszählung der Sequenzen Umrechnung der Häufigkeiten in prozentuale Anteile wir werden geschickt vom König. nomn auxv part.... Ω Wir werden geschickt durch Übung. nomn kopv adje.. Ω 19

20 Hidden Markov Model: Gewinnung der Daten (2) Annotation eines Corpus Auszählung der Sequenzen Umrechnung der Häufigkeiten in prozentuale Anteile Adje AuxV KopV Nomn Part Ω geschickt werden wir. Adje AuxV KopV Nomn Part Ω

21 Hidden Markov Model: Gewinnung der Daten (3) Annotation eines Corpus Auszählung der Sequenzen Umrechnung der Häufigkeiten in prozentuale Anteile Adje AuxV KopV Nomn Part Ω geschickt werden wir. Adje AuxV KopV Nomn Part Ω

22 Drei grundlegende Aufgaben, die mit HMMs bearbeitet werden 1. Dekodierung: Wahrscheinlichkeit einer Beobachtung finden brute force Forward-Algorithmus / Backward-Algorithmus 2. Beste Pfad-Sequenz finden brute force Viterbi-Algorithmus 3. Training: Aufbau des besten Modells aus Trainingsdaten 22 Manning/Schütze, 2000: 325

23 A1: Wahrscheinlichkeit einer Beobachtung finden gegeben gesucht eine Sequenz von Beobachtungen O=(wir,werden,geschickt) ein Modell Adje AuxV KopV Nomn Part g schicktwerden wir.. Adje AuxV KopV Nomn Part die Wahrscheinlichkeit P( wir, werden, geschickt µ ) P( O µ ) O = ( o1,..., ot) µ = ( A, B, Π) π 23

24 A1: Wahrscheinlichkeit einer Beobachtung finden Lösungsweg 1: brute force Für alle möglichen Zustandsfolgen - Berechnung der Wahrscheinlichkeit der Beobachtungen - Summierung der Wahrscheinlichkeiten P( O µ ) = X = π X 1... X P ( O X, µ ) P( X µ ) b T 1 =Π a 1 b X 1 X 1O1 XtXt + 1 Xt + 1Ot + 1 t T state transition symbol emission vgl. Rabiner, 1989, S. 260/261 vgl. Manning/Schütze, 2000:

25 A1: Wahrscheinlichkeit einer Beobachtung finden Lösungsweg 1: brute force: Beispiel P( O µ ) = π X 1... X =Π a 1 P(wir,werden,geschickt Adje Adje Adje, µ) + P(wir,werden,geschickt Adje Adje AuxV, µ) + + P(wir,werden,geschickt Nomn AuxV Part, µ) + + P(wir,werden,geschickt Nomn KopV Adje, µ) + + P(wir,werden,geschickt Part Part Part, µ) = b T 1 b X 1 X 1O1 XtXt + 1 Xt + 1Ot + 1 t T =0.0.3 x.2 x.4 x.3 x.2 x.4 = x.2 x.3 x.5 x.2 x.2 = =0.0 =

26 A1: Wahrscheinlichkeit einer Beobachtung finden Lösungsweg 1: brute force: Effizienz P( O µ ) = π X 1... X b =Π a 1 Lösungsweg ist hoffnungslos ineffizient Benötigt im allgemeinen Fall, d.h. - Start in jedem Zustand möglich, - Jeder Zustand kann auf jeden folgen T 1 b X 1 X 1O1 XtXt + 1 Xt + 1Ot + 1 t T (2T -1) x N T Multiplikationen T Anzahl der Beobachtungen N Anzahl der Zustände 26 vgl. Rabiner, 1989, S. 260/261 vgl. Manning/Schütze, 2000: 326

27 A1: Wahrscheinlichkeit einer Beobachtung finden Lösungsweg 2: Vorwärts- und Rückwärts-Verfahren Forward procedure Backward procedure Merken partieller Ergebnisse statt Wiederholter Berechnung 27 Manning/Schütze, 2000: 326ff

28 A2: Beste Pfadsequenz finden gegeben gesucht eine Sequenz von Beobachtungen O=(wir,werden,geschickt) ein Modell Adje AuxV KopV Nomn Part g schicktwerden wir Adje AuxV KopV Nomn Part die wahrscheinlichste Pfadsequenz P( wir, werden, geschickt µ ) O = ( o1,..., ot) µ = ( A, B, Π) π arg max P( X O, µ ) X 28

29 A2: Beste Pfadsequenz finden Lösungsweg 1: brute force: Wie in [A1]: alle Varianten berechnen die wahrscheinlichste auswählen hoffnungslos ineffizient Lösungsweg 2: beste Einzelzustände Für jeden Zeitpunkt t Zustand mit höchster Ausgabewahrscheinlichkeit auswählen Zusammensetzung kann unwahrscheinliche Sequenzen ergeben 29

30 A2: Beste Pfadsequenz finden Lösungsweg 3: Viterbi-Algorithmus Speichert für jeden Zeitpunkt t die Wahrscheinlichkeit des wahrscheinlichsten Pfades, der zu einem Knoten führt wir Adje werden Adje geschickt Adje. Ω wir AuxV wir KopV werden AuxV werden KopV geschickt AuxV geschickt KopV wir Nomn werden Nomn geschickt Nomn wir Part werden Part geschickt Part 30

31 A3: Training der Modellparameter gegeben gesucht eine Sequenz von Beobachtungen In einem Trainingscorpus ein Modell O = ( o1,..., ot) µ = ( A, B, Π) das für die beobachteten Sequenzen im Trainingscorpus die maximalen Wahrscheinlichkeiten erzeugt arg µ max P( OTraining µ ) 31 Manning/Schütze, 2000: 333ff

32 A3: Training der Modellparameter Lösung Baum-Welch oder Forward-backward-Algorithmus 32 Manning/Schütze, 2000: 333ff

33 Formen von Hidden Markov Models: Emissionen auf den vorangehenden Folien wurde ein State Emission Model verwendet den allgemeinen Fall stellt ein Arc Emission Model dar ein State Emission Model kann in ein Arc Emission Model überführt werden, umgekehrt ist dies nicht immer möglich auf den folgenden Folien wird ein Arc Emission Model beschrieben 33

34 Formen von Hidden Markov Models: Emissionen Allgemeine Form: Arc Emission Model Zur Zeit t emittiertes Symbol hängt ab von Zustand zur Zeit t und Zustand zur Zeit t+1 t t+1 Spezielle Form: State Emission Model Zur Zeit t emittiertes Symbol hängt ab von Zustand zur Zeit t t t+1 o o o 34

35 Formen von HMM: Emissionen: Beispiel Arc Emission Model State Emission Model auxv.2 part auxv.2 part werden.3 haben.4 sein.3 werden.65 haben.25 sein.10.2 verb werden.95 haben.05 35

36 Arc Emission Model: Beispiel.3 in einem Text lassen sich nur die Ausgaben (= produzierte Wörter) beobachten (visible) die Sequenz von Zuständen (= Wortarten), die die Wörter ausgeben, (Satzmuster) lässt sich nicht beobachten (hidden) mehrere Sequenzen können dieselbe Ausgabe erzeugen: nomn auxv part punkt nomn kopv adje punkt wir werden geschickt.3 x.3 x.2 x.2 x.3 x.1 x.4 = wir werden geschickt.3 x.3 x.2 x.2 x.5 x.1 x.2 =

37 Arc Emission Model: Darstellung als Wahrscheinlichkeitsmatrix Übergangsmatrix Start X t X t+1 Adje AuxV KopV Nomn Part Punkt π Adje.2 Emissionsmatrix o t geschickt werden wir AuxV KopV.2 Emissionsmatrix o t geschickt werden wir Nomn Part Punkt

38 Arc Emission Model: Spezialfall: State Emission Model Übergangsmatrix X t X t+1 Adje AuxV Adje.2 Emissionsmatrix o t geschickt werden wir AuxV... Wenn die Emissionsverteilungen für alle Übergänge aus einem Zustand identisch sind, entspricht dies einem State Emission Modell.2 Emissionsmatrix o t geschickt werden wir

39 Arc Emission Model: Definition Ein HMM wird spezifiziert durch ein Fünf-Tupel (S,K, Π, A, B) S = {S 1,..., S N } Menge der Zustände K = {k 1,..., k M } Menge der Ausgabesymbole Π = {π i } A = {a ij } B = {b ijk } Wahrscheinlichkeiten der Startzustände π i = P(X 1 = S i ) Wahrscheinlichkeiten der Zustandsübergänge a ij = P(X t+1 = S j X t = S i ) 1 i, j N Wahrscheinlichkeiten der Symbolemissionen b ijk = P(K k bei Übergang von X t zu X t+1 X t = S j, X t+1 = S j ) N i= 1 N j= 1 k = 1 πi = 1 aij = 1 1 j N M 1 k M bijk = 1 39 Manning/Schütze, 2000:

40 A1: Wahrscheinlichkeit einer Beobachtung finden Lösungsweg 1: brute force Für alle möglichen Zustandsfolgen - Berechnung der Wahrscheinlichkeit der Beobachtungen - Summierung der Wahrscheinlichkeiten P( O µ ) = X = X P ( O X, µ ) P( X µ ) X π X T Π a X X b t t + 1 X t+ 1 t= 1 t t + 1 X o t state transition symbol emission 40 Manning/Schütze, 2000: 326

41 Formen von Hidden Markov Models: Verbindungen zwischen Zuständen ergodic model: jeder Zustand kann von jedem in einer endlichen Anzahl von Schritten erreicht werden: andere Arten z.b. in der Verarbeitung gesprochener Sprache verwendet Rabiner, 1989, S

42 Vielen Dank Für das Aufspüren von Fehlern in früheren Versionen und Hinweise zur Verbesserung danke ich Wiebke Petersen versions: HMM , , ,

43 Literatur Allen, James (1995): Natural Language Understanding. 2nd edition. Addison-Wesley Publishing Co. Brants, Thorsten (1999). Statistische Methoden in der Sprachverarbeitung. Seminarskript 15. Juni 1999 Haenelt, Karin: Der Viterbi-Algorithmus. Eine Erläuterung der formalen Spezifikation am Beispiel des Part-of-Speech Tagging. Kursskript Manning, Christopher D.; Schütze, Hinrich (1999): Foundations of Statistical Natural Language Processing. Cambridge, Mass., London: The MIT Press. (vgl.: Rabiner, Lawrence R. (1989). A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition. In: Proceedings of the IEEE, Vol. 77, No. 2, February. %20applications.pdf 43