Einführung in die Computerlinguistik

Transkript

1 Einführung in die Computerlinguistik HMM POS-Tagging Laura Kallmeyer Heinrich-Heine-Universität Düsseldorf Summer / 20

2 POS Tags (1) Jurafsky and Martin (2009) POS = part-of-speech Tags sind morphosyntaktische Kategorien von Wortformen. Bsp. (Brown Corpus): (The AT) (Fulton NP-TL) (County NN-TL) (Grand JJ-TL) (Jury NN-TL) (said VBD) (Friday NR) (an AT) (investigation NN) (of IN) (Atlanta s NP) (recent JJ) (primary NN) (election NN) (produced VBD) ( ) (no AT) (evidence NN) ( ) (that CS) (any DTI) (irregularities NNS) (took VBD) (place NN) (..) 2 / 20

3 POS Tags (2) Bsp. (Penn Treebank): (Pierre NNP) (Vinken NNP) (,,) (61 CD) (years NNS) (old JJ) (,,) (will MD) (join, VB) (the DT) (board NN) (as IN) (a DT) (nonexecutive JJ) (director NN) (Nov. NNP) (29 CD) (..) 3 / 20

4 POS Tags (3) Es gibt kein fest vorgegebenes Inventar von möglichen POS Tags. Die Wahl der POS Tags hängt von der jeweiligen Sprache und von der Anwendung ab, die mit dem getaggten Text vorgenommen werden soll. Morphologisch reichere Sprachen haben in der Regel größere Tagsets. Penn Treebank Tagset (PTB, American English): 45 POS-Tags Brown Corpus (American English): 87 POS-Tags British National Corpus (BNC, British English) basic tagset: 61 POS-Tags Stuttgart-Tübingen Tagset (STTS) für das Deutsche: 54 POS- Tags. Prague Dependency Treebank (PDT, Tschechisch): 4288 POS- Tags. 4 / 20

5 HMM POS Tagging (1) Problem: Gegeben eine Folge w1 n von n Wörtern, wollen wir die wahrscheinlichste Folge ˆt 1 n aller möglichen Folgen tn 1 von n POS Tags für diese Wortfolge ermitteln. arg max x ˆt n 1 = arg max t n 1 P(t n 1 w n 1 ) f (x) bedeutet das x, für das f (x) maximal groß wird. Mit Bayes gilt ˆt n 1 = arg max t n 1 P(w n 1 tn 1 )P(tn 1 ) P(w n 1 ) Daraus folgt ˆt n 1 = arg max t n 1 P(w n 1 tn 1 )P(tn 1 ) 5 / 20

6 HMM POS Tagging (2) ˆt n 1 = arg max t1 n berechnen. Annäherungen: P(w1 n tn 1 )P(tn 1 ) ist immer noch zu aufwendig zu P(w n 1 t n 1 ) P(t n 1 ) n P(w i t i ) i=1 n P(t i t i 1 ) i=1 Wenn wir Trainingsdaten in Form eines getaggten Korpus zur Verfügung haben, können wir die benötigten Wahrscheinlichkeiten durch Abzählen ermitteln. C(x) sei die Anzahl von Auftreten von x im Korpus. 6 / 20

7 HMM POS Tagging (3) Maximum Likelihood Estimates (MLE) Tagübergangswahrscheinlichkeit: P(t i t i 1 ) = C(t i 1, t i ) C(t i 1 ) Bsp. Brown Corpus:P(NN DT) = C(DT,NN) C(DT) = = 0.49 Wortwahrscheinlichkeit: P(w i t i ) = C(t i, w i ) C(t i ) Bsp. Brown Corpus: P(is VBZ) = C(VBZ,is) C(VBZ) = = / 20

8 POS Tag Sequences (1) Bsp.: race, Ambiguität zwischen VB und NN. (1) Secretariat/NNP is/vbz expected/vbn to/to race/?? tomorrow/nr (Brown tagset) Entscheidung, ob VB oder NN: NNP VBZ VBN TO?? NR Secretariat is expected to race tomorrow 8 / 20

9 POS Tag Sequences (2) Übergangs- und Wortwahrscheinlichkeiten, die unterschiedlich sind: P(NN TO) = P(VB TO) = 0.83 P(race NN) = P(race VB) = P(NR NN) = P(NR VB) = Je nach POS Tag für race unterscheiden sich die Wahrscheinlichkeiten der beiden Folgen in dem Faktor NN: P(NN TO)P(race NN)P(NR NN) = VB: P(VB TO)P(race VB)P(NR VB) = / 20

10 Bigram-HMMs (1) Formalisierung als gewichteter endlicher Automat. Der Automat erlaubt uns, über beobachtete Ereignisse (die zu taggenden Wörter) zu sprechen und über versteckte Ereignisse (Folgen von POS Tags). Daher die Bezeichnung Hidden Markov model (HMM). Ein HMM besteht aus Zuständen (= POS Tags), Übergangswahrscheinlichkeiten a i 1,i (= P(t i t i 1 )) und Emissionswahrscheinlichkeiten b i (w i ) (P(w i t i )). 10 / 20

11 Bigram-HMMs (2) Ein HMM ist ein Tupel Q, A, O, B, q 0, q F, wobei Q eine endliche Menge von Zuständen ist; A eine Q Q Matrix ist, deren Elemente aus R sind, die Übergangswahrscheinlichkeiten, O eine endliche Menge von Beobachtungen ist; : O R, Emission- B eine Folge von Q Funktionen b i swahrscheinlichkeiten; q 0, q F / Q der Startzustand und der Endzustand sind. Diese beiden Zustände haben keine Emissionen, und es sind zusätzlich Übergangswahrscheinlichkeiten a 0i und a if für alle 1 i Q gegeben. 11 / 20

12 Bigram-HMMs (3) Bsp.: HMM-POS Tagger mit Q = {Det, N, Adj, V }, O = {the, chief, rules,... }, folgende Wahrscheinlichkeiten: Emissionswahrscheinlichkeiten (b i (w) = P(w q i )): P(the Det) = 1 P(chief N) = P(rules N) = P(chief Adj) = P(rules V) = Alle anderen Emissionswahrscheinlichkeiten für chief, the und rules seien 0. Teil der Übergangswahrscheinlichkeiten (A i,j = P(q j q i )): P(N Det) = P(N N) = P(N Adj) = P(Adj Det) = P(V N) = P(V Adj) = Die Wahrscheinlichkeit, dass ein Det am Satzanfang steht, ist 1, die, dass auf ein N oder V ein Satzende folgt, ist jeweils 0.1 = / 20

13 Bigram-HMMs (4) Ziel: Gegeben ein HMM und eine Folge von Beobachtungen o 1... o n soll ermittelt werden, welche Folge von Zuständen (POS Tags) die Beobachtung am wahrscheinlichsten macht. Viterbi Algorithmus: Wir durchlaufen die Beobachtungen von links nach rechts und füllen dabei eine Matrix viterbi von Pfadwahrscheinlichkeiten. viterbi ist eine ( Q + 1) n)-matrix. Das Feld viterbi[q, i] soll angeben, wie wahrscheinlich es ist, dass wir nach Abarbeiten der ersten i Beobachtungen in Zustand q sind. Außerdem führen wir Backpointer mit, die uns für viterbi[q, i] sagen, welcher Zustand q voranging. 13 / 20

14 Bigram-HMMs (5) Bsp.: q F N , Det , Adj V , N Adj , Det Det 1, q 0 1: the 2: chief 3: rules , V chief, Adj: chief, N: rules, N: max{ Vorgänger Adj, Vorgänger N} rules, V: max{ Vorgänger Adj, Vorgänger N} Die beste POS-TAG Folge ist demnach Det N V. 14 / 20

15 Bigram-HMMs (6) Algorithmus: for q in range( Q ): viterbi(q, 1) = a 0,q b q (o 1 ) backpointer(q, 1) = 0 for i from 2 to n: for all q Q: viterbi(q, i) = arg max (viterbi(q, i 1) a q,q b q (o i )) q Q backpointer(q, i) = arg max (viterbi(q, i 1) a q,q) q Q viterbi(q F, n) = arg max q Q backpointer(q F, n) = arg max q Q (viterbi(q, n) a q,q F ) (viterbi(q, n) a q,q F ) 15 / 20

16 Bigram-HMMs (7) Anschließend erhält man die beste Tagsequenz (in umgekehrter Reihenfolge), wenn man, von backpointer(q f, n) ausgehend den Backpointern folgt. Die Wahrscheinlichkeit dieser Tagsequenz steht in viterbi(q f, n). 16 / 20

17 Trigram-HMMs (1) Annahme bisher: Die Übergangswahrscheinlichkeit dafür, dass ein bestimmtes Tag als nächstes folgt, ist nur von dem vorhergehenden Tag abhängig. Erweiterung: es werden die beiden vorhergehenden Tags berücksichtigt: n P(t1 n ) P(t i t i 1, t i 2 ) i=1 Zusätzlich wird noch das Satzende berücksichtig, genauer die Wahrscheinlichkeit, dass das letzte Tag am Satzende steht (t n+1 ist ein neu eingeführtes Satzendetag): ˆt 1 n = arg max t1 n = arg max t1 n P(w n 1 tn 1 )P(tn 1 ) [ n i=1 P(w i t i )P(t i t i 1, t i 2 )] P(t n+1 t n ) 17 / 20

18 Trigram-HMMs (2) Problem: Man hat oft nicht genug Daten, um alle Wahrscheinlichkeiten abschätzen zu können: P(t i t i 1, t i 2 ) = C(t i 2, t i 1, t i ) C(t i 2, t i 1 ) Viele dieser Anzahlen werden 0 sein, da man nicht alle Folgen im Trainingskorpus findet. Lösung: Kombination von Tri-, Bi- und Unigrams: P(t i t i 1, t i 2 ) = λ 3ˆP(t i t i 1, t i 2 ) + λ 2ˆP(t i t i 1 ) + λ 1ˆP(t i ) 18 / 20

19 Trigram-HMMs (3) Berechnung der λ 1, λ 2, λ 3 z.b. durch deleted interpolation λ 1 = λ 2 = λ 3 = 0 for each trigram t 1, t 2, t 3 with f (t 1, t 2, t 3 ) > 0: depending on the maximum of the values x 1 = C(t1,t2,t3) 1 C(t, x 1,t 2) 1 2 = C(t2,t3) 1 C(t 2) 1 and x 3 = C(t3) 1 N 1 : case max = x 1 : increment λ 3 by C(t 1, t 2, t 3 ) case max = x 2 : increment λ 2 by C(t 1, t 2, t 3 ) case max = x 3 : increment λ 1 by C(t 1, t 2, t 3 ) normalize λ 1, λ 2, λ 3 (N ist die Gesamtanzahl Tokens im Korpus) Accuracy = (Anzahl korrekter Tags) / (Anzahl Tags) liegt beim POS Tagging deutlich über 95 %. 19 / 20

20 Jurafsky, D. and Martin, J. H., editors (2009). Speech and Language Processing. An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition. Prentice Hall Series in Articial Intelligence. Pearson Education International. Second Edition. 20 / 20