Syntax und Parsing. OS Einblicke in die Computerlinguistik. Philipp Rabe, 13IN-M

Transkript

1 OS Einblicke in die Computerlinguistik basierend auf Computerlinguistik und Sprachtechnologie, 3. Auflage, Spektrum, Heidelberg Mai 2014

2 Ausgangssituation Tokenisierung und Wortarten-Tagging vollendet (siehe Vortrag Herr Hinerasky) Beginn und Ende von Sätzen festgestellt einzelne Satzbestandteile erkannt Worte mit grammatischer Information versehen Satz als Liste von annotierten Wörtern Zielsetzung Strukturbeschreibung des Satzes Baum zur Ermittlung der Funktionalität der Worte im Satz Zuordnung ist eindeutig

3 1 Syntax Syntaktische Strukturen Kontextfreie Grammatiken Unifikations-Grammatik PATR-II 2 Parsing Grundlagen Probleme Vom Backtracking- zum Earley-Algorithmus 3 Zusammenfassung

4 Syntaktische Strukturen Dependenzsyntax Relation zwischen einzelnen Wörtern Konstituentenstruktursyntax Relation zwischen Konstituenten S halte Vortrag NP VP PP V NP ich den ich halte DET N den Vortrag

5 Kontextfreie Grammatiken Kontextfreie Grammatiken für natürliche Sprachen Grammatik G = Φ, Σ, R, S Φ - Menge von Nichtterminalsymbolen S, NP, VP, N, DET (N, DET: präterminale Kategorien) Σ - Menge von Terminalsymbolen der, Hund, bellt, sieht, die, Katze R - Menge von Regeln α β lexikalische Regeln: β Σ S - Startsymbol (S Φ) S = S, Satz α Φ, β (Φ Σ)

6 Kontextfreie Grammatiken Kontextfreie Grammatiken für natürliche Sprachen (2) Einige ableitbare Sätze: Regelmenge R: der Hund bellt S NP VP (1) NP DET N (2) VP V (3) VP V NP (4) DET der (5) DET die (6) N Hund (7) N Katze (8) V bellt (9) V sieht (10) der Hund sieht die Katze der Katze bellt die Hund S NP VP DET N V NP der Hund sieht DET die N Katze

7 Kontextfreie Grammatiken Erweiterung der Grammatik um Kongruenzbedingungen Differenzierung um Genus (m/f ) und Kasus (n/a): NP DET N NP mn DET mn N mn NP ma DET ma N ma NP fn DET fn N fn NP fa DET fa N fa Probleme Exponentiell viele Nichtterminalsymbole und Regeln Keine Relation zwischen NP mn und NP ma keine Generalisierung, keine Unifikation (Vortrag Herr Petersen)

8 Unifikations-Grammatik PATR-II Parsing And TRanslation II Zwei Komponenten: Menge von Grammatikregeln Lexikon Lexikoneinträge verlangen Merkmalsstrukturen Zuordnung Wort Merkmalsstruktur Pfadgleichungen KAT KGR KAT KGR Hund N KAS NOM NUM SG GEN MASK der DET KAS NOM NUM SG GEN MASK (NP DET N) X 0 X 1 X 2 X 0 KAT = NP X 1 KAT = DET X 2 KAT = N X 1 KGR = X 2 KGR

9 1 Syntax Syntaktische Strukturen Kontextfreie Grammatiken Unifikations-Grammatik PATR-II 2 Parsing Grundlagen Probleme Vom Backtracking- zum Earley-Algorithmus 3 Zusammenfassung

10 Grundlagen Parsing als Suchprozess Zustand Z i α, KAT, Struktur Startzustand Z 0 [der, Hund, bellt], S, Übergänge: Grammatikregeln (kontextfrei oder PATR-II) Endzustände E j [], S, S [ NP [ DET [der] N [Hund]] VP [ V [bellt]]] S NP VP DET N V der Hund bellt

11 Grundlagen Verarbeitungsrichtung Links-Rechts-Verarbeitung oder Head-Corner-Parsing Analyserichtung Top-Down Bottom-Up S S NP VP NP VP DET N V DET N V der Hund bellt der Hund bellt Suchstrategie Tiefensuche (nicht vollständig), Breitensuche, Best-first,...

12 Probleme Übersicht Ambiguität Abdeckung Effizienz Ambiguität Zeitfliegen mögen einen Pfeil. Time flies like an arrow. Bestimme die Geschwindigkeit von Fliegen so, wie es ein Pfeil tut! Es klappte gut weil Maria die Freundin von Anna aus Osnabrück mit dem Auto von Petra aus Bielefeld abgeholt hat. Lösung: integrative Architekturen, probabilistisches Parsing

13 Probleme Abdeckung Komplexität von Grammatiken (und Lexika) sehr groß immer auf Anwendungsbereich (Domäne) spezialisiert Prüfung auf korrekte Verarbeitung von Realdaten schwierig Effizienz Korrektheit nicht von Nutzen, wenn Analysedauer zu groß Finden aller Strukturbeschreibungen für beliebigen Satz mit beliebiger kontextfreier Grammatik: mathematisch unlösbar Lösung des Problems nicht immer definiert Vergleich von Effizienz schwierig, da domänen- und satzabhängig

14 Vom Backtracking- zum Earley-Algorithmus Ein Backtracking-Recognizer Prüfung, ob Grammatik Satz akzeptiert oder nicht Tiefensuche (keine linksrekursiven Regeln erlaubt) Beispiel Die Katze miaut DET NP N S VP V Regelmenge R S NP VP NP DET N VP V VP V NP DET der DET die N Hund N Katze V bellt V miaut V sieht die Katze miaut

15 Vom Backtracking- zum Earley-Algorithmus Chart-Parsing Dynamisches Programmieren Chart: Tabelle, Liste von Items beschreibt Syntaxstrukturen von Satzabschnitten: 0 Der 1 Hund 2 sieht 3 die 4 Katze 5 [ 3 5 NP DET N ] (inaktiv aktiv) [ 0 2 S NP VP ] (inaktiv aktiv) Start: [ 0 0 S NP VP ] Ende: [ 0 5 S NP VP ] Enthaltene Prozeduren Expand - Erweitert nicht abgeschlossene Regeln Scan - Wendet lexikalische Regeln an Complete - Fasst abgeschlossene Items zusammen

16 Vom Backtracking- zum Earley-Algorithmus Expand [ i j A α B β ] C B γ R neu: [ j j B γ ] C Scan Eingabekette w = w 1 w 2... w n [ i j-1 A α w j β ] C neu: [ i j A α w j β ] C Complete [ i j A α Bβ ] C [ j k B γ ] C neu: [ i k A α B β ] C

17 1 Syntax Syntaktische Strukturen Kontextfreie Grammatiken Unifikations-Grammatik PATR-II 2 Parsing Grundlagen Probleme Vom Backtracking- zum Earley-Algorithmus 3 Zusammenfassung

18 Syntax Erzeugung von syntaktischen Strukturen mit kontextfreien Grammatiken möglich Besser aber: Arbeit mit Merkmalsstrukturen (PATR-II) Generalisierung und Unifikation möglich Parser Parsing verständlich als Suchprozess Probleme: Ambiguität, Abdeckung, Effizienz Backtracking vollzieht teilweise korrekte Schritte mehrmals Chart-Parsing nutzt gewonnene Informationen erneut

19 Beispiel Earley-Algorithmus Satzabschitte 0 Der 1 Hund 2 sieht 3 die 4 Katze 5 Regelmenge R S NP VP (1) NP DET N (2) VP V (3) VP V NP (4) DET der (5) DET die (6) N Hund (7) N Katze (8) V bellt (9) V miaut (10) V sieht (11) Expand Scan [ i j A α B β ] C B γ R neu: [ j j B γ ] C Eingabekette w = w 1 w 2... w n [ i j-1 A α wj β ] C neu: Complete [ i j A α wj β ] C [ i j A α Bβ ] C [ j k B γ ] C neu: [ i k A α B β ] C