Einführung in die Computerlinguistik Syntax & Parsing

Transkript

1 yntax Einführung in die Computerlinguistik yntax & ozentin: Wiebke Petersen Wiebke Petersen Einführung CL (Wie 09/10) 1

2 yntax yntax συντ αξιζ (syntaxis) Zusammenordnung, Zusammenstellung yntax ist die Lehre von der Grammatikalität und truktur der ätze Colourless green ideas sleep furiously. (*) Furiously green sleep ideas colourless. Konstituentenstruktur (,,PP,... ) Wortordnung ependenzstruktur (ubjekt, Objekt,... ) as Ziel der yntax ist es, das grammatische Wissen zu modellieren, über das die muttersprachlichen precher einer prache unbewuÿt verfügen. Wichtige Anwendungsgebiete: Grammatikprüfung Question Answering Informationsextraktion maschinelle Übersetzung Wiebke Petersen Einführung CL (Wie 09/10) 2

3 yntax Phrasen- / Konstituentenstruktur bestimmte equenzen von Wörtern bilden Phrasen oder Konstituenten dies sind die truktureinheiten des atzes. tellen ie eine Liste aller möglicher ominalphrasen auf, die in den folgenden ätzen vorkommen: Jonathan Powell, the former Prime Minister's chief of sta, admitted that Mr Blair had made a mistake in an intelligence dossier on Iraq,s nuclear and chemical weapons but said its importance had been overstated. (The Times , online) Baron August von Finck verkaufte die Bank der Familie und investierte bevorzugt in chweizer Firmen. Für den erzkonservativen chlossbesitzer gehört es zum guten Ton, ihm wohlgesinnte Parteien mit üppigen penden zu unterstützen - nicht nur, wenn es um Hotels geht. (Z , online) Mehr als sechzig chlösser gibt es im chweizer Kanton Thurgau. Zu den schönsten zählt das chloss Weinfelden, das hoch über dem Ort thront und nur durch eine Zugbrücke zu erreichen ist. (Z , online) eit fast vier Jahrzehnten ist der reichste Thurgauer, der Münchner Baron August von Finck, der Hausherr dieser liebevoll restaurierten Liegenschaft, die Kenner an das liechtensteinische Fürstenschloss erinnert: In tein gehauene Geschichte. (Z , online) Wiebke Petersen Einführung CL (Wie 09/10) 3

4 yntax Tests für Phrasengliederung / Konstituententests ubstitutionstest: Wiebke Petersen Einführung CL (Wie 09/10) 4

5 yntax Tests für Phrasengliederung / Konstituententests ubstitutionstest: ich sehe den Mann mit dem Fernglas. ich sehe hundert tollwütige Hunde mit dem Fernglas. (*) ich sehe lief Eliminierungstest: Wiebke Petersen Einführung CL (Wie 09/10) 4

6 yntax Tests für Phrasengliederung / Konstituententests ubstitutionstest: ich sehe den Mann mit dem Fernglas. ich sehe hundert tollwütige Hunde mit dem Fernglas. (*) ich sehe lief Eliminierungstest: Fragetest: ich sehe hundert tollwütige Hunde mit dem Fernglas ich sehe mit dem Fernglas (*) ich sehe hundert tollwütige Wiebke Petersen Einführung CL (Wie 09/10) 4

7 yntax Tests für Phrasengliederung / Konstituententests ubstitutionstest: ich sehe den Mann mit dem Fernglas. ich sehe hundert tollwütige Hunde mit dem Fernglas. (*) ich sehe lief Eliminierungstest: Fragetest: ich sehe hundert tollwütige Hunde mit dem Fernglas ich sehe mit dem Fernglas (*) ich sehe hundert tollwütige Wen sehe ich? Mit was sehe ich? Koordinationstest: Wiebke Petersen Einführung CL (Wie 09/10) 4

8 yntax Tests für Phrasengliederung / Konstituententests ubstitutionstest: ich sehe den Mann mit dem Fernglas. ich sehe hundert tollwütige Hunde mit dem Fernglas. (*) ich sehe lief Eliminierungstest: Fragetest: ich sehe hundert tollwütige Hunde mit dem Fernglas ich sehe mit dem Fernglas (*) ich sehe hundert tollwütige Wen sehe ich? Mit was sehe ich? Koordinationstest: ich sehe den Mann und hundert tollwütige Hunde mit dem Fernglas Permutationstest: Wiebke Petersen Einführung CL (Wie 09/10) 4

9 yntax Tests für Phrasengliederung / Konstituententests ubstitutionstest: ich sehe den Mann mit dem Fernglas. ich sehe hundert tollwütige Hunde mit dem Fernglas. (*) ich sehe lief Eliminierungstest: Fragetest: ich sehe hundert tollwütige Hunde mit dem Fernglas ich sehe mit dem Fernglas (*) ich sehe hundert tollwütige Wen sehe ich? Mit was sehe ich? Koordinationstest: ich sehe den Mann und hundert tollwütige Hunde mit dem Fernglas Permutationstest:... hundert tollwütige Hunde und den Mann sehe ich mit dem Fernglas. mit dem Fernglas sehe ich hundert tollwütige Hunde und den Mann. (*) dem Fernglas sehe ich hundert tollwütige Hunde und den Mann mit. Wiebke Petersen Einführung CL (Wie 09/10) 4

10 yntax Analyse einer kontextfreien Phrasenstrukturregel Es gibt die Konstituenten,, in der prache. Ein kann aus einer gefolgt von einer aufgebaut sein. Es wird nicht ausgeschlossen, dass es weitere Konstituenten gibt. Es wird nicht behauptet, dass dies die einzig mögliche truktur von in dieser prache ist. Es wird nicht behauptet, dass und nur in dieser Position vorkommen können. Wiebke Petersen Einführung CL (Wie 09/10) 5

11 yntax Analyse einer kontextfreien Phrasenstrukturregel Es gibt die Konstituenten,, in der prache. Ein kann aus einer gefolgt von einer aufgebaut sein. Es wird nicht ausgeschlossen, dass es weitere Konstituenten gibt. Es wird nicht behauptet, dass dies die einzig mögliche truktur von in dieser prache ist. Es wird nicht behauptet, dass und nur in dieser Position vorkommen können. Eine Phrasenstrukturregel legt fest, aus welchen Konstituenten eine Phrase aufgebaut ist (hierarchische truktur, direkte ominanz) und sie legt die Reihenfolge der Konstituenten fest (lineare truktur, direkte Präzedenz) Wiebke Petersen Einführung CL (Wie 09/10) 5

12 yntax yntaxbäume P = die den Frau Mann sieht die Frau sieht den Mann Klammerschreibweise: [ [ [ die][ Frau]][ [ sieht][ [ den][ Mann]]]] Wiebke Petersen Einführung CL (Wie 09/10) 6

13 yntax Über- und Untergenerierung P = die den Frau Mann sieht Eine Grammatik mit diesen Produktionen erzeugt ätze, die im eutschen nicht grammatikalisch sind. (Übergenerierung) Bsp.: en Mann sieht den Mann, den Frau sieht die Mann Eine Grammatik mit diesen Produktionen erzeugt nicht alle grammatikalischen ätze des eutschen (Untergenerierung) Bsp.: ie Computerlinguistik ist eine Teildisziplin der Linguistik. Wiebke Petersen Einführung CL (Wie 09/10) 7

14 yntax to parse (grammatisch zerlegen) abgeleitet von pars (lateinisch) Teil Ein Parser ist ein Automat, der einer Zeichenkette aufgrund einer Grammatik einen erivationsbaum zuordnet. Grammatik + Zeichenkette erivationsbaum ist ein uchproblem. Wiebke Petersen Einführung CL (Wie 09/10) 8

15 yntax Unterschied: Recognizer Parser Beides sind Automaten Recognizer: stellt ausschlieÿlich fest, ob eine Zeichenfolge ein Wort der von der Grammatik generierten prache ist oder nicht (Kellerautomat). Parser: erstellt den erivationsbaum einer Zeichenfolge im Bezug auf die Grammatik. Wiebke Petersen Einführung CL (Wie 09/10) 9

16 yntax strategien strategien unterscheiden sich darin, in welcher Reihenfolge die Knoten eines erivationsbaums erstellt werden. Man unterscheidet zwei Hauptstrategien voneinander inputgetriebenes (bottom up): geleitet von der zu parsenden Zeichenkette theoriegetriebenes (top down): geleitet von der Grammatik Zusätzlich charakterisiert man strategien mit folgenden Begrien: depth-rst breadth-rst left-to-right right-to-left Wiebke Petersen Einführung CL (Wie 09/10) 10

17 yntax top-down-left-to-right-depth-rst-parser top-down: Parser beginnt beim tartsymbol und versucht, durch sukzessive Regelanwendung schlieÿlich bei der Eingabekette zu landen. Regelanwendungen (von links nach rechts) nennt man Expansion. as Einlesen eines Elements der Eingabekette nennt man can. left-to-right: er Parser versucht immer den am weitesten links stehenden Knoten des Ableitungsbaums zu expandieren oder mit diesem Knoten einen can durchzuführen. depth-rst: er Parser versucht immer die am weitesten unten stehenden Knoten (das sind immer die zuletzt gebildeten) weiter zu expandieren oder hier einen can durchzuführen. Wiebke Petersen Einführung CL (Wie 09/10) 11

18 yntax Beispiel: top-down-left-to-right-depth-rst-parser P = ie Frau sieht den Mann die den Frau Mann sieht Wiebke Petersen Einführung CL (Wie 09/10) 12

21 yntax Beispiel: top-down-left-to-right-depth-rst-parser P = ie Frau sieht den Mann die den Frau Mann sieht die Wiebke Petersen Einführung CL (Wie 09/10) 12

22 yntax Beispiel: top-down-left-to-right-depth-rst-parser P = ie Frau sieht den Mann die den Frau Mann sieht die die Frau Wiebke Petersen Einführung CL (Wie 09/10) 12

23 yntax Beispiel: top-down-left-to-right-depth-rst-parser P = ie Frau sieht den Mann die den Frau Mann sieht die die Frau die Frau Wiebke Petersen Einführung CL (Wie 09/10) 12

24 yntax Beispiel: top-down-left-to-right-depth-rst-parser P = ie Frau sieht den Mann die den Frau Mann sieht die die Frau die Frau die Frau sieht Wiebke Petersen Einführung CL (Wie 09/10) 12

25 yntax Beispiel: top-down-left-to-right-depth-rst-parser P = ie Frau sieht den Mann die den Frau Mann sieht die die Frau die Frau die Frau sieht die Frau sieht Wiebke Petersen Einführung CL (Wie 09/10) 12

26 yntax Beispiel: top-down-left-to-right-depth-rst-parser P = ie Frau sieht den Mann die den Frau Mann sieht die die Frau die Frau die Frau sieht die Frau sieht die Frau sieht den Wiebke Petersen Einführung CL (Wie 09/10) 12

27 yntax Beispiel: top-down-left-to-right-depth-rst-parser P = ie Frau sieht den Mann die den Frau Mann sieht die die Frau die Frau die Frau sieht die Frau sieht die Frau sieht den die Frau sieht den Mann Wiebke Petersen Einführung CL (Wie 09/10) 12

28 yntax Linksrekursion Top-down-left-to-right-Parser terminieren nicht bei Grammatiken, die linksrekursive Regeln beinhalten! und PP Wiebke Petersen Einführung CL (Wie 09/10) 13

29 yntax Linksrekursion Top-down-left-to-right-Parser terminieren nicht bei Grammatiken, die linksrekursive Regeln beinhalten! und PP und Wiebke Petersen Einführung CL (Wie 09/10) 13

30 yntax Linksrekursion Top-down-left-to-right-Parser terminieren nicht bei Grammatiken, die linksrekursive Regeln beinhalten! und PP und und und Wiebke Petersen Einführung CL (Wie 09/10) 13

31 yntax Linksrekursion Top-down-left-to-right-Parser terminieren nicht bei Grammatiken, die linksrekursive Regeln beinhalten! und PP und und und und und und Wiebke Petersen Einführung CL (Wie 09/10) 13

32 yntax Linksrekursion Top-down-left-to-right-Parser terminieren nicht bei Grammatiken, die linksrekursive Regeln beinhalten! und PP und und und und und und und und und und Wiebke Petersen Einführung CL (Wie 09/10) 13

33 yntax bottom-up-breadth-rst-left-to-right-parser bottom-up: Parser beginnt bei der Eingabekette und versucht, durch sukzessives rückwärtiges Anwenden der Regeln (von rechts nach links) schlieÿlich bei dem tartsymbol zu landen. breadth-rst: ie ymbole werden in der Reihenfolge ihrer Erzeugung abgearbeitet Wiebke Petersen Einführung CL (Wie 09/10) 14

34 yntax Beispiel: bottom-up-breadth-rst-left-to-right-parser die Frau sieht den Mann Wiebke Petersen Einführung CL (Wie 09/10) 15

35 yntax Beispiel: bottom-up-breadth-rst-left-to-right-parser die Frau sieht den Mann die Frau sieht den Mann Wiebke Petersen Einführung CL (Wie 09/10) 15

36 yntax Beispiel: bottom-up-breadth-rst-left-to-right-parser die Frau sieht den Mann Frau sieht den Mann sieht den Mann die die Frau Wiebke Petersen Einführung CL (Wie 09/10) 15

37 yntax Beispiel: bottom-up-breadth-rst-left-to-right-parser die Frau sieht den Mann Frau sieht den Mann sieht den Mann die die Frau... die Frau sieht den Mann Wiebke Petersen Einführung CL (Wie 09/10) 15

38 yntax Beispiel: bottom-up-breadth-rst-left-to-right-parser die Frau sieht den Mann Frau sieht den Mann sieht den Mann die die Frau... die Frau sieht den Mann sieht den Mann die Frau Wiebke Petersen Einführung CL (Wie 09/10) 15

39 yntax Beispiel: bottom-up-breadth-rst-left-to-right-parser die Frau sieht den Mann Frau sieht den Mann sieht den Mann die die Frau... die Frau sieht den Mann sieht den Mann sieht die Frau die Frau den Mann Wiebke Petersen Einführung CL (Wie 09/10) 15

40 yntax Beispiel: bottom-up-breadth-rst-left-to-right-parser die Frau sieht den Mann Frau sieht den Mann sieht den Mann die die Frau... die Frau sieht den Mann sieht den Mann sieht die Frau die Frau den Mann die Frau sieht den Mann Wiebke Petersen Einführung CL (Wie 09/10) 15

41 yntax Beispiel: bottom-up-breadth-rst-left-to-right-parser die Frau sieht den Mann Frau sieht den Mann sieht den Mann die die Frau... die Frau sieht den Mann sieht den Mann sieht die Frau die Frau den Mann die Frau sieht den Mann die Frau sieht den Mann Wiebke Petersen Einführung CL (Wie 09/10) 15

42 yntax ɛ-regeln Bottom-up Parser terminieren nicht bei Grammatiken, die ɛ-regeln beinhalten, da eine solche Regel jederzeit anwendbar ist! ɛ Wiebke Petersen Einführung CL (Wie 09/10) 16

43 yntax ergleich: Bottom-up- und Top-down-Parser top-down ucht nur nach erivationsbäumen, die echte Bäume sind. Aber verfolgt Bäume, die nicht zu der Eingabekette passen. Problem mit Linksrekursion. bottom-up Formt nur Teilbäume, die zur Eingabekette passen. Aber verfolgt Teilbäume, die nie zu einem erivationsbaum werden können. Problem mit ɛ-expansion. Wiebke Petersen Einführung CL (Wie 09/10) 17

44 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Wiebke Petersen Einführung CL (Wie 09/10) 18

45 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Wiebke Petersen Einführung CL (Wie 09/10) 18

46 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Wiebke Petersen Einführung CL (Wie 09/10) 18

47 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Wiebke Petersen Einführung CL (Wie 09/10) 18

48 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Mary Wiebke Petersen Einführung CL (Wie 09/10) 18

49 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Mary Mary Wiebke Petersen Einführung CL (Wie 09/10) 18

50 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Mary Mary Mary ies Wiebke Petersen Einführung CL (Wie 09/10) 18

51 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Mary Mary Mary Mary ies Wiebke Petersen Einführung CL (Wie 09/10) 18

52 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Mary Mary Mary Mary ies Mary Wiebke Petersen Einführung CL (Wie 09/10) 18

53 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Mary Mary Mary Mary ies Mary Mary calls Wiebke Petersen Einführung CL (Wie 09/10) 18

54 yntax Top-down mit Backtracking Falls ein Terminalsymbol mit der Eingabekette inkonsistent ist, werden schrittweise die vorherigen chritte bis zur letzten Wahlmöglichkeit rückgängig gemacht P = ies calls Peter Mary Mary calls Peter Peter Mary Mary Mary Mary ies Mary Mary Mary calls calls Peter Wiebke Petersen Einführung CL (Wie 09/10) 18

55 yntax Top-down mit Backtracking (Beispiel aus Carstensen et. al.) Wiebke Petersen Einführung CL (Wie 09/10) 19

56 yntax : Probleme hohe Ambiguität (Bsp.: `time ies like an arrow', weiteres Bsp. in den HA) Abdeckung Ezienz Wiebke Petersen Einführung CL (Wie 09/10) 20

57 yntax Hausaufgaben (Abgabe bis zum ) (B: 2 Aufgaben) 1 Geben ie zu mindestens zwei der Tests für Phrasengliederung ein Beispiel an, warum dieser Test allein zur Bestimmung der Phrasenstruktur eines atzes nicht ausreicht. 2 Geben ie eine kontextfreie Grammatik an, die ätze der folgenden Art generiert: He likes the meal on the ight to ew York on Monday. Zu den Regeln sollten PP und PP gehören. 3 Wieviele erivationsbäume ergeben sich aus Ihrer Grammatik zu dem genannten atz? Zeichnen ie mindestens 5 verschiedene. 4 Welche strategie (top-down oder bottom-up) ist für Ihre Grammatik geeignet? Begründen ie Ihre Entscheidung und führen ie einen Parse durch. Beachten ie, daÿ ie unter Umständen Backtracking einsetzen müssen. 5 Passen ie die Grammatik von Folie 7 so an, daÿ Übergeneralisierungen vermieden werden. 6 Welcher strategie folgen die Kellerautomaten, die nach dem in der letzten itzung vorgestellten erfahren aus einer kontextfreien Grammatik gewonnen werden? Wiebke Petersen Einführung CL (Wie 09/10) 21

58 yntax Literatur Carstensen et. al. (2004), Kapitel 3.4 Jurafsky & Martin (2008), Kapitel 13 Wiebke Petersen Einführung CL (Wie 09/10) 22