Einführung in die Grammatikentwicklung Stefan Müller Was machen wir in diesem Kurs? Kennelernen eines Grammatikentwicklungssystems Lernen, wie man Grammatiken mit getypten Merkmalsbeschreibungen formalisiert Anpassen und entwickeln einer Reihe einfacher HPSG-Grammatiken in TRALE Email: Stefan.Mueller@cl.uni-bremen.de http://www.cl.uni-bremen.de/ stefan/ Lösen wöchentlicher Übungsaufgaben (sofortiger Erfolg, evtl. mit Überstunden) Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 1/35 Warum Grammatikentwicklung mit dem Computer? Head-Driven Phrase Structure Grammar (Hintergrund) Forschung Formalisierung linguistischer Theorien mit komplexen Interaktionen zwischen einzelnen Phänomenen. Identifizierung von sprachübergreifenden Generalisierungen Lehre Lehre von Frameworks oder Analysen in Morphologie, Syntax und Semantik; Förderung der experimentellen Arbeit von Studenten Anwendung Einbettung grammatikbasierter Analyse/Generierung von natürlichen Sprachen in Forschungsprototypen bzw. kommerzielle Anwendungen Mitte der 80er entwickelt als Nachfolger der Generalisierten Phrasenstrukturgrammatik (GPSG) Pollard und Sag (1987, 1994) seitdem viele Beiträge syntaktische Theorie Sprachtypologie Computerlinguistik, Grammatikentwicklung (Deutsch, Englisch, Französisch, Norwegisch, Japanisch, Spanisch) jährliche HPSG Konferenzen (seit 1994): Konferenzbände bei CSLI online publications Webseiten: http://hpsg.stanford.edu/ und http://www.cl.uni-bremen.de/hpsg-bib/ (Literatur) aktuelle Lehrbücher HPSG: Borsley, 1999; Sag, Wasow und Bender, 2003; Müller, 2007 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 2/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 3/35
TRALE Struktur TRALE = Controll + ALE (Meurers, Penn und Richter, 2002) entwickelt in Tübingen (Frank Richter) Columbus/Ohio (Detmar Meurers) Toronto (Gerald Penn) mit Hilfe von Holger Wunsch (Tübingen), Stefan Müller (Bremen), Kordula De Kuthy (Columbus), Mohammad Haji-Abdolhosseini (Toronto), Vanessa Metcalf (Columbus) System kann Sätze analysieren und auch aus Bedeutungsrepräsentationen Sätze erzeugen Dokumentation zu TRALE: trale-doc bzw. ale-doc in einem xterm eingeben V V V D N V D N er das Buch dem Mann gibt D, N V, V Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 4/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 5/35 Köpfe Abstraktion über Regeln Kopf bestimmt die wichtigsten Eigenschaften einer Wortgruppe/Phrase/Projektion (1) a. Karl schläft. b. Karl liebt Maria. c. in diesem Haus d. ein Mann ein Satz ist die Maximalprojektion eines finiten Verbs Hauptkategorien sind: Kategorie projizierte Merkmale Verb Kategorie, Verbform (fin, bse,... ) Nomen Kategorie, Kasus (nom, gen, dat, acc) Präposition Kategorie, Form der Präposition (an, auf,... ) Adjektiv Kategorie, bei flektierten Formen Kasus X-Theorie (Jackendoff, 1977): X Regel mit Kategorien X Spezifikator X N DET N X X Adjunkt N N REL_SATZ X Adjunkt X N ADJ N X X Komplement N N P X steht für beliebige Kategorie, * für beliebig viele Wiederholungen Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 6/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 7/35
Grundlegendes zur HPSG Merkmalstrukturen lexikalisiert (head-driven/kopfgesteuert) zeichenbasiert (Saussure, 1916) getypte Merkmalstrukturen (Lexikoneinträge, Phrasen, Prinzipien) Mehrfachvererbung monostratale Theorie Phonologie Syntax Semantik PHON Grammatik HEAD CAS 1 noun CAT SUBCAT DET[CAS 1 ] SYNSEM LOC cat CONT... INST X grammatik loc lexical-sign Merkmal-Wert-Struktur Attribut-Wert-Struktur feature structure attribute-value matrix feature matrix Shieber (1986), Pollard und Sag (1987), Johnson (1988), Carpenter (1992), King (1994) Def. 1 (Merkmalstruktur vorläufige Version) Eine Merkmalstruktur ist eine Menge von Paaren der Form [ATTRIBUT wert]. Dabei ist ATTRIBUT ein Element einer Menge ATTR von Merkmalen. Die Komponente wert ist entweder atomar (Zeichenkette) (die Merkmalstruktur ist elementar) oder selbst auch Merkmalstruktur (die Merkmalstruktur ist komplex). Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 8/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 9/35 Merkmalstrukturen Beispiele Pfad Merkmale mit einfachen Werten: A1 W1 A2 W2 A3 W3 Def. 2 Ein Pfad in einer Merkmalstruktur ist eine Folge von Merkmalen, die in der Merkmalstruktur unmittelbar aufeinander folgen. Der Wert eines Pfades ist die Merkmalstruktur am Ende des Pfades. Merkmale mit einfachen und komplexen Werten: A1 W1 A21 W21 A2 A221 W221 A22 A222 W222 A3 W3 Die leere Merkmalstruktur: [] Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 10/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 11/35
Ein Beispiel Eine Merkmalstruktur, die einen Menschen beschreibt: VORNAME max NACHNAME meier GEBURTSTAG 10.10.1985 Rekursive Strukturen: VORNAME max NACHNAME meier GEBURTSTAG 10.10.1985 VORNAME peter NACHNAME meier VATER VATER... MUTTER... MUTTER... GEBURTSTAG 10.05.1960 Übung: Wie repräsentieren wir die Töchter oder Söhne eines Menschen? Subsumption Def. 3 Eine Merkmalstruktur M1 subsumiert eine Merkmalstruktur M2 (M1 M2), wenn folgendes gilt: Jeder vollständige Pfad von M1 ist als vollständiger Pfad in M2 enthalten und hat dort denselben Wert wie in M1. Jedes Paar von Pfaden in M1, das denselben Wert hat (structure sharing), muß auch in M2 denselben Wert haben. Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 12/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 13/35 M1 M2 M7 M8 M9 Beispiele für Subsumption Unifikation M1 M4 M6 M7 M8 M9 M1 M3 M1 M4 M5 M1: [ ] M2: M3: CAT vp M4: AGR M5: AGR pl M6: AGR NUM sg NUM Def. 4 M1, M2 und M3 seien Merkmalstrukturen. M3 ist genau dann Unifikation von M1 und M2 (M3 = M1 M2), wenn M3 von M1 und M2 subsumiert wird und M3 alle anderen Merkmalstrukturen M subsumiert, die ebenfalls von M1 und M2 subsumiert werden. M7: AGR NUM sg AGR NUM sg M8: SUBJ NUM sg M9: AGR 1 NUM sg SUBJ 1 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 14/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 15/35
[ ] Beispiele für Unifikation [ ] [ ] = [ ] AGR = NUM sg AGR NUM sg [ ] AGR AGR NUM NUM sg sg [ ] SUBJ NUM sg Typen Merkmalstrukturen sind von einem bestimmten Typ Der Typ wird kursiv gesetzt: A1 W1 type Typen sagen etwas darüber aus, welche Merkmale zu einer bestimmten Beschreibung gehören dürfen/müssen. Typen sind in Hierarchien orgnaisiert Beispiel: part of speech p-o-s adj adv det noun prep verb Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 16/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 17/35 Strukturteilung Unifikation und Strukturteilung A1 und A2 sind token-identisch: A1 1 [A3 W3] A2 1 Die Identität der Werte wird durch Boxen verdeutlicht. Boxen kann man als Variablen auffassen. unser Kongruenzbeispiel S (Agr,nom), (Agr2,dat), (Agr3,acc), V(Agr) mit Merkmalsbeschreibungen: [CAT S] [CAT, AGR 1, CAS nom], [CAT, CAS dat], [CAT, CAS acc], [CAT V, AGR 1 ] AGR 1 SUBJ 1 [ NUM sg ] [ SUBJ [ ]] NUM sg AGR 1 = SUBJ 1 [ ] [ ] AGR NUM sg [ [ ]] AGR NUM sg [ ] SUBJ = NUM sg SUBJ NUM sg SUBJ Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 18/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 19/35
Verschiedene Darstellungen von getypten Merkmalstrukturen Weitere Darstellungen von getypten Merkmalstrukturen jagt ~~> (word, head:verb, subcat:[ (head:noun, subcat:[]), (head:noun, subcat:[]) ] ). PHON jagt HEAD verb HEAD noun HEAD noun SUBCAT SUBCAT, SUBCAT syn-struc syn-struc word Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 20/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 21/35 Komplexe Kategorien in Unifikationsgrammatiken Valenz und Grammatikregeln: PSG Alle Kategorien in der Grammatik sind getypte Merkmalstrukturen. Bestimmte Merkmalstrukturen ensprechen traditionellen Kategorien. Bezeichnungen wie S oder sind nur Abkürzungen, keine Bestandteile der Theorie. HEAD noun : SUBCAT syn-struc HEAD prep HEAD verb PP: SUBCAT S: SUBCAT syn-struc syn-struc große Anzahl von Regeln: VP V schlafen VP, V lieben VP PP[über], V über X sprechen VP,, V X Y geben VP, PP[mit], V X mit Y dienen Verben müssen mit passender Regel verwendet werden Valenz ist doppelt kodiert: in Grammatikregeln und in Lexikoneinträgen Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 22/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 23/35
Valenz und Grammatikregeln: HPSG Komplemente als komplexe Kategorien in der lexikalischen Repräsentation eines Kopfes repräsentiert wie Kategorialgrammatik Verb SUBCAT schlafen < > lieben <, > sprechen < PP[über], > geben <,, > dienen < PP[mit],, > spezifische Regeln für Kopf-Komplement-Kombination: V[ SUBCAT 1 ] V[ SUBCAT < 2 > 1 ] 2 N[ SUBCAT 1 ] N[ SUBCAT < 2 > 1 ] 2 A[ SUBCAT 1 ] A[ SUBCAT < 2 > 1 ] 2 P[ SUBCAT 1 ] P[ SUBCAT < 2 > 1 ] 2 Dabei ist eine Relation, zur Verknüpfung zweier Listen: a, b = a b oder Generalisierung der Regeln spezifische Regeln für Kopf-Komplement-Kombination: V[ SUBCAT 1 ] V[ SUBCAT < 2 > 1 ] 2 N[ SUBCAT 1 ] N[ SUBCAT < 2 > 1 ] 2 A[ SUBCAT 1 ] A[ SUBCAT < 2 > 1 ] 2 P[ SUBCAT 1 ] P[ SUBCAT < 2 > 1 ] 2 generalisiertes, abstraktes Schema (H = Kopf): H[ SUBCAT 1 ] H[ SUBCAT < 2 > 1 ] 2 mögliche Instantiierungen des Schemas: N[ SUBCAT ] Det N[ SUBCAT < Det > ] V[ SUBCAT < [acc], [nom] >] V[ SUBCAT < [dat] > < [acc], [nom] > ] [dat] a, b oder a, b Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 24/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 25/35 Repräsentation der Valenz in Merkmalsbeschreibungen Repräsentation von Grammatikregeln in TRALE gibt: PHON gibt HEAD verb SUBCAT,, steht für eine komplexe Merkmalstruktur: PHON gibt HEAD verb HEAD noun, HEAD noun, HEAD noun SUBCAT SUBCAT SUBCAT SUBCAT HEAD 1 HEAD 1 [, 3... SUBCAT 2 SUBCAT 3 2 Beispiel: V V, ] Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 26/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 27/35
V[fin, SUBCAT ] C H Ein Beispiel 1 [nom] V[fin, SUBCAT 1 ] C 2 [acc] V[fin, SUBCAT 2, 1 ] C H 3 [dat] V[fin, SUBCAT 3, 2, 1 ] H Information über Töchter Tochter-Information wird in Mutterstruktur mit repräsentiert: HEAD 1 SUBCAT 2 HEAD 1 [ ] DTRS, 3... SUBCAT 3 2 Das ist für die Verarbeitung nicht nötig, wird aber zur Darstellung als Baum benötigt. er das Buch dem Mann gab Binär verzweigende Kopf-Komplement-Strukturen Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 28/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 29/35 TRALE-Schreibweise Adjunktion h_arg ## (head:head, subcat:subcat) ===> cat> (head:head, subcat:[nonheaddtr Subcat]), cat> NonheadDtr. h_arg ist ein Bezeichner, der zur Identifikation der Regel dient. Er taucht z. B. auch im Chart-Display wieder auf. Nach den ## folgt eine Beschreibung der Ergebniskategorie (linke Regelseite). Nach dem ===> folgen Paare der Form cat> Category, wobei Category eine Beschreibung eines Elements auf der rechten Regelseite ist. Adjunkt selegiert Kopf via MODIFIED (MOD) (2) ein interessantes Buch PHON interessantes HEAD MOD N adj SUBCAT Adjektive selegieren eine fast vollständige Nominalprojektion (N) Elemente, die nicht modifizieren, haben MOD-Wert Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 30/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 31/35
Kopf-Adjunkt-Struktur (Selektion) N A H AP[HEAD MOD 1 ] 1 N Schema 1 (Kopf-Adjunkt-Schema) HEAD 1 SUBCAT 2 3 HEAD 1 DTRS, HEAD MOD 3 SUBCAT 2 SUBCAT der Wert des Selektionsmerkmals des Adjunkts ( 3 ) wird mit der Kopftochter identifiziert das Adjunkt muß gesättigt sein (SUBCAT ): interessantes Adjunkt selegiert modifizierten Kopf Buch (3) a. die Wurst im Schrank b. * die Wurst im Die Valenz des gesamten Zeichens entspricht der Valenz des Kopfes ( 2 ). (4) a. weil der Hund die Katze [oft [jagt]]. (Projektion hat zwei Arumente) b. weil der Hund [oft [die Katze jagt]]. (Projektion hat ein Argument) c. weil [oft [der Hund die Katze jagt]]. (Projektion hat kein Argument) Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 32/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 33/35 Warum ist MOD ein Kopfmerkmal? Bottom-Up Chart Parsing Initialisierung der Chart: Nachschlagen aller Lexikoneinträge für die Wörter in der Eingabekette Parsen: Anwenden aller Regeln auf alle Tupel adjazenter Kanten in der Chart genauso wie Adjektive können Präpositionalphrasen modifizieren Adjunkte müssen gesättigt sein, damit sie modifizieren können Hinzufügen einer neuen Kante für jede erfolgreiche Instantiierung einer Grammatikregel. das Merkmal, das den zu modifizierenden Kopf selegiert, muß an der Maximalprojektion des Adjunkts vorhanden sein P + = PP, PP kann N modifizieren PP MOD muß im Lexikon (P) und auf phrasaler Ebene (PP) vorhanden sein Kopfmerkmal PP PP P P Mädchen mit Hüten aus Frankreich 1 2 3 4 5 6 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 34/35 Stefan Müller, Einführung in die Grammatikentwicklung, Version vom 25. Mai 2007 35/35
Literatur Borsley, Robert D. 1999. Syntactic Theory: A Unified Approach. London: Edward Arnold, zweite Auflage. Carpenter, Bob. 1992. The Logic of Typed Feature Structures. Tracts in Theoretical Computer Science, Cambridge: Cambridge University Press. Jackendoff, Ray S. 1977. X Syntax: A Study of Phrase Structure. Cambridge: Massachusetts, London: England: The MIT Press. Johnson, Mark. 1988. Attribute-Value Logic and the Theory of Grammar. CSLI Lecture Notes, Nr. 14, Stanford: CSLI Publications. King, Paul. 1994. An Expanded Logical Formalism for Head- Driven Phrase Structure Grammar. Arbeitspapiere des SFB 340 No.59, University of Tübingen. http://www.sfs.uni-tuebingen.de/ sfb/reports/berichte/59/59abs.html, 18.08.2002. Meurers, Walt Detmar, Penn, Gerald und Richter, Frank. 2002. A Web-Based Instructional Platform for Constraint-Based Grammar Formalisms and Parsing. In Dragomir Radev und Chris Brew (Hrsg.), Effective Tools and Methodologies for Teaching NLP and CL, Seiten 18 25, proceedings of the Workshop held at 40th Annual Meeting of the Association for Computational Linguistics. Philadelphia, PA. http://www.ling.ohio-state.edu/ dm/ papers/acl02.html, 08.01.2004. Müller, Stefan. 1999. Deutsche Syntax deklarativ. Head-Driven Phrase Structure Grammar für das Deutsche. Linguistische Arbeiten, Nr. 394, Tübingen: Max Niemeyer Verlag. http://www.cl. uni-bremen.de/ stefan/pub/hpsg.html, 25.05.2007. Müller, Stefan. 2004. Continuous or Discontinuous Constituents? A Comparison between Syntactic Analyses for Constituent Order and Their Processing Systems. Research on Language and Computation, Special Issue on Linguistic Theory and Grammar Implementation 2(2). http://www.cl.uni-bremen.de/ stefan/pub/ discont.html, 25.05.2007. Müller, Stefan. 2007. Head-Driven Phrase Structure Grammar: Eine Einführung. Stauffenburg Einführungen, Nr. 17, Tübingen: Stauffenburg Verlag. http://www.cl.uni-bremen.de/ stefan/pub/ hpsg-lehrbuch.html, 25.05.2007. Pollard, Carl J. und Sag, Ivan A. 1987. Information-Based Syntax and Semantics. CSLI Lecture Notes, Nr. 13, Stanford: CSLI Publications. Pollard, Carl J. und Sag, Ivan A. 1994. Head-Driven Phrase Structure Grammar. Studies in Contemporary Linguistics, Chicago, London: University of Chicago Press. Sag, Ivan A., Wasow, Thomas und Bender, Emily M. 2003. Syntactic Theory: A Formal Introduction. CSLI Lecture Notes, Nr. 152, Stanford: CSLI Publications, zweite Auflage. http://cslipublications. stanford.edu/site/1575864002.html, 05.06.2003. Saussure, Ferdinand de. 1916. Grundfragender allgemeinensprachwissenschaft. Berlin: Walter de Gruyter & Co, 2nd edition 1967. Shieber, Stuart M. 1986. An Introduction to Unification-Based Approaches to Grammar. CSLI LectureNotes, Nr. 4, Stanford: CSLI Publications.