Wissensbasierte Sprachverarbeitung Inhalt der Vorlesung 0. Einleitung

Transkript

1 Wissensbasierte Sprachverarbeitung Inhalt der Vorlesung 0. Einleitung i) Worum geht es? ii) Aufgaben und Anwendungen iii) Mehrdeutigkeit - Das Kernproblem iv) linguistische Grundlagen I. Der synthetische Ansatz: Muster Antwort II. Der analytische Ansatz: Regelbasierte Methoden 1. Sprachen und (formale) Grammatiken i) Grammatiken und Produktionsregeln ii) Chomsky-Hierarchie - Komplexität vs. Expressivität iii) Äquivalenz von Sprachen und Grammatiken iv) Grammatiken und Automaten v) Das Lexikon 2. Syntax - Ein Crashkurs i) Wörter, Kategorien, Phrasen und Sätze ii) CF vs. CS und die Grenze zwischen Syntax und Semantik iii) Tree Adjoining Grammar 3. Parsing i) Parsing als Suche ii) Datenstrukturen: Bäume, Charts und Packed shared forests. iii) Strategien des Parsing iv) Methoden des Parsing: Earley-Parser, GLR Parser, RTN Grammar v) Reguläres Parsing (Shallow Parsing) 4. Morphologische Verarbeitung i) Morphologie - Ein Crashkurs ii) Verarbeitung durch Automaten iii) Zwei-Ebenen Morphologie III. Der statistische Ansatz: Korpusbasierte Methoden i) Grundlagen statistischer Methoden ii) Part-of-speech Tagging iii) Probabilistisches Parsing 5. Generierung und Sprachsynthese

2 Sprachtechnologie Beschäftigt sich mit der automatischen Verarbeitung (Analyse und Produktion) und Bearbeitung gesprochener und geschriebener natürlicher Sprache in einer Art und Weise, die Wissen über die Funktion von Sprache, bzw. bestimmter ihrer Teilbereiche, voraussetzt. Nicht jede Bearbeitung von Text oder gesprochener Sprache beinhaltet also Sprachtechnologie. Ein einfacher Texteditor etwa kann durchaus ohne Sprachtechnologie auskommen. Ein Feld viele Bezeichnungen: Computational Linguistics (Computerlinguistik) Human Language Technology Language Engineering Language Technology (Sprachtechnologie) Natural Language Processing Natural Language Understanding Sprachtechnologie - Ein interdisziplinäres Fachgebiet: Analyse Nachrichtentechnik Signalverarbeitung SPRACHERKENNUNG Informatik Künstliche Intelligenz Formale Sprachen PARSING gesprochene Sprache geschriebene SPRACHSYNTHESE Linguistik theoretische Linguistik Psycholinguistik GENERIERUNG Philosophie Logik Epistemologie Synthese

3 Anwendungsgebiete Textbearbeitende Systeme Automatische Worttrennung Automatische Schreibfehlerkorrektur Grammatik- und Stilüberprüfung (controlled languages) Stemming bzw. Lemmatisierung OCR (Optical Character Recognition) Textanalysierende Systeme Textkategorisierung Informationsextraktion Textproduzierende Systeme Erzeugen von Texten aus Wissensbasen Textanalysierende und produzierende Systeme Automatisches Abstrahieren und Zusammenfassen Maschinelle und maschinenunterstützte Übersetzung Sprachbearbeitung Sprecherverifikation Sprecheridentifikation Spracherkennende Systeme Diktiersysteme (Speech Writer) Sprachsteuerung (von Computersystemen) Sprachproduzierende Systeme Vorlesesysteme Concept-to-Speech Dialogsysteme (geschrieben und gesprochen) Beratungs- und Auskunftssysteme Schnittstellen zu Computersystemen Augmented und virtual reality

4 Ambiguität in der natürlichen Sprache Von Wörtern z.b. Mutter Die Mutter hält ihr Kind. Er schraubt die Mutter fest. z.b. annehmen Er nimmt das Geschenk gerne an. Er nimmt an, dass er gewinnen wird. Von Wortformen z.b. meinen Ich repariere meinen Computer. Er versteht nicht, was wir meinen. z.b. sieben Sie erzählt das Märchen von den sieben Zwergen. Man muss das Mehl sieben. z.b. ihr Er gibt ihr Geld. Er gibt ihr Geld aus. der Referenz anaphorischer Ausdrücke. z.b. Der Mann hebt den Tisch auf den Lastwagen. Er sieht müde aus. Er ist sehr schwer. Er ist schon fast voll. der Struktur von Sätzen z.b. Das Kind fällt das Raubtier an. z.b. Ich lese ein Buch mit 250 Seiten. vs. Ich lese ein Buch mit großem Interesse. z.b. The chicken are ready to eat. dem Skopus von Äußerungen z.b. Maria ist auch Schauspielerin. Als Antwort auf: a) Anna ist Schauspielerin. b) Maria ist Tänzerin.

5 von Sprechakten z.b. Wissen Sie, wie spät es ist? Antwort: a) Es ist zehn vor elf. b) Ja, aber ich konnte nicht früher kommen. Ein Beispiel struktureller/semantischer Ambiguität 4 Lesarten des Satzes I saw the man on the hill with the telescope. Die Mehrdeutigkeiten ergeben sich: aus den beiden Lesarten Fernrohr und Sternwarte für telescope und aus den unterschiedlichen Anbindungen der Phrasen on the hill und with the telescope.

6 Linguistische Beschreibungsebenen Phonetik beschäftigt sich mit den konkreten akustischen Eigenschaften von Sprache untersucht Sprache auf einer akustischen, analogen Ebene Sprache als dreidimensionales (Zeit, Frequenz, Intensität) analoges Signal Beschreibung und Klassifikation von Lauten segmentale Einheit ist das Phon (der Laut) suprasegmentale Eigenschaften sind Intonation, Lautheit, Quantität, etc. Phonologie beschäftigt sich mit der lautlichen Struktur sprachlicher Äußerungen abstrakt, symbolisch Beschreibung des Lautsystems von Sprachen Sprache als eine Abfolge distinkter, abstrakter Elemente die kleinste bedeutungsunterscheidende Einheit ist das Phonem Phonem wird realisiert durch ein Phon, bzw. mehrere alternative (Allo)phone Morphologie beschäftigt sich mit der Struktur und Bildung von Wörtern kleinste bedeutungstragende Einheit ist das Morphem: sagst = sagen + 2.Person Singular Morpheme werden als Morphe realisiert: sagst = sag + st Morphologische Ebenen: Morphophonologie: rase - rast vs. sage - sagst Morphotaktik: wie können Morphe kombiniert werden Morphosyntax: Kodierung syntaktischer Information Morphologische Prozesse: Flexion: sage, sagst, sagt, sagen,... Derivation: machen, machbar, Machbarkeit,... Komposition: Rotwein, Rotweinglas,...

7 Syntax beschäftigt sich mit der Struktur sprachlicher Äußerungen Grammatikalitätsbedingungen beschrieben durch (formale) Grammatik die syntaktische Struktur eines bestimmten Satzes wird oft durch einen Satzbaum beschrieben. Semantik beschäftigt sich mit der Bedeutung (dem Sinn) sprachlicher Einheiten (Wörter, Phrasen, Sätze) unabhängig von Intention und Kontext. Ein wesentliches Kriterium ist die Kompositionalität, d.h. die Bedeutung einer Einheit ergibt sich aus der Kombination der Bedeutung ihrer Subeinheiten. Wörter - lexikalische Semantik Sätze - Satzsemantik Textsemantik Pragmatik beschäftigt sich mit dem Gebrauch sprachlicher Äußerungen (Bedeutung im Kontext) stellt Beziehung zwischen dem Sinn und der Referenz her stellt die Verbindung her zwischen Sprache als abstraktem Symbolmanipulationssystem und als Kommunikations- und Informationsmedium

8

9 Paradigmatische und syntagmatische Relationen Jede sprachliche Einheit nimmt eine bestimmte Position in einer Kette ein. Damit steht sie im Schnittpunkt zweier Relationen: in paradigmatischer zu allen anderen sprachlichen Einheiten, die an dieser Position stehen können, in syntagmatischer zu den vorher und nachher in der Kette stehenden. Methoden strukturaler Analyse Substitution (Ersatzprobe) zum Testen paradigmatischer Relationen B1. a. Hans begleitet Maria zu dem Vortrag. b. Hans begleitet Maria dorthin. c. Hans begleitet Maria.

10 Es ist wichtig, darauf zu achten, dass der Kontext konstant bleibt: B2. a. viele teure Autos b. alle teuren Autos B3. a. Ich weiß mein Bekannter war dabei. b. Ich selbst war dabei. Permutation (Verschiebeprobe) zum Testen syntagmatischer Relationen B4. a. Hans begleitet Maria zu dem Vortrag. b. Hans begleitet zu dem Vortrag Maria. c. Maria begleitet Hans zu dem Vortrag. d. Maria begleitet zu dem Vortrag Hans. e. Zu dem Vortrag begleitet Hans Maria. f. Zu dem Vortrag begleitet Maria Hans.

11 Wortarten (-klassen) Kategorie Abk. Beispiele Nomen N Sessel, Kranker o Eigennname PN Hans, IBM, Österreich Adjektiv A(dj) krank, groß Artikel Art der, ein Numeral Num zehn, zehnter, zehntel Pronomen Pron o Personalpronmen Pers ich, wir, sie o Possessivpronemen Poss mein, dein o Indefinitpronomen Indef irgendein o Fragepronomen Interrog wer, was, wie o Relativpronomen Rel der, welcher Verb V fragen, trompeten o Modalverb Mod wollen, müssen, lassen o Auxiliar Aux haben, sein, werden o Kopula sein werden Adverb Adv unten, heute, Präposition P(räp) an, bei, entlang Konjunktion Konj und, oder, weil, obwohl Partikel wohl, nicht, jedenfalls Interjektion bitteschön, plumps Diese Einteilung stützt sich sowohl auf morphologische als auch auf syntaktische Eigenschaften, wodurch sie in beiden Ebenen problematisch ist. Eine rein morphologische Klassifikation erfolgt nach der Art der Flexion, also nach dem Paradigma eines Wortes, das sind die Wortformen, die zu einem Wort gehören. Danach können wir 4 große Gruppen unterscheiden: Substantivisch flektierend Adjektivisch flektierend Verbal flektierend Nicht flektierend = Partikel Die syntaktische Klassifikation ergibt sich aus der Distribution der Wörter. Wenn wir allerdings nach der tatsächlichen Distribution der Wörter gehen, erhalten wir eine

12 wesentlich feinere Klassifikation als die obige. Betrachten wir folgende Menge an Wörtern der Klasse Nomina: {Getränk, Bier, Fanta, Gebräu} Sätze, in denen diese Wörter auftreten: Hans bestellt Bier. Hans trinkt das Gebräu ungern. Daraus ergeben sich folgende zwei Muster: a) PN Verb_3.P.Sg.präs _. b) PN Verb_3.P.Sg.präs das _ Adv. In a) lässt sich {Bier, Fanta} einsetzen, in b) {Getränk, Bier, Fanta, Gebräu}. Wir erhalten also 2 unterschiedliche Distributionsklassen.

13 Konstitutentenstruktur Analyse eines Satzes in seine unmittelbaren Konstituenten: Klammerdarstellung: Ludwig fährt den Wagen in die Garage Ludwig fährt den Wagen in die Garage Ludwig fährt den Wagen in die Garage Ludwig fährt den Wagen in die Garage Ludwig fährt den Wagen in die Garage [ [Ludwig] [ [ [fährt] [ [den] [Wagen] ] ] [ [in] [ [die] [Garage] ] ] ] ] Baumdarstellung: Ludwig fährt den Wagen in die Garage Die Gruppierung der Syntagmen zu Sätzen ist ein Vorgang, der in strukturierter Weise durch Regeln angegeben werden kann, die, von den Wortkategorien ausgehend, immer größerer Konstituenten zusammenfassen. S NP Nom VP NP Art N NP PN PP Präp NP VP V NP VP VP PP

14 Durch Anwendung dieser Regeln erhalten wir dann auch unseren Satz in annotierter Baumdarstellung: NP Nom S VP NP VP NP PN V Art N P Art N Ludwig fährt den Wagen in die Garage Man nennt diese Art der Darstellung auch Phrasenstruktur.

15 Dependenzstruktur Eine alternative Beschreibung der Struktur von sprachlichen Äußerungen stützt sich auf den Begriff de Dependenz (Abhängigkeit). Eine Dependenzrelation besteht dann, wenn zwei Elemente eines Syntagmas in dem Sinne ungleichberechtigt sind, dass nur eines von ihnen die Kategorie bestimmt. Dieses letztere Element ist der sogenannte strukturelle Kopf (head) des Syntagmas, alle anderen sind Dependenten. Ludwig fahrt den Wagen in die Garage Alternativ kann man die dependenzstruktur auch als Baum mit gerichteten Kanten darstellen: fährt Ludwig Wagen in den Garage die Bei den Dependenten muss man zwischen notwendigen Ergänzungen, den sogenannten Aktanten, und freien Angaben, den Zirkumstanten, unterscheiden.

16 Valenz Unter den Dependenten eines Wortes unterscheidet man zwischen (obligaten) Ergänzungen und (freien) Angaben. Ergänzungen (oder Komplemente) zeichnen sich also dadurch aus, dass sie durch den Kopf des Syntagmas bestimmt werden. Dies bezeichnet man als die Valenz eines Wortes. Die Valenzen definieren bestimmte syntaktische (und semantische) Funktionen. Am wichtigsten ist der Begriff der Valenz bei Verben. Die wichtigsten syntaktischen Funktionen, die durch die Valenzen von Verben bestimmt werden, sind Subjekt, direktes Objekt (Akkusativobjekt) und indirektes Objekt. Auch Nomina und Adjektive (insbesondere von Verben abgeleitete) können Valenzen haben, z.b. auf jemanden stolz, der von seiner Krankheit Geheilte. Verben kann man nach der Anzahl ihrer Ergänzungen einteilen: 0 - hageln, schneien, regnen Es regnet 1 Subj schlafen, schnarchen Peter schläft 2 Subj, DObj essen, kochen, sehen Peter isst Brot Subj, IObj helfen, gedenken Peter hilft dem Freund Subj, PObj warten Peter wartet auf ihn 3 Subj, DObj, IObj geben, nennen, lehren Peter gibt ihm Geld Subj, DObj, PObj erinnern Peter erinnert ihn an Hans 4 Subj, DObj, IObj, PObj vergelten Peter vergilt ihm seine Hilfe mit Dankbarkeit Eine besondere Stellung nehmen dabei die sogenannten transitiven Verben ein, das sind solche, die unter ihren Valenzen ein direktes Objekt haben. Alle transitiven Verben sind in der Form passivierbar, dass das direkte Objekt zum Subjekt des Passivsatzes wird.