Wortarten-Tagging (auch Part-of-Speech(PoS)-Tagging) Ein erster Schritt zur syntaktischen Annotation

Transkript

1 Wortarten-Tagging (auch Part-of-Speech(PoS)-Tagging) Ein erster Schritt zur syntaktischen Annotation

2 Übersicht Allgemeines zur Ambiguität Einführung Wortarten-Tagging Tagsets Automatisches Taggen eines Korpus

3 Ambiguität verschiedene Arten der Ambiguität (Mehrdeutigkeit) syntaktische lexikalische phonologische orthografische Mehrdeutigkeit tritt in echten Kommunikationssituationen sehr selten auf. Sprachwissenschaftliche Beispiele sind meist konstruiert.

4 Ambiguität Beispiel (1) ist ein typisches konstruiertes Beispiel. (1) Der Mann sieht den Jungen mit dem Teleskop. Beispiele (2) und (3) sind im echten Kontext sicher nicht mehrdeutig. (2) Klaus hat ein(en) Laster. (3) Klara isst im Garten.

5 Ambiguität Für Rechner gibt es kaum Strukturen, die nicht mehrdeutig sind. Grund: mangelnde Informationen über Semantik Wahrscheinlichkeit Weltwissen Kontext

6 Ambiguität (1) Diese Brause trinkt sie am Liebsten. (2) Die Mutter liebt die Tochter. (3a) Klaus hat lange Nudeln gegessen. (3b) Klaus hat lange Äpfel gegessen. Aufgrund reiner morpho-syntaktischer Informationen sind diese Sätze für Maschinen nicht disambiguierbar.

7 Motivation für Wortarten-Tagging explizite Annotierung von syntaktischen Informationen dient der maschinellen Bearbeitung z.b.: Suche in Korpora (für uns wichtig!) maschinelle Übersetzung weitere maschinelle Annotation z.b. Parsing z.b. morphologische Annotation

8 Motivation für Wortarten-Tagging Auflösung unterschiedlicher Funktion bei orthografischer Ambiguität (1) Ohne/KOUI den Applaus abzuwarten, ging der Künstler. (2) Ohne/APPR den Applaus ging der Künstler. Wortartentags disambiguieren (vereindeutigen) verschiedene Lesarten

9 Motivation für Wortarten-Tagging in einigen Fällen wird die Motivation für Wortarten-Tagging noch deutlicher Fragestellung: Welches zweier aufeinanderfolgender Adjektive im Dativ (mask./neut.) endet auf ``m? (1) in einem schönem großen Garten (2) in einem schönen großem Garten (3) in einem schönem großem Garten

10 Motivation für Wortarten-Tagging wenn nicht explizit vermerkt ist, welche Wortart ein Wort hat, kann man nur nach Buchstabenfolgen suchen Hier: ``Wort auf -en gefolgt von Wort auf em gefolgt von groß geschriebenem Wort Diese Suche unterscheidet nicht nach Wortarten Ergebnis auf folgender Folie zeigt viele nicht gewollte Resultate

11 Suchausdruck: [word="[a-z].+en"][word="[a-z].+em"][word="[a-z].+"] mit einem deutlich erhöhten gesundheitslichem Risiko. Sie seien. Für Deutschland nehmen außerdem Bundestagspräsidentin Rita Süssmuth, an. Es werden außerdem Projekte und Institutionen besucht wurde halboffiziell mit dessen mangelhaftem Französisch begründet. Ein gleichsam eine Schnittstelle zwischen reinem Klangstück und Diskurs., eine Welt zwischen enttäuschtem Sturm und Drang und zu Kunden in dessen angestammtem Versorgungsgebiet. Wirtschaftsminister Günter Nur wenige Jordanier trauen seinem Bruder und designierten Nachfolger, die Gratwanderung zwischen eigenem Umfeld und etablierten Machtstrukturen und Dorothea Schrade kommen diesem Bedürfnis nach. Seit Frauen mit seinem gewohnten nachrichtlichem Blick zu erfassen, weiter die Schere zwischen gewerkschaftlichem Forderungskatalog und Alltag in

12 Motivation für Wortarten-Tagging wenn man versucht die Treffermenge einzuschränken, indem man die Artikel aufzählt, dann findet man viele Beispiele nicht Beispiel: Suche ``Artikel gefolgt von Wort auf -en gefolgt von Wort auf -em gefolgt von groß geschriebenem Wort Ergebnis auf folgender Folie

13 [word="einem dem seinem ihrem diesem dem"][word="[a-z].+en"][word="[a-z].+em"][word="[a-z].+"] der Frauen mit seinem gewohnten nachrichtlichem Blick zu erfassen,

14 Motivation für Wortarten-Tagging Fazit zu ``weite Kriterien liefern zu viele Ergebnisse d.h. zu viele falsche Treffer zu ``enge Kriterien liefern zu wenige Ergebnisse d.h. zu viele richtige Treffer werden nicht gefunden

15 Motivation für Wortarten-Tagging Und mit Wortarten-Tags? Suchausdruck: [pos="adja" & word=".+en"][pos="adja" & word=".+em"] mit einem deutlich erhöhten gesundheitslichem Risiko. Sie Frauen mit seinem gewohnten nachrichtlichem Blick zu erfassen

16 Motivation für Wortarten-Tagging ohne Wortarten-Tags umfasst die Menge der Ergebnisse entweder alle richtigen Ergebnisse, aber auch viele falsche (Übergenerierung) nur richtige Ergebnisse, aber nicht alle richtigen (Untergenerierung)

17 Motivation für Wortarten-Tagging Übergenerierung Menge der gesuchten Strukturen Menge der Treffer

18 Motivation für Wortarten-Tagging Untergenerierung Menge der Treffer Menge der gesuchten Strukturen

19 Definition Wortarten-Tagging Wortarten-Tagging ist die Zuweisung von Wortarten-Kennungen (Tags) an Wortformen (Tokens) im Text ein Token ist eine typischerweise durch Leerzeichen abgegrenzte Buchstabenfolge im Text ein Token kommt also immer nur ``einmal vor

20 Definition Wortarten-Tagging John/NE Mack/NE trägt/vvfin seinen/pposat Spitznamen/NN "/$( das/art Messer/NN "/$( zu/appr Recht/NN./$. links Tokens rechts Tags zwei Tokens, ein Type

21 Tagsets Zuweisung der Wortarten-Tags erfolgt durch eine endliche Menge von Tags, die eine Wortart oder Unterwortart beschreiben diese Menge nennt man Tagsets Tagsets müssen Tags eindeutig definieren jedes Token definieren können Konventionen für Zweifelsfälle bereithalten

22 STTS einen Quasi-Standard beim Wortarten- Tagging stellt das STTS dar STTS = Stuttgart-Tübingen-Tagset das STTS umfasst in seiner ``kleinen Version 54 Tags das STTS wird in einer Tagset- Beschreibung (Guidelines) definiert

23 Hauptwortarten im STTS 1. Nomina (N) Hund, Katze, Maus, Peter 2. Verben (V) arbeiten, beten, sollen, sein 3. Artikel (ART) der, die, das, ein 4. Adjektive (ADJ) schön, blöd, töfte 5. Pronomina (P) er, sie, es, sich, irgendein 6. Kardinalzahlen (CARD) zwei, , III 7. Adverbien (ADV) sehr, üblicherweise 8. Konjunktionen (KO) und, oder, dass, weil 9. Adpositionen (AP) mit, ohne, an... entlang 10. Interjektionen (ITJ) oh weh, zapperlot 11. Partikeln (PTK) zu, wider, bitte

24 Kriterien für Definition von Tags Einteilung nach unterschiedlichen Kriterien distributionelle: über/appr die Straße die Straße entlang/appo morphologische: findet/vvfin, gefunden/vvpp semantische: Klaus/NE, Maus/NN Mischung der Kriterien kann zu unterschiedlichen Ergebnissen führen Einteilung ist theorieabhängig

25 Konventionen für Tagging Konventionen halten Vorgehen für strittige Fälle fest Sie müssen eindeutig sein intersubjektiv sein möglichst vollständig sein

26 Beispiele für Konventionen einige Wörter tragen Merkmale verschiedener Wortarten ins sich Konventionen legen eindeutige Annotierung fest (1) eine gute/adja Idee (2) Das ist das Gute/NN daran. (3) der angemalte/adja Zaun (4) Man hat den Zaun angemalt/vvpp.

27 Umsetzung der Konventionen Die korrekte händische Annotation eines Korpus erfordert die Einhaltung der Konventionen und folgender Regeln: Korpus wird zunächst unabhängig von zwei verschiedenen Annotatoren annotiert Ergebnisse werden gegeneinander abgeglichen und Inter Annotator Agreement gemessen (d.i. die Übereistimmung zwischen den Entscheidungen der unterschiedlichen Annotatoren) erst bei hinreichender Übereinstimmung wird nur noch von einem Linguisten annotiert

28

29 Anwendbarkeit Für ein Tagset müssen immer die Argumente des linguistisch Wünschenswerten gegen die des technisch Machbaren abgewogen werden. hohes Inter Annotator Agreement muss erreichbar sein Einteilung der Klassen muss automatische Annotation mit niedriger Fehlerrate ermöglichen, d.h. Klassen müssen auch automatisch klar gegeneinander abgrenzbar sein Klassen dürfen nicht zu selten auftreten, da sonst zu geringe Trainingsdatenmenge für automatisches Lernen

30 Beispiel für Kompromiss Ein Standardbeispiel für einen Kompromiss ist das Tag ADJD im Standard-Tagset STTS. Wörter, die sowohl als prädikatives Adjektiv als auch als Adverb fungieren können, werden ADJD getaggt - losgelöst von ihrer jeweiligen Verwendung. (1) Maria singt schön/adjd. --> adverbial (2) Maria ist schön/adjd. --> prädikativ Eine Aufteilung der beiden Lesarten wäre sowohl mit stochastischen als auch mit regelbasierten Verfahren nicht möglich.

31 Automatisches Tagging Es gibt zwei Arten des automatischen Taggings: regelbasiertes Tagging benötigt (handgeschriebene) Grammatik stochastisches Tagging benötigt (handannotiertes) Trainings-Korpus

32 Regelbasiertes Tagging typischerweise zwei Ebenen für regelbasierte Tagger Lexikon-Nachschlag weist Ambiguitätsklasse zu Grammatik-Regeln disambiguieren Eine Ambiguitätsklasse ist die Menge aller Tags, die ein Wort losgelöst vom Kontext haben kann.

33 Regelbasiertes Tagging Die/ART-PRELS-PDS Hose/NN sitzt/vvfin schlecht/adjd./$. ``Constraints schränken die Lesarten ein, z.b.: kein Relativpronomen am Satzanfang kein (substituierendes) Demonstrativpronomen vor Nomen

34 Regelbasiertes Tagging Probleme regelbasierten Taggings: Lexikon ist nie vollständig es gibt kaum echte Constraints Interaktion der Regeln schlecht überschaubar Selten/ADJD trinkt/vvfin die/art-prels- PDS Milch/NN.

35 Stochastisches Tagging benötigt nur getaggtes Korpus als Trainingsdaten berechnet Übergangswahrscheinlichkeiten weist wahrscheinlichstes Tag zu kann auch Rangfolge zuweisen

36 Stochastisches Tagging zwei Arten von Wahrscheinlichkeiten 1. Wahrscheinlichkeit für Tag in Bezug auf vorausgehende(s) Tag(s) (distributionell) 2. Wahrscheinlichkeit für Wort in Bezug auf Tag (lexikalisch) P (Tag vorhergehende(s) Tag(s)) * (Wort Tag)

37 Stochastisches Tagging (1) Ich/PPER bügle/vvfin meine/pposat-vvfin Hose/NN./\$. (2) Ich/PPER meine/pposat-vvfin,\$. das/pds ist/vafin falsch/adjd.\$. Es wird die Wahrscheinlichkeit, dass VVFIN oder PPOSAT `meine' ist, multipliziert mit der Wahrscheinlichkeit, dass VVFIN oder PPOSAT entweder VVFIN (1) oder PPER (2) folgen. Höhere lexikalische Wahrscheinlichkeit von `meine' für PPOSAT wird in (2) durch höhere distributionelle Wahrscheinlichkeit von VVFIN nach PPER ausgeglichen.

38 Probleme stochastischen Taggings Wahrscheinlichkeit bedeutet nicht unbedingt Sicherheit Tagger sehr abhängig von Trainingskorpus Entscheidungen typischerweise auf engen Kontext begrenzt Entscheidungen des Taggers nicht nachvollziehbar

39 Wortarten-Tagging Besondere Relevanz für Korpuslinguistik Korpora meist nicht hand-annotiert daher können Tags fehlerhaft sein dies muss in Interpretation der Suchergebnisse berücksichtigt werden