Seminar: Graph-based Methods for NLP

Transkript

1 Seminar: Graph-based Methods for NLP Use graphs to model various problems from Natural Language and Knowledge Processing such as word sense disambiguation, opinion mining, topic detection, text summarization, and many more... Solve fundamental problems using graph-based approaches such as optimal trees, paths, flows, and subgraphs, graph clustering, network propagation, and many more...

2 Warum Natural Language Processing? Mo5va5on Alle fünf Jahre verzehnfacht sich die Menge digitaler Informa4on, insbesondere in Form von Textdokumenten. 1 Ein wachsender Anteil von Erwerbstä4gen ist in ihrer Arbeit mit intensiver Recherche und Präsenta4on des Ergebnisses befasst: Suche, Kategorisierung, Priorisierung, Strukturierung, Zusammenfassung und AuAereitung von Informa4on, häufig unter strengen Zeitvorgaben, bes4mmen den Arbeitsalltag. Dies gilt ebenfalls für die Generierung von Dokumenten. 1 Gantz et al.: The Diverse and Exploding Digital Universe, IDC White Paper, Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 2

3 Szenario 1: Erstellung von Tischvorlagen Ausgangssitua4on: unstrukturierte Dokumente im Intranet Ergebnis: Tischvorlage, Präsenta4on Informa4on recherchieren, extrahieren, strukturieren +? Ziel: (Semi- )Automa4sche Unterstützung bei der Recherche, AuAereitung und Strukturierung von Informa4on Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 3

4 Szenario 2: Kollabora5ve Generierung von Dokumenten Dokumentsammlung zu Beginn? Ich kann nichts finden!? Suchen und Hinzufügen ist einfach, flexibel und offen Mitarbeiter fügen viel Informa4on hinzu? Wo soll das hin? Insbesondere beim kollabora4ven Arbeiten treten Schwierigkeiten auf, da eine einheitliche Strukturierung schwierig ist, Redundanzen unvermeidbar sind, Querverweise nicht eingepflegt werden, etc. Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 4

5 Verschiedene Benutzerinterak5onen Inhalte hinzufügen Duplikate erkennen geeignete Einfügeposi4onen finden Inhalte organisieren Querverweise innerhalb von Dokumentensammlungen einfügen Segmen4erung / Überschri\en vorschlagen Auffinden von Schlüsselwörtern (tags, ) Inhalte finden Seman4sche Suche (Was exis4ert bereits zu einem Thema?) Verwandte Seiten anzeigen Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 5

6 Ziel Informa5on soll handhabbar bleiben, übersichtlich und gut strukturiert sein bzw. effizient extrahierbar sein Vehikel: Werkzeuge (z.b. DKPro) zur Organisa4on und Strukturierung micels Techniken der automa&schen Sprachverarbeitung (NLP), die behilflich sind bei der Segmen4erung von Texten Hervorhebung von Schlüsselphrasen Generierung von Überschri\en und Inhaltsverzeichnissen Erzeugung von Querverweisen (interne und externe Links) Kurzzusammenfassung von Textpassagen Vereinfachung von Texten / Enfernung von Redundanzen / Duplikaten Unterstützung beim Suchen und Schreiben von Texten (Was exis4ert bereits? Wo?) Erstellung von Concept Maps Anreicherung mit geeignetem Bildmaterial... Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 6

7 What is Ipanema? Segmen5erung Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 7

8 What is Ipanema? ÜberschriUen Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 8

9 What is Ipanema? Inhaltsverzeichnisse Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 9

10 What is Ipanema? Zusammenfassung Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 10

11 What is Ipanema? Querverweise Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 11

12 Word Sense Disambigua5on (WSD) / Induc5on (WSI) Polysemy: Mehrdeu4gkeit von Wörtern Bsp: Der Maskierte sitzt auf der Bank und zählt seine Kohle. Word Sense Disambigua5on (WSD): Automa4sche Erkennung der korrekten Bedeutung eines Wortes im Kontext Word Sense Induc5on (WSI): Automa4sche Iden4fizierung der möglichen Bedeutungen eines Wortes

13 Named En55es Named En55es: Wörter oder kurze Phrasen, die Namen von Personen, Organisa&onen, Orte, Einheiten, Quan&täten, etc. bezeichnen Named En55y Recogni5on (NER): Auffinden von Named En44es in Text Named En55y Disambigua5on (NED): Disambiguierung von Named En44es, z.b. Europäische Gemeinscha\, Chris4an Meyer,...

14 Opinion Mining / Sen5ment Analysis Semantic Orientation: Polarität und ihre Intensität von Wörtern, Phrasen oder gar Texten Bsp: das ist nicht / ganz / sehr gut, Blödsinn, fantas4sch,... Subjectivity, Sentiment Analysis, oder auch Opinion Mining beschäftigt sich mit: Der Analyse der seman4schen Orien4erung von Text Analyse der Intensität dieser seman4schen Orien4erung (valence shi\ers) Feststellung der Meinungsträger

15 Text / Seman5c Similarity Seman5c Similarity: von zwei Aussagen / Abschnicen / Dokumenten beschä\igt sich mit der Frage, wie ähnlich zwei Texte sich sind in Bezug auf ihren Sinngehalt sind. Seman5c Relatedness: enthält auch Antonymie und Meronymie

16 Ques5on Answering (QA) Ques5on Answering: automa4sche Beantwortung von Fragen in natürlicher Sprache Beispiel: Q: Wann wurde die Bundesrepublik Deutschland gegründet? A: 1949.

17 Network Analysis in Social Media Analyse von Kollabora5onsmustern im Web 2.0 Analyse von Ko- Autoren- Netzwerken Analyse von Meinungen in Netzwerken wie Epinions oder Slashdot

18 Sense Alignment Kombina4on von lexikalisch- seman4schen Ressourcen, um eine bessere Überdeckung bzw. Qualität der kombinierten Ressource zu bekommen, z.b. WordNet + Wikipedia à Iden4sche Konzepte bzw. Bedeutungen sollen automa4siert miteinander verknüp\ werden.

19 Graph G=(V,E) Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 19

20 Warum Graphen? Graphen ermöglichen eine übersichtliche Darstellung komplexer Sachverhalte Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 20

21 Graphenalgorithmen Auf Graphen existieren effiziente Algorithmen: Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 21

22 Graphen bieten vielfäl5ge Möglichkeiten Lokale (Nachbarscha\en) vs. globale Eigenscha\en Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 22

23 Graphbasierte Methoden für NLP Unterschiedliche Sichten Anwendungen im NLP 1.Named Entities 2.Opinion Mining / Sentiment Analysis 3.Word Sense Disambiguation (WSD) 4.Text Similarity 5.Question Answering (QA) 6.Word Sense Induction (WSI) 7.Network Analysis in Social Media 8.Sense Alignment Modellierung graphbasierte Methoden Neighborhoods Matching & Assignment Graph Clustering (Dense) Subgraph Elimination Random Walks Graph Centrality Measures Motif Analysis Label Propagation Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 23

24 Ziele eines Vortrags Allgemeinverständliche Darstellung der im Aufsatz beschriebenen Thematik (Richtlinien siehe Website), insbesondere: eine Einführung in die Anwendung und die zugrunde liegende Problemstellung eine kurze Beschreibung allgemeiner Lösungsansätze eine ausführliche Beschreibung und Diskussion des im Aufsatz beschriebenen graphbasierten Verfahrens unter den Fragestellungen Welchen Vorteil bringt der Einsatz von Graphen hier? Gibt es Schwächen des Verfahrens? Welche? Gibt es alternative Ansätze? Welche? Kritik gehört dazu! Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 24

25 Organisatorisches 2 einführende Vorträge am 19. und von Chris Biemann und Wolfgang Stille ab dem 3.5. Vorträge der Seminarteilnehmer Vorstellung von 1-2 Papieren (ca. 10 Seiten zzgl. weiterführender Literatur und Grundlagen) ca Minuten Vortrag Minuten Fragen und Diskussion schriftliche Ausarbeitung (ca Seiten) bis Semesterende Fahrplan für das Semester wird in den nächsten Tagen bekannt gegeben Alle Informationen auf der Website Sprechstunde Wolfgang Stille: Donnerstag Uhr in B113 Seminar Graph-based Methods for NLP SoSe 2012 Wolfgang Stille UKP Lab TU Darmstadt 25