Angewandtes Text Mining

Transkript

1 Angewandtes Text Mining Seminar Sommersemester 2013 Philippe Thomas, Lars Döhling, Tim Rocktäschel

2 Voraussetzungen für Teilnahme Ggf. Vordiplom Englische Originalveröffentlichungen lesen Kenntnisse in Maschinellem Lernen / Statistik Z.B: durch Mitchell, Machine Learning Interesse an Text Mining

3 Ablauf Heute: Themenvorstellung und Themenvergabe Besprechung der Themen mit Betreuer bis zum Flash-Präsentation aller Themen am Pro Thema 2-5 Folien um was geht s? Besprechung des Vortrags bis zum Anfang Juni Folienbesprechung bis 19.6 Blockseminar: Ende Juni (Mi 26.6?, Fr??) Ca. 30 Minuten pro Thema Anwesenheitspflicht Jedes Thema hat einen Opponenten Seminararbeiten: Abgabe bis spätestens Frühzeitig Termine machen

4 Was Sie alles tun müssen Diverse Veröffentlichungen lesen Mehrmals den Betreuer treffen Flash-Präsentation halten (3-5 Folien) Vortrag halten (ca. 30 Minuten) Opponent zu einem Vortrag sein Arbeit schreiben (10-15 Seiten)

5 Fragen Fragen? Diplominformatiker? Bachelor? Wirtschaftsinformatik? Semester? Maschinelles Lernen oder Text Mining? Besondere Gründe?

6 Ablauf heute Grundlagen und Einführung Themenvorstellung Themenvergabe Hinweise zu Seminararbeit und -vortrag

7 Text Mining Analog zu Data Mining : Wissensendeckung in schwach- oder unstrukturierten Texten Typische Einsatzgebiete Einordnen von Texten (Klassifikation) Finden von ähnlichen Texten (Clustering) Meinungsanalyse Finden von relevanten Texten (Information Retrieval) Informationsextraktion

8 Text Mining Werkzeuge & Verfahren (Ausz.) Statistische Verteilungen von textuellen Merkmalen Häufigkeiten Kookurrenzen Wörterbücher Sprachverarbeitung Stemming, Lemmatisierung Wortart-Tagging (POS) Syntaktisches Parsieren (Konstituenten, Dependenzen) Maschinelles Lernen Naïve Bayes Hidden-Markov-Modell Support-Vektor-Maschine

9 Ziele des Seminars Wecken des Interesses an Text Mining Kritische Auseinadersetzung mit einem selbstgewählten Thema in Form eines Vortrags, einer Diskussion und einer Ausarbeitung.

10 Hay Fever Observation (Topic 1, LD) Erstellen einer Heuschnupfenkarte aus Tweets Finden von relevanten Tweets (IR) Klassifikation von Tweets per Boosting-basiertem Klassifikator Lokalisierung per Wörterbuch Korrelation zu echten Sensoren

11 Travel recommendation (Topic 2) Bestimmen von Reiseempfehlungen anhand der eigenen Vorlieben Flickr liefert die Geodaten, um ähnliche Nutzer zu finden Ähnlichkeit über Convolution Kernel In einer für mich fremden Stadt werden mir deren besuchte Orte empfohlen Analog für gegebene Orte (Wormholes)

12 Sarcasm/Irony Detection (Topic 3, PT) It s sooooo easy ;-) #irony Gesichtsausdruck, Sprachbetonung, Pausen, etc. In Text: Emoticons, Anzahl der Satzzeichen!!!!!, Hochkomma, etc. Fragen: Warum ist es schwierig? Was sind Lösungsansätze und wie unterscheiden sie sich? Wie gut gut funktionieren diese Ansätze?

13 Automatic Domain Adaptation (Topic 5, PT) In NLP werden Systeme fast immer auf nur einer Domäne evaluiert Z.b.: Parser auf WSJ lernen und testen Häufige Lösung: Man trainiert Parser für jede Domäne Problem: Unbekannter Text Welcher Parser soll verwendet werden? Fragen: Was ist Parsing und wo liegt das DA Problem? Wie wird DA Problem gelöst und evaluiert?

14 Distant Supervision (Topic 6, PT) Machine Learning Methoden benötigen Trainingsdaten Annotation ist zeitaufwendig, mühsam und teuer Distant Supervision ist ein Trick um schnell große Trainingsdatensätze aus Wissensdatenbanken (wie Wikipedia) zu erzeugen Hier am Beispiel der Relationsextraktion gezeigt Erkennung von 5000 verschiedenen Beziehungen Fragen: VT/NT von distant supervision? Funktioniert es immer? Warum/Wo nicht?

15 Rapid Pattern Mining (Topic 7, PT) Named Entity Recognition von Mutationen Basiert auf ~760 regulären Ausdrücken Pattern werden für gewöhnlich von Hand definiert Hier werden Pattern automatisch generiert und von Hand validiert

16 Relationship Extraction (Topic 17, PT) Maschine Learning für binäre Relationsextraktion Methode arbeitet auf Wort, POS, und Dependency Parses Kernel basierte Beschreibung Feature basierte Implementierung Fragen: Alternative einfachere Methoden? Unterschied Kernel basiert Feature-basiert Was für Features werden verwendet und wie? Fokus auf dieser Methode Ev. Vergleich zu RelEx

17 Sentence Simplification for RE (Topic 9, PT) RE mittels Support Vector Machine N-ary neded relationship extraction Featureset orientiert sich stark an Topic 9 Re hat Probleme mit linguistischen Phänomenen Satzvereinfachung / Satzkomprimierung Fragen: Welche Vergleichsarbeiten gibt es? Funktioniert Satzvereinfachung immer?

18 RE using Graphmatching (Topic 10, PT) Relationsextraction basierend auf Graphmatching Binäre RE Dependency Graph Fragen: Subgraph Isomorphie Problem Vergleichsarbeiten? (Ev. RelEx?) Anwendungen

19 RE using multiple Corpora (Topic 11, PT) Verwendet: Support Vector Machine mit großem Featureset für RE Eine der Besten Methoden für RE Für viele Domänen existieren mehrere Corpora Annotiert von verschiedenen Gruppen Eventuell unterschiedliche Eigenschaften der Dokumente Obwohl die selbe Domäne sind die meisten Modelle nicht auf andere Corpora anwendbar Corpus-Weighting ist eine Methode um Information von verschiedenen Corpora einfließen zu lassen

20 Corpus Linguistik (Topic 14, PT) Voynich-Manuskript wurde im 15 Jh. geschrieben Unbekannte Schrift und Sprache Inhalt bis heute nicht entschlüsselt (Oder Fake?) Analyse anhand von Methoden aus der Corpus-Linguistik + HMM 2es Paper über den Vergleich von Volltexten mit Abstracts

21 Effectiveness of large Data (Topic 15, PT) Machine Learning benötigt Trainingsdaten Annahme: Je mehr desto besser Annotierte Trainingsdaten wachsen aber nur langsam Große Textmengen sind durch das Web verfügbar Google 5-gram Corpus Wörter Benutzung des N-gram Corpus zur Verbesserung Evaluation auf verschiedenen Domänen

22 Political forcasting with Twitter (Topic 16, PT) Trendvorhersage von Präsidenten-Befürwortung anhand von Twitter Distant supervision (Vgl. Topic 6) für Topic und Sentiment Vergleich von Befürwortung mit Gallup

23 Allgemeine Hinweise Dozenten sind ansprechbar! Vorbesprechung des Themas Folien durchgehen Abgrenzung der Ausarbeitung Diskussion erwünscht Keine Angst vor Fragen: Fragen sind keine Kritik Eine Frage nicht beantworten können ist in Ordnung Tiefe, nicht Breite Lieber das Thema einengen und dafür Details erklären Bezug nehmen Vergleich zu anderen Arbeiten (im Seminar)

24 Allgemeine Hinweise Werten und bewerten Keine Angst vor nicht ganz zutreffenden Aussagen solange gute Gründe vorhanden sind Begründen und argumentieren Kritikloses Abschreiben ist fehl am Platz Literaturrecherche ist notwendig Die ausgegebenen Arbeiten sind Anker Weiterführende Arbeiten müssen herangezogen werden Auch Grundlagen nachlesen Betreuer ansprechen Wir schicken eine Liste zum Abhaken rum

25 Wie halte ich einen Seminarvortrag 1. Wenn man nun so einen Seminarvortrag halten muss, dann empfiehlt es sich, möglichst lange Sätze auf die Folien zu schreiben, damit die Zuhörer nach dem Vortrag aus den Folienkopien noch wissen, was man eigentlich gesagt hat. 2. Während so einem Vortrag schaut sowieso jeder zum Projektor, also kann man das selbst ruhig auch tun - damit kontrolliert man gleichzeitig auch, ob der Beamer wirklich alles projeziert, was auf dem Laptop zu sehen ist. Ausserdem kann man so den Strom für das Laptop-Display sparen. 3. Übersichtsfolien am Anfang sind langweilig, enthalten keinen Inhalt und nehmen den Zuhörern die ganze Spannung. Schliesslich gibt s im Kino am Anfang auch keine Inhaltsangabe. 4. Powerpoint kann viele lustige Effekte, hat tolle Designs und Animationen. Die sollte man zur Auflockerung des Vortrags unbedingt alle benutzen, um zu zeigen, wie gut man das Tool im Griff hat. 5. Nicht zu wenig auf die Folien schreiben. Man weiß ja nie, ob man sie nicht doch ausdrucken muss, und man kann so wertvolle Zeit sparen, wenn man nicht weiterschalten muss. 6. Man sollte versuchen, möglichst lange zu reden. Die Zeitvorgaben sind nur für die Leute, die nicht genug wissen - eigentlich will der Prüfer sehen, dass man sich auch darüber hinaus mit dem Thema beschäftigt hat. Bloß keine Hervorhebungen im Text sonst müssen die Zuhörer ja gar nicht mehr aufpassen!

26 Hinweise zum Vortrag ~30 Minuten plus Diskussion Klare Gliederung Ab und an Hinweise geben, wo man sich befindet Bilder und Grafiken; Beispiele Font: mind. 16pt Eher Stichwörter als lange Sätze Vorträge können auch unterhaltend sein Gimmicks, Rhythmuswechsel, Einbeziehen der Zuhörer, etc. Adressat sind alle Teilnehmer, nicht nur die Betreuer Technik: Laptop? Powerpoint?

27 Der Opponent Opponenten kennen die Arbeiten Aber schreiben nichts darüber Sie suchen Schwachstellen, unklare Passagen oder Kritikpunkte Nach dem Vortrag fragen die Opponenten den Vortragenden zu diesen Themen; der Vortragende vereidigt, so gut es geht Ziel: Bloßstellung des Vortragenden Anregung zur kritischen Auseinandersetzung mit einem Thema Erkennen von Schwachstellen

28 Hinweise zur Ausarbeitung Eine gedruckte Version abgeben Selbstständigkeitserklärung unterschreiben Eine elektronische Version schicken Referenzen Alle verwendeten und nur die Im Text referenzieren, Liste am Schluss Korrekt zitieren Vorsicht vor Übernahme von kompletten Textpassagen; wenn, dann deutlich kennzeichnen Aussagen mit Evidenz oder Verweis auf Literatur versehen Verwendung von gefundenen Arbeiten im Web Möglich, aber VORSICHT Eventuell Themenschwerpunkt verschieben Betreuer fragen

29 Format Benutzung unserer Latex-Vorlage Nur eine Schriftart, wenig und konsistente Wechsel in Schriftgröße und stärke Inhaltsverzeichnis Bilder: Nummerieren und darauf verweisen Referenzen: [1] Yan, X., Yu, P. S. and Han, J. (2004). "Graph Indexing: A Frequent Structure-Based Approach". SIGMOD, Paris, France. [YYH04] Yan, X., Yu, P. S. and Han, J. (2004). "Graph Indexing: A Frequent Structure-Based Approach". SIGMOD, Paris, France. Darf man Wikipedia zitieren? Nur zur äußersten Not Perma-Link verwenden!

30 Hinweise zur Ausarbeitung 2- Gezielt und sachlich schreiben Ausführungen zur Philosophische Überlegungen zu Vorzügen probabilistischer Verfahren im Vergleich zu Dempster s Theory of Evidence oder zur Anmerkungen zur Trivialisierung des politischen Diskurs für soziale Netzwerke unter besonderer Berücksichtigung von Twitter möglichst kurz halten Füllwörter vermeiden (dabei, hierbei, dann, ) Knappe Darlegung, präzise Sprache Eine gute Gliederung ist die halbe Miete Kommen Sie zu Aussagen Vorteile, Nachteile, verwandte Arbeiten, mögliche Erweiterungen, Anwendbarkeit, eigene Erfahrungen,