Linux I II III Res WN/TT NLTK XML XLE I II Weka E. Freitag. 9 XLE Transfer. 10 Weka. Ressourcen-Vorkurs

Transkript

1 Linux I II III Res WN/TT NLTK XML XLE I II Weka E Freitag 9 XLE Transfer 10 Weka

2 Linux I II III Res WN/TT NLTK XML XLE I II Weka E XLE Transfer I Auf ella gibt es nicht nur XLE (den Parser) sondern auch große LFG-Grammatiken für deutsch und englisch (/resources/lingware/...). Wenn wir mit so einer Grammatik Texte parsen, bekommen wir nicht nur schöne Bäume in einem Fensterchen, sondern auch eine Ausgabe als Prolog-Datei.

3 Linux I II III Res WN/TT NLTK XML XLE I II Weka E XLE Transfer II Ausgabe language % -*- coding: iso *- fstructure ( Der Mann kauft ein Haus., % Properties: [ sentence_id ( S1 ), xle_version ( XLE release of Mar 30, :11. ), grammar ( / resources / lingware / grammars /lfg / german /release / german.lfg grammar_date ( Oct 15, :40 ), word_count ( 5 ), statistics ( 2+1 solutions, 3.20 CPU seconds, 172 subtrees unified ), rootcategory ( ROOT ) ], % Choices: [ choice ([A1,A2], 1) ], % Equivalences: [], % Constraints: [ cf (1, eq( attr ( var (0), PRED ), semform ( kaufen,6,[ var (11), var (4)],[]))), cf (1, eq( attr ( var (0), SUBJ ), var (11))),...

4 Linux I II III Res WN/TT NLTK XML XLE I II Weka E XLE Transfer III Transfer-System Im Transfer-System werden Prolog-ähnliche Regeln definiert, mit denen man die F-Strukturen weiterverarbeiten kann. Beispiel PRED (%X, sleep ), + VTYPE (%X, main ) == > PRED (%X, dormir ).

5 Weka I Weka ist eine Sammlung von Algorithmen für Machine Learning. Weka ist in Java implementiert und verfügt über eine Java-API und ein GUI, kann aber auch auf der Kommandozeile benutzt werden. Weka ist unter der GNU General Public License veröffentlicht. Auf ella ist Weka in /resources/stat_ml/weka installiert und kann mit dem Kommando $ weka gestartet werden. Weka_3.4.11

6 Weka II Classification Items werden anhand von Features in vorher bekannte Klassen einsortiert. Clustering Items werden anhand von Features gruppiert. Dabei ist vorher nicht bekannt, welche Gruppen es gibt.

7 Theorie I Annotierte Daten Feature-Extraktion: Aus den Daten werden geeignete Features extrahiert Training: Ein Classifier wird trainiert, in dem er die bestehenden Beispiele anschaut und Wahrscheinlichkeiten lernt Anwendung: Rohdaten werden in die gleichen Features wie die Trainingsdaten zerlegt, so dass der Classifier seine gelernten Wahrscheinlichkeiten anwenden kann Beispiele (Mögliche Anwendungen) Part-of-Speech-Tagging, Named Entity Recognition, Word Sense Disambiguation, Parse Disambiguation, Machine Translation,...

8 Theorie II Feature Extraction Was hat man sich unter Feature vorzustellen? Wo bekommt man die her? Was sind gute Features? Beispiel (Part of speech-tagging) Kontext (aktuelles Wort, vorheriges Wort,... ) Groß-/Kleinschreibung Diese Angaben brauchen wir für jedes einzelne Wort.

9 demo

10 Dateiformate I CSV (Comma-Seperated Values Pro Zeile ein Datensatz, wobei einzelnen Elemente des Datensatzes durch Komma getrennt werden (oder Semikolon) Beispiel Darth, upper, "" Vader, upper, Darth war, lower, Vader ein, lower, war Lord, upper, ein der, lower, Lord Sith, upper, der...

11 Dateiformate II ARFF Klarer Definiert. Standardformat von Weka. RELATION darth - ATTRIBUTE token ATTRIBUTE case { upper, lower ATTRIBUTE previous " Darth ", upper, "" " Vader ", upper, " Darth " " war ", lower, " Vader " " ein ", lower, " war "...

12 Dateiformate III name definiert einen Namen für diese attribute DATENTYP definiert ein Attribut mit dem namen attribute und dem Datentyp DATENTYP. string Zeichenketten numeric, real, integer Zahlen { nom1, nom2 } Liste von Nominalwerten date Datum (yyyy-mm-dd T Ab hier folgen die eigentlichen Datensätze

13 GUI Weka GUI chooser Simple CLI Explorer Experimenter KnowledgeFlow

14 demo

15 Übung 10