Web 3.0: Suche mit Word Sense Disambiguation

Transkript

1 Web 3.0: Suche mit Word Sense Disambiguation Ein Prototyp im Rahmen des Hauptseminars Information Retrieval, Wintersemester 2007/08, bei PD Dr. Karin Haenelt Seminar für Computerlinguistik, Universität Heidelberg Bearbeitet von Sybille Reuter, Christoph Graf

2 Was ist Web 3.0? (1) Web 2.0: Das Neue Netzverständnis Keine fixen, starren Seiten, sondern interaktive Gestaltung in der Community Typische Beispiele: Wikipedia, YouTube Kein technischer, sondern ideeller Begriff Semantic Web Semantische Aufbereitung von Daten im Netz Ziel: Bessere maschinelle Verarbeitbarkeit von semantischer Information Begriff beschreibt Technologien 2

3 Was ist Web 3.0? (2) Web 3.0: Die Zukunft Hypothetischer Begriff, um zukünftige Strömungen des Internets zu beschreiben Visionen: Fortführung des Semantic Web bis hin zum Web als Database Anwendungen aus der Künstlichen Intelligenz; Beispiel: Vorhersage des Erfolges eines Produkts auf Grundlage von Semantic-Web- IR-Anwendungen 3D-Räume wie im Second Life... Der Computerlinguistik könnte durch die Konzentration auf Semantic Web (noch) größere Bedeutung zukommen! 3

4 Word Sense Disambiguation (1) Bullet Point 1 Bullet Point 2 Sub Bullet 4

5 Word Sense Disambiguation (2) Automatisiertes Erkennen der Bedeutung eines ambigen Ausdrucks Ansätze: Shallow: Betrachtung des lexikalischen Umfelds eines Ausdrucks zur statistischen Ermittlung der Bedeutung Deep: Versuch, die Aufgabe mit Wissensrepräsentation, Weltwissen und Deduktionssystemen zu lösen 5

6 Hintergrund: Lesk Algorithmus Ansatz: Shallow Original: Lesk, 1986 Adaption: Banerjee & Pedersen, 2002 Grundidee: Ausdrücke im Satz mithilfe semantischer Metainformationen vergleichen; diese Informationen stammen im Original aus maschinenlesbaren Wörterbüchern in der Adaption aus WordNet 6

7 Ziel des Projekts Implementierung einer Suchmaschine, die den Lesk Algorithmus auf die Suchergebnisse anwendet und die Ergebnisse nach Bedeutungen des Suchwortes geclustert ausgibt Sprache: Python API-Zugriff zur Verwendung von Yahoo WordNet 7

8 Programmarchitektur User-Input über GUI Anfrage an Yahoo über Python-API Word Sense Disambiguation mit modifiziertem Lesk Algorithmus WordNet über Python-API Output: HTML-File mit geclusterten Snippets und Links Corpus mit Yahoo- Snippets und Links 8

9 Ablauf GUI Yahoo-API WSD: Lesk Algorithmus Output in HTML 9

11 GUI (Graphical User Interface) Eingabe des Benutzers: Suchwort Anzahl Ergebnisse in der Anzeige GUI-Toolkits für Python: Tkinter (mit Erweiterung Tix), wxpython, pygtk und andere Eine einfache GUI mit Tkinter: 11

12 Exkurs: CGI und mod_python Tkinter ist sehr altmodisch und bietet nur wenige Funktionalitäten Für Webanwendungen und -oberflächen benötigt man eine Schnittstelle für den Datenaustausch zwischen Webserver und Software Standard: CGI (Common Gateway Interface) CGI-Programme können auch in Python geschrieben werden; Nachteil ist jedoch die geringe Geschwingigkeit Serverseitig: mod_python Python-Interpreter direkt in Serverprozess von Apache eingebunden; Schneller als CGI (Interpreter wird nur einmal beim Start geladen) 12

14 Yahoo-API (1) Pysearch: Bietet u.a. folgende Suchmöglichkeiten: NewsSearch VideoSearch ImageSearch AlbumSearch, ArtistSearch PageData WebSearch 14

15 Yahoo-API (2) WebSearch: 1) Erstellen eines Document Object Models (DOM): app_id = "YahooDemo" srch = WebSearch(app_id) srch.query = ''Heidelberg'' srch.results = 20 dom = srch.get_results() results = srch.parse_results(dom) 15

16 Yahoo-API (3) 2) Zugriff auf die Ergebnisliste results: for res in results: url = res.url summary = res['summary'] print summary, url 16

18 WSD: Lesk Algorithmus (1) Original im Pseudocode: for every word w[i] in the Phrase let BEST_SENSE = null, BEST_SCORE= 0 for every sense sense[j] of w[i] let SCORE=0 for every other word w[k] in the phrase, k!=i for every sense sense[l] of w[k] SCORE = SCORE + number of words that occur in the gloss of both sense[j] and sense[l] if SCORE > BEST_SCORE BEST_SCORE = SCORE BEST_SENSE = sense[j] if BEST_SCORE > 0 else output BEST_SENSE output Could not Disambiguate w[i] 18

19 WSD: Lesk Algorithmus (2) In der adaptierten Version von Banerjee und Pedersen werden folgende Änderungen vorgenommen: Anstatt Glossen aus maschinenlesbaren Wörterbüchern werden Synsets und Semantische Relationen betrachtet WordNet Jedes Wort wird mit einem context aus n Wörtern rechts und links des Wortes verglichen Unser Ansatz 19

20 Die WordNet-API für Python (1) Ist Teil des NLTK: Benötigt Preprocessing : Umwandlung von Strings in den Word -type 'dogs' j N['dog'] 'wort' j POS['lemma'] Naiver Ansatz: Lemmatisieren mit eingebauter Funktion morphy(), POS-Tag zuweisen (ggf. in WordNets POS-Dictionaries kontrollieren), mit eingebauter Funktion auf Word zugreifen 20

21 Die WordNet-API für Python (2) Funktionalität: Zugriff auf Words: N.getWord('noun'), V.getWord('verb')... Synsets (Gruppen synonymer Begriffe): word.synsets() Relations (Semantische Relationen wie Hyperonym, Hypernym etc.): word.synsets()[].relations() Glosses (Die vom Menschen lesbaren Beschreibungen eines Begriffs): word.synsets()[].gloss 21

22 WSD: Lesk Algorithmus (3) Pseudocode Adaption (alpha): lesk(phrase, targetword) let BEST_SENSE = null, BEST_SCORE= 0 for every synset synset[j] of targetword let SCORE=0 for every relation in synset[j] for every other word w[k] in phrase, k!=i for every synset synset[l] of w[k] for every relation in synset[l] SCORE = SCORE + number of words that occur in synset or relations of both synset[j] and synset[l] if SCORE > BEST_SCORE if BEST_SCORE > 0 else BEST_SCORE = SCORE BEST_SENSE = synset[j] output BEST_SENSE output Could not Disambiguate targetword 22

23 WSD: Lesk Algorithmus (4) Problem: Synsets und Relations sehr speziell, decken sich oft nicht mit dem, was intuitiv zu erwarten war, Beispiel: mouse hat keine Relation animal Lösungsansatz: Betrachtung der Glosses Problem: Sehr viele for-schleifen Lösungsansatz: Vergleich von Wörtern im Snippet mit Glosses des Targetworts (keine Glosses der übrigen Wörter) 23

24 WSD: Lesk Algorithmus (5) Pseudocode Adaption (beta): lesk(phrase, targetword) let BEST_SENSE = null, BEST_SCORE= 0 for every synset synset[j] of targetword let SCORE=0 for every gloss in synset[j] for every other word w[k] in phrase, k!=i SCORE = SCORE + number of words that occur in both phrase and gloss of synset[j] if SCORE > BEST_SCORE if BEST_SCORE > 0 else BEST_SCORE = SCORE BEST_SENSE = synset[j] output BEST_SENSE output Could not Disambiguate targetword 24

25 WSD: Lesk Algorithmus (6) Problem: Zu wenig Material, wenn die Senses der übrigen Wörter nicht betrachtet werden Lösungsansatz: Wieder alle Glosses betrachten Eigene Funktion addwords, weil: Auswirkung auf precision, recall Nutzer soll flexibel disambiguieren können 25

26 Die addwords-funktion (1) Input: Summary eines Suchergebnisses (string) Output: Summary eines Suchergebnisses plus alle Kontentwörter aller Glosses aller Wörter der Summary (string) 26

27 Die addwords-funktion (2) Vereinfachter Pseudocode: for every word in summary: if word not in functionwords: for every synset in word.synsets(): for token in synset.gloss: if token not in summary: summary = summary + token 27

28 WSD: Lesk Algorithmus (7) Pseudocode Adaption (final): lesk(phrase=addwords(origphrase), targetword) let BEST_SENSE = null, BEST_SCORE= 0 for every synset synset[j] of targetword let SCORE=0 for every gloss in synset[j] for every other word w[k] in phrase, k!=i SCORE = SCORE + number of words that occur in both phrase and gloss of synset[j] if SCORE > BEST_SCORE if BEST_SCORE > 0 else BEST_SCORE = SCORE BEST_SENSE = synset[j] output BEST_SENSE output Could not Disambiguate targetword 28

30 Outputfile in HTML Anlegen einer und schreiben in eine Datei: data = file("corpus.html", "w") data.write("<html><body>... ) Schreiben der Ergebnis-Cluster: For key in result.keys(): data.write(key) data.write(summaries) Öffnen der Datei: os.startfile(''corpus.html'') 30

31 Prototyp SemSearch: GUI Yahoo-API WSD: Lesk Algorithmus Output in HTML Evaluation und Ergebnisse 31

32 Evaluation (1) Lesk ohne addwords-funktion: 32

33 Evaluation (2) Lesk mit addwords-funktion: 33

34 Ergebnisse Lesk ohne addwords-funktion: Precision: 0,9 Recall: 0,25 Fallout: 0,1 Lesk mit addwords-funktion: Precision: 0,53 Recall: 0,77 Fallout: 0,83 34

35 Vergleich- Ergebnisse von Banerjee,

36 Mögliche Verbesserungen Hinzuziehen von Relations (Meronyme, Hyperonyme...) Ggf. Vergleich auf höherer Ebene der Baumstruktur: dogjdomestic animaljanimal Synsets Kontextfenster individuell einstellen Preprocessing durch adäquate Tools effektiver gestalten 36

37 Ausblick: Web Einschätzungen: ''The semantic web is a vision: the idea of having data on the web defined and linked in a way that it can be used by machines not just for display purposes, but for automation, integration and reuse of data across various applications. W3C-Direktor Tim Berners-Lee, 2005 ''I`d rather make progress by having computers understand what humans write, than by forcing humans to write in ways computers can understand.'' Google-Mitbegründer Sergey Brin,

38 Literatur S. Banerjee and T. Pedersen, An Adapted Lesk Algorithm for Word Sense Disambiguation using WordNet, Proceedings of the Third International Conference on Computational Linguistics and Intelligent Text Processing, S. Banerjee, Adapting the Lesk Algorithm for Word Sense Disambiguation to WordNet, M.S. Thesis, Duluth M. Lesk, Automatic Sense Disambiguation Using Machine Readable Dictionaries: How to tell a Pine Cone from an Ice Cream Cone, Proceedings of the 5 th annual international conference on systems documentation,