Automatisierte Erstellung von Pressedossiers durch Textmining

Transkript

1 Automatisierte Erstellung von Pressedossiers durch Textmining Kontextualierung im journalistischen Umfeld Marcel Schöneberg Hochschule für Angewandte Wissenschaften Hamburg (HAW) Fakultät für Technik und Informatik Department Informatik Masterseminar Präsentation M. Schöneberg Automatisierte Dossiererstellung 1 / 28

2 1 Rückblick Grundprojekt 2 Masterarbeit Überblick Einführung Fragestellungen und Ziele Erste Ideen Related Work Konkrete Schritte Weitere mögliche Schritte Bewertung von Ergebnissen 3 Aktueller Fortschritt: Hauptprojekt 4 Chancen und Risiken 5 Fragen 6 Literatur M. Schöneberg Automatisierte Dossiererstellung Rückblick Grundprojekt 2 / 28

3 Zielsetzung [Sch14] Ursprüngliche Idee: Trenderkennung in Social Media Ziele von Projekt 1: Datenbasis schaffen Vorverarbeitungen durchführen und verstehen (Hierarchisches) Clustering als Experiment Daten kennenlernen These: Ausgewachsene Trends/Themen müssten einen Cluster bilden Untercluster zeigen ggf. kleinere Trends auf Ggf. als Basis für spätere Zeitreihenanalysen nutzen M. Schöneberg Automatisierte Dossiererstellung Rückblick Grundprojekt 3 / 28

4 Erfolge Vorhandene Datenbasis mit über Tweets zum Hashtag-Piraten Zeitraum: Erfahrungen mit Vorverarbeitung (z.b. Normalisierung, Stemming, NLP) Clustering mit verschiedenen Clustermengen und unterschiedlichen Untermengen des Korpus Diverse Stolpersteine kennengelernt M. Schöneberg Automatisierte Dossiererstellung Rückblick Grundprojekt 4 / 28

5 Misserfolge - Begründung für den Fokuswechsel Weitgehend nutzlose Resultate Cluster zumeist eher Sammlung aus unzusammenhängenden Begriffen (ggf. Zufallstreffer ) Auch Nutzung eines auf Nomen basierenden Korpus nicht erfolgversprechend Texte grundlegend zu kurz schlechte Sprache (Abkürzungen usw.) Clustering zu undurchsichtig Trenderkennung ist ein schwammiges Ziel Durchaus möglich 1 aber u.a: komplexe Vorverarbeitung etc. notwendig Keine gute Ausgangsbasis 1 Siehe Fazit von [Sch14] M. Schöneberg Automatisierte Dossiererstellung Rückblick Grundprojekt 5 / 28

6 1 Rückblick Grundprojekt 2 Masterarbeit Überblick Einführung Fragestellungen und Ziele Erste Ideen Related Work Konkrete Schritte Weitere mögliche Schritte Bewertung von Ergebnissen 3 Aktueller Fortschritt: Hauptprojekt 4 Chancen und Risiken 5 Fragen 6 Literatur M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 6 / 28

7 Einführung in die Thematik I Ziel: Erstellung von Dossiers Kontextualisierung eines Artikels Fokus auf textbasierten Dossiers: Keine multimedialen Inhalte usw. Dossiers: Verschiedene (Experten-) Definitionen vorhanden [Hä14] Arbeitsthese: Zusammenstellung von ähnlichen Artikeln Inhaltliche / semantische Nähe Erster Schritt: Nicht für alles geeignet Abbildung 1 Ähnlichkeit als Basis Distanzfunktionen (Zunächst) möglichst verständlich halten M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 7 / 28

8 Einführung in die Thematik II Abbildung: Realisierbarer Workflow M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 8 / 28

9 Einführung in die Thematik III Artikelarchiv: nach Sortierung ca Artikel (Englisch) von Journalisten Basierend auf dem Eurozine Netzwerk Größere Länge als Tweets Meta-Informationen vorhanden (Verlinkungen auf Inhaltsverzeichnisse, redaktionelle Focalpoints etc.) Sinnvoll nutzbar? semi-strukturiert in XML (Autor, Abstract, Überschriften usw.) M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 9 / 28

10 Einführung in die Thematik IV Beispiel Artikelarchiv hat ebenfalls Probleme: Nicht alle englischsprachig Enthält auch Zusammenfassungen etc. z.t. Gedichte (recht kurz, sprachlich besonders) Invalides XML M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 10 / 28

11 Fragestellungen und Ziele Automatisierbare Dossiererstellung möglich? Was sind Pressedossiers bzw. wie werden diese benutzt? Lassen sich fachliche Anforderungen in einen Algorithmus überführen? Sind journalistische Definitionen eines Dossiers mit Informatik umsetzbar? Wie kann man ein generiertes Ergebnisses bewerten? Versuch den Algorithmus übersichtlich zu halten M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 11 / 28

12 Erste Ideen I Viele Diskussionen und Ideen Simple Distanzfunktionen nutzen Facetten / abweichende Sichtweisen finden Vorhandene Clustering Techniken benutzen Vorschlagssysteme aufgrund von Lernalgorithmen / Crowd Metainformationen (Autoren, Herkunft) nutzen besserer Überblick Ggf. Distanzfunktionen verbessern M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 12 / 28

13 Erste Ideen II Zu einfach gedacht Geht nicht auf fachliche Anforderungen ein Clusteringverfahren oft sehr undurchsichtig (vgl. Projekt 1) Vorschlagssysteme brauchen (oft) eine Basis - Nicht vorhanden Coldstart problem Viele Systeme setzen auf Personalisierung oder die Crowd Ziel: automatisierte und neutrale Ergebnisse (z.b. [PL10], [KFD12], [LCLS10]) Ideen Den zweiten Schritt vor dem ersten tun Erlernen von Ähnlichkeit nicht im Fokus (Neuronale Netze usw.) Nicht ohne Weiteres anpassbar Nicht als erster Schritt M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 13 / 28

14 Related Work Forschungsprojekt der DPA Overview Project XML Ähnlichkeiten [TCY09] Distanzfunktionen [HRJM13] Content-based Recommender Systems [LGS] Überblick über Recommender Systems in der Breite [BOHG13] Article Recommender Systems [BDD + 12] M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 14 / 28

15 Konkrete Schritte I Ziel ist höchst experimentell Schrittweise annähern und verbessern Verbesserung der Distanzfunktion zwischen Dokumenten Bag of Words-Ansatz Ausgangsbasis: der Leitartikel später ggf. gewichtete Wortmenge M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 15 / 28

16 Konkrete Schritte II Gewichtete Wertungen von wichtigeren Teilen Gute Werte noch zu ermitteln 1 Abstract 2 Title 3 Subheadings 4 Text Anreicherung mit themenspezifischen Kategorien Wortmengen pro Thema (z.b. Wirtschaft, Politik usw.) einbringen Gewichtung des Bag of words zugunsten der (hierarchischen) Kategorien Erweiterung durch Erkenntnisse einer Fachexpertin M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 16 / 28

17 Distanzfunktionen Vieles hat wurde im Rahmen des Seminars schon angesprochen [Sip14] Zunächst Nutzung einer einfachen euklidischen Distanz (auf Basis der Gewichtungen) Verschiedene Relevanzmaße für Termhäufigkeiten (Termvorkommen, TF-IDF) Diverse Kriterien von Distanz möglich (Relevanz, Themenbreite, Neuigkeit etc.) Diverse Funktionen und Möglichkeiten vorhanden M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 17 / 28

18 Weitere mögliche Schritte Autoren nutzen um Herkunft des Artikels zu bestimmen Ggf. Einbeziehung von Inhaltsverzeichnissen der (Themen-)Zeitschriften Linguistische Verbesserungen (z.b. Nutzung von Ontologien etc.) Erkennung von Facetten eines Themas (europäische Sicht auf Ursprungsartikel) M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 18 / 28

19 Bewertung von Ergebnissen Verifikation der Ergebnisse über Focalpoints-Zusammenfassungen Testkorpus als Verifikationsbasis: Focalpoint-Artikel (redaktionell eingeordnet) (fast) zufällige Artikel (nicht im Focalpoint) Berechnete Dossierartikel sollten möglichst den Focalpointartikeln entsprechen Nutzung von Eigenschaften wie: Recall (Trefferquote): Precision (Genauigkeit): {relevant documents} {retrieved documents} {relevant documents} {relevant documents} {retrieved documents} {retrieved documents} Wissen einer Domänenexpertin [PR-] M. Schöneberg Automatisierte Dossiererstellung Masterarbeit Überblick 19 / 28

20 1 Rückblick Grundprojekt 2 Masterarbeit Überblick Einführung Fragestellungen und Ziele Erste Ideen Related Work Konkrete Schritte Weitere mögliche Schritte Bewertung von Ergebnissen 3 Aktueller Fortschritt: Hauptprojekt 4 Chancen und Risiken 5 Fragen 6 Literatur M. Schöneberg Automatisierte Dossiererstellung Aktueller Fortschritt: Hauptprojekt 20 / 28

21 Aktueller Fortschritt: Hauptprojekt I Aufgesetzter Testkorpus (Focalpoint Artikel + beliebige Artikel als Vergleichsbasis) Rapidminer 2 Verständnis und Hürden KDD Preprocessing Erste Versuche lauffähig Domänenübergreifendes Projekt Grundlegendes gemeinsames Verständnis M. Schöneberg Automatisierte Dossiererstellung Aktueller Fortschritt: Hauptprojekt 21 / 28

22 Aktueller Fortschritt: Hauptprojekt II (a) Process (c) Resultwindow (b) Script 2 M. Schöneberg Automatisierte Dossiererstellung Aktueller Fortschritt: Hauptprojekt 22 / 28

23 1 Rückblick Grundprojekt 2 Masterarbeit Überblick Einführung Fragestellungen und Ziele Erste Ideen Related Work Konkrete Schritte Weitere mögliche Schritte Bewertung von Ergebnissen 3 Aktueller Fortschritt: Hauptprojekt 4 Chancen und Risiken 5 Fragen 6 Literatur M. Schöneberg Automatisierte Dossiererstellung Chancen und Risiken 23 / 28

24 Chancen und Risiken I Chancen Viel Interesse - Editors don t scale HAW NextMedia 3 gefördert durch BMBF DPA Forschungsprojekt Risiken Zu abweichende Meinungen von Was ist ein Dossier Gefahr das Experten ihr Wissen nicht weitergeben können - Habe ich im Gefühl [McD83] Definitionen zu komplex oder zu unspezifisch um sie automatisiert umzusetzen Aufeinander aufbauender Prozess - wenn eins schief geht Problem 3 M. Schöneberg Automatisierte Dossiererstellung Chancen und Risiken 24 / 28

25 Fragen Vielen Dank für die Aufmerksamkeit! Fragen? M. Schöneberg Automatisierte Dossiererstellung Fragen 25 / 28

26 Literature I Bancu, Cristian ; Dagadita, Monica ; Dascalu, Mihai ; Dobre, Ciprian ; Trausan-Matu, Stefan ; Florea, Adina M.: ARSYS Article Recommender System. In: Proceedings of the th International Symposium on Symbolic and Numeric Algorithms for Scientific Computing. Washington, DC, USA : IEEE Computer Society, 2012 (SYNASC 12). ISBN , Bobadilla, J. ; Ortega, F. ; Hernando, A. ; GutiéRrez, A.: Recommender Systems Survey. In: Know.-Based Syst. 46 (2013), Juli, DOI /j.knosys ISSN Hälker, Nina: Dienen textminingbasierte Dossiers dem Wachsen einer gemeinsamen europäischen Erzählung? Arbeitspapier Harispe, Sébastien ; Ranwez, Sylvie ; Janaqi, Stefan ; Montmain, Jacky: Semantic Measures for the Comparison of Units of Language, Concepts or Entities from Text and Knowledge Base Analysis. In: CoRR abs/ (2013). M. Schöneberg Automatisierte Dossiererstellung Literatur 26 / 28

27 Literature II Kirshenbaum, Evan ; Forman, George ; Dugan, Michael: A Live Comparison of Methods for Personalized Article Recommendation at Forbes.Com. In: Proceedings of the 2012 European Conference on Machine Learning and Knowledge Discovery in Databases - Volume Part II. Berlin, Heidelberg : Springer-Verlag, 2012 (ECML PKDD 12). ISBN , Li, Lihong ; Chu, Wei ; Langford, John ; Schapire, Robert E.: A Contextual-bandit Approach to Personalized News Article Recommendation. In: Proceedings of the 19th International Conference on World Wide Web. New York, NY, USA : ACM, 2010 (WWW 10). ISBN , Lops, Pasquale ; Gemmis, Marco de ; Semeraro, Giovanni: In: Recommender Systems Handbook McDermott, John P.: Extracting Knowledge From Expert Systems. In: Bundy, Alan (Hrsg.): IJCAI, William Kaufmann, 1983, Peng, Chi-Chieh ; Liu, Duen-Ren: Combining Reputation and Content-based Filtering for Blog Article Recommendation in Social Bookmarking Websites. In: Proceedings of the 12th International Conference on Electronic Commerce: Roadmap for the Future of Electronic Business. New York, NY, USA : ACM, 2010 (ICEC 10). ISBN , 8 14 Precision-Recall diagram. M. Schöneberg Automatisierte Dossiererstellung Literatur 27 / 28

28 Literature III Schöneberg, Marcel: Erkennung von Trends in sozialen Netzwerken. Version: Projektbericht Sippel, Sigurd: Recommendations for cocktail recipes. (2014), Tekli, Joe ; Chbeir, Richard ; Yetongnon, Kokou: Survey: An Overview on XML Similarity: Background, Current Trends and Future Directions. In: Comput. Sci. Rev. 3 (2009), August, Nr. 3, DOI /j.cosrev ISSN M. Schöneberg Automatisierte Dossiererstellung Literatur 28 / 28