Untersuchung von Big Data Einsatzszenarien am Beispiel Twitter Sentiment Analyse für Anlageentscheidungen

Transkript

1 Arbeitspapier / Abteilung WI Stephan König Untersuchung von Big Data Einsatzszenarien am Beispiel Twitter Sentiment Analyse für Anlageentscheidungen Arbeitspapier ISSN Nr (print) ISSN Nr (Internet)

2 Untersuchung von Big Data Einsatzszenarien am Beispiel Twitter Sentiment Analyse für Anlageentscheidungen April 2014 Arbeitspapier Prof. Dr. Stephan König Hochschule Hannover Fakultät IV (Wirtschaft und Informatik) Ricklinger Stadtweg 120, Hannover

3 2 Zusammenfassung Die Analyse von unstrukturierten Daten aus sozialen Netzwerken ist ein Einsatzszenario von Big Data. Am Beispiel einer Sentiment Analyse von Twitter Kurznachrichten (Tweets) zur Unterstützung von Anlageentscheidungen im quantitativen Asset Management werden verschiedene Analyseansätze auf Basis von R (Bag of Words Classifier, Naive Bayes Classifier) und verschiedenen Filtermechanismen (z.b. nach der Reputation der Twitterer) untersucht. Erste Korrelationen der Stimmungssignale mit Marktindices (DJIA, NASDAQ) über mehrere Monate deuten deren Eignung für Marktprognosen - und damit zur Unterstützung von Analyseentscheidungen - an. Damit liegt eine Basis für die Untersuchung deutlich längerer Zeitreihen vor.

4 3 1. Einführung Unter Big Data werden große und oft unstrukturierte, aber für unternehmerische Fragestellungen zunehmend interessante Datensammlungen bezeichnet. Diese können mit traditionellen Business Intelligence Anwendungen meist nur unzureichend analysiert werden. Mit der Verfügbarkeit geeigneter Technologien (z.b. Apache Hadoop 1 ) sind Fragen zu fachlich sinnvollen Einsatzszenarien in den Vordergrund gerückt und werden in Forschung und Praxis untersucht (z.b. in [Buhl13], [Weber12] und [Manyika12]). Aufgrund der Aktualität der Thematik gibt es noch keine einheitliche Definition des Begriffs Big Data. Eine weit verbreitete Definition von Big Data lautet [Manyika12]: Big data refers to datasets whose size is beyond the ability of typical database software tools to capture, store, manage, and analyze. Charakteristisch für Big Data sind die sogenannten 3 V s (siehe Abbildung 1): Velocity, Volume und Variety. Big Data zeichnet sich durch ein großes Datenvolumen aus (Volume), ein großes Spektrum möglicher Strukturen der Daten (Variety) und die Geschwindigkeit, mit der die Daten erzeugt und verarbeitet werden (Velocity). Eine wichtige Datenquelle für Big Data stellen soziale Netzwerke im Internet (z.b. Facebook) dar. Welche Potenziale in der Analyse von Daten aus sozialen Netzwerken liegen, zeigen unter anderem [Lau12] und [Chau12]. Zur Speicherung und Verarbeitung von Big Data wird häufig Apache Hadoop, ein freies, in Java geschriebenes Framework für skalierbare, verteilt arbeitende Software, verwendet. Es besteht aus zwei Kernbausteinen: Hadoop Distributed File System (HDFS): Ein hochverfügbares, leistungsfähiges Dateisystem zur verteilten Speicherung sehr großer Datenmengen auf mehreren Rechnern. MapReduce: Ein von Google eingeführtes Programmiermodell für nebenläufige Berechnungen über große Datenmengen auf Computerclustern. 1 hadoop.apache.org

5 4 Oft kommen zur Verarbeitung von Big Data aber auch Anwendungen aus der statistischen Datenanalyse wie z.b. R oder SAS zum Einsatz. Abbildung 1: 3 V Modell für Big Data [Klein13] Big Data weist eine starke inhaltliche Nähe zum Thema Business Intelligence auf. Letzteres dient primär zur Aufbereitung, Speicherung und Analyse strukturierter Daten auf Basis eines klassischen Data Warehouses. Big Data wird häufig als ETL-Anwendung 2 zur Voranalyse und Quantifizierung unstrukturierter Daten betrachtet ([Weber12], [Kimball11]). Das Thema Big Data findet sich aufgrund seiner gesellschaftlichen Relevanz seit Anfang 2013 auch zunehmend in der Presse wieder (z.b. Titelthema in DER SPIEGEL 20/2013). Dieser Trend wurde durch die Aufdeckung des PRISM Programms der NSA im Juni 2013 noch einmal verstärkt [Green13]. Dass es sich bei dem Thema nicht nur um eine Modeerscheinung handelt, sondern die grundsätzliche Frage adressiert wird, wie wir mit immer größer werdenden Datenmengen in Zukunft umgehen wollen, bezeugen z.b. Untersuchungen von Gartner [Pettey12], des Bundesverbandes Informationswirtschaft, Telekommunikation 2 Extraktion, Transformation, Laden

6 5 und neue Medien e.v. (BITKOM) [Weber12] und von Buhl et al. [Buhl13]. Aus Sicht der Wissenschaft wirft das Thema viele interessante Fragestellungen in den Bereichen Datenmanagement, Datenanalyse, Datenqualität und Datenschutz auf. Insbesondere ist aber auch zu klären, was geeignete betriebswirtschaftliche Fragestellungen sind, die mit Big Data untersucht werden können: Welche Zusammenhänge in den Daten bestehen, welche Auswirkungen diese haben und was aus den aufbereiteten Daten gewonnen werden kann, übersteigt oft menschliches Fassungsvermögen und neue Verfahren müssen entwickelt werden, die dies greifbarer machen können [Klein13]. Die Wirtschaftsinformatik mit ihrer Methodenvielfalt und ihrem multidisziplinären Forschungsansatz kann ideal zur Weiterentwicklung von Big Data beitragen [Buhl13].

7 6 2. Vorgehen Im Folgenden soll im Rahmen einer Fallstudie untersucht werden, inwieweit sich Big Data Technologien in der unternehmerischen Praxis sinnvoll einsetzen lassen. Dazu wurde ein Unternehmen ausgewählt, das zu den international führenden quantitativen Asset Managern gehört und für institutionelle Anleger seit mehr als 15 Jahren ein erfolgreiches aktives Portfolio Management in den Asset- Klassen Aktien, Renten und Multi Asset Strategien betreibt. Die Finanzbranche eignet sich wegen des vorhandenen Mitarbeiter Know-Hows und der verfügbaren Daten insbesondere für eine exemplarische Untersuchung der Einsatzszenarien von Big Data in der Praxis, da sie eine Schlüsselbranche für moderne Analyseansätze und Big Data darstellt [Manyika12]. Konkret soll die Frage untersucht werden, inwieweit sich Big Data Technologien eignen, um unstrukturierte Daten aus sozialen Netzwerken (Web 2.0) für Anlageentscheidungen zu nutzen. Dazu wird prototypisch eine Big Data Anwendung (Artefakt) realisiert. Damit folgt die Fallstudie dem Design Science Ansatz (siehe z.b. [Hevner04], [Winter09] und [Buhl12]). In [Chau12] wird für eine vom Forschungsansatz und Themenumfeld vergleichbare Fragestellung erläutert, wie die in [Hevner04] aufgeführten sieben Richtlinien 3 für Design Science adressiert werden. Diese Erläuterungen können für diese Fallstudie sinngemäß übernommen werden. Die Vorgehensweise zur Beantwortung der fachlichen Fragestellung gliedert sich - nach einem Überblick über den Stand der Forschung - in folgende Schritte: Identifikation eines geeigneten sozialen Netzwerkes Aufbau einer Anwendung zur Sammlung unstrukturierter Daten Quantifizierung und Analyse der Daten Untersuchung der Eignung der Daten für Anlageentscheidungen Bewertung der Ergebnisse 3 Design as an Artifact, Problem Relevance, Design Evaluation, Research Contributions, Research Rigor, Design as a Search Process, Communication of Research.

8 7 3. Sentiment Analyse in sozialen Netzwerken Ein soziales Netzwerk ist eine im Zuge des Web 2.0 entstandene, virtuelle Gemeinschaft, über die soziale Beziehungen via Internet gepflegt werden können [Gabler14]. Die dabei entstehenden Inhalte weisen typische Charakteristika von Big Data auf: Die erzeugten Texte sind ein Beispiel für unstrukturierte Daten (Variety). Es werden sehr große Datenmengen erzeugt (Volume). Die Inhalte müssen je nach Anwendungsszenario nahezu in Echtzeit analysiert werden (Velocity). Das bekannteste soziale Netzwerk ist Facebook, dessen Data Warehouse bereits 2010 ein Volumen von 15 PB aufwies und in dem täglich mehr als 60 TB unstrukturierte Daten u.a. mit Hadoop verarbeitet wurden [Ashish10]. Welche Potenziale in der Analyse von sozialen Netzwerken liegen, zeigen z.b. [Asur10], [Dodds10], [Lau12] und [Chau12]: Lau et al. [Lau12] integrieren soziokulturelle und politische Aspekte aus sozialen Netzwerken in eine Scorecard für Unternehmensfusionsentscheidungen. Chau et al. [Chau12] entwickeln am Beispiel von zwei Fallstudien (Apple s Ipod und Starbucks) ein Framework zur Analyse von Blogs, mit dem sich u.a. Meinungsmacher und Netzwerkstrukturen identifizieren lassen. Eine Herausforderung bei der Analyse sozialer Netzwerke ist die automatisierte Verarbeitung sehr großer Textmengen. In diesem Zusammenhang müssen die qualitativen und unstrukturierten Informationen in den Texten quantifiziert werden, damit sie sich für anschließende Analysen eignen [Russell11]. Besonders interessant ist dabei die in den Texten zum Ausdruck kommende Stimmung (Sentiment). Stimmungskennzahlen lassen sich insbesondere mit Verfahren des Text Mining ermitteln. Man spricht in diesem Zusammenhang auch von Sentiment Analysen (bzw. Sentiment Analytics), Sentiment Mining oder Opinion Mining. Beispiele finden sich in [Antweiler01], [McDonald11], [Pang02] und [Burdick11]. Stimmungen spielen auch bei Anlageentscheidungen auf Finanzmärkten eine Rolle. Zahlreiche Studien zeigen, dass Aktienpreise nur bedingt der Theorie des vollkommenen Marktes [Fama65] folgen,

9 8 sondern im Sinne der Verhaltensökonomie [Nofsinger05] durch menschliche Stimmungen beeinflusst und damit zumindest in Ansätzen vorhersagbar werden [Qian07]. Ein klassischer Stimmungsindikator ist der Ifo Geschäftsklimaindex 4, der monatlich die gegenwärtige Geschäftslage und die Erwartungen für die nächsten sechs Monate von ca deutschen Unternehmen wiederspiegelt. In [Henzel13] und [Abberger07] wird gezeigt, wie sich dieser Indikator für Prognosen nutzen lässt. Moderne Verfahren der Textanalyse erlauben es, vergleichbare Indikatoren auf Basis sozialer Netzwerke automatisiert und nahezu in Echtzeit zu ermitteln, womit sie sich besser für Anlageentscheidungen eignen. Beispiele finden sich z.b. in [Chen14], [Tetlock08], [Demers10], [Gilbert10], [Tetlock10], [Gloor11], [Aase11] und [Zhang10a]. Neben sozialen Netzwerken eignen sich auch (Wirtschafts-)Nachrichten für eine automatisierte Analyse ([Mitram11], [Devitt07]). Dass sich in der quantitativen Finanzmarktanalyse auch Stimmungsfaktoren zunehmend etablieren, zeigt deren zunehmende Einbindung in kommerzielle Marktanalysesysteme wie z.b. Eikon [Lunden14]. Ein soziales Netzwerk, das sich insbesondere für Sentiment Analysen eignet, ist Twitter 5. Dabei handelt es sich um einen 2006 gegründetes und seit 2013 an der NYSE notiertes Unternehmen, dessen gleichnamige Anwendung es Benutzern erlaubt, maximal 140 Zeichen lange Kurznachrichten (Tweets) in Echtzeit öffentlich im Internet zu verbreiten. Im Oktober 2012 wurden täglich etwa 500 Millionen Tweets weltweit versendet [Holt13]. Twitter erlaubt über APIs einen kostenlosen Echtzeitzugriff auf die Tweets mit der Möglichkeit der Filterung. Beispiele für Sentiment Analysen auf Basis von Twitter finden sich z.b. in den folgenden Veröffentlichungen: [Kumar13], [Pak10], [Agarwal11], [Wood12], [Moreno13], [Jmal13], [Helmholz11], [Jansen09] und [Jiang11]. Speziell auf Sentiment Analysen in der Finanzindustrie ausgerichtet sind folgende Veröffentlichungen: [Ruiz12], [Yang13a], [Sprenger10], [Zhang13], [Xu12], [Bollen11], [Chen11] und [Zhang10b]. 4 cesifo-group.de 5 twitter.com

10 9 Eine häufig zitierte Veröffentlichung ist dabei die von Bollen et al. [Bollen11]. Darin wird gezeigt, dass the accuracy of DJIA 6 predictions can be significantly improved by the inclusion of specific public mood dimensions but not others. We find an accuracy of 86.7% in predicting the daily up and down changes in the closing values of the DJIA. Diese Ergebnisse basieren auf einer Analyse von knapp 10 Millionen Tweets im Zeitraum Februar bis Dezember Die Tweets wurden nach expliziten Stimmungsäußerungen (z.b. I feel ) ausgewählt. Bereiche guter Überlappung zwischen dem DJIA und dem Stimmungsverlauf sind in Abbildung 2 (oben) grau hinterlegt. In statistischen Analysen wird gezeigt, dass bestimmte Stimmungsverläufe (Calm z-score) die DJIA Schlusswerte drei Tage im voraus vorhersagen können. Abbildung 2: DJIA Verlauf (DJIA z-score, Mitte), Twitter Stimmungsverlauf (Calm z-score, unten) und deren Korrelation (oben) [Bollen11] 6 Dow Jones Industrial Average

11 10 Diese Ergebnisse motivierten P. Hawtin, einen Hedge Fund (The Derwent Absolute Return Fund Ltd.) aufzulegen, der seine Anlageentscheidungen insbesondere aus Twitter Stimmungen ableitet [Jordan10]. Abbildung 3 zeigt eine klassische Architektur für eine Sentiment Analyse aus [Mitram11]. Links finden sich mögliche Datenquellen z.b. aus dem Bereich Web 2.0 Social Media. Nach einer Pre- Analysis (i.w. Maßnahmen zur Steigerung der Datenqualität) findet die eigentliche Quantifizierung statt, indem die unstrukturierten Daten klassifiziert (z.b. in Nachrichten mit einer positiven oder negativen Stimmung) und daraus Stimmungsindikatoren (Sentiment Scores) berechnet werden. Diese werden im Folgenden z.b. mit Marktindices (z.b. DJIA) (Numeric financial market data) korreliert (Analysis), um daraus Vorhersagen zu Marktentwicklung (Return predictions) und letztendlich Anlageentscheidungen (Fund management decisions) abzuleiten. Abbildung 3: Klassische Architektur für eine Sentiment Analyse [Mitram11]

12 11 4. Auswahl eines geeigneten sozialen Netzwerkes Für die Fallstudie muss zunächst eine geeignete Datenquelle identifiziert werden. Mit Twitter und Facebook werden zwei klassische soziale Netzwerke untersucht. Zusätzlich wird Google Trends mit in die Untersuchung aufgenommen, um festzustellen, ob hier bereits (vor)analysierte Informationen verfügbar sind. Die Analyse erfolgt am Beispiel des Selbstmordes von Pierre Wauthier, Group CFO der Zurich Insurance Group, am Google Trends Google Trends liefert Informationen darüber, welche Suchbegriffe bei Google im Zeitverlauf wie oft eingegeben werden. Damit ließen sich prinzipiell Stimmungsverläufe im Internet verfolgen und bei Anlageentscheidungen berücksichtigen. Abbildung 4 zeigt den Verlauf für den Suchbegriff Zurich im relevanten Zeitraum (August 2013). Zwar wird eine deutliche Steigerung des Interesses deutlich. Weitere Details, sind aber nicht erkennbar (Zum Beispiel: In welchem (Stimmungs-)Kontext wurde nach dem Begriff gesucht?) Erschwerend kommt hinzu, dass für viele Aktien z.t. auch mit sehr großer Marktkapitalisierung (z.b. Fukuoka Financial Group Inc.) bei Google Trends keine Informationen verfügbar sind ( Das Suchvolumen ist zu gering ). Auch gibt es für Google Trends kein offizielles API, das eine automatisierte Analyse der Daten im größeren Umfange ermöglichen würde. Somit schneidet Google Trends als mögliche Datenquelle aus. Abbildung 4: Google Trends Verlauf für den Suchbegriff Zurich im Zeitraum August 2013

13 Facebook Auch bei Facebook finden sich zeitnah Informationen zum untersuchten Ereignis (siehe Abbildung 5). Informationen bei Facebook lassen sich per Graph API automatisiert auswerten. Allerdings ist der Zugriff auf öffentliche Informationen beschränkt, was eine breit angelegte Stimmungsanalyse erschwert, weil z.b. Firmenseiten häufig nur gefilterte Informationen bereitstellen und Informationen von Privatpersonen in aller Regel nicht frei zugänglich sind. Zwar gibt es bei Facebook ein Public Feed API und Keyword Insights API. Diese sind aber restricted to a limited set of media publishers 7 wie z.b. CNN. Somit scheidet (z.zt.) auch Facebook als mögliche Datenquelle aus. Abbildung 5: Informationen zum Tode von P. Wauthier bei Facebook 7 developers.facebook.com/docs/keyword_insights

14 Twitter Die SEC erlaubt börsennotierten Unternehmen seit 2013, in Twitter über börsenrelevante Nachrichten zu informieren [Gallu13]. So gibt es - mit einem Tag Verzögerung - auch einen Tweet von Zurich zum Tode von P. Wauthier (siehe Abbildung 6). Noch zeitnäher wurden Tweets von Nachrichtenagenturen und -sendern wie z.b. CNBC versendet (siehe Abbildung 7). Wie in Abschnitt 3 dargestellt, wird für Analysen sozialer Netzwerke häufig Twitter als repräsentatives Beispiel verwendet, da es viele Vorteile vereint: Die Tweets sind öffentlich und in Echtzeit zugänglich. Die hohe Anzahl an Tweets ermöglicht für viele Untersuchungen eine ausreichende Datenbasis. Die maximale Länge der Tweets von 140 Zeichen reduziert die Komplexität der Text Mining Analysen. Mit dem Search API und Streaming API stehen zwei Zugriffsmöglichkeiten zur Verfügung, die sich technisch gut umsetzen lassen. Einschränkungen ergeben sich nur aus der Tatsache, dass es keinen freien Zugriff auf historische Tweets (Archiv) gibt und die APIs Volumenbeschränkungen unterliegen. Beide Einschränkungen lassen sich durch kostenpflichtige Angebote von autorisierten Drittanbietern aufheben (z.b. Gnip und DataSift). Insgesamt stellt Twitter aber eine für die folgenden Untersuchungen sehr gut geeignete Datenquelle dar. Abbildung 6: Offizieller Zurich Tweet zum Tode von P. Wauthier bei Twitter Abbildung 7: Tweets von Nachrichtenagenturen und -sendern zum Tode von P. Wauthier

15 Eignung verschiedener Asset Klassen für Stimmungsanalysen mit Twitter Im Rahmen der Voruntersuchungen wurde abschließend die Frage adressiert, welche Asset-Klasse (Einzelaktien oder Aktienindices) sich im aktiven Portfolio Management insbesondere für Stimmungsanalysen mit Twitter eignt. Dazu wurde über das Twitter Search API (Garden Hose. Für Details siehe Abschnitt 5) das Tweet Volumen für verschiedene Suchbegriffe ermittelt. Für Aktienindices wurde nach Tweets gesucht, die Begriffe wie Stock, Stocks, Stock Market, Dow Jones und DJIA enthalten, da diese eine Gesamtstimmung vermitteln. Für Aktien wurden Tweets zu einzelnen Unternehmen, die eine hohe Marktkapitalisierung aufweisen, gesammelt. Die Ergebnisse sind in den Abbildungen 8 und 9 zusammengefasst. Abbildung 8: Anzahl der Tweets pro Stunde für Suchbegriffe im Bereich Aktienindices Abbildung 7: Anzahl der Tweets pro Stunde für Unternehmen mit hoher Marktkapitalisierung

16 15 Es wird deutlich, dass selbst für - nach Marktkapitalisierung - sehr große Unternehmen (z.b. Fukuoka Financial Group Inc.) oft nur eine sehr geringe Anzahl von Tweets versendet werden. Für Suchbegriffe aus dem Bereich Aktienindices ist hingegen eine für statistische Auswertungen ausreichende Anzahl von Tweets zu erwarten. Daher werden im folgenden Tweets zu den folgenden Suchbegriffen gesammelt: volatility, inflation, equity, emerging markets, central bank, stocks, stock market, crisis, economy. Andere Suchbegriffe (z.b. stock) haben sich nicht als sinnvoll erwiesen, da sie z.t. in sehr unterschiedlichen Kontexten verwendet werden (z.b. Coke is out of stock ). Eine Sentiment Analyse für einzelne Aktien erscheint deutlich komplexer. Für einen Großteil der Unternehmen wäre es erforderlich, eine Beziehung zwischen den Endverbraucherprodukten (z.b. Lucky Strike), denn nur für diese gibt es eine ausreichende Anzahl Tweets, und dem Unternehmen (in diesem Falle British American Tobacco) aufzubauen. Dieser Ansatz wird im Rahmen dieser Fallstudie nicht weiter verfolgt.

17 16 5. Twitter Streaming API Zur Sammlung von Tweets wird im Folgenden der Public Stream des Twitter Streaming APIs (Version 1.1) 8 verwendet. Das Search API 9 erwies sich nicht als sinnvoll, da es aufgrund der Rate Limits bei Suchbegriffen mit einer großen Antwortmenge zu Unterdeckungen auf der Zeitachse kommt. Das Twitter Streaming API wurde in Java unter Verwendung der Java Library twitter4j 10 implementiert. Zur Authentifizierung wurde OAuth 11 (Application Only Authentication) verwendet. Da die durch die o.g. Suchbegriffe zurückgelieferte Anzahl an Tweets unter dem Public Streaming Cap 12 (etwa 1% aller 500 Millionen Tweets pro Tag) verbleibt, werden ALLE Tweets bereitgestellt, die die Suchbegriffe enthalten. Zu jedem Tweet werden die folgenden Attribute (durch #+# getrennt) in einem txt File aufgezeichnet: status.getcreatedat() status.getretweetcount() 13 status.getisolanguagecode() status.getuser().getid() status.getuser().getscreenname() status.gettext() Ein aufgezeichneter Tweet sieht damit wie folgt aus: Fri Apr 11 09:05:16 CEST 2014#+#0#+#en#+# #+#FrequentFinance#+#Fitch upgrades Portugal's outlook: In the second half of last year, the economy pulled out of recession to sho dev.twitter.com/docs/api/streaming 9 dev.twitter.com/docs/using-search 10 twitter4j.org 11 dev.twitter.com/docs/auth/oauth 12 dev.twitter.com/docs/faq# Wird von Twitter im Streaming API nicht befüllt.

18 17 Zu beachten ist, dass die Suchbegriffe aufgrund der Funktionsweise des Streaming APIs nicht zwingend im Tweet selber auftreten müssen, sondern evtl. erst auf der verlinkten Webseite vorhanden sein können. Im Zeitraum bis wurden so ca Millionen Tweets gesammelt. Das entspricht etwa 3 GB unkomprimierter Textfiles. Abbildung 8 zeigt den gemittelten Verlauf der Anzahl der Tweets pro Tag. Die Anzahl wurde wegen deutlicher Schwankungen im Wochenzyklus über die letzten 7 Tage gemittelt. Man erkennt, dass es zu den o.g. Suchbegriffen ca bis Tweets pro Tag gibt. Der deutliche Anstieg in der Anzahl der Tweets pro Tag Ende Februar 2014 ist auf die zeitgleichen politischen Ereignisse in der Ukraine zurückzuführen. Abbildung 8: Gemittelte Anzahl der Tweets pro Tag zu den verwendeten Suchbegriffen im Zeitraum Dezember 2013 bis April 2014.

19 18 6. Twitter Sentiment Analyse Zur Ermittlung einer Stimmung müssen die Tweets klassifiziert werden, d.h. pro Tweet wird ein Stimmungswert ermittelt (z.b. positiv/negativ/neutral). Dazu bieten sich verschiedene Verfahren an. Verwendet werden im Folgenden der Bag of Words (oder Naive) Classifier und der Naive Bayes Classifier. Dies sind einfache, aber sehr robuste und weit verbreitete Verfahren [Mitram11]. Komplexere Verfahren wie z.b. Support Vector Machines (SVM) werden nicht verwendet. Aufgrund der beschränkten Zeichenanzahl 14 enthalten Tweets im Schnitt nur ca. 10 bis 12 Wörter. Damit ähneln sie eher Überschriften als komplexen Texten, weshalb die gewählten einfacheren Analyseverfahren ausreichend sein sollten. Die Analysen wurden mit R (Version 3.0.2) auf einem 64 bit Windows 7 PC mit 32 GB RAM und einem Intel Xenon Prozessor (E mit 3.3 GHz) durchgeführt. Dabei nahmen komplexere Analysen über längere Zeiträume ( einige Wochen ) einige Stunden in Anspruch. Die Verwendung einer Hadoop Architektur war daher bisher nicht erforderlich. Erst bei der Analyse längerer Historien ( Jahre ) und komplexerer Analysemodelle könnte dies in Zukunft notwendig werden. 6.1 Bag of Words Classifier Die Grundidee des Bag of Words Classifiers besteht darin, den Wörtern eines Tweets Stimmungswerte zuzuordnen und daraus einen Sentiment Score pro Tweet zu bestimmen (siehe auch Abbildung 9). Dieser kann im einfachsten Fall die Klassen positiv, negativ und neutral umfassen oder wie im folgenden verwendet die Summe der Stimmungswerte der einzelnen Wörter des Tweets sein 15. Der Bag of Words Classifier setzt die Existenz eines Lexikons für positive und negative Wörter voraus. Idealerweise ist das verwendete Lexikon domänenspezifisch, da Wörter in unterschiedlichen Kontexten unterschiedliche Bedeutungen haben können. So ist vice president im Wirtschaftskontext ein neutraler Begriff, währen vice (= Laster) sonst eher negative belegt ist. Standardmäßig werden 14 Maximal 140 Zeichen 15 Also z.b. +2, wenn der Tweet 4 positive und 2 negative Wörter (mit jeweiligem Gewicht 1) enthält.

20 19 im Folgenden die Wortlisten von McDonald [McDonald11] mit etwa 2700 Wörtern (2329 negative und 354 positive Wörter) verwendet 16. Diese wurden speziell für die Finanzbranche entwickelt. Abbildung 9: Grundidee des Bag of Word (oder Naive) Classifiers [Jurafsky]: Die positiven und negativen Wörter im zu betrachtenden Text werden identifiziert und bewertet. In diesem Beispiel sind die Wörter unterschiedlich stark gewichtet. Anschließend werden die Stimmungen aller Tweets eines Tages 17 zu einer Tagesstimmung zusammengefasst. Im einfachsten Falle geschieht dies durch die Bildung des arithmetischen Mittelwertes. Die Sentimentberechnungen werden in R durchgeführt. Dazu wird die Score Sentiment Funktion von Breen aus [Elder12] verwendet 18. Zu identischen Ergebnissen gelangt man, wenn man mit dem Text Mining Paket tm in R 19 unter Verwendung eines Dictionaries (= Lexikon) eine Term-Document 16 Diese stehen unter www3.nd.edu/~mcdonald/word_lists.html zum Download zur Verfügung. 17 Wenn im Folgenden von einem Tag die Rede ist, ist damit ein Kalendertag in New York City gemeint. 18 Der Code steht auch auf Github zum Download zur Verfügung: github.com/jeffreybreen/twitter-sentiment-analysistutorial Eine Einführung zum tm Package findet sich hier: cran.r-project.org/web/packages/tm/vignettes/tm.pdf

21 20 Matrix bildet und auf diesem Wege die Stimmungen berechnet. Da die Matrix nur sehr dünn besetzt ist, benötigt dieses Verfahren allerdings mehr Hauptspeicher (RAM). Ein mit dem Bag of Words Classifier ermittelter Stimmungsverlauf ist in Abbildung 10 dargestellt. Folgende Konfigurationsparameter wurden dazu verwendet: Score Sentiment Funktion: Breen [Elder12] Sentiment Funktion: Arithmetisches Mittel (Mean) Lexikon: McDonald [McDonald11] Tweets zu allen Suchbegriffen (s.o.) Mittelung über 9 Tage Erkennbar ist eine deutliche Verschlechterung der Stimmung ab dem Dies entspricht dem Datum der Absetzung von W. Janukowytsch, dem Ministerpräsidenten der Ukraine und damit dem Beginn der Ukraine Krise. In Abbildung 8 ist in diesem Zeitraum eine spürbare Zunahme in der Anzahl der Tweets erkennbar. Abbildung 10: Stimmungsverlauf. Weitere Erläuterungen finden sich im Text.

22 21 Um die Abhängigkeit des Stimmungsverlaufs von verschiedenen Einflussfaktoren besser beurteilen zu können, wird nun der Einfluss der Parameter Lexikon, Sentimentfunktion, Suchbegriffe und Reputation der Twitterer untersucht Bag of Words Classifier - Lexikon Neben dem bisher verwendeten Lexikon von McDonald [McDonald11] stehen weitere Lexika zur Verfügung 20. Im Zusammenhang mit Sentiment Analysen im Bereich der Sozialwissenschaften wird zum einen häufig das Harvard-IV-4 Dictionary 21 genutzt. Es umfasst 4206 Wörter (1915 positive und 2291 negative Wörter) und wurde z.b. in [Tetlock08] verwendet. Häufig zum Einsatz kommt auch das Opinion Lexikon 22 von Hu et al. [Hu04] mit ca Wörtern. Dies wird z.b. in [Jiang11] verwendet. Vergleicht man die mit den drei verschiedenen Lexika ermittelten Stimmungskurven (siehe Abbildung 11), wird deutlich, dass diese sehr ähnlich Verläufe aufweisen. Für alle drei Stimmungskurven wurde die Score Sentiment Funktion von Breen verwendet, die Sentiment Funktion Arithmetischer Mittelwert (Mean) und Tweets zu allen Suchbegriffen. In diesem Fall wurde keine Mittelung der Sentimentwerte über mehrere Tage durchgeführt. Aufgrund der spezifischen Ausrichtung auf die Finanzbranche wird bei allen folgenden Untersuchungen das Lexikon von McDonald verwendet. Wegen seines deutlich geringeren Wortumfangs im Vergleich zu den anderen Lexika weist es zudem Performancevorteile auf. 20 Für eine Sentiment Analyse ohne vordefiniertes Lexikon siehe den Abschnitt zum Naive Bayes Classifier. 21 Die positiven und negativen Wortlisten finden sich unter 22 Die positiven und negativen Wortlisten von Hu finden sich unter

23 22 Abbildung 11: Stimmungsverläufe für die verschiedenen Lexika von McDonald (unten), Hu (Mitte) und Harvard (oben) Bag of Words Classifier Sentimentfunktionen Prinzipiell können Stimmungskennzahlen durch verschiedene Sentimentfunktionen berechnet werden. Um deren Auswirkungen auf die Stimmungsverläufe zu untersuchen, werden folgende Sentimentfunktionen definiert: McD = Mean(All) McD1 = -N/(P+N) McD2 = (P-N)/(P+N) McD3 = log((1+p)/(1+n)) McD4 = P/N Wobei Mean(All) das arithmetische Mittel aller Tweets eines Tages berechnet. N steht für die Anzahl der negativen Tweets eines Tages (mit Sentiment -2) und P für die Anzahl positive Tweets eines Tages (mit Sentiment 2). Die verschiedenen Sentimentfunktionen und die Beschränkung auf

24 23 extreme Tweets (mit Sentiment 2 bzw. -2) beruhen auf Ansätzen aus [Tetlock08], [Tetlock10], [Bollen11] und [Antweiler01]. Aus den Stimmungsverläufen in Abbildung 12 wird deutlich, dass diese i.w. parallel liegen. Wegen seiner Einfachheit wird daher im Folgenden der arithmetische Mittelwert (Mean) 23 verwendet. Abbildung 12: Stimmungsverläufe für verschiedene Sentimentfunktionen Bag of Words Classifier - Suchbegriffe Die Stimmungsverläufe für Tweets, die jeweils die Suchbegriffe central bank, stocks, stock market und crisis (siehe Kapitel 4) enthalten, sind in Abbildung 13 aufgetragen. Man erkennt deutliche Unterschiede in den Verläufen. Allerdings ist dabei zu beachten, dass die verschiedenen Suchbegriffe auch ein sehr unterschiedliches Tweetvolumen aufweisen. Dies ist in Abbildung 14 dargestellt. Sehr viele Tweets pro Tag gibt es mit ca für den Suchbegriff crisis. Für infla- 23 Diese entspricht der McD Sentimentfunktion.

25 24 tion sind es hingegen nur knapp Tweets pro Tag. So wird deutlich, dass die stark fluktuierenden Stimmungen für stock market und central bank in Abbildung 13 im Zusammenhang mit einer sehr geringen Anzahl (< 5.000) Tweets pro Tag stehen. Die deutlich glatteren Stimmungsverläufe für crisis und stocks hingegen stehen im Zusammenhang mit einer deutlich höheren Anzahl Tweets pro Tag ( bzw ). Eine Auswahl bestimmter Suchbegriffe erscheint zunächst nicht sinnvoll. Daher werden im Folgenden alle Tweets (zu allen Suchbegriffen) in die Sentiment Analyse mit einbezogen. Abbildung 13: Stimmungsverläufe für verschiedene Suchbegriffe.

26 25 Abbildung 14: Anzahl Tweets pro Tag in Abhängigkeit vom Suchbegriff. Die ersten vier Suchbegriffe in der Reihenfolge von oben nach unten sind: crisis, economy, stocks und inflation Bag of Words Classifier - Reputation Ein weiterer Parameter, der einen Einfluss auf die Stimmungsverläufe haben könnte, ist die Reputation der Twitterer. Trotz Filterung der Tweets durch die Verwendung der oben genannten Suchbegriffe ist die inhaltliche Relevanz und Aussagekraft der Tweets sehr unterschiedlich. Eine Filtermöglichkeit zur Verbesserung der Qualität der Tweets bietet die Reputation der Twitterer. Ein erfolgversprechender Indikator für die Reputation der Twitterer ist deren Zahl der Follower (follo-