Data Mining in KNIME

Transkript

1 Fakultät für Wirtschaftswissenschaften Studiengang Master Digitale Logistik und Management Seminararbeit Data Mining in KNIME zur Veranstaltung Business Intelligence WS 2012/2013 Eingereicht von: Christian Ullrich (110173) Ann Kathrin Engel (110009) Prüfer: Prof. Dr. Cleve 1

2 Inhaltsverzeichnis I. Abbildungsverzeichnis 3 1. Daten 4 2. Datenvorbereitung Frage Frage Frage Frage Frage Frage Frage Frage Frage Frage Frage Frage Methoden und Verfahren K-Nearest-Neighbour Apriori Clustering (K-means) Naive Bayes Weka J Decision Tree Fazit 24 2

3 Abbildungsverzeichnis Abbildung 1: KNN 9 Abbildung 2: Apriori 11 Abbildung 3: K-means 15 Abbildung 4: Naive Bayes 16 Abbildung 5: Ergebnis-Matrix von Naive Bayes-Verfahren 17 Abbildung 6: Weka J48 17 Abbildung 7: Weka Entscheidungsbaum Zufriedenheit 18 Abbildung 8: Weka Entscheidungsbaum Studienleistung 19 Abbildung 9: Decision Tree 20 Abbildung 10: Decision Tree Predictor (1) 21 Abbildung 11: Decision Tree Predictor (2) 21 Abbildung 12: Decision Tree Predictor (3) 22 Abbildung 13: Confusion-Matrix vom Decision Tree 23 3

4 1. Daten Für unser Projekt im Modul Business Intelligence haben wir in der Gruppe eine Umfrage erstellt, die wir im Folgenden versuchen werden zu analysieren. Diese Umfrage enthält 26 Fragen zu allgemeinen Fragestellungen zum Studium sowie private Fragen. Im Stud.ip haben wir den Studenten der Hochschule Wismar die Umfrage zur Beantwortung zur Verfügung gestellt. Im Endeffekt haben 234 Studenten an der Umfrage teilgenommen. 2. Datenvorbereitung Im Folgenden werden wir unser Vorgehen beschreiben, wie wir die Analyse der Umfrage durchgeführt haben. Bevor wir die Daten in KNIME eingefügt haben, haben wir sie bearbeitet. Dies haben wir direkt in Excel durchgeführt. Eine Bearbeitung aller Daten war nicht erforderlich. Wir werden in den folgenden Kapiteln nur die Fragen aufzeigen, bei denen uns Besonderheiten aufgefallen sind und die Fragen, die von uns bearbeitet worden sind. Auch werden wir hier erläutern, wie wir mit Fehlern umgegangen sind. Zur Bearbeitung der Daten haben wir ein neues Excel Sheet in der Excel Mappe erstellt. Zusätzlich haben wir zur Vereinfachung und zur Übersicht die Fragen durchnummeriert. 2.1 Frage 2 Die Frage 2 lautete In welchem Semester bist Du?. Hierbei kam es zu Missverständnissen bei der Umfrage. Einige der Teilnehmer haben ihre Hochschulsemesteranzahl angegeben und nicht wie vorgegeben die Fachsemesteranzahl. Dieses Problem ist bei den Masterstudenten der unterschiedlichen Studienrichtungen vorgekommen. Die Daten der DLM Master Studenten konnten wir entsprechend anpassen, so dass wir die Datensätze Nummer 29, 91, 111, 176 verändert haben. Die anderen Daten konnten wir leider nicht anpassen. 4

5 2.2 Frage 6 Diese Frage bestand aus zwei Teilen: 1. Welchen Studiengang hast du vorher belegt? 2. Wenn Nein, welchen Studiengang hast du vorher belegt? Aus diesen zwei Fragen haben wir eine Frage gemacht, die wie folgt lautet: Welchen Studiengang hast du vorher belegt? Teilnehmer, die vorher keinen Studiengang belegt haben, haben diese Fragen mit einer 0 beantwortet. Bei den Teilnehmern, die bereits einen Studiengang belegt haben, wurde der entsprechende Studiengang angegeben. Leider ist es hierbei auch zu Fehler gekommen, die jedoch handschriftlich korrigiert werden konnten. Das Masterstudium sollte bei der Frage als Erststudium betrachtet werden. Dies betraf folgenden Teilnehmer: Teilnehmer 152 Der Teilnehmer gab an, dass er zuvor ein Wirtschaftsinformatik Bachelor Studium absolviert hat. Da er in der Umfrage angegeben hat, dass er jetzt im Wirtschaftsinformatik Master studiert, wurde der Datensatz mit einer Null versehen. Das vorangegangene Wirtschaftsinformatikstudium wurde gelöscht. Bei drei Teilnehmer (Datensatz 92, 104, 229) haben zwar geantwortet, dass sie bereits einen Studiengang vorher belegt haben. Leider keine Angaben dazu gemacht, welchen Studiengang sie vorher belegt haben. Diese Datensätze haben wir durch den Vermerk keine Angabe gekennzeichnet. Des Weiteren ist uns bei der Bearbeitung eine weitere Inkonsistenz aufgefallen. Dies betrifft den Studiengang Betriebswirtschaft. Teilweise wurde die Frage mit Bachelor BW oder mit Betriebswirtschaftslehre beantwortet. Leider können wir hier nicht eine Annahme treffen, um welchen Studiengang es sich tatsächlich handelt. Wir lassen beide Datensätze in die Umfrage mit eingehen. Denn der Student kann von einer anderen Hochschule gekommen sein und sein Studium der Betriebswirtschaftslehre dort absolviert zu haben. Diese betrifft den Datensatz Frage 7 Diese Frage drehte sich um die Wahl des Studienortes. Hierbei gab es insgesamt sechs Antwortmöglichkeiten. Zusätzlich war bei dieser Frage eine Mehrfachantwort möglich. Diese Frage haben wir gestrichen. 5

6 2.4 Frage 9 Die Fragestellung bezog sich auf die Arbeitsmarktchancen, die sich nach dem Abschluss des Studiums ergeben werden. Insgesamt bestand die Frage aus zwei Teilfragen. Diese Teilfragen haben wir in Excel zu einer Frage zusammengefügt. Die Antwortmöglichkeiten waren: sehr gut(0), gut(1), okay(2), mäßig(3), schlecht(4). Ergänzt wurde die Antwortmöglichkeit weiß nicht. Diese erhielt die Nummer 5. Zusammengefügt wurden die Fragen durch die WENN Funktion von Excel: =WENN(R3="";5;R3). So ist es auch gegeben, dass alle Datensätze Zahlen enthielten und keine leeren Zeilen vorhanden waren. 2.5 Frage 12 Die Frage 12 bezog sich auf die zusätzlich Arbeit neben dem Studium. Auch diese Frage bestand zunächst aus zwei Fragen, die wie folgt lauteten: 1. Gehst du zusätzlich arbeiten? 2. Wenn Ja, wie viele Stunden arbeitest du in der Woche? Wie zuvor haben wir aus diesen beiden Fragen eine Frage formuliert: Wie viele Stunden gehst du zusätzlich in der Woche arbeiten? Auch diese Frage haben wir mit der WENN Funktion von Excel zusammengefügt: =WENN(W3=1;5;X3) Die bisherigen Antwortmöglichkeiten wurden durch null Stunden Arbeit (5) ergänzt. 1-5h(0), 6-10h(1), 11-15h(2), 16-20h(3), 21+ h(4), 0 h (5). Bei der Frage kam es dazu, dass teilweise fehlende oder falsche Angaben gemacht worden sind. Dies betrifft die Datensätze 87 und 227. Diese haben wir mithilfe des KNN Verfahren berechnet. Wir kommen im Folgenden noch darauf zu sprechen. 6

7 2.6 Frage 14 Die Frage 14 bezog sich darauf in welchen Wohnverhältnissen sich die Studenten befinden. Hierbei wurden den Befragten folgende Antwortmöglichkeiten gegeben: 1. Eigentumswohnung/-haus 2. Mietwohnung 3. Wohngemeinschaft 4. Studentenwohnheim 5. Eltern Diese Antwortmöglichkeiten wurden wie folgt zusammengefasst: 1. Eigentumswohnung/-haus 2. Mietwohnung 3. Wohngemeinschaft 4. WG in Mietwohnung 5. Studentenwohnheim 6. Eltern Die Antwortmöglichkeit WG in Mietwohnung wurde ergänzt, weil es zu Doppelnennungen kam bei den Antwortmöglichkeiten Mietwohnung und Wohngemeinschaft. Die Doppelnennungen bei den Antwortmöglichkeiten Mietwohnung und Eltern wurden geändert, so dass nur die Antwortmöglichkeit Mietwohnung vorhanden war. 2.7 Frage 15 Diese Frage bezog sich darauf wie viele Quadratmeter Wohnfläche dem Studenten zur Verfügung steht. Die Frage wurde ergänzt durch die Antwort 5 weiß nicht. Somit ergaben sich keine fehlenden Antworten. Die Zusammenführung der Frage erfolgt durch die Wenn Funktion: =WENN(AH3="";4;AH3) 2.8 Frage 16 Wie bereits bei Frage 15 wurde bei dieser Frage, bei der es sich um die Einschätzung der Studienleistung handelt, die Antwortmöglichkeit 5 weiß nicht ergänzt. Ebenfalls erfolgte die Zusammenführung über die Wenn Funktion: =WENN(AK3="";5;AK3) 7

8 2.9 Frage 20 Die Frage bestand zuvor aus zwei Teilfragen: 1. Besitzt Du einen Fernseher? 2. Wenn Ja, wie viele Stunden schaust Du in der Woche? Diese Fragen wurden zusammengefasst zu folgender Frage: 1. Wie viele Stunden schaust du Fernsehen in der Woche? Die Antworten der Studenten mit 1 (Ich habe keinen Fernseher ) wird so gedeutet, dass sie null Stunden die Woche fernsehen. Eine fehlerhafte Eingabe war nur bei Datensatz 161 gegeben. Dieser wurde mit Hilfe des KNN berechnet. Wir kommen in Abschnitt 4. darauf zu sprechen. Zusammengefügt wurden die Fragen mithilfe der Excel Funktion: =WENN(AQ66=1;0;AR66) 2.10 Frage 21 Ebenso wie die vorangegangene Frage bestand die Frage zunächst aus zwei Teilfragen: 1. Spielst Du Video-/Onlinespiele? 2. Wenn Ja, wie viele Stunden in der Woche? Aus diesen zwei Teilfragen wurde die Fragestellung: 1. Wie viele Stunden pro Woche Spielst du Online-/Videospiele? Hierbei musste jedoch die Antwortmöglichkeit 4 (null Stunden) ergänzt werden. Dies betrifft die Datensätze, die den ersten Frageteil mit Nein beantwortet hat. Die Wenn Funktion zum Zusammenfügen der Spalten lauten wie folgt: =WENN(AT66=1;4;AU66) 2.11 Frage 24 Diese Frage beschäftigt sich damit, wie der Student zur Hochschule kommt. Hierbei gab es insgesamt sieben Antwortmöglichkeiten. Zusätzlich war bei dieser Frage eine Mehrfachantwort möglich. Diese Frage haben wir gestrichen Frage 25 Diese Frage drehte sich um die Art der Fortbewegung in Wismar. Hierbei gab es insgesamt sechs Antwortmöglichkeiten. Zusätzlich war bei dieser Frage eine Mehrfachantwort möglich. Diese Frage haben wir gestrichen. 8

9 3. Methoden und Verfahren 3.1 K Nearest Neighbour Wie bereits bei der Datenaufbereitung erwähnt, enthielten Fragen fehlende oder falsche Antworten. Diese wurden mit Hilfe des KNN Verfahrens berechnet. Unbekannte Objekte sollen klassifiziert werden, dies erfolgt durch die Ähnlichkeit der Attributwerte zu bereits gespeicherten Attributwerten. 1 Der Aufbau des KNN sieht wie folgt aus: Abb. 1: KNN 2 Die Daten wurden mit einem XLS Reader eingelesen. Mit dem Column Filter wurden die Spalten herausgenommen, die keine Bedeutung hatten für die Bearbeitung. Mit einem Number to-string Operator wurden die Spalten, die für unsere Betrachtung wichtig sind, umgewandelt. Als Nächstes folgte ein Row Splitter. Dieser selektierte die Spalte, in der die fehlenden Werte ermittelt werden sollten. Dies betraf nach Abschluss der Datenvorbereitung die Frage 12 Arbeit, die Frage 13 Budget und die Fragen 20 und 21 Fernseher und Spiele. Den Abschluss bildete dann der K Nearest Neighbour. Berücksichtigt werden sollten die nächsten acht Nachbarn (k = 8). Für die Frage 12 Arbeit ergaben sich folgende Ergebnisse: Datensatz Antwort Für die Frage 13 Budget ergaben sich folgende Ergebnisse: Datensatz Antwort 1 Vgl. Prof. Dr. Cleve, Data Mining, S Quelle: Knime,

10 Für die Frage 20 Fernseher ergaben sich folgende Ergebnisse: Datensatz Antwort Für die Frage 21 Spiele ergaben sich mit dem KNN Verfahren folgende Ergebnisse: Datensatz Antwort Die fehlenden Werte wurden nach der Berechnung in die Excel Daten hinzufügt. 3.2 Apriori - Verfahren Mit Hilfe des Apriori Verfahrens haben wir versucht Assoziationsregeln zwischen den unterschiedlichen Fragen zu erkennen. Der Aufbau des Apriori Verfahrens sieht wie folgt aus: Abb. 2: Apriori 3 Der XLS Reader liest die Excel Datei ein. Durch den Column Filter werden die Spalten isoliert, die für die Betrachtung nicht wichtig sind. Im folgenden Schritt werden 3 Quelle: Knime,

11 dann die Daten mithilfe eines Number to String in Zeichenketten umgewandelt. Den Abschluss bildet dann der Apriori Operator. Zu Beginn haben wir einen minimalen Support zunächst von 50% gewählt. Des Weiteren sollten nur 10 Regeln ausgegeben werden. Ausgegeben wurden folgende Werte: Frage Antwort Anzahl Antworten 3. Geschlecht Alter Berufsausbildung Erststudium BafÖg finanzielle Unterstützung Studienleistung Zufriedenheit Zeitanspruch Spiele Sport Im Folgenden werden diese Daten verwendet um diese Beziehungen zueinander zu ermitteln. Frage 1 Antwort Frage 2 Antwort Anzahl Antworten 3. Geschlecht 0 6. Erststudium Alter 1 6. Erststudium Erststudium Bafög Erststudium 0 11.finanz. Unterstütz Erststudium Studienleistung Erststudium Zufriedenheit Erststudium Zeitanspruch Erststudium Spiele

12 6. Erststudium Sport Eigentlich sollten diese Beziehungen ein weiteres Mal in Beziehung zueinander gesetzt werden, jedoch wurden hierfür keine Ergebnisse ausgegeben. Grund hierfür ist, dass der minimale Support von 50 % nicht erreicht worden ist. Ein Heruntersetzen des Supports auf 2% veränderte hierbei auch nichts. Es ergaben sich keine Veränderungen. Die besten 10 Regeln sind hieraus dann Folgende: 1. Wenn 3. Geschlecht = 0 Dann 6. Erststudium = 0 (Conf.= 94%) 2. Wenn 16. Studienleistung = 1 Dann 6. Erststudium = 0 (Conf.= 93%) 3. Wenn 21. Spiele = 4 Dann 6. Erststudium = 0 (Conf.= 93%) 4. Wenn 4. Alter = 1 Dann 6. Erststudium = 0 (Conf.= 92%) 5. Wenn 11. Finanz. Unterstütz. = 0 Dann 6. Erststudium = 0 (Conf.= 91%) 6. Wenn 19. Zeitanspruch Studium = 0 Dann 6. Erststudium = 0 (Conf.= 90%) 7. Wenn 23. Sport = 0 Dann 6. Erststudium = 0 (Conf.= 90%) 8. Wenn 10. Bafög = 1 Dann 6. Erststudium = 0 (Conf.= 90%) 9. Wenn 17. Zufriedenheit = 0 Dann 6. Erststudium = 0 (Conf.= 90%) 10. Wenn 6. Erststudium = 0 Dann 21. Spiele = 4 (Conf.= 66%) Im nächsten Versuch wurde die Frage 6. Erststudium herausgenommen und mit einem minimalen Support von 50 % berechnet. Hierbei kam es zu keinerlei Ergebnissen, die erzielt werden konnten. Daraufhin haben wir den minimalen Support auf 20 %. Darauf ergaben sich folgende Regeln: 1. Wenn 16. Studienleistung = 1 Dann 17. Zufriedenheit = 0 (Conf.= 82%) 2. Wenn 5. Berufsausbildung = 1 Dann 4. Alter = 1 (Conf.= 81%) 3. Wenn 3. Geschlecht = 0 Dann 21. Spiele = 4 (Conf.= 78%) 4. Wenn 5. Berufsausbildung = 1 Dann 11. finanzielle Unterstützung = 0 (Conf.= 77%) 5. Wenn 11. Finanzielle Unterstützung = 0 Dann 4. Alter = 1 (Conf.= 77%) 6. Wenn 10. BAföG = 1 Dann 11. Finanzielle Unterstützung = 0 (Conf.= 76%) 12

13 7. Wenn 17. Zufriedenheit = 0 Dann 16. Studienleistung = 1 (Conf.= 76%) 8. Wenn 4. Alter = 1 Dann 11. Finanzielle Unterstützung = 0 (Conf.= 75%) 9. Wenn 19. Zeitanspruch Studium = 0 Dann 17. Zufriedenheit = 0 (Conf.= 74%) 10. Wenn 11. Finanzielle Unterstützung = 0 Dann 10BAföG = 1 (Conf.= 71%) Mit dem Apriori Verfahren lassen sich Assoziationsregeln ermitteln. Leider ergeben nicht alle der ergebenen Regeln einen Sinn. Eine Zielsetzung kann man dem Apriori Verfahren leider nicht vorgeben, wie zum Beispiel beim Entscheidungsbaum. Nur über den Column Filter kann man auf die Regeln Einfluss nehmen, indem Spalten herausgenommen werden. Im ersten Versuch wurden alle Spalten betrachtet. Bei der Regelausgabe war die Frage nach dem Erststudium vorherrschend. Dennoch sind auch hierfür sinnvolle Regeln herausgekommen. 1. Wenn das Alter = 1 ist, also zwischen 21 und 25 Jahren, ist es das Erststudium und zuvor wurde kein anderer Studiengang belegt. Hierdurch kann man Erkenntnisse über die Altersstruktur in den einzelnen Studiengängen sammeln. Wie bereits oben im Abschnitt 4. Aufgezeigt, gibt es noch weitere Regeln Im zweiten Versuch haben ich die Frage nach dem Erststudium (Frage 6) im Column Filter rausgenommen, dadurch ergaben sich weitere Regeln, die eine Aussagekraft bezüglich der Zufriedenheit mit den Studienleistungen beinhaltet sowie über finanzielle Mittel Auskunft gibt. Teilweise kam es hierbei dazu, dass Regeln sich im Sinn bestätigten und so mehr oder weniger doppelt genannt wurden. 2. Wenn die Studienleistungen = 1 sind, also gut sind, sind die Studenten auch mit der Studienleistung zufrieden. In Bezug auf bereits abgelegt Berufsausbildungen kann man sagen: 3. Wenn die Berufsausbildung = 1 ist, also keine Berufsausbildung zuvor abgeschlossen wurde, dass das Alter der Studenten im Studium zwischen 21 und 25 Jahren liegt (Alter = 1). Diese Aussage wurde bereits im ersten Versuch ebenfalls gemacht (siehe 1.) 13

14 Eine weitere, wichtige Aussage wird in Bezug auf das Budget gemacht: 4. Wenn der Student kein BAFöG erhält (BAFöG = 1), dann ist die finanzielle Unterstützung der Eltern gegeben (finanzielle Unterstützung = 0). Wie zu Beginn erwähnt, kam es hierbei dazu, dass eine Regel die andere Regel bestätigte. So bestätigt diese Regel die bereits genannte Regel Wenn du Studenten mit ihrer Leistung im Studium zufrieden sind, dass sie gute Leistungen im Studium erbringen. Weiterhin lässt sich eine Verbindung der beiden Fragen zum Zeitanspruch des Studiums treffen und der Zufriedenheit mit den Studienleistungen: 6. Wenn der Zeitanspruch des Studiums geringer ist als 20 Stunden die Woche inklusive Vorlesungen (Zeitanspruch = 0), sind die Studenten auch mit ihren Studienleistungen zufrieden (Zufriedenheit = 0). Leider kann man beim Apriori Verfahren nicht mit einem Scorer die Richtigkeit dieser Assoziationsregeln überprüfen. 3.3 Clustering (K Means) Der k-means-algorithmus ist ein Verfahren zur Clusteranalyse. Ziel dieses Verfahrens ist es, ähnliche Merkmale in einer zuvor festgelegten Anzahl von Clustern zusammenzufassen. Bevor mit der Umsetzung des Verfahrens begonnen werden kann muss die Anzahl der Cluster festgelegt werden. Anschließend werden dann im ersten Schritt für jedes Cluster zufällig Centroide gebildet. Die Centroide werden in mehreren Schritten solange neu berechnet, bis sie sich nicht mehr bzw. kaum merkbar verändern. Die Anwendung des Verfahrens ist relativ einfach und schnell. Jedoch gab es bei der Umsetzung unseres Projektes Probleme bei der Bewertung der Ergebnisse. Es wurden 3 Cluster vorab definiert. Die Ergebnisse ergaben allerdings mehr als 3 Cluster. Außerdem beinhalteten die berechneten Vorhersagen eine sehr hohe Fehlerrate (bis zu 100%). Die folgende Abbildung 3 stellt das k-means-verfahren in Knime dar. Aufgrund der nicht zufriedenstellenden Lösungen wurde dieses Verfahren nicht weiter berücksichtigt. 14

15 Abb. 3: K-means Naive Bayes Das Naive Bayes - Verfahren ist ein mathematisches Verfahren zur Klassifizierung. Ziel dieser Methode, ist die Vorhersage der wahrscheinlichsten Klasse. Grundvoraussetzung ist, dass alle Attribute voneinander unabhängig sind. Wie beim A-priori - Verfahren beginnt das Naive Bayes - Verfahren mit den Knoten XLS - Reader, Number - to - String und Column Filter. Der vierte Knoten ist das Partitioning. Er stellt zugleich den Beginn des eigentlichen Naive Bayes - Verfahren dar. Bei dem Partitioning werden die Daten in eine Test - und in eine Trainingsmenge unterteilt. Die Testmenge beträgt 20%, die Trainingsmenge 80% der Daten. Der Knoten Partitioning besitzt zwei Verbindungsausgänge. Der Ausgang, der die Trainingsmenge beinhaltet, wird mit dem Naive Bayes Learner verbunden. Die anderen 20% werden direkt mit dem Naive Bayes Predictor verbunden. Knime lernt das Muster der Daten mithilfe des Naive Bayes Learner kennen. Anschließend wendet er die gewonnen Erkenntnisse dann auf die anderen 20% der Daten im Naive Bayes Predictor an. Unter Zuhilfenahme eines Scorers kann dann festgestellt werden, wie die Vorhersage ausgefallen ist (siehe Abbildung 4). 4 Quelle: Knime,

16 Abb. 4: Naive Bayes 5 Um das Verfahren durchführen zu können wird zu Beginn beim Learner das Zielattribut eingestellt. Dies ist im folgenden Beispiel Zufriedenheit. Anschließend werden die zu betrachtenden Spalten im Scorer festgelegt. Als first column wird ebenfalls Zufriedenheit und in der second column Winner ausgewählt. Die daraus folgende Confusion Matrix des Scorers sieht wie folgt aus: Abb. 5: Ergebnis-Matrix vom Naive Bayes-Verfahren 6 Die Vorhersagegenauigkeit aller Merkmalsausprägungen beträgt 85,11 %. Die Fehlerrate liegt bei 14,89 %. In diesem Fall sind 24 Ja s (das entspricht einem Prozentsatz von 96 %) und 16 Nein s (73 %) korrekt vorhergesagt worden. 3.5 Entscheidungsbaum (Weka J48) Der Aufbau zur Erstellung eines Entscheidungsbaumes sieht wie folgt aus: 5 Quelle: Knime, Quelle: Knime,

17 Abb. 6: Weka J48 7 Zunächst erfolgt der allgemeine Aufbau mit dem XLS Reader, dem Column Filter und dem Number to String. Im nächsten Schritt wurde ein Partitioning eingefügt. Dieser trennte die Datenmenge im Verhältnis 80:20. Da für den Weka Entscheidungsbaum nominale Werte gegeben sein müssen, wurde ein String-to-Number eingefügt. Anschließend folgte dann der J48 bei der Trainingsmenge. Beide Pfeile, sowohl die Trainings- als auch die Testmenge, gehen dann weiter zum Weka Predictor, der durch das Erlernte des J48 einen Entscheidungsbaum erstellt, Die Zielstellung wird im J48 ausgewählt. Ein Scorer wird anschließend noch angefügt. Dieser dient jedoch nur zur Überprüfung der Ergebnisse des Weka Predictor. Bei meiner Untersuchung der Umfrage mit dem Entscheidungsbaum habe ich mich zunächst auf die Frage 26 gestützt, um die Zufriedenheit mit der derzeitigen Lebenssituation zu analysieren. 7 Quelle: Knime,

18 Abb. 7: Weka-Entscheidungsbaum Zufriedenheit 8 Auf Grund der Größe des Entscheidungsbaums werde ich nur im Folgenden ein paar Aussagen aufführen. 1. Wenn der Zeitanspruch des Studiums höher ist als 50 Stunden die Woche, die Befragten mehr als 10 Stunden Fernsehen schauten, kein BAFöG bezogen wurde, die Studenten mit ihrer Lebenssituation eher unzufrieden sind. 2. Wenn der Zeitanspruch des Studiums geringer ist 50 Stunden die Woche, Die Befragten nicht in einer Eigentumswohnung wohnen, es sich um Masterstudenten handelt, die Chancen auf dem Arbeitsmarkt später mindestens gut sind, dann sind die Studenten mit ihrer Lebenssituation zufrieden. 3. Wenn der Zeitanspruch des Studiums geringer ist als 50 Stunden die Woche, sie nicht in einer Eigentumswohnung wohnen, es sich um Bachelor Studenten handelt, die Zufriedenheit mit den Studienleistungen gegeben ist, das Budget bis zu 500 Euro reicht, das Alter unter 25 Jahren liegt, die Arbeitsmarktchancen mindestens gut eingeschätzt werden, dann sind die Befragten mit ihrer Lebenssituation zufrieden. Die Beurteilung durch den Weka Predictor sieht wie folgt aus: Evaluation: Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Quelle: Knime,

19 Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 47 Im Anschluss daran wurde noch die Zufriedenheit mit den Studienleistungen analysiert. Der Entscheidungsbaum sieht dann wie folgt aus: Abb. 8: Weka-Entscheidungsbaum Studienleistung 9 Anhand dieses Entscheidungsbaumes kann man folgende Aussage treffen: 1. Wenn die Studienleistungen sehr gut sind, dann sind die Studenten mit ihrer Studienleistung zufrieden. 2. Wenn die Studienleistungen schlechter sind als sehr gut, die Studenten männlich sind, dann sind die Studenten mit ihren Studienleistungen zufrieden. 3. Wenn die Studienleistungen schlechter sind als sehr gut, die Studenten weiblich sind, Wismar der Wunschort der Befragten ist, die Studenten im zweiten Semester oder höher sind, sind die Studenten mit ihren Studienleistungen zufrieden. 4. Wenn die Studienleistung schlecht sind als sehr gut, das Geschlecht weiblich ist, Wismar nicht der Wunschort zum Studienort ist, die Wohnfläche geringer ist als 10 Quadratmeter, sind die Studenten nicht mit ihren Studienleistungen zufrieden. Die Beurteilung durch den Weka Predictor ergab Folgendes: Evaluation: 9 Quelle: Knime,

20 Correctly Classified Instances % Incorrectly Classified Instances % Kappa statistic Mean absolute error Root mean squared error Relative absolute error % Root relative squared error % Total Number of Instances 47 Im Gegensatz zum Vorgänger zeigt sich hier, dass eine deutlich höhere Anzahl der Instanzen korrekt klassifiziert worden sind. Somit ist die Aussagekraft der entstandenen Regeln deutlich besser einzuschätzen. 3.6 Decision Tree Der Aufbau des Decision Tree sieht wie folgt aus: Abb. 9: Decision Tree 10 Der Decision Tree ist zu Beginn ebenso aufgebaut wie der J48. Die Daten werden in eine Trainings- und eine Testmenge geteilt. Die Datenmenge wird erneut im Verhältnis 80:20 gewählt. Genauso wie beim J48 wird ein Decision Tree Learner zunächst eingesetzt, der mithilfe der Testmenge das Verhalten lernt. Die Testmenge wird direkt mit dem Decision Tree Predictor verbunden. Abschließend wurde ein Scorer zur Überprüfung der Aussagekraft eingefügt. 10 Quelle: Knime,

21 Um einen Vergleich der beiden Entscheidungsbäume zu ziehen, werde ich wieder nach den Zielstellungen Zufriedenheit und Lebenssituation suchen. Die Einstellungen wurden ansonsten wie vorgegebenen beibehalten. Wir werden zunächst auf die Zufriedenheit mit den Studienleistungen eingehen. Die Ausgabe des Decision Tree Predictor sieht wie folgt aus. Abb. 10: Decision Tree Predictor (1) 11 Hier zeigt sich, dass 59,9% der Befragten mit ihrer Studienleistung zufrieden sind. Hiervon zeigt sich, dass 79,2% der Befragten Studenten mit ihren Studienleistungen zufrieden sind, wenn die Studienleistungen als gut bewertet sind. 92 % der Studenten sind zudem im ersten Semester ihres Studiums und zufrieden mit ihrer Studienleistung. Die Einschätzung der Lebenssituation wird als zufrieden beurteilt, zugleich sind dann 93% auch mit ihren Studienleistungen zufrieden. Die Ausgabe des Scorers ergab folgendes Ergebnis: 11 Quelle: Knime,

22 Abb. 11: Decision Tree Predictor (2) 12 Im Vergleich zum J48 sind bei dieser Fragestellung zwar weniger Instanzen korrekt klassifiziert, jedoch hat der Decision Tree auch weniger Instanzen ausgewählt. Durch die korrekt, klassifizierten Instanzen lässt sich sagen, dass eine volle Aussagekraft leider nicht gegeben ist, man aber dennoch Aussagen daraus ziehen kann. Bei der Bewertung der Lebenssituation ergab sich folgendes Bild, wobei die vorgegebenen Angaben beibehalten wurden. Abb. 12: Decision Tree Predicator (3) 13 Eine volle Ansicht des Decision Tree kann aufgrund der Größe leider nicht gegeben werden. Es zeigt sich, dass 1. 49,2 % mit ihrer Lebenssituation zufrieden sind 2. 8% mit ihrer Lebenssituation eher unzufrieden sind 3. 27,3 % eher zufrieden sind 4. 3,2 unzufrieden sind und 5. 12,3% sehr zufrieden sind. 12 Quelle: Knime, Quelle: Knime,

23 Fast die Hälfte der Studenten die ihr Erststudium besuchen, sind mit ihrer Lebenssituation zufrieden. Von den Studenten, die ihr Studium als Erststudium machen (169 Studenten), sind 49% der Studenten mit ihrer Lebenssituation zufrieden. Dies betrifft insgesamt 83 Studenten. Von den Studenten, die im Erststudium sich im dritten Semester befinden, liegt die Zufriedenheit bei 46,7 %. Des Weiteren lässt sich sagen, dass 63,6% der Studenten mit ihrer Lebenssituation zufrieden sind, wenn der Zeitaufwand des Studiums zwischen Stunden liegt. Bei der Bewertung der Lebenssituation ergab sich bei der Bewertung durch den Scorer folgendes Ergebnis: Abb. 13: Confusion-Matrix vom Decision Tree 14 Dieses Ergebnis ist besser als das Ergebnis des J48. Eine richtige Aussagekraft lässt sich hieraus jedoch nicht ziehen. 14 Quelle: Knime,

24 4. Fazit Die Daten aus dem Fragebogen aufzubereiten hat den größten Teil der Arbeitszeit in Anspruch genommen. Insbesondere das Zusammenfassen und die Transformation der vorhandenen Daten gestaltete sich als sehr zeitaufwändig. Außerdem mussten mehrere nachträgliche Korrekturen vorgenommen werden. Des Weiteren traten Fehler bei der Umsetzung der verschiedenen Verfahren auf sodass eine beträchtliche Zeit verwendet wurde um Testläufe und Korrekturen der Daten vorzunehmen. Von den eingesetzten Verfahren konnten nicht alle verwertbare Ergebnisse liefern. So konnten der J48 und das K-means Verfahren nur teilweise in unseren Betrachtungen berücksichtigt werden, da dort überwiegend bzw. bei einer Vielzahl von Daten keine zufriedenstellenden Ergebnisse geliefert werden konnten. Gute Lösungen boten vor allem das Apriori und das Naive Bayes Verfahren. Bei dem Apriori Verfahren ist besonders hervorzuheben, dass es relativ einfach und schnell umzusetzen ist. Allerdings traten bei der Bewertung der Ergebnisse Probleme auf wenn alle Spalten betrachtet werden. Das Naive Bayes Verfahren lieferte überwiegend verwertbare Ergebnisse und war relativ schnell durchzuführen. Abschließend ist festzuhalten, dass durch die Anwendung der Verfahren und die Bearbeitung der Daten ein tieferer Einblick in das Data Mining genommen werden konnten. Insbesondere der Einsatz der Software Knime erlaubte uns, dass Projekt relativ anschaulich anzueignen. 24