MiningMart vs. RapidMiner. Ausarbeitung für die Veranstaltung. Web Controlling Dr. Boris Delibašić

Transkript

1 Friedrich Schiller Universität Jena Wirtschaftswissenschaftliche Fakultät Lehrstuhl für Wirtschaftinformatik Prof. Dr. J. Ruhland MiningMart vs. RapidMiner Ausarbeitung für die Veranstaltung Web Controlling Dr. Boris Delibašić Eingereicht von: Andreas Brückner Alexander Hohl Christian Ludwig Matr.Nr.: Matr.Nr.: Matr.Nr.: Jena, der 14. April 2009

2 1. Kurzvorstellung Benutzerfreundlichkeit Usability RapidMiner Support RapidMiner Usebility MiningMart Support MiningMart Struktur des Programms MiningMart Struktur Möglichkeiten Wiederverwendbarkeit Plugins RapidMiner Struktur Möglichkeiten Wiederverwendbarkeit Plugins Prozessunterstützung MiningMart RapidMiner Data Preparation MiningMart RapidMiner Modeling RapidMiner MiningMart Evaluation RapidMiner MiningMart Deployment Fazit Literaturverzeichnis... 15

3 1 Kurzvorstellung RapidMiner entstand 2001 unter dem Namen YALE (Yet Another Learning Environment) durch den Lehrstuhl für künstliche Intelligenz der Universität Dortmund im Rahmen des Sonderforschungsbereichs Das Programm ist komplett in Java geschrieben wodurch eine Plattformunabhängigkeit erreicht wird. Seid 2004 sind sowohl das Programm Yale als auch der Quellcode frei verfügbar unter dual Lizenz (GNU AGPL + properitär)2 und wird bei SourceForge gehostet.3 Durch die offene Lizenz erfreut sich das Programm zunehmender Beliebtheit auch über den Sonderforschungsbereich hinaus, es wird mehrere hundert mal am Tag heruntergeladen. 4 Der Name wurde im Mai 2007 in RapidMiner umbenannt und seither von der Firma Rapid-I in den zwei verschiedenen Versionen Community-Edition und Enterprise- Edition angeboten. Während die Enterprise-Edition Closed-Source entwickelt wird (Preise je nach Leistungsumfang), steht die Community-Edition als Open-Source kostenfrei zur Verfügung. Weiterhin werden die Pakete mit unterschiedlichem Supportanspruch vertrieben. Seid November 2008 ist die Version 4.3. RapidMiner Open-Source-Software unter der AGPL die die Freiheiten des Benutzers auch für Software schützen, die als Dienst über ein Netzwerk zur Verfügung gestellt, aber nicht im eigentlichen Sinn weitergegeben wird. Die im November 2008 erschienene Version RapidMiner 4.3 erhielt den Open Source Business Award MiningMart entstand ab 2000 ebenfalls an der Universität Dortmund zum Teil durch dieselben Personen die bei YALE beteiligt waren. Ziel des Projektes MiningMart war es neue Techniken zu entwerfen, die Entscheidungsträgern unmittelbaren Zugriff auf Informationen erlauben, welche in Datenbanken, Datawarehouses und Wissensbasen abgelegt sind. Dabei ging es hauptsächlich um die Integration von Daten- und Wissensmanagement. Ein fortgeschrittenes Data Mining System, eine Fallsammlung

4 typischer Wissensentdeckungsaufgaben und neue Operatoren zur Vorverarbeitung stellen die Ergebnisse dieses Projektes dar. Gefördert wurde dieses Projekt durch die Europäische Union. 6 Anders als RapidMiner ist hat sich MiningMart nicht zu eine kommerziell erfolgreichen Software entwickelt, sondern blieb dem Sonderforschungsbereich vorbehalten. Die Software wird auch nicht mehr weiterentwickelt und erfährt auch keinen Support durch eine Community. MiningMart steht ebenfalls unter GNU GPL Lizenz und ist ebenfalls in Java geschrieben. Auch setzt die Software einen anderen Fokus. MiningMart is a system that supports the development, documentation and re-use of results in knowledge discovery. 7 MiningMart supports the whole knowledge discovery process but focusses clearly on preprocessing. 8 Daher der Daten-Vorverarbeitung und DWH-Mining. Für den weiteren Erkenntnisgewinn durch Dataminingverfahren ist eine Schnittstelle zu YALE (Rapidminer) vorgesehen. 2 Benutzerfreundlichkeit 2.1 Usability RapidMiner RapidMiner verfolgt das Prinzip des Aufbaus nach Grundidee des Prototyping, wodurch eine schnelle Rückmeldung bereits in frühen Phasen des Data Mining Prozesse möglich ist. Ein dynamisches Entwickeln von komplexen DataMining Prozessen und der Evaluation wird durch iterative Änderung von Prozessteilen erreicht. Unterstützung findet der Nutzer bereits bei dem ersten Programmstart. Dies wird realisiert durch den unterstützenden Einstieg über einen Begrüssungsbildschirm in welchem der User über entsprechende Wahlmöglichkeiten der Einstieg erleichtert wird The MiningMart User Guide, 2007, S The MiningMart User Guide, 2007, S. 18

5 Neben dem klassischen Öffnen vorhandener Projekte oder der Direkterstellung neuer Projekte, hilft der Process Wizard bei der Erstellung eines neuen Projektes, welcher auf Basis von Templates, Schritt durch die wesentlichen Abläufe eines Projektes führt. Gerade Anfänger ohne fundierten Wissen, wird so eine hilfreiches Tool an die Seite gestellt. Zum Einstieg in das Programm steht außerdem das interaktive Online-Tuturial zur Verfügung welches anhand von Beispielen die Funktion und Abläufe des Programms näher bringt. Die Grundsätzliche Aufteilung der Oberfläche erfolgt in die zwei logisch getrennten Bereiche Edit-Mode und Result Mode. Der Edit-Mode stellt die eigentliche Arbeitsumgebung von Rapidminer dar und untergliedert sich ebenfalls in viel logische Bereiche: 1. Operation Tree: hier wird der eigentliche Prozess erstellt 2. Einstellungen : hier können Parameter und weiter Einstellungen vorgenommen werde 3. Massage: hier werden die Systemmeldungen ausgegeben 4. Speicherinformation: Übersicht des beanspruchten Arbeitsspeichers Die Erstellung eines Neuen Prozesses erfolgt intuitiv entlang einer Kette durch Operatoren über selbsterklärende Symbole. Dem Nutzer stehen dabei eine Operatorensuchfunktion sowie ausführliche Erklärungen mittels Tooltips zur Verfügung. Um eine Überforderung neuer Nutzer zu vermeiden gibt es die Möglichkeit mittels Experten- und Beginnermodus einen Teil der verfügbaren Funktionen auszublenden (es werden nur die wichtigsten angezeigt). Die eigentliche Ausgabe erfolgt dann im Result-Mode. Dieser zeigt nach Prozesserstellung und Validierung das Ergebnis der Berechnung an. Eine Vielzahl von Darstellungsmöglichkeiten des Ergebnisses erleichtern die Interprestation. Grundsätzlich ist die Nutzung von RapidMiner folgendermaßen möglich:

6 Graphischer Oberfläche (GUI) und Symbolik Kommandozeile (batch mode) Skriptsprache XML Java API-Schnittstelle zur Nutzung über Drittsoftware Die Lauffähigkeit ist mit Java als Plattform gewährleistet. 2.2 Support RapidMiner Der Support der Community-Edition ist durch eine aktive Community mittels Foren, Bug Tracker, Feature Request Tracker und Newsletter sehr gut. Zum Einstieg in das Programm wird außerdem ein Flash-Tuturial auf der Entwicklerseite zur Verfügung gestellt. Die kostenpflichtige Version genießt einen erweiterten Support durch Experten. Dokumentationen sind der Umfangreich vorhanden. Es steht unter anderem ein ausführliches Manual mit 576 Seiten sowie ein 14 Seitiges GUI-Manual zur Verfügung. Zum vertiefen stehen darüber hinaus viel Beispiele zum testen der Funktionen zum Download bereit. 2.3 Usebility MiningMart MiningMart untergliedert sich in drei Hauptbestandteile: 1. Transformation 2. Preparation 3. Analyse (nicht der eigentliche Fokus des Programms) Ein schnelles Anwenden des Programms ist nicht möglich da eine Datenbankanbindung zwingend Voraussetzung ist. Somit stellt dies ein erstes Hindernis für den weniger fundierten Nutzer dar. Eine Kompatibilität sollte aufgrund der Javaplattform ebenfalls gewährleistet sein, scheint jedoch bei neueren Betriebssystemen wie Windows Vista nicht stabil zu laufen. Adressat des Programms ist ein Nutzer mit umfangreichen Wissen zum Thema Datamining. Ein ausführliche Hilfestellung oder Prozessunterstützung wie bei

7 Rapidminer ist hier nicht vorgesehen. Daher wirkt die Oberfläche wenig intuitiv, eine Aufteilung der Benutzeroberfläche in logische Bereiche erfolgt dennoch. Durch den Fokus auf den Bereich des Preprocessings, steht die Erstellung dieses auch im Mittelpunkt. Das interessante Prinzip hinter MiningMart ist der Austausch erfolgreicher MiningLayouts durch das Level-Konzept. Leider findet sich auf der Homepage der Enwickler nur 6 Cases, was auf eine geringe Nutzung des Programms schließen lässt. Das Conceptuel-Level ist eine Abstrakte Beschreibung der Daten während das Relationale Level die konkreten Datenebene anspricht (das Relationale Level kann ausgeblendet werden). Die Beschreibung des Conceptuel-Levels erfolgt dann über Meatdaten. Leider wird die Software nicht mehr weiterentwickelt (letztes Update 2006) wodurch die Oberflächen veraltet wirken sich die Modulierung nicht auf Anhieb intuitiv erschließt. Die Fenster sind im Stile einer DIE konzipiert und angeordnet. Insgesamt ist das Programm wenig Benutzerfreundlich und richtet sich vornehmlich an einen Experten. 2.4 Support MiningMart Der Support erfolgt ausschließlich über den Lehrstuhl da kein Community um das Programm entstanden ist. Es ist ein Vielzahl an Dokumentation vorhanden (Handbuch 73 Seiten, englisch) wobei ein großer Teil wissenschaftliche Arbeiten der Entwickler sind. 3 Struktur des Programms 3.1 MiningMart Struktur Möglichkeiten Die Modellstruktur von MiningMart gestaltet sich als gerichteter Graph. Dadurch gibt es viele Möglichkeiten Operatoren zu einem Modell zu kombinieren, wobei die topologische Sortierung oft nicht intuitiv ist. Außerdem ist eine automatisierte Strukturvalidierung wie in RapidMiner schwierig.

8 MiningMart unterscheidet innerhalb des Programms 3 Ebenen: die relationale Ebene, in der Relationen zwischen den Daten definiert werden, die Konzeptebene, in der jene Daten mit Semantik unterfüttert werden und die Zielsetzung des Prozesses vorgegeben wird und die Caseebene in der die Modellierung des konkreten Prozesses stattfindet. Der Aufbau des Modells gestaltet sich wie in RapidMiner modular, wobei es nur möglich ist den gesamten Prozess auf einmal auszuführen. Die Operatoren, welche MiningMart zur Verfügung stellt dienen hauptsächlich dem Bereich Preprocessing, wobei sich auch klassische Data Mining-Operatoren (Klassifikation, Clustering) finden. Das eigentliche Data Mining soll jedoch dem anbindbaren Yale überlassen werden, für dessen Datenvorbereitung sich auch Operatoren in MiningMart finden. Das Modell wird vom Programm direkt in der M4-Datenbank - in der auch die Metadaten liegen - gespeichert, die neben der Bussiness-Datenbank - welche die eigentlichen Daten enthält - existiert Wiederverwendbarkeit Einmal in MiningMart erstellte Modelle erstellt Modelle sind einfach wieder zu verwenden, da der Prozess direkt neben den Metadaten abgelegt wird Plugins MiningMart-Plugins sind auf der Homepage der Entwickler ( lediglich für das Betriebssystem Solaris (Sun) zum Download verfügbar. 3.2 RapidMiner Struktur Möglichkeiten RapidMiner ist gekennzeichnet durch seinen modularen Aufbau. Das Programm ist in der Lage die verschiedenen Module in Baumstruktur zu kombinieren, was einen Kompromiss zwischen gerichtetem Graphen und einfacher operator chain darstellt. Die ermöglicht das Setzen von Schleifen, Bedingungen und Teilprozessen. Einzelne Abschnitte können dabei durch das Setzen von Break-Points im Ablauf des Programms getrennt werden. Dadurch ist es möglich Zwischenergebnisse zu untersuchen.

9 Insgesamt verfügt RapidMiner über eine enorme Bandbreite und Vielfalt an Operatoren (über 500). Diese reichen von klassischen Operatoren für die Ein- und Ausgabe und solche für Datenvor- und nachbearbeitung, sowie das maschinelle Lernen und Data- Mining bis hin zu OLAP-Operatoren. Darüber hinaus bietet das Programm Unterstützung von Text-Mining und Web-Mining. Ebenfalls enthalten sind Operatoren zur Zeitreihenanalyse, Prognose, SQL-Operatoren und Datengeneratoren, zudem kann der Nutzer auf mehr als 20 Verfahren zur Visualisierung zurückgreifen. Die Definition eigener Makros erlaubt die Erstellung eines individualisierten Prozesses. Eine graphische Benutzeroberfläche sowie ein Kommandozeilentool sind im Programm vorhanden. Der erstellt operator tree wird im XML-Format gespeichert Wiederverwendbarkeit RapidMiner erlaubt dem Nutzer seine bisher durchgeführten Prozesse wieder zu verwenden. So ist es möglich den Operatorbaum (der den Prozess als solches darstellt), sowie erlangte Ergebnisse zu importieren beziehungsweise exportieren. Außerdem lassen sich Modelle als Template speichern und damit noch besser wieder verwenden, da sich das Modell durch Parameterauswahl leichter anpasse lässt Plugins Verschiedene Plugins sind für RapidMiner vorhanden und lassen sich herunter geladen von in das Programm einbinden. Das entspricht dem von den Entwicklern vorgesehenen "Erweiterungsmechanismus". Für versierte Anwender gibt es die Möglichkeit der Benutzung von RapidMiner aus eigenen Java-Programmen heraus. Hierfür ist eine Java-API vorhanden. 4 Prozessunterstützung MiningMart Abbildung 1: abgedeckte CRISP-DM-Schritte bei MiningMart

10 Prozessunterstützung hauptsächlich in welchem Bereich? MiningMart unterstützt mit seinen Funktionen im Wesentlichen die datenvorverarbeitenden Bereiche des CRISP-DM Prozessess. Dies heißt konkret die Datenauswahl, die Datenbereinigung, die Datenreduktion und die Auswahl eines Modells, in dem die Daten repräsentiert werden sollen. Eine Unterstützung des Bussiness- und Data-Understanding fehlt hier Prozessunterstützung in welchem Umfang? Die MiningMart-Entwickler setzen beim Anwender des Programmes die Kenntnis des KDD-Prozesses voraus (UserGuide p. 17). Eine Erläuterung grundlegender Ansätze zur Knowledge Discovery wird nicht gegeben Reihenfolgeablauf Auch der Reihenfolgeablauf wird als bekannt angenommen und nicht in direkter Weise unterstützt. Eine Bedienung oder gar die Durchführung eines Projekts durch einen wenig versierten Anwender ist kaum möglich, was auch eindeutig nicht das Ziel der Entwickler gewesen ist RapidMiner Abbildung 2: abgedeckte CRISP-DM-Schritte bei RapidMiner Prozessunterstützung hauptsächlich in welchem Bereich? Unterstützt wird von RapidMiner hauptsächlich der Bereich Data Mining und maschinelles Lernen. In diesem Bereich gibt es für den Anwender zahlreiche Tools und Hilfsmittel. Dennoch deckt das Programm auch alle anderen Bereiche gut ab. Besonders ausgeprägt ist hierbei der Bereich Evaluierung und Visualisierung, der sehr umfangreich ausfällt Prozessunterstützung in welchem Umfang? Der CRISP-DM - Prozess findet in RapidMiner so gut wie keine Erwähnung. Eine Unterstützung des Prozesses wird von Programmseite nicht gegeben. Jedoch schneiden die Tutorials das Thema etwas an.

11 Reihenfolgeablauf Auch der Reihenfolgeablauf des CRISP-DM - Prozesses wird in RapidMiner nicht unterstützt. Das Programm ist als Tool für maschinelles Lernen und Data Mining konzipiert. Dennoch ermöglicht das RapidMiner Prototyping dem Anwender ein Vorgehen im Sinne des CRISP-DM Prozesses. 4.2 Data Preparation MiningMart Datenimport Der Datenimport fällt bei MiningMart sehr spezialisiert aus. D.h. das Programm unterstützt lediglich Datenbankformate, was jedoch beabsichtigt ist, da MiningMart direkt an die Datenbank angebunden operieren und mit Daten in beliebigem Umfang umgehen können soll. Somit erlauben die Entwickler keinen Datenimport über Dateien. Unterstützt werden Datenbanken von MySQL, PostgreSQL und Oracle. Sämtliche Inputdaten müssen also in Tabellenform vorliegen Skalierbarkeit MiningMart skaliert sehr gut mit Daten in jeglicher Größenordnung. Das kommt daher, dass die Datenverarbeitung direkt in der Datenbank stattfindet. Somit sind den Inputdaten im Hinblick auf den Umfang keine Grenzen gesetzt Operatoren MiningMart bietet für den Bereich der Datenvorverarbeitung eine Vielzahl von Operatoren an. So gibt es etwa Operatoren zur handhanbung von Missing Values, zur Attributauswahl, Filteroperatoren, Operatoren zur Aggregation, Gruppierung, Datenbereinigung, SQL-Operatoren, Datantypenoperatoren oder Operatoren zur Diskretisierung. Damit ist eine umfassende Auf- und Vorbereitung der gegebenen Daten möglich RapidMiner Datenimport Der Datenimport gestaltet sich bei RapidMiner sehr flexibel. Das Programm unterstützt die bekanntesten Dateiformate. Diese reichen von Formaten aus den Bereichen Data Mining und Lernverfahren (arff, C4.5, csv...) über Excel Tabellen, SPSS-Dateien,

12 Textdateien, dbase bis hin zu Datenbankdateien. Ein direkter Datenbankzugriff ist jedoch nicht vorgesehen, sondern das Programm arbeitet mit Auszügen daraus Skalierbarkeit Der Umfang der Daten ist bei RapidMiner begrenzt durch den zur Verarbeitung zur Verfügung stehenden Speicher. Somit gibt es anders als bei MiningMart eine Obergrenze für die Größe der handhabbaren Daten Operatoren Rapid Miner bietet neben den klassischen Operatoren der Datenvorverarbeitung wie der Attributauswahl, Datensatzfilterung, Gewichtung, Transformation und Aggregation z.b. auch Operatoren zur Ausreißeridentifikation, Diskretisierung oder einen Noise Generator. 4.3 Modeling RapidMiner RapidMiner bietet vielfältige Algorithmen aus allen Bereichen des Data Mining. Alleine die Community Edition bietet über 50 verschiedene Verfahren unterschiedlicher Komplexität und deckt auch neuste Algorithmen ab. Implementiert sind unter anderem Entscheidungsbäume und -wälder, Regressionsmodelle, Neuronale Netze, SVM (Support Vector Machines) und verschiedenartige Clusterverfahren. Weiterhin können alle Methoden aus Weka genutzt werden. Zusätzlich können neue Verfahren dank Plugins einfach implementiert werden. Weiteres Verbesserungspotential für die Ergebnisse bieten auch die verschiedenen implementierten Meta-Verfahren, wie Bagging, Stacking oder Boosting MiningMart Im Gegensatz zu RapidMiner legt Mining Mart seinen Fokus klar auf das Preprocessing. 9 Folglich verfügt es standardmäßig nur über wenige Modellierungsalgorithmen. Implementiert sind Algorithmen für Entscheidungsbäume, Assoziationsanalysen und SVM. Weiterhin können die vorverarbeiteten Daten zur Modellierung mit dem Operator PrepareForYale in den Hauptspeicher geladen werden und anschließend als Input in RapidMiner verwendet werden. 9 Euler / Scholz (2007) S.18

13 4.4 Evaluation RapidMiner Zur Unterstützung dieser Phase bietet RapidMiner verschiedene Möglichkeiten die Ergebnisse zu validieren. Einerseits kann die Validierungsmethode (u.a. Cross- Validation, Random Split) bestimmt werden, andererseits stehen viele Kriterien zur Erfolgsmessung (u.a. Anteil korrekt klassifizierter Werte, Korrelationsmaße, Clusterdichte) zur Auswahl MiningMart In MiningMart steht kein spezieller Operator zur Validierung der Modellierungsergebnisse zur Verfügung. Ob eine direkte Validierung durch den Modellierungsalgorithmus möglich ist, konnte auf Grund einiger schwerer Programmfehler nicht von uns überprüft werden. 4.5 Deployment In beiden Programmen können durch entsprechende Operatoren die Ergebnisse der Modellierung auf unbekannte Daten angewendet werden. RapidMiner nutzt dazu den ModelApplier. In MiningMart steht der Operator YaleModelApplier zur Verfügung. Dieser lädt eine externe Datei mit dem Modell und überträgt die Ergebnisse auf neue Daten. Außerdem bietet RapidMiner eine umfangreiche Visualisierung der Modellierungsergebnisse. Zur Auswahl stehen neben klassischen Grafiken auch Möglichkeiten zur Darstellung von vieldimensionalen Daten. Die Grafiken können interaktiv angepasst werden. MiningMart bietet in der Standardkonfiguration keine Visualisierungsmöglichkeiten an. 5 Fazit Zusammenfassend kann man feststellen, dass RapidMiner ein universell einsetzbares Data Mining-Tool ist, das sich besonders durch seinen Funktionsumfang, als auch durch seine intuitive Bedienung auszeichnet. Mining Mart kann zwar besser mit großen Datenmengen umgehen als RapidMiner, ist aber leider sehr komplex und schwer zu bedienen. Außerdem wurde es seit 2007 nicht mehr weiterentwickelt und in der Case-

14 Datenbank sind bisher nur 6 Fälle verzeichnet. Es bleibt dennoch zu hoffen, dass das MiningMart-Konzept in überarbeiteter Form weiterentwickelt wird. Aber gegenwärtig kann RapidMiner jedoch fast alle Preprocessing-Möglichkeiten von MiningMart ersetzen. Damit, sowie durch seine umfangreichen Modellierungsverfahren und seine exzellenten Bedienbarkeit, stellt es eine hervorragende kostenfreie DataMining-Plattform dar.

15 Literaturverzeichnis Zücker, Regina / Kietz, Jörg-Uwe / Vaduva, Anca (2001) : Mining Mart: Metadata- Driven Preprocessing. Mierswa, Ingo / Scholz, Martin / Wurst, Michael / Euler, Timm / Klinkenberg, Ralf (2006): YALE: Rapid Prototyping for Complex Data Mining Tasks. In: Proceedings of the 12th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD-06), Morik, Katharina / Scholz, Martin (2004): The MiningMart Approach to Knowledge Discovery in Databases. In: Ning Zhong and Jiming Liu (editors), Intelligent Technologies for Information Analysis, Springer, S Euler, Timm / Scholz, Martin (2007): The MiningMart User Guide.