Proseminar - Data Mining

Transkript

1 Proseminar - Data Mining SCCS, Fakultät für Informatik Technische Universität München SS 2014, SS

2 Data Mining: Beispiele (1) Hausnummererkennung (Klassifikation) Source: SS

3 Data Mining: Beispiele (2) Image Segmentation (Clustering), SS

4 Data Mining: Beispiele (3) Ähnliche Gene (Clustering) [Hastie et al.], SS

5 Data Mining: Beispiele (4) Vorausschauender Versand (Klassifikation) Source: SS

6 Warum Data Mining? Data Scientist: The Sexiest Job of the 21st Century (Harvard Business Review) We are drowning in information and starving for knowledge. (Rutherford D. Roger) The future belongs to the companies and people that turn data into products. (Mike Loukides, O Reilly) Rank 5 in Computerworld s Top IT skills wanted for 2012 Rank 1 in Computerworld s IT skills that employers can t say no to http: // SS

7 Finding Data Science Unicorn, SS

8 Data Mining Pipeline Planung Aufbereitung Modellbildung Auswertung Wir wollen nützliches Wissen aus Daten extrahieren Planung. Finden des Problems. Was soll gemacht werden? Dafür nötige Daten sammeln. Aufbereitung. Rohdaten (unvollständig, redundant, verschiedene Formate, Einheiten, etc.) werden in eine brauchbare Form gebracht. Modellbildung. Daten werden mit verschiedenen Methoden (Regression, Klassifikation, Clustering, etc.) analysiert. Auswertung. Interpretation und Auswertung der Ergebnisse., SS

9 Themen I Überblick Genauere Darstellung der Data Mining Pipeline Beispiele wo Data Mining verwendet wird Einsatz von Data Mining in Industrie Software: Matlab und R Software: Python Software: RapidMiner Aufbereitung von Daten, Pre-Processing Hauptkomponentenanalyse Lineare Modelle für Regression Was sind lineare Modelle? Wieso lineare Modelle? Welche? Was ist Regression? Beispiele., SS

10 Themen II Lineare Modelle und Logistische Regression für Klassifikation Klassifikation mit Thresholding Vergleich mit z.b. k-nearest Neighbor Spam Filtering with Naive Bayes Classifier Entscheidungsbäume Merkmale in Reihenfolge der Wichtigkeit überprüfen Es entsteht ein Baum Neuronale Netze I: Grundlagen Neuronale Netze II: Deep Learning, SS

11 Themen III Association Rules Finde gemeinsame Belegung von Variablen die möglichst oft in Datenbank auftritt Z.B.: Bier und Windeln werden of zusammen gekauft Clustering Finde Struktur in Daten, kein outcome vorhanden k-means, mixture of gaussians Dichteschätzung Schätzen der Dichte P eines gegebenen Datensatzes X = {x 1,..., x M }. Histogram, Kerndichteschätzer, etc. Reinforcement Learning Das System bekommt sofort Feedback und reagiert darauf Welche Verfahren gibt es? Anwendungsbeispiele?, SS

12 Themen IV Ensemble Learning Verbinde mehrere verschiedene Algorithmen Gewichte einzelne Antworten entsprechend AdaBoost Kann als Ensemble Methode angesehen werden Verwendet optimale Gewicht (bzgl. exp. loss) Überblick: Data at Scale Wie große Datenmengen speichern und verwalten? Welcher Einsatzbereich? Hadoop, Cassandra, BigTable,... Big Learning Stochastic Gradient Descent Map-Reduce Parallelization Recommender Systems with Colaborative Filtering, SS

13 Themen V Natural Language Processing Latent Semantic Indexing Latent Dirichlet allocation Sequential Data Data Mining für soziale Netzwerke, SS

14 Tipps zur Recherche 1. Google Scholar und Google (filetype:pdf) 2. eaccess Zugriff mit MyTUM Account 20eAccess Funktioniert für Springer, ACM, IEEE (nicht Computer Society!), etc. 3. Zeitschriften/Proceedings über EZB suchen 4. Manche Bücher elektronisch über OPAC-Katalog abrufbar ( Volltext Button), SS

15 Organisatorisches I Jedem Teilnehmer wird ein Betreuer zugewiesen Vortrag: ca. 20min + Diskussion Ausarbeitung: 5 Seiten (L A T E X) im IEEE Format (Webseite), excl. Quellenangaben. Wichtige Termine: Anmeldung (3 Themen) bis 31.1, mit Betreff Proseminar Data Mining - Anmeldung Themenzuteilung: 3.2, Rückmeldung bis 24.2 Vortragstermin wird (geblockt) zugeteilt, voraussichtlich 1./2. Juni Woche 4 Wochen vor dem Vortrag - ein Entwurf der Ausarbeitung beim Betreuer einreichen (per ) 2 Wochen vor dem Vortrag - Folien beim Betreuer einreichen, SS

16 Organisatorisches II Am Tag des Vortrages - Abgabe der fertigen Ausarbeitun Webseite: oder Teaching Summer 14 Proseminar - Data Mining, SS