Proseminar - Data Mining

Transkript

1 Vorbesprechung Proseminar - Data Mining SCCS, Fakultät für Informatik Technische Universität München SS 2015 Vorbesprechung, SS

2 Data Mining: Beispiele (1) Hausnummererkennung (Klassifikation) Source: Vorbesprechung, SS

3 Data Mining: Beispiele (2) Image Segmentation (Clustering) Vorbesprechung, SS

4 Data Mining: Beispiele (3) Ähnliche Gene (Clustering) [Hastie et al.] Vorbesprechung, SS

5 Data Mining: Beispiele (4) Vorausschauender Versand (Klassifikation) Source: Vorbesprechung, SS

6 Warum Data Mining? Data Scientist: The Sexiest Job of the 21st Century (Harvard Business Review) We are drowning in information and starving for knowledge. (Rutherford D. Roger) The future belongs to the companies and people that turn data into products. (Mike Loukides, O Reilly) Rank 5 in Computerworld s Top IT skills wanted for 2012 Rank 1 in Computerworld s IT skills that employers can t say no to http: // Vorbesprechung, SS

7 Finding Data Science Unicorn Vorbesprechung, SS

8 Data Mining Pipeline Planung Aufbereitung Modellbildung Auswertung Wir wollen nützliches Wissen aus Daten extrahieren Planung. Finden des Problems. Was soll gemacht werden? Dafür nötige Daten sammeln. Aufbereitung. Rohdaten (unvollständig, redundant, verschiedene Formate, Einheiten, etc.) werden in eine brauchbare Form gebracht. Modellbildung. Daten werden mit verschiedenen Methoden (Regression, Klassifikation, Clustering, etc.) analysiert. Auswertung. Interpretation und Auswertung der Ergebnisse. Vorbesprechung, SS

9 Themen I Überblick Genauere Darstellung der Data Mining Pipeline Beispiele wo Data Mining verwendet wird Einsatz von Data Mining in Industrie Software: Matlab und R Software: Python Software: RapidMiner Aufbereitung von Daten, Pre-Processing Hauptkomponentenanalyse Lineare Modelle für Regression und Klassifikation Was sind lineare Modelle? Wieso lineare Modelle? Welche? Was ist Regression? Beispiele. Klassifikation mit Thresholding Vergleich mit z.b. k-nearest Neighbor Vorbesprechung, SS

10 Themen II Lernen mit Kernels Max-margin Prinzip, Kernel Trick, SVM Spam Filtering with Naive Bayes Classifier Entscheidungsbäume Merkmale in Reihenfolge der Wichtigkeit überprüfen Es entsteht ein Baum Neuronale Netze I: Grundlagen Neuronale Netze II: Deep Learning Vorbesprechung, SS

11 Themen III Association Rules Finde gemeinsame Belegung von Variablen die möglichst oft in Datenbank auftritt Z.B.: Bier und Windeln werden of zusammen gekauft Clustering Finde Struktur in Daten, kein outcome vorhanden k-means, mixture of gaussians Dichteschätzung Schätzen der Dichte P eines gegebenen Datensatzes X = {x 1,..., x M }. Histogram, Kerndichteschätzer, etc. Reinforcement Learning Das System bekommt sofort Feedback und reagiert darauf Welche Verfahren gibt es? Anwendungsbeispiele? Vorbesprechung, SS

12 Themen IV Ensemble Learning Verbinde mehrere verschiedene Algorithmen Gewichte einzelne Antworten entsprechend AdaBoost Kann als Ensemble Methode angesehen werden Verwendet optimale Gewicht (bzgl. exp. loss) Big Learning Wie große Datenmengen speichern und verwalten? Welcher Einsatzbereich? Hadoop, Cassandra, BigTable,... Stochastic Gradient Descent Map-Reduce Parallelization Recommender Systems with Colaborative Filtering Natural Language Processing Vorbesprechung, SS

13 Themen V Latent Semantic Indexing Latent Dirichlet allocation Data Mining für soziale Netzwerke Data Mining und Gesellschaft: Datenschutz, Verantwortung, usw. Vorbesprechung, SS

14 Reviews Jede Ausarbeitung wird von zwei anderen Teilnehmern überprüft. Dabei wird geachtet auf: Inhaltliches: Wissenschaftlichkeit, Verständlichkeit, Zusammenhänge klar, Beispiele hilfreich,... Formelles: Sinnvolle Struktur der Ausarbeitung, Richtig zitiert, Grafiken mit Quelle versehen,... Sprachliches: Rechtschreib- und Grammatikfehler (sollten eigentlich keine vorhanden sein ;-) ) Damit der Review-Prozess funktionniert, muss die Ausarbeitung zur Deadline abgegeben werden! Der Stand der Ausarbeitung ist dabei "Release Candidate", nicht alpha oder beta Nach Abgabe der Reviews: Einarbeitung der Anmerkungen in die eigene Ausarbeitung Dann: Abgabe der finalen Ausarbeitung beim Betreuer Vorbesprechung, SS

15 Organisatorisches I Jedem Teilnehmer wird ein Betreuer zugewiesen Vortrag: ca. 20min + Diskussion Ausarbeitung: mind. 5 und max. 6 Seiten (L A T E X) im IEEE Format (Webseite), excl. Quellenangaben. Wichtige Termine: Anmeldung bei Betreuern (3 Themen) bis 3.2, über das Anmeldeformular (LS Webseite) Anmeldung im Matching System bis practical-courses-and-seminar-courses.html Themenzuteilung: 11.2 oder 12.2 Vorbesprechung, SS

16 Organisatorisches II Obligatorische Termine: 1. Kick-Off Veranstaltung am 13.4 um 15 Uhr 2. Literaturrecherche Workshop am 14.4 um 15 Uhr 3. Vortragstermin wird (geblockt) zugeteilt, voraussichtlich 10.6 bis Wochen vor dem Vortrag - ein Entwurf der Ausarbeitung beim Betreuer einreichen (per ) 5. 2 Wochen vor dem Vortrag - Folien beim Betreuer einreichen 6. Am Tag des Vortrages - Abgabe der Ausarbeitung (Moodle) 7. 1 Woche nach dem Vortrag - Einreichung der Reviews (Moodle) 8. 2 Wochen nach dem Vortrag - Einreichung der fertigen Ausarbeitung (Moodle) Webseite: oder Teaching Summer 15 Proseminar - Data Mining Vorbesprechung, SS

17 Die ersten Schritte im Seminar Kontaktiere deinen Betreuer wegen dem Thema und Referenzen (falls noch keine erhalten). Mache ein LaTeX Tutorial, z.b. online. Lade das IEEE Template und lerne die Struktur kennen. Lese das IEEE Editorial Style Manual, markiere für diese Arbeit relevante Teile und nutze es später als Nachschlagewerk. Vor der ersten Abgabe der Ausarbeitung Mache eine automatische Rechtschreibkorrektur. Gehe durch die Checkliste auf der LS Webseite. Hast du alle Punkte berücksichtigt? Überprüfe ob die Regeln aus IEEE Editorial Style Manual berücksichtigt sind. Vor der letzten Abgabe der Ausarbeitung Mache die gleichen Schritte wie bei der ersten Abgabe. Überprüfe ob die Angaben im Literaturverzeichnis korrekt sind. Vorbesprechung, SS