Next. DM und KDD, Phasen Aufgabenstellungen des DM Wissensrepräsentation Entscheidungsbäume I Repräsentation Entscheidungsbäume II Lernen

Transkript

1 Next DM und KDD, Phasen Aufgabenstellungen des DM Wissensrepräsentation Entscheidungsbäume I Repräsentation Entscheidungsbäume II Lernen Entscheidungsbäume III Praktisch Ausblick ID3 zu C4.5 Ein Problem Tools RapidMiner Performance von Klassifikatoren Ethik KI -DM 121

2 Exkurs ID3-Algorithmus Wie beschrieben mit Gain als Auswahlkriterium des Attributes Entwickler Ross Quinlan (Sydney) Kein Backtracking => nicht optimal, lokale Minima mgl. ID3 sehr erfolgreich, Zerlegung anhand des Informationsgewinns einleuchtend Kleine Probleme in der Praxis, deshalb von Quinlan weiterentwickelt zu C4.5 (J48 in Weka, DecisionTree in RapidMiner) [Quinlan1993] C5.0 (kommerziell, unveröff. Verfahren, ähnlich C4.5 aber schneller) KI -DM 122

3 Exkurs Probleme des ID3 Ein Beispiel Hinter einem Vorhang verbirgt sich ein Mitarbeiter oder Professor des Fachbereiches. Sie sollen herausbekommen, wer es ist. Welches Attribut fragen Sie als erstes ab? Problem des Information Gain(möglichst reine Knoten) Attribute mit vielen Attributwerten werden stark bevorzugt, denn sie enthalten sehr viel Information bis zur Identifikation Andere Maße um das beste Attribut zu bestimmen Gain ratio(möglichst reine Knoten, aber nicht zu viele) Gini Index KI -DM 123

4 Exkurs Probleme des ID3 Attribute mit vielen Werten (Primärschlüssel, ID) Numerische Werte Fehlende Werte Bei der Baumkonstruktion Beim Klassifizieren Overfitting: 100% Beherrschung der Testdaten ist nicht notwendig, Prepruning vermeidet overfitting Diese Probleme sind gelöst im C4.5 Operator Decisiontree im RapidMiner (Details in Kap. 6.1 in [WF01]) KI -DM 125

5 Exkurs Tools Kostenfreie Nutzung: oft Duale Lizenz: GPL + kommerzielle mit Service und Erweiterungen RapidMiner Open + Closed Source, Uni. Dortmund + Rapid-I GmbH (Dortmund) WEKA GPL, Universität von Waikato (Neuseeland) KNIME GPL + dual, Uni. Konstanz + KNIME.com GmbH (Zürich) Orange GPL + Qt, University of Ljubljana (Slowenien) Rattle in R, Open Source, Fa. Togaware (Australien) R GPL, Programmiersprache Kommerziell: bspw. SPSS Modeller KI -DM 126

6 Exkurs Umfrage in Kdnuggets, 2010 Which data mining/analytic tools you used in the past 12 months for a real project (not just evaluation) [912 Teilnehmer] Vielfalt kostenloser Werkzeuge KI -DM 127

7 Werden die kostenlosen Werkzeuge tatsächlich verwendet? Exkurs Ja. In Europa. KD nuggets, May 2011, > 1100 Teilnehmer KI -DM 128

8 Exkurs Seminare-Angebote von rapid-i (Stand April 09) 2012 KI -DM 129

9 RapidMiner Data Mining Tool ehemals YALE (Yet Another Learning Environment) open source(community Edition), JAVA GUI oder offline DM-Prozess als Operatorgraph, XML-File Operator: erwartet Input und Parameter, liefert Output Parameter: criterion, minimal_size_for_split,... Input: ExampleSet DecisionTree Output: Modell KI -DM 130

10 Exkurs Open Source KI -DM 131

11 Exkurs RapidMiner Operatoren * Data preprocessing operators Feature operators Machine learning algorithms für numerische Prognose und Klassifikation: SVM, Decisiontrees, Lazy, Bayes, KNN, KNN,..., Metalernen Meta operators Performance evaluation Visualization In- and output * * * * * * Operatorauswahl in RapidMiner 5.0 mit allen Plugins KI -DM 132

12 RapidMiner TDIDT ID3 oder DecisionTree (C4.5) Tree outlook = overcast: yes outlook = rainy windy = FALSE: yes windy = TRUE: no outlook = sunny humidity = high: no humidity = normal: yes KI -DM 133

13 Next DM und KDD, Phasen Aufgabenstellungen des DM Wissensrepräsentation Entscheidungsbäume I Repräsentation Entscheidungsbäume II Lernen Entscheidungsbäume III Praktisch Erinnerung an die Übung: Rapidminer, Scatterplot, ID3, Decisiontree Performance von Klassifikatoren Ethik KI -DM 135

14 In der Übung: Protokoll Datenmenge öffnen, visualisieren, Streudiagramm Baum mit ID3 aus Datenmenge erzeugen Modell anwenden auf unbekannten Datensatz Entscheidungsbaum der Tiere Tiefe 20, Tiefe 4 KI -DM 136

15 Streudiagramm (Scatterplot) 2 Variablen als Achsen, ein Punkt pro Datensatz Überdeckung von Punkten durch Jitter vermeidbar Explorative Analyse: bivariate Korrelationen, Cluster, Kompaktheit, Streuung Beispiel: Wovon hängt der Nachtstrom-Verbrauch ab? Ursache oder nur Korrelation? Nachtstromverbrauch Maximal-Temperatur der letzten 24 Stunden KI -DM 137

16 KI -DM 144

17 KI -DM 145

18 Matrix aller Streudiagramme Auch Scatterplotmatrix (SPLOM) k Variablen -> k x k -Matrix Matrixelemente: Streudiagramme Einfärbung (blau, rot) durch Zielklasse KI -DM 146

19 Exkurs Reale SPLOM für Hypothesenbildung Welche Merkmale sind abhängig? Welche Merkmale eignen sich für die Klassifizierung? Cluster Visual Analytics (Sonderheft Informatikspektrum, Dezember 2010) KI - DM 147

20 Exkurs Reale SPLOM für Hypothesenbildung Welche Merkmale sind abhängig? Welche Merkmale eignen sich für die Klassifizierung? Cluster Visual Analytics (Sonderheft Informatikspektrum, Dezember 2010) KI - DM 148

21 Exkurs Reale SPLOM für Hypothesenbildung Welche Merkmale sind abhängig? Welche Merkmale eignen sich für die Klassifizierung? Cluster Visual Analytics (Sonderheft Informatikspektrum, Dezember 2010) KI - DM 149

22 Exkurs Reale SPLOM für Hypothesenbildung Welche Merkmale sind abhängig? Welche Merkmale eignen sich für die Klassifizierung? Cluster Visual Analytics (Sonderheft Informatikspektrum, Dezember 2010) KI - DM 150

23 Exkurs Spongebob und Crabs Lernen von Objektbeschreibungen durch Zeigen von Beispielen Diplomarbeit Benjamin Kieper: Entwurf und Implementierung einer Anwendung zum dialogbasierten, überwachten Lernen von Objektmodellen aus Bildern KI -DM 151

24 Einschätzung des Gelernten Fragen in der Praxis: 1. Welche Lernmethoden sollen auf welches Problem angewendet werden? 2. Welcher trainierte Klassifizierer(Modell) soll letztendlich verwendet werden? => Lernmethoden und Modelle müssen verglichen werden. KI -DM 152

25 Next Performance von Klassifikatoren, Einschätzung des Gelernten, Konfusionsmatrix Fehlermaße: Fehlerrate, Erfolgsrate Resubstitutions-Fehler Bsp knearest Neighbor-> Der Resubstitutionsfehler hat ein Problem Fehlerschätzung Wie sieht die Praxis aus: Holdout-Methode + Stratifikation + Wiederholung -> Kreuzvalidierung leave-one-out, bootstrap Ethik und Data Mining KI -DM 153

26 Güte eines Modells Wie kann die Prognosegüte eines Modells beurteilt werden: Wir schätzendie Performance (bspw. Fehlerrate, Erfolgsrate), die das Modell bei seiner Anwendung in der Praxis erreichen wird. Wie? Zwei Wege Einfacher Weg Besserer Weg KI -DM 154

27 Modell auf bekannte Daten anwenden 1. Modell erstellen 2. Modell auf die Daten anwenden und Prognose der Klasse ermitteln (prediction) 3. Performance berechnen aus Vergleich der ermittelten mit der tatsächlichen Klasse Vielzahl von Performancemaßen KI -DM 155

28 Konfusionsmatrix Gegenüberstellung der Häufigkeiten der ermitteltenklassen (predicted) und der tatsächlichen Klassen (real) eines Testfalles. Hauptdiagonale = richtig Vorhergesagte KI -DM 156

29 Aus der Konfusionsmatrix: Erfolgsrate, Fehlerrate Erfolgsrate = #richtig Vorhergesagte / #Alle Fehlerrate = #falsch Vorhergesagte / #Alle Engl. accuracy, classification error Beispiel: Erfolgsrate= ( ) / 192 = 18.2% Fehlerrate= ( )/ 192 = 81.8% = 100 KI -DM 157

30 Spezialfall: Konfusionsmatrix bei binärer Klassifikation Exkurs Genau 2 Klassen: {ja, nein}, {positiv, negativ}, {0,1},{wahr, falsch}, {krank, gesund} Konfusionsmatrix 2 x 2: Tatsächliche Klasse positiv negativ Ermittelte Klasse positiv TP = True positive FP = False positiv negativ FN = False negative TN = True negative Erfolgsrate = Fehlerrate = (TP+TN) / (TP + FP + FN +TN ) (FP+FN) / (TP + FP + FN +TN ) x y KI -DM 158

31 Diagnose mit 95% <Gütemaß> krank (+), gesund (-), Ein positiver Befund ist oft nicht positiv grüne Performancewerte möglichst hoch, rote niedrig 95% Erfolgsrate: Die Diagnose stimmt in 95% der Fälle. accuracy classification error 95% Fehlerrate: 95% der Diagnosen sind falsch. 95%: Sensitivität: 95% der Kranken werden als krank erkannt sensitivity, recall, true positive rate (TPR) = TP / (TP + FN) specificity, true negative rate (TNR) = TN / (TN + FP) 95% Spezifität: 95% der Gesunden werden als gesund erkannt Beispiel vom Anfang: Herzinfarkt: Sensitivity = 81.4% Specificity = 92.1% PPV = 72.9% Accuracy = 89.9% KI -DM 159

32 Exkurs Weitere Maße 95% Positiver Vorhersagewert: Von Krankgeschriebenen sind 5% gesund (und 95% krank) precision, positiv predictive value (PPV) = TP / (TP + FP) negative predictive value (NPV) = TN / (FN + TN) 95% Negativer Vorhersagewert: 95% der als gesund Erklärten sind gesund. 95% Ausfallrate: 95% der Gesunden werden als krank erklärt false positive rate (FPR) = FP / (FP + TN) false discovery rate (FDR) = FP / (TP + FP) 95% false discovery rate: 95% der krank Erklärten sind gesund KI -DM 160

33 So nicht! Wo ist das Problem? Die Performance eines Klassifizierers auf den Trainingsdaten ist kein guter Leistungsindikator für eine unabhängige Testmenge. Die Evaluierung ist viel zu optimistisch! KI -DM 162

34 Resubstitutionsfehler Resubstitution = nochmal verwenden Fehlerrate eines Klassifizierers auf seinen Trainingsdaten wird als Resubstitutions- Fehler bezeichnet Die Trainingsdaten werden also nochmalverwendet Entsprechend Resubstitutions-Erfolgsrate etc. Warum ist der Resubstitutionsfehlerkeine gute Schätzung für die spätere Leistung des Modells? Beispiel: k-nearest Neighbor(k-NN) - ein sog. Lazy learner Lernen hier: einfaches Speichern aller Beispiele das Modell ist damit diese gespeicherte Beispielmenge Anwenden auf unbekanntes x: Finden der k ähnlichsten Beispiele in der Beispielmenge -> deren häufigste Klasse ausgeben Quiz: Wie groß ist der Resubstitutionsfehler eines k-nn mit k = 1? KI -DM 163

35 Resubstitutionsfehlereines k-nearest Neighbormit k = 1 Datenmenge == Modell a1 a2 Klasse = Ein Datensatz X sei (6,6) Wie wird X durch den k-nearest Neighbor mit k=1 klassifiziert? Exkurs Die Resubstitutions-Erfolgsrate eines k-nn mit k = 1 ist stets 100%. Das ist eine sehr optimistische Schätzung für den zukünftigen Fehler, oder? KI -DM 164

36 Wie können wir den zukünftigen Fehler besser schätzen? Die Resubstitutions-Erfolgsrate eine k-nn mit k = 1 ist stets 100%. Ein hochangepasster Klassifikator. Der Resubstitutionsfehlerist nicht geeignet, den Fehler während der späteren Anwendung des Klassifikators zu schätzen. Trotzdem wird diese Methode oft verwendet. Als Heuristik: ein großer Resubstitutionsfehler zeigt, dass die Modellierung mit diesem Lernverfahren nicht gelingt. Einfacher Weg - Resubstitutionsfehler Besserer Weg - kommt jetzt KI -DM 165

37 Holdout-Methode Holdout-Methode reserviert Daten für das Testenund verwendet nur den Rest fürs Training 2 disjunkte Mengen Trainingsdaten: Erstellung des Klassifikators, Lernen Testdaten: Schätzung der Fehlerrate des Klassifikators Üblich: 1/3 Testen, 2/3 Training Performance der Lernmethode Konfusionsmatrix Test anwenden auf Training Modell lernen KI -DM 166

38 Stratifikation Problem: Möglicherweise sind die für die Testmenge gewählten Daten nicht repräsentativ Stratifikation: Datenmenge so teilen, dass die relativen Klassenhäufigkeitenin Test-und Trainingsdaten übereinstimmen -> Stratifizierte Holdout Methode KI -DM 168

39 Wiederholtes Holdout Idee: Holdout-Methode mehrmals mit unterschiedlichen Datenteilungen wiederholen und den Mittelwert alle Fehlerraten bilden damit erfolgt eine Kompensierung der Fehler, die durch Auswahl der Stichprobe entstanden sind Das wichtigste Verfahren des wiederholten Holdout: Kreuzvalidierung (engl. cross validation, CV) KI -DM 169

40 n-fache Kreuzvalidierung (CV) Beispiele zufällig in n Mengen (Partitionen) aufteilen, z.b. n=3 oder n=10. Für i=1 bis n: -i-te Menge ist Testmenge - restliche n-1 Mengen sind Trainingsmenge -> Lerner erzeugt Modell i -bestimme die Leistung des Modells auf der Testmenge -> Fehler i -> n Fehlerwerte Bestimme Mittelwert und ggf. Streuung des Fehlers -> Ergebnis der CV Das Ergebnis der CV ist eine Schätzung des zu erwartenden Generalisierungsfehlers auf unbekannten Daten. Das Modell für den späteren Einsatz wird mit allenverfügbaren Daten erstellt. Ergebnis das Data-Mining-Prozesses = Modell + Fehlerschätzung des Modells KI -DM 170

41 Stratifizierte Kreuzvalidierung Besser: Stratifikation Relative Klassenhäufigkeiten in allen Partitionen annähernd gleich zur Verteilung in der Gesamtmenge -> stratifizierte Kreuzvalidierung Noch besser: wiederholte Kreuzvalidierung Bsp: 10mal wiederholte 10fache Kreuzvalidierung -> 100 Modelle zu lernen und zu testen in RapidMiner: X-Validation Beispiel: Erfolgsrate eines ID3 und NN auf der Datenmenge weather vergleichen KI -DM 171

42 Exkurs Beispiel: Erfolgsrate schätzen (1) weather.nominal.arff, n=5 KI -DM 172

43 Exkurs Erfolgsrate schätzen (2) Erfolgsrate (ID3) = 63.33% KI -DM 173

44 Exkurs Erfolgsrate schätzen (3) real 5 Konfusions- matrizen: predicted Mittelwert Classification_error 3/3 1/3 1/2 0/3 0/ % (FP+FN)/All Accuracy (TP+TN)/All 0/3 2/3 1/2 3/3 3/ % 1 1 Standardabweichung der Erfolgsraten e i : s= ( e e) = 0, n i 2 Kumulierte Konfusionsmatrix: Erfolgsrate der kumulierten Konfusionsmatrix: 9/14 = 0, KI -DM 174

45 Exkurs Erfolgsrate schätzen (4) Neuronales Netz Erfolgsrate (KNN) = % KI -DM 175

46 Exkurs Andere Schätzverfahren Leaveoneout Leave one out n-fache Kreuzvalidierung mit n=instanzenanzahl Testmenge = eine Instanz, Rest ist Trainingsmenge Keine zufällige Stichprobenwahl -> deterministisch Hoher Rechenaufwand: n-mal lernen Realistische Schätzung KI -DM 176

47 Exkurs Andere Schätzverfahren -Bootstrap Bootstrap aus einer Datenmenge mit n Instanzen wird n-mal zufällig eine Instanz gewählt und in die Trainingsdaten kopiert Nicht gewählte Instanzen -> Testdaten p=1/n für jede Instanz, dass sie ausgewählt wird p=1-1/n, dass sie nicht ausgewählt wird Potenzierung über n Auswahlvorgänge führt zur Wahrscheinlichkeit, dass eine bestimmte Instanz in der Trainingsmenge vorkommt von: 1 n n 1 ( 1 1/ n) 1 e Pessimistische Schätzung, weil Trainingsmenge nur 63% der ursprünglichen Instanzen enthält geeignet für kleine Datenmengen KI -DM 177

48 Was war Wie würde es weiter gehen (geht es aber nicht) Exkurs Rückblick Konfusionsmatrix Fehlermaße Resubstitutionsfehler nicht als Schätzung geeignet Bsp. k-nearest Neighbor Fehlerschätzung: Kreuzvalidierung Wie würde es weiter gehen (geht es aber nicht) Explorative Analyse: Boxplots, QQ-Plots, ROC,... Merkmalsselektion (Unabhängigkeit, Kontingenztabelle, Chi2-Test,...) Merkmalsdiskretisierung(Diskretisieren, Normieren, ) Datensäuberung (Data cleansing), Ausreißer? Modellauswahl KI -DM 178

49 Auswirkungen erfolgreichen Data Minings Exkurs, nicht in der Prüfung KI -DM 179

50 Exkurs CRM mit SocialMedia Mining Unternehmen XY betreibt eine gut gepflegte Kundendatenbank. Das Unternehmen ist ein Wellnesshotelin einer Ferienregion Bayerns. Ein Kunde, der in der Datenbank registriert ist, kündigt seine Anreise an und bucht einen Aufenthalt. Die Software zieht alle aktuellen SocialMedia Inhalte von diesem Kunden und alle Inhalte in denen er erwähnt wird, im Backend der CRM Software zusammen. Der Hotelier loggt sich ein im CRM bevor er die Auftragsbestätigung verschickt und liest dort, dass sein bald anreisender Gast gerade extremen Stress im Job hat und letztes Wochenende dennoch eine Wanderung mit seiner Partnerin in seinem straffen Zeitplan untergebracht hat. Jetzt aber hat er ja eine Woche Urlaub. Zudem hat er auch Kommentare in diversen Langlauf-Foren geschrieben, welche die Kombination aus CRM und Social Media Monitoring Tool aufbereitet und zuordnen kann. Der Hotelier schreibt ausgestattet mit diesem Basiswissen eine sehr personalisierte Buchungsbestätigung: Lieber Herr B, es freut uns, dass Sie trotz des vielen Stress den Ihnen gerade Ihr Projekt C bereitet, Zeit für einen Urlaub finden konnten. Wir freuen uns sehr darauf, Sie und Ihre Partnerin bei uns Willkommen zu heißen. Bei uns können Sie übrigens jetzt im März immer noch wunderbar Langlaufen, vergessen Sie also Ihre Skier nicht! [...] Der Gast wird sehr direkt angesprochen, wird abgeholt wo er sich befindet etc. Service pur oder unheimliche Vorstellung der nahen Zukunft? Daniel Juist, KI -DM 180

51 Letzte Aufgabe Exkurs informativ Die FH Brandenburg hat u.a. folgende Ziele hoher Anteil Studierender in der Regelstudienzeit hohe Absolventenquote Ziel: Studienverzögerungen frühzeitig erkennen, reagieren Aufgabe:Bestimmen Sie nach dem zweiten Semester die Studierenden, die aufgrund der Notenprofile einen Studienabschluss außerhalb der Regelstudienzeit erwarten lassen. Und helfen Sie ihnen. Diskussion Wo sehen Sie Probleme? KI -DM 181

52 Exkurs Data Mining und Ethik Die Nutzung von Data Mining-Techniken bedeutet, dass die Nutzung der Daten weitüber das hinausgehen kann, was bei der Aufnahme der Daten ursprünglich bekannt war d. h. für personenbezogene Daten: [WF01 S.36], was dem Erfassten bei der Aufnahme der Daten bewusst und von ihm geduldet war. Bei personenbezogenen Daten befinden sich Data Mining und Datenschutz im ständigen Konflikt. KI -DM 182

53 Bundesdatenschutzgesetz (BDSG) Umgang mit pb Daten Exkurs Personenbezogene Daten:Einzelangaben über persönliche oder sachliche Verhältnisse einer bestimmtenoder bestimmbarennatürlichen Person (Betroffener). Grundsätze bei Erhebung, Verarbeitung, Nutzung Zulässigkeit (Gesetz erlaubt, Vertrag, Einwilligung) Zweckbindung (Festlegung, Änderung) Erforderlichkeit (Datensparsamkeit, Anonymisierung, Pseudonymisierung, zeitliche Dauer, Löschung) Transparenz (Erhebung beim Betroffenen, Unterrichtung, Auskunft) Data Mining -> die automatisierte Einzelentscheidung KI -DM 183

54 Beispiel Kundendaten im Online-Shop Exkurs informativ zur Abwicklung des Kaufes, oder wegen steuerrechtlicher Aufbewahrungspflichten Keine andere Verwendung ohne die Einwilligung des Betroffenen erlaubt. (Gebot der Zweckbindung) Datenarten Stammdaten (Name, Anschrift, Geburtsjahr) erfragte Konsumvorlieben, demographische Angaben (Familienstand, Haushaltsgröße, Einkommen, Beruf, Hobbies) Nutzung des Dienstes (gekaufte Artikel, angesehene Artikel, Clickstream) Profilerstellung (=Veränderung) Analyse des Profils: Data Mining Und jetzt: Der Verkäufer will anhand der Daten werben KI -DM 184

55 Exkurs Beispiel Kundendaten im Online-Shop informativ Rechtsgrundlagen für Erhebung, Nutzung zu Werbezwecken Stammdaten: 28 II Nr. 1 mit I Nr. 2 BDSG (eigener Geschäftszweck) Erfragte Daten: Einwilligung Nutzungsdaten: Einwilligung Profilerstellung (Verändern): Einwilligung Verarbeitung, Durchführung Data Mining: Einwilligung? Informierte Einwilligung 4a BDSG In der Regel schriftlich, besondere Hervorhebung Freiwillige Entscheidung als Grundlage Hinweis auf Zweck, Hinweis auf Folgen der Verweigerung Beispiel: abgewählte Checkbox Mit der Erhebung und Verwendung meiner Daten zu Werbezwecken bin ich einverstanden. Ich weiß, dass ich mein Einverständnis jederzeit widerrufen kann. Problem: wirksame Einwilligung zum Data Mining schwierig Zweck der Verarbeitung ergibt sich oft erst beim Data Mining Freiwilligkeit Einsichtsfähigkeit(Datenarten, Methoden, Leistungsfähigkeit, Folgen sind dem Betroffenen nicht klar) KI -DM 185

56 Daten erheben, speichern, übermitteln und nutzen BDSG: Datensparsamkeit, Datenvermeidung Verwendung personenbezogener Daten in D. restriktiv geregelt Schutz der Daten, Recht auf Auskunft, Berichtigung, Löschung, Verwendungsbeschränkung Exkurs Kontroll-Problem: Datenerheberhat ein massives (existentielles?) Interesse an abgeleitetem (personenbezogenem) Wissen. Wer kontrolliert ihn? Starke Triebkräfte: Data Mining als Geschäftsvorteil, Sicherheitsbedürfnis, aus Neugier, Kostenersparnis, Globalisierung.. KI -DM 186

57 Data Dealer nur ein Spiel Exkurs informativ Bei welchen Personen führen folgende Motive zur Datenweitergabe? Schulden und Geldprobleme: Sieglinde Bayer-Wurz, Manny Maier Unzufriedenheit mit der Arbeitstätigkeit: Franz Sauerzapf, MannyMaier, Schwester Elfriede Unzufriedenheit mit Lohn/Gehalt: MannyMaier, Stephan Petzold, Schwester Elfriede Erpressung: Dr. Ernst Krasser Hacker: Mara Loft, Onkel Enzo Rache: Manny Maier Sie erkennen die soziale Dimension des Datenverlustes, keine der Datenquellen ist grundsätzlich habgierig, bösartig oder primär auf das Schaden anderer Personen ausgerichtet. Die Fälle resultieren aus persönlichen Zwangslagen, aus denen man sich auf Kosten anderer (mit denen man sich nicht direkt auseinandersetzen muss) befreien kann. Eine direkte Schadenswirkung auf die von der Datenweitergabe betroffene Person kann nur äußerst selten wahrgenommen werden, das Entdeckungsrisiko und gesellschaftliche Ächtung ist noch? relativ gering. KI -DM 187

58 Data Dealer Exkurs informativ Welche beiden Datenquellen verkaufen die Daten, die für die Krankenversicherung am wertvollsten sind? Schwester Elfriede, Vorteilsclub Reales Beispiel: Rapleaf Identity Check API als Webservice (passt der Name zur ) Personalization API: Daten zur oder Postadresse: Demographie, Haushalt, Interessen, Einkaufsverhalten Match-Raten und Preise online KI -DM 188

59 informativ 2012, Beispiel Rapleaf Exkurs KI - DM 189

60 Mikrogeografische Daten Exkurs informativ Foto: GfK GeoMarketing KI -DM 190

61 User Tracking beim Browsen, Tool LightBeam Kreise = Besuchte Seiten eines Tages Exkurs KI -DM 192

62 Exkurs LightBeam: User Tracking: Die besuchten Seiten informieren andere Server (Dreiecke) über eingeblendete <IRGENDWAS>, dass Sie da sind. KI -DM 193

63 Exkurs Datensammler, die von vielen Webservern über Ihren Besuch informiert werden -> Profil -> Wiedererkennen KI -DM 194

64 Exkurs informativ Liebe xxxx, Du würdest dein Facebook-Login+Passwort bei einem Vorstellungsgepräch nicht preisgeben, oder? Oder Dich beim Gespräch wenigstens einloggen? Aha, auch nicht. Aber einen Firmenmitarbeiter zum 'Freund' erklären? Nicht mal das? Dann aber wenigstens einer Third-Party App Zugriff aufs Profil erlauben? Auch nicht - dann willst Du den Job (im öffentlichen Dienst) wohl gar nicht? Ungeprüfte Zeitungsmeldung, M. Valdes, S. McFarland, Associated Press, , online unter KI -DM 196

65 Speichern und Übermitteln von Daten Sexuelle Vorlieben im BDSG Exkurs informativ Anonyme Daten dürfen immer gespeichert werden Allgemein zugängliche personenbezogene Daten im Prinzip auch Weitergabe von Listen erlaubt demnächst nicht mehr? Besondere Arten personenbezogener Daten: rassische und ethnische Herkunft, politische Meinungen, religiöse oder philosophische Überzeugungen, Gewerkschaftszugehörigkeit, Gesundheit oder Sexualleben: Erheben, Verarbeiten und Nutzen zulässig, wenn: es sich um Daten handelt, die der Betroffene offenkundig öffentlich gemacht hat Forschung, Medizin (inkl. Beauftragte) Abwehr von erheblichen Gefahren, Verfolgung von Straftaten von erheblicher Bedeutung Organisationen ohne Erwerbszweck: Mitglieder oder Personen, die im Zusammenhang mit deren Tätigkeitszweck regelmäßig Kontakte mit ihr unterhalten 28 KI -DM 197

66 Exkurs Anonym noch Datenbank 1: A ist depressiv, er sitzt in der zweiten Reihe. Datenbank 2: A ist depressiv, er sitzt rechts. Verknüpfen von Datenbank 1 und 2 hebt die Anonymität auf: KI - DM 198

67 Data Mining Die Automatisierte Einzelentscheidung ( 6a BDSG, A15 Europäische Datenschutzrichtlinie) Exkurs informativ (1) Entscheidungen, die für den Betroffenen eine rechtliche Folgenach sich ziehen oder ihn erheblich beeinträchtigen, dürfen nicht ausschließlich auf eine automatisierte Verarbeitungpersonenbezogener Daten gestützt werden, die der Bewertung einzelner Persönlichkeitsmerkmale dienen. (2) Dies gilt nicht, wenn 1. die Entscheidung im Rahmen des Abschlusses oder der Erfüllung eines Vertragsverhältnissesoder eines sonstigen Rechtsverhältnisses ergeht und dem Begehren des Betroffenen stattgegeben wurde oder 2. die Wahrung der berechtigten Interessendes Betroffenen durch geeignete Maßnahmen gewährleistet und dem Betroffenen von der verantwortlichen Stelle die Tatsache des Vorliegens einer Entscheidung im Sinne des Absatzes 1 mitgeteilt wird. Als geeignete Maßnahme gilt insbesondere die Möglichkeit des Betroffenen, seinen Standpunkt geltend zu machen. Die verantwortliche Stelle ist verpflichtet, ihre Entscheidung erneut zu prüfen. KI -DM 199

68 Automatisierte Einzelentscheidung (ausschließliche) 6a BDSG Exkurs informativ Rechtliche Folge? Standard Nicht erlaubt nein ja Erhebliche Beeinträchtigung? ja Im Rahmen Rechts- Verhältnis? nein Maßnahmen Interessen- Wahrung? ja Mitteilung? nein ja Begehren stattgegeben? ja erlaubt ja Kfz erlaubt KI -DM 200

69 Exkurs Konsequenzen des Data Mining Mögliche persönliche Nebenwirkungen Wann wird Diskrimination zu Diskriminierung? Dem Ausgewählten entsteht ein Vorteil: Kündigerprävention, Jobangebote für beste Studenten, Ehepartner, personalisierte Angebote, günstige Krankenversicherung Nachteil: Zahlungsart, Kredit abgelehnt, Bewerbung, Terrorist, Mietvertrag, nicht bester Student, Kosten für Kündigerprävention, teure Krankenversicherung Kann ein Profil Ihre Handlungen besser vorhersagen, als Sie selbst? KI -DM 201

70 Exkurs Konsequenzen des Data Mining Mögliche gesellschaftliche Nebenwirkungen (negative) Ständige Profilbildung, Belanglose Daten Verhaltensänderung durch gefühlte Beobachtung, Selbstzensur Identifikation, Profilabruf, Prognose im täglichen Leben Einschränkung der Handlungsfreiheit Manipulation freier Entscheidungen PersonalisierteFilterblase: Google Suchergebnisse, Facebook-Timeline, News: Ausblenden uninteressanter Inhalte Potential sozialer Diskreditierung Einzelner(Politiker, Kritiker..) Exponentielle Fehlentwicklungen durch automatische Entscheidungen (Börsencrashs) Verlust menschlicher Expertise ( Siri sagt ) Intransparenz von Entscheidungen KI -DM 202

71 Exkurs 3 Tendenzen 1. Maschinelle Wahrnehmung wächst 2. Vernetzung der Wissensbasen wächst 3. Semantische Modellierung wächst KI -DM 203

72 These 1 These 1: Wachsende maschinelle Wahrnehmung Beispiel Gesichtserkennung das Netz öffnet die Augen Gesicht: frei verfügbares Merkmal, Erfassung aus Distanz Exkurs informativ Google-Bildersuche Einstein $imgtype=face, Kamera Casio Exilim(Lächeln, Schärfe auf Bekannte), Picasaonline, PhotoshopelementsV6, iphoto(mac), Face.com PhotoFinder: Suche in Facebook-Alben von Freunden (Upload 700 Mill. Fotos/Monat) Foto-Fahndung (BKA 01/07), Elektronischer Personalausweis 11/2010, Flughafen (Smart Gate), Sportstadien, Einkaufszentren, Bahnhöfe, FIND: Facial Images National Database, Projekt in UK, Ende 2008 Erkennbarkeit... von Stimmung, Alter, Geschlecht, Raucher, Programmierer,...,... von Blickrichtung,... aus Videos, wachsende Kameradichte KI -DM 204

73 These 1: Wachsende maschinelle Wahrnehmung Exkurs informativ Audio Mining, bspw. Google Audio Indexing (Texte aus Youtube-Videos) Reality-Mining: Handy an Funkzelle, WLAN-& Bluetooth-Broadcasts, GPS aus Taxis, Routenplanung in GPS-Geräten mit aktuellen Verkehrsdaten -> (Zeit+Ort+ID)*-> Firma Sense Networks (USA, Lateinamerika, Europa) -> Bewegungsprofile RFIDs in Waren, Tieren Social Networks: Facebook, MySpace, StudiVZ, Xing,... Quantified Self KI -DM 205

74 Exkurs informativ These 2 und 3 Vernetzung und semantische Modellierung Zunehmende Integration von Datenbeständen Bei Firmenübernahmen, Insolvenzen In Werbenetzwerken Bei Kriminellen (Data Dealer) Bei Behörden Semantische Modellierung Von Bildern, Videos: Ort, Zeit, andere Personen, Ereignis,... Von Webseiten: Semantic Web Durch Text-Mining, Modellierung aus natürlicher Sprache KI -DM 206

75 Exkurs ul.net/visualizations/worldsbiggest-data-breacheshacks/ design & concept: David McCandless KI -DM 207

76 Informatikeram Hebel?! Data Mining-Resultate (bspw. Modelle) kritisch betrachten Schätzung des Generalisierungsfehlers schwierig! Prozesse ändern sich! Daten nicht repräsentativ, fehlerhaft, zufällige Zusammenhänge Man findet, was man sucht Datenschutz als Chance (Akzeptanz, Rechtssicherheit von Geschäftsmodellen) Transparente Modelle als Chance Datensparsamkeit, Zweckbindung Respekt: Recht des Einzelnen auf informationelle Selbstbestimmung, Perspektivwechsel, Konsequenzen Transparenz: Informieren über Potentiale, Grenzen und Einsatz des Data Mining Louis Brandeis: Sunlight is said to be the best of disinfectants KI -DM 208

77 Poll at KDD-2010 conference Exkurs informativ Wissen über Data Mining führt zur verantwortlicherem Umgang mit den eigenen Daten: This poll result seems to confirm that many data miners are more interested in analysis of social networks than in participating in them. KI -DM 209

78 Exkurs informativ Prediction is very difficult, especially about the future. Niels Bohr KI -DM 210

79 Exkurs Ausgangsfrage Ist es möglich, die angefallenen und weiter anfallenden riesigen Datenbestände in nützliche Informationen oder sogar Wissen umzuwandeln? Ja. Mehr, als Sie sich vorstellen können. KI -DM 211

80 Literatur Literaturempfehlung [WF01] Witten, Ian H. ; Frank, Eibe: Data Mining. Praktische Werkzeuge und Techniken für das maschinelle Lernen. Hanser Fachbuch,2001 (12 Exemplare in der Bibliothek) [HK01] Han, Jiawei ; Kamber, Micheline: Data Mining. Concepts and Techniques. Morgan Kaufmann Publishers, 2001 (1 Exemplar in der Bibliothek) und ips-kriterien, Teil Rechtliche Grundlagen unter Algorithmen von Quinlan [Qui86] Quinlan, J.R.: Induction of decision trees. In Machine Learning 1986 Volume 1 Number 1. Springer Netherlands. Seiten : online unter [Qui93] J. Quinlan. C4.5: Programs for Machine Learning. Morgan Kaufmann, San Mateo, CA, Quellennachweis [Ult04] Ultsch, Alfred: Anwendungen Emergenter SOM Stand [FPSS96] Fayyad, Usama ; Piatetsky-Shapiro, Gregory ; Smyth, Padhraic: From Data Mining to Knowledge Discovery in Databases. In: AI Magazine 17(3) (1996), S Stand [AG05] prudsys AG: Data Mining Cup. Webseite Stand [TFLK98] Tsien, C., Fraser, H., Long, W. and Kennedy, R.: Using classification tree and logistic regression methods to diagnose myocardial infarction. Medinfo. v , 1998 online unter: KI -DM 212