Vorlesung. Datenschutz und Privatheit in vernetzten Informationssystemen

Transkript

1 Vorlesung Datenschutz und Privatheit in vernetzten Informationssystemen Kapitel 7: Privacy Preserving Data Mining Thorben Burghardt, Erik Buchmann Thanks to Chris Clifton & Group IPD, Forschungsbereich Systeme der Informationsverwaltung

2 Motivation Data-Mining identifiziert interessante Muster und Trends in Datenbeständen. Dabei wird oftmals Data-Warehousing und Data- Mining komibiniert. Zweistufiges Vorgehen Zusammenführen aller Informationen an einer Stelle (Warehouse) Anwenden des Data-Mining Algorithmus auf diese Daten. Data Mining Ergebnis Warehouse lokale Daten lokale Daten lokale Daten Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 2

3 Einschub Data-Mining Dank an Frank Eichinger, Matthias Brach und Stephan Schosser IPD, Forschungsbereich Systeme der Informationsverwaltung

4 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 4

5 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 5

6 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 6

7 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 7

8 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 8

9 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 9

10 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 10

11 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 11

12 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 12

13 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 13

14 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 14

15 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 15

16 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 16

17 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 17

18 Bla Blubb Test irgendwas Abschluss Motivation Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 18

19 Ende Einschub Data-Mining Distributed Data-Mining IPD, Forschungsbereich Systeme der Informationsverwaltung

20 Motivation Data-Mining erzeugt (unter anderem) Frequent Itemsets Association Rules Classifiers Clusters Diese Ergebnisse von Data-Mining (in gewisser Weise aggregiert) lassen im Normalfall keine Rückschlüsse auf Individuen zu. Wo soll da das Privatheitsproblem liegen? (abgesehen von outlier detection) Das Problem: Wie berechne ich die Data-Mining Ergebnisse, ohne die zur Berechnung erforderlichen Daten zu kennen? Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 20

21 Motivation Beispiel Komplikationen bei Behandlung Eine Gesundheitsorganisation möchte in allen deutschen Krankenhäusern aufgetretene Komplikationen identifizieren. Alternative 1: Jedes Krankenhaus schickt alle Krankenakten an die Gesundheitsorganisation. Alternative 2: Alle einigen sich auf eine Trusted- Third Party. Wer stellt sich hierfür zur Verfügung? Gefahr der zentralen Datenhaltung? Data Mining Warehouse Ergebnis Lösungsansatz: Gibt es einen Weg, so dass keine Seite seine Daten preisgeben muss, die Analyse aber trotzdem möglich ist? Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 21

22 IPD, Forschungsbereich Systeme der Informationsverwaltung

23 Motivation - Partitionierung Horizontal partitionierte Daten Daten gleicher Semantik über unterschiedliche Individuen sind auf mehrere Parteien verteilt. Vertikal partitionierte Daten Daten unterschiedlicher Semantik über die gleichen Individuen sind auf mehrere Parteien verteilt. Kombiniert (hier wenig interessant) Warum? Daten unterschiedlicher Semantik über unterschiedliche Individuen sind auf mehrere Parteien verteilt. Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 23

24 ID Motivation Adresse Einkommen k k k k Unser Fokus Horizontal partitioniert Vertikal partitioniert ID Adresse Einkommen ID Adresse ID Einkommen k k k k ID 3 Adresse Einkommen 90k k 15k k Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 24

25 Was Der Data Was nicht Warehouse geht geht Ansatz Data Data Mining Mining Kombinierer Kombinierte gültige Ergebnisse Lokales DM Warehouse Lokales DM Lokales DM lokale Daten lokale Daten lokale Daten Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 25

26 Distributed Association Rule Mining IPD, Forschungsbereich Systeme der Informationsverwaltung

27 Lemma Distributed A-Priori Hat eine Regel einen globalen Support > k%, dann muss mind. eine Seite einen Support > k% haben. Algorithmus: Fordere von jede Seite alle Regeln mit Support > k. Fordere von jeder Seite die Anzahl der Transaktionen an, die die Regel unterstützen und die Anzahl aller Transaktionen der Seite. Berechne den globalen Support jeder Regel. Das Lemma garantiert, dass alle Regeln mit Support k gefunden wurden. Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 27

28 Distributed A-Priori A&B C Data Mining Kombinierer Kombiniertes Ergebnise Lokales Data Mining A & B C Lokales Data Mining Nachforderung von Details A&B C 4% D F Lokales Data Mining Lokale Daten Lokale Daten Lokale Daten Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 28

29 Distributed A-Priori Berechnung der Confidence einer Association Rule AB C support support AB AB C = i= sites 1 = sites i= 1 i= sites support_count 1 sites i= 1 support_count AB database_size( i) ABC database_size( i) ( i) ( i) confidence AB C = support support AB C AB Kein Austausch der Transaktionen selbst erforderlich Verlustfreies Vorgehen Frage Sind die Regeln unter Umständen nicht selbst privat? Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 29

30 Privacy Preserving Association Rule Mining IPD, Forschungsbereich Systeme der Informationsverwaltung

31 Privacy Preserving Data Mining Regeln können private Information beinhalten Fortsetzung Bsp. Komplikationen Versicherungen geben Informationen weiter Problem mit Patientenakten Aber auch Probleme bei Behandlungen, die ggf. nur in bestimmten Krankenhäusern auftreten Versicherer kann bei Weitergabe solcher Informationen unter Druck geraten. Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 31

32 Privacy Preserving Data Mining Im Folgenden wird eine Lösung für das Problem vorgestellt Cryptographiebasierter Ansatz Seiten lernen nahezu nichts voneinander Ansatz ist effizient Kosten im Vergleich zu einer nicht securen Lösung O(candidate_itemset * sites) Verschlüsselungen Konstanter Anstieg in der Anzahl der erforderlichen Nachrichten Achtung: Ansatz für drei oder mehr Seiten Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 32

33 Secure Multiparty Computation Motivation Ziel: Berechnung des Ergebnisses, wenn jede Seite über Teile der erforderlichen Eingabe verfügt Yao s Millionaire s problem (Yao 86) Secure Berechnung ist möglich, wenn die Funktion als Schaltung modelliert werden kann Idee: Secure Berechnung der einzelnen Gates Fortsetzen, bis Schaltung berechnet ist. Funktioniert auch für mehrere Parteien (Goldreich, Micali, und Wigderson 87) Secure Multiparty Computation Was ist *Secure*? Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 33

34 Unsere Definition von *Secure* Secure Multiparty Computation: Definitions Niemand weiß irgend etwas bis auf die eigene Eingabe und das Ergebnis Formal: polynomial time S genau so, dass {S(x,f(x,y))} {View(x,y)} Semi-Honest model: folgt dem Protokoll, eine Partei darf aber alles verwenden, was sie während des Protokolls lern Was wäre der Gegensatz Malicious: cheaten um etwas herauszufinden Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 34

35 Person A - Wähle zufälliges Bit r a - Schicke r a an B - Ersetze Input i a durch (i a r a ) Beispiel: Exklusiv-Oder Person B - Wähle zufälliges Bit r b - Schicke r b and A - Ersetze Input i b durch (i b r b ) T T F T Truth F Table T XOR? F T T o a = (i a r a ) r b o b = (i b r b ) r a - Berechne - Berechne i a i b F F F Bisher nichts preisgegeben außer der Zufallszahl o = o a o b = ((i a r a ) r b ) ((i b r b ) r a ) = i a i b r a r a r b r b = i a i b o XOR = (A + B) mod 2 Assoziativ & Kommutativ Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 35

36 Vorbedingung k Parteien k > 2 Secure Sum warum? Obere Schranke für die Summe (F) bekannt Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 36

37 Secure Sum Protokoll P 1 erstellt Zufallszahl r von Gleichverteilung über F P 1 berechnet S 1 = x 1 + r mod F und sendet es an P 2 For P 2 P k-1 - P i empfängt - P k empfängt S S 1 + i j= 1 i = r x mod 1 j F = S 1+ x mod F x j mod F - P i berechnet i i i und sendet es an P i+1 k 1 S = mod k r x 1 j F = j = 1 + j= 1 - P k berechnet S = k = Sk 1+ xi mod F = x j j mod F 1 und sendet es an P1 - P 1 berechnet = k S = Sk r mod F = x j j mod F 1 und sendet es an alle anderen Parteien i k Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 37

38 Beispiel: Secure Sum Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 38

39 Secure Sum: Pro / Kontra Vorteile - Jeder außer P 1 sieht nur Nachrichten, die von einer Zufallszahl maskiert sind. - P 1 sieht dafür nur das finale Ergebnis - Einfach - Nützlich für viele DM Applikationen Nachteile Parteien können zusammenarbeiten Lösung durch Shares von x i Unterschiedliche Permutationen von Informationsflüssen Anpassung an jede DM support Applikation erforderlich support = AB C confidence i= sites 1 AB = sites i= 1 i= sites support_co unt support_co unt 1 sites i= 1 AB C = AB database_s ize( i) ABC database_s ize( i) support support AB C AB ( i) ( i) Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 39

40 Methode nach Kantarcıoğlu and Clifton (DMKD 02) Überblick 1. Finde die Vereinigung der lokalen large Candidate Itemsets *serurely* 2. Nach dem lokalen Pruning, berechne die large Itemsets mit global support *securely* 3. Zuletzt überprüfe die Konfidenz der potentiellen Assoziationsregeln *securely* Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 40

41 Secure Berechnung der Kandidaten Idee: Nutze kommutative Verschlüsselung (E a (E b (x)) = E b (E a (x))) Protokoll 1. Berechne das lokale Candidate Set 2. Ergebnis verschlüsseln und an die nächste Seite schicken - So lange durchführen, bis alle Seiten ihre Regeln verschlüsselt haben 3. Eliminieren von Duplikaten Die kommutative Verschlüsselung stellt sicher, dass gleiche Regeln auch nach der Verschlüsselung, unabhängig von der Reihenfolge, identisch sind. Jede Seite entschlüsselt die verbleibenden Regeln Anschließend verbleiben die relevanten Regeln Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 41

42 tb2 Anmerung zu Schritt 1 Anmerkungen Vorsicht geboten, dass durch die Sortierung der Regeln keine Information preisgegeben wird. Um die Sicherheit zu erhöhen, kann Redundanz eingefügt werden. Nicht voll secure gemäß der Definition von Secure Multiparty Computation. Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 42

43 Folie 42 tb2 Warum? burgthor;

44 E 1 (E 2 (E 3 (ABC))) E 1 (E 2 (E 3 (ABD))) Berechnung des Candidate Sets 1 ABC E 1 (EE 12 (E 12 3 (ABD)) (ABC))) E 3 (ABC) E 3 (ABD) ABC ABD E 2 (EE 32 (E E 13 2 (ABC))) (ABD) 2 ABD 3 ABC E 3 (EE 13 (E E 21 3 (ABD))) (ABC)) Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 43

45 Variablen Nomenklatur (gem. Paper) DB i (Transaktions-)Datenbank auf Seite i DB i Größe der Datenbank auf Seite i s Support Schranke (minimaler Support), (prozentual) c Konfidenz (prozentual) X Itemset x.sup Globaler Support von Itemset x X.Sup i Lokaler Support von Itemset X (absolut) an Seite i Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 44

46 Ziel: Prüfen x. sup n i= 1 n i= 1 s* X Berechne, welche Kandidaten globalen Support haben ( X DB.sup i.sup i = s n i= 1 * s* n i = 1 s* DB DB i DB ) i i 0 (1) (2) (3) Hinweis, das Prüfen von (1) ist identisch mit dem Prüfen von (3) Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 45

47 Protokoll (Fortsetzung) Berechne Sum 0: Berechne, welche Kandidaten globalen Support haben (2) Seite 0 generiert zufälliges r Sendet r+count 0 frequency*dbsize 0 zur Seite 1 Seite k addiert count k frequency*dbsize k, Sendet Ergebnis zu Seite k+1 Endergebnis: Ist die Summe von Seite n - r 0? Nutze *secure* two party computation Dieses Protokoll ist *secure* im Sinne des semihonest modells Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 46

48 Berechne, welche Kandidaten globalen Support haben (3) : Ist der Support von ABC 5%? 1 ABC: * ABC=18 ABC: 19 R? DBSize=300 2 ABC=9 DBSize=200 3 ABC=5 DBSize=100 ABC: YES! R=17 ABC: * ABC: *100 R+count-freq.*DBSize Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 47

49 Berechnung der Konfidenz Protokoll Gleich, wie für die Berechnung des supports Berechnung der Konfidenz für X Y { X Y}.sup X.sup c n i= 1 n i= 1 n i= 1 XY.sup X.sup ( XY.sup i i i c c X.sup ) i 0 Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 48

50 Zusammenfassung IPD, Forschungsbereich Systeme der Informationsverwaltung

51 Zusammenfassung Einblicke in - Data Mining - Partitionierungen von Datenbeständen - Verteiltes Data Mining - Secure Multiparty computation - Yao s Millionaires Problem - Secure Sum - Kommutative Verschlüsselung - Secure Association Rule Mining Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 50

52 Konkreter Zusammenfassung - Data Mining wurde oftmals verpönt als privatheitsgefährdent. - Hier gezeigt, dass Data Mining Ansätze die Privatheit in verteilten Systemen erst ermöglichen. - Wir haben Muster auf verteilten Datenbeständen identifiziert, ohne dass die Originaldaten dazu preisgegeben werden mussten. - Verlustfrei, unter Einsatz von Verschlüsselungstechniken. - Verzicht auf zentrale Instanz. Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 51

53 Mögliche Prüfungsfragen IPD, Forschungsbereich Systeme der Informationsverwaltung

54 Mögliche Prüfungsfragen Begründen Sie mit dem Datenschutzrecht, warum ein Krankenhaus nicht jede Krankenakte and eine Gesundheitsorganisation geben darf? Werden beim verteilten Finden von Association Rules mehr oder weniger Ass. Rules an den Kombinierer gemeldet als tatsächlich vorliegen? Beschreiben Sie den Aufbau eines Securen 2-Bit Vergleichers. Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 53

55 Literatur [1] Kantarcioglu, M. & Clifton, C. Privacy-Preserving Distributed Mining of Association Rules on Horizontally Partitioned Data, IEEE Trans. on Knowl. and Data Eng., IEEE Educational Activities Department, 2004, 16, [2] Privacy-Preserving Data Mining (Models and Algorithms): Charu Aggarwal [3] Privacy-Preserving Data Mining: Chris Clifton Erik Buchmann Datenschutz im Netz: Privacy Preserving DM 54