JUGEND MEDIEN 2.0 SCHUTZ

Transkript

1 JUGEND MEDIEN 2.0 SCHUTZ

2

3 Die Herausforderung Warum digitaler Kinderschutz?

4

5

6 51% aller 6-13 Jährigen besitzen ein Telefon 86% davon chatten regelmäßig Quelle: KIM Studie 2016 (

7 Cyber-Grooming Cyber-Mobbing Radikalisierung

8 5,3% Erwachsener berichten sexuellen Online-Kontakt mit Minderjährigen Quelle: Mikado Studie 2015 (

9 5% davon mit Kindern unter 14 Quelle: Mikado Studie 2015 (

10 41% nutzten Täuschungsstrategien 71% baten um Geheimhaltung 35% beeinflussten gezielt mit Geschenken oder Erpressung Quelle: Mikado Studie 2015 (

11 Bild:

12 Für diese Kriminellen ist das Internet ein paradiesischer Ort mit direktem und ungestörten Kontakt zu ihren Opfern - Julia von Weiler, Innocence in Danger

13 Zusammengefasst Kinder sind im Internet zuhause Pädokriminelle Cyber-Groomer nutzen das Internet als Werkzeug zum Missbrauch Eltern erfahren nur selten davon

14

15 Die Idee Live-Analyse von Chats Automatisches Erkennen von Gefahren Warnung an Eltern und Kind Aufklärung über Gefahren und den richtigen Umgang mit ihnen

16 Wie kriegen wir das hin? 16

17

18

19 folgt Anweisungen. lernt von Erfahrung. lernt von Erfahrung?

20 Machine Learning ja/nein?

21 ja nein ja

22 = Millionen Werte!! R: 181 G: 128 B: 73

23 Was ist was? Wort 1 Wort 2 Wort 1

24 Deep Learning Image source:

25 Image source:

26 Lungenkrebs erkennen Bildquelle:

27 Auto fahren Bildquelle:

28 Text verstehen Image source:

29 Aufgabe Gegeben einen Chatverlauf: Können wir entscheiden, ob Grooming vorliegt oder nicht?

30 Eingabe Algorithmus Ausgabe???

31 Daten sammeln Daten annotieren ML Prozess Modell evaluieren Modell trainieren Modell definieren

32 Daten sammeln Daten annotieren ML Prozess Modell evaluieren Modell trainieren Modell definieren 1. Daten sammeln

33 "Do things that don t scale" - Paul Graham, Y Combinator

34 Erfolg (?) Erste Anmache nach 30 Sekunden 60 Anmachen innerhalb einer Stunde ca Nachrichten insgesamt

35 Taktiken Kanalwechsel (z.b. zu Skype) Direkter sexueller Dialog Langwierige, durchdachte Manipulation Falsche Identitäten

36 Eingabe Algorithmus Ausgabe A: bla bla B: blu? blu A:.??

37 Daten sammeln Daten annotieren ML Prozess Modell evaluieren Modell trainieren Modell definieren 2. Daten annotieren

38 Annotation Grooming-Score von 0 bis 1 Entspricht gefühlter Gefahr zu Zeitpunkt t Beginnt in jeder Konversation bei 0.5

39 Eingabe Algorithmus Ausgabe A: bla bla B: blu? blu A:.? 0.4?

40 Daten sammeln ML Prozess Daten annotieren 3. Modell definieren Modell evaluieren Modell trainieren Modell definieren

41 Embeddings Konv-Block RNN-Block + Batch Normalisierung + (räumliches) Dropout Sigmoid-Layer

42 Eingabe Algorithmus Ausgabe A: bla bla B: blu blu A:.? 0.4

43 Daten sammeln ML Prozess Daten annotieren 4. Modell trainieren Modell evaluieren Modell trainieren Modell definieren

44 Training Training auf 80% der Daten 20% der Daten zum Testen Trainingsdauer ~30 Minuten

45 Daten sammeln ML Prozess Daten annotieren 5. Modell evaluieren Modell evaluieren Modell trainieren Modell definieren

46 Zahlen (auf ungesehenen Daten) Pearson-Korrelation: 0.96 Fehler > 0.3: 3% Auswertung: < 10 ms

47

48

49

50

51 Zusammengefasst Machine Learning lernt von Daten Deep Learning revolutioniert seit 2010 alle denkbaren Bereiche Erkennt Grooming in Chats

52 Und in der Praxis?

53

54 Hey, anscheinend versucht gerade jemand, mit dir über etwas sehr Privates zu sprechen: Bist du sicher, dass du das willst? Denke mal darüber nach: - Kennst du diese Person wirklich? - Was einmal im Netz ist, bleibt im Netz!

55 Zusammengefasst Mit neuesten Technologien: Richtige Aufklärung im richtigen Moment!

56 Diskussion

57 Kontakt Patrick Schneider Geschäftsführung Max Schumacher Technische Leitung