Folien.

Transkript

1 Folien 1

2 Automatisierte Videoüberwachung Gesellschaftliche Auswirkungen aus technischer Perspektive Benjamin Kees

3 Gliederung Videoüberwachung Automatisierung Probleme 3

4 Videoüberwachung Das Versprechen Prävention (mehr verhinderte Kriminalität) Sicherheitsgefühl (mehr subjektive Sicherheit) Hilfe bei Ermittlung (mehr aufgeklärte Kriminalität) Personalersparnis Sicherheit4

5 Videoüberwachung Verhältnismäßigkeit Effektivität vs. Negative Eigenschaften Prävention nicht nachgewiesen Sicherheitsgefühl nur bedingt vorhanden Aufklärung London 2008: 1:1000 Straftaten/Kamera 5

6 Videoüberwachung Verhältnismäßigkeit Effektivität vs. Negative Eigenschaften Prävention nicht nachgewiesen Sicherheitsgefühl nur bedingt vorhanden Aufklärung London 2008: 1:1000 Straftaten/Kamera Datenschutz Überwachungsdruck Informationelle Selbstbestimmung Diskriminierung Voyeurismus Gesamtgesellschaftliches Klima 6

7 Videoüberwachung Verhältnismäßigkeit Effektivität vs. Negative Eigenschaften Prävention nicht nachgewiesen Sicherheitsgefühl nur bedingt vorhanden Aufklärung London 2008: 1:1000 Straftaten/Kamera Datenschutz Überwachungsdruck Informationelle Selbstbestimmung Diskriminierung Voyeurismus Gesamtgesellschaftliches Klima verstießen 99% von 3345 Überprüften von Kommunen betriebene Kameras massiv gegen datenschutzrechtliche Vorschriften.* *Deutscher Bundestag Drucksache: 17/

8 Videoüberwachung London 2012

9 Automatisierung Begriffe 9

10 Automatisierung Projekte 10

11 Automatisierung Bedeutung Aufgaben der OperateurInnen ganz oder teilweise mit Algorithmen ausführen Defiziten der OperateurInnen begegnen Personalkosten Reduzieren Eigenschaften von Computerisierung ausnutzen Quantität und Qualität der Datenauswertung erhöhen Unerwünschte Geschehnisse zu prognostizieren 11

12 Automatisierung Bildauswertung Bildverarbeitung Bewegunsdetektion (Pixel) Objekterkennung (Fahrzeuge, Menschen) Bewegungserkennung (Gestik, Gang, Pose) Künstliche Intelligenz Verhaltensinterpretation (Laufwege, Tätigkeit, Körpersprache) Szenenverstehen (Interaktion, Korrelation, ) Bewertung, Prognose, Handlungsempfehlung Biometrie und Identifizierung (Kleidung, Gesicht, Gang, Alter, Körpermaße, Geschlecht) 12

13 Automatisierung Komponenten Analysemodule (Rechner) Kameras und andere Sensoren Netzinfrastruktur Datenspeicher Anbindung an externe Informationsquellen Kontrollraum oder mobile Geräte mit GUI OperateurInnen und Sicherheitspersonal 13

14 Automatisierung Das Perfekte System reagiert sofort, macht keine Erkennungsfehler, detektiert alle Vorfälle, gibt keine Falschalarme und ermöglicht rechtzeitiges Eingreifen. D. Gavrila (Universität Amsterdam) [3sat-Doku]* Doku: 14

15 15

16 Automatisierung Bewertungskriterien: Modelle Blacklist-Ansatz White-List Ansatz Messen der Übereinstimmung mit Modellen von Unerwünschtem Messen der Abweichung von Modellen von Normalität 16

17 Automatisierung Modellgewinnung Manuelle Modellierung Aufwendig Automatisierte Modellierung Maschinenlernen, Neuronale Netze, 17

18 Probleme der Automatisierung Rolle der OperateurInnen Datenschutz und privacy Diskriminierung Effekt auf Gesellschaft 18

19 Probleme Rolle der OperateurInnen Rolle oft Legitimation einer Automatisierung Die Interpretation oder Empfehlung vom System wird ja noch mal von Menschen evaluiert Mündige Entscheidung bedarf Wissen und Verständnis Empirisch nachgewiesener Psychologischer Effekt eines übersteigerten Vertrauens Assistenzsysteme ( complacency und automation bias ) Operateure Teil des Automatismus 19

20 Probleme Datenschutz und privacy Bilder => Personenbezogene Daten Datenbedarf vs. Datensparsamkeit Verarbeitung und Analyse Datenschutzmaßnahmen schützen nur vor den Blicken der OperateurInnen Tatsächliche Zugriffsrechte, Speicherungsdauer usw. entziehen sich der Überprüfung 20

21 Probleme Überwachungsdruck Panoptisches Prinzip Noch stärkeres Informationsungleichgewicht Zeitlich Rückwärtsgerichtete Überwachung möglich Studien zeigen verändertes Verhalten bei Verdacht auf Mustererkennung Panoptisches Prinzip

22 Probleme Diskriminierung Technik nicht objektiv Z. B. diskriminierende Gesichtserkennung Einfallstore für Diskriminierung: Manuell/ halbautomatisch erstellte Modell (Trainingsdatensatz) Automatisiert erstellte Modelle Komplexität des Systems Verdächtigung durch gezielte Kategorisierung Institutionalisierung und Rückkoppelungseffekte Schwer zu identifizieren - noch schwerer zu fixen 22

23 Probleme Effekt auf Gesellschaft Quantitätsproblem wird zu Qualitätsproblem Effekt unabhängig von tatsächlichen Fähigkeiten Schafft Klima des Misstrauens und verlangt selbst so viel Vertrauen Fördert Konformität und Gefährdet Vielfalt und demokratische Teilhabe 23

24 Zusammenfassung Fehlendes Problembewusstsein Automatisierung verstärkt Probleme und schafft neue Reduzierung der Kritik auf Datenschutz erweckt den Anschein von Legitimität, falls dieser eingehalten wird Effektivität von Datenschutzmaßnahmen ist fraglich Hohes Risiko des Missbrauchs (besonders bei Export) 24

25 Fazit Effektivität muss nachgewiesen werden! Auswirkungen müssen untersucht und berücksichtigt werden! Systeme müssten transparent und prüfbar sein! Diskurs muss bereichert werden! Exportregelungen! Wollen wir das überhaupt? 25

26 Kontakt Niemand interessiert, wofür etwas gedacht ist. Die relevante Frage ist, wer davon betroffen ist. Felix von Leitner Kontakt Follow (demnächst) 26