Identifikation gesellschaftlicher Probleme automatisierter Videoüberwachung. Diplomarbeit

Größe: px

Ab Seite anzeigen:

Download "Identifikation gesellschaftlicher Probleme automatisierter Videoüberwachung. Diplomarbeit"

Ella Huber
vor 7 Jahren
Abrufe

1 Identifikation gesellschaftlicher Probleme automatisierter Videoüberwachung Beitrag einer verantwortungsvollen Informatik Diplomarbeit zur Erlangung des akademischen Grades Diplominformatiker Humboldt-Universität zu Berlin Mathematisch-Naturwissenschaftliche Fakultät II Institut für Informatik eingereicht von: Benjamin Kees geboren am: 29. August 1985 in: Berlin Gutachter: Wolfgang Coy Hartmut Wandke eingereicht am: verteidigt am:......

Mathematisch-Naturwissenschaftliche Fakultät II Institut für Informatik eingereicht von: Benjamin Kees geboren

3 Abstract Videoüberwachung, die trotz nicht nachgewiesener Effektivität und negativer Auswirkungen auf Individuen und Gesellschaft weltweit massiv ausgebaut wurde, soll durch Algorithmisierung in Zukunft so automatisiert wie möglich gestaltet werden. Dazu sollen nicht nur die bisherigen Aufgaben der OperateurInnen weitestgehend übernommen werden, sondern wird auch eine Erhebung, Verarbeitung und Nutzung von Daten angestrebt, die über menschliche Kapazitäten weit hinausgeht. Auf Grund der technischen Funktionsweise, dem grundsätzlichen Charakter von Überwachung und der Automatisierung an sich, ist mit verstärkten und zusätzlichen negativen Auswirkungen auf Individuen und Gesellschaft zu rechnen. In der vorliegenden Arbeit werden anhand aktueller wissenschaftlicher Publikationen die Funktionsweise und Fähigkeiten eines wahrscheinlichen automatisierten Systems entworfen. Dies wird auf gesellschaftliche Probleme hin untersucht und Lösungsansätze werden diskutiert. Identifizierte Probleme sind eine inhärente, gegen das Prinzip der Datensparsamkeit verstoßende, umfangreiche Erhebung von personenbeziehbaren Daten, eine gesteigerte Informationsasymmetrie zwischen Betroffenen und Überwachenden, ein daraus resultierender massiver Eingriff in das Recht auf informationelle Selbstbestimmung sowie eine Steigerung der selbstdisziplinierenden Wirkung auf Betroffene. Ansätze zur Anonymisierung von Daten sind technisch und konzeptuell ungenügend. Mit der Technik der Verhaltenserkennung und -bewertung geht außerdem die Gefahr einer institutionalisierten Diskriminierung Betroffener einher, die wenn überhaupt identifiziert nur schwer oder gar nicht zu unterbinden ist. Entgegen der allgemeinen Argumentation, kann der Einsatz von OperateurInnen die umfangreiche Automatisierung nicht legitimieren und eine Verhinderung automatisierter Entscheidungen zum Nachteil Betroffener nicht sicherstellen. Zum einen können für eine mündige Entscheidung konzept- und technikbedingt keine adäquaten Informationen bereitgestellt werden. Zum anderen muss gegenüber der Assistenz durch das System aus psychologischen Gründen mit einem übersteigerten Vertrauen gerechnet werden, das zu einer mangelnden Überprüfung der ohnehin unzulänglich überprüfbaren Darstellung und Entscheidungen des Systems führt. Das Vertrauen kann nur teilweise und mit hohem Trainingsaufwand angepasst werden. Nicht nur Auswirkungen einzelner Maßnahmen, sondern das Stattfinden automatisierter Überwachung allgemein, können eine positive gesellschaftliche Entwicklung gefährden. Die Technik birgt außerdem die Gefahr als Werkzeug zur Unterdrückung missbraucht zu werden.

Dazu sollen nicht nur die bisherigen Aufgaben der OperateurInnen weitestgehend übernommen werden, sondern wird auch eine Erhebung, Verarbeitung und Nutzung von Daten angestrebt, die über menschliche

5 Früher hat man dem Computer ein Problem übergeben, wenn man es verstanden hatte, heute ist es andersrum. JOSEPH WEIZENBAUM

6 Inhaltsverzeichnis 1 Einleitung Zielsetzung und Methode Struktur der Arbeit Vorbetrachtungen zu Videoüberwachung Ausbreitung und Effektivität Verlauf der technischen Entwicklung Konzept und Auswirkungen manueller Videoüberwachung im öffentlichen Raum Aufgabe der OperateurInnen Bedeutung von Datenschutz und privacy Wirkung auf Individuen und Gesellschaft Zusammenfassung Techniken und Konzepte automatisierter Videoüberwachungssysteme Verhaltenserkennung Verhalten und Erkennungsansätze Hierarchische Organisation Gewinnung von Verhaltensmodellen Weitere Möglichkeiten des Bildverstehens Objekterkennung Bewegung und Zusammengehörigkeit Mimik, Gestik und Körpersprache Personenidentifizierung Vernetzung, Kameras und Sensoren Kameratypen Netzwerkkameras und Kameras mit Rechenleistung Integration von Sensoren Weitere Datenquellen und ihre Bedeutung Datenspeicher und rückwärts gerichtete Überwachung Externe Datenquellen Darstellungsansätze für die Mensch-System-Interaktion Versuche privacy-fördernder Techniken Verhinderung oder Einschränkung der Bildaufnahme Datahiding Zugriffskontrolle Kontextuell-dynamische Eingriffstiefe in Grundrechte

3 Konzept und Auswirkungen manueller Videoüberwachung im öffentlichen Raum 14 2.3.1 Aufgabe der OperateurInnen....................... 16 2.3.2 Bedeutung von Datenschutz und privacy................. 18 2.

7 4 Entwurf eines technisch wahrscheinlichen Komplettsystems Ω Anforderungen an das System Struktur und Komponenten Datenverarbeitung Verhaltensmodelle Mensch-System-Interaktion Gesellschaftliche Probleme und Auswirkungen Datenschutz und privacy Spannung zwischen Datenbedarf und Prinzip der Datensparsamkeit Diskussion der Datenschutzmaßnahmen OperateurInnen als Teil des Automatismus Mündigkeit und Informiertheit Übersteigertes Vertrauen in Automation Zusammenfassung Diskriminierung der Betroffenen Politik von Technik Diskriminierung durch Algorithmen am Beispiel von Gesichtserkennung Diskriminierung durch Ω Einfallstore für Diskriminierung Diskussion von Gegenmaßnahmen Wirkung der Automatisierung auf Individuen und Gesellschaft Informationsasymmetrie Unterschied der Wirkung zwischen manueller und automatisierter Videoüberwachung Diskussion von Gegenmaßnahmen Quantitätsproblem wird zu Qualitätsproblem Einsatz außerhalb eines demokratischen Rahmens Schluss Zusammenfassung Fazit Fazit zur Verantwortung der Informatik Fazit zur Verhältnismäßigkeit automatisierter Videoüberwachung

1 Datenschutz und privacy.............................. 70 5.1.1 Spannung zwischen Datenbedarf und Prinzip der Datensparsamkeit.. 72 5.1.2 Diskussion der Datenschutzmaßnahmen................. 79 5.

Ähnliche Dokumente

Folien. www.algoropticon.de/sigint2013_folien.pdf

Folien. www.algoropticon.de/sigint2013_folien.pdf Folien www.algoropticon.de/sigint2013_folien.pdf 1 Automatisierte Videoüberwachung Gesellschaftliche Auswirkungen aus technischer Perspektive Benjamin Kees sigint2013@algoropticon.de 05.07.2013 Gliederung