Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen

Transkript

1 Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer Bildquelle: Wikipedia - Jan Matejkos Stańczyk Digitalisierungskongress 2018 Gemeinwohl in der digital vernetzten Gesellschaft: Wir arbeiten dran!

2 Mein Ziel in diesem Vortrag Algorithmen des Maschinellen Lernens und ihre Konsequenzen für Gemeinwohl und Arbeitswelt verstehen und mitgestalten Wo kann KI durch bessere Prognosen, schnellere Entscheidungen und die Automatisierung von Routineaufgaben dazu beitragen, die Arbeitswelt zu verbessern? Wo bergen neue Möglichkeiten der Vorhersage und automatisierten Überwachung Gefahren für Arbeitswelt und Gesellschaft?

3 Bildquelle: Wikipedia - ENIAC

4 Panopticon Bildquelle: Wikipedia - Presidio Modelo

5 Examples of Machine Learning Beispiele für Maschinelles Lernen & KI Self-driving cars Recommendation systems [public domain] By Steve Jurvetson [CC BY 2.0] Photo search Speech Recognition Speech Recognition and many, many Deep more... How cold is Recurrent Neural Network Acoustic Input it outside? Text Output Reduced word errors by more than 30% Oben: Sebastian Raschka - Practical Data Science, Unten: Jeff Hinton - Google

6 Examples of Machine Learning Beispiele für Maschinelles Lernen & KI Text Recognition Google Photos Search Image Recognition Biology Deep Convolutional Neural Network ocean Automatic Tag Your Photo File:American_book_company_1916._letter_envelope-2.JPG#filelinks [public domain] Search personal photos without tags. Google Research Blog - June 2013 Spam Filtering [CC BY 2.0] Oben: Sebastian Raschka - Practical Data Science, Unten: Jeff Hinton - Google

7 Spam erkennen IMPERATIVE PROGRAMMIERUNG if "V!agrå" in mail: return "Spam" else: return "Ham" MASCHINELLES LERNEN 1. prognostiziere für viele Beispiele, ob Nachricht Spam ist 2. berechne Fehler 3. ändere Parameter, um Fehler zu verringern 4. goto 1

8 Stretch pixels into column Input image W = Cat score Dog score Ship score Figure 2-5. Predictions made by the three-nearest-neighbors model on the forge dataset

9 Brustkrebs erkennen J. Zico Kolter, /688, Practical Data Science

10 Brustkrebs erkennen J. Zico Kolter, /688, Practical Data Science

11 Brustkrebs erkennen Moritz Hardt, How big data is unfair

12 ProPublica: Machine Bias Verbrechen vorhersagen 3 LOW RISK 8 HIGH RISK

13 LOW RISK HIGH RISK X' y'

14 Verbrechen vorhersagen Deutschlandfunk: Algorithmen im US- Justizsystem Schicksalsmaschinen von Tom Schimmeck

15 Paul Butler: Visualizing Friendships "Die Kombination von großen Datenmengen und Machine Learning führt zu Manipulationsmethoden, die die Zukunft von Demokratie und gesellschaftlichem Zusammenhalt gefährden. Dem muss zügig und mit Nachdruck und ohne Scheu vor dem Eingriff in Geschäftsmodelle entgegengetreten werden. Frank Rieger im Bayern 2 Zündfunk

16 Kosinski et al.: Private traits and attributes are predictable from digital records of human behavior Persönlichkeitsmerkmale erkennen Weiße/r oder Afroamerikaner/in: 95% Männlich oder Weiblich: 93% Heterosexuell oder homosexuell: 88% Demokrat oder Republikaner: 85% Christlich oder muslimisch: 82% Drogenerfahrung: 65% - 73% Ehe der Eltern hat bis zum 21. Lebensjahr gehalten: 60%

17 Kosinski et al.: Private traits and attributes are predictable from digital records of human behavior Persönlichkeitsmerkmale erkennen

18 Algorithmen-TÜV?

19 François Chollets Forderungen an ein Algorithmische Nachrichtenkuration das Optimierungsziel des Algorithmus transparent machen zeigen, welchen Einfluss diese System auf den täglichen Nachrichtenkonsum (news diet) haben Werkzeuge bereithalten, um diese Ziele zu beeinflussen

20 Was kann ver.di tun? Austausch zwischen Forschung & Gesellschaft fördern, Expertise aufzubauen individuelle Regulierung maschineller Systeme Untersuchung und Sanktionierung von Datensammel- und Algorithmennutzungspraktiken Informatikkompetenz auf allen Ebenen der Idee, dass jedes soziale oder politische Problem technologisch gelöst werden kann, entgegentreten

21 Welche Fragen, Probleme und Ideen bringt ihr mit?

22 Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer ifib & AGIM Dr. Martin Beckmann ver.di-bundesverwaltung

23 Totalüberwachung durch Verschärfung des bayerischen Polizeirechts DVD-Vorstandsmitglied Thilo Weichert: Die Regelung zur Mustererkennung ermöglicht es der Polizei, technisch Menschen aus einer Menschenmenge als verdächtig herauszufischen, nur weil sie als verdächtig programmierte Eigenschaften haben. Damit wird der digitalisierten Willkür und der Diskriminierung von Minderheiten die Tür geöffnet. Dies trifft auch für die Erstellung sog. genetischer Phantombilder zu. Diese Techniken befinden sich noch in einem Entwicklungsstadium, das mehr Fehler als polizeiliche Hilfe produziert. Quelle Text: datenschutzverein.de Bildquelle:

24 Kann eine Brücke rassistisch sein? Langdon Winner Bildquelle: Wikipedia - Erasmusbrücke, Rotterdam