IST DAS AUTONOME FAHRZEUG SICHER(ER)?

Transkript

1 youtube.com/watch?v=ollfk8osnem Folien: IST DAS AUTONOME FAHRZEUG SICHER(ER)? Dr. Dominik Herrmann // Universität Hamburg

2 Einteilung der deutschen Bundesanstalt für Straßenwesen (BASt) vollautomatisiert hochautomatisiert Fahrer muss nach Aufforderung Kontrolle übernehmen teilautomatisiert Längs- und Querführung Fahrer muss sofort eingreifen assistiertes Fahren Längsführung 2

3 Sind autonome Fahrzeuge sicher(er)? Sicherer in welcher Hinsicht? Safety Schutz vor unbeabsichtigten Fehlern Security Schutz vor böswilligen Angreifern Privacy Schutz der Privatsphäre 3

4 Autonome Fahrzeuge nehmen ihre Umgebung durch Sensoren wahr. GPS Lidar Radar Stereo-Kamera Ultraschall Zentralrechner Radar 4

5 Autonome Fahrzeuge nehmen ihre Umgebung durch Sensoren wahr. Quelle: Google 5

6 Zusätzliche Vernetzung der Fahrzeuge erlaubt rechtzeitige Übermittlung von Gefahren; in Kombination mit Sensordaten höhere Zuverlässigkeit. 6

7 Die Erkennung von Gefahren ist eine Frage von Wahrscheinlichkeiten. 100%-ige Sicherheit ist erreichbar aber auf Kosten des Komforts. Anteil der Situationen konservativer Schwellwert Gefahr technologische Innovation Normalzustand riskanter Schwellwert Wert des Gefahr -Sensors 7

8 Bei der Verkehrszeichenerkennung übertrifft die Genauigkeit maschineller Lernverfahren die des Menschen. J. Stallkamp, M. Schlipsing, J. Salmen, C. Igel, Man vs. computer: Benchmarking machine learning algorithms for traffic sign recognition, Neural Networks, Volume 32, August 2012, Pages , ISSN , 8

9 Aktuelle Sicherheitsvorfälle bei autonomen Fahrzeugen Tesla Jeep VW 9

10 Aktuelle Sicherheitsvorfälle bei autonomen Fahrzeugen 10

11 Wie gut fahren die Prototypen? Google 341 Delphi 405 Volkswagen 260 Nissan 106 Mercedes 967 Bosch 625 Tesla Gefahrene Testkilometer (Tsd.) Okt Nov Interventionen 11

12 Offenes Problem: Wie sollen autonome Fahrzeuge entscheiden, wenn sie einen drohenden Unfall erkennen? 12

13 Auch bei ausreichender Bedenkzeit sind viele Situationen kaum entscheidbar. 13

14 Sollen Hersteller programmatisch festlegen, wer im Zweifel angefahren wird? Oder soll das Auto wie viele Menschen einfach zufällig reagieren? ohne Helm höhere Chance beim Aufprall zu sterben mit Helm höhere Chance zu überleben 14

15 Autonome Fahrzeuge werden bessere Fahrer sein, v.a. weil sie defensiver fahren werden. Safety 15

16 Safety Security Schutz vor böswilligen Angreifern 16

17 Hersteller stehen ganz am Anfang eines langen Lernprozesses

18 Durch die Vernetzung vergrößert sich die Angriffsfläche. Tesla Jeep VW 18

19 Herausforderung: Keine Bedrohung vergessen! Es existieren zahlreiche Vorgehensmodelle. Beispiel: STRIDE Threat Model Spoofing: Tampering: Repudiation: Information disclosure: Denial of service: Elevation of privilege: Fälschen der eigenen Identita t Fälschen oder Verändern von Daten Anwenden von Verschleierungstaktiken Unbefugte Preisgabe vertraulicher Informationen Unbefugte Beeinträchtigung der Funktionalität Unbefugtes Erlangen von Berechtigungen 19

20 Zur Schließung von Sicherheitslücken stehen zahlreiche Ansätze zur Verfügung. verhindern prevent Firewalls, Kryptographie, abschrecken deter drohende Strafverfolgung PRÄVENTIV ablenken deflect Attraktivität anderer steigern abschwächen mitigate Schadenshöhe verringern erkennen detect währenddessen oder danach REAKTIV erholen recover Notfallplan, Krisenmanagement Pfleeger et al. (2015): Security in Computing (5th Edition, 5th ed., p

21 Wir verstehen die neue Technik noch nicht gut genug. Maschinelle Lernverfahren lassen sich in die Irre führen und mit einfachen Mitteln stören. Schulbus + Rauschmuster = <unklar> 21

22 Offenes Problem: Das Verhalten vernetzter Fahrzeuge kann durch Einspeisen von Falschinformationen manipuliert werden. Diskutierte Lösungen Plausibilitätskontrolle Sensor Fusion Überwachung der Kommunikation 22

23 Autonomes Fahren: komplexe Aufgabe complexity is the enemy of security Sicherheitslücken zu erwarten bekannte Strategien und Gegenmaßnahmen bislang noch kaum untersucht: missbräuchliches Einspeisen von Falschinformation Security 23

24 Safety Security Privacy Schutz der Privatsphäre 24

25 25

26 26

27 27

28 Keine Anonymität Anbieter/Hersteller erfährt alle Fahrten Weitergabe und Integration mit anderen Anbieter Collaborative Filtering -Analyse gesponsorter Vorschlag 28

29 Zur Klärung von Haftungsfragen bei der Übernahme der Steuerung von der Maschine soll der Innenraum des Fahrzeugs überwacht werden. 29

30 Autonome Fahrzeuge bieten im Vergleich zum Marketing im Internet Vorteile Analyse des Surfverhaltens zur Personalisierung aber: Nutzer können sich vor Überwachung schützen 30

31 weil sie durch die vorhandene Sensorik die Insassen wesentlich genauer kennenlernen und ansprechen können. Erkennung von Emotionen

32 IST DAS AUTONOME FAHRZEUG SICHER(ER)? Safety Beherrschbarkeit durch defensive Fahrweise Security Angriffsmöglichkeiten noch kaum verstanden Privacy sehr sensibel, aber kaum beachtet Dr. Dominik Herrmann Folien: