Künstliche Intelligenz

Transkript

1 Johner Institut Künstliche Intelligenz Der Spaß ist vorbei MedConf 2018

2 Lineare Algebra Analysis, Differenzial- und Integralrechnung Wahrscheinlichkeitstheorie & Statistik Algorithmen & Komplexitätstheorie Artificial Intelligence Machine Learning Deep Neural Networks Computer Vision

3 Machine Digitalisierung Disruptiv Big Data A.I. IBM Watson Learning Innovation Tensorflow Bullshit Bingo Künstliche Deep Neural Networks Data Science Digitale Trans- Start-up Analytics Intelligenz formation Self Driving Car Convolutional Back Google Duplex Virtual Reality Neural Industrie 4.0 Silicon Valley Propagation Networks

4 Sichtbarkeit Deep Learning Machine Learning NLP Computer Vision GPU Accelerators AI Governance Autonomous Vehicles Speech Recognition Virtual Reality Chatbots Augmented Reality Reife Technologische Gipfel der Tal der Aufstieg zur Plateau der Auslöser überzogenen Desillusion Erleuchtung Produktivität Erwartungen Quelle: Gartner 2018

5 Spiegel Ausgabe 45/2017 Spiegel Ausgabe 32/2018

6 Deep learning is for people lacking the engineering skills to solve the problem properly. 6

7

8 8

9 Professor Zellweger erleben beim Institutstag am

10 Bis zum Tod...

11 Bilderkennung (z.b. Retinopathie) Qualitätssicherung Erkennung von Depressionen Erkennung von Epidemien Medikation (Auswahl, Dosierung) Prognose von Krankheiten / Tod Drug-Design Text à strukturierte Daten Signalverarbeitung u.v.m. KI in der Medizin 11

12 1 Grundlagen

13 Artificial Intelligence A machine s ability to make decisions and perform tasks that simulate human intelligence and behavior. Alternatively 1. A branch of computer science dealing with the simulation of intelligent behavior in computers. Definition 2. The capability of a machine to imitate intelligent human behavior Merriam-Webster 13

14 Alan Turing

15 Künstliche Intelligenz KI) Artificial Intelligence (AI) Machine Learning (ML) Symbolic Learning Statistical Learning Deep Learning Baysian Filter

16 Symbolic Learning

17 Künstliche Intelligenz KI) Artificial Intelligence (AI) Symbolic Machine Learning (ML) Learning Statistical Learning Deep Learning

18 Machine Learning A facet of AI that focuses on algorithms, allowing machines to learn and change without being programmed when exposed to new data. Definition 18

19 Klassisch Modell bilden Modell mit Rohdaten füttern Ergebnisse mit Modell berechnen Ergebnisse vergleichen Verfahren (Meta- Model) wählen Mit Rohdaten & Ergebnissen füttern Modell bilden (lernen) lassen Ergebnisse vergleichen Machine Learning

20 Klassische Verarbeitung Machine Learning Daten Daten Daten Daten Daten Daten Daten Algorithmus abhängig von Daten!

21 Was lässt jemanden alt aussehen? www Heatmapping

22 Künstliche Intelligenz KI) Artificial Intelligence (AI) Symbolic Machine Learning (ML) Learning Statistical Learning Deep Learning

23 Deep Learning The ability for machines to autonomously mimic human thought patterns through artificial neural networks composed of cascading layers Definition of information. 23

24 2 Verfahren

25 KI Verfahren in der Medizin Jiang F, Jiang Y, Zhi H, et al. Artificial intelligence in healthcare: past, present and future. Stroke and Vascular Neurology 2017;2:doi: /svn

26 Körpergewicht [kg] y = m x + c Körpergröße [kg] Lineare Regression

27 Bestimmung von m und c Algorithmisches Verfahren Näherungsverfahren

28 Körpergewicht [kg] Körpergröße [kg] Lineare Regression

29 Open

30 Fehler Loss Function Große Lernrate Kleine Lernrate m Loss Function 30

31 1,2 1 Rückenprobleme 0,8 0,6 0,4 0, Körpergröße [cm] Logistische Regression

32 Körpergewicht [kg] Mit Rückbeschwerden Ohne Rückbeschwerden Loss-Function: Anzahl Fehlklassifizierungen 2 Fehlklassifizierungen 1 Fehlklassifizierung Körpergröße [cm] Logistische Regression

33 Körpergewicht [kg] Mit Rückbeschwerden Ohne Rückbeschwerden Körpergröße [cm] Neuronale Netzwerke

34 Dendrit Zellkern Axon Soma x 1 w 1 Aktivierungsfunktion j x 2 w 2 x 3 w 3 Output y... x n w n Schwellwert c

35 x 1 w 1 Aktivierungsfunktion j x 2 w 2 x 3 w 3 Output y... x n w n Schwellwert c

36 Aktivierungsfunktionen j 36

37 y = j(x) y = j(x+2) Schwellwert c Schwellwert c = 2 37

38 Aktivierungs- x funktion j x 1 w 1 Input Output y o 0 0 x 1 x 2 w 2 Schwellwert c o 1 W 1 = 1 AND Operator W 2 = 1 x 1 x 2 y = x 1 AND x 2 C = 1, Beispiel AND und OR

39 x 1 Körpergewicht [kg] Aktivierungsfunktion j x 1 w 1 Input Output y x 2 w 2 Schwellwert c x 2 Körpergröße [cm] Neuronale Netzwerke Mit Rückbeschwerden Ohne Rückbeschwerden

40 Ohne Befund Infarkt Parkinson Klassifizierung Neoplasie

41

42 0,00 0,07 0,15 1,00 1, ,05 0,13 0,62 0, ,21...

43 Zeile 1 0,00 0,07 0,15 1,00 1,00... Zeile 2 0,05 0,13 0,62 0,80... Zeile 3 0, ,00 0,07 0,15 1,00 1, ,05 0,13 0,62 0, ,21...

44 0,07 1,00 0, ,13... Ohne Befund Infarkt 1,00 0,15 Parkinson Neoplasie Input Hidden Output 0,00 Layer Layer Layer

45 0, ,999; 0; 0; 0, , ,999 0; 0,999; 0,999; 0 0,999 0 Bilderkennung (Beispiel)

46 , , Inputs 4 Nodes 50 Nodes 2 Nodes Input Layer Layer 1 Output Layer

47 Layer (type) Output Shape Param # W 1,1 ============================================= dense_1 (Dense) (None, 4) 20 0,999 W 2,1 W 1,2 dense_2 (Dense) (None, 50) W 1,3 dense_3 (Dense) (None, 2) ============================================= 0,999 W 1,4 Total params: = 4 x 4 input weights + 4 biases 250 = 4 x 50 weights + 50 biases 102 = 50 x 2 weights + 2 biases

48

49 Anzahl Layer Wahl des Optimizers Anzahl Neuronen pro Layer Lernrate Typ an Layer Wahl der Aktivierungsfunktion Verschaltung der Layer Anzahl der Iterationen Wahl der Loss-Function u.v.m. Modell-/Hyperparameter

50 3 Regulatorische Anforderungen

51 For devices that incorporate software or for software that are devices in themselves, the software shall be developed and manufactured in accordance with the state of the art taking into account the principles of development life cycle, risk management, including information security, verification and validation. MDR Annex I, 17.2

52 Devices that incorporate electronic programmable systems, including software, or software that are devices in themselves, shall be designed to ensure repeatability, reliability and performance in line with their intended use. MDR Annex I, 17.1

53 Wiederholbarkeit Vorhersagbarkeit Spezifität Sensitivität Was ist der claim? Klinische Relevanz Verifikation und Validierung 53

54 Richtiges Modell gewählt Modell sagt korrekt voraus Richtig implementiert Klinisch validiert Vorhersagen sind klinisch relevant Richtig trainiert V&V bei KI

55 During design and development planning, the organization shall document the resources needed, including necessary competence of personnel ISO 13485: f ) The organization shall document validation plans that include methods, acceptance criteria and, as appropriate, statistical techniques with rationale for sample size. ISO 13485: ISO 13485:2016 (7.3.)

56 4.1.6 The organization shall document procedures for the validation of the application of computer software used in the quality management system. Such software applications shall be validated prior to initial use and, as appropriate, after changes to such software or its application. The specific approach and activities associated with software validation and revalidation shall be proportionate to the risk associated with the use of the software. ISO 13485:2016 (4.1.6)

57 Data collection Data preparation Development of model IEC Validation of model Software distribution Operation of software Diese (Verarbeitungs-)Schritte nutzen (üblicherweise) Software, die nicht Teil des Medizinprodukts ist. Diese Software ist zu validieren!

58 Stakeholder Requirements System = Software Validation IEC Chapter 5.2 System = Software Requirements System = Software Tests IEC Chapter 5.7 IEC Chapter 5.3 Software Architecture Component Integration Tests IEC Chapter 5.6 IEC Chapter 5.4 Component Requirements Unit / Component Tests IEC Chapter 5.6 IEC Implementation IEC Chapter 5.5

59 SOUP Software of Unknown Provenance SOUP

60 DSGVO Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung einschließlich Profiling beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.

61 4 Probleme

62 Falsche Ergebnisse Unvorhersehbare Ergebnisse Unklare Güte der Ergebnisse Unklare Grenzen / Vorbedingungen Mangelnde Wiederholbarkeit Befürchtungen

63 Chihuahua oder Muffin? Verlässlichkeit der Ergebnisse

64 Underfitting Overfitting Overfitting

65 Fehler Loss Function Sehr große Lernrate Große Lernrate Kleine Lernrate m Minimum finden 65

66 Fehler Kleine Lernrate m Minimum finden 66

67 Assistant CEO

68 68

69 Zufällig richtig? DOI:

70 I said no. I said we don t understand what it does inside. I said I was afraid. Dr. Rich Caruana, Microsoft Research

71 Zustand Lungenentzündung Beste Behandlung Besserer Zustand Lungenentzündung + Asthma

72 Korrelation!= Kausalität

73 Maschine Mensch Goldstandard?

74 What is the Ground Truth? 74

75 Ein(e) Mediziner(in) Beste Mediziner(in) Beste Mediziner(in) Goldstandard? 75

76 Auswahl und Qualität der Daten Wahl der Hyperparameter Menge der Daten Kausalität versus Korrelation Datenverarbeitung Reproduzierbarkeit (u.a. CLS) Training, Labeling, Aufteilung Wahl des Goldstandards Wahl des Modells Explainability Kritische Faktoren 76

77 5 Explainability

78 1 Grundlagen, Definitionen 2 Verfahren 3 Regulatorische Anforderungen 4 Probleme 5 Explainability

79

80 Beeinflussung durch A.I.

81 Myself is somebody with no previous background in medicine. I seem to be entirely unqualified to start a new medical company, what I did. Jeremy Howard

82

83 Nur ein einziger Data Scientist kann das Geschäftsmodell vieler Firmen bedrohen. Was können dann erst viele?

84 Missbrauch durch A.I. Konkurrenz (Tech Giants, Startups,...) Überzogene Erwartungen in A.I. Blindes Vertrauen in A.I. FDA nutzt und reguliert A.I. Bedrohungen 84

85 Ausprobieren, Kompetenz erhöhen Innovation in Produkte überführen Gegengewicht zu Tech-Giganten Ethischer Umgang Patienten nutzen Chancen 85

86 Johner Institut Exzellenz Mittelmaß

87 Johner Institut Wir helfen Medizinprodukteherstellern mit schlanken Akten sicher durch Audit und Zulassungen. Unterlagen erstellen und für Zulassung vorbereiten Technische Dokumentation auf MDR-Konformität prüfen QM-Systeme aufbauen, entschlacken, auditieren Usability Tests durchführen (USA, Deutschland) Klinische Bewertungen erstellen Klinische Prüfungen durchführen Als Inverkehrbringer agieren Mitarbeiter/innen qualifizieren