Unsicheres Wissen Probabilistische Modelle

Transkript

1 Einführung in die Medizinische Informatik und Bioinformatik Unsicheres Wissen Probabilistische Modelle Frank Meineke SS 2005

2 Überblick Motivation Unsicheres Wissen Wahrscheinlichkeitslehre (Auffrischung) Bedingte Wahrscheinlichkeit Satz von Bayes Abhängigkeiten Anwendungsbeispiele Softwarewerkzeug HUGIN 2

3 Ziel Lösen von schwierigen Problemen im medizinischen Bereich Probleme aus der medizinischen Praxis sind meistens schwierig formal lösbar, da: nicht exakt abgrenzbar schlecht (diffus) strukturiert komplexer Natur unterschiedlich interpretierbar Zusammenhang Problem Modell Menschliche Experten können schwierige Probleme lösen! 3

4 Zusammenhang Problem und Modell Datenverarbeitung: reales Problem und Repräsentation überdecken sich Schlecht strukturiertes Problem, wohlstrukturiertes Modell Approximation des schlecht strukturierten Problems durch Expertenwissen reales Problem Repräsentation des Problems im Modell 4

5 Wissen Knowledge is a mysterious kind of entity, about which we know remarkable little. Jackson 1986 Explizites Wissen theoretisches Fachwissen Implizites Wissen Erfahrungswissen Expertenwissen Allgemein-/Alltagswissen 5

6 Daten / Information / Wissen Daten: Signale / Zeichen / Fakten Information: Daten mit Bedeutung Wissen: Information im Kontext Der Zusammenhang wird im Wissensbzw. Informationsmanagement analysiert. 6

7 Diagnostik Diagnose:die nosologisch-systematische Benennung eines Krankheitsbildes, in der Praxis die Summe der Erkenntnisse, auf denen das ärztliche Handeln beruht Diagnostik: alle auf die»erkennung«eines Krankheitsgeschehens als definierte nosologische Einheit gerichteten Maßnahmen. Nosologie / Nosographie: systematische Beschreibung und Lehre von den Krankheiten Roche Lexikon Medizin, 4.Auflage 7

8 Diagnostische Wagheit (1) Beispiel diagnostischer Aussagen: Wenn ein Schnupfen besonders stark ist, geht er meist mit Kopfschmerzen, Gliederschmerzen, tränenden Augen und manchmal mit Fieber einher Ohne Besuch in Asien etc. ist eine Malaria sehr unwahrscheinlich Solches Wissen in Regeln zu formulieren ist oft nicht möglich bzw. ist nur möglich, wenn wir dabei Vereinfachungen oder Fehler in Kauf nehmen Beispiele im Vorgriff auf die Vorlesung Expertensysteme 8

9 Diagnostische Wagheit (2) Aussagen mit unsicherem Wissen: sind sehr häufig enthalten Informationen explizite Aus- und Annahmen implizite Aus- und Annahmen Menschen können im Gegensatz zu Maschinen mit derartigen Aussagen gut umgehen 9

10 Nutzen aus der Formalisierung von Expertenwissen Explizierung von Fachwissen Überprüfbarkeit des Wissens Kritik der Entscheidung möglich Reproduzierbarkeit von Entscheidungsprozessen Möglichkeit einer Konservierung von Fachwissen und Problemlösungsverhalten Unterstützung und Ergänzung menschlicher Fachtätigkeit Vorteile bei der fachlichen Ausbildung Grundlage für die rechnergestützte Wissensverarbeitung und Wissensnutzung Aufgabe: Explizierung und Modellierung von Expertenwissen 10

11 Problembereich Diagnostik Der wichtigste Problembereich für den Umgang mit Unsicherheiten ist die Diagnostik Die Unsicherheiten bei der Diagnostik stammen aus folgenden Quellen: Symptomerhebung: Feststellung der Evidenz der Symptome Symptombewertung: Zuordnung der Symptome zu Diagnosen Unzulänglichkeiten des Verrechnungsschemas 11

12 Arten von unsicherem Wissen Fehler Mangelnde Vertrauenswürdigkeit, Unverlässlichkeit Ungenauigkeit Unvollständigkeit Mehrdeutigkeit Inkonsistenz Irrelevanz 12

13 Arten von unsicherem Wissen Beispiel (1) Mögliche Therapieempfehlungen für ein bestimmtes Medikament bezogen auf einen bestimmten Patienten: 700 mg, 3 mal täglich 600 mg 800 mg, 3 mal täglich Etwa 700 mg, 2 3 mal täglich Wahrscheinlich 700 mg, 2 mal täglich 100 oder 700 mg (Schrift undeutlich), 3 mal täglich 400 mg, 4 mal täglich oder 200 mg einmal 700 mg Mindestens 500 mg, 2 mal täglich Normalerweise werden 500 mg, 2 mal täglich verschrieben 70 g, 3 mal täglich Keine Ahnung, kann aber nachschauen Akazienweg 13 Richtig Ungenau Ungenau Vertrauen Mehrdeutig Inkonsistent,Ungenau Unvollständig Ungenau Irrelevant Fehler Vertrauen Irrelevant Fehler, Vertrauen, Ungenau,Unvollständig, Mehrdeutig, Inkonsistent, Irrelevant (In Anlehnung an Krause, Clark: Representing Uncertain Knowledge) 13

14 Ursachen unsicheren Wissens Wissensmangel gemäß dem Stand der Technik aus ethischen Gründen aus wirtschaftlichen Gründen aus juristischen Gründen Komplexität nicht deterministische Entscheidungsfindung chaotische Probleme 14

15 Betrachtete Unsicherheiten (1) Beispiele Unsicherheiten über einen Zustand Sicher hat er auch Fieber Der Zustand Fieber liegt mit großer Wahrscheinlichkeit vor. Unsicherheiten über das Zutreffen einer Aussage Wahrscheinlich 500 mg, 2 mal täglich Die Aussage: 500 mg, 2 mal täglich ist die richtige Dosierung ist mit großer Wahrscheinlichkeit zutreffend. 15

16 Betrachtete Unsicherheiten (2) Beispiele Unsicherheiten über eine Schlussfolgerung Wenn das Medikament A eingenommen wird, geht es sicher morgen besser Aus Medikament A eingenommen folgt mit großer Wahrscheinlichkeit morgen geht es besser. Ziel: Modell zur Verarbeitung von unsicherem Wissen 16

17 Wahrscheinlichkeitsrechnung Zur Erinnerung Zufallsgrößen sind Variablen, die alle Werte des Wertebereiches WB = {x 1,..., x n }, n Ν annehmen können. Die Zufallsgrößen werden durch Großbuchstaben bezeichnet; typisch X,Y,Z. WB(X) ist also die Menge aller möglichen Werte aus dem Wertebereich der Zufallsgröße X. Jeder Wert aus dem Wertebereich einer diskreten Zufallsgröße X tritt mit einer bestimmten Wahrscheinlichkeit P(X) auf. Die Angabe aller Wahrscheinlichkeiten P(X = x 1 )... P(X = x n ) ergibt die Wahrscheinlichkeitsverteilung der Zufallsgröße. Die Summe aller Wahrscheinlichkeiten ist immer 1. Es gilt: x,y P(X {x y}) = P(x) + P(y), wenn x y 17

18 Wahrscheinlichkeitsrechnung Beispiele Zufallsgröße G = Würfeln einer 6 WB (G) = {1,2,3,4,5,6} P G (X=6) = 1/6 P G (X {2,4,6}) = 1/2 Zufallsgröße G = Geschlecht eines Neugeborenen WB (G) = {m,w} P G (m) = 0.51 P G (w) = 0.49 Wo kommen die Wahrscheinlichkeitswerte her? 18

19 Personalistisch versus Frequentistisch (1) Frequentistisch Beispiel: P(Würfeln einer 6) = Wert aus häufiger Wiederholung ermittelt Die Wahrscheinlichkeit folgt aus der (evtl. theoretischen) Wiederholung des Versuchs Änderungen der Wahrscheinlichkeiten nur aufgrund von Wiederholungen des Versuchs Personalistisch Beispiel: P(Es wir heute regnen) = 0.1 Keine Wiederholungen möglich Die Wahrscheinlichkeit wird durch Abschätzen der Einflüsse bestimmt Änderungen der Wahrscheinlichkeiten (Schätzungen) nur aufgrund von neuem Wissen 19

20 Personalistisch versus Frequentistisch (2) Meist wird für den Begriff der Wahrscheinlichkeit eine frequentistische Deutung angenommen: z.b. Würfeln mit einem Würfel Die Wahrscheinlichkeit eines Ereignisses (hier ein bestimmter Ausgang beim Würfeln z.b. 6 gewürfelt oder gerade gewürfelt) ist die relative Häufigkeit mit der das Ereignis bei einer sehr großen Zahl von Versuchswiederholungen eintritt. 20

21 Bedingte Wahrscheinlichkeit (1) In der Schnupfendomäne können wir Beispiele für Abhängigkeiten und Unabhängigkeiten finden. Die Wahrscheinlichkeiten müssten wir jedoch als personalistische Wahrscheinlichkeiten von einem Experten schätzen lassen. Beispiel: Gegeben sind die Zufallsgrößen F und G mit: ja : Patient hat Fieber F = nein : Patient hat kein Fieber ja : Patient hat Grippe G = nein : Patient hat keine Grippe 21

22 Bedingte Wahrscheinlichkeit (2) Aus der Erfahrung wissen wir, dass diese beiden Zufallsvariablen nicht voneinander unabhängig sind: P (G = ja F = ja) > P (G = ja F = nein) P (F = ja G = ja) > P (F = ja G = nein) Fieber gibt einen Hinweis auf Grippe, da es die Wahrscheinlichkeit für das Vorliegen einer Grippe erhöht und umgekehrt. Wie stark diese Abhängigkeit ist, folgt erst aus den genauen Zahlenwerten. 22

23 Bedingte Wahrscheinlichkeit (3) Bedingte Wahrscheinlichkeiten stellen Beziehungen zwischen Zufallsgrößen her und ähneln damit dem Aufbau von Regeln. P (A = a B = b) = p ist äquivalent zu (B = b) (A = a) mit der Wahrscheinlichkeit p Die Regel (B = b) (A = a) kann immer angewendet werden, d.h. A = a kann geschlussfolgert werden, wenn die Prämisse B = b erfüllt ist. Aber: Die Wahrscheinlichkeit P (A = a B = b) = p darf nur dann angewendet werden, wenn B = b die einzige für A relevante Information ist und nicht eine weitere Regel der Form (C = c) (A = a) mit B und C voneinander abhängig existiert. 23

24 Bedingte Wahrscheinlichkeit Definition Die bedingte Wahrscheinlichkeit für ein Ereignis A unter der Bedingung B ist definiert durch: P (A B) = P (A B) P (B) Beispiel A = 6 Würfel B = {2,4,6} P(A B)= P(6 {2,4,6})/P({2,4,6}) = P(6)/P({2,4,6}) = 1/3 24

25 Bedingte Wahrscheinlichkeit Beispiele (1) Wahrscheinlichkeit für Grippe: P (G) = p P ( G) = 1 p Wahrscheinlichkeit für Grippe in Abhängigkeit von Fieber P (G F): F F G p 1 p 2 G 1- p 1 1- p 2 25

26 Bedingte Wahrscheinlichkeit Beispiele (2) Wahrscheinlichkeit für Grippe wenn Fieber und Halsweh (G F, H) vorliegen: G G F F H H H H p 1 p 2 p 3 p 4 1-p 1 1-p 2 1-p 3 1-p 4 In dieser Form werden die Tabellen für die bedingten Wahrscheinlichkeiten in HUGIN aufgebaut. 26

27 Probabilistisches Modell (1) Um z.b. die Schnupfendomäne, zu beschreiben verwenden wir eine Menge von Merkmalen (Fieber, Grippe, Halsweh), die wir als Zufallsgrößen F, G, H repräsentieren. Ziel ist, das bereits bekannte probabilistische Wissen über die Merkmale und ihre Abhängigkeiten in einem entsprechendem Modell zu repräsentieren um daraus alle bisher nicht bekannten Wahrscheinlichkeiten alle bisher nicht bekannten bedingten Wahrscheinlichkeiten zu berechnen. Ein solches Modell nennt man probabilistisches Modell. 27

28 Modellierungsmöglichkeiten Modelliert werden können: Unsicherheiten über Zustände (z.b. P(Fieber) ) Unsicherheiten über Aussagen (z.b. P(G = ja F = ja)) Nicht modelliert werden: Unsicherheiten über Wahrscheinlichkeiten (z.b. können keine Konfidenzintervalle angegeben werden) 28

29 Probabilistisches Modell (2) Für die Schnupfendomäne mit den Zufallsgrößen Grippe, Fieber, Halsweh wären dies z.b. Wahrscheinlichkeiten wie: P (Grippe = ja) P (Grippe = ja Fieber = ja) P (Fieber = nein Grippe = ja) P (Grippe = ja Fieber = ja, Halsweh = ja) P (Grippe = ja, Fieber = ja Halsweh = ja) 29

30 Probabilistisches Modell (3) In einem probabilistischen Modell können: 1. nicht alle Wahrscheinlichkeiten explizit angeben werden, da es meist sehr viele sind sie häufig nicht sinnvoll geschätzt werden können 2. durch Unabhängigkeitsannahmen zwischen den Zufallsgrößen kann auf die Angabe vieler bedingter Wahrscheinlichkeiten verzichtet werden. Gilt z.b. P (A B) = P (A), dann müssen die P (A B) nicht angegeben werden. 3. Widersprüche auf der Grundlage falscher Annahmen aufgedeckt werden. Frage: Wie kann ein solches probabilistisches Modell realisiert werden? 30

31 Softwarewerkzeug Hugin basiert auf einem gerichteten Graphen zur Darstellung eines probabilistischen Modells Gerichtete Graphen bestehen aus einer Menge von Knoten einer Menge von gerichteten Kanten Gerichtete Graphen können dazu verwendet werden um Abhängigkeiten zwischen Zufallsgrößen darzustellen indem: Zufallsgrößen auf die Knoten direkte Abhängigkeiten auf die Kanten abgebildet werden Einen solcher Graph wird im weiteren als Bayes-Netz bezeichnet 31

32 Satz von Bayes Vorbereitung Diagnostische Schlussrichtung Von den Symptomen (Folgen) auf die Krankheit (Ursache) schließen. Hier: Von Fieber auf Grippe schließen Kausale Schlussrichtung Von der Ursache (Krankheit) auf die Folgen (Symptome) schließen. Hier: Von Grippe auf Fieber schließen G Einfaches BAYES-Netz Meist ist es wesentlich einfacher Wahrscheinlichkeiten in kausaler Richtung zu schätzen, als in diagnostischer. Auch sind diese meist geringeren Schwankungen unterworfen: Bei einer Grippeepidemie steigt die Wahrscheinlichkeit, dass ein Patient mit Fieber an Grippe erkrankt ist an. Trotzdem wird der Anteil der Grippekranken mit Fieber etwa gleich bleiben. F 32

33 Satz von Bayes Aber: Für den Arzt ist es intuitiver in diagnostischer Richtung schlussfolgern! Satz von Bayes P (K S) = P (S K) P (K) P (S) Der Satz von Bayes ermöglicht es die kausale und diagnostische Schlussrichtung umzudrehen. Es können im Modell Wahrscheinlichkeiten in kausaler Richtung angeben und in diagnostischer Richtung geschlussfolgert werden. Dies ist bei Regeln so nicht möglich: Aus A B kann ich keine Aussage ob B A gilt, ableiten: Vogel fliegt fliegt Vogel 33

34 Beispiel Grippe Hugin Modell 34

35 Bayes-Netze Bayes-Netze bestehen aus: einer qualitativen Beschreibung: dem Graphen An diesem Graphen kann abgelesen werden, welche Zufallsgrößen im Modell abhängig, unabhängig oder (und unter welchen Bedingungen) bedingt abhängig sind. einer quantitativen Beschreibung: den bedingten Wahrscheinlichkeiten in den Wahrscheinlichkeitstabellen. Hinweis zur Modellierung: Zur Reduktion der Komplexität in Bayes-Netzen empfiehlt es sich möglichst wenige, jedoch alle notwendigen Abhängigkeiten zu modellieren. 35

36 Unabhängig bedingt abhängig (1) Betrachten wir folgendes Szenario: Wir werfen zwei Münzen M 1 und M 2. In Abhängigkeit vom Ausgang der beiden Münzwürfe wird die Glocke G geläutet, wenn beide Münzen Kopf oder beide Münzen Zahl zeigen. Die beiden Münzwürfe sind voneinander unabhängig: P (M 1 M 2 ) = P (M 1 ) P (M 2 M 1 ) = P (M 2 ) Somit sind auch die einzelnen Münzwürfe und die Glocke unabhängig P (G M 1 ) = P (G M 2 ) = P (G) Die Glocke ist jedoch abhängig von beiden Münzwürfen zusammen; die Glocke ist ja vollständig durch die Münzwürfe festgelegt P (G M 1, M 2 ) P (G M 1 ) = P (G M 2 ) = P (G) 36

37 Unabhängig bedingt abhängig (2) M 1 M 2 G BAYES-Netz zum Münzen-Szenario Zwischen den beiden Münzen wird hier durch die Glocke eine Verbindung hergestellt. Wenn wir den Zustand der Glocke kennen, geht die betrachtete Unabhängigkeit zwischen den Münzen verloren! P (M 1 M 2, G) P (M 1 M 2 ) 37

38 Unabhängig bedingt abhängig (3) Beispiel: P (M 1 = Kopf M 2 = Zahl) = 0.5 P (M 1 = Kopf M 2 = Zahl, G = ja) = 0 Die Münzen sind bedingt abhängig, unter der Voraussetzung der Zustand der Glocke ist gegeben. Dies wird als bedingte Abhängigkeit bezeichnet HUGIN 38

39 Bedingte Abhängigkeit Betrachten wir die Auswirkungen von bedingter Abhängigkeit an einem Beispiel aus der Schnupfendomäne: S G F BAYES-Netz mit Schnupfen S, Grippe G und Fieber F Wenn wir nicht wissen, ob der Patient Fieber hat, so sind Grippe und Fieber unabhängig. Haben wir Fieber beobachtet, so verschwindet diese Unabhängigkeit. Weiterhin gilt für sinnvolle Zahlenbelegungen, dass wenn wir jetzt Schnupfen beobachten die Wahrscheinlichkeit für Fieber sinkt. Schnupfen gibt uns eine Begründung für das Fieber und macht dadurch Grippe 39

40 Ausblick Woher kommen die Zahlen? Aufwand für die Wissensakquisition ist sehr hoch. Teilweise sind nur sehr grobe Schätzungen möglich Sind die Zahlen konstant? Die modellierten Beziehungen sind nicht immer und überall gleich. Oft genügt es jedoch, die Prävalenzen anzupassen Berechnungskomplexität? Bei stark vernetzten Graphen ist der Rechenaufwand sehr hoch. Erklärungsfähigkeit? Bayes-Netze sind eine intentionalistische Wissensrepräsentation und haben daher Schwierigkeiten mit der Erklärungsfähigkeit Genauigkeit der Ergebnisse? Wie genau sind die Ergebnisse, wenn meine Zahlenwerte teilweise nur grobe Schätzungen sind? 40

41 Bayes Anwendung (1) Diagnostischer Test Prävalenz: P(krank) Sensitivität: P(Test positiv krank) Spezifität: P(Test negativ gesund) Positiver Vorhersagewert = P(krank Test positiv) Negativer Vorhersagewert = P(gesund Test negativ) 41

42 Bayes Anwendung (2) Diagnostischer Test 0,02% der Bevölkerung leidet an der Krankheit K der Labortest findet die Kranken mit 99,9% Wahrscheinlichkeit Hält nur ca. 1% der Gesunden fälschlich für krank Ihr Test ist positiv! Sind sie krank? 42

43 Bayes Anwendung (1) Diagnostischer Test Prävalenz: P(krank) = 0.02% = Sensitivität: P(Test positiv krank) = Spezifität: P(Test negativ gesund) = = 0.99 Positiver Vorhersagewert = P(krank Test positiv) =? Negativer Vorhersagewert = P(gesund Test negativ) 43

44 Satz von Bayes (2) P (K S) = P (S K) P (K) P (S) = P (S K) P (K) P (S K) P (K) + P (S K) P ( K) 44

45 Bayes Anwendung (3) Positiver Vorhersagewert = Sensitivität * Prävalenz Sensitivität *Prävalenz + (1-Spezifität)*(1- Prävalenz) = (0.999*0.0002)/ (0.999* (1-0.99)*( ) = 0, = ca. 2% 45

46 Entscheidungsbaum Krank Gesund ~0 ~2 ~100 ~9898 Test- Test+ Test+ Test- 2 von 102 Personen haben einen zu Recht positiven Test. 46

47 Monty Hall Puzzle (1) alias: Ziegenproblem / Drei Türen Problem Drei Tore Hinter einem Tor steht ein Preis Sie dürfen ein Tor auswählen Monty öffnet ein leeres anderes Tor Sie dürfen jetzt noch einmal wechseln! Was tun Sie? Warum? 47

48 Monty Hall (2) Hugin Modellierung 48

49 Monty Hall (3) Hugin Abfrage 49