Universität Potsdam Institut für Informatik Lehrstuhl Maschinelles Lernen. Graphische Modelle. Niels Landwehr

Transkript

1 Universität Potsdam Institut für Informatik Lehrstuhl Maschinelles Lernen Graphische Modelle iels Landwehr

2 Überblick: Graphische Modelle Graphische Modelle: Werkzeug zur Modellierung einer Domäne mit verschiedenen Zufallsgrössen Beispielsweise medizinische Anwendungsbereiche: gemeinsame Verteilung über Attribute von Patienten, Symptome, und Krankheiten Beliebige Wahrscheinlichkeitsanfragen Borreliose-Diagnostik 2

3 Überblick Graphische Modelle: Syntax und Semantik Graphische Modelle im Maschinellen Lernen Inferenz in Graphischen Modellen (exakt, approximativ) Sequenzmodelle 3

4 Überblick Graphische Modelle: Syntax und Semantik Graphische Modelle im Maschinellen Lernen Inferenz in Graphischen Modellen (exakt, approximativ) Sequenzmodelle 4

5 Erinnerung: Zufallsvariablen, Verteilungen Zufallsvariablen: Diskrete ZV: Verteilungen beschrieben durch Wahrscheinlichkeiten Kontinuierliche ZV: Verteilungen beschrieben durch Dichten Gemeinsame Verteilung Bedingte Verteilung Produktregel: Summenregel: X, Y, Z,... p( X, Y) p( X Y) p( X, Y) py ( ) p( X, Y) p( X Y) p( Y) diskret oder kontinuierlich p( x) p( x, y) diskrete Verteilungen y p( x) p( x, y) dy kontinuierliche Verteilungen 5

6 Unabhängigkeit von Zufallsvariablen Unabhängigkeit (diskret oder kontinuierlich) X,Y unabhängig genau dann wenn p( X, Y) p( X ) p( Y) X,Y unabhängig genau dann wenn p( X Y) p( X ) X,Y unabhängig genau dann wenn p( Y X ) p( Y) Bedingte Unabhängigkeit (diskret oder kontinuierlich) X,Y unabhängig gegeben Z genau dann wenn p( X, Y Z) p( X Z) p( Y Z) X,Y unabhängig gegeben Z genau dann wenn p( Y X, Z) p( Y Z) X,Y unabhängig gegeben Z genau dann wenn p( X Y, Z) p( X Z)... einfach Anwendung des Unabhängigkeitsbegriffs auf die bedingte gemeinsame Verteilung p(x,y Z) 6

7 Graphische Modelle: Idee/Ziel Ziel: Modellierung der gemeinsame Verteilung p(x 1,,X ) einer Menge von ZV X 1,,X Aus p(x 1,,X ) lassen sich berechnen Alle Randverteilungen (Summenregel) p( X,..., X ), { i,..., i } {1,..., } i i m 1 m 1 Alle bedingten Verteilungen (aus Randverteilungen) p( X,..., X X,..., X ), { i,..., i } {1,..., } i1 im im1 imk 1 mk Damit lassen sich alle probabilistischen Fragestellungen (Inferenzprobleme) über X 1,,X beantworten 7

8 Graphische Modelle: Idee/Ziel Graphische Modelle: Kombination von Wahrscheinlichkeitstheorie und Graphentheorie Kompakte, intuitive Modellierung von p(x 1,,X ) Graphstruktur repräsentiert Struktur der Verteilung (Abhängigkeiten zwischen Variablen X 1,,X ) Einsicht in Struktur des Modells; einfach, Vorwissen einzubringen Effiziente Algorithmen für Inferenz, die Graphstruktur ausnutzen Viele Methoden des maschinellen Lernens lassen sich in Form von GM darstellen Fragestellungen wie MAP Lernen, Bayessche Vorhersage lassen sich als Inferenzprobleme in GM formulieren 8

9 Graphische Modelle: Beispiel Beispiel: Alarm Szenario Unser Haus in LA hat eine Alarmanlage. Wir sind im Urlaub. Unser achbar ruft an, falls er den Alarm hört. Wenn eingebrochen wurde, wollen wir zurück kommen. Leider ist der achbar nicht immer zu Hause. Leider geht die Alarmanlage auch bei kleinen Erdbeben los. 5 binäre Zufallsvariablen B E A R Burglary Einbruch hat stattgefunden Earthquake Erdbeben hat stattgefunden Alarm Alarmanlage geht los eighborcalls achbar ruft an RadioReport Bericht über Erdbeben im Radio 9

10 Graphische Modelle: Beispiel Zufallsvariablen haben eine gemeinsame Verteilung p(b,e,a,,r). Wie angeben? Welche Abhängigkeiten gelten? Beispiel für Inferenzproblem: achbar hat angerufen (=1), wie wahrscheinlich ist Einbruch (B=1)? Hängt von verschiedenen Faktoren ab Wie wahrscheinlich Einbruch a priori? Wie wahrscheinlich Erdbeben a priori? Wie wahrscheinlich, dass Alarmanlage auslöst? (aive) Inferenz: p( B 1 1) E A R B E A R p( B 1, 1) p ( 1) p( B 1, E, A, 1, R) p( B, E, A, 1, R) 10

11 Graphische Modelle: Beispiel Wie modellieren wir p(b,e,a,,r)? 1. Versuch: vollständige Tabelle B E A R P(B,E,A,,R) Versuch: alles unabhängig +Alle Verteilungen p( B, E, A,, R) können repräsentiert werden - Anzahl Parameter exponentiell - Schwierig anzugeben p( B, E, A,, R) p( B) p( E) p( A) p( ) p( R) +Anzahl Parameter linear - Zu restriktiv, Unabhängigkeitsannahme erlaubt keine sinnvolle Inferenz 11

12 Graphische Modelle: Beispiel Graphisches Modell: Selektive Unabhängigkeitsannahmen, durch Vorwissen motiviert Wähle Variablenordnung: z.b. B<E<A<<R Produktregel: p( B, E, A,, R) p( B, E, A, ) p( R B, E, A, ) p( B, E, A) p( B, E, A) p( R B, E, A, ) p( B, E) p( A B, E) p( B, E, A) p( R B, E, A, ) p( B) p( E B) p( A B, E) p( B, E, A) p( R B, E, A, ) Faktoren beschreiben die Verteilung einer Zufallsvariablen in Abhängigkeit anderer Zufallsvariablen. Können wir diese Faktoren vereinfachen? Welche dieser Abhängigkeiten bestehen wirklich? 12

13 Graphische Modelle: Beispiel Zerlegung in Faktoren nach Produktregel: p( B, E, A,, R) p( B) p( E B) p( A B, E) p( B, E, A) p( R B, E, A, ) Annahme bedingter Unabhängigkeiten (Entfernen von Variablen aus Bedingungsteil) p( E B) p( E) p( A B, E) p( A B, E) p( B, E, A) p( A) p( R B, E, A, ) p( R E) Vereinfachte Darstellung der gemeinsamen Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) Vereinfachte Faktoren Erdbeben hängt nicht von Einbruch ab Alarm hängt von Einbruch und Erdbeben ab Anruf von achbar hängt nur von Alarm ab achricht im Radio hängt nur Erdbeben ab 13

14 Graphische Modelle: Beispiel Graphisches Modell für Alarm Szenario P(B=1) P(E=1) B E P(A=1 B,E) B E A A P(=1 A) Modellierte Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) E P(R=1 E) R Graphisches Modell: - Jede ZV ist ein Knoten - Für jeden Faktor der Form p( X X,..., X ) fügen wir gerichtete Kanten von den X zu X ein - Modell ist parametrisiert mit den bedingten Verteilungen px ( X1,..., X k ) 1 i k 14

15 Graphische Modelle: Beispiel Graphisches Modell für Alarm Szenario Anzahl Parameter: O(*2 K ), K= max. Anzahl von Elternknoten Hier statt Parameter Gerichtete graphische Modelle heißen auch Bayessche etze 15

16 Gerichtete Graphische Modelle: Definition Gegeben eine Menge von ZV {X 1,,X } Ein gerichtetes graphisches Modell über den ZV {X 1,,X } ist ein gerichteter Graph mit Knotenmenge X 1,,X Es gibt keine gerichteten Zyklen X X... X X i i i i 2 k 1 Knoten sind mit parametrisierten bedingten Verteilungen p( Xi pa( X )) assoziiert, wobei pa( X i i) { X j X j Xi} die Menge der Elternknoten eines Knoten ist Das graphische Modell modelliert eine gemeinsame Verteilung über X 1,,X durch p( X,..., X ) p( X pa( X )) 1 i1 i i 1 16

17 Gerichtete Graphische Modelle: Definition Warum muss der Graph azyklisch sein? Satz aus der Graphentheorie: G ist azyklisch es gibt Ordnung der Knoten, so dass gerichtete Kanten Damit ergibt sich 1 die Ordnung respektieren ( ' ') i1 p( X,..., X ) p( X pa( X )) aus Produktregel + bedingten Unabhängigkeitsannahmen (Variablen entsprechend umsortieren) Gegenbeispiel (kein graphisches Modell): X Y p( X, Y) p( X Y) p( Y X ) G i G i Vor X i in G Variablenordnung 17

18 Graphische Modelle: Unabhängigkeit Die Graphstruktur eines Graphischen Modells impliziert (bedingte) Unabhängigkeiten zwischen ZV otation: Für Variablen X, Y, Z schreiben wir X Y Z p( X Y, Z) p( X Z) " X unabhängig von Y gegeben Z" Erweiterung auf disjunkte Mengen A, B, C von ZV C p( A B, C) p( A C) 18

19 Graphische Modelle: Unabhängigkeit Welche Unabhängigkeiten der Form C werden durch die Graphstruktur modelliert? Im Prinzip auszurechnen durch Summen/Produktregel aus der gemeinsamen Verteilung Bei graphischen Modellen aber direkt aus der Graphstruktur ableitbar viel einfacher D-separation : Menge einfacher Regeln, nach denen sich alle Unabhängigkeiten ableiten lassen D in D-separation steht für Directed, weil sich die Regeln auf Unabhängigkeit in gerichteten graphischen Modellen beziehen (gerichteter Graph). 19

20 Graphische Modelle: Unabhängigkeit D-separation: Welche Unabhängigkeiten der Form werden durch die Graphstruktur modelliert? Wichtige Rolle spielen Pfade im Graphen, die ZV verbinden otation: X X X Y Y Y Z Z Z C Pfad zwischen X und Z hat eine konvergierende Verbindung bei Y ( head to head ) Pfad zwischen X und Z hat eine serielle Verbindung bei Y ( head to tail ) Pfad zwischen X und Z hat eine divergierende Verbindung bei Y ( tail-to-tail ) 20

21 Divergierende Verbindungen Betrachte Pfad A E R. Gilt R? B E Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) A R B= Einbruch = achbar ruft an E= Erdbeben R= Radio Bericht A= Alarm 21

22 Divergierende Verbindungen Betrachte Pfad A E R. Gilt R? B A E R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) ein, p( A R) p( A) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: RadioReport wahrscheinlich Erdbeben wahrscheinlich Alarm p( A 1 R 1) p( A 1 R 0) B= Einbruch E= Erdbeben A= Alarm = achbar ruft an R= Radio Bericht ZV R beeinflusst ZV A über die divergierende Verbindung R E A 22

23 Divergierende Verbindungen Betrachte Pfad A E R. Gilt R E? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) beobachteter Knoten 23

24 Divergierende Verbindungen Betrachte Pfad A E R. Gilt R E? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) beobachteter Knoten Ja, p( A R, E) p( A E) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: Wenn wir schon wissen, dass ein Erdbeben eingetreten ist, wird die Wahrscheinlichkeit für Alarm nicht höher/niedriger durch RadioReport Der divergierende Pfad A ER wird durch Beobachtung von E blockiert 24

25 Serielle Verbindungen Betrachte Pfad A B. Gilt? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) 25

26 Serielle Verbindungen Betrachte Pfad A B. Gilt? B A E R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) ein, p( B ) p( B) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: eighborcalls wahrscheinlich Alarm wahrscheinlich Burglary p( B 1 1) p( B 1 0) ZV beeinflusst ZV B über den seriellen Pfad AB 26

27 Serielle Verbindungen Betrachte Pfad A B. Gilt A? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) beobachteter Knoten 27

28 Serielle Verbindungen Betrachte Pfad A B. Gilt A? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) beobachteter Knoten Ja, p( B, A) p( B A) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: Wenn wir schon wissen, dass der Alarm ausgelöst wurde, sinkt/steigt die Wahrscheinlichkeit für Einbruch nicht dadurch, dass achbar anruft Der serielle Pfad A B wird durch Beobachtung von A blockiert. 28

29 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) 29

30 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B A E R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) Ja, p( B E) p( B) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: Einbrüche treten nicht häufiger/seltener auf an Tagen mit Erdbeben Der konvergierende Pfad B A E ist blockiert wenn A nicht beobachtet ist 30

31 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) beobachteter Knoten A 31

32 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) beobachteter Knoten A ein, p( B E, A) p( B A) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: Alarm wurde ausgelöst. Falls wir ein Erdbeben beobachten, erklärt das den Alarm, Wahrscheinlichkeit für Einbruch sinkt ("explaining away"). Der konvergierende Pfad B AE wird freigegeben durch Beobachtung von A 32

33 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B E A R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) beobachteter Knoten ein, p( B, A) p( B A) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: eighborcalls indirekte Beobachtung von Alarm. Erdbebenbeobachtung erklärt den Alarm, Wahrscheinlichkeit für Einbruch sinkt ("explaining away"). Der konvergierende Pfad B AE wird freigegeben durch Beobachtung von 33

34 Zusammenfassung Pfade Zusammenfassung: ein Pfad -X-Y-Z- ist B A E Blockiert bei Y, wenn Divergierende Verbindung, und Y beobachtet, oder Serielle Verbindung, und Y beobachtet, oder Konvergierende Verbindung, und weder Y noch einer seiner achfahren Y Descendants(Y) beobachtet Descendants(Y)={Y es gibt gerichteten Pfad von Y zu Y } Sonst ist der Pfad frei bei Y R Gemeinsame Verteilung: p( B, E, A,, R) p( B) p( E) p( A E, B) p( A) p( R E) 34

35 D-Separation: Blockierte Pfade Bisher: Pfad blockiert bei einem bestimmten Knoten Verallgemeinerung: ein Pfad ist insgesamt blockiert, wenn er bei einem auf dem Pfad liegenden Knoten blockiert ist: Seien X,X ZV, C eine beobachtete Menge von ZV, X,X C Ein ungerichteter Pfad X X 1 X n X zwischen X und X ist blockiert gegeben C gdw es einen Knoten X i gibt so dass Pfad bei X i blockiert ist gegeben C D-Separation basiert auf blockierten Pfaden: Seien A,B,C disjunkte Mengen von ZV. Definition: A und B sind d-separiert durch C gdw jeder Pfad von einem Knoten X A zu einem Knoten Y B blockiert ist gegeben C. 35

36 D-Separation: Korrektheit, Vollständigkeit Gegeben ein graphisches Modell über {X 1,,X } mit Graphstruktur G. Das graphische Modell modelliert eine Verteilung durch p( X,..., X ) p( X pa( X )) 1 i1 abhängig von den bedingten Verteilungen p( Xi pa( Xi)). Theorem (Korrektheit, Vollständigkeit d-separation) Falls A,B d-separiert gegeben C in G, dann Es gibt keine anderen Unabhängigkeiten, die für jede Wahl der bedingten Verteilungen p( X pa( X )) gelten. i i i i p( A B, C) p( A C) 36

37 D-Separation: Beispiel A C E Ein Pfad -X-Y-Z- ist Blockiert bei Y, wenn B G D F Gilt A F D? Gilt B C? Gilt A C? Divergierende Verbindung, und Y beobachtet, oder Serielle Verbindung, und Y beobachtet, oder Konvergierende Verbindung, und weder Y noch einer seiner achfahren Y Descendants(Y) beobachtet Sonst ist der Pfad frei bei Y 37

38 D-Separation: Beispiel A C E Ein Pfad -X-Y-Z- ist Blockiert bei Y, wenn B G D F Gilt A F D? Ja Gilt B C? ein: B G E Gilt A C? ein: A C B G E Divergierende Verbindung, und Y beobachtet, oder Serielle Verbindung, und Y beobachtet, oder Konvergierende Verbindung, und weder Y noch einer seiner achfahren Y Descendants(Y) beobachtet Sonst ist der Pfad frei bei Y 38

39 Modelle Unterschiedlicher Komplexität Komplexität eines Modell hängt ab von der Menge der Kanten im Graph Viele Kanten: wenig Unabhängigkeitsannahmen, viele Parameter, große Klasse von Verteilungen kann repräsentiert werden Wenige Kanten: viele Unabhängigkeitsannahmen, wenige Parameter, kleine Klasse von Verteilungen kann repräsentiert werden Definition: I(G) ={ ( A C): A und B sind d-separiert gegeben C in G} Alle Unabhängigkeitsannahmen, die durch G kodiert werden 39

40 Modelle Unterschiedlicher Komplexität Hinzufügen von Kanten: Familie der darstellbare Verteilungen wird grösser, I(G) wird kleiner Extremfälle: Graph ohne Kanten, (ungerichtet) vollständig verbundener Graph Parameter (binäre Variablen) B A E R B 2-1 Parameter (binäre Variablen) A E R I( G) {( A C): A, B, C disj. Mengen von ZV} IG ( ) 40

41 Überblick Graphische Modelle: Syntax und Semantik Graphische Modelle im Maschinellen Lernen Inferenz in Graphischen Modellen (exakt, approximativ) Sequenzmodelle 41