Universität Potsdam Institut für Informatik Lehrstuhl Maschinelles Lernen. Graphische Modelle. Christoph Sawade/Niels Landwehr/Tobias Scheffer

Transkript

1 Universität Potsdam Institut für Informatik Lehrstuhl Maschinelles Lernen Graphische Modelle Christoph Sawade/Niels Landwehr/Tobias Scheffer

2 Graphische Modelle Werkzeug zur Modellierung einer Domäne mit verschiedenen Zufallsgrössen Gemeinsame Verteilung, insb. Abhängigkeiten 2

3 Überblick Gerichtete Graphische Modelle: Bayessche Netze Graphische Modelle im Maschinellen Lernen Inferenz in Graphischen Modellen Ungerichtete Graphische Modelle: Markov Netze 3

4 Überblick Gerichtete Graphische Modelle: Bayessche Netze Graphische Modelle im Maschinellen Lernen Inferenz in Graphischen Modellen Ungerichtete Graphische Modelle: Markov Netze 4

5 Zufallsvariablen, Verteilungen Zufallsvariable: Abbildung eines Ereignisses auf reelle Zahl X : Ω Ω Raum der Elementarereignisse Verteilung über ZV: wie wahrscheinlich, bestimmte Werte zu beobachten? Diskrete Zufallsvariablen: diskreter Wertebereich (z.b. Münzwurf) Diskrete Wahrscheinlichkeit px ( ) [0,1], px ( )=1 x Wert der ZV Kontinuierliche Zufallsvariablen: kontinuierlicher Wertebereich (z.b. Körpergröße) Dichtefunktion px ( ), pxdx ( ) = 1 x Wert der ZV 0 x 5

6 Zufallsvariablen, Verteilungen Beispiele für diskrete/kontinuierliche Verteilungen N x Bernoulli-Verteilung: binäre ZV X {0,1} Parameter µ = px ( = 1 µ ) 1 ~ Bern( ) X X X X µ = µ (1 µ ) Normalverteilung: kontinuierliche ZV X 1 1 (2 πσ ) 2σ 2 2 ( µσ, ) = exp ( x µ ) 2 1/2 2 µ Mittelwert σ Standardabweichung 6

7 Zufallsvariablen, Verteilungen Zusammenhang Dichte/Wahrscheinlichkeit p( X [ x ε, x + ε]) = p( z) dz Oft abstrahieren wir vom Typ der Zufallsvariable x+ ε x ε px ( [ x ε, x+ ε]) ist (diskrete) Wahrscheinlichkeit Rechenregeln sind im Wesentlichen gleich für diskrete/kontinuierliche Variablen ( ersetze Summe durch Integral ) Grundlegende Begriffe wie Abhängigkeit, Erwartungswert, Varianz sind auf beide Typen von Variablen anwendbar 7

8 Gemeinsame Verteilung, bedingte Verteilung Gemeinsame Verteilung p(x,y) über ZV X,Y pxy (, ) [0,1], pxy (, ) = 1 xy, Bedingte Verteilung p( x, y), p( x, y) dxdy = 1 pxy (, ) px ( Y) = diskret oder kontinuierlich py ( ) Für py ( ) > 0 ist px ( y) wieder eine Verteilung über X: x px ( y) = 1 für py ( ) > 0 (diskret) p( x y) dx = 1 für p( y) > 0 (kontinuierlich) 0 8

9 Unabhängigkeit von Zufallsvariablen Unabhängigkeit (diskret oder kontinuierlich) X,Y unabhängig genau dann wenn pxy (, ) = px ( ) py ( ) X,Y unabhängig genau dann wenn px ( Y) = px ( ) X,Y unabhängig genau dann wenn py ( X) = py ( ) Bedingte Unabhängigkeit (diskret oder kontinuierlich) X,Y unabhängig gegeben Z genau dann wenn pxy (, Z) = px ( Z) py ( Z) X,Y unabhängig gegeben Z genau dann wenn py ( X, Z) = py ( Z) X,Y unabhängig gegeben Z genau dann wenn px ( YZ, ) = px ( Z)... einfach Anwendung des Unabhängigkeitsbegriffs auf die bedingte gemeinsame Verteilung p(x,y Z) 9

10 Rechenregeln Verteilungen Rechenregeln Wahrscheinlichkeiten/Verteilungen Summenregel px ( ) = pxy (, ) diskrete Verteilungen px ( ) = pxydy (, ) kontinuierliche Verteilungen Produktregel y px ( ) heisst auch Randverteilung, Marginalverteilung pxy (, ) = px ( Y) py ( ) diskret oder kontinuierlich Wahrscheinlichkeitsrechnungen beruhen auf Anwendungen dieser beiden Regeln 10

11 Graphische Modelle: Idee/Ziel Ziel: Modellierung der gemeinsame Verteilung p(x 1,,X N ) einer Menge von ZV X 1,,X N Aus p(x 1,,X N ) lassen sich berechnen Alle Randverteilungen (Summenregel) p( X,..., X ), { i,..., i } {1,..., N} i i m 1 m 1 Alle bedingten Verteilungen (aus Randverteilungen) px (,..., X X,..., X ), { i,..., i } {1,..., N} i1 im im+ 1 im+ k 1 m+ k Damit lassen sich alle probabilistischen Fragestellungen (Inferenzprobleme) über X 1,,X N beantworten 11

12 Graphische Modelle: Idee/Ziel Graphische Modelle: Kombination von Wahrscheinlichkeitstheorie und Graphentheorie Kompakte, intuitive Modellierung von p(x 1,,X N ) Graphstruktur repräsentiert Abhängigkeiten zwischen Variablen X 1,,X N Einsicht in Struktur des Modells; einfach, Vorwissen einzubringen Effiziente Algorithmen für Inferenz, die Graphstruktur ausnutzen Viele Methoden des maschinellen Lernens lassen sich in Form von GM darstellen Fragestellungen wie MAP Lernen, Bayessche Vorhersage lassen sich als Inferenzprobleme in GM formulieren 12

13 Graphische Modelle: Beispiel Beispiel: Alarm Szenario Unser Haus in LA hat eine Alarmanlage. Wir sind im Urlaub. Unser Nachbar ruft an, falls er den Alarm hört. Wenn eingebrochen wurde, wollen wir zurück kommen. Leider ist der Nachbar nicht immer zu Hause. Leider geht die Alarmanlage auch bei kleinen Erdbeben los. 5 binäre Zufallsvariablen B E A N R Burglary Einbruch hat stattgefunden Earthquake Erdbeben hat stattgefunden Alarm Alarmanlage geht los NeighborCalls Nachbar ruft an RadioReport Bericht über Erdbeben im Radio 13

14 Graphische Modelle: Beispiel Zufallsvariablen haben eine gemeinsame Verteilung p(b,e,a,n,r). Wie angeben? Welche Abhängigkeiten gelten? Beispiel für Inferenzproblem: Nachbar hat angerufen (N=1), wie wahrscheinlich ist Einbruch (B=1)? Hängt von verschiedenen Faktoren ab Wie wahrscheinlich Einbruch a priori? Wie wahrscheinlich Erdbeben a priori? Wie wahrscheinlich, dass Alarmanlage auslöst? (Naive) Inferenz: pb ( = 1 N= 1) = = E A R B E A R pb ( = 1, N= 1) pn ( = 1) pb ( = 1, EAN,, = 1, R) pbean (,,, = 1, R) 14

15 Graphische Modelle: Beispiel Wie modellieren wir p(b,e,a,n,r)? 1. Versuch: vollständige Tabelle B E A N R P(B,E,A,N,R) N Versuch: alles unabhängig +Alle Verteilungen pbeanr (,,,, ) können repräsentiert werden - Anzahl Parameter exponentiell - Schwierig anzugeben pbeanr (,,,, ) = pbpepapn ( ) ( ) ( ) ( ) pr ( ) +Anzahl Parameter linear - Zu restriktiv, Unabhängigkeitsannahme erlaubt keine sinnvolle Inferenz 15

16 Graphische Modelle: Beispiel Graphisches Modell: Selektive Unabhängigkeitsannahmen, durch Vorwissen motiviert Wähle Variablenordnung: z.b. B<E<A<N<R Produktregel: pbeanr (,,,, ) = pbean (,,, ) pr ( BEAN,,, ) = pbeapn (,, ) ( BEApR,, ) ( BEAN,,, ) = pbe (, ) pa ( BE, ) pn ( BEApR,, ) ( BEAN,,, ) = pbpe ( ) ( BpA ) ( BE, ) pn ( BEApR,, ) ( BEAN,,, ) Faktoren beschreiben die Verteilung einer Zufallsvariablen in Abhängigkeit anderer Zufallsvariablen. Können wir diese Faktoren vereinfachen? Welche dieser Abhängigkeiten bestehen wirklich? 16

17 Graphische Modelle: Beispiel Zerlegung in Faktoren nach Produktregel: pbeanr (,,,, ) = pbpe ( ) ( BpA ) ( BE, ) pn ( BEApR,, ) ( BEAN,,, ) Annahme bedingter Unabhängigkeiten (Entfernen von Variablen aus Bedingungsteil) pe ( B) = pe ( ) pa ( BE, ) = pa ( BE, ) pn ( BEA,, ) = pn ( A) pr ( BEAN,,, ) = pr ( E) Vereinfachte Darstellung der gemeinsamen Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) Vereinfachte Faktoren Erdbeben hängt nicht von Einbruch ab Alarm hängt von Einbruch und Erdbeben ab Anruf von Nachbar hängt nur von Alarm ab Nachricht im Radio hängt nur Erdbeben ab 17

18 Graphische Modelle: Beispiel Graphisches Modell für Alarm Szenario P(B=1) P(E=1) B E P(A=1 B,E) B E A N A P(N=1 A) Modellierte Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) E P(R=1 E) R Graphisches Modell: - Jede ZV ist ein Knoten - Für jeden Faktor der Form px ( X,..., X) fügen wir gerichtete Kanten von den X zu X ein - Modell ist parametrisiert mit den bedingten Verteilungen px ( X1,..., X k ) 1 i k 18

19 Graphische Modelle: Beispiel Graphisches Modell für Alarm Szenario Anzahl Parameter: O(N*2 K ), K= max. Anzahl von Elternknoten Hier statt Parameter Gerichtete graphische Modelle heißen auch Bayessche Netze 19

20 Gerichtete Graphische Modelle: Definition Gegeben eine Menge von ZV {X 1,,X N } Ein gerichtetes graphisches Modell über den ZV {X 1,,X N } ist ein gerichteter Graph mit Knotenmenge X 1,,X N Es gibt keine gerichteten Zyklen X X... X X i i i i 2 k 1 Knoten sind mit parametrisierten bedingten Verteilungen px ( i pax ( )) assoziiert, wobei pa( X i i) = { X j X j X i} die Menge der Elternknoten eines Knoten ist Das graphische Modell modelliert eine gemeinsame Verteilung über X 1,,X N durch N px ( 1,..., XN ) = px ( i pax ( i )) i=

21 Gerichtete Graphische Modelle: Definition Warum muss der Graph azyklisch sein? Satz aus der Graphentheorie: G ist azyklisch es gibt Ordnung der Knoten, so dass gerichtete Kanten Damit ergibt sich die Ordnung respektieren ( N N' N N') px ( 1,..., XN ) = px ( i pax ( i )) aus Produktregel + bedingten Unabhängigkeitsannahmen (Variablen entsprechend umsortieren) Gegenbeispiel (kein graphisches Modell): X Y p( X, Y ) px ( Y) p( Y X ) N i= 1 G G G 21

22 Graphische Modelle: Unabhängigkeit Die Graphstruktur eines Graphischen Modells impliziert (bedingte) Unabhängigkeiten zwischen ZV Notation: Für Variablen X, Y, Z schreiben wir X Y Z px ( YZ, ) = px ( Z) " X unabhängig von Y gegeben Z" Erweiterung auf disjunkte Mengen A, B, C von ZV Α Β C pabc (, ) = pac ( ) 22

23 Graphische Modelle: Unabhängigkeit Welche Unabhängigkeiten der Form Α Β C werden durch die Graphstruktur modelliert? Im Prinzip auszurechnen durch Summen/Produktregel aus der gemeinsamen Verteilung Bei graphischen Modellen aber direkt aus der Graphstruktur ableitbar viel einfacher D-separation : Menge einfacher Regeln, nach denen sich alle Unabhängigkeiten ableiten lassen 23

24 Graphische Modelle: Unabhängigkeit D-separation: Welche Unabhängigkeiten der Form werden durch die Graphstruktur modelliert? Wichtige Rolle spielen Pfade im Graphen, die ZV verbinden Notation: X X X Y Y Y Z Z Z Α Β C Pfad zwischen X und Z hat eine konvergierende Verbindung bei Y ( head to head ) Pfad zwischen X und Z hat eine serielle Verbindung bei Y ( head to tail ) Pfad zwischen X und Z hat eine divergierende Verbindung bei Y ( tail-to-tail ) 24

25 Divergierende Verbindungen Betrachte Pfad A E R. Gilt Α R? B E Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) A R B= Einbruch N= Nachbar ruft an E= Erdbeben R= Radio Bericht N A= Alarm 25

26 Divergierende Verbindungen Betrachte Pfad A E R. Gilt Α R? B A N E R Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) Nein, par ( ) pa ( ) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: RadioReport wahrscheinlich Erdbeben wahrscheinlich Alarm pa ( = 1 R= 1) > pa ( = 1 R= 0) B= Einbruch E= Erdbeben A= Alarm N= Nachbar ruft an R= Radio Bericht ZV R beeinflusst ZV A über die divergierende Verbindung R E A 26

27 Divergierende Verbindungen Betrachte Pfad A E R. Gilt Α R E? B E A R N Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) beobachteter Knoten 27

28 Divergierende Verbindungen Betrachte Pfad A E R. Gilt Α R E? B A N E R Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) Ja, pare (, ) = pae ( ) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: Wenn wir schon wissen, dass ein Erdbeben eingetreten ist, wird die Wahrscheinlichkeit für Alarm nicht höher/niedriger durch RadioReport Der divergierende Pfad R E A beobachteter Knoten wird durch Beobachtung von E blockiert 28

29 Serielle Verbindungen Betrachte Pfad N A B. Gilt Β Ν? B E A R N Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) 29

30 Serielle Verbindungen Betrachte Pfad N A B. Gilt Β Ν? B A N E R Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) Nein, pb ( N) pb ( ) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: NeighborCalls wahrscheinlich Alarm wahrscheinlich Burglary pb ( = 1 N= 1) > pb ( = 1 N= 0) ZV N beeinflusst ZV B über den seriellen Pfad N A B 30

31 Serielle Verbindungen Betrachte Pfad N A B. Gilt Β Ν A? B E A R N Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) beobachteter Knoten 31

32 Serielle Verbindungen Betrachte Pfad N A B. Gilt Β Ν A? B E A R N Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) beobachteter Knoten Ja, pb ( N, A) = pb ( A) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: Wenn wir schon wissen, dass der Alarm ausgelöst wurde, sinkt/steigt die Wahrscheinlichkeit für Einbruch nicht dadurch, dass Nachbar anruft Der serielle Pfad N A B wird durch Beobachtung von A blockiert. 32

33 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B E A R N Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) Β Ε 33

34 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B A N E R Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) Β Ε Ja, pb ( E) = pb ( ) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: Einbrüche treten nicht häufiger/seltener auf an Tagen mit Erdbeben Der konvergierende Pfad B A E ist blockiert wenn A nicht beobachtet ist 34

35 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B E A R N Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) beobachteter Knoten Β Ε A 35

36 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B E A R N Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) beobachteter Knoten Β Ε A Nein, pb ( EA, ) pb ( A) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: Alarm wurde ausgelöst. Falls wir ein Erdbeben beobachten, erklärt das den Alarm, Wahrscheinlichkeit für Einbruch sinkt ("explaining away"). Der konvergierende Pfad B A E wird freigegeben durch Beobachtung von A 36

37 Konvergierende Verbindung Betrachte Pfad B A E. Gilt? B E A R N Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) beobachteter Knoten Β Ε N Nein, pb ( N, A) pb ( A) [Ausrechnen mit gemeinsamer Verteilung] Intuitiv: NeighborCalls indirekte Beobachtung von Alarm. Erdbebenbeobachtung erklärt den Alarm, Wahrscheinlichkeit für Einbruch sinkt ("explaining away"). Der konvergierende Pfad B A E wird freigegeben durch Beobachtung von N 37

38 Zusammenfassung Pfade Zusammenfassung: ein Pfad -X-Y-Z- ist B A N E Blockiert bei Y, wenn Divergierende Verbindung, und Y beobachtet, oder Serielle Verbindung, und Y beobachtet, oder Konvergierende Verbindung, und weder Y noch einer seiner Nachfahren Y Descendants(Y) beobachtet Descendants(Y)={Y es gibt gerichteten Pfad von Y zu Y } Sonst ist der Pfad frei bei Y R Gemeinsame Verteilung: pbeanr (,,,, ) = pbpepa ( ) ( ) ( EBpN, ) ( ApR ) ( E) 38

39 D-Separation: Blockierte Pfade Ein Pfad ist blockiert, wenn er bei einem auf dem Pfad liegenden Knoten blockiert ist: Seien X,X ZV, C eine beobachtete Menge von ZV, X,X C Ein ungerichteter Pfad X X 1 X n X zwischen X und X ist blockiert gegeben C gdw es einen Knoten X i gibt so dass Pfad bei X i blockiert ist gegeben C D-Separation basiert auf blockierten Pfaden: Seien A,B,C disjunkte Mengen von ZV. Definition: A und B sind d-separiert durch C gdw jeder Pfad von einem Knoten X A zu einem Knoten Y B blockiert ist gegeben C. 39

40 D-Separation: Korrektheit Gegeben ein graphisches Modell über {X 1,,X N } mit Graphstruktur G. Das graphische Modell modelliert eine Verteilung durch abhängig von den bedingten Verteilungen px ( n pax ( n)). Theorem (Korrektheit, Vollständigkeit d-separation) px ( 1,..., XN ) = px ( i pax ( i )) Falls A,B d-separiert gegeben C in G, dann N i= 1 pabc (, ) = pac ( ) Es gibt keine anderen Unabhängigkeiten, die für jede Wahl der bedingten Verteilungen px ( pax ( )) gelten. i i 40

41 D-Separation: Beispiel A C E Ein Pfad -X-Y-Z- ist B G D Blockiert bei Y, wenn F Gilt A F D? Gilt B Ε C? Gilt A Ε C? Divergierende Verbindung, und Y beobachtet, oder Serielle Verbindung, und Y beobachtet, oder Konvergierende Verbindung, und weder Y noch einer seiner Nachfahren Y Descendants(Y) beobachtet Sonst ist der Pfad frei bei Y 41

42 D-Separation: Beispiel A C E Ein Pfad -X-Y-Z- ist B G D Blockiert bei Y, wenn F Gilt A F D? Ja Gilt B Ε C? Nein: B G E Gilt A Ε C? Nein: A C B G E Divergierende Verbindung, und Y beobachtet, oder Serielle Verbindung, und Y beobachtet, oder Konvergierende Verbindung, und weder Y noch einer seiner Nachfahren Y Descendants(Y) beobachtet Sonst ist der Pfad frei bei Y 42

43 Graphische Modelle: Kausalität Oft werden Modelle so konstruiert, dass gerichtete Kanten kausalen Einflüssen entsprechen G Äquivalentes Modell G Definition: IG ( ) = IG ( ') = Keine statistischen Gründe, eines der Modelle vorzuziehen : E E A A Erdbeben lösen die Alarmanlage aus die Alarmanlage löst Erdbeben aus I(G) ={ ( A Β C) : A und B sind d-separiert gegeben C in G} Alle Unabhängigkeitsannahmen, die durch G kodiert werden Kann nicht aufgrund von Daten zwischen Modellen unterscheiden Aber kausale Modelle oft besser verständlich 43

44 Modelle Unterschiedlicher Komplexität Komplexität: bestimmt durch Menge der Kanten im Graph Beeinflusst die Anzahl der Parameter im Modell. Für binäre ZV gilt: Anzahl Parameter in O(N*2 K ), K = max i pa( X i) Hinzufügen von Kanten: Familie der darstellbare Verteilungen wird grösser, I(G) wird kleiner Extremfälle: Graph ohne Kanten, (ungerichtet) vollständig verbundener Graph B A E R N N Parameter N 2-1 Parameter IG ( ) = {( A Β C) : ABC,, disj. Mengen von ZV} IG ( ) = B A N E R 44

45 Überblick Gerichtete Graphische Modelle: Bayessche Netze Graphische Modelle im Maschinellen Lernen Inferenz in Graphischen Modellen Ungerichtete Graphische Modelle: Markov Netze 45