Universität Potsdam Institut für Informatik Lehrstuhl Maschinelles Lernen. Graphische Modelle. Niels Landwehr

Transkript

1 Unverstät Potsdam Insttut für Informatk Lehrstuhl Maschnelles Lernen Graphsche Modelle els Landwehr

2 Überblck Graphsche Modelle: Syntax und Semantk Graphsche Modelle m Maschnellen Lernen Inferenz n Graphschen Modellen (exakt, approxmatv) Sequenzmodelle 2

3 Ernnerung: Lernproblem Ernnerung: Lernproblem Tranngsdaten Zel: Vorhersage des Labels für Testnstanz x X L ( x, y),...,( x Matrxschrebwese, y Merkmalsvektoren x... x x x m x x m ) x y x m Merkmalsvektoren y {0,} bnäre Klassenlabel y reelles Label Zugehörge Labels y y... y 3

4 Ernnerung: Bayes sches Lernen Bayescher Ansatz: Wr wenden probablstsche Überlegungen auf Daten, Modelle und Vorhersagen an A-pror Vertelung über Modelle p( ) (bekannt) A-posteror Vertelung Vorhersageproblem: MAP Lösung * argmax p( L) y* argmax y p( y x, *) Vorhersageproblem: Bayes Lösung p( L) p( L ) p( ) posteror lkelhood pror y* arg max y p( y x, L) arg max y p( y x, ) p( L) d 4

5 Ernnerung: Parameterschätzung Münzwurf Ernnerung: Münzwurf Enzelner Münzwurf Bernoull-vertelt mt Parameter μ X {0,} X X ~ Bern( X ) ( ) Parameterschätzproblem: X px ( ) unbekannter Parameter Wr haben unabhängge Münzwürfe gesehen, als Ausprägung L={x,, x } der ZV X,, X Der echte Parameter μ st unbekannt, wr wollen ene Schätzung ˆ bzw. ene posteror-vertelung p( L) Bayesscher Ansatz: Posteror Pror x Lkelhood p( L) p( L ) p( ) posteror lkelhood pror 5

6 Ernnerung: Parameterschätzung Münzwurf Pror: Beta-Vertelung über Münzparameter μ p( ) Beta( Lkelhood unabhängge Münzwürfe: p( X,..., X ) p( X ) k z k z k z k ( k z Bern( X X ( ) z ) X..d. Beta( 22 6

7 Ernnerung: Parameterschätzung Münzwurf Münzwurfszenaro als graphsches Modell? Zufallsvarablen n Münzwurfszenaro snd X,..., X, Gemensame Vertelung von Daten und Parameter: Pror x Lkelhood p( X,..., X, ) p( p( X ) Darstellung als graphsches Modell: Bernoull 7

8 Ernnerung: Parameterschätzung Münzwurf Münzwurfszenaro als graphsches Modell? Zufallsvarablen n Münzwurfszenaro snd X,..., X, Gemensame Vertelung von Daten und Parameter: Pror x Lkelhood p( X,..., X, ) p( p( X ) Darstellung als graphsches Modell: X X 2 X 3 X Bernoull pa( ) pa( X ) { } 8

9 Schätzung enes Münzparameters als Graphsches Modell Unabhängge Münzwürfe: Darstellung als graphsches Modell D-separaton X X 2 Glt,...,? X X X X 3 X 9

10 Schätzung enes Münzparameters als Graphsches Modell Unabhängge Münzwürfe: Darstellung als graphsches Modell D-separaton Glt,...,? en, Pfad durch μ st ncht blockert. Intutv: Der versteckte Parameter μ koppelt ZV X,, X. Aber es glt X X 2 X X X 2 X 3 X X... X Wahrschenlch 0.5 Wahrschenlch X X X,..., X X 0

11 Parameterschätzung als Inferenzproblem MAP-Parameterschätzung Münzwurf Inferenzproblem: arg max (,..., ) p x x p( ) X 2 Evdenz auf den Knoten X,, X Gesucht: Vertelung p( X,..., X ) px ( ) px ( ) X X X 3

12 Plate-Modelle Erweterung der graphschen Modelle: Plate-otaton Unabhängge Münzwürfe: Darstellung als graphsches Modell Knoten X,, X snd von glecher Form X X 2 X 3 Glecher Werteberech Gleche bedngte Vertelungen p( X ) p( X ). Kurznotaton n der Form ener Schablone : Plate otaton X j 2

13 Plate-Modelle Plate otaton für Münzwürfe X X 2 En Plate st ene abkürzende otaton für Varablen der glechen Form X 3 X Plate otaton Bezechnet mt Anzahl der Varablen, Varablen haben Index (z.b. X ). Plate-Modelle werden m Maschnellen Lernen oft verwendet X Plate 3

14 Plate-Modelle: Hyperparameter Rolle der Hyperparameter,? k z Kene Zufallsvarablen, wr modelleren nur de gemensame Vertelung über X,..., X, gegeben Hyperparameter Hyperparameter kene Knoten m GM, werden aber oft zusätzlch angegeben (otaton: Punkt statt Kres) X X 2 p( X,..., X, ) p( p( X ) p( k z) p( kz) X 3 k z k z X k Plate otaton z k z X Plate 4

15 Ernnerung: Bayessche Lneare Regresson Regressonslernen L ( x, y),...,( x Lneare Regresson T f ( x w ) w x w Parametervektor, Gewchtsvektor m wx, y ) x y m Merkmalsvektoren reelles Zelattrbut 5

16 Ernnerung: Bayessche Lneare Regresson Dskrmnatves Settng: x fest, y generert aus x und w plus Gaussschem Rauschen p y y T 2 ( x, w) w x ( y 0, ) y ~ p( y x, w) T 2 ( wx, ) dskrmnatves Modell: T wx p( x) ncht modellert Bayessches Settng: Posteror Pror x Lkelhood p( w L) p( L w) p( w) posteror lkelhood pror y x 6

17 Ernnerung: Bayessche Lneare Regresson Lkelhood der Daten L unter enem Modell w: ( 2 2, w, ) p( y x, w, ) p L X y T 2 ( wx, ) ormalvertelter Pror über Modelle p I 2 2 ( w ) ( w 0, ) I d. Isotrope multvarate ormalvertelung, Mttelwert 0, Varanz τ 2 7

18 Bayessche Lneare Regresson als Graphsches Modell Was snd Zufallsvarablen? Labels y,, y, Parameter w cht: x,, x, Hyperparameter Gemensame Vertelung über Labels und Parameter Darstellung von Bayesscher Lnearer Regresson als graphsches Modell: Ablesen der Struktur aus gemensamer Vertelung Pror Lkelhood p( y,..., y, w x,..., x,, ) p( w ) p( y,..., y w, x,..., x, ) p 2 2 ( w ) p( y w, x, ) 8

19 Bayessche Lneare Regresson als Graphsches Modell (,..., y, w x,..., x,, ) p( w ) p( y x, w, ) p y Graphsches Modell, =3 y w y2 y3 x x2 x3 Graphsches Modell, Plate-otaton x w y 9

20 MAP Parameterschätzung als Inferenzproblem w y y2 y3 x x2 x3 MAP Parameterschätzung: wahrschenlchstes Modell gegeben Daten w w x x 2 2 * arg max w p( y,..., y,,...,,, ) Inferenzproblem: was st de Vertelung über den Knoten w, gegeben beobachtete Knoten y,, y? x n w y n 20

21 Bayes-optmale Vorhersage Vorhersage mt MAP Modell: w*,, 2 2 arg max w p( w L X, ) y p y 2 * arg max y ( xw, *, ) w x T * Alternatv: Bayessche Vorhersage y p y L X * 2 2 arg max y ( x,,,, ) arg max y (,, ) (,,, ) p y x w p w L X dw X x... x Merkmalsvektoren cht nötg, sch auf en Modell fest zu legen 2

22 Bayessche Lneare Regresson als Graphsches Modell Bayessche Vorhersage: Erweterung des Modells durch neue Testnstanz (neue Zufallsvarable y) p( y,,, ) p( ) p( y, p y ,..., y, y, w x,..., x x w w x, ) ( w, x, ) Graphsches Modell, =3 w y y2 y3 x x2 x3 x y Plate otaton x n w y n x y 22

23 Bayessche Lneare Regresson als Graphsches Modell Bayessche Vorhersage y p y L X * 2 2 arg max y ( x,,,, ) Inferenzproblem: was st der wahrschenlchste Zustand für Knoten y, gegeben beobachtete Knoten y,, y? 23

24 Überblck Graphsche Modelle: Syntax und Semantk Graphsche Modelle m Maschnellen Lernen Inferenz n Graphschen Modellen (exakt, approxmatv) Sequenzmodelle 24

25 Problemstellung Inferenz Gegeben graphsches Modell über Menge von ZV {X,,X }. Problemstellung Inferenz: Varablen mt Evdenz Anfrage-Varable Berechne Randvertelung über Anfrage-Varable gegeben Evdenz Bedngte Vertelung über ZV X a Berechne p( x x,..., x ) a m X,..., X {,..., } {,..., } m m X a {,..., {,..., } a Allgemener auch p( x,..., x x,..., x ) a a k Evdenz: beobachtete Werte für ZV X,..., X m } m m 25

26 Graphsche Modelle: Inferenz Bespel Alarm Domäne Varablen mt Evdenz:, R Anfrage-Varablen: B Wahrschenlchket für Enbruch gegeben dass der achbar uns angerufen hat? Zum Bespel: p( B, R 0) 0.7 p( B 0, R 0) 0.3 p( B, R ) 0.2 p( B 0, R ) 0.8 Posteror über Parameter, Bayessche Vorhersage, 26

27 Graphsche Modelle: Inferenz Inferenz schwerges Problem Allgemene graphsche Modelle: exakte Inferenz P-hart Es gbt Algorthmen für exakte Inferenz n allgemenen graphschen Modellen, deren Laufzet von den Egenschaften der Graphstruktur abhängt ( Message- Passng ) Es gbt verschedene Technken für approxmatve Inferenz (Samplng, Varatonal Inference, Expectaton Propagaton) Wr betrachten Message-Passng Algorthmus: n Spezalfällen Samplng-baserte approxmatve Inferenz 27

28 Inferenz: Dskrete vs. Kontnuerlche Varablen Wr dskuteren Inferenz nur für dskrete Varablen Betrachtete Inferenzalgorthmen snd auch auf kontnuerlche Varablen anwendbar Summen ersetzen durch Integrale Vertelungen müssen so gewählt sen, dass sch de entsprechenden Integrale n geschlossener Form ausrechnen lassen 28

29 Überblck Graphsche Modelle: Syntax und Semantk Graphsche Modelle m Maschnellen Lernen Inferenz n Graphschen Modellen Exakte Inferenz Approxmatve Inferenz Sequenzmodelle 29

30 Exakte Inferenz: av Z Graphsches Modell: Repräsentaton von px (,..., ) X ave Inferenz: otaton :{ X,..., } { X, X,..., X, X,..., X } Berechne für jeden Wert x : p( x x,..., x ) ormalserungsfaktor, lecht explzt zu berechnen be unvaraten Vertelungen X a j Anfrage- Varable m Evdenz-Varablen a a m restlche Varablen p( x, x,..., x ) a m p( x,..., x ) m p ( xa, x,..., x m ) Z p( x,..., x ) Z x x j x j j 2 Zentrales Problem: Aussummeren aller restlchen Varablen (exponentell, wenn nav gelöst) j k k 30

31 Effzentere Inferenzmethoden? Effzentere Methode als nave Inferenz? Für allgemene Graphen (vollständg verbunden) ncht möglch! Aber wenn es Struktur m Modell gbt (Unabhänggketen), können wr dese unter Umständen ausnutzen Idee: Lokale Berechnungen, de entlang der Graphstruktur propagert werden Knoten schcken sch gegensetg achrchten, de Ergebnsse von Telberechnungen enthalten Message Passng, Belef Propagaton Laufzet der Verfahren hängt von Graphstruktur ab (exponentell m worst-case) 3

32 Graphsche Modelle: Inferenz auf lnearer Kette Wr betrachten jetzt den Message-Passng Algorthmus n enem Spezalfall mt besonders enfacher Struktur: lneare Kette von Zufallsvarablen x x2 x3 x 4 p( x,..., x ) p( x ) p( x x ) p( x x )... p( x x ) otaton: Darstellung der gemensamen Vertelung als Produkt von Potenzalfunktonen über Paare von ZV p( x ) p( x x ) p( x x ) p( x x ) p( x,..., x),2 ( x, x2) 2,3( x2, x3)..., ( x, x ) x x2 x3 x 4,2 2,3 3,4 4,5 32

33 Inferenz: lneare Kette von ZV Enführung des Message-Passng Algorthmus am Bespel Lnearen Kette von 5 Zufallsvarablen: Randvertelung der 3. Zufallsvarable berechnen (kene Evdenz) Anfrage- Varable x x2 x3 x4 x5 p( x ) p( x, x, x, x, x ) 3 x x x x x x x x Restlche Varablen (aussummeren) ave Berechnung exponentell (Mehrfachsumme) Idee: Struktur (lneare Kette) ausnutzen, um Berechnung effzenter durchzuführen ( x, x ) ( x, x ) ( x, x ) ( x, x ),2 2 2, , ,

34 Inferenz: Message-Passng utze Faktorserung der gemensamen Vertelung n Potenzale (Unabhänggketen) Lokale Telberechnung: achrcht p( x ) ( x, x ) ( x, x ) ( x, x ) ( x, x ) 3,2 2 2, , ,5 4 5 x x x x 2 4 5,2 2 2, , , x x x x Berechne für alle Werte von ( x, x ) ( x, x ) ( x, x ) ( x, x ) achrcht st Funkton n Abhänggket vom Zustand x 4 (z.b. kodert als Vektor) In der achrcht st der Knoten X 5 aussummert 5 Lokale Telberechnung: "achrch t " (x ) ( x ) x : ( x ) ( x, x ) 4 4 4,5 4 5 x

35 Inferenz: Message-Passng utze Faktorserung der gemensamen Vertelung n Potenzale (Unabhänggketen) Lokale Telberechnung: achrcht p( x ) ( x, x ) ( x, x ) ( x, x ) ( x, x ) 3,2 2 2, , ,5 4 5 x x x x ( x, x ) ( x, x ) ( x, x ) ( x, x ),2 2 2, , , x x x x ( x4) x5 Koderung z.b. als Vektor: ( x4 ) Berechne für alle Werte von x4: ( x4) 4,5( x 4, x5 ) 4 x5 x5 achrcht st Funkton n Abhänggket vom Zustand x 4 (z.b. kodert als Vektor) In der achrcht st der Knoten X 5 aussummert Lokale Telberechnung: "achrch t " (x ) 4,5,5 ( x4 0, x5) ( x4, x5) 4 35

36 Inferenz: Message-Passng Anschauung: Wr summeren den Knoten X 5 aus, und schcken das Ergebns weter an den Knoten X 4 ( x ) x x2 x3 x4,2 2,3 3,4 4,5 4 x 5 36

37 Inferenz: Message-Passng Wr wenden deselbe Idee auf de nächste auszusummerenden Varable an Lokale Telberechnung: achrcht p( x ) ( x, x ) ( x, x ) ( x, x ) ( x 3,2 2 2, , x x x 2 4 ( x, x ) ( x, x ) ( x, x ) ( x ),2 2 2, , x x x 2 4 ( x ) Berechne für alle Werte von x : ( x ) ( x, x ) ( x ) achrcht st Funkton n Abhänggket vom Zustand x 3 In der achrcht snd de Knoten X 5, X 4 aussummert Lokale Telberechnung: "achrch t " (x ) , x 3 ) 3 37

38 Inferenz: Message-Passng Anschauung: Wr summeren den Knoten X 4 aus, und schcken das Ergebns weter an den Knoten X 3 ( x ) x x2 x3 x4,2 2,3 3,4 4,5 X 3 st Anfrageknoten, also ncht aussummeren 3 ( x ) 4 x 5 38

39 Inferenz: Message-Passng Gleches Prnzp anwenden auf de Varablen lnks vom Anfrageknoten Telberechnung: achrcht p( x ) ( x, x ) ( x, x ) ( x ) 3,2 2 2, x x 2 ( x ) ( x, x ) ( x, x ) 3 2,3 2 3,2 2 x x 2 ( x ) ( x, x ) ( x, x ) 3 2,3 2 3,2 2 x x 2 ( x ) Berechne für alle Werte von x : ( x ) ( x, x ) achrcht st Funkton n Abhänggket vom Zustand x 2 In der achrcht st der Knoten X aussummert "achrcht " (x ) 2 2 2,2 2 x 2 39

40 Inferenz: Message-Passng Anschauung: Wr summeren den Knoten X aus, und schcken das Ergebns weter an den Knoten X 2 ( x ) 2 ( x ) x x2 x3 x4,2 2,3 3,4 4,5 3 ( x ) 4 x 5 40

41 Inferenz: Message-Passng Letzte Varable X 2 aussummeren p( x ) ( x ) ( x, x ) ( x ) 3 3 2, x (x ) ( x ) "achrcht " (x ) 3 Gesuchte Randvertelung st Produkt der achrchten m Anfrageknoten: p( x ) ( x ) ( x )

42 Inferenz: Message-Passng achrchten-austausch Schema: ( x2) x3 ( ) ( x ) x x2 x3 x4 x,2 2,3 5 3,4 4,5 p( x ) ( x ) ( x ) ( x ) Endergebns: gesuchte Randvertelung st Produkt der achrchten 4 42

43 Inferenz: Message-Passng Laufzet: Berechnung ener achrcht: achrchten nsgesamt x : ( x ) ( x, x ) ( x ) k k k, k k k k x k 2 OM ( ) für Berechnung ener achrcht (Varablen mt M dskreten Zuständen) 2 O( M ) Gesamtlaufzet Vel besser als nave Inferenz mt OM ( ) 43

44 Inferenz: Message-Passng Algorthmus Algorthmus: Message-Passng auf lnearer Kette Engabe: p( x,..., x ), 2( x, x2),...,, ( x, x) Gesucht: p( x )? Berechne achrchten (rekursv): ( ) x ( x ) Ausgabe: a Für k -,..., a: ( x ) ( x, x ) ( x ) k kk, k k k x Für k 2,..., a: ( x ) ( x, x ) ( x ) k k k, k k k k x k p( x ) ( x ) ( x ) (Vertelung) a a a 44

45 Message-Passng mt Evdenz Bsher Randvertelung ( ) ohne Evdenz bestmmt Was st wenn wr Evdenz haben? Bedngte Vertelung px a otaton :{ x,..., x } { x, x,..., x, x,..., x } a j j p( x x,., x ) a m Anfrage- Evdenz-Varablen restlche Varablen Varable m p( x, x,..., x ) a px (,..., x Z enfach zu berechnen p ( xa, x,..., x m ) (ormalserer unvarate Vertelung) Z k m m ) 45

46 Message-Passng mt Evdenz Zel: Lechte Modfkaton des Message-Passng Algorthmus p ( x,,..., )? a x x m Wr berechnen we bsher achrchten ( x ),..., ( x ) ( ),..., ( ) x2 x a a Falls x k+ unbeobachtet st, summeren wr desen Knoten aus k {,. } ( x ) ( x, x ) x ).., m k k, k k k ( k x k Falls x k+ beobachtet st, verwenden wr nur den entsprechenden Summanden x k beobachteter Wert (Evdenz) k {,..., } ( x ) ( x, x ) ( x ) m k k, k k k k 46

47 Message-Passng mt Evdenz Ebenso für ( x ) x k Jetzt glt k ( x k ) ( x, x ) ( x ) : k {,..., } (Knoten ncht beobachtet) k, k k k k m ( x, x ) ( x ) : k {,..., } (Knoten beobachtet) k, k k k k m p( x, x,..., x ) ( x ) ( x ) a m a a Laufzet für Inferenz mt Evdenz mmer noch 2 O( M ) 47