Ncht-negate Matrx-Faktorserung (NMF) für de Mustererkennung Alexander Gloye 11. Februar 2005
11. Februar 2005 Alexander Gloye 2 Überblck Motaton Datenaufberetung Matrxfaktorserung Methodenerglech Algorthmus zur NMF Ereterungen Anendungsbespele Zusammenfassung
11. Februar 2005 Alexander Gloye 3 Motaton Merkmalsanalyse Quelle: http://.pxlartst.de
11. Februar 2005 Alexander Gloye 4 Vektorelle Datenkoderung...
11. Februar 2005 Alexander Gloye 5 Bld(de)koderung Datensatz Bass Koderung W h 1 0 0 1 1
11. Februar 2005 Alexander Gloye 6 Matrx-Faktorserung V V = W H = Datensatz Merkmalsbass Koderung
11. Februar 2005 Alexander Gloye 7 Matrxfaktorserung Ausgeählte Methoden Vektorquantserung Hauptkomponentenanalyse Ncht-negate Matrxfaktorserung
11. Februar 2005 Alexander Gloye 8 Bespeldaten Geschter 19 19=361 Pxel 2429 Geschter
11. Februar 2005 Alexander Gloye 9 Vektorquantserung Repräsentate Vektoren zur Auftelung des Raums als Bass W Her Lnde-Buzo-Gray Zuordnung durch nächsten Nachbarn 20 Bassektoren
11. Februar 2005 Alexander Gloye 10 Vektorquantserung Gechtete Bass W Koderung h Orgnal Rekonstrukton Wh
11. Februar 2005 Alexander Gloye 11 Hauptkomponentenanalyse Egenektoren der Koaranzmatrx der Daten blden de Bass W Egenfaces post Null negat 20 Bassektoren
11. Februar 2005 Alexander Gloye 12 Hauptkomponentenanalyse Gechtete Bass W Koderung h Orgnal Rekonstrukton Wh
11. Februar 2005 Alexander Gloye 13 Ncht-negate Matrxfaktorserung Bass W und Koderung H nur poste Werte oder Null Der Fehler V bzgl. V soll mnmert erden 20 Bassektoren
11. Februar 2005 Alexander Gloye 14 Ncht-negate Matrxfaktorserung Gechtete Bass W Koderung h Orgnal Rekonstrukton Wh
11. Februar 2005 Alexander Gloye 15 Bespeldaten Zffern 12 16=192 Pxel 1000 Zffern
11. Februar 2005 Alexander Gloye 16 Vektorquantserung Gechtete Bass W Koderung h Orgnal Rekonstrukton Wh
11. Februar 2005 Alexander Gloye 17 Hauptkomponentenanalyse Gechtete Bass W Koderung h Orgnal Rekonstrukton Wh
11. Februar 2005 Alexander Gloye 18 Ncht-negate Matrxfaktorserung Gechtete Bass W Koderung h Orgnal Rekonstrukton Wh
11. Februar 2005 Alexander Gloye 19 Algorthmus zur NMF Expectaton-Maxmzaton (EM)-Algorthmus W und H erden echelsetg optmert Für de Fehlerfunkton Eukldsche Dstanz: V V Kullback-Lebler Abechung: D 2 = j j j ( ) j ( V V ) = + j log j j j j 2
Fehlerfunkton 11. Februar 2005 Alexander Gloye 20
11. Februar 2005 Alexander Gloye 21 Algorthmus zur NMF a a a j ja a a a a a h h h µ µ µ µ µ µ µ µ
11. Februar 2005 Alexander Gloye 22 Anpassung on W µ h a a a µ µ a j a ja h aµ V/V / W a Hh a
11. Februar 2005 Alexander Gloye 23 Anpassung on W µ a a µ µ a j a ja h aµ V/V µ W a H µ a
11. Februar 2005 Alexander Gloye 24 Anpassung on H h aµ h aµ a µ µ V/V W H a W st normert! µ a µ
11. Februar 2005 Alexander Gloye 25 Gradentenabsteg ( ) + = j j j j j j V V D log 1 ' ' ') ( + = D ' 1 ' 1 1 ' 1 ' a a a a a a a a a + + + λ + ' ') ( a a D λ
11. Februar 2005 Alexander Gloye 26 Algorthmus zur NMF 200 Iteraton n Matlab mplementert. 20 Bassektoren
11. Februar 2005 Alexander Gloye 27 Ereterungen der NMF Sparsame Repräsentaton der Bass Lokale Repräsentaton der Merkmale Durch Ereterung der Fehlerfunkton Zum Bespel Lokal NMF (LNMF) ( ) j V = + + + j log j j kj D V j j jk j h 2 j Merkmalsektoren orthogonal. Koderung ncht sparsam!
11. Februar 2005 Alexander Gloye 28 Ereterungen der NMF 25 Merkmale je 28 23 Pxel Lokal NMF (LNMF) Fsher NMF (FNMF) NMF LNMF FNMF Quelle: Wang u.a.
11. Februar 2005 Alexander Gloye 29 Anendungsbespele Semantsche Merkmalsextrakton oder thematsche Zuordnung aus Texten. Automatsche Transkrpton polyphoner Musk
11. Februar 2005 Alexander Gloye 30 Zusammenfassung NMF st ene Alternate zur VQ und PCA Lechte Interpreterbarket der Merkmale Enfache Implementerung. Koderungsektor kann für Geschtserkennung, Handschrfterkennung us. benutzt erden. Anendungsberech ächst
11. Februar 2005 Alexander Gloye 31 Lteratur Danel Lee and Sebastan Seung: Learnng the parts of objects by non-negate matrx factorzaton, Nature 401, 788-791 (1999). Danel Lee and Sebastan Seung: Algorthms for Non-negate Matrx Factorzaton, Adances n Neural Informaton Processng Systems, ol. 13, pp. 556-562, 2001. Yuan Wang et al.: Fsher Non-negate Matrx Factorzaton for Learnng Local Features, Asan Conference on Computer Vson, Korea, January 27-30, 2004. Patrk Hoyer: Non-negate Matrx Factorzaton th Sparseness Constrants, Journal of Machne Learnng Research 5:1457-1469, 2004. Faral Shahnaz et al.: Document Clusterng Usng Nonnegate Matrx Factorzaton, To appear n the Journal on Informaton Processng & Management, Elseer Preprnt, August 2004. Pars Smaragds and Judth Bron: Non-Negate Matrx Factorzaton for Polyphonc Musc Transcrpton, IEEE Workshop on Applcatons of Sgnal Processng to Audo and Acoustcs, 2003.
11. Februar 2005 Alexander Gloye 32 Fragen?