Modelle, Version Spaces, Lernen

Transkript

1 Unverstät Potsdam Insttut für Informatk Lehrstuhl Maschnelles Lernen Maschnelles Lernen Modelle, Verson Spaces, Lernen Chrstoph Sawade/Nels Landwehr Slva Makowsk Tobas Scheffer

2 Überblck Problemstellungen: Klassfkaton und Regresson Modelle und Hypothesenraum Verlustfunktonen und Regularserer Unscherhet, Wahrschenlchketen, Bayes sche Regel 2

3 Überblck Problemstellungen: Klassfkaton und Regresson Modelle und Hypothesenraum Verlustfunktonen und Regularserer Unscherhet, Wahrschenlchketen, Bayes sche Regel 3

4 Problemstellung Klassfkaton Engabe: Instanz (Objekt) X. m Objekte oft durch Vektor von Attrbuten repräsentert ( X = ) Instanz st Belegung der Attrbute. =... Merkmalsvektor m Ausgabe: Klasse y Y ; endlche Menge. Klasse wrd auch als Zelattrbut bezechnet y heßt auch (Klassen)Label 1 Klassfkator y Y 4

5 Klassfkaton: Bespel Engabe: Instanz (Objekt) X. X = Menge aller möglchen Kombnatonen ener Menge von Medkamenten Attrbute Medkament 1 enthalten? Medkament 6 enthalten? Ausgabe: Instanz y Y = { tosch, ok} Belegung der Attrbute, Merkmalsvektor / Medkamentenkombnaton Klassfkator 5

6 Klassfkaton: Bespel Engabe: Instanz (Objekt) X. X = Menge aller 1616 Pel Btmaps Attrbute Grauwert Pel 1 Grauwert Pel 256 Instanz Ausgabe: y Y = {0,1, 2,3, 4,5, 6, 7,8,9} : erkannte Zffer Klassfkator 256 Pelwerte "6" 6

7 Klassfkaton: Bespel Engabe: Instanz (Objekt) X. X Attrbute Wort 1 kommt vor? Wort N kommt vor? N Ausgabe: = Menge aller möglchen Emal-Tete Instanz Alternatve Benefcary Frend Sterlng Zoo y Y = { spam, ok} Emal Dear Benefcary, your Emal address has been pcked onlne n ths years MICROSOFT CONSUMER AWARD as a Wnner of One Hundred and Ffty Fve Thousand Pounds Sterlng Dear Benefcary, We are pleased to notfy you that your Emal address has been pcked onlne n ths second quarter's MICROSOFT CONSUMER AWARD (MCA) as a Wnner of One Hundred and Ffty Fve Thousand Pounds Sterlng Klassfkator Spam 7

8 Problemstellung Klassfkatonslernen Idee: Klassfkator aus Daten lernen Engabe Lernproblem: Tranngsdaten. L = (, y 1),...,(, y 1 N N 1 =... m ) Ausgabe: Klassfkator (auch als Modell bezechnet). f : X Y f ( ) =, wenn = 1 = 0 = 1, sonst

9 Problemstellung Klassfkatonslernen Idee: Klassfkator aus Daten lernen Engabe Lernproblem: Tranngsdaten. L = (, y 1),...,( Objektrepräsentaton y Klassenlabel, y 1 N N 1 =... m ) (, ok) (, ) (, tosch) (, ok) y1 ( 2, y2) 3 y3 (, ) 9

10 Problemstellung Klassfkatonslernen Engabe Lernproblem: Tranngsdaten. L = (, y 1),...,(, y 1 N N 1 =... m ) Ausgabe: Klassfkator (auch als Modell bezechnet). f : X Y Lnearer Klassfkator mt Parametervektor w. f f ( ) = w, wenn = 1 = 0 = 1, sonst ( ) =, sonst T m w= = 1 T, wenn w b 0 w 10

11 Problemstellung Klassfkatonslernen Engabe Lernproblem: Tranngsdaten. L = (, y 1),...,(, y 1 N N 1 =... m ) Ausgabe: Klassfkator (auch als Modell bezechnet). f : X Y Verschedene Klassen von Klassfkatoren - Entschedungsbäume. - Generalserte lneare Modelle (Kernel). - -Betrachtete Klassfkatoren wesentlches Unterschedungsmerkmal zwschen Verfahren des ML

12 Problemstellung Klassfkatonslernen Engabe Lernproblem: Tranngsdaten. Alternatve Schrebwese: Tranngsnstanzen: Matr Tranngslabels: Vektor ), ),...,(, ( 1 1 N N y y L = = m... 1 ( ) = = Nm N m N X = y N y... 1 y

13 Problemstellung: Regresson Engabe: Instanz (Objekt) X. Objekte oft durch Attrbut-Vektoren repräsentert. Instanz st Belegung der Attrbute. 1 =... m Merkmalsvektor Ausgabe: kontnuerlcher Wert, z.b Toztät. y We tosch st Kombnaton? y 13

14 Regressonslernen Engabe: Tranngsdaten. Ausgabe: Modell, Regressonsmodell. L = Z.B. (, y 1),...,(, y 1 N N 1 =... m y f : X ) T f ( ) = w + b w (,0.05) (, y ) (,0.95) (,0.01) (, ) 2 y2 3 y3 (, ) 14

15 Andere Lernprobleme Ordnale Regresson. Präferenzlernen. Taonome-Klassfkaton. Klassfkaton und Regresson mt strukturerten Ausgaberäumen. Kollaboratve Vorhersage. 15

16 Andere Lernprobleme Ordnale Regresson. Präferenzlernen. Taonome-Klassfkaton. Klassfkaton und Regresson mt strukturerten Mschung aus Klassfkaton Ausgaberäumen. Kollaboratve Vorhersage. und Regresson Endlche, dskrete Labels Ordnung 16

17 Andere Lernprobleme Ordnale Regresson. Präferenzlernen. Taonome-Klassfkaton. Klassfkaton und Regresson mt strukturerten Ausgaberäumen. Kollaboratve Vorhersage. Kene drekten Klassen beobachtet, sondern nur Präferenzen z.b Rehenfolge von Suchresultaten aus Clckstreams lernen 17

18 Andere Lernprobleme Ordnale Regresson. Präferenzlernen. Taonome-Klassfkaton. Klassfkaton und Regresson mt strukturerten Ausgaberäumen. Herarche von Klassen Kollaboratve Vorhersage. En Objekt hat mehrere Klassenlabels Panther st ->Ter ->Säugeter ->Katze ->Panther 18

19 Andere Lernprobleme Ordnale Regresson. Präferenzlernen. Taonome-Klassfkaton. Klassfkaton und Regresson mt strukturerten Ausgaberäumen. Kollaboratve Vorhersage. Engabe X und Ausgabe Y strukturerte Räume Bespel: Engabe DNA Ausgabe Protenfaltung Klassenlabel 3D Struktur AAGCTTGCACTGCCGT 19

20 Andere Ausnutzen Lernprobleme von Relatonen zwschen Objekten Bespel: Produktempfehlungen Präferenzlernen. Vorhersage nteressanter Produkte Ordnale Regresson. Taonome-Klassfkaton. Was hat der Nutzer/haben ähnlche Nutzer vorher gekauft? Klassfkaton und Regresson mt strukturerten Ausgaberäumen. Kollaboratve Vorhersage. 20

21 Überblck Lernprobleme: Klassfkaton und Regresson Modelle und Hypothesenraum Verlustfunktonen und Regularserer Unscherhet, Wahrschenlchketen, Bayes sche Regel 21

22 Klassfkatonslernen Engabe: Tranngsdaten. Ausgabe: Klassfkator. We Klassfkator lernen aus Tranngsdaten? L = (, y 1),...,(, y 1 N N 1 =... m f : X Y ) f ( ) =, wenn 1 = 1 3 = 0 6 = 1, sonst Ansatz: Klassfkator, der Tranngsdaten (Beobachtungen) erklärt Suchproblem m Raum aller (betrachteten) Klassfkatoren 22

23 Hypothesenraum Hypothesenraum, Modellraum H: Menge der Klassfkatonsmodelle, de Lernverfahren n Betracht zeht. Hypothesenraum st ener der Frehetsgrade bem maschnellen Lernen, vele Räume gebräuchlch. Hypothesenraum hesst auch Language Bas Bespel: Alle möglchen Konjunktonen von Bedngungen, wenn j J j = v j J {1,..., m}, v j {0,1} f ( ) =, sonst We groß st Hypothesenraum (m bnäre Attrbute)? 23

24 Suche nach Hypothese Suche nach Klassfkator für Kombnaton tosch. Hypothesenraum:, wenn = v f ( ) =, sonst j J j j Bespel- Kombnatonen Ansatz: Hypothese sollte konsstent sen mt Tranngsdaten : f( ) = y Identfzeren aller solchen Hypothesen? Medkamente n der Kombnaton y Nutze Struktur auf dem Hypothesenraum (generell/spezell) Tranngsdaten 24

25 Genereller-Als -Ordnung f f gdw. f ( ) =+ 1 f ( ) =+ 1 X Grundmenge X Hypothesen H spezfsch Immer f 1 f 3 2 f 2 f 1 =, wenn 2=1, 6=1 g g s s g f g 2 g f1 f2 g f3 aber ncht f1 f 3 g generell Immer f 2 =, wenn 2=1 f 3 =, wenn 2=1, 3=1 25

26 Verson Space Menge aller Hypothesen, de mt den Tranngsdaten konsstent snd, nennen wr den Verson Space: VSHL, = { f H (, y) L : f ( ) = y} Verson Space begrenzt durch generellste/spezellste Hypothesen, de Daten erklären G = { f VS f ' VS : f ' > f } H, L H, L g S = { f VS f ' VS : f > f '} H, L H, L g VSH, L= { f H f g G, fs S : f g g f g fs} Generellste konsstente Hypothesen Spezellste konsstente Hypothesen Verson Space: alles zwschen G und S (kene unendlchen Ketten) 26

27 Verson Space: Beobachtungen VSHL, = { f H (, y) L : f ( ) = y} Verson Space wrd klener, je mehr Daten vorhanden Verson Space leer: Tranngsmenge wdersprüchlch (es estert kene Hypothese n H, de Daten erklärt) Verson Space enelementg: Rchtges Modell gefunden, Oder rchtges Modell st ncht m Hypothesenraum. Mehrere Elemente m Verson Space: Noch ncht fertg. 27

28 Verson Space: Brute Force Konstrukton Intalsere V auf Menge aller Hypothesen. Für alle Tranngsbespele (, y): Lösche alle Hypothesen f aus V, de mt nkonsstent snd, also f () y. V st jetzt der Verson Space Bessere Verfahren unter Benutzung von G und S (kene Detals) 28

29 Bespel: Verson Space H: f ( ) = Welche Hypothesen snd m Verson Space?,, wenn v sonst j J j= j Bespel- Kombnatonen Medkamente n der Kombnaton y L= (, y ),(, y ),(, y ),(, y )

30 Bespel: Verson Space H: Welche Hypothesen snd m Verson Space? 2 4 f ( ) =,, 2 = 1 wenn v sonst j J j= j Bespel- Kombnatonen = 0 = 1 = Medkamente n der Kombnaton y L= (, y ),(, y ),(, y ),(, y ) = 1 = 0 1 = 0 2 = 1 1 = 0 4 = =

31 Verson Space H: Welche Hypothesen snd m Verson Space? Problem:, wenn j j = v f () =, sonst j Bespel- Kombnatonen Medkamente n der Kombnaton y Alle Elemente des Verson Space erklären de Daten glechermaßen gut. Verson Space ncht robust be fehlerhaften Daten 31

32 Unscherhet In der Pras errecht man nemals Gewsshet darüber, en korrektes Modell gefunden zu haben. Verson Space-Ansatz problematsch Der Hypothesenraum st mest unendlch groß. Der Verson Space st dann mest auch unendlch groß, oder leer. Alternatve/zusätzlche Konzepte Lernen als Optmerungsproblem Verlustfunktonen: Grad der Konsstenz mt Tranngsdaten A-pror Vertelung über Modelle, Regularserer 32

33 Überblck Lernprobleme: Klassfkaton und Regresson Modelle und Hypothesenraum Verlustfunktonen und Regularserer Unscherhet, Wahrschenlchketen, Bayes sche Regel 33

34 Verlustfunkton, Optmerungskrterum Alternatve zu Verson Spaces: Lernprobleme werden als Optmerungsprobleme formulert. Verlustfunkton msst, we gut Modell zu Tranngsdaten passt Regularserungsfunkton msst, ob das Modell nach unserem Vorwssen wahrschenlch st. Optmerungskrterum st Summe aus Verlust und Regularserer. Suche Mnmum des Optmerungskrterums Insgesamt wahrschenlchstes Modell, gegeben Tranngsdaten und Vorwssen. 34

35 Verlustfunkton We schlmm st es, wenn Modell f( ) vorhersagt obwohl der echte Wert der Zelvarable y st? Verlust auf den ganzen Tranngsdaten L: Bespel: Bnäres Klassfkatonsproblem mt postver Klasse (+1) und negatver Klasse (-1). False Postves und False Negatves glech schlmm. Zero-One Loss: l( f( ), y ) N = 1 l( f ( l( f( ), y ) 0, wenn f ( ) = y ), y ) = 1, sonst 35

36 Verlustfunkton Bespel: dagnostsche Klassfkatonsprobleme, übersehene Erkrankungen (False Negatves) schlmmer als False Postves. Kostenmatr l( f ( ), y ) = f ( f ( ) = + 1 ) = 1 y c = FN y = 1 c FP 0 36

37 Verlustfunkton Bespel Verlustfunkton Regresson: Vorhersage möglchst dcht an echtem Wert des Zelattrbutes Quadratscher Fehler l( f ( ), y ) = ( f ( ) y 2 ) 37

38 Verlustfunkton We schlmm st es, wenn Modell f( ) vorhersagt obwohl der echte Wert der Zelvarable y st? Verlust l(f( ), y ). Verlustfunkton st aus der jewelgen Anwendung heraus motvert. 38

39 Regularserer Verlustfunkton drückt aus, we gut Modell zu Daten passt Regularserer: drückt Annahme darüber aus, ob Modell a pror wahrschenlch st. Unabhängg von den Tranngsdaten. Je höher der Regularserungsterm für en Modell, desto unwahrschenlcher Häufg wrd de Annahme ausgedrückt, dass wenge der Attrbute für en gutes Modell ausrechen. Anzahl der Attrbute, L 0 -Regularserung Betrag der Attrbut-Gewchtungen, L 1 -Regularserung Quadrat der Attrbut-Gewchtungen, L 2 -Regularserung. 39

40 Regularserer: Bespel Hypothesenraum: Konjunkton von Bedngungen Lneares Modell: Lässt sch schreben als Allgemen: äquvalente Darstellung st, wenn 1 = 1 3 = 1 7 = 1 f ( ) =, sonst f ( ) = w j j f w,, ( ) = = { 1, 0, + 1} wenn sonst,,,, m j= 1 7 T w j 3 wenn w b sonst wenn sonst j b w: Modellparameter w { 1, + 1} falls Attrbut n logscher Bedngung vorkommt 40

41 Regularserer: Bespel Lnearer Klassfkator L 2 -Regularserung: f w ( ) = 2 λ w Addert,, λ wenn w T b sonst w = w für jedes von null verschedene Gewcht. Optmerungskrterum: Verlust+Regularserer 2 2 ˆ(, ) ( ( ), ) 2 R w L = l f w y + λ w Parameter steuert Stärke des Regularserers λ Durch den Regularserer mplementerte Präferenz des Lerners wrd auch Inductve Bas genannt. 41

42 Optmerungsproblem: Bespel ˆ(, ) ( ( ), ) 2 Beste Hypothese für λ = 0.1? = 1 = 0 1 = 0 2 = 1 1 = 0 4 = R w L = l f y + λ w w 2 = 1 = 0 = 1 = y =

43 Optmerungsproblem: Bespel R ˆ( w, L) = 2λ ˆ(, ) ( ( ), ) 2 R w L = l f y + λ w Beste Hypothese für λ = 0.1? 2 4 w 2 = 1 = 0 = 1 = y = 1 = 0 1 = 0 2 = 1 1 = 0 4 = R ˆ( w, L) = λ R ˆ( w, L) = 3λ =

44 Optmerungsproblem Enstellung von λ? Rechtfertgung für Optmerungskrterum? Mehrere Rechtfertgungen und Herletungen. Wahrschenlchste Hypothese (MAP-Hypothese). Hypothese, de Daten am stärksten komprmert (Mnmum Descrpton Length). Nedrge obere Schranke für Fehler auf zukünftgen Daten abhängg von w. (SRM). Lernen ohne Regularserung st ll-posed Problem; kene endeutge Lösung, oder Lösung hängt etrem stark von mnmalen Änderungen n den Daten ab. 44

45 Überblck Lernprobleme: Klassfkaton und Regresson Modelle und Hypothesenraum Verlustfunktonen und Regularserer Unscherhet, Wahrschenlchketen, Bayes sche Regel 45