Grundlagen des Maschinellen Lernens Kap. 4: Lernmodelle Teil II

Transkript

1 1. Motivation 2. Lernmodelle Teil I 2.1. Lernen im Limes 2.2. Fallstudie: Lernen von Patternsprachen 3. Lernverfahren in anderen Domänen 3.1. Automatensynthese 3.2. Entscheidungsbäume 3.3. Entscheidungsbäume über regulären Patterns 4. Lernmodelle Teil II PAC-Lernen 5. Spezielle Lernverfahren 5.1. unüberwachtes Lernen 5.2 überwachtes Lernen 10/1 Offline-Lernen dem Lerner wird ein Sample B mit klassifizierten Beispielen vorgelegt der Student soll anhand der Beispielmenge B eine Klassifikator h bilden, der ein möglichst gutes Klassifikationsverhalten auf realen Daten hat der Student bekommt unklassifizierte Beispiele einzeln angeboten der Student hat stets eine Hypothese, mit der der Lerner ein solches Beispiel klassifiziert der Student erhält als Feedback die Information, ob er das Beispiel richtig klassifiziert hat und kann seine Hypothese ggf. modifizieren Hinweis: Einschränkung auf das Lernen von Klassifikatoren 10/2

2 von Monomen (ein einführendes Beispiel) es sei X = { 0,1 } n der zugrunde liegende Lernbereich es seien x 1,...,x n aussagenlogische Variablen jede Variable x z bzw. ihre Negation x z heißt Literal ein Monom m ist eine Konjunktion von Literalen jedes Monom m beschreibt eine boolesche Funktion von X { 0,1 } Es seien b = b[1],...,b[n] ein Element aus X und m ein Monom. b erfüllt das Literal x z (bzw. x z ), falls b[z] = 1 (bzw. b[z] = 0). b erfüllt das Monom m, falls b jedes Literal in m erfüllt. wir setzen m(b) = 1, falls b das Monom m erfüllt; sonst m(b) = 0!!! 10/3 Lernszenario der Lernprozeß findet in Schritten statt in jedem Lernschritt i hat der Student eine aktuelle Hypothese h i-1 Lernschritt i (i = 1,2,... ): der Lehrer präsentiert dem Studenten ein b i aus X der Student bestimmt h i-1 (b i ) der Lehrer teilt dem Student mit, ob m(b i ) = h i-1 (b i ) gilt der Student bestimmt seine neue Hypothese h i... falls m(b i ) h i-1 (b i ), so hat der Student einen Vorhersagefehler gemacht... der Student soll möglichst wenige Vorhersagefehler machen!!! Hinweis: es sei m das zu lernende Monom 10/4

3 Lernverfahren (schlecht) das Lernverfahren speichert in einer Tabelle alle bisher gesehenen Beispiele b mit der zugehörigen Wert m(b) ab initial ist die Tabelle leer Lernschritt i (i = 1,2,... ): es sei b i das aktuelle unklassifizierte Beispiel falls das Beispiel b i in der Tabelle gespeichert ist, so gibt das Lernverfahren den gespeicherten Wert m(b i ) aus; sonst den Wert 0 falls das Lernverfahren einen Fehler gemacht hat, wird die Tabelle entsprechend modifiziert... das Lernverfahren macht im schlimmsten Fall 2 n Fehler Hinweis: es sei m das zu lernende Monom 10/5 Lernverfahren (besser) das Lernverfahren verwendet Monome als Hypothesen h 0 = x 1 x 1... x n x n Lernschritt i (i = 1,2,... ): es sei b i das aktuelle unklassifizierte Beispiel das Lernverfahren bestimmt h i-1 (b i ) falls h i-1 (b i ) = m(b i ), so setze h i = h i-1 falls h i-1 (b i ) m(b i ), so bestimme alle Literale in h i-1, die das unklassifizierte Beispiel b i nicht erfüllt; h i entsteht aus h i-1 dadurch, daß alle diese Literale aus h i-1 gestrichen werden... das Lernverfahren macht im schlimmsten Fall n+1 Fehler!!! Hinweis: es sei m das zu lernende Monom 10/6

4 Beispiel es seien n = 7 und m = x 1 x 2 x 4 x 7 h 0 = x 1 x 1... x 7 x 7 b 1 = b 2 = b 3 = b 4 = m(b 1 ) = 1 0 = h 0 (b 1 ) m(b 2 ) = 0 = 0 = h 1 (b 2 ) m(b 3 ) = 1 0 = h 2 (b 3 ) m(b 4 ) = 1 0 = h 3 (b 4 ) h 1 = x 1 x 2 x 3 x 4 x 5 x 6 x 7 h 2 = x 1 x 2 x 3 x 4 x 5 x 6 x 7 h 3 = x 1 x 2 x 4 x 5 x 7 h 4 = x 1 x 2 x 4 x 7 10/7 zentrale Beobachtungen (1) Jedes Literal, daß in m vorkommt, kommt in jedem h i vor. (2) Der Fall h i-1 (b i ) m(b i ) tritt nur dann ein, wenn m(b i ) = 1 gilt. (3) Wenn h i-1 (b i ) m(b i ) gilt, so wird aus h i-1 mindestens ein Literal gestrichen.... das Lernverfahren macht im schlimmsten Fall n+1 Fehler!!! Hinweis: es sei m das zu lernende Monom 10/8

5 Das allgemeine Lernmodell es sei X ein Lernbereich jedes c X heißt Konzept (/* c(x) = 1, falls x c bzw. c(x) = 0, falls x c */) jedes C 2 X heißt Konzeptklasse Grundannahmen: es gibt einen Lehrer und eine Studenten beide haben sich auf eine Konzeptklasse geeinigt; der Lehrer wählt ein c C aus (/* ohne c zu verraten */) Lehrer präsentiert einzeln unklassifizierte Beispiele; Student bildet Hypothesen Student klassifiziert die Beispiele mit Hilfe seiner aktuellen Hypothese; der Lehrer bewertet die Korrektheit dieser Klassifikation in Bezug auf das aktuell zu lernende Konzept c C 10/9... es sei σ = b 1, b 2,... die vorgelegte Folge von unklassifizierten Beispielen... der Student S lernt schrittweise es sei h i-1 die aktuelle Hypothese von S im Schritt i S erhält das unklassifizierte Beispiel b i S macht eine Vorhersage h i-1 (b i ) S erhält die korrekte Klassifikation c(b i ) S hat einen Vorhersagefehler gemacht, wenn h i-1 (b i ) c(b i ) gilt S hat keinen Vorhersagefehler gemacht, wenn h i-1 (b i ) = c(b i ) gilt S bildet eine neue Hypothese h i und geht zu Schritt i+1 10/10

6 ... es seien c C das zu lernende Konzept und σ = b 1,b 2,... eine Folge von unklassifizierten Beispielen aus X (/* also σ X + */)... der Student lernt erfolgreich wenn er auf jeder Beispielfolge nur endlich viele Vorhersagefehler macht (/* unabhängig davon, welches c C aktuell zu lernen ist */)... die Qualität des Studenten kann beurteilt werden in Bezug auf eine konkrete Beispielfolge σ für ein c C auf alle Beispielfolgen für ein c C auf alle Beispielfolgen für alle c C 10/11... Fehler von S in Bezug auf eine Beispielfolge für ein Konzept c C Error(S,c,σ) bezeichnet die Anzahl der Vorhersagefehler von S auf der Beispielfolge σ.... Fehler von S in Bezug auf ein Konzept c C Error max (S,c) = max { Error(S,c,σ) σ X + } bezeichnet die maximale Anzahl von Vorhersagefehlern von S auf irgendeiner Beispielfolge für c.... Fehler von S in Bezug auf eine Konzeptklasse C Error worst (S,C) = max { Error max (S,c) c C } ist die maximale Anzahl von Vorhersagefehlern von S auf irgendeiner Beispielfolge für irgendein Konzept c C. 10/12

7 Zentrale Fragestellungen es sei C eine Konzeptklasse Wie viele Fehler muß man einem Online-Lernverfahren für C zugestehen? (/* Fokus: untere Schranke */) Wie viele Fehler macht ein Online-Lernverfahren für C? (/* Fokus: obere Schranke */)... mit opt(c) bezeichnet man die optimale Fehlerschranke eines Online- Lernverfahrens für die Klasse C opt(c) = min { Error worst (S,C) S ist ein Online-Lernverfahren für C } 10/13 Der Halving-Algorithmus es sei C eine endliche Konzeptklasse setze initial H = C es sei b das aktuelle unklassifizierte Beispiel - setze H 1 = { c H c(b) = 1 } und H 0 = { c H c(b) = 0 } - falls H 1 H 0, setze h(b) = 1, setze h(b) = 0 (/* das nennt man majority vote */) - falls h(b) c(b), so setze H = H c(b), sonst ändere H nicht... je Vorhersagefehler wird mindestens die Hälfte aller Konzepte aus H gestrichen 10/14

8 Konsequenzen es sei C eine endliche Konzeptklasse... der Halving-Algorithmus S halving macht im worst case höchstens log 2 ( C ) viele Vorhersagefehler!!!... Error worst (S halving,c) log 2 ( C ) Es sei C eine endliche Konzeptklasse. Dann gilt: opt(c) log 2 ( C ).... das bestmögliche Online Lernverfahren für C macht im worst case höchstens log 2 ( C ) Fehler (/* allgemeine obere Schranke */) Hinweis: mit C wird die Anzahl der Konzepte in C bezeichnet 10/15 Anmerkung Der Halving-Algorithmus ist i.a. nicht sehr effizient.... für bestimmte Konzeptklassen gibt es recht effiziente Verfahren, die im average case nur wenige Vorhersagefehler machen (/* bspw. Winnow nicht Thema dieser Vorlesung */) 10/16

9 zentraler Begriff zum Nachweis einer unteren Schranke... die Vapnik-Chervonenkis-Dimension... Maß für die strukturelle Vielfalt von Konzeptklassen 10/17 Beispiel X = R 2 C ist die Menge aller achsenparallelen Rechtecke Frage Welche Varianten gibt es, diese Punkte auf Konzepte aus C zu verteilen? es gibt kein Konzept, das die beiden äußeren, aber nicht den mittleren Punkt enthält... 10/18

10 Beispiel X = R 2 C ist die Menge aller achsenparallelen Rechtecke Frage Welche Varianten gibt es, diese Punkte auf Konzepte aus C zu verteilen? 10/19 Beispiel X = R 2 C ist die Menge aller achsenparallelen Rechtecke Frage Welche Varianten gibt es, diese Punkte auf Konzepte aus C zu verteilen? 10/20

11 Beispiel X = R 2 C ist die Menge aller achsenparallelen Rechtecke Frage Welche Varianten gibt es, diese Punkte auf Konzepte aus C zu verteilen? 10/21 Beispiel X = R 2 C ist die Menge aller achsenparallelen Rechtecke Frage Welche Varianten gibt es, diese Punkte auf Konzepte aus C zu verteilen? es gibt kein Konzept, das die beiden äußeren, aber nicht einen der mittleren Punkte enthält... 10/22

12 Beispiel X = R 2 C ist die Menge aller achsenparallelen Rechtecke Frage Welche Varianten gibt es, diese Punkte auf Konzepte aus C zu verteilen?... jede Variante ist möglich 10/23 Beispiel X = R 2 C ist die Menge aller achsenparallelen Rechtecke Frage Welche Varianten gibt es, diese Punkte auf Konzepte aus C zu verteilen?... nicht jede Variante ist möglich 10/24

13 Hilfsbegriff es seien X ein Lernbereich und C eine Konzeptklasse über X Eine endliche Teilmenge von E X ist zerlegbar durch die Konzeptklasse C, falls es zu jeder Zerlegung E = E 1 E 2 mit E 1 E 2 = ein Konzept c C gibt, so daß gilt: E 1 c und E 2 co-c. mit anderen Worten... für alle b E gilt: E 1 (b) = 1 oder E 2 (b) = 1 wenn E 1 (b) = 1, so ist E 2 (b) = 0 wenn E 1 (b) = 0, so ist E 2 (b) = 1 wenn E 1 (b) = 1, so ist c(b) = 1 wenn E 2 (b) = 1, so ist c(b) = 0 10/25 Hilfsbegriff es seien X ein Lernbereich und C eine Konzeptklasse über X Eine endliche Teilmenge von E X ist zerlegbar durch die Konzeptklasse C, falls es zu jeder Zerlegung E = E 1 E 2 mit E 1 E 2 = ein Konzept c C gibt, so daß gilt: E 1 c und E 2 co-c. C: achsenparallele Rechtecke E = { b 1,b 2,b 3 } b 1 b 3 E 1 = { b 1,b 2 } E 2 = { b 3 } b 2... E is shattered by C 10/26

14 Begriff: Vapnik-Chervonenkis-Dimension es seien X ein Lernbereich und C eine Konzeptklasse über X Die VC-Dimension von C ist die Kardinalität der größten endlichen Teilmenge E von X, die durch C zerlegbar ist. Falls beliebig große endliche Teilmengen E von X durch C zerlegbar sind, so ist die VC-Dimension der Konzeptklasse C unendlich. 10/27 Grundlegendes Resultat Es sei C eine endliche Konzeptklasse mit VC-Dimension d. Dann gilt: d opt(c) log 2 ( C ).... das best mögliche Online-Lernverfahren für C macht im worst case mindestens d und höchstens log 2 ( C ) Fehler 10/28

15 opt(c) log 2 ( C ): siehe Analyse von S halving d opt(c): wähle unklassifizierte Beispiele b 1,..., b d, so daß die Menge E = { b 1,...,b d } durch C zerlegbar ist wähle c mit: Beispiel b 1 h 0 (b 1 ) Beispiel b 2 Online h 1 (b 2 ) Lernverfahren Beispiel b d b d-1 (b d ) c(b 1 )=1-h 0 (b 1 ) c(b 2 )=1-h 1 (b 2 )... c(b d )=1-h d-1 (b d )... es gibt ein solches c C; der Student macht mindestens d Vorhersagefehler beim Lernen von c auf der Beispielfolge σ = b 1,..., b d,... 10/29