Induktive Logikprogrammierung

Transkript

1 3. Lernen mit Vorwissen Induktive Logikprogrammierung Induktive Logikprogrammierung Induktive Logikprogrammierung (ILP) kombiniert induktives Lernen mit Repräsentationen in Prädikatenlogik erster Stufe, insbesondere Horn- Klauseln. Vorteile von ILP: Strenger Ansatz für das allgemeine induktive Lernproblem. Vollständige Algorithmen für die Ableitung allgemeiner Theorien erster Stufe. Die erzeugten Hypothesen sind für Menschen leicht verständlich. wesentlicher Unterschied zu Black-Box-Methoden wie z.b. neuronale Netze Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 130

2 3. Lernen mit Vorwissen Induktive Logikprogrammierung H:3[71-84] H:5[ ] H:1[19-37] H:6[79-88] H:4[61-64] H:5[66-70] H:2[26-33] H:1[8-17] E:2[96-98] E:1[57-59] H:7[99-106] H:4[93-108] H:2[41-64] H:3[40-50] 1omd - EF-Hand 2mhr - Four-helical up-and-down bundle Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 131

3 3. Lernen mit Vorwissen Induktive Logikprogrammierung Beispiel 3.5. Die beiden Grafiken der vorangegangenen Folie zeigen positive und negative Beispiele des 4-Helix-Auf/Ab-Bündel -Konzepts der Proteinfaltung. Jede Beispielstruktur ist in einem logischen Ausdruck von ca. 100 Konjunkten codiert. Daraus sowie aus Klassifizierungen für die Beispiele hat das ILP-System Progol (Muggleton, 1995) die folgende Regel gelernt: Entfalten(FourHelicalUpAndDownBundle, p) Helix(p,h 1 ) Länge(h 1, High) Position(p, h 1,n) (1 n 3) Benachbart(p, h 1,h 2 ) Helix(p,h 2 ). Interpretation: Das Protein P hat die Entfaltungsklasse 4-Helix- Auf/Ab-Bündel, wenn sie eine lange Helix h 1 an einer sekundären Strukturposition zwischen 1 und 3 besitzt und h 1 sich neben einer zweiten Helix befindet. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 132

4 3. Lernen mit Vorwissen Induktive Logikprogrammierung Prinzipielle Vorgehensweise bei ILP Induktive Logikprogrammierung basiert auf Vorwissen Hypothese Beschreibungen = Klassifizierungen wobei die Hypothese unbekannt und der Rest bekannt ist (Vorwissen). Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 133

5 3. Lernen mit Vorwissen Induktive Logikprogrammierung Einführendes Beispiel zur ILP Wir wollen Prädikate über Familienverhältnisse lernen. Beispielbeschreibungen: Vater(Philip, Charles) Mutter(Mum, Margaret) Verheiratet(Diana, Charles) Männlich(Philip) Vater(Philip, Anne) Mutter(Mum, Elizabeth) Verheiratet(Elizabeth, Philip) Weiblich(Beatrice) Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 134

6 3. Lernen mit Vorwissen Induktive Logikprogrammierung Klassifizierungen hängen vom zu lernenden Zielkonzept ab, z.b. Großeltern: Großeltern(Mum, Charles) Großeltern(Elizabeth, Beatrice) Großeltern(Mum, Harry) Großeltern(Spencer, Peter) George Mum Spencer Kydd Elizabeth Philip Margaret Diana Charles Anne Mark Andrew Sarah Edward William Harry Peter Zara Beatrice Eugenie Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 135

7 3. Lernen mit Vorwissen Induktive Logikprogrammierung Konsistente Hypothese: Großeltern(x, y) [ z Mutter(x, z) Mutter(z, y)] [ z Mutter(x, z) Vater(z, y)] [ z Vater(x, z) Mutter(z, y)] [ z Vater(x, z) Vater(z, y)] Ein attributbasiertes Lernverfahren (wie beispielsweise die Generierung von Entscheidungsbäumen) wäre nicht in der Lage, solch ein relationales Prädikat zu lernen. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 136

8 3. Lernen mit Vorwissen Induktive Logikprogrammierung Mit dem Vorwissen Eltern(x, y) [Mutter(x, y) Vater(x, y)] würde die Definition von Großeltern reduziert auf: Großeltern(x, y) [ z Eltern(x, z) Eltern(z, y)] Wie kommen wir zu solch einer konsistenten Hypothese? Zwei Ansätze: 1. FOIL: Verallgemeinerung von Entscheidungsbaummethoden 2. Invertierung eines Resolutionsbeweises Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 137

9 FOIL: First-Order Inductive Logic Vorgehensweise: Beginne mit einer sehr allgemeinen Regel und spezialisiere diese schrittweise, so daß sie stets mit den Beispielen übereinstimmt. Für die Induktive Logikprogrammierung verwenden wir Literale der Prädikatenlogik ersten Stufe. Die Hypothese ist eine Menge von Klauseln. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 138

10 Beispiel 3.6. Für den Familienstammbaum von Folie 134 wollen wir eine Definition für Großvater(x, y) lernen. Jedes Paar von Objekten liefert ein Beispiel. Hier 20 * 20 = 400 Beispiele, davon 12 positiv. FOIL konstruiert eine Menge von Klauseln mit dem zu lernenden Prädikat Großvater(x, y) als Kopf. Die Klauseln sind Hornklauseln erweitert um negierte Literale. Die initiale Klausel hat einen leeren Rumpf (leere Prämisse): Großvater(x, y) Damit werden alle Beispiele als positiv klassifiziert. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 139

11 Damit negative Beispiele nicht als positiv klassifiziert werden, muss die Klausel spezialisiert werden. Dazu werden Literale auf der linken Seite eingefügt, z.b.: Vater(x, y) Großvater(x, y) Eltern(x, z) Großvater(x, y) Vater(x, z) Großvater(x, y) Literale werden aus bekannten Prädikaten generiert, sie stammen somit aus dem Hintergrundwissen. Die erste Klausel klassifiziert alle positiven Beispiele als negativ und ist somit nicht brauchbar. Die zweite und die dritte Klausel stimmen mit allen positiven Beispielen überein, die zweite ist aber für einen großen Teil der Negativen falsch. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 140

12 Wir nehmen die dritte Klausel und müssen weiter spezialisieren. Das Einfügen des einzelnen Literals Eltern(z, y) ergibt: Vater(x, z) Eltern(z, y) Großvater(x, y) womit alle Beispiele korrekt klassifiziert werden. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 141

13 FOIL-Algorithmus Algorithmus 3.1. FOIL-Algorithmus für das Lernen von Horn-Klauselmengen. Die Funktion FOIL erzeugt eine Menge von Horn-Klauseln (Regelmenge). function FOIL(examples, target) returns eine Menge von Horn-Klauseln while examples enthält positive Beispiele do clause NEW-CLAUSE(examples, target) von clause abgedeckte Beispiele aus examples entfernen clause in clauses einfügen return clauses Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 142

14 Die Funktion NEW-CLAUSE erzeugt eine einzelne Horn-Klausel. function NEW-CLAUSE(examples, target) returns eine Horn-Klausel extend examples examples while extend examples negative Beispiele enthält do l CHOOSE-LITERAL(NEW-LITERALS(clause), extend examples) l dem rumpf von clause hinzufügen extend examples Beispielmenge, die durch Anwendung von EXTEND-EXAMPLES auf jedes Beispiel in extend examples erzeugt wurde return clause Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 143

15 function EXTEND-EXAMPLES(example, literal) returns if example erfüllt literal then return die Beispielmenge, die durch Extension von example mit jedem möglichen Konstantenwert für jede neue Variable in literal erzeugt wurde. else return die leere Menge Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 144

16 Erzeugung von Literalen NEW-LITERALS nimmt eine Klausel entgegen und konstruiert alle sinnvollen Literale, die der Klausel hinzugefügt werden können. Sei die Klausel R definiert durch L 1,...,L n P(x 1,...,x k ) Daraus soll R generiert werden in der Form L 1,...,L n, L P(x 1,...,x k ) Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 145

17 Für L gibt es drei Arten von Literalen: 1. Q(v 1,...,v r ) wobei Q ein existierendes Prädikat ist und die v i alle verschiedene Variablen; mindestens eine davon muss schon in R vorkommen; Negation ist auch erlaubt. 2. Gleichheits- oder Ungleichheitsliterale, z.b. x i = x j, wobei beide Variablen schon in R vorkommen müssen. 3. Arithmetische Vergleiche, z.b. x c, wobei c ein numerischer Wert ist. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 146

18 Erläuterungen und Beispiele zu FOIL Äußere und innere Schleife Die äußere Schleife findet für positive Beispiele bzw. Tupel T + eine Klausel, die diese abdeckt. Die abgedeckten positiven Beispiele werden aus der Tupelmenge entfernt. Für die verbleibenden positiven Beispiele wird eine weitere Klausel gelernt. Es werden so viele Klauseln gelernt, wie notwendig ist, um alle positiven Beispiele abzudecken. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 147

19 In der inneren Schleife wird der Körper einer Klausel durch Literale erweitert, die Klausel also spezialisiert und zwar solange, bis die Klausel keine negativen Beispiele mehr falsch klassifiziert. Vorgehensweise: Setze i = 1 und initialisiere T i mit den Beispieltupeln. Solange T Tupel enthält: Finde ein nützliches Literal L i und füge es dem Klauselkörper hinzu, Erstelle eine neue Tupelmenge T i+1, die nur diejenigen Beispiele enthält, für die L i gilt. Falls L i eine neue Variable einführt, werden die Tupel um diese erweitert. Die Klassifikation der Tupel in T i+1 bleibt die von T i. i := i + 1 Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 148

20 Auswahl von Literalen Ein zusätzliches Literal wird beispielsweise aufgrund des Informationsgewinns ausgewählt, den es für die Charakterisierung des Zielprädikats erbringt. Bewertung des Informationsgewinns: FoilGain(L, R) = t ( log 2 p i+1 p i+1 + n i+1 log 2 p i p i + n i ) p i+1 bzw. n i+1 ist die Anzahl der positiven bzw. negativen Tupel in T i+1, analog p i bzw. n i. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 149

21 t bezeichnet die Anzahl von Beispielen, für die alle Bedingungen von R erfüllt sind, eingeschränkt auf die Variablen in R. t dient zur Gewichtung. Anschaulich ausgedrückt handelt es sich um die Anzahl der positiven Beispiele, die nach Hinzunahme von L immer noch abgedeckt werden. Es können explizit positive und negative Beispiele gegeben sein. Dann wird mit diesen gearbeitet. Falls nur positive Beispiele gegeben sind, geht man von der Closed World Assumption (CWA) aus, d.h. alles was nicht explizit positiv ist, ist negativ. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 150

22 Beispiel 3.7. Fakten: eltern(x, Y) (ann,mary) (ann,tom) (tom,eve) (tom,ian) weiblich(x) (mary) (ann) (eve) Es soll das Prädikat tochter(x, Y) gelernt werden. Trainingsmenge: tochter(x, Y) Klassifikation (mary,ann) + (eve,tom) + (tom,ann) (eve,ann) Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 151

23 Zunächst enthält die Klausel nur das Zielprädikat tochter(x, Y) als Klauselkopf: tochter(x, Y) Die Menge T 1 enthält alle 4 Tupel, p 1 = 2, n 1 = 2, der Informationsgehalt ist I(T 1 ) = log = 1. Wir erweitern den Klauselkörper um weiblich(x): weiblich(x) tochter(x, Y) T 2 enthält nun nicht mehr (tom,ann). Damit gilt I(T 2 ) = log = Der Informationsgewinn von weiblich(x) ist also: FoilGain(weiblich(X), tochter(x, Y)) = 2( ) = 0.84 Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 152

24 Wird nun noch eltern(y, X) als nächstes Literal hinzugefügt, weiblich(x) eltern(y, X) tochter(x, Y) so brauchen wir bei der Tupelmenge T 3 keine weitere Information für die Klassifikation: I(T 3 ) = 0. Der Informationsgewinn ist damit: FoilGain(eltern(Y, X), weiblich(x) tochter(x, Y)) = 2( ) = 1.16 Die aktuelle Klausel deckt alle positiven Beispiele ab. Da in T 3 auch kein negatives Beispiel mehr enthalten ist, endet die innere Schleife. Damit ist die erste Iteration der äußeren Schleife abgeschlossen. Alle positiven Beispiele, die durch die gefundene Klausel abgedeckt sind, werden aus der Beispielmenge entfernt. Da dies alle sind, endet auch die äußere Schleife. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 153

25 Beispiel 3.8. Fakten: enkelin(x, Y) vater(x, Y) weiblich(x) (hannah,manfred) (frieder,hannah) (hannah) (frieder,florian) (manfred,frieder) Es soll das Prädikat enkelin(x, Y) gelernt werden. Es gilt die Closed World Assumption (CWA). Wir haben vier Objekte/Konstanten (florian, frieder, hannah, manfred). Wir beginnen mit: enkelin(x, Y) Damit haben wir ein positives und 15 negative Beispiele. Übersicht über die Kandidatenliterale: Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 154

26 Literal p i n i p i+1 n i+1 t FoilGain X = Y weiblich(x) weiblich(y) vater(x, Y) vater(y, X) vater(x, Z) vater(z, X) vater(y, Z) vater(z, Y) X Y weiblich(x) weiblich(y) vater(x, Y) vater(y, X) Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 155

27 weiblich(x) liefert den größten Informationsgewinn und wird selektiert. Fortführung des Beispiels: Beispiel 3.9. Dieses Beispiel stammt aus dem Orginalartikel zu Foil: J.R. Quinlan, Learning Logical Definitions from Relations, Machine Learning, Vol. 5, (1990) Für einen gerichteten azyklischen Graph lerne man das Prädikat weg(x,y). Gegeben sind die gerichteten Kanten als Fakten der Form kante(x, Y). Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 156

28 Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 157

29 Bewertung von FOIL Vorteile: mächtige Beschreibungssprache für Konzepte kann logische Programme (Prolog) aus Beispielen lernen kann Hintergrundwissen verarbeiten Nachteile: Hohe Komplexität der Suche. Die Anzahl der zu untersuchenden Literale steigt exponentiell mit der Stelligkeit der Prädikate. Die Größe der lokalen Trainingsmenge steigt exponentiell mit der Anzahl der neuen Variablen. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 158

30 Typisierte Prädikate Zur Einschränkung der Komplexität: Jedem Argument der Prädikate wird ein Typ zugeordnet. Konsequenz: Bestimmte Kombinationen von Variablen im Klauselrumpf sind nicht mehr zugelassen. Die Anzahl der hinzufügbaren Literale wird begrenzt. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 159

31 3. Lernen mit Vorwissen Inverse Resolution Induktives Lernen mit inversem Schließen Der zweite ILP-Ansatz ist die inverse Resolution. Grundidee: Wenn gilt: Vorwissen Hypothese Beschreibungen = Klassifizierungen dann muß man in der Lage sein, dies durch Resolution zu beweisen. Wenn wir den Beweis rückwärts ausführen, können wir eine Hypothese finden, so daß der Beweis möglich ist. Umkehrung des Resolutionsprozesses. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 160

32 3. Lernen mit Vorwissen Inverse Resolution Resolution in PL1 Es seien K 1, K 2 PL1-Klauseln. Die Klausel R heißt PL1-Resolvente von K 1 und K 2 gdw. folgendes gilt: (a) K 1 und K 2 haben keine gemeinsamen Variablen. (b) Es gibt positive Literale A 1,...,A k K 1, ein negatives Literal A K 2 und einen allgemeinsten Unifikator σ von A,A 1,...A k. (c) R hat die folgende Form: σ((k 1 \ {A 1,...,A k }) (K 2 \ { A})) Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 161

33 3. Lernen mit Vorwissen Inverse Resolution Inverser Resolutionsschritt Ein inverser Resolutionsschritt nimmt eine Resolvente R und erzeugt zwei Klauseln K 1 und K 2, so daß R das Ergebnis der Resolution von K 1 und K 2 ist. Alternativ kann man eine Resolvente R und eine Klausel K 1 nehmen sowie eine Klausel K 2 erzeugen, so daß R das Ergebnis der Resolution von K 1 und K 2 ist. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 162

34 3. Lernen mit Vorwissen Inverse Resolution Parent(x,z) > Parent(z,y) > Grandparent(x,y) Parent(George,Elizabeth) {x/george, z/elizabeth} Parent(Elizabeth,y) > Grandparent(George,y) Parent(Elizabeth,Anne) {y/anne} Grandparent(George,Anne) Grandparent(George,Anne) Der Prozess beginnt am Ende des Beweises. Der erste inverse Schritt nimmt die leere Klausel als Resolvente R und geht von Großeltern(George, Anne) als negiertes Ziel K 2 aus. Die Klausel Großeltern(George, Anne) wird als K 1 erzeugt. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 163

35 3. Lernen mit Vorwissen Inverse Resolution Der nächste Schritt: R : Großeltern(George, Anne) K 1 : Eltern(Elizabeth, Anne) erzeugt wird K 2 : Eltern(Elizabeth, y) Großeltern(George, y) Substitution: {y/anne} Der letzte Schritt: R : Eltern(Elizabeth, y) Großeltern(George, y) K 1 : Eltern(George, Elizabeth) erzeugt wird: K 2 : Eltern(x, z) Eltern(z, y) Großeletern(x, y) Substitution: {x/george, z/elizabeth} Jetzt haben wir einen Resolutionsbeweis, daß Hypothese, Beschreibungen und Hintergrundwissen die Klassifizierung Großeltern(George, Anne) als logische Konsequenz haben. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 164

36 3. Lernen mit Vorwissen Inverse Resolution Inverse Resolutonssysteme können auch neue Prädikate einführen: Father(x,y) > P(x,y) > P(George,y) Ancestor(George,y) {x/george} > Father(George,y) Ancestor(George,y) Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 165

37 3. Lernen mit Vorwissen Inverse Resolution Zusammenfassung Vorwissen kann beim Lernen helfen: kumulatives Lernen, schnelleres Lernen Bedingung der logischen Konsequenz EBL: Lernen durch verallgemeinerte Erklärungen von Beispielen RBL: Vorwissen in Form von Feststellungen, um relevante Attribute zu identifizieren. KBIL: sucht nach Hypothesen, die Beispiele mit Hilfe von Hintergrundwissen erklären. Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 166

38 3. Lernen mit Vorwissen Inverse Resolution ILP: KBIL für die Prädikatenlogik oder Horn-Logik Methoden für ILP: Foil, inverse Resolution Maschinelles Lernen und unsicheres Wissen FH Bonn-Rhein-Sieg, WS 08/09 167