1. Lernen von Konzepten

Transkript

1 1. Lernen von Konzepten Definition des Lernens 1. Lernen von Konzepten Lernziele: Definitionen des maschinellen Lernens kennen, Klassifikationen des maschinellen Lernens kennen, Das Prinzip des induktiven Lernens erläutern können und Verfahren für das Lernen von Konzepten kennen und anwenden können. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 13

2 1. Lernen von Konzepten Definition des Lernens Inhalt des Kapitels Definition des Lernens/maschinellen Lernens Klassifikationen zum maschinellen Lernen Induktives Lernen Verfahren für das Lernen von Konzepten Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 14

3 1. Lernen von Konzepten Definition des Lernens Definition des Lernens Jedes System, das für sich den Besitz einer allgemeinen Intelligenz beansprucht, muß lernfähig sein. Grundkonzept des Lernens: Wahrnehmungen nicht nur für das aktuelle Handeln zu verwenden, sondern auch, um zukünftige Handlungen des Agenten zu verbessern. Lernen ist für praktische Anwendungen der KI von Bedeutung: Flaschenhals des Wissensmanagements Traditionelle Techniken der Wissensakquisition sind mit hohem Aufwand verbunden. Hoffnung: Initiale Minimalmenge an Wissen + Lernen Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 15

4 1. Lernen von Konzepten Definition des Lernens Definitionen des Lernens (1) H. A. Simon, 1983: Learning denotes changes in the system that are adaptive in the sense that they enable the system to do the same task or tasks drawn from the same population more efficiently and more effectively the next time. Carbonell, Michalski, Mitchell, 1983: The study and computer modeling of learning processes in their multiple manifestations constitutes the subject matter of machine learning. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 16

5 1. Lernen von Konzepten Definition des Lernens Definitionen des Lernens (2) Michalski, 1986: Learning is constructing or modifying representations of what is being experienced. Michalski, Kodratoff, 1990: Research in machine learning has been concerned with building computer programs able to construct new knowledge or to improve already possessed knowledge by using input information. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 17

6 1. Lernen von Konzepten Definition des Lernens Definitionen des Lernens (3) Mitchell, 1997: A computer program is said to learn from experience E with respect to some class of task T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E. Definition in der Psychologie: Lernen ist Verhaltensänderung aus Erfahrung. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 18

7 1. Lernen von Konzepten Definition des Lernens Beispiel für ein Lernproblem A checkers learning problem (Mitchell, 1997): Task T: playing checkers Performance measure P: percent of games won against opponents Training experience E: playing practice games against itself Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 19

8 1. Lernen von Konzepten Definition des Lernens Lernmodell Performance standard Critic Sensors feedback learning goals Learning element changes knowledge Performance element Environment Problem generator Agent Actuators Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 20

9 1. Lernen von Konzepten Klassifikationen zum maschinellen Lernen Klassifikationen zum maschinellen Lernen Klassifikation nach: Lernstrategie: wieviel Information vorgegeben ist und in welchem Maße das Lernelement eigene Inferenzen durchführt Feedback, das Verfügung steht Repräsentation des zu lernenden Wissens Anwendungsbereich Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 21

10 1. Lernen von Konzepten Klassifikationen zum maschinellen Lernen Klassifikation gemäß der Lernstrategie Direkte Eingabe neuen Wissens und Auswendiglernen Speichern von Daten und Fakten Programmierung Lernen durch Anweisungen Es wird aufbereitetes Wissen vorgegeben. Dies muß vom Lernelement des Agenten aufgenommen und intern repräsentiert werden. Lernen durch Deduktion Aus vorhandenem Wissen mittels deduktiver Schlussfolgerungsmechanismen neues Wissen ableiten. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 22

11 1. Lernen von Konzepten Klassifikationen zum maschinellen Lernen Lernen durch Analogie Vorhandenes Wissen wird an neue ähnliche Situationen angepasst. Fallbasiertes Schließen Lernen aus Beispielen Lernen einer allgemeinen Konzeptbeschreibung, die auf gegebene positive Beispiele passt und evtl. vorhandene Gegenbeispiele ausschließt. Lernen aus Beobachtungen und Entdeckungen Keine Steuerung durch einen Lehrenden, keine Menge von Instanzen eines vorgegebenen Konzepts, keine Information zur Klassifizierung von Beispielen, Beobachtungen können mehrere Konzepte umfassen. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 23

12 1. Lernen von Konzepten Klassifikationen zum maschinellen Lernen Klassifikation gemäß des Feedbacks überwachtes Lernen (supervised learning) Es stehen klassifizierte Trainingsdaten zur Verfügung. Dem Lernelement wird mitgeteilt, ob ein Trainingsbeispiel ein positives oder ein negatives Beispiel des Konzepts darstellt, das gelernt werden soll. unüberwachtes Lernen (unsupervised learning) Hier liegen keine klassifizierten Trainingsbeispiele vor. verstärkendes Lernen (reinforcement learning) Das Lernen basiert auf Rückmeldungen der Umgebung. Auf Basis einer Gewinn- oder Nutzenfunktion versucht das Lernelement des Agenten gute bzw. schlechte Handlungsweisen zu lernen. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 24

13 1. Lernen von Konzepten Klassifikationen zum maschinellen Lernen Klassifikation gemäß der Repräsentation Parameter in algebraischen Ausdrücken Entscheidungsbäume formale Grammatiken Regeln Ausdrücke basierend auf formaler Logik Begriffshierarchien: Taxonomie, Ontologie Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 25

14 1. Lernen von Konzepten Klassifikationen zum maschinellen Lernen Symbolische und subsymbolische Systeme symbolische Systeme Das gelernte Wissen wird explizit formuliert, z.b. in Form von Regeln. subsymbolische Systeme Hier wird nur eine implizite Verhaltensänderung bewirkt. Beispiel: neuronale Netze. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 26

15 1. Lernen von Konzepten Induktives Lernen Induktives Lernen Die Aufgabe der reinen induktiven Inferenz: Gib für eine Menge an Beispielen einer unbekannten Funktion f eine Funktion h zurück, die f approximiert. Die Funktion h wird als Hypothese bezeichnet. Eine gute Hypothese verallgemeinert gut, d.h. sie sagt zuvor nicht bekannte Beispiele korrekt voraus. Die Menge der möglichen Hypothesen heißt Hypothesenraum. Der Hypothesenraum legt typischerweise eine Repräsentation für die Hypothesen fest. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 27

16 1. Lernen von Konzepten Induktives Lernen Eine Hypothese, die zu einer Menge von Trainingsbeispielen passt, heißt konsistente Hypothese. Beispiel 1.1. f(x) f(x) f(x) f(x) x x x x (a) (b) (c) (d) Menge der Polynome als Hypothesenraum für (a) und (b) und zwei konsistente Hypothesen. Wie wählen wir aus mehreren konsistenten Hypothesen aus? Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 28

17 1. Lernen von Konzepten Induktives Lernen Occam s Razor William of Occam, engl. Philosoph : One should not increase, beyond what is necessary, the number of entities required to explain anything. Bevorzuge die einfachste Hypothese, die konsistent mit allen Trainingsbeispielen ist. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 29

18 1. Lernen von Konzepten Induktives Lernen Auswahl des Hypothesenraums (1) Man beachte in Beispiel 1.1 den Fall (c). Es wäre besser, eine einfache gerade Linie zu finden, die nicht genau konsistent ist, die aber sinnvolle Vorhersagen erlaubt. Für nicht deterministische Funktionen gibt es eine unvermeidbare Abwägung zwischen der Komplexität der Hypothese und ihrem Grad der Übereinstimmung mit den Daten. Beispiel 1.1 (d) zeigt, daß die Daten aus (c) konsistent mit einer einfachen Funktion der Form ax + b + c sinx sind. Bedeutung der Auswahl des Hypothesenraums Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 30

19 1. Lernen von Konzepten Induktives Lernen Auswahl des Hypothesenraums (2) Ein Lernproblem heißt erkennbar, wenn der Hypothesenraum die zu lernende Funktion enthält, andernfalls ist das Lernproblem nicht erkennbar. Warum sollte der Hypothesenraum nicht möglichst groß sein, z.b. die Klasse aller Turing-Maschinen? Problem: Rechenkomplexität des Lernens Es gibt eine Abwägung zwischen der Ausdruckskraft eines Hypothesenraums und der Komplexität, einfache und konsistente Hypothesen in diesem Raum zu finden. Wissensarchitekturen HS Bonn-Rhein-Sieg, WS 09/10 31