Einführung in die Künstliche Intelligenz

Transkript

1 Einführung in die Künstliche Intelligenz Kapitel 6: Maschinelles Lernen Teil 1 Prof. Dr. Johannes Maucher HdM MIB Version Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 1 / 43 Version / 43

2 Document History Version Date Changes Nr Folien zur Kreuzvalidierung und Weka-Übung hinzugefügt Vollständige Überarbeitung: Enthält jetzt nur noch Einführung und Kategorisierung, jedoch keine Algorithmen Neues Einführungskapitel: Dialoge anstelle Agentenfolien. Prinzip (un)überwachtes Lernen deutlich komprimiert Minimale Anpassungen für SS Anpassungen für WS 13/ Anpassungen im Kapitel Modellauswahl Dialoge zur Einführung entfernt: Anwendungsspez. Kategorisierung eingefügt Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 2 / 43 Version / 43

3 Übersicht Kapitel Maschinelles Lernen (1) 1 Was ist Machine Learning Definitionen 2 Benachbarte Wissenschaften 3 Übersicht Schemen Unüberwachtes Lernen Reinforcement Learning 4 Was wird gelernt? Regression Klassifikation Assoziation 5 Wie wird gelernt? Unüberwachtes Lernen 6 Modellauswahl und Bewertung Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 3 / 43 Version / 43

4 Was ist Machine Learning Definitionen Definitionen Eine mögliche Definition (J. Maucher) Maschinelles Lernen behandelt Verfahren Computer so zu programmieren, dass diese nicht nur einen Datenstrom nach einem fest vorgegebenen Ablauf verarbeiten, sondern aus den zur Verfügung stehenden Daten lernen und daraus ihr Verarbeitungsmodell ständig hinsichtlich der Erfüllung eines vorgegebenen Leistungskriteriums optimieren. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 4 / 43 Version / 43

5 Was ist Machine Learning Definitionen Definitionen Eine mögliche Definition (J. Maucher) Maschinelles Lernen behandelt Verfahren Computer so zu programmieren, dass diese nicht nur einen Datenstrom nach einem fest vorgegebenen Ablauf verarbeiten, sondern aus den zur Verfügung stehenden Daten lernen und daraus ihr Verarbeitungsmodell ständig hinsichtlich der Erfüllung eines vorgegebenen Leistungskriteriums optimieren. Eine etwas formellere Definition (Tom Mitchell [TM06]) Well-posed Learning Problem: A computer is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experience E. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 4 / 43 Version / 43

6 Benachbarte Wissenschaften Grundlagen- und verwandte Wissenschaften Statistik: Wesentliches Prinzip des Maschinellen Lernens ist die Induktion: Also aus Beispielen einer Stichprobe einen allgemeinen Zusammenhang ableiten. Der allgemeine Zusammenhang wird häufig in Form von Verteilfunktionen und Statistiken beschrieben. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 5 / 43 Version / 43

7 Benachbarte Wissenschaften Grundlagen- und verwandte Wissenschaften Statistik: Wesentliches Prinzip des Maschinellen Lernens ist die Induktion: Also aus Beispielen einer Stichprobe einen allgemeinen Zusammenhang ableiten. Der allgemeine Zusammenhang wird häufig in Form von Verteilfunktionen und Statistiken beschrieben. Ausserdem: die Zuverlässigkeit der gefundenen Regel wahrscheinlichkeitstheoretisch beschreiben. Informatik: Effiziente Programmierung von Algorithmen und Datenstrukturen Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 5 / 43 Version / 43

8 Übersicht Was maschinell gelernte Modelle leisten können (1) Erkennung (im Sinne vordefinierter Klassen), z.b. Objekterkennung (Gesichter, Fußgänger, Verkehrsschilder, Handschrift,...) Spracherkennung, Textklassifikation, Stimmungserkennung,... Verhaltenserkennung: Alarmerkennung, Userverhalten auf Webseiten,... Kreditwürdigkeitsklassifikation... Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 6 / 43 Version / 43

9 Übersicht Was maschinell gelernte Modelle leisten können (1) Erkennung (im Sinne vordefinierter Klassen), z.b. Objekterkennung (Gesichter, Fußgänger, Verkehrsschilder, Handschrift,...) Spracherkennung, Textklassifikation, Stimmungserkennung,... Verhaltenserkennung: Alarmerkennung, Userverhalten auf Webseiten,... Kreditwürdigkeitsklassifikation... Vorhersagen, z.b. Wettervorhersage Aktienkursvorhersage Verhaltensvorhersage (z.b. Kaufverhalten) Krankheitsvorhersage... Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 6 / 43 Version / 43

10 Übersicht Was maschinell gelernte Modelle leisten können (2) Schätzung nicht messbarer Größen aus messbaren Größen, z.b. Indikation von Krankheiten aus z.b. Herzratenvariabilität, EEG, Blutdruck, Blutwerten,.. Körperfettschätzung (siehe Einführungsbeispiel) Aus gekauften Artikeln oder Klicks auf Interesse schließen... Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 7 / 43 Version / 43

11 Übersicht Was maschinell gelernte Modelle leisten können (2) Schätzung nicht messbarer Größen aus messbaren Größen, z.b. Indikation von Krankheiten aus z.b. Herzratenvariabilität, EEG, Blutdruck, Blutwerten,.. Körperfettschätzung (siehe Einführungsbeispiel) Aus gekauften Artikeln oder Klicks auf Interesse schließen... Optimierungen, z.b. Erlernen und optimieren von Bewegungen (Robotik) Game AI (Verhalten des KI Agenten hinsichtlich unterschiedlicher Kriterien optimieren) Optimierung der Motoransteuerung hinsichtlich CO 2 -Ausstoss, Verbrauch,... Verlustbehaftete Codierung Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 7 / 43 Version / 43

12 Übersicht Was maschinell gelernte Modelle leisten können (2) Schätzung nicht messbarer Größen aus messbaren Größen, z.b. Indikation von Krankheiten aus z.b. Herzratenvariabilität, EEG, Blutdruck, Blutwerten,.. Körperfettschätzung (siehe Einführungsbeispiel) Aus gekauften Artikeln oder Klicks auf Interesse schließen... Optimierungen, z.b. Erlernen und optimieren von Bewegungen (Robotik) Game AI (Verhalten des KI Agenten hinsichtlich unterschiedlicher Kriterien optimieren) Optimierung der Motoransteuerung hinsichtlich CO 2 -Ausstoss, Verbrauch,... Verlustbehaftete Codierung Mustererkennung (ohne vordefinierte Klassen), Erkennung ähnlicher Instanzen bzw. Ähnlichkeitscluster Erkennung auffälliger Instanzen (z.b. Intrusion Detection)... Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 7 / 43 Version / 43

13 Übersicht Kategorisierung Übersicht Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 8 / 43 Version / 43

14 Übersicht Schemen Allgemeines Schema für Ablauf lernfähiger Systeme Trainingsdaten enthalten Eingabe und zugehörige Sollausgabe Unüberwachtes Lernen Trainingsdaten enthalten nur Eingabe Klassifikation Ausgabe r ist diskreter (Klassenindex) Skalar oder Vektor Regression Ausgabe r ist numerischer Skalar oder Vektor Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 9 / 43 Version / 43

15 Übersicht Schemen Datenstrukturen Struktur der Eingabedaten und der Trainingsdaten für unüberwachtes Lernen: Merkmal 1 Merkmal 2 Merkmal K Instanz 1 x 1,1 x 1,2 x 1,K Instanz 2 x 2,1 x 2,2 x 2,K : : : : : Instanz N x N,1 x N,2 x N,K Struktur Trainingsdaten für überwachtes Lernen: Merkmal 1 Merkmal 2 Merkmal K Sollausgabe Instanz 1 x 1,1 x 1,2 x 1,K r 1 Instanz 2 x 2,1 x 2,2 x 2,K r 2 : : : : : : Instanz N x N,1 x N,2 x N,K r N Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 10 / 43 Version / 43

16 Übersicht : Training Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 11 / 43 Version / 43

17 Übersicht : Anwendung des gelernten Modells Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 12 / 43 Version / 43

18 Übersicht Probleme/Herausforderungen im Überwachten Lernen Annotation (Labeling) der Trainingseingaben ist teuer Anzahl der benötigten Trainingsdaten nimmt mit der Komplexität des zu lernenden Modells stark zu. Overfitting: Wenn das Modell zu stark an die Trainingsdaten angepasst ist und nicht gut generalisiert. Um eine gute Generalisierung zu erreichen, müssen viele Trainingsdaten verwendet werden, die möglichst alle in-class Varianzen abdecken. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 13 / 43 Version / 43

19 Übersicht Unüberwachtes Lernen Unüberwachtes Lernen: Training Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 14 / 43 Version / 43

20 Übersicht Unüberwachtes Lernen Unüberwachtes Lernen: Anwendung des gelernten Modells Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 15 / 43 Version / 43

21 Übersicht Unüberwachtes Lernen Probleme/Herausforderungen im Unüberwachten Lernen Klassenzugehörigkeit der Trainingselemente ist nicht bekannt (wie im überwachten Lernen) sondern muss erlernt werden. Wie wird Ähnlichkeit gemessen? Wie werden die Modelle und die entsprechenden Algorithmen evaluiert? Ein Vorteil gegenüber dem überwachten Lernen ist, dass die Erstellung einer großen Menge von Trainingsdaten einfacher ist. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 16 / 43 Version / 43

22 Übersicht Reinforcement Learning Reinforcement Learning: Lernen durch Belohnung Training: Nach einer Sequenz von Aktionen erhält man entweder positiven or negativen Feedback (Belohnung oder Strafe). Gelerntes Wissen: Wie muss ich mich verhalten (Aktionssequenz) um ein bestimmtes Ziel (eine bestimmte Belohnung) zu erreichen. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 17 / 43 Version / 43

23 Übersicht Reinforcement Learning Probleme/Herausforderungen im Reinforcement Learning Benötigt i.d.r. hohe Anzahl von Iterationen (d.h. viel Zeit) für den Lernprozess. Während des Lernens erhalten alle Aktionen innerhalb einer Sequenz den gleichen Feedback. Der Tatsache, dass einzelne Aktionen gut, andere weniger gut sind wird nicht Rechnung getragen. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 18 / 43 Version / 43

24 Was wird gelernt? Regression Erlernen eines Funktionsverlaufs Gelernt wird Funktionsverlauf Zielfunktion hat numerischen Wertebereich Zielfunktion ist rein deterministisch: Interpolation Zielfunktion setzt sich aus deterministischem Anteil und zufälligen Anteil zusammen: Regression Feedback-Kategorie:, Bestärkendes Lernen Anwendungen: Berechnung von Vorhersagen Robotik: Ausgabe (Bewegung) ist Funktion der Eingabe (Daten von den Sensoren) Algorithmen: Neuronales Netz, SVM u.v.m. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 19 / 43 Version / 43

25 Was wird gelernt? Klassifikation Erlernen einer Klassifizierung Gelernt wird Klassenzuordnung (Klassengrenzen) von Eingabedaten Zielfunktion hat diskreten Wertebereich Ähnliche Eingabeelemente werden gleicher Klasse zugeteilt Alle Eingabeelemente einer Klasse haben die selbe Ausgabe Feedback-Kategorie:, Bestärkendes Lernen Anwendungen: Berechnung von Vorhersagen, z.b. Creditscoring Mustererkennung Algorithmen: Neuronales Netz, Hopfield-Netz, SVM, Entscheidungsbaum, Bayes-Netz, u.v.m. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 20 / 43 Version / 43

26 Was wird gelernt? Assoziation Erlernen von Assoziationen zwischen Instanzen (Clusteranalyse) Gelernt wird Ähnlichkeit (Korrelation) zwischen Eingabedatensätzen Ähnliche Elemente werden in Cluster zusammengefasst Feedback-Kategorie: Unüberwachtes Lernen Anwendungen: Kundenananalyse Nichtlineare Vektorquantisierung / Farbraumkompression Algorithmen: k-means Clustering Hierarchisches Clustering Self-Organizing Maps (SOM) Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 21 / 43 Version / 43

27 Was wird gelernt? Assoziation Erlernen von Assoziationen zwischen Merkmalen Gelernt wird Ähnlichkeit (Beziehung) zwischen Merkmalen Gelerntes Wissen wird in Form von Logischen Beziehungen, z.b. Kunden die Wein kaufen, kaufen auch Käse Bedingten Wahscheinlichkeiten, z.b.: P(K W ) gibt an wie groß die Wahrscheinlichkeit ist, dass ein Kunde der Wein kauft auch Käse kauft. Feedback-Kategorie: Unüberwachtes Lernen Aus den Trainingsdaten werden Beziehungen zwischen in den Trainingsdaten vorhandenen Merkmalen gelernt (Induktion) Im Betrieb werden die gelernten Regeln dann auf Instanzen angewandt, die nicht alle Merkmale enthalten. Auf die nicht-vorhandenen Merkmale wird mithilfe der gelernten Regel geschlossen (Deduktion) Die gelernte Regel kann auch ein erkanntes Muster und damit neues Wissen repräsentieren (Beispiel: Kraftstoffdatenanalyse für Bosch) Anwendungen: Warenkorbanalyse Diagnosesysteme Algorithmen: z.b. A-Priori Algorithmus Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 22 / 43 Version / 43

28 Wie wird gelernt? Induktion: Aus einer gegebenen Menge von Beispielen (Trainingsdaten) einen allgemeinen Zusammenhang in Form einer Regel oder Funktion herleiten. Trainingsdaten: Vorliegende Menge (Trainingsmenge) { } T = (x 1, r 1 ),..., (x N, r N ) von N Wertepaaren (=Instanzen), wobei mit x p die Eingabewerte und mit r p die zugehörigen Ausgabewerte bezeichnet werden. Hypothese (h): Eine Regel oder Funktion, welche Abbildung von Eingabewerten in Ausgabewerte approximiert. Konsistent ist die gefundene Hypothese h, wenn sie mit allen gegebenen Beispielen des Trainingsset übereinstimmt, d.h. h(x p ) = r p p {1... N} Verallgemeinerung: Die Hypothese h ist dann gut, wenn sie für unbekannte Eingabewerte (nicht aus der Trainingsmenge) die passende Ausgabe voraussagt. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 23 / 43 Version / 43

29 Wie wird gelernt? Beispiel 1: Klassifizierung Aufgabe: Bank möchte Kreditwürdigkeit der potentiellen Kunden voraussagen. Abhängig von den Eingabewerten vorhandenes Eigenkapital K monatliches Einkommen I unterteilt die Bank zunächst in folgende 2 Klassen: Kunden für die vor Gewährung oder Ablehnung des Kredits Schufa-Daten eingeholt werden müssen: Ausgabewert S =. Kunden für die eine Einholung der Schufa-Daten nicht erforderlich ist S =. Die Klassenzugehörigkeit ist der Ausgabewert. Trainingsdaten T = {((K, I) p, S p )}, p 1, aus der bisherigen Erfahrung Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 24 / 43 Version / 43

30 Wie wird gelernt? Beispiel 1: Klassifizierung Lernaufgabe: Mithilfe der Trainingsdatenmenge soll eine allgemein gültige Regel h erlernt werden, mit der aus jedem Eingabewertpaar (K, I) j auf die Klassenzugehörigkeit (S j = oder S j = ) geschlossen werden kann. Modellbildung: 1 Experte legt die Hypothesenklasse H fest. Z.B. Klasse aller Rechtecke. 2 Der Lernalgorithmus soll die beste Hypothese h H finden. Also die Grenzen des Rechtecks, welches die Klasse C möglichst gut approximiert. Alle Rechtecke, die den grünen Bereich enthalten und nicht über den gelben Bereich hinaus gehen entsprechen konsistenten Hypothesen. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 25 / 43 Version / 43

31 Wie wird gelernt? Beispiel 1: Klassifizierung Empirischer Fehler: E(h T ) = N { 1 falls h(x p ) r p σ p mit σ p = 0 falls h(x p ) = r p p=1 Mißt die Anzahl der Fälle in denen die Hypothese nicht konsistent zu den Traniningsdaten ist. Ist also nur im Fall nicht-konsistenter Hypothesen > 0 Beispiel: Um einen Tainingsdatensatz (rot hinterlegt) erweiterte Trainingsdatenmenge Neuer Trainingsdatensatz stellt Ausreisser dar. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 26 / 43 Version / 43

32 Wie wird gelernt? Beispiel 1: Klassifizierung Rauschen: Rauschen verursacht Anomalien wie der Ausreisser im obigen Beispiel. Mögliche Ursachen für verrauschte Datensätze: Ungenauigkeit bei der Aufzeichnung der Eingabeattribute Fehlzuordnungen beim Erstellen der Trainingsdaten, d.h. Eingabeattribute werden falscher Klasse zugeordnet. Verborgene (latente) Attribute, die in der Modellierung nicht berücksichtigt wurden aber durchaus Einfluss auf die Ausgabe haben. Effekt solcher nicht-berücksichtigter Attribute wird i.d.r. als Rauschen modelliert. Hypothesenauswahl: Insbesondere bei der Annahme von Rauschen sind meist weniger komplexe Hypothesen günstiger. Diese weisen zwar einen höheren empirischen Fehler aus generalisieren i.d.r. besser sind einfacher zu handhaben. Siehe Abschnitt Modellauswahl Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 27 / 43 Version / 43

33 Wie wird gelernt? Klassifizierung mit mehr als 2 Klassen Bisher: Klassifizierung in 2 Klassen Kunden für die Schufa-Daten eingeholt werden müssen: S = Kunden für die keine Schufa-Daten eingeholt werden müssen S = Hierfür ist es ausreichend eine Hypothese zu lernen, welche approximativ die Grenze zwischen den beiden Klassen festlegt Jetzt: Unterteilung in > 2 Klassen Kunden für die Schufa-Daten eingeholt werden müssen Kunden für die keine Schufa-Daten eingeholt werden müssen, weil sie aufgrund ihrer Eingabedaten sicher abgelehnt werden können. Kunden für die keine Schufa-Daten eingeholt werden müssen, weil sie aufgrund ihrer Eingabedaten sicher angenommen werden können. Im Fall von K > 2 Klassen müssen > 1 Hypothesen gelernt werden. Jede Hypothese definiert approximativ die Grenzen einer Klasse. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 28 / 43 Version / 43

34 Wie wird gelernt? Beispiel 2: Regression Klassifikation: (Beispiel 1) - Ziel ist die Zuordnung von Eingabewerten zu Klassen. Gelernt wird eine Approximation der Klassengrenzen. Regression: (Beispiel 2) - Ziel ist die Bestimmung eines Funktionswertes für eine gegebene Menge von Eingabeattributen. Gelernt wird eine Approximation der Funktion. Der Begriff Regression bezieht sich auf den Fall, dass die Abbildung von Eingabewerten in den Funktionswert nicht rein deterministisch ist (y = f (x) + n) mit Zufallsvariable n. Von Interpolation spricht man, wenn der Zusammenhang rein deterministisch ist (y = f (x)). Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 29 / 43 Version / 43

35 Wie wird gelernt? Beispiel 2: Regression Aufgabe: Klimaforschungsinstitut möchte den zeitlichen Verlauf des Meerespegelanstiegs berechnen. Trainingsdaten: Gemessener Meerespegel y p in 6 aufeinanderfolgenden Jahren t p : T = {(t p, y p )}, p 1, y vs. x 1.2 sea level increas (cm) Year Lernaufgabe: Mithilfe der Trainingsdatenmenge soll eine Funktion g(t) erlernt werden, mit welcher der Meerespegelanstieg y als Funktion der Zeit t vorausgesagt werden kann. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 30 / 43 Version / 43

36 Wie wird gelernt? Beispiel 2: Regression Modellbildung: 1 Experte legt die Hypothesenklasse H fest. Z.B. Klasse aller Linearen Funktionen: y = g 0 + g 1 t Quadratischen Polynome: y = g 0 + g 1 t + g 2 t 2 Polynome vom Grad 5: y = g 0 + g 1 t + + g 5 t 5 2 Der Lernalgorithmus soll die beste Hypothese finden. Also die besten Polynomkoeffizienten g i innerhalb der gewählten Hypothesenklasse y vs. x 1.2 sea level increas (cm) Year Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 31 / 43 Version / 43

37 Wie wird gelernt? Beispiel 2: Regression Modellbildung: 1 Experte legt die Hypothesenklasse H fest. Z.B. Klasse aller Linearen Funktionen: y = g 0 + g 1 t Quadratischen Polynome: y = g 0 + g 1 t + g 2 t 2 Polynome vom Grad 5: y = g 0 + g 1 t + + g 5 t 5 2 Der Lernalgorithmus soll die beste Hypothese finden. Also die besten Polynomkoeffizienten g i innerhalb der gewählten Hypothesenklasse y vs. x vs. fit sea level increase (cm) Year Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 31 / 43 Version / 43

38 Wie wird gelernt? Beispiel 2: Regression Modellbildung: 1 Experte legt die Hypothesenklasse H fest. Z.B. Klasse aller Linearen Funktionen: y = g 0 + g 1 t Quadratischen Polynome: y = g 0 + g 1 t + g 2 t 2 Polynome vom Grad 5: y = g 0 + g 1 t + + g 5 t 5 2 Der Lernalgorithmus soll die beste Hypothese finden. Also die besten Polynomkoeffizienten g i innerhalb der gewählten Hypothesenklasse measured y vs. x linear vs. fit 1 quadratic sea level increase (cm) Year Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 31 / 43 Version / 43

39 Wie wird gelernt? Beispiel 2: Regression Modellbildung: 1 Experte legt die Hypothesenklasse H fest. Z.B. Klasse aller Linearen Funktionen: y = g 0 + g 1 t Quadratischen Polynome: y = g 0 + g 1 t + g 2 t 2 Polynome vom Grad 5: y = g 0 + g 1 t + + g 5 t 5 2 Der Lernalgorithmus soll die beste Hypothese finden. Also die besten Polynomkoeffizienten g i innerhalb der gewählten Hypothesenklasse measured measured y vs. x linear vs. linear fit 1 quadratic quadratic degree 5 sea level increase (cm) Year Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 31 / 43 Version / 43

40 Wie wird gelernt? Beispiel 2: Regression Modellbildung: 1 Experte legt die Hypothesenklasse H fest. Z.B. Klasse aller Linearen Funktionen: y = g 0 + g 1 t Quadratischen Polynome: y = g 0 + g 1 t + g 2 t 2 Polynome vom Grad 5: y = g 0 + g 1 t + + g 5 t 5 2 Der Lernalgorithmus soll die beste Hypothese finden. Also die besten Polynomkoeffizienten g i innerhalb der gewählten Hypothesenklasse measured measured y vs. x linear vs. linear fit 1 quadratic quadratic degree 5 sea level increase (cm) Year Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 31 / 43 Version / 43

41 Wie wird gelernt? Beispiel 2: Regression Modellbildung: 1 Experte legt die Hypothesenklasse H fest. Z.B. Klasse aller Linearen Funktionen: y = g 0 + g 1 t Quadratischen Polynome: y = g 0 + g 1 t + g 2 t 2 Polynome vom Grad 5: y = g 0 + g 1 t + + g 5 t 5 2 Der Lernalgorithmus soll die beste Hypothese finden. Also die besten Polynomkoeffizienten g i innerhalb der gewählten Hypothesenklasse measured measured y vs. x linear vs. linear fit 1 quadratic quadratic degree 5 sea level increase (cm) Year Konsistent zur Trainingsmenge ist das Polynom 5. Grades. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 31 / 43 Version / 43

42 Wie wird gelernt? Beispiel 2: Regression Generalisierung: Empirischer Fehler: Je höher der Grad des Polynoms umso geringer kann der empirische Fehler sein. Für N Punkte läßt sich mit der Polynominterpolation immer ein Polynom vom Grad N 1 finden, dessen Graph alle N Punkte enthält. Dann ist der empirische Fehler = 0. Polynome hohen Grades sind aber eventuell zu speziell auf die Trainingsdatenmenge angepasst (Overfitting) und generalisieren schlecht. E(g T ) = 1 N N ( y p g(t p ) ) 2 p=1 Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 32 / 43 Version / 43

43 Wie wird gelernt? Unüberwachtes Lernen Unüberwachtes Lernen Im Gegensatz zum überwachten Lernen stehen beim unüberwachten Lernen nur Eingabedaten zur Verfügung. Aufgabe des unüberwachten Lernens ist das Auffinden von Regelmäßigkeiten oder Ähnlichkeiten zwischen Instanzen (Clusteranalyse), oder Merkmalen (Assoziationsanalyse) Mit unüberwachten Lernverfahren lassen sich auch Daten in hochdimensionalen Eingaberäumen in niedrigdimensionale Räume transformieren. Angewandt zum Zwecke der Feature Extraction oder Visualisierung. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 33 / 43 Version / 43

44 Wie wird gelernt? Unüberwachtes Lernen Anwendung des unüberwachtes Lernens: Clusteranalyse Instanzen, die sich durch ähnliche Eingabewerte auszeichnen, werden zu Clustern zusammengefasst. In bisher behandelten Klassifikationsaufgaben war Klassenzugehörigkeit der Trainings-Eingabedaten vorgegeben. Im Fall des unüberwachten Lernens muss diese Klassenzugehörigkeit der Trainingselemente gelernt werden. Auch die Schätzung einer Wahrscheinlichkeitsdichteverteilung einer Variablen aus einer gegebenen Menge (Trainingsmenge) von Variablenwerten kann Ziel dieser Lernkategorie sein Density Estimation (aus der Statistik) Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 34 / 43 Version / 43

45 Wie wird gelernt? Unüberwachtes Lernen Beispiel für Clustering von Instanzen mit 2 Merkmalen Mögliches Resultat eines k-means Clustering mit k = 4. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 35 / 43 Version / 43

46 Wie wird gelernt? Unüberwachtes Lernen Beispiel Clustering von Dokumenten Welche der folgenden Texte sind sich am Ähnlichsten? 1 Der Papst schreibt von Reue, von Schande und entschuldigt sich bei den Opfern - doch das reicht vielen Iren nicht: Sie kritisieren Benedikts Hirtenbrief zum Missbrauchsskandal als Versuch der Vertuschung. Pop-Sängerin Sinead O Connor wirft dem Vatikan vor, er wolle sich aus der Affäre ziehen 2 Die Erschütterung und die Scham des Papstes in seinem Brief an Irlands Katholiken sind echt. Doch er macht die Liberalisierung der Kirche für die Missbrauchsfälle verantwortlich. Das ist Unsinn. Zu den wahren Ursachen der Krise schweigt er leider. 3 Die schwarz-gelbe Koalition wackelt, die Wähler liebäugeln mit Rot-Grün: Jürgen Rüttgers kämpft in Nordrhein-Westfalen um seine Regierungsmehrheit - und seine politische Karriere. Um wieder in die Offensive zu kommen, geht der Ministerpräsident nun auf Distanz zur Krisenkoalition in Berlin. 4 Rückschlag im Titelrennen: Der FC Bayern hat durch zwei Gegentore in der Schlussphase bei Eintracht Frankfurt verloren - und könnte damit an diesem Spieltag die Tabellenführung verlieren. Werder Bremen gewann gegen den VfL Bochum, Freiburg setzte sich gegen Mainz durch. 5 Werder Bremen macht hinten Fehler und liefert vorne ein Spektakel, Bayern verliert in letzter Minute in Frankfurt und Leverkusen erlebt in Dortmund zwei völlig unterschiedliche Halbzeiten. Lange sah es in Frankfurt beim Gastspiel der Bayern nach einem typisch minimalistischen Münchner Sieg aus, doch dann drehte die Eintracht in einer verrückten Schlussphase das Spiel und gewann mit 2:1 6 Auf dem Landesparteitag in Münster versucht Ministerpräsident Rüttgers, die von der Affäre gebeutelte CDU in NRW mitzureißen - mit Hilfe der Kanzlerin und schrillen Warnungen vor der Opposition. CDU-Chefin Angela Merkel wirft am Samstag einiges in die Waagschale, um den nordrhein-westfälischen Parteifreunden Mut und Kampfkraft für den Landtagswahlkampf einzuhauchen. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 36 / 43 Version / 43

47 Wie wird gelernt? Unüberwachtes Lernen Beispiel: Hierarchisches Clustering von Dokumenten Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 37 / 43 Version / 43

48 Wie wird gelernt? Unüberwachtes Lernen Clusteranalyse Anwendungen Allgemeine Kategorisierungsaufgaben z.b. Kategorisierung von Kunden- oder Produktgruppen Mustererkennung, z.b. in der Bildverarbeitung: Pixel mit ähnlichen Farbwerten werden zu Regionen (Clustern) zusammengefasst Nichtlineare Vektorquantisierung wie sie z.b. in nahezu allen modernen Sprachcodecs eingesetzt wird Farbquantisierung Clustering von Suchergebnissen, z.b. Bioinformatik, z.b. für die Kategorisierung von Genen Bildung von Communities in Social Networks Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 38 / 43 Version / 43

49 Modellauswahl und Bewertung Problem: Overfitting Generalisierung: Zu Trainingsdaten konsistente Hypothese h ist immer nur Approximation der wahren aber unbekannten Klasse C. Problem: Liefert h auch zuverlässige Voraussagen für nicht in der Trainingsmenge enthaltene Eingabewerte? Die Qualität mit der ein trainiertes Modell die richtigen Ausgaben für nicht in der Trainingsmenge enthaltene Eingabedaten vorhersagt nennt man Generalisierung Nicht-konsistente Hypothesen können manchmal besser generalisieren (im Fall von Ausreissern). Overfitting: Wenn die Hypothese h zu speziell an die Trainingsdatenmenge angepasst ist. Je spezieller die Hypothese umso komplexer ist i.d.r. auch ihre Beschreibung. Underfitting: Wenn die gelernte Hypothese zu einfach im Vergleich zur unbekannten wahren Regel ist. Dies kann dann u.a. durch den Einbezug einer zu geringen Trainingsdatenmenge verursacht werden. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 39 / 43 Version / 43

50 Modellauswahl und Bewertung Training und Validierung Training: Mit den Trainingsdaten werden mögliche Hypothesen in verschiedenen Hypothesenräumen mit verschiedenen Lernalgorithmen berechnet Validierung: (=Test) 1 Auf jede der berechneten Hypothesen (=Modelle) werden die Validierungsdaten angewandt und die Fehlerrate bezüglich der Validierungsdaten berechnet. Validierungsdaten sind bekannte (Eingabe/Ausgabe)-Paare, die nicht Teil der Trainingsdatenmenge sind. Auswahl des Lernalgorithmus und Hypothesenraums, welcher die niedrigste Fehlerrate in den Validierungsdaten ergab. Menge aller möglichen (Eingabe/Ausgabe)-Paare 1 In dieser Vorlesung werden die Begriffe Validierung und Test gleichbedeutend benutzt Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 40 / 43 Version / 43

51 Modellauswahl und Bewertung Training und Validierung Training: Mit den Trainingsdaten werden mögliche Hypothesen in verschiedenen Hypothesenräumen mit verschiedenen Lernalgorithmen berechnet Validierung: (=Test) 1 Auf jede der berechneten Hypothesen (=Modelle) werden die Validierungsdaten angewandt und die Fehlerrate bezüglich der Validierungsdaten berechnet. Validierungsdaten sind bekannte (Eingabe/Ausgabe)-Paare, die nicht Teil der Trainingsdatenmenge sind. Auswahl des Lernalgorithmus und Hypothesenraums, welcher die niedrigste Fehlerrate in den Validierungsdaten ergab. Menge aller möglichen (Eingabe/Ausgabe)-Paare Menge aller bekannten (Eingabe/Ausgabe)-Paare 1 In dieser Vorlesung werden die Begriffe Validierung und Test gleichbedeutend benutzt Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 40 / 43 Version / 43

52 Modellauswahl und Bewertung Training und Validierung Training: Mit den Trainingsdaten werden mögliche Hypothesen in verschiedenen Hypothesenräumen mit verschiedenen Lernalgorithmen berechnet Validierung: (=Test) 1 Auf jede der berechneten Hypothesen (=Modelle) werden die Validierungsdaten angewandt und die Fehlerrate bezüglich der Validierungsdaten berechnet. Validierungsdaten sind bekannte (Eingabe/Ausgabe)-Paare, die nicht Teil der Trainingsdatenmenge sind. Auswahl des Lernalgorithmus und Hypothesenraums, welcher die niedrigste Fehlerrate in den Validierungsdaten ergab. Menge aller möglichen (Eingabe/Ausgabe)-Paare Menge aller bekannten (Eingabe/Ausgabe)-Paare Trainingsdaten: Für die Berechnung möglicher Hypothesen 1 In dieser Vorlesung werden die Begriffe Validierung und Test gleichbedeutend benutzt Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 40 / 43 Version / 43

53 Modellauswahl und Bewertung Training und Validierung Training: Mit den Trainingsdaten werden mögliche Hypothesen in verschiedenen Hypothesenräumen mit verschiedenen Lernalgorithmen berechnet Validierung: (=Test) 1 Auf jede der berechneten Hypothesen (=Modelle) werden die Validierungsdaten angewandt und die Fehlerrate bezüglich der Validierungsdaten berechnet. Validierungsdaten sind bekannte (Eingabe/Ausgabe)-Paare, die nicht Teil der Trainingsdatenmenge sind. Auswahl des Lernalgorithmus und Hypothesenraums, welcher die niedrigste Fehlerrate in den Validierungsdaten ergab. Menge aller möglichen (Eingabe/Ausgabe)-Paare Menge aller bekannten (Eingabe/Ausgabe)-Paare Trainingsdaten: Validierungsdaten: Für die Berechnung Für die Auswahl der besten möglicher Hypothesen Hypothese 1 In dieser Vorlesung werden die Begriffe Validierung und Test gleichbedeutend benutzt Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 40 / 43 Version / 43

54 Modellauswahl und Bewertung Einfache Validierung mit disjunkten Trainings- und Testdatensätzen Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 41 / 43 Version / 43

55 Modellauswahl und Bewertung Kreuzvalidierung für die Modellbewertung und Auswahl Problem: Meist ist die Menge verfügbarer (Eingabe/Ausgabe)-Paare klein, sodass eine disjunkte Unterteilung in Teilmengen ausreichender Größe nicht möglich ist. Lösung: Kreuzvalidierung Auswahl des Lernalgorithmus und des Hypothesenraums, welcher mit der Kreuzvalidierung geringste Fehlerrate ergibt. Nach der Auswahl wird für das Training die gesamte Menge verfügbarer (Eingabe/Ausgabe)-Paare benutzt. Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 42 / 43 Version / 43

56 Referenzen Ethem Alpaydin Maschinelles Lernen; deutschsprachige Ausgabe erschienen im Oldenbourg Verlag, München 2008 Tom Mitchell Machine Learning; McGraw Hill International Editions, 1997 Toby Segaran Programming Collective Intelligence; O Reilly Verlag, August 2007 Tom Mitchell The Discipline of Machine Learning; tom/pubs/machinelearning.pdf S. Russell, P. Norvig Künstliche Intelligenz; Ein moderner Ansatz Pearson Studium 2004 (Deutsche Ausgabe) W. Ertel Grundkurs Künstliche Intelligenz; Eine praxisorientierte Einführung Vieweg Verlag 2008 G. Görz, C.-R. Rollinger, J. Schneeberger Handbuch der künstlichen Intelligenz Oldenbourg Verlag, 4. Auflage, 2003 Prof. Dr. Johannes Maucher (HdM MIB) KI Kapitel 6: Maschinelles Lernen Teil 1 43 / 43 Version / 43