Einführung i.d. Wissensverarbeitung

Transkript

1 Einführung in die Wissensverarbeitung 2 VO UE SS 2012 Institut für Signalverarbeitung und Sprachkommunikation TU Graz Inffeldgasse 12/1 Institut für Grundlagen der Informationsverarbeitung TU Graz Inffeldgasse 16b/1

2 Organisation Vortragende: Vorlesung: Dr. Franz Pernkopf (SPSC) Dr. Stefan Häusler (IGI) Übungen: DI Paul Meissner(SPSC) DI Stefan Habenschuss (IGI) Allgemein: VO: Mittwoch, 14:15, HSi13 UE: Dienstag, 13:15 18:00 (3 Gruppen), HSi11 Webpage Newsgroup: tu-graz.lv.ew 2

3 Maschinelles Lernen Arthur Samuel (1959): Machine learning: Field of study that gives computers the ability to learn without being programmed. Problem: Auf Grund der Komplexität des Spiels ist die optimale Strategie nicht bekannt. 3

4 Was ist Wissensverarbeitung? Künstliche Generierung von Wissen aus Erfahrung: Entdecken und Strukturieren von Wissen, Ableiten von neuem Wissen, Kommunikation dieses Wissens. Repräsentation dieses Wissens (im Computer) 4

5 Formen der Wissensverarbeitung Wissensverarbeitung mit sprachlichen Strukturen. Logische Systeme: Aussagenlogik und Prädikatenlogik Heuristische Ansätze, wie z.b. aus den Gebieten Mustererkennung, Neuronale Netze, evolutionäre Algorithmen etc. Computational Intelligence: Formulierung von präzisen logischen Aussagen ist praktisch nicht möglich. Anwendung von heuristischen Methoden 5

6 Wissensverarbeitung mit logischen Systemen Entwurf von Agenten, welche die Welt repräsentieren können... und eines Schlußfolgerungsprozesses, welcher neue Repräsentationen ableitet und diese dazu nutzt, um zu schließen, was zu tun ist. Wumpus-Welt 6

7 Computational Intelligence CI wird angewendet, wenn die Lösung einer Aufgaben schwer mit logischen Sprachen oder klaren Regeln formuliert werden kann. Beispiel: Bilderkennung Meissner Pernkopf Neumann Häusler 7

8 Anwendungsbereiche Recommender systems Amazon.com Online Radio Netflix US online Filmverleih (Datensatz mit 100 Mio. Einträge) 8

9 Anwendungsbereiche NETFLIX Netflix Prize, 1 Mio. US-Dollar für 10% Vorhersagevebesserung 9

10 Weitere Anwendungsbereiche... Gesichts-, Sprach-, Schrifterkennung (Scheckbeträge, zip code) Spam-Erkennung Notierung biologischer Sequenzen, Moleküle, chem. Proben Marktanalysen (e.g. Aktienkursvorhersagen) Fahrzeug- und Personenzählsysteme Fahrzeugsteuerungen u.s.w. 10

11 Lehrveranstaltungsübersicht IGI Kapitel 1 Grundbegriffe des maschinellen Lernens Kapitel 2 Neuronale Netze Kapitel 3 Modellselektion Kapitel 4 Klassische Klassifikationsalgorithmen Kapitel 5 Logik 11

12 Plan für heute: Kapitel 1 Welche Arten des Lernens gibt es? Wie kann man überwachtes Lernen formalisieren? Was genau ist das Lernziel? Wie werden überwachte Lernprobleme allgemein gelöst (Ablauf)? Lernalgorithmus lineare Regression 12

13 Welche Arten des Lernens gibt es? Supervised learning (überwachtes Lernen): Gegeben: Trainingsbeispiele mit Zielwerten (z.b. Zuordnungen) Ziel: Zielwertvorhersage für neue Beispiele (z.b. Marktpreise) Unsupervised learning (unüberwachtes Lernen): Gegeben: Trainingsbeispiele ohne Zielwerte Ziel: Erkennen von Struktur in den Daten Reinforcement learning (verstärkendes Lernen): Gegeben: Trainingsbeispiele mit feedback für gewählte Handlungen Ziel: Minimierung der Kosten von Handlungssequenzen 13

14 Beispiel überwachtes Lernen Neurowissenschaft: Klassifikation von visuellen Stimuli 14

15 Beispiel unüberwachtes Lernen Cluster-Analyse Daten: Entladungsmuster eines auditorischen Neurons der Laubheuschrecke in Reaktion auf verschiedene Schallquellen (Artgenossen, Feinde,...) 15

16 Beispiel unüberwachtes Lernen Blind source separation (Cocktailparty Problem) Independent component analysis Time [ms] 16

17 Beispiel verstärkendes Lernen Steuerung von autonomen Helikoptern. 17

18 Kapitel 1 Wie kann man überwachtes Lernen formalisieren? 18

19 Beispiel Gesichtserkennung Gegeben: Kollektion von Bildern und Kennzeichnungen. Meissner, + Pernkopf, + Neumann, + Häusler, - Kennzeichnungen (labels): + Gebäudezutritt - Kein Gebäudezutritt Ziel: Korrektes Klassifizieren neuer Bilder. Häusler, -?

20 Lernbeispiele f. überwachtes Lernen Gegeben: Eingabewerte und Ausgabewerte X =ℝ d, Y ={ 1, 1} 20

21 Formalisierungsschritte Hypothese Lernalgorithmus Fehlerkriterium 21

22 Hypothese Hypothese, die; -, -n [hü..] (griech.) noch unbewiesene, als Hilfsmittel für eine Erkenntnis benutzte Annahme, Vermutung. Eine Hypothese H führt Vorhersagen durch X =ℝ d, Y ={ 1, 1} 22

23 Klassifikation Klassifikation ist die Zuweisung von Eingabewerten zu diskreten Ausgabewerten: H:X Y wobei Y endlich ist. Beispiel: Pernkopf Häusler Augenfarbe Haarfarbe (Farbton) 23

24 Lineare Klassifikation Einteilungen von Eingabewerten in Klassen basierend auf einer linearen Kombination der Eingabewerte. Beispiel: ℝ 2 Pernkopf Häusler Augenfarbe Haarfarbe (Farbton) 24

25 Binäre lineare Klassifikation Einteilungen von Eingabewerten in 2 Klassen anhand des linearen Klassifikators y = sign w T x =sign w 0 w 1 x 1... w d x d x,w ℝ d Interpretation: Gewichtete Kombination von Expertenmeinungen (z.b. für binäre Attribute) Mehrheitsentscheidung y = sign w 0 w 1 x 1... w d x d Stimme Kombination von Stimmen Experte 1 w1 w2 wd 25

26 Hypothesenklassen Eine Hypothesenklasse H ist eine Menge von Hypothesen. Z.B: Linearer Klassifikator d Hypothesenklasse wird mit dem Vektor w ℝ parametrisiert. y = sign w T x =sign w 0 w 1 x 1... w d x d 26

27 Lernalgorithmus Ein Lernalgorithmus A wählt eine Hypothese H aus der Hypothesenklasse H anhand einer Liste L von l Trainingsbeispielen aus. Gegeben: L = x 1, y 1, x 2, y 2,..., x l, y l L X Y X Y :={ s 1,..., sl l 0 und jedes si X Y } 27

28 Fehlerkriterium Das Fehlerkriterium E y, y quantifiziert die Abweichung der Ausgabe der Hypothese y vom Sollwert y. 28

29 Kapitel 1 Was genau ist das Lernziel? 29

30 Empirischer Fehler Der empirische Fehler ist der Mittelwert des Fehlerkriteriums aller Lernbeispiele Naheliegend: Finde w welches Empirischer Fehler 1 l error L = k =1 E y k, H w, x k l minimiert. Warum ist es sinnvoll den empirischen Fehler zu minimieren? 30

31 Wahrer Fehler Der empirische Fehler dient zur Abschätzung des wahren Fehlers. Empirischer Fehler: 1 l error L = k =1 E y k, H w, x k l Wahrer Fehler:? In welcher Beziehung stehen der empirische und der wahre Fehler? 31

32 Lernphasen Trainingsphase: Dient zur Auswahl der Hypothese aus einer Hypothesenklasse H durch einen Lernalgorithmus anhand von Trainingsdaten. Testphase: Dient zur Betimmung der Qualität der ausgewählten Hypothese durch ein Fehlerkriterium anhand von Testdaten (Generalisierung). Trainingsdaten Testdaten = Ø 32

33 Kapitel 1 Fallbeispiel: Lineare Regression. 33

34 Einschub: Partielle Ableitungen Partielle Ableitungen sind definiert als Ableitungen von Funktionen mehrerer Variablen f wi,..., w d, wenn alle, außer der Variablen nach der abgeleitet wird, festgehalten werden f w 1,..., wi h,.., w d f w 1,..., wi,.., w d f lim h wi h f w2 w1 34

35 Einschub: Partielle Ableitungen Es kann auch nach mehreren Variablen partiell abgeleited werden. f f f,..., w1 wd f w1 w1 f w2 w2 f = f w 35

36 Regression Das Ziel ist Zuweisung (quantitative Vorhersage) von Eingabewerten zu reellwertigen Ausgabewerten: H:X Y wobei Y unendlich ist. Beispiel: Vorhersage des Verbrauchs (in Liter) in Abhängigkeit von 8 Motorattributen. Einfachheitshalber verwenden wir nur ein Attribut. 36

37 Lineare Regression Fuel y y x x Weight Weight 37

38 Optimierung ist analytisch lösbar Minimierung des empirischen Fehlers 2 1 l MSE w = k =1 y k H x k, w l Durch 0 setzen der Ableitung nach w 0 und w i erhält man die optimalen Parameterwerte 38

39 Vorhersagefehler Je größer die Anzahl der Trainingsbeispiele, desto geringer der wahre Fehler. l= Fuel l= y MSE l= l= Anzahl der Trainingsbeispiele x Weight Wir versuchen den Fehler besser zu verstehen. 39

40 Fehlerarten Der strukurelle Fehler misst den Fehler, der auf die limitierte Hypothesenklasse zurückzuführen ist (für unendlich viele Trainingsbeispiele) Der Approximationsfehler gibt an, wie nahe man an der best möglichen Vorhersage liegt und ist zurückzuführen auf die geringe Anzahl von samples. 40

41 Anforderungen für gute Vorhersagen Welche Anforderungen stellen wir an Hypothesen und Lernalgorithmen in Anbetracht dieser Überlegungen. Was ist eine gute Hypothese? Was ist ein guter Lernalgorithmus? 41

42 Qualität einer Hypothese Die Qualität einer Hypothese wird anhand des wahren Fehlers gemessen. error P = E y, H w, x x, y ~P Dieser wird anhand unabhängiger Testdaten T abgeschätzt, welche nicht zum Trainieren (d.h. zur Auswahl der Hypothesenklasse) verwendet wurden. 1 n error T = k =1 E y k, H w, x k n n 42

43 Qualität eines Lernalgorithmus Die Qualität eines Lernalgorithmus A wird zum einen daran gemessen, ob es in der Hypothesenklasse H überhaupt eine Hypothese H mit niedrigem wahren Fehler error P H gibt ( expressibility of H ). Zum anderen wird die Qualität daran gemessen, wie groß die Chance ist dass A schon für eine relativ kurze Liste L von Trainingsbeispielen eine Hypothese H in H findet, deren wahrer Fehler error P H nicht viel größer als der empirische Fehler error L H ist. 43