Erstes Mathe-Tutorium am Themen können gewählt werden unter:

Transkript

1 Mathe-Tutorium Erstes Mathe-Tutorium am Themen können gewählt werden unter: cgzspjt4mkirnrgnrfpkkn3j2vqos/iewform 1

2 Uniersität Potsdam Institut für Informatik Lehrstuhl Maschinelles Lernen Intelligente Datenanalyse Entscheidungsbäume Paul Prasse, Niels Landwehr, Tobias Scheffer

3 Entscheidungsbäume Eine on ielen Anwendungen: Kreditrisiken Länger als 3 Monate beschäftigt? Schufa-Auskunft positi? abgelehnt Ja Arbeitslos? Kredit - Sicherheiten > 5 x erfügbares Einkommen? Kredit - Sicherheiten > 2 x erfügbares Einkommen? abgelehnt Student? angenommen abgelehnt abgelehnt angenommen angenommen abgelehnt 3

4 Entscheidungsbäume Warum? Einfach zu interpretieren. Liefern Klassifikation plus Begründung. Abgelehnt, weil weniger als 3 Monate beschäftigt und Kredit-Sicherheiten < 2 x erfügbares Einkommen. Können aus Beispielen gelernt werden. Einfacher Lernalgorithmus. Effizient, skalierbar. Verschiedene Lernprobleme werden abgedeckt Klassifikations- und Regressionsbäume. Klassifikations-, Regressions-, Modellbäume häufig Komponenten komplexer (z.b. Risiko-)Modelle. 4

5 Klassifikation Eingabe: Instanz (Objekt) x X. Instanzen sind durch Vektoren on Attributen repräsentiert. Eine Instanz ist eine Belegung der Attribute. Instanzen werden auch als Merkmalsektoren bezeichnet. Ausgabe: Klasse y Y; endliche Menge Y. Beispiele: x x x {akzeptiert, abgelehnt}; {Kind, Frau, Mann}. 1 m z.b. Merkmale wie Farbe, Testergebnisse, Form, Klasse wird auch als Zielattribut bezeichnet. 5

6 Klassifikationslernen Eingabe: Trainingsdaten. L ( x, y ),...,( x, y ) 1 1 n n Ausgabe: Klassifikator. x i x x 1 m f : X Y Entscheidungsbaum: Pfad entlang der Kanten zu einem Blatt liefert Klassifikation 6

7 Regression Eingabe: Instanz (Objekt) x X. Instanzen sind durch Vektoren (fett gedruckt) on Attributen (kursi) repräsentiert. Eine Instanz ist eine Belegung der Attribute. Ausgabe: Funktionswert y Y; kontinuierlicher Wert. Lernproblem: kontinuierliche Trainingsdaten. L ( x, y ),...,( x, y ) z.b. 1 1 n ( x 1,3.5),...,(, 2.8) n x N 7

8 Entscheidungsbäume - Aufbau Testknoten: Testen, ob der Wert des Attributs die Bedingung erfüllen; bedingte Verzweigung in einen Ast. Terminalknoten: Liefern einen Wert als Ausgabe. Schufa-Auskunft positi? Länger als 3 Monate beschäftigt? abgelehnt Ja Arbeitslos? Kredit - Sicherheiten > 5 x erfügbares Einkommen? Kredit - Sicherheiten > 2 x erfügbares Einkommen? abgelehnt Student? angenommen abgelehnt abgelehnt angenommen angenommen abgelehnt 8

9 Entscheidungsbäume - Repräsentation Entscheidungsbäume können logische Operationen repräsentieren, wie:,, XOR A B C D E Schufa-Auskunft positi? Länger als 3 Monate beschäftigt? abgelehnt Ja Arbeitslos? Kredit - Sicherheiten > 5 x erfügbares Einkommen? Kredit - Sicherheiten > 2 x erfügbares Einkommen? abgelehnt Student? angenommen abgelehnt abgelehnt angenommen angenommen abgelehnt 9

10 Anwendung on Entscheidungsbäumen Testknoten: führe Test aus, wähle passende Verzweigung, rekursier Aufruf. Terminalknoten: liefere Wert als Klasse zurück. Schufa-Auskunft positi? Länger als 3 Monate beschäftigt? abgelehnt Ja Arbeitslos? Kredit - Sicherheiten > 5 x erfügbares Einkommen? Kredit - Sicherheiten > 2 x erfügbares Einkommen? abgelehnt Student? angenommen abgelehnt abgelehnt angenommen angenommen abgelehnt 10

11 Entscheidungsbäume Wann sinnoll? Entscheidungsbäume sinnoll, wenn: Instanzen durch Attribut-Werte-Paare beschrieben werden. Zielattribut einen diskreten Wertebereich hat. Bei Erweiterung auf Modellbäume auch kontinuierlicherer Wertebereich möglich. Interpretierbarkeit der Vorhersage gewünscht ist. Anwendungsgebiete: Medizinische Diagnose Kreditwürdigkeit Vorerarbeitungsschritt in der Computer Vision (z.b. Objekterkennung) 11

12 Lernen on Entscheidungsbäumen Tag Aussicht Temperatur Luftfeuchtigkeit Wind Tennis? 1 sonnig heiß hoch schwach 2 sonnig heiß hoch stark 3 bedeckt heiß hoch schwach 4 Regen mild hoch schwach 5 Regen kühl normal schwach 6 Regen kühl normal stark 7 bedeckt kühl normal stark 8 sonnig mild hoch schwach 9 sonnig kühl normal schwach 10 Regen mild normal schwach Finde Entscheidungsbaum, der zumindest für die Trainingsdaten die richtige Klasse liefert. Triialer Weg: Erzeuge einen Baum, der lediglich die Trainingsdaten repräsentiert. 12

13 Lernen on Entscheidungsbäumen Tag Aussicht Temperatur Wind Tennis? 1 sonnig heiß schwach 2 sonnig heiß stark 3 bedeckt heiß schwach 4 bedeckt kühl stark 5 bedeckt kühl schwach sonnig Aussicht bedeckt Temperatur Temperatur heiß kühl heiß kühl Wind Wind Wind Wind schwach stark schwach stark schwach stark schwach stark??? 13

14 Lernen on Entscheidungsbäumen Eleganter Weg: Unter den Bäumen, die mit den Trainingsdaten konsistent sind, wähle einen möglichst kleinen Baum (möglichst wenige Knoten). Kleine Bäume sind gut, weil: Sie leichter zu interpretieren sind; Sie in ielen Fällen besser generalisieren; Es gibt mehr Beispiele pro Blattknoten. Klassenentscheidungen in den Blättern stützen sich so auf mehr Beispiele. 14

15 Vollständige Suche nach kleinstem Baum Wie iele Entscheidungsbäume gibt es? Angenommen m binäre Attribute, zwei Klassen. Komplexität einer ollständigen Suche nach kleinstem Baum? 15

16 Lernen on Entscheidungsbäumen Greedy-Algorithmus, der einen kleinen Baum (statt des kleinsten Baumes) findet, dafür aber polynomiell in Anzahl der Attribute ist. Idee für Algorithmus? 16

17 Greedy-Algorithmus Top-Down Konstruktion Solange die Trainingsdaten nicht perfekt klassifiziert sind: Wähle das beste Attribut A, um die Trainingsdaten zu trennen. Erzeuge für jeden Wert des Attributs A einen neuen Nachfolgeknoten und weise die Trainingsdaten dem so entstandenen Baum zu. Problem: Welches Attribut ist das beste? [29 +, 35 -] x 1 x 2 [29 +, 35 -] [21+, 5 -] [8+, 30 -] [18+, 33 -] [11+, 2 -] 17

18 Splitkriterium: Entropie Entropie = Maß für Unsicherheit. S ist Menge on Trainingsdaten. p + ist Anteil on positien Beispielen in S. p ist Anteil on negatien Beispielen in S. Entropie misst die Unsicherheit in S : H S = p + log 2 p + p log 2 p 18

19 Splitkriterium: Entropie H S = Erwartete Anzahl on Bits, die benötigt werden, um die Zielklasse on zufällig gezogenen Beispielen aus der Menge S zu kodieren. Optimaler, kürzester Kode Entropie einer Zufallsariable y: H y = p y = log 2 p(y = ) Empirische Entropie Zufallsariable y auf Daten L : H L, y = p L y = log 2 p L y = 19

20 Splitkriterium: Bedingte Entropie Bedingte Entropie on Zufallsariable y gegeben Ereignis x=: Empirische bedingte Entropie auf Daten L: 20 ' 2 ) ' ( )log ' ( ) ( ) ( x x y p x y p x y H y H ' 2 ) ' ( ˆ )log ' ( ˆ ), ( ), ( L L x x y p x y p x y L H y L H

21 Splitkriterium: Information Gain Entropie der Klassenariable: Unsicherheit über korrekte Klassifikation. Information Gain: Transinformation eines Attributes. Verringerung der Entropie der Klassenariable nach Test des Wertes des Attributes x. Information Gain auf Daten L für Attribut x 21 ) ( ) ( ) ( ) ( y H x p y H x IG x x L y L H x p y L H x L IG ), ( ) ( ˆ ), ( ), (

22 Beispiel Information Gain IG = 0,05 IG = 0,46 IG = 0,05 Beispiele x 1 : Kredit > 3 x Einkommen? x 2 : Länger als 3 Monate beschäftigt? x 3 : Student? y: Kredit zurückgezahlt? 1 Ja Ja Nein Ja 2 Ja Nein Nein Nein 3 Nein Ja Ja Ja 4 Nein Nein Ja Nein 5 Nein Ja Nein Ja 6 Nein Nein Nein Ja H L, y) pˆ ( y )log pˆ ( y ) ( L 2 L 0.92 IG ˆ, y) ( L, x) H( L, y) p L( x ) H( L x 22

23 Beispiel II Information Gain IG L, x = Erwartete Reduktion der Unsicherheit durch den Split an Attribut x. Welcher Split ist besser? [29 +, 35 -] x 1 x 2 [29 +, 35 -] [21+, 5 -] [8+, 30 -] [18+, 33 -] [11+, 2 -] H L, y = log log = 0,99 IG L, x 1 = 0, H L x1=,y H L x1=,y = 0,26 IG L, x 2 = 0, H L x2=,y H L x2=,y = 0,11 23

24 Information Gain / Gain Ratio Motiation: Vorhersage ob ein Student die Prüfung besteht. Wie hoch ist der Information Gain des Attributes Matrikelnummer? Informationsgehalt des Tests ist riesig. 24

25 Information Gain / Gain Ratio Motiation: Vorhersage ob ein Student die Prüfung besteht. Wie hoch ist der Information Gain des Attributes Matrikelnummer? Informationsgehalt des Tests ist riesig. Idee: Informationsgehalt des Tests bestrafen. IG( L, x) GainRatio ( L, x) SplitInfo ( L, x) SplitInfo ( L, x) L x L log 2 L x L 25

26 Beispiel: Info Gain Ratio Welcher Split ist besser? [2+, 2-] x 1 [2+, 2-] x [1+, 0-] [1+, 0 -] [0+, 1-] [0+, 1-] [2+, 1 -] [0+, 1 -] IG L, x 1 = 1 SplitInfo L, x 1 = log = 2 GainRatio L, x 1 = 0,5 IG L, x 2 = ,92 = 0,68 SplitInfo L, x 2 = 3 4 log log = 0,81 GainRatio L, x 2 = 0,84 26

27 Algorithmus ID3 Voraussetzung: Klassifikationslernen, Alle Attribute haben festen, diskreten Wertebereich. Idee: rekursier Algorithmus. Wähle das Attribut, welches die Unsicherheit bzgl. der Zielklasse maximal erringert Information Gain, Gain Ratio, Gini Index Dann rekursier Aufruf für alle Werte des gewählten Attributs. Solange, bis in einem Zweig nur noch Beispiele derselben Klasse sind. Originalreferenz: J.R. Quinlan: Induction of Decision Trees

28 Algorithmus ID3 Eingabe: L ( x, y ),...,( x, y ), erfügbare Attribute = ( x1,..., x m ) 1 1 Wenn alle Beispiele in L dieselbe Klasse y haben, dann gib Terminalknoten mit Klasse y zurück. Wenn Menge der erfügbaren Attribute =, Gib Terminalknoten mit häufigster Klasse in L zurück. Sonst konstruiere Testknoten: Bestimme bestes Attribut x j n n arg max IG( L, x * x erfügbar i Für alle Werte dieses Attributs: Teile Trainingsmenge, Lj (xk, yk ) L xk* j Rekursion: Zweig für Wert = ID3 (, erfügbar \ x ). j i ) L j * 28

29 Algorithmus ID3: Beispiel Beispiele x 1 : Kredit > 3 x Einkommen? x 2 : Länger als 3 Monate beschäftigt? x 3 : Student? y: Kredit zurückgezahlt? 1 Ja Ja Nein Ja 2 Ja Nein Nein Nein 3 Nein Ja Ja Ja 4 Nein Nein Ja Nein 5 Nein Ja Nein Ja 6 Nein Nein Nein Ja 29

30 Kontinuierliche Attribute ID3 wählt Attribute mit größtem Informationsgehalt aus und bildet dann einen Zweig für jeden Wert dieses Attributes. Problem: Geht nur für diskrete Attribute. Attribute wie Größe, Einkommen, Entfernung haben unendlich iele Werte. Idee? 30

31 Kontinuierliche Attribute Idee: Binäre Entscheidungsbäume, -Tests. Problem: Unendlich iele Werte für binäre Tests. Idee: Nur endlich iele Werte kommen in Trainingsdaten or. Beispiel: Kontinuierliches Attribut hat folgende Werte: 0,2; 0,4; 0,7; 0,9 Mögliche Splits: 0,2; 0,4; 0,7; 0,9 Andere Möglichkeiten: Attribute in einen diskreten Wertebereich abbilden. 31

32 Algorithmus C4.5 Weiterentwicklung on ID3 Verbesserungen: auch kontinuierliche Attribute behandelt Trainingsdaten mit fehlenden Attributwerten behandelt Attribute mit Kosten Pruning Nicht der letzte Stand: siehe C5.0 Originalreferenz: J.R. Quinlan: C4.5: Programs for Machine Learning

33 Algorithmus C4.5 Eingabe: L ( x, y ),...,( x, y ). Wenn alle Beispiele in L dieselbe Klasse y haben, dann gib Terminalknoten mit Klasse y zurück. Wenn alle Instanzen identisch sind: Gib Terminalknoten mit häufigster Klasse in L zurück. Sonst konstruiere besten Testknoten, iteriere dazu über alle Attribute. 1 1 Diskrete Attribute: wie ID3. Kontinuierliche Attribute: n Wenn bestes Attribut diskret, Rekursion wie ID3. n [ in x* * ] arg max Attribute, Werte L IG( L,[ xi ]) Wenn bestes Attribut kontinuierlich, teile Trainingsmenge: L ( x, y ) L x links k k k* *, L rechts xk, yk ) L Rekursion: linker Zweig= 4.5( Llinks ) x i ( x * 4 rechts C, rechter Zweig= C.5( L ) k* 33

34 Information Gain für kontinuierliche Attribute Information Gain eines Tests [ x ] : IG([ x ]) H( y) p([ x ]) H x] ( y) p([ x ]) H[ x] ( [ y ) Empirischer Information Gain: IG( L,[ x ]) H( L, y) pˆ ([ ]) (, ) ˆ L x H L [ x] y pl([ x ]) H( L [ x], y) 34

35 C4.5: Beispiel x 1 0,7 0,5 0,5 1 1,5 x 2 t x 2 0,5 f t x 2 1,5 f t x 1 0,5 x 1 0,6 f t f t x 1 0,7 f 35

36 Pruning Problem: Blattknoten, die nur on einem (oder sehr wenigen) Beispielen gestützt werden, liefern häufig keine gute Klassifikation(Generalisierungsproblem). Pruning: Entferne Testknoten, die Blätter mit weniger als einer Mindestzahl on Beispielen erzeugen. Dadurch entstehen Blattknoten, die dann mit der am häufigsten auftretenden Klasse beschriftet werden. 36

37 Pruning mit Schwellwert Für alle Blattknoten: Wenn weniger als r Trainingsbeispiele in den Blattknoten fallen Entferne darüberliegenden Testknoten. Erzeuge neuen Blattknoten, sage Mehrheitsklasse orraus. Regularisierungsparameter r. Einstellung mit Cross Validation. 37

38 Reduced Error Pruning Aufteilen der Trainingsdaten in Trainingsmenge und Pruningmenge. Nach dem Aufbau des Baumes mit der Trainingsmenge: Versuche, zwei Blattknoten durch Löschen eines Tests zusammenzulegen, Solange dadurch die Fehlerrate auf der Pruningmenge erringert wird. 38

39 Umwandlung on Bäumen in Regeln Pfad durch den Baum: Bedingung der Regel Klasse: Schlussfolgerung Pruning on Regeln: Testen, welche Bedingungen weggelassen werden können, ohne dass die Fehlerrate dadurch steigt. 39

40 Umwandlung on Bäumen in Regeln Ausblick sonnig bewölkt regnerisch Luftfeuchtigkeit Ja Wind hoch normal stark schwach Nein Ja Nein Ja R 1 = Wenn Ausblick = sonnig Luftfeuchtigkeit = hoch, dann kein Tennis spielen R 2 = Wenn Ausblick = sonnig Luftfeuchtigkeit = normal, dann Tennis spielen R 3 = Wenn Ausblick = bewölkt, dann Tennis spielen R 4 = Wenn Ausblick = regnerisch Wind = stark, dann kein Tennis spielen R 5 = Wenn Ausblick = regnerisch Wind = schwach, dann Tennis spielen 40

41 Entscheidungsbäume aus großen Datenbanken: SLIQ C4.5 iteriert häufig über die Trainingsmenge Wie häufig? Wenn die Trainingsmenge nicht in den Hauptspeicher passt, wird das Swapping unpraktikabel! SLIQ: Vorsortieren der Werte für jedes Attribut Baum breadth-first aufbauen, nicht depth-first. Originalreferenz: M. Mehta et. al.: SLIQ: A Fast Scalable Classifier for Data Mining