Hannah Wester Juan Jose Gonzalez

Transkript

1 Neuronale Netze Supervised Learning Proseminar Kognitive Robotik (SS12) Hannah Wester Juan Jose Gonzalez

2 Kurze Einführung Warum braucht man Neuronale Netze und insbesondere Supervised Learning?

3 Das Perzeptron Eingänge i1 und i2 Gewichte ω1 und ω2 Schwellwert θ (Bias) Binärer Ausgang o = (ω1i1 + ω2i2 θ)

4 Das Perzeptron

5 Das Perzeptron Trainingsphase Training durch Änderung der Gewichte θ wird oft als fester Eingang i0 = 1 mit variablem Gewicht ω0 definiert Überwachtes Lernen: Lernen durch Abarbeiten eines Trainingssets Aufbau eines Trainingssets: Festgelegte Eingänge mit gewünschten Ausgängen Ein Durchlauf durch ein Trainingsset nennt man Epoche

6 Das Perzeptron Lernregeln Hebb Regel Verstärkendes Lernen Pfade zwischen aktiven Eingängen und aktiven Ausgängen werden verstärkt Lernrate ε: Grad der Verstärkung Δωi = ε ii o bzw Δωij = ε ii oj

7 Das Perzeptron Lernregeln Delta Regel Korrigierendes Lernen Die Gewichte werden proportional zur Differenz zwischen gewünschten und aktuellen Ausgängen verändert Δωi = ε ii (ō o) bzw Δωij = ε ii (ōj oj)

8 Das Perzeptron Lernregeln Delta Regel Beispiel Eingang i1 Eingang i Ausgang o Lernrate ε: 0.2 Gewichte zu Beginn: Alle 1.0 Gewichte nach 2 Epochen: ω0 = 1.0, ω1 = 0.8, ω2 = 1.2

9 Das Perzeptron Lernregeln Epoche 1 i1=0/i2=0 i1=0/i2=1 i1=1/i2=0 i1=1/i2=1 ω ω ω Epoche 2 i1=0/i2=0 i1=0/i2=1 i1=1/i2=0 i1=1/i2=1 ω ω ω

10 Das Perzeptron Ausführungsphase Überprüfung: wurde das Trainingsmaterial erfasst? Überprüfung: kann das trainierte Netz auch weitere, ähnliche Problemstellungen lösen? Nicht gewünschte Ausgaben: neues Trainingsset, weiter trainieren

11 Das Perzeptron XOR Problem Neues Beispiel für Delta Regel: Eingang i Eingang i Keine Lösungsfindung möglich! Ausgang o

12 Lineare Trennbarkeit sum = ω1i1 + ω2i2 θ ω1 θ i 2 ω 2 ω 2 i1 Geradengleichung Gerade trennt Eingaberaum in Eingaben die null liefern und Eingaben die eins liefern

13 Lineare Trennbarkeit Trennbarkeit für Beispiel1 gezeigt

14 Lineare Trennbarkeit Trennbarkeit für Beispiel2 nicht möglich!

15 Mehrschichtige Netze Zusätzlich versteckte Schichten (Hidden Layers) Beliebig viele Ein und Ausgänge Gerichtete Graphen nur von niedrigeren auf höhere Schichten: Feedforward Netze Zyklische Feedback Netze

16 Mehrschichtige Netze

17 Nichtlineare Netze Inputfunktionen: Summe: net j = ω ij i i Produkt: net j = ω ij i i Maximum: net j =max (ω ij i j ) Minimum: net j =min(ω ij i j ) i i

18 Nichtlineare Netze Aktivierungsfunktionen f (net i )=a i { 1 falls net i θ 0 sonst Lineare Schwellwertfkt: ai = Fermi Funktion: 1 ai = net 1+e i

19 Nichtlineare Netze Outputfunktion f(ai) = oi: Identität: Schwellwertfunktion: oi =a i { 1 falls a i 0 oi = 0 sonst

20 Nichtlineare Netze

21 Backpropagation Algorithmus, um auch die Gewichte zwischen versteckten Schichten trainieren zu können Forward Pass: Berechnen des Ausgangs Fehlerbestimmung: Ausgang = gewünschter Ausgang? Backward Pass: Modifizieren der Gewichte

22 Backpropagation 1 2 E= (ō j o j ) Fehlerfunktion 2 j Ableiten der Fehlerfunktion, um das Minimum zu finden Gradientenabstiegsverfahren

23 Backpropagation Gradienten abstiegsverfahren im dreidimensionalen Raum

24 Backpropagation Gradientenabstieg im zweidimensionalen Raum Vergrößern des Gewichtes, bis lokales Min. gefunden

25 Backpropagation Verallgemeinerung der Delta Regel: E Δ ω ij = ε ω ij Umformen der Partiellen Ableitung: E E o j net j = ω ij o j net j ω ij

26 Backpropagation Verallgemeinerung der Delta Regel: E Δ ω ij = ε ω ij Umformen der Partiellen Ableitung: E E o j net j = ω ij o j net j ω ij

27 Backpropagation W e g e n net j = ω ij i i und oi = f (net i ) ergibt sich: i net j oi =i i u nd = f ' (net i ) ω ij net i oj in Ausgabeschicht: 1 E 1 2 = ( (ō j o j ) )= 2 (ō j o j )( 1)=(ō j o j ) oj oj 2 j 2

28 Backpropagation oj in versteckter Schicht: E E net k = oj k net k o j E E = ω i = ω jk ik i k net k o j i k net k E =δ j Δ ω ij =ε δ j i i net j

29 Backpropagation Verallgemeinerte Delta Regel: Δ ω ij =ε δ j i i mi t f ' (net j )(ō j o j ) falls o j in Ausgabeschicht δ j= f ' (net j ) δ k ω jk falls o j in versteckter Schicht { k

30 Lösung XOR Problem

31 Probleme von Backpropagation Die Struktur muss vorher definiert werden Sehr langsame Lernphase Mehrere tausend Epochen sind üblicherweise nötig: Gradientenabstiegsverfahren über E/ ω langsame Konvergenz beim Minimum Alle Neuronen werden gleichzeitig trainiert möglicherweise erkennen mehrere die gleiche Eigenschaft (keine homogene Verteilung)

32 Beschleunigte Backpropagation Verringert die nötigen Schritte zur Konvergenz zum Minimum der Fehlerfunktion Beispiel: Backpropagation with Momentum ω basiert nicht nur auf den aktuellen Werten, sondern auch auf vorherigen Änderungen Neue Formel: ωij (t)= ε(δ j oi )+α ωij (t 1)

33 Cascade Correlation Das Netz wird nach Bedarf aufgebaut, es gibt keine vordefinierte Struktur Jedes Neuron wird einzeln trainiert und bezieht sich auf das Ergebniss aller vorigen Bessere Erkennung der Eigenschaften des Inputs Bei den Trainingsschritten müssen nur die Outputwerte des neuen Neurons neu berechnet werden, alles andere ist konstant Benutzung von Caches möglich

34 Cascade Correlation Aufbau

35 Cascade Correlation Aufbau

36 Cascade Correlation Aufbau

37 Cascade Correlation Training Ziel: Maximierung der Korrelation S zwischen den Ausgangswerten der Kandidaten und dem Fehler der Ausgangsneuronen Korrelation: S = o E p, o avg ( E o )) (o p, k avg (ok ))( p Änderung der Gewichte: S ωik =ε =ε σo ( E p, o avg ( E o )) f ' p (o p, i ) ωik o p

38 Cascade Correlation Training Mehrere Kandidaten werden gleichzeitig trainiert höhere Wahrscheinlichkeit, ein optimales Neuron zu finden Der beste Kandidat wird in das Netz eingefügt und die Gewichte der Ausgangsneuronen mit einem geeigneten Algorithmus (Delta Regel, Backpropagation with Momentum, etc) angepasst

39 Cascade Correlation Training Mögliche Optimierungen Kandidaten mit verschiedenen Aktivierungsfunktionen Anwendung von Verbesserungen wie z.b. bei Backpropagation with Momentum beim Trainieren der Kandidaten Schnellere Maximierung von S

40 Cascade Correlation Performanz Das Two Spirals Problem Benchmark für überwachte Lernalgorithmen Bestehend aus 194 (x,y) Inputs mit dazugehörigen Outputs (1 oder 1) Komplex wegen der Nichtlinearität der Werte

41 Cascade Correlation Performanz Das Two Spirals Problem

42 Cascade Correlation Performanz Das Two Spirals Problem Training

43 Cascade Correlation Performanz Das Two Spirals Problem Training

44 Cascade Correlation Performanz Das Two Spirals Problem Training

45 Cascade Correlation Performanz Das Two Spirals Problem Training

46 Cascade Correlation Performanz Das Two Spirals Problem Training

47 Cascade Correlation Performanz Das Two Spirals Problem Training

48 Cascade Correlation Performanz Das Two Spirals Problem Training

49 Cascade Correlation Performanz Das Two Spirals Problem Training

50 Cascade Correlation Performanz Das Two Spirals Problem Training

51 Cascade Correlation Performanz Das Two Spirals Problem Training

52 Cascade Correlation Performanz Das Two Spirals Problem Training

53 Cascade Correlation Performanz Das Two Spirals Problem Training

54 Cascade Correlation Performanz Das Two Spirals Problem Training

55 Cascade Correlation Performanz Das Two Spirals Problem Ergebnisse Trainingsepochen bis zum korrekten Ergebnis: Cascade Correlation: durchschnittlich 1700 Epochen Modifizierte Version von Backpropagation: bis Epochen Quickprop Algorithmus mit Verbindungen aus allen vorigen Layers: 8000 Epochen

56 Fragen?