Neuro-Info Notizen. Markus Klemm.net WS 2016/2017. Inhaltsverzeichnis. 1 Hebbsche Lernregel. 1 Hebbsche Lernregel Fälle Lernrate...

Transkript

1 Neuro-Info Notizen Marus Klemm.net WS 6/7 Inhaltsverzeichnis Hebbsche Lernregel. Fälle Lernrate Neural Gas. Algorithmus Was macht ein Neuron Trainingsalgorithmus Self-organizing Feature Maps Multilayer-Perceptron (MLP) 5 4 Grundprinzipien des SNG 7 Hebbsche Lernregel w neu xy = w alt xy + w xy () w xy = η o x a y () Notation: w xy... Gewicht zwischen Neuron x (Sender) und Neuro y (Empfänger) w xy... Gewichtsänderung η... Lernrate, sinnvollerweise [; ] o x... Ausgabe des Neurons x a y... Ativierung des Neurons y h(, )g(, )... beliebige Funtionen. Fälle. o x a y w xy = eine Gewichtsänderung Verbindung wird nicht verstärt. o x > a y > w xy > Gewicht wird adaptiert Verbindung prägt sich aus

2 . Lernrate. Konstante Wahl η... große Sprünge auf den Fehlergebrige/-Funtion enge Minima werden Übersprungen Optima werden verpasst. η... langsame onvergent lernen dauert lange η = η(t) verändert über Zeit, beginnen mit großen Werten und enden mit Kleinen Wo sind jetzt eigentlich die Vetoren Gewicht w R n Eingangsgrößen x R n Problemstellung I: unsupervised learning unüberwacht heißt eine Trainingsgrößen. Um diese Daten weiter verarbeiten zu önnen entweder alle Daten speichern und mitschleifen Repräsentaten wählen Was ist ein Neuron? Prof. Böhme: einzelne Gewichte in Summenfuntionen, Ausgabe als nicht lineare Funtion w = (w, w, w n ) T Kohonen: nur das Gewicht!elf im selbem Raum wie Eingaberaum Neural Gas. Algorithmus (Trainings-) Initialisierung: Starte mit zufälligen Neurozentren w R n ( K) Anlegen eines Eingabemusters x(t) R n (t T ) Abstandsmessung: Für jedes Neuron w bestimme x(t) W Bestimmen des Best-Matching Neurons w b i : x(t) w i x(t) w b Erstelles einer Liste von Neuronen sortiert nach ihrer Distanz zum Datenpunt x(t) Ziel: Nährere Neuronen stärer beeinflusst Adaption der Neuronen (Gewichte) i wi neu = wi alt + w i w i = η h i (x(t) w i ) Wiederholung(ab nach Initialisierung), einmal für alle Datenpunte sog. Trainingsepoche und dann noch bis zufrieden bzw. onvergent Nachteile: Sortieren der Liste Rechenaufwand Löcher in der Abbildung, da ein Zusammenhalt der Neuronen Nachbarschaften önnen sich jederzeit ändern

3 .. Was macht ein Neuron z i = w 3 x i + y Θ = (Geradengleichung) in der Form: y = mx + n x = w 3 x + Θ Beispiel Neuron 3 soll logische UND Abbildung lernen x x t ( ) Trainingsdaten: Ziel: Punt der Klasse x = von Punten der Klasse zu separieren linear separierbares Problem, durch lineare Disriminanzfuntion lösbar. ( ) x Punte x =, die auf der Geraden G liegen, gilt z x 3 =. Wir vereinbaren nichtlineare Transferfuntion y 3 = f(z 3 ) = { für z3 für z 3 < Gesucht NW-Parameter (Gewichte und Schwellen) mit denen Neuron 3 Gerade G bildet w 3,, Θ x = w 3 x + Θ aus Sizze ablesbar n =, 5, m =. Anstieg von G wird durch das Verhältnis w 3 bestimmt: Annahme w 3 = =, Θ =, 5 ( ) ( ), 5 Probe: für x =, x.5 = z 3 ( x ) ( = ) +, 5, 5 = ; z 3 ( x ) =, 5 +, 5 = x 3 = : z 3 = +, 5 =, 5 y 3 = ( ) x 4 = : z 3 = +, 5 =, 5 y 3 = Schwelle von G bewort eine Verschiebung von G aus dem Koordinatenursprung oder anders: bewirt eine Verschiebung des Arbeitsbereiches des Neurons entlang der z-achse in der Funtion y = f(z) Wenn Θ ansteigt, muss das Salarprodut W T X größer werden, um diese zu erreichen bzw zu überschreiten. Z = W T X Θ Schritt : Initialisiere die Parameter zufällig, z.b. aus Intervall [ ; ] Schritt : nehme Trainingsdaten und wende Training-Alg. an.. Trainingsalgorithmus Ziel Parameter so adaptieren, dass Differenz (das Delta) zwischen vorgegebener Ausgabe t und der tatsähclichen NW-Ausgabe y minimal wird. Einfachste Variante: Delta-Lernregel 3

4 w ij = η x i (t j y j ) iterative Anwendung der Delta-Lernregel erfolgt für das einschichtige Perceptron (Rumelhard/McClelland 965) Perceptron liefert linearen Klassifiator ann eine nicht linear trennbaren Bereiche repräsentieren, z.b. XOR-Abbildung Problem Wie trainiert man ein mehrschichtiges Perceptron? z.b. schichtiges Perceptron Eingang;Hidden-Schicht;Ausgabeschicht Idee: den Fehler am NW-Ausgang zur Adaption aller Parameter nutzen Fehlerfuntion E als Funtionen jedes einzelnen Parameters notieren Minimum dieser Funtions mittels iterativem Gradientenabstiegs suchen Fehlerfuntion E p ( X p, W ) = = K (t y ) in dieser Funtion ist die Abhängigeit von jedem einzelnen Parameter durch eine Verettung der Funtion z(x) und y(z) enthalten E(w j ) : E = f(y ); y = f(z ); z = f(w j ); E(y (z (w j ))) E(w ij ) : E = f(y ); y = f(z ); z = f(y j ); y j = f(z j ); z j = f(w ij ); E(y (z (y j (z j (w ij ))))) { für z um stetige Differenzierbareit zu gewährleisten ersetzen wir für z < durch y = +e z..3 Self-organizing Feature Maps Initialisierung: Starte Netz it zufälligem Neuronenzentren w R N ( ) Def. Gitterstrutur t : Anlegen des Eingabemusters x(t) R N Abstandsmessung: w bestimme x(t) w Bestimmen des Best-Matching-Neurons w b : i : x(t) w i x(t) w b Adaption der Neuronen wi neu i : w i = η h bi (x(t) w i ) = w alt i + w i 4

5 3 Multilayer-Perceptron (MLP) Topologie y bias =! Für Neuronen 5 bis 9: Salarprodutativierung y i = +e z i x = t = ( t8 t 9 ) = ( ) Wir initialisieren alle PArameter mit! w 5 = w 6 = w 7 = ; w 8 = w 9 = w B5 w 5 z.b. w 5 = w 5 w 35 ; w 8 = w 45 w B8 w 58 w 68 w 78 ; η =, Aufgabe Ausgaben y 8 und y 9 für x bestimmen x = ; y # = y 5 y 6 y 7 Berechnung der Ausgabe der Hiddenschicht: z 5 = W 5 T X = y 5 = =, 5 +e z 6 = W 6 T X = y 6 =, 5 z 7 = W 7 T x = y 7 =.5 y # = z 8 = W 8 T y# = y 8 =, 5 z 6 = W 9 T y# = y 9 =, 5 ( ) y8 Wir nutzen die Differenz zwischen t & zur Adaption der Gewichte. Differenz/Fehlerfuntion E = (t i y i ) i am Ausgang E(y(z(w))) für jeden einzelnen Parameter w von Hidden zur Ausgabeschicht E(y(z(y(z(w))))) Parameter von Eingabe zur Hiddenschicht y 9 5

6 Idee Gradientenabstieg w = η ( w ) w ( t + ) = w(t) + w(t) Bestimmung von w : für Gewichte Hidden Ausgang w j y : = t y y z (t y ) y = z w j (t t y + y ) y = ( t + y ) = (y t ) y z : +e z b z = (+e z ) z = ( ) ( ) e z (+e z ) (+e z ) = e z + (+e z )(+e z ) = + e z y y ( y ) z w j : y w + + y j w j + + y 7 w J wj = y j (Kante zwischen 5 und 8) w j mit j = 5, = 8 (Wichtig i = [; I], j = [; J], = [; K]) w j = (y t ) y ( y ) y j F (z )= y z z w j y Parameter von Eingabe zur Hiddenschicht = y y z z y j = y ( (t y ) ) y = y j z j (y t ) y ( y ) y z z j = (y (z (y j (z j (w ij ))))) w j y j ( y j ) z y j y j z j y i z j (t t y + y ) y = (y t ) w ij = (t y ) y ( y ) w ij y j ( y j ) δ δj ( )( ) [ ] w j = (t y )y ( y )y j η y i η ( )( ) w j Knoten einer (beliebigen) Hiddenschicht gilt: Fehler berechnet sich aus gewichteter Summe der Fehler der jeweils vorgelagerten Schicht und das Ganze multiplziert mit der Ableitung der Transferfuntion. (y = f(z) e z + + e z = ( y ) 6

7 [ Btw Abstände x n := ( i x i ) n ] 4 Grundprinzipien des SNG Reiner Vetorquantisierer eine apriori-festlegung der Anzahl der Referenzvetoren zusätzlich zum Distanrang der Referenzvetoren bzgl. des atuellen Stimulus Definition der Nachbarschaft mit Hilfe einer Graphenstrutur Nachbar eines Knoten i: Sind alle Knoten, die mit i durch eine Kante verbunden sind jeder Knoten verfügt über Zahähler z mit dessen Hilfe der Einfügeprozess gesteuert wird Zählt wie oft Neuron Bm-N Wieiviele Daten das Neuron gesehen hat jede Kante besitzt einen Alterparameter γ der das Löschen von Kanten steuert (und damit implizit das Löschen von Knoten) Restruturierung der Toplologie Knoten die sehr lange nicht SBM-N (Second best matching neuron) oder in direter Nachbarschaft waren, sterben aus Adaption der Referenzvetoren erfolgt bei jeder Musterpräsentation Adaption der Topologie erfolgt jeweils nach vorgegebner Anzahl von Trainingsparametern Bestandsaufnahme der bisherigen Verfahren Prototypen zur Datenrerpsäentation Klassengrenzen Varonoi-Resionen es fehlt: Klassenlabel für Prototypen Künnen wir das einfach hinzufügen 7