Kapitel 4: Lernen als Optimierung. Maschinelles Lernen und Neural Computation

Transkript

1 Kaptel 4: Lernen als Optmerung 71

2 Lernen als Funktonsoptmerung Gegeben: Fehlerfunkton (.a. neg. log Lkelhood) n z.b.: 2 E E ( ) ( ( ) W = f x ; W t ) n = 1 ( ) ( ( ) ( = + ) ( ( W t log f x t f x ) n ; W 1 log 1 n; W = 1 x out Gesucht: Gewchte (Parameter), de Funkton mnmeren Klassscher Fall von Funktonsoptmerung Optmerungstheore 72

3 Fehlerflächen Für Mnmum glt: E E E Gradent E =,, K, = 0 w1 w2 w l 2-dm- Bsp.: Rosenbrock-Funkton, Mnmum be [1 1] Flache Täler möglch, aber auch Sattelpunkte, stele Mnma, etc. 73

4 Gradent der Fehlerfunkton Optmerung basert auf Gradentennformaton: E w = E x x out out w Betrag der Fehlerfunkton Betrag des Netzes Backpropagaton (nach Bshop 1995): effzente Berechnung des Gradenten (Betrag des Netzes): O(W) statt O(W 2 ), sehe p.146f st unabhängg von der gewählten Fehlerfunkton 74

5 Gradentenabstegsverfahren Enfachstes Verfahren: Ändere Gewchte drekt proportonal zum Gradenten klasssche Backpropagaton (lt. NN-Lteratur) Endpunkt nach 100 Schrtten: [-1.11, 1.25], ca flops Langsam, Oszllatonen und sogar Dvergenz möglch 75

6 Gradentenabsteg mt Momentum Momentum= Träghet Δ W + = η E + αδ n 1 W n Endpunkt nach 100 Schrtten: [0.52, 0.26]; ca flops Dämpft manche Oszllatonen, erzeugt aber neue, beschleungt (verglechbar mt rollender Kugel), mmer noch Dvergenz möglch 76

7 Zel: Schrtt bs ns Mnmum n der gewählten Rchtung Approxmaton durch Parabel (3 Punkte) Ev. 2-3 mal wederholen Lne Search Endpunkt nach 100 Schrtten: [0.78, 0.61], ca flops 77

8 Konjugerte Gradenten Problem des Lne Search: neuer Gradent st normal zum alten Nmm Suchrchtung, de Mnmerung n vorherger Rchtung bebehält d t d t+1 w t+1 w t Wesentlch gezelteres Vorgehen Endpunkt nach 18 Schrtten: [0.99, 0.99], ca flops Varante: skalerter konjugerter Gradent 78

9 Entsprcht Parabolod Quadratsche Approxmaton Annäherung der Fläche um enen belebgen Punkt: E T ( w) = E( w *) + ( w w *) E( w *) + ( w w *) H( w w *) + K E H 1 E 1 2 H : ( H) j E = w w Hesse sche Matrx (alle 2. Abletungen) Annäherungswese: w* = w H 1 E Newton Rchtung, zegt drekt Rchtung Mnmum (wenn Fläche quadratsch) Newton Methode j 79

10 Quas-Newton Rechenaufwand für Hesse Matrx enorm Quas-Newton: approxmert de Inverse der Hesse Matrx In Umgebung des Mnmums sehr zelführend In anderen Gegenden kann es auch schlechter sen Errecht her (!) als enzge Methode wrklch das Mnumum Endpunkt nach 34 Schrtten: [1 1], ca flops 80

11 Mehrere Mnma Alle vorgestellten Verfahren snd lokale Optmerer Globale Optmerer: Genetsche Algorthmen, Stochastc Annealng Es kann mehrere (lokale) Mnma geben! Verschedene Mnma können verschedenen Tellösungen entsprechen mehrere Durchläufe mt verschedenen Intalserungen Aber: es gbt auch äquvalente Mnma (durch Permutaton der Hdden Unts und Vertauschen der Vorzechen): M!2 M äquvalente Mnma (be M H.U.) 81

12 Zusammenfassung Gradentenbaserte Verfahren snd mächtge lokale Optmerer Klasssches Backpropagaton (Gradentenabsteg) st das schwächste davon Aber: Backprop heßt effzente Berechnung des Gradenten für neuronale Netze Auch 2. Abletung (Krümmung) nutzbar Drngende Empfehlung: (skalertes) konjugertes Gradenten- oder Quas-Newton-Verfahren verwenden! 82