3. Neuronale Netze Prof. Dr. Rudolf Kruse University of Magdeburg Faculty of Computer Science Magdeburg, Germany

Transkript

1 3. euonale etze Po. D. Rudol Kue Unvety o Magdebug Faculty o Compute Scence Magdebug, Gemany udol.kue@c.un-magdebug.de S

2 euonale etze Bhe: KI von oben : Modelleung ene ntellgenten Agenten duch algothmche Realeung von betmmten Apekten atonalen Handeln. Jetzt: KI von unten : achbldung de Stuktu und de Veabetungmechanmen de Gehn (gob): vele Pozeoen (euonen) und Vebndungen (Synapen), de paallel und lokal Inomatonen veabeten. S

3 atülche (bologche) euonen 3 S

4 Konventonelle Rechne v. Gehn Compute Human Ban Computatonal unt CPU, 5 gate neuon Stoage unt Cycle tme 9 bt RAM, bt dk -8 ec. neuon, 4 ynape -3 ec. Bandth 9 bt/ec 4 bt/ec euo update/ec S

5 Konventonelle Rechne v. Gehn Beachte: Hnchaltzet langam ( -3 ), abe Update eolgen paallel. Dagegen baucht de eelle Smulaton au enem Rechne mehee hundet Zyklen ü Update. Votele natülche neuonale etze: - Hohe Veabetunggechndgket duch mave Paalleltät. - Funktontüchtg elbt be Auall von Telen de etze (Fehletoleanz). - Langame Funktonauall be otchetenden Auällen von euonen. (Gaceul Degadaton). - Gut geegnet ü nduktve Lenen. E echent dahe nnvoll, dee Votele natülche neuonale etze küntlch nachzuahmen. 5 S

6 euonale etze Vom mathematchen Standpunkt: euonale etze al Methode, Funktonen zu epäenteen: duch etzeke von enachen Beechnungelementen (veglechba mt logchen Schaltkeen), de au Bepelen gelent eden können. (Schtee n dee Voleung!) Vom bologchen Standpunkt: euonale etze al tak veenachte Modell de Gehn und ene Funktonee: Konnektonmu (cht n dee Voleung!) 6 S

7 3. Pezepton Pezepton (Schellenet-Elemente) E gbt ene ganze Rehe vechedene Möglchketen S-R-Agenten zu mplementeen (letztendlch epäentet en olche Agent ene Funkton) Im Folgenden betachten ü dee Zecke en Pezepton ( thehold logc unt, TLU). 7 S

8 En Pezepton x x x Σ n x Akton ( ode ) gechtete Summe Schelle θ x 4 Fomale Denton: ( x,..., x ) all : n a ont. n x θ, x ( ),...,, x n θ 8 S

9 Pezepton: Veenachte Datellung x ( x, K, x n, Setzt man x n : und n -θ, o ehält man mt und de beonde enache Datellung: n (, K,, θ ) ) ( x), all x, ont. Bepel (äquvalente Datellungen): x θ,5 x x x -.5 x x.5 9 S

10 Geometche Intepetaton Gechtvekto: Schellenet: Engabevekto: Augabeet: Tennende Hypeebene: θ x (, K, n ) ( x, K, x n ),all x θ, ont. ( x) x θ S

11 Geometche Intepetaton x θ ϕ x x θ θ negatv, all Upung au de Sete de Ebene, n de de omalvekto zegt, potv ont. x θ >, all x au de Sete de Ebene legt, zu de de omalenvekto zegt. x S

12 Geometche Intepetaton En Pezepton kann genau de Menge de lnea epaablen Funktonen datellen. AD t lnea epaabel und omt duch en Pecepton datellba: x x x x x x S

13 Geometche Intepetaton De Bmplkaton t ncht lnea epaabel und e gbt omt ken Pezepton, da de geade Patät al Funkton beechnet: x x g(x, x ) x x E gbt kene Tenngeade, de den Löungaum autelt 3 S

14 Bmplkatonpoblem Löung: Zuammenchalten mehee Schellenetelemente beechnet y x x x x beechnet y y y 3 y x x beechnet y x x 4 S

15 Geometche Deutung Geometche Deutung de Zuammenchalten mehee Schellenetelemente zu Beechnung de Bmplkaton: d g g c b ac x y g 3 a b d x y 5 S

16 3. Lenveahen ü Pezepton Poblemtellung Gegeben: Ene Lentchpobe L{(x, d ),...,(x n, d n )} von Mekmalen mt zugehögen Aktonen. Man pcht auch von ene Tanngmenge, de von enem Lehe gegeben ude (übeachte Lenen; upeved leanng). Geucht: Ene Funkton :{,} n {,}, de zu de Tanngmenge pat. 6 S

17 3.3 Taneen enzelne Pezepton Bem Taneen eden de Gechte und de Schellenet de TLU o veändet, da ü de Elemente de Lentchpobe x de vogegebene Wet d und de von enem Pecepton tatächlch beechnete Wet (möglcht) gut übeentmmen. De kann man eechen, n dem man den quadatchen Fehle mnmet. ( x, K, n, θ Lenen entpcht alo ene Optmeungaugabe. ε ( x, d ) ( d ( x) ) L m ) ( d ) 7 S

18 Gadentenabtegveahen En typche Optmeungveahen t da Gadentenabtegveahen. W ählen ene veenachte Veon, be de ncht glechzetg ü alle Elemente de Lentchpobe, onden de Fehle de Rehe nach (nkementell) mnmeen. Idee: Betmmung de Abhänggket de Fehle von den Gechten duch Beechnung de patellen Abletungen: ε (d ) Anchleßend Beechnung neue Gechte nach: abla Opeato : ε ε obe c ene Lenate t, de de Schttete de Abteg n Rchtung de Gadenten etlegt: ( neu) ( alt) : c ε ε,..., ε n 8 S

19 Gadentenabtegveahen Gadentenabtegveahen anchaulch: Zu edem Gechtvekto gehöt en Fehleet. Man hat alo en Fehlegebge übe dem duch de Gechte augepannten Raum. Bem Gadentenabtegveahen geht man von enem gegebenen Punkt n deem Gebge olange talät, b man ene Talohle eecht hat. Poblem: Je nach Fehlegebge und Statpunkt kann man n lokalen Mnma hängen bleben (ehe Skzze) 9 S

20 Gadentenabtegveahen Gaphche Veanchaulchung: ε : : : :..... :... S

21 Gadentenabteg ü Pezepton Fehle: Gadent: ε ε ( d ) ε,..., ε ε x ε n ( d ) x De Fehle hängt vom Gechtvekto übe da Skalapodukt mt dem Engangvekto ab (da x ) (da x) Poblem: ε t ncht tetg deenzeba (egen de Schellenete) S

22 Delta-Regel Fehle Koektu-Veahen (Delta-Regel): Ene Ändeung de Gechtvekto d nu m Falle ene Fehle vogenommen. E d ene Lenate c> engeüht. E glt: ( x), all x, ont. Algothmu: () Intaleung von (zuällg ode geetzt) () ε : () Fü ede Element (x,d) de Lentchpobe eden olgende Schtte duchgeüht: S

23 ε Betmme ü,..., n: Betmme neue Gechte: Delta-Regel (Algothmu) : ε ε x ( x, d ) ( d ) ( d ( )), c x, c x all d all, all ( d) ( x) ( x) ( x) und d und d. ( : θ -,, θ ) n x Beachte, n - n : )( ) ( x, d (v) ε mnmal then end ele ete mt () 3 S

24 Delta-Regel (Anmekungen) De Beechnung de delta-wete lät ch allgemen auch cheben al bz. al Vektoen c ( d ) x, all d ( x, d ) c ( d ) x, ont. Ot odet man al Abbuchbedngung nu ε klene al ene vogegebene Schanke. En Duchgang heßt Lenpeode. Fü lnea epaable Lentchpoben temnet dee Algothmu. 4 S

25 Delta-Regel (Bepel AD) Lenvogang ü AD leet x x d Intaleung: ach dem Lenen: x θ x x θ 3 x (ene von velen möglchen Löungen!) 5 S

26 Delta-Regel (Bepel AD) x x x ε θ θ Epoche d y S

27 Delta-Regel (Bepel AD) Geomete de gelenten Schellenetelemente ü De echt gezegte Geade hat de Glechung x x x x 3 x 3 y x 7 S

28 Pezepten n de Gd-Wold move eat x and x ( 3 ) 4 5 x x Dee Pecepton leet genau dann, enn de Robote nach Oten gehen oll: ,5 x x S

29 Lendatenatz ( nach Oten gehen ) Man kann Gechte anhand von Bepelen elenen (he lohnt da ncht, nu be komplexen Bepelen mt unbekannten Funktonen): S

30 Lendatenatz ( nach Oten gehen ) Engabenumme Senodaten-vekto x x (move eat) 3 S

31 Veallgemenete Delta-Regel Idee: Eetze de Schellenunkton duch ene -ömge (gmode) deenzebae Funkton, e z.b. de logtche Funkton: E glt he: ( ) e ( ) 3 S

32 3 S Veallgemenete Delta-Regel Genaue Abletung: ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 4 Abletung nnee Abletung äußee e e e e e e e e e e e

33 Veallgemenete Delta-Regel Gaph von (-): (-) /4 Wkung: ahe an de duch den Gechtvekto bechebenen Hypeebene t de Ändeung tak, ete davon entent geng (be glechem Fehle). 33 S

34 Veallgemenete Delta-Regel Fü den Fehlegadenten ehält man omt: ε alt : c d ( d ) ( ) x We be de Delta-Regel ehält man damt ene neue Schätzung ü : neu Hebe d ene vaable Lenate c engeüht, mt de man de Ändeungtäke entellen kann. Wetee Vebeeungen de Lenveahen nd möglch. ( ) ( ) x 34 S

35 Delta-Regel (Bepel) Onlne-Lenvogang ene Schellenetelemente ü de egaton mt Stateten 3 θ, und Lenate x θ θ Epoche x d y e,5 -,5 -,5,5 - -,5 -,5 -,5,5 - -,5 3 -,5 -,5 -,5,5 4 -,5 - -,5,5 - -,5-5 -,5 - -,5 - -,5 -,5-6,5 -,5 - -,5 -,5 - θ 35 S

36 Delta-Regel (Bepel) Batch-Lenvogang ene Schellenetelemente ü de egaton mt Stateten 3 θ, und Lenate. Epoche x d x y e θ θ,5 -,5 -,5 - -,5 -,5 - -,5,5 3 -,5 -,5 - -,5 4 -,5 - -,5 -,5 5,5,5 - -,5-6 -,5 - -,5 -,5-7,5 -,5 -,5-36 S

37 3.4 Mehchchtge Pezepton Im Falle ncht epaable Funktonen veendet man mehchchtge euonale etze. Bepel: Funkton gleche Patät ( x x ) ( x x ) ( x ), x x,5 -,5 x - -,5 Zechchtge euonale etz euonen n de eten Schcht eden auch al vebogene ode nnee euonen bezechnet 37 S

38 Mehchchtge Pezepton Popagaton m Bepel: ( x x ) ( x x ) ( x ), x Engabe euon I euon II euon III Augabe Engabe Augabe Engabe Augabe Engabe Augabe x,5 -,5 x - -,5 38 S

39 Mehchchtge Pezepton Denton: En k-chchtge Pecepton beteht au k Schchten, obe n de Schcht de m euonen mt Sgmoden de Augabe x leen, x t de Engabe, de Augabe, t de Gechtvekto de -ten Sgmod n de Schcht, obe de letzte Komponente eel de Schellenet t. W nennen de Summe de Aktveung de gmoden euon. x 39 S

40 Mehchchtge Pezepton Ete Schcht -te Schcht (k-)-te Schcht k-te Schcht x () x () x () x (k-) M M M () () M () δ l () () M () M () δ ( ) (k-) M M (k-) (k-l) ( k ) δ l (k) (k) (k) (k) ( k ) δ m Sgmode m Sgmode m (k-) Sgmode 4 S

41 Lenen n mehchchtgen etzen En pezelle Tanngveahen heßt Backpopagaton (de Fehle d duch da etz zuückgechckt). Idee: Analog Gadentenabteg d en Fehlegadent beechnet. Heletung de Veahen: Fehle ü Augabechcht: ε ( d ) Gadent: ε ε ε ε,...,,...,, l m, obe de l - te komponente von l t 4 S

42 4 S Backpopagaton (Heletung) ( ) ( ) ( ) ( ) ( ) und omt ab übe nu von hängt d x d d x d x x x ε δ δ ε ε ε ε ε : ( ) ( ) geamte etz genommen.) da ü ene Lenate t.(meten d en Wet obe neuen Gechte : Beechnung de alt neu c x c : δ

43 Backpopagaton (Heletung) Gechtändeungen n de Augabechcht: Anmekungen: k δ k : ( d ) ( d ) ( ) k c k k ( ) ( ) k d x Glt be (logtche) gmode Funkton mt Ba (egen zuätzlche Engabe θ) u en Wet, dahe kene Indce; ont e be veallgemenete Deltaegel 43 S

44 44 S Backpopagaton (Heletung) Gechtändeungen n vebogene Schcht: De Summand mu noch beechnet eden. Betachte hezu zunächt: (γ t de Index übe de enzelnen Vektoelemente) ( ) l m l l m l l l d δ δ l m l m l l x x γ γ γ γ γ γ

45 45 S Backpopagaton (Heletung) Somt ehalten en ekuve Glechungytem zu Beechnung de : Und chleßlch zu Beechnung de neuen Gechte: ( ) ( ) l m l l m l γ γ γ γ γ γ γ γ γ γ γ γ ont, ü da δ ( ) ( ) ( ) d k l m l l δ δ δ und : x c δ

46 Backpopagaton Bepel: (etz mt zuällg geneeten Gechten) x x x gmodale euonen ( egen x 3 Engabe) e x S

47 Backpopagaton (Bepel) Lentchpobe: Popagaton: {((,,),),((,,),),((,,),),((,,),)} (),, Backpopagaton: :88,,5;,655 δ,48; δ c ;,47; δ (,935; ;,47) (,74;3;,96),74 (,87;,74;,48 ) 47 S

48 Eekt de Lenate Anmekungen zum Eekt de Lenate: E zu klen: zu langam lenen neu alt zu goß: PngPong Eekt 48 S

49 Egenchaten von euonalen etzen können genealeen, d.h. Vektoen klazeen, de ncht n de Tanngmenge enthalten nd. Man kann de Güte de Genealeung meen. Analoge: Funktonappoxmaton Mtteleg, Occam azo zu enach, chlechte Güte zu komplzet, ken Fehle, Daten auendg gelent, ot chlechte Genealeung, ovettng 49 S

50 Vogehenee bem Lenen Lentchpobe Tanngmenge Valdeungmenge Mt Tanngmenge (ca. /3 de Daten) Gechte lenen. Mt Valdeungmenge Güte chätzen. Co Valdaton: Lentchpobe n n dunkte Menge telen. Jeel ene Menge al Valdeungmenge und n- Mengen zum Tanng veenden. De n out-o ample eo danach mtteln. Bepele: euonale etze eden n vechedenten Gebeten e Gechtekennung ode Böenpognoen engeetzt. auch m Data Mnng genutzt (Sehe z.b. uneen Atkel n Spektum de Wenchaten, ov., ab S. 8) 5 S