Kapitel 2, Teil 2: Basiswissen Neurobiologie und Modelle neuronaler Netze Prof. Dr. Bernd J. Kröger

Transkript

1 Inhalt Kapitel 2, Teil 2: Basiswissen Neurobiologie und Modelle neuronaler Netze Prof. Dr. Bernd J. Kröger Zum Begriff: Neurobiologie Aufbau des Nervensystems Neuronen: Die Basiseinheiten der Informationsverarbeitung Einfache neuronale Netze, Lernen und neuronale Repräsentationen Neuronale Selbstorganisation: Kohonen-Netze Das Konnektom Neuronale Oszillatoren Lernmechanismen in neuronalen Netzen

2 Copyright Copyright and all rights therein for the figures available in this document are maintained by the authors or by other copyright holders. The texts and figures made available here are purely meant for ensuring timely dissemination of scholarly and technical work on a non-commercial basis. It is understood that all persons accessing, storing or copying the information in this document will adhere to the terms and constraints invoked by each copyright holder. These works may not be reposted without the explicit permission of the copyright holder. Copyright Die in diesem Vorlesungsskript enthaltenen Abbildungen sind selbst entwickelt aber auch zum Teil der in der Einführung genannten und weiterer Literatur entnommen. Die Nutzung dieser Abbildungen ist daher nur zu Zwecken des Studiums erlaubt. Eine Weitergabe oder Vervielfältigung der Texte und Bilder zu anderen Zwecken ist nicht erlaubt. Alle Rechte liegen beim Autor dieses Vorlesungsskriptes. Alle Rechte vorbehalten.

3 Neuronen = Nervenzellen Nervenzelle: kann auf Input reagieren (Input: Umweltreiz oder bereits ein elektrischer Impuls) Nervenzelle ist erregbar; kann elektrische Signale weitertransportieren Grundeinheit der biologischen Informationsverarbeitung und - weiterleitung (Zellkörper) Grundeinheit der Wahrnehmung und Grundeinheit zur Generierung und Ausführung einer (Re-)Aktion Rezeptorzelle höhere Zelle

4 Neuronen = Nervenzellen Nervenzelltypen: Rezeptorzellen (peripher): visuell, auditiv, somatosensorisch: sensorischer Input Motoneuronen -> Muskelkontraktion: Output verarbeitende Nervenzellen (zentral: kortikale Neuronen; ohne Spezialisierung: Alleskönner) ca Billion/Milliarde ( ) allein im Großhirn Jedes mit ca anderen Neuronen verbunden -> Trillion Verbindungen Motoneuron Rezeptorzelle höhere Zelle

5 Primäre und höhere Kortexregionen Milliarden kortikale Neuronen mit kortiko-kortikalen Verbindungen ; primäre Areale (dunkelgrau), höhere Areale : unimodale (hellgrau)oder heteromodale (weiss) Assoziationsareale Assoziation = neuronale Verbindung Nur Millionen primär sensorische und primär motorische Neuronen (0,1% aller kortikalen Neuronen) Also: vor allem: Assoziationen zwischen kortikalen Neuronen!

6 Aufbau einer zentralen Nervenzelle Dreiteilung: Zellkörper/-kern: Zentrum der Informationsverarbeitung; Berechnungseinheit (Summation) und Einheit zur Impulsauslösung; Entscheidung, ob gefeuert wird oder nicht Dendriten: baumartige Verzweigungen, die zum Zellkern führen; diese sammeln an den Synapsen (=Kontaktstellen zu anderen Neuronen) Eingangsinformation von anderen Neuronen (-> können erregen oder hemmen) Axon: Weiterleitung des Impuls-Signals zu nachfolgenden Neuronen; ein Neuron kann viele Dendriten haben aber nur ein langes Axon, das erst spät verzweigt; und: gerichtete Weiterleitung des Impulses: immer nur in eine Richtung Rezeptorzelle höhere Zelle

7 Neuronale Impulse Die Kodierung von Information: Feuern oder Nichtfeuern eines neuronalen Impulses ( spike ) zu einem bestimmten Zeitpunkt Immer, wenn Zellpotential einen definierten Wert (Aktionspotential) überschreitet Alles oder Nichts-Prinzip: Es gibt nur den Unterschied zwischen 0 ( kein Impuls; ca. -70mV) oder 1 (Impuls vorhanden ca. +30 mv); Impuls hat konstante Ampitude (ca. 100 mv) aufgrund ständiger chemischer Diffusionsprozesse des Zellkerns in seine Umgebung (Na -/K-Ionen) sinkt Zellpotential stetig ( leak )-> brauche Input! Refraktärzeit: Das Neuron benötigt ca ms zur Erholung -> also: max Impulse pro Sekunde pro Neuron Erholungszeit kortikaler Pyramidenzellen: ca. 10 ms Bsp.: auditives System: Mehr als ein Neuron zur Amplitudenkodierung einer Frequenz Parallele Haarzellen pro Frequenzposition

8 Neuronale Impulse Frequenz Bsp.: auditives System: Mehr als ein Neuron zur Amplitudenkodierung einer Frequenz Parallele Haarzellen pro Frequenzposition

9 Synapsen Axone präsynaptischer Neuronen docken an Dendriten oder direkt an den Zellkörper des postsynaptischen Neurons; Bei Ankommen eines präsynaptischen Impulses: Auslösen von Neurotransmittermolekülen aus den präsynaptischen Bläschen (Vesikel) Einpassen der Neurotransmitter-Moleküle in die Oberfläche der postsynaptischen Dendriten oder Zellkerne -> führt zur Änderung des elektrischen Potentials im postsynaptischen Neuron Je nach chemischem Prozess: Es kann entweder eine erregende (exzitatorische) oder aber eine hemmende (inhibierende) Wirkung entstehen: -> positive oder negative Änderung des Potentials in der postsynaptischen Zelle

10 Wann feuert ein Neuron? Also: Wie funktioniert die Informationsverarbeitung im Zellkern? Ein Impuls entsteht, wenn die Summe der Inputimpulse so hoch ist, das die für das Neuron spezifische Reizschwelle (Aktionspotential) überschritten wird Im statistischen Modell (Knotenmodell): definiere Aktivierungsfunktion: Beispiel: bei Summe der Knoten-Aktivierung von +2 -> entsteht: Feuerrate(-wahrscheinlichkeit) von 90% Also: Aktivierung a j = net j : ist die Summation aller erregenden und hemmenden Impulse o i * w ij aus allen Knoten i an den Knoten j: net j ; w ij ist dabei das Verbindungsgewicht zwischen den Zellen i und j; es resultiert die Feuerrate o j aus Aktivierung (Erregungsrate) a j des Knotens. pro Zellkern (Knoten): Wahrscheinlichkeit des Feuerns = Aktivierung des kerns a j Summe der Eingangsaktivierung: net j W ij aus {-1 1}

11 Wann feuert ein Neuron? Szenario: 2 präsynaptische Neuronen mit unterschiedlicher Feuerrate (unterschiedlich intensivem Eingangssignal) Eine Synapse wirkt erregend, die andere hemmend Das postsynaptische Neuron wird am Axon elektrophysiologisch abgeleitet : Messung der Impulse Fälle: Stärkere Erregung als Hemmung: starke Erregung, starkes Feuern Gleichstarke Erregung und Hemmung -> sehe Spontanaktivität: spontanes Feuern des Neurons (auch immer dann, wenn kein Inputsignal anliegt!) Stärkere Hemmung als Erregung: bis zum völligen Ausbleiben des Feuerns

12 Weiterleitung des neuronalen Impulses Ein vom Neuron generierter Impuls basiert auf elektrochemischen Prozessen in der Zelle (De- /Repolarisation in Zellkern) die Weiterleitung entlang des Axons: ebenfalls: chemischer De-/Repolarisationsprozess -> langsam (25m/s = 90km/h und höher) Der Impuls entlang des Axons ist gerichtet Myelinhülle ist beim Neugeborenen noch nicht ausgebildet -> da noch keine Weiterleitung Die Zuleitung eines präsynaptischen Impulses via Dendriten hingegen: elektrischer Prozess: mit Lichtgeschwindigkeit ; also schnell ( m/s)(Schall: 350 m/s = 1200km/h) Myelinhülle ist notwendig!

13 Computersimulation eines Knotens Das Zeitintervall zur Summierung (Integration) von Input-Impulsen kann sein: 20 ms bis mehrere 100 ms; Das synaptische Verbindungsgewicht zweier Knoten i und j (w ij ) kann jeden Wert zwischen -1 1 (volle Hemmung volle Erregung) annehmen; Aktivierung des Knotens a j : ist: Summenbildung (net j ) der Eingangs-Impulsraten a j = net j = i=1 N (w ij * o i ) w ij mit i=1 N: Verbindungsgewichte aller n Synapsen der Knoten i zum Knoten j dann: Feuerrate (Impulsrate) o j : via: Aktivierungsfunktion f (z.b. logistische Funktion oder hier: binäre Schwellwert-Funktion): o j = f (a j ) Abb: es wird immer gefeuert, wenn die (Eingangs-)Aktivierung über 0.8 liegt Wahrscheinlichkeit des Feuerns Schwellenwert: net j = 0.8 binäre Schwellenwert-Funktion Summe der Eingangsaktivierung

14 Modellneuron: spikes vs. rates Ersetze Einzelimpulse, die über das Axon weitergeleitet werden durch eine Impulsrate a j = ( t Einzelimpulse ) / t in einem bestimmten Zeitintervall t (zeitliche Integration) Also: Aktivierung eines Modellneurons (oder Knotens) ist immer eine Aktivierung in einem bestimmten Zeitintervall; Summation der eingehenden Einzelimpulse über ein definiertes Zeitintervall -> Impulsrate Dies ist das STAA-Modell: spatio-temporal activation averaging räumliche Integration: ein Knoten summiert über ein Bündel nebeneinanderliegender (natürlicher) Neuronen: Neuronensemble Dies sind: einfache Neuronenmodelle: konnektionistische Modelle Später: spiking neuron models ;

15 Kodierung von Werten und Zuständen Ein (Input-)Wert wird in einem Knoten von ca. 100 Neuronen kodiert (auch: Neuronensemble) Wert: z.b. Amplitudenwert einer Frequenzgruppe, einer Muskelaktivierung Ensemble von 100 Neuronen gewährleistet Dynamikbereich von bis zu 120 db Ein Zustand (perzeptiv, motorisch oder kognitiv) wird durch einen Vektor von Werten repräsentiert und neuronal in einem Neuronbuffer oder in einer neuronalen Karte kodiert Perzeptiver Zustand: auditiver Eindruck eines Vokals, einer Silbe Motorischer Zustand: Motorplan einer Silbe kognitiverzustand: phonologische Repräsentation einer Silbe, Konzeptrepräsentation eines Wortes, Verteilte und lokale Repräsentation von Zuständen: -> in vielen Karten sind Zustände durch verteilte Aktivierungen repräsentiert (verteilte Repräsentationen) <- motorische, sensorische, phonologische Repräsentation -> es gibt auch Karten, in denen ein Zustsand durch die Aktivierung nur eines Neuronensembles repräsentiert sind: lokale Aktivierung (lokale Repräsentation) <- z.b. die sich selbst organisierende semantische oder phonetische Karte (P-MAP, S-MAP)

16 distributed neural representation: motor distributed neural representation: auditory motor plan map phonetic map (SOM) phonemic map auditory map somatosensory map execution sensory processing vocal tract model

17 local neural representation: phonetic phonemic map motor plan map phonetic map (SOM) auditory map somatosensory map execution sensory processing vocal tract model

18 Knoten Neben der zeitlichen Integration wird auch über den Raum gemittelt: Hypothese: Ein Knoten ( node ) repräsentiert eine kortikale Säule, d.h. mehrere nebeneinander und untereinander liegende kortikale Neuronen Untereinanderliegende kortikale Schichten gehören jeweils zu einem Knoten / einer Säule / einem Neuronensemble und definieren eine Input-/Output-Wert (Intensität) Abb.: Zwei Knoten in unterschiedlichen Arealen (d.h. in unterschiedlichen neuronalen Buffern), z.b. Input-/Output-Zustand, z.b. kognitiver Zustand (Vektor von Werten ist: ein Zustand)

19 Reiz-Reaktions-Netzwerke Warum organisieren sich nun Knoten zu neuronalen Netzwerken? Ein Neuron: (z.b. Seeanemonen = Blütentiere): ein Neuron vereinigt Rezeptor- und Motorneuron: Eine Reizung der Oberfläche (Afferenz) führt zu einer spezifischen Muskelkontraktion (Efferenz); -> es passiert immer die gleiche Reaktion Zwei Neuronen: (etwas Komplexere Organismen, z.b. Quallen): sehr schnelle Reaktion; direkte Verbindung eines Rezeptorneurons mit Motoneuron; kein Umweg über Kortex -> ebenfalls: es passiert immer die gleiche Reaktion Dann: Netzwerke ohne Zwischenschicht: Inputbuffer, Outputbuffer Netzwerke mit Zwischenschicht: Inputbuffer, hidden buffer (kortikal) Outputbuffer

20 Reiz-Reaktions-Netzwerke Der Mensch zeigt normalerweise komplexe Reiz-Reaktions-Schemen: unterschiedliche Reaktionen eines Muskels auf unterschiedliche Reizmuster dazu notwendig: eine zwischengeschaltete interne Repräsentation spezifischer Umweltaspekte (spezifische Reizmuster durch jeweils ein Neuron repräsentiert ) Interne Repräsentationen sind in neuronalen Zwischenschichten realisiert; beim Menschen: hauptsächlich in der Großhirnrinde

21 Einfaches zweischichtiges Netzwerk Am bekanntesten: das sogenannte Perzeptron: ist nur vorwärtsgerichtet: Inputschicht: Rezeptorneuronen; Outputschicht: repräsentiert eine Zwischenschicht (= interne Repräsentation; denn: motorische Reaktion wird nicht realisiert!) Jedes Neuron der Inputschicht ist mit jedem Neuron der Zwischenschicht assoziiert Mögliche Lösung (als Resultat eines Lernprozesses): zu leisten vom Netzwerk (nachtraining): Input Output

22 Einfaches zweischichtiges Netzwerk Bsp: Vokalidentifikation Inputschicht: kortikal: Formantmuster (4 Neuronen mit Sensibilität jeweils um 300, 600, 1200, 2400Hz; besser: bark-skalierte Frequenzskala) Zwischenschicht: phonologische Repräsentation eines Vokals (bei Aktivierung eines Knotens ist der entsprechende Vokal vom Hörer erkannt worden (3 Neuronen) Lösung der Aufgabe durch Einstellen der Verbindungsgewichte und der Aktivierungsfunktion (hier: Output des Knotens bei Aktivierung a i > 0.8: also: Stufenfunktion oder Schwellenwertfunktion) Mögliche Lösung (als Resultat eines Lernprozesses): zu leisten vom Netzwerk (nachtraining): Input Output

23 Basis-Eigenschaften neuronaler Netze Neuronale Netze kodieren nicht direkt Regeln (wenn -> dann ); Netzwerke erfassen Regeln intuitiv ; Das Wissen steckt in der Vernetzung der Knoten : In der Stärke der Verbindungen und ob hemmend oder erregend Neuronale Verarbeitung als parallel distributed processing PDP ; es passiert: Parallelverarbeitung in parallelen räumlich verteilten Netzen (das ist schon beim kleinen Perzeptron so) Input Output

24 Basis-Eigenschaften neuronaler Netze Parallele Verarbeitung ist deutlich schneller als serielle Verarbeitung, da alle Neuronen zeitlich parallel operieren können (Perzeptron: Summation des Input und Berechnung des Output parallel in 3 Neuronen) Real: eher Input-Neuronen auf 100 interne Neuronen -> 100 parallele Summationen über Inputwerte Parallelverarbeitung auch übergeordnet: z.b. sensorische, motorische, kognitive Verarbeitung parallel (BG-Thal Schleife -> parallele Sequenzen von Aktionen?) Input Output

25 Fest verdrahtete Netzwerke Netze mit von vorn herein festgelegten (festen) Verbindungsgewichten vs. dynamisch lernende Netzwerke (trainierte Netze), d.h. langsame Änderung der Verbindungsgewichte Vorteil der festen Verdrahtung: Das Netzwerk funktioniert von Geburt an Wahrnehmung von Gefahr -> Reaktion zur Überlebenssicherung Wahrnehmung von Nahrung -> Aktion: Nahrungsaufnahme Bsp: Zecke: Perzeption von warm (Neuron In1)+ Buttersäure (Neuron In2)-> fallen lassen (Output: Neuron Out1) bei Reiz-Schwellenwert teta >1.5 Feste Verdrahtung setzt voraus: alle Verbindungsgewichte müssen in DNA gespeichert sein (also vererbt sein); DNA des Menschen enthält nur begrenzte Information (Genom; merke: Info, die auf einer CD Platz findet; ca. 800 MByte); -> die Speicherung der Verbindungsgewichte 1000 x 10 Billionen Neuronen (Mensch) wäre nicht möglich erfolgt nach der Geburt durch Lernen Zecke: das ist auch die logische AND-Funktion

26 Trainierte oder lernende Netzwerke Alle kortikalen Netzwerke des Menschen sind Vorteile des Lernens: Sehr viele unterschiedliche Reiz-Reaktions-Muster lernbar; damit auch mehr Flexibilität und Differenzierbarkeit: Eine größere Vielfalt an Reaktionen -> mehr Reaktionsmöglichkeiten (Flexibilität an einem Zeitpunkt) Möglichkeit der Adaption an sich ändernde Umweltbedingungen (Flexibilität als Änderungen der Reaktionsmöglichkeiten über die Zeit) viel mehr Wissen speicherbar als via DNA möglich Nachteil: Das sich entwickelnde (lernende) Wesen benötigt länger Schutz durch Eltern (Lehrer)

27 Kognitive vs. sensomotorische Netze Kognitive Netze: Verarbeitung von abstrakten Einheiten (z.b. mentales Lexikon, phonologische Ebene des Silbenspeichers): ein Zustand (z.b. Lexem, Konzept, Phonem, distinktives Merkmal) wird durch jeweils EINEN Knoten repräsentiert (local representation) real: mehrere räumlich benachbarte Neuronen, damit der Ausfall eines Neurons keine gravierenden Folgen hat -> neuron ensemble ) Wohl existieren in einem kognitiven Netz mehrere Knoten nebeneinander die unterschiedliche Zustände repräsentieren; in diesem Netztyp ist somit immer nur ein Knoten aktiviert

28 Kognitive vs. sensomotorische Netze Sensorische und motorische Netze: Ein Zustand (z.b. ein auditives Muster für /i/, /a/, /u/) wird als Aktivierungsmuster auf einer definierten Menge von Neuronen repräsentiert; diese definierte Menge von Neuronen realisiert eine verteilte (distributed) neuronale Repräsentation von auditiven, somatosensorischen oder motorischen Mustern Die neuronalen Verbindungen zwischen zwei sensorischen oder motorischen Repräsentationen aber auch zwischen einer kognitiven und einer sensorischen oder motorischen Repräsentation ist immer dicht : jedes Neuron einer Repräsentationsebene ist mit jedem Neuron der anderen Repräsentationsebene vernetzt; Mögliche Lösung: In-Output-Muster (Trainingsitems):

29 Lernen Wie können sich synaptische Verbindungsgewichte ändern? Ein Verbindungsgewicht wird um so größer (d.h. eine synaptische Verbindung wirkt um so erregender bei konstantem präsynaptischem Impus), je öfter das prä- und postsynaptische Neuron gleichzeitig erregt sind (Hebb sche Lernregel) Lernen bedeutet aber nicht nur Veränderung von bereits bestehenden Gewichten sondern beim jungen Menschen auch überhaupt erst die Schaffung von neuronalen Verbindungen. Einbeziehung der Zeit: STDP spike time dependent plasticity : Synaptisches Verbindungsgewicht wird gestärkt, wenn kurz nach dem Eingang des präsynaptischen Impulses das Neuron feuert (also kausaler Zusammenhang) Synaptisches Verbindungsgewicht wird gemindert, wenn kurz vor dem Eingang. (also nicht kausal) Nutzung des komplexeren STDP erlaubt dann auch negative synaptische Verbindungsgewichte zwischen 0-1 (Inhibierung, Hemmung)

30 Lernen Beispiel: die akustische Vokalidentifikation: Jedes Trainings-Item wird ca. 100 mal randomisiert angelegt (300 Lernschritte mit Hebb scher Lernregel) Lernen erfolgt langsam (Delta-Regel): die Verbindungsgewichte können sich in jedem Lernschritt nur langsam ändern : 0; 0,05; 0.1, 0,15 sonst wird nicht dazugelernt: Hohe Lernrate 0.9 gibt immer wieder Probleme, wenn /u/ nach /i/ angelegt wird: das Verbindungsgewicht unten links nach oben rechts oszilliert Niedrige Lernrate: das Netzwerk kann generalisieren: alle Stimuli bzw. deren Systematik lernen Mögliche Lösung: In-Output-Muster (Trainingsitems):

31 Die Delta-Regel Bilde Zeitintervalle t mit T Zeitpunkten t 1, t 2,, t = t k+1 - t k = const. (Lernschritt) Aktuelle Knotenaktivierungen: Inputschicht: s i, i = 1,,N; (s wie Stimulus) Outputschicht: a j, j = 1,, M ; Beispiel: N = 4 (Spektrum); M = 3 (Phonem) Gewünschter Output (überwachtes Lernen): A j, j = 1,, M Delta Regel: w ij (t k )= w ij (t k+1 ) w ij (t k ) = L(t k ) * s i *(A j a j (t k )) mit L(t): Lernrate um 0.1 oder geringer und sinkt mit der Zeit (mit dem Alter) Durch Lernen wird aktueller Output zu gewünschtem Output: a i -> A i.. in kleinen Schritten Mögliche Lösung: Trainings-Items:

32 Lernen Anfang: Ich habe ein definiertes Netzwerk für eine Aufgabe Es sind unterschiedliche Netzwerktopologien denkbar Unterschiedliche Netzwerktypen; z.b. unterschiedlich viele Zwischenschichten,... unterschiedliche Anzahl von Neuronen in den Zwischenschichten Anfang: Die Verbindungsgewichte sind im Netzwerk zufällig verteilt (oder eher bei Wert 0, d.h. es gibt noch keine Verbindungen) Benötige eine Trainingsmenge zum Lernen; diese sollte die wichtigste Information enthalten; der Mensch bekommt aber nicht selektiere beste Information (ideale Trainings-Items) zum Lernen; darum: spielen ist wichtig; interaktive Kommunikation ist wichtig -> das Baby (der Mensch)muss sich geeignete LernStimulation organisieren! Fragen: Welche Lernverfahren existieren?

33 Lernverfahren Überwachtes Lernen (supervised): Trrainings-Items: jedem Input wird der richtige Output gegenübergestellt ist biologisch selten: wenn das Baby gesprochene Sprache hört, kann es diese nicht in Wörter segmentieren und kennt die Wortbedeutungen nicht; aber z.b. Babbelphase: habe auditiven Eindruck via Feedback und kenne die zugehörige Artikulation Teilüberwachtes Lernen (reinforcement): ist der biologische Normalfall: es gibt nur dann positives Feedback (Bestärkung), wenn die Netz-Ausgabe richtig ist; kein Feedback, wenn die Ausgabe falsch ist; z.b. beim Spracherwerb: Bestärkung durch Mutter (Caretaker) bei einem erkannten Wort Nicht überwachtes Lernen (unsupervised): (( wie lerne ich das Gehen? )) Wie lerne ich Dinge visuell oder auditiv zu erkennen bzw. zu unterscheiden? dies Lernverfahren wird bei sich selbst organisierenden Netzen angewendet (Kohonen-Netze)

34 Generalisierung Erfolgreiches Training bedeutet: Das Netzwerk kann generalisieren (= das Netzwerk umfasst das in der Trainingsmenge enthaltene Wissen; seine Gesetzmäßigkeiten) Wie erreiche ich die Generalisierung? Gute Trainingsdaten (Repräsentation des gesamten Wissens; aller Gesetzmäßigkeiten) Auf das zu erwerbende Wissen angepasste Netzwerktopologie: Netzwerk darf nicht zu klein aber auch nicht zu groß sein Langsame (stetige) Änderung der Verbindungsgewichte: zu schnelles (detailliertes) Lernen verhindert die Generalisierung; Bei ständig schneller Änderung der Verbindungsgewichte würde das Gelernte nicht behalten (gespeichert), da die alten Verbindungsgewichte (die bereits gelernten Stimuli) immer wieder vergessen werden

35 Zwei Netze zum Üben: auditives Muster -> phonologische Repräsentation (Laut) phonologische Repräsentation (Laut) -> motorisches Muster (Lage der Zunge) Lege die Stimuli reihum an; erhöhe der Verbindugsgewichte bei Koinzidenz immer um 0.1 Auditive Repräsentation zu Laut: Mögliche Lösung: Trainings-Items: Laut zu motorischer Repräsentation: Mögliche Lösung: (hoch) Trainings-Items: (tief)

36 Lernphase vs. Nutzphase eines Netzes In biologischen Systemen kann die Lernphase nicht klar von der Nutzphase des Netzwerkes (Nutzung des Netzwerkes z.b. zur Lauterkennung nach dem Lernen) getrennt werden Ein Grund: bei jedem neuen Input wird auch gelernt: Der Mensch lernt, auch wenn er ein Netzwerk nur (noch) nutzen will. Lernen ist bereits der Versuch der Nutzung (siehe Imitation von Wörtern) Nur die Geschwindigkeit des Lernens kann gesteuert werden -> durch die Lernrate Diese muss zum erfolgreichen Lernen sowieso bereits gering sein ( ) Die Lernrate nimmt mit dem Lebensalter ab; darf abnehmen, wenn das System die Umwelt (die Mensch-Umwelt-Interaktion diente als Trainingsmenge) gelernt hat

37 Babbel- und Imitationsphase Früher Spracherwerb kennt 2 Phasen: Babbel- und Imitationsphase Babbelphase: beliebig (randomisierte) motorische Befehle gehen an den Sprechapparat; das Baby hört, was sich daraus akustisch/auditiv ergibt -> Lernen des auditivmotorischen Zusammenhangs (überwachtes Lernen) Dieses Lernen ist implizit: es benötigt Training : die motorischen Muster müssen immer und immer wieder ausgeführt werden

38 Babbel- und Imitationsphase Imitationsphase: Mutter gibt Wörter vor und das Kind spricht diese nach Expliziter Teil des Lernens: Lexikoneintrag: Kopplung eines Konzeptes mit (auditiver, später: ) phonologischer Form Speichern der Assoziation zwischen auditivem Input und Wortbedeutung (auch während es Schlafs durch repetitives Anlegen des auditiven Stimulus und der mit dem Stimulus verbundenen Wortbedeutung via Hippocampus) -> benennbares Wissen Impliziter Teil des Lernens: die motorische Realisierung eines Wortes muss immer wieder geübt werden (Ausführungstraining) -> Verfeinerung der während des Babbelns gelernten Fähigkeiten

39 Netzwerk-Typen Einfache vorwärtsgerichtete zweischichtige Netzwerke (links und rechts) Zwei zweischichtige Netzwerke zusammen bilden ein dreischichtiges Netzwerk -> mit einer versteckten Schicht Diese versteckte Schicht wird später als sich selbst organisierende Schicht gelernt -> Kohonen-Netzwerke Auditiver Input Perzeptron Laut (Phonem) Artikulotron Laut Motorplan (Phonem) mit binärer Schwellwertfunktion (Stufenfunktion) mit linearer Schwellwertfunktion (Intervall 0.2 bis 0.8)

40 Warum Zwischenschichten? Warum sind einfache Netzwerke mit mehr als zwei Schichten nützlich? Zwischenschichten ermöglichen die Reduktion von neuronalen Verbindungen (siehe Bsp.) ohne aber die Performanz (und damit die Generalisierungsfähigkeit) des Netzwerkes einzuschränken Also: kleinere Netze mit gleicher Performanz Hintergrund: Durch die Erkennung von übergeordneten Konzepten (Zwischenschicht) wird die Problemlösung erleichtert) Amerikanische Version der Rotkäppchen-Geschichte (mit Holzfäller)

41 Warum Zwischenschichten? Immer, wenn Kategorisierung sinnvoll ist Oben: keine Zwischenschicht -> keine Kategorisierung: evtl. schlechte Funktion Unten: Zwischenschicht: nur noch kategoriale (wischtige) Zustände werden realisiert kombiniertes Netzwerk: Trainingsitems: einzelne Netzwerke: Auditiver Input Perzeptron Laut (Phonem) Artikulotron Laut Motorplan (Phonem)

42 Wdh.: Knoten, Ensembles und Buffer Knoten = Neuronensemble: repräsentiert einen Input-Output-Wert Buffer: verteilte Repräsentation (sensorisch, motorisch) oder: ein interner Buffer (versteckte Schicht) Neuronales Netzwerk: Neuronale Verbindung von Buffern inkl. Buffer einzelne Netzwerke: Auditiver Input Perzeptron Laut (Phonem) Artikulotron Laut Motorplan (Phonem)

43 Typen von Repräsentationen Sensorische (motorische) Repräsentation (-> verteilte neuronale Repräsentationen; viele Neuronen sind aktiv zur Repräsentation eines Zustandes) Kognitive (höhere) Repräsentation (-> lokale neuronale Repräsentationen: nur ein Neuron ist jeweils aktiviert; ein Neuron repräsentiert einen Zustand) Visuell: akustisch: kognitiv: Neuronales Bild : 35 Neuronen repräsentieren einen aktivierten Zustand Neuronales Spektrogramm : Vier Neuronen repräsentieren einen aktivierten Zustand Kognitiver Zustand: immer nur ein Neuron repräsentiert einen Zustand (ein Konzept, ein Phonem.)

44 Ein quantitatives neuronales Modell Mentales Lexikon, Silbenspeicher und artikulatorisch-akustisches Modell; zwei Typen von neuronalen Karten: Sich selbst organisierende neuronale Karten: S-MAP und P-MAP (semantische und phonetische Karte): ein Neuron repräsentiert einen Zustand (Wort, Silbe); Langzeitgedächtnis neuronale Zustandskarten: momentane semantische, phonologisch, auditorische, somatos., motorische Zustände) Kurzzeitgedächtnis: jeder Zustand erregt ein neuronales Muster über die gesamte Karte Sensomotorik: dichte neuronale Vernetzung motor. audit. somatos.

45 SOM vs. neuronale Zustandskarten Auditive und motorische Zustandsmuster: auf den gleichen neuronalen Karten werden zu verschiedenen Zeiten verschiedene Zustandsmuster abgebildet; hier: die Silbe ist (rechts) Dagegen: SOM: phonetotop geordnet: ein Knoten = ein Zustand (langfristig) Die Zustandsmuster sind in den Verbindungsgewichten zwischen den Knoten des SOM und den Knoten der Zustandskarten langfristig gespeichert Oszillogramm Bark-skaliertes Sonagramm auditorische Zustandskarte [? I s t ] motorische Zustandskarte Cin1 V1 Cfin1 Cfin2 velcl glottop glottcl pulm

46 SOM vs. neuronale Zustandskarten SOM: phonetotop geordnet: ein Knoten = ein Zustand (langfristig); Habe hier 4 Silbenfelder mit gleicher Anordnung der Vokale Die Zustandsmuster (rechts) sind in den Verbindungsgewichten zwischen den Neuronen des SOM und den Neuronen der Zustandskarten langfristig gespeichert (exzitatorisch: 0.1) auditorische Zustandskarten: jeder Knoten in der Karte stellt immer wieder die gleiche Funktion Neuronen dar (Frequenz-Zeit), nur jeweils kurzfristig pro Item (Zustand) aktiviert!