Vereinfachte Neuronenmodelle

Transkript

1 Vereinfachte Neuronenmodelle (Integrate & Fire, künstliche neuronale Netze) Computational Neuroscience Jutta Kretzberg

2 (Vorläufiges) Vorlesungsprogramm !! Motivation !! Neuronale Kodierung sensorischer Reize !!! Auswertung neuronaler Antworten !!! Variabilität neuronaler Antworten !!! Passive Eigenschaften von Neuronen !! Räumliche Struktur von Neuronen !! Aktive Eigenschaften von Neuronen !! ausgefallen !!! Das Hodgkin-Huxley Modell !! Das Integrate-and-Fire Modell und kurze!!!!!! Einführung in Neuronale Netze !!! Lernen in Neuronalen Netzen !! Synaptische Übertragung und Plastizität !! Dendritische Verarbeitung !! Zwei Modelle retinaler Verarbeitung

3 Programm für heute: Vergleich von Neuronenmodellen veschiedener Komplexität Integrate & Fire Neuronenmodell Idee künstlicher neuronaler Netze Grundlegende Verschaltungsmuster in neuronalen Netzen

4 Modellierung neuronaler Aktivität Integration von Eingangssignalen (synaptische oder Rezeptorpotentiale) Auslösen von Aktionspotentialen Zwei Hauptaspekte: 1. Modellierung des Verhaltens einzelner Zellen 2. Modellierung von Netzwerken

5 Modellierungsansätze abnehmende Komplexität Betrachte räumlich getrennte Untereinheiten der Zelle: Compartmental Model Betrachte die Zelle als Ganzes: Hodgkin- Huxley Betrachte die einzelnen Verarbeitungsschritte getrennt von einander: Integrate and Fire Betrachte die Arbeitsweise ganzer Netzwerke, ohne die einzelne Zelle genau zu modelieren: Künstliche neuronale Netze

6 Grundlage für die Modellierung von Einzelzellen: Passive Membran innen; Ui ie ie = ic + ir ic Rm ir U(t) Um(t) ic = Cm du(t)/dt Cm ER ir = U(t)/Rm ie außen; Ue

7 Grundlage für die Modellierung von Einzelzellen: Passive Membran Integration mit passiver Membran: du(t) U(t) Iext(t) = -. + dt C R C Diskrete Zeitschritte:. U(t). Iext(t) U(t+1) = U(t)- t. + t C R C Schwelle: Simulationsparameter: Modellparameter: U(t=0), Δt C, R S(t) = 1 wenn U(t)>O, sonst S(t)=0

8 Matlab-Simulation einer passiven Membran Ausgabe: integriertes Membranpotential Eingabe: injizierter Strom I_ext und u sind Vektoren, z.b. I_ext=[ ] function u=integrate(i_ext) %Festlegung von Parametern: C=1; R=25; dt=0.01; u(1)=0; % Kapazitaet in pf % Eingangswiderstand der Zelle in MOhm % Zeitschritte in msec % Ausgangspunkt des Membranpotentials anzpunkte=length(i_ext); %Laenge der Strominjektion bestimmen %Integration mit der Euler Methode: for t=2:anzpunkte u(t)=u(t-1)-dt*(u(t-1)/(c*r))+dt*(i_ext(t)/c); end

9 Grundlage für die Modellierung von Einzelzellen: Passive Membran Integration mit passiver Membran: du(t) U(t) Iext(t) = -. + dt C R C Im(t) Iext(t) = - + C C Diskrete Zeitschritte:. U(t). Iext(t) U(t+1) = U(t)- t. + t C R C Schwelle: Simulationsparameter: Modellparameter: U(t=0), Δt C, R S(t) = 1 wenn U(t)>O, sonst S(t)=0

10 Erweiterung: Aktive Membran C du(t) innen dt = -Im(t)-INa(t)-IK(t)+Iext(t) i m U i Im(t)=gm(t).(U(t)-Er) = U(t)/R INa(t)=gNa(t).(U(t)-ENa) IK(t)=gK(t).(U(t)-EK) c m g m i K g K i Na g Na Hodgkin-Huxley: Er EK ENa Bestimmung von gna(t) und gk(t) mit außen Ue Hilfe der Zustandsvariablen m, n und h

11 Hodgkin-Huxley Gleichungen 4 gekoppelte Differentialgleichungen mit sehr vielen Parametern

12 Compartmental Models Anatomie der Zelle wird nachgebildet Einzelne Abschnitte werden durch Kabeltheorie beschrieben Sehr exakte In Abschnitten mit Spannungsabhängigen Prozessen werden Hodgkin-Huxley Gleichungen verwendet. Beschreibung des Neurons mit sehr vielen Parametern

13 Von der passiven Membran zu Integrate & Fire Integration mit passiver Membran: innen; Ui ie du(t) U(t) Iext(t) = -. + dt C R C i c Cm Rm i r U(t) E R U m (t) Diskrete Zeitschritte: i e außen; U e. U(t). Iext(t) U(t+1) = U(t)- t. + t C R C Idee: Nur Zeitpunkte der Spikes modellieren Umsetzung: Schwelle S(t) = 1 wenn U(t)>θ, sonst S(t)=0

14 Matlab-Simulation eines Integrate & Fire Neurons function s=integrate_and_fire(i_ext) %Festlegung von Parametern: C=1; % Kapazitaet in pf R=25; % Eingangswiderstand der Zelle in MOhm dt=0.01; % Zeitschritte in msec u(1)=0; % Ausgangspunkt des Membranpotentials theta=10; % Feuerschwelle in mv anzpunkte=length(i_ext); %Laenge der Strominjektion bestimmen %Integration mit der Euler Methode: for t=2:anzpunkte u(t)=u(t-1)-dt*(u(t-1)/(c*r))+dt*(i_ext(t)/c); if u(t)>theta % Wenn die Feuerschwelle ueberschritten ist s(t)=1; % wird ein Spike ausgeloest u(t)=u(1); % und das Membranpotential zurueckgesetyt else % sonst s(t)=0; % wird kein Spike ausgeloest. end end

15 Erweiterungen des Integrate & Fire Modells Die Standardform des Integrate & Fire Modells kann zwar viele Aspekte des neuronalen Feuerverhaltens nachbilden, hat aber auch viele Nachteile. Deshalb gibt es als phänomenologische Erweiterungen z.b.: Absolute Refraktärzeit (if-abfrage, die erneuten Spike in der Refraktärzeit verhindert) Relative Refraktärzeit (z.b. indem die Spike- Wahrscheinlichkeit nach Ende der absoluten Refraktärzeit exponentiell ansteigt) Adaptation (z.b. durch Modellierung von Hyperpolarisation nach Auftreten eines Spikes) Stochastische Antworten (z.b. durch eine auf das Membranpotential addierte Zufallszahl)

16 Netzwerke aus Integrate & Fire Neuronen Integrate & Fire Modelle sind einfach genug, um auch große neuronale Netze zu simulieren Künstliche neuronale Netze sind an synaptisch miteinander verkoppelte Neurone angelehnt Es wird ein gekoppeltes Gleichungssystem aufgestellt, bei dem für jedes Neuron die Feuerrate berechnet wird Als Input werden zusätzlich zum injezierten Strom Iext(t) synaptische Eingangssignale verwendet: du(t) U(t) Iext(t) i = -. i + + dt C R C j wij fj(t) C

17 Netzwerke aus Integrate & Fire Neuronen für jedes Neuron i: diskret: du(t) U(t) Iext(t) i = -. i + + dt C R C U(t+1) = U(t)+Δt - U(t) Iext(t) i. i C R + C + j wij fj(t) C.( wij fj(t) ) i j C präsynaptisch postsynaptisch i wij: synaptisches Gewicht von Neuron j zu Neuron i fj(t)=g(uj(t)): Antwort von Neuron j, ermittelt mit stationärer Nichtlinearität g

18 Idee künstlicher neuronaler Netze präsynaptisch postsynaptisch Weitere Vereinfachung der Aktivität von Neuron i: Membraneigenschaften werden vernachlässigt Zeitpunkte einzelner Aktionspotentiale unwichtig häufig auch keine Strominjektion vorgesehen rein phänomenologische Betrachtung der Spikeraten zeitlich diskrete Berechnung i Formel reduziert sich zu: fi(t+1)=g( wij fj(t)) j Notwendige Wahl: Aktivierungsfunktion 1 Parameter pro Verbindung

19 Bedeutung der Parameter künstlicher neuronaler Netze fi(t+1)=g( wij fj(t)) Die Funktion g setzt die gewichtete, summierte Aktivität der präsynaptischen Neurone in eine Feuerrate um. Normalerweise ist g nichtlinear, z.b. eine Sigmoidfunktion. Das synaptische Gewicht wij fasst alle Aspekte synaptischer Übertragung zusammen, z.b.: Die Anzahl Vesikelbindungsstellen Die Wahrscheinlichkeit der Transmitterfreisetzung Den postsynaptischen Effekt eines Transmitterquantum Excitation: wij>0, Inhibition: wij<0 Ziel der meisten Studien: Finden optimaler wij bei festem g j

20 Grundlegende Verschaltungen: 1:1-Verschaltung Die Aktivität eines präsynaptischen Neurons wird gewichtet an ein postsynaptisches Neuron übertragen präsynaptisch postsynaptisch Dabei kann durch Inhibition eine Vorzeichenumkehr stattfinden Bedeutung: 1. Prä- und postsynaptische Zelle haben gleiche rezeptive Felder 2. Topologie-erhaltende Abbildung des Reizortes

21 Grundlegende Verschaltungen: Konvergenz präsynaptisch postsynaptisch Bedeutung: Räumliche Vergrößerung des rezeptiven Feldes 2. Komplexe Struktur des rezeptiven Feldes 3. Zeitlicher Vergleich der Inputs möglich 4. Erhöhte Zuverlässigkeit bei redundanten Inputs Die Aktivität mehrerer präsynaptischer Neuronen wird durch ein postsynaptisches Neuron integriert Die synaptischen Verbindungen können unterschiedlich stark sein Excitation und Inhibition (auch shunting inhibition) können gemischt auftreten Das postsynaptische Neuron nimmt eine Mittelung der gewichteten präsynaptischen Aktivitäten vor In biologischen neuronalen Netzen ist die Interaktion nichtlinear

22 Konvergenz: Integration vs Koinzidenzdetektion präsynaptisch postsynaptisch z.b. Ermittlung von Reizintensität durch zeitliche Integration im visuellen Cortex z.b. Vergleich zwischen Ohren bei Richtungshören im auditorischen Cortex Zusätzlich zur räumlichen hat Konvergenz auch eine zeitliche Komponente Wichtiger Parameter: Zeitskala der Konvergenz lange Integrationszeiten bedeuten zeitliche Integration => Ratencode kurze Integrationszeiten ermöglichen Koinzidenzdetektion => Zeitcode

23 Grundlegende Verschaltungen: Divergenz präsynaptisch postsynaptisch Bedeutung: Mehrere präsynaptische Neurone mit gleichem rezeptiven Feld 2. Erhöhte Zuverlässigkeit der Populationsantwort bei unzuverlässigen Synapsen Die Aktivität eines präsynaptischen Neurons wird an mehrere postsynaptische Neurone weitergegeben Die synaptischen Verbindungen können unterschiedlich stark sein In künstlichen neuronalen Netzen kann ein Neuron normalerweise sowohl erregende als auch hemmende Synapsen bilden Bei biologischen Neuronen ist nur für manche Transmitter Excitation und Inhibition möglich

24 Grundlegende Verschaltungen: Vorzeichenumkehr + präsynaptisch postsynaptisch - + Bedeutung: 1. Möglichkeit, Excitation und Inhibition zu kombinieren 2. Hemmung eines Gegenspielers bewirkt indirekte Verstärkung Die Aktivität eines präsynaptischen Neurons wird sowohl direkt an postsynaptische Neurone, als auch an postynaptische Interneurone weitergegeben, die bei der weiteren Verschaltung das Vorzeichen umkehren

25 Grundlegende Verschaltungen: komplette Vernetzung präsynaptisch postsynaptisch Bedeutung: 1. Postsynaptische Zellen können komplexe rezeptive Felder haben 2. Vorteile von Konvergenz und Divergenz werden kombiniert Alle präsynaptischen Neuron sind mit allen postsynaptischen verbunden Synaptische Gewichte können unterschiedlich und Excitation und Inhibition gemischt sein (soweit Transmitterausstattung biologischer Neurone das zulässt) Normalfall für künstliche neuronale Netze, die häufig mit zufällig gewählten Gewichten einer kompletten Vernetzung initialisiert werden

26 Grundlegende Verschaltungen: Reziproke Vernetzung (Feedback) Selbsterregung Selbsterregung Selbsthemmung Zwei Neurone sind wechselseitig miteinander verschaltet Information fließt im Kreis, Neurone sind also gleichzeitig präund postsynaptisch zu sich selbst Bedeutung: 1. Aktivität hängt nicht nur von sensorischen Inputs ab 2. Es können sich typische Aktivitätsmuster entwickeln 3. Besonders wichtig bei Taktgeber-Netzwerken z.b. Stomatogastrisches Ganglion:

27 Grundlegende Verschaltungen: Rekurrente Vernetzung (Feedback) Bedeutung: 1. Netzwerk-intrinsische Aktivität überlagert stimulus-getriebene 2. Definition von rezeptiven Feldern wird schwierig (oder unmöglich) Allgemeiner Fall des Feedbacks Mehrere Neurone sind im Kreis miteinander verbunden Es gibt also keine eindeutig geschichtete Struktur Alle Kombinationen aus Erregung und Hemmung sind möglich Neurone können an mehreren Feedback-Schleifen beteiligt sein Normalfall kortikaler Verarbeitung Bei künstlichen neuronalen Netzen sehr mächtig, aber schwer analysierbar

28 Der Normalfall: Kombination vieler Möglichkeiten

29 Zusammenfassung: Vergleich der Modelle künstl. NN Integrate & Fire Hodgkin & Huxley Compartment Models Komplexität Reproduziert 1 Parameter pro Synapse nur Feuerraten 1 DGL 4 Parameter nur Spike- Zeitpunkte 4 DGL > 20 Parameter Verlauf des Membranpotentials im Soma je nach Größe sehr viele DGL und Parameter räumlich aufgelöster Membranpotentialverlauf typische Fragestellung technische Anwendung, grosse Netze Netzwerke, neuronales Rauschen Einfluss von Ionen, Adaptation dendritische Integration Netzwerk Einzelzelle

30 Literaturtipp Fig. 3. A.V.M. Herz, T. Gollisch, C.M. Machens, D. Jaeger: Modeling Single-Neuron Dynamics and Computations: A Balance of Detail and Abstraction Science 314:80-85, 2006

31 Welches Modell? Das Modell muss der Fragestellung angepasst sein: Werden Intrazellulär- oder Extrazellulär-Daten reproduziert? Ist die Zeitstruktur des unterschwelligen Membranpotentials oder die Spikeform wichtig? Möchte man Aussagen über die Entstehung eines Phänomens machen? Die Simulation muss den technischen Möglichkeiten entsprechen. Goldene Regel: So wenige Parameter wie möglich, aber so viele wie nötig!