Wie fängt eine Eule eine Maus in der Nacht: eine biologisch motivierte Simulation

Transkript

1 Wie fängt eine Eule eine Maus in der Nacht: eine biologisch motivierte Simulation Peer Ueberholz, Philipp Pricken IMH - Institut für Modellbildung und Hochleistungsrechnen FB Juni 2016

2 1 Einführung in Neuronale Netze Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen 2 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie 3 Das Modell Nengo Stand der Simulation 4

3 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen 1.1. Wie ich zu dem Thema gekommen bin Anfang der 90er Jahre Zu dieser Zeit habe ich alles gemacht, was in war und mit Computersimulationen zu tun hatte: Feldtheorie, Chaos-Theorie, Supraleiter,..., Neuronale Netze. Dabei entstanden Veröffentlichung auf den verschiedensten Gebieten, unter anderem

4 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen Zur Zeit ist Anthony Burkitt Director of NeuroEngineering Laboratory und Director of Bionic Vision Australia an der University of Melbourne, Department auf Electrical & Electronic Engineering

5 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen Arbeiten an der HSNR Es folgte ab Mitte der 90er eine lange Pause, da wenige gute Algorithmen existierten und enorme Rechenzeiten benötigt werden. Fortsetzung der Arbeiten an der HSNR erst in 2013 mit einer Bachelorarbeit Implementation eines Neuronalen Netzes auf Graphikkarten für Anwendungen in der Hochenergiephysik Seitdem 3 weitere Arbeiten auf diesem Gebiet In 2016 kommt noch eine Bachelorarbeit zu sogenannten tiefen Netzen.

6 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen 1.2. Ein künstliches Neuronales Netz Ein Neuronales Netz besteht aus verbundenen Neuronen (ca Neuronen bei einem Menschen mit ca Verbindungen). Ein Neuron hat Dendriten Soma Axon Synapsen Abbildung aus Wikipedia: de.wikipedia.org/wiki/neuronales Netz

7 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen Modell eines Neurons Die Ausgabe führt zur Ausschüttung von Neurotransmittern und damit zu einer Eingabe der nachfolgenden Zellen. In den Aktivitäten der Neuronen ist die Information codiert.

8 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen Ein paar interessante Fragen: Wie sehen die einzelnen Schritte genau aus, welche Funktionen werden verwendet? Wie genau sollte die Biologie berücksichtigt werden, um die wesentlichen Eigenschaften eines biologischen Netzes beizubehalten? Was ist die Topologie des Netzes, also welche Neuronen sind mit welchen verbunden? Wie stark sind die Gewichte, mit denen die einzelnen Neuronen verbunden sind? Wie lernt ein Neuronales Netz, also z.b. wieso findet eine Schleiereule eine Maus in der Nacht oder trifft ein Fussballer im Laufen einen rollenden Ball?

9 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen 1.3. Zwei aktuelle Forschungs- und Anwendungsrichtungen 1 Klassische künstliche Neuronale Netze Grundlage sind biologische Neuronen, jedoch in einer starken Vereinfachung, so dass sie mathematisch einfach und schnell zu behandeln sind. Heute werden sogenannte tiefe Netze (deep neural networks) verwendet, bei denen Neuronen über viele Schichten verbunden sind. Sie werden z.b. von Google, Apple, Facebook, NSA, BND und vielen anderen verwendet z.b. zur Bild- und Spracherkennung, in der Robotik, für Optimierungsprobleme usw. Fast täglich gibt es neue Meldungen über neue Anwendungen. Ein paar aktuelle Beispiele:

10 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen Mit zwei tiefen Netzen, eins für die Vorhersage guter Züge und eins für den Wert einer Stellung, ist es im März 2016 gelungen, einen Go-Meister zu schlagen. Hardware: 1202 CPUs mit 176 GPUs. Facebook sagt, das neue System Deep Text versteht Texte genauso gut wie Menschen. Google Photo oder die Translater-App, auf Clustern trainiert, laufen jetzt auf dem Smartphone. Immer mehr Firmen entwickeln Empathiemodule. Google hat gerade für Neuronale Netze eine Tensor Processing Unit (TPU) entwickelt. In der MKL (Mathematical Kernel Library) von Intel gibt es jetzt ein Modul DNN (Deep Neural Network).

11 Wie ich zu dem Thema gekommen bin Ein künstliches Neuronales Netz Zwei aktuelle Forschungs- und Anwendungsrichtungen 2 Neuronale Netze, nahe an der Biologie Größtes Beispiel: Das Human Brain Project Gestartet in 2013, Fördersumme 1,2 Milliarden Euro 6 Segmente: Neuroinformatik, Medizinische Informatik, Gehirnsimulation, Supercomputing, Neuronales Rechnen und Neurorobotik. Beispiel SpiNNaker-Projekt, Manchester Prozessoren mit 18 ARM-Kernen. Jeder Prozessor simuliert Neuronen und 8 Millionen Synapsen. Beispiel BrainScaleS-System, Heidelberg. 20 Silizium-Wafer mit je knapp Neuronen und ca. 58 Millionen Synapsen. Siehe Unabhängig von diesem Projekt gibt es jede Menge kleine Arbeiten, z.b. unsere hier.

12 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Klassische künstliche Neuronale Netze Die klassischen künstlichen Neuronalen Netze vereinfachen das biologische Vorbild so stark, dass viele biologische Eigenschaften verloren gehen, aber die Grundidee erhalten bleibt und eine schnelle Berechnung möglich ist. Mathematisch heißt das, der Weg von der Eingabe eines Neurons zur Eingabe des damit verbundenen Neurons wird durch sehr einfache Funktionen beschrieben.

13 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Zwei verbreitete Architekturen Feed Forward Networks (FFN), in Bildverarbeitung z.b. in der Form von Convolution Neural Networks (CNN) (überlappende Teilbereiche). Rekurrent Neuronal Networks (RNN), also solche mit Rückwärtsverbindungen, z.b. in der Form von Long Short Term Memory Networks (LSTM) für handgeschriebene Zeichen oder auch in der Spracherkennung. Diese beiden Architekturen und deren Anwendung werden in den letzten Jahren fast überall diskutiert, siehe z.b. C t 2016, Heft 6

14 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Eingabe kommt von außen oder ist die Ausgabe o i eines Neurons i: x i = o i Die Ausgabe ergibt sich einfach z.b. über o j = exp ( n i=1 x iω i,j Θ j )

15 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Feed Forward Network Eingabe z.b. Pixel eines Bildes (Gesicht, Zahl, Tier... Ausgabe ein Neuron pro Name, Zahl, Art des Tiers...

16 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Das Schöne an einem solchen Netz ist folgendes: Wenn die Parameter, also die Gewichte w i,j und die Schwellwerte Θ i gut bestimmt wurden, gilt: kleine Änderungen des Netzes (Verbindungen defekt) oder kleine Eingabeänderungen (Bild verrauscht) kleine Änderung der Ausgabewerte Bild wird höchst wahrscheinlich trotzdem erkannt, da das gleiche Neuron den größten Wert haben wird.

17 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Problem: Lernen Wie werden gute Parameter bestimmt oder woher weiß ein Netz, welches Neuron bei welchem Bild aktiv sein soll? 2 wesentliche Arten von Lernverfahren: 1 Überwachtes Lernen, bei dem einem Netzwerk zu einer Eingabe eine gewünschte Ausgabe gegeben wird, nach dem es sich einstellt. 2 Unüberwachtes Lernen, bei dem sich das Netz selbst organisiert. Am häufigsten ist das überwachte Lernen, beruhend auf dem Backpropagation-Algorithmus.

18 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Backpropagation Minimierung des Fehlerfunktionals zwischen gewünschter Neuronenaktivität t p,j in der Ausgabeschicht und tatsächlicher Neuronenaktivität o p,j, summiert über alle p Eingaben: E = p E p, E p = 1 n out (o p,j (ω l,k, Θ k ) t p,j ) 2 2 j Bestimmt wird das Minimum mit einem Gradientenverfahren. Dann ist ein Neuronales Netz nichts anderes als nicht-lineare Ausgleichsrechnung!

19 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Backpropagation Probleme: 1. Hohe Rechenzeiten, um ein Minimum zu finden 2. Das Verfahren bleibt leicht in einem lokalen Minimum hängen Lösung: Gute Vorinitialisierung + schnelle Hardware Frage: Was lernt das Netz Neuer Ansatz: Rückverfolgung des Gelernten über einzelne Schichten Bei diesen Versuchen hat Google direkt eine neue Kunstrichtung ins Leben gerufen: Inceptionism 1 1 siehe z.b. Computer-Halluzinationen in Spektrum der Wissenschaft, 12/2015 von Brian Hayes.

20 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie 2.2 Neuronale Netze, nahe an der Biologie Neuronen generieren charakteristische elektrische Impulse, sogenannte Aktionspotentiale oder Spikes. Sie repräsentieren und vermitteln Informationen durch das Feuern von Spikes. Spikes führen zur Ausschüttung von Neurotransmittern. Wie Neuronen auf einen Stimulus reagieren, ist das Gebiet der neuronalen Codierung (neural encoding). Neuronale Decodierung (neural decoding) beschäftigt sich damit, wie ein Stimulus oder Aspekte davon aus den Spikes rekonstruiert werden können.

21 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Die Eingabe an Neuronen kommt über die Synapsen von Dendriten durch Ionenkanäle und depolarisieren die Zellmembran. In den Ionenkanälen spielen die Elemente Natrium, Kalium, Calium und Chlor eine Rolle. Wenn diese Eingaben ein Potential von ungefähr 100 mv erzeugt haben, wandert die Spannung in ca. 1 msec über die Zellmembran und entlädt sich über ein Axon an den Synapsen. Nach so einen Spike kann das Neuron für einige Millisekunden nicht wieder feuern. Die Feuerrate ist eine Funktion von charakteristischen Parametern s eines Stimulus, z.b. hängt die Feuerrate im auditivem System von der Lautstärke und der Frequenz ab. Diese Funktionen werden als Tuningkurven bezeichnet.

22 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Neuronen-Modelle Das bekannteste Modell ist das Hodgkin-Huxley-Modell von Es bildet die probabilistischen Dynamiken der Ionenkanäle nach. Es enthält einen Satz von Differentialgleichungen für die spannungsabhängigen Membranwiderstände und für die Ionenströme. Wichtig sind zwei wesentliche Erweiterungen zu klassischen Netzen: Spikes Rauschen Meist werden nur diese Erweiterungen in großen Netzwerken berücksichtigt.

23 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie Noch Nahe an der Biologie ist eine einfache Approximation, die Leaky integrate-and-fire Neuronen. Die Eingabeströme werden aufsummiert. Wird ein Schwellwert überschritten, kommt es zu einem Spike. Wird der Schwellwert nicht erreicht, fällt die Spannung im Neuron wieder ab. Nach einem Spike bleibt das Neuron eine kurze Zeit inaktiv.

24 Klassische künstliche Neuronale Netze Neuronale Netze, nahe an der Biologie LIF-Neuron mit konstantem Eingabestrom

25 Das Modell Nengo Stand der Simulation Das Modell Eine Eule kann die Richtung, in der sich eine Maus befindet, mit einer Genauigkeit von 2 Grad hören! Der Laufzeitunterschied zwischen den Ankunftszeiten eines Tons in beiden Ohren wird für die Bestimmung des horizontalen Winkels verwendet. Über den Lautstärkeunterschied in den unsymmetrischen Ohren wird der vertikale Winkel bestimmt. Eine junge Eule fliegt in Richtung des Tons und folgt dem Ton. Eine alte Eule fliegt in die Richtung, in der sich die Maus höchst wahrscheinlich befinden wird!

26 Das Modell Nengo Stand der Simulation Für diesen Ablauf gibt es in den letzten 10 Jahren zahlreiche Veröffentlichungen Offen sind drei Punkte: Ein Teil des Ablaufs der Bestimmung der horizontalen Richtung, eng an der Biologie angelehnt. Die Einbeziehung der Bewegung der Maus. Die Bestimmung der Entfernung der Maus. Für diese Punkte wollen wir ein sehr einfaches Modell mit Hilfe der Simulationssoftware Nengo entwerfen. Wir beschränken uns auf die horizontale Richtung, die Lautstärke soll für die Entfernungsbestimmung verwendet werden.

27 Das Modell Nengo Stand der Simulation Richtungsbestimmung 2 Zwei parallele Wege, getrennt für einzelne Frequenzbereiche: Zeitinformation: Nucleus magnocellularis, Lamellenkern, vorderer Kern der lateralen Schleife, zentrales Gebiet der Hörregion im Mittelhirn, seitliche Schleife, äußerer Kern. Lautstärkeinformation: Nucleus angularis, hinterer Kern der lateralen Schleife, seitliche Schale äußerer Kern. Zusammenführung in der lateralen Schale im äußeren Kern 2 Die folgenden vier Abbildungen stammen aus M. Konishi: Die Schallortung der Schleiereule, Spektrum der Wissenschaft, Juni 1993, pp

28 Das Modell Nengo Stand der Simulation Bestimmung der horizontalen Richtung Eine Reihe von Verzögerungsneuronen halten ein Signal unterschiedlich lang auf. Diejenigen Neuronen feuern, bei denen die Signale gleichzeitig ankommen, also die Neuronen, bei denen die Summe aus Verzögerungen und Ankunftszeiten von beiden Ohren gleich ist.

29 Das Modell Nengo Stand der Simulation Richtungsorientierung

30 Das Modell Nengo Stand der Simulation Wir beschränken uns auf die Erfassung des horizontalen Winkels. Aus der Aktivität der Neuronen wollen wir die Information der horizontalen Richtung als Funktion der Zeit an eine Neuronengruppe weiter geben. Diese Richtungsinformationen werden weiter geleitet, um eine Abschätzung für die Geschwindigkeit und damit für den Ort zu gewinnen, wo sich die Maus voraussichtlich nach einer bestimmten Flugzeit befinden wird. Im letzten Schritt soll die Eule aus Misserfolgen lernen, in welcher Richtung sie losfliegen muss, um die Maus sicher in kürzester Zeit, d.h. in gerade Flugbahn zu fangen. Das Ganze wird mit Hilfe der Software Nengo implementiert.

31 Das Modell Nengo Stand der Simulation 3.2 Nengo Grundlage von Nengo sind 3 Prinzipien des Neural Engineering: 1 Alle neuronalen Repräsentationen werden definiert über eine Kombination von nicht-linearen Codierungen und gewichteten linearen Decodierungen. 2 Transformationen von neuronalen Repräsentationen sind Funktionen von Variablen, die in der neuronalen Repräsentation codiert sind. Transformationen werden bestimmt durch gewichtete lineare Decodierungen. 3 Zur Beschreibung neuronaler Dynamik können die neuronalen Repräsentationen als Zustandsvariablen einer Regelungstheorie aufgefasst werden. Hinzu kommt, dass jedes System mit Rauschen behaftet ist.

32 Das Modell Nengo Stand der Simulation Wir verwenden LIF-Neuronen. Nicht-lineare Codierung: a i (x) = G i [J i (x)] { ( )) = τ ref i τi RC ln (1 J thr 1 i J i (x), falls αi x + Ji bias > Ji thr 0 sonst. a i (x): τ ref : τ RC : J (x): J thr : mittlere Feuerrate (Spikes/Sekunde) refractory Zeit; Zeit, bis das Neuron wieder aktiv werden kann charakteristische Anstiegszeit (RC) Eingangsstrom Schwellwert

33 Das Modell Nengo Stand der Simulation Die Koeffizienten für eine lineare Decodierung werden über das Minimum des Fehlerfunktionals bestimmt. Fehlerfunktional ohne Rauschen: [ ] 2 N E = x a i φ i i=1 x: Eingabe a i : Mittlere Feuerrate φ: Optimal zu bestimmende Koeffizienten x.

34 Das Modell Nengo Stand der Simulation Beispiel: 8 Tuning Kurven (Mittlere Feuerrate als Funktion der Eingabe) von 8 Neuronen der Neuronen reagieren auf eine Eingabe zwischen -1 und 1. Aufgabe: Codiere (nicht-linear) und decodiere (linear) eine linear steigende Funktion. 3 Die folgenden 3 Abbildung stammen aus summary.html

35 Das Modell Nengo Stand der Simulation Spikes Ein- und Ausgabe der Neuronen Eine Erweiterung auf einfache Rechenoperationen wie lineare Abbildungen oder Polynomberechnungen ist leicht möglich!

36 Das Modell Nengo Stand der Simulation Kann die Decodierung nicht direkt bestimmt werden, muss gelernt werden! Lernregel: Eine Kombination aus überwachtem und unüberwachtem Lernen ω ij = α j a i [κ 1 e j E + κ 2 a j (a i Θ)] Die Parameter bedeuten ω : Gewicht zwischen den Neuronen κ: Lernrate a: Aktivität Θ: gemittelter Schwellwert über alle Eingaben α: Gewinn eines Neurons e: Codierter Vektor E: Fehlerterm

37 Das Modell Nengo Stand der Simulation 3.3 Stand der Simulation Implementation und Aufteilung Die Simulation der Richtungsbestimmung enthält viele verschiedene Problemstellungen, daher bietet es sich an diese in einige Teilmodule aufzusplitten 1 Winkelbestimmung 2 Geschwindigkeitsberechnung 3 Lernprozess des Abflugwinkels Außerdem wird die Berechnung der Entfernung noch hinzu kommen.

38 Das Modell Nengo Stand der Simulation Winkelbestimmung Als Eingabe werden phasenverschobene Schallwellen gegeben. Es werden Verzögerungsknoten genutzt, um die Verzögerungen im Gehirn zu simulieren. Die Ensembles addieren die verzögerten Signale und berechnen die Amplituden. Jedes Ensemble repräsentiert einen bestimmen Winkel, aus der ein Geräusch stammen kann.

39 Das Modell Nengo Stand der Simulation Winkelbestimmung - Problemstellungen Die Eule kann eine Frequenz in khz auflösen, bei uns momentan 5Hz. Um eine Genauigkeit von 2 Grad zu erhalten, werden 90 Ensembles benötigt (momentan 36 Ensembles). Es muss die maximale Amplitude bestimmt und isoliert werden. Der dazu gehörige Winkel soll für die Weiterverarbeitung genutzt werden.

40 Das Modell Nengo Stand der Simulation Geschwindigkeit Aus dem ermittelten Winkel soll die Eule nun die Geschwindigkeit der Maus berechnen. Es wird die Änderung eines eingehenden Winkels berechnet. Die Neuronenanzahl in den Ensembles spielt hier eine wichtige Rolle.

41 Das Modell Nengo Stand der Simulation Geschwindigkeit - Auswertung 500 Neuronen 5000 Neuronen Die mittlere Geschwindigkeit betrug 0.5. Frage: Wie viele Neuronen sind sinnvoll?

42 Das Modell Nengo Stand der Simulation Lernprozess des Abflugwinkels Nachdem die Eule nun erkannt hat, wie schnell sich ihr Ziel bewegt, möchte Sie dieses abfangen. Dieser Vorgang wird durch einen Lernprozess simuliert. Die Eule wählt einen Abflugwinkel und lernt durch den Fehler, wie sie diesen Winkel bei unterschiedlichen Geschwindigkeiten wählen muss. Für den Lernprozess wird die Geschwindigkeit und die Abflugposition durch eine verrauschte Funktion modelliert und die damit berechnete korrekte Position der Maus für den Fehlerterm verwendet. Nach einer festen Zeit wird dieses System abgekoppelt und es werden die gelernten Verbindungen verwendet.

43 Das Modell Nengo Stand der Simulation Lernprozess des Abflugwinkels - Auswertung Abweichung nach 10 Sekunden Lernzeit bei einem durchschnittlichen Laufwinkel der Maus von 1,6 rad.

44 Das Modell Nengo Stand der Simulation 3.4 Ausblick und offene Fragestellungen Benötigt wird noch eine Division, die durch die lineare Dekodierung der Neuronen nur auf kleinem Raum angenähert werden kann. Es gibt verschiedene Herangehensweisen dieses Problem umzusetzen: Division auf kleinen Raum beschränken Division durch Subtraktion des Logarithmus ersetzen Division erlernen Nach einigen Tests erscheint das Erlernen der Division am vielversprechendsten.

45 (1) Künstliche Intelligenz und insbesondere Neuronal Netze sind wieder sehr populär. Die heutigen Möglichkeiten eröffnen viele interessante Perspektiven für Anwendungen. Es gibt aber auch einige kritisch zu verfolgende Anwendungen. Zwei Beispiele: Human Rights Watch und andere haben einen Aufruf zur Problematik autonomer Waffen 4 verfasst, von mehr als Personen (20000 KI-Forschern) mittlerweile unterschrieben Das Digital-Manifest: 9 führende Experten warnen vor einer Aushöhlung der Demokratie durch Algorithmen 5 4 futureoflife.org/open-letter-autonomous-weapons/ 5 Spektrum de Wissenschaft 1/16

46 (2) Die eng an die Biologie angelehnten Netze haben im medizinischen Bereich etliche sinnvolle Anwendungen. Ziel ist es, bis Ende 2016 die Simulation so weit am Laufen zu haben, dass erste Ergebnisse auf einer Konferenz in 2017 vorgestellt werden können. Die University of Melbourne ist eine hervorragende Universität und ich hoffe die Zusammenarbeit darüber hinaus fortsetzen zu können. Und da mein Arbeitsgebiet Parallele Systeme heißt: Neuronal Netze sind hochgradig parallel!

47 Literatur R. Dayan and L.F. Abbott: Theoretical Neuroscience, MIP Press, Cambridge, 2001 Ch. Eliasmith and Ch.H. Anderson: Neural Engineering, MIP Press, Cambridge, 2003 Ch. Eliasmith: How to Build a Brain, Oxford University Press, New York, 2013 B.J. Fischer, A model of the computations leading to a representation of auditory space in the midbrain of the barn owl, PhD Thesis, Washington University, 2005 W. Cox, and B.J. Fischer, Optimal Prediction of Moving Sound Source Direction in the Owl, PLoS Comput. Biol. 11(7), dx.doi.org/ /journal.pcbi , 2015