Zellulare Neuronale Netzwerke

Transkript

1 Fakultät Informatik, Institut für Technische Informatik, Professur für VLSI-Entwurfssysteme, Diagnostik und Architektur Zellulare Neuronale Netzwerke Florian Bilstein Dresden,

2 Gliederung 1. Einführung 2. Motivation 3. Funktionsweise 4. Anwendung Zellulare Neuronale Netzwerke Folie Nr. 2 von 27

3 Was sind Zellulare Neuronale Netzwerke? Zellulare Neuronale Netzwerke Folie Nr. 3 von 27

4 Einführung Ein Netzwerk aus analog verarbeitenden Elementen, welche Zellen genannt werden. Diese Elemente sind nur lokal verbunden und lösen durch parallele Verarbeitung eine gegebene Rechenaufgabe. [5] Zellulare Neuronale Netzwerke Folie Nr. 4 von 27

5 Motivation Sequenzielle Datenverarbeitung limitiert Parallelität beschleunigt Verarbeitung großer Datenmengen CNN als mögliche Basis für die Integration von SIMD-Architekturen Zellulare Neuronale Netzwerke Folie Nr. 5 von 27

6 Motivation Anpassungsfähigkeit Verbindungsstruktur beeinflusst Verhalten Bedingt durch innere Struktur spezifisches Verhalten Zellulare Neuronale Netzwerke Folie Nr. 6 von 27

7 Motivation Toleranz gegenüber Störeinflüsse Realisierungen für Spezialanwendungen in der Informationsverarbeitung Zellulare Neuronale Netzwerke Folie Nr. 7 von 27

8 Wie funktionieren Zellulare Neuronale Netzwerke? Zellulare Neuronale Netzwerke Folie Nr. 8 von 27

9 Definition Netzwerk aus analog verarbeitenden Elementen Lokale Verbindungen Parameter zur Konfiguration der Kopplungseigenschaften Interaktion der Zellen bei der parallele Verarbeitung Zellulare Neuronale Netzwerke Folie Nr. 9 von 27

10 Funktionsweise der Zellen Biologisch inspirierter Ansatz Modell eines Neuron als Grundlage für die Beschreibung des Verhaltens einer Zelle [1] Zellulare Neuronale Netzwerke Folie Nr. 10 von 27

11 Funktionsweise der Zellen Zellen sind erregbar Relaxieren negativ proportional zum Grundzustand zurück Zustandsgleichung: [5] [5] Zellulare Neuronale Netzwerke Folie Nr. 11 von 27

12 Anordnung der Zellen innerhalb des Netzwerkes Ausgangsaktivität bestimmt durch Transfairfunktion: [5] [1] Zellulare Neuronale Netzwerke Folie Nr. 12 von 27

13 Anordnung der Zellen innerhalb des Netzwerkes Rechteck mit n*m Zellen Nur unmittelbare Nachbarn verbunden Spezielle Parameter beeinflussen Übertragungsverhältnis zwischen Zellen [1] Zellulare Neuronale Netzwerke Folie Nr. 13 von 27

14 Erweiterung der Zustandsgleichung Zellzustand durch lokale Kopplung beeinflusst CNN-Verhaltensbeschreibung: [5] [2] Zellulare Neuronale Netzwerke Folie Nr. 14 von 27

15 Verhalten der Zellen im Verbindungsnetzwerk [3] Zellulare Neuronale Netzwerke Folie Nr. 15 von 27

16 Netzwerkeigenschaften Vorteil liegt nicht in der Exaktheit der Ergebnisse Anpassungsfähigkeit Generalisierungsverhalten (große Toleranz gegenüber verrauschten Eingängen) Parallele Informationsverarbeitung Zellulare Neuronale Netzwerke Folie Nr. 16 von 27

17 Modellierung der Verhaltensbeschreibung Durch Anpassung der Parameter lässt sich Verhalten beeinflussen Templates für die Realisierung verschiedener Funktionen Zellulare Neuronale Netzwerke Folie Nr. 17 von 27

18 Template Edge Template Zustandsgleichung: [5] Zellulare Neuronale Netzwerke Folie Nr. 18 von 27

19 Template Viele weitere Templates auch abseits der Bildverarbeitung AND, OR oder Negation Problemstellung werden dabei auf Datenanordnungen innerhalb der CNN Zellgitter zurückgeführt [5] Zellulare Neuronale Netzwerke Folie Nr. 19 von 27

20 Template Darstellung aller Boolschen Funktionen möglich Linear Separierbare Funktionen direkt Nicht-separierbare Funktionen nur durch Umformung Zellulare Neuronale Netzwerke Folie Nr. 20 von 27

21 Anwendung Simulation durch Software Digitale Signalprozessoren Zellulare Neuronale Netzwerke Folie Nr. 21 von 27

22 Anwendung Analoge CNN-Chip Jeder analoge Prozessor eine Zelle zugeordnet Durch Miniaturisierung mehrere tausend Zellen auf einen Chip Zellulare Neuronale Netzwerke Folie Nr. 22 von 27

23 CNN-UM Erweiterung der Zellen zur Realisierung einer CNN- Universelle Maschine Bestandteile: Speicher- und Rechenelemente, Schaltungselemente zur Ein-/Ausgabe, [4] Zellulare Neuronale Netzwerke Folie Nr. 23 von 27

24 Vorteile Kombination der Vorteile eines CNN mit klassischen Rechenstrukturen Programmierfähigkeit durch Abfolge verschiedener Templates Speicherung von Zwischenergebnissen Durch die Ermittlung der Größen durch Approximation mit Gewichtungen: Hohe Anpassungsfähigkeit Große Toleranz gegenüber Störungen Bedingt durch Aufbau parallele Informationsverarbeitung Zellulare Neuronale Netzwerke Folie Nr. 24 von 27

25 Anwendungsgebiete Medizin (Epilepsie-Früherkennung, ) Bild-/ Videoverarbeitung und Kodierung Mustererkennung Numerische Simulation von partiellen Differentialgleichungen biologisch-inspirierten Fortbewegungssteuerung Zellulare Neuronale Netzwerke Folie Nr. 25 von 27

26 Vielen Dank für Ihre Aufmerksamkeit! Zellulare Neuronale Netzwerke Folie Nr. 26 von 27

27 Quellen (1) (2) pdf (3) (4) duktblaetter/ofm_optische_fertigungsmesstechnik/imt_inli ne_messtechnik/ipm_artikel_cnn_dt_final.pdf (5)Skript: Zellulare Neuronale Netzwerke, Dr. rer. nat. Torsten Schmidt, SS 2009 (6) duktblaetter/ofm_optische_fertigungsmesstechnik/imt_inli ne_messtechnik/fachartikel_cnn_drahtinspektion_ipm.pdf Zellulare Neuronale Netzwerke Folie Nr. 27 von 27