Kleines Handbuch Neuronale Netze

Transkript

1 Norbert Hoffmann Kleines Handbuch Neuronale Netze Anwendungsorientiertes Wissen zum Lernen und Nachschlagen - vieweg

2 INHALTSVERZEICHNIS 1 Einleitung, 1.1 Begriff des neuronalen Netzes Neurophysiologie als Vorbild Aufbau und Funktionsweise neuronaler Netze Vergleich mit herkömmlichen Computern Hinweise für die Benützung des Buches Zweck des Buches Vorkenntnisse des Lesers Übersicht über den Buchinhalt Fuzzy-Logik Begriff g Unscharfe Teilmengen Unscharfe Mengenoperationen Unscharfe logische Verknüpfungen Vergleich mit neuronalen Netzen ' Künstliche neuronale Netze 12 I GRUNDLAGEN Behandlung einzelner Neuronen Bestandteile eines Neurons Berechnung der Aktivität Effektiver Eingang j Aktivierungsfunktionen 18

3 vin 2.3 Berechnung des Ausgangs Anforderungen an die Ausgangsfunktion Schwellenwertfunktionen Sigma-Funktionen Weitere Ausgangsfunktionen Anschauliche Deutung Berechnung des Neurons Berechnungsformeln Standard-Neurontypen Kennwerte der Neuronberechnung 32 3 Behandlung eines Netzes Aufbau eines Netzes Allgemeine Netzstruktur Numerierung der Neuronen Strukturierung des Netzes durch das Schichtenkonzept Rückkopplung Räumlich organisierte Schichten Hinton-Diagramme Reproduktionsmethoden Struktur und Zustände eines neuronalen Netzes Begriff der Reproduktion Reproduktion in vorwärtsgekoppelten Netzen Reproduktion in rückgekoppelten Netzen Äquivalenz von vorwärts- und rückgekoppelten Netzen Reproduktion in Wettbewerbs-Schichten Beschreibung der Reproduktion durch Hamilton- Funktionen Stochastische Reproduktion Lernmethoden für überwachtes Lernen Begriff des Lernens..^ Begriff des überwachten Lernens Hebbsche Lernregel Delta-Lernregel Herleitung von Lernregeln aus Kostenfunktionen Lernen durch Lohn und Strafe Lernmethoden für unüberwachtes Lernen Begriff des unüberwachten Lernens Unüberwachtes Lernen durch Wettbewerb 65 II NETZE 4 Einfache überwacht lernende Netze Muster-Assoziator Allgemeiner Muster-Assoziator Linearer Muster-Assoziator mit Hebbscher Lernregel Linearer Muster-Assoziator mit Delta-Lernregel Willshaw-Netze Grenzen des Muster-Assoziators Spezielle Muster-Assoziatoren Perzeptron ADALINE MADALINE Auto-Assoziator Allgemeiner Auto-Assoziator BSB-Modell DMA-Modell Fehlerrückführungs-Netz Aufbau des Netzes Lernregel für die Gewichte Initialisierung der Gewichte Zusammenfassung des Lernvorgangs Lernregel für andere Parameter Momentfaktor Lokale Minima der Kostenfunktion Fehlerrückführungsnetze mit Rückkopplung Hopfield-Netz Grundmodell Hamilton-Funktion Speicherkapazität Unerwünschte Zustände Varianten 96 rx

4 X XI 5 Höher entwickelte überwacht lernende Netze BAM Aufbau Berechnung der Neuronen Lernregel Reproduktion Mustervektoren e{0,1} Numerierungsvariante Boltzmann-Maschinen Aufbau Lernregel Reproduktion Probleme Gegenstrom-Netz Vorstufe zum Gegenstrom-Netz Reproduktion Lernen Gegenstrom-Netz Netze mit Sigma-Pi-Neuronen, Prinzip Reduktion der Schichtenzahl Invariante Mustererkennung Fehlerrückführung Zusammenstellung überwacht lernender Netze Unüberwacht lernende Netze Selbstorganisierende Karten Einbettung eines Netzes in einen Raum Aufbau und Reproduktion Festlegen der internen Gewichte Lernen der externen Gewichte Hinweise ART-Netz Aufgabe Lösungsalgorithmus Realisierung durch ein Netz Gain Reproduktion in der Eingangs-Vergleichsschicht Reset Reproduktion in der Klassifizierungsschicht Lernen Zusammenfassung Literaturhinweise 136 III PRAXIS 7 Anwendungen Problemtypen Übersicht Klassifikation Autoassoziativer Speicher Heteroassoziative Speicher und Generalisierung Ausgangsmusterfolgen Zeitreihen Konkrete Anwendungen Übersicht Schul"probleme Technische Anwendungen Wissenschaftliche Anwendungen Sonstige Anwendungen Realisierung Übersicht Simulation durch Software Grundsätze Simulationsprogramme für den PC Aufbau durch Hardware 162

5 Xu IV ANHANG 9 Symbolverzeichnis Begründung der Symbolauswahl Vergleichsliste üblicher Symbole Vergleichsliste üblicher Namen Liste der Symbole Lexikon englisch - deutsch Lexikon und Glossar deutsch - englisch Literaturverzeichnis Literaturverweise aus dem Text Einführende Literatur Register 248