Neuronale Netze selbst programmieren

Transkript

1 D3kjd3Di38lk323nnm Neuronale Netze selbst programmieren Ein verständlicher Einstieg mit Python Tariq Rashid Deutsche Übersetzung von Frank Langenau

2 Tariq Rashid Lektorat: Alexandra Follenius Übersetzung: Frank Langenau Korrektorat: Sibylle Feldmann Herstellung: Susanne Bröckelmann Umschlaggestaltung: Michael Oréal, Satz: III-satz, Druck und Bindung: M.P. Media-Print Informationstechnologie GmbH, Paderborn Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über abrufbar. ISBN: Print PDF epub mobi Dieses Buch erscheint in Kooperation mit O Reilly Media, Inc. unter dem Imprint»O REILLY«. O REILLY ist ein Markenzeichen und eine eingetragene Marke von O Reilly Media, Inc. und wird mit Einwilligung des Eigentümers verwendet. 1. Auflage 2017 Copyright 2016 by Tariq Rashid Title of the English original: Make Your Own Neural Network ISBN Translation Copyright 2017 by dpunkt.verlag GmbH. All rights reserved. Wieblinger Weg Heidelberg Die vorliegende Publikation ist urheberrechtlich geschützt. Alle Rechte vorbehalten. Die Verwendung der Texte und Abbildungen, auch auszugsweise, ist ohne die schriftliche Zustimmung des Verlags urheberrechtswidrig und daher strafbar. Dies gilt insbesondere für die Vervielfältigung, Übersetzung oder die Verwendung in elektronischen Systemen. Es wird darauf hingewiesen, dass die im Buch verwendeten Soft- und Hardware-Bezeichnungen sowie Markennamen und Produktbezeichnungen der jeweiligen Firmen im Allgemeinen warenzeichen-, marken- oder patentrechtlichem Schutz unterliegen. Die Informationen in diesem Buch wurden mit größter Sorgfalt erarbeitet. Dennoch können Fehler nicht vollständig ausgeschlossen werden. Verlag, Autoren und Übersetzer übernehmen keine juristische Verantwortung oder irgendeine Haftung für eventuell verbliebene Fehler und deren Folgen

3 Inhalt Einführung IX 1 Wie neuronale Netze arbeiten Leicht für mich schwer für dich Eine einfache Vorhersagemaschine Klassifizieren unterscheidet sich nicht sehr vom Vorhersagen Einen einfachen Klassifizierer trainieren Manchmal ist ein Klassifizierer nicht genug Neuronen die Rechenmaschinen der Natur Signalen durch ein neuronales Netz folgen Matrizenmultiplikation ist nützlich ehrlich! Beispiel: Ein dreischichtiges Netz mit Matrizenmultiplikation Gewichte von mehr als einem Knoten lernen Fehler von mehreren Ausgabeknoten zurückführen Fehler auf mehrere Schichten zurückführen Backpropagierung von Fehlern mit Matrizenmultiplikation Wie aktualisieren wir eigentlich die Gewichte? Gewichtsaktualisierung am konkreten Beispiel Die Daten vorbereiten Eingaben Ausgaben Zufällige Anfangswerte Do it yourself mit Python Python Interaktives Python = IPython Ein sehr sanfter Start mit Python Notebooks Einfaches Python Inhalt V

4 Arbeiten automatisieren Kommentare Funktionen Arrays Arrays grafisch darstellen Objekte Neuronales Netz mit Python Der Gerüstcode Das Netz initialisieren Gewichte das Herz des Netzes Optional: differenzierte Initialisierung der Gewichte Das Netz abfragen Der aktuelle Stand des Codes Das Netz trainieren Der vollständige Code für das neuronale Netz Die MNIST-Datenbank mit handgeschriebenen Ziffern Die MNIST-Trainingsdaten vorbereiten Das Netz testen Mit sämtlichen Datensätzen trainieren und testen Verbesserungen: Optimieren der Lernrate Verbesserungen: Mehrere Läufe Die Gestalt des Netzes ändern Gute Arbeit! Der endgültige Code Just for fun: Das neuronale Netz tunen Ihre eigene Handschrift Das Gedächtnis eines neuronalen Netzes Geheimnisvolle Blackbox Rückwärtsabfrage Die Kennung»0« Weitere Hirnscans Neue Trainingsdaten erzeugen: Drehungen Epilog A Eine leicht verständliche Einführung in die Analysis Eine Gerade Eine schräg verlaufende Gerade Eine gekrümmte Kurve Analysis per Hand Analysis nicht per Hand VI Inhalt

5 Analysis, ohne Graphen zu zeichnen Muster Funktionen von Funktionen Sie können Analysis betreiben! B Das Ganze mit einem Raspberry Pi IPython installieren Vergewissern, dass alles funktioniert Ein neuronales Netz trainieren und testen Erfolg für Raspberry Pi! Index Inhalt VII