Künstliche Neuronale Netze

Transkript

1 Künstliche Neuronale Netze als Möglichkeit, einer Maschine das Lesen beizubringen Anja Bachmann

2 Gliederung 1. Motivation 2. Grundlagen 2.1 Biologischer Hintergrund 2.2 Künstliche neuronale Netze 3. Anwendung 3.1 Schrifterkennung 4. Wie eine Maschine das Lesen lernt 4.1 nettrainer 4.2 wxocr 5. Fazit 6. Quellen Vortrag KNN Anja Bachmann 1

3 1. Motivation Probleme, menschliche Prozesse maschinell umzusetzen Frage, ob Maschinen denken können wie Menschen Rechner können schon viel, aber nicht ohne Weiteres komplexe Lernprozesse (u. a. Lesen) hier setzen künstliche neuronale Netze (KNN) an Einsatzgebiet von KNN ist u.a. die Schrifterkennung Studentenprogramme, die mittels KNN Texte verarbeiten Vortrag KNN Anja Bachmann 2

4 2. Grundlagen bisher Einscannen, um Bilder auf PC zu transferieren oder Abtippen KNN als Möglichkeit, sie einlesen zu lassen Vortrag KNN Anja Bachmann 3

5 2.1 Biologischer Hintergrund 1/2 Grundlage der KNN sind die neuronalen Netze menschliches Gehirn ist solch ein Netz aus Millionen kleiner Nervenzellen (Neuronen) winzige Berechnungseinheiten oder elementare Mini- Prozessoren Vortrag KNN Anja Bachmann 4

6 2.1 Biologischer Hintergrund 1/2 Biologischer Aufbau: Neuron besteht aus Zelle, Dendriten, Axonen und Synapsen Festgelegte Fließrichtung des Signals Vortrag KNN Anja Bachmann 5

7 2.2 Künstliche neuronale Netze 1/3 KNN = i.a. ein massiv paralleler Verbund von Neuronen zu Netzwerken KNN = mögliches System, an Probleme heranzugehen, welche zu ihrer Lösung eine Anpassung bestimmter Faktoren benötigen drei Phasen: Aufbauphase (Topologie), der Trainingsphase (das Lernen) und der Arbeitsphase (Propagation) KNN = ein Graph mit Knoten und (gewichteten) Kanten Vortrag KNN Anja Bachmann 6

8 2.2 Künstliche neuronale Netze 2/3 Parallelen zum biologischen Neuron Topologie eines KNN Dendriten = Eingabe, Zelle = Verarbeitung, Axon = Ausgang Informationsverar beitung in einem KNN verläuft mathematisch Vortrag KNN Anja Bachmann 7

9 2.2 Künstliche neuronale Netze 3/3 Knoten x 1 bis x n senden Signal zum Knoten x j Übergangungsfunktion Σ summiert die Eingangswerte w 1j bis w nj auf. Aktivierungsfunktion φ (z.b. stückweise linear, sigmoid) ermittelt Aktivierungswert Schwellwert θ j wenn überschritten, dann sendet Neuron Signale, sonst nicht Signale auf Richtigkeit prüfen Vortrag KNN Anja Bachmann 8

10 3. Anwendung von KNN Anwendung in: Medizin (Modellierung und Simulation biologischer neuronaler Netze) Informatik und Maschinenbau (Prozesssteuerung, Robotersteuerung, Sprach- oder Schrifterkennung) Wirtschaft (Risikomanagement) Mathematik (Funktionsapproximation) früher eher Forschung, heutzutage auch privat (auf Desktoprechnern bzw. KNN-Software) Vortrag KNN Anja Bachmann 9

11 3.1 Texterkennung OCR (optical character recognition) Zeichenerkennung ICR (intelligent character recognition) Kontext noch mit betrachtet IWR (intelligent word recognition) Weiterentwicklung von OCR/ICR teilweise Fließhandschrift Anwendung in der Wirtschaft: Absender anhand des Firmenlogos erkennen, Formalitätsgrad bestimmten privat: Texte vom Computer einlesen lassen, Captchas entschlüsseln Vortrag KNN Anja Bachmann 10

12 4. Wie eine Maschine das Lesen lernt nicht gänzlich ohne menschliche Hilfe möglich Eingabe- und dazugehörige Ausgabemuster erzeugen Training durch: Entwicklung neuer Verbindungen Löschen bestehender Verbindungen Anpassen der Schwellwerte der Neuronen Hinzufügen oder Löschen von Neuronen Veränderung der Aktivierungsfunktion der Neuronen oder der Lernrate des Netzes Modifikation der Gewichte der Neuronen Anwendung in vielen Programmen Vortrag KNN Anja Bachmann 11

13 4.1 nettrainer Qualität des Trainings entscheidend für die korrekte Arbeitsweise eines Netzes je öfter das Netz mit einem Symbol konfrontiert wird, desto besser erkennt es dieses auch überwachtes Lernen Vergleich von Istund Sollwerten gut trainiertes KNN soll auch für ähnliche, verzerrte, verrauschte oder unvollständige Inputs den richtigen Soll-Output liefern Vortrag KNN Anja Bachmann 12

14 4.2 wxocr 1/2 Urbild in das Programm einlesen Symbols von verschiedenen Punkten aus analysieren Netz vergleicht diese Ergebnisse dann mit seinen eigenen Erfahrungen Vortrag KNN Anja Bachmann 13

15 4.2 wxocr 2/2 das Programm wxocr beim korrekten und fehlerhaften Einlesen wenn fehlerhaft, dann erneutes Training Vortrag KNN Anja Bachmann 14

16 5. Fazit 1/2 großes Einsatzgebiet Texterkennung Alltag erleichtern, Einsparungen in Firmen, Gehirnprozesse simulieren Nachteile: Wissenserwerb nur durch Lernen möglich (langsam, abhängig von Trainingsdaten und Netz- und Lernparametern) viele ungeklärte Rätsel und alltägliche Probleme Hilfe durch Einsatz von KNN z.b. Verbesserung von Sicherheitsmaßnahmen vor allem in der Banken-Branche Vortrag KNN Anja Bachmann 15

17 5. Fazit 2/2 Durch KNN [...] erhalten wir das Tor zu bisher ungeahnter Rechnerleistung [...]. In Zukunft wird die Datenverarbeitung auf anderem Niveau stattfinden. (User Jokin in einem Forum) KNN werden uns noch oft begegnen und neue Anwendungsmöglichkeiten (von Maschinen) schaffen Vortrag KNN Anja Bachmann 16

18 6. Quellen Links: [1] [2] [3] /Neur_Netze_Kai_ ppt [4] [5] [6] [7] [8] Bücher: [9] Künstliche neuronale Netze Grundprinzipien, Hintergründe, Anwendungen, Patrick Hamilton. VDE-Verlag GmbH Berlin und Offenbach, Berlin, Vortrag KNN Anja Bachmann 17

19 Vielen Dank für eure Aufmerksamkeit! Fragen?