Alternative Berechnungsmodelle

Transkript

1 Kapitel 23: Alternative Berechnungsmodelle Einführung in die Informatik Wintersemester 2007/08 Prof. Bernhard Jung Übersicht Zelluläre Automaten Neuronale Netze Genetische Algorithmen Literatur P. Rechenberg. Was ist Informatik? Eine allgemeinverständliche Einführung. Hanser [Kapitel 11.9] G. Saake & K.-U. Sattler. Algorithmen und Datenstrukturen. dpunkt [Kapitel 3.5] S. J. Russell & P. Norvig. Künstliche Intelligenz. Ein moderner Ansatz. Pearson Studium [Kapitel 4] 1

2 Berechnungsmodelle (Models of Computation) Bisher betrachtete Berechnungs- bzw. Algorithmenmodelle Technische Informatik: von-neumann Architektur Theoretische Informatik: Turingmaschine, While-Programme Praktische Informatik: Darstellung von Algorithmen Struktogramme, Programmablaufpläne Programmiersprachen Python, Java, C, C++, (erweiterbar um Konstrukte zur nebenläufigen/parallelen Programmierung) alle sequentiell Im folgenden: alternative, z.tl. hochgradig parallele Berechnungsmodelle Zelluläre Automaten Neuronale Netze Genetische Algorithmen Zelluläre Automaten System von Zellen, die miteinander interagieren alle Zellen gleichartig Modellierung räumlich diskreter dynamischer Systeme z.b. Ausbreitung von Wellen Zustand einer Zelle zum Zeitpunkt t+1 hängt nur vom Zustand der Zellen in der Nachbarschaft zum Zeitpunkt t ab mathworld.wolfram.com/cellularautomaton.html 2

3 Zelluläre Automaten - Geschichte erste Versuche durch Stanislaw Ulam und John von Neumann ca. 50er Jahre Idee: Computersystem als selbstreproduzierendes Lebewesen 1968 erste Resultate durch Horton Conway mit dem "Spiel des Lebens 1969 Konrad Zuse's "Rechnender Raum": das Universum als gigantischer Zellularautomat 1983 grundlegenden Arbeiten zu Zellularautomaten von Stephen Wolfram Untersuchung dynamischer Eigenschaften S. Ulam J. v. Neumann H. Conway Zelluläre Automaten Zellraum unterschiedliche Dimensionen Geometrien Rechteck, Dreieck, Sechseck, Größen Nachbarschaft 1D: linker rechter Nachbar 2D Moore Nachbarschaft von Neumann Nachbarschaft Randbedingungen begrenzende Faktoren am Rand besondere Verhältnisse 3

4 Conway's Game of Life (1) Zustandsmenge 0 = Zelle nicht besetzt/tot 1 = Zelle besetzt/lebt Zustandsentwicklung vom Zustand der Zelle und deren (Moore-) Nachbarn hängt ihr weiteres Bestehen ab Entwicklungen, die außerhalb der lokalen Umgebung, liegen haben keinen Einfluss auf das innere System die Veränderungen der Zellen und deren Ausbreitung laufen nach festen Regeln ab Originalregeln Eine Zelle mit genau drei lebenden Nachbarn wird in der Folgegeneration neu geboren Lebende Zellen mit weniger als zwei lebenden Nachbarn sterben in der Folgegeneration an Einsamkeit Lebende Zellen mit mehr als drei lebenden Nachbarn sterben in der Folgegeneration an Überbevölkerung Conway's Game of Life (2) Mit diesen einfachen Regeln entsteht Vielfalt komplexer Strukturen ("Emergenz") stationäre Objekte pulsierende Objekte Blinker Pulsator Raumschiffe und Gleiter Animationen 4

5 Conway's Game of Life (3) JGoL Game of Life Applet Zelluläre Automaten - Anwendungen Räuber-Beute-Modell Evakuierungssimulation Simulation der Ausbreitung von Epidemien z.b. ulations/cellular-automata/epidemic/ Simulation von Waldbränden Modellvorstellung bei Verkehrstaus Simulation von Gasen und Flüssigkeiten Das Muster dieser Seemuschel wird durch eine Art natürlichen Zellularautomaten generiert 5

6 Lattice-Boltzmann-Methode (auch Gitter-Boltzmann-Methode) Methode zur numerischen Strömungssimulation engl. Computational Fluid Dynamics Beschreibung der Ausbreitung von Flüssigkeiten, Gasen Spezielle Art von zellulären Automaten Verfolgung von Partikeln durch ein diskretes 3D Gitter Anwendung für das Hochleistungsrechnen Simulation des Luftstroms um Space Shuttle bei Wiedereintritt in Erdatmosphäre en.wikipedia.org/wiki/computational_fluid_dynamics Beispiel-Applet Künstliche Neuronale Netze (KNN) a system composed of many simple processing elements operating in parallel whose function is determined by network structure, connection strengths, and the processing performed at computing elements or nodes. - DARPA (1988) Netze aus künstlichen Neuronen Modell der Informationsverarbeitung motiviert durch natürliche neuronale Netze in Gehirn und Rückenmark KNN können lernen typischerweise durch Anpassung der Gewichte von Verbindungen Natürliches Neuron Künstliches Neuronales Netz 6

7 Künstliche Neuronale Netze (KNN) KNNs bestehen aus Knoten, die durch (gerichtete) Kanten miteinander verbunden sind Aktivierungen von Knoten werden entlang der Kanten weitergeleitet Kanten sind gewichtet Jeder Knoten hat eine Aktivierungsfunktion und einen Output, z.b. Schwellwert: Falls Summe der Eingaben > 0 dann Output = 1, sonst 0 KNN Sigmoidfunktion (Vorteil: differenzierbar) Mathematisches Modell eines Neurons Künstliche Neuronale Netze (KNN) Multilayer Feed-Forward Networks Üblichste Form von KNN Neuronen angeordnet in Schichten: Eingabeschicht mind. 1 innere, "versteckte" Schicht Ausgabeschicht Backpropagation Algorithmus Verfahren zum Trainieren mehrschichtiger KNN 7

8 Künstliche Neuronale Netze (KNN) Künstliche Neuronale Netze (KNN) - Anwendungen i.a. für alle Anwendungen interessant, bei denen kein bzw. nur geringes explizites (systematisches) Wissen über das zu lösende Problem vorliegt Schrifterkennung (OCR) Erkennung gesprochener Sprache Bilderkennung und Gesichtserkennung Regelungstechnik Frühwarnsysteme Optimierung Klassifikation Zeitreihenanalyse (z.b. Wetter, Aktien) 8

9 Genetische Algorithmen heuristisches Optimierungsverfahren orientiert am Vorbild der biologischen Evolution Anwendung oft auf Probleme für die es keine analytische Lösung gibt z.b. bestimme x 1, x 2, x 3,, x n so dass f(x 1, x 2, x 3,, x n ) maximal wobei z.b. f von (Wirtschafts-, Tunnelbau-, )Simulationsprogramm berechnet d.h. z.b. keine Ableitung von f bekannt Schritte 1. Initialisierung: Beginne mit zufälliger Population 2. Evaluation: Bewerte Fitness der Individuen der Population 3. Selektion: zufällige Auswahl von Individuen mit höherer Wahrscheinlichkeit für fitte Individuen 4. Reproduktion (Fortpflanzung): Kombination von zwei ausgewählten Individuen 5. Mutation: Zufällige Veränderung der neuen Individuen 6. Auswahl von Individuen für die nächste Population (survival of the fittest) Wiederhole, bis hinreichend gute Lösung oder max. Anzahl Iterationen Genetische Algorithmen - Beispiel Beispiel 8-Damenproblem Codierung der Lösungskandidaten durch Nr. der Reihe für 8 Damen Die anfängliche Population in (a) wird nach der Fitness-Funktion in (b) geordnet, woraus sich Fortpflanzungspaare in (c) ergeben. Sie produzieren eine Nachkommenschaft in (d), die in (e) einer Mutation unterzogen wird. 9

10 Genetische Algorithmen Praktische Anwendungen Erstellung Phantombilder aus wenigen Daten wie Geschlecht, Haarfarbe, Gesichtsbehaarung und Kopfform, werden ein Satz zufälliger Phantombilder erzeugt Zeuge wählt das Bilder, welches dem Täter am ähnlichsten sieht Aus diesem und den letzten paar Bildern werden neue Bilder erzeugt, aus denen der Zeuge wieder das ähnlichste Bild wählt usw. Verfahren ist schneller und genauer als traditionelles Zeichnen Computerspiele intelligente Gegner lernen vom Spieler dadurch unvorhersagbares Verhalten möglich Logistik optimale Touren für LKW unter Einhaltung von Lieferterminen und anderer Constraints Flugzeugbau Optimierung von Flügel- bzw. Rumpfform Parameteroptimierung in vielen Simulationsprogrammen Genetische Algorithmen: Vor- und Nachteile Vorteile Kein Vorwissen über Optimierungsproblem notwendig Einfachheit: einfach zu beschreiben und zu implementieren Algorithmus erzeugt immer mehrere, annähernd gleich gute Lösungen nützlich, falls beste Lösung aus externen Gründen nicht genehm Nachteile falls bekannt, sollte immer direkte (analytische) Lösung vorgezogen werden z.b. Minimum einer quadratischen Funktion f(x) = ax 2 + bx + c keine Zusicherung, dass globales Optimum gefunden wird dies ist allerdings ein Problem aller lokalen Optimierungsverfahren oft langsam 10

11 Genetische Algorithmen in der Computergraphik Karl Sims: Evolving Virtual Creatures. Sigraph-94. Verhaltensbasierte Animation + genetische Algorithmen 11