Genetische Algorithmen. Uwe Reichel IPS, LMU München 8. Juli 2008

Transkript

1 Genetische Algorithmen Uwe Reichel IPS, LMU München 8. Juli 2008

2 Inhalt Einführung Algorithmus Erweiterungen alternative Evolutions- und Lernmodelle Inhalt 1

3 Einführung Motivation Evolution als erfolgreiche und robuste Optimierungsmethode bei großen Suchräumen mit komlexen schwer zu modellierenden Interdependenzen von Objektmerkmalen Vermeidung lokaler Minima in der Fehlerfunktion durch Streuung der Suche leichte Parallelisierbarkeit Evolution (nach Darwin) Varianz im Genpool je besser angepasst (je fitter) ein Individuum, desto höher die Wahrscheinlichkeit, mit der es seine Gene an die nächste Generation weitergibt (Gründe: Attraktivität, Lebensdauer) Optimierung des Genpools im Laufe der Generationen Einführung 2

4 Terminologie Population: Sammlung von Hypothesen (=Individuen) Generation: Population zum Iterationsschritt i Fitness: Güte einer Hypothese Selektion: Auswahl von Hypothesen in Abhängigkeit ihrer Fitness Mutation: zufällige Veränderung einer Hypothese Crossover: zufälliger Austausch von Hypothesen-Bestandteilen zwischen Hypothesenpaaren Beispiel: Hypothese: Initialisierung eines Neuronalen Netzes N (bzgl. Architektur, Aktivierungsfunktion, Trainingsverfahren, Lernregel, etc.) Fitness: Performanz von N auf Testdaten Mutation: zufällige Veränderung von Bestandteilen von N Crossover: zufälliger Austausch von Bestandteilen zwischen zwei Netzen Einführung 3

5 Algorithmus Repräsentation von Hypothesen als Bit-Strings zur einfacheren Verarbeitung Beispiel: Neuronales Netz mit modifizierbaren Parametern: Anzahl der Schichten: Aktivierungsfunktion: purelin 00 satlin 01 logsig 10 tansig 11 Individuen: 100: 2-schichtig, purelin 010: 1-schichtig, logsig Algorithmus 4

6 Genetische Operatoren Mutation wähle zufällig ein Individuum aus wähle zufällig eine Position im Bit-String setze das Bit an dieser Position um z.b Crossover wähle zufällig zwei Individuen H 1 und H 2 aus Bit-Austausch zwischen diesen Individuen in Abhängigkeit einer Crossover-Maske Crossover-Maske: Bitstring (z.b. 1 Bit-Austausch zwischen H 1 und H 2 an der entsprechenden Position) Algorithmus 5

7 Ein-Punkt-Crossover (Ende der 1-Sequenz zufällig gewählt): H H Maske H H Zwei-Punkt-Crossover (Beginn und Ende der 1-Sequenz zufällig gewählt): H H Maske H H Algorithmus 6

8 Uniformes Crossover (zufällige Bitwerte Crossover-Maske): H H Maske H H Algorithmus 7

9 Algorithmus Initialisere Population P := Menge zufällig generierter Hypothesen Evaluiere: für alle h P: berechne Fitness(h) while([max h Fitness(h)] < Fitness schwelle) Erzeuge neue Generation P s : Select: übernehme probabilistisch eine Teilmenge von P in P s. Übernahmewahrscheinlichkeit für Hypothese h i : P r(h i ) = P Fitness(h i ) j Fitness(h j ) Crossover innerhalb einer Teilmenge von P s Mutate innerhalb einer Teilmenge von P s Update: P P s Evaluiere (s.o.) endwhile Return arg max h P [Fitness(h)] Algorithmus 8

10 Erweiterungen Parallelisierung z.b. Tanese, 1989, Cohoon et al., 1987 Aufteilung der Population in voneinander separierten Gruppen von Individuen (Deme) Simulierung voneinander unabhängiger Evolutionsprozesse in jedem dieser Deme. Austausch über Migration längerfristige Erweiterung des Suchraums, abnehmende Gefahr einer schlechten lokalen Optimierung Erweiterungen 9

11 Simulated Anealing Abkühlung im Laufe der Evolution zu Beginn: große gegen Ende: nur noch feine Änderungen zwischen den Generationen möglich Änderungen möglich erreicht durch: Herabsetzung des Anteils der für Crossover und Mutation zugelassenen Individuen Restriktion von Crossover auf Paare ähnlicher Individuen Restriktion der Mutation auf nur noch kleine Änderungen Erweiterungen 10

12 Alternative Evolutions- und Lernmodelle Lamarck sche Hypothese Erfahrung eines Individuums wird in den Genpool aufgenommen und an die nächste Generation weitergegeben biologisch widerlegt, aber nutzbringend für genetische Algorithmen (z.b. Grefenstette, 1991) z.b. Miteinbezug von Vebindungsgewichten in die Repräsentation von Neuronalen Netzen Alternative Evolutions- und Lernmodelle 11

13 Baldwin-Effekt Evolution bevorzugt lernfähige Individuen Grund: Individuen können durch Lernen ihre Fitness erhöhen Lernfähige Individuen sind weniger stark abhängig von ihrem (unflexiblen) genetischen Code. größere Variabilität im Genpool möglich abnehmende Gefahr einer schlechten lokalen Optimierung Studien mit neuronalen Netzen mit lernbaren vs. genetisch festgelegten Gewichten (Hinton et al., 1987) Alternative Evolutions- und Lernmodelle 12