Populationsbasierte Suche. Evolutionäre Algorithmen (1)

Transkript

1 Populationsbasierte Suche Bisherige Meta-Heuristiken: Simulated Annealing Tabu Search Ausgehend von einer Lösung wird gesucht Populationsbasierte Heuristiken Suche erfolgt ausgehend von mehreren Lösungen Ausnutzen der in der Population gespeicherten Information Robuster als Individual-Suche Leichter parallelisierbar Evolutionäre Algorithmen () Idee: Simulation der natürlichen Evolution Anpassung der Arten ist ein Optimierungsprozess Populationsbasierte Optimierung Mechanismen der Optimierung: Lösungsbewertung anhand der Zielfunktion Variation/Lösungsänderung Verwerfen oder Beibehalten von Lösungen Mechanismen der Evolution: Replikation Variation Selektion Folie 23 Folie 24 Evolutionäre Algorithmen (2) Analogien: Zielfunktion = Fitness (Überlebensfähigkeit/Fortpflanzungsfähigkeit) Lösung des Optimierungsproblems = Individuum/Species Repräsentation einer Lösung = Genetischer Code Lösungsveränderung = genetische Variation (Mutation und Rekombination) Lösungsauswahl = Selektion (Survival of the Fittest) Populationsbasierte Optimierung Historie der Evolutionären Algorithmen Historie: Genetische Algorithmen (GeneticAlgorithms, GA) - Holland 962 Evolutionsstrategien (Evolution Strategies, ES) Rechenberg, Schwefel 969 Evolutionäre Optimierung (Evolutionary Programming, EP) Fogel, Owens, Walsh 965 Genetische Programmierung (Genetic Programming, GP) Koza 994 EA Flavors : 3 Entwicklungrichtungen (GA, ES, EP) GP, MA,... Folie 25 Folie 26

2 Ablauf eines EA Genetische Algorithmen - GA Initialisierung: Erzeugung von Individuen Fitnessevaluation: Bestimmung Fitness der Individuen Auswahl von Individuen zur Variation Rekombination Mutation Übernahme von Individuen in die nächste Generation (Nachkommenselektion) Initialisierung Fitnessevaluation Elternselektion Variation Fitnessevaluation Überlebensselektion Ende Kodierung: Binäre Repräsentation genetischer Code IdR. Decodierung zur Fitnessevaluation nötig Unterscheidung zwischen Genotyp und Phänotyp Fitnessproportionale Selektion Rekombination/Crossover sexuelle Reproduktion Mutation, spielt geringe Rolle Einfache Ersetzung der Nachkommen durch die Eltern Folie 27 Folie 28 Genetischer Code Genotyp vs. Phänotyp Epistasie: Pleiotropie: Ein Gen beeinflusst mehrere phänotypische Eigenschaften Polygenie:Viele Gene legen eine phänotypische Eigenschaft fest Mathematische Sicht: Abhängigkeit der Variablen untereinander Nichtlinearität a b c d e ff g h Genotyp: Genetische Kodierung einer Lösung ( Bauplan eines Organismus) Phänotyp: Lösung, Element des Lösungsraumes (Suchraumes) Fitness: Bewertung des Phänotyps P(t+) G(t) Genotypen Phänotypen P (t) Dekodierungsfunktion G (t) Folie 29 Folie 3 2

3 Genetische Operatoren - Crossover Genetische Operatoren Uniform Crossover Crossover: Dem Crossoverin der Natur nachempfunden: Single-Point Crossover Verallgemeinerungen: two-point crossover, uniform crossover Crossover-Stellen werden zufällig gewählt x Uniform Crossover: Verallgemeinerung durch Einführen einer Crossover- Maske: - : Nehme Genwert (Allel) von Elter A - : Nehme Allel von Elter B Wichtige Eigenschaften: - Allele, die in den Eltern gleich sind, sind auch in den Kindern zu finden - Jedes Gen der Kinder stimmt mit mindestens einem Elter überein Folie 3 Folie 32 Genetische Operatoren - Mutation Genetische Operatoren - Selektion Mutation: Bit-Flip mit geringer Wahrscheinlichkeit Roulette Wheel Fitnessproportionale Zufallsselektion Fitness bestimmt erwartete Anzahl der Kopien in temporärer Population 6% 3% 4% 49% Individuum Individuum 2 Individuum 3 Individuum 4 fs ( i ) ps ( i ) = fs ( ) j j Wahrscheinlichkeit /l pro Bit (l: Länge des Binärvektors) Im Schnitt wird ein Bit Pro Mutation geändert Rekombination und Mutation wird auf temporäre Population angewendet Temporäre Population ergibt Population der nächsten Generation Folie 33 Folie 34 3

4 Evolutionsstrategien - ES Kodierung: Reellwertige Repräsentation Keine Decodierung zur Fitnessevaluation nötig Operatoren arbeiten auf Phänotyp Rein zufällige Selektion (uniform) Mutation mit Selbstadapation Rekombination (geringerer Stellenwert) Die besten aus Eltern und Kindern oder die besten Kinder Evolutionsstrategien Mutation () Repräsentation: Individum: (x, σ) mit x=(x,...,x n ),σ R n Einfache Mutation: N i (,): Normalverteilte Zufallszahl (Mittelwert, Varianz ) Globale Schrittweite: x = x + σ N (,) i i i Individuelle Schrittweite: x = x + σ N (,) i i i i Schrittweitenanpassung: σ = σ exp( τ N (,) + τ N (,)) i i i i ( n ) τ ( n ) Lernraten: τ 2 2 Folie 35 Folie 36 Evolutionsstrategien Mutation (2) Korrelierte Mutation: Hinzunahme von Winkeln (Erweiterung der Repräsentation) Evolutionsstrategien Rekombination Rekombinationsarten: i i x 2 i + yi ( j ) i = i i ( j ) ( x + y 2 i i ( j ) xi + χ i yi xi x x y x y. ( diskret) ( ). ( intermediär). (global, diskret) ). (global,intermediär) ( ). ( generalisi ert) y x Globale Schrittweite Individuelle Schrittweite Korrelierte Mutationen Ellipsen stellen Bereiche gleicher Mutationswahrscheinlichkeit dar Global: Für jede Komponente wird neuer Elter gewürfelt Folie 37 Folie 38 4

5 Evolutionsstrategien Selektion (m,l)-selektion: (Überlebensselektion) Aus µ Eltern werden λ Kinder erzeugt (λ > µ) Die µbesten der λ Kinder bilden die neue Population (m+l)-selektion: (Überlebensselektion) Aus µ Eltern werden λ Kinder erzeugt Die µ besten der µ Eltern und λ Kinder bilden die neue Population Spezialfälle: (,)-ES: Random Walk (+)-ES: zufallsgesteuerte lokale Suche Evolutionäre Optimierung - EP Kodierung: (wie bei ES) Reellwertige Repräsentation Keine Decodierung zur Fitnessevaluation nötig Operatoren arbeiten auf Phänotyp Rein zufällige Selektion (uniform) Nur Mutation! Wettbewerbsauswahl (Tournament selection) Folie 39 Folie 4 Evolutionäre Optimierung - Selektion Evolutionäre Optimierung - EP Wettbewerbsauswahl: Engl. Tournament selection Überlebensselektion Schrittweise Auswahl In jedem Schritt werden k > Individuen ausgewählt Auswahl ist zufällig Das Beste wird in die Nachfolgegeneration übernommen Vorgang wird wiederholt, bis Population gefüllt ist Ürsprünglich: (5er Jahre) Entwickelt mit dem Ziel künstliche Intelligenz zu kreieren Evolution eines endlichen Automaten (FSM) zur Vorhersage von Ereignissen in einer gewählten Umgebung Ereignisse : Symbole eines endlichen Alphabets Mutation: /β Änderung eines Ausgabesymbols Änderung eines Zustandübergangs Hinzufügen/Löschen eines Zustandes Ändern des Startzustandes A /γ /β B /α /γ /β C Folie 4 Folie 42 5

6 Gegenüberstellung von GA, ES und EP Varianten Genetischer Algorithmen () GA: Binärkodierung - Genetische Operatoren arbeiten auf Genotyp Fitnessproportionale Elternselektion Variation durch Rekombination / Mutation wenig Bedeutung ES: Selbstanpassung der Strategieparameter Reelle Kodierung Operatoren arbeiten auf Phänotyp Deterministische Überlebensselektion Mutation, Rekombination weniger bedeutend EP: Wie ES, aber keine Rekombination Zufallsgesteuerte Überlebensselektion GENITOR: Es wird nur ein Kind bei der Rekombination erzeugt Steady-State-GA: - Es wird nur ein Kind pro Generation erzeugt - Kind ersetzt schlechtestes Individuum in der Population Rang-basierte Elternselektion: - Auswahlwahrscheinlichkeit wird durch den Rang in der Population bestimmt - Linear ranking: Rang i [,n], Selektionswahrscheinlichkeit : i ps ( i ) = pmax ( p max pmin) n Folie 43 Folie 44 Varianten Genetischer Algorithmen (2) EA in der kombinatorischen Optimierung CHC: Cross-generational elitist selection: - Nachkommenselektion entspricht Selektion in (µ+λ)-es - Dublikate werden aus Population entfernt Heterogenous Recombination: - Elternauswahl zufällig, aber: Eltern mit minimaler Hamming- Distanz - Variante von Uniform crossover: genau die Hälfte der unterschiedlichen Bits werden invertiert Cataclysmic mutation: - Bei Konvergenz werden alle Individuen bis auf das Beste stark mutiert CHC verwendet kleine Populationen Praxis: EA/GA sind nicht sehr effektiv Verwendung von Problemwissen Hybride Algorithmen Lokale Suche bietet sich an Nutzen der Vorteile von EA und LS Rolle von Mutation und Rekombination wandeln sich Rekombination in EA: Crossover erzeugt neue Lösung aus den Lösungskomponenten der Elternlösungen Rekombination in MA: Neue Lösungskomponenten werden eingefügt Folie 45 Folie 46 6