Computational Intelligence

Transkript

1 Vorlesung Computational Intelligence Stefan Berlik Raum H-C 80 Tel: 027/ Inhalt Überblick Rückblick Optimierungsprobleme Optimierungsalgorithmen Vorlesung Computational Intelligence 2 Ø

2 Rückblick Zusammenfassung der letzen Vorlesung Künstliche Intelligenz Traditionelle KI vs. Computational Intelligence Computational Intelligence Abwendung von symbolischer Verarbeitung Rückbesinnung auf die Verarbeitung numerischer Information Approximation statt exakter Lösung Hauptgebiete Evolutionäre Algorithmen Künstliche Neuronale Netze Fuzzy Systeme Evolutionäre Algorithmen Naturanaloges Verfahren Div. Anwendungsgebiete Vorlesung Computational Intelligence Inhalt Überblick Rückblick Grundelemente Struktur Einführendes Beispiel: Das n-damen Problem Optimierungsprobleme Optimierungsalgorithmen Vorlesung Computational Intelligence Ø2

3 Grundelemente eines genetischen Algorithmus Kodierungsvorschrift Die Repräsentation eines Individuums ist offensichtlich problemspezifisch Die Auswahl einer angemessenen Kodierung hat erheblichen Einfluss auf die Funktion des Algorithmus Initialisierungsmethode Erzeugt die Ausgangspopulation Üblicherweise werden die Gene mit zufälligen Werten belegt. Komplexe Probleme erfordern ggf. eine spezialisierte Initialisierung Fitnessfunktion Bewertet die Individuen und spiegelt damit die Umwelt wider Üblicherweise sind die Fitnessfunktion und die zu optimierende Funktion identisch. Es können jedoch weitere Kriterien die Fitness beeinflussen, wie beispielsweise Nebenbedingungen Vorlesung Computational Intelligence 5 Grundelemente eines genetischen Algorithmus Selektionsoperator Legt auf Basis der Bewertung durch die Fitnessfunktion fest, welche Individuen überleben bzw. Nachkommen erzeugen Reproduktionsoperatoren Erzeugen Nachkommen durch Variation der genetischen Informationen eines oder mehrerer Eltern Crossover Rekombination von Chromosomen eines oder mehrere Eltern Mutation Zufällige Variation einzelner Gene Abbruchkriterium Legt fest, wann der genetische Algorithmus beendet werden soll. Mögliche Abbruchkriterien sind Festgelegte Anzahl von Generationen wurde erreicht Festgelegte Anzahl von Zielfunktionsauswertungen wurde erreicht Festgelegte Mindestgüte der Lösung wurde erreicht Stagnation der Optimierung Zeitüberschreitung Vorlesung Computational Intelligence 6 Ø

4 Struktur eines evolutionären Algorithmus t := 0; initialize(p(t)); evaluate(p(t)); while not termination P (t) := variate(p(t)); evaluate(p (t)); P(t + ) := select(p (t)); t := t + ; Vorlesung Computational Intelligence 7 Beispiel: Das n-damen-problem Plaziere n Damen so auf einem n x n großen Schachbrett, dass keine Dame eine andere sieht, d.h. in jeder Zeile, Spalte und auf jeder Diagonalen höchstens eine Dame steht. Zugmöglichkeiten einer Dame Eine Lösung des 8-Damen-Problems Vorlesung Computational Intelligence 8 Ø

5 Das n-damen-problem / Backtracking Das n-damen-problem kann mittels Backtracking gelöst werden Die Damen werden zeilenweise (oder auch spaltenweise) platziert Für jede Zeile gilt In der Zeile wird die Dame der Reihe nach von links nach rechts auf die Felder gesetzt Es wird jeweils überprüft, ob es zu Kollisionen mit bereits bearbeiteten Zeilen gekommen ist Gab es keine Kollisionen, wird rekursiv mit der nächsten Zeile fortgefahren Andernfalls wird die Dame eine Position nach rechts verschoben und erneut auf Kollisionen geprüft Kann eine Dame nicht konfliktfrei in einer Zeile positioniert werden, wird auf die nächst höhere Rekursionsebene zurückgesprungen Kann eine Dame auf der letzten Zeile des Brettes kollisionsfrei platziert werden, wird die Lösung ausgegeben. Vorlesung Computational Intelligence 9 Das n-damen-problem / Backtracking Vorlesung Computational Intelligence 0 Ø5

6 Das n-damen-problem / Direkte Lösung Wird lediglich eine Lösung gesucht, können die Positionen der Damen für alle n> folgendermaßen berechnet werden: Falls n ungerade ist: Setze eine Dame auf (n-, n-) und verringere n um Falls n mod 6 2: Setze die Damen in den Zeilen y = 0,..., n/2 in die Spalten x = 2y + in den Zeilen y = n/2,..., n in die Spalten x = 2y n Falls n mod 6 = 2: Setze die Damen in den Zeilen y = 0,..., n/2 in die Spalten x = (2y + n/2) mod n in den Zeilen y = n/2,..., n in die Spalten x = (2y n/2 + 2) mod n Vorlesung Computational Intelligence Das n-damen-problem / GA: Kodierung Jedes Individuum wird durch eine Chromosom mit n Genen beschrieben Jedes Gen entspricht einer Zeile des Schachbretts. Es gibt die Position der Dame in der entsprechenden Zeile an und hat somit n mögliche Allele. 2 0 Phänotyp 0 2 Genotyp Gen 2 õ 0 Chromosom Diese Kodierung schließt bereits mehr als eine Dame pro Zeile aus Vorlesung Computational Intelligence 2 Ø6

7 Das n-damen-problem / Datentypen Die Klasse der Individuen public class individual private int[] genes; // Array der Gene private int fitness; // Fitness des Individuums [...] Die Klasse der Populationen public class population private int popsize; // Größe der Population private int boardsize; // Größe des Bretts private individual[] inds; // Array der Individuen private int bestindex; // Index des besten Individuums [...] Vorlesung Computational Intelligence Das n-damen-problem / Hauptschleife Die Hauptschleife zeigt die Grundform eines genetischen Algorithmus // --- Evolutionäre Schleife --- pop.init(); // Initialisiere die Population int gencnt = 0; // Initialisiere den Generationenzähler while ((pop.eval() < 0) // Solange keine Lösung gefunden wurde && (gencnt <= genmax)) // und die maximale Generationenzahl // noch nicht erreicht wurde: pop.select(tmsize, elitist); // Selektiere Individuen, pop.crossover(frac); // führe Crossover durch und pop.mutate(prob); // mutiere die Individuen. gencnt++; // Erhöhe den Generationenzähler Parameter: maxgen: Maximale Anzahl zu berechnender Generationen tmsize: Turniergröße der Individuenauswahl elitist: Gibt an, ob das beste Individuum stets übernommen werden soll frac: Anteil der Individuen, die Crossover unterzogen werden prop: Mutationswahrscheinlichkeit Vorlesung Computational Intelligence Ø7

8 Das n-damen-problem / Initialisierung Es werden zufällige Folgen von n Zahlen aus 0,,..., n- erzeugt Klasse Individual public void init() for (int i = 0; i < Genes.Length; i++)// Initialisiere die Gene zufällig Genes[i] = MainClass.rnd.Next(0, Genes.Length); Klasse Population public void init() foreach (individual i in Inds) i.init(); Vorlesung Computational Intelligence 5 Das n-damen-problem / Bewertung Die Fitness entspricht der negierten Anzahl der Spalten und Diagonalen mit mehr als einer Dame. Damit ist die Fitness zu maximieren Kollisionen > Fitness = -2 Bei mehr als zwei Damen pro Spalte bzw. Diagonale wird aus Gründen der einfacheren Implementierung jedes Paar gezählt Eine Lösung hat somit die maximale Fitness 0 Vorlesung Computational Intelligence 6 Ø8

9 Das n-damen-problem / Bewertung Kollisionsberechnung für ein Individuum public void eval() // Methode verlassen, falls die Fitness bereits bekannt ist if (Fitness <= 0) return; int d; int k = 0; // Horizontale Distanz zwischen den Königinnen // Anzahl der Kollisionen // Durchlaufe alle Paare von Königinnen for (int i = 0; i + < Genes.Length; i++) for (int j = i; ++j < Genes.Length; ) d = Math.Abs(Genes[i] - Genes[j]); // Anzahl der Königinnen in der selben Spalte / Diagonale zählen if ((d == 0) (d == j-i)) k--; Fitness = k; // Anzahl der Kollisionen zurückgeben Vorlesung Computational Intelligence 7 Das n-damen-problem / Bewertung Die Fitness aller Individuen wird berechnet und das beste Individuum bestimmt public int eval() BestIndex = 0; // Index des besten Individuums for (int i = 0; i < Inds.Length; i++) Inds[i].eval(); if (Inds[i].Fitness > Inds[BestIndex].Fitness) BestIndex = i; // Index des Besten merken return Inds[BestIndex].Fitness; Vorlesung Computational Intelligence 8 Ø9

10 Das n-damen-problem / Auswahl der Individuen Turnierauswahl mit tmsize Teilnehmern Das beste Individuum gewinnt das Turnier und wird gewählt Höhere Fitness resultiert in einer größeren Chance gewählt zu werden public individual tmselelection(int tmsize) individual tmbest = Inds[MainClass.rnd.Next(0, Popsize)]; for (int i = 0; i < tmsize; i++) // Wähle zufällig tmsize Individuen und bestimme das mit bester Fitness individual compet = Inds[MainClass.rnd.Next(0, Popsize)]; if (compet.fitness > tmbest.fitness) tmbest = compet; return tmbest; Vorlesung Computational Intelligence 9 Das n-damen-problem / Auswahl der Individuen Individuen die die nachfolgende Generation bilden werden durch einzelne Turniere bestimmt Ggf. wird das beste Individuum direkt übernommen public void select(int tmsize, bool elitist) // Zwischenspeicher für temporäre Population einrichten individual[] buf = new individual[popsize]; int i = 0; // Selektiere 'popsize' Individuen if (elitist) // Bestes Individuum sichern? buf[i++] = Inds[BestIndex]; do buf[i] = tmselection(tmsize); while (++i < Popsize); Inds = buf; BestIndex = -; // Selektiere die (restlichen) Individuen // Temporäre Population übernehmen // Bestes Individuum ist noch unbekannt Vorlesung Computational Intelligence 20 Ø0

11 Das n-damen-problem / Crossover Austausch eines Chromosomenteilstücks zwischen zwei Individuen Beispiel: -Punkt-Crossover Wähle zufällig eine Schnittstelle zwischen den Genen Tausche die entstandenen Teilstücke unter den beiden Individuen Fitness 0-2 ö Vorlesung Computational Intelligence 2 Das n-damen-problem / Crossover Austausch eines Chromosomenstücks zwischen zwei Individuen public void crossover(ref individual other) int i = 0; int s; // Laufvariable // Zwischenspeicher int r = MainClass.rnd.Next(0, Genes.Length); // Bestimme Crossover Punkt while (i < r) s = Genes[i]; // Tausche die Gene der Chromosomen Genes[i] = other.genes[i]; other.genes[i++] = s; Fitness = ; // Annuliere die Fitness other.fitness = ; // der beiden geänderten Individuen Vorlesung Computational Intelligence 22 Ø

12 Das n-damen-problem / Crossover Ein bestimmter Teil der Individuen wird Crossover unterzogen Beide gekreuzten Individuen werden in die neue Population übernommen, die Eltern gehen verloren Das beste Individuum wird keinem Crossover unterzogen public void crossover(double frac) int k = (int)(popsize * frac); for (int i = 0; i < k; i++) Inds[2 * i].crossover(ref Inds[2 * i + ]); Vorlesung Computational Intelligence 2 Das n-damen-problem / Mutation Zufällig bestimmte Gene werden durch zufällige Werte ersetzt Die Anzahl der zu ändernden Gene kann auch zufällig gewählt werden ö Fitness -2 - Die meisten Mutationen sind schädlich Anfangs nicht vorhandene Allele können nur durch Mutation entstehen Vorlesung Computational Intelligence 2 Ø2

13 Das n-damen-problem / Mutation Es wird für jedes Gen neu entschieden, ob es mutiert wird Falls das beste Individuum übernommen wird, wird dieses nicht mutiert In der Klasse der Individuen public void mutate(double prob) if (MainClass.rnd.NextDouble() >= prob) return; do // Mutiere zufällig gewähltes Gen int p = MainClass.rnd.Next(0, genes.length); int v = MainClass.rnd.Next(0, genes.length); Genes[p] = v; while (MainClass.rnd.NextDouble() < prob); Fitness = ; // Annuliere die Fitness In der Klasse der Populationen public void mutate(double prob) foreach (individual i in Inds) i.mutate(prob); Vorlesung Computational Intelligence 25 Ø