VR-Seminar WS 2003/2004. Genetische Algorithmen

Transkript

1 VR-Seminar WS 2003/2004 Genetische Algorithmen Seminararbeit im Studiengang Mediensysteme von Christian Nitschke Matr. Nr Fachsemester Prof. Bernd Fröhlich Lehrstuhl Systeme der Virtuellen Realität Fakultät Medien Bauhaus-Universität Weimar 30. März 2004

2 Inhaltsverzeichnis i Inhaltsverzeichnis 1 Einleitung 1 2 Evolution Vererbung Informatik und Evolution Optimierungsprobleme Heuristische Verfahren Metaheuristische Verfahren Evolutionäre Algorithmen Genetische Algorithmen Entwicklung Genetischer Algorithmen Konferenzen Suchmethode Genetischer Algorithmen Verschiedene Bedeutungen von Suche Suche nach gespeicherten Daten Suche von Wegen zu einem definierten Ziel Suche nach Lösungen Erläuterungen Gemeinsamkeiten aller Suche-nach-Lösungen-Methoden (3) Biologische Terminologie Genetische Algorithmen als Abstraktion der Natur Suchräume und Fitnesslandschaften Suchraum Distanz zweier Lösungen Konzept der Fitness-Landschaften Aufbau eines Genetischen Algorithmus Ablauf Generation Durchlauf Elemente eines Genetischen Algorithmus Fitnessfunktion Reproduktions-Operatoren Selektion Kreuzung Mutation Ersetzungsstrategien

3 Inhaltsverzeichnis ii Vollständige Ersetzung Elitismus Arbeitsweise Genetischer Algorithmen Schemata/Hyperplanes Verarbeitung von Schemata durch den GA Berechnung der Dynamik Selektion Kreuzung Mutation Schema-Theorem (Holland, 1975) Building-Block-Hypothese (Goldberg, 1989) TSP mit einem Genetischen Algorithmus Travelling Salesman Problem (TSP) Spezifische GA-Operatoren Initializer Crossover Mutator Comparator Evaluator GA-Algorithmen Simple GA Steady-State GA Incremental GA Crowding GA Deme GA Anwendungen von Genetischen Algorithmen Genetic Algorithms in Parametric Design of Aircraft Dynamic Anticipatory Routing in Circuit-Switched Telecommunications Networks A Genetic Algorithm Applied to Robot Trajectory Generation Strategy Acquisition with Genetic Algorithms Genetic Synthesis of Neural Network Architecture A Genetic Algorithm Approach to Multiple Fault Diagnosis Software Test Data Generation from a Genetic Algorithm Data Mining Using Genetic Algorithms Genetic Algorithms for Game Playing Simulation of an Artificial Eco-System Using Genetic Algorithms... 38

4 1 EINLEITUNG 1 1 Einleitung Viele bekannte Probleme der Informatik können im allgemeinen nicht effizient gelöst werden. Es existieren meist keine Verfahren, die in zumutbarer Zeit zu einer Lösung führen. Was kann man nun tun, um doch an eine praktikablen Lösung zu gelangen? Man könnte einen Algorithmus entwerfen, der die Lösung nur annähert, dafür aber schnell arbeitet. Desweiteren könnte man kompliziertes Expertenwissen über den Lösungsraum anwenden. Wenn man jedoch nicht über solches Wissen verfügt oder nicht die Zeit hat, einen speziellen Algorithmus zu entwerfen und trotzdem auf eine gute Lösung in praktikabler Zeit nicht verzichten möchte, dann bietet der Genetische Algorithmus eine elegante Alternative. Ein Genetischer Algorithmus ist ein generisches, einfach einzusetzendes Lösungsverfahren, welches von der Natur nachempfundene Techniken einsetzt. Er abstrahiert die natürliche Evolution, um zu einer optimalen Lösung zu gelangen. Dabei arbeitet er paralell mit einer ganzen Menge von Lösungen, die miteinander interagieren können. Die künstliche Evolution wird durch Operatoren wie Selektion, Kreuzung, Mutation und Ersetzung vollzogen. Das Ziel ist es wie auch bei der natürlichen Evolution mit der Zeit immer bessere bzw. optimalere Generationen von Lösungen zu erzeugen.

5 2 EVOLUTION 2 2 Evolution Genetische Algorithmen basieren auf der Abstraktion des Verfahrens der natürlichen Evolution. Daher ist es wichtig, einen kurzen Überblick darüber zu geben. Die Evolution ist ein andauernder Entwicklungsprozeß, den alle Lebewesen in der Natur durchlaufen. Sie ist geprägt vom Drang zum Überleben. Dabei erfolgt implizit eine Anpassung der Art an die vorherrschenden Umweltbedingungen. Die zwei wichtigsten Prinzipien der Evolution sind Selektion und Vererbung. Nur am besten angepasste Individuen kommen überhaupt in den Genuß ihr besseres Erbmaterial weiterzugeben. Andere sterben möglicherweise schon vor der Paarungszeit oder erhalten keine Chance. Somit verschwindet schlechteres, weniger angepaßtes Erbmaterial auf lange Sicht aus der Population. Das Verfahren spricht für sich, denn durch die Evolution haben sich im Laufe der Zeit komplexe Strukturen und effektive Mechanismen in allen möglichen Formen und Variationen entwickeln können. 2.1 Vererbung - Weitergabe von Erbmaterial Damit Erbmaterial weitergegeben werden kann, müssen sich zwei Elternindividuen finden. Dies kann als natürliche Selektion bezeichnet werden. Den Auswahlprozess bestehen nur die stärksten bzw. fittesten oder am besten angepaßten Individuen. Bei der Paarung kommt es nun zu einer Rekombination und damit einer Vermischung des Erbmaterials der Eltern. Dadurch erhalten entstehende Kindindividuen jeweils einen Teil der Eigenschaften von jedem Elter. Während der nötigen Replikation der DNS-Stränge der Eltern können gelegentliche Fehler auftreten. Eine solche Mutation kommt gewissermassen einer Einschleusung von fremden Erbmaterial gleich, da das erzeugte Erbgut bei keinem der Eltern vorhanden ist. Dies ist nicht immer von Nachteil. Mutationen können so gesehen zu einer Variabilität bei der Vererbung führen.

6 3 INFORMATIK UND EVOLUTION 3 3 Informatik und Evolution Was hat Evolution nun mit Informatik zu tun? Warum verwendet man Genetische Algorithmen? Wo lassen sie sich einordnen? Diese Fragen sollen u.a. nachfolgend geklärt werden. 3.1 Optimierungsprobleme Eine Vielzahl von Rechenproblemen sind Optimierungsaufgaben. Dabei wird das Problem durch verschiedene Parameter beschrieben. Ist die Anzahl der verschiedenen Parameterwerte gering, können alle möglichen Wertekombinationen durchgetestet werden, um die optimale Lösung, das sog. Globale Optimum zu finden. 3.2 Heuristische Verfahren Viele Optimierungsprobleme erfordern jedoch die Suche in einem komplexen Lösungsraum, der nicht durch Brute-Force-Methoden, d.h. erschöpfende Suche zu beherrschen ist, so z.b.: die Suche nach Proteinen (Aminosäuresequenzen) mit bestimmten gewünschten Eigenschaften oder die Vorhersage der Entwicklung an der Börse. Das Ziel ist es nun, qualitativ hochwertige Lösungen zu schweren Problemen zu finden, ohne alle Lösungen erschöpfend evaluieren zu müssen. Genau hier setzen heuristische Verfahren an, die ein gewisses Wissen über die Beschaffenheit des Lösungsraumes einsetzen. In der Konsequenz müssen nicht alle Lösungen getestet werden. Die Forderung, der ein heuristisches Verfahren genügen sollte ist, ein hinreichend gutes Ergebnis in gegenüber erschöpfender Suche stark reduzierter Zeit zu finden. Damit besteht kein Anspruch auf das Finden des globalen Optimum, was aber durchaus so hinnehmbar ist, v.a. da besonders ausgereifte Verfahren meistens nahezu optimale Lösungen finden oder andererseits oftmals auch weniger optimale Lösungen ausreichend sind. Das in den heuristischen Verfahren verankerte Wissen kann vorprogrammiert sein (problemspezifische Algorithmen) oder sich während der Laufzeit entwickeln (Metaheuristische Verfahren). Metaheuristiken transformieren ein Problem auf eine Abstraktionsebene und führen dort ihren speziellen Optimierungsalgorithmus aus.

7 3 INFORMATIK UND EVOLUTION Metaheuristische Verfahren Vertreter der metaheuristischen Verfahren sind z.b. Ant Colony Optimization (ACO) oder Evolutionäre Algorithmen (EA). 3.4 Evolutionäre Algorithmen Die Evolutionären Algorithmen basieren auf dem System der natürlichen Evolution. Dabei scheint eine Übertragung in die Informatik garnicht verwunderlich, da die Evolution ein sehr leistungsfähiges und vielversprechendes Optimierungsverfahren ist. Zu den evolutionären Algorithmen zählen: Genetische Algorithmen (GA), Genetische Programmierung (GP), Evolutionäre Strategien (ES) und Evolutionäre Programmierung (EP). 3.5 Genetische Algorithmen Genetische Algorithmen stellen auf Strategien der Evolution basierende Optimierungsverfahren dar. Sie erreichen ihre Effizienz durch massive Parallelisierung und den gezielten Einsatz nichtdeterministischer Strategien, wie z.b. dem Einsatz von Wahrscheinlichkeiten für die Anwendung bestimmter Operatoren. Parallelisierung ist hier nicht rechnerisch, sondern vielmehr in Bezug auf die Interaktion von Lösungen zu verstehen: Nach der sequentiellen Berechnung einer Generation von Lösungen, werden die je nach Fitness besten Lösungen miteinander rekombiniert. Diese implizite Parallelisierung stellt einen Vorteil gegenüber anderen Metaheuristiken wie z.b. Hillclimbing oder Simulated Annealing dar, die nur jeweils eine Lösung zu einem gewissen Zeitpunkt verarbeiten. Trotz der oftmals sehr komplexen Lösungsräume verschiedener Probleme, können doch Lösungen erstaunlicher Qualität gefunden werden. Genetische Algorithmen sind adaptive Verfahren. Die Bewertung von Lösungen verändert sich mit veränderten Umweltbedingungen, was z.b. anschaulich als verschiedene Nutzerpräferenzen dargestellt werden kann.

8 3 INFORMATIK UND EVOLUTION 5 Abbildung 1: Einordnung der Genetischen Algorithmen

9 4 ENTWICKLUNG GENETISCHER ALGORITHMEN 6 4 Entwicklung Genetischer Algorithmen Die Genetische Algorithmik hat ihre Wurzeln in den 60er Jahren des letzten Jahrhunderts. Es soll nun ein kurzer Überblick über wichtige Etappen ihrer Entwicklung gegeben werden. J. D. Bagley (1967) Der Begriff Genetischer Algorithmus geht auf die frühen Arbeiten von Bagley zurück. [1] J. H. Holland (1975) In den 60er Jahren hatte John Holland an der University of Michigan die Idee zur Entwicklung von Genetischen Algorithmen als Abstraktion der biologischen Evolution in ihrer heute bekannten Form. Im Großen und Ganzen gab es bei Hollands Forschung folgende zwei Schwerpunkte: 1. Theorie: Erklärung der adaptiven Prozesse in der Natur, 2. Praxis: Entwicklung von Software basierend auf der Theorie. Eine herausragende Leistung erzielte er mit der Aufstellung des Schema-Theorems, durch welches er theoretisch beweisen konnte, wie und warum Genetische Algorithmen funktionieren. [15] K. De Jong (1975) De Jong, einer von Hollands Studenten, analysierte eine Klasse von genetisch adaptiven Systemen. Seine Arbeiten stellen eine Grundlage für viele weitere auf dem Gebiet der Genetischen Algorithmen dar. [8] D. E. Goldberg (1983) Goldberg beschäftigte sich mit der Optimierung der Steuerung von Gasleitungssystemen. Dazu entwickelte er einen neuartigen, einfach aufgebauten Genetischen Algorithmus, mit welchem er Ergebnisse nahe am globalen Optimum erzielen konnte. [10] D. E. Goldberg (1989) Im Jahre 1989 fasste er seine Entwicklungen und Anwendungen auf dem Gebiet der Genetischen Algorithmik in einem Buch zusammen. [11] Weitere Entwicklung Das Interesse an Genetischen Algorithmen hat bis heute sehr zugenommen. Meistens werden keine reinen GA mehr eingesetzt. Vielmehr entwickelt man angepaßte Algorithmen für die jeweiligen Einsatzgebiete. Diese sogenannten Hybrid-Lösungen kombinieren die Mächtigkeit Genetischer Algorithmen mit dem Wissen über die Beschaffenheit des Lösungsraumes spezieller Probleme.

10 4 ENTWICKLUNG GENETISCHER ALGORITHMEN Konferenzen International Conference on Genetic Algorithms (ICGA) Die ICGA, eine Konferenz zur Theorie und Anwendung von Genetischen Algorithmen, findet seit 1985 alle zwei Jahre in den USA statt. Parallel Problemssolving from Nature (PPSN) Seit 1990 gibt es ein Pendant zur ICGA mit gleichem Themenschwerpunkt in Europa. Die PPSN findet hier alle zwei Jahre, jeweils in den geraden Jahren statt.

11 5 SUCHMETHODE GENETISCHER ALGORITHMEN 8 Abbildung 2: 8-Puzzle: Finden der kürzesten Sequenz aus Zügen, die die Randpuzzel in die geordnete Reihenfolge überführen [18], S.11 5 Suchmethode Genetischer Algorithmen Genetische Algorithmen führen eine spezielle Art von Suche durch. Diese soll nun nachfolgend in den Kontext der verschiedenen Bedeutungen von Suche eingeordnet werden. Ziel ist das Finden der potentiellen Einsatzgebiete Genetischer Algorithmen. 5.1 Verschiedene Bedeutungen von Suche Suche nach gespeicherten Daten Diese Art von Suche unterscheidet sich wesentlich von den beiden nachfolgend vorgestellten. Gesucht wird hier nach bestimmten Daten, die im Speicher eines Rechners abgelegt sind. Verwendet wird dazu ein durch den Suchenden vorgegebener Suchschlüssel. Ziel ist das effiziente Auffinden der gespeicherten Daten. Als Beispiel für einen Algorithmus ist hier die Binäre Suche zu nennen Suche von Wegen zu einem definierten Ziel Hier ist eine effiziente Abfolge von Aktionen gesucht, durch die sich ein gegebenes Ziel erreichen lassen. Soche Verfahren werden u.a. auf dem Gebiet der Künstlichen Intelligenz (KI) angewendet. Beispielhaft wären hier Algorithmen wie Tiefensuche oder branch-and-bound zu nennen. Ein Beispiel aus der KI: Das 8-puzzle siehe dazu Abbildung 2 auf Seite 8 sowie Abbildung 3 auf Seite Suche nach Lösungen Die Suche nach Lösungen zu einem definierten Problem repräsentiert eine allgemeinere Klasse von Suchproblemen als die Suche nach Wegen zu einem Ziel. Gefragt ist

12 5 SUCHMETHODE GENETISCHER ALGORITHMEN 9 Abbildung 3: 8-Puzzle: Teil eines Suchbaumes [18], S.11 hier das effiziente Auffinden einer guten Lösung aus einer sehr großen Menge von möglichen Lösungen. Die Anordnung der Lösungen im problemspezifischen Lösungsraum ist dabei unbekannt. Beispiele für Algorithmen wären hier Hill Climbing, Simulated Annealing, Tabu Search und auch Genetische Algorithmen. 5.2 Erläuterungen 1...Suche nach gespeicherten Daten 2...Suche nach Wegen 3...Suche nach Lösungen 1 unterscheidet sich von 2 und 3. Man kann hier sagen, daß ein bestimmtes Datum entweder vorhanden ist oder nicht. Es gibt dabei kein nach einem bestimmten Grad vorhanden. 2 und 3 durchsuchen meistens nur einen Teil des Suchraumes. Dies ist v.a. bei größeren Problemen nötig. Dabei werden bestimmte Lösungen aus dem Suchraum ausgewählt und evaluiert. Wichtig ist, daß diese Lösungen möglichst intelligent ausgewählt werden. 3 stellt gewissermaßen eine Supermenge zu 2 dar. Es ist z.b. möglich, eine bestimmte Abfolge von Zügen im 8-Puzzle als Kandidatenlösung für einen Suchalgorithmus aus 3 zu kodieren. Trotzdem eignen sich für Suchprobleme aus 2 meistens KI-Baum- Suchalgorithmen besser als Genetische Algorithmen, da diese in der Lage

13 5 SUCHMETHODE GENETISCHER ALGORITHMEN 10 sind Teilpfade zu evaluieren. Ein GA betrachtet einen Pfad als eigenständige Lösung und nicht als eine teilbare Abfolge von Teilpfaden. 5.3 Gemeinsamkeiten aller Suche-nach-Lösungen-Methoden (3) Die Initiallösung, eine Menge/Population von Lösungen, wird meist per Zufall (Nichtdeterminismus) erzeugt. Die Evaluation von Lösungen wird unter Verwendung eines gegebenen Fitnessoder Qualitätskriteriums erreicht. Aufgrund der Ergebnisse der Evaluation wird entschieden, welche Lösungen verworfen und welche behalten werden. Gute Lösungen können vor ihrer Weiterverwendung abgewandelt (variiert) werden.

14 6 BIOLOGISCHE TERMINOLOGIE 11 6 Biologische Terminologie Wenn man einen Genetischen Algorithmus beschreiben möchte, sind Kenntnisse der natürlichen Basis sowie der Art der Abstraktion, die hierbei vorgenommen wird, von Nöten. Organismen bestehen aus Zellen. Jede Zelle enthält die gesamten Erbinformationen des Individuums. Die Erbinformationen stellen eine Art Bauanleitung für den Organismus dar. Sie sind in einem Genom kodiert. Ein Genom besteht aus ein (haploid) oder zwei (diploid) Chromosomen (DNA-Strings). Chromosomen bestehen wiederum aus aus Genen. Die Gene befinden sich an bestimmten Stellen im Chromosom und stehen jeweils für eine kodierte Eigenschaft. Als Allel eines Genes bezeichnet man die Menge aller möglichen Werte (Ausprägungen), die das Gen annehmen kann. Man unterscheidet zwischen Genotyp und Phänotyp eines Individuums: Der Genotyp bezeichnet die Gesamtheit der genetisch kodierten Merkmalsinformationen. Der Phänotyp steht für die Gesamtheit der eigentlichen physischen oder charakterlichen Ausprägungen der Merkmale, basierend auf dem Genotyp, z.b. der speziellen Haarfarbe, Größe oder Intelligenz (im Bezug auf den Menschen). Definition Fitness eines Individuums Die Fitness eines Individuums ist ein Maß für die Wahrscheinlichkeit, daß dieses Individuum überlebt und sich fortpflanzen kann. Sie ist proportional zur Anzahl der Nachkommen. Die Fitness wird am Phänotyp eines Individuums bestimmt. 6.1 Genetische Algorithmen als Abstraktion der Natur Tabelle 1 auf Seite 12 faßt die Abstraktion durch Genetische Algorithmen zusammen. Anzumerken ist, daß die Begriffe Chromosomen, Genotyp, Phänotyp oder Individuum zwar unterschiedliche Konstrukte darstellen, im Großen und Ganzen jedoch alle auf dem Gebiet der Genetischen Algorithmen auch eine Lösung für ein Problem repräsentieren. Aus diesem Grund können sie auch ersatzweise verwendet werden.

15 6 BIOLOGISCHE TERMINOLOGIE 12 Natur Genetischer Algorithmus Bedeutung Repräsentation Auftreten Chromosom Lösungskandidat Bitstring einfach (haploid) Gen Parameter der Lösung 1 oder mehrere mehrere Bits kodieren einen speziellen Wert Allel Menge möglicher Parameterwerte Menge aller Werte, die gen annehmen kann: 1Bit: 0,1, n pro Gen Genotyp Konfiguration der Bits (Parameter) Bit: entspr. ein oder mehrere Bitstrings (Chromosome) wird durch das bestimmte Problem festgelegt Phänotyp Transformation der Genotyp- Lösung aus der Bitrepräsentation in die problemspezifische Repräsentation Fitness Evaluation von Genotyp oder Phänotyp Funktion gibt für ein Individuum (Phönotyp, falls vorhanden, sonst Genotyp) einen Fitnesswert zurück nicht immer vorhanden Evaluierungsfunktion Tabelle 1: Übersicht der Abstraktion von Genetischen Algorithmen

16 7 SUCHRÄUME UND FITNESSLANDSCHAFTEN 13 7 Suchräume und Fitnesslandschaften Ein Genetischer Algorithmus operiert auf einem problemspezifischen Lösungs- oder Suchraum. Wie ein solcher Raum beschaffen ist und was ihn charakterisiert, soll nun beschrieben werden. 7.1 Suchraum Der Suchraum ist die Menge aller Kandidatenlösungen eines Problems. Er wird durch die Attribute (Parameter) aufgespannt. Optimierungsverfahren benutzen v.a. zwei Maße, um sich durch den Raum zu bewegen. Dies sind die Distanz von Lösungen und die Fitness (Güte, Qualität) einer einzelnen Lösung. 7.2 Distanz zweier Lösungen Ist die Beschaffenheit des Raumes bekannt, so kann ein Maß für die Distanz zweier Lösungen gefunden werden. Beispiel: Problem aus Bioinformatik - Computergestütztes Design von Proteinen Ein Protein ist eine Sequenz von Aminosäuren mit unbestimmter Länge. Beschränken wir die Länge der Sequenz hier einmal auf maximal 100 Aminosäuren. Die Anzahl der möglichen (kombinierbaren) Aminosäuren für eine Position in der Sequenz betrage 20. Wenn man die einzelnen Aminosäuren durch Buchstaben kodiert, könnte eine Sequenz z.b. folgendermaßen beginnen: GAABDFMCCHK. Für dieses Beispiel ergeben sich stolze = Kombinationsmöglichkeiten, die man auf ihre Qualität (Fitness) untersuchen müsste. Die Distanz zweier Lösungen wird hier anhand der Anzahl unterschiedlicher Säuren bezogen auf gleiche Indizes bestimmt, z.b.: GAABDFMCCHK (AND) GACDMFMCJHKAD > Distanz: 6 =============

17 7 SUCHRÄUME UND FITNESSLANDSCHAFTEN 14 Abbildung 4: 3D-Gebirge (Fitness-Landschaft) [18], S.6 mit l = 2, f (0, 0) = 0.7, f (0, 1) = 1.0, f (1, 0) = 0.1, f (1, 1) = Konzept der Fitness-Landschaften Nehmen wir an, daß die Lösung (Genom) eines Problems durch einen Bitstring der Länge l kodiert werden kann. Dies kann man o.b.d.a. festlegen, da mehrere Bits z.b. auch dezimale Typen repräsentieren können. Das Problem spannt einen l-dimensionalen Suchraum auf, der die Menge aller möglichen Lösungen enthält. Jeder Lösung kann ein reeler Fitnesswert zugeordnet werden. Man erhält eine Funktion f mit f : {0, 1} l R. f spannt einen (l + 1)-dimensionalen Raum auf. Man nennt diesen Raum auch Fitness-Landschaft. Für l = 2 ergibt sich anschaulich ein 3D-Gebirge. Die Beschaffenheit der Fitness-Landschaft ist nicht bekannt. Man kann keine Aussage darüber treffen, an welchen Stellen sich Lösungen mit akzeptablen Fitnesswerten befinden. Ein Genetischer Algorithmus als Optimierungsalgorithmus schlägt bestimmte Kandidatenlösungen vor und erhält eine Aussage über deren Fitnesswert. Die Aufgabe ist es nun, weiterer Kandidatenlösungen basierend auf der der Güte der bereits evaluierten Lösungen in einer intelligente Art und Weise auszuwählen. Das Verfahren der Lokalen Suche nimmt z.b. an, daß sich in der Nachbarschaft einer guten Lösung weitere gute und bessere Lösungen finden. Zur Bestimmung von Nachbarschaft wird das Maß der Distanz zweier Lösungen verwendet. Beim Genetischen Algorithmus geschieht die Auswahl der nächsten vorzuschlagenden Lösungen durch Anwendung genetischer Operatoren, hauptsächlich: Selektion, Kreuzung und Mutation.

18 7 SUCHRÄUME UND FITNESSLANDSCHAFTEN 15 Einfluß der Operatoren auf die Navigation durch die Fitness-Landschaft Kreuzung und Mutation haben Einfluß auf die Bewegung der Population in der Fitness- Landschaft. Die Selektion entfernt in Fitness-Tälern befindliche Individuen aus der Population.

19 8 AUFBAU EINES GENETISCHEN ALGORITHMUS 16 Abbildung 5: Grundsätzlicher Ablauf eines Genetischen Algorithmus 8 Aufbau eines Genetischen Algorithmus Nachfolgend wird ein Überblick über den grundlegenden Aufbau eines Genetischen Algorithmus gegeben. Gefordert ist: ein klar definiertes Problem, ein Fitnessmaß bzw. ein Maß für die Distanz von Lösungen, eine geeignete Repräsentation/Abstraktion der Problemlösungen auf dem Gebiet der Genetischen Algorithmik. 8.1 Ablauf Einige Anmerkungen zu Abbildung 6 auf Seite 17: Die Crossover-Slots müssen nicht unbedingt parallel liegen. Das bedeutet, daß in der temporären Generation eine Durchmischung stattfinden kann. Es kann eine Mutation auf den Nachwuchs angewendet werden.

20 8 AUFBAU EINES GENETISCHEN ALGORITHMUS 17 Abbildung 6: Übergang von einer Generation zur Nachfolger-Generation [22], S.5 Desweiteren ist es möglich, daß auch Eltern in die nächste Generation übernommen werden (Elitismus). 8.2 Generation Eine Generation stellt eine Iteration bzw. einen Zeitschritt bei der Ausführung des Algorithmus dar. Es sind meist 50 bis 500 Generationen nötig. Dies ist jedoch von der Beschaffenheit des spezifischen Problems abhängig. 8.3 Durchlauf Ein Durchlauf eines Genetischen Algorithmus bezeichnet die Ausführung bis zur Beendigung. Die Anzahl der durchlaufenen Generationen richtet sich nach dem Erreichen einer Akzeptanzschwelle für die Fitness oder einer maximalen Anzahl von durchzuführenden Iterationen. Die Akzeptanzschwelle kann absolut vorgegeben werden. Ist die Beschaffenheit des Fitness-Gebirges gänzlich unbekannt, kann man hier auch auf Konvergenz testen.

21 9 ELEMENTE EINES GENETISCHEN ALGORITHMUS 18 9 Elemente eines Genetischen Algorithmus Diese Sektion untersucht die wichtigen Elemente von Genetischen Algorithmen, wie z.b. Fitnessfunktion oder Genetische Operatoren. Es gibt keine allgemein akzeptierte Definition von Genetischen Algorithmen. Trotzdem haben die meisten GA-Methoden folgende Gemeinsamkeiten: Zu jedem Zeitschritt ist eine Population von Lösungen vorhanden. (Parallelität) Die Selektion von Lösungen wird basierend auf Fitnesswerten vorgenommen. Die nächste Generation von Lösungen wird unter Zuhilfenahme des Kreuzungsoperators erzeugt. Eine gewisse Varianz im Erbgut der Population wird durch die Anwendung des Mutationsoperators erreicht. Der Inversionsoperator (nach Holland) wird wenig genutzt. 9.1 Fitnessfunktion Fitnessfunktionen können ganz unterschiedlich beschaffen sein. Die einzige Gemeinsamkeit ist, daß sie ein gegebenes Individuum evaluieren und einen Wert für dessen Fitness zurückgeben. Was im Inneren einer solchen Funktion passiert, bleibt für den Genetischen Algorithmus verborgen. Dieses Verhalten ist vergleichbar mit einer Black- Box. Ein einfaches Exemplar einer Fitnessfunktion Gesucht ist ein x mit f ( x) f (x), x, 0 x < π (siehe Abbildung 7 auf Seite 19). Dies ist wirklich eine einfache Fitnessfunktion. Sie erfordert einen geringen Aufwand seitens der Ausführung, aber auch seitens der Programmierung. Typischerweise sind Fitnessfunktionen eher komplexer aufgebaut. Meist ist noch einiges Expertenwissen aus dem Problembereich nötig, welches implementiert werden muss. Erinnern wir uns an das Problem des Designs von Proteinen (Sektion 7.2 auf Seite 13). Das Ziel war es, Proteine zu finden, die eine gewünschte 3D-Struktur-Anordnung besitzen. In Bezug auf die Fitness einer Lösung dieses Problems könnte man sagen: Die Fitness ist umso größer, je geringer die potentielle Energie der Aminosäuresequenz ist. Der Wert kann errechnet werden. Dazu benötigt man Wissen über die Kräfte, die auf bestimmte Aminosäurekombinationen wirken.

22 9 ELEMENTE EINES GENETISCHEN ALGORITHMUS 19 Abbildung 7: f (x) = sin 16x, 0 x < π Abbildung 8: Reproduktions-Operatoren wirken auf Individuen einer Generation, um eine Nachfolge-Generation zu bilden

23 9 ELEMENTE EINES GENETISCHEN ALGORITHMUS Reproduktions-Operatoren Selektion Während der Selektion, werden die Individuen für die Reproduktion ausgewählt. Je höher der Fitnesswert einer Lösung ist, desto höher ist ihre Selektionswahrscheinlichkeit. Bestimmung der Selektionswahrscheinlichkeit eines Individuums Es gibt mehrere Verfahren, die Selektionswahrscheinlichkeiten für die Individuen einer Population aufgrund ihrer Fitnesswerte zu bestimmen. Jeder Fitnesswert wird durch die Summe aller Fitnesswer- Normierung/Proportion te dividiert. Skalierung Falls der Abstand zwischen der maximalen und der minimalen Fitness zu klein ist, wird eine Skalierung durchgeführt. Dadurch wird die Entropie verringert, d.h. die Werte für die Wahrscheinlichkeiten sind unterschiedlicher. Rang Hier werden alle Lösungen anhand ihrer Fitness sortiert. Alle Lösungen haben somit den gleichen Abstand. Konkrete Fitnesswerte gehen verloren. Im Gegensatz zu den beiden vorher genannten Verfahren, sind hier die Wahrscheinlichkeiten für die Selektion nicht proportional zu den jeweiligen Fitnesswerten. Wettkampf Die Wettkampf-basierte Selektion erfolgt in 2 Schritten: 1. Es werden mehrere Individuen gleichverteilt aus der Population ausgewählt. 2. Das Individuum mit der höchsten Fitness wird selektiert. (N,m) Die m besten Individuen werden aus der Population ausgewählt. Alle erhalten die gleiche Wahrscheinlichkeit Kreuzung Bei der Kreuzung erfolgt eine Rekombination meist zweier haploider Chromosomen. Diese Operation wird mit einer gegebenen Wahrscheinlichkeit p c (meist aus [0.6, 0.9]) durchgeführt. Das Resultat sind zwei haploide Kind-Chromosomen. Es folgen einige wichtige Kreuzungsverfahren.

24 9 ELEMENTE EINES GENETISCHEN ALGORITHMUS 21 Abbildung 9: Vergleich verschiedener Selektionsmethoden [14], S.27 Abbildung 10: Auswahl durch virtuelles Roulette [14], S.28

25 9 ELEMENTE EINES GENETISCHEN ALGORITHMUS 22 Abbildung 11: Mögliche Kreuzungspunkte [14], S.29 Abbildung 12: 1-Punkt-Kreuzung [14], S.29 1-Punkt-Kreuzung Die 1-Punkt-Kreuzung wird in den meisten GA eingesetzt. Dabei wird ein Kreuzungspunkt zufällig ausgewählt. Es erfolgt eine Rekombination durch den Austausch der Bitstrings vor und nach dem Kreuzungspunkt. 2-Punkt-Kreuzung Wie der Name schon sagt, werden hier zufällig zwei Kreuzungspunkte ausgewählt. Die Rekombination erfolgt durch Austausch des Bitstrings zwischen den beiden Kreuzungspunkten. 2-Punkt-Kreuzung mit Translokation Hier werden für beide Eltern zufällig je zwei Kreuzungspunkte mit dem gleichen Abstand ausgewählt. Die Rekombination erfolgt Abbildung 13: 2-Punkt-Kreuzung [14], S.30

26 9 ELEMENTE EINES GENETISCHEN ALGORITHMUS 23 Abbildung 14: 2-Punkt-Kreuzung mit Translokation [14], S.30 Abbildung 15: Gleichmäßige Kreuzung [14], S.31 analog zur 2-Punkt-Kreuzung. Der Unterschied ist, daß durch die unterschiedlichen Kreuzungspunkte, wenn sie nicht gerade aufeinander fallen, eine Translokation erfolgt. Gleichmäßige Kreuzung Hier wird zufällig eine Bitstring-Auswahlschablone erzeugt. Anhand dieser Schablone wird nun entschieden, welche Gene von Elter 1 und welche von Elter 2 verwendet werden. Die Auswahl erfolgt genau entgegengesetzt für jedes Kind Mutation Nach der Rekombination werden mit einer bestimmten Wahrscheinlichkeit einzelne Bits zufällig invertiert. Diesen Vorgang nennt man Mutation. Die

27 9 ELEMENTE EINES GENETISCHEN ALGORITHMUS 24 Abbildung 16: Gleichmäßige Mutation [14], S.32 Wahrscheinlichkeitp m, daß eine Mutation stattfindet, ist normalerweise ziemlich klein (meist aus [0.01, 0.03]). Es folgt ein wichtiges Mutationsverfahren. Gleichmäßige Mutation Für jedes Bit wird mit der Wahrscheinlichkeit p m bestimmt, ob invertiert wird. 9.3 Ersetzungsstrategien Nachdem nun durch die Reproduktion eine temporäre Generation von Nachkommen gebildet ist, muß aus beiden Generationen die neue Elterngeneration gebildet werden. Dafür gibt es mehrere Ersetzungsstrategien Vollständige Ersetzung Die Elterngeneration wird verworfen. Die Kindgeneration wird neue Elterngeneration. Der Nachteil dabei ist, daß auch gute Individuen verworfen werden. Dadurch benötigt man mehr Generationen nötig bis das Optimum gefunden ist. Aus diesem Grund werden Verfahren mit Elitismus eingesetzt Elitismus Die besten Individuen der Elterngeneration werden in die neue Elterngeneration übertragen. Man unterscheidet: starker Elitismus: Übertragung ohne Mutation und schwacher Elitismus: Übertragung mit Mutation. Schwacher Elitismus wird angewendet, falls die Eltern relativ zu den Kindern zu hohe Fitnesswerte besitzen.

28 10 ARBEITSWEISE GENETISCHER ALGORITHMEN Arbeitsweise Genetischer Algorithmen Bis jetzt wissen wir, wie Genetische Algorithmen aufgebaut sind. Dies ist recht einfach zu beschreiben. Wir haben auch mehrfach gehört, daß sie sehr erfolgreich sind. Die Frage, die sich nun stellt, ist die Frage nach dem Warum. Warum sind Genetische Algorithmen so effektiv? Wie arbeiten sie? Dazu soll nun eine Einführung in die Theorie der Genetischen Algorithmen hin zum Holland schen Schema-Theorem gegeben werden Schemata/Hyperplanes Holland führte im Bezug auf Genetische Algorithmen den Begriff Schema ein. Seine Idee war: Gute Lösungen müssen aus guten Bausteinen (einzelnen Bitstrings) bestehen. Genetische Algorithmen finden solche guten Bausteine, stärken deren Gewichtung und selektieren sie zur Rekombination also zur Vererbung. Ein Schema ist die Menge von Bitstrings, die durch ein bestimmtes Bitstring-Template beschreibbar ist. Z.B ergibt sich für das Template 1****1 die Menge aller Bitstrings, die mit 1 beginnen und mit 1 enden. Goldberg führt hierfür den Begriff Hyperplane H ein. Hyperplanes sind n- dimensionale Ebenen (n... Anz ( ), n l), auf denen die Bitstrings aus der durch das zugehörige Template beschriebenen Menge enthalten sind. Instanz eines Schemas oder sind Instanzen von 1****1. Länge und Ordnung eines Schemas 1****1 ist ein Schema 2. Ordnung mit der Länge l = 6. Definierte Länge eines Schemas Die definierte Länge ist die Differenz der äußeren festen Bits. Bei 1****1 ist die definierte Länge 6 1 = 5. Abbildung 17 auf Seite 26 stellt Schema oder Hyperplane *** anschaulich dar. Dies sind sozusagen alle Bitstrings der Länge l = 3. Die Teilmenge, Schema *1*, wird dabei durch die 4 Eckpunkte auf der oberen Fläche des Würfels repräsentiert. Abbildung 18 auf Seite 26 zeigt eine 4-dimensionale Hyperplane für das Schema ****. Die Teilmenge, Schema **1*, wird durch die Punkte an den Ecken des Pyramidenstumpfes, definiert durch die beiden oberen Flächen der Würfel, dargestellt.

29 10 ARBEITSWEISE GENETISCHER ALGORITHMEN 26 Abbildung 17: Bitstrings mit l = 3 und Hamming-Abständen auf 3D-Cube [22], S.8 Abbildung 18: Bitstrings mit l = 4 und Hamming-Abständen auf 4D-Hypercube [22], S.8

30 10 ARBEITSWEISE GENETISCHER ALGORITHMEN 27 Der Begriff Schema kann entweder für 1. das Template selber oder 2. die Menge aller beschriebenen Elemente verwendet werden. Die eigentliche Beduetung ist dem Kontext zu entnehmen Verarbeitung von Schemata durch den GA Jeder l-bitstring ist eine Instanz von 2 l -Schemata. Beispielsweise ergeben sich für die Länge l = 2 folgende 2 2 Schemata: **, *1, 1*, 11. Der Biststring 11 ist Instanz aller Schemata. Eine Population mit n Strings enthält also Instanzen von 2 l bis n 2 l Schemata, je nachdem, ob die Strings ähnlich oder unähnlich sind. Wenn der GA für die n Strings der Population die Fitness evaluiert, evaluiert er implizit die durchschnittliche Fitness der 2 l bis n 2 l verschiedenen Schemata mit. Anschaulich: Die Schemata 1***** und 0***** sind im Mittel in einer zufällig erzeugten Population von Bistrings der Länge l = 6 mit je etwa n/2 Elementen vertreten. Da n/2 in Bezug auf die Anzahl aller Elemente der Schemata ziemlich klein ist, kann hier nur eine Schätzung der durchschnittlichen Fitness erfolgen. Die durchschnittlichen Fitnesswerte werden nicht explizit berechnet. Ihr Einfluß ist aber implizit sichtbar, wenn sich die Anzahl der Instanzen verschiedener Schemata beim Ablauf des GA erhöht oder verringert Berechnung der Dynamik der Anzahl von Instanzen eines Schemas Wie kann man die zeitliche Entwicklung der Anzahl von Elementen eines Schemas, die in einer Population vertreten sind berechnen? Selektion H...Schema, welches mit mindestens einer Instanz in der Population zum Zeitpunkt t enthalten ist m (H, t)...anzahl der Instanzen von H zum Zeitpunkt t U (H, t)...schätzung der durchschnittlichen Fitness von H zum Zeitpunkt t

31 10 ARBEITSWEISE GENETISCHER ALGORITHMEN 28 gesucht ist E (m (H, t + 1))...Schätzung für die Anzahl der Instanzen von H zum Zeitpunkt t + 1 xih... x ist Instanz von H f (x)...fitness von Instanz x f (t)...durchschnittliche Fitness der gesamten Population zum Zeitpunkt t f(x)...schätzung für die Anzahl der Nachkommen von Instanz x f(t) Annahme Wir nehmen an, daß die Wahrscheinlickeit für die Selektion einer Instanz proportional zu deren Fitnesswert ist. Kreuzung und Mutation bleiben hier unbeachtet. Schätzung für die Anzahl der Instanzen von H zum Zeitpunkt t + 1 E (m (H, t + 1)) = f (x) f (t) x H U (H, t) = m (H, t) f (t) Betrachtung von Kreuzung und Mutation Die Operationen Kreuzung und Mutation können Instanzen von erschaffen und zerstören. Hier betrachten wir nur die destruktiven Qualitäten (worst case) Kreuzung Kreuzungsoperator: 1P-Crossover gesucht ist Eine untere Grenze für die Schätzung E (m (H, t + 1)). Annahme Eine Instanz von H wird zum Reproduzieren ausgewählt, d.h. die Selektion war erfolgreich. Man sagt: Schema H überlebt 1P-Crossover, wenn der Nachkomme auch eine Instanz von H ist. l...länge der Bitstrings im Suchraum

32 10 ARBEITSWEISE GENETISCHER ALGORITHMEN 29 d (H)...definierte Länge von H (Distanz der äußeren definierten Bits) p c...wahrscheinlichkeit für die Anwendung von 1P-Crossover ( ) p d(h) c...obergrenze für die Wahrscheinlichkeit, daß H 1P-crossover nicht überlebt l 1 ( ) p d(h) c ist eine Obergrenze, da z.b. Crossover bei zwei identischen Instanzen l 1 wieder zwei identische Instanzen erzeugen würde. Eben auch, wenn d(h) = 1, also l 1 das Schema, bei der Anwendung von 1P-Crossover eigentlich nicht überleben würde. S c (H)...Wahrscheinlichkeit, daß H 1P-Crossover überlebt ( ) d (H) S c (H) 1 p c l 1 Interpretation Je kürzer Schema H im Bezug zur Gesamtlänge l ist (d (H)), desto höher ist die Wahrscheinlichkeit des Überlebens von H während des 1P-Crossover Mutation p m...wahrscheinlichkeit für die Anwendung der Mutation auf ein beliebiges Bit o (H)...Ordnung von H (Anzahl der festen Bits) S m (H)...Wahrscheinlichkeit, daß H die Mutation überlebt S m (H) = (1 p m ) o(h) Interpretation Je kleiner die Ordnung o (H), also die Anzahl der festen Bits in Schema H ist, desto höher ist die Wahrscheinlichkeit des Überlebens von H während der Mutation.

33 10 ARBEITSWEISE GENETISCHER ALGORITHMEN Schema-Theorem (Holland, 1975) Selektion E (m (H, t + 1)) = f (x) f (t) x H U (H, t) = m (H, t) f (t) Kreuzung ( ) d (H) S c (H) 1 p c l 1 Mutation S m (H) = (1 p m ) o(h) führt zu Schema-Theorem E (m (H, t + 1)) U (H, t) f (t) ( ) d (H) m (H, t) 1 p c (1 p m ) o(h) l 1 Interpretation Kurze Schemata niedriger Ordnung mit einer durchschnittlichen Fitness über dem Populations-Durchschnitt werden sich über die Zeit (Evolution) exponentiell fortpflanzen. Das Schema-Theorem ist eine Untergrenze für die Schätzung E (m (H, t + 1)), da nur die destruktiven Effekte von Crossover und Mutation betrachtet werden Building-Block-Hypothese (Goldberg, 1989) Goldberg geht davon aus, daß die Rekombination von Elementen guter Schemata wieder Elemente guter oder sogar besserer Schemata erzeugt. Er stützt sich damit auch auf konstruktive Effekte. E (m (H, t + 1)) sollte daher höher als nur eine Untergrenze sein. Die simualtanen impliziten Schemata-Evaluationen werden auch als implicit paralelism (Holland, 1975) bezeichnet. Abbildung 19 auf Seite 31 zeigt verschiedene Schemata in einer 2D-Repräsentation eines Fitnessgebirges. Trotz des implicit parallelism muß nicht unbedingt das globales Optimum gefunden werden. Das kann z.b. ein

34 10 ARBEITSWEISE GENETISCHER ALGORITHMEN 31 Abbildung 19: 2D-Repräsentation Fitnessgebirge für Variablen X [22], S.10 Peak in einer Region mit schlechten Fitnesswerten sein. Im Normalfall wird die Suche in Gebiete gelenkt, die high potential Kandidatenlösungen enthalten. Je ausgewogener oder ebener der Suchraum ist, desto größer ist die Chance das globale Optimum zu finden.

35 11 TSP MIT EINEM GENETISCHEN ALGORITHMUS 32 Abbildung 20: TSP: Stadt-Stadt-Verbindungen bei 15 Städten [2] 11 TSP mit einem Genetischen Algorithmus Folgende Sektion beschreibt die beispielhafte Implementation zur Lösung des Traveling Salesman Problems durch Genetische Algorithmen Travelling Salesman Problem (TSP) Problembeschreibung Es ist eine Menge von Städten und Verbindungen gegeben. Die Aufgabe ist es, aus allen möglichen Routen die Kürzeste zu finden. Die Route muss dabei alle Städte enthalten. Keine Stadt sollte zweimal besucht werden. Das TSP ist ein NP-komplettes Problem (nichtdeterministisch, in polynomialer zeit lösbar). Der kürzeste Weg liegt in der Menge aller möglichen Kombinationen von Stadt-Stadt- Verbindungen. Bei 15 Städten z.b. müssen schon etwa 90 Milliarden Routen getestet werden. Obwohl es mindestens einen kürzesten Weg (globales Optimum) gibt, ist der Zeitbedarf, diesen durch Testen aller Möglichkeiten zu erhalten, nicht vertretbar. Aus diesem Grund suchen heuristische Verfahren nach einer hinreichend guten Lösung mit stark verringertem Zeitbedarf.

36 11 TSP MIT EINEM GENETISCHEN ALGORITHMUS 33 Abbildung 21: TSP: kürzeste Route bei 15 Städten [2] 11.2 Spezifische GA-Operatoren Initializer Der Initializer erzeugt zufällig eine Lösung (Genom). Dies geschieht als zufällige Sequenz von Städten in Form einer verketteten Liste. Jede Stadt kommt darin nur einmal vor. (s. Problembeschreibung) Crossover(Parent1,Parent2->Child) Der Crossover-Operator erzeugt eine Kind-Lösung aus 2 Eltern-Lösungen. 1. Eine Verbindungsmatrix mit allen Verbindungen beider Eltern aufgebaut. 2. Eine Start-Stadt wird zufällig erzeugt. Alle hin-verbindungen werden aus der Matrix entfernt. 3. Eine Nachfolge-Stadt wird aus der Matrix ausgewählt. Bedingung ist, daß diese Stadt die wenigste Anzahl von Nachfolgern unter allen noch nicht besuchten Städten hat. 4. Schritt 3 wird wiederholt, solange bis alle Städte in der Tourenliste auftreten. Crossover ist zweimal auszuführen, da in einem Durchlauf nur ein Child erzeugt wird.

37 11 TSP MIT EINEM GENETISCHEN ALGORITHMUS Mutator Der Mutator verändert eine Kind-Lösung. Zu Beginn wird mit einer Wahrscheinlichkeit p m = 0.5 (flip-coin) bestimmt, ob ein Austausch einer Stadt oder ein Austausch mehrerer Städte (mit oder ohne Inversion der Reihenfolge) in der Route vorgenommen wird. Im ersten Fall werden einfach zwei Städte vertauscht. Im zweiten Fall sind folgende Schritte auszuführen: 1. Bestimmen der Anzahl der Städte und des Entnahmepunktes. 2. Entnahme der Städte und Zwischenspeicherung in temporärer Liste. 3. Bestimmen des Einsetzungspunktes und ob Inversion durchzuführen ist. 4. Im Fall einer Inversion werden entnommene Städte in umgekehrter Reihenfolge wieder eingesetzt Comparator Der Comparator bestimmt die Distanz zweier Lösungen. Sie ist umso größer, je mehr unterschiedliche Verbindungen die beiden Routen aufweisen. Zu Beginn werden zwei Verbindungsmatrizen aufgebaut. Die Distanz wird bestimmt, indem die Anzahl der unterschiedlichen Verbindungen beider Routen aus den jeweiligen Matrizen gesucht wird Evaluator Der Evaluator bestimmt die Fitness einer Lösung. Je niedriger die Gesamtstrecke der Route ist, desto höher ist die Fitness. Die Gesamtstrecke der Route wird über die Summe der Distanzen der einzelnen Verbindungen bestimmt GA-Algorithmen Es folgt eine kurze Beschreibung der im Testprogramm verfügbaren Genetischen Algorithmen.

38 11 TSP MIT EINEM GENETISCHEN ALGORITHMUS Simple GA Dieser Algorithmus wurde von Goldberg beschrieben. Er verwendet keine überlappenden Populationen. In jeder Generation wird eine vollständig neue Population aufgebaut Steady-State GA Dieser Algorithmus wurde von De Jong beschrieben. Er verwendet überlappende Populationen. Nachdem hier eine neue Generation erzeugt ist, wird eine zweite Population zufällig erzeugt und mit der eigentlichen Generation vermischt. Anschließend wird diese Misch-Generation wieder auf die alte Größe reduziert, indem die Individuen mit der schlechtesten Fitness entfernt werden Incremental GA Dieser Algorithmus verwendet überlappende Populationen. Nur wenige Individuen aus der Elterngeneration werden in die erzeugte Generation zum Austausch übernommen Crowding GA Dieser Algorithmus verwendet überlappende Populationen. Hier wird eine individuelle Ersetzungsstrategie verwendet Deme GA Dieser Algorithmus verwendet überlappende Populationen. Mehrere parallele unabhängige Populationen werden erzeugt. Diese entwickeln sich unabhängig voneinander über einen Steady-State GA. In jeder Generation wandern die besten Individuen einer Population zu einer Nachbarpopulation über.

39 12 ANWENDUNGEN VON GENETISCHEN ALGORITHMEN Anwendungen von Genetischen Algorithmen 12.1 Genetic Algorithms in Parametric Design of Aircraft [4] Mark F. Bramlette & Eugene E. Bouchard Bramlette und Bouchard führen Optimierungen im Flugzeugdesign durch. Ihre Aufgabe ist es, eine Optimierung von Parameterwerten vorzunehmen. Es werden mehrere Algorithmen getestet. Die eigens konzipierte Variation eines Genetischen Algorithmus schneidet im Vergleich am besten ab Dynamic Anticipatory Routing in Circuit-Switched Telecommunications Networks [5] Louis Anthony Cox, Jr., Lawrence Davis & Yuping Qiu Cox, Davis und Qiu beschäftigen sich mit der Optimierung des Routings in Telekommunikations-Netzwerken. Dabei vergleichen sie verschiedene Techniken, darunter auch Genetische Algorithmen. Sie stellen fest, daß GA sehr erfolgreich sind, vor allem wenn das Problem ziemlich komplex ist. Eine Hybridlösung mehrerer Techniken führt zum besten Ergebnis A Genetic Algorithm Applied to Robot Trajectory Generation [6] Yuval Davidor Davidor optimiert die Planung des Weges, den ein Roboter nimmt, um sich von einem Punkt zu einem anderen zu bewegen. Er verwendet einen Genetischen Algorithmus mit Chromosomen variabler Länge sowie neue, interessante Kreuzungs- Operatoren Strategy Acquisition with Genetic Algorithms [12] John F. Grefenstette Grefenstette experimentiert mit SAMUEL, einem GA, der Techniken für das Manövrieren eines simulierten Flugzeuges entwirft. Das System basiert auf Regeln, die in einer Simulation angewendet werden können und das Flugzeug vor Kollisionen mit anderen Maschinen bzw. Raketen schützen sollen. Es werden Chromosomen variabler Länge verwendet, in denen Regeln kodiert sind.

40 12 ANWENDUNGEN VON GENETISCHEN ALGORITHMEN Genetic Synthesis of Neural Network Architecture [13] Steven A. Harp & Tariq Samad Harp und Samad entwickeln eine Technik, um Architekturen von neuralen Netzen in binären Chromosomen zu kodieren. Sie stellen Kombinationsmöglichkeiten von neuralen Netzen mit Genetischen Algorithmen vor A Genetic Algorithm Approach to Multiple Fault Diagnosis [16] Gunar E. Liepens & W. D. Potter Liepens und Potter verwenden einen Genetischen Algorithmus, um die plausibelste Kombination von Gründen, die zu einer Störung eines Mikrowellen- Kommunikations-Systems geführt haben könnten, herauszufinden. Dieser problemspezifische hybrid-ga erzielt eine hohe Performance Software Test Data Generation from a Genetic Algorithm [3] Ken Borgelt, Corporate Software Center, US, Motorola Inc. Borgelt setzt einen Genetischen Algorithmus zum Erstellen von Daten für das strukturierte Testen eines programmierten Software-Moduls ein. Software Tests werden benötigt, um mithilfe eines Debuggers den Abarbeitungsweg bei unterschiedlichen Eingangsdaten verfolgen zu können. Es gibt sehr viele solcher Wege, die getestet werden müssen. Der Genetische Algorithmus findet die nötigen Eingangsdaten, um alle möglichen Wege optimal durchtesten zu können. Dabei wird eine Optimierung einer Population von Testdaten, die als gesamte Population von Bedeutung sind, vorgenommen. Das Verfahren bildet den Grundstein für ein Software-Entwicklungstool zur Automatischen Erzeugung von Testdaten Data Mining Using Genetic Algorithms [17] Darrin J. Marshall, NCR Corporation Data Mining ist hier die Suche in sehr großen Datenbänken nach Patterns, Trends oder Generalisierungen. Marshall setzt einen Genetischen Algorithmus ein, der Verbindungen zwischen den Transaktionen in einer Datenbank untersucht. Ein Beispiel im Bezug auf eine Datenbank mit Bestellungen wäre: Der GA soll aus 100 möglichen Artikeln die 4 heraussuchen, die am häufigsten zusammen gekauft wurden. Abschliessend wird die Verwendung im Marketing diskutiert.

41 12 ANWENDUNGEN VON GENETISCHEN ALGORITHMEN Genetic Algorithms for Game Playing [20] Jiefu Shi Shi konzipiert einen Genetischen Algorithmus, um künstliche Spieler zu trainieren. Er soll dabei die Spielstrategien optimieren. Als Beispiel wird Tic Tac Toe verwendet. Der GA arbeitet sehr robust und kann auch für ähnliche Probleme beim Game- Playing eingesetzt werden Simulation of an Artificial Eco-System Using Genetic Algorithms [21] Steve Wand Einen interessanten Ansatz in Bezug auf Genetische Algorithmen liefert Wand. Für ihn ist der Weg das Ziel. Es wird ein natürliches Ökosystem simuliert. Dabei kämpfen die Individuen um endliche Ressourcen. Ziel ist es, Jäger- und Beute-Populationen im Gleichgewicht zu halten und maximale Biomasse zu produzieren.

42 Literatur 39 Literatur [1] J. D. Bagley. The behavior of adaptive systems which employ genetic and correlation algorithms. PhD thesis, University of Michigan, Doctoral dissertation, University of Michigan, Dissertation Abstracts International, 28(12), 5106B, University Microfilms No [2] E. Bonabeau and G. Théraulaz. Swarm smarts. Scientific American, pages 72 79, mar [3] K. Borgelt. Software test data generation from a genetic algorithm. In L. M. Freeman and C. L. Karr, editors, Industrial Applications of Genetic Algorithms, pages CRC Press, Boca Raton, FL, [4] M. F. Bramlette and E. E. Bouchard. Genetic algorithms in parametric design of aircraft. In L. D. Davis, editor, Handbook of Genetic Algorithms, pages Van Nostrand Reinhold, New York, [5] L. A. Cox, L. Davis, and Y. Qiu. Dynamic anticipatory routing in circuit-switched telecommunications networks. In L. D. Davis, editor, Handbook of Genetic Algorithms, pages Van Nostrand Reinhold, New York, [6] Y. Davidor. A genetic algorithm applied to robot trajectory generation. In L. D. Davis, editor, Handbook of Genetic Algorithms, pages Van Nostrand Reinhold, New York, [7] L. D. Davis, editor. Handbook of Genetic Algorithms. Van Nostrand Reinhold, New York, [8] K. De Jong. An analysis of the behavior of a class of genetic adaptive systems. PhD thesis, University of Michigan, Doctoral dissertation, University of Michigan, Dissertation Abstracts International, 36(10), 5140B, University Microfilms No [9] L. M. Freeman and C. L. Karr, editors. Industrial Applications of Genetic Algorithms. CRC Press, Boca Raton, FL, ISBN: [10] D. E. Goldberg. Computer-aided gas pipeline operation using genetic algorithms and rule learning. PhD thesis, University of Michigan, Doctoral dissertation, University of Michigan, Dissertation Abstracts International, 44(10), 3174B, University Microfilms No [11] D. E. Goldberg. Genetic Algorithms in Search, Optimization, and Machine Learning. Reading, Mass.: Addison-Wesley, [12] J. F. Grefenstette. Strategy acquisition with genetic algorithms. In L. D. Davis, editor, Handbook of Genetic Algorithms, pages Van Nostrand Reinhold, New York, 1991.