Genetische Algortithmen Annäherungsverfahren für Optimierungsprobleme

Transkript

1 Genetische Algortithmen Annäherungsverfahren für Optimierungsprobleme Tobias Schiele Luca Baumann Seminararbeit im Sommersemester 2016 Prof. Dr. Thomas Thierauf - Hochschule Aalen, 16. Juni 2016

2 Zusammenfassung Genetische Algorithmen stellen eine eziente Möglichkeit dar, NP Optimierungsprobleme annähernd zu lösen. Sie bedienen sich dabei der bionischen Methodik Vorgänge aus der Natur in Technologie zu übersetzen. Wie der Name schon suggeriert, werden dabei wiederkehrende Elemente aus der Evolutionstheorie verwendet, um einen leistungsstarken und vielfältigen Algorithmus zu entwickeln.

3 Inhaltsverzeichnis 1 Einleitung Idee Motive für die Anwendung Übersicht Aufbau der Arbeit Hauptteil Einführung Abgrenzung: Stochastisches Optimierungsverfahren Hintergrundinformationen: Biologie Methodik Vorgehen: Von der Biologie zum genetischen Algorithmus Konzeption: Anwendung auf das Traveling Salesman Problem Praktik Implementierung: Genetischer Algorithmus für TSP in Java Analyse des Programms: Ergebnisse verschiedener Kon- gurationen Ergebnisauswertung: Qualität der Lösungen Schlussteil Zusammenfassung und Bewertung Ausblick

4 Kapitel 1 Einleitung 1.1 Idee Der Gedanke, die Lösung für ein Problem automatisch, ohne eigenes Zutun, zu generieren, klingt verrückt. Aber die Umsetzung ist so genial wie einfach. Wir nehmen uns als Beispiel die Natur, die Individuen einer Population in ihrer Umgebung optimiert. Man leite daraus einen Algorithmus ab, der eine Abstraktion von Mutation, Rekombination und Selektion verwendet. Dann gilt es nur noch für ein beliebiges Optimierungsproblem einen Lösungskandidaten zu spezizieren und, jeweils problemorientiert, diese drei Methoden umzusetzen. Dass es ganz so einfach nicht ist war zu erwarten, warum würde man sonst noch so viel über Algorithmen lernen. Deshalb sehen wir im Folgenden, was es bei der Umsetzung eines genetischen Algorithmus zu beachten gilt, wo die Vor- und Nachteile liegen, und was wir vom Ergebnis erwarten dürfen. 1.2 Motive für die Anwendung Die Frage ist, ist ein genetischer Algorithmus das richtige Werkzeug ist um ein Problem zu lösen. Diese soll hier beantwortet werden. Dafür gibt es folgende Voraussetzungen: Es handelt sich um ein Optimierungsproblem. Erfüllbarkeitsprobleme sind sehr schwer mit genetischen Algorithmen zu lösen, man würde sich auf die Suche nach der Nadel im Heuhaufen begeben [Wei15] Es ist kein direktes oder für das Problem spezialisiertes Lösungsverfahren in Betracht zu ziehen. Direkte oder für das Problem spezialisierte Lösungsverfahren sind in aller Regel ezienter, doch manchmal nicht anwendbar oder nicht vor- 3

5 handen. Dies ist vor Allem der Fall, wenn es wenig Hintergrundinformation zu einem Problem gibt. Zwei Lösungskandidaten lassen sich vergleichen, haben also einen wohldenierten Gütewert. Überall dort, wo man mit Optimierungsproblemen arbeitet, über die wenig Hintergrundwissen vorhanden ist, kann es in Betracht gezogen werden einen genetischen Algorithmus zu verwenden. Man erspart sich durch geringem Ezienzverlust und dem Verzicht auf eine Qualitätsgarantie der Lösungen, eine mathematische Modellierung, mit der man in manchem Fall Jahre beschäftigt wäre. 1.3 Übersicht Seit den ersten Veröentlichungen zu evolutionären Algorithmen in den 1950er Jahren haben sich unterschiedliche Implementierungen für viele Anwendungsgebiete entwickelt. Die Wichtigsten sind in folgenden aufgelistet, wir spezialisieren uns in dieser Ausarbeitung jedoch auf die genetischen Algorithmen: Evolutionäre Standardalgorithmen nach [Wei15]: Genetischer Algorithmus Evolutionsstrategie Evolutionäres Programmieren Genetisches Programmieren Hill Climbing Classier System Tabu - Suche Memetischer Algorithmus Neuronales Netz Dierentialevolution Scatter Search Kultureller Algorithmus Ameisenkolonie Partikelschwarm 4

6 1.4 Aufbau der Arbeit Von der Biologie zum genetischen Algorithmus zum Traveling Salesman Problem. Die Ausarbeitung verläuft in drei Phasen, erst wird der genetische Algorithmus abstrakt über einen Vergleich mit der Evolution eingeführt, danach wird er konkret anhand des Traveling Selesman Problem erläutert und in der dritten Phase im Praxisteil analysiert. 5

7 Kapitel 2 Hauptteil 2.1 Einführung Abgrenzung: Stochastisches Optimierungsverfahren Um die Funktion eines genetischen Algorithmus genauer eingrenzen zu können, sollte man zuvor eine ganz andere Methode zur Lösung von Optimierungsproblemen betrachten: Das stochastische Optimierungsverfahren. Anders als beim genetischen Algorithmus orientiert sich das stochastische Verfahren an rein mathematischen Gesichtspunkten. Dabei werden mehrere Durchgänge einer Simulation mit zufälligen Anfangsparametern gestartet. In jeden Durchgang werden dabei die Parameter nach einem zuvor gewählten Verfahren mutiert. Zuletzt werden die Ergebnisse der Durchgänge verglichen und das Beste ausgewählt. Dessen gewählten Anfangsparameter werden daraufhin als Basis für eine erneute Iteration des Verfahrens verwendet. Nachteile des stochastischen Optimierungsverfahrens sind die durch die vielen benötigten Durchgänge hohe Laufzeit und die groÿe Gefahr, nur ein lokales Optimum zu nden, welches sich durch die rasche Einengung der Anfangsparameter im Ergebnis festsetzen kann. Durch die im Folgenden beschriebenen Eigenschaften des Genetischen Algorithmus lassen sich die Probleme des stochastischen Optimierungsverfahrens jedoch zu groÿen Teilen aufheben Hintergrundinformationen: Biologie Um die Entwicklung des evolutionären Algorithmus jedoch nachvollziehen zu können, müssen erst einige Vorgänge in der Natur beschrieben werden. Die Evolution kennt nur ein grundlegendes Gesetz: Der besser angepasste Überlebt (Darwin: Survival of the Fittest). Daraus lässt sich ableiten, dass eine Spezies sich verändern können muss, um in einer sich ändernden Umgebung zu Überleben. Daraus ergibt sich wiederum, dass es ein klar deniertes Ziel (Überleben bzw. Verbreitung) und ein Mittel um dies zu erreichen 6

8 (Selbstveränderung bzw. Mutation) gibt. Überträgt man diese Ideen in die Mathematik, ergibt sich daraus das Optimierungsproblem: In einem Pool aus unterschiedlichsten Individuen einer Spezies(Suchraum) setzt sich jenes durch, das am besten mit der Umgebung zurecht kommt (am besten der Zielfunktion entspricht). Unter Zuhilfenahme weiterer Methoden der Evolution lässt sich wie im nächsten Abschnitt beschrieben ein Algorithmus konstruieren, der das Optimierungsproblem weit ezienter lösen kann als das stochastische Optimierungsverfahren. 2.2 Methodik Vorgehen: Von der Biologie zum genetischen Algorithmus Für die Einführung von genetischen Algorithmen (GA) wird die Begriichkeit der Biologie übernommen, jedoch muss bei einigen Begrien Acht gegeben werden. Andere Begrie kommen hinzu, die gar nicht in der Biologie vorkommen. In Tabelle benden sich eine Reihe von Kurzdenitionen der wichtigsten Begrie. Hier wird deutlich, wie die Konzepte der Biologie überarbeitet und erweitert werden. So gibt es in der Biologie keinen Suchraum, und mit aller Wahrscheinlichkeit kein globales Optimum. Fitness entsteht durch die Anzahl an Nachkommen und deren Überlebensfähigkeit, jedoch nicht durch eine im voraus denierte Bewertungsfunktion. Mit den in Tabelle beschrieben Begrien lassen sich nun die zu lösenden Optimierungsprobleme formal beschreiben. Das resultierende 2-Tupel besteht aus dem Suchraum Ω und einer Bewertungsfunktion f, auf die später noch näher eingegangen wird. Optimierungsproblem = (Ω, f : Ω R) Einfachheitshalber wird an dieser Stelle das Minimierungsproblem als konkrete Instanz eines Optimierungsproblem herangezogen, da sich dies mit Ausblick auf das Traveling Salesman Problem als nützlich erweist. Damit hat das Problem die Lösung O, wobei min(ω) zu optimieren ist. O = min{f(i) i Ω} Anmerkungen zu einigen wichtigen Begrien: Fitnessfunktion 7

9 Individuum i Suchraum Ω Population P Güte / Fitness f(i) Globales Optimum O Mutation Mutationsreichweite Lokales Optimum o Hammingklippe Rekombination Umweltselektion Elternselektion Schema Diversität Selektionsdruck Lösungskandidat Menge aller möglichen Individuen mehrere Individuen Bewertung eines Individuums Menge bestmöglicher Individuen möglichst kleine Änderung des Individuums Hamming-Abstand zur gröÿtmöglichen Mutation Keine besseren Individuen innerhalb der Mutationsreichweite Hamming-Abstand zweier Individuen > Mutationsreichweite Unter Merkmalerhalt mehrere Individuen zusammenfassen Auswählen von Individuen aus einer Population zum Entfernen Auswählen von Individuen aus einer Population zur Rekombination Äquivalenzklasse von Individuen mit gleichen Merkmalen Verteilung der Individuen einer Population auf den Suchraum Steigerung der lokalen Optimierung, Verringerung der Diversität Tabelle 2.1: Die wichtigsten Begrie Im Algorithmus ist es keine Eigenschaft die aus dem Individuum erwächst, sondern eine die für jedes Individuum in einer festen Form vordeniert ist. Diese Denition der Fitnesswerte nennt sich die Fitnessfunktion Hamming-Abstand f : Ω R Der Hamming-Abstand ist kein Begri genetischer Algorithmen, sei aber hier für das Verständnis noch einmal aufgegrien. Er beschreibt in diesem Fall den Grad der Verschiedenheit zweier Individuen. Alle Individuen, die durch die kleinstmögliche Mutation eines Individuums erzeugt werden können, besitzen im Suchraum den Hamming-Abstand 1 zum Ursprungsindividuum. Diversität Wir betrachten die unterschiedlichen Individuen einer Population. In der Natur sind die Unterschiede innerhalb einer Tierart beispielsweise relativ gering. Im genetischen Algorithmus kommt es uns darauf an die Unterschiede jedoch sehr groÿ zu halten. Je gröÿer der Hamming- Abstand zweier Individuen, desto gröÿer ist die Diversität in der Population, worauf später näher eingegangen wird. Fitnessproportionale Elternselektion 8

10 Wir treen die Annahme, dass bessere Individuen eine höhere Chance haben sich zu reproduzieren. Dies nennt man tnessproportionale Elternselektion. Diesen Vorgang beschreibt beispielsweise Algorithmus 1. Algorithm 1 Fitnessproportionale Elternselektion 1: procedure Selektion(P ) 2: if size(p ) < 1 then return 0 Nichts zu Selektieren 3: if size(p ) = 1 then return P [0] Nur ein Individuum 4: sortiere P absteigend nach Fitness 5: index Zufallszahl aus {0, 1,..., size(p ) 1} 6: index index3 (size(p ) 1) 2 7: return individuum P [index] Für size(p ) = 6 macht das folgende Wahrscheinlichkeiten: E(P 0 ) = 3 6, E(P 1 ) = E(P 2 ) = E(P 5 ) = 1 6, E(P 3 ) = E(P 4 ) = 0 Umweltselektion Für die Umweltselektion greift im klassischen GA nicht das Pattern der Natur, wo viele Nachkommen erzeugt werden und nur die besten Überleben. Im klassischen GA werden genauso viele Kinder erzeugt wie Eltern, die Eltern fallen daraufhin unter den Tisch. Jedoch gibt es abgewandelte Versionen, die dem biologischen Ansatz näher sind, wie zum Beispiel der steady-state-ga [Wei15]. Dort werden mehr Kinder erzeugt als Eltern, und daraus dann die Besten ausgewählt um wieder eine konstante Elterngröÿe zu erhalten. Auch können die Eltern wieder mit in den Umweltselektionsprozess einbezogen werden, um so eventuell bereits gefundene Optima nicht durch unvorteilhafte Zufälle bei der Kindererzeugung zu verlieren. An dieser Stelle sei angemerkt, dass dies den Selektionsdruck steigert und dadurch verstärkt auf die Diversität in der Population geachtet werden muss. Mehr zum Dilemma zwischen Selektionsdruck und Diversität auf Seite 10. Rekombination Oftmals auch als Crossover bezeichnet. In den meisten Büchern wird die Rekombination anhand von Bitmustern erklärt die sich auf irgendeine weise verändern, hier sei jedoch ein anderer Ansatz gewählt. Zuerst sei gesagt, die Rekombination ist sehr problemspezisch. 9

11 Will man zwei Individuen miteinander kombinieren, ist es stark abhängig davon, welche Struktur sie aufweisen. Deshalb lässt sich die Rekombination nicht generisch formulieren, sondern muss für jedes Problem ausgearbeitet werden. Allgemein lässt sich jedoch sagen, dass versucht werden sollte, möglichst viele Informationen aus allen Elternteilen zu übernehmen. Wir bleiben an dieser Stelle abstrakt und gehen später bei der Anwendung auf das Traveling Salesman Problem konkret auf die Rekombination ein. Denition Rekombination Rekombination : Ω n Ω, n 2, n N Diese Denition sagt aus, dass mehrere Individuen auf eines abgebildet werden. Abhängig von der Aufgabenstellung kann diese Funktion auf die unterschiedlichste Weise implementiert werden. Das Ziel ist es, gute Strukturen der Elternteile in einem Kind zu vereinen, welches dadurch einen Fitnessvorteil erlangt. Leider sind in der Praxis diese Funktionen oft enorm aufwendig, deshalb genügt es, wenn diese Funktion nach dem Best-Eort-Modell erfüllt wird. Auÿerdem soll die Rekombination nur mit einem gewissen Prozentsatz angewandt werden, da sie meistens sehr rechenintensiv ist und zum anderen sehr starke Eingrie in ein Individuum bedeutet. Dies kann oft bereits gute Individuen zerstören und senkt deshalb den Selektionsdruck. Dilemma zwischen Selektionsdruck und Diversität Um dieses Dilemma zu erklären muss der Begri des Hill-Climbings verdeutlicht werden. Stellen wir uns vor, die Fläche der Erde sei unser Suchraum. Jede Position auf der Erde ist demnach ein gültiges Individuum. Der zugehörige Fitnesswert seien die Höhenmeter über dem Meeresspiegel. Der Mount Everest ist somit das globale Optimum und jeder Hügel der Erde ist ein lokales Optimum. Gesucht ist das Individuum mit dem gröÿten Fitnesswert. Eine Mutation sei ein Schritt zu einer Nachbarposition in einer beliebigen Richtung. Angenommen, wir schreiben folgenden Algorithmus um dieses Problem zu lösen. Er beginnt bei einer zufälligen Startposition auf der Erde. Danach besucht er zehn Nachbarpositionen und die beste Position davon ist seine neue Startposition. Das wiederholt er beliebig lange. Wird dieser Algorithmus das beste Individuum nden? Nein. Oder besser gesagt, vielleicht. Liegt seine Startposition zufällig am Fuÿe des Mount 10

12 Everest, so wird er sich eventuell bis zur Spitze hocharbeiten. Ansonsten wird er immer den Hügel erklimmen, an dem er sich gerade bendet, und von dort aus nicht mehr weiter wissen. Diesen Eekt nennt man Hill-Climbing. Der Selektionsdruck ist extrem hoch, da immer nur das aktuell Beste eine Chance hat weiter zu kommen, man ndet ein Lokales Optima auf direktem Wege. Aber würde man auch anderen Individuen manchmal die Chance lassen als neue Startposition gewählt zu werden, so könnte man möglicherweise einen Hügel überwinden in dem man in ein neues Tal schreitet, und von dort aus einen neuen, vielleicht noch gröÿeren Hügel erklimmt. Allerdings wäre in diesem Fall der Selektionsdruck um einiges geringer da viele Eventualitäten dahinter stecken. Wenn man schlechten Individuen in dieser Art eine Chance lässt, kommt man mit einer geringen Wahrscheinlichkeit zu gar keiner Lösung. Erhöht man die Mutationsreichweite, in dem man mit einer geringen Wahrscheinlichkeit öfters als einmal mutiert, kann das von Vorteil sein um kleine Täler zu überspringen, löst aber trotzdem nicht das Problem. Um diesem Problem zu entrinnen gibt es für unseren Fall die Populationen. Aber inwieweit helfen sie uns wirklich, und ab wann können wir nichts mehr von ihnen erwarten? Stellen wir uns vor, alle Individuen der Population starten zufällig auf demselben Hügel. Egal wie wir sie miteinander kombinieren (wenn wir dabei davon ausgehen, dass wir möglichst viele Informationen beider Elternteile erhalten möchten), dann werden wir trotzdem nicht den Hügel verlassen können. So eine Population nennt sich in diesem Fall konvergiert. Populationen konvergieren auch selbständig relativ schnell, wenn der Selektionsdruck zu hoch ist. Angenommen wir haben zwei Individuen in Asien und acht Stück in Amerika. Sind die Individuen in Asien zu beginn zu schlecht werden sie bei hohem Selektionsdruck schnell aussortiert, und es bleiben die Individuen in Amerika und deren Kinder übrig. Ab diesem Zeitpunkt kann aber Amerika nicht mehr verlassen werden, da die Mutationsoperatoren nicht die nötige Reichweite haben um den Atlantik zu überqueren. Demnach nden wir mit geeigneten Rekombinationsoperatoren auf die Individuen innerhalb Amerikas noch den höchsten Berg in Amerika, aber niemals mehr den Mount Everest. Deshalb wollen wir die Diversität in der Population möglichst hoch halten um, auch wenn groÿe lokale Optima gefunden werden, weitere Rekombinationen und damit eine weitere Erkundung des Suchraums zu gewährleisten. Dies ist Beispielsweise möglich wenn der Selektionsdruck verringert wird, da auch vermeintlich schlechte Individuen weiter in der 11

13 Population bleiben. Auf der anderen Seite sorgt ein geringer Selektionsdruck für eine gewisse Inezienz im Algorithmus, da nicht zielstrebig vorgegangen wird. Das heiÿt, ein guter genetischer Algorithmus benutzt nicht nur geeignete Mutations- und Rekombinationsoperatoren, sondern er besitzt die richtige Balance zwischen Selektionsdruck und der Aufrechterhaltung der Diversität. Mit diesem Wissen wollen wir versuchen darzustellen, wie ein abstrakter genetischer Algorithmus aussehen könnte, der jedoch unter der Beachtung der obigen Details implementiert werden muss. Algorithm 2 Abstrakter GA 1: procedure GA 2: P eltern Zufällige Startpopulation 3: P kinder { } 4: while Abbruchbedingung nicht erfüllt do 5: i 1 Selektion(P Eltern ) Algorithmus1 6: i 2 Selektion(P Eltern ) 7: for count < Kinderanzahl do 8: if Rekombinationswahrscheinlichkeit getroen then 9: kind Rekombination(i 1, i 2 ) 10: else 11: kind i 1 12: kind mutate(kind) 13: P Kinder P Kinder kind 14: P Eltern n beste aus P Kinder P Eltern n = size(p Eltern ) 15: return individuum bestes aus P Eltern Konzeption: Anwendung auf das Traveling Salesman Problem Im Folgenden wird dargestellt, wie die Begrie des genetischen Algorithmus im konkreten Fall des Traveling Salesman Problem T SP aufgefasst werden müssen. Gegeben sei das euklidische TSP modelliert als ungerichteter, gewichteter Graph. Denition G = (V, E) mit V = v 0,..., v n 1, den Knotenpositionen (x(v), y(v)) R 2, sowie den Kantengewichten distanz((v i, v j ) E), siehe Fitnessfunktion auf Seite 14 12

14 Um das Problem weiter zu spezizieren, können an dieser Stelle bereits die Begrie der genetischen Algorithmen verwendet werden. Ausblick: Ein formaler Lösungskandidat des Problems wird eingeführt. Danach wird der Suchraum näher erläutert, die Gewichtsfunktion der Kanten beschrieben und die Optimierungsaufgabe festgelegt. Damit ist das Problem vollständig deniert und es wird auf weitere Konzepte des genetischen Algorithmus eingegangen, die im letzten Abschnitt zu einer Beispieldenition eines GA für das TSP führen. Individuum Ein Individuum ist ein Lösungskandidat des Problems, im TSP somit ein Weg durch alle n Knoten und zurück zum Startknoten. Es handelt sich hierbei um eine Rundreise mit der selben Start- wie Endposition. Um das Problem zu vereinfachen wird die Äquivalenzklasse derselben Wege, die sich nur in Start-/Endposition unterscheiden, zusammengefasst. Deshalb wird festgelegt, dass alle Wege beim Knoten 0 beginnen. Beschreibt man den Weg als Folge von Knoten so beginnt ein Weg beim Knoten 0 und endet dort. Wie sich in der folgenden Denition zeigt, wird genau das umgesetzt. Um ein Individuum formal zu beschreiben wird folgende Vereinbarung getroen: Knoten werden in westlicher Leserichtung beginnend bei 0 durchnummeriert. Daraus ergibt sich v 0 = 0 Aufgrund der Denition als Rundreise mit xem Startknoten 0 ergibt sich: v Start = v Ziel = v 0 = 0 Denition Individuum Sei ein Individuum i eine Folge von Knoten des Graphen G = (V, E) und n = V i = 0, v 1,..., v n 1, 0 i, j N, i, j < n, i j : v i v j dann gilt: i 0 = v Start = i n = v Ziel = v 0 = 0 In Abbildung 2.1 ist ein Beispiel zu sehen. Individuen des TSP sind also reduzierbar auf ihre einzige Eigenschaft: Die Knotenfolge. Suchraum 13

15 Abbildung 2.1: Ein Individuum als Lösungskandidat Abbildung 2.2: Ein Suchraum In allgemeinen Fall besteht der Suchraum Ω wie gehabt aus allen zulässigen Individuen. In diesem Fall ergibt das, wenn man noch einmal die Denition für ein Individuum anwendet: Ω = { 0, v 1...v n 1, 0 i, j < n, i j : v i v j } In Abbildung 2.2 ist ein Suchraum zu sehen. Der Suchraum besteht mengenmäÿig aus 1 (n 1)! vielen Individuen, wenn n die Anzahl an 2 Städten ist. Bei sechs Städten macht das bereits 60 verschiedene Lösungen. Für 101 Städte es sind 4, [Wei15] Lösungen, oder schlichtweg zu viele. Güte / Fitness Die Güte wird beschrieben durch die Summe aller Kantenlängen, welche zu minimieren ist. n 1 f(i) = distanz(i k, i k+1 ) k=0 14

16 Abbildung 2.3: Ein Globales Optimum Die Funktion distanz basiert auf dem Euklidischen Abstand zweier Knoten. distanz(v 1, v 2 ) = (x(v 1 ) x(v 2 )) 2 + (y(v 1 ) y(v 2 )) 2 Globales Optimum Es ist im Falle des TSP die Menge der kürzesten Wege durch alle Städte. O = min{f(i) i Ω} In Abbildung 2.3 ist ein Globales Optimum zu sehen. Population Die Population ist die momentan im Algorithmus vorhandene Menge an Individuen P Ω In Abbildung2.4 ist eine Population zu sehen. Mutation In Abbildung 2.5 ist eine Mutation zu sehen. Eine Mutation macht aus dem Individuum 0, 1, 2, 3, 4, 5, 0 zum Beispiel 0, 3, 2, 1, 4, 5, 0. Dies ist die kleinst mögliche Mutation, und bewirkt, dass zwei Kanten ausgetauscht werden. 15

17 Abbildung 2.4: Eine Population Abbildung 2.5: Eine Mutation Schema Ein Schema sind in unserem Fall die Äquivalenzklasse der Lösungen, die an einer oder mehreren Stellen die selben Kanten besitzen. Beispiel: Man möchte alle Hauptstädte Europas und Amerikas besuchen, so wird man nur einmal auf dem Hinweg und ein weiteres mal auf dem Rückweg den Atlantik überqueren. Alle guten Lösungen werden diesem Schema folgen. Der Algorithmus konzentriert sich nicht bewusst auf gute Schemata, sondern diese entstehen von ganz allein, da später nur gute Lösungen übrig bleiben. In Abbildung 2.6 ist ein Lösungskandidat zu sehen, der einem Schema folgt, welches sich durchsetzen wird. Das Merkmal des Schemas sind dabei die rot markierten Kanten. Rekombination In Abbildung 2.7 entsteht ein neues Individuum und verwendet dafür Kanten der Eltern. Der Algorithmus sei hier nur auf abstrakter Ebene beschrieben. Für die neue Knotenfolge wählt er aus jedem Elternteil abwechselnd die Kanten. Kann er aus einem Elternteil keine Kante wählen, weil sie zu einem Knoten führt der bereits verbraucht wurde, nimmt er die Kante des anderen Elternteil. Ist dies auch nicht möglich, geht er zum nächsten freien Knoten. Elternselektion 16

18 Abbildung 2.6: Ein Schema Abbildung 2.7: Eine Rekombination 17

19 Die Elternselektion erfolgt probabilistisch proportional zum Fitnesswert. Bessere Elternindividuen haben eine höhere Chance zur Rekombination herangezogen zu werden. Siehe dazu Algorithmus Praktik Beiliegend zu dieser Ausarbeitung bendet sich ein genetischer Algorithmus, der das vorhergehend spezizierte TSP löst, und einige Stellschrauben bietet, um ein Gespür für die Wirkungsweise zu bekommen Implementierung: Genetischer Algorithmus für TSP in Java Das wichtigste Vorweg: Die Unterschiede des Programms zum erarbeiteten GA Der abstrakte GA wurde ergänzt durch ein Konzept, das so nicht in der Biologie vorkommt, sich aber in der Praxis für die Lösungsndung als überaus nützlich erwiesen hat. Um dem Dilemma zwischen Selektionsdruck und Diversität (siehe S. 10 entgegen zu wirken, wurde eine Metapopulation eingeführt. Der Begri Metapopulation soll verdeutlichen, dass es keine Population ist die im eigentlichen Sinne des genetischen Algorithmus mit Selektion, Mutation und Rekombination bearbeitet wird, sondern eine Sammelklasse für bestimmte Individuen. Man kann diese Population auch als Speicher für Individuen beschreiben, die sich wiederum aus eigenen Instanzen von GA's ergeben. Der Algorithmus 3 beschreibt die Vorgehensweise des Meta GA's. Man könnte ihn auch als Parallelisierung mehrerer genetischen Algorithmen verstehen, welche als lokale Erkunder dienen. Die Idee dahinter Dieser Speicher speist sich in jedem Slot von einer eigenen kleinen Instanz des vorher erarbeiteten Algorithmus, dessen Aufgabe es ist, ein gutes lokales Optimum zu nden. Das heiÿt wir können mit einem hohen Selektionsdruck arbeiten, ungeachtet dessen, dass unsere Diversität schnell schwindet. In jeder Generation wird deshalb überprüft, ob die Population bereits konvergiert ist, sprich ob er bereits das lokale Optimum gefunden hat. Ist dies der Fall, so wird er ersetzt durch eine neue Instanz des GA, jedoch mit der Metapopulation als Startpopulation. Warum hat das solche Vorteile für die Qualität der Lösungen? Man darf bei der Implementierung eines GA nie das Problem aus den Augen verlieren. Wir betrachten immer noch einen Algorithmus, der eine kurze 18

20 Strecke sucht. Dabei ist feststellbar, dass man meistens, ohne bestimmte Teilstrecken, ganz oensichtlich nie zur besten Lösung kommen wird. In lokalen Optima sind oft zumindest ein Teilmenge dieser Teilstrecken vorhanden. Findet man deshalb relativ schnell verschiedene lokale Optima und kombinieren sie miteinander, erhöht sich die Wahrscheinlichkeit, dass man ein Individuum erhält, welches die wichtigsten Teilstrecken in sich vereint. Dieses Individuum wird somit die Basis für das beste zu erwartende Individuum. Es besitzt im Idealfall alle Voraussetzungen um zu einem sehr guten lokalen oder gar dem globalen Optimum zu gelangen. Algorithm 3 Meta GA 1: procedure MetaGA 2: P Meta Zufällige Startpopulation 3: size size(p Meta ) 4: GAs GA 1,..., GA size Verwalte size viele GA's 5: while Abbruchbedingung nicht erfüllt do 6: for count < size do 7: GA count GAs[count] 8: if GA count ist konvergiert then 9: GA count neuer GA mit Startpopul. P Meta 10: GA count in nächste Generation überführen 11: P Meta [count] GA count [count] An dieser Stelle nicht das beste Indiviuum nehmen, da sonst P Meta sofort konvergieren würde 12: return individuum bestes Individuum aus P Meta Analyse des Programms: Ergebnisse verschiedener Kon- gurationen Was passiert wenn die Populationsgröÿe erhöht wird? Zu aller erst wird der Algorithmus um einiges langsamer, aber empirisch beobachtet verschlechtert sich die Qualität der Lösungen. Dabei würde man doch das Gegenteil erwarten. Wie ist dieses Phänomen zu erklären? Je gröÿer die Populationen, desto länger dauert es bis ein lokales Optimum gefunden wird. Da der GA in diesem speziellen Fall doch die Aufgabe hat, dies möglichst schnell zu nden, verzögert das nur den Prozess. Der Algorithmus hält sich mit einer groÿen Population mehr Möglichkeiten länger oen, welche für uns überüssig sind. Schlieÿlich bezieht der Algorithmus seine Diversität aus der Metapopulation. Was passiert wenn der Rekombinationsprozentsatz erhöht wird? Nach dem selben Prinzip ist ein zu hoher Rekombinationsprozentsatz dafür verantwortlich, dass der GA seine Fühler zu weit ausstreckt. Dies verzögert 19

21 Abbildung 2.8: Beispielkonguration für ein TSP mit 40 Städten nach 1000 Generationen wieder den gewünschten Prozess, schnell zu einem Ergebnis zu kommen. Was passiert wenn die Mutationsrate erhöht wird? Die Mutationsrate sorgt dafür, dass mit einer geringen Wahrscheinlichkeit ein Individuum öfters mutiert. Die Wahrscheinlichkeitsberechnung entspricht hierbei der tnessproportionalen Selektion (siehe Algorithmus 1), wobei 1 mal mutieren den besten Fitnesswert hat, und n = Mutationsrate mal Mutieren den schlechtesten Fitnesswert hat. Das kann im klassischen GA durchaus sinnvoll sein, um eine höhere Mutationsreichweite zu erreichen und wurde deshalb als Konzept übernommen. Für den abgeänderten GA spielt es jedoch keine Rolle mehr, da er sowieso ersetzt wird, wenn er konvergiert. Beispielkongurationen und Ergebnisse Versuchsaufbau: Suche eine Rundreise für 40 Städte mithilfe des GAs innerhalb von 1000 Generationen. In Abbildung 2.8 sieht man links, wie eine vernünftige Konguration der Werte beispielhaft aussehen könnte. Mit dieser Konguration wird innerhalb der 1000 Generationen eine Reisedauer von 386 erreicht. Zum Vergleich sieht man In Abbildung 2.8 rechts, dass mit einer nach der obigen Erklärung schlechten Konguration auch ein schlechterer Fitnesswert (Faktor 1,26) erzielt werden. Laufzeit und Abbruchkriterium Berechnung der Worst-Case Laufzeit in der O-Notation, gemessen an der Eingabegröÿe n = V, wobei V die Menge der Knoten im TSP-Graph ist. Berechnung eines Fitnesswertes: O(n) 20

22 Die Berechnung der Fitnesswerte schlägt mit 0(n) zu Buche, für sie muss die Summe aus dem vorangehenden Kapitel berechnet werden. Dabei werden alle Knoten einmal durchlaufen. Rekombination: O(n) Die Rekombination kann in 0(n) Schritten durchgeführt werden [Wei15], sofern man in der Graphendarstellung mit Adjazenzlisten arbeitet. Im beiliegenden Code wurde der umgangssprachliche Algorithmus von Seite 16 fast genauso implementiert wie dort beschrieben. In seiner intuitiven Form durchläuft er viele Listen und dient deshalb nicht als Referenzimplementierung. Mutation: O(n) Die aufwändigste Mutations macht aus einer Knotenfolge 0, v 1,, v 2,..., v n 1, v n, 0 die Knotenfolge 0, v n, v n 1,..., v 2, v 1, 0. Dabei muss sie immer zwei Knoten miteinander tauschen, und das n mal, deshalb O(n). Anzahl Schleifendurchläufe aus dem Meta GA: O(1) Die Anzahl der Schleifendurchläufe aus dem Meta GA ist unabhängig von der Eingabegröÿe n, und bezieht sich nur auf die Populationsgröÿe, welche hier als Konstante angenommen wird. Anzahl Schleifendurchläufe aus dem GA: 0(1) Analog zu Meta GA Damit lautet das Ergebnis sagenhaft: 0(n) Jedoch ist dieses Ergebnis mit Vorsicht zu genieÿen. Hierbei handelt es sich um die Laufzeit zur Berechnung einer einzigen Generation mit vernachlässigter Populationsgröÿe. Um ein Gespür für die Laufzeit zu bekommen benötigen wir also mehr Informationen über die Populationsgröÿe und die Anzahl an Generationen. An dieser Stelle wird zum ersten mal das bisher wenig diskutierte Abbruchkriterium relevant. Der Algorithmus kann nicht wissen, wann er seinen Dienst geleistet hat, er wird weiter und weiter rechnen. Es sei denn man trit eine dieser zwei Vorkehrungen: Gütewert denieren, der Erreicht werden muss, maximale Anzahl von Generationen festlegen. Im ersten Fall ist keine Abschätzung möglich, da niemand weiÿ, ob der Algorithmus den Gütewert überhaupt erreichen wird. 21

23 Gibt man eine maximale Anzahl von Generationen vor, so lässt sich in Kombination mit der Populationsgröÿe und mithilfe der Wertvorgaben von oben eine passende Laufzeitschranke nden. In diesem Algorithmus:. O(generationen size(p ) 2 n) Ergebnisauswertung: Qualität der Lösungen Die schlechte Nachricht zuerst: Es gibt keine Qualitätsgarantie für genetische Algorithmen in vordenierter Zeit. Die gute Nachricht: Durch Anpassen und Verwenden von geeigneten genetischen Methoden, und eventuell auch Hilfskonzepte wie dem Meta GA, wird folgendes gewährleistet: starke Verbesserung der Individuen zu Beginn, sehr geringe Wahrscheinlichkeit, fatale Ergebnisse zu erhalten. Hat man technisch gesehen keine Chance auf eine Optimale Lösung, kann man also durchaus suboptimale Lösungen des GA hinnehmen. Doch inwiefern sind die Lösungen suboptimal, sprich: Was kann schon schief gehen? Dazu ein kleines Beispiel: In Abbildung 2.9 sehen wir zwei verschiedene Läufe eines GA auf ein und dasselbe Problem. Beides mal wurden Generationen berechnet, und beides mal wurde die dargestellte Lösung spätestens nach Generation nicht mehr verändert. Wir wissen jetzt, wie es passieren kann, dass sich ab einem bestimmten Zeitpunkt nichts mehr ändert. Das bedeutet, dieser GA konvergiert circa bei Generation Dass der rechte GA keine Veränderung mehr gezeigt hat spielt keine Rolle, da er sich bereits im globalen Optima bendet, der linke ist jedoch vorzeitig in ein lokales Optima konvergiert. Da wir in diesem Fall die Güte des globalen Optimums kennen, lässt sich die relative Qualität der schlechten Lösung angeben. Ausgerechnet beträgt der Faktor der Abweichung 1,3. Weitere Versuche bestätigen, dass sich mit diesem Setup ein Qualitätsfaktor zwischen 1 und 1,5 einpendelt, was für das TSP eine angemessene Zahl zu sein scheint. Vor allem, da der Faktor 1,5 ein eher seltener Wert ist. 22

24 Abbildung 2.9: Suboptimale und Optimale Lösung für TSP mit 200 Städten 23

25 Kapitel 3 Schlussteil 3.1 Zusammenfassung und Bewertung Genetische Algorithmen sind ein mächtiges Werkzeug, jedoch ist eine generische Implementierung nur dann sinnvoll, wenn genügend Stellschrauben zur Verfügung stehen, um den Algorithmus anzupassen. Sind diese jedoch zusammen mit einer präzisen Gütefunktion vorhanden, ist das genaue Problem für den Algorithmus unerheblich. Er kann ohne genaues Wissen um das Anwendungsfeld aus nur relativ wenigen Informationen eine zufriedenstellende Lösung berechnet. Der Algorithmus bildet ein komplexes Gleichgewichtssystem zwischen Diversität der Population und Selektionsdruck zur Lösungsndung welches es für jedes Problem individuell anzupassen gilt. Dennoch ist keine Qualitätsgarantie ableitbar, da bei falscher Justierung der Parameter die Lösungen sehr früh in beliebig schlechte lokale Optima konvergieren können. Bei richtiger Anwendung führen genetische Algorithmen jedoch in den allermeisten Fällen in ezienter Laufzeit zu sehr zufriedenstellenden Ergebnissen. 3.2 Ausblick Die Idee der genetischen Programmierung ist bereits seit den 1950er Jahren bekannt, könnte jedoch in nicht all zu ferner Zukunft eine Renaissance erfahren. Das Stichwort hierbei ist "Quantum Genetic Algorithm", kurz QGA, also eine für Quantencomputer angepasste Form der genetischen Algorithmen. Vor allem bei sehr groÿen Populationen ist die Laufzeit und Komplexität eines genetischen Algorithmus auf Basis eines Quantenrechners deutlich ezienter als auf einer konventionellen Architektur [LC12]. Ein weiterer Aspekt ist, dass genetische Algorithmen auch bei vielen aktuellen Problemen Anwendung nden können. So sind sie zum Beispiel ein gutes Mittel, die Basis von neuronalen Netzen zu kongurieren, da deren 24

26 Erfolg stark von ihren vorgegebenen Parametern abhängt [Koe94]. Auch wenn sich in der Softwarebranche wenig voraussagen lässt ist sicher, dass genetische Algorithmen ein unersetzliches Hilfsmittel für viele Probleme darstellen und auch in Zukunft in einem weiten Feld Anwendung nden werden. 25

27 Literaturverzeichnis Combining Genetic Algorithms and Neural Net- [Koe94] Philipp Koehn. works: The Encoding Problem. PhD thesis, [LC12] Zakaria Laboudi and Salim Chikhi. Comparison of genetic algorithm and quantum genetic algorithm. The International Arab Journal of Information Technology, 9(3):243249, [Wei15] Karsten Weicker. Evolutionäre Algorithmen. Springer Vieweg, 3rd edition,