Bionische Methoden der Optimierung

Transkript

1 Bionische Methoden der Optimierung Thema: KODIERUNG VON GENETISCHEN ALGORITHMEN UND SIMULATED ANNEALING Autoren: Dipl.-Ing. (FH) Christian Benjamin Ries Dipl.-Ing. (FH) Matthias Vollmer Datum: 21. Dezember 2009

2 Inhaltsverzeichnis Inhaltsverzeichnis Inhaltsverzeichnis 2 1 Einleitung 4 2 Grundlagen Simulated Annealing Genetische Algorithmen Kanonische Genetische Algorithmen Kodierungen Binär-Code Gray-Code Projektziel Glossar Simulationsmodell Annahmen Darstellungsformen Repräsentation Methoden der Modellvalidierung Parametrisierung des Simulationsmodells Ergebnisse der Kodierungen vom Kanonischen Genetischen Algorithmus Zeitverlauf der Kodierungen von den Testfunktionen Konvergenz der Testfunktionen Durchschnittswerte der Iterationsschritte Ergebnisse des Simulated Annealing Algorithmus Zeitverlauf des Simulated Annealing Algorithmus von den Testfunktionen Konvergenz der Testfunktionen Fazit 21 Tabellenverzeichnis 22 Abbildungsverzeichnis 23 Literaturverzeichnis 24 A Anhang - Funktionen für die Berechnung von Abweichungen 25 A.1 Absolute Abweichung A.2 Relative Abweichung B Anhang - Messwerte Kanonische Genetische Algorithmus 26 C Anhang - Messwerte Simulated Annealing Algorithmus 32 D Anhang - Standardfunktionen 34 E Anhang - Matlab Implementierung 38 E.1 Kanonischer Genetischer Algorithmus E.2 Testfunktionen E.3 Messfunktion E.4 Crossover E.5 Umrechnungen E.6 Genetische Funktionen

3 Inhaltsverzeichnis E.7 Simulated Annealing

4 1 Einleitung 1 Einleitung Im Masterstudiengang Optimierung und Simulation an der Fachhochschule Bielefeld werden Kurse für die Lösung von Optimierungsproblemen angeboten, unter anderem die Veranstaltung Bionische Methoden der Optimierung von Professor Dr. math. Biegler-König. Diese Veranstaltung liefert die nötigen Kenntnisse für die eigenständige Entwicklung und Untersuchung von Evolutionären Algorithmen (EA). In dieser Arbeit wird eine Untergruppe der EA untersucht, die Genetischen Algorithmen (GA). Gezielt geht es in dieser Ausarbeitung um die Kodierung von Zahlen in GA. Es werden drei Kodierungen (Binär- Code, Gray-Code und Fließkomma) untersucht und mit einem analytischen Verfahren (Simulated Annealing) verglichen. Im Kapitel 2 wird eine kurze Einführung für das Simulated Annealing gegeben und erläutert wie die verschiedenen Kodierungen berechnet werden können. Es wird gezeigt, wie eine Dezimalzahl als binärer Wert dargestellt werden kann und wie dieser Wert in der Gray-Code Kodierung auszusehen hat. Das Kapitel 3 beschreibt das Ziel dieser Arbeit und erläutert Ergebnisse aus Messreihen, die im Anhang B und C nachzuschlagen sind. Das letzte Kapitel 4 erläutert kurz das Ergebnis dieser Arbeit und welche Kenntnisse gewonnen wurden. 4

5 2 Grundlagen 2 Grundlagen In den folgenden Abschnitten soll kurz auf die Grundlagen von GA und dem Simulated Annealing eingegangen werden. Für Fragen, die nicht in diesem Kapitel beantwortet werden, wird der Leser gebeten eine losgelöste Recherche zu unternehmen. 2.1 Simulated Annealing Das Simulated Annealing ist ein analytisches Verfahren, welches der Ermittlung eines globalen Minima dient. Der physikalische Hintergrund ist der folgende (vgl. [GKK, S. 26ff]). Teilchen in einer Flüssigkeit nehmen bei Vorhandensein eines bestimmten Energieniveaus nicht immer die energetische günstigste Position in der Umgebung ein, sondern können sich, beeinflusst durch eine Umgebungstemperatur T U, vom Energieniveau her auch verschlechtern. Die Wahrscheinlichkeit dafür beträgt: p = e E k B T U (2.1) E steht für die Differenz zwischen dem angestrebten und dem alten Energiezustand, k 1 B für die Boltzmann- Konstante und T U für die Temperatur. Die Boltzmann-Konstante und Temperatur kann zu einer Konstante T zusammengefasst werden. Die Formel lässt sich dadurch vereinfachen und auf Optimierungsverfahren anwenden: p = e E T (2.2) Wird der Wert für T mit der Zeit verringert, wird daraus der eigentliche Simulated Annealing Algorithmus für Minimierungsprobleme. Dieser Algorithmus ist in Listing E.23 aufgelistet. 2.2 Genetische Algorithmen Im folgenden eine Beschreibung von [MOR99]. Genetische Algorithmen (GA) zählen zu den stochastischen Suchverfahren. Diese versuchen ausgehend von einer oder mehreren zulässigen Lösungen (Punkten im Lösungsraum/Suchraum), sich Schritt für Schritt der optimalen Lösung zu nähern. GA arbeiten mit einer Menge solcher Punkte/zulässiger Lösungen. Diese werden auch als künstliche Individuen bezeichnet. GA arbeiten auf Basis künstlicher Individuen, die (in Anlehnung an die Natur) aus einem Chromosomensatz und einem Fitnesswert bestehen. In der Natur kann der Fitnesswert eine komplexe Größe sein, die wirklich die Anpassung des Individuums an die Umwelt beschreibt. Er kann aber auch eine einzelne Größe sein (wie Länge, Augenfarbe,..). Je nachdem, was Gegenstand der Betrachtung ist. Im Zusammenhang mit GA wird die Annahme gemacht, dass ein Zusammenhang zwischen dem Chromosomensatz und dem Fitnesswert existiert und dass jede Änderung des Chromosomensatzes zu einer Änderung des Fitnesswertes führt. Liegen identische Chromosomensätze vor, so führen gleiche Änderungen an den Chromosomensätzen zu identischen Fitnesswertveränderungen. 1 k B = 1, (24)10 23 J/K 5

6 2 Grundlagen Kanonische Genetische Algorithmen Der Kanonische Genetische Algorithmus (KGA) besteht aus einer Menge von Funktionalitäten und Eigenschaften, dies sind die folgenden: Startpopulation Fitnessfunktion Selektion ( Survival of the fittest ) Genetische Operatoren, z.b. Mutation, Crossover-Operatoren Für weitergehende Erkläuterungen und die Bedeutung dieser Funktionalitäten und Eigenschaften sei hier auf einschlägige Literatur verwiesen (vgl. [GKK], [Mic]). Die Selektion wird mit der Rouletterad-Selektion umgesetzt (vgl. Listing E.1). An dieser Stelle sei kurz auf die Berechnung des Fitnesswertes eingegangen, da in dieser Arbeit ein Minima der Funktionen gesucht wird. In Fachliteratur, z.b. [Mic] wird in der Regel das Maximum gesucht. In [GKK, Seite 38ff] ist folgende Definition zu finden. Falls z.b. das Maximum einer Funktion f gesucht wird (f! = max), dann repräsentiert das Chromosom c 1 genau dann eine bessere Lösung als ein weiteres Chromosom c 2, wenn gilt: fit(c 1 ) > fit(c 2 ). Wird nicht nach dem Maximum, sondern nach dem Minimum einer Funktion gesucht (f! = min), so lässt sich dieser Fall sehr leicht auf die Maximierung zurückführen, sofern es eine Konstante const R gibt, für die gilt: c S : f(c) const. Dadurch lässt sich die Fitnessfunktion umschreiben in die Form fit(c) = const f(c). fit nimmt nur nichtnegative Werte an und die ursprüngliche Zielfunktion f besitzt genau dann ein Minimum an der Stelle c wenn fit dort ein Maximum hat. Der generelle Aufbau eines KGA ist wie folgt: 1 Procedure KGA 2 begin 3 t := 0 4 Initialisiere P(0) 5 Bewerte P(0) 6 Setze P*(t) := 0 7 while ( nicht Abbruchkriterium ) do 8 begin 9 t := t FOR (i = 0; i < popsize; i++ ) 11 Auswahl des i-ten Chromosoms fuer P*(t) aus P(t-1) 12 Anwendung genetischer Operatoren auf P*(t) 13 P(t) := P*(t) 14 Bewerten von P(t) 15 end 16 end Listing 2.1: Genereller Ablauf eines KGA 2.3 Kodierungen Im Kapitel 3 werden drei Zahlenkodierungen verwendet. Dies sind der Binär-Code, der Gray-Code und die Fließkommazahldarstellung. Fließkommazahlen werden als bekannt vorausgesetzt Binär-Code Der Binär-Code verwendet zur Darstellung von Informationen die Basis 2. Dadurch können mit einer Länge von 8 Stellen 2 8 = 256 Informationen dargestellt werden. 6

7 2 Grundlagen n 1 Ergebnis 10 = W ert i 2 n, i O, W ert [0, 1] O (2.3) i= Gray-Code Der Gray-Code ist ähnlich dem Binär-Code aufgebaut. Beim Übergang zwischen zwei benachbarten Informationen ändert sich im Vergleich zum Binär-Code nur eine Informationseinheit. Für die Umrechnung zwischen Binärwerten und Zahlen in der Gray-Code Kodierung muss der Exklusiv-Oder Bitoperator (XOR) bekannt sein. Der XOR ist in Tabelle 2.1 verdeutlicht. A B Y = A XOR B Tabelle 2.1: Wahrheitstabelle des XOR Die Umrechnung des Binärwertes in einen Wert der Gray-Code Kodierung funktioniert wie in Abbildung 2.1 gezeigt. Abbildung 2.1: Binärwert in die Gray-Code Kodierung umwandeln Die Umrechnung des Binärwertes ergibt als Gray-Code den Wert Gray. Die Bezeichnungen werden in Tabelle 3.1 beschrieben. Zurückgerechnet mit dem Schema aus Abbildung 2.2 wird aus Gray wieder der binäre Wert

8 2 Grundlagen Abbildung 2.2: Gray-Code in die Binärwert Kodierung umwandeln 8

9 3 Projektziel 3 Projektziel Das Ziel dieser Arbeit ist die Untersuchung von verschiedenen Kodierungen, welche für die Umsetzung von Genetischen Algorithmen (GA) verwendet werden können. Diese werden mit den Ergebnissen des Verfahren Simulated Annealing (SA) verglichen. Die GA werden zur Minimaloptimierung von Funktionen verwendet. Diese Funktionen werden aus einem Satz von Testfunktionen gebildet (s. Anhang D): Parabel Funktion, Rosenbrock s Sattel, Sheckel s Fuchsbauten, Schwefel und Rastrigin Funktion. Es sollen Vergleiche zu den verschiedenen Kodierungen gezogen und den Ergebnissen für das Simulated Annealing gegenüber gestellt werden. 3.1 Glossar Folgende Wortdefinitionen werden in dieser Arbeit verwendet, weiterhin werden Definitionen aus [GKK, S. 34ff] genutzt. Begriff Definition Popsize, Population Anzahl der Chromosomen die eine Lösung repräsentieren. Chromosome, künstliche Individuen Als Chromosom wird ein Zahlenwert bezeichnet, der eine Lösung darstellt MSB Most-Significant-Bit, Höherwertigste Bit, eine Veränderung an dieser Bitstelle ändert den Wert am stärksten. LSB Least-Significant-Bit, Niederwertigste Bit, eine Veränderung an dieser Bitstelle änder den Wert gering. KGA Kanonische Genetische Algorithmus (s. Abs. 2.2) Testfunktionen, Standardfunktionen Dies sind die Funktionen die in Anhang D aufgelistet und im Listing E.2 als Matlab Funktionen implementiert sind. Tabelle 3.1: Glossar 3.2 Simulationsmodell Annahmen Folgende Annahmen, Bedingungen werden an das System gestellt, so dass dieses bearbeitet werden kann. In den Testreihen der Binär-Code und Gray-Code Kodierung werden so viele Binärstellen gewählt, dass die maximale Informationseinheit aufgenommen werden kann und zu keinem Informationsverlust im Bezug auf die Genauigkeit führt. Die Testreihen wurden mit den Parametern in Abschnitt aufgenommen. Die Testreihen werden für Funktionen im dreidimensionalen Raum verwendet Darstellungsformen Bei der Darstellung von Fließkommazahlen (floating point number) herrscht generell das Problem der Informationredundanz. Die Rechnereinheiten eines Computern können Zahlenwerte rein diskret abbilden, so dass es bei der Abspeicherung zu Informationsverlust führen kann. Ein 32-Bit System kann in Ganzzahlen maximal 2 32 vorzeichenlose Informationen in einer Speicherstelle abspeichern. Für eine höhere Informationseinheit werden weitere 9

10 3 Projektziel Techniken benötigt. Fließkommazahlen können in einfacher und doppelter Genauigkeit abgebildet werden, je nach Darstellung sind die folgenden Bereiche unterschiedlich dimensioniert. Eine Fließkommazahl besteht abstrakt definiert aus drei Bereichen: Basis, Mantisse und Exponent. Der Wert 2, kann in diese drei Bereiche unterteilt werden. Dies sieht wie folgt aus: 2, ist die Mantisse (m) 10 ist die Basis (b) 5 beschreibt den Exponenten (e) In Rechnersystemen wird die Basis 2 verwendet. Für die Darstellung von negativen und positiven Zahlenwerten wird ein zusätzlicher Parameter benötigt. Zur Darstellung wird das Vorzeichenbit (sign bit) (s) benötigt. Bei einem Wert gleich 1 ist die Zahl negativ, bei einer 0 positiv. Die Darstellung kann so f = s m 2 e formuliert werden. Genauigkeit Mantisse (in Bit) Exponent (in Bit) einfach 23 8 doppelt Tabelle 3.2: Fließkommazahldarstellung nach der IEEE 754 Definition [IEEE1] Repräsentation Im folgenden wird ein Beispiel aus [Mic, Seite 19] teilweise zitiert. Die Darstellung von Fließkommazahlen als binärer Wert hängt von der benötigten Genauigkeit ab. Im folgenden wird eine Genauigkeit von sechs Stellen nach dem Komma angenommen. Es wird der Zahlenbereich [ ] betrachtet, welcher einen Bereich von 3 hat. Bei einer Genauigkeit von 6 Stellen nach dem Komma, werden Informationseinheiten benötigt. Das bedeutet, dass 22 Bits für die Darstellung in binärer Schreibweise erforderlich sind = 2 21 < = (3.1) x = (x Bound Left ) 2Bitlen 1 Range (3.2) x = Bound Left + x Range 2 Bitlen 1 (3.3) Die Bezeichnungen entsprechen den folgenden Zuweisungen: x ist der Fließkommazahlenwert, der möglichst ohne Informationsverlust in die binäre Darstellung übertragen werden soll. x ist der ganzzahlige Zahlenwert, welcher die Fließkommazahl repräsentiert. Bound Left ist der niedrigste Wert des Zahlenbereichs, für den Zahlenbereich [ ] entspricht dies 1. Bitlen ist die Anzahl an benötigten Bitstellen, dies entspricht in diesem Fall 22. Range ist die Länge des Zahlenbereiches, für [ ] entspricht dies 3. Die Darstellung der Zahl (Z) entspricht nach der Berechnung mit Gleichung 3.2 einem x von Bei der Rückwandlung mit der Gleichung 3.3 kann der Wert Z ohne Verlust reproduziert werden. 10

11 3 Projektziel Methoden der Modellvalidierung Zur Modellvalidierung werden die Standardfunktionen aus Anhang D herangezogen. Für diese Funktionen existieren bekannte Ergebnisse, die das Optimium der jeweiligen Funktion beschreiben. Im Abschnitt 3.3 wird auf die Ergebnisse eingegangen und aufgezeigt inwieweit das implementierte Optimierungsmodell die Optimierungsaufgabe löst Parametrisierung des Simulationsmodells Die Messreihen wurden folgendermassen parametrisiert: Anwachsende Population beim GA, je Durchlauf wird die Population zwischen [ ] um den Wert 50 erhöht. Jeder dieser Durchläufe wird 10 mal wiederholt und die Ergebnisse gemittelt. Die Selektionswahrscheinlichkeit sollte nicht zu hoch (Gefahr des Hängenbleibens in lokalen Optima) noch zu gering (langsame Konvergenz) gewählt werden (vgl. [Riedel, S. 63ff]). In der Umsetzung dieser Arbeit wird die Selektionswahrscheinlichkeit dem Zufall überlassen. Es wird in der Funktion des Kanonischen Genetischen Algorithmus (vgl. Listing E.1) eine Zufallszahl im Bereich von 0 1 erzeugt und verwertet. Mutationswahrscheinlchkeit: 5% - Diese Wahrscheinlichkeit soll gering gehalten werden und sie sollte auf jeden Fall unter 10% liegen (vgl. [SCHO94]). Als Crossover-Operator wird der Two-Point-Crossover verwendet, weitere 1 Crossover-Operatoren sind implementiert und können für weitere Untersuchungen verwendet werden. Die Crossover-Wahrscheinlichkeit ist durch die Selektionswahrscheinlichkeit der vorherigen Iteration bestimmt. Beim Simulated Annealing werden folgende Parameter gewählt: svec 0 wird auf die jeweiligen Grenzwerte aus Anhang D gesetzt, T = 10 (Temperatur ab der der Algorithmus mit der Abkühlung starten soll), a = (nach [GKK, S. 27] sollte a zwischen liegen, es wird die Mitte zwischen diesen Grenzen gewählt), abort = 1000 (Abbruchkriterium, nach 1000 Durchläufen wird eine Testreihe beendet). 3.3 Ergebnisse der Kodierungen vom Kanonischen Genetischen Algorithmus Die Ergebnisse in diesem Abschnitt beziehen sich auf die Messwerte aus Anhang B Zeitverlauf der Kodierungen von den Testfunktionen Das Zeitverhalten beim Durchlaufen der Iterationen, ähnelt für die Testfunktionen F1-4 in Anhang D, dem des Diagramms 3.1. Diagramm 3.2 zeigt hingegen ein deutlich abweichendes Verhalten. Aus der Definition der Formel F5 aus Anhang D wird ersichtlich, dass die Funktion aufwendiger zu berechnen ist, da dort eine For-Schleife (siehe Listing E.2) verwendet wird und der mathematische Ausdruck komplexer ist. Die aufsummierte Durchlaufzeit für alle Kodierungen beträgt in Diagramm Sekunden und in Diagramm Sekunden, dies entspricht einem Unterschied von 526 Sekunden ( 9 Minuten). Dieser zeitliche Unterschied, steht in keiner Relation zum ermittelten Ergebnis. Das bekannte Minimum der Shekel s Fuchsbauten Funktion ist min(f 5 ) = f 5 (0, 0) = 0, Der beste Wert bei allen gemittelten Durchläufen beträgt 0, und ist mehrere Zehnerpotenzen vom wirklichen Minima entfernt. Der beste Wert, der aus allen Iterationen ermittelt wurde, ist 2, Daraus lässt sich 1 One-Point-Crossover, Inversion Crossover, Parameter Uniform Crossover 11

12 3 Projektziel Abbildung 3.1: Zeitverhalten der Spähre Funktion Abbildung 3.2: Zeitverhalten der Shekel s Fuchsbauten schließen, dass die Shekel s Fuchsbauten Funktion nicht mit den hier implementierten Funktionen optimiert werden kann. Daher wird diese Funktion in nachfolgenden GA Untersuchungen nicht weiter thematisiert. Die Diagramme zeigen weiterhin, dass der Algorithmus mit Fließkommazahlen am schnellsten ist. Für die Verwendung mit Fließkommazahlen muss keine Umrechnung in die Binär- oder Gray-Code Darstellung vorgenommen werden. Dies erspart ein zeitaufwendiges hin- und zurückrechnen zwischen den Zahlensystemen der Basis 10 und 2. Diese Umrechnung nimmt im Durchschnitt eine Sekunde in Anspruch. 12

13 3 Projektziel Konvergenz der Testfunktionen Die Diagramme 3.3 bis 3.6 verdeutlichen das Konvergenzverhalten der implementieren Kodierungen und des Genetischen Algorithmus im allgemeinen. Die rechts neben den Diagrammen abgebildete Legende beschreibt die Verläufe im Diagramm. Die Verläufe mit dem Namen Zeit gehören jeweils zu dem Verlauf der eine Zeile darüber beschrieben wird. Es ist zu erkennen, dass sich der Rechenaufwand bei einer Startpopulation ab in den ersten drei Diagrammen (3.3, 3.4 und 3.5) nicht mehr rechtfertigen lässt. Der Verlauf strebt ab dieser Startpopulation nur noch langsam gegen das optimale Minimum. Dies ist weiterhin eine Untermauerung von Nieländer (vgl. [NIEL96, S. 57ff]). In seiner Arbeit hat er ermittelt, dass bei einer Startpopulation von 200 mit hoher Wahrscheinlichkeit am schnellsten ein Optimum gefunden wird. Abbildung 3.3: Konvergenzverhalten der Spähre Funktion Abbildung 3.4: Konvergenzverhalten des Rosenbrock s Sattel 13

14 3 Projektziel Abbildung 3.5: Konvergenzverhalten der Schwefel s Funktion Der Verlauf in Diagramm 3.6 zeigt auf, dass die Rastrigin Funktion eine langsam konvergierende Funktion ist. Der optimale Minimalpunkt liegt bei f min (0, 0) und wird selbst beim besten Wert der Gray-Code Kodierung Implementierung bei einer Startpopulation von 1000, mit einer Differenz von 1, 2 nicht erreicht. Bei der Startpopulation von 550 hat der Verlauf mit der Binär-Code Kodierung einen Ausreißer und liefert das beste Ergebnis (min(f 4 ) = 1, 226) der gesamten Testreihe. Abbildung 3.6: Konvergenzverhalten der Rastrigin Funktion In Diagramm 3.3 konvergiert die Spähren Funktion mit einer Startpopulation von 200 schnell, ab dann annähernd linear und langsam gegen das globale Minima. Das Konvergenzverhalten des Rosenbrock s Sattel (vgl. Diagram 3.4) ist bei der Verwendung der Binär-Code und Fließkommazahlen Kodierung, bis zu einer Startpopulation von 250 schnell konvergierend. Die Ausführung mit der Gray-Code Kodierung ist bis zu einer Startpopulation von 300 schnell konvergierend. Jeweils ab den Werten 250 und 300, ist der Verlauf annährend linear und konvergiert langsam gegen das globale Minima. 14

15 3 Projektziel Die Schwefel s Funktion ist ähnlich den bisher zwei genannten Funktionen. Die Binär-Code Kodierung hat einen Ausreißer bei einer Startpopulation von 150 und hat an dieser Stelle einen besseren Wert, als bei der Iterationsstufe mit einer Anfangspopulation von 200. Bis zur Startpopulation von 250 konvergieren die Ausführungen mit der Binär-Code und Gray-Code Kodierung schneller gegen ein globales Minima, als der Verlauf mit der Fließkommazahlen Kodierung. Spätestens nach der Anfangspopulation von 300 ist der Verlauf der Konvergenz annähernd linear und konvergiert langsamer gegen ein globales Minima. Bei der Rastrigin Funktion ist der Konvergenzverlauf gegen ein globales Minima bei allen Kodierungen langsam und annährend stetig mit wenigen Ausreißern. Die Tabelle 3.3 enthält die besten Minima, bis zu einer Startpopulation von 300 für die jeweiligen Iterationsverläufe. Es zeigt sich, dass sich die Minima meist schon vor der Startpopulation von 300 finden lassen. Wie oben in den Diagrammen zu sehen ist, gibt es bessere Werte für das globale Minima, allerdings steht dies nicht im Kosten- Nutzen-Verhältnis. Die Rastrigin und Shekel s Fuchsbauten Funktionen sind aussen vor, da sich dort die globalen Minima nicht im Bereich der bekannten Minima befinden. Die bekannten Minima sind im Anhang D nachzulesen. Spähren Funktion Rosenbrock s Sattel Schwefel Funktion Rastrigin Funktion Shekel s Fuchsbauten Popsize Wert Popsize Wert Popsize Wert Popsize Wert Popsize Wert Binär-Code 300 0, , , , , Gray-Code 250 0, , , , , Fließkommazahl 250 0, , , , , Tabelle 3.3: Beste Minima bei Startpopulationen bis

16 3 Projektziel Durchschnittswerte der Iterationsschritte Die Diagramme 3.7 bis 3.10 zeigen den Verlauf der benötigten Iterationen, bis die beste Fitness in jedem Durchlauf aufgekommen ist. Der Verlauf der Diagramme lässt keine Annahme eines Trends erkennen. Das Maximum für alle Iterationswerte ist 39 (Gray-Code Kodierung der Shekel s Fuchsbauten) und der kleinste Iterationswert liegt bei 6 für die Binär-Code Kodierung bei der Rastrigin Funktion. Abbildung 3.7: Durchschnittliche Iterationswerte der Spähre Funktion Abbildung 3.8: Durchschnittliche Iterationswerte des Rosenbrock s Sattel Das Diagramm 3.9 hat mit der Binär-Code Kodierung und der Anfangspopulation von 600 einen starken Ausreißer, der im nächsten Iterationsschritt mit der Population von 650 zurück auf einen von den nachbarnähnlichen Wert zurück fällt. Die Testreihen mit der Gray-Code Kodierung schwanken stark, es sind Änderungswerte zwischen 1 13 erkennbar. Der Durchlauf mit der Fließkommazahl Kodierung benötigt immer weniger als 10 Iterationen und kann als konstant angesehen werden. 16

17 3 Projektziel Abbildung 3.9: Durchschnittliche Iterationswerte der Schwefel s Funktion Abbildung 3.10: Durchschnittliche Iterationswerte der Rastrigin Funktion Der Verlauf der Rastrigin Funktion in Diagramm 3.10, zeigt für die Binär-Code und Gray-Code Kodierung einen fast gleichbleibenden Wert für die Iterationsanzahl. Stark schwankend hingegen ist der Durchlauf mit der Fließkomma Kodierung. Eine Erklärung für den fast gleichbleibenden Wert, der ersten beiden Kodierungen kann sein, dass die Funktion langsam gegen das globale Minima konvergiert und für die Fließkomma Kodierung ein reiner Zufallszahlenwert als Crossover-Operator verwendet wird. 3.4 Ergebnisse des Simulated Annealing Algorithmus Die Ergebnisse in diesem Abschnitt beziehen sich auf die Messwerte aus Anhang C. 17

18 3 Projektziel Zeitverlauf des Simulated Annealing Algorithmus von den Testfunktionen Abbildung 3.11: Zeitverhalten des Simulated Annealing für die Testfunktionen, Shekel s Funktion auf der rechten y-achse, alle anderen auf der linken y-achse Im Diagramm 3.11 ist zu sehen, dass die Shekel s Fuchsbauten Funktion mit durchschnittlich 1, 273 Sekunden am langsamsten ist, die Rastrigin Funktion benötigt durchschnittlich 0, 444 Sekunden. Die weiteren drei Funktionen verhalten sich ähnlich, mit im Durchschnitt 0, 407 Sekunden 2. Die lange Laufzeit der Shekel s Fuchsbauten Funktion kann, mit den Ergebnissen aus Abschnitt damit begründet werden, dass die Implementierung mit einer aufwendigen Berechnung und Aufaddierung über 25 Werte, im Zusammenhang mit einer Matrix zu einer höheren Rechenzeit führt (s. Listing E.2). Folgende Bestwerte wurden für die jeweiligen Testreihen ermittelt: Funktion best fx Iteration Sphäre Funktion 0, Rosenbrock s Sattel 0, Schwefel Funktion 0, Rastrigin Funktion 7, Shekel s Fuchsbauten 0, Tabelle 3.4: Die besten Annäherungswerte an das globale Minima beim Simulated Annealing Algorithmus Die Minimawerte der jeweiligen Funktionen liegt bei Null und bei den Fuchsbauten beim Punkt min(f) = 0, x. Dies ergibt bei der Verwendung des Simulated Annealing eine absolute Abweichung von mindestens 0, , wenn der kleinste Wert 0, aus der Spalte best fx, mit dem Minima der Fuchsbauten in Relation gesetzt wird. Dies ist eine relative Abweichung um mindestens 0, 00716%. Die Berechnung der Abweichung wurde mit den Funktionen aus Anhang A berechnet Konvergenz der Testfunktionen Das Konvergenzverhalten der Testfunktionen ist nicht eindeutig. Es ist kein Trend, bis bei der Sphäre und Schwefel Funktion, bei der Durchführung der Testreihen zu erkennen. Bei der Betrachtung von den Durchschnittswerten, der 2 Mittelung der drei Mittelwerte von den Funktionen Sphäre, Rosenbrock s Sattel und Schwefel. 18

19 3 Projektziel an das globale Minima angenäherten Werten ist zu erkennen, dass sich die Sphäre und Schwefel Funktion ähnlich verhalten, allerdings mit einem durchschnittlichen 0, Die Shekel s Fuchsbauten Funktion verhält sich annähernd gleichbleibend. Den besten Wert liefert die Schwefel Funktion, mit einem Minima von 0, bei der Iteration 9. dagegen steht bei dieser Funktion ein schlechtester Wert f(x, z) = 0, in der Iteration 1 gegenüber. Dieser Wert ist noch sehr gut. Wenn der Rosenbrock Sattel betrachtet wird, fällt auf, dass starke Schwankungen zwischen den Iterationen vorherrschen. Der größte Sprung ist zwischen den Iterationen Hier beträgt der Unterschied ein 0, Die Rastrigin Funktion besitzt einen maximalen Unterschied zwischen den Iterationen 5 6, mit einem Wert von 0, Da das beste Minima allerdings eine absolute Abweichung von 7, 96 hat, kann dieser Wert vernachlässigt werden. Abbildung 3.12: Konvergenzverhalten gegen das globale Minima der fünf Funktionen, Shekel s Fuchsbauten/Schwefel/Spähre Funktion und Rosenbrock s Sattel auf der linken y-achse, Rastrigin Funktion auf der rechten y-achse In den Diagrammen 3.13 und 3.14 ist der Verlauf der besten Minima aus allen Iterationen veranschaulicht. Beim Rosenbrock s Sattel, sowie der Rastrigin Funktion ist kein Trend zu erkennen. Das Verhalten ist sehr sprunghaft. Bei der Shekel s Fuchsbauten Funktion ist das Ergebnis im Verlauf annähernd gleichbleibend, allerdings weit vom bekannten Minima (vgl. Anhang D) entfernt, somit fällt eine nähere Betrachtung (vgl. Abbildung 3.14) weg. Die Schwefel und Spähre Funktion sind annähernd gleichbleibend. Im Diagramm 3.14 sind die y-achsen-skalierungen geändert worden, so dass ein genauerer Blick auf die Werte möglich ist. Die Rosenbrock s Sattel Funktion besitzt bei den Iterationen 3 und 7 größere Sprünge, allerdings sind diese vernachlässigbar klein und bilden auch ein gutes Ergebnis ab. 19

20 3 Projektziel Abbildung 3.13: Ergebnisverlauf der besten Minimawerte für alle Iterationen, Shekel s Fuchsbauten/Schwefel/Spähre Funktion und Rosenbrock s Sattel auf der linken y-achse, Rastrigin Funktion auf der rechten y-achse Abbildung 3.14: Nähere Betrachtung der besten Minimawerte für alle Iterationen, Shekel s Fuchsbauten/Schwefel/Spähre Funktion und Rosenbrock s Sattel auf der linken y-achse, Rastrigin Funktion auf der rechten y-achse 20

21 4 Fazit 4 Fazit Der Abschnitt zeigt, wie die verschiedenen Funktionen gegen ein globales Minima konvergieren. Es ist zu sehen, dass eine Startpopulation von am geeignetsten ist und ein im Vergleich zum Wert mit einer Population von 1000, sehr gute Annäherung an das Minima liefert. Die Untersuchung der Shekel s Fuchsbauten hat gezeigt, dass diese Testfunktion sehr schwierig zu optimieren ist. Der beste Wert für ein globales Minima ist 0, und liegt mehrere Zehnerpotenzen von dem bekannten Minima von 0, entfernt (vgl. Anhang D). Das Zeitverhalten der Binär-Code und Gray-Code Kodierungen sind annähernd gleich zueinander. Die Fließkomma Kodierung ist schneller, was allerdings an der Implementierung der Kodierung liegt, da bei den ersten beiden Kodierungen Umrechnungen zwischen Dezimalzahlen und der entsprechenden Darstellung in Binär- und Gray- Code stattfinden muss. Im Abschnitt 3.4 hat sich gezeigt, dass der Simulated Annealing Algorithmus für die Rastrigin Funktion ein besseres Minima liefert. Bei den weiteren Testfunktionen ist der Simulated Annealing von Vorteil. Diese Aussage kann allerdings nicht verallgemeinert werden, da von einer Grundkonfiguration (vgl. Abschnitt 3.2.4) ausgegangend wird, die durch Literaturrecherche ermittelt wurde und einer Heuristik unterliegt. An dieser Stelle könnten weiteren Arbeiten, zur Ermittlung der geeignetsten Parameter, anschließen. Funktion KGA beste KGA Kodierung SA beste Sphäre Funktion 0, Binär-Code 0, Rosenbrock s Sattel 0, Gray-Code 0, Schwefel Funktion 0, Gray-Code 0, Rastrigin Funktion 3, Gray-Code 7, Shekel s Fuchsbauten -0, Binär-Code 0, Tabelle 4.1: Vergleich der Minimawerte beider Algorithmen und deren Kodierungen Es hat sich zudem gezeigt, dass das Verfahren der Gray-Code Kodierung in 3 von 5 fällen besser geeignet ist. 21

22 Tabellenverzeichnis Tabellenverzeichnis 2.1 Wahrheitstabelle des XOR Glossar Fließkommazahldarstellung nach der IEEE 754 Definition [IEEE1] Beste Minima bei Startpopulationen bis Die besten Annäherungswerte an das globale Minima beim Simulated Annealing Algorithmus Vergleich der Minimawerte beider Algorithmen und deren Kodierungen B.1 Optimierung der Spähren Funktion mit Binär-Code Kodierung B.2 Optimierung der Spähren Funktion mit Gray-Code Kodierung B.3 Optimierung der Spähren Funktion mit Fließkomma Kodierung B.4 Optimierung der Rosenbrock s Funktion mit Binär-Code Kodierung B.5 Optimierung der Rosenbrock s Funktion mit Gray-Code Kodierung B.6 Optimierung der Rosenbrock s Funktion mit Fließkomma Kodierung B.7 Optimierung der Schwefels s Funktion mit Binär-Code Kodierung B.8 Optimierung der Schwefels s Funktion mit Gray-Code Kodierung B.9 Optimierung der Schwefels s Funktion mit Fließkomma Kodierung B.10 Optimierung der Rastrigin Funktion mit Binär-Code Kodierung B.11 Optimierung der Rastrigin Funktion mit Gray-Code Kodierung B.12 Optimierung der Rastrigin Funktion mit Fließkomma Kodierung B.13 Optimierung der Sheckel s Fuchsbauten mit Binär-Code Kodierung B.14 Optimierung der Sheckel s Fuchsbauten mit Gray-Code Kodierung B.15 Optimierung der Sheckel s Fuchsbauten mit Fließkomma Kodierung C.1 Simulated Annealing der Spähren Funktion C.2 Simulated Annealing der Rosenbrock s Sattel C.3 Simulated Annealing der Schwefel Funktion C.4 Simulated Annealing der Rastrigin Funktion C.5 Simulated Annealing der Shekel s Fuchsbauten

23 Abbildungsverzeichnis Abbildungsverzeichnis 2.1 Binärwert in die Gray-Code Kodierung umwandeln Gray-Code in die Binärwert Kodierung umwandeln Zeitverhalten der Spähre Funktion Zeitverhalten der Shekel s Fuchsbauten Konvergenzverhalten der Spähre Funktion Konvergenzverhalten des Rosenbrock s Sattel Konvergenzverhalten der Schwefel s Funktion Konvergenzverhalten der Rastrigin Funktion Durchschnittliche Iterationswerte der Spähre Funktion Durchschnittliche Iterationswerte des Rosenbrock s Sattel Durchschnittliche Iterationswerte der Schwefel s Funktion Durchschnittliche Iterationswerte der Rastrigin Funktion Zeitverhalten des Simulated Annealing für die Testfunktionen, Shekel s Funktion auf der rechten y-achse, alle anderen auf der linken y-achse Konvergenzverhalten gegen das globale Minima der fünf Funktionen, Shekel s Fuchsbauten/Schwefel/Spähre Funktion und Rosenbrock s Sattel auf der linken y-achse, Rastrigin Funktion auf der rechten y-achse Ergebnisverlauf der besten Minimawerte für alle Iterationen, Shekel s Fuchsbauten/Schwefel/Spähre Funktion und Rosenbrock s Sattel auf der linken y-achse, Rastrigin Funktion auf der rechten y-achse Nähere Betrachtung der besten Minimawerte für alle Iterationen, Shekel s Fuchsbauten/Schwefel/Spähre Funktion und Rosenbrock s Sattel auf der linken y-achse, Rastrigin Funktion auf der rechten y-achse D.1 Spähren Funktion, Quelle: [Riedel] D.2 Rosenbrock s Sattel, Quelle: [Riedel] D.3 Schwefel Funktion, Quelle: [Riedel] D.4 Shekel s Fuchsbauten, Quelle: [Riedel] D.5 Rastrigin Funktion, Quelle: [Riedel]

24 Literaturverzeichnis Literaturverzeichnis [GKK] Gerdes, Klawonn, Kruse: Evolutionäre Algorithmen - Genetische Algorithmen - Strategien und Optimierungsverfahren - Beispielanwendungen, 1. Aufl., Vieweg & Sohn Verlage, Wiesbaden, 2004, ISBN: [Ibe] Ronny Ibe: Testumgebung zur Beurteilung der Leistungsfähigkeit evolutionärer Algorithmen, GRIN Verlag, 2007, ISBN: [IEEE1] IEEE Xplore, [Mic] Zbigniew Michalewicz: Genetic Algorithms + Data Structures = Evolution Programs, 2. Auflage, Springer-Verlag, Berlin Heidelberg New York,, 1996, ISBN: [MOR99] Ralf Moros: Genetische Algorithmen - Grundlagen, Universität Leibzig, Institut f. Technische Chemie, Aufruf am 17. Dezember 2009 [NIEL96] Nieländer, U.: Zur optimalen Konfigurierung und Steuerung diskreter Systeme, insbesondere Fertigungssysteme, mittels Evolutionärer Algorithmen. Technische Universität Chemnitz- Zwickau: Diplomarbeit, 1996 [Riedel] Marion Riedel: Parallele Genetische Algorithmen mit Anwendungen, Technische Universität Chemnitz, Diplomarbeit, Oktober 2002 [SCHO94] Schöneburg, E. / Heinzmann, F. / Feddersen, F.: Genetische Algorithmen und Evolutionsstrategien: Eine Einführung in Theorie und Praxis der simulierten Evolution. Bonn: Addison- Wesley,

25 A Anhang - Funktionen für die Berechnung von Abweichungen A Anhang - Funktionen für die Berechnung von Abweichungen A.1 Absolute Abweichung F = x a x r (A.1) Das Ergebnis hat einen Betrag, ein Vorzeichen und eine Einheit. Die Einheit entspricht der der Messeinheit. x a und x r entsprechen Messwerten, das Vorzeichen sowie das Ergebnis A.2 Relative Abweichung Das Ergebnis ist ohne Einheit und kann positiv oder negativ sein. f = F x r = x a x r x r 100% (x r 0) (A.2) 25

26 B Anhang - Messwerte Kanonische Genetische Algorithmus B Anhang - Messwerte Kanonische Genetische Algorithmus Die nachfolgenden Messergebnisse wurden mit folgenden Randbedingungen erstellt: Für jeden Durchlauf (eine Zeile) wurde Optimierung 10 mal durchgeführt und teilweise (s.u.) ein durchschnittlicher Wert ermittelt. Bei jedem weiteren Durchlauf wurde die Anfangspopulation um 50 erhöht. Die Selektionswahrscheinlichkeit wurde mit 33% angenommen und die Mutationswahrscheinlichkeit auf 5% gesetzt. Die Messwerte wurden mit der Funktion aus Anhang E erstellt. Die Messwerttabellen enthalten 11 Spalten, die folgende Bedeutungen haben: Spalte 1 Populationgröße zu Beginn beim jeweiligen Durchlauf. Spalte 2 y ist der mit 10 gemittelte Wert für das Optimum der jeweiligen Funktion. Spalte 3 Enthält den y-wert mit der höchsten Fitness. Spalte 4 Enthält den y-wert mit der niedrigsten Fitness. Spalte 5 Die gemittelte Fitness aller 10 Iterationen. Spalte 6 Höchste Fitness bei den Iterationen. Spalte 7 Niedrigste Fitness bei den Iterationen. Spalte 8 Durchschnittliche Iteration bis das beste Ergebnis erzielt wurde. Spalte 9 Niedrigster Iterationswert bei 10 Durchläufen bis das beste Ergebnis erzielt wurde. Spalte 10 Höchster Iterationswert bei 10 Durchläufen bis das beste Ergebnis erzielt wurde. Spalte 11 Die Zeit (Sekunden) die für 10 Iterationen benötigt wurde. Die Messungen wurden durch folgende Funktionsaufrufe durchgeführt: 1 [avgs_binary] = Messung2(@test_Rosenbrock3d, , 2.048, 0, 0.05, 50, 1); 2 [avgs_graycode] = Messung2(@test_Rosenbrock3d, , 2.048, 0, 0.05, 50, 2); 3 [avgs_floating] = Messung2(@test_Rosenbrock3d, , 2.048, 0, 0.05, 50, 3); 4 5 [avgs_binary] = Messung2(@test_ElliptischeParabolid, -5.12, 5.12, 0, 0.05, 50, 1); 6 [avgs_graycode] = Messung2(@test_ElliptischeParabolid, -5.12, 5.12, 0, 0.05, 50, 2); 7 [avgs_floating] = Messung2(@test_ElliptischeParabolid, -5.12, 5.12, 0, 0.05, 50, 3); 8 9 [avgs_binary] = Messung2(@test_Schwefel3d, , , 0, 0.05, 50, 1); 10 [avgs_graycode] = Messung2(@test_Schwefel3d, , , 0, 0.05, 50, 2); 11 [avgs_floating] = Messung2(@test_Schwefel3d, , , 0, 0.05, 50, 3); [avgs_binary] = Messung2(@test_Rastrigin3d, -5.12, 5.12, 0, 0.05, 50, 1); 14 [avgs_graycode] = Messung2(@test_Rastrigin3d, -5.12, 5.12, 0, 0.05, 50, 2); 15 [avgs_floating] = Messung2(@test_Rastrigin3d, -5.12, 5.12, 0, 0.05, 50, 3); [avgs_binary] = Messung2(@test_Fuschbauten3d, , , 0, 0.05, 50, 1); 18 [avgs_graycode] = Messung2(@test_Fuschbauten3d, , , 0, 0.05, 50, 2); 19 [avgs_floating] = Messung2(@test_Fuschbauten3d, , , 0, 0.05, 50, 3); Listing B.1: Funktionsaufrufe in Matlab für die Messungen der GA Kodierungen 26

27 B Anhang - Messwerte Kanonische Genetische Algorithmus Pop y -best -bad F -best -bad n -best -bad Time 50 0, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,981 Tabelle B.1: Optimierung der Spähren Funktion mit Binär-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50 1, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,049 Tabelle B.2: Optimierung der Spähren Funktion mit Gray-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50 1, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,021 Tabelle B.3: Optimierung der Spähren Funktion mit Fließkomma Kodierung 27

28 B Anhang - Messwerte Kanonische Genetische Algorithmus Pop y -best -bad F -best -bad n -best -bad Time 50 0, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,857 Tabelle B.4: Optimierung der Rosenbrock s Funktion mit Binär-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50 2, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,968 Tabelle B.5: Optimierung der Rosenbrock s Funktion mit Gray-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50 1, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,018 Tabelle B.6: Optimierung der Rosenbrock s Funktion mit Fließkomma Kodierung 28

29 B Anhang - Messwerte Kanonische Genetische Algorithmus Pop y -best -bad F -best -bad n -best -bad Time 50 1, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,885 Tabelle B.7: Optimierung der Schwefels s Funktion mit Binär-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50 1, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,332 Tabelle B.8: Optimierung der Schwefels s Funktion mit Gray-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50 1, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,014 Tabelle B.9: Optimierung der Schwefels s Funktion mit Fließkomma Kodierung 29

30 B Anhang - Messwerte Kanonische Genetische Algorithmus Pop y -best -bad F -best -bad n -best -bad Time 50 9, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,225 Tabelle B.10: Optimierung der Rastrigin Funktion mit Binär-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50 8, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,115 Tabelle B.11: Optimierung der Rastrigin Funktion mit Gray-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50 8, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,289 Tabelle B.12: Optimierung der Rastrigin Funktion mit Fließkomma Kodierung 30

31 B Anhang - Messwerte Kanonische Genetische Algorithmus Pop y -best -bad F -best -bad n -best -bad Time 50-0, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,266 Tabelle B.13: Optimierung der Sheckel s Fuchsbauten mit Binär-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50-2, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,451 Tabelle B.14: Optimierung der Sheckel s Fuchsbauten mit Gray-Code Kodierung Pop y -best -bad F -best -bad n -best -bad Time 50-0, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,847 Tabelle B.15: Optimierung der Sheckel s Fuchsbauten mit Fließkomma Kodierung 31

32 C Anhang - Messwerte Simulated Annealing Algorithmus C Anhang - Messwerte Simulated Annealing Algorithmus Die nachfolgenden Testreihen wurden mit den Parametern aus Abschnitt erstellt. Jede Reihe ist dabei ein Testdurchlauf. Die Spalten haben folgende Bedeutungen: Spalte 1 x 1 ist der Wert der x-achse bei der dreidimensionalen Darstellung der Testfunktion. Dieser Wert ist mit einer Genauigkeit von sechs Stellen nach dem Komma angegeben. Spalte 2 x 2 ist der Wert der z-achse bei der dreidimensionalen Darstellung der Testfunktion. Dieser Wert ist mit einer Genauigkeit von sechs Stellen nach dem Komma angegeben. Spalte 3 fx ist das Rechenergebnis der Testfunktion mit den Parametern x 1 und x 2. Dieser Wert ist mit einer Genauigkeit von sechs Stellen nach dem Komma angegeben. Spalte 4 t/sec ist die Zeit in Sekunden die für die Durchführung von 10 Messungen benötigt wurden. Spalte 5 fx ist der beste Wert, der bei den 10 Durchführung der Messung berechnet wurde. Spalte 6 Diese Spalte beinhaltet die Nummer der Iteration, bei der das beste Ergebnis aus Spalte 5 berechnet wurde. Die Messungen wurden durch folgende Funktionsaufrufe durchgeführt: 1 [avg_ep] = [2; 2], 10, 0.895, 1000, 0); 2 [avg_rosenbrock] = [2; 2], 10, 0.895, 1000, 0); 3 [avg_schwefel] = [2; 2], 10, 0.895, 1000, 0); 4 [avg_rastrigin] = [2; 2], 10, 0.895, 1000, 0); 5 [avg_fuchsbauten] = [2; 2], 10, 0.895, 1000, 0); Listing C.1: Funktionsaufrufe in Matlab für die Messungen des Simulated Annealing Algorithmus x1 x2 fx t/sec fx best best Iteration 0, , , ,449 0, , , , ,406 0, , , , ,404 0, , , , ,405 0, , , , ,404 0, , , , ,405 0, , , , ,408 0, , , , ,406 0, , , , ,403 0, , , , ,401 0, Tabelle C.1: Simulated Annealing der Spähren Funktion x1 x2 fx t/sec fx best best Iteration 1, , , ,442 0, , , , ,402 0, , , , ,402 0, , , , ,407 0, , , , ,411 0, , , , ,405 0, , , , ,401 0, , , , ,403 0, , , , ,401 0, , , , ,402 0, Tabelle C.2: Simulated Annealing der Rosenbrock s Sattel 32

33 C Anhang - Messwerte Simulated Annealing Algorithmus x1 x2 fx t/sec fx best best Iteration -0, , , ,444 0, , , , ,402 0, , , , ,402 0, , , , ,404 0, , , , ,401 0, , , , ,401 0, , , , ,401 0, , , , ,403 0, , , , ,401 0, , , , ,402 0, Tabelle C.3: Simulated Annealing der Schwefel Funktion x1 x2 fx t/sec fx best best Iteration 1, , , ,481 7, , , , ,442 7, , , , ,442 7, , , , ,439 7, , , , ,440 7, , , , ,440 7, , , , ,439 7, , , , ,439 7, , , , ,439 7, , , , ,442 7, Tabelle C.4: Simulated Annealing der Rastrigin Funktion x1 x2 fx t/sec fx best best Iteration 86, , , ,305 0, , , , ,272 0, , , , ,274 0, , , , ,277 0, , , , ,266 0, , , , ,266 0, , , , ,269 0, , , , ,267 0, , , , ,269 0, , , , ,267 0, Tabelle C.5: Simulated Annealing der Shekel s Fuchsbauten 33

34 D Anhang - Standardfunktionen D Anhang - Standardfunktionen F1 Spähren Funktion (s. Abb. D.1: 2 f 1 ( x) = x 2 i ( i 1, 2 : 5.12 < x i < 5.12) (D.1) i=1 min 2 (f 1 ) = f 1 (0, 0) = 0, f 1 R 2 (D.2) F2 Rosenbrock s Sattel (s. Abb. D.2): f 2 ( x) = 100 (x 2 1 x 2 ) 2 + (1 x 1 ) 2 ( i 1, 2 R : < x i < 2.048) (D.3) min(f 2 ) = f 2 (1, 1) = 0, f 2 R 2 (D.4) F3 Schwefel Funktion (s. Abb. D.3): ( 2 ) 2 f 3 ( x) = x i ( i 1, 2 R : < x i < ) (D.5) i=1 min(f 3 ) = f 3 (0, 0) = 0, f 3 R 2 (D.6) F4 Rastrigin Funktion (s. Abb. D.5): n f 4 ( x) = 10 n + (x 2 i 10cos(2πx i )) ( x i 5.12 x i 5.12) (D.7) i=1 min(f 4 ) = f 4 (0, 0) = 0, f 4 R 2 (D.8) F5 Sheckel s Fuchsbauten (s. Abb. D.4): 25 1 f 5 ( x) = (D.9) j=1 j + 2 (x i a ij ) 6 i=1 ( j , i 1, 2; x i ) min(f 5 ) = f 5 (0, 0) = , f 5 R 2 (D.10) (D.11) 34

35 D Anhang - Standardfunktionen Abbildung D.1: Spähren Funktion, Quelle: [Riedel] Abbildung D.2: Rosenbrock s Sattel, Quelle: [Riedel] 35

36 D Anhang - Standardfunktionen Abbildung D.3: Schwefel Funktion, Quelle: [Riedel] Abbildung D.4: Shekel s Fuchsbauten, Quelle: [Riedel] 36

37 D Anhang - Standardfunktionen Abbildung D.5: Rastrigin Funktion, Quelle: [Riedel] 37