Vergleich von stochastischen Optimierungsstrategien mit Hilfe der Monte-Carlo-Simulation

Transkript

1 UNIVERSITÄT SIEGEN FACHBEREICH - MASCHINENTECHNIK INSTITUT FÜR SYSTEMTECHNIK Lehstuhl fü Simulationstechnik und Infomatik im Maschinenbau Pof. D. Wolfgang Wiechet STUDIENARBEIT ST Vegleich von stochastischen Optimieungsstategien mit Hilfe de Monte-Calo-Simulation BERNHARD ALT JULI 3

2 Inhaltsvezeichnis SYMBOLE UND ABKÜRZUNGEN 3. EINLEITUNG 4. MODELLBILDUNG 8. CHARAKTERISTIK DES WACHSTUMS VON MIKROORGANISMEN 8. GAUß-ANSATZ 9.3 RAUSCHEN.4 TESTFUNKTIONEN.4. Zielfunktionsfom A.4. Zielfunktionsfom B Zielfunktionsfom C 4 3. OPTIMIERUNGSALGORITHMEN 6 3. KLASSIFIKATION VON OPTIMIERUNGSALGORITHMEN 6 3. DAS POPULATIONSKONZEPT Das allgemein Populationskonzept Das Populationskonzept Evolutionäe Algoithmen ERSCHÖPFENDE ZUFALLSSUCHE (EZ) 3.4 GENETISCHE ALGORITHMEN (GA) 3.4. Genetische Algoithmus mit binäe Repäsentation eelle Vaiablen Selektion Rekombination 4 Mutation (Bit-Mutation) 5 Konsevation (Geneationgap) Genetische Algoithmus mit eelle Repäsentation eelle Vaiablen 5 Mutation (Vaiablen-Mutation) EVOLUTIONSSTRATEGIE (ES) Gund-Opeatoen 7 Selektion 7 Rekombination 7 Mutation Wichtung und kumulative Schittweitenadaptation 9 Wichtung bei de Rekombination 9 Kumulative Schittweitenadaptation (KSA) GENETISCHE STRATEGIE (GS) GRADIENTENVERFAHREN (GV) Gadientenemittlung übe die Zuhilfenahme eine Regessionshypeebene Schittweitenadaptation EINFÜHRUNG IN DIE SIMULATIONS-EXPERIMENTE VERHALTENSWEISEN DER ALGORITHMEN GA, ES UND GV Genetische Algoithmus Evolutionsstategie Gadientenvefahen 4 4. ART DER AUSWERTUNGEN (TESTSTATISTIK) 4 5. VERFAHRENSPARAMETER UND DEREN VARIATION ERSCHÖPFENDE ZUFALLSSUCHE GENETISCHER ALGORITHMUS GENETISCHE STRATEGIE 48

3 5.4 EVOLUTIONSSTRATEGIE GRADIENTENVERFAHREN 5 6. VERFAHRENSVERGLEICH AUSREICHENDE ANZAHL VON ZIELFUNKTIONSAUSWERTUNGEN Gundeinstellungen Vaiationsstudie B Vaiationsstudie B Vaiationsstudie B Vaiationsstudie B Vaiationsstudie C Vaiationsstudie C Vaiationsstudie C Vaiationsstudie C Resultate STARK REDUZIERTE ANZAHL VON ZIELFUNKTIONSAUSWERTUNGEN Kuz-Vaiationsstudien Resultate Kuz-Gundeinstellungen Vaiationsstudie kb Vaiationsstudie kb Vaiationsstudie kc Vaiationsstudie kc Vaiationsstudie kc AKTUELLE VERFAHRENSVERGLEICHE IN DER LITERATUR Vefahensvegleich Vefahensvegleich 7. DISKUSSION UND AUSBLICK 3 ANHANG 3 ZIELFUNKTIONS-FORM A 5 ZIELFUNKTIONS-FORM B 6 ZIELFUNKTIONS-FORM C 8 LITERATURVERZEICHNIS 5

4 Symbole und Abküzungen Abb. c j CMA δ DNA EGS ES EZ GA GB GS GV h j HJ IF KSA KSA-ES γ λ µ µ SP (µ/ρ E,λ)-ES MDS n Ν R R + ρ E ρ N σ Θ Σ j x Abbildung Zentum (Optimum) de i-ten Teil-Zielfunktion. Kovaianzmatix-Adaptation Schittweite Es gilt: δ R + \{} Desoxyibonukleinsäue Evolutionay Gadient Seach von Salomon [Sal98]. Evolutionsstategie Eschöpfende Zufallssuche Genetische Algoithmus Genetische Algoithmus mit binäe Repäsentation eelle Vaiablen Genetische Stategie Gadientenvefahen Zielfunktionswet im Optimum de i-ten Teil-Zielfunktion. Diect Patten Seach von Hooke und Jeeves [Hoo6] mit eine Vebesseung von Bell und Pike [Bell66]. Implicit Filteing von Gilmoe und Kelley [Gil95]. kumulative Schittweitenadaptation Evolutionsstategie mit kumulative Schittweitenadaptation. Zahl de ausgeweteten Populationen (Geneationenzahl) Zahl de neuen Individuen. Eltenzahl, bzw. die Zahl de selektieten Individuen (nach Vaiations-Selektion). Zahl de übeduchschnittlichen Individuen, die am Ende bzw. am Anfang eine Optimieung fü die Schwepunktbildung vewendet weden. ES bei de aus µ selektieten Individuen de Eltengeneation ρ E diekte Elten λ Nachkommen ezeugen. Die Elten weden, bei einem Komma in de Klamme, nach de Vaiation von Individuen vewofen. Es findet also keine Konsevation von Individuen statt. Multi-Diectional Seach von Toczon [Toc89] mit eine Vebesseung von Andeson und Feis [An]. Dieses Vefahen basiet auf de Simplex Methode von Nelde und Mead [Nel65] Dimension des Suchaumes. Menge de Natülichen Zahlen Menge de eellen Zahlen Teilmenge de positiven Zahlen aus R Anzahl de diekten Elten eines Nachkommen. Es gilt: Ν \{} Zahl de diekten Nachkommen eines Eltes. Es gilt: Ν \{} Standadabweichung elativ in Pozent und Absolut als eelle Zahl Gesamtpopulation Die symmetische n x n-matix j-ten Teil-Zielfunktion Suchaum-Vaiablenvekto Σ j ρ N ρ E bestimmt die Fom und Ausichtung de 3

5 . Einleitung Viele technische Systeme, z.b. in de Umwelt- und Vefahenstechnik, de Fetigung ode de Witschaft unteliegen staken stochastischen Schwankungen, so dass eine mathematische Bescheibung nu stochastisch möglich ist. Will man solch ein technisches System vebessen, kann vesucht weden, es in einem ealen ode simulieten Expeiment duch sukzessive Modifikation zu optimieen. Dabei kommt es vo allem daauf an, dass die Zahl de hiefü benötigten Optimieungsschitte möglichst klein gehalten wid, denn das einzelne Expeiment kann seh viel Zeit und Geld kosten. Eine komfotable Situation liegt dann vo, wenn viele veschiedene Pototypen gleichzeitig getestet weden können. Dies ist z.b. bei de Simulation auf einem Rechnenetzwek ode de expeimentellen Nähmedienoptimieung fü einen biotechnologischen Poduktionspozess de Fall. Zu stochastischen Optimieung haben sich hie sogenannte Genetische Algoithmen als geeignet ewiesen, die analog zu Biologie mit einem Populationskonzept abeiten, d.h. in jeden Optimieungsschitt gleichzeitig eine Population von Einzelexpeimenten einbeziehen. Alledings ist bishe (innehalb de Nähmedienoptimieung) kaum untesucht woden, ob andee stochastische Optimieungsstategien den Aufwand weite veingen können. Hie setzt diese Abeit an. Mit Hilfe de Monte-Calo-Simulation soll ein este Vegleich unte eine Auswahl bekannte Optimieungsstategien vogenommen weden, die sich fü die paallele stochastische Optimieung eignen, bzw. im Falle des Gadienten- Vefahens daauf angepasst wuden. Fü einen Vegleich von Optimieungsstategien ist es wichtig zu wissen, welche At von System mit ihnen vebesset weden soll, denn die Tauglichkeit de Vefahen ist stak Poblem abhängig. Als Beispielpoblem aus de Paxis wude hie eines heangezogen, das sich bei de Kultu von Mikooganismen stellt. Abb. -. Beispielpoblem Nähmedienoptimieung: Paamete und analytische Aufwand [Fey96]. Das Poblem (siehe auch Abb.-) besteht dain, fü das Wachstum bestimmte Mikooganismen jeweils günstige Nähmedien zusammen zu stellen günstig beispielsweise im Sinne schnellen Wachstums, de Poduktbildung, de Selektivität bestimmte Podukte ode de Vemeidung unewünschte Nebenpodukte. Genau so gut kann günstig abe auch heißen, in einem biotechnologischen Poduktionspozeß wenig laufende Kosten zu haben, was z.b. neben dem pimäen Optimieungsziel zu einem Minimieungsziel bezüglich de Spuenelement-Konzentationen fühen kann. Hie gelangt man schnell an einen Punkt, an dem eine ganze Reihe von sich eventuell widespechenden Zielen gleichzeitig angestebt wid. Unte de Monte-Calo-Simulation vesteht man das Nachspielen (Simulieen) eines stochastischen Vogangs mit Zufallszahlen. 4

6 Dies ist dann ehe ein Bewetungspoblem de Einzelziele als ein diektes Optimieungspoblem. Um das Modell so einfach und übesichtlich wie möglich zu halten, wid in diese Abeit nu ein Ziel angenommen, wie z.b. das des schnellen Wachstums de Kultuen. Da ein vollständiges Modell des Wachstums von Mikooganismen zum einen (noch) nicht existiet [Weu], zum andeen eine genauee Modellbildung auch einen enomen Aufwand bedeuten wüde [Wie], ist eine Gesamtoptimieung definiete Nähmedienzusammensetzungen nu am Expeiment möglich. Dies bedeutet einen hohen Kostenaufwand. Hie lohnt es sich, auch wenn kein genauees Modell existiet, die Optimieungsstategien anhand eines stak veeinfachten Vegleichsmodells zu testen und falls möglich zu vebessen. Entscheidend ist, dass dieses Vegleichsmodell ungefäh die Chaakteistik de Realität wiedegibt. Im folgenden Kapitel wid solch ein einfaches Vegleichsmodell gebildet, und mit dessen Hilfe konkete Testfunktionen fü die späteen Algoithmen Vegleiche ezeugt. Abb. -. Schematische Velauf eine Nähmedienoptimieung in Schüttelkolben anhand eines Beispiels: Optimiet wude die Biotockenmassebildung (BTM) von Pseudomonas putida bei Minimieung de Spuenelement-Konzentationen [Fey96]. Bei de Optimieung von Nähmedienkonzentationen fü Batch-Kultuen (Kultuen in Schüttelkolben) liegen bestimmte Voaussetzungen vo (siehe auch Abb.- bzw. -3), die in die Auswahl und Gestaltung de hie vewendeten Optimieungsalgoithmen eingeflossen sind: Es kann eine feststehende Anzahl von Fementationspozessen spich Zielfunktionsauswetungen gleichzeitig duchgefüht weden. Die maximale Anzahl wid dabei von de Laboausstattung ode den Algoithmen nach oben hin begenzt. Die einzelnen Fementationspozesse können unte Umständen mehee Tage dauen. Es ist allein schon aus Günden de Laboplanung wichtig, im vohinein zu wissen, wie lange eine Optimieung dauet. Die Geneationenzahl steht dahe schon zu Beginn eine Optimieung fest. De Vaiationsbeeich von Nähmedienkonzentationen ist beschänkt. (Optimieung unte Nebenbedingungen) Die ausgewählten Optimieungsalgoithmen sind: die eschöpfende Zufallssuche, zwei Genetische Algoithmen, eine Evolutionsstategie, eine Mischfom de beiden letztgenannten und ein auf die stochastische Optimieung angepasstes Gadienten-Vefahen. 5

7 Die Algoithmen weden in Kaptitel 3 vogestellt. In Kapitel 4 efolgt eine anschauliche Demonstation des Genetischen Algoithmus, de Evolutionsstategie und des Gadienten-Vefahens an Hand eine zweidimensionalen Testfunktion, sowie eine Eläuteung de Teststatistik und de At de Auswetung an eben diese. In Kapitel 5 wid auf die Wahl de Algoithmen-Paamete nähe eingegangen und este vefahensintene Vaiationsstudien an eine -dimensionalen Testfunktion vogestellt. In Kapitel 6 weden die Vefahen miteinande veglichen. In den Abschnitten 6. und 6. anhand von acht -dimensionalen Testfunktionen. Die Vegleiche beuhen jeweils auf eine identischen Anzahl an Zielfunktionsauswetungen. Zunächst wid von eine Anzahl ausgegangen, die eine akzeptable Konvegenz de Vefahen in die Optima gewähleistet, alledings nicht zwischen den veschiedenen Schwieigkeitsgaden de Testfunktionen untescheidet. Anschließend weden in Abschnitt 6- nochmals Vegleiche duchgefüht, bei denen vesucht, wid mit eine stak eduzieten Anzahl an Zielfunktionsauswetungen auszukommen. Die Populationsgößen sind jeweils entwede gleich ode ein Vielfaches, die Geneationenzahlen dementspechend gleich ode ein Buchteil voneinande. In Abschnitt 6.3 wid noch auf aktuelle Vefahensvegleiche aus de Liteatu eingegangen. In dem esten de beiden Vegleiche (duchgefüht von Milavec, Podgonik, Štavs, und Koloini [Mila]) wid de Vesuch untenommen, duch Vewendung zusätzliche Abbuchkiteien neben de Maximalen Geneationenzahl die duchschnittliche Anzahl efodeliche Zielfunktionsauswetungen zu senken. Mit dem zweiten Vegleich von Anold [A] kann de Einfluss de Suchaumdimension auf die Effizienz de Vefahen (siehe Abschnitt 6.3), vedeutlicht weden. Im letzten Kapitel weden die Egebnisse schließlich diskutiet und zugleich ein Ausblick gewagt. 6

8 Abb. -3. Expeimentelle Nähmedienoptimieung in Schüttelkolben am Foschungszentum Jülich. 7

9 . Modellbildung Dieses Kapitel bescheibt die Bildung eines stak veeinfachten Vegleichsmodells das ungefäh die Chaakteistik des Wachstums von Mikooganismen in Abhängigkeit von Nähmedienkonzentationen wiedegeben soll. Im Abschnitt. weden die Fodeungen an ein Vegleichsmodell heausgeabeitet. In den nächsten beiden Abschnitten. und.3 weden diese Fodeungen mathematisch umgesetzt. Im letzten Abschnitt dieses Kapitels (Abschnitt.4) weden schließlich konkete Zielfunktionen gebildet, die in den Kapiteln 4, 5 und 6 fü einen Vegleich de Optimieungsalgoithmen heangezogen weden.. Chaakteistik des Wachstums von Mikooganismen Innehalb seine Dissetation füht Feye einige mehdimensionale Nähmedienoptimieungen duch ([Fey96],S.8,ff). Dabei vedeutlicht e den Optimieungsefolg u.a. anhand von deidimensionalen Diagammen (siehe Abb. -.). Dagestellt ist jeweils die Abhängigkeit des Biomassewachstums von jeweils zwei Spuenelement-Konzentationen. Die Dastellungen beuhen auf allen 39 Messweten innehalb eine Optimieung. Hie soll mit den Diagammen die stake Nichtlineaität des Systems und die Koelation von Vaiablen vedeutlicht weden. Die Biomasse-Konzentation ist alledings nicht von allen in de Optimieung vaiieten Spuenelementen in solchem Maß abhängig wie von den fü Abb. -. heangezogenen. Abb. -. Biomasse-Konzentationen aus Batchvesuchen nach jeweils 6,5 h Wachstum von Pseudomonas putida in Abhängigkeit von den Konzentationen jeweils zweie Spuenelemente. Die Auftagung de Elemente efolgt dimensionslos als Übeschussfaktoen gegenübe Refeenzweten. Die Fababstufungen geben die Biomasse-Konzentationen wiede [Fey96] (Die oten und blauen Makieungen beziehen sich auf eine Optimieung und sollen hie nicht weite beachtet weden). Neben de Nichtlineaität des Systems und de Vaiablen-Koelation ist, wie in de Einleitung beeits ewähnt, noch zusätzlich eine Beobachtungsvaianz, d.h. eine Standadabweichung de Messwete vohanden. Bei jegliche At von Expeimenten gilt es mit stochastischen Schwankungen fetig zu weden. Bei Expeimenten zu Nähmedienoptimieung gilt das insbesondee, weil lebende Systeme nicht nu von de Umwelt abhängen, sonden imme auch die Vogeschichte mit hinein spielt. Des weiteen kann auch die messtechnische Efassung an lebenden Zellen Pobleme beeiten. So besteht z.b. die Fage, was zu Biomasse alles dazugehöt und was nicht. Düfen bzw. müssen Mikooganismen vo dem Bestimmen ihe Tockenmasse gewa- 8

10 schen weden? Weuste-Botz gibt fü die messtechnische Efassung von Mikooganismen eine Beobachtungsvaianz um ca. % (bezogen auf die absoluten Messwete) an [Weu99]. Aus dem oben Dagestellten egeben sich folgende Fodeungen an das Modell:. Niedige Dimension (n ).. Beschänkte Suchaum (Skalieung de Vaiablen auf [,]) 3. Modeat viele Optima ( ). 4. Keine goßen Schwankungen im Gadienten (auch keine extem spitzen Optima) 5. Stakes (nomal veteiltes) Rauschen ( σ %). Um Fodeung 4 zu efüllen ist gegebenenfalls eine logaithmische Skala nötig (siehe Abb. -), weil Wachstumspozesse oft nu von de Gößenodnung de Konzentation abhängen Abb. -. Beispiel fü unteschiedliche Skalieung. Oben lineae -, unten logaithmische Skalieung ein und deselben Funktion.. Gauß-Ansatz Die Fom-Chaakteistik de Abhängigkeit des Biomasse-Wachstums von den Spuenelement-Konzentationen wid also bestimmt duch kleine Schwankungen im Gadienten und duch wenige Optima. Um diese Chaakteistik nachzuahmen, wuden fü die Fomgebung eine Zielfunktion jeweils zehn mehdimensionale Gaußglocken (Teilzielfunktionen) aufeinande addiet. Die Isohypeflächen mehdimensionale Gaußglocken haben die Fom von Hypeellipsenschalen. Hypeellipsen lassen sich mathematisch duch symmetische Matizen bescheiben. Eine beliebige symmetische Matix Σ lässt sich übe folgende Matixmultiplikation ezeugen: Σ = Q T D Q Die othogonale n x n-matix Q bestimmt die Richtungen de Hypeellipsen-Hauptachsen. Eine beliebig gedehte Othogonalmatix kann übe die QR-Zelegung eine n x n-matix mit (,)-nomalveteilten Zufallseintägen estellt weden. Die positiven Eintäge de diagonalen n x n-matix D bestimmen die Abweichungen de Hypeellipse von de Kugelfom. D ii = ϕi i=,..,n ϕ i ist hiebei die Länge de i-ten Hypeellipsen-Hauptachse. 9

11 Im Eindimensionalen schumpft die Ellipse zu eine Stecke zusammen. Innehalb de eindimensionalen Gaußfunktion lässt sich diese Stecke als Spannweite dastellen. Ihe einzige Hauptachse ist die Stecke, bzw. die halbe Spannweite ϕ de Gaußfunktion (siehe Abb. -3). Um einen besseen Einduck von den Ausmaßen de Teilzielfunktions-Optima zu bekommen, wude de Wetebeeich de Hauptachsen-Längen ϕ bei 9% Teilzielfunktionshöhe vogegeben (. ϕ ). i Eine zweidimensionale Gaußglocke ist in Abb. -4. zu sehen. i Abb. -3 Eindimensionale Gaußkuve: Die Kuvenfom wid hie übe die halbe Spannweite ϕ bei 9% (Teil-) Zielfunktionshöhe festgelegt. 9% Zielfunktionswet Vaiable Vaiable Abb. -4 Zweidimensionale Gaußglocke. Aus den Isohypeflächen im n-dimensionalen weden im Zweidimensionalen konzentische Ellipsen. Die Glockenfom wid hie übe die Hauptachsenlängen ϕ bei 9% (Teil-) Zielfunktionshöhe festgelegt. Bei de schwazen Skalieungsellipse in i de Mitte sind die beiden Hauptachsen eingezeichnet.

12 Die vollständige Zielfunktions-Fom lautet nun folgendemaßen: f m ln 9 = + h e ( x) j= j T (. ) x c Σ x c j j j m Ν \{} h j Zielfunktionswet im Optimum de i-ten Teil-Zielfunktion. c j Zentum (Optimum) de i-ten Teil-Zielfunktion. x Suchaum-Vaiablenvekto. Σ j Die symmetische n x n-matix Σ j bestimmt die Fom und Ausichtung de j-ten Teil-Zielfunktion (Bescheibung siehe oben). De natüliche Logaithmus von.9 im Exponenten sogt fü die Skalieung de Teilzielfunktion bei 9% Funktionshöhe. Bei üblichen Gaußglocken ist diese Vofakto.5, d.h. diese Gaußglocken weden bei 6,65% Funktionshöhe skaliet. Die Eins vo de Summe hebt die Zielfunktion auch im Rauschen deutlich ins Positive..3 Rauschen Es gibt zwei gundlegende Rauschtypen: elatives und absolutes Rauschen.. Oft teten Schwankungen elativ zu Höhe ihes Ewatungswetes auf. Bestimmt man beispielsweise die Masse von Mäusen und Hunden, so untescheiden sich die Einzelegebnisse bei esteen absolut gesehen viel wenige voneinande als z.b. diejenigen von Hunden. Bezogen auf die mittlee Mäusemasse können die elativen Abweichung zwischen Mäusen jedoch duchaus gleich goß ode göße sein als die zwischen Hunden (bezogen auf deen mittlee Masse).. Es gibt jedoch auch Schwankungen, die keinen Bezug zu dem Ewatungswet haben, um den sie schwanken. Sie weden als absolute Schwankungen bezeichnet. Hie sei de Messfehle genannt, de beim Messen innehalb unteschiedliche Gößenodungen mit ein und deselben (lineaen) Skala entsteht. 3. In Expeimenten teten oft Mischfomen von beiden Rauschtypen auf. De Einfachheit halbe sollen sie hie jedoch nu getennt voneinande vewendet weden. Mathematisch sieht das Modell des absoluten Rauschtyps mit nomalveteilten Abweichungen folgendemaßen aus: ( x) = f ( x) n(, σ ) F + σ ist hiebei die (absolute) Standadabweichung. Das Modell des elative Rauschtyps mit nomalveteilten Abweichungen sieht so aus: F ( x) = f ( x) [ + n(, σ )] = f ( x) + n(, [ f ( x) σ ] ) σ ist hiebei die pozentuale (elative) Standadabweichung bezogen auf f ( x). An de zweiten Fom des elativen Rauschtyps wid de Bezug zum absoluten Rauschtyp deutlich.

13 .4 Testfunktionen Nachdem die Fomchaakteistik und das Rauschmodell nun mathematisch umgesetzt sind, können konkete Zielfunktionen gebildet weden. Fü einen anschaulichen Vegleich de Optimieungsalgoithmen wid in Kapitel 4 eine zweidimensionale Zielfunktion benötigt. In den beiden folgenden Kapiteln (5 und 6) soll das Vehalten de Optimieungsalgoithmen dann anhand von acht -dimensionalen Zielfunktionen genaue untesucht weden. Die Fomgebung de Zielfunktionen efolgte duch zehn zufällig im Raum veteilte Gaußglocken mit, innehalb bestimmte Genzen, zufälligen Hauptachsenlängen (. ϕ bei 9% Teilzielfunktionshöhe) und beliebige Oientieung. Um zu vehinden, dass sich die Summe de Gaußglocken imme in de Raummitte auftümt, wuden die Teilzielfunktionsoptima aus de Mitte jeweils etwas in Richtung Rand veschoben. Den dei gebildeten konketen Zielfunktionsfomen wude jeweils eine de Buchstaben A, B, und C zugewiesen. Funktionsfom A (Abb.-5 links) ist zweidimensional, und dient in Kapitel 4 de Vefahensdemonstation. Die beiden andeen Funktionsfomen B und C sind -dimensional. Funktionsfom B ist unimodal, C ist multimodal. Fü die Testfunktionen kamen vie Rauschmodelle zum Einsatz. Den Rauschmodellen wude analog zu den Buchstaben fü die Zielfunktionsfomen jeweils eine Numme zugeodnet: steht fü σ= (kein Rauschen), fü σ=%, fü σ=5% ( und sind jeweils elative Rauschtypen) und schließlich 3 fü σ=. (absolute Rauschtyp). De Bezug des absoluten Rauschtyps des Rauschmodells N.3 F ( ) ( x) f ( x) + n, [ f ( x ) σ ] = opt zum absolute Funktionsoptimum f ( ) x opt de jeweiligen Zielfunktionsfom macht dieses Rauschmodell vegleichba mit dem Rauschmodell N. das im absoluten Optimum eine identische Standadabweichung von % de Zielfunktionsfom aufweist. Beim Rauschmodell N. nimmt das Rauschen alledings, im Gegensatz zum Rauschmodell N.3, in andeen Suchaumpunkten popotional zu den Weten de Zielfunktionsfomen ab. i.4. Zielfunktionsfom A Abb. -5. Links: Zielfunktion A (A ohne Rauschen). Rechts: Zielfunktion A. Das Rauschen mit eine Standadabweichung von % füht natülich bei jede Funktionsauswetung zu unteschiedlichen Weten.

14 Das absolute Optimum de Funktionsfom A befindet sich in Punkt.94 x opt =..38 De zugehöige Zielfunktionswet lautet: f ( ) x opt = Die Haupt-Kümmungen im Optimum Lauten: Zielfunktion A Dimensionspaamete Raum Gaußfunktion (konkete Paamete A siehe Anhang) - Anzahl de (Sub-)Optima ( ( ) gad x = ) Rauschmodell Typ elativ Standadabweichung % Tabelle -. Zielfunktions-Steckkate de w = Funktion A Das Suboptimum befindet sich in Punkt x subopt = und hat den Zielfunktionswet.3856 f =3.38. De Euklidsche Abstand zum globalen Optimum ist.594. ( ) x subopt Die Zielfunktion A ist in Abb.-5 echts zu sehen. Fü eine Kuzbescheibung de Zielfunktionen wude ein Steckkaten-Schema zusammengestellt, das fü die Funktion A in Tabelle - dagestellt ist. Die exakten Paamete, wie die Teilzielfunktions-Mittelwete und die Teilzielfunktions-Matizen de Funktionsfomen A, B und C, befinden sich im Anhang..4. Zielfunktionsfom B Die zehndimensionale Zielfunktionsfom B hat nu ein Optimum. Es befindet sich in Punkt: x opt = Kümmungen im Optimum w = De zugehöige Zielfunktionswet lautet: f ( ) x opt =6.56 Abb.-6 Zweidimensionale Schnitt de Zielfunktionsfom B im globalen Optimum (Vaiablen 5 und vaiiet). Ein zweidimensionale Schnitt de Zielfunktionsfom B ist in Abb. -6 zu sehen. Ein zweidimensionale Schnitt duch eine mehdimensionale Funktion bedeutet ein Fixieen alle Vaiablen de Funktion, bis auf zwei, in einem Punkt des Inteesses (z.b. in einem Extemum de Funktion). Daduch wid die Abhängigkeit de Funktion in dem untesuchten Unteaum von den beiden nicht fixieten Vaiablen sichtba. Analog efolgt ein eindimensionale Schnitt. Eindimensionale Schnitte de Zielfunktionsfomen B und C sind in Abb.-7 dagestellt. 3

15 Abb.-7 Eindimensionale Schnitte de Zielfunktionsfomen B (links) und C (echts) jeweils im globalen Optimum. Aufgetagen ist in jedem Diagamm de Zielfunktionswet übe eine laufenden Vaiablen. Die estlichen Vaiablen befinden sich dabei jeweils im Optimum. Die Schnitte de Zielfunktionsfom C sehen zwa unimodal aus, doch im zweidimensionalen Schnitt (siehe Abb.-8) ist die Multimodalität ansatzweise zu ekennen..4.3 Zielfunktionsfom C Die zehndimensionale Zielfunktionsfom C hat 7 (innee) Optima. Das globale Optimum befindet sich in Punkt: x opt = f ( ) x opt =3.6 Kümmungen im (globalen) Optimum w = Abb.-8 Zweidimensionale Schnitt de Zielfunktionsfom C im globalen Optimum. (Vaiablen 3 und vaiiet). Die sechs lokalen Optima lauten wie folgt (oben de Zielfunktionswet, in de Mitte die Raumkoodinaten und unten jeweils de Euklidsche Abstand zum globalen Optimum):

16 Die Optima wuden mit Hilfe de in diese Abeit vewendeten Evolutionsstategie bestimmt. Als Statwet diente jeweils ein Mittelpunkt de 5949 Hypewüfel, die duch Deiteilung de Vaiablen entstehen. Die maximale Schittweite wude dabei seh klein eingestellt. 5

17 3. Optimieungsalgoithmen In diesem Kapitel weden sechs ausgewählte Optimieungsalgoithmen vogestellt, die an den beeits beschiebenen -dimensionalen Testfunktionen epobt wuden (siehe Kapitel 5 und 6). Die Optimieungsalgoithmen sind: die eschöpfende Zufallssuche, zwei Genetische Algoithmen, eine Evolutionsstategie, eine Mischfom de beiden letztgenannten und ein auf die stochastische Optimieung angepasstes Gadienten-Vefahen. In Abschnitt 3. wid de Vesuch eine Klassifikation von Optimieungsalgoithmen untenommen und die ausgewählten Algoithmen eingeodnet. In Abschnitt 3.. wid auf das vefahensübegeifende Populationskonzept mit Stat- und Endbedingungen nähe eingegangen. In den folgenden Abschnitten dieses Kapitels (3.3, 3.4, 3.5, 3.6, 3.7) weden schließlich die Optimieungsalgoithmen im Einzelnen beschieben. 3. Klassifikation von Optimieungsalgoithmen Optimieungspobleme können nach meheen Kiteien unteschieden weden z.b. Nach: de Systemkenntnis detailliet unzueichend de At de Zielfunktion Lineaität Nichtlineaität Diffeenziebakeit de At de Zustandsbescheibung äumlich veteilte Vaiablen äumlich diskete Vaiablen homogene Vaiablen de Bescheibungsunschäfe deteministisch stochastisch fuzzy de Komplexität des Poblems unimodal multimodal Nebenbedingungen Mit Hilfe diese Kategoien kann es gelingen, ein fü ein spezielles System geeignetes Optimieungsvefahen auszuwählen. Abb.3-. ist ein Beispiel fü eine solche Zuodnung. Die Eschöpfende Zufallssuche (EZ) ist das obusteste unte den in diese Abeit veglichenen Vefahen. Robust bedeutet hie fü Optimieungsalgoithmen, dass sie fü eine möglichst beite Auswahl von Optimieungspoblemen ohne spezielle Anpassung gleichemaßen geeignet sind, ohne damit etwas übe die Leistungsfähigkeit de Vefahen, d.h. das Vehältnis von Optimieungsefolg zum Optimieungsaufwand bei einem speziellen Poblem, etwas auszusagen. Beispielsweise muss innehalb de EZ kein Gadient gebildet weden, mit den zugehöigen Stetigkeits-Fodeungen an die Zielfunktion; die EZ lässt sich bei entspechenden Zielfunktionen nicht täuschen (Deceptive Poblem [Gol89]), d.h. in ein Suboptimum hineinziehen, wie die andeen hie vewendeten Vefahen. Wichtig fü die EZ ist allein, dass de zulässige Beeich gleichmäßig duchsucht weden kann. Genetische Algoithmen (GA) und Evolutionsstategien (ES) gehöen beide zu den Evolutionäen Algoithmen, d.h. sie sind beide abstahiete Modelle de biologischen Evolution. Die Untescheidung de beiden ist histoisch bedingt. Ein GA hat wenig Gemeinsamkeiten mit den klassischen Optimieungsalgoithmen, eine ES hingegen viele davon. Ein GA oientieen sich stäke als eine ES an den Evolutionsmecha- 6

18 nismen in de Biologie. Ein GA ist duch seine stäke globale Oientieung (Oientieung am Suchaum) obuste als eine ES. Die ES hat, in de hie vewendeten Fom, neben denen zu den GA auch deutliche Gemeinsamkeiten mit dem Gadientenvefahen (GV). De Unteschied zu letzteem liegt dain, dass die ES den Gadientenpfad entlang "diffundiet" [Rec94] und nicht gezielte Schitte in Gadientenichtung, dem lokalen Optimum entgegen, untenimmt. Gewöhnliche GV sind innehalb diese Aufzählung die am wenigsten obusten. Sie benötigen eine diffeenziebae Zielfunktion. Sie sind nicht geeignet fü diskete Vaiablen ode unschafe Optimieungspobleme. Das hie auf die stochastische Optimieung angepasste GV ist schon deutlich obuste als die nicht angepassten Vefahen, es benötigt abe (im Gegensatz zu den Evolutionäen Algoithmen) imme noch die konketen Zielfunktionswete und kann nicht mit deen Wete-Rangfolge auskommen. Abb.3-. Taxonomie de Such- und Optimieungsalgoithmen nach At de Zielfunktionen und de Vogehensweise de Vefahen. Es weden außedem typische Vetete angegeben [STÜ99]. 3. Das Populationskonzept Sowohl die Evolutionäen Algoithmen als auch das hie vewendete GV abeiten mit Populationen von Individuen, d.h. mit λ paallelen Einzelexpeimenten übe γ Geneationen hinweg (bei de EZ kann die Gesamtheit alle Einzelexpeimente paallel innehalb eine Geneation efolgen). Fü die Evolutionäen Algoithmen wid das allgemeine Populationskonzept in einem weiteen Unteabschnitt noch egänzt. 3.. Das allgemein Populationskonzept ( g ) Die Individuen x p (g=,...,γ- [Geneationsnumme]; p=,..,λ [Populationsnumme]) eine Population sind hie gleichbedeutend mit einem Satz von Vaiablen (das Analogon in de Biologie ist ein haploides Chomosom). 7

19 Die Vaiablen de Individuen de Statpopulation setzen sich aus unabhängig gleichveteilten Zufallszahlen im Definitionsbeeich [,] zusammen. Die Individuen sind also elativ gleichmäßig übe den Suchaum veteilt. Ausgehend von diese Statpopulation wid vesucht Populationen bzw. Individuen mit besseen Eigenschaften zu ezeugen. Statpopulation: () x (), x (),..., x λ Entwicklung.Geneation: () x (), x (),..., x λ (γ-)-fache Entwicklung (γ-).geneation: ( γ ) x ( γ ), x ( ),..., x γ λ F, die jedem Individuum, abhängig von dessen Vaiableneinstellungen, einen Zielfunktionswet zuweist. Die Zielfunktion kann alledings auch aus jedem beliebigen Input-Output-System, z.b. einem Expeiment, bestehen. Wichtig ist nu, dass zwischen dem Input (den Vaiableneinstellungen) und dem Output (dem Zielfunktionswet) ein meh ode wenige stake kausale Zusammenhang besteht; d.h., dass ähnliche Usachen (Vaiableneinstellungen) ähnliche Wikungen (Zielfunktionswete) zu Folge haben. Als Qualitätsmekmal hiezu dient in de Regel eine Zielfunktion ( x) Am Ende de Optimieung ist alledings keine vollständige Population von Egebnissen gefagt. Das beste Individuum, bzw. die beste Vaiablen-Kombination muss noch emittelt weden. Hiezu gibt es zwei Möglichkeiten. Eine Möglichkeit wäe, einfach das Individuum mit dem besten Zielfunktionswet zu nehmen. Das bedeutet bei veauschten Zielfunktionen jedoch imme, dass mit hohe Wahscheinlichkeit ga nicht das beste Individuum de Endgeneation gewählt wid. Eine zweite Möglichkeit wäe, zwischen übeduchschnittlichen Individuen de Endgeneation einen Schwepunkt zu bilden. Dies setzt jedoch voaus, dass das jeweilige Optimieungsvefahen in ein Optimum konvegiet ist, d.h., dass sich alle (übeduchschnittlichen) Individuen de Endgeneation in de Nähe dieses Optimums befinden. Die Fodeungen 3 und 4 an das veeinfachte Vegleichsmodell Modeat viele Optima und keine goßen Schwankungen im Gadienten (siehe Abschnitt.) lassen im Zusammenhang mit den hie vewendeten Optimieungsvefahen eine Schwepunktbildung zu (siehe auch Kapitel 5). Fü alle Vefahen mit Ausnahme des GV wude, am Ende de Optimieung, die im folgenden beschiebene Schwepunktbildung de ES heangezogen. Das GV (siehe Abschnitt 3.7 ) abeitet von sich aus mit einem Zentum. Es benötigt jedoch einen günstigen Statpunkt. De Vegleichbakeit mit den andeen Vefahen wegen wude diese Statpunkt ebenfalls übe die Schwepunktbildung de ES aus de (übe den ganzen Suchaum veteilten) Statpopulation heaus gebildet. Die ES (siehe Abschnitt 3.5) bildet innehalb de Rekombination einen logaithmisch gewichteten Schwepunkt unte den µ besten Individuen de Population. µ wude bei de ES auf λ gesetzt. Die µ λ SP besten Individuen weden von dahe auch fü die Schwepunktbildung am Ende bzw. zu Beginn de Optimieung bei den andeen Algoithmen mit Ausnahme de EZ 8

20 vewendet. Bei de EZ ist λ so goß, dass fü die Schwepunktbildung jeweils µ des GA vewendet wude. x w i µ SP ( γ ) ( γ ) = wi x µ µ i SP SP i w = i i= = ln( +.5) ln( i) µ SP fü i=,..., SP ; gewichtete Schwepunkt de µ SP besten Individuen in de (γ-).geneation. Die x ( γ ) i µ Einzelgewichte de Schwepunktbildung [Han]. SP sind dabei in de Reihenfolge de zugehöigen Zielfunktionswete absteigend sotiet. Fü die Evolutionäen Algoithmen folgt nun eine Egänzung des oben beschiebenen Populationskonzeptes. 3.. Das Populationskonzept Evolutionäe Algoithmen Bei den Evolutionäen Algoithmen weden die folgenden, in de Regel mehmals zu duchlaufenden Schitte auf die Statpopulation angewandt: Emittlung de Zielfunktionswete de Individuen Vaiation: - Selektion bestimmte Individuen aus de Population anhand ihe Zielfunktionswete - Rekombination von Individuen - Mutation de ekombinieten Individuen Konsevation (Paallel zu Vaiation) - Selektion bestimmte Individuen aus de Population anhand ihe Zielfunktionswete Einfügen de vaiieten Individuen nach Zielfunktionsemittlung in die Population, bestehend aus den innehalb de Konsevation selektieten (unveändeten) Individuen. Stat λ Θ beechne Zielfunktion Mutation Θ λ Vaiation von Individuen geneiee Anfangspopulation Abbuchskiteium efüllt? Konsevation von Individuen (Selektion) Selektion Θ beste Individuen ja nein Θ λ Rekombination µ Abb. 3-. Stuktu eines einfachen Evolutionäen Algoithmus. 9

21 Fü das Estellen neue Populationen existieen sowohl bei den Genetischen Algoithmen als auch bei den Evolutionsstategien unübeschauba viele Vaianten. Ein umfassende Vefahensvegleich ode eine Metalevel-Optimieung de Vefahenspaamete, wie sie z.b. Gefenstette [Gef86] duchgefüht hat, wüden den Rahmen diese Abeit spengen. So galt es, günstige Opeatoen und Paamete soweit vohanden aus de Liteatu (vo allem: [Gef86], [Han98], [Han], [Pohl]) zu entnehmen, und ansonsten die Paamete meh ode wenige eindimensional zu vaiieen. Auf die Einbeziehung von koopeieenden ode konkuieenden Subpopulationen, wie sie z.b. von Goldbeg [Gol89], und Pohlheim [Pohl] eingesetzt weden, wude hie gänzlich vezichtet. Einzige Ausnahme bildet die vewendete Evolutionsstategie. Fü ihe (lokale) Suche benötigt sie im auschfeien Suchaum estaunlich wenig Individuen. Deshalb weden hie, de besseen Vegleichbakeit wegen, mehee unabhängige Subpopulationen paallel vewendet. So wid po Geneation die gleich Anzahl an Funktionsauswetungen wie bei den andeen Vefahen duchgefüht. Da mehee lokale Optimieungsläufe mit unteschiedlichen Statpositionen auch ehe zum globalen Optimum fühen, füht die paallele Vewendung von meheen unabhängigen Subpopulationen hiebei auch zu etwas besseen Egebnissen. Die in diese Abeit vewendeten Vaianten zum Estellen neue Populationen weden im folgenden vogestellt. 3.3 Eschöpfende Zufallssuche (EZ) Die Eschöpfende Zufallssuche ist das einfachste de fü diese Abeit ausgewählten Optimieungsvefahen. Sie wude in diese Abeit heangezogen, um an ih den Optimieungsefolg de übigen Vefahen gegenübe de einen Zufallssuche abschätzen zu können. Bei de EZ wid, um im Bild des oben beschiebenen Populationskonzeptes zu bleiben, nu eine einzige Population, die Statpopulation, ezeugt. Die Vaiablen de Individuen de Statpopulation setzen sich wie bei den übigen Vefahen aus unabhängig gleichveteilten Zufallszahlen im Definitionsbeeich [,] zusammen. Bei de EZ ist diese Statpopulation nu bedeutend göße. Nach de Zielfunktionsemittlung weden die laut Zielfunktion µ SP besten Individuen ausgewählt und übe eine gewichtete Schwepunktbildung (siehe Populationskonzept) die beste Vaiablen-Kombination de Optimieung emittelt. Insofen besteht die Zufallssuche aus dem esten und letzten Schitt de andeen Vefahen. Bei ih kann somit, wie oben beeits ewähnt, die Gesamtheit alle Einzelexpeimente paallel efolgen. Statpopulation: x,, x,,..., x, λ Zielfunktionsemittlung µ SP beste Individuen x,, x,,..., x, µ Egebnis Schwepunktbildung

22 3.4 Genetische Algoithmen (GA) Genetische Algoithmen sind die am weitesten bekannten Evolutionäen Algoithmen. De Begiff Genetische Algoithmen geht auf eine de fühen Abeiten von Bagley [Bag67] zuück. In ihe heute bekannten Fom wuden sie abe von Holland an de Univesity of Michigan (USA) entwickelt [Holl75]. Mittleweile sind, unte Beibehaltung de Gundstuktu, alledings eine ganze Reihen von vebesseten Opeatoen entstanden. Sofen sie hie Eingang gefunden haben, wid auf ihe Uspünge vewiesen. Im folgenden Unteabschnitt soll de in diese Abeit getestete GA in de uspünglicheen, binäen Fom eingefüht weden. Im zweiten Unteabschnitt soll dann, unte Beibehaltung de wichtigsten Mechanismen des binäen GA, die binäe Codieung zugunsten eine eellen, codieungs-unabhängigen Vogehensweise, aufgegeben weden. Die Begündung fü diesen Schitt liegt nicht zuletzt in den etwas besseen Egebnissen de letzteen Vaiante bei den Simulationsexpeimenten (siehe Kapitel 5) Genetische Algoithmus mit binäe Repäsentation eelle Vaiablen Holland vewendete fü die von ihm entwickelten GA eine binäe Codieung eelle Vaiablen. m Mit diese Codieung wid de Definitionsbeeich de Vaiablen in Abschnitte unteteilt (siehe Abb.3-3) Abb.3-3. Zahlengeade von bis : oben dezimal codiet, unten binä (je feine die Disketisieung desto länge de Code). Bei mehdimensionalen Optimieungspoblemen weden dabei die Codes de einzelne Vaiablen einfach zu einem Bit-Stang aneinandegeeiht. X i, =; x i,=;...; x i,n=; Bit-Stang i :... Damit liegt die Infomation, wie im DNA-Stang, aneinandegeeiht und gequantelt vo, und Opeatoen de biologischen Evolution, die den DNA-Stang veänden, können diekt auf den Bit-Stang de GA angewandt weden. Des weiteen füht die auf den Suchaum angepasste Codieung dazu, dass de begenzte Suchaum nicht velassen wid. Wenn die Philosophie de ES als Kontinuums-Genetik bezeichnet wid, dann könnte diejenige de Genetischen Algoithmen somit wohl am ehesten als Quantengenetik bezeichnet weden. Deshalb fällt eine duchgehende gafische Dastellung de Gundpinzipien eines GA, wie bei de vewendeten ES möglich, schwee. Die Quantelung de Infomation im binäen Code lässt jedoch eine anschauliche Bescheibung des Geschehens diekt am Code zu. Angelehnt an die Stuktu einfache Evolutionäe Algoithmen (siehe Abb.3-) soll hie nun ein Duchgang duch die Opeatoen de beiden Algoithmen-Schleifen des GA vogenommen weden, bestehend aus: Selektion, Rekombination und Mutation. Als Abschluss dieses Unteabschnittes folgen dann noch ein paa Anmekungen zu Konsevation von Individuen. Selektion Nachdem die Zielfunktionswete de Statpopulation emittelt sind, können die Individuen mit dem unten beschiebenen Stochastic Univesal Sampling popotional zu ihen Zielfunktionsweten selektiet weden. Voaussetzung dafü ist alledings, dass alle Zielfunktionswete ein

23 positives Vozeichen haben. Oft wikt sich jedoch eine vogeschaltete Tansfomation de Zielfunktionswete in sogenannte Fitnesswete günstig auf die Optimieung aus. Anschließend efolgt dann eine fitnesspopotionale Selektion. Fitnesszuweisung Die Fitness eines Individuums wid aus seinem zugehöigen Zielfunktionswet unte Vewendung eine Fitnessfunktion (siehe Abb.3-4) gebildet und mit de aufsummieten Fitness de gesamten Population nomalisiet. Die nomalisiete Fitness eines Individuums ist seine Selektionswahscheinlichkeit. Besondes gute Individuen können bei de Popotionalen Fitnesszuweisung [Gol89] auch eine Selektionswahscheinlichkeit göße haben, d.h. sie können sich vevielfältigen. Fitness Fitness Fitnessfunktion Fitnessfunktion F min Zielfunktionswete F max F min Zielfunktionswete F max Abb.3-4. Zwei Fitnessfunktionen; links: die Zielfunktionspopotionale Fitnesszuweisung (Die Steigung de Geaden hängt im Falle de nomalisieten Fitnesszuweisung von den Zielfunktionsweten de gesamten Population ab), echts: die Fitnesszuweisung de Schwellenwet- ode Tuncation-Selektion (die µ besten Individuen de Population ehalten alle die Fitness, de Rest wid vewofen). Duch Abziehen des kleinsten Zielfunktionswetes von denen de estlichen Population (eine einfache Fom des Scaling s [Gol89] ) wid dafü gesogt, dass de kleinste Fitnesswet imme gleich null ist. So können keine negativen Fitnesswete aufteten, und die absoluten Zielfunktionswete spielen keine Rolle. Hie wude eine zu den (skalieten) Zielfunktionsweten popotionale Fitnesszuweisung fü die Konsevation und die Fitnesszuweisung de tuncation-selektion fü die Vaiation von Individuen vewendet. Ist die Veteilung de Zielfunktionswete einseitig (siehe Abb.3-5; z.b., wenn neben den Begen auch Schluchten vohanden sind), so ist bei de popotionalen Fitnesszuweisung übe die Einfühung eines Rankings [Bak85] nachzudenken. Bei einem Ranking geht nu die Infomation übe die Reihenfolge de Zielfunktionswete in die Fitnessfunktion ein und nicht die Infomation übe die Zielfunktionswete selbst, d.h. die Zielfunktionswete bestehen nu noch aus ihe Positionsnumme in eine nach Zielfunktionsweten sotieten Liste (bei eine Maximieung ehalten die Individuen mit den niedigsten Zielfunktionsweten auch die kleinen Positionsnummen). Dank des gutatigen Modells (keine goßen Schwankungen im Gadienten de Testfunktionen; siehe Kapitel ), wikt sich ein Ranking leicht nachteilig auf die Optimieung aus und wude deshalb nicht eingesetzt.

24 Abb.3-5. Mögliche Pobleme bei de Selektion duch die Anwendung de popotionalen Fitnesszuweisung (Maximieung: ein goße Zielfunktionswet ist besse); links: die vielen guten Individuen untescheiden sich unteeinande kaum in ihe Fitness, echts: die wenigen guten Individuen weden zu stak bevozugt, es kann daduch zu vozeitigen Konvegenz in ein Suboptimum kommen [Pohl]. Stochastic Univesal Sampling Fü die Selektion von Individuen aus de Population heaus, wid nun jedem Individuum anschaulich dagestellt ein fitnesspopotionale Abschnitt auf einem Roulettad zugewiesen (siehe Abb.3-6). Individuen mit eine goßen Fitness ehalten einen längeen Abschnitt, solche mit geingee Fitness einen küzeen. Das Individuum, bei dessen Abschnitt die Roulettkugel nach einem Lauf stehen bleibt, wid ausgewählt. Bei de Roulettselektion [Bak87] wid die Roulettkugel µ mal ollen gelassen. Fü µ = entspicht die Häufigkeitsveteilung de Individuen genau deen Fitnessveteilung. Um die Häufigkeitsveteilung de Individuen eine Population nicht all zu seh von deen Fitnessveteilung abweichen zu lassen, wid beim Stochastic Univesal Sampling [Bak87] etwas entstochastisiet und, um im Bild des Roulettads zu bleiben, statt eine einfachen Kugel gleich ein ganze Kugelkanz, wie in einem Kugellage vohanden, "ollen gelassen". De Kanz besteht aus µ Kugeln, die Abstände de Kugeln unteeinande sind wie in einem Kugellage einheitlich. Zufa ll Zufa ll Abb.3-6. Selektion: jedem Individuum wid ein fitnesspopotionale Abschnitt auf einem Roulettad zugewiesen. Bei de Roulettselektion (links) wid die Roulettkugel µ mal ollen gelassen, beim Stochastic univesal sampling (echts) wid gleich ein ganze Kugelkanz bestehend aus µ Kugeln gedeht. 3

25 Rekombination Bei de biologischen Rekombination weden in de Metaphase de esten Reifeteilung de Meiose die beiden homologen, haploiden Chomosomen de Elten paallel angeodnet. Ab eine beliebigen gemeinsamen Stelle beide Chomatiden findet ein Austausch de DNA-Abschnitte statt. Die Konsequenz ist in de Hauptsache eine Neu- bzw. Rekombination de Gene. Analog efolgt das Single-point cossove [Holl75] bei GA (siehe Abb. 3-7). Abb.3-7. Ablauf des single-point cossove. Abb Disketen Rekombination: Die Rekombinanten R i weden an den Ecken des von den Elten aufgespannten Hypequades positioniet (Im zweidimensionalen wid aus einem Hypequade ein Rechteck). Das Cossove findet zwischen zwei, aus de duchselektieten Population zufällig ausgewählten (Auswahl ohne Zuücklegen) Elten statt. Es ist möglich, nu mit eine gewissen Wahscheinlichkeit zu ekombinieen. Wie in de Biologie, weden die beiden Rekombinanten zweie Elten bei den GA duch das Cossove an den Ecken des von den Elten aufgespannten Hypequades positioniet (siehe Abb.3-8). Abweichend davon kann die Vaiable am Keuzungspunkt beim Single-point Cossove auch mutieen, d.h., einen vollständig neuen Wet annehmen. Zu beachten ist, dass diese Effekt bei de Festlegung de Mutationsate (siehe unten) Beücksichtigung findet. Auch wenn bei den GA im Gegensatz zu den ES ein von de Rekombination unabhängige Mutationsopeato existiet, findet somit bei de Rekombination duch single-point cossove auch eine vesteckte Mutation statt. Bei de Disketen Rekombination titt diese Effekt nicht auf. Bei ih befindet sich de Keuzungspunkt de Bit-Stänge imme zwischen zwei Vaiablen. So findet wiklich nu ein Austausch zwischen den Elten-Vaiablen statt (siehe Abb.3-8). 4

26 Abb.3-9. Mögliche Auswikungen de Bit- Mutation auf ein Individuum. Die punktiete Genze soll den Definitionsbeeich de Vaiablen kennzeichnen. Mutation (Bit-Mutation) Nun weden die Rekombinanten noch mit eine bestimmten Mutationsate veändet. Die Mutationsate ist hie, im Gegensatz zu Biologie, nicht die Wahscheinlichkeit, mit de ein einzelnes Gen po Geneation mutiet, sonden die Wahscheinlichkeit fü die Mutation bzw. den --(-)-Wechsel eines einzelnen Bits. Jede Vaiable mutiet also unabhängig von den übigen, ebenso jede Zweiepotenz innehalb eine Vaiablen. Kleinee Mutationen sind so wahscheinliche als goße; und doch kann pinzipiell übe Punktmutationen de gesamte Suchaum eeicht weden, ohne ihn zu übescheiten (siehe Abb. 3-9). Die kleinste bzw. auch die mittlee Mutationsschittweite hängt dabei von de Feinheit de Disketisieung, spich de Bit-Anzahl de Vaiablen, ab. Konsevation (Geneationgap) Es ist häufig sinnvoll, einen Teil de Individuen de letzten Geneation unveändet in de Population zu belassen bzw. zu vevielfältigen. Das Vehältnis de duch die Vaiation neu gebildeten Individuen zu denen de Eltengeneation wid als Geneationsaustausch bzw. Geneationgap bezeichnet. Bei de Konsevation weden, wie bei de Vaiation auch, Individuen selektiet (siehe oben). Damit bei veauschten Zielfunktionen einzelne Individuen, mit zufällig stak nach oben abweichenden Zielfunktionsweten, nicht zu lange in de Population veweilen und neue Individuen imme wiede die Chance ehalten, ihe Infomationen an andee weitezugeben, weden die Zielfunktionswete de konsevieten Individuen am Ende jede Konsevation mit einem Alteungs-Fakto veschlechtet. Dies tägt auch mit dazu bei, dass sich, totz Konsevation, alle Individuen de Endgeneation in de Nähe eines Optimums befinden, und somit die Bedingung fü eine abschließende Schwepunktbildung efüllt ist (siehe Abschnitt 3.) Genetische Algoithmus mit eelle Repäsentation eelle Vaiablen De binäe Code füht zu eine Knitteung ([Rec94]) de eellen Vaiablen. Das macht es dem binä codieten GA schwe, gleichmäßig in Optima hinein zu konvegieen. Dabei sind nämlich kleine Positionsändeungen gefodet, und ein Schitt, z.b. von nach, efodet ein totales Umstellen des binäen Codes bei diekt nebeneinande liegenden Punkten auf de disketisieten Zahlengeaden (siehe Abb.3-3). De binäe Code mag, was die Speicheung und den Tanspot von Infomationen angeht, seh obust sein, abe ist e auch die Codieung de Wahl fü das gegebene Optimieungspoblem? Um dies heauszufinden gilt es, in diesem Unteabschnitt, die Effekte de im vohegehenden Abschnitt 3.4. dagestellten evolutionäen Opeatoen auf den binäen Code, auf die Manipulation von Vektoen eelle Zahlen zu übetagen. Angelehnt an die Stuktu einfache Evolutionäe Algoithmen (siehe Abb.3-) efolgt hie wiedeum ein Duchgang duch die Opeatoen de beiden Algoithmen-Schleifen des GA, bestehend aus: Selektion, Rekombination und Mutation. 5

27 De Selektionsopeato ist Codieungs-unabhängig, denn e benötigt nu die Zielfunktionswete. E kann also, sowohl fü die Vaiation von Individuen als auch fü die Konsevation, unveändet aus Abschnitt 3.4. übenommen weden. Eine Diskete Rekombination (siehe Abb.3- und 3-8) lässt sich übe den Austausch de eellen Elten-Vaiablen ebenfalls poblemlos eeichen. x ; x ; x ; x ; x ; i, i, i,3 i,4 i,5 x i,6 x ; x ; x ; i,7 i,8 i,9 x i, x ; x ; x ; x ; x ; i, i, i,3 i,4 i,5 x i,6 x ; x ; x ; k,7 k,8 k,9 x, x ; x ; ; x ; x ; k, k, xk,3 k, 4 k,5 x k,6 x ; x ; x ; k,7 k,8 k,9 x, x ; x ; x ; x ; x ; k, k, k,3 k,4 k,5 x k,6 x ; x ; x ; i,7 i,8 i,9 x i, Abb. 3-. Ablauf de Disketen Rekombination zweie Individuen i und k. Mutation (Vaiablen-Mutation) Ein Mutationsopeato, de bei eellen Vaiablen den Punktmutationen binäe Vaiablen elativ nahe kommt, ist de Mutationsopeato des Beede Genetic Algoithm ([MSV93a],[Müh94]): x Mut i = x + s a i {,,..., n} i i i i Jede Vaiable wid mit de Wahscheinlichkeit de Mutationsate mutiet. s {, + } gleichveteilt. i i = Domain i : Mutationsbeeich (mutation ange). Domain : Definitionsbeeich de Vaiablen i. i a i u k = u [, ] gleichveteilt. k: Mutationspäzision (mutation pecision). Die Mutationspäzision ist analog zu Bit-Anzahl bei de Vaiablen-Codieung binäe GA. Abb. 3-. Mögliche Auswikungen de Vaiablen-Mutation auf ein Individuum. Bei de Vaiablen-Mutation kann es jedoch, im Gegensatz zu den Mutationen im binäen Code, passieen, dass de Suchaum velassen wid. Das Rücksetzen efolgt einfach, indem die abweichenden Vaiablen senkecht auf den Rand des Suchaums gesetzt weden. 6

28 3.5 Evolutionsstategie (ES) Die Entwicklung de Evolutionsstategien (ES) begann in den 6e Jahen an de Technischen Univesität Belin duch Bienet, Rechenbeg und Schwefel ([Sch68], [Rec73]). Die esten Abeiten mit de ES vewendeten noch keine Populationen. Ein Nachkomme entstand duch Mutation aus einem Elte. Das bessee de beiden Individuen übelebte. Die ES wuden seit dem imme wiede vebesset und eweitet (siehe beispielsweise [Rec94]). Fü diese Abeit ausgewählt wude eine von Hansen (bezüglich de unimodalen Optimieung) weite entwickelte ES mit kumulative Schittweitenadaptation (KSA), die zusätzlich noch eine Wichtung innehalb de µ-fachen Rekombination vonimmt [Han]. Auf die dot gleichzeitig vewendete Kovaianzmatix-Adaptation (CMA) wude hie alledings vezichtet, da diese bei gut konditionieten Zielfunktionen, wie sie, nach den Fodeungen an das Modell in Abschnitt., hie voliegen, zu keine Vebesseung füht. Liegen jedoch stake Fehlskalieungen des Suchaums vo, so kann die Vewendung de CMA-ES die Suche nach einem Optimum deutlich beschleunigen. In de Schwefelschen Kuznotation wid also eine (µ/µ,λ)-ksa-es vewendet. Eine (µ/ρ E,λ)-KSA-ES ist eine ES mit kumulative Schittweitenadaptation, bei de aus µ selektieten Individuen de Eltengeneation ρ E diekte Elten λ Nachkommen ezeugen. Die Elten weden, bei einem Komma in de Klamme, nach de Vaiation von Individuen vewofen. Es findet also keine Konsevation von Individuen statt. Im folgenden Unteabschnitt weden die Gund-Opeatoen de ES duchgegangen. Im zweiten Unteabschnitt weden egänzend dazu die Wichtung und die kumulative Schittweitenadaptation vogestellt, die die Besondeheit de in diese Abeit heangezogenen (µ/µ,λ)-ksa-es mit gewichtete Rekombination ausmachen Gund-Opeatoen In diesem Unteabschnitt wid wiedeum, angelehnt an die Stuktu einfache Evolutionäe Algoithmen (siehe Abb.3-) ein Duchgang duch die Opeatoen de Vaiations-Schleife vogenommen, bestehend aus: Selektion, Rekombination und Mutation. Eine Konsevation von Individuen kommt bei de KSA-ES nicht vo. Die Opeatoen weden de leichteen Vostellbakeit wegen in zwei Dimensionen dagestellt. Fü n Dimensionen ist im Nachfolgenden de Keisumfang duch die Obefläche eine Hypekugel zu esetzen. Selektion Die (laut Zielfunktion) µ besten de λ Individuen de Geneation g weden gewählt (Tuncation-Selektion: siehe Selektion bei den Genetischen Algoithmen S.9). In den Dastellungen (Abb.3- bis 3-5) ist µ gleich gewählt (das födet die Vegleichbakeit mit den Genetischen Algoithmen). Pinzipiell können in de ES abe auch gößee µ vokommen. λ und Θ sind hie gleich 5 (keine Konsevation von Individuen). Rekombination Abb. 3-. Eltenschwepunktbildung. Die in de Selektion ausgewählten Individuen bilden übe aithmetische Mittelwetbildung den Eltenschwepunkt (siehe Abb.3-). 7