Proseminar Genetische und Evolutionäre Algorithmen Evolutionsstrategien

Transkript

1 Proseminar Genetische und Evolutionäre Algorithmen Evolutionsstrategien Michael Stahl 4. Juni 2002 Inhaltsverzeichnis 1 Überblick 2 2 Generischer ES-Algorithmus Initialisierung Bewertung der Ausgangslösungen Erzeugen von Nachkommen Stochastische Partnerwahl Rekombination Mutation Bewertung und Hinzufügen zur Zwischenpopulation Deterministische Selektion Wiederholung bis Abbruchkriterium Erweiterungen Korrelierte Mutation Alternative Rekombinationsoperatoren (µ + λ)-selektion und Wettkampfselektion Mehrzieloptimierung Nebenbedingungen

2 2 2 GENERISCHER ES-ALGORITHMUS 1 Überblick Die EA-Hauptform Evolutionsstrategien (ES) wurde begründet von Ingo Rechenberg und Hans- Paul Schwefel an der TU Berlin Mitte der 60er Jahre. Im Gegensatz zu Genetischen Algorithmen (GA), welche ein relativ breites Anwendungsfeld ermöglichen, wurde ES von Anfang an als Optimierungsmethode konzipiert. Der Hauptunterschied von ES zu GA ist, dass bei ES evolutionäre Konzepte auf der phänotypischen Ebene simuliert werden, und nicht auf einer genotypischen Ebene von künstlichen Chromosomen. Als Folge dieses grundsätzlich anderen Ansatzes ergeben sich natürlich auch Unterschiede bei der Repräsentation der Lösungen, bei den Operatoren Rekombination und Mutation sowie bei der Selektion. Ein weiterer Grund für alternative Vorgehensweisen ist die schon erwähnte Einschränkung der ES auf Optimierungsprobleme, welche zumeist durch kontinuierliche Entscheidungsvariablen dargestellt werden. Im folgenden Abschnitt soll die heute weit verbreitete Grundform der ES vorgestellt werden. Danach wird auf einige interessante Erweiterungen dieser Grundform eingegangen. 2 Generischer ES-Algorithmus Eine Funktion F mit n kontinuierlichen Entscheidungsvariablen soll mit Hilfe eines ES-Algorithmus optimiert werden: F : R n R. In diesem Abschnitt wird davon ausgegangen, dass es sich um ein Minimierungsproblem handelt. Die Population in der Generation t wird P (t) genannt und hat µ Individuen. Jedes Individuum a i der ES-Population entspricht einem Vektor aus n Entscheidungsvariablen und n σ Standardabweichungen (Notation: a i = ( x i, σ i )). Die Entscheidungsvariablen sind reelle Zahlen und werden mit x k bezeichnet. Die Standardabweichungen sind positive reelle Zahlen und werden σ k genannt. Sie beeinflussen die Fitness eines Individuums nicht direkt, sondern dienen als Strategieparameter für die Mutation ( Mutationsschrittweiten ) und werden vom Verfahren selbstadaptiv angepasst. ES wird auch als Zwei-Ebenen-Optimierungsprozess bezeichnet, da günstige Werte sowohl für die Entscheidungsvariablen als auch für die Strategieparameter vom Algorithmus selbst gefunden werden. Die selbstadaptive Einstellung der Strategieparameter führt zu hoher Flexibilität in den verschiedensten Zielfunktionslandschaften, besonders dann, wenn für jede Problemdimension eine eigene Standardabweichung gewählt wird. Für die Anzahl der Standardabweichungen gilt grundsätzlich 1 n σ n. Üblicherweise wird jedoch entweder nur eine Standardabweichung für alle Variablen verwendet, oder die Anzahl entspricht der Anzahl der Entscheidungsvariablen. Für diesen Abschnitt soll der letzte Fall gelten, i.e. n σ = n. Der Ablauf einer ES wird in folgende Schritte unterteilt: 2.1 Initialisierung Zuerst muss natürlich eine Ausgangspopulation P (0) generiert werden. Sofern kein Vorwissen über das Aussehen des Lösungsraumes vorhanden ist, etwa die ungefähre Lage eines globalen Optimums, sollten die µ Individuen der Ausgangspopulation gleichmäßig über den Lösungsraum

3 2.2 Bewertung der Ausgangslösungen 3 verteilt werden. Alternativ kann man die Entscheidungsvariablen der Ausgangspopulation auch stochastisch mit einer Gleichverteilung innerhalb von für jede Variable einzeln vorgegebenen Ober- und Untergrenzen initialisieren. In der Literatur wird empfohlen, die Standardabweichungen einheitlich mit σ k = 3.0 zu initialisieren. 2.2 Bewertung der Ausgangslösungen Jedem Individuum a i der Population wird ein Fitnesswert Φ( a i ) zugeordnet, welcher üblicherweise dem Zielfunktionswert entspricht. Also: Φ( a i ) = F ( x i ) i {1, 2,..., µ} 2.3 Erzeugen von Nachkommen In diesem Schritt werden aus den µ Individuen der Population λ Nachkommen generiert. Bei ES ist im Unterschied zu GA die Populationsgröße gleich der Anzahl der zur Reproduktion ausgewählten Eltern und i.a. nicht gleich zur Anzahl der Nachkommen, i.e. µ λ. In der Literatur wird von Schwefel ein Verhältnis von µ/λ = 1/7 empfohlen, mit Standardwerten µ = 15 und λ = 100. Die Reproduktion wird in die drei Teilschritte Partnerwahl, Rekombination und Mutation unterteilt, welche für jeden zu erzeugenden Nachkommen durchlaufen werden Stochastische Partnerwahl In der Grundform des ES-Algorithmus wird aus zwei Eltern ein Nachkomme erzeugt, wobei alle Individuen der Elternpopulation mit der gleichen Wahrscheinlichkeit 1/µ ausgewählt werden können Rekombination In diesem Teilschritt werden die Komponenten der beiden Eltern zu einem neuen Individuum, dem Nachkommen, kombiniert. Hierbei werden üblicherweise für die Entscheidungsvariablen und die Strategieparameter unterschiedliche Formen der Rekombination verwendet. Das für die Entscheidungsvariablen verwendete Verfahren heißt diskrete Rekombination und entspricht prinzipiell dem Uniform Crossover bei GA. Die Entscheidungsvariablen des Nachkommen werden unabhängig voneinander und mit gleicher Wahrscheinlichkeit entweder vom einen oder vom anderen Elternteil unverändert übernommen. Bei den Standardabweichungen kommt ein anderes Verfahren zum Einsatz, welches als intermediäre Rekombination bezeichnet wird. Hierbei wird der lineare Mittelwert der jeweiligen Standardabweichungen der Eltern gebildet und dem Nachkommen zugewiesen, also σ N,k = 0.5 (σ E1,k + σ E2,k ) k {1,..., n σ }. Das folgende Beispiel veranschaulicht die beiden Rekombinationsformen:

4 4 2 GENERISCHER ES-ALGORITHMUS Elter Elter Nachkomme Abbildung 1: Diskrete Rekombination Elter Elter Nachkomme Abbildung 2: Intermediäre Rekombination Mutation In diesem Teilschritt wird der Nachkomme mutiert. Im Gegensatz zu GA geschieht dies bei ES mit jedem Nachkommen. Die Standardabweichungen werden hierzu mit einer logarithmisch normalverteilten Zufallszahl multipliziert. Diese setzt sich zusammen aus einem globalen Faktor, der für alle Standardabweichungen gilt (exp(τ 1 N(0, 1))), und einem speziellen Faktor, der für jede Standardabweichung σ k neu ermittelt wird (exp(τ 2 N k (0, 1))). Bei τ 1 und τ 2 handelt es sich um exogene Gewichtungskonstanten, d.h. sie werden vor Beginn festgelegt und durch den ES-Algorithmus nicht verändert. In der Literatur werden für die τ i Werte zwischen 0.1 und 0.2 empfohlen. N(0, 1) bezeichnet eine standard-normalverteilte Zufallsgröße, d.h. eine Zufallszahl mit Erwartungswert 0 und Standardabweichung 1. 1 Die Notation N i (0, 1) soll bedeuten, dass die Zufallsgröße für jedes x i bzw. σ i neu berechnet wird, während N(0, 1) (ohne Index) bedeutet, dass die Zufallsgröße einmal bestimmt wird und dieser Wert für alle x i bzw. σ i eines Individuums verwendet wird. Somit ergibt sich für die Standardabweichungen folgende Formel: σ k = σ k e τ 1 N(0,1) e τ 2 N k (0,1) Die Verwendung einer logarithmischen Normalverteilung hat einige Vorteile für die Mutation von Standardabweichungen: Die Standardabweichungen können nie negativ werden. Kleine Änderungen sind häufiger als große. 1 Zwei standard-normalverteilte Zufallszahlen N 1 und N 2 kann man aus zwei im Intervall [0, 1[ gleichverteilten unabhängigen Zufallszahlen U 1 und U 2 wie folgt generieren: N 1 = 2 lnu 1 sin (2π U 2 ) N 2 = 2 lnu 1 cos (2π U 2 )

5 2.4 Deterministische Selektion 5 Jede Multiplikation mit einem bestimmten Wert tritt statistisch genauso häufig auf wie die Multiplikation mit seinem Kehrwert, d.h. der Median der Änderungen ist 1. Dies bedeutet, dass die Population nicht allein durch die Mutation in irgendeine bestimmte Richtung driftet. Es muss jedoch trotzdem darauf geachtet werden, dass die Standardabweichungen nicht zu klein werden, da sonst die Suche auf einen Unterraum des Problems beschränkt werden könnte, weil sich eine der Entscheidungsvariablen kaum verändert. Dies wird realisiert, indem die Standardabweichungen auf einen Minimalwert ɛ > 0 gesetzt werden, falls sie diesen nach der Mutation unterschritten haben. Weiterhin muss die Populationsgröße µ groß genug gewählt werden, damit für die selbstadaptive Einstellung der Standardabweichungen ein genügend großer Pool von verschieden Werten zur Verfügung steht. Anschließend werden die Entscheidungsvariablen mutiert, indem zu ihrem alten Wert eine normalverteilte Zufallszahl mit Erwartungswert 0 und Standardabweichung σ k addiert wird. 2 Die Verwendung einer Normalverteilung bei der Mutation liegt darin begründet, dass kleine Veränderungen des Phänotyps in der Natur weitaus häufiger vorkommen als große, was z.b. bei Verwendung einer Gleichverteilung nicht gewährleistet wäre. Dies ergibt folgende Formel: x j = x j + σ j N j (0, 1) Bewertung und Hinzufügen zur Zwischenpopulation Nun erfolgt die Bewertung des neu entstandenen Nachkommen: Φ( a ) = F ( x ) Anschließend wird der Nachkomme zu einer Zwischenpopulation P zwi hinzugefügt, welche anfangs leer ist und schließlich λ Individuen enthält. 2.4 Deterministische Selektion Nun findet die Selektion statt, indem die µ Individuen mit den besten Fitnesswerten aus der Zwischenpopulation ausgewählt und in die Population der nächsten Generation übernommen werden. Da nur Individuen aus der Zwischenpopulation, nicht jedoch die aus der Ausgangspopulation übernommen werden, ist die Lebensdauer eines Individuums immer auf nur eine Generation beschränkt. Diese Form der Selektion wird als (µ, λ)-selektion oder Komma-Selektion bezeichnet. Weiterhin hat sich die Bezeichnung (µ, λ)-es für eine ES mit (µ, λ)-selektion eingebürgert. Die (µ, λ)-selektion ist eine Form der diskriminierenden Selektion, weil einige Individuen (hier diejenigen mit schlechteren Fitnesswerten) überhaupt keine Chance haben, sich fortzupflanzen. 2 Eine Zufallszahl N(E, σ) mit Erwartungswert E und Standardabweichung σ kann man aus einer Zufallszahl N(0, 1) mit Erwartungswert 0 und Standardabweichung 1 mit folgender Formel erhalten: N(E, σ) = E+σ N(0, 1)

6 6 3 ERWEITERUNGEN Weil bei dieser Form der Selektion nicht garantiert wird, dass die beste gefundene Lösung a best auch in der Schlusspopulation enthalten ist, sollte man diese separat speichern. Man vergleicht dann in jeder Generation, ob eine bessere Lösung als a best gefunden wurde, und ersetzt in diesem Fall a best durch diese. Die Härte der Selektion kann über das Verhältnis µ/λ eingestellt werden. Je kleiner dieses Verhältnis, desto härter ist die Selektion. Empfehlenswert ist, bei multimodalen Zielfunktionen eine weichere Selektion zu verwenden als bei unimodalen Funktionen, um das Risiko zu minimieren, dass man frühzeitig ein lokales Optimum findet und von diesem nicht mehr weg kommt. 2.5 Wiederholung bis Abbruchkriterium Die Schritte 3 und 4 werden so lange wiederholt, bis eine Abbruchbedingung eintritt. Ein einfaches Abbruchkriterium ist eine vor Beginn festgelegte maximale Anzahl von Generationen t max. Alternativ könnte man den Abbruch aber auch an mangelnden Fortschritt bei den Lösungen knüpfen, d.h. der Algorithmus wird abgebrochen, wenn über eine bestimmte Anzahl von Generationen keine neue beste Lösung gefunden wurde. Eine weitere von Schwefel vorgeschlagene Möglichkeit besteht darin, das jeweils beste und das schlechteste Individuum der Population zu vergleichen. Der Abbruch erfolgt, wenn die Fitnesswerte dieser beiden Individuen entweder absolut oder relativ gesehen nahe beieinander liegen. Formal (die Fitnessfunktion ist zu minimieren): Φ best = min a i P (t) {Φ( a i)} Φ worst = max a i P (t) {Φ( a i)} Absolute Formulierung der Abbruchbedingung: Φ worst Φ best c 1 Relative Formulierung der Abbruchbedingung mit linearem Mittelwert: Φ worst Φ best c 2 1 µ Hierbei sind c 1 und c 2 positive exogene Konstanten. µ Φ( a i ) i=1 3 Erweiterungen In diesem Abschnitt werden einige Erweiterungen des Basis-ES-Algorithmus beschrieben. 3.1 Korrelierte Mutation Die im generischen ES verwendete Mutation hat die Eigenschaft, dass Veränderungen in einer Variablen immer zur Bewegung entlang einer Koordinatenachse führen. Außerdem sind Änderungen an den einzelnen Entscheidungsvariablen voneinander unabhängig. Für eine möglichst schnelle Bewegung auf ein Optimum ist dies nur dann optimal, wenn die Höhenlinien der Funktion zufällig senkrecht auf den Koordinatenachsen stehen, d.h. die Gradienten der Funktion an

7 3.1 Korrelierte Mutation 7 der Stelle in der Zielfunktionslandschaft, an der sich ein Individuum befindet, entlang der Koordinatenachsen verlaufen. Im Allgemeinen ist dies jedoch nicht der Fall, sodass die Population nicht dazu in der Lage ist, der besten Suchrichtung unmittelbar zu folgen, etwa entlang eines schmalen Tals in der Funktionslandschaft. Eine Möglichkeit, das gewünschte Verhalten einer beschleunigten Bewegung auf das Optimum zu erhalten, ist die korrelierte Mutation. Die beiden Schaubilder zeigen ein Beispiel für eine Funktion und die Auswirkungen der normalen sowie der korrelierten Mutation. Abbildung 3: Unkorrelierte Mutation Abbildung 4: Korrelierte Mutation

8 8 3 ERWEITERUNGEN Abgebildet ist die Funktionslandschaft einer zweidimensionalen Zielfunktion. Die eingezeichneten Linien entsprechen den Höhenlinien der Funktion, d.h. alle Punkte auf einer Höhenlinie haben den selben Zielfunktionswert. Die Ellipsen entsprechen den Punkten, die zwei Individuen, welche sich im Mittelpunkt der Ellipsen befinden, mit der selben Wahrscheinlichkeit bei der Mutation erreichen können. 3 Anzumerken ist, dass es im Allgemeinen wirklich Ellipsen und keine Kreise sind, da die Individuen i.a. unterschiedliche Standardabweichungen für die verschiedenen Entscheidungsvariablen haben. Die Individuen befinden sich in beiden Bildern jeweils an der selben Stelle. Bei der unkorrelierten Mutation, die im ersten Fall dargestellt ist, gilt, dass die Achsen der Ellipsen immer parallel zu den Koordinatenachsen sind. Im zweiten Bild ist der Idealfall bei korrelierter Mutation dargestellt: Die Hauptachsen der Ellipsen sind in Richtung des steilsten Abfalls gedreht. Dies ist der Vorteil dieses Verfahrens: Die Mutationsellipsoide können sich der Oberfläche der Funktionslandschaft besser anpassen, was zu einer größeren Geschwindigkeit bei der Optimierung führt. Realisiert wird linear korrelierte Mutation mit Hilfe von zusätzlichen Strategieparametern, den Rotationswinkeln. Jedes ES-Individuum erhält zusätzlich zu den n σ Standardabweichungen noch n α Rotationswinkel, welche Werte aus dem Intervall [ π, π] annehmen können. Für die Anzahl der Rotationswinkel ergibt sich für Individuen mit n Entscheidungsvariablen und n σ = n Standardabweichungen die Formel n α = n (n 1). 2 Schwefel empfiehlt, die Rotationswinkel als Vektor α mit Komponenten α m darzustellen, und eine Indextransformation anzuwenden, um den Winkel auf der von x p und x q aufgespannten Ebene zu erhalten: m = (2n p) (p + 1) 1 2n + q. 2 Ebenso wie die Standardabweichungen werden auch die Rotationswinkel vom ES selbstadaptiv angepasst. Gegenüber statischen Strategieparametern wird dadurch eine größere Flexibilität in unterschiedlichen Zielfunktionslandschaften erreicht, da die Strategieparameter sich an die nähere Umgebung der Individuen anpassen können. Da bei Verwendung von Rotationswinkeln insgesamt n σ + n α = (n + 1) n/2 Strategieparameter für jeden Nachkommen zu rekombinieren und zu mutieren sind, ist die korrelierte Mutation jedoch auch mit erheblich höherem Rechenaufwand verbunden. Die Implementierung ist jedoch nicht allzu aufwändig, wie im Folgenden gezeigt wird. Im Vergleich zum Basis-ES-Algorithmus müssen bei Verwendung von korrelierter Mutation folgende Änderungen vorgenommen werden: 1 Initialisierung In der Literatur gibt es keine Empfehlungen für die Anfangswerte der Rotationswinkel. Eine nahe liegende Variante ist, die Rotationswinkel mit Werten zu initialisieren, die im Intervall [ π, π] gleichverteilt sind. 3-2 Rekombination Üblicherweise werden die Rotationswinkel ebenso wie die Standardabweichungen intermediär rekombiniert. 3 Verallgemeinert auf den n-dimensionalen Fall gilt: Die Punkte auf dem Hyperellipsoid sind diejenigen Punkte im n-dimensionalen Raum, die bei der Mutation mit gleicher Wahrscheinlichkeit erreicht werden.

9 3.1 Korrelierte Mutation Mutation Wie in der Grundform werden hier zunächst die Strategieparameter und danach die Entscheidungsvariablen mutiert. Die Mutation der Standardabweichungen geschieht wie gehabt. Die Rotationswinkel werden additiv mit einer normalverteilten Zufallsgröße mutiert: α m = α m + β N m (0, 1) m {1,..., n α }. Schwefel empfiehlt, den Parameter β auf den Wert zu setzen, was etwa 5 entspricht. Es kann hierbei natürlich passieren, dass die α m den zulässigen Wertebereich von π bis π verlassen. In diesem Fall wird α m auf den Wert α m + 2π gesetzt, falls α m < π, bzw. auf den Wert α m 2π, falls α m > π. Für die Mutation des Vektors der Entscheidungsvariablen gilt nun formal: x = x + N( 0, σ, α ). Hierbei ist N( 0, σ, α ) ein Zufallsvektor, der verteilt ist entsprechend der verallgemeinerten n-dimensionalen Normalverteilung mit Erwartungsvektor 0 und einer durch die mutierten Standardabweichungen und Rotationswinkel beschriebenen Kovarianzmatrix C. Um diesen Zufallsvektor zu erzeugen, benötigt man zunächst einen gewöhnlichen unkorrelierten Zufallsvektor unkor = N( 0, σ ) mit normalverteilten Komponenten. Dieser Vektor entspricht dem Zufallsvektor bei unkorrelierter Mutation. Dieser wird nun ebenenweise durch linksseitige Multiplikation mit n α Rotationsmatrizen R p,q (α m ) rotiert. Die Rotationsmatrizen haben folgendes Aussehen: cos α m sin α m sin α m cos α m Die Matrix entspricht der n-dimensionalen Einheitsmatrix mit folgenden Änderungen: Auf der Hauptdiagonalen befindet sich an den Positionen (p, p) und (q, q) der Eintrag cos α m ; in Zeile p und Spalte q steht sin α m und in Zeile q und Spalte p steht sin α m. Jede Multiplikation mit einer solchen Matrix entspricht einer Drehung in der p, q Ebene um den Winkel α m. Hierdurch ergibt sich schließlich ein Zufallsvektor mit korrelierten Komponenten: N( 0, σ, α ) = n 1 kor = n p=1 q=p+1 R p,q (α m ) unkor Für den simplen Fall mit nur zwei Dimensionen gibt es nur eine Rotationsmatrix. Es gilt: x = x+ kor = x+r 1,2 (α 1 ) unkor = ( x1 x 2 ) + ( cos α1 sin α 1 sin α 1 cos α 1 ) ( ) σ 1 N 1 (0, 1) σ 2 N 2 (0, 1)

10 10 3 ERWEITERUNGEN 3.2 Alternative Rekombinationsoperatoren In der Literatur werden diverse alternative Rekombinationsoperatoren beschrieben. Diese lassen sich grob nach den Hauptmerkmalen diskrete bzw. intermediäre Rekombination und Anzahl der Eltern kategorisieren. Bei Strategieparametern und Entscheidungsvariablen kommen oft unterschiedliche Rekombinationsformen zur Anwendung. Einige verbreitete Möglichkeiten, die einzelnen Komponenten x j des Nachkommen K aus den Komponenten der Eltern E i zu bestimmen, sind: keine Rekombination: x K,j = x E,j Alle Komponenten werden unverändert von nur einem Elter übernommen. diskrete Rekombination: entweder x K,j = x E1,j oder x K,j = x E2,j Jede Komponente wird unabhängig voneinander mit gleicher Wahrscheinlichkeit entweder vom ersten oder vom zweiten Elter übernommen. diskrete Multirekombination: x K,j = x Ei,j für ein i {1,..., ρ} Jede Komponente wird unabhängig voneinander mit gleicher Wahrscheinlichkeit unverändert von einem aus ρ Eltern übernommen. intermediäre Rekombination: x K,j = U j x E1,j + (1 U j ) x E2,j Hierbei ist U j eine im Intervall [0, 1] gleichverteilte Zufallsgröße, die für jede Komponente neu bestimmt wird. Für U j = 0.5 ergibt sich der lineare Mittelwert der Komponenten der beiden Eltern. intermediäre Multirekombination: x K,j = 1 ρ ρ E=1 x E,j Der Wert entspricht dem linearen Mittelwert der Komponenten von ρ zur Erzeugung des Nachkommen ausgewählten Eltern. Bei den Multirekombinationsvarianten bezeichnet ρ die Anzahl der Eltern, die an der Erzeugung jeweils eines Nachkommens beteiligt sind. Die ρ Eltern werden für jeden zu erzeugenden Nachkommen aus den µ Individuen der Population mit gleicher Wahrscheinlichkeit ausgewählt. Für multirekombinante ES hat sich die Bezeichnung (µ/ρ, λ)-es eingebürgert. Bei der intermediären Multirekombination liegt im Spezialfall ρ = µ jeder Nachkomme vor der Mutation im Schwerpunkt der Elternpopulation. In der Literatur finden sich unterschiedliche Empfehlungen, welche Rekombinationsformen die besten Ergebnisse bringen: Frank Kursawe empfiehlt für unimodale Zielfunktionen sowohl für die Strategieparameter als auch für die Entscheidungsvariablen intermediäre Multirekombination, bei multimodalen Funktionen diskrete Multirekombination für die Entscheidungsvariablen und intermediäre Multirekombination für die Strategieparameter. Schwefel empfiehlt ebenfalls intermediäre Rekombination oder intermediäre Multirekombination für Strategieparameter, rät aber zu diskreter Rekombination für die Entscheidungsvariablen.

11 3.3 (µ + λ)-selektion und Wettkampfselektion (µ + λ)-selektion und Wettkampfselektion In der (µ + λ)-selektion werden nicht die µ besten Individuen aus der Zwischenpopulation, sondern die (bezogen auf ihre Fitness) µ besten Individuen aus der Vereinigung der Elternpopulation und der Zwischenpopulation in die nächste Generation übernommen. Diese Form der Selektion wird auch Plus-Selektion genannt. Es handelt sich hierbei um eine Form der Elite-Selektion, denn ein Individuum mit sehr guter Fitness kann prinzipiell beliebig lange überleben. Die (µ + λ)-selektion hat jedoch gegenüber der (µ, λ)-selektion einige Nachteile, vor allem bei multimodalen Zielfunktionen. Bei der Plus-Selektion besteht immer die Gefahr, dass lokale Optima nie mehr verlassen werden, da die relativ guten Lösungen dort nie aus der Population verschwinden. Darüber hinaus wird die Selbstanpassung der Strategieparameter aus dem selben Grund erheblich erschwert. Dies ist beispielsweise dann der Fall, wenn mit sehr schlechten Strategieparametern zufällig ein lokales Optimum erreicht wird. Da die Nachkommen mit den für diesen Ort ungeeigneten Standardabweichungen mutiert werden, werden sie sehr wahrscheinlich schlechtere Fitnesswerte haben als das Elter, welches somit immer mitsamt seinen schlechten Strategieparametern in der Population verbleibt. Da bei der Komma-Selektion alle Individuen nur für eine Generation existieren, gelten diese Nachteile dort nicht. Man kann sich auch eine Mischform aus Komma- und Plus-Selektion vorstellen. Jedem Individuum wird hierbei ein Generationenzähler zugeordnet. Wenn das Individuum eine bestimmtes Alter erreicht, etwa nach κ Generationen, wird es im Selektionsschritt nicht mehr berücksichtigt. Eine weitere Selektionsvariante ist die Wettkampfselektion. Hierbei werden aus der Vereinigung von Population und Zwischenpopulation für jeden der µ Plätze in der Nachfolgegeneration ξ Individuen gezogen, wobei jedes Individuum die gleiche Wahrscheinlichkeit hat, gezogen zu werden. Hierbei gilt: 2 ξ µ + λ. Das beste der gezogenen Individuen wird dann der neuen Population hinzugefügt. Die Ziehung erfolgt mit Zurücklegen, also können Individuen mit guter Fitness auch mehrmals in die nächste Generation übernommen werden. Diese Variante eignet sich besonders gut zur Implementierung auf Parallelrechnern. 3.4 Mehrzieloptimierung Für die Optimierung mit mehreren verschiedenen Zielfunktionen wurden einige Verfahren entwickelt, die alle darauf abzielen, eine Menge pareto-optimaler Lösungen zu finden. Eine Lösung x a aus einem Lösungsraum L wird pareto-optimal genannt, wenn es in L keine Lösung x b gibt, die x a dominiert, d.h. es existiert kein x b, das in keinem Zielkriterium schlechter ist als x a, aber in mindestens einem Zielkriterium besser ist als x a. Aus dieser Menge effizienter Lösungen können dann Entscheidungsträger nach nicht quantifizierbaren Kriterien (etwa solche politischer Natur) eine geeignete auswählen. Eine naheliegende Möglichkeit bei Optimierung nach g Zielen besteht darin, dass die Selektion der neuen Population aus der Zwischenpopulation in g Teilschritte unterteilt wird. In jedem Teilschritt wird nur nach dem Wert einer Zielfunktion selektiert. Will man alle Kriterien gleich gewichten, so werden in jedem Teilschritt µ/g Individuen nach dem jeweiligen Zielkriterium ausgewählt, wobei üblicherweise Komma-Selektion zum Einsatz kommt. Alternativ kann man die Zielfunktionen auch unterschiedlich gewichten, indem man den Anteil der nach den

12 12 LITERATUR verschiedenen Kriterien ausgewählten Individuen verändert. Eine Verfeinerung dieser Methode wurde von Kursawe vorgeschlagen: In den g Teilschritten werden unterschiedlich viele Individuen nach jeweils einem Kriterium selektiert. In jeder Generation werden jedoch die Zielfunktionen den Teilschritten stochastisch neu zugeordnet, wobei eine unterschiedliche Gewichtung durch unterschiedliche Zuordnungswahrscheinlichkeiten ausgedrückt werden kann. Ein grundsätzlich anderer Ansatz ist die Pareto-Selektion. Hierbei werden alle Zielkriterien bei der Selektion gleichzeitig betrachtet. Aus den λ Nachkommen und den µ t 1 Eltern werden alle Individuen in die nächste Generation übernommen, die nicht von anderen Individuen dominiert sind. Offensichtlich ist damit die Populationsgröße nicht konstant, d.h. i.a. µ t 1 µ t Bei diesem Ansatz wird eine Plus-Selektion verwendet, sodass die aktuelle Population immer alle bis dato generierten pareto-optimalen Lösungen enthält. Bei großen Populationen ist die Pareto-Selektion wegen der vielen Vergleiche relativ aufwändig. Daher wird dann oft die Wettkampf-Pareto-Selektion verwendet. Hierbei werden aus der Vereinigungsmenge von Eltern und Nachkommen wiederholt ξ Individuen gezogen (mit Zurücklegen), von denen alle in dieser Teilmenge nicht dominierten in die nächste Generation übernommen werden. Dies wird so lange wiederholt, bis die Nachfolgepopulation µ Individuen enthält. 3.5 Nebenbedingungen Die Berücksichtigung von Nebenbedingungen wurde bis dato in der ES-Forschung weitgehend vernachlässigt. Die einfachste Möglichkeit zur Berücksichtigung von Ungleichungsbedingungen besteht darin, ungültige Lösungen sofort zu verwerfen und die Erzeugung eines Nachkommens solange zu wiederholen, bis eine Lösung entsteht, die alle Nebenbedingungen erfüllt. Falls die Nebenbedingungen den Lösungsraum sehr stark einschränken, ist diese Methode offensichtlich mit sehr großem zeitlichem Aufwand verbunden. In der Literatur wird daher vorgeschlagen, in solch einem Fall in der Initialisierungsphase die Zielfunktion bei einer ungültigen Lösung vorübergehend durch eine Ersatz-Zielfunktion zu ersetzen, die bewertet, wie stark die Nebenbedingungen verletzt werden. Somit kann zuerst die Verletzung der Nebenbedingungen minimiert werden, sodass gültige Ausgangslösungen für den anschließenden eigentlichen Optimierungsprozess gefunden werden, bei dem wieder die eigentliche Zielfunktion verwendet wird. Literatur [1] Volker Nissen: Einführung in Evolutionäre Algorithmen, Vieweg Verlag, Braunschweig/ Wiesbaden, 1997, ISBN [2] Einige Testfunktionen: