Genetische Algorithmen

Transkript

1 Genetische Algorithmen Ottmar Beucher, Fachhochschule Karlsruhe 7. Dezember

2 Guten Tag, meine Damen und Herren! Ich begrüße Sie recht herzlich zu meinem Vortrag über Genetische Algorithmen. Hierbei handelt es sich um eine in den letzten 20 Jahren entwickelte neue Art von sogenannten Optimierungsalgorithmen, die auf Grund ihrer vielfältigen Anwendungsmöglichkeiten eine, wie ich versuchen werde zu zeigen, bedenkenswerte Alternative zu den klassischen Methoden der mathematischen Optimierung darstellen. Inhalt Lassen sie mich Ihnen zunächst einen Überblick geben über die Themen, die ich im Laufe der nächsten ca. 40 Minuten darzustellen versuche. Ich werde zunächst versuchen, zu erläutern, was ich unter dem Begriff Optimierung verstehe. Dieser Begriff ist nicht eindeutig belegt, denn ein Politiker wird hierunter sicherlich etwas deutlich anderes verstehen, als ein Ingenieur. Wenn ich im Folgenden von Optimierung spreche, so meine ich natürlich die sogenannte mathematische Optimierung. Ich werde zunächst an Hand eines sehr einfachen und einfach zu verstehenden Anwendungsbeispiels versuchen, präzise formulieren, was ich darunter verstehe. Im Folgenden möchte ich einige spezielle Lösungsansätze diskutieren. Konkret sind dies zunächst der sogenannte Hill-Climbing-Algorithmus und das Monte-Carlo-Verfahren. Natürlich stellen diese beiden Verfahren nur einen kleinen Ausschnitt der bekannten mathematischen Optimierungsverfahren dar und somit erhebt die kleine Diskussion der Lösungsansätze natürlich nicht den Anspruch der Vollständigkeit. Die beiden Verfahren repräsentieren vielmehr, wie wir sehen werden, zwei Gegenpole, zwischen denen sich die sogenannten Evolutionsstrategien platzieren, zu denen die Genetischen Algorithmen gehören. Ich werde versuchen, diesen Sachverhalt an Hand eines sehr einfachen kleinen Beispiels zu erläutern, ohne im Detail auf den Aufbau dieser Algorithmen einzugehen und eingehen zu müssen. Im Anschluss daran, möchte ich auf das Kernthema zu sprechen kommen, die sogenannten Genetischen Algorithmen. Hierbei handelt es sich, wie ich erläutern werde, um eine Klasse von Optimierungsalgorithmen, die die optimale Lösung eines Optimierungsproblems zu finden versuchen, in dem die Mechanismen der natürlichen Evolution imitiert werden. Dazu muss natürlich zunächst erläutert werden, um welche Mechanismen es sich hierbei handelt. Außerdem muss erläutert, wie im evolutionären Umfeld die Eigenschaften, deren Optimalität bewertet wird codiert werden. Hierzu werden wir kurz auf die Struktur des genetischen Codes eingehen. Im Anschluss daran können wir auf die mathematische Formalisierung der evolutionären Mechanismen zu sprechen kommen. Danach werde ich versuchen, Ihnen einen etwas tieferen Einblick in die Funktionsweise dieser Algorithmen zu geben und Ihnen zu vermitteln, warum und wie solche Algorithmen funktionieren. Diese Fragen werden mit dem sogenannten Fundamentalsatz der Genetischen Algorithmen zum großen Teil beantwortet, so dass auf die detaillierte Diskussion die- 2

3 ses Resultats nicht verzichtet werden soll. Aus Zeitgründen kann ich hier zu einigen interessanten Fragen, etwa zum Thema der Konvergenz dieser Algorithmen, leider nicht eingehen. Für den Ingenieur ist natürlich, viel mehr als die Diskussion des Warum die Frage nach dem Was interessant. Welche Probleme kann ich mit dieser Methode lösen? Ich werde hierzu zwei Anwendungsbeispiele, nämlich die Standortbestimmung bei Funksendern und die statistische Modellierung von Last-/Drehzahl-Daten andiskutieren, die ich selbst im Rahmen von eigenen Forschungstätigkeiten näher bearbeitet habe. An Schluss des Vortrags folgt natürlich, wie üblich, eine kleine Zusammenfassung. Optimierungsaufgaben Lassen Sie uns nun zur Erläuterung des Optimierungsbegriffs mit einem sehr einfachen kleinen Beispiel beginnen, welches allen Zuhörern hinreichend bekannt sein dürfte, ist es doch eine Frage, die in der messtechnischen Praxis immer wieder vorkommt und die auch in Ingenieurmathematik-Kursen standardmäßig behandelt wird. Es geht hier um das Problem, zu gegebenen Messdaten eine Ausgleichsgerade zu finden, d.h. eine Gerade, die den linearen Zusammenhang zwischen Einund Ausgangsgröße der Messung am besten repräsentiert. Legt man nun eine Gerade in die Grafik, wie etwa in dem vorliegenden Bild, so erkennt man sehr schnell, was am besten heißen soll und warum im vorliegenden Fall keine optimale Lösung dargestellt ist. Man sieht, dass die Punkte zu weit von der vorgeschlagenen Geraden weg liegen. Gelingt es nun, dieses zu weit durch Einführung eines geeigneten Abstandsmaßes zu quantifizieren, so erhalten wir die Möglichkeit dieses Problem mit mathematischen Methoden zu bearbeiten. Ein geeignetes Abstandsmaß ist, wie wir alle wissen die Summe der Beträge der Abstände der Messwerte von der Geraden. Die Aufgabe besteht nun darin, diese Größe (eine Zahl, die von der Lage der gewählten Geraden und somit von ihren Bestimmungsparametern abhängt) zu optimieren, was in diesem Fall zu minimieren heißt. Die folgende Grafik zeigt das Ergebnis einer solchen Optimierung. Zusammenfassend kann man das Problem also folgendermaßen mathematisch formulieren: Gegeben N Paare von Messwerten. Zwischen Ein- und Ausgangsgröße bestehe bekanntermaßen ein linearer Zusammenhang. Bezüglich des Abstandsmaßes Summe der Quadrate der Abstände vom Messwert - die Quadrate sind hier aus Gründen der mathematischen Bequemlichkeit gewählt - suchen wir optimale Bestimmungsparameter â und ˆb einer Geraden, so dass dieses Abstandsmaß minimal wird. Aus dem Beispiel können wir nun für den Begriff der mathematischen Optimierung folgende allgemeine prinzipielle Formulierung einer Optimierungsauf- 3

4 gabe ableiten: Gegeben ist eine (i.a. von mehreren Parametern abhängende) reellwertige Funktion, die sogenannte Zielfunktion. Gesucht ist der Satz von Parametern x 0, bei dem diese Funktion ein Maximum (Optimum) einnimmt, gegebenenfalls unter Einhaltung gewisser Nebenbedingungen, welche in Form von Gleichungen oder Ungleichungen formuliert werden. Die Formulierung als Maximierungsaufgabe stellt hierbei keine Einschränkung dar. Jeder Maximierungsaufgabe kann leicht, etwa durch Änderung des Vorzeichens der Zielfunktion, in eine Minimierungsaufgabe umgewandelt werden und umgekehrt. Lösungsansätze Lösungsansätze für Optimierungsaufgaben sind in der mathematischen Literatur sehr zahlreich und hängen oft sehr stark von der Struktur des jeweiligen Problems ab. Der ein oder andere mag sich z.b. an den Vortrag des Kollegen Voigt über das Problem des Chinesischen Postboten erinnern, wo es um das Auffinden der besten Route für einen Postboten ging und an die zu dessen Lösung verwendeten graphentheoretischen Methoden. Ein weiteres prominentes Beispiel für einen auf eine spezielle Problemklasse zugeschnittenen Algorithmus ist der Simplex-Algorithmus zur Lösung linearer Optimierungsaufgaben, die im Operations Reasearch überragende Bedeutung haben. Wir wollen und können auf diese Methodenvielfalt im Rahmen dieses Vortrages natürlich nicht eingehen. Stattdessen werden wir zunächst an Hand eines sehr einfachen Beispiels und unter zu Hilfe Nahme von MATLAB-Simulationen, zwei sehr allgemeine Verfahren betrachten, das Hill-Climbing und das Monte-Carlo-Verfahren. Wir tun dies, weil diese zum einen auf sehr allgemeinen und leicht verständlichen Prinzipien beruhen, zum andern eine Art Referenz bilden für die Evolutionsstrategien, zu denen die Genetischen Algorithmen gehören. Das Hill-Climbing-Verfahren besteht darin, das Maximum einer Funktion dadurch zu finden, indem von einem gewissen Startpunkt aus entlang der Richtung der stärksten Steigung gesucht wird. Das Hill-Climbing-Verfahren ist somit ein einfaches Verfahren aus der Klasse der Optimierungsverfahren, die die Gradienteninformation der Zielfunktion verwenden. Die folgende MATLAB-Simulation zeigt für 4 Startpunkte, wie die Iteration von statten geht. Man erkennt wie sich die Iterationswerte zielgerichtet von jedem Startpunkt aus in Richtung des nächstgelegenen lokalen Maximums (also Hügels, um in der Hill-Climbing-Terminologie zu bleiben) bewegen. Der Vorteil eines solchen Algorithmus ist also die Ausnutzung zusätzlicher Informationen über die Zielfunktion, im vorliegenden Fall der Gradienteninformation. Daraus resultiert seine Schnelligkeit im Vergleich zu andern Algorithmen. Auch ist es für Verfahren dieser Klasse oft möglich Konvergenzanalysen durchzuführen, den Suchaufwand abzuschätzen oder Fehleranalysen zu betreiben. Nachteilig, und das zeigt die Simulation ganz klar, ist die Tendenz, sehr schnell 4

5 zu lokalen Optima zu konvergieren. Ist ein solches einmal gefunden, so kann es verfahrensbedingt nie mehr verlassen werden. Ein weiterer Nachteil ist die Verwendung des Gradienten oder gar, wie beim Newton-Verfahren, der Ableitungen zweiter Ordnung, eine Information, die oft nicht oder ungenau vorliegt. Das Verfahren ist somit nicht universell verwendbar. Dem Hill-Climbing-Verfahren in gewisser Weise diametral entgegengesetzt ist das Monte-Carlo-Verfahren. Hier wird der Suchraum und die Zielfunktion völlig unsystematisch abgesucht, da die Suchpunkte zufällig (wie beim Glücksspiel, daher der Name) und wahllos im Suchraum erzeugt werden. Die folgende MATLAB-Simulation zeigt dies für die vorhin verwendeten 4 Startpunkte eindrucksvoll. Zusätzlich ist mit dem schwarzen Punkt die bislang beste gefundene Lösung markiert. Wir sehen, wie dieser sich dem globalen Maximum annähert. Die Vorteile eines solchen Verfahrens bestehen in der universellen Verwendbarkeit der zu Grunde liegenden Idee. Es benötigt keinerlei zusätzliche à- priori-informationen über die Zielfunktion. Außerdem können suboptimale Lösungen offenbar jederzeit wieder verlassen werden. Darüber hinaus ist, nebenbei bemerkt, der Algorithmus sogar auf zeitlich veränderliche Zielfunktionen anwendbar. Sehr nachteilig ist hingegen der Aufwand und die Tatsache, dass keine Konvergenzsicherheit herrscht und Fehler- und Aufwandsabschätzungen prinzipiell nicht möglich sind. Die Evolutionsstrategien und damit die Genetischen Algorithmen, die Gegenstand unseres Vortrages sind, liegen in gewissem Sinne zwischen diesen beiden Verfahren. Wie bereits erwähnt, folgen diese Algorithmen den Optimierungsmechanismen der Evolution. Auch hier werden die Suchpunkte stochastisch erzeugt, aber nicht wahllos sondern zielgerichtet und unter Verwendung der Informationen der Zielfunktion, angelehnt an Mechanismen der Evolution. Wie dies im Einzelnen funktioniert, soll im Folgenden erläutert werden. Die MATLAB-Simulation für unser Beispielproblem vermittelt einen ersten Eindruck. Man erkennt, dass der Suchraum stochastisch, aber nicht wahllos abgesucht wird. Im Vorgriff auf die Ergebnisse der nachfolgenden Präsentation kann an dieser Stelle auf Grund des Beispiels schon einmal festgehalten werden, dass die Vorteile der beiden vorangegangenen Verfahren kombiniert werden. Das Verfahren führt eine, von zusätzlichen Informationen über die Zielfunktion gesteuerte, zielgerichtete stochastische Suche durch. Es ist auf Grund seiner Struktur, ähnlich wie die Monte-Carlo-Methode, universell anwendbar, allerdings bei einem weitaus verbesserten Aufwand. Außerdem ist auch dieses Verfahren auf zeitvariate Probleme anwendbar. Allerdings werden auch die Nachteile des Monte-Carlo-Verfahrens vererbt, wie die unklare Konvergenz und der Mangel an theoretischen Aussagen. Hinzu kommt, wie wir sehen werden eine spezielle Problematik der Parametrierung des Verfahrens. 5

6 Mechanismen der natürlichen Evolution Nach diesem ersten Eindruck zur Funktionsweise Genetischer Algorithmen möchte ich nun detaillierter auf die Idee und das Funktionsprinzip dieser Algorithmenklasse eingehen. Wie schon erwähnt, beruhen die Verfahren auf einer Formalisierung der Mechanismen der natürlichen Evolution. Rekapitulieren wir zunächst in einer Art trivialdarwinistischen Betrachtung, die wohl das übliche Wissen zu diesem Thema widerspiegeln sollte, die Funktionsweise dieser Mechanismen. Dazu gehen wir zunächst von einer Population von Individuen mit unterschiedlichen Merkmalen, hier symbolisiert durch geometrische Formen und Farben, aus. Diese Individuen leben in einer gewissen Umwelt und sind den dadurch gegebenen Lebensbedingungen ausgesetzt. Die Lebensbedingungen erzeugen einen sogenannten Selektionsdruck, d.h. einige Individuen überleben die Umweltbedingungen nicht und sterben oder sind nicht fortpflanzungsfähig, andere Individuen sind gut angepasst und verbreiten ihre Erbanlagen. Dabei werden verschiedene Erbanlagen und damit Eigenschaften im Vermehrungsprozess durch Kreuzung mit Eigenschaften anderer (mehr oder weniger zufällig ausgewählter) Individuen verändert. Einige wenige Individuen erhalten dabei zufällig, etwa durch radioaktive Einstrahlung oder andere Umwelteinflüsse oder sporadisch auftretende Erbgutveränderungen neue Eigenschaften. Dieser (seltene) Prozess der zufälligen Änderung wird Mutation genannt. Die neue Population findet sich dann wieder dem Selektionsdruck ausgesetzt und so fort. Oft erhält man durch diesen Prozess besser angepasste Populationen von Individuen. Zusammenfassend kann man also sagen, dass es sich bei der natürlichen Evolution um eine (iteratives) Optimierungsverfahren handelt, welches von drei zufallsbehafteten Basismechanismen angetrieben wird, nämlich Selektion, Kreuzung und Mutation und immerwährend fortschreitet. Diese Basismechanismen werden in der mathematischen Formalisierung des Evolutionsprozesses zu sogenannten stochastischen Operatoren und machen den Kern der Genetischen Algorithmen aus. Der Genetische Code Für die Umsetzung dieser Mechanismen in einen brauchbaren mathematischen Algorithmus fehlt jedoch noch ein wichtiger Baustein, nämlich die Codierung des Problems. Es muss die Frage beantwortet werden, wie ein Optimierungsproblem in eine Form gebracht werden kann, die es erlaubt, genetische Operatoren hierauf anzuwenden. Es erscheint klug, zunächst einmal wieder nach der Lösung zu fragen, die die Natur für dieses Problem gefunden hat. Die Information über die Eigenschaften eines Individuums und somit die Fähigkeit, sich an seine Lebensbedingungen anzupassen, sind im genetischen Co- 6

7 de festgehalten. Die Natur bedient sich hierbei zur Informationscodierung eines Alphabets, bestehend aus den 4 Basen Cytosin, Adenin, Guanin und Uracil (bzw. Thymin auf der DNA), die jeweils in Dreierkombinationen, sogenannten Triplets zusammengefasst die Anlagerung einer Aminosäure bei der Eiweißsynthese steuern. Diese Basentriplets formen Sequenzen auf der RNA ( Wörter ) resp. der DNA. Diese Sequenzen werden als Gene bezeichnet. Zusammengefaltete DNA-Ketten wiederum respräsentieren die Chromosomen, die die komplexen Eigenschaften des Individuums festlegen. Wir können also im weitesten Sinne von einer Informationscodierung auf der Grundlage eines 4-buchstabigen Alphabets sprechen. Mathematische Formalisierung Diese Tatsache wird nun folgendermaßen für eine Formalisierung herangezogen. Statt eines 4-buchstabigen Alphabets wird ein binäres Alphabet verwendet. Auch bezüglich der Gene wird eine Vereinfachung durchgeführt. Triplets und Gene werden mit dem Zeichenumfang des binären Alphabets identifiziert. Ein Gen im Sinne des Genetischen Algorithmus entspricht also der kleinsten Informationseinheit. Mit Hilfe der Gene wird die genetische Information in Binären Strings codiert. Die Binären Strings ersetzen die komplexeren natürlichen Chromosomen ebenso wie die sie tragenden Individuen, so dass im letzten Vereinfachungsschritt die Binären Strings als Individuen angesehen werden. Der evolutionäre Optimierungsprozess wird somit folgendermaßen zu einer mathematischen Optimierungsaufgabe: Die Zielfunktion, welche die Angepasstheit des Individuums an seine Umgebung repräsentiert und im Folgenden als Fitnessfunktion bezeichnet wird, muss auf Binärstrings definiert werden (reelle Zahlen können zum Beispiel diskretisiert und über einen Binärcode des Index dargestellt werden). Der Suchraum muss entsprechend codiert werden. Gesucht ist das Individuum (Binärstring) mit der maximalen Fitness, ggf. unter Einbeziehung von Nebenbedingungen. Die stochastischen Operatoren Selektion, Kreuzung und Mutation werden mit Hilfe des Binärcodes in Anlehnung an die natürlichen Mechanismen realisiert. Die Selektion etwa kann entsprechend der Fitness (Wert der Zielfunktion) der Individuen erfolgen. Im Beispiel auf Folie 16 wird hierfür ein Roulette-Rad verwendet. In jedem Selektionschritt (der ebenfalls mit einer gewissen vorgegebenen Wahrscheinlichkeit vorgenommen werden kann) wird ein Individuum durch drehen des Rouletterades ausgewählt. Da Individuen mit hoher Fitness auf dem Rad einen proportional größeren Raum einnehmen, haben diese eine höhere Wahrscheinlichkeit ausgewählt zu werden und landen, ggf. mehrfach reproduziert, in einem Paarungs-Pool (Mating-Pool). Die Individuen des Mating-Pools haben (wiederum mit einer gewissen Wahrscheinlichkeit) das Recht, sich zu kreuzen und ihre Gene auszutauschen. Dies kann bei binärer Codierung so erfolgen, dass die Binärstrings zweier Indivi- 7

8 duen an einer Stelle aufgeschnitten und vertauscht werden. Die Beispiele auf Folie 17 erläutern die Funktionsweise. Zum Abschluss wird die Mutation simuliert. Hierzu kann man mit einer gewissen, i.a. sehr kleinen Wahrscheinlichkeit die Bits der Binärstrings kippen. Man erhält, wie wir später sehen werden, durch diesen Prozess eine Population mit im Schnitt höherer Fitness und ggf. existiert auch ein fitteres Einzelindividuum. Der beschriebene Prozess wird dann, bis zum Erreichen eines noch zu definierenden Endekriteriums, in der beschriebenen Abfolge wiederholt. Der Fundamentalsatz In dem am Anfang des Vortrags vorgestellten Beispiel wurde gezeigt, dass der oben beschriebene Prozess zu einer sinnvollen Lösung führt. Ich möchte jedoch nicht fortfahren, ohne etwas näher zu beleuchten, warum dies so ist und der formalisierte Mechanismus als Optimierungsverfahren geeignet ist. Ich will daher versuchen, das zentrale Ergebnis, welches Antwort auf diese Frage gibt, das sogenannte Schema-Theorem näher zu beleuchten. Der wesentliche Begriff für das Verständnis des Algorithmus ist der des Schemas. Unter einem Schema versteht man eine Menge von Binärstrings (Individuen), die durch eine gemeinsame fixierte Bitkombination gekennzeichnet sind. Eine solche Bitkombination kann als eine Eigenschaft oder einer Eigenschaftenkombination interpretiert werden. Folie 19 zeigt ein Beispiel. Am besten kann diese Menge durch einen Hyperwürfel im Raum der Bitkombinationen visualisiert werden. So entspricht in dem dargestellten Beispiel das Schema 10 einem 3-dimensionalen Würfel und das Schema 100 einem zweidimensionalen Rechteck im 5-dimensionalen Suchraum der Individuen. Die Zusammenfassung der Individuen zu Schemata trägt der Funktionsweise Genetischer Algorithmen Rechnung. Die Herleitung der Algorithmen zeigt, dass es keinen Sinn macht, die Entwicklung einzelner Individuen zu verfolgen, sondern nur der Eigenschaften innerhalb einer ganzen Population. Die Population wiederum repräsentiert eine Vielzahl von Schemata, da ein Individuum einer Vielzahl von Schemata angehört (eine Vielzahl von Eigenschaften hat). Im Idealfall stellt die Population einen Schätzer für die Verteilung der (fitten) Schemata dar. Statt also zu fragen, wie einzelne Individuen im Laufe der Evolution verändert werden, macht es mehr Sinn, zu fragen, wie die Genetischen Operatoren die Schemata verändern bzw. wie ein Schema im Laufe der Evolution (Iteration) durch die Populationen repräsentiert wird. Schauen wir uns dazu die Wirkung der Operatoren auf ein Schema genauer an: wie wir gesehen haben, wird bei der fitnessproportionalen Selektion ein Individuum mit einer Wahrscheinlichkeit p j = f j ausgewählt. Die Wahrscheinlichkeit, dass ein Individuum eines Schemas H ausgewählt wird, ergibt N f sich aus der Summe dieser Wahrscheinlichkeiten. Damit ist die Anzahl der aus einer Population ausgewählten Schema-H-Individuen MH M = N p(h). Bezüg- 8

9 lich der Anzahl M H der schon vorher zum Schema H gehörenden Individuen ergibt sich daraus, dass die Zahl MH M (n + 1) der aus der n-ten Generation in dem Mating-Pool selektierten Individuen gleich M H (n) fh ist, wobei f f H die relative Fitness der Schema-H-Individuen innerhalb der Population ist. Der Faktor f H repräsentiert somit den auf das Schema ausgeübten Selektionsdruck. f Ist die relative Fitness innerhalb eines Schemas eine Zeit lang etwa gleichbleibend hoch und höher als die durchschnittliche Fitness der Population, so wächst der Anteil der Schema-H-Individuen in diesem Zeitraum exponentiell an. Dies kann, wie wir später an Hand eines Beispiels sehen werden, experimentell nachvollzogen werden und ist ein wesentlicher Punkt, denn dieser Effekt bewirkt, dass es sich bei einem genetischen Algorithmus eben nicht um ein wahlloses Suchverfahren handelt, sonder in gewissem Sinne um eine zielgerichtete Suche, die noch dazu mit (anfangs) exponentieller Geschwindigkeit von statten geht. Dass der Selektionsdruck alleine die Population nicht auf Dauer in einen suboptimalen Bereich treibt, dafür sorgen die anderen beiden genetischen Operatoren. Durch die Kreuzung werden, wie die Beispiele auf Folie 23 zeigen, Schemata i.a. zerstört, wobei jedoch kurze Schemata offenbar eine bessere Überlebenschance haben, als längere. Es können allerdings auch Schema-Individuen neu entstehen, was wiederum dazu beiträgt, dass weniger erfolgreiche Schemata verlassen und andere Regionen des Suchraums aufgesucht werden können. Ähnlich verhält es sich mit der Mutation. Auch hier werden Schemata i.a. zerstört, wobei jedoch kurze Schemata offenbar eine bessere Überlebenschance haben, als längere. Fasst man alle diese Einflüsse auf ein Schema zusammen, so erhält man folgendes Resultat, welches die Propagation des relativen Anteils P H eines Schemas innerhalb der Population im Laufe der Generationen beschreibt: Satz: Ist H ein Schema mit der definierenden Länge δ(h) und mit der Ordnung o(h) in einem binär codierten (klassischen) Genetischen Algorithmus mit Kreuzungs- Wahrscheinlichkeit p c und Mutations-Wahrscheinlichkeit p m. Sei weiter P H (n) der relative Anteil der zum Schema H gehörenden Individuen in einer Population zum Iterationszeitpunkt n. Dann gilt: P H (n + 1) P H (n) f H(n) f(n) ( 1 p c δ(h) ) N 1 o(h)p m Zur Illustration dieses Sachverhaltes greifen wir wieder auf das Eingangsbeispiel zurück, an Hand dessen wir unter MATLAB die Funktionsweise der Algorithmen visualisiert haben. Der Suchraum wurde in diesem Beispiel für die Anwendung des Genetischen Algorithmus mit einer Genauigkeit von ca diskretisiert und mit 18-Bit-Strings binär codiert. Die beiden Streifen über den Graphen der Zielfunktion repräsentieren zwei sehr unterschiedliche Schemata, nämlich ein Schema hoher Fitness in der Nähe des globalen Optimums und 9

10 ein Schema mit sehr niedriger Fitness in der Nähe des globalen Minimums. Die übrigen Grafiken repräsentieren die durchschnittliche Fitness der Population aus 4 Individuen in einem Lauf und jeweils die (durchschnittliche) Fitness des Schemas und die (durchschnittliche) Anzahl der Schema-Individuen, welche über mehrere Läufe gemittelt wurde. Man erkennt deutlich, dass die Fitness der Population anfangs dramatisch, später leicht ansteigt. Ebenso deutlich erkennt man den exponentiellen Anstieg der durchschnittlichen Schema- Fitness und der Schema-Anzahl für das überdurchschnittliche Schema. Das schlechte Schema hingegen ist von Anfang an so gut wie nicht in der Population vertreten. Als Fazit kann die Aussage des Fundamentalsatzes wie folgt beschrieben werden: Mittlere Fitness der Populationen steigt an. Fitte Schemata breiten sich (durch den Selektionsdruck) exponentiell aus. Kreuzung und Mutation wirken dem entgegen. Dadurch können fittere Schemata und Individuen gefunden werden. Algorithmus durchsucht gleichzeitig viele Hyper flächen des Suchraums (implizite Parallelität der GA). Fitte Schemata mit kleinen Bitblöcken werden bevorzugt durch die Generationen verbreitet (building-block-hypothese). Jede Population ist ein Schätzer für die Fitnessverteilung der Schemata. Anwendungen Leider kann ich an dieser Stelle aus Zeitgründen auf interessante Fragestellungen, wie etwa die nach der Konvergenz oder nach der Parametrierung der Genetischen Algorithmen nicht eingehen. Lassen sie mich stattdessen exemplarisch zwei Anwendungen diskutieren, die eigenen Forschungsarbeiten entstammen. Im ersten Beispiel soll das Problem der Standortoptimierung für Funkgeräte diskutiert werden. Die erste Grafik zeigt die Ausleuchtung eines Geländes mit Funkwellen von einem beliebigen, hier blau markierten Standpunkt aus. Die zweite Grafik zeigt die Ausleuchtung vom optimalen Standpunkt aus. Das Problem bei dieser Anwendung ist das Vorhandensein von sehr vielen lokalen Optima, wie die Grafik der Ausleuchtungsfunktion (Zielfunktion) zeigt. Darüber hinaus haben wir es mit einer riesigen Datenmenge, also einem sehr großen Suchraum zu tun, was neben der Bestimmung des Optimums schon allein die Berechnung der Zielfunktion sehr aufwendig macht. Gleichzeitig sind aber geringe Berechnungszeiten für den optimalen Standort gefordert. 10

11 Für dieses Problem ist die Anwendung eines gradientenbasierte Verfahrens auf Grund der Vielzahl lokaler Maxima ungünstig, zumal der Gradient immer erst numerisch geschätzt werden müsste. Die i.a. riesige Datenmenge verbietet eine Monte-Carlo-Suche, zumal geringe Antwortzeiten gefordert waren. Mit Hilfe Genetischer Algorithmen und einiger Zusatzmaßnahmen gelang es, die Anforderungen befriedigend zu erfüllen, da hier nur einige tausend Gitterpunkte zu durchsuchen waren. In einem Hybridverfahren kann der Genetische Algorithmus für eine schnelle Grobsuche verwendet werden, um anschließend mit einem Hill-Climbing-Verfahren eine Feinsuche durchzuführen. Die nächste Anwendung stammt aus dem Bereich der (statistischen) Parameteroptimierung. Bei diesem Problem ging es um den Entwurf einer zweidimensionalen statistischen Verteilung von Last/Drehzahl-Messdaten. Ein entsprechendes Modell lieferte 12 zu optimierende, d.h. an die Daten anzupassende Parameter, wobei die Verteilung, wie im gerahmten Kasten zu sehen ist, abschnittsweise definiert ist, was für gradientenbasierte Verfahren riskant ist. Mit Hilfe Genetischer Algorithmen gelang es, die Parameter befriedigend anzupassen. Zusammenfassung Lassen Sie mich nun zum Abschluss die wichtigsten Punkte des Vortrages zusammenfassen. Ich habe in diesem Vortrag versucht, Ihnen ein neues neues Prinzip der Optimierung vorzustellen, welches sich an dem Vorbild der Natur orientiert, die sogenannten Genetischen Algorithmen. Die Vorteile dieser Algorithmenklasse liegen in ihrer universelle Einsetzbarkeit, ihrer Einsetzbarkeit für große Probleme und auf Grund ihrer prinzipiell dauerhaft angelegten Struktur in ihrer Einsetzbarkeit für zeitvariate Umgebungen, wofür ich aber kein Beispiel angegeben habe. Die Nachteile sind allerdings auch nicht unerheblich. So gibt es leider wenige theoretische Grundlagen, die es beispielsweise erlauben, gesicherte Konvergenzaussagen zu machen, oder à-priori geeignete Parameter einzustellen. Hier ist man auf empirische Werte und experimentelle Aussagen angewiesen. Vielen Dank für Ihre Aufmerksamkeit. 11