Genetische Algorithmen (GA) Jens Mueller Folie 1

Transkript

1 Genetische Algorithmen (GA) Jens Mueller Folie 1

2 Gliederung 1. Einfuehrung 2. Grundlagen Genetischer Algorithmen 2.1. Grundbegriffe 2.2. Elemente eines GAs 3. Bsp.: Magisches Quadrat 4. Anwendungsgebiete GA 5. Vergleich mit anderen Optimierungverfahren 6. Zusammenfassung Jens Mueller Folie 2

3 Einfuehrung I Orca Charles Darwin Schwarze Witwe Quelle: Microsoft Encarta 2001 Jens Mueller Folie 3

4 Einfuehrung II Einordnung: Soft Computing Soft Computing = Fuzzy Logic + Neuronale Netze + Genetische Algorithmen? Meist modellfreie Ansaetze? Approximation statt exakte Loesung? Oft schnelleres Finden einer brauchbaren Loesung (ohne tiefgehende Problemanalyse) Jens Mueller Folie 4

5 Wo sind wir? 1. Einfuehrung 2. Grundlagen Genetischer Algorithmen 2.1. Grundbegriffe und ihre Bedeutung 2.2. Elemente eines GAs 3. Bsp.: Magisches Quadrat 4. Anwendungsgebiete GA 5. Vergleich mit anderen Optimierungverfahren 6. Zusammenfassung Jens Mueller Folie 5

6 Grundbegriffe und ihre Bed: I Jens Mueller Folie 6

7 Grundbegriffe und ihre Bed. II Jens Mueller Folie 7

8 Grundbegr. und ihre Bed. III: Mutation zufaellige Veraenderung einzelner Gene in einem Chromosomen Zugriff ueber Parameter Anfangs nicht vorhandene Allele koennen (nur) durch Mutationen entstehen. Jens Mueller Folie 8

9 Grundbegr. und ihre Bed. IV: Crossingover Austausch eines Chromosomenstuecks (oder auch einer in anderer Weise ausgewaehlter Teilmenge der Gene) zwischen zwei Individuen. Ein-Punkt-Crossover (Abb.) Waehle zufaellig eine Trennstelle zwischen zwei Genen. (Bsp. 2) Tausche die Gensequenzen auf der einen Seite dieser Trennstelle aus Jens Mueller Folie 9

10 Elemente eine GAs I Ein genetischer Algorithmus besteht aus:? einer Kodierungsvorschrift fuer die Loesungskandidaten? Problemspezifisch - es gibt keine allgemeinen Regeln.? einer Anfangspopulation? zu erzeugen Meist werden einfach zufaellige Zeichenketten erzeugt; je nach gewaehlter Kodierung koennen aber auch komplexere Verfahren noetig sein.? einer Bewertungsfunktion (Fitneßfunktion) fuer die Individuen? spielt die Rolle der Umgebung? Maß fuer Guete des Individuums? problemspezifisch keine Allgemeine Regeln? einer Auswahlmethode auf der Grundlage der Fitneßfunktion? Welche Individuen werden zur Erzeugung der Nachkommen herangezogen? Jens Mueller Folie 10

11 Elemente eine GAs II? genetischen Operatoren, die die Loesungskandidaten aendern? Mutation? Crossover Rekombination von Chromosomen? Werten fuer verschiedene Parameter? (z.b. Populationsgroeße, Mutationswahrscheinlichkeit etc.)? einem Abbruchkriterium, z.b.? eine festgelegte Anzahl von Generationen wurde berechnet? eine festgelegte Anzahl von Generationen lang gab es keine Verbesserung? eine vorgegebene Mindestloesungsguete wurde erreicht Jens Mueller Folie 11

12 Elemente eine GAs III: Pseudocode var P: Menge von Individuen begin Initialisiere P Bewerte die Individuen aus P while not fertig do Waehle in P eine Teilmenge von Eltern aus Erzeuge veraenderte Nachkommen in P Bewerte die aus P end Ergebnis = bestes Individuum aus P end Jens Mueller Folie 12

13 Wo sind wir? 1. Einfuehrung 2. Grundlagen Genetischer Algorithmen 2.1. Grundbegriffe und ihre Bedeutung 2.2. Elemente eines GAs 3. Bsp.: Magisches Quadrat 4. Anwendungsgebiete GA 5. Vergleich mit anderen Optimierungverfahren 6. Zusammenfassung Jens Mueller Folie 13

14 Bps: Magische Quadrat I Was ist ein Magisches Quadrat? x3 Matrix gefuellt mit Nummern Ziel: Summen aller Zeilen, Spalten und Diagonalen sollen 15 ergeben Diagonalen erfuellen Bed. Noch nicht (rot) Jens Mueller Folie 14

15 Bps: Magische Quadrat II? Kodierung? Darstellung als Liste Zeilendarstellung? ((4 6 5) (7 5 3) (4 4 7)) statt Matrixform? Konvertierungsfunktionen? Zeilendarstellung zu Spaltendarstellung? ((4 7 4) (6 5 4) (5 3 7))? Spaltendarstellung zu Diagonaldarstellung? ((4 5 7) (5 5 4 ))? Fitnessfunktion? Summe der Absolutwerte der Differenz zwischen jeder Zeile, Spalte und Diagonale und 15? Abbruchbedingung? Loesung mit Fitness = 0 Jens Mueller Folie 15

16 Bps: Magische Quadrat III Fitnesswerte fuer dieses Quadrat? Jens Mueller Folie 16

17 Bps: Magische Quadrat IV? Umsetzung (Scheme)? Ausgangswerte? Population: 20? Crosslink 75? Auswahl von 60% der Besten? Mutationsrate: 1%? Durchschnittliche Anzahl benötigter Generationen um Ergebnis zu erzielen:? GA: 150 Generationen? mit Probierfunktion: zehn Tage? Matrix mit Zufallszahlen fuellen und dann pruefen Jens Mueller Folie 17

18 Wo sind wir? 1. Einfuehrung 2. Grundlagen Genetischer Algorithmen 2.1. Grundbegriffe und ihre Bedeutung 2.2. Elemente eines GAs 3. Bsp.: Magisches Quadrat 4. Anwendungsgebiete GA 5. Vergleich mit anderen Optimierungverfahren 6. Zusammenfassung Jens Mueller Folie 18

19 Anwendungsgebiete GA I Allgemein: Loesen von Optimierungsproblemen? Gegeben: ein Suchraum S? eine zu optimierende Funktion f : S? IR? ggf. einzuhaltende Nebenbedingungen? Gesucht: Ein Element s? S, das die Funktion f optimiert.? Prinzipielle Loesungsansaetze:? analytische Loesung: sehr effizient, aber nur in seltenen Faellen anwendbar? vollstaendige Durchforstung: sehr ineffizient, daher nur bei sehr kleinen Suchraeumen anwendbar? blinde Zufallssuche: immer anwendbar, aber meist sehr ineffizient? gesteuerte Suche: Voraussetzung: Funktionswerte aehnlicher Elemente des Suchraums sind aehnlich. Jens Mueller Folie 19

20 Anwendungsgebiete GA II Beispiele fuer Optimierugsprobleme:? Parameteroptimierung? z.b. Kruemmung von Rohren fuer minimalen Widerstand? Packprobleme? Z.B. Packen moeglichst weniger Container mit gegebenen Guetern (Hamburger Hafen)? Wegeprobleme? Problem des Handlungsreisenden? Z.B. Verlegen von Leiterbahnen auf Platinen und in integrierten Schaltkreisen Jens Mueller Folie 20

21 Anwendungsgebiete GA III? Anordnungsprobleme? z.b. Positionierung von Verteilerknoten in einem Telefonnetz? Planungsprobleme? z.b. Ablaufplaene (Scheduling)? Strategieprobleme? Gefangenendilemma? Modelle der Spieltheorie? biologische Modellbildung Jens Mueller Folie 21

22 Anwendungsgebiete IV? Kleiner Exkurs Gefangendillema? bekannteste Problem der Spieltheorie (engl.: prisoner s dilemma)? Zwei Personen haben einen Bankueberfall begangen und werden verhaftet.? Die Beweise reichen jedoch nicht aus, um sie in einem Indizienprozeß wegen des Bankueberfalls zu verurteilen.? Die Beweise reichen jedoch aus, um sie wegen eines geringfuegigeren Deliktes? (z.b. unerlaubter Waffenbesitz) zu verurteilen (Strafmaß: 1 Jahr Gefaengnis).? Angebot des Staatsanwaltes: Kronzeugenregelung? Gesteht einer der beiden die Tat, wird er Kronzeuge und nicht verurteilt.? Der andere dagegen wird mit voller Haerte bestraft (10 Jahre Gefaengnis)? Problem: Gestehen beide, gilt die Kronzeugenregelung nicht. Da sie jedoch beide gestaendig sind, erhalten sie mildernde Umstaende zugesprochen (Strafe: je 5 Jahre Gefaengnis)? Viele Alltagssituation lassen sich mit dem Gefangenendilemma beschreiben. Jens Mueller Folie 22

23 Wo sind wir? 1. Einfuehrung 2. Grundlagen Genetischer Algorithmen 2.1. Grundbegriffe und ihre Bedeutung 2.2. Elemente eines GAs 3. Bsp.: Magisches Quadrat 4. Anwendungsgebiete GA 5. Vergleich mit anderen Optimierungverfahren 6. Zusammenfassung Jens Mueller Folie 23

24 Vergleich mit anderen Optimierungsverfahren I Optimierungsverfahren deterministisch Nicht-deterministisch z.b. z.b. Simplexverfahren Monte-Carlo Gauß-Seidel Strategie Genetische Algorithmen Gradientenverfahren Jens Mueller Folie 24

25 Vergleich mit anderen Optimierungsverfahren II Bsp. Deterministisch allesamt hill-climbing Strategien Verhalten sich prinzipiell, wie Bergsteiger, der um zum Gipfel zu kommen sich immer an dem lokalen Anstieg orientiert und sich bevorzugt dorthin bewegt, wo ein Anstieg festzustellen ist. Jens Mueller Folie 25

26 Vergleich mit anderen Optimierungsverfahren III nicht deterministische Grundidee bei der Suche nach Optima in großen Suchraeumen von Zufall gebrauch zu machen Zufall ist nicht Willkuer Gefahr Optima zu verspassen ist im Gegensatz zu deterministische Verfahren bei einer gleichmaeßigen Streuung relativ gering Jens Mueller Folie 26

27 Vergleich mit anderen Optimierungsverfahren IV? Ziel: Berechngung des Flaecheninhalts einer komplizierten Flaeche? det. Verf:? zerlegt Flaeche in mehr oder weniger große Zahl einfacher Flaechen (z.b. Dreiecke) Gesamtflaeche ergibt sich approximativ als Summe der einfacheren Flaeche? Monte-Carlo Verfahren? man zeichnet um die zu berechnende Flaeche ein Quadrat (oder Rechteck)? man erzeugt zufaellig Punkte innerhalb des Quadrates? wichtig Pkt. muessen mit gleicher Wahrscheinlichkeit erzeugt werden? Q*(t/r)? Q Flaeche des Quadrates? r Anzahl aller Punkte? t Anzahl aller Treffer (= Punkte innerhalb der zu berechnenden Flaeche)? je groeßer die Gesamtzahl der generierten Punkte desto genauer wird die Berechnung Jens Mueller Folie 27

28 Vergleich mit anderen Optimierungsverfahren V? Genetische Algorithmen sind recht teure Optimierungsverf., da oft? mit einer großen Population (einige tausend bis einige zehntausend Individuen)? mit einer großen Zahl an Generationen (einige hundert) gearbeitet werden muss, um eine hinreichende Loesungsguete zu erreichen.? Dieser Nachteil wird zwar durch eine oft etwas hoehere Loesungsguete im Vergleich zu anderen Verfahren wettgemacht, trotzdem kann die Laufzeit eines genetischen Algorithmus unangenehm lang sein.? Loesungsansatz: Parallelisierung,? d.h. die Verteilung der notwendigen Operationen auf mehrere Prozessoren. Jens Mueller Folie 28

29 Zusammenfassung Genetic Algorithms are good at taking large, potentially huge search spaces and navigating them, looking for optimal combinations of things, solutions you might not otherwise find in a lifetime. Salvatore Mangano Computer Design, May 1995 Jens Mueller Folie 29

30 Quellen? Schöneburg, Heinzmann, Federsen: Genetische Algorithmen und Evolutionsstrategien Eine Einfuehrung in Theorie und Praxis der simulierten Evolution. Addison-Wesley Bonn 1994? Grillmeyer, Oliver: Exploring Computer Science with Scheme. Springer New York 1998? Borgelt, Christian: Vorlesung SoSe Genetische Algorithmen. Magdeburg? c t 11/1993 Modell Natur Jens Mueller Folie 30

31 Frohe Weihnachten und einen guten Rutsch ins neue Jahr!!! Jens Mueller Folie 31