Genetische Algorithmen

Transkript

1 Genetische Algorithmen Prof. Dr. Ottmar Beucher Dezember 2001

2 Genetische Algorithmen 1 Optimierungsaufgaben Ein einfaches Beispiel Prinzipielle Formulierung Lösungsansätze Genetische Algorithmen Anwendungen Zusammenfassung Inhalt

3 Genetische Algorithmen 1 Optimierungsaufgaben Lösungsansätze Hill-Climbing Verfahren Monte-Carlo-Verfahren Evolutionsstrategie Genetische Algorithmen Anwendungen Zusammenfassung Inhalt

4 Genetische Algorithmen 1 Optimierungsaufgaben Lösungsansätze Genetische Algorithmen Inhalt Mechanismen der natürlichen Evolution Der Genetische Code Mathematische Formalisierung Der Fundamentalsatz für Genetische Algorithmen Anwendungen Zusammenfassung

5 Genetische Algorithmen 1 Optimierungsaufgaben Lösungsansätze Genetische Algorithmen Anwendungen Inhalt Standortoptimierung bei Funksendern Statistische Modellierung von Last/Drehzahl-Daten Zusammenfassung

6 Genetische Algorithmen 1 Inhalt Optimierungsaufgaben Lösungsansätze Genetische Algorithmen Anwendungen Zusammenfassung

7 Genetische Algorithmen 2 Optimierungsaufgaben - Ein einfaches Beispiel Regressionsgerade: Finde die Gerade, die am besten zu den gemessenen Daten passt!

8 Genetische Algorithmen 2 Optimierungsaufgaben - Ein einfaches Beispiel Regressionsgerade: Finde die Gerade, die am besten zu den gemessenen Daten passt!

9 Genetische Algorithmen 2 Optimierungsaufgaben - Ein einfaches Beispiel Am besten heißt: Abstände der Messwerte sind optimal(=minimal) zur Geraden.

10 Genetische Algorithmen 2 Optimierungsaufgaben - Ein einfaches Beispiel Finde Parameter a, b, so dass der Abstand a x + b Messwerte optimal wird.

11 Genetische Algorithmen 3 Optimierungsaufgaben - Ein einfaches Beispiel Gegeben N Paare von Messwerten: (x 1, y 1 ), (x 2, y 2 ), (x 3, y 3 ),, (x N, y N ) Bekannt: linearer Zusammenhang f a,b (x) = a x + b Fehlermaß: (â, ˆb) = N (y k f a,b (x k )) 2 k=1 Gesucht Parameter â, ˆb mit: (â, ˆb) = min (a, b) a,b R

12 Genetische Algorithmen 4 Optimierungsaufgaben - Prinzipielle Formulierung F : U R n R Zielfunktion Gesucht x 0 U mit F ( x 0 ) = max x U F ( x) Maximum (Optimum) gegebenenfalls mit den Nebenbedingungen G( x 0 ) = 0 (G( x 0 ) 0)

13 Genetische Algorithmen 5 Prinzip: Lösungsansatz - Hill-Climbing Iteration in Richtung stärkster Steigung Nutze Information über grad F (analytisch, numerisch) Vorteile: Nutzt Informationen über Zielfunktion F Schneller Algorithmus Konvergenzanalyse (Iterationsdauer, Fehlerabschätzung) oft möglich Nachteile: Konvergenz zu lokalen Optima Nicht universell verwendbar

14 Genetische Algorithmen 6 Prinzip: Lösungsansatz - Monte-Carlo Sucht Zielfunktion unsystematisch ab Suchpunkte mit Zufallsgenerator erzeugt Vorteile: Universell verwendbar Benötigt keinerlei Zusatzinformationen über Zielfunktion F Suboptimale Lösungen können verlassen werden Nachteile: Sehr rechenaufwändig Keine Konvergenztheorie, keine Konvergenzsicherheit Keine Fehlerabschätzungen, keine à-priori-abschätzungen

15 Genetische Algorithmen 7 Prinzip: Lösungsansatz - Evolutionsstrategie Optimierung den Mechanismen der Evolution nachgebildet Suchpunkte mit stochastischen (genetischen) Operatoren erzeugt Vorteile: Nutzt Informationen über Zielfunktion F und stochastische Suche Universell verwendbar Mittlerer Rechenaufwand (vgl. mit Monte-Carlo-Methoden) Anwendung auf zeitvariate Zielfunktionen möglich Nachteile: Wenig Konvergenztheorie, keine absolute Konvergenzsicherheit wenig à-priori-abschätzungen, unklare Parameterwahl

16 Genetische Algorithmen 8 Mechanismen der natürlichen Evolution Eine Population von Individuen mit unterschiedlichen Merkmalen...

17 Genetische Algorithmen 8 Mechanismen der natürlichen Evolution... wird durch Umwelteinflüsse einem Selektionsdruck ausgesetzt.

18 Genetische Algorithmen 8 Mechanismen der natürlichen Evolution Fitte Individuen verbreiten (mehrfach) ihre Erbanlagen durch Kreuzung.

19 Genetische Algorithmen 8 Mechanismen der natürlichen Evolution Einige wenige Individuen erhalten mutationsbedingt neue Eigenschaften.

20 Genetische Algorithmen 8 Mechanismen der natürlichen Evolution Die neue Population wird dem Selektionsdruck ausgesetzt.

21 Genetische Algorithmen 8 Mechanismen der natürlichen Evolution Die (i.a. besser angepasste) neue Population:

22 Genetische Algorithmen 9 Mechanismen der natürlichen Evolution Der evolutionäre Optimierungsprozess ist durch drei zufallsbehaftete Basismechanismen gekennzeichnet: Selektion Kreuzung Mutation Diese Basismechanismen werden in der mathematischen Formalisierung des Evolutionsprozesses zu Genetischen Algorithmen zu stochastischen Operatoren.

23 Genetische Algorithmen 10 Der Genetische Code Gene Triplets 4-Basen-Alphabet

24 Genetische Algorithmen 11 Mathematische Formalisierung - Codierung Chromosom Gene U C A G Vereinfachung Vereinfachung Triplets Vereinfachung Binäre Strings Gene:{0, 1} Binäres Alphabet

25 Genetische Algorithmen 12 Mathematische Formalisierung - Optimierungsaufgabe Zielfunktion muss auf Binärstrings formuliert werden (Codierung), und wird interpretiert als Fitness der Binärstrings ( Individuen ) F : U {0, 1} n R Fitnessfunktion Gesucht x 0 U mit F ( x 0 ) = max x U F ( x) (maximale Fitness ) gegebenenfalls mit den Nebenbedingungen.

26 Genetische Algorithmen 13 Mathematische Formalisierung - Selektion Stochastischer Operator (z.b. Roulette-Rad) Population Mating-Pool Fitnessproportionale Selektion

27 Genetische Algorithmen 14 Mathematische Formalisierung - Kreuzung (Crossover) Mating-Pool Stochastischer Operator Kreuzung (mit Wahrscheinlichkeit p c ) Population nach Kreuzung

28 Genetische Algorithmen 15 Mathematische Formalisierung - Mutation Stochastischer Operator Mutation (mit i.a. kleiner Wahrscheinlichkeit)

29 Genetische Algorithmen 16 Fundamentalsatz - Der Begriff des Schemas Schema als Hyperfläche (-würfel) in [0, 1] n : Beispiel: Schemata:

30 Genetische Algorithmen 17 Fundamentalsatz - Schema-Transfer bei Selektion p j = f j N i=1 f i = f j N f p(h) = j H = 1 f 1 N p j = j H j H f j f j N f M M H = N p(h) = 1 f j H f j

31 Genetische Algorithmen 18 Schema-Transfer bei Selektion M M H = M H 1 f 1 M H j H f j = M H fh f Übergang in den Mating-Pool für die n-te Generation: M M H (n + 1) = M H(n) fh f ( [fh ] ) k Fazit: (anfangs) exponentieller Selektionsdruck überdurchschnittliche Schemata. f für

32 Genetische Algorithmen 19 Fundamentalsatz - Schema-Transfer bei Kreuzung Beispiel: oder auch: Schemata können zerstört werden, Kurze Schemata (δ(h) klein) haben bessere Überlebenschance, Schema-Individuen können neu entstehen.

33 Genetische Algorithmen 20 Fundamentalsatz - Schema-Transfer bei Mutation Beispiel Schemata können (mit Mutationswahrscheinlichkeit) zerstört werden, Schemata mit wenig Bit (o(h) klein) haben bessere Überlebenschance, Schema-Individuen können neu entstehen.

34 Genetische Algorithmen 21 Fundamentalsatz - Das Schema-Theorem Satz: Ist H ein Schema mit der definierenden Länge δ(h) und mit der Ordnung o(h) in einem binär codierten (klassischen) Genetischen Algorithmus mit Kreuzungs-Wahrscheinlichkeit p c und Mutations- Wahrscheinlichkeit p m. Sei weiter P H (n) der relative Anteil der zum Schema H gehörenden Individuen in einer Population zum Iterationszeitpunkt n. Dann gilt: P H (n + 1) P H (n) f H(n) f(n) ( 1 p c δ(h) ) N 1 o(h)p m

35 Genetische Algorithmen 22 Fundamentalsatz - Beispiel

36 Genetische Algorithmen 22 Fundamentalsatz - Beispiel

37 Genetische Algorithmen 23 Anwendungen - Standortoptimierung Problem: Sehr sehr viele lokale Optima Riesige Datenmenge (1-10 Mio Gitterpunkte) Sehr aufwendige Zielfunktionsberechnung Geringe Antwortzeiten gefordert Fazit: Ausleuchtung eines Geländes Kein gradientenbasiertes Verfahren (lokale Optima) Kein Monte-Carlo-Verfahren (Aufwand) Lösung: Genetischer Algorithmus ( Tsd Gitterpunkte) Hybridverfahren (GA plus Hill-Climbing)

38 Genetische Algorithmen 23 Anwendungen - Standortoptimierung Problem: Sehr sehr viele lokale Optima Riesige Datenmenge (1-10 Mio Gitterpunkte) Sehr aufwendige Zielfunktionsberechnung Geringe Antwortzeiten gefordert Fazit: Optimale Ausleuchtung eines Geländes Kein gradientenbasiertes Verfahren (lokale Optima) Kein Monte-Carlo-Verfahren (Aufwand) Lösung: Genetischer Algorithmus ( Tsd Gitterpunkte) Hybridverfahren (GA plus Hill-Climbing)

39 Genetische Algorithmen 23 Anwendungen - Standortoptimierung Problem: Sehr sehr viele lokale Optima Riesige Datenmenge (1-10 Mio Gitterpunkte) Sehr aufwendige Zielfunktionsberechnung Geringe Antwortzeiten gefordert Fazit: Ausleuchtungsfunktion (Zielfunktion) Kein gradientenbasiertes Verfahren (lokale Optima) Kein Monte-Carlo-Verfahren (Aufwand) Lösung: Genetischer Algorithmus ( Tsd Gitterpunkte) Hybridverfahren (GA plus Hill-Climbing)

40 Genetische Algorithmen 24 Anwendungen - Statistische Modellierung Drehzahl/Last-Messdaten (Landstraße) Aufgabe: Entwurf einer 2-dimensionalen parametrischen Verteilung Problem: Optimierung (Anpassung) von 12 Modellparametern Abschnittsweise Definition Lösung: Genetischer Algorithmus f(x, y) = f y (x) f(y x), f y (x) = e (Φ a(x)+φm(x)+φe(x)) x [0, 100]% Φ a (x) = χ [0,x a) (x) (α 1 µ 1 x), Φ e (x) = χ [x e,100] (x) (α 2 + µ 2 (x 100)) Φ m (x) = χ [x a,xe] (x) (δ + u(x m x)λ 1 (x x m ) + u(x x m )λ 2 (x m x))

41 Genetische Algorithmen 25 Zusammenfassung Genetische Algorithmen - neues Prinzip der Optimierung nach dem Vorbild der Natur Vorteile Universelle Einsetzbarkeit Einsetzbarkeit für große Probleme Einsetzbarkeit für zeitvariate Umgebungen Nachteile wenige theoretische Grundlagen keine gesicherte Konvergenz zum globalen Optimum Unklare Parameterwahl