Teil I. Heuristische Optimierungsverfahren , VU2. Arten von Optimierungsaufgaben. Einleitung

Transkript

1 Heuristische Optimierungsverfahren , VU2 Zeit: jeweils Dienstag, 13:15 14:45 Uhr Ort: Seminarraum 186 Univ.-Prof. Dr. Günther Raidl Univ.-Ass. DI Andreas Chwatal Arbeitsbereich für Algorithmen und Datenstrukturen Institut für Computergraphik und Algorithmen Technische Universität Wien Homepage der Lehrveranstaltung: RSS-Feed für aktuelle Informationen: WS 2007 Version vom 16. Oktober 2007 Heuristische Optimierungsverfahren 1 Heuristische Optimierungsverfahren 2 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Arten von Optimierungsaufgaben Teil I Einleitung Kombinatorische Probleme diskrete und endliche Menge von Lösungen hiermit beschäftigt sich diese Vorlesung hauptsächlich Kontinuierliche Parameteroptimierung Optimierung nichtlinearer Strukturen, z.b.: Neuronale Netze Computer Programme elektronische Schaltkreise Heuristische Optimierungsverfahren 3 Heuristische Optimierungsverfahren 4

2 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Unimodale und multimodale kontinuierliche Funktionen Kombinatorische Optimierungsprobleme Definition (Kombinatorisches Optimierungsproblem) Ein kombinatorisches Optimierungsproblem ist eine Menge von (Problem-)Instanzen. Eine Instanz ist ein Paar (S, f ), wobei ist. S eine endliche Menge aller zulässigen Lösungen (Suchraum) und f : S R die zu minimierende (oder maximierende) Zielfunktion Aufgabe ist es, eine (global) optimale Lösung zu finden, d.h. ein x S, sodass f (x ) f (x), x S (bzw. f (x ) f (x)). Heuristische Optimierungsverfahren 5 Heuristische Optimierungsverfahren 6 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Beispiele für kombinatorische Optimierungsprobleme Finden von kürzesten Wegen bzw. Rundreisen Routenplanung für Güterzulieferung an Kunden Stundenplanerstellung Scheduling von Prozessen Optimale Investitionsauswahl bei beschränktem Budget Pack- und Verschnittprobleme Design von Kommunikationsnetzwerken Beispiel: Das Traveling Salesman Problem (TSP) Definition (Traveling Salesman Problem) Geg.: Vollständiger Graph G = (V, E) mit Kantengewichten di,j 0, (i, j) E. Ges.: Hamilton scher Kreis mit geringstem Kantengewicht, d.h. eine kürzeste Rundreise bei der jeder Knoten genau 1 besucht wird. Unterklassen: Euklidische Instanzen Symmetrisches TSP, d.h. i, j : di,j = dj,i Asymmetrisches TSP, d.h. i, j di,j dj,i... Heuristische Optimierungsverfahren 7 Heuristische Optimierungsverfahren 8

3 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Beispielinstanz zum TSP (1) Beispielinstanz zum TSP (2) Kürzeste Tour durch 532 Städte in den USA Instanz aus der Leiterplattenherstellung Heuristische Optimierungsverfahren 9 Heuristische Optimierungsverfahren 10 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Praxisrelevante Erweiterung des TSP: Routenplanung Beispiel einer VRP Instanz Vehicle Routing Problem (VRP) Kunden (z.b. Bars) mit geg. Bedarf müssen beliefert werden. Es steht nur ein Depot zur Verfügung (= Ausgangs- und Endpunkt der Lieferfahrzeuge) Für die Auslieferung müssen Fahrzeugrouten gefunden werden, sodass Kapazitätsrestriktionen eingehalten werden. Ziel ist die Anzahl der Routen und/oder die Gesamtstrecke zu minimieren. Geg.: Depot und Kundenknoten Heuristische Optimierungsverfahren 11 Heuristische Optimierungsverfahren 12

4 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Beispiel einer VRP Instanz Häufige praxisrelevante Erweiterungen Restriktionen für Fahrzeuge/Fahrer Kapazitätsrestriktionen maximale Arbeitszeit Zeitfenster für das Verlassen des Depots Ruhepausen des Fahrers Unterschiedliche Kosten für die Fahrzeuge Kosten von Wegstrecken sind zeitabhängig Mögliche Lösung Heuristische Optimierungsverfahren 13 Heuristische Optimierungsverfahren 14 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Häufige praxisrelevante Erweiterungen (contd.) Restriktionen für Kunden Zeitfenster eines Kunden An- und Abholung beim Kunden, Bedarf kann stochastisch sein Zufahrtsrestriktionen für Kunden Prioritäten für Kunden, falls nicht alle beliefert werden können Teillieferungen Schwierige Probleme Manche Optimierungsaufgaben sind schwierig zu lösen, wegen Größe des Suchraums Komplexität der Zielfunktion zu berücksichtigender Randbedingungen Rauschen (Ungenauigkeiten) in der Zielfunktion sich zeitlich ändernder Zielfunktion mehrerer zu berücksichtigender Optimierungsziele ( z.b. eine Menge von Pareto-optimalen Lösungen ist gesucht) Heuristische Optimierungsverfahren 15 Heuristische Optimierungsverfahren 16

5 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Beispiele klassischer Optimierungsmethoden Zufallssuche: globale Methode, sehr allgemein anwendbar, aber meistens ineffizient Aufzählungsmethoden: primitives Aufzählen ineffizient bei größeren Suchräumen besser: beschränkte Enumeration, dynamische Programmierung Branch-and-Bound: Suchraum nach dem Divide-and-Conquer Prinzip rekursiv zerteilen, bis Teilbereiche gelöst oder ausgeschlossen werden können Gradienten-Methoden: lokale Methode, benötigt Ableitung Simplex-Methode: zur Lösung linearer Programme (lineare Zielfunktionen, linearen Randbedingungen, kont. Variablen) Heuristische Optimierungsverfahren 17 Heuristische Methoden Heuristische Methoden liefern nicht unbedingt das Optimum, aber hoffentlich in akzeptabler Zeit gute Näherungslösungen. Man unterscheidet grundsätzlich: Konstruktionsheuristiken: meist sehr problemspezifisch, häufig schnell und einfach aufgebaut Verbesserungsheuristiken: setzen auf Konstruktionsheuristiken auf, versuchen Lösungen schrittweise durch Änderungen zu verbessern problemunabhängigere Prinzipien, oft langsamer aber bessere Ergebnisse Heuristische Optimierungsverfahren 18 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Was ist eine Metaheuristik? Definition (Metaheuristik, nach Voss (1999)) A metaheuristic is an iterative master process that guides and modifies the operations of subordinate heuristics to efficiently produce high-quality solutions. It may manipulate a complete (or incomplete) single solution or a collection of solutions at each iteration. The subordinate heuristics may be high (or low) level procedures, or a simple local search, or just a construction method. Überblick über die in dieser VU behandelte Verfahren Konstruktionsheuristiken Einfache lokale Suche und Varianten Greedy Randomized Adaptive Search Procedures (GRASP) Variable Neighborhood Search Very Large Neighborhood Search Simulated Annealing Tabu Suche Guided Local Search Genetische Algorithmen Evolutionsstrategien Ant Colony Optimization Genetic Programming Heuristische Optimierungsverfahren 19 Heuristische Optimierungsverfahren 20

6 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken No-Free-Lunch Theorem Welches Verfahren ist allgemein das beste? Wolpert und Macready (1996) Alle Optimierungsverfahren sind über alle Probleme betrachtet gleich gut. Konstruktionsheuristiken Das gilt z.b. auch für die Zufallssuche! Man kann die Leistungsfähigkeit unterschiedlicher Optimierungsverfahren immer nur in Bezug auf bestimmte Aufgabenstellungen vergleichen. Heuristische Optimierungsverfahren 21 Heuristische Optimierungsverfahren 22 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Konstruktionsheuristiken Häufiges Schema: starte mit einer leeren Lösung füge in jedem Schritt eine Lösungskomponente hinzu Greedy Verfahren: Bewerte weitere Lösungskomponenten mit einer heuristischen Funktion und wähle jeweils die lokal beste procedure Greedy Konstruktionsheuristik begin x leere Lösung; while x ist keine vollständige Lösung do e aktuell günstigste Erweiterung für x; x x e; end; end Heuristische Optimierungsverfahren 23 Beispiele für Konstruktionsheuristiken Minimaler Spannbaum: Prims und Kruskals Algorithmen (greedy, liefern globales Optimum) 0/1-Rucksack Problem: Greedy Heuristiken TSP: Nearest-Neighbor Heuristik (greedy) Insertion-Heuristiken (greedy) Spannbaum Heuristik (Gütegarantie 2 für Eukl. Instanzen) Christophides Heuristik (Gütegarantie 1.5 für Eukl. Instanzen) Einige dieser Algorithmen bieten Gütegarantien Approximationsalgorithmen Heuristische Optimierungsverfahren 24

7 Einleitung Konstruktionsheuristiken Einleitung Konstruktionsheuristiken Beispiel zur Nearest-Neighbor Heuristik (1) Beispiel zur Nearest-Neighbor Heuristik (2) Heuristische Optimierungsverfahren 25 Heuristische Optimierungsverfahren 26 Einleitung Insertion-Heuristiken für das TSP Konstruktionsheuristiken Beginne mit einer Tour aus 3 Städten (oder bei Euklidischer Instanz: konvexe Hülle) Füge alle restlichen Städte iterativ hinzu bis Tour komplett. Strategien zur Wahl der nächsten Stadt: Random Insertion: Einfügen einer zufällig gewählten Stadt Nearest Insertion: Einfügen einer Stadt mit geringster Entfernung zu einer Stadt aus Tour Farthest Insertion: Einfügen einer Stadt bei der die geringste Entfernung zu Stadt aus Tour maximal ist Einfügeposition Nach der nächstgelegenen Stadt in Tour Wahl durch Minimierung der Tourlänge Teil II Nachbarschaftsbasierende Verfahren Heuristische Optimierungsverfahren 27 Heuristische Optimierungsverfahren 28

8 Einfache Lokale Suche Einfache Lokale Suche und Varianten procedure Lokale Suche begin x Ausgangslösung; repeat: wähle ein x N(x); if f (x ) f (x) then x x ; until Abbruchkriterium erfüllt; end N(x): Nachbarschaft von x (Wir gehen von Minimierung aus.) Heuristische Optimierungsverfahren 29 Heuristische Optimierungsverfahren 30 Bestandteile der lokalen Suche Definition der Lösungsrepräsentation und einer Zielfunktion f (x) Initialisierung der Anfangslösung Nachbarschaftsstruktur, d.h. welche Lösungen sind benachbart? Schrittfunktion, d.h. in welcher Reihenfolge wird die Nachbarschaft durchsucht bzw. welche Nachbarlösung wird gewählt? Abbruchbedingung Nachbarschaftsstruktur Definition (Nachbarschaftsstruktur) Eine Nachbarschaftsstruktur ist eine Funktion N : S 2 S, die jeder gültigen Lösung x S eine Menge von Nachbarn N(x) S zuweist. N(x) wird auch Nachbarschaft (von x) genannt. Die Nachbarschaft ist üblicherweise implizit durch mögliche Veränderungen (Züge, Moves) definiert Darstellung als Nachbarschaftsgraph möglich Größe der Nachbarschaft vs. Suchaufwand Heuristische Optimierungsverfahren 31 Heuristische Optimierungsverfahren 32

9 Bsp.: Aussagenlogisches Erfüllbarkeitsproblem (SAT) Definition (Satisfiability Problem) Geg.: Eine aussagenlogische Formel in konjunktiver Normalform, z.b. (x1 x2) (x 1 x 2) Ges.: Zuweisung von 1 ( true ) und 0 ( false ), sodass alle Klauseln erfüllt sind. Optimierungs-Variante: MAX-SAT: Anzahl der erfüllten Klauseln soll maximiert werden. Lösungsrepräsentation: Binärer Vektor x konzeptionell eines der einfachsten Probleme NP-vollständig eines der grundlegendsten Probleme der Informatik Beispiel: Nachbarschaftsstruktur für binäre Vektoren k-flip Nachbarschaft: Lösungen haben Hamming-Distanz k, d.h. sie unterscheiden sich in maximal k Bit. Nachbarschaftsgröße: O(n k ) Grafik: Der Suchraum von binären Vektoren der Länge n kann durch einen n-dimensionalen Hypercube dargestellt werden. Heuristische Optimierungsverfahren 33 Heuristische Optimierungsverfahren 34 Beispiel: Symmetrisches TSP Ausgangslösung ist eine beliebige Tour k-exchange (k-opt) Nachbarschaft: Touren, die sich in maximal k Kanten unterscheiden Nachbarschaftsgröße: O(n k ) Beispiel: 2-exchange Zug für das TSP Beispiel: Symmetrisches TSP (contd.) k-opt Lösung kann nicht mehr durch Austausch von k Kanten verbessert werden mit größerem k steigt Lösungsgüte aber auch Laufzeit 4-opt in der Praxis schon zu teuer Verschiedene andere Nachbarschaften: node-displacement für das asymmetrische TSP meist besser geeignet 2.5-opt Lin-Kernighan Heuristische Optimierungsverfahren 35 Heuristische Optimierungsverfahren 36

10 2-opt Lösungen zum TSP (1) 2-opt Lösungen zum TSP (2) Heuristische Optimierungsverfahren 37 Heuristische Optimierungsverfahren 38 Schrittfunktion (Auswahl von x ) Random Neighbor: Generiere immer eine zufällige Nachbarlösung aus N(x). Next Improvement: Durchsuche N(x) in einer festen Reihenfolge, nimm erste Lösung, die mindestens so gut wie x ist. Best Improvement: Durchsuche N(x) vollständig und nimm die beste Nachbarlösung. Wahl kann starken Einfluss auf Performance haben, aber es gibt keine Strategie die immer besser ist als die anderen! Heuristische Optimierungsverfahren 39 Analyse-Beispiel: Das OneMax Problem Definition (OneMax Problem) Lösungsraum: Binäre Vektoren x {0, 1} n n Zielfunktion: f (x) = dh(x, x ) = xi xi (Hammingdistanz), i=1 wobei x ein vorgegebene Optimum ist, hier z.b. x = (1,..., 1). Wir betrachten eine lokale Suche mit: Ausgangslösung = zufälliger Bitstring 1-flip Nachbarschaft Random Neighbor Schrittfunktion Frage: Wie hoch ist die Laufzeit der lokalen Suche bis das Optimum x gefunden wurde? Heuristische Optimierungsverfahren 40

11 Offensichtlich: Best-case Laufzeit: Tbest = Θ(n) (Ausgangslösung ist x ) Worst-case Laufzeit: Tworst = Bei stochastischen Algorithmen ist vor allem die erwartete Laufzeit interessant: Wir definieren Zustände Z0 bis Zn, wobei sich der Algorithmus genau dann in Zustand Zi befindet, wenn f (x) = i. Zu erwartender Anfangszustand: Heuristische Optimierungsverfahren 41 Chernoffs Ungleichung bestätigt, dass die Abweichungen von diesem erwarteten Anfangszustand i.a. klein sind: Seien (X1,..., Xn) {0, 1} unabhängige Zufallsvariablen. Sei pi = Pr(Xi = 1). Sei X = X Xn Der Erwartungswert ist E(X ) = p pn, und es gilt für 0 δ 1 Pr(X (1 δ)e(x )) e E(X )δ2 /2 und für alle δ > 0: ( Pr(X > (1 + δ)e(x )) e δ (1 + δ) 1+δ )E(X ). Eine für unseren Fall interessante Folgerung ist z.b.: Die Wahrscheinlichkeit, dass weniger als 1/3 der Bits richtig sind ist beschränkt mit e n/36. Heuristische Optimierungsverfahren 42 Wahrscheinlichkeit Zi Zi 1 in einer Iteration: pi = i n, i = 1,..., n Zu erwartende Anzahl von notwendigen Iterationen bis Zi ti = 1 = n pi i Wir summieren ti für i = n/2,..., 1: n/2 n/2 n 1 = n = n H i i n/2 n ln n 2 i=1 i=1 Hk... k-te Harmonische Zahl: ln (k + 1) < Hk 1 + ln k Hk ln k Zi 1: Aufwand pro Iteration: Θ(n) für vollständige Berechnung des Zielfunktionswertes Erwartete Gesamtlaufzeit: Texpected = Θ(n 2 log n) Heuristische Optimierungsverfahren 43 Heuristische Optimierungsverfahren 44

12 Inkrementelle Berechnung des Zielfunktionswertes = einfache und sehr effektive Verbesserung: ausgehend vom Zielfunktionswert f (x) der aktuellen Lösung x wird nur der durch den betrachteten Zug verursachte Unterschied f (x, x ) ermittelt und hinzugezählt: Aufwand pro Iteration: Θ(1) Erwartete Gesamtlaufzeit: f (x ) = f (x) + f (x, x ) Texpected = Θ(n log n) Die inkrementelle Bewertung ist auch für viele schwierige Optimierungsaufgaben aus der Praxis eine wichtige Beschleunigungsmöglichkeit! Heuristische Optimierungsverfahren 45 Das Coupon Collector s Theorem bestätigt, dass die Wahrscheinlichkeit einer Abweichung von dieser Laufzeit exponentiell klein ist: Es gibt n unterschiedliche Typen von Sammelkarten In jeder Iteration wird eine zufällig gewählt, jede Type ist immer gleich wahrscheinlich. Wir interessieren uns für Anzahl der Iterationen X bis wir von jedem Typ mindestens eine Karte haben. Es gilt: und lim Pr(X n ln n cn) = e ec n lim Pr(X n ln n + cn) = 1 e e c n Heuristische Optimierungsverfahren 46 OneMax: Next Improvement Schrittfunktion Genauer: Immer alle Bits in der Reihenfolge 1, 2,...durchgehen; wenn ein Bitflip eine Verbesserung ergibt, ist diese Lösung x. Laufzeiten bei inkrementeller Bewertung: Tbest = Θ(n) Tworst = Θ(n 2 ) Durchschnittlicher, erwarteter Aufwand, um x zu bestimmen: Θ(n/2) Bei n/2 erwarteten Iterationen ist die erwartete Gesamtlaufzeit: ( (n ) ) 2 Texpected = Θ = Θ(n 2 ) 2 OneMax: Best Improvement Schrittfunktion Da alle möglichen Verbesserungen immer gleich gut sind, ist hier der höhere Aufwand im Vergleich zu next improvement vergeudet. Die Komplexität der Laufzeit ist allerdings unverändert: Tbest = Θ(n) Tworst = Texpected = Θ(n 2 ) Leider sind solche Analysen für interessante Probleme aus der Praxis kaum möglich! Heuristische Optimierungsverfahren 47 Heuristische Optimierungsverfahren 48

13 Problem der lokalen Suche Die einfache lokale Suche findet im allgemeinen nur lokal optimale Lösungen: Problem der lokalen Suche Definition Ein lokales Minimum in Bezug auf eine Nachbarschaftsstruktur N ist eine Lösung x für die gilt: f (x) f (x ) x N(x). Es kann aber ein x S geben, für das f (x ) < f (x ). Nachbarschaftsstruktur bestimmt welche Lösungen lokale Minima sind globale Minima sind spezielle lokale Minima Was wir uns wünschen würden: kleine exakte Nachbarschaften, in denen jedes lokale Minimum auch ein globales Minimum ist Heuristische Optimierungsverfahren 49 Heuristische Optimierungsverfahren Nachbarschaftsvergrößerung i.a. wenigere und bessere lokale Minima mit größeren basins of attraction Einfache Verbesserungsmöglichkeiten basin of attraction A(x): Teilmenge aller Lösungen, für die die Anwendung der einfachen lokalen Suche das lokale Optimum x ergibt. i.a. bessere Ergebnisse, der Zeitaufwand steigt aber auch stark an z.b. k-exchange für das TSP: O(n k ) Nachbarlösungen in der Praxis ist k > 3 kaum mehr durchführbar bzw. sinnvoll Heuristische Optimierungsverfahren 51 Heuristische Optimierungsverfahren 52

14 2. Multi-start lokale Suche Lokale Suche von mehreren unterschiedlichen Ausgangslösungen aus durchführen sehr einfache Verbesserung, erfordert aber natürlich mehr Zeit effektiv wenn relativ wenige lokale Minima bzw. das globale Optimum ein großes basin of attraction besitzt Heuristische Optimierungsverfahren Iterierte lokale Suche (ILS) procedure Iterierte Lokale Suche begin x Ausgangslösung; x lokale Suche (x); repeat: x Perturbation (x); x lokale Suche (x ); if f (x ) f (x) then x x ; until Abbruchkriterium erfüllt; end Perturbation: Zufälliger Zug in einer größeren Nachbarschaft bzw. eine Serie von zufälligen Zügen in kleineren Nachbarschaften Heuristische Optimierungsverfahren 54 Greedy Randomized Adaptive Search Procedure (GRASP) Grundlegende Idee: Greedy Randomized Adaptive Search Procedure (GRASP) Eine Greedy-Konstruktionsheuristik wird systematisch randomisiert, um viele gute Startlösungen für eine nachfolgende lokale Suche zu generieren Erste Ansätze von Feo und Resende (1989) Heuristische Optimierungsverfahren 55 Heuristische Optimierungsverfahren 56

15 Randomisierung von Greedy-Konstruktionsheuristiken Mechanismen zur Bestimmung von RCL procedure Randomisierte Greedy Heuristik begin x leere Lösung; while x ist keine vollständige Lösung do CL alle möglichen Lösungskomponenten zur Erweiterung von x; bestimme RCL CL vielversprechender Erweiterungen; wähle eine Erweiterung e RCL zufällig; x x e; end; end CL: candidate list RCL: restricted candidate list Nimm die k kostengünstigsten Lösungskomponenten Seien cmin und cmax die geringsten bzw. höchsten Komponentenkosten in CL. Übernehme ein e CL in RCL wenn c(e) cmin + α (cmax cmin), α [0, 1] α = 0 ˆ= greedy Konstruktionsheuristik α = 1 ˆ= zufällige Lösungskonstruktion Heuristische Optimierungsverfahren 57 Heuristische Optimierungsverfahren 58 Nachfolgende lokale Suche typischerweise best improvement Schrittfunktion Vorteile, wenn lokale Suche von mehreren greedy-randomized Lösungen gestartet wird: im allgemeinen geringere Varianz und höhere Endlösungsgüte als bei Start von reinen Zufallslösungen lokale Suche benötigt im allgemeinen wenige Iterationen schnell es können in der gleichen Zeit mehr Ausgangslösungen lokal optimiert werden durch die Randomisierung und Wiederholung meist bessere Endlösung als einfacher Aufruf der greedy Heuristik + lokale Suche Erweiterungen von GRASP Auswahl aus RCL mit Bias: Lösungskomponenten in RCL werden mit unterschiedlichen Wahrscheinlichkeiten ausgewählt; z.b. proportional zu 1/c(e) Automatisches Einstellen von α: zufällige Wahl des Parameters Reactive GRASP Verwendung eines Gedächnisses Verwendung einer Elite guter Lösungen zur Steuerung des Konstruktionsprozesses Einfache Parallelisierung Heuristische Optimierungsverfahren 59 Heuristische Optimierungsverfahren 60

16 Bsp.: Quadratic Assignment Problem (QAP) Definition (Quadratic Assignment Problem) Geg.: n Abteilungen, n Standorte D = (Di,j) R n n : Distanzen zwischen Standorte F = (Fi,j) R n n : Verkehr zwischen Abteilungen Ges.: Zuordnung der Abteilungen zu Standorten, d.h. eine Permutation x : {1,..., n} {1,..., n}, mit minimaler Gesamtwegstrecke n n f (x) = Fi,jDxi,xj i=1 j=1 Bsp.: GRASP für QAP (Li, Pardalos, Resende, 1994) greedy-funktion: Kosten der Interaktion von neuen Abteilung/Standort Paaren bzgl. der schon vorhandenen, partiellen Lösung Beschränkung der Kandidatenliste durch Größe k zufällige Wahl eines Abteilung/Standort Paares aus RCL 2-exchange lokale Suche (d.h. Nachbarschaft: Austausch zweier Abteilungen) Heuristische Optimierungsverfahren 61 Heuristische Optimierungsverfahren 62 Bsp.: Aussagenlogisches Erfüllbarkeitsproblem (SAT) Definition (Satisfiability Problem) Geg.: Eine aussagenlogische Formel in konjunktiver Normalform, z.b. (x1 x2) (x 1 x 2) Ges.: Zuweisung von 1 ( true ) und 0 ( false ), sodass alle Klauseln erfüllt sind. Optimierungs-Variante: MAX-SAT: Anzahl der erfüllten Klauseln soll maximiert werden. Lösungsrepräsentation: Binärer Vektor x konzeptionell eines der einfachsten Probleme NP-vollständig eines der grundlegendsten Probleme der Informatik Bsp.: GRASP für SAT (Resende, Feo, 1996) greedy-funktion: Anzahl der noch nicht erfüllten Klauseln, die nach einer Variableninstantiierung mit 1 bzw. 0 erfüllt sein würden Sei Φ + i : Menge der zusätzlich erfüllten Klauseln, wenn xi = 1 Sei Φ i : Menge der zusätzlich erfüllten Klauseln, wenn xi = 0 RCL-Beschränkung: Sei Φ = maxi=1,...,n{ Φ + i, Φ i xi noch nicht instantiiert} Φ + i α Φ (xi = 1) RCL Φ i α Φ (xi = 0) RCL Heuristische Optimierungsverfahren 63 Heuristische Optimierungsverfahren 64

17 Bsp.: GRASP für SAT (contd.) Zusammenfassung zu GRASP Auswahl von RCL: falls eine unerfüllte Klausel nur eine nicht instantiierte Variable enthält, versuche diese Klausel zu erfüllen ansonsten wähle ein Element von RCL zufällig best improvement 1-flip lokale Suche einfach zu implementierende Erweiterung von Konstruktionsheuristiken wenige Parameter viele Anwendungen oft relativ schnell bei relativ guten Ergebnissen Heuristische Optimierungsverfahren 65 Heuristische Optimierungsverfahren 66 Variable Neighborhood Search (Hansen und Mladenovic, 1997) Dieses Verfahren macht sich folgende Eigenschaften zu Nutze: Variable Neighborhood Search (VNS) 1 Ein lokales Optimum in Bezug auf eine Nachbarschaftsstruktur ist nicht unbedingt ein lokales Optimum in Bezug auf eine andere. 2 Ein globales Optimum ist ein lokales Optimum in Bezug auf alle möglichen Nachbarschaftsstrukturen. 3 Für viele Probleme liegen lokale Optima relativ nahe beieinander. Heuristische Optimierungsverfahren 67 Heuristische Optimierungsverfahren 68

18 Variable Neighborhood Descent (VND) Nachbarschaftsstrukturen N1,..., Nlmax werden systematisch gewechselt. procedure Variable Neighborhood Descent (x) begin l 1; repeat: finde ein x mit f (x ) f (x ), x Nl(x); if f (x ) < f (x) then x x ; l 1; else l l + 1; until l > lmax; return x; end Variable Neighborhood Descent (contd.) Schrittfunktion: üblicherweise best oder next improvement Es wird eine Lösung erreicht, die in allen Nachbarschaftsstrukturen lokal optimal ist. Ordnung der Nachbarschaftsstrukturen: meist nach Größe bzw. Komplexität der Auswertung oder zufällig Beispiel: Vehicle Routing Problem (VRP) N1(x): 2-exchange innerhalb der einzelnen Touren N2(x): Verschieben einer Stadt von einer Tour zu einer anderen N3(x): Austausch zweier Städte über Touren hinweg N4(x): 3-exchange innerhalb der einzelnen Touren... Heuristische Optimierungsverfahren 69 Heuristische Optimierungsverfahren 70 Reduced Variable Neighborhood Search (RVNS) RVNS ist ein Rahmenwerk, um lokalen Optima zu entkommen. Die Grundidee ist die zufällige Auswahl von Nachbarlösungen aus immer größer werdenden Nachbarschaften. Wiederum gibt es ein Pool unterschiedlicher Nachbarschaftsstrukturen N1,..., Nkmax, nun aber mit folgenden Eigenschaften: Es gibt auch wesentlich größere Nachbarschaftsstrukturen, die i.a. nicht vollständig durchsucht werden können. Die Nachbarschaftsstrukturen sind nach ihrer Größe bzw. der Entfernung Ihrer Lösungen von der Ausgangslösung nach sortiert. procedure Reduced VNS (x) begin repeat: k 1; repeat: Shaking: generiere zufälliges x Nk(x); if f (x ) < f (x) then x x ; k 1; else k k + 1; until k > kmax; until Abbruchkriterium erfüllt; return x; end Heuristische Optimierungsverfahren 71 Heuristische Optimierungsverfahren 72

19 Zu den Nachbarschaftsstrukturen N 1,..., N kmax Um das Hängenbleiben in einem lokalen Optimum zumindest theoretisch sicher zu vermeiden, sollte die Vereinigung aller N1(x),..., Nkmax (x) den gesamten Raum S aller gültigen Lösungen beinhalten: S N1(x) N2(x) Nkmax, x S Die einzelnen Nachbarschaften können, müssen aber nicht disjunkt sein. Oft sind geschachtelte Nachbarschaften die einfachste Wahl: N1(x) N2(x) Nkmax, x S Dies kann beispielsweise erreicht werden, indem das Shaking in der Nachbarschaft Nk durch k hintereinander ausgeführte Züge in der N1-Nachbarschaftsstruktur realisiert wird. Heuristische Optimierungsverfahren 73 Basic Variable Neighborhood Search (BVNS) RVNS wird um eine einfache lokale Suche erweitert: procedure Basic VNS (x) begin repeat: k 1; repeat: Shaking: generiere zufälliges x Nk(x); x lokale Suche(x ); if f (x ) < f (x) then x x ; k 1; else k k + 1; until k > kmax; until Abbruchkriterium erfüllt; return x; end Heuristische Optimierungsverfahren 74 General Variable Neighborhood Search (GVNS) Kombiniert RVNS mit VND. Die Nachbarschaftsstrukturen der VNS (N1,..., Nkmax ) und des VND (N1,..., Nlmax ) sind nicht ident! procedure General VNS (x) begin repeat: k 1; repeat: Shaking: generiere zufälliges x Nk(x); // x lokale Suche mit VND (x ): l 1; repeat: finde ein x mit f (x ) f (x ), x Nl (x ); if f (x ) < f (x ) then x x ; l 1; else l l + 1; until l > lmax; if f (x ) < f (x) then x x ; k 1; else k k + 1; until k > kmax; until Abbruchkriterium erfüllt; return x; end Heuristische Optimierungsverfahren 75 Heuristische Optimierungsverfahren 76

20 Variable Neighborhood Decomposition Search (VNDS) Variante bzw. Erweiterung von (Basic) VNS. procedure VNDS (x) begin repeat: k 1; repeat: Shaking: generiere zufälliges x Nk(x); Y Menge der Variablen, in denen sich x und x unterscheiden; x lokale Suche oder Verb.heuristik (x ), bei der die Variablen x \ Y fixiert bleiben, d.h. nur Variablen in Y werden optimiert; if f (x ) < f (x) then x x ; k 1; else k k + 1; until k > kmax; until Abbruchkriterium erfüllt; return x; end Variable Tiefensuche Heuristische Optimierungsverfahren 77 Heuristische Optimierungsverfahren 78 Variable Tiefensuche komplexere Züge werden aus einer Aneinanderkettung einfacher Züge aufgebaut Anzahl einfacher Züge ist variabel Züge sind nicht unabhängig von einander Nachbarschaft wird durch Restriktionen beschränkt vielversprechende Zugkombinationen werden weiterverfolgt, wenig sinnvoll erscheinende Zugkombinationen verworfen Bsp.: Lin-Kernighan Heuristik für das TSP komplexere Züge werden aus Folge abhängiger 2-exchange Züge aufgebaut variable Anzahl von Kanten kann ausgetauscht werden Nachbarschaft in polynomieller Zeit durchsuchbar Für jeden 2-exchange Zug wird zuvor ein δ-pfad als Zwischenergebnis betrachtet; dieser entsteht durch Austausch einer ersten Kante: v w v u w v u w u u u Heuristische Optimierungsverfahren 79 Heuristische Optimierungsverfahren 80

21 Prinzip der Lin-Kernighan Heuristik für das TSP Prinzip der Lin-Kernighan Heuristik für das TSP (contd.) Starte mit Tour T Erzeuge Folge von δ-pfaden solange der δ-pfad kürzer als T Berechne zu jedem δ-pfad Pi zugehörige Tour T (Pi) Falls T (P) kürzer als T, setze T T (P) Setze Reihe der δ-pfade fort bis δ-pfad länger als beste Tour Neu hinzugefügte oder gelöschte Kanten dürfen nicht wieder gelöscht bzw. hinzugefügt werden. Definitionen für den nachfolgenden Pseudocode: x1, x2,...: aus der Ausgangstour T zu entfernende Kanten y1, y2,...: zur Ausgangstour T hinzuzufügende Kanten Gi: gain des i-ten δ-pfades, d.h. Länge von T Länge von Pi lange Zeit beste Heuristik für TSP effiziente Implementierung nicht trivial Heuristische Optimierungsverfahren 81 Heuristische Optimierungsverfahren 82 Lin-Kernighan Heuristik 1 Generate an initial tour T. 2 Let i = 1. Choose t1. 3 Choose x1 = (t1, t2) T. 4 Choose y1 = (t2, t3) T such that G1 > 0. If this is not possible, go to Step Let i = i Choose xi = (t2i 1, t2i ) T such that (a) if t2i is joined to t1, the resulting configuration is a tour, T, and (b) xi ys for all s < i. If T is a better tour than T, let T = T and go to Step 2. 7 Choose yi = (t2i, t2i+1) T such that (a) Gi > 0, (b) yi xs for all s i, and (c) xi+1 exists. If such yi exists, go to Step 5. 8 If there is an untried alternative for y2, let i = 2 and go to Step 7. 9 If there is an untried alternative for x2, let i = 2 and go to Step If there is an untried alternative for y1, let i = 1 and go to Step If there is an untried alternative for x1, let i = 1 and go to Step If there is an untried alternative for t1, then go to Step 2. Zusammenfassendes zur variablen Tiefensuche Die Lin-Kernighan Heuristik für das TSP ist ein prominentes Beispiel, von dem es viele Varianten gibt. Das Grundprinzip wird häufig auch vereinfacht eingesetzt, um große Nachbarschaften sinnvoll einzuschränken: (Teil-)Züge werden nur ausgeführt, wenn diese im Sinne eines bestimmten Kriteriums vielversprechend sind. Beispiel: MAX-SAT: Anstatt alle k-flip Züge zu evaluieren, kann man sich auf jene Variablen beschränken, die in verletzten Klauseln vorkommen. Häufig werden komplexere Nachbarschaften auch so definiert, dass besonders teure (ineffiziente) Lösungskomponenten identifiziert werden und versucht wird günstigeren Ersatz zu finden. Heuristische Optimierungsverfahren 83 Heuristische Optimierungsverfahren 84

22 Very Large Neighborhood Search (VLNS) Grundidee: Es wird eine spezielle, sehr große Nachbarschaftsstruktur N(x) gewählt, in der die beste Lösung jedoch effizient bestimmt werden kann. Very Large Neighborhood Search (VLNS) Oft ist N(x) exponentiell von der Problemgröße abhängig; die beste Nachbarlösung kann trotzdem in polynomieller Zeit gefunden werden. Es wird nicht jede Nachbarlösung explizit evaluiert. Oft beinhaltet N(x) alle Lösungen, die von x aus durch eine beliebigen Serie unabhängiger Züge erreicht werden können. Heuristische Optimierungsverfahren 85 Heuristische Optimierungsverfahren 86 Ansätze zur effizienten Nachbarschaftsdurchsuchung Dynamische Programmierung Dynasearch über das Finden von Zyklen mit minimalen Kosten in einem Improvement-Graphen über das Finden von kürzesten Pfaden über das Lösen von Minimum Cost Assignment oder Matching Probleme über effiziente Verfahren zur Lösung von Spezialfällen des Problems und entsprechenden Nachbarschaftsstrukturen Bsp. zu effizienten Verfahren zur Lösung von Spezialfällen: TSP Ein Halin Graph ist ein Graph, der wie folgt konstruiert werden kann: Es wird ein Baum erstellt, der keine Knoten vom Grad 2 besitzt Der Baum wird kreuzungsfrei in der Ebene gezeichnet. Seine Blätter werden mit zusätzlichen Kanten kreuzungsfrei zu einem Zyklus verbunden. Für Halin Graphen kann das TSP in der Zeit O(n) gelöst werden. Heuristische Optimierungsverfahren 87 Heuristische Optimierungsverfahren 88

23 i i Bsp. zu effizienten Verfahren zur Lösung von Spezialfällen: TSP (contd.) Bsp. Nachbarschaftsdurchsuchung mittels Assignment: TSP Definition (Halin-Nachbarschaft N(x)) Erweitere aktuelle Tour x durch Hinzufügen geeigneter Kanten zu einem möglichst großen Halin Graphen. Das kann z.b. durch greedy Verfahren, die kurze Kanten bevorzugen, oder auch durch Hinzunahme zufälliger Kanten erfolgen. N(x) entspricht allen zulässigen Touren in diesem Halin Graphen. Größe der Nachbarschaft: Ω(2 n ) Zeit für das Finden der besten Nachbarlösung: O(n) Definition (Remove-and-restricted-reinsert Nachbarschaft N(x)) Wähle k Städte der aktuellen Tour und ersetze sie und ihre inzidenten Kanten durch direkte Verbindungen der jeweiligen Nachbarknoten. reduzierte Tour T N(x) beinhaltet alle Touren, die aus der reduzierten Tour entstehen können indem die entfernten Knoten wiederum eingefügt werden, wobei jedoch keine zwei zuvor entfernten Knoten unmittelbar nebeneinander zu liegen kommen dürfen. Heuristische Optimierungsverfahren 89 Heuristische Optimierungsverfahren 90 Bsp. Nachbarschaftsdurchsuchung mittels Assignment: TSP (contd.) 8 8 h h g 1 g 1 a 6 6 a f e c k k d b 3 3 a i k g h Minimum Cost Matching a Improvement Graph: i k g h Bsp. Nachbarschaftsdurchsuchung mittels Assignment: TSP (contd.) Finden der besten Nachbarlösung in N(x): Konstruiere einen vollständigen, bipartiten Improvement Graphen: Knotenmenge: VR: Knoten für alle entfernten Städte VT Knoten für alle Kanten in reduzierter Tour T Kantenmenge: Kanten (i, (u, v)) zwischen allen Stadt-Knoten i VR und Kanten-Knoten (u, v) VT Kantenkosten entsprechen Änderung der Tourlänge, wenn der Knoten i zwischen u und v eingefügt wird: c(i, (u, v)) = d(u, i) + d(i, v) d(u, v) Heuristische Optimierungsverfahren 91 Heuristische Optimierungsverfahren 92

24 Bsp. Nachbarschaftsdurchsuchung mittels Assignment: TSP (contd.) Finde im Improvement Graphen ein Matching mit geringsten Kosten (Zeitaufwand: O(n 3 )) Bsp.: Cyclic Exchange für Partitionierungsprobleme In vielen Problemen müssen Elemente einer Menge S in disjunkte Teilmengen Si, i = 1,..., m, partitioniert werden: Dieses liefert die Stellen, an denen die entfernten Städte in der modifizierten Tour wieder eingefügt werden. Größe der Nachbarschaft wenn k = n/2 : Ω( n/2!) Zeit für das Finden der besten Nachbarlösung: O(n 3 ) Heuristische Optimierungsverfahren 93 Unabhängige Kosten für jede Partition Si: c(si) Gesamtkosten: m i=1 c(si) Heuristische Optimierungsverfahren 94 Bsp.: Cyclic Exchange für Partitionierungsprobleme (ctd.) Beispiele derartiger Probleme: Das Vehicle Routing Problem (VRP) Das Capacitated Minimum Spanning Tree Problem: die Anzahl der in jedem Teilbaum enthaltenen Knoten ist beschränkt Bsp.: Cyclic Exchange für Partitionierungsprobleme (ctd.) Einfache Nachbarschaften Verschieben eines Elements in eine andere Menge Austausch zweier Elemente unterschiedlicher Mengen Allgemeines Verschieben bzw. Austauschen von k > 2 Elementen häufig schon zu aufwendig! Cyclic Exchange Nachbarschaft Zyklischer Austausch jeweils eines Elements über beliebig viele Teilmengen hinweg: N(x) = O(n m ) Heuristische Optimierungsverfahren 95 Heuristische Optimierungsverfahren 96

25 Bsp.: Cyclic Exchange für Partitionierungsprobleme (ctd.) Lösungsansatz: Erstelle einen gerichteten Improvement Graphen: Knoten: für alle Elemente in S Kanten: für alle Elementpaare (a, b) S 2 a Si, b Sj, i j Bedeutung von Kante (a, b): Element a wird von Si nach Sj verschoben und Element b wird von Sj entfernt Kantenkosten = Kostenänderung in Sj: c(a, b) = f (Sj b \ j) f (Sj) Finde einen Kreis in diesem Graphen, mit negativen Kosten und bei dem alle Knoten in unterschiedlichen Teilmengen liegen. Ein solcher Kreis entspricht einem zyklischen Austausch, der die aktuelle Lösung verbessert. Heuristische Optimierungsverfahren 97 Bsp.: Cyclic Exchange für Partitionierungsprobleme (ctd.) ABER: Das Finden eines solchen Kreises ist selbst ein NP-schwieriges Problem! Trotzdem: In der Praxis kann dieses Subproblem mit schnellen Heuristiken relativ gut gelöst werden. Cyclic Exchange Nachbarschaftsstrukturen haben sich für etliche Anwendungen sehr bewährt. Heuristische Optimierungsverfahren 98 Zusammenfassung zu VLNS Sehr große Nachbarschaften werden speziell definiert, sodass eine bessere Nachbarlösung effizient gefunden werden kann. Für manche Probleme sehr gute Ergebnisse Simulated Annealing Sehr problemspezifisch Algorithmisch häufig anspruchsvoller als andere Metaheuristiken Heuristische Optimierungsverfahren 99 Heuristische Optimierungsverfahren 100

26 Simulated Annealing (SA) erster Ansatz um bei lokaler Suche lokalen Optima zu entkommen (Kirkpatrick et al. 1983) inspiriert von physikalischem Verfahren des Annealing von Kristallen naturinspiriertes Verfahren Grundidee: Auch schlechtere Lösungen werden mit bestimmter Wahrscheinlichkeit akzeptiert. basiert üblicherweise auf die random neighbor Schrittfunktion procedure Simulated Annealing begin t 0; T Tinit; x Ausgangslösung; repeat: repeat: wähle ein x N(x) zufällig; if x ist besser als x then x x ; sonst if Z < e f (x ) f (x) /T then x x ; t t + 1; until Temperatur-Updatekriterium erfüllt; T g(t, t); until Abbruchkriterium erfüllt; end Metropolis-Kriterium: Z < e f (x ) f (x) /T Z... Zufallszahl [0, 1) Annealing: Temperatur T wird langsam erniedrigt Heuristische Optimierungsverfahren 101 Heuristische Optimierungsverfahren 102 Zu entscheiden: Abkühlungsplan Bsp.: Simulated Annealing für TSP Anfangstemperatur Tinit z.b. basierend auf bekannte Schranken: Tinit = fmax fmin z.b. so wählen, dass 3% der Züge anfangs abgelehnt werden Änderungsfunktion g(t, t) Geometrisches Cooling: g(t, t) = T α, α < 1, (z.b. α = 0.95) Anzahl der Iterationen auf jedem Temperaturniveau z.b. Vielfaches der Nachbarschaftsgröße Abbruchkriterium z.b. wenn bestimmte Temperatur erreicht wurde oder wenn keine Verbesserung über τ Temperaturniveaus Einfache Implementierung: (Johnson, McGeoch, 1997) Start mit zufälliger Ausgangstour 2-exchange Nachbarschaft Abkühlungsplan: Tinit so, dass 3% der Züge abgelehnt geometisches Abkühlen, α = 0.95 Iterationen pro Temperatur: n(n 1) Abbruch: 5 Temperaturen ohne Verbesserung relativ schlechte Ergebnisse Heuristische Optimierungsverfahren 103 Heuristische Optimierungsverfahren 104

27 Bsp.: Simulated Annealing für TSP (contd.) Wesentliche Verbesserungen Start mit guten Ausgangslösungen von Konstruktionsheuristiken Beschränkung der Nachbarschaft auf vielversprechendere Züge Bsp.: SA für Graphenbipartitionierung Definition (Graphenbipartitionierung) Geg.: Graph G = (V, E) Ges.: Partitionierung von G in zwei Knotenmengen V1, V2, mit V1 = V2 und V1 V2 = V, minimize {(u, v) E u V1 v V2} Dennoch: Im Vergleich zu führenden Verfahren für das TSP nicht wettbewerbsfähig. Heuristische Optimierungsverfahren 105 Heuristische Optimierungsverfahren 106 Bsp.: SA für Graphenbipartitionierung (contd.) Kodierung der Lösung: Charakteristischer Vektor x = (x1,..., xn), n = V Knoten i wird Menge Vxi zugewiesen Simulated Annealing (Johnson et al., 1989) Nachbarschaft: Austausch zweier Knoten Startlösung: zufällig ähnlicher Abkühlplan wie beim SA für das TSP eine der ersten Anwendungen von SA Heuristische Optimierungsverfahren 107 Bsp.: SA für Graphenbipartitionierung (contd.) Verbesserung: Verkleinerung der Nachbarschaft und Erlauben auch ungültiger Lösungen Modifizierte Zielfunktion: f (V1, V2) = {(u, v) E u V1 v V2} +γ( V1 V2 ) 2 γ: imbalance factor Neue Nachbarschaft: Verschieben nur eines Knotens in die jeweils andere Menge N(x) = n gegenüber n 2 /4 Vergleich mit Kernighan-Lin Heuristik für dieses Problem: Auf zufälligen Graphen ist SA besser, auf Euklidischen Graphen Kernighan-Lin Heuristische Optimierungsverfahren 108

28 Weiterentwicklungen von SA Zusammenfassung zu SA Nichtmonotone Abkühlungspläne Reheating Dynamische vs. statische Abkühlungspläne z.b. auf einem Temperatorniveau bleiben, bis keine Verbesserungen mehr über eine bestimmte Anzahl an Iterationen Deterministische Untersuchung der Nachbarschaft Kombination mit anderen Verfahren Parallelisierung mehrere Hundert Anwendungen SA ist eine der am häufigsten verwendeten und auch theoretisch am besten untersuchten Metaheuristiken meist sehr einfach zu implementieren für viele Probleme gute Ergebnisse, aber meist keine Spitzenergebnisse im Vergleich zu anderen führenden Verfahren oft relativ lange Laufzeiten Heuristische Optimierungsverfahren 109 Heuristische Optimierungsverfahren 110 Grundidee der Tabu Suche (TS) (Glover 1986; Hansen, 1986) Tabu Suche basiert auf ein Gedächtnis (History) über den bisherigen Optimierungsverlauf und nutzt dieses um über lokale Optima hinweg zu kommen Vermeidung von Zyklen durch Verbieten des Wiederbesuchens früherer Lösungen meist deterministische Leitung der Suche meist best neighbor Schrittfunktion: in jedem Schritt wird die beste erlaubte Nachbarlösung angenommen, auch wenn diese schlechter ist als die aktuelle Heuristische Optimierungsverfahren 111 Heuristische Optimierungsverfahren 112

29 Tabu Suche Basisalgorithmus procedure Tabu Suche begin TL ; // Tabu-Liste x Ausgangslösung; repeat: X Teilmenge von N(x) unter Berücksichtigung von TL; x beste Lösung von X ; füge x zu TL hinzu; lösche Elemente aus TL die älter sind als tl Iterationen; x x ; if x ist besser als bisher beste Lösung then merke x; until Abbruchkriterium erfüllt; end Das Gedächtnis: die Tabuliste Explizites Speichern von vollständigen Lösungen Nachteil: speicher- und zeitaufwändig Alternative: Speichern von Lösungsattributen (Tabuattribute) besuchter Lösungen Lösungen sind verboten (tabu), falls sie Tabuattribute enthalten als Tabuattribute werden oft Attribute von Zügen benutzt; die Umkehrung der Züge ist dann für tl Iterationen verboten wichtiger Parameter: Tabulistenlänge tl häufig sinnvoll: verschiedene Tabuattribute, mehrere Tabulisten Heuristische Optimierungsverfahren 113 Heuristische Optimierungsverfahren 114 Parameter: Tabulistenlänge Aspirationskriterien Wahl von tl häufig sehr kritisch! zu kurze Tabulisten können zu Zyklen führen zu lange Tabulisten verbieten viele mögliche Lösungen und beschränken die Suche stark geeignete Länge meist problemspezifisch, muss experimentell bestimmt werden, oder zufällig aus Intervall wählen und in bestimmten Abständen neu setzen Lebensdauer eines Tabuattributs für jeden Zug zufällig neu wählen Manchmal können noch nicht besuchte Lösungen verboten sein obwohl sie sehr gut sind. Aspirationskriterien überschreiben den Tabustatus interessanter Lösungen. Beispiel eines häufig verwendeten Aspirationskriterium: Eine verbotene Nachbarlösung ist besser als die bisher beste gefundene Lösung. Heuristische Optimierungsverfahren 115 Heuristische Optimierungsverfahren 116

30 Bsp.: Tabu Suche für MAX-SAT Bsp.: TS für das Graphenfärbeproblem (Hansen, Jaumard, 1990; Selman, Kautz, 1994) Nachbarschaft: 1-flip Nachbarschaft Tabuattribute: Modifizierte Variablen Tabukriterium: Änderung einer Variable ist für tl Iterationen verboten Aspirationskriterium: Falls Zug zu besserer Lösung als bisher gefunden führt, überschreibe Tabu-Status Zusätzliches tie-breaking Kriterium: Gibt es mehrere beste Nachbarlösungen, breche diesen tie zugunsten einer Variablen die maximal viele Klauseln neu verletzt. Definition (Graphenfärbeproblem) Geg.: Graph G = (V, E) Ges.: Weise jedem Knoten v V eine Farbe xv {1,..., k} zu, sodass (u, v) E gilt xu xv Optimierungsvarianten: Minimie Anzahl k der notwendigen Farben Minimie Anzahl der verletzten Kanten Heuristische Optimierungsverfahren 117 Heuristische Optimierungsverfahren 118 Bsp.: TS für das Graphenfärbeproblem (contd.) Evaluierungskriterium: Minimiere Anzahl der verletzten Kanten Nachbarschaft: Färbung, die sich genau in der Farbe eines Knoten unterscheidet Tabuattribute: Paare (v, j) mit v V, j {1,..., k}, d.h. bestimmte Farbzuweisungen (j) zu bestimmten Knoten (v) Tabukriterium: Wird Zug (v, j) (v, j ) durchgeführt, wird Attribut (v, j) für tl Iterationen verboten Aspirationskriterium: Falls Zug zu besserer Lösung als bisher gefunden führt, überschreibe Tabu-Status Einschränkung der Nachbarschaft: Betrachte nur Farbzuweisungen für Knoten, die in eine Constraintverletzung involviert sind Heuristische Optimierungsverfahren 119 Reactive Tabu Search (Battiti und Tecchiolli, 1994) ursprünglich entwickelt für QAP und 0/1-Rucksack Problem Tabulistenlänge wird adaptiv angepasst: Erhöhung um konstanten Faktor bei Erkennen eines Zyklus Sei m die durchschnittliche Zyklenlänge Erniedrigung um konstanten Faktor, wenn letzte Erhöhung mehr als m Iterationen zurückliegt Diversifikationsmechanismus: Wird ausgeführt, wenn die Anzahl der Lösungen, die öfter als ein vorderfinierter Schwellenwert wiederholt besucht wurden, ein Limit überschreitet. Ausführung einer Anzahl zufälliger Schritte (proportional zu m) Heuristische Optimierungsverfahren 120

31 Mehrstufiges Gedächtnis Kurzzeitgedächtnis (short term memory) wesentlichster Teil der bisher behandelt wurde mittelfristiges Gedächtnis (intermediate term memory) Intensivierung der Suche Neustart von Elitelösungen z.b. mit leerer Tabuliste Lösungsattribute, die in mehreren Elitelösungen vorhanden sind werden fixiert Mehrstufiges Gedächtnis (contd.) Langzeitgedächtnis (long term memory) Diversifizierung der Suche Lenkt Suche zu noch schlecht abgedeckten Bereichen des Suchraums Führt Lösungsattribute ein, die nicht häufig benutzt werden; z.b. durch Bestrafung benutzter oder Bevorzugung seltener Attribute und etliche andere Strategien und etliche andere Strategien Heuristische Optimierungsverfahren 121 Heuristische Optimierungsverfahren 122 Weitere Arten von Gedächtnis Allgemeiner können folgende Arten von Gedächtnis verwaltet und durch vielfältige Regeln ausgenutzt werden. recency-based: Wann wurde ein Attribut zuletzt verwendet? frequency-based: Wie häufig wurde ein Attribut verwendet? quality-based: Wie war der bisher beobachtete Einfluss eines Attributs auf den Zielfunktionswert? influence-based: Wie stark war bisher die Auswirkung eines Attribut in Bezug auf Lösungsstruktur oder Gültigkeit? Heuristische Optimierungsverfahren 123 Zusammenfassung zu TS viele unterschiedliche Strategien für Gedächtnis Diversifizierung Intensivierung viele erfolgreiche Anwendungen oft exzellente Ergebnisse und vergleichsweise schnell meist relativ zeitintensives Fine-Tuning notwendig Heuristische Optimierungsverfahren 124

32 Guided Local Search (GLS) Um lokalen Optima zu entkommen, wird die Evaluierungsfunktion systematisch verändert. Guided Local Search (GLS) Addition von Strafkosten für Attribute von bereits erreichten lokalen Optima: M h(x) = f (x) + λ pi Ii(x) i=1 M: Anzahl der Lösungsattribute Ii(x): Indikatorfunktion die zeigt, ob Lösungsattribut i in x auftritt λ: Steuert Einfluss der Strafkosten pi: Wird erhöht wenn lokales Optimum mit diesem Attribut erreicht auch light-weight tabu search genannt Heuristische Optimierungsverfahren 125 Heuristische Optimierungsverfahren 126 procedure Guided Local Search begin i = 1,..., M : pi 0; x Ausgangslösung; repeat: x lokale Suche (x, f + λ M i=1 pi Ii); i = 1,..., M : util i Ii(x ) ci/(1 + pi); for each i with utili maximal do pi pi + 1; until Abbruchkriterium erfüllt; return beste Lösung bzgl. f (x); end util i: Ausnutzung von Attribut i ci: Kosten von Attribut i Faktor 1/(1 + pi): verhindert zu häufiges Bestrafen der gleichen Attribute Heuristische Optimierungsverfahren 127 Bsp.: Guided Local Search für SAT (Mills, Tsang, 2000) Lokale Suche: 1-flip Nachbarschaft tie-breaking Kriterium zugunsten der am längsten nicht modifizierten Variablen Lösungsattribute sind Klauseln bei lokalen Minima werden für verletzte Klauseln Strafkosten addiert eines der besten Verfahren für gewichtetes MAX-SAT Weitere Anwendungen: TSP, VRP, QAP,... Heuristische Optimierungsverfahren 128

33 Testen von Meta-Heuristiken Suchraumanalyse Testen von Meta-Heuristiken Suchraumanalyse Teil III Analyse von Metaheuristiken Testen von Meta-Heuristiken Heuristische Optimierungsverfahren 129 Heuristische Optimierungsverfahren 130 Testen von Meta-Heuristiken Suchraumanalyse Testen von Meta-Heuristiken Suchraumanalyse Testen Testen (contd.) Um verschiedene Optimierungsverfahren für ein Problem miteinander zu vergleichen, ist man meist auf empirische Tests angewiesen. Performance-Maße: Lösungsqualität Laufzeit Speicherverbrauch Robustheit (in Bezug auf mehrere Durchläufe für gleiche Instanz, unterschiedliche Arten von Instanzen,... ) Insbesondere bei stochastischen Verfahren ist zu beachten: Nie von einem Durchlauf auf das durchschnittliche Verhalten schließen! Immer Ergebnisse mehrere Durchläufe ( 30) heranziehen und Mittelwerte (Mediane) bzw. Standardabweichungen berechnen Nie vom Verhalten bei einer Probleminstanz auf das Verhalten für alle Instanzen schließen! Wird vermutet, dass ein Verfahren X im Durchschnitt bessere Ergebnisse liefert als ein Verfahren Y, so sollte zur Bestätigung ein statistischer Test durchgeführt werden. Heuristische Optimierungsverfahren 131 Heuristische Optimierungsverfahren 132

34 Testen von Meta-Heuristiken Suchraumanalyse Testen von Meta-Heuristiken Suchraumanalyse Bsp.: Student t-test Bsp.: Student t-test Gegeben: Ergebnisse {x1, x2,..., } von nx Durchläufen eines Verfahrens X xnx Ergebnisse {y1, y2,..., } von ny Durchläufen eines Verfahrens Y yny Annahme: Ergebniswerte sind normalverteilt t-wert: t = x y (nx 1)σx 2 + (ny 1)σy 2 nx ny (nx + ny 2) nx + ny Heuristische Optimierungsverfahren 133 Für ein Signifikanzniveau α (Fehlerwahrscheinlichkeit) wird z.b. aus einer Tabelle ein Grenzwert tα,n mit n = nx + ny 2 bestimmt. Gilt t > tα,n, so ist der Unterschied zwischen x und y signifikant (mit der angenommenen Fehlerwahrscheinlichkeit α). Ansonsten lassen die Ergebnisse keinen Schluß zu, d.h. es sind mitunter mehr Durchläufe notwendig, oder die Annahme ist tatsächlich falsch. Z.B. α = 1%: t 1%,10 = 3.17, t 1%,20 = 2.85, t 1%, = 2.58 Alternative, falls nicht von einer Normalverteilung auszugehen ist: z.b. Wilocxon Vorzeichen-Rang Test Heuristische Optimierungsverfahren 134 Testen von Meta-Heuristiken Suchraumanalyse Testen von Meta-Heuristiken Suchraumanalyse Suchraumanalyse: Suchlandschaften Die Analyse der Struktur von Suchräumen kann Aufschluss über die Schwierigkeit der Optimumsuche bzw. Hinweise für geeignete Verfahren und die Parameterwahl geben. Suchraumanalyse Wir definieren eine Distanz d(x, y) zwischen zwei Lösungen x, y S: meist die minimale Anzahl von Zügen, um x in y überzuführen oft aber auch andere problemabhängige Maße, wie z.b. beim TSP die Anzahl unterschiedlicher Kanten Wir stellen uns den Suchraum als (Such-)Landschaft mit Gebirge, Ebenen, Hügeln, Kratern, Tälern usw. vor; die Höhe entspricht der Güte f (x) einer Lösung x. Heuristische Optimierungsverfahren 135 Heuristische Optimierungsverfahren 136