Betriebliche Optimierung

Betriebliche Optimierung Joachim Schauer Joachim Schauer Betriebliche Optimierung 1 / 31

1 Metaheuristische Verfahren 2 Joachim Schauer Betriebliche Optimierung 2 / 31

Einleitendes Metaheuristische Verfahren Metaheuristik Metaheuristisches Verfahren sind problemunspezifische Verfahren zur Lösung von Optimierungsproblemen: eine problemunspezifische Folge von Handlungsschritten kann auf unterschiedliche Probleme angewandt werden Joachim Schauer Betriebliche Optimierung 3 / 31

Einleitendes Metaheuristische Verfahren Metaheuristik Metaheuristisches Verfahren sind problemunspezifische Verfahren zur Lösung von Optimierungsproblemen: eine problemunspezifische Folge von Handlungsschritten kann auf unterschiedliche Probleme angewandt werden bei einem konkreten Problem muss aber jeder unspezifische Schritt adaptiert werden Genetische Algorithmen, Tabu Search, Simulated Annealing, Ant Colony... Joachim Schauer Betriebliche Optimierung 3 / 31

Einleitendes Metaheuristische Verfahren Metaheuristik Metaheuristisches Verfahren sind problemunspezifische Verfahren zur Lösung von Optimierungsproblemen: eine problemunspezifische Folge von Handlungsschritten kann auf unterschiedliche Probleme angewandt werden bei einem konkreten Problem muss aber jeder unspezifische Schritt adaptiert werden Genetische Algorithmen, Tabu Search, Simulated Annealing, Ant Colony... Vorteil: Meist leicht zu implementieren und gute Resultate in kurzer Zeit. Nachteil: Keine theoretischen Gütegarantien herleitbar. Joachim Schauer Betriebliche Optimierung 3 / 31

Metaheuristische Verfahren Genetischer Algorithmus Problemunspezifisches 1) Wähle eine Menge von zulässigen Lösungen (Individuen) als Initialisierung (1-te Generation). 2) Evaluierung: Jede zulässige Lösung wird hinsichtlich ihrer Güte bewertet (meist über den Zielfunktionswert). 3) Durchlaufe folgende Schritte: Joachim Schauer Betriebliche Optimierung 4 / 31

Metaheuristische Verfahren Genetischer Algorithmus Problemunspezifisches 1) Wähle eine Menge von zulässigen Lösungen (Individuen) als Initialisierung (1-te Generation). 2) Evaluierung: Jede zulässige Lösung wird hinsichtlich ihrer Güte bewertet (meist über den Zielfunktionswert). 3) Durchlaufe folgende Schritte: Wähle eine Menge von Individuen der k-ten Generation zur Rekombination. Erzeuge neue Individuen durch Rekombination. Joachim Schauer Betriebliche Optimierung 4 / 31

Metaheuristische Verfahren Genetischer Algorithmus Problemunspezifisches 1) Wähle eine Menge von zulässigen Lösungen (Individuen) als Initialisierung (1-te Generation). 2) Evaluierung: Jede zulässige Lösung wird hinsichtlich ihrer Güte bewertet (meist über den Zielfunktionswert). 3) Durchlaufe folgende Schritte: Wähle eine Menge von Individuen der k-ten Generation zur Rekombination. Erzeuge neue Individuen durch Rekombination. Wende zufällige Mutationen auf die neuen Individuen an. Evaluiere die neuen Individuen ((k + 1)-te Generation) und starte mit einem neuen Durchlauf. Joachim Schauer Betriebliche Optimierung 4 / 31

GA fürs TSP Metaheuristische Verfahren Initialisierung Generiere eine Menge von zufällig erzeugten Touren T = {T 1,...,T m }: Jede Tour entspricht einer Permutation der Orte 1,2,...,n. Wähle also m der insgesamt n Permutationen zufällig aus. Joachim Schauer Betriebliche Optimierung 5 / 31

GA fürs TSP Metaheuristische Verfahren Initialisierung Generiere eine Menge von zufällig erzeugten Touren T = {T 1,...,T m }: Jede Tour entspricht einer Permutation der Orte 1,2,...,n. Wähle also m der insgesamt n Permutationen zufällig aus. Evaluierung Bestimme für jede Tour T i T ihre Länge l(t i ) und sortiere die Touren absteigen nach 1 l(t i ) Joachim Schauer Betriebliche Optimierung 5 / 31

Metaheuristische Verfahren GA fürs TSP 1 2 3 4 5 6 7 8 T 1 = (12345867) 1 2 3 4 5 6 7 8 T 2 = (13524678) T 3 = (12435678) 1 2 3 4 5 6 7 8 Joachim Schauer Betriebliche Optimierung 6 / 31

GA fürs TSP Metaheuristische Verfahren Selektion Wähle j Paare von Touren zufällig aus T, wobei die Wahrscheinlichkeit eine Tour mit kurzer Länge zu erwischen, erhöht sein soll. Wählen der Paare Sei l(t 1 ) = 15, l(t 2 ) = 12, l(t 3 ) = 9: Joachim Schauer Betriebliche Optimierung 7 / 31

GA fürs TSP Metaheuristische Verfahren Selektion Wähle j Paare von Touren zufällig aus T, wobei die Wahrscheinlichkeit eine Tour mit kurzer Länge zu erwischen, erhöht sein soll. Wählen der Paare Sei l(t 1 ) = 15, l(t 2 ) = 12, l(t 3 ) = 9: Sortierte Liste {T 3,T 2,T 1 } mit: ( 1 9, 1 12, 1 ) und 15 T T 1 l(t) = 0.26 1 Anteil von T 3 an 0.26 1 sind 42.6 Prozent, von T 2 31.9 Prozent und von T 3 25.5 Prozent. Joachim Schauer Betriebliche Optimierung 7 / 31

GA fürs TSP Metaheuristische Verfahren 1000 1000 575 574 256 255 1 1 Joachim Schauer Betriebliche Optimierung 8 / 31

GA fürs TSP Metaheuristische Verfahren Rekombination - Vorschlag Seien T i und T j zwei Touren, konstruiere wie folgt 2 neue Touren: Wähle eine Zufallszahl l aus [1,n]. Joachim Schauer Betriebliche Optimierung 9 / 31

GA fürs TSP Metaheuristische Verfahren Rekombination - Vorschlag Seien T i und T j zwei Touren, konstruiere wie folgt 2 neue Touren: Wähle eine Zufallszahl l aus [1,n]. Erzeuge eine neue Tour T i indem die ersten l Einträge aus T i übernommen werden. Dann gehe durch die Tour T j : falls ein Ort noch nicht in T i ist, füge ihn an T i an. Bilde T j analog. Joachim Schauer Betriebliche Optimierung 9 / 31

GA fürs TSP Metaheuristische Verfahren Rekombination - Vorschlag Seien T i und T j zwei Touren, konstruiere wie folgt 2 neue Touren: Beispiel Wähle eine Zufallszahl l aus [1,n]. Erzeuge eine neue Tour T i indem die ersten l Einträge aus T i übernommen werden. Dann gehe durch die Tour T j : falls ein Ort noch nicht in T i ist, füge ihn an T i an. Bilde T j analog. T i = (132568974) und T j = (748293615) und die Zufallszahl l = 4: T i = (132574896) und T j = (748213569) Joachim Schauer Betriebliche Optimierung 9 / 31

GA fürs TSP Metaheuristische Verfahren Erzeugen der nächsten Generation Ziel: Anzahl der Individuen der nächsten Generation soll wieder m betragen. Vorschlag: aus den 2 j neuen Touren wähle die m kürzesten Touren aus. Mutation der nächsten Generation Ziel: Vermeidung lokaler Minima! Joachim Schauer Betriebliche Optimierung 10 / 31

GA fürs TSP Metaheuristische Verfahren Erzeugen der nächsten Generation Ziel: Anzahl der Individuen der nächsten Generation soll wieder m betragen. Vorschlag: aus den 2 j neuen Touren wähle die m kürzesten Touren aus. Mutation der nächsten Generation Ziel: Vermeidung lokaler Minima! Entscheide für jede neue Tour Ti mit positiver Wahrscheinlichkeit, ob sie mutiert wird oder nicht. Falls T i zur Mutation ausgewählt wurde, ziehe 2 Zufallszahlen k 1 und k 2 und ersetze T i durch jene Tour in der Position k 1 mit k 2 vertauscht wurde. Joachim Schauer Betriebliche Optimierung 10 / 31

GA fürs TSP Metaheuristische Verfahren Beispiel zur Mutation Sei T i = (132568974) und ziehe k 1 = 3 und k 4 = 7: (139568274) Erzeugen der nächsten Generation Die nächste Generation besteht aus den insgesamt m mutierten und nicht mutierten Touren. Wiederhole alle Schritte startend bei der Evaluierung. Joachim Schauer Betriebliche Optimierung 11 / 31

GA fürs TSP Metaheuristische Verfahren Abbruchkriterien: Anzahl an Generationen Vom Rechner benötigte Zeit. Keine Verbesserung des Zielfunktionswertes nach l Generationen. Joachim Schauer Betriebliche Optimierung 12 / 31

Basiert auf dem Verhalten von Ameisen in der Natur. Marco Dorigo entwarf das Verfahren in den frühen 90er Jahren. Seitdem wurde es zigfach zur Lösung von Optimierungsproblemen eingesetzt. Grundidee Joachim Schauer Betriebliche Optimierung 13 / 31

Basiert auf dem Verhalten von Ameisen in der Natur. Marco Dorigo entwarf das Verfahren in den frühen 90er Jahren. Seitdem wurde es zigfach zur Lösung von Optimierungsproblemen eingesetzt. Grundidee Gegeben ist ein Graph G = (V,E) mit zwei Knoten: v s und v d v s repräsentiert das Nest der Ameisen v d repräsentiert die Futterquelle zwei Kanten e 1 und e 2 verbinden Nest und Quelle l i sei die Länge der Kante e i mit l 2 > l 1 Joachim Schauer Betriebliche Optimierung 13 / 31

Darstellung mit Graphen e 2 e 2 8 v s vd v s vd e 1 5 e 1 Joachim Schauer Betriebliche Optimierung 14 / 31

Pheromone Für jede Kante wird eine Pheromonmenge t i eingeführt, die angibt welche Pheromonkonzentration auf e i vorliegt. Joachim Schauer Betriebliche Optimierung 15 / 31

Pheromone Für jede Kante wird eine Pheromonmenge t i eingeführt, die angibt welche Pheromonkonzentration auf e i vorliegt. Q bezeichnet ferner einen Inputparameter. n Ameisen befinden sich im Nest. Jede dieser Ameisen wählt simultan einen der zwei Pfade zufällig mit Wahrscheinlichkeit: p i = t i t 1 +t 2 Joachim Schauer Betriebliche Optimierung 15 / 31

Pheromone Für jede Kante wird eine Pheromonmenge t i eingeführt, die angibt welche Pheromonkonzentration auf e i vorliegt. Q bezeichnet ferner einen Inputparameter. n Ameisen befinden sich im Nest. Jede dieser Ameisen wählt simultan einen der zwei Pfade zufällig mit Wahrscheinlichkeit: p i = t i t 1 +t 2 Nach erreichen der Futterquelle, wird das Verdampfen der Pheromone simuliert: t i = (1 ρ)t i Joachim Schauer Betriebliche Optimierung 15 / 31

Pheromone Nach erreichen des Nests, wird Pheromongehalt wie für jeden Pfad i und jede Ameise die ihn gewählt hat wie folgt geändert: t i = t i + Q l i Joachim Schauer Betriebliche Optimierung 16 / 31

Das Travelling Salesperson Problem Zentrales Problem der Routenplanung. Testproblem für neue algorithmische Ideen. Joachim Schauer Betriebliche Optimierung 17 / 31

Das Travelling Salesperson Problem Zentrales Problem der Routenplanung. Testproblem für neue algorithmische Ideen. Problembeschreibung Gegeben: n verschiedene Orte mit den paarweisen Distanzen zwischen allen Orten. Gesucht: Kürzeste Tour, die jeden Ort genau einmal besucht Joachim Schauer Betriebliche Optimierung 17 / 31

Das Travelling Salesperson Problem Zentrales Problem der Routenplanung. Testproblem für neue algorithmische Ideen. Problembeschreibung Gegeben: n verschiedene Orte mit den paarweisen Distanzen zwischen allen Orten. Gesucht: Kürzeste Tour, die jeden Ort genau einmal besucht Ziel: Entwurf einer ACO Metaheuristik für TSP. Joachim Schauer Betriebliche Optimierung 17 / 31

Das Travelling Salesperson Problem Joachim Schauer Betriebliche Optimierung 18 / 31

und TSP TSP modelliert als vollständiger gewichteter Graph 8 30 5 Fragen Joachim Schauer Betriebliche Optimierung 19 / 31

und TSP TSP modelliert als vollständiger gewichteter Graph 8 30 5 Fragen Wo ist das Nest und wo das Futter? Wie sollen die Ameisen durchs Netzwerk wandern? Problemspezifische Adaptionen sind nötig. Joachim Schauer Betriebliche Optimierung 19 / 31

und TSP TSP Führe Für jede Kante e ij einen Pheromonparameter t ij ein. Jede Ameise muss nun eine zulässige TSP Tour gehen. D.h. jeden Knoten genau einmal besuchen. Grundidee des ACO für TSP Joachim Schauer Betriebliche Optimierung 20 / 31

und TSP TSP Führe Für jede Kante e ij einen Pheromonparameter t ij ein. Jede Ameise muss nun eine zulässige TSP Tour gehen. D.h. jeden Knoten genau einmal besuchen. Grundidee des ACO für TSP Wähle einen Knoten k zufällig als Startknoten. Jede Ameise i bekommt einen Liste T i in der alle schon besuchten Knoten gespeichert werden. Jede Ameise i wählt zufällig eine Kante e kj wobei j noch nicht besucht sein darf mit: t kj p kj = l/ T i t kl Joachim Schauer Betriebliche Optimierung 20 / 31

und TSP Grundidee des ACO für TSP Annahme Knoten m wurde gewählt: T = T m. Ameise i iteriert mit Knoten m. Pheromonwerte Joachim Schauer Betriebliche Optimierung 21 / 31

und TSP Grundidee des ACO für TSP Annahme Knoten m wurde gewählt: T = T m. Ameise i iteriert mit Knoten m. Pheromonwerte Nachdem jede Ameise eine Tour S gewählt hat bezeichnet l(s) die Länge dieser Tour. Verdampfe die Pheromone: t ij = (1 ρ)t ij Jede Ameise kehrt über ihre Tour zum Start zurück und passt dabei die Pheromone an: t ij = t ij + Q l(s) Iteriere das gesamte Verfahren. Joachim Schauer Betriebliche Optimierung 21 / 31

Metaheuristik Bestandteile Generell Identifiziere Komponenten i aus denen die zulässigen Lösungen aufgebaut werden können. Vorgehen Für jede Komponente führe ein Pheromonlevel t i ein. Joachim Schauer Betriebliche Optimierung 22 / 31

Metaheuristik Bestandteile Generell Identifiziere Komponenten i aus denen die zulässigen Lösungen aufgebaut werden können. Vorgehen Für jede Komponente führe ein Pheromonlevel t i ein. Generiere mithilfe der Komponen und des Pheromonlevels neue gute Lösungen. Mit diesen wird das Pheromonlevel so upgedated, dass sich die Löungsqualität in nachfolgenden Iterationen erhöht. Joachim Schauer Betriebliche Optimierung 22 / 31

ACO fürs Rucksackproblem Graphrepräsentation Führe einen vollständigen Graphen G = (V,E) ein dessen Knoten den Rucksackelementen entsprechen. Jede Ameise wählt einen zufälligen Startknoten - der entsprechende Gegenstand kommt in den Rucksack. Unter allen noch passenden Gegenständen wählt die Ameise einen entsprechend der Pheromonkonzentration aus. Joachim Schauer Betriebliche Optimierung 23 / 31

ACO fürs Rucksackproblem Graphrepräsentation Führe einen vollständigen Graphen G = (V,E) ein dessen Knoten den Rucksackelementen entsprechen. Jede Ameise wählt einen zufälligen Startknoten - der entsprechende Gegenstand kommt in den Rucksack. Unter allen noch passenden Gegenständen wählt die Ameise einen entsprechend der Pheromonkonzentration aus. Das wird solange fortgestzt, bis eine zulässige Lösung erreicht wird, bei der kein weiterer Knoten passt. Die Peromonkonzentration wird upgedated. Joachim Schauer Betriebliche Optimierung 23 / 31

ACO fürs Rucksackproblem Pheromone im Detail Jede Kante kriegt zu Beginn ein t ij = t 0 = 0.5. Annahme die Ameise i startet bei i 1 und kann folgende Sequenz S = i 1,i 2,...,i k und der erhalte Rucksack hat ein Gewicht von W(S) Joachim Schauer Betriebliche Optimierung 24 / 31

ACO fürs Rucksackproblem Pheromone im Detail Jede Kante kriegt zu Beginn ein t ij = t 0 = 0.5. Annahme die Ameise i startet bei i 1 und kann folgende Sequenz S = i 1,i 2,...,i k und der erhalte Rucksack hat ein Gewicht von W(S) Iteriere! Alle Ameisen, die nicht die optimale Lösung gefunden haben: t il,i l+1 = 0.5 t il,i l+1 +0.5 t 0 Jene Ameise, die die beste Lösung S gefunden hat: t il,i l+1 = 0.5 t il,i l+1 +0.5 W(S ) Joachim Schauer Betriebliche Optimierung 24 / 31

Tabu Search Lokale Suchverfahren Algorithmen, die eine zulässige Lösung an kleinen Stellen verändern um eine neue Lösung zu generieren: k-opt Verfahren bei TSP OR-OPT Gefahr bei lokalen Suchen: Lokales Optimum wird gefunden! Joachim Schauer Betriebliche Optimierung 25 / 31

Lokale Optima Quelle: Wikipedia Joachim Schauer Betriebliche Optimierung 26 / 31

Tabu Search Idee Tabu Search versucht: lokale Suchverfahren so zu steuern, dass lokale Optima wieder verlassen werden Joachim Schauer Betriebliche Optimierung 27 / 31

Tabu Search Idee Tabu Search versucht: lokale Suchverfahren so zu steuern, dass lokale Optima wieder verlassen werden das globale Optimum gefunden wird Benötigt wird eine Tabu Liste L die gewisse Züge für eine Dauer von k Iterationen verbietet. Zu Beginn ist L = Joachim Schauer Betriebliche Optimierung 27 / 31

Tabu Search Idee 1 Starte mit einer Zulässigen Lösung x (z.b. durch eine Heuristik gefunden) 2 Erzeuge eine Menge von zulässigen Lösungen die in der Nachbarschaft N(x) von x liegen. Joachim Schauer Betriebliche Optimierung 28 / 31

Tabu Search Idee 1 Starte mit einer Zulässigen Lösung x (z.b. durch eine Heuristik gefunden) 2 Erzeuge eine Menge von zulässigen Lösungen die in der Nachbarschaft N(x) von x liegen. 3 Wähle die beste Lösung x aus N(x) als neue Lösung, welche nicht aufgrund der Tabu Liste verboten ist. 4 Vorschlag: Füge den inversen Zug der zu x führte zur Tabu Liste hinzu. x darf schlechter als x sein! Joachim Schauer Betriebliche Optimierung 28 / 31

Tabu Search Einfache Variante fürs TSP Die Nachbarschaft N(T) einer Tour T sind alle Touren: die durch Vertauschen von zwei Städten entstehen N(T) = ( n) 2 Joachim Schauer Betriebliche Optimierung 29 / 31

Beispiel 1 2 3 4 5 6 7 8 9 10 11 1 2 3 4 5 6 7 8 9 10 11 1 2 3 4 5 6 7 8 9 10 11 Joachim Schauer Betriebliche Optimierung 30 / 31

Tabu Search Einfache Variante fürs TSP Starte mit einer zulässigen Tour T 1 und einer leeren Tabu Liste. Bestimme die Nachbarschaft N(T i ) von T i. Joachim Schauer Betriebliche Optimierung 31 / 31

Tabu Search Einfache Variante fürs TSP Starte mit einer zulässigen Tour T 1 und einer leeren Tabu Liste. Bestimme die Nachbarschaft N(T i ) von T i. Wähle die beste Lösung T i+1 aus N(T i ), die nicht durch die Tabu Liste verboten wurde (seien l und j jene Orte, welche dabei vertauscht wurden). Füge den Tausch der Orte l und j für die nächsten k Iterationen zur Tabuliste hinzu. Joachim Schauer Betriebliche Optimierung 31 / 31

Tabu Search Einfache Variante fürs TSP Starte mit einer zulässigen Tour T 1 und einer leeren Tabu Liste. Bestimme die Nachbarschaft N(T i ) von T i. Wähle die beste Lösung T i+1 aus N(T i ), die nicht durch die Tabu Liste verboten wurde (seien l und j jene Orte, welche dabei vertauscht wurden). Füge den Tausch der Orte l und j für die nächsten k Iterationen zur Tabuliste hinzu. Damit wird versucht zu verhindern, dass immer die selbe Folge von Touren generiert wird (lokales Optimum). Abbruchkriterien gleich wie beim GA Joachim Schauer Betriebliche Optimierung 31 / 31