Einführung in das Seminar Algorithmentechnik

Transkript

1 Einführung in das Seminar Algorithmentechnik 10. Mai 2012 Henning Meyerhenke, Roland Glantz 1 KIT Henning Universität desmeyerhenke, Landes Baden-Württemberg Roland undglantz: nationales Einführung Forschungszentrum in dasinseminar der Helmholtz-Gemeinschaft Algorithmentechnik

2 Inhalt Optimierung Typen von Optimierungsproblemen Repräsentation zulässiger Lösungen Entwurf von Zielfunktionen Approximationsalgorithmen Kombinatorische Optimierung Approximationsalgorithmus: eine Definition Schlechte Approximierbarkeit Metaheuristiken Kriterien für Anwendung von Metaheuristiken Design von Metaheuristiken Qualitätskontrolle Zusammenfassung 2 Henning Meyerhenke, Roland Glantz:

3 Suchraum und Zielfunktion f( s *) f : S R s* Globales Maximum von f ( ) bei s S S 3 Henning Meyerhenke, Roland Glantz:

4 Konvexer Suchraum und lineare Zielfunktion Maximiere c T x unter den Nebenbedingungen A(x) b und x 0 x 2 A (x) = b 1 1 < A (x) = b 2 A (x) = b Globales Maximum liegt in einer Ecke des Suchraums 2 3 x Henning Meyerhenke, Roland Glantz:

5 Diskreter Suchraum und lineare Zielfunktion Rucksackproblem: W = {1,..., n} vol : W IN p : W IN B IN Maximiere p(w W ) unter der Nebenbedingung vol(w ) B p W = { 1, 2, 3, 4 } vol W = { 3, 4 } max B Henning Meyerhenke, Roland Glantz:

6 Repräsentationen: ein Beispiel Traveling Salesperson Problem: G = (V, E) vollständiger Graph, V = {v 1,..., v n }, E = {e 1,..., e n(n 1)/2 }, Kosten c : E IR +. Minimiere Gesamtkosten c(e ), wobei E E Hamiltonkreis auf G v 8 v 1 v 4 v 6 v 9 v 3 v 0 v 7 v 5 v 2 (0, 2, 5, 7, 3, 4, 8, 1, 9, 6) 6 Henning Meyerhenke, Roland Glantz:

7 Bedingungen an Repräsentationen Vollständigkeit: alle zulässigen Lösungen müssen repräsentiert sein. Zusammenhang: alle Repräsentationen müssen miteinander verbunden sein. (0, 2, 5, 7, 3, 4, 8, 1, 9, 6) (0, 2, 7, 5, 3, 4, 8, 1, 9, 6) (0, 2, 7, 5, 3, 4, 8, 1, 6, 9) (0, 9, 7, 5, 3, 4, 8, 1, 6, 2) Effizienz: Nachbar-Repräsentationen müssen schnell erzeugt werden können. 7 Henning Meyerhenke, Roland Glantz:

8 Reduktion einer Repräsentation Von 2 (n2) Repräsentationen auf n! Repräsentationen 8 Henning Meyerhenke, Roland Glantz:

9 Lenkende Zielfunktionen: von SAT zu MAX-SAT Ist eine Boolesche Funktion, z. Bsp. b(a, B, C) = ( A B C) (A B C) (A B C) (1) erfüllbar? (ja, nein). f (A, B, C) := { 1 b(a, B, C) = true 0 b(a, B, C) = false (2) 9 Henning Meyerhenke, Roland Glantz:

10 Lenkende Zielfunktionen: von SAT zu MAX-SAT Ist eine Boolesche Funktion, z. Bsp. b(a, B, C) = ( A B C) (A B C) (A B C) (1) erfüllbar? (ja, nein). f (A, B, C) := { 1 b(a, B, C) = true 0 b(a, B, C) = false (2) Besser: Wie gut erfüllen A, B und C die Funktion b? Dazu KNF b(a, B, C) = (A B C) ( A B C) ( A B C) (3) und f (A, B, C) := Anzahl erfüllter Klauseln in KNF (4) 9 Henning Meyerhenke, Roland Glantz:

11 Zielfunktionen mit Dekodierung Steinerbaumproblem: G = (V, E) einfacher Graph, V = V T V N, Kantengewichte w : E IN Finde E E mit minimalem w(e ) das Knoten in V T verbindet. B A C Suche Brückenknoten und rechne Minimum Weight Spanning Tree aus 10 Henning Meyerhenke, Roland Glantz:

12 Zusammenfassung Optimierung Zwei ähnlich aussehende Optimierungsprobleme können sich sehr in ihrer Komplexität unterscheiden. Repräsentationen von (zulässigen) Lösungen müssen vollständig und zusammenhängend sein. Außerdem müssen Nachbar-Repräsentationen schnell erzeugt werden können. Oft kann eine Zielfunktionen lenkender gemacht werden. Manchmal lohnt es sich eine Zielfunktion zu kodieren und sie am Ende zu dekodieren. 11 Henning Meyerhenke, Roland Glantz:

13 Inhalt Optimierung Typen von Optimierungsproblemen Repräsentation zulässiger Lösungen Entwurf von Zielfunktionen Approximationsalgorithmen Kombinatorische Optimierung Approximationsalgorithmus: eine Definition Schlechte Approximierbarkeit Metaheuristiken Kriterien für Anwendung von Metaheuristiken Design von Metaheuristiken Qualitätskontrolle Zusammenfassung 12 Henning Meyerhenke, Roland Glantz:

14 Kombinatorische Optimierung, die zweite Zu einem kombinatorischen Optimierungsproblem Π gehört eine Menge D von Instanzen (Eingaben), eine Menge S(I) zulässiger Lösungen für jede Instanz I D, Zielfunktion f : S(I) IN, und ziel {min, max}. 13 Henning Meyerhenke, Roland Glantz:

15 Kombinatorische Optimierung, die zweite Zu einem kombinatorischen Optimierungsproblem Π gehört eine Menge D von Instanzen (Eingaben), eine Menge S(I) zulässiger Lösungen für jede Instanz I D, Zielfunktion f : S(I) IN, und ziel {min, max}. Gesucht ist zu I D eine zulässige Lösung σ opt S(I) so dass f (σ opt ) = ziel{f (σ) σ S(I)}. (5) 13 Henning Meyerhenke, Roland Glantz:

16 Beispiel Rucksackproblem D = { W, vol( ), p( ), B }, wobei W = {1,... n}, p : W IN, vol : W IN, und B IN so dass Vol(w) B für alle w W (jeder Gegenstand passt einzeln in den Rucksack) S( W, p, vol, B ) = {W W w W vol(w ) B}, f (W ) = w W p(w ), und ziel = max. 14 Henning Meyerhenke, Roland Glantz:

17 Beispiel Rucksackproblem D = { W, vol( ), p( ), B }, wobei W = {1,... n}, p : W IN, vol : W IN, und B IN so dass Vol(w) B für alle w W (jeder Gegenstand passt einzeln in den Rucksack) S( W, p, vol, B ) = {W W w W vol(w ) B}, f (W ) = w W p(w ), und ziel = max. Gesucht ist zu I D eine zulässige Lösung σ opt S(I) so dass f (σ opt ) = ziel{f (σ) σ S(I)}. (6) 14 Henning Meyerhenke, Roland Glantz:

18 Approximationsalgorithmus Definition: Sei Π ein kombinatorisches Optimierungsproblem. Ein t(n) Zeit Approximationsalgorithmus A berechnet zur Eingabe I D in Zeit t( I ) eine Ausgabe σi A S(I) Wir schreiben A(I) = f (σ A I ). 15 Henning Meyerhenke, Roland Glantz:

19 Approximationsalgorithmus Definition: Sei Π ein kombinatorisches Optimierungsproblem. Ein t(n) Zeit Approximationsalgorithmus A berechnet zur Eingabe I D in Zeit t( I ) eine Ausgabe σi A S(I) Wir schreiben A(I) = f (σ A I ). Bemerkungen: Approximation taucht nur im Namen auf: approximiert wird aber (noch) gar nicht. In A(I) steckt aber schon die Zielfunktion. Zeit t = t( I ) hängt von der Eingabelänge ab: Hohe p(w) können beim Rucksackproblem problematisch sein. 15 Henning Meyerhenke, Roland Glantz:

20 Gap Amplification am Rucksackproblem p W = { 1, 2, 3, 4 } vol p W = { 1, 2, 3, 4 } vol 16 Henning Meyerhenke, Roland Glantz:

21 Problem mit Rucksackproblem Unter der Annahme P = NP gibt es keine Konstante k IN und keinen polynomiellen Approximationsalgorithmus A so dass A(I) OPT (I) k für alle I. 17 Henning Meyerhenke, Roland Glantz:

22 Problem mit Rucksackproblem Unter der Annahme P = NP gibt es keine Konstante k IN und keinen polynomiellen Approximationsalgorithmus A so dass A(I) OPT (I) k für alle I. Beweis durch Widerspruch: Nehme an dass obige Gleichung doch erfüllt ist. Wähle I = (W, vol, p, B) beliebig. Definiere I = (W, vol, p, B ) durch W := W, vol := vol, B := B, und p (w) := (k + 1)p(w) für alle w W. Zeige dass A sogar eine exakte Lösung für I, und somit für I findet. 17 Henning Meyerhenke, Roland Glantz:

23 Zusammenfassung Approximationsalgorithmen Gap Amplification ist ein wichtiges Verfahren um Grenzen der Approximierbarkeit nachzuweisen. Kein polynomieller Approximationsalgorithmus für das Rucksackproblem kommt absolut an das Optimum heran (es sei denn P = NP). 18 Henning Meyerhenke, Roland Glantz:

24 Inhalt Optimierung Typen von Optimierungsproblemen Repräsentation zulässiger Lösungen Entwurf von Zielfunktionen Approximationsalgorithmen Kombinatorische Optimierung Approximationsalgorithmus: eine Definition Schlechte Approximierbarkeit Metaheuristiken Kriterien für Anwendung von Metaheuristiken Design von Metaheuristiken Qualitätskontrolle Zusammenfassung 19 Henning Meyerhenke, Roland Glantz:

25 Wann zu Metaheuristiken greifen? Wenn keine exakten Algorithmen / Approximationsalgorithmen mit akzeptabler Laufzeit zur Verfügung stehen. Wenn suboptimale Lösungen akzeptabel sind. Wenn wenig Zeit (Geld) für die Softwareentwicklung vorhanden ist. Bei komplizierter Zielfunktion, z. Bsp. wenn die Zielfunktion eine Simulation beinhaltet. Eher bei großen Instanzen. Eher bei NP-schweren Problemen. 20 Henning Meyerhenke, Roland Glantz:

26 Mit und ohne Gedächtnis Vorteile von Gedächtnis sind dass Zyklen im Suchraum vermieden werden können, und dass die Suche nach Lösungen besser intensiviert und diversifiziert werden kann Henning Meyerhenke, Roland Glantz:

27 Einzellösung oder populationsbasiert Vorteile populationsbasierter Metaheuristiken sind bessere und effiziente Diversifizierung, mehr Möglichkeiten zur Intensivierung, sowie oft effiziente Parallelisierung möglich Henning Meyerhenke, Roland Glantz:

28 Iterativ oder greedy (0, 1, 0, 0, 1, 0, 1, 1, 1, 1) (0, 1, 0, 0, 1, 0, 1, 1, 1, 0) (1, 1, 0, 0, 1, 0, 1, 1, 1, 0) (1, 1, 0, 0, 0, 0, 1, 1, 1, 0) (1, 1, 0, 0, 0, 0, 1, 0, 1, 0) (1, 1, 0, 0, 1, 0, 1, 0, 1, 0) (0, 0, 0, 0, 0, 0, 0, 0, 0, 0) (1, 0, 0, 0, 0, 0, 0, 0, 0, 0) (1, 1, 0, 0, 0, 0, 0, 0, 0, 0) (1, 1, 0, 0, 1, 0, 0, 0, 0, 0) (1, 1, 0, 0, 1, 0, 1, 0, 0, 0) (1, 1, 0, 0, 1, 0, 1, 0, 1, 0) Korrekturen möglich. Laufzeiten können hoch sein. Korrekturen nicht möglich. Meist schneller. 23 Henning Meyerhenke, Roland Glantz:

29 Zusammenfassung Metaheuristiken Metaheuristiken liefern oft Lösungen hoher Güte, auch für NP-schwere Probleme, sind auf breiter Front einsetzbar, garantieren keine absolute oder relative Güte, verbringen oft viel Zeit mit wiederholter Berechnung der Zielfunktion, sollten nur eingesetzt weden wenn keine exakten Algorithmen / Approximationsalgorithmen mit akzeptabler Laufzeit existieren. 24 Henning Meyerhenke, Roland Glantz:

30 Inhalt Optimierung Typen von Optimierungsproblemen Repräsentation zulässiger Lösungen Entwurf von Zielfunktionen Approximationsalgorithmen Kombinatorische Optimierung Approximationsalgorithmus: eine Definition Schlechte Approximierbarkeit Metaheuristiken Kriterien für Anwendung von Metaheuristiken Design von Metaheuristiken Qualitätskontrolle Zusammenfassung 25 Henning Meyerhenke, Roland Glantz:

31 Zusammenfassung Tradeoffs zwischen exakten Algorithmen (ExA), Approximationsalgorithmen (AA), problemspezifischen Heuristiken (ph), und Metaheuristiken (MH). An der Tafel. 26 Henning Meyerhenke, Roland Glantz: