Inhalt. 8.1 Motivation. 8.2 Optimierung ohne Nebenbedingungen. 8.3 Optimierung unter Nebenbedingungen. 8.4 Lineare Programmierung

Transkript

1 8. Optimierung

2 Inhalt 8.1 Motivation 8.2 Optimierung ohne Nebenbedingungen 8.3 Optimierung unter Nebenbedingungen 8.4 Lineare Programmierung 8.5 Kombinatorische Optimierung 2

3 8.1 Motivation Viele Anwendungen erfordern das Minimieren oder Maximieren einer Zielfunktion unter Berücksichtigung einer oder mehrerer Nebenbedingungen Beispiele: Bestimmen der optimalen Alternative (vgl. Kapitel 2) Bestimmen der optimalen Regressionsgerade (vgl. Kapitel 3) Bestimmen einer optimalen Abdeckung (SET COVER) Bestimmen eines optimalen Produktionsplans 3

4 Motivation Das Gebiet der mathematischen Optimierung beschäftigt sich allgemein mit solchen Optimierungsproblemen In der Betriebswirtschaftslehre kümmert sich das Gebiet Operations Research darum, Entscheidungen herbeizuführen, indem betriebswirtschaftliche Fragestellungen mit Methoden der Optimierung modelliert und gelöst werden 4

5 8.2 Optimierung ohne Nebenbedingungen Aus den Mathematikvorlesungen ist bekannt, wie man die Extremstellen einer reellen Funktion f : R æ R bestimmen kann Vorgehensweise: bestimme Nullstellen der ersten Ableitung f Õ (x) =0 überprüfe zweite Ableitung an den ermittelten Nullstellen x* (lokales) Minimum, falls f ÕÕ (x ú ) > 0 (lokales) Maximum, falls f ÕÕ (x ú ) < 0 5

6 Beispiel: Optimierung ohne Nebenbedingungen Beispiel: Betrachte die Funktion 0.5 x2 f(x) = xe f Õ (x) = (1 x x2 ) e damit -1 und +1 als Nullstellen f ÕÕ (x) =x (3 x x2 ) e f(x) x damit ist -1 ein Maximum und +1 ein Minimum 6

7 Lokale und globale Minima und Maxima Wir finden so alle lokale und globale Minima (Maxima) lokal, d.h. die Funktion nimm in der Nachbarschaft keinen kleineren (größeren) Wert an global, d.h. die Funktion nimmt nirgendwo einen kleineren (größeren) Wert an f(x) = x 2 + e 0.15 x + e 0.19x f(x) x 7

8 Funktionen mehrerer Variablen Vorgehensweise verallgemeinerbar für Funktionen f : R R æ R mehrerer Variablen (hier: x und y) Vorgehensweise: bestimme gemeinsame Nullstellen der partiellen Ableitungen ˆf ˆx =0 ˆf ˆy =0 überprüfe zweite partielle Ableitungen an den Nullstellen x* 8

9 8.3 Optimierung unter Nebenbedingungen Häufig gilt es, ein Minimum (Maximum) unter Einhaltung einer oder mehrerer Nebenbedingungen zu finden Beispiel: Produktionsplanung in einem Unternehmen Produkt x erzielt Erlös von 10 pro verkaufter Einheit Produkt y erzielt Erlös von 25 pro verkaufter Einheit Beide Produkte benötigten ein gemeinsames Bauteil hiervon sind 50 Einheiten verfügbar Produkt x benötigt eine Einheit; Produkt y benötigt drei Einheiten Es kann eine beliebige (reelle) Anzahl der Produkte x und y produziert werden; Ziel ist die Maximierung des Erlös 9

10 Beispiel: Optimierung unter Nebenbedingungen Produktionsplanung formuliert als Optimierungsproblem arg max x,y f(x, y) = 10 x + 25 y s.t. 1 x +3y = 50 Welche Mengen von x und y sollen produziert werden? 10

11 Reduktionsmethode Lässt sich die Nebenbedingung eindeutig nach einer der beiden Variablen x und y auflösen, so können wir die Lösung in die Zielfunktion einsetzen Beispiel: Auflösen der Nebenbedingung nach x 1 x +3y = 50 x = 50 3 y und Einsetzen in die Zielfunktion ergibt F (x, y) = 10 (50 3y) + 25 y = 500 5y 11

12 Reduktionsmethode Die Extremwerte der neuen Zielfunktion F(x,y) lassen sich nun mit der bekannten Vorgehensweise bestimmen Beispiel: Wir stellen fest, dass y* = 0 ein Extremwert ist, d.h. das Unternehmen soll folgende Mengen produzieren: 0 Einheiten des Produkts y 50 Einheiten des Produkts x 12

13 8.4 Lineare Programmierung Lineare Programmierung betrachtet den wichtigen Spezialfall einer linearen Zielfunktion, die unter Berücksichtigung einer Menge linearer Nebenbedingungen optimiert werden soll Beispiel: Produktionsplanung im Unternehmen Produkt x erzielt Erlös von 1, Produkt y einen Erlös von Einheiten von Material a stehen zur Verfügung; jede Einheit von x benötigt 10, jede Einheit von y benötigt Einheiten von Material b stehen zur Verfügung; jede Einheit von x benötigt 4, jede Einheit von y benötigt 8 13

14 Ganzzahlige lineare Programmierung Allgemeine Form eines linearen Programms arg max x 1,...,x n F (x 1,...,x n )=c 1 x c n x n s.t. a i1 x a in x 1 Æ b 1. a m1 x a mn x 1 Æ b m } m Nebenbedingungen Beispiel: arg max x 1,...,x n F (x, y) =1x +2y s.t. 10 x + 10 y Æ x +8y Æ 80 14

15 Graphische Lösung eines linearen Programms Im Fall zweier Variablen lässt sich graphisch eine Lösung bestimmen (ähnlich zu graphischen Modellen in Kapitel 2) Vorgehensweise: jede Nebenbedingung beschreibt eine Gerade (Halbraum) Schnitt dieser Halbräume ist Menge zulässiger Lösungen Zielfunktion beschreibt Menge von Geraden weiter vom Ursprung entfernte Geraden entsprechen einem höheren Wert der Zielfunktion bestimme optimale Lösung durch Geradenverschiebung 15

16 Graphische Lösung eines linearen Programms Beispiel: arg max x 1,...,x n F (x, y) =1x +2y s.t. 10 x + 10 y Æ x +8y Æ 80 Bestimmen der Geraden zu den Nebenbedingungen 10 x + 10 y Æ 150 y = 15 x 4 x +8y Æ 80 y = x 16

17 Graphische Lösung eines linearen Programms 10 x + 10 y Æ 150 y = 15 x 4 x +8y Æ 80 y = x Menge zulässiger Lösungen y x 17

18 Graphische Lösung eines linearen Programms Werte der Zielfunktion entsprechen Geraden der Form y = 0.5 x + c y x 18

19 Graphische Lösung eines linearen Programms Durch Verschiebung der Geraden finden wir die Menge der optimalen Lösungen: der maximale Erlös von 20 wird z.b. mit folgenden Produktionsmengen erzielt x = 0 und y = 10 x = 10 und y = 5 Menge optimaler Lösungen y x 19

20 Ganzzahlige lineare Programmierung Zwei wichtige Spezialfälle der linearen Programmierung: ganzzahlige lineare Programmierung (integer linear programming), wobei Variablen nur ganzzahlige Werte annehmen dürfen 0/1 lineare Programmierung (0/1 linear programming), wobei Variablen nur die Werte 0 und 1 annehmen dürfen Diese Einschränkungen der Variablen machen das Finden einer optimalen Lösung deutlich schwerer 20

21 Solver Bekanntester Algorithmus zum Lösen linearer Programme ist der sogenannte Simplex-Algorithmus Zahlreiche Softwarepakete zum Lösen linearer Programme IBM CPLEX Gurobi LINGO Microsoft Excel (Solver Add-In) diese sogenannten Solver können in der Regel auch ganzzahlige LPs und 0/1-LPs lösen 21

22 8.5 Kombinatorische Optimierung In der Informatik beschäftigen wir uns sehr häufig mit kombinatorischer (d.h. mengenwertiger) Optimierung Beispiel: SET COVER als bekanntes Optimierungsproblem betrachte ein Universum U von Elementen gegeben ist eine Menge S von Teilmengen S i U finde eine möglichst kleine Teilmenge von S, so dass alle Elemente des Universums darin enthalten sind arg min C S C s.t. S i œc S i = U 22

23 Beispiel SET COVER Beispiel: Universum seien die Zahlen 1, 2,, 5 S 1 = {1, 3, 5} S 2 = {4} S 3 = {5} S 4 = {1, 2, 5} S 5 = {1, 5} S 6 = {3, 4} Eine optimale Lösung ist C = {S 4, S 6 } 23

24 SET COVER Wie können wir allgemein eine optimale Lösung finden? SET COVER ist als NP-schweres Problem bekannt Idee 1: Zähle Teilmengen von S in aufsteigender Größe auf und überprüfe, ob sie alle Elemente aus U enthalten Idee 2: Verwende einen gierigen (greedy) Algorithmus, der mit leerer Menge C beginnt und immer die Menge S i hinzufügt, welche die meisten zusätzlichen Elemente aus U beinhaltet 24

25 Approximationsalgorithmus für SET COVER 1 greedysc(u,s,c) { 2 // Initial ist C leer 3 C = ÿ; 4 5 while(fi Sj œc S j = U ) { 6 // Bestimme Teilmenge S ú mit meisten zusätzlichen Elementen 7 S ú = arg max S j fl (U \ fi Si œc S i ) ; S j œs 8 9 // Füge S ú zu C hinzu 10 C = C fi {S ú }; 11 } 12 } Man kann zeigen, dass dieser gierige Algorithmus eine O(log n) Approximation liefert, d.h. die ermittelte Lösung C ist höchstens um einen Faktor O(log n) schlechter als eine optimale Lösung 25

26 SET COVER mittels Simulated Annealing Simulated Annealing ist ein randomisiertes Suchverfahren, welches häufig zur Lösung kombinatorischer Optimierungsproblemen eingesetzt werden kann Idee: beginne mit einer Lösung wiederhole für eine Gesamtzahl von R Runden verändere die aktuelle Lösung zufällig es sei d die erreichte Veränderung der Zielfunktion ist d 0, so übernehme veränderte Lösung ist d > 0, so übernehme veränderte Lösung mit Wahrscheinlichkeit exp(-d/r) mit r als Zahl verbleibender Runden 26

27 SET COVER mittels Simulated Annealing Um Simulated Annealing auf SET COVER anwenden zu können, benötigen wir eine initiale Lösung sowie ein Möglichkeit Lösungen zufällig ändern als initiale Lösung verwenden wir C = S um eine Lösung zu ändern, wählen wir zufällig eine enthaltene Teilmenge, entfernen sie und überprüfen, ob dies noch eine gültige Lösung ist oder eine nicht enthaltene Teilmenge aus und fügen sie hinzu 27

28 SET COVER als ganzzahliges lineares Programm Kombinatorische Optimierungsprobleme lassen sich oft als ganzzahlige lineare Programme formulieren Man kann dann einen verfügbaren Solver (z.b. Gurobi) verwenden, um eine (nahezu) optimale Lösung zu finden und muss sich selbst keine Gedanken über einen geeigneten Algorithmus machen 28

29 SET COVER als ganzzahliges lineares Programm SET COVER als ganzzahliges lineares Programm formuliert eine Variable x i je Teilmenge S i eine Nebenbedingung je Element u j aus U, die sicherstellt dass das Element u j abgedeckt wird; hierzu seien Gewichte c ij definiert als c ij = 1(u j œ S i ) eine Nebenbedingung je Variable x i, die sicherstellt dass deren Wert in {0,1} liegt 29

30 SET COVER als ganzzahliges lineares Programm Damit ergibt sich folgendes ganzzahliges lineares Programm arg min x 1,...,x n ÿ i x i s.t. j : ÿ i c ij x i Ø 0 i : x i Æ 1 30

31 Zusammenfassung Reduktionsmethode zur Optimierung einer Funktion mehrerer Variablen unter einer Nebenbedingung Lineare Programmierung als wichtiger Spezialfall einer linearen Zielfunktion und einer Menge von linearen Nebenbedingungen SET COVER als Beispiel eines kombinatorischen Optimierungsproblems, welches sich auf unterschiedliche Arten lösen lässt 31

32 Literatur [1] M. Papageorgiou, M. Leibold und M. Buss: Optimierung, Springer 2015 (Kapitel 3-5 & 7) [2] W. Domschke, A. Drexl, R. Klein und A. Scholl: Einführung in Operations Research, Springer, 2015 (Kapitel 1 & 2) 32