Binäre lineare Optimierung mit K*BMDs p.1/42

Transkript

1 Binäre lineare Optimierung mit K*BMDs Ralf Wimmer Institut für Informatik Albert-Ludwigs-Universität Freiburg Binäre lineare Optimierung mit K*BMDs p.1/42

2 Grundlagen Binäre lineare Optimierung mit K*BMDs p.2/42

3 Das Problem BILP (1) Ein binäres lineares Optimierungsproblem (BILP) ist gegeben durch eine Menge von (Constraints) linearen Ungleichungen Es seien dabei. für und Binäre lineare Optimierung mit K*BMDs p.3/42

4 Das Problem BILP (2) eine lineare Zielfunktion (Goal) mit für. Gesucht ist eine Belegung der Variablen, so daß alle Ungleichungen erfüllt sind und der Funktionswert von minimal ist. Binäre lineare Optimierung mit K*BMDs p.4/42

5 Beispiel Das folgende ist ein typisches Beispiel für ein BILP: Binäre lineare Optimierung mit K*BMDs p.5/42

6 Beispiel Das folgende ist ein typisches Beispiel für ein BILP: Es besitzt die Lösung: Variable Wert Binäre lineare Optimierung mit K*BMDs p.5/42

7 Komplexität von BILP (1) Satz: Das Problem, eine erfüllende Belegung für die Constraints zu finden, ist NP-vollständig. Beweis: Wir reduzieren SAT auf BILP. Formel in KNF darin vorkommende Variablen falls falls falls kommt in in vorkommt in vorkommt nicht in vorkommt. vor Binäre lineare Optimierung mit K*BMDs p.6/42

8 Komplexität von BILP (2). Beh.: erfüllbar.. Dann ist für Sei Setze mit. Binäre lineare Optimierung mit K*BMDs p.7/42 denn: entweder gibt es ein oder ein mit

9 Komplexität von BILP (3). Sei. Definiere durch Annahme:. Dann gibt es ein mit Kommt in vor, so ist in vor, so ist und es gilt: und kommt. Damit gilt: gelten. Binäre lineare Optimierung mit K*BMDs p.8/42 Widerspruch. Also muß

10 Der Algorithmus Binäre lineare Optimierung mit K*BMDs p.9/42

11 Aufbau des Verfahrens Der Algorithmus verläuft in folgenden Schritten: Vorverarbeitung Umwandlung der Constraints in charakt. Funktionen UND-Verknüpfung der charakt. Funktionen Minimierung der Goal-Funktion unter der Bedingung, daß gleich 1 ist. Binäre lineare Optimierung mit K*BMDs p.10/42

12 Vorverarbeitung der Constraints Ziel: Anzahl der Variablen reduzieren, ohne Lösungen zu verlieren. Beispiel: Betrachte folgenden Constraint: Falls ist, gibt es keine Belegung von, so daß der Constraint erfüllt ist. Also muß in jeder Lösung sein. Entsprechend muß gelten. Damit können wir in allen Constraints setzen. und Binäre lineare Optimierung mit K*BMDs p.11/42

13 Algorithmus preprocess (1) Input: Matrix der Koeffizienten, rechte Seite Output: true, falls die Suche erfolgreich war. 1 ergebnis = false; // Über alle Constraints iterieren 2 for i = 1 to m do 3 sum = ; // Summe der neg. Koeffizienten berechnen 4 for j = 1 to n do 5 if ( ) sum = sum + ;. Binäre lineare Optimierung mit K*BMDs p.12/42

14 Algorithmus preprocess (2) 6 for j=1 to n do 7 if ( 8 if (sum - 9 print( ) > 0 ) 10 for k=1 to m do else 14 if (sum + 15 print ( ); ergebnis = true; > 0) 16 for k=1 to m do return ergebnis; ; ); ergebnis = true; = 0; Binäre lineare Optimierung mit K*BMDs p.13/42

15 Algorithmus preprocess (3) Dieser Algorithmus wird solange ausgeführt, bis sein Rückgabewert false ist. Dann werden die linken Seiten Constraints in K*BMDs umgewandelt. Binäre lineare Optimierung mit K*BMDs p.14/42

16 Algorithmus leqzero (1) Der nächste Schritt ist, die Constraints in (Boolesche) charakt. Funktionen umzuwandeln. falls sonst Input: K*BMD Output: OBDD für // Basisfälle überprüfen. 1 if (max( 2 if (min( 3 if (comptablelookup( ). eines Constraints. 0) return 1; ) > 0) return 0;,ans) return ans; Binäre lineare Optimierung mit K*BMDs p.15/42

17 Algorithmus leqzero (2) if ( 9 = leqzero( = leqzero( = Cofactor(G, x, 0); = Cofactor(G, x, 1); ) return = ite(var(g), 10 comptableinsert( 11 return H;, ; );, H); ); ); Binäre lineare Optimierung mit K*BMDs p.16/42

18 AND-Verknüpfung der Die ( ) werden mit dem AND-Operator verknüpft. Dieser wird auf den ITE-Operator zurückgeführt: Nach solcher Verknüpfungen erhalten wir: Jetzt haben wir ein OBDD, das die gültigen Variablenbelegungen beschreibt, und ein K*BMD für die Goal- Funktion, die minimiert werden soll. Binäre lineare Optimierung mit K*BMDs p.17/42

19 Algorithmus minimize (1) Input: K*BMD OBDD der charakt. Fkt. für die Goal-Fkt. int bound Wert der bisher besten Lösung. Output: TRUE, wenn eine bessere Lösung gefunden wurde. Der Algorithmus besteht aus folgenden Teilen: Überprüfen der Basisfälle und der CompTable Zerlegen in Kofaktoren Rekursive Aufrufe Zusammensetzen der Lösung Binäre lineare Optimierung mit K*BMDs p.18/42

20 Algorithmus minimize (2) // Basisfälle überprüfen 1 if (iszero( 2 if (min( )) return false; 3 if (isconstant( 4 bound = 5 if (isone( ) bound) return false; )) ; return true; )) 6 bound = min( ); return true; Binäre lineare Optimierung mit K*BMDs p.19/42

21 Algorithmus minimize (3) // In der ComputedTable nachschauen 7 localbound = bound - 8 if (comptablelookup( ;, 9 if (entry.value < entry.bound) 10 if (entry.value < localbound) 11 bound = entry.value + 12 return true; else return false; else 15 if (localbound 16 ;, entry)) entry.bound) return false Binäre lineare Optimierung mit K*BMDs p.20/42

22 Algorithmus minimize (4) // Aufspalten in Kofaktoren 17 if (level(var( 18 topvar = var( else )) ); topvar = var( = cofactor( = cofactor( = cofactor( = cofactor( level(var( );, topvar, 0); ))), topvar, 0);, topvar, 1);, topvar, 1); Binäre lineare Optimierung mit K*BMDs p.21/42

23 Algorithmus minimize (5) // Rekursive Aufrufe 24 entry.bound = localbound; 25 if (min( 26 lret = minimize( 26 hret = minimize( 27 else 28 hret = minimize( 29 lret = minimize( 30 ) < min(,,,, ),localbound);,localbound);,localbound);,localbound); Binäre lineare Optimierung mit K*BMDs p.22/42

24 Algorithmus minimize (6) // Bessere Lösung gefunden? 31 if (lret hret) 32 bound = localbound + ; 33 entry.value = localbound; 34 comptableinsert( 35 return true; 36 else, 37 entry.value = entry.bound; 38 comptableinsert( 39 return false; 40,, entry);,entry); Binäre lineare Optimierung mit K*BMDs p.23/42

25 Probleme und Lösungen Binäre lineare Optimierung mit K*BMDs p.24/42

26 Probleme 1. Auch wenn die K*BMDs für die linken Seiten der Constraints immer lineare Größe besitzen, können die OBDDs für die exponentiell groß werden. 2. Selbst wenn alle AND-Verknüpfung bekommen. klein sind, kann durch die exponentielle Größe 3. Die Größe der Zwischenergebnisse bei der AND-Verknüpfung hängt stark von der Reihenfolge ab. 4. Die gewählte Variablenordnung beeinflußt stark die Größen der OBDDs. Binäre lineare Optimierung mit K*BMDs p.25/42

27 Exponentielle Größe von Einführung eines Parameters n_supp. Umwandlung der Constraints in charakt. Fkt. nur, falls die Zahl der Knoten überall kleiner n_supp. Sonst Aufspaltung der Goal-Fkt. und der Constaints in Kofaktoren. Algorithmus rekursiv auf die Kofaktoren anwenden. Am Schluß wird die bessere Lösung genommen. Siehe Algorithmus ilp_conv. Binäre lineare Optimierung mit K*BMDs p.26/42

28 Algorithmus ilp_conv (1) Input: Output: goal: K*BMD für die Goal-Funktion constraints: Menge von K*BMDs für die linken Seiten der Constraints LB: untere Schranke für die möglichen Lösungen UB: der Wert der bisher besten Lösung c_size: maximale Anzahl von Knoten in den n_supp: maximale Anzahl von Knoten in den K*BMDs. true, falls eine Lösung gefunden wurde, false sonst. Binäre lineare Optimierung mit K*BMDs p.27/42

29 Algorithmus ilp_conv (2) 1 if ( 2 = leqzero(c) 3 return ilp min(goal, 4 5 else 6 l ret = ilp conv( 7 h ret = ilp conv( 8 9 return (h ret l ret); : size(c) < n supp), LB, UB, c size); = divideproblem(goal,,, );,LB,UB,c size,n supp);,lb,ub,c size,n supp); Binäre lineare Optimierung mit K*BMDs p.28/42

30 Exponentielle Größe von Einführung eines Parameters c_size. Verknüpfe nur solche OBDDs mit AND, die weniger als c_size Knoten besitzen. Bleibt mehr als ein OBDD übrig, dann alle in Kofaktoren aufteilen und den Algorithmus rekursiv auf die Kofaktoren anwenden. Am Schluß das bessere Ergebnis verwenden. Siehe Algorithmus ilp_min. Binäre lineare Optimierung mit K*BMDs p.29/42

31 Algorithmus ilp_min (1) Input: goal: K*BMD für die Goal-Funktion constr: Menge von OBDDs für die LB: untere Schranke für die möglichen Lösungen UB: beste bisher gefundene Lösung c_size: maximale Anzahl von Knoten in den Output: True, falls eine Lösung gefunden wurde, false sonst. Binäre lineare Optimierung mit K*BMDs p.30/42

32 Algorithmus ilp_min (2) 1 if (max(goal) < LB) return false; 2 if (min(goal) UB) return false; 3 if ( 4 return false; : minimize(goal, c, UB) = false) 5 constr = AND constr(constr, c size); 6 if ( constr = 1) 7 return minimize(goal, constr, UB); 8 else 9 10 l ret=ilp min( 11 h ret=ilp min( = divideproblem(goal,constr );,, 12 return (l ret h ret); 13, LB, UB, c size);, LB, UB, c size); Binäre lineare Optimierung mit K*BMDs p.31/42

33 Algorithmus ilp_min (3) Die beiden anderen Probleme (Reihenfolge bei der AND-Verknüpfung und Variablenordnung) werden mit Hilfe von Heuristiken gelöst. Binäre lineare Optimierung mit K*BMDs p.32/42

34 Heuristiken Binäre lineare Optimierung mit K*BMDs p.33/42

35 Heuristik: Variablenordnung Für die Variablenordnung haben wir zwei Heuristiken gefunden: Anzahl der Constraints, die von der Variable abhängen: Die zweite Heuristik berücksichtig auch noch die Größe des Support der Constraints: Binäre lineare Optimierung mit K*BMDs p.34/42

36 Reihenfolge/Konjunktion Es gibt 3 verschiedene Heuristiken, die zur Auswahl zweier Constraints, die als nächstes mit AND verknüpft werden sollen, eingesetzt werden können: SizeConjunctionOrder SATConjunctionOrder SupportConjunctionOrder Es folgen noch einige Erläuterungen zu den Heuristiken... Binäre lineare Optimierung mit K*BMDs p.35/42

37 Size-/SATConjunctionOrder SizeConjunctionOrder Diese Heuristik wählt aus einer Menge von OBDDs die beiden aus, die minimal viele Knoten enthalten. Binäre lineare Optimierung mit K*BMDs p.36/42

38 Size-/SATConjunctionOrder SizeConjunctionOrder Diese Heuristik wählt aus einer Menge von OBDDs die beiden aus, die minimal viele Knoten enthalten. SATConjunctionOrder Wähle aus den OBDDs die beiden aus, die die kleinste ON-Menge besitzen. Binäre lineare Optimierung mit K*BMDs p.36/42

39 SupportConjunctionOrder Diese Heuristik berücksichtigt folgende Punkte: Verknüpfe nur OBDDs, die von ähnlichen Variablen abhängen. Verknüpfe OBDDs, die ähnliche Größen besitzen. Der 2. Punkt wird realisiert, indem wir mit zwei Listen von OBDDs arbeiten. Entnommen werden OBDDs immer aus der 1. Liste, eingefügt in die 2. Ist die 1. List leer, werden die Listen vertauscht. Binäre lineare Optimierung mit K*BMDs p.37/42

40 Das Programm Binäre lineare Optimierung mit K*BMDs p.38/42

41 Klassendiagramm Ilp PreProcessor ExternalComputedTableEntry {abstract} VarOrder MinEntry LeqZeroEntry ConjunctionOrder {abstract} SupportConjunctionOrder SATConjunctionOrder SizeConjunctionOrder NaturalConjunctionOrder Binäre lineare Optimierung mit K*BMDs p.39/42

42 Binäre lineare Optimierung mit K*BMDs p.40/42 Eingabeformat Beispiel: 6 2 x1 x2 x3 x4 x5 x steht für

43 Experimentelle Ergebnisse Problem Var Constr c size BILP (sec) FGILP (sec) bm p p stein stein stein siehe Y.-T. Lai et. al. - EVBDD based algorithms for integer linear programming... Binäre lineare Optimierung mit K*BMDs p.41/42

44 Bemerkungen Die Zeiten von FGILP wurden auf einer Sparc Station 2 (28.5 MIPS) mit 64 MB RAM gemessen. Mein ILP-Solver (BLIP) wurde auf einem Athlon-Prozessor mit 1 GHz Taktfrequenz und 256 MB RAM ausgeführt. Die Laufzeiten sind also nicht direkt vergleichbar! Binäre lineare Optimierung mit K*BMDs p.42/42