KAPITEL 5 ENTSCHEIDUNGSBAUMVERFAHREN

Transkript

1 5 Entscheidungsbaumverfahren Seite 89 KAPITEL 5 ENTSCHEIDUNGSBAUMVERFAHREN Ganzzahlige Probleme gehören häufig zur Klasse der sog. kombinatorischen Problemen, wozu man auch alle transformierten Modelle zu zählen hat:! Reihenfolgeproblem Dabei sind n Elemente einer Menge in eine optimale Reihenfolge zu bringen. Theoretisch gibt es n! Reihenfolgen, mithin im allg. sehr, sehr viele. Zu dieser Klasse gehört z.b. das Travelling Salesman Problem und das Maschinenbelegungsproblem.! Zuordnungsproblem n Elemente einer Menge sollen je einem der n Elemente einer anderen Menge optimal zugeordnet werden. Auch hier gibt es maximal n! Zuordnungen. Jedoch ist das Problem als lineares Modell wegen seiner speziellen Struktur nicht lösbar! Auswahlproblem Aus einer Menge von n Elemnten soll eine Untermenge von m Elementen ausgewählt werden. n Es gibt theoretisch Möglichkeiten. Das sog. Knapsack-Problem gehört zu dieser Klasse. m Gerade diese Probleme, ganz allgemein jedoch fast alle ganzzahligen Probleme haben i.d.r. außerordentlich viele zulässige Lösungen. Die fehlende Stetigkeitseigenschaft der Lösungsmannigfaltigkeit, d.h. die Diskretheit der Lösungen, erschweren die sog. implizite Enumeration. Darunter ist das Ausscheiden solcher Lösungen zu verstehen, die aufgrund bestimmter Eigenschaften nicht optimal sein können, weshalb sie nicht berechnet, d.h. explizit enumeriert zu werden brauchen. Es ist einleuchtend, daß eine Methode umso effizienter ist, je mehr Lösungen implizit berücksichtigt werden können, oder - was im gewissen Sinne gleichbedeutend ist - je weniger Lösungen explizit untersucht werden müssen. Bei einem LP-Problem werden beispielsweise alle (unendlich viele) Lösungen untersucht, jedoch braucht nur ein Bruchteil der Eckpunkte explizit enumeriert zu werden. Die Mehrzahl aller Lösungen wird implizit auf der Basis bestimmter Eigenschaften (Konvexität, Linearität) einbezogen. Eine ähnliche Vorgehensweise ist auch bei der Lösung von ganzzahligen Problemen anzustreben, jedoch - das sei vorausgeschickt - es ist ungleich schwerer zu erreichen. Ein Grund hierfür ist, daß häufig sehr viele Lösungen "gleichberechtigt" oder zumindest annähernd gleich gut sind, so daß es schwierig ist, einzelne (möglichst viele) durch andere zu dominieren. Das heißt, wegen der gegenseitigen Nähe und der Vielzahl der Lösungen sind letztlich sehr viele Lösungen zu untersuchen, bevor man sicher sein kann, wirklich die günstigste Entscheidungsalternative gefunden zu haben. Im schlimmsten Fall kann das sogar bedeuten, daß man alle Lösungen enumerieren muß. Bei O(n!) Lösungen ist dies in vielen Fällen jedoch ein schier aussichtloses Unterfangen. Dennoch ist es zweckmäßig, das Prinzip der Enumeration, d.h. der geordneten Entwicklung der Lösung beizubehalten. Hierfür bietet das graphische Modell des Baumes eine ausgezeichnete Strukturierungshilfe, wobei der Lösungsprozeß i.d.r. in der Wurzel begonnen wird und jede weitere Information zu einem Wachstum des Baumes führt. Jede Zustandsänderung bewirkt also das Hinzufügen eines Zweiges, das ist graphentheoretisch eine Kante und ein Knoten. Auf diese Weise entsteht eine Baumstruktur als Modell des Lösungsprozesses - im Gegensatz zum Graph als Modell des Realproblems.

2 Seite 90 5 Entscheidungsbaumverfahren Von wesentlicher Bedeutung ist natürlich, wie das Wachstum des Entscheidungsbaumes abläuft, d.h. der Lösungsprozeß fortschreitet. Hierin und in der Art der Organisation unterscheiden sich die verschiedenen Entscheidungsbaumverfahren. Ein trivialer Entscheidungsbaum ergibt sich natürlich, wenn man systematisch jede denkbare Lösung entwickelt und sie auf Zulässigkeit überprüft. Wegen der Vielzahl der Lösungen scheidet die vollständige Enumeration zur Lösung kombinatorischer Probleme aus. Die wesentliche Idee ist nun zu versuchen, nur einenteil der Lösungen explizit zu bestimmen und zu vergleichen. Nach Möglichkeit sollte dagegen der größere Teil der Lösungen durch intelligente, logische Überlegungen ausgeschlossen werden, wenn er für die optimale Lösung ohnehin nicht in Frage kommt. Im Prinzip folgt man also ähnlichen Überlegungen, die auch bei der Lösungen von LP-Problemem eine Rolle spielten. Man versucht, einen möglichst großen Teil der Lösungen implizit zu enumerieren und man könnte, - mit Einschränkungen zwar - behaupten, je mehr Lösungen man implizit berücksichtigt, desto effizienter ist das Verfahren. Allerdings - und das ist die Einschränkung - darf man den Aufwand zur implizierten Berücksichtigung nicht vernachlässigen. Die verschiedenen Entscheidungsbäume unterscheiden sich in:! der Bedeutung der Komponenten "Knoten" und "Kanten" des Baums,! der Organisation des Aufbaus des Baumes und! den zahlreichen Möglichkeiten der Verzweigungen. Diese mehr strategischen Entscheidungen haben zur Folge, daß die Lösung eines Problems dem Prinzip nach auf unterschiedliche Wegen eingekreist wird. Entsprechend definieren diese Unterschiede auch jeweils Lösungsprinzipien. Für einen konkreten Problemtyp müssen dann noch weitere Entwurfsentscheidungen getroffen werden, wie im Einzelfall vorgegangen wird. Es handelt sich dann um die Entwicklung oder Anwendung sog. Entscheidungsbaum-Verfahren. Die verschiedenen Entscheidungsbaumverfahren unterscheiden sich im wesentlichen darin, wie der Baum aufgebaut und abgearbeitet wird, und was den Knoten und Kanten des Baumes zugeordnet wird. Dabei haben sich drei Lösungsprinzipien entwickelt: Dynamische Optimierung Begrenzte Enumeration Branch & Bound Letzteres Prinzip, das wohl auch die wirksamste aller Strategien enthält, wollen wir zur Lösung von ganzzahligen Problemen einsetzen. 5.1 Branch & Bound-Verfahren 'Branch & Bound' heißt wörtlich übersetzt 'Verzweigen - und - Abschätzen'. Gemeint ist damit die uralte Lösungsstrategie des 'divide - and - conquer', d.h. des 'Teilen - und - Besiegens'. Was zu stark, zu groß, zu schwer ist, um es als Ganzes zu bezwingen, wird in kleinere Einheiten aufgeteilt, die jede für sich untersucht werden, ob sie 'besiegbar' sind, d.h. die (bzw. eine) Lösung des Problems enthalten. Da ein Problem selten schon dadurch leichter lösbar wird, daß man es verkleinert, versucht man zusätzlich abzuschätzen, ob in ihm überhaupt noch eine Lösung enthalten sein kann.

3 5.1 Branch & Bound-Verfahren Seite 91 Die Teilung des Problems wird beim Branch & Bound in Falle der Lösung ganzzahliger Probleme dadurch vorgenommen, daß der zulässige Lösungsbereih systematisch verkleinert wird. Man erhofft hiervon übersichtliche Lösungsmengen, die weiteruntersucht werden. Das Abschätzen erfolgt fast immer dadurch, daß man statt des ganzzahligen Problems ein sog. relaxiertes Problem löst. 'Relaxieren' heißt 'außer Kraft setzen'. Bei ganzzahligen Problemen wird fast immer die Ganzzahligkeitbedingung außer Kraft gesetzt, so daß ein größerer Lösungsraum entsteht, über dem die Zielfunktion im Maximum nun auch einen größeren Zielfunktionswert annehmen kann. Man gewinnt damit also eine Abschätzung, im Falle der Mximierung also eine obere Schranke. Entscheidend ist nun, welche Schlüsse man aus den Schranken zieht. Enthält das relaxierte Problem keine Lösung, so ist auch das ganzzahlige unlösbar. Ist die Schranke kleiner als eine bekannte Lösung des ganzzahligen Problems, so kann keine bessere enthalten sein. Ist schließlich die Lösung im Sinne des ganzzahligen Problems zulässig, so vergleicht man diese mit der besten bekannten zulässigen Lösung und ersetzt diese gegegebenfalls. In allen drei Fällen braucht das Teilproblem nicht weiter untersucht zu werden. Man wählt daher ein anderes Teilproblem aus und wiederholt den Prozeß bis man über alle Teilprobleme eine der drei obigen Informationszustände erreicht. In diesem Fall hat man mit der besten bekannten zulässigen Lösung die Optimallösung des Gesamtproblems. Explizit enumeriert wurden dabei nur die ganzzahligen Lösungen der Teilprobleme, die sich im Laufe des Entscheidungprozesses als zulässig herausgestellt haben. Alle anderen Lösungen wurden von der jeweils besten bekannten Lösung dominiert und damit implizit berücksichtigt. Dies ist praktisch der Nachweis der Optimalität. 5.2 Das Branch & Bound-Prinzip Nach dem zunächst relativ allgemein erläuterten Prinzip soll die grundsätzliche Vorgehensweise an einem Problem der ganzzahligen Optimierung illustriert werden. Wir werden es im weiteren das IP- Problem nennen. Die Lösungsschwierigkeiten resultieren in einem IP-Problem aus der Ganzzahligkeit für einzelne Variablen. Indem diese relaxiert, d.h. nicht gefordert wird, vergrößert man den Lösungsraum. Löst man also statt des IP-Problems seine LP-Relaxation, so ergibt sich für ein Maximierungsproblem notwendigerweise ein Zielfunktionswert, der nicht kleiner sein kann als derjenige des LP-Problems, so daß wir mit z 0 als optimalem Zielfunktionswert der LP-Relaxation LP 0 eine obere Schranke für die gesuchte Lösung z max des IP-Problems IP 0 erhalten: z max z. Falls die Lösung von LP 0 den Ganzzahligkeitsbedingungen genügt, ist man fertig, denn in diesem Fall ist z max = z 0, und man hat die gesuchte Lösung gefunden. In jedem anderen Fall ergibt sich für mindestens eine Variable, z.b. x r, ein nicht ganzzahliger Wert. Das IP-Problem IP 0, das schwer lösbar erscheint, wird nun in zwei oder mehr - nicht notwendigerweise disjunkte (obwohl sie in fast allen Algorithmen disjunkt sind) - Teilprobleme aufgeteilt, von der man sich erhofft, daß sie leichter lösbar sind, weil bereits Vorentscheidungen getroffen sind. Für alle Teilprobleme (z.b. IP 11, IP 12, IP 13 etc.) wird wieder die LP-Relaxation berechnet, d.h. es werden dielp-probleme LP 11, LP 12, LP 13 etc. gelöst. Die Teilprobleme werden zusammen mit den LP- Relaxationen in die sog. Kandidatenliste eingestellt, die alle Teilprobleme enthält, über die noch nicht befunden wurde (vgl. Abb. 5.1).

4 Seite 92 5 Entscheidungsbaumverfahren IP0 LP0: z0 Branching = Verzweigen IP11 LP11: z11 Bounding = Beschränken IP12 LP12: z12 IP13 LP13: z13 Kandidatenliste {or3ab501.pre} Abb. 5.1: Erste Schritte des Branch & Bound-Prinzips Bevor das Teilproblem in die Kandidatenliste übernommen wird, kann man bereits wichtige Tests durchführen, die man als Abbruchkriterien (engl. fathoming criteria) bezeichnet. Gemeint ist damit, daß der weitere Abbau des Entscheidungsbaums an dem zugehörigen Zweig abgebrochen wird. Abbruchkriterium FC1 Besitzt die LP-Relaxation LP j eines IP-Problems keine Lösung - d.h. ist sie widersprüchlich -, kann auch das IP-Problem IP j keine Lösung haben. Der Lösungsbereich ist leer: L(IP j ) =. Der entsprechende Zweig des Entscheidungsbaums braucht dann nicht weiter verfolgt zu werden. Das zweite Abbruchkriterium setzt voraus, daß eine zulässige Lösung des IP-Problems bekannt ist: z lfd. Diese Lösung kann z.b. mit Hilfe einer Heuristik bestimmt worden sein, oder sie ist während des laufenden Lösungsprozesses ermittelt worden. Wir setzen also voraus, daß z lfd stets der Zielfunktionswert der besten bekannten, zulässigen Lösung ist. Abbruchkriterium FC2 Falls die Lösung der LP-Relaxation LP j schlechter ist als die bislang beste bekannte Lösung, z j < z lfd, braucht der Zweig nicht weiterverfolgt zu werden.. In diesem Fall sind alle im IP j enthaltenen Lösungen als schlechter als die laufende Vergleichslösung; man sagt auch, alle Lösungen von LP j und folglich auch IP j werden von z lfd dominiert. Der Zweig braucht schließlich nicht weiterverfolgt zu werden, wenn LP j eine zulässige Lösung im Sinne des IP j hat. Abbruchkriterium FC 3 Falls die Lösung der LP-Relaxation LP j zulässig bezüglich IP j ist, d.h. die (relaxierten) Ganzzahligkeitsbedingungen erfüllt, wird geprüft, ob diese besser ist als die beste bekante Lösung: z j > z lfd.. Wenn ja, wird sie neue Vergleichslösung.

5 5.2 Das Branch & Bound-Prinzip Seite 93 In jedem Fall braucht der Zweig nicht weiter verfolgt zu werden, da jede andere ganzzahlige Lösung im IP j notwendigerweise schlechter (oder höchstens gleich gut) ist. Falls keines der drei Abbruchkriterien wirksam wird, kommt das Teilproblem in die Kandidatenliste, aus der dann ein Kandidatenproblem ausgewählt wird, um weiter aufgespalten zu werden: welches damit die Kandidatenliste verläßt, hängt von entsprechenden Kriterien ab. Üblicherweise wählt man das Problem IP k, dessen LP-Zielfunktionswert z k maximal ist, weil man damit das Problem auszusuchen hofft, bei dem die größte Chance zu bestehen scheint, eine gute Lösung zu finden. Verfolgt man den Aufbau und die Wirkung der Abbruchkriterien weiter, so ergibt sich letztendlich ein Entscheidungsbaum gemäß Abb. 5.2 Das Problem ist gelöst, wenn eine zulässige Lösung gefunden wurde (z lfd ) und die Kandidatenliste leer ist. In diesem Fall sind alle Endknoten des Baumes abgearbeitet. IP0 LP0: z0 IP11 IP12 IP12 LP11: z11 LP12: z12 LP13: z13 FC1: L(LP13) = IP24 LP24: z24 IP25 LP25: z25 IP21 IP22 IP23 LP21: z21 LP22: z22 LP23: z23 FC1: L(LP24) = FC2: z25 < zlfd. FC2. FC3: zlfd. = z23 IP31 LP31: z31 IP32 LP32: z32 FC2. FC3: zlfd. = z32 or3ab502.pre} Abb. 5.2: Ausbau des Entscheidungsbaums und Abbruch wegen verschiedener Kriterien 5.3 Ein Branch & Bound-Beispiel Das Prinzip soll nun an einem numerischen Beispiel illustriert werden: Problem IP = IP 0 Max z mit z = u.d.n , 0 ganzzahlig Löst man das Problem zunächst ohne Ganzzahligkeitsbedingung (LP-Relaxation), so ergibt sich:

6 Seite 94 5 Entscheidungsbaumverfahren Max RS Max x 3 RS z z x Tab. 5.1a-b: Lösung des Problems LP 0 Wir registrieren:! Die Lösung ist keine zulässige Lösung des IP 0.! Für die Lösung des IP muß somit gelten: z max 52.! Da der Wert von nicht ganzzahlig ist, kann man schließen, daß im IP entweder 2 oder 3 gelten muß. Indem man diese Restriktionen dem ursprünglichen Problem zufügt, ergeben sich zwei Teilprobleme. Das heißt, die Formulierung disjunkter Nebenbedingungen ergibt zwei Teilprobleme. Wir haben hiermit eine Verzweigung durchgeführt: Max RS Max ' RS Max ' x 3 RS z z z x x ' Tab. 5.2a-c: Lösung des Problem LP 11 Max RS Max x 4 RS z z x x keine zul. Lösung! x Tab. 5.3a-b: Lösung des Problem LP 12 Das Problem LP 12 hat keine zulässige Lösung, d.h. L (LP 12 ) = (FC1). Das Problem LP 11 wird in die Kandidatenliste gestellt. Der Entscheidungsbaum hat die Form von Abb Beide Probleme LP 11 und LP 12 umfassen zusammen alle ganzzahligen Lösungen, weil nur der Bereich 2 < < 3 ausgeschlossen wurde, in dem bekanntlich keine ganzzahligen Lösungen liegen können.

7 5.3 Ein Branch & Bound-Beispiel Seite 95 IP: max z A x <= b ganzz. x >= 0 Enthält alle (ganzzahligen) Lösungen. LP0: z0 = 52,5 x1 = 2,5; x2 = 0 Enthält alle ganzzahligen Lösungen. x1 <= 2 x1 >= 3 LP11: z11 = 50,25 x1 = 2; x2 = 0,75 LP12 = FC1 Enthalten zusammen alle ganzzahligen Lösungen. {or3ab503.pre} Abb. 5.3: Entscheidungsbaum 1 Das heißt, alle ganzzahligen Lösungen des IP sind garantiert im Knoten LP 11 enthalten. Da jedoch die Variable nicht ganzzahlig ist, werden hieraus wieder 2 Probleme gebildet: LP 21 : 0 zusammen mit 0 = 0: Max RS Max ' RS z z x x ' Tab. 5.4a-b: Lösung des Problems LP 21 LP 21 hat eine ganzzahlige Lösung (FC3), d.h. die erste zulässige Lösung des IP ist gefunden: z lfd = 42 LP 22 : 1: Max RS Max x 4 RS z z x x ' ' x Tab. 5.5a-b: Lösung des Problems LP 22 mit 1

8 Seite 96 5 Entscheidungsbaumverfahren Max x 3 x 4 RS z ' Tab. 5.5c: Optimale Lösung des Problems LP 22 Das Problem IP 21 hat eine ganzzahlige Lösung, es braucht nicht weiter untersucht zu werden (FC3). Das Problem IP 22 geht mit der Oberschranke z 22 = in die Kandidatenliste. Es ergibt sich also folgender Weiterbau zum Entscheidungsbaum 2 in Abb IP LP0 x1 <= 2 LP11: z11 = 50,25 x1 >= 3 LP12 x1 = 2; x2 = 0,75 x2 = 0 x2 >= 1 FC1 LP21: z21 = 42 x1 = 2; x2 = 0 LP22: z22 = 49,50 x1 = 11/6; x2 = 1 LP 22 derzeit einziges Problem in der Kandidatenliste. FC3 {or3ab504.pre} Abb. 5.4: Entscheidungsbaum 2 Aus der Kandidatenliste wird das derzeit einzige Problem LP 22 ausgewählt, und anhand der nicht ganzzahligen Variablen wird verzweigt:

9 5.3 Ein Branch & Bound-Beispiel Seite 97 LP 31 : 1 ist restriktiver als 2, es ersetzt also eine Nebenbedingung:. Max RS Max x 4 RS z z x x ' ' x Max ' x 4 RS Max ' x 3 RS z z x x Tab. 5.5a-d: Lösung des Problems LP 31 LP 32 : 2 zusammen mit 2 = 2: Max RS Max x 4 RS z z x x keine zuläss. Lösung x Tab. 5.6a-b: Lösung des Problems LP 32 Das Problem LP 32 hat keine zulässige Lösung, so daß abgebrochen werden kann (FC1). Der Entscheidungsbaum 3 hat nun die Form von Abb. 5.5.

10 Seite 98 5 Entscheidungsbaumverfahren IP LP0 <= 2 >= 3 LP11 = 0 >= 1 LP12 LP21 LP22: z 22 = 49,50 = 1 5/6; = 1 <= 1 = 2 FC1 LP31: z 31 = 43 3/4 LP32: = 1; = 2 1/4 FC1 {or3ab505.pre} Abb. 5.5: Entscheidungsbaum 3 Das Problem LP 31 aus der Kandidatenliste wird an der Variablen weiter geteilt. In der folgenden Lösung muß man auch die Nebenbedingung 1 berücksichtigen, d.h. eine Untergrenze für. Das geschieht dadurch, daß auf die Untergrenze gesetzt und durch die Variable substituiert wird. Gleichzeitig muß die Obergrenze um diesen Betrag, also 1, erniedrigt werden. LP 41 : 1: Max RS Max ' RS Max ' ' RS z z z x x x ' ' ' Tab. 5.7a-c: Lösung des Problems LP 41 : die Rücktransformation ergibt = + 1 = 2

11 LP 42 : 3 mit Ein Branch & Bound-Beispiel Seite 99 Max RS Max x 4 RS Max x 3 x 4 RS z z z x x ' ' ' x Tab. 5.8a-c: Lösung des Problems LP 42 Das Teilproblem LP 41 hat eine ganzzahlige Lösung (FC3) mit einem Zielfunktionswert z 41 = 43, der besser ist als z lfd = 42, so daß z lfd = 43 gesetzt wird und die Lösung von IP 41 die neue Vergleichslösung ist. Das Teilproblem LP 42 hat einen Zielfunktionswert von z 42 = Es kann also bestenfalls eine ganzzahlige Lösung mit dem Wert 43 enthalten, also keine bessere als z lfd (FC2). Somit ergibt sich der Entscheidungsbaum 4 in Abb IP LP0 x1 <= 2 x1 >= 3 LP11 LP12 x2 = 0 x2 >= 1 LP21 LP22 FC1 FC3 x1 <= 1 x1 = 2 LP31 LP32 x2 <= 2 x2 >= 3 FC1 LP41 LP42 FC3 FC2 {or3ab506.pre} Abb. 5.6: Vollständiger Entscheidungsbaum Alle Zweige des Entscheidungsbaums sind nun abgearbeitet, so daß die letzte laufende Lösung die gesuchte maximale Lösung des IP ist: z max = z lfd = 43 für = 1 und = 2.

12 Seite Entscheidungsbaumverfahren Die verschiedenen Verzweigungen, die jeweils durch zusätzliche Nebenbedingungen vorgenommen wurden, d.h. die Teilug des zulässigen Bereiches, läßt sich an Hand der Abb. 5.7 nachvollziehen. x2 4 3 LP LP41 LP31 LP22 LP12 Zielfunktion LP11 o x1 {or3ab507.pre} Abb. 5.7: Aufteilung des zulässigen Bereiches beim Verzweigen 5.4 Zusammenfassende Diskusssion! Mit dem Unterdrücken der Ganzzahligkeit bei der ersten Lösung geht keine ganzzahlige Lösung verloren, denn der zulässige Bereich wurde erweitert. D.h. alle Lösungen des IP sind auch zulässige Lösungen des LP.! Falls die Lösung des LP ganzzahlig wäre, wäre sie auch die optimale Löusng des IP gewesen.! Bei der ersten Verzweigung - und das gilt für alle folgenden Verzweigungen sinngemäß - wurde der zulässige Bereich, d.h. die Menge aller Lösungen in Teilmengen aufgeliedert. Das Prinzip "Teile und Besiege" der Untersuchung einer Teilmenge kann bei jedem Problem angewendet werden. Löst man Teilprobleme und vergleicht man die Lösungen, so hat man auch das größere Problem gelöst, wenn man sicherstellt, durch die Aufteilung keine Lösung verloren zu haben.! Bei der Bildung von Teilmengen bestehen relativ viele Freiheitsgrade. Es müssen lediglich zwei Bedingungen beachtet werden: keine potentielle Lösung darf verloren gehen die bisher bekannte - nicht zulässige - Lösung muß ausgeschlossen werden (vgl. Bedingungen an Schnittebenen)! Durch die Teilmengenbildung sind die Probleme i.d.r. eingeschränkter - es sind Informationen hinzugekommen. Selten sind sie jedoch wirklich leichter lösbar geworden, d.h. weniger kom-

13 5.4 Zusammenfassende Diskussion Seite 101 plex. (Ein ganzzahliges Problem ist immer schwer lösbar, auch über einen etwas kleineren Lösungsbereich) Um dennoch an mehr Information über die Lösungen zu gelangen, versucht man nun abzuschätzen, welche Lösungen überhaupt noch in Frage kommen. Eine der mächtigsten Abschätzungsmöglichkeiten ergibt sich durch Relaxation, d.h. durch Stillegung bestimmter Einschränkungen. Typischerweise werden diejenigen Bedingungen relaxiert, die für die Lösung am schwierigsten sind. Als Folge der Relaxation ergibt sich ein vergrößerter Lösungsbereich. Somit stellt die Lösung der Relaxation für ein Maximierungsproblem stets eine Oberschranke und für ein Minimierungsproblem stets eine Unterschranke dar.! Die derart gewonnene Lösung kann nun im Sinne des ersten Punktes als Untersuchung eines Teilproblems angesehen werden. Das heißt, der Prozeß wiederholt sich für das Teilproblem. Es liegt eine rekursiver Prozeß vor.! Wenn dieser rekursive Prozeß festgesetzt wird, werden zum Schluß eine große Zahl von Knoten gebildet worden sein: bei vollständiger, expliziter Enumeration für jede zulässige Lösung auch Endknoten. Da dies mit Sicherheit zu aufwendig wäre, muß man sich Gedanken machen, ob man einzelne Teilprobleme nicht mehr weiter zu untersuchen braucht.! Im vorliegendem Fall ist festzustellen: Falls eine Teilproblem keine zulässige Lösung besitzt (FC1) Falls die optimale Lösung eines Teilproblems eine zulässige Lösung des Gesamtproblems ist (FC2) Falls die optimale Lösung eines Teilproblems nicht besser ist als die beste bekannte zulässige Lösung (FC3)! Mit dem Entscheidungsbaum soll angestrebt werden: alle Lösungen zu erfassen, jedoch möglichst viele durch mathematische oder logische Deduktion, d.h. implizit zu enumerieren, bzw. möglichst frühzeitig zu erkennen, daß die in einem Teilproblem enthaltenen Lösungen nicht optimal sein können.! Das beschriebene Entscheidungsbaum-Verfahren ist das "Branch and Bound"-Verfahren von Dakin. Es ist ein Entscheidungsbaum-Verfahren, entwickelt für eine bestimmte Klasse von Problemen. Ein anderes ebenfalls für MIP-Probleme geeignetes Verfahren ist das von Land und Doig. 5.5 Vor- und Nachteile von Branch & Bound-Verfahren Nachdem die grundsätzliche Vorgehensweise beschrieben ist, sollen kurz die Vorteile der Branch & Bound-Methode diskutiert werden. Anbindung an LP-Modul

14 Seite Entscheidungsbaumverfahren Branch & Bound kann relativ einfach als Modul an ein existierendes LP-Programm angefügt werden. Die LP-Probleme benachbarter Knoten im Baum unterscheiden sich letztlich nur in einem Bound. Ausgehend von der Optimalbasis des unmittelbaren Vorgängers können daher schnell die Optimalbasen der neuen Teilprobleme berechnet werden. Dennoch sollte der Lösungsaufwand für die LP-Probleme nicht unterschätzt werden. Es können Vorkehrungen getroffen werden, solche Knoten zunächst zurückzustellen, die zu viel Rechenaufwand benötigen. Gestaltungsfreiheit des Algorithmus Der Aufbau des Baumes und die Suchstrategie bieten für den Benutzer ein Höchstmaß an Freiheitsgraden. Das bedeutet, daß drei der vier Basisentscheidungen (Knotenauswahl, Verzweigen, Lösen des Teilproblems) i.d.r. noch viele Wahlmöglichkeiten bieten. Der wesentliche Unterschied der MIP-Codes besteht darin, wie dieser Spielraum ausgefüllt wird, und wie diese Freiheitsgrade vom Benutzer problemabhängig ausgenutzt werden können. Heuristische Unterstützung Die Auswahlentscheidungen (Verzweigungsknoten, Verzweigungsvariable) können durch sinnvolle Prioritätsregeln unterstützt werden. Die auf heuristischen Prinzipien basierenden Prioritätsregeln bilden die wesentlichen Bausteine eines MIP-Codes. Die Wahl des 'richtigen' Knotens und die Entscheidung, an welcher Variablen verzweigt wird, entscheidet letztlich über die Tiefe und die Breite des Baumes, d.h. über den Lösungsaufwand. Ferner hängt es ganz wesentlich von diesen Entscheidungen ab, wie schnell man 'gute' IP-Lösungen findet, die ihrerseits mächtige Schranken darstellen. Verwendbarkeit der Lösung bei Abbruch Der Benutzter verfügt mit jeder IP-Lösung, deren Optimalität noch nicht nachgewiesen ist, mindestens über eine untere Schranke im Minimierungsfall (eine obere Schranke beim Maximierungs-Problem), anhand derer er seine beste Lösung beurteilen kann. Die in der Kandidatenliste verbliebenen Knoten können nur noch Lösungen enthalten, deren Funktionswert zwischen dem besten Wert z j der restlichen Knoten und der bekannten IP- Lösung z lfd liegen. Ist der Abstand z j - z lfd gering, so ist die Wahrscheinlichkeit groß, daß z lfd maximal ist oder mindestens nahe am Optimum liegt. Zum Nachweis der Optimalität müßte der Entscheidungsbaum vollständig abgearbeitet werden. Auf diesen, in den meisten Fällen sehr aufwendigen Prozeß kann dann u.u. verzichtet werden, wenn man nicht unbedingt die optimale Lösung berechnen muß bzw. auf den Nachweis der Optimalität verzichten kann. Den mannigfaltigen Vorteilen des Branch & Bound stehen jedoch auch gewichtige Nachteile gegenüber. # Hoher Speicheraufwand Die größten Schwierigkeiten ergeben sich aus dem i.d.r. enorm hohen Speicheraufwand- Die Verwaltung der erwähnten Kandidatenliste erfordert einen hohen Grad an Datenorganisation, wobei folgende Informationen vorgehalten werden müssen:

15 5.5 Vor- und nachteile von Branch & Bound-Verfahren Seite 103 Der Entscheidungsbaum selbst muß abgebildet werden, damit nachvollziehbar wird, welche Restriktionen für die Verzweigung verwendet wurde. Jedes Blatt, d.h. jeder in die Kandidatenliste aufgenommene Knoten enthält eine vollständige LP-Relaxation, dessen optimale Lösung festgehalten wird (Basis, Variablen). Auf diese Lösung muß im Fall derauswahl und des Verzweigens 'aufgesetzt' werden, so daß hieraus durch Reinversion und Upper-Bounding-Technik mit möglichst geringem Aufwand die neue Lösung berechnet werden kann. Da die Anzahl der zurückgestellten Knoten i.allg. sehr groß wird, ergibt sich ein hoher Suchaufwand (information retrieval). # Rechenaufwand Durch die wiederholte Lösung vieler LP-Probleme ergibt sich ein hoher Rechenaufwand. Ein für die 'Zu-Fuß-Rechnung' scheinbar großes Problem, das der wiederholten Lösung der LP-Relaxation, sei zwar erwähnt; es stellt sich jedoch als eher unwesentlich heraus, da der Schritt von der Optimallösung des Vorgangsknotens zur neuerlichen Lösung i.d.r. nur wenige Iterationen (häufig nur eine) bedeutet. # Variable Problemgröße Unangenehm ist auch, daß die Problemdimension, d.h. im wesentlichen die Anzahl der Nebenbedingungen und damit die Basisgröße, nicht konstant ist. Das erschwert eine optimale Datenverwaltung in Listenform, weil die Einträge pro Knoten unterschiedliche Längen besitzen. Andererseits sind die hinzu kommenden Nebenbedingungen grundsätzliche Bounds, die wiederum einfach zu verwalten sind. Die Vor- und Nachteile der Branch & Bound-Verfahren gegeneinander aufrechnen, macht wenig Sinn. Wesentlicher ist, sie mit alternativen Verfahren, z.b. dem Schnittebenenverfahren, zuvergleichen. Dann allerdings schneiden Branch & Bound-Verfahren günstiger ab, weil sie sich bei den kritischen Punkten, Rundungsfehler und langsame Konvergenz, besser verhalten. Nicht gering schätzen darf man die 'primale Natur' der Branch & Bound-Verfahren, die auch beim Abbruch eine zulässig Lösung liefern. Bei schwierigen, schlecht strukturierten Problemen kann es durchaus zu Lösungszeiten kommen, die im Bereich mehrerer Stunden liegen. Es ist dann äußerst ärgerlich, wenn man wegen einer Zeitbeschränkung oder wegen zu großer Rundungsfehler "aussteigt", ohne wenigstens eine zulässige Lösung zu kennen. Bei der Anwendung des Branch&Bound hat man dann zumindest die Lösung z lfd, die häufig bereits die optimale Lösung ist, für die lediglich der Nachweis der Optimalität noch nicht vollständig geführt wurde. 5.6 Entwurfsentscheidungen beim Branch & Bound In der Abb. 5.8 ist ein allgemeines Ablaufschema wiedergegeben, das von Geoffrion und Marsten 1 für alle Algorithmen der ganzzahligen Planungsrechnung entwickelt wurde. Es enthält 12 Schritte, 1 Geoffrion, A.M.; Marsten, R.E.: Integer Programming Algorotithmus: A Framework and State-of-the-Art Survey, in: Management Science, 18, No. 9, May 1972

16 Seite Entscheidungsbaumverfahren die im einzelnen zuvor bereits beschrieben, kommentiert und anhand des Beispiels illustriert worden waren. Daher spricht das Flußdiagramm weitgehend für sich, und es sollen lediglich einige Bemerkungen zu den einzelnen Schritten angefügt werden: Schritt 1: Vorkenntnisse über das zu lösende Problem (MIP) können zu Informationen über eine relativ gute Schranke z 0 führen. Je besser diese ausfällt, desto weniger lang wird die Kandiatenliste. Heuristiken könnten z.b. verbesserte Schranken liefern. Beginn STOP 1 Initiiere Kandidatenliste Ja 2 Liste leer? Nein 3 Wähle Kandidatenproblem IPk 4 Relaxiere IPk => LPk 5 Löse LPk Ja 6 FC1: L(LPk) =? Ja 7 Nein FC2: zk <= zlfd? 12 Aktualisiere falls möglich zlfd Ja 8 Nein FC3: Ist zk zulässig? 11 Teile IPk Nein Nein 9 Weiter mit LPk? 10 Ja Modifiziere Relaxation {or3ab508.pre} Abb. 5.8: Allgemeines Ablaufschema der Algorithmen der ganzzahligen Planungsrechnung Schritt 3: Verschiedene Regeln zur Auswahl des Kandidatenproblems können den Enumerationsablauf erheblich beeinflussen. 'Last-In-First-Out' (LIFO) wurde das jeweils letzte Problem zum Verzweigen wählen, d.h. die Buchhaltung des Baumes könnte stark vereinfacht werden. Jedoch würde man dabei den Zielfunktionswert zur Steuerung des Enumerati-

17 5.6 Entwurfsentscheidungen beim Branch & Bound Seite 105 onsprozesses ganz außer acht lassen. Z.B. würde man darauf verzichten, möglichst früh eine besonders gute Lösung finden zu können - dies bliebe dem Zufall überlassen. Lineare Prioritätsregeln könnten in der Kandidatenliste Probleme nach ganz gezielten Gesichtspunkte (z.b. größter Zielfunktionswert, Anzahl ganzzahliger Variablen, o.ä.) angewendet werden. Das setzt jedoch eine viel aufwendigere Auswahl und entsprechende Buchhaltung voraus. Schritte 4 und 5: Die Relaxation und anschließende Lösung sollte einerseits gute Schranken liefern und andererseits leicht durchführbar sein. Auch hier ist zusätzlicher Aufwand vorstellbar, um schärfere Schranken zu erhalten. Beispielsweise kann man Schnittebenen einführen, so daß die Wahrscheinlichkeit wächst, nah-optimale Lösungen zu finden. Schritte 6 bis 8: Die Abbruchkriterien sind oben beschrieben. Schritt 10: Konnte das Problem nicht ausgeschieden werden, so kann man durch Modifikation der Relaxation ( Schnittebenen!) eventuell eine verbesserte Schranke und damit eine erhöhte Chance des Abbruchs erhalten. Schritt 11: In diesem allgemeinen Ablaufschema wird nach der Untersuchung des Kandidatenproblems dieses aufgeteilt (Verzweigung), und beide Probleme kommen in eine Kandidatenliste. Schritt 12: Sobald eine verbesserte Lösung gefunden wurde und die laufende beste Lösung z lfd aktualisiert ist, können die Probleme in der Kandidatenliste mit dieser verglichen werden. Kleinere Schranken z j < z lfd führen zum Ausschluß aus der Kandidatenliste, so daß die Liste u.u. mit einem Schlag stark verkleinert werden kann. Das Branch & Bound-Prinzip beruht auf dem Aufbau und der Abarbeitung eines Entscheidungsbaumes, der nichts anderes als ein Strukturierungs-Modell als Lösungsprozeß darstellt. Während das Netzwerk oder der Basisbaum darin eine Abbildung des Realproblems darstellt, ist hier der Baum Hilfsmittel zur Darstellung und zum Ordnen des Lösungsganges. Je nach Bedeutung von Knoten und Kanten des Entscheidungsbaumes und nach der Organisation des Aufbaus und Abarbeitung unterscheidet man verschiedene Prinzipien:! Branch &Bound! Dynamische Programmierung! Begrenzte (implizite) Enumeration Die Tab. 5.9 gibt eine kurze Übersicht über die Charakterisika der verschiedenen Prinzipien. Bedeutung von Branch & Bound Dynamische Prog. Begrenzte Enumeration Knoten Teilproblem mit vollständigen Lösungen Teillösungen (also unvollständig) Teillösungen (unvollständig) Kanten Zustandsänderung durch Teilung der Lösungsmenge Zustandsänderung zum Zweck der Vervollständigung der Lösung Zustandsänderung zum Zweck der Vervollständigung der Lösung Organisation gemischt (parallel, sequentiell) streng parallel (in die Breite) sequentiell, um rasch eine vollständige Lösung zu erhalten Tab. 5.9: Charakteristika von Entscheidungsbaumverfahren

18 Seite Entscheidungsbaumverfahren Um ein konkretes Problem zu lösen, müssen dann letztlich die verschiedenen Schritte des Ablaufschemas (Abb. 5.8) durch konkrete Realisationen und Regeln ausgestaltet werden, d.h. man muß letztendlich befinden: Wo (im Baum) soll fortgefahren werden? Wie soll verzweigt werden? Wie findet man eine Schranke? Wann soll abgebrochen werden? Die am Beispiel in Abschnitt 5.3 vollzogenen Entscheidungen wurden von Dakin zur Lösung von MIP vorgeschlagen. Es ist abschließend algorithmisch zusammengefaßt. 5.7 Branch & Bound-Algorithmus von Dakin Das Verfahren von Dakin ist der Kern aller MIP-Software-Programme. Es wird im folgenden für ein Maximierungsproblem beschrieben. Branch & Bound-Verfahren von Dakin Input: Output: z max, x max 2 Voraussetzung: Schritt 1: Schritt 2: Schritt 3: Gemischt ganzzahliges Problem (MIP) LP-Relaxationen sind in Kandidatenliste gespeichert. Die Auswahl wird nach der großen Schranke (z j ) vorgenommen. Initialisierung Löse die LP-Relaxation LP 0 des Gesamtproblems: z 0, x 0. Falls die Lösung zulässig ist, ist die MIP-Lösung gefunden und die Rechnung ist beendet. Andernfalls füge LP 0 der Kandidatenliste zu, setze z llfd = 0 (oder einer bekannten, besseren Schranke) und gehe nach Schritt 2. Wahl des Kandidatenproblems LP k Wähle aus der Kandidatenliste ein Kandidatenproblem, z.b. durch z k j { z j} = max und gehe nach Schritt 3. Falls die Kandiatenliste leer ist, ist z max = z lfd und x max = x lfd, Stop. Verzweigen (Branching) 3.1 Wähle eine ganzzahlige Variable, die in der Lösung nicht ganzzahlig ist, z.b. die Variable x r, die von der Ganzzahligkeit am weitesten entfernt ist: x x f r r r = + mit f = max { f } 3.2 Bilde das Nachfolgeproblem zu LP k, indem die Grenzen r i i 2 Die Variable ist hier fett gedruckt, weil darunter der ganze Lösungsvektor zu verstehen ist.

19 5.7 Branch & Bound-Algorithmus von Dakin Seite 107 Schritt 4: x x bzw. x x + 1 eingeführt werden. r r r r 3.3 Füge jeweils eine Schranke dem Problem LP k hinzu, es entstehen die beiden Nachfolgerprobleme: LP k,1 und LP k, Passe die neue Nebenbedingung der Optimallösung von LP k an, und löse das entstandene Problem. Abbruch (Bounding) Verwirf das Problem LP k,i, falls 4.1 L (LP k,i ) =, d.h. LP k,i keine zulässige Lösung besitzt (FC1). 4.2 z k,i z lfd, d.h. die Schranke z k,i bereits schlechter ist als die beste bisher bekannte Lösung (FC2). 4.3 z k,i, x k,i, zulässig sind. Ist z k,i z lfd, verfahre wie unter 4.2. Falls z k,i > z lfd, setze z lfd = z k,i und x lfd = x k,i (FC3). In allen anderen Fällen wird LP k,i in die Kandidatenliste übernommen. Gehe nach Schritt 2. Algorithmus 5.1: Branch & Bound-Verfahren nach Dakin Bei binären Problemen (0-1) vereinfacht sich das Verfahren insofern, als bei Einführung kontinuierlicher Grenzen 0 x j 1 bei Nichtganzzahligkeit nur die beiden Bedingungen x j = 0 oder x j = 1 denkbar sind. Diese Alternativen sind dann die Verzweigungen, so daß in der entsprechenden optimalen Lösung, aus der die Nachfolgerprobleme generiert werden, die Variable x j. auf die Werte 0 oder 1 fixiert wird.

20 Seite Entscheidungsbaumverfahren

21 5.7 Branch & Bound-Algorithmus von Dakin Seite 109 KAPITEL 5 ENTSCHEIDUNGSBAUMVERFAHREN Branch & Bound-Verfahren Das Branch & Bound-Prinzip Ein Branch & Bound-Beispiel Zusammenfassende Diskusssion Vor- und Nachteile von Branch & Bound-Verfahren Entwurfsentscheidungen beim Branch & Bound Branch & Bound-Algorithmus von Dakin...106