Lineares Programmieren

Transkript

1 Vorlesung Algorithmische Geometrie LEHRSTUHL FÜR ALGORITHMIK I INSTITUT FÜR THEORETISCHE INFORMATIK FAKULTÄT FÜR INFORMATIK Martin Nöllenburg

2 Nachtrag Art Gallery Problem Lässt sich der Triangulierungs-Algorithmus auch auf Polygone mit Löchern erweitern? Triangulierung: ja Aber reichen weiterhin n/3 Kameras aus? Nein, eine Verallgemeinerung des Art-Gallery-Theorems besagt, dass manchmal (n + h)/3 Kameras nötig, aber immer ausreichend sind, wobei h die Anzahl der Löcher ist. [Hoffmann et al., 91]...

3 Gewinnmaximierung Sie sind Chef einer Firma, die aus drei Rohstoffen R 1, R 2 und R 3 zwei Produkte P 1 und P 2 herstellt. Produzieren Sie x 1 Einheiten P 1 und x 2 Einheiten P 2, so beträgt Ihr Gewinn in e G(x 1, x 2 ) = 300x x 2 Um eine Charge der Produkte herzustellen werden jeweils folgende Mengen an Rohstoffen benötigt: P 1 : 4R 1 + R 2 P 2 : 11R 1 + R 2 + R 3 und in Ihrem Lager befinden sich 880R 1, 150R 2 und 60R 3. Damit gilt: R 1 : 4x x R 2 : x 1 + x R 3 : x 2 60 Welche Wahl von (x 1, x 2 ) maximiert Ihren Gewinn?

4 Lösung x e e e e 0 0 Lineare Beschränkungen: R 1 : 4x x R 2 : x 1 + x R 3 : x 2 60 x 1 0 x 2 0 Lineare Zielfunktion: maximiere c T x G(x 1, x 2 ) = 300x x 2 = (300, 500) ( x 1 ) x 2 G(110, 40) = = Iso-Gewinn-Line (orthogonal zu ( 300 x 1 500) ) Ax b x 0 maximaler Wert der Zielfunktion unter Beschränk. = max{c T x Ax b, x 0}

5 Definition: Eine Menge linearer Nebenbedingungen H mit einer linearen Zielfunktion c in R d bilden ein lineares Programm (LP): maximiere c 1 x 1 + c 2 x c d x d unter den NB a 1,1 x a 1,d x d b 1 a 2,1 x a 2,d x d b 2 a n,1 x a n,d x d b n H entspricht einer Menge von Halbebenen in R d. Gesucht ist ein Punkt x h H h, der ct x maximiert, also max{c T x Ax b, x 0}. LP ist ein zentrales Optimierungsverfahren im Operations Research..

6 Algorithmen für LPs Viele Algorithmen zum Lösen von LPs in der Praxis existieren: Simplex-Algorithmus [Dantzig, 1947] Ellipsoid-Methode [Khatchiyan, 1979] Innere-Punkt-Methode [Karmarkar, 1979] Funktionieren gut, besonders für große Werte von n (Anzahl Nebenbedingungen) und d (Anzahl Variablen). Heute: Spezialfall d = 2 Möglichkeiten für den Lösungsraum H beschränkt c c c H = unlösbar H unbeschränkt in Richtung c Lösung nicht eindeutig eindeutige Lösung

7 Erste Variante Idee: Berechne den zulässigen Bereich H und suche nach der Ecke p, die c T p maximiert. Halbebenen sind konvex Versuche einfachen Divide-and-Conquer Algorithmus IntersectHalfplanes(H) if H = 1 then C H else (H 1, H 2 ) SplitInHalves(H) C 1 IntersectHalfplanes(H 1 ) C 2 IntersectHalfplanes(H 2 ) C IntersectConvexRegions(C 1, C 2 ) return C

8 Schnitt konvexer Regionen Methode IntersectConvexRegions kann mit Sweep-Line Verfahren implementiert werden: betrachte jeweils linke und rechte Grenze von C 1 und C 2 bewege sweep line l von oben nach unten und speichere die 4 schneidenden Kanten Knoten in C 1 C 2 definieren Events, Behandlung je nach Typ der beginnenden Kante in O(1) Zeit l C 1 C 2 Satz: Der Schnitt zweier konvexer Polygone mit n 1 + n 2 = n Knoten kann in O(n) Zeit berechnet werden.

9 Laufzeit von IntersectHalfplanes(H) IntersectHalfplanes(H) if H = 1 then C H else (H 1, H 2 ) SplitInHalves(H) C 1 IntersectHalfplanes(H 1 ) C 2 IntersectHalfplanes(H 2 ) C IntersectConvexRegions(C 1, C 2 ) return C Aufgabe: Welche Laufzeit hat IntersectHalfplanes(H)? Rekurrenzgleichung { O(1) falls n = 1 T (n) = O(n) + 2T (n/2) falls n > 1 Master Theorem Laufzeit O(n log n)

10 Laufzeit von IntersectHalfplanes(H) IntersectHalfplanes(H) if H = 1 then Czulässiger H Bereich H lässt sich in O(n log n) Zeit else berechnen (H H1, H hat 2 ) Komplexität SplitInHalves(H) O(n) CKnoten 1 IntersectHalfplanes(H p der c T p maximiert 1 kann ) in O(n log n) Zeit Cgefunden 2 IntersectHalfplanes(H werden 2 ) C IntersectConvexRegions(C 1, C 2 ) Geht es besser? return C Aufgabe: Welche Laufzeit hat IntersectHalfplanes(H)? Rekurrenzgleichung { O(1) falls n = 1 T (n) = O(n) + 2T (n/2) falls n > 1 Master Theorem Laufzeit O(n log n)

11 Beschränkte LPs Idee: Statt gesamtes zulässiges Polygon zu berechnen suche inkrementell nach optimaler Ecke. Invariante: aktuell beste Lösung ist eindeutige Ecke des zulässigen aktuellen Polygons Wie kann man unbeschränkte zulässige Gebiete umgehen? Gibt es mehrere Optima, wähle lexikographisch kleinsten Punkt! Für einen ausreichend großen Wert M definiere Halbebenen m 1 = { x M falls c x > 0 x M sonst m 2 = { y M falls c y > 0 y M sonst m 1 m2 c c

12 Beschränkte LPs Idee: Statt gesamtes zulässiges Polygon zu berechnen suche inkrementell nach optimaler Ecke. Invariante: aktuell beste Lösung ist eindeutige Ecke des zulässigen aktuellen Polygons Wie kann man unbeschränkte zulässige Gebiete umgehen? Gibt es mehrere Optima, wähle lexikographisch kleinsten Punkt! Für einen ausreichend großen Wert M definiere Halbebenen m 1 = { x M falls c x > 0 x M sonst m 2 = { y M falls c y > 0 y M sonst Für ein LP (H, c) mit H = {h 1,..., h n }, c = (c x, c y ), zulässigem Polygon C und 1 i n definiere H i = {m 1, m 2, h 1,..., h i }, C i = m 1 m 2 h 1 h i

13 Eigenschaften jede Region C i hat eine eindeutige optimale Ecke v i es gilt die Inklusionsbeziehung C 0 C 1 C n = C Wie ändert sich die optimale Ecke v i 1 wenn man h i hinzufügt? Lemma: Für 1 i n und Grenzgerade l i von h i gilt: (i) Falls v i 1 h i gilt v i = v i 1, (ii) sonst ist entweder C i = oder v i l i. h 5 h 6 c c c v 4 v 4 = v 5 v 5 v 6

14 Eindimensionales LP Im Fall (ii) des Lemmas suchen wir den besten Punkt auf der Strecke l i C i 1 : parametrisiere l i : y = ax + b definiere neue Zielfunktion fc(x) i = c ( ) T x ax+b für j i 1 sei σ x (l j, l i ) x-koordinate von l j l i Damit ergibt sich folgendes eindimensionales LP: maximiere f i c(x) = c x x + c y (ax + b) mit NB x σ x (l j, l i ) falls l i h j nach rechts beschr. x σ x (l j, l i ) falls l i h j nach links beschr. Lemma: Ein eindimensionales LP kann in linearer Zeit gelöst werden, d.h. in Fall (ii) kann man in O(i) Zeit die neue Ecke v i bestimmen, bzw. C i = feststellen.

15 Inkrementeller Algorithmus 2dBoundedLP(H, c, m 1, m 2 ) worst-case Laufzeit: C 0 m 1 m 2 T (n) = n i=1 O(i) = O(n2 ) v 0 eindeutige Ecke von C 0 for i 1 to n do if v i 1 h i then v i v i 1 O(1) else v i 1dBoundedLP(σ(H i 1 ), fc) i if v i = nil then O(i) return unlösbar return v n Lemma: Algorithmus 2dBoundedLP benötigt Θ(n 2 ) Laufzeit um ein LP mit n Nebenbed. und 2 Variablen zu lösen.

16 Gibt es einen Ausweg? Beob.: Nicht die Halbebenen H sind problematisch für die Laufzeit, sondern die Reihenfolge der Abarbeitung. c h 6 h 5 h h 4 3 h 1 h 2 v 2 v 3 v 4 v 5 v 6 Wie findet man (schnell) eine gute Reihenfolge? Zufällig!

17 Randomisierter Inkrementeller Algorithmus 2dRandomizedBoundedLP(H, c, m 1, m 2 ) C 0 m 1 m 2 v 0 eindeutige Ecke von C 0 H RandomPermutation(H) for i 1 to n do if v i 1 h i then v i v i 1 else v i 1dBoundedLP(σ(H i 1 ), f i c) if v i = nil then return unlösbar return v n

18 Zufallspermutation RandomPermutation(A) Input: Array A[1... n] Output: Array A, zufällig gleichverteilt permutiert for k n to 2 do Zufallszahl zw. 1 und k r Random(k) tausche A[r] und A[k] Beob.: Die Laufzeit von 2dRandomizedBoundedLP hängt jetzt von der zufäligen Permutation ab. Betrachte daher die erwartete Laufzeit. Satz: Ein zweidimensionales LP mit n Halbebenen kann in erwartet O(n) Laufzeit gelöst werden.

19 Unbeschränkte LPs Bisher: künstliche Beschränkung von C durch m 1 und m 2 Jetzt: erkenne und behandle unbeschränkte LPs c H unbeschränkt in Richtung c Def.: Ein LP (H, c) heißt unbeschränkt, wenn es einen Strahl ρ = {p + λd λ > 0} in C = H gibt, so dass die Zielfunktion f c beliebig große Werte entlang ρ annimmt. Es muss gelten: d, c > 0 d, η(h) 0 für alle h H wobei η(h) Normalenvektor auf zulässiger Seite von h ist

20 Charakterisierung Lemma: Ein LP (H, c) ist unbeschränkt genau dann wenn es ein d R 2 gibt mit d, c > 0 d, η(h) 0 für alle h H LP (H, c) mit H = {h H d, η(h) = 0} ist lösbar. Teste Unbeschränktheit durch eindimensionales LP: Schritt 1: rotiere Koordinatensystem bis c = (0, 1) normalisiere Vektor d mit d, c > 0 zu d = (d x, 1) für Normalenvektor η(h) = (η x, η y ) gilt d, η(h) = d x η x + η y 0 prüfe dieses 1d-LP auf Lösbarkeit

21 Test auf Unbeschränktheit Schritt 2: Falls es in Schritt 1 eine zulässige Lösung d x gibt betrachte H = {h H d xη x (h) + η y (h) = 0} Normalen von H sind orthogonal zu d = (d x, 1) Halbebenen in H sind parallel zu d schneide Grenzgeraden in H mit x-achse 1d-LP Wenn beide Schritte eine Lösung liefern ist (H, c) unbeschränkt und wir können einen Strahl ρ als Zeugen angeben. Wenn LP in Schritt 2 unlösbar ist, dann ist insbesondere auch (H, c) unlösbar. Wenn LP in Schritt 1 unlösbar ist, ist (H, c) nach Lemma beschränkt.

22 Zeugen für Beschränktheit Beob.: Auch wenn LP aus Schritt 1 unlösbar ist, lassen sich die Informationen weiterverwenden! x right x left 1d-LP unlösbar zulässiges Intervall [x left, x right ] = dann ist schon ({h 1, h 2 }, c) beschränkt (h 1 und h 2 Halbebenen zu x left und x right ) h 1 und h 2 sind Zeugen für die Beschränktheit verwende h 1 und h 2 in 2dRandomizedBoundedLP statt m 1 und m 2

23 Algorithmus 2dRandomizedLP(H, c)? Vektor d mit d, c > 0 und d, η(h) 0 für alle h H if d existiert then H {h H d, η(h) = 0} if H lösbar then return (Strahl ρ, unbeschränkt) else return unlösbar else (h 1, h 2 ) Zeugen für Beschränktheit von (H, c) H H \ {h 1, h 2 } return 2dRandomizedBoundedLP( H, c, h 1, h 2 ) Satz: Ein zweidimensionales LP mit n Halbebenen kann in erwartet O(n) Zeit gelöst werden.

24 Diskussion Lässt sich der zweidimensionale Algorithmus auch auf mehr Dimensionen verallgemeinern? Ja! So wie wir ein zweidimensionales LP inkrementell durch Randomisierung und Zurückführen auf eindimensionale LPs gelöst haben, kann man d-dimensionale LPs randomisiert inkrementell und durch Lösen von (d 1)-dimensionalen LPs lösen. Die erwartete Laufzeit beträgt O(c d d! n) für eine Konstante c, der Algorithmus ist also nur für kleine d sinnvoll. Sind die Zertifikate bei Unlösbarkeit auch sonst nützlich? Sogenannte zertifizierende Algorithmen liefern nicht nur die Lösung, sondern auch einen Beleg zur einfachen Überprüfung der Lösung. In unserem Fall bei Unbeschränktheit den Strahl ρ und bei Unlösbarkeit max. drei Halbebenen mit leerem Schnitt.