Der LLL - Algorithmus. Seminar ganzzahlige Optimierung Wintersemester 2006/2007

Transkript

1 Der LLL - Algorithmus Seminar ganzzahlige Optimierung Wintersemester 2006/2007 Autor: Konrad Schade Betreuer: Prof. Dr. J. Rambau

2 1 Einführung 1.1 Motivation In dieser Arbeit soll die Verwendung des LLL-Algotithmuses zum Lösen von ganzzahligen Problemen ILP behandelt werden. Durch die Nutzung des LLL-Algorithmuses wird es möglich ein ILP in polynomialer Zeit zu lösen, wenn man die Dimension als fest ansieht. Das ist nur dann etwas Besonderes, wenn x in den Nebenbedingungen nicht direkt eingeschränkt wird z.b. x {0, 1}, denn sonst würde man auch durch Enummeration in polynomialer Zeit eine Lösung finden. Bevor wir uns jetzt dem LLL-Algorithmus und seiner Anwendung für ILP s zuwenden, möchte ich noch darauf hinweisen, dass folgende Ergebnisse äquivalent sind: das Lösen von ILPs und einen ganzahligen Vektor in P zu finden, oder zu entscheiden, dass keiner existiert Dazu betrachte man das folgende System von Ungleichungen: A b x c d Durch Anwendung der binären Suche auf den Wert d kann dann das Optimum berechnet werden. Aus diesem Grund werden wir uns jetzt darauf beschränken mit Hilfe des LLL- Algorithmuses zu entscheiden, ob für das gegebene Problem eine ganzzahlige Lösung existiert, oder nicht. Dafür möchte ich zunächst einige Begriffe einführen. 1

3 1.2 Grundlegende Definitionen Definition Gitter: Seien a 1, a 2,..., a k R n. L = k k Za i = { λ i a i λ i Z} i=1 i=1 heißt das von a 1, a 2,..., a k erzeugte Gitter. Sind die Vektoren a 1, a 2,..., a k lin. unabh. über R n, so heißt a 1,..., a k Basis von L Zur Vereinfachung wird das Gitter oft auch als Matrix A = a 1,..., a k geschrieben, wobei die Basisvektoren dann die Spalten der Matrix A bilden Definition Gitterdeterminante: Sei L = n i=1 Za i, a i R n 1 i n und a 1,..., a n eine Basis von L. Man definiert die Determinante von L dl als: dl = deta Die Determinante eines Gitters ist unabhängig von der Wahl der Basis und entspricht geometrisch dem Volumen des kleinsten aufspannenden Parallelotops. 1.3 Erinnerung Das Gram-Schmidtsche Orthogonalisierungsverfahren: Mit Hilfe dieses Verfahrens können wir aus einer beliebigen Basis des R n eine orthogonale Basis berechnen. Dazu werden induktiv folgende Werte berechnet: µ ij = < a i, a j > < a j, a j > 1 a i = a i 1 i µ ij a j 2 j=1 2

4 2 Der LLL-Algorithmus 2.1 Definition und Eigenschaften der LLL-reduzierten Basis Definition LLL-reduzierte Basis: Eine Basis a 1,..., a n von L heißt LLL-reduziert, falls die sich bei der Orthogonalisierung nach Gram-Schmidt ergebenden Werte folgende Eigenschaften erfüllen: µ ij 1 2 für 1 j < i n 3 a i + µ ii 1a i a i 1 2 für 1 < i n SatzEigenschaften von LLL-reduzierten Basen: Sei a 1, a 2,..., a n eine LLL-reduzierte Basis eines Gitters in R n und a 1, a 2,..., a n die mit dem Orthogalisierungsverfahren nach Gram-Schmidt berechnete Orthogonalbasis des R n, dann gilt: a j 2 2 i 1 a i 1 2 für 1 j i n 5 dl n a i 2 nn 1/4 dl 6 i=1 a 1 2 n 1/4 dl 1 n 7 Beweis: siehe Factoring Polynomials with Rational Coefficients Lenstra, Lenstra, Lovasz 3

5 2.1.3 Algorithmus LLL-Algorithmus: Eingabe: die Basis a 1,, a n, die reduziert werden soll Berechnung der Orthogonalbasis nach Gram Schmidt Zwischenergebnisse µ ij und a i speichern. for i = 1, 2,..., n; k := 2; A i :=< a i, a i > 1 perform for l = k 1; if A k < 3 4 µ2 kk 1A k 1, go to 2; perform for l = k 2, k 3,, 1; if k = n, terminate; k := k + 1; go to 1; 2 µ := µ kk 1 ; A := A k + µ 2 A k 1 ; µ kk 1 := µa k 1 /A; A k := A k 1 A k /A; A k 1 := A; ak 1 ak := ; a k µk 1j µ kj µik 1 µ ik := := a k 1 µkj µ k 1j 1 µkk if k > 2, then k := k 1; go to 1 for j = 1, 2,, k 2; µ µik 1 µ ik for i = k + 1,, n; if µ kj > 1 2, then : r := integer nearest to µ kl ; a k := a k ra l ; µ kj := µ kj rµ lj for j = 1, 2,, l 1; µ kl := µ kl r. Ausgabe: die reduzierte Basis. 4

6 2.2 LLL-Algorithmus zum Lösen von ILPs Satz Lenstras Algorithmus: Für jedes feste n N gibt es einen Algorithmus, der in Polynomialzeit eine ganzzahlige Lösung für ein gegebenes System rationaler Ungleichungen Ax b findet, oder er gibt aus, dass keine ganzzahlige Lösung existiert. n = Anzahl der Spalten von A Um dies zeigen zu können benötigen wir zunächst folgende Aussage: Satz: Es gibt einen Polynomialzeitalgorithmus, der zu jedem rationalen System linearer Ungleichungen Ax b entweder einen Vector y, für den Ay b gilt, oder einen ganzzahligen Vektor c ausgibt, der n = Anzahl der Spalten in A erfüllt. Beweisskizze: max{cx Ax b} min{cx Ax b} 2nn + 12 nn 1/4 Mit Hilfe der Ellipsoid-Methode wird entschieden, ob P := {x Ax b} volldimensional und beschränkt ist. Es ergeben sich drei mögliche Fälle: 1.Fall: P ist nicht volldimensional die Ellipsoidmethode liefert uns ein c, das die Bedingungen erfüllt. 2. Fall: P ist nicht beschränkt. Dieser Fall lässt sich auf den beschränkten Fall und damit auf Fall 1 oder 3 zurückführen: Setze Q = P {x = x 1,, x n T x i C} C ist eine Konstante, die sich aus der Matrix [A b] berechnen lässt. Wenn das Ergebnis für das so beschränkte Problem y Q ist, so ist klar, dass auch y P gilt. Ist die Ausgabe c, so lässt sich zeigen, dass max {cx x P } min {cx x P } > max {cx x Q} min {cx x Q} nicht möglich ist. Damit ist c ein Vektor, der die Bedingungen auch für P erfüllt. 5

7 3. Fall: P ist volldimensional und beschränkt. Dann lassen sich in Polynomialzeit rounding algorithm ein z Q und eine positiv definite Matrix D finden, so dass gilt: ell z, 1 n + 1 2D P ell z, D Nun kann mit Hilfe einer etwas abgewandelten Version des LLL-Algorithmus eine Basis b 1,, b n des Z n gefunden werden, die folgende Eigenschaft erfüllt: b 1 b n 2 nn 1/4 det D 1 siehe 6 wobei x := x T D 1 x Die Abwandlung des LLL-Algorithmuses besteht darin, dass man nicht die Basis eines Gitters als Eingabe hat, sondern eine Matrix D in unserem Fall D 1. Dann wird ausgehend von e 1,.e n, wobei e i der i te Einheitsvektor sei, eine Basis des Z n berechnet, welche die oben genannte Bedingung erfüllt. D hat dann die Form D = B T B, wobei B die Basisvektoren enthält. Daraus resultiert dann auch der Unterschied zwischen der obigen Bedingung und 6. Wir können jetzt z als Linearkombination der b i schreiben z = λ 1 b 1 + +λ n b n Um Ganzahligkeit zu erreichen setzen wir y = n i=1 λ i bi, wodurch sich wiederum 2 Möglichkeiten ergeben: 1 1 y ell z, n + 1 2D also y P 2 es lässt sich mit Hilf e einiger Abschätzungen ein c bestimmen, Hinweise: dass die gef orderten Eigenschaf ten besitzt. Die Abschätzungen für 2 können in Theory of linear and integer programming Alexander Schrijver nachgelesen werden. Der Ellipsoid ellz, D := { x x z T D 1 x z 1 } Der rounding algorithm bestimmt ausgehend von einem Ellipsoid E 0 = ellz 0, D 0 := B0, R mit R groß genug, so dass P E 0 gilt, eine Folge von Ellipsoiden E i. Wenn für den Iterationsschritt i eine Ungleichung a k x β k aus dem System Ax b gefunden werden kann, für die gilt: a k z i > β k β a k D i a T k Dann lässt sich das Ellipsoid E i+1 konstruieren. Wenn keine solche Ungleichung existiert, endet der Algorithmus und E i erfüllt die geforderten Bedingungen. Beschreibung des Algorithmuses mit technischen Detaills ist in Theory of linear and integer programming Alexander Schrijver nachlesbar. 6

8 Beweis zu Satz von Lengstras Algorithmus: Induktion über die Anzahl der Variablen n: n = 1 : klar n 1 n : Wir wenden auf das gegebene Problem Ax b den in Satz beschriebenen Algorithmus an. Liefert dieser einen Vektor y zurück, so sind wir fertig. Nehmen wir also an, dass das Ergebnis der Vektor c mit den in Satz genannten Eigenschaften ist. Wir setzen µ := min{cx x P }und betrachten die Polyeder P t := {x P cx = t} für t = µ,, µ + 2nn + 12 nn 1/4 Dann muss jede ganzzahlige Lösung von P in einem der P t liegen. Wir testen also für jedes P t, ob es einen ganzzahligen Vektor enthält. Mit Hilfe einer linearen Transformation Φ : R n R n 1, Φx = Ux c wobei U eine n 1 n Matrix ist, so dass U reg., ganzz. und unimod. ist. wird P t zu Es gilt: Q t := { c y R n 1 A U } t b y x P t Z n Ux Q t Z n 1 und y Q t Z n 1 c 1 t P t Z U y Es müssen also höchstens 2nn+12 nn 1/4 +1 n 1 dimensionale Probleme gelöst werden, um das n dimensionale Ausgangsproblem zu lösen. Dies ist nach Induktionsvoraussetzung in polynomialer Zeit möglich. 7

9 3 Literatur Theory of linear and integer programming Alexander Schrijver Factoring Polynomials with Rational Coefficients Lenstra, Lenstra, Lovasz Finding Simple 7-Designs with Enumeration Techniques Wassermann Gitterbasisreduktion im Reellen Bartholomes 8