Mit kombinatorischer Optimierung zur Nadel im Heuhaufen

Transkript

1 Mit kombinatorischer Optimierung zur Nadel im Heuhaufen Rico Zenklusen ETH Zurich

2 Was ist kombinatorische Optimierung? Finde beste/gute Lösung in einer riesigen Menge endlich vieler Möglichkeiten. / 0

3 Kombinatorische Optimierung anhand von Beispielen Looks like a duck, swims like a duck, quacks like a duck It is a duck! / 0

4 Seattle Problem des Handelsreisenden Portland Minneapolis Detroit Boston San Francisco Salt Lake City Denver Chicago Cleveland New York Washington D.C. Las Vegas St. Louis Los Angeles Phoenix Atlanta Houston New Orleans Miami Ausgehend von Boston, was ist die kürzeste Autorundreise um alle obigen Städte zu besuchen? 4 / 0

5 Anwendung in Platinenherstellung Was ist die beste/schnellste Reihenfolge um die Löcher zu bohren? 5 / 0

6 7 Verbindungsproblem Kapazitäten 0 Wieviele kann man mit dem verbinden, ohne die Kapazitäten zu überschreiten? 6 / 0

7 7 Verbindungsproblem Kapazitäten Gewichte 0 Wieviele kann man mit dem verbinden, ohne die Kapazitäten zu überschreiten? Was ist das maximale Gewicht, welches man mit dem verbinden kann? 6 / 0

8 Fluch der Dimensionalität Anzahl Möglichkeiten wächst häufig enorm schnell mit wachsender Problemgrösse. n Städte (n )! mögliche Routen. # Routen # Städte Trotz Fortschritt in Computerhardware braucht es starke Methoden zur Problemlösung. 7 / 0

9 Eine zentrale Frage der kombinatorischen Optimierung Wie findet man (beweisbar) gute Lösungen in (beweisbar) kurzer Zeit? 8 / 0

10 Einige meiner Forschungsinteressen Problembereiche Math. Methoden & Strukturen Mehrzieloptimierung Online Optimierung Anwendungen Polyhedrische Methoden Matroide Submodulare Funktionen Probabilistische Methoden Fehleranfällige Systeme! Daten Zeit Nichtlineare Optimierung Routing Informationsflüsse Resourcenoptimierung Bestandsverwaltung 9 / 0

11 Kurzeinführung in Matroide A surprisingly powerful hammer,... and suddenly, everything looked like a nail. 0 / 0

12 Matroide: Abstraktion von linearer Unabhängigkeit Definition eines linearen Unabhängigkeitssystemes (E, I) E R m, 0 < E < (Menge von Vektoren). I = {I E Vektoren in I sind linear unabhängig}. Definition eines Matroides M = (E, I) E: endliche Grundmenge. I E : Nichtleere Familie von unabhängigen Mengen, so dass (i) Falls I I & J I J I. (ii) Falls I, J I & I > J s I \ J with J {s} I. / 0

13 Matroide: ein (erster) algorithmischer Gesichtspunkt Matroide formalisieren Probleme, welche mit dem Greedy-Algorithmus gelöst werden können. / 0

14 Matroide: ein (erster) algorithmischer Gesichtspunkt Matroide formalisieren Probleme, welche mit dem Greedy-Algorithmus gelöst werden können. Spannbaum minimalen Gewichts ( billig Punkte verbinden) 5 Graph: G = (V, E) Wälder: I = {F E F ist ein Wald} (Ein Wald sind Kanten ohne Zyklen.) 6 M = (E, I) ist ein graphisches Matroid. / 0

15 Gammoid: ein Matroid im Verbindungsproblem Gammoid: M = (N, I) { } Grundmenge: N =. Verbindbare : { } I = S N Man kann alle in S gleichzeitig verbinden. / 0

16 Ein Beispiel der online Optimierung Forecasting is like driving a car blindfolded with the help from someone looking out of the rear window. 4 / 0

17 Ein online Verbindungsproblem Dichte f u(x) u N Gewicht x geben Gewicht/Angebot im Verlaufe der Zeit bekannt (in unbekannter Reihenfolge). Jedes Angebot muss sofort akzeptiert oder abgelehnt werden. Bekannte Information: (unabhängige) Gewichtsverteilung für jeden. 5 / 0

18 Ein online Verbindungsproblem 4 Dichte f u(x) u N Gewicht x geben Gewicht/Angebot im Verlaufe der Zeit bekannt (in unbekannter Reihenfolge). Jedes Angebot muss sofort akzeptiert oder abgelehnt werden. Bekannte Information: (unabhängige) Gewichtsverteilung für jeden. 5 / 0

19 Ein online Verbindungsproblem 4 Dichte f u(x) u N Gewicht x geben Gewicht/Angebot im Verlaufe der Zeit bekannt (in unbekannter Reihenfolge). Jedes Angebot muss sofort akzeptiert oder abgelehnt werden. Bekannte Information: (unabhängige) Gewichtsverteilung für jeden. 5 / 0

20 7 Ein online Verbindungsproblem 4 Dichte f u(x) u N Gewicht x geben Gewicht/Angebot im Verlaufe der Zeit bekannt (in unbekannter Reihenfolge). Jedes Angebot muss sofort akzeptiert oder abgelehnt werden. Bekannte Information: (unabhängige) Gewichtsverteilung für jeden. 5 / 0

21 7 Ein online Verbindungsproblem 4 Dichte f u(x) u N Gewicht x geben Gewicht/Angebot im Verlaufe der Zeit bekannt (in unbekannter Reihenfolge). Jedes Angebot muss sofort akzeptiert oder abgelehnt werden. Bekannte Information: (unabhängige) Gewichtsverteilung für jeden. 5 / 0

22 7 Ein online Verbindungsproblem 6 4 Dichte f u(x) u N Gewicht x geben Gewicht/Angebot im Verlaufe der Zeit bekannt (in unbekannter Reihenfolge). Jedes Angebot muss sofort akzeptiert oder abgelehnt werden. Bekannte Information: (unabhängige) Gewichtsverteilung für jeden. 5 / 0

23 7 Ein online Verbindungsproblem Dichte f u(x) u N Gewicht x geben Gewicht/Angebot im Verlaufe der Zeit bekannt (in unbekannter Reihenfolge). Jedes Angebot muss sofort akzeptiert oder abgelehnt werden. Bekannte Information: (unabhängige) Gewichtsverteilung für jeden. 5 / 0

30 0.8 Ein Gedankenexperiment Dichte f u(x) u N p u = q u(p u) Gewicht x Sei p(u) [0, ] die Wahrscheinlichkeit mit welcher der (opt.) Alg. u N wählt. Alg. mit Akzeptanzw keiten p sammelt (im Schnitt) ein Gewicht von höchstens: φ(p) := x f u (x)dx. u N q u(p u) 6 / 0

31 Interpretation von φ Dichte f u(x) u N ist q u(p u) p u = 0.4 Gewicht x aktiv ( ), wenn Gewicht q u(p u). inaktiv ( ), wenn Gewicht < q u(p u). φ(p) ist das (erwartete) akzeptierte Gewicht, wenn man jeden aktiven Dies ist optimistisch häufig kann man nicht alle akzeptieren. akzeptiert. 7 / 0

32 Interpretation von φ Dichte f u(x) u N ist q u(p u) p u = 0.4 Gewicht x aktiv ( ), wenn Gewicht q u(p u). inaktiv ( ), wenn Gewicht < q u(p u). φ(p) ist das (erwartete) akzeptierte Gewicht, wenn man jeden aktiven Dies ist optimistisch häufig kann man nicht alle akzeptieren. akzeptiert. 7 / 0

33 Relaxierung des online Verbindungsproblems Welche Wahrscheinlichkeiten p sind realisierbar, d.h., es gibt Alg. mit Akzeptanzw keit p? Menge Q [0, ] N realisierbarer p kann man präzise mathematisch beschreiben. ( Q ist ein (Matroid-)Polytop.) Relaxierung max{φ(p) p Q} Relaxierung: opt. Wert von ist mindestens so gut wie bester Alg. Man kann schnell opt. Lösung p finden (konvexes Problem). 8 / 0

34 Von der Relaxierung zum Algorithmus Zur Erinnerung: Wir können nicht immer jeden aktiven Eine 4-Approximation akzeptieren. [ Es gibt Algorithmus, so dass Pr wird akzeptiert ] ist aktiv 4. Erwartetes akzeptiertes Gewicht 4 φ(p ) (bestmöglicher Alg.). 4 9 / 0

35 Von der Relaxierung zum Algorithmus Zur Erinnerung: Wir können nicht immer jeden aktiven akzeptieren. Eine 4-Approximation [ Es gibt Algorithmus, so dass Pr wird akzeptiert ] ist aktiv 4. Folgt von Eigenschaften von Matroiden(polytop) (p Q). Erwartetes akzeptiertes Gewicht 4 φ(p ) (bestmöglicher Alg.). 4 9 / 0

36 Von der Relaxierung zum Algorithmus Zur Erinnerung: Wir können nicht immer jeden aktiven akzeptieren. Eine 4-Approximation [ Es gibt Algorithmus, so dass Pr wird akzeptiert ] ist aktiv 4. Folgt von Eigenschaften von Matroiden(polytop) (p Q). Erwartetes akzeptiertes Gewicht 4 φ(p ) (bestmöglicher Alg.). 4 Online vs. offline (der Wert von früher Information) Benutzte Relaxierung hat online Aspekt ausgeblended. Selbst offline (Gewichte im voraus bekannt) kann man nicht besser sein als φ(p )! Gewicht von bestem offline Alg. 4 Gewicht von bestem online Alg. 9 / 0

37 Zusammenfassung Kombinatorische Optimierung Problemcharakteristik: Riesige Lösungsmenge mit endlich vielen Lösungen. Ziel: Beweisbar gute Lösung in beweisbar kurzer Zeit. Von der Mathematik zu starken Algorithmen Ein fruchtbarer Ansatz: Identifikation und Studie von mathematischen Strukturen mit algorithmischen Implikationen (Matroide,... ). 0 / 0

38 Zusammenfassung Kombinatorische Optimierung Problemcharakteristik: Riesige Lösungsmenge mit endlich vielen Lösungen. Ziel: Beweisbar gute Lösung in beweisbar kurzer Zeit. Von der Mathematik zu starken Algorithmen Ein fruchtbarer Ansatz: Identifikation und Studie von mathematischen Strukturen mit algorithmischen Implikationen (Matroide,... ). Vielen Dank! Sie sind herzlich zum Apéro eingeladen. 0 / 0