Gierige Algorithmen. Tilman Adler Tilman Adler Gierige Algorithmen / 46

Transkript

1 Gierige Algorithmen Tilman Adler Tilman Adler Gierige Algorithmen / 46

2 Ziel Nach diesem Vortrag solltet ihr verstanden haben: Was gierige Algorithmen von stupider DP abgrenzt Wie gierige Algorithmen bei der Lösung eines Problems vorgehen Wann gierige Algorithmen zur Lösung eines Problems eingesetzt werden können Tilman Adler Gierige Algorithmen / 46

3 Überblick 1 Theoretische Grundlagen Definition gieriger Algorithmen Notwendige Problemeigenschaften Abgrenzung zu DP Beispiel: Knapsack vs. fractional Knapsack 2 Praktische Ausführung - Beispiele Scheduling LKW-Fahrer-Problem Münzwechselproblem Huffman-Encoding HeatDeath (TopCoder) Tilman Adler Gierige Algorithmen / 46

4 Definition Gierige Algorithmen zerlegen ein Optimierungsproblem in gleichartige Teilprobleme, lösen diese mit der lokal intuitiv besten Lösung und setzen die Teilllösungen zu einer Gesamtlösung zusammen. Tilman Adler Gierige Algorithmen / 46

5 Notwendige Problemeigenschaften Optimale Substruktur Ein Problem muss sich in gleichartige Unterprobleme zerlegen lassen und die Lösungen dieser müssen sich zu einer (korrekten) Gesamtlösung zusammensetzen lassen. Gierige-Wahl-Eigenschaft Lokal optimale Lösungen eines Teilproblem müssen zusammengenommen eine optimale Lösung des Gesamtproblems ergeben. Tilman Adler Gierige Algorithmen / 46

6 Abgrenzung zu DP DP GA Findet globales Optimum Findet lokales Optimum entscheidet abhängig von Sublösungen ( Zwischenwertspeicher nötig) keine Vorverbeitung Lösung häufig nicht trivial entscheidet nach lokal günstigster Lösung (kein extra Speicher) oft zb Listensortierung Ansatz oft intuitiv Tilman Adler Gierige Algorithmen / 46

7 Knapsack MaxFragg veranstaltet mal wieder eine seine berühmt-berüchtigten Bergwanderungen. Vom letzten Mal hat Qui Sum gelernt, dass er nicht zu viel einpacken darf. Daher hat er seine Lieblingsgetränke nach Zufriedenheit geordnet und sie gewogen. Er will nicht mehr als 100 Gewichtseinheiten mitschleppen. Tilman Adler Gierige Algorithmen / 46

8 Knapsack Wie kann er folgende Getränke in seinen Rucksack packen, und dabei eine möglichst hohe Zufriedenheit erreichen? Getränk Mate Bier Spezi Kaffee Gewicht Wert rel. Wert 3,5 3,5 3,0 2,5 Tilman Adler Gierige Algorithmen / 46

9 Beispiel: Knapsack - Dynamisch Für ganzzahlige Dinge lässt sich das Knapsack-Problem lediglich dynamisch lösen. Wert = 240 Tilman Adler Gierige Algorithmen / 46

10 Beispiel: Knapsack - Gierig Ich verwende mathematische Mengen im Pseudocode als Listen bzw. Arrays. Die Vereinigung liest sich als hinten anfügen. Tilman Adler Gierige Algorithmen / 46 CALC-AND-SORT bereitet die Liste vor, indem sie den relativen Wert berechnet und aufsteigend sortiert. GREEDY-KNAPSACK(i, m): 1: list CALC-AND-SORT(i) 2: result 3: while elem list, elem.gewicht m do 4: result result {elem}; 5: m m elem.gewicht; 6: end while 7: return result;

11 Beispiel: Knapsack - Gierig Getränk Mate Bier Spezi Kaffee Gewicht Wert rel. Wert 3,5 3,5 3,0 2,5 Wert = 70 Tilman Adler Gierige Algorithmen / 46

14 Beispiel: Knapsack - Gierig Getränk Mate Bier Spezi Kaffee Gewicht Wert rel. Wert 3,5 3,5 3,0 2,5 Wert = 230 < 240 Tilman Adler Gierige Algorithmen / 46

15 Beispiel: Fractional Knapsack Jetzt kommt Qui Sum auf die Idee, auf vorkonfektionierte Flaschen zu verzichten und Plastikflaschen zu verwenden: Die wiegen nichts und außerdem kann er dann das Problem gierig lösen, indem er Flaschen nur teilweise füllt. Tilman Adler Gierige Algorithmen / 46

16 Beispiel: Fractional Knapsack Getränk Mate Bier Spezi Kaffee Gewicht Wert rel. Wert 3,5 3,5 3,0 2,5 Wert = 70 Tilman Adler Gierige Algorithmen / 46

20 Beispiel: Fractional Knapsack Wert = 305 Warum geht das jetzt?! Nur, weil wir die Getränke nicht mehr als Integer betrachten, können wir den Kaffee aufteilen und zu 3 4 mitnehmen! Tilman Adler Gierige Algorithmen / 46

21 Beispiel: Fractional Knapsack FRACTIONAL-KNAPSACK(i, m): 1: list CALC-AND-SORT(i) 2: result 3: while elem list, elem.gewicht > m do 4: result {elem}; 5: m m elem.gewicht; 6: end while 7: if m 0 then 8: result { m elem.gewicht elem} 9: end if 10: return result; Tilman Adler Gierige Algorithmen / 46

22 Beispiel: Fazit Obwohl sowohl Knapsack als auch Fractional Knapsack optimale Substuktur aufweisen, erfüllt lediglich letzterer auch die Gierige-Wahl-Eigenschaft. Dass ein Problem beide Eigenschaften hat, ist im Zweifel zu beweisen. Ein Beweis ist im Cormen als Theorem 16.1 zu finden. Tilman Adler Gierige Algorithmen / 46

23 Übersichtskarte 1 Theoretische Grundlagen Definition gieriger Algorithmen Notwendige Problemeigenschaften Abgrenzung zu DP Beispiel: Knapsack vs. fractional Knapsack 2 Praktische Ausführung - Beispiele Scheduling LKW-Fahrer-Problem Münzwechselproblem Huffman-Encoding HeatDeath (TopCoder) Tilman Adler Gierige Algorithmen / 46

24 Scheduling Grundsätzlich bezeichnet Scheduling das (möglichst optimale) Verteilen von Ereignissen auf der Zeitachse. Dabei können verschiedene Kriterien ausschlaggebend für die Auswahl der Reihenfolge sein: Maximale Anzahl an Veranstaltungen (activity selection, zb Belegungsplan eines Raumes) Maximale Gleichzeitigkeit (interval partitioning, zb Raumvergabe an gleichzeitige Veranstaltungen) Maximale Pünklichkeit (minimize lateness, minimiere die maximale Verspätung verschiedener Termine. zb Deutsche Bahn) uvm Tilman Adler Gierige Algorithmen / 46

25 activity selection Maximale Anzahl an Veranstaltungen (zb Belegungsplan eines Raumes) Idee Wähle immer diejenige Veranstaltung aus, die die meiste Zeit für andere Veranstaltungen übrig lässt und mit keiner anderen kollidiert. Tilman Adler Gierige Algorithmen / 46

26 activity selection a 1 a 2 a 3 a 4 a 5 a Tilman Adler Gierige Algorithmen / 46

33 activity selection SORT sortiert die Liste aufsteigend nach Endzeit der Veranstaltungen INTERVAL-SCHEDULING(veranstaltungen): 1: liste SORT(veranstaltungen); 2: result ; 3: endzeit 0; 4: for veranstaltung liste do 5: if veranstaltung.beginn >= endzeit then 6: result result {veranstaltung}; 7: endzeit veranstaltung.ende; 8: end if 9: end for 10: return result; Tilman Adler Gierige Algorithmen / 46

34 interval partitioning Maximale Anzahl an Überschneidung (zb Raumanzahl für Vorträge) Idee Lege die Vorlesungen zeitlich nacheinander in einen Raum, in den sie passen. Gibt es keinen Raum dafür, lege einen neuen an. Tilman Adler Gierige Algorithmen / 46

35 interval partitioning a 1 a 2 a 3 a 4 a 5 a Tilman Adler Gierige Algorithmen / 46

36 interval partitioning 1 a 1 a 2 a 3 a 4 a 5 a Tilman Adler Gierige Algorithmen / 46

37 interval partitioning 1 a 1 2 a 2 a 3 a 4 a 5 a Tilman Adler Gierige Algorithmen / 46

38 interval partitioning 1 a 1 2 a 2 a 3 a 4 a 5 a Tilman Adler Gierige Algorithmen / 46

39 interval partitioning 1 a 1 2 a 2 a 3 3 a 4 a 5 a Tilman Adler Gierige Algorithmen / 46

40 interval partitioning 1 a 1 a 5 2 a 2 a 3 3 a 4 a Tilman Adler Gierige Algorithmen / 46

41 interval partitioning 1 a 1 a 5 2 a 2 a 3 a 6 3 a Tilman Adler Gierige Algorithmen / 46

42 interval partitioning SORT sortiert die Liste aufsteigend nach Anfangszeit der Veranstaltungen INTERVAL-PARTITIONING(veranstaltungen): 1: liste SORT(veranstaltungen); 2: räume ; 3: for veranstaltung liste do 4: if raum FINDE-KOMPATIBLEN(räume) then 5: raum raum {veranstaltung}; 6: else 7: räume räume {veranstaltung}; 8: end if 9: end for 10: return r äume; Tilman Adler Gierige Algorithmen / 46

43 minimize lateness Maximale Pünklichkeit (minimize lateness, minimiere die maximale Verspätung verschiedener Termine) Idee Sortiere aufsteigend nach Fälligkeitsdatum??? PROFIT! Tilman Adler Gierige Algorithmen / 46

44 minimize lateness Beispielsweise für folgende unsortierte Aufgaben (maximale Verspätung: 4): Tilman Adler Gierige Algorithmen / 46

45 minimize lateness Beispielsweise für folgende unsortierte Aufgaben (maximale Verspätung: 4): Und sortiert (maximale Verspätung: 1) Tilman Adler Gierige Algorithmen / 46

47 LKW-Fahrer-Problem Ein gieriger LKW Fahrer, der von A-Stadt nach B-Stadt fährt muss mindestens alle n Kilometer nachtanken. Wie oft und an welchen Tankstellen sollte er tanken, um möglichst wenig Zeit zu verlieren? Denn Zeit ist Geld. LKW-Fahrer-Problem An welchen Tankstellen aus einer Liste muss ich tanken, um möglichst selten zu halten? Die Reichweite des LKW ist mindestens so groß wie der größte Abstand zwischen zwei Tankstellen. Tilman Adler Gierige Algorithmen / 46

48 LKW-Fahrer-Problem SORT-LIST bereitet die Tankstellenliste vor, indem sie sie aufsteigend in eine verkettete Liste einsortiert. LKW-Fahrer(reichweite, zielkm, tankstellen): 1: tankstelle SORT-LIST(tankstellen).first 2: strecke reichweite 3: while strecke < zielkm do 4: while tankstelle.next.km strecke do 5: tankstelle = tankstelle.next 6: end while 7: result tankstelle 8: strecke = tankstelle.km + reichweite 9: end while 10: return result; Tilman Adler Gierige Algorithmen / 46

50 Griechenlandproblem Nach einem europaweiten Bankencrash war viele Jahre Tauschhandel gang und gäbe. Weil das reichlich aufwändig ist, wird in Deutschland eine neue Währung - die NDM - eingeführt. Die Staffelung der Münzen ist 5, 2, 1, 0.5, 0.1, 0.05, 0.02, Leider kann damit noch niemand richtig umgehen. Münzwechselproblem Wie gibt man am einfachsten, das heißt mit so wenig Münzen wie möglich, einen bestimmten Betrag heraus? Tilman Adler Gierige Algorithmen / 46

51 Münzwechselproblem - Beispiel Herausgeben von 7,64 DM: Verfügbare Münzen: Wechselgeld: Tilman Adler Gierige Algorithmen / 46

58 Münzwechselproblem SORT bereitet die Liste vor, indem sie nach Wert der Münzen aufsteigend sortiert. CASHIERS-ALGORITHM(wert, liste): 1: coins SORT(liste); 2: result ; 3: for coin coins do 4: while coin n do 5: result coin; 6: n n coin; 7: end while 8: if n = 0 then 9: return result; 10: end if 11: end for 12: return Tilman Adler Gierige Algorithmen / 46

59 Münzwechselproblem Warnhinweis In Verbindung mit außergewöhnlichen Staffelungen kann es zu Fehlern kommen. Beispielsweise kennt das US-Briefmarkensystem die Einheiten 1, 10, 21, 34, 70, Bei 140 liefert og Algorithmus falsche Ergebnisse. Ein nicht ganz triviales Verfahren zur Überprüfung einer Staffelung findet sich unter unter ( ). Tilman Adler Gierige Algorithmen / 46

61 Huffman-Encoding Der Huffman-Code ist ein optimaler Präfixcode, der gegenüber der Speicherung mit fester Codewortlänge Einsparungen von 20-90% ermöglicht. Für nähere Betrachtungen siehe GTI. Problem Wie erzeuge ich einen Huffman-Code? k:12 c:5 k:7 a:3 b:4 Tilman Adler Gierige Algorithmen / 46

62 Huffman-Encoding a:3 b:4 c:5 Tilman Adler Gierige Algorithmen / 46

63 Huffman-Encoding c:5 k:7 a:3 b:4 Tilman Adler Gierige Algorithmen / 46

64 Huffman-Encoding k:12 c:5 k:7 a:3 b:4 Tilman Adler Gierige Algorithmen / 46

65 Huffman-Encoding PRIORITY bereitet die Liste der Worte vor, indem sie sie aufsteigend nach Häufigkeit in eine Priority-Queue speichert. HUFFMAN(C): 1: Q = PRIORITY(C); 2: for i = 1 C 1 do 3: erstelle neuen Knoten k; 4: k.links = EXTRACT-MIN(Q); 5: k.rechts = EXTRACT-MIN(Q); 6: k.haeufig = k.links.haeufig + k.rechts.haeufig; 7: INSERT(Q, k); 8: end for 9: return EXTRACT-MIN(Q); Tilman Adler Gierige Algorithmen / 46

67 HeatDeath In dieser TopCoder Aufgabe war nach einem Weg gesucht, das Universum möglichst lange am Leben zu erhalten: Ein Array arr repräsentiert die Temperatur im Universum. Energie kann von a nach b springen, wenn arr[b] + 2 arr[a], jedoch nur eine Energieeinheit pro Zeiteinheit. Problem Wie kann ich ein Array von Zahlen möglichst lange unausgeglichen halten, wenn pro Zeiteinheit eine größere Zahl dekrementiert und eine kleinere inkrementiert wird, deren Unterschied mindestens 2 betrug? Tilman Adler Gierige Algorithmen / 46

68 HeatDeath Durchlauf mit drei Schritten: Tilman Adler Gierige Algorithmen / 46

71 HeatDeath Idee Wir gleichen nur möglichst dicht beieinander liegende Elemente aus, sodass ein Ausgleich so oft wie möglich durchgereicht wird. Algorithmus Sortiere Array absteigend Ausgleich jeweils zwischen zwei benachbarten a, b mit a b 2 und gehe zu 2. Wenn keine solchen Elemente, dann zwischen zwei beliebigen a, b mit a b = 2 und gehe zu 2. Wenn auch keine solchen, fertig. Tilman Adler Gierige Algorithmen / 46

72 HeatDeath Optimierter Durchlauf mit vier Schritten: Tilman Adler Gierige Algorithmen / 46

76 Obligatorische Schlussfolien Fragen? Tilman Adler Gierige Algorithmen / 46

77 Obligatorische Schlussfolien Vielen Dank für eure Aufmerksamkeit Tilman Adler Gierige Algorithmen / 46

78 Obligatorische Schlussfolien Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest, Clifford Stein: Introduction To Algorithms kleinberg-tardos/04greedy-2x2.pdf (7. Juni) statement&pm=2982&rd=5881 (11. Juni) Static&d1=match_editorials&d2=tco04_online_rd_4 (11. Juni) Daniel Danner: Gierige Algorithmen (2010) Tilman Adler Gierige Algorithmen / 46