Kapitel 3: Untere Schranken für algorithmische Probleme Gliederung

Transkript

1 Gliederung 1. Grundlagen 2. Analyse der Laufzeit von Algorithmen 3. Untere Schranken für algorithmische Probleme 4. Sortier- und Selektionsverfahren 5. Paradigmen des Algorithmenentwurfs 6. Ausgewählte Datenstrukturen 7. Algorithmische Geometrie 8. Umgang mit algorithmisch schwierigen Problemen Begrifflichkeiten Beispiele 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

2 Einordnung u Motivation Blickwinkel Lösungsalgorithmen bisher haben wir uns algorithmische Probleme zusammen mit diversen Lösungsalgorithmen angeschaut eine Laufzeitanalyse dieser Algorithmen hilft, diese Algorithmen miteinander zu vergleichen und dient als Ausgangspunkt für mögliche Verbesserungen die Frage, ob und wie viel Effizienzgewinn noch möglich ist, kann so nicht beantwortet werden Blickwinkel algorithmische Probleme wir schauen uns algorithmische Probleme an und fragen uns, wie effizient ein Lösungsalgorithmus für dieses Problem prinzpiell sein kann 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

3 Begriff untere Schanke für ein algorithmisches Problem u Zugrunde liegender Begriff es sei irgendein algorithmisches Problem gegeben es sei g(n) irgendeine einfache Funktion von N nach R + g(n) ist eine untere Schranke für das betrachtete algorithmische Problem, falls für jeden Lösungalgorithmus A für dieses Problem gilt: wc-time(a,n) Ω(g(n))... wenn für ein algorithmisches Problem eine untere Schranke g(n) nachgewiesen wurde und wir einen Lösungsalgorithmus mit der Laufzeit O(f(n)) kennen, können wir abschätzen, ob und in wieweit es sich lohnt, über effizientere Lösungsalgorithmen nachzudenken... wenn bspw. f(n) O(g(n)) gilt, so können wir uns sicher sein, dass der bekannte Algorithmus ein optimaler Lösungsalgorithmus ist 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

4 Begriff untere Schanke für ein algorithmisches Problem u Anmerkungen es gibt nicht sehr viele algorithmische Probleme für die man gute untere Schranken kennt gut bedeutet, dass man einen Lösungsalgorithmus kennt, dessen Laufzeit nicht wesentlich größer als die bekannte untere Schranke ist... für die meisten NP-vollständigen Probleme (/* d.h. für schwierigste Probleme, für die man nur exponentielle Lösungsalgorithmen kennt */), konnte man bisher nur sehr schlechte untere Schranken beweisen (/* etwa, das g(n) = n bzw. g(n) = n*log(n) eine untere Schranke für das jeweils betrachtete NP-vollständige Problem ist */) 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

5 Begriff untere Schanke für ein algorithmisches Problem u Anmerkungen für einige algorithmische Probleme kann man gute untere Schranken beweisen im Folgenden schauen wir uns zwei prominente Beispiele an (/* weitere folgen dann im Verlauf der Vorlesung */) beim Nachweis von unteren Schranken für algorithmische Probleme versucht man nicht alle Rechenoperationen zu betrachten, sondern konzentriert sich auf die für das jeweils betrachtete algorithmische Problem typischen Operationen 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

6 Beispielprobleme u wir kümmern uns um... das Problem, in einer gegebenen Zahlenfolge das maximale Element zu bestimmen, wobei die einzig interessierende Operation die Vergleichsoperation (/* compare(.,.) */) ist das Problem, eine gegebene Zahlenfolge zu sortieren, wobei die einzig interessierende Operation die Austauschoperation (/* swap(.,.) */) ist... in Kapitel 4 werden wir das zweite Problem noch einmal mit Blick auf die benötigten Vergleichsoperationen (/* compare(.,.) */) analysieren 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

7 Maximum bestimmen u Grundlagen es geht um das folgende algorithmische Problem zulässige Eingabe: Zahlenfolge a[1],...,a[n] der Länge n zulässige Ausgabe: bestimme z mit z = max { a[i] 1 i n }... wir betrachten Algorithmen in einem Berechnungsmodell, in dem die einzige relevante Operation die Vergleichsoperation (/* compare(.,.) */) ist 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

8 Maximum bestimmen u Untere Schranke Jeder Algorithmus, mit dem man das Maximum einer gegebenen Zahlenfolge der Länge n bestimmen kann, benötigt auf jeder Eingabe mindestens n - 1 Vergleiche.... dass n-1 Vergleiche genügen sollte klar sein 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

9 Maximum bestimmen u Beweisidee Annahme: es sei A ein Algorithmus, der das Maximum einer Zahlenfolge F der Länge n mit weniger als n - 1 vielen Vergleichen bestimmt es sei F irgendeine Zahlenfolge mit paarweise verschiedenen Elementen, bei deren Verarbeitung A mit weniger als n - 1 viele Vergleichen auskommt wir benutzen einen ungerichteten Graphen G, um die Arbeitsweise von A bei der Verarbeitung von F zu dokumentieren im Graph G gibt es für jedes Element von F einen Knoten zwischen zwei Knoten im Graphen G gibt es genau dann eine Kante, wenn A bei der Verarbeitung von F die beiden zugehörigen Elemente vergleicht 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

10 Maximum bestimmen u Beweisidee (cont.) unsere Annahme hat folgende Konsequenzen: a) der entstehende ungerichtete Graph ist schleifenfrei, hat n Knoten und weniger als n - 1 viele Kanten b) im entstehenden Graphen gibt es mindestens zwei Zusammenhangskomponenten, sagen wir C 1 und C 2 c) zu dem von A bestimmten z muss es ein eindeutig bestimmtes i mit a[i] = z geben, das zu einer der Zusammenhangskomponenten, sagen wir zu C 1, gehört wir wählen jetzt eine Zahlenfolge L der Länge n, indem wir zu jedem Element in der Zusammenhangskomponente C 2 einen ausreichend großen Wert, etwa z+100, addieren... da die Änderung der Werte der Elemente in C 2 keinen Einfluss auf das Ergebnis der von A ausgeführten Vergleiche hat, wird A bei Eingabe von L immer noch z ausgeben (/* das Maximum von L gehört aber offenbar zur Zusammenhangskomponente C 2 und A arbeitet nicht korrekt */) 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

11 Sortieren Light u Hintergrund... in einem Bücherregal stehen n Bücher wir können zwei Bücher aus dem Regal nehmen und ihre Plätze im Regal tauschen lassen abgeleitete Frage: Wie oft müssen wir zwei Bücher ihren Platz tauschen lassen, damit die Bücher im Regal in alphabethischer Reihenfolge stehen? 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

12 Sortieren Light u Grundlagen es geht um das folgende algorithmische Problem zulässige Eingabe: Folge a[1],...,a[n] der Länge n zulässige Ausgabe: sortierte Version der Folge a[1],...,a[n]... wir betrachten Algorithmen in einem Berechnungsmodell, in dem die einzige relevante Operation die Austauschoperation (/* swap(.,.) */) ist 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

13 Sortieren Light u Untere Schranke Jeder Algorithmus, mit dem man eine gegebenen Folge der Länge n sortieren kann, benötigt auf bestimmten Eingaben mindestens n - 1 Austauschoperationen.... dass stets n - 1 Austauschoperationen genügen, sollte klar sein... dass manchmal weniger genügen, sollte auch klar sein 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

14 Sortieren Light u Beweisidee es sei a[1],...,a[n] die gegebene Folge F wir definieren einen gerichteten Graphen G, der die gegebene Ausgangssituation für die Folge F sinnvoll widerspiegelt für jedes Element der Zahlenfolge gibt es einen Knoten von einem Knoten a[i] gibt es genau dann eine Kante zu einem Knoten a[j], wenn das Element an Position i in der sortierten Reihenfolge an die Position j gehört 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

15 Sortieren Light u Beweisidee (cont.) Beispiel... a[1] = d, a[2] = f, a[3] = b, a[4] = a, a[5] = e, a[6] = c a[1] a[2] a[3] a[4] a[5] a[6] 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

16 Sortieren Light u Beweisidee (cont.) Eigenschaften des zu F gehörenden gerichteten Graphen G: G hat n Knoten und n Kanten, wobei in jedem Knoten genau eine Kante beginnt und eine Kante endet die Kantenmenge kann in Kreise zerlegt werden, wobei jeder Kante zu genau einem Kreis gehört Beobachtung: Wenn die gegebene Zahlenfolge sortiert ist, enthält der zugehörige Graph genau n Kreise (/* jeder Knoten ist Startpunkt einer Kante auf sich selbst */). 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

17 Sortieren Light u Beweisidee (cont.) Auswirkungen der Anwendung einer Austauschoperation, d.h. es geht darum, dass die beiden Elemente an Position a[i 1 ] und a[i 2 ] ihre Plätze tauschen Fall 1: die in a[i 1 ] und a[i 2 ] beginnenden Kanten gehören zu einem Kreis K es gibt zwei Kanten (a[i 1 ],a[j 1 ]) und (a[i 2 ],a[j 2 ]) in K wenn die Elemente an den Positionen a[i 1 ] und a[i 2 ] ihre Plätze tauschen, entsteht eine neue Folge F im zu F gehörenden Graphen G gibt es dann die beiden Kanten (a[i 2 ],a[j 1 ]) und (a[i 1 ],a[j 2 ]), die zu zwei unterschiedlichen Kreisen gehören (/* K zerfällt in zwei Kreise */) 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

18 Sortieren Light u Beweisidee (cont.) Auswirkungen der Anwendung einer Austauschoperation, d.h. es geht darum, dass die beiden Elemente an Position a[i 1 ] und a[i 2 ] ihre Plätze tauschen Fall 2: die Knoten a[i 1 ] und a[i 2 ] gehören zu zwei Kreisen K 1 und K 2 es gibt die Kante (a[i 1 ],a[j 1 ]) in K 1 und die Kante (a[i 2 ],a[j 2 ]) in Kreis K 2 wenn die Elemente an Position a[i 1 ] und a[i 2 ] ihre Plätze tauschen, entsteht eine neue Folge F im zu F gehörenden Graphen G gibt es dann die beiden Kanten (a[i 2 ],a[j 1 ]) und (a[i 1 ],a[j 2 ]), die zu einem Kreis K gehören (/* K 1 und K 2 werden zu einem Kreis vereinigt */) 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik

19 Sortieren Light u Beweisidee (cont.) es sei nun die gegebene Folge a[1],...,a[n] derart gegeben, dass es im zu F gehörenden gerichteten Graphen G genau einen Kreis gibt (/* etwa dann, wenn a[1] = n, a[2] = 1, a[3] = 2,..., a[n] = n - 1 gilt */) da der gerichtete Graph G, der zur sortierten Version F dieser Folge F gehört, genau n Kreise hat, und jede Anwendung der Austauschoperation die Anzahl der Kreise maximal um eins erhöht, braucht man mindestens n - 1 viele Operationen, um die gegebene Folge zu sortieren 3/1, Folie Prof. Steffen Lange - HDa/FbI - Algorithmik