Michael Philippsen 1. Algorithmen und Datenstrukturen. 9. Algorithmenherleitung durch Induktion. 9. Algorithmenherleitung durch Induktion

Transkript

1 9. Algorithmenherleitung durch Induktion Algorithmen und Datenstrukturen 9. Algorithmenherleitung durch Induktion Prof. Dr. Christoph Pflaum Department Informatik Martensstraße Erlangen 9. Induktionsformen 9.2 Beispiel einer Summenformel 9.3 Gebiete in der Ebene 9.4 Numerische Integration 9.5 GrayCodes 9.6 Färben von Gebieten 9.7 Polynomauswertung HornerSchema 9.8 Maximale Summe einer zusammenhängenden Teilfolge 9.9 RucksackProblem Dynamisches Programmieren 9. Münzminimierung Gierige Algorithmen 9. Prominentenproblem Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Induktionsformen Nachweis der Gültigkeit einer Aussage A(n) für alle nù a) Basisform der Induktion ( ) Bedingungen: A() ist wahr Für jedes n > : A(n ) impliziert A(n) Dann gilt A(n) für alle n. b) Basisform der Induktion ( + ) Bedingungen: A() ist wahr Für jedes n : A(n) impliziert A(n + ) Dann gilt A(n) für alle n. c) kanfangsform der Induktion ( k ), analog ( +k ) Bedingung A() A(k) sind wahr Für jedes n > k: A(n k) impliziert A(n) Dann gilt A(n) für alle n. k parallele Pfade durch ù, die ù ganz überdecken. 9. Induktionsformen Nachweis der Gültigkeit einer Aussage A(n) für alle nù d) Strenge Induktion Bedingungen: A() ist wahr Für jedes n > : (Für alle m < n: A(m)) impliziert A(n) Dann gilt A(n) für alle n. e) ZweierpotenzInduktion Bedingungen: A() ist wahr Für jedes n = 2 k > : A(n / 2) impliziert A(n) Dann gilt A(n) für alle n = 2 k. Nicht nur wahr für einen Vorgänger, sondern für alle. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 93 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 94 Michael Philippsen

2 9. Induktionsformen Nachweis der Gültigkeit einer Aussage A(n) für alle nù f) Rückwärtsinduktion Für ein m lässt sich immer ein Bedingungen: größeres k in dieser Teilmenge finden. A(n) ist wahr für alle n aus einer unendlichen Teilmenge von ù Für jedes n > 2: A(n) impliziert A(n ) Von diesem k arbeitet Dann gilt A(n) für alle n. man sich rückwärts bis m g) Strukturelle Induktion vor und zeigt so A(m). Beweis über die Konstruktionsregeln einer Struktur. Mehr dazu in Abschnitt 2. Abstrakte Datentypen. 9.2 Beispiel einer Summenformel Bestimme für alle n: T(n) = (3 + 5n) n Idee: Da 3 i = (n²+) / 2 liegt es nahe für T(n) ebenfalls eine quadratische Formel anzunehmen: T(n) = c 2 n² + c n + c Betrachte die ersten Reihenelemente T() = T() = c 2 + c = 8 T(2) = 4c 2 + 2c = 3 Y c 2 = 5/2 c = /2 c = Behauptung: T(n) = (5 n² + n)/2 Beweis? Man kann das natürlich direkt lösen: 3 i (3+5i) = 3 3 i i i = 3n + 5 ½ n(n+) = 5/2 n² + /2 n Hier zu Übungszwecken per Induktion Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 95 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Beispiel einer Summenformel Bestimme für alle n: T(n) = (3 + 5n) Behauptung T(n) = 2,5 n² + 5,5 n Beweis durch vollständige Induktion Induktionsanfang: T() = 8 = 2,5 + 5,5 // klar Induktionshypothese: für n > gilt T(n) = 2,5 n² + 5,5 n Induktionsschritt n n + : T(n+) = T(n) + (3 + 5 (n+)) // Def. Reihenentwicklung = 2,5 n² + 5,5 n + 5 n + 8 // Induktionsvoraussetzung // 2,5(n+)²=2,5n²+5n+2,5 = 2,5 (n+)² + 5,5 n + 5,5 // binomische Formel = 2,5 (n+)² + 5,5 (n+) // Behauptung gilt für n+ // q.e.d. 9.3 Gebiete in der Ebene Behauptung: n Geraden in der Ebene, die in allgemeiner Position zueinander liegen, bilden (n*(n+) / 2) + Gebiete. Allgemeine Position = Keine 2 Geraden sind parallel Keine 3 Geraden schneiden sich im selben Punkt Beispiele: 2 Gebiete 4 Gebiete 7 Gebiete Gerade Nr. Gerade Nr. 2 Gerade Nr. 3 extra Gebiet 2 extra Gebiete 3 extra Gebiete Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 97 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 98 Michael Philippsen 2

3 9.3 Gebiete in der Ebene Statt direkt die Gebietszahl zu ermitteln, über das Wachstum der Gebietszahl beim Hinzufügen weiterer Gerade nachdenken. Behauptung: Durch Hinzufügen einer Geraden zu n Geraden in allgemeiner Position in der Ebene erhöht sich die Zahl der Gebiete um n. 9.3 Gebiete in der Ebene Induktionsschritt ( n n + ), Fortsetzung: Wenn man die nte Gerade entfernen würde, dann würde die n+te Gerade als nte Gerade eingefügt und laut Induktionsvoraussetzung n Gebiete hinzufügen, also schneiden. Es muss also nur gezeigt werden, dass in Gegenwart der nten Geraden die n+te Gerade ein zusätzliches Gebiet schneidet. Beweis durch vollständige Induktion Induktionsanfang: Geraden Gebiet. Kommt die. Gerade dazu, dann 2 Gebiete, nämlich rechts und links der Geraden. Induktionsschritt ( n n + ): Wegen der allgemeinen Lage gilt, dass eine Gerade ein Gebiet entweder in 2 Teile schneidet, oder nicht einmal berührt. Es muss also gezeigt werden, dass die n+. Gerade n+ Gebiete teilt. n P Gebiet G n+ Es gibt genau ein Gebiet G, in dem sich die nte und n+te Gerade schneiden (Punkt P). Wenn Gerade n nicht vorhanden wäre, dann würde die n+te Gerade das Gebiet in 2 Teile schneiden: ein neues Gebiet von insgesamt n neuen. Wenn Gerade n vorhanden ist, dann fügt die n+te Gerade zwei neue Gebiete hinzu, also insgesamt n+ neue Gebiete. //q.e.d. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 99 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Gebiete in der Ebene Wir haben gezeigt: Die ite Gerade fügt i Gebiete hinzu. n Damit erzeugen n Geraden +3i = + ½ n(n+) Gebiete. i= Gebiet ist auch bei Geraden vorhanden Bemerkungen: Keine Induktion über Gebietzahl, sondern über Wachstum der Gebietszahl Induktionshypothese wurde doppelt verwendet Für die Gebiete, die durch die nte Gerade eingeführt werden Für die Gebiete, die durch die n+te Gerade eingeführt werden, wenn die nte Gerade nicht vorhanden ist 9.4 Numerische Integration Gegeben: Funktion Gesucht: Bestimme Integral Rekursive Lösung: Zerlege in zwei Teile: b a f ( x) dx = f : [ a, b] R b a ( b+ a) / 2 a f ( x) dx f ( x) dx Löse beide Integrale rekursiv bis ( b a) klein genug. Dann setze b' b' a' f ( x) dx ( b' a' ) f 2 a' + b ( a+ b) / 2 f ( x) dx Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 9 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 92 Michael Philippsen 3

4 9.4 Numerische Integration 9.5 GrayCodes public class Integration { static double Integrate(double a, double b, double eps) { double mitte = (a + b) / 2.; if ((b a) < eps) { return f(mitte) * (b a); } else { return Integrate(a, mitte, eps) + Integrate(mitte, b, eps); } } GrayCode ist ein binärer Code Problematik bei der Übertragung von digitalen Daten: Temperaturmessung Analog Digital Wandler 8bit Datenleitung Recheneinheit } static double f(double x) {... }... Übertragungsfehler!! Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 93 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie GrayCodes GrayCode ist ein binärer Code GrayCode: aufeinander folgende CodeWörter unterscheiden sich in genau einem Bit (zyklisch). Bei GrayCodes entstehen keine Übertragungsfehler bei stetig veränderlichen Signalen. Beispiele für GrayCodes der Länge n = 2:, n = 4:,,, n = 8: // zwei Beispiele für einen GrayCode der Länge 8, // die 3 Bits benötigen. Für gerade n, die keine Zweierpotenzen sind, gibt es auch eine erweiterte GrayCodeDefiniiton. 9.5 GrayCodes Algorithmenherleitung durch Induktion Behauptung: Für jedes n =2 s >, nù existiert ein GrayCode der Länge n, wobei jedes Codewort aus s = log 2 n Bits besteht. Beweis: Induktionsanfang: Für n = ist der gesuchte GrayCode, für n = 2 ist, der gesuchte GrayCode Induktionsschritt: Verdopple GrayCode mit Suffix bzw. und füge beide zusammen. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 95 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 96 Michael Philippsen 4

5 9.5 GrayCodes 9.5 GrayCodes Erweiterung eines GrayCodes, Länge 4 Länge 8 s s n/2 s n/2 s s 2 s 2 s3 s 4 s 5 GrayCode der Länge n/2 existiert nach Induktionsvoraussetzung s n/2 voranstellen s Verdoppeln, mit s führender statt 2 Zyklus Aufbruchstelle s 5 s 3 s 4 s 3 s 4 s 5 2 Bits für Länge 4 3 Bits für Länge 8 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 97 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Färben von Gebieten Gebiete, die durch verschiedene Geraden in einer Ebene geformt werden, können so mit zwei Farben eingefärbt werden, dass keine zwei Gebiete die gleiche Farbe haben, wenn sie eine gemeinsame Kante haben (allgemeine Lage ist nicht erforderlich!). 9.6 Färben von Gebieten Induktionsanfang: Fläche wird von einer Geraden in zwei Teile geteilt, die trivial mit zwei Farben gefärbt werden können. Vergleiche ähnlich klingendes Problem: Landkarten können mit 4 Farben gefärbt werden. Dort Streckenzüge statt Geraden. Induktionshypothese: Angenommen Gebiete, die durch weniger als n Geraden geformt werden, können mit 2 Farben gefärbt werden. Induktionsschritt ( strenge Induktion, œk < n n ) Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 99 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 92 Michael Philippsen 5

6 9.6 Färben von Gebieten Induktionsschritt ( strenge Induktion, œk < n n ): Wenn die nte Gerade hinzugefügt wird, werden zwei Gruppen von Gebieten gebildet. Die eine Gruppe befindet sich auf der einen, die andere auf der anderen Seite der nten Geraden. Die Farben aller Gebiete in nur einer Gruppe werden vertauscht. Betrachte zwei benachbarte Gebiete R und R2: Fall : R und R2 befinden sich auf einer Seite der nten Gerade. Nach Induktionsvoraussetzung hatten sie vor Einführung der nten Gerade unterschiedliche Farben. Hinterher immer noch, ggf. aber getauscht. R R2 R R2 Y R R2 R R2 9.6 Färben von Gebieten Fall 2: R und R2 entstehen durch die nte Gerade (d.h. nte Gerade bildet gemeinsame Kante von R und R2). R R2 R R2 Y Farbtausch Vor Einführung der nten Gerade hatten R und R2 die gleiche Farbe. Durch den Farbtausch haben sie nach Einführung der nten Gerade unterschiedliche Farben. q.e.d. Farbtausch Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 92 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Polynomauswertung HornerSchema 9.7 Polynomauswertung HornerSchema Gegeben: x, a n, a n,..., a Gesucht: P n (x) = a n x n + a n x n a x + a. Idee zur Algo.herleitung per Induktion: Rückführung auf P n Basisfall: P (x) = a Induktionshypothese: P n (x) kann berechnet werden Induktionsschritt: P n (x) = a n x n + P n (x) Beispiel: Werte P 3 (x) = 4x 3 +3x 2 +2x+ für x=7 aus P (7) = P (7) = P (7) = 4 + = 5 P 2 (7) = P (7) = = 62 P 3 (7) = P 2 (7) = = 534 Add Mult Beispiel: Werte P 3 (x) = 4x 3 +3x 2 +2x+ für x=7 aus P (7) = P (7) = P (7) = 4 + = 5 P 2 (7) = P (7) = = 62 P 3 (7) = P 2 (7) = = 534 Die einfache Lösung, das Polynom einfach von links nach rechts auszuwerten, wird durch die Rückführung auf P n verkompliziert, obwohl im Endeffekt genau dasselbe gerechnet wird. Anzahl Multiplikationen: n + n + n2 + + = n(n+)/2 Anzahl Additionen: n Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 923 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 924 Michael Philippsen 6

7 9.7 Polynomauswertung HornerSchema 2. Idee = Variante der. Idee Statt x n mit n Multiplikationen auszurechnen, wird ein schnellerer Algorithmus eingesetzt: x, x², x 4, x 8, x 6, können jeweils mit einer Multiplikation zum Quadrieren berechnet werden. Betrachte die Binärdarstellung von n und multipliziere jeweils diejenigen Potenzen von x, an deren Position in der Binärdarstellung eine steht. Beispiel: 9 = binär // Einsen auf Positionen 4,, 9.7 Polynomauswertung HornerSchema Beispiel: Werte P 3 (x) = 4x 3 +3x 2 +2x+ für x=7 aus vorab: 7 =7, 7 2 =7 7=49, 7 3 =7 7 2 =343 P (7) = P (7) = P (7) = 4 + = 5 P 2 (7) = P (7) = = 62 P 3 (7) = P 2 (7) = = 534 Add Mult x 9 = x 24. x 2. x 2 = x 6. x 2. x Zweierpotenzen NichtZweierpotenzen Anzahl Multiplikationen: Anzahl Additionen: log 2 n+?+n n n Rekursionsschritte Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 925 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Polynomauswertung HornerSchema 3. Idee: Strengere Invariante Statt nur Rückführung auf Auswertung von P n (x), zusätzlich Rückführung auf Berechnung von x n Basisfall: x =, P (x) = a Induktionshypothese: x n und P n (x) können berechnet werden Induktionsschritt: x n = x. x n P n (x) = a. n x n + P n (x) Beispiel: Werte P 3 (x) = 4x 3 +3x 2 +2x+ für x=7 aus x = P (7) = x = x 7 = 7 P (7) = P (7) = 4 + = 5 x 2 = x 7 = 49 P 2 (7) = P (7) = = 62 x 3 = x 2 7 = 343 P 3 (7) = P 2 (7) = = Polynomauswertung HornerSchema Es geht noch besser: Problemgrößenreduktion nicht durch Abtrennung von a n, sondern durch Abtrennung von a Problemreduktion von rechts statt von links 4. Idee HornerSchema Betrachte P' i (x) = a n x i + a n x i + + a ni Es gilt: P' i (x) = x. P i (x) + a ni // Multiplikation u. Addition Basisfall: P' (x) = a n Induktionshypothese: P' n (x) kann berechnet werden Induktionsschritt: P' n (x) = x. P' n (x) + a n bei großen n viel schneller: 2n Multiplikationen, n Additionen Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 927 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 928 Michael Philippsen 7

8 9.7 Polynomauswertung HornerSchema 4. Idee HornerSchema Basisfall: P' (x) = a n Induktionsschritt: P' n (x) = x. P' n (x) + a n Beispiel: Werte P 3 (x) = 4x 3 +3x 2 +2x+ für x=7 aus P' (7) = 4 P' (7) = 7 P' (7) + 3 = P' 2 (7) = 7 P' (7) + 2 = 7 ( ) + 2 = P' 3 (7) = 7 P' 2 (7) + = 7 ( ) + = n Multiplikationen, n Additionen JavaCode: p = a[n]; for (int i = n ; i >= ; i){ p = p * x + a[i]; } Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Maximale Summe einer zusammenhängenden Teilfolge Problemspezifikation: Gegeben: Folge x, x 2,, x n von Gleitkommazahlen (ggf. auch negativ). Gesucht: zusammenhängende Teilfolge x i, x i+,, x j so dass die Summe ihrer Elemente maximal ist (es soll also keine zusammenhängende Teilfolge mit höherer Elementsumme geben.) Die Summe der leeren Teilfolge wird als festgesetzt.. Beispiel: 2, 3,.5,, 3, 2, 3, Es ist keine gute Idee, mit x zu beginnen, weil x +x 2 die maximale Summe um vermindert. Man kann die Suche nach der Teilfolge gleich bei x 2 fortsetzen. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Maximale Summe einer zusammenhängenden Teilfolge 9.8 Maximale Summe einer zusammenhängenden Teilfolge. Beispiel: 2, 3,.5,, 3, 2, 3, Die leere Teilfolge würde zu einer höheren Summe (=) führen =.5 würde auch einen negativen Beitrag zur Summe liefern. Daher Suche nach der Teilfolge bei x 2 fortsetzen. Keine größere Summe Die Teilfolge (.5,, 3) liefert mit 3.5 die maximale Summe. Algorithmen: Aufwändiger Algorithmus: Teste alle Teilfolgen. Rekursiver Algorithmus: Induktive Vorgehensweise. Idee: Man merkt sich nicht nur die bisher erreichte maximale Summe, sondern auch die maximale Summe derjenigen Teilfolgen, die am aktuellen Betrachungsende aufhört (SuffixFolge). Allgemeinere Aufgabenstellung und Rekursiver Algorithmus: Für eine Folge der Länge <n kann berechnet werden: maximale Summe einer zusammenhängenden Teilfolge, maximale Summe einer SuffixFolge. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 93 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 932 Michael Philippsen 8

9 9.8 Maximale Summe einer zusammenhängenden Teilfolge 2. Beispiel (a) 2, 3,.5,, 3, 2, 3, Soll man 2 zur Folge hinzunehmen? Neue Summe wäre dann.5 (weniger). Da anschließend zwei mal 3 kommt, könnte.5 die maximale Summe über 3.5 liegen Idee: Man merkt sich nicht nur die bisher erreichte maximale Summe, sondern auch die maximale Summe derjenigen Teilfolge, die am aktuellen Betrachungsende aufhört. Hier: maximale Teilfolgensumme: 3.5 maximale Summe der Endfolge: = Maximale Summe einer zusammenhängenden Teilfolge Reihung x xmax xsuffix Allgemeinere Aufgabenstellung, Induktionshypothese: Für eine Folge der Länge <n kann berechnet werden: maximale Summe einer zusammenhängenden Teilfolge, maximale Summe einer SuffixFolge. Basisfall: wie oben Induktionsschritt n n : Größtenteils wie oben Falls maximale Teilfolge irgendwo in der Mitte : maximale Suffixfolge ggf. um x n verlängern, mit der bisherigen maximalen Teilfolge vergleichen, ggf. neue maximale Teilfolge setzen n x n Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 933 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Maximale Summe einer zusammenhängenden Teilfolge 2. Beispiel (b) 2, 3,.5,, 3, 2, 3, Bisherige maximale Teilfolge irgendwo in der Mitte. Neue maximale Summe durch Verlängerung der Suffixfolge gefunden: = 4,5 9.8 Maximale Summe einer zusammenhängenden Teilfolge JavaCode public double maxsubvektor(double x[]) { double xmax =.; double xsuffix =.; } for (int i = ; i < x.length; i++) { xsuffix = Math.max(xSuffix + x[i],.); xmax = Math.max(xMax, xsuffix); } return xmax; Vereinfacht: nur die Summe wird berechnet (nicht die Folge selbst). Die Teilfolge (.5,, 3, 2, 3, 3) liefert mit 7.5 die maximale Summe. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 935 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 936 Michael Philippsen 9

10 Problem: Es soll ein Rucksack mit Fassungsvermögen K mit Elementen verschiedener Größe ganz voll gepackt werden (also ohne verbleibenden Leerraum). Existiert eine Lösung? Anwendungen: Schiffe, Flugzeuge, SiliziumChips etc. Hier: Objekte nur eindimensional, ganzzahlige Größe. Beispiel: Elemente Rucksackgröße K Nicht möglich Nicht möglich oder oder Problemspezifikation: Gegeben: Rucksackgröße Kù, S = {k, k 2,..., k n }, k i ù Gesucht: Gibt es TfS, so dass 3 k i = K? k i T Kurzschreibweise P(n, K) // liefert Elementmenge T oder i Rucksackgröße Elementanzahl, d.h. verwende nur ersten n Elemente Für die Rückführung auf kleinere Probleme ist die tatsächliche Größe der Elemente unerheblich. Die Elemente seien in beliebiger aber fester Reihenfolge durchnummeriert. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 937 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 938 Wichtige Einsichten: P(n, K) = P(n, K), falls es eine Lösung für P(n, K) gibt // wenn man mit n Elementen den Rucksack voll packen // kann, ist das Element n unerheblich P(2, 7) = {2, 5} sei schon gefunden. Dann gilt natürlich sofort P(3, 7) = {2, 5}, egal wie groß das dritte Element ist. 7 P(n, K) = {k n }cp(n, K k n ), falls Lösung für P(n, K k n ) // Lege k n in den Rucksack. Versuche mit n Elementen // den nun kleineren Restplatz vollständig zu füllen Problemspezifikation: Gegeben: Rucksackgröße Kù, S = {k, k 2,..., k n }, k i ù Gesucht: Gibt es TfS, so dass 3 k i = K? k i T Basisfall n = : K= leere Lösungsmenge K=k> falls k=k : die Lösung ist {k }, sonst i Induktionshypothese: P(n, k) kann für alle k K gelöst werden. P(2, 7) = {2, 5} sei schon gefunden. Dann ist P(3,) = {3}c{2, 5}, wenn das dritte Element die Größe 3 hat. 7 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 939 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 94 Michael Philippsen

11 Induktionshypothese: P(n, k) kann für alle k K gelöst werden. Induktionsschritt: Reduziere P(n, K) auf Teilproblem : P(n, K) Teilproblem 2: P(n, K k n ) (nur, falls K k n ) die beide nach Induktionsvoraussetzung lösbar sind. Zusammenfügung der Ergebnisse: Falls für P(n, K) eine Lösung existiert, dann ist sie auch Lösung für P(n, K). Falls für P(n, K k n ) eine Lösung T existiert, dann ist Tc{k n } Lösung für P(n, K). Andernfalls gibt es keine Lösung von P(n, K). Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 94 Bei der Reduktion von P(n, K) entstehen 2 Teilprobleme ( ) Teilproblem : P(n, K) Teilproblem 2: P(n, K k n ) (nur, falls K k n ) Im Unterschied zu TeileundHerrsche sind diese jedoch nicht deutlich kleiner als das Ausgangsproblem. Es ist daher zu befürchten, dass durch die Reduktion insgesamt sogar mehr zu arbeiten ist! P(n, K) exponentiell wachsender P(n, K) P(n, K k n ) Aufwand P(n 2, K) P(n 2, K k n ) P(n 2, K k n ) P(n 2, K k n k n ) Jetzt erwartet man eigentlich eine 2.Version der Induktionshypothese, die viel besser ist. Aber: hier liegt die Lösung schon auf dem Tisch! Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 942 P(n, K) P(n, K) P(n, K k n ) exponentiell wachsender Aufwand Matrix P(n,K) P(n,K) P(n,Kk n ) es gibt keine Lösung I es gibt eine Lösung, k ist dabei O es gibt eine Lösung, k ist nicht dabei P(n 2, K) P(n 2, K k n ) P(n 2, K k n ) P(n2, K k n k n ) Bei k n = k n sind dies identische Probleme k =2 Rucksackgröße O I Es gibt nur endlich viele Problemgrößen. Schon berechnete Lösungen können wieder verwendet werden, anstatt sie neu zu berechnen. Es gibt genau n * K mögliche Problemgrößen und glücklicherweise ist (für realistische K) nk «2 n Elemente k 2 =3 k 3 =5 O O I I Datenfluss beim Zusammenführen der O O O O Teilproblemergebnisse Implementierung: Speicherung der schon berechneten Ergebnisse in einer Matrix der Größe n * K. k 4 =6 Zuerst gefundene mögl. Lösung wird ausgewählt. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 943 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 944 Michael Philippsen

12 Matrix P(n,K) P(n,K) P(n,Kk n ) k =2 es gibt keine Lösung I es gibt eine Lösung, k ist dabei O es gibt eine Lösung, k ist nicht dabei Rucksackgröße O I K Ablesen der Teilmenge Elemente k =2 k 2 =3 k 3 =5 k 4 =6 Rucksackgröße O I O O I I O O O O I I I O O O O I O O I O I I I I Elemente k 2 =3 k 3 =5 k 4 =6 n O O I I O O O O I I I O O O O I O O I O I I I I Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 945 Wie ist ein Rucksack der Größe 3 zu packen? k 4 gehört in den Rucksack, wegen I Es bleibt ein Rucksack der Größe 36=7 k 3 gehört in den Rucksack, wegen I Es bleibt ein Rucksack der Größe 75=2 k gehört in den Rucksack, wegen I Der Rucksack ist nun voll: 22= Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 946 Dynamisches Programmieren = Anwendung des Induktionsprinzips zur Algorithmenkonstruktion Prinzip: Zerlegung des Problems in mehrere (leicht) kleinere Probleme. Diese Probleme sind vorab gelöst, die Ergebnisse können aus einer Tabelle abgelesen werden. Füge Teillösungen zur Gesamtlösung zusammen, wobei die Verschmelzung relativ wenig Aufwand verursacht Erzeuge Tabellen mit (optimalen) Zwischenergebnissen Tabellen werden iterativ aufgebaut. Der Wert einer Zelle ergibt sich durch Kombination aus früher berechneten Wert(en) (in früher vervollständigten Zeilen der Tabelle oder in der gleichen Zeile aber weiter links ) Aufwand: bestimmt durch Tabellengröße. Aufwand des Ablesens des Ergebnisses: abhängig von der Zeilenzahl 9. Münzminimierung Gierige Algorithmen Problem: Ein Geldbetrag n < ist mit möglichst wenigen Münzen auszubezahlen. Basisfall: Der Geldbetrag ist mit einer Münze auszuzahlen. Trivial für n=, 2, 5,, 2, 5. Induktionshypothese: Für alle Geldbeträge <n ist bekannt, wie sie mit möglichst wenigen Münzen auszubezahlen sind. Induktionsschritt: Zahle die größte Münze mit Wert m aus, die in den Geldbetrag n passt. Nach Induktionshypothese ist klar, wie man den Betrag mn mit möglichst wenig Münzen auszahlt. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 947 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 948 Michael Philippsen 2

13 9. Münzminimierung Gierige Algorithmen Beim Rucksackproblem war nicht klar, dass nach fester Auswahl eines Objekts noch immer für das kleinere Problem eine Lösung finden würde. Es wurde der ganze Lösungsraum betrachtet, indem Lösungen aus optimalen Teillösungen zusammengesetzt wurden Viele in Zwischenschritten gefundene optimale Teillösungen (Zellen in der Tabelle) werden in der Lösung des Gesamtproblems nicht mehr berücksichtigt. Bei der Münzminimierung gibt es sicher eine Lösung für das kleinere Problem. Der Algorithmus entscheidet sich nach Gier : der Schritt Richtung Lösung, der im Moment der Entscheidung am besten zu sein scheint, wird gewählt. 9. Münzminimierung Gierige Algorithmen Beispiele für Heuristiken, die nicht sicher zum globalen Optimum führen Schach: Wenn eine Figur schlagbar ist, schlage diese. Wenn mehrere Figuren schlagbar sind, dann schlage diejenige mit höchstem Figurenwert. Rucksackproblem: wähle immer das größte noch verfügbare Element aus. Überlegen Sie: Welche Strategie führt im Wartezimmer eines Arztes zur Minimierung der Summe aller Patientenwartezeiten? Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 949 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Münzminimierung Gierige Algorithmen Gierige Algorithmen ( greedy algorithms ) = Anwendung des Induktionsprinzips zur Algorithmenkonstruktion Prinzip: Wende Bewertungsfunktion ( greedy heuristics ) an, um das zur Zeit am besten passende Element auszuwählen und füge es zur Ergebnismenge hinzu. Wiederholen bis Eingabemenge leer ist. Lösung wird schrittweise aufgebaut. Eine einmal getroffene Entscheidung wird nicht mehr revidiert. 9. Prominentenproblem Gegeben sind n Personen. Ein Prominenter unter den Personen ist eine Person, die jeder kennt, die aber selbst keinen anderen kennt. Die Identifizierung des Prominenten findet durch Fragen der Art: Kennt Person A Person B? statt. Ziel: Minimierung der Zahl der Fragen. Beachte: Die Beziehung sich kennen ist asymmetrisch. Der Prominente kennt sich selbst. Für manche Optimierungsprobleme wird das globale Optimum gefunden, für andere nur ein lokales. Anderer Name: schrittweises Ausschöpfen. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 95 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 952 Michael Philippsen 3

14 9. Prominentenproblem Ziel ist die Minimierung der Anzahl der Fragen. Ein naiver Algorithmus benötigt n*(n) Fragen zum vollständigen Aufbau der Beziehungsmatrix. Beispiel: A B C D E A B E kennt B nicht C D E Diagonale: jeder kennt sich selbst D ist Prominenter, nur Einträge in Spalte, nur Einträge in Zeile (außer bei D selbst). Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Prominentenproblem Problemspezifikation Gegeben: n*nbeziehungsmatrix K Gesucht: Bestimme, ob ein j existiert, sodass gilt: für alle i gilt: K[i, j] = // Spalte mit lauter Einträgen für alle k j gilt: K[j, k] = // Zeile mit lauter Einträgen, // außer bei j selbst Induktionsansatz,. Versuch Basisfall: in einelementiger Menge ist Person prominent. Jeder aus der Menge kennt die Person. Die Person kennt keinen der anderen was kein Wunder ist, weil es keinen anderen in der Menge gibt. Die Beziehungsmatrix erfüllt obige Forderungen. Induktionshypothese: Man kann in den ersten n Personen bestimmen, ob es einen Prominenten gibt und wer dies ist. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie Prominentenproblem Induktionsschritt n n : Fall : Der Prominente ist unter den ersten n Personen. Prüfe, dass die nte Person den Prominenten kennt, aber nicht umgekehrt. Fall 2: Der Prominente ist die nte Person. 2 (n ) Fragen müssen gestellt werden! Fall 3: Es gibt unter den n Personen keinen Prominenten. 2 (n ) Fragen müssen gestellt werden (schlimmstenfalls; zur Berechnung der kompletten Matrix)! Für Person n braucht man 2(n) Fragen. Für Person n daher 2(n2) Insgesamt ähnlich viele Fragen wie beim Trivialansatz. Benötigt wird eine schlauere Methode, um die Problemgröße von n auf n zu reduzieren. Einfache Verwendung des letzten Elements ist (oft) ungeeignet. 9. Prominentenproblem Einsicht (für unterschiedliche Personen A und B): Falls K(A, B) =, kann A kein Prominenter sein (A kennt jemanden). Falls K(A, B) =, kann B kein Prominenter sein (A kennt B nicht). Mit einer Frage kann also für eine der beiden Person (entweder A oder B) ausgeschlossen werden, dass sie der Prominente ist. Bei der Reduktion von n auf n wird nicht die nte Person weg gelassen, sondern der NichtProminente von A und B. Damit treten weniger Fälle auf Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 955 Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 956 Michael Philippsen 4

15 9. Prominentenproblem Um die Problemgröße von n auf n zu reduzieren, fragt man die nte Person nach irgendeiner Person p der übrigen n Personen. Nach obiger Einsicht entweder die nte Person oder p als NichtPromi entlarven neue npersonenmenge ohne diesen NichtPromi. Löse das Problem gemäß Induktionsvoraussetzung. Dann Fall : Der Prominente ist unter den n Personen. Es kann mit zwei Fragen leicht festgestellt werden, ob dieser Prominente auch innerhalb der n Personen prominent ist. Fall 2: Der Prominente ist die nte Person. Kann nicht auftreten: Durch Auswahl gemäß Einsicht, wird ein NichtProminenter entfernt. Fall 3: Es gibt unter den n Personen keinen Prominenten. Dann gibt es auch keinen Prominenten innerhalb der n Personen, weil bei Auswahl gemäß Einsicht ein NichtProminenter entfernt wurde. Pro Induktionsschritt: Eine Frage zur Vorbereitung der Auswahl, eventuell zwei weiteren Frage im Fall. Arbeit zur Reduktion der Problemgröße lohnend. Algorithmen und Datenstrukturen Philippsen/Stamminger/Pflaum WS 28/9 Folie 957 Michael Philippsen 5