Konzepte der Informatik

Konzepte der Informatik Vorkurs Informatik zum WS 2/212 2.9. - 3.9.2 17.1. - 21.1.2 Dr. Werner Struckmann / Christoph Peltz Stark angelehnt an Kapitel 3 aus "Abenteuer Informatik" von Jens Gallenbacher Vorkurs Informatik 2 1

Wiederholung Grundsätzliche Problematik: Wie nutze ich vorhandenen Platz am effektivsten aus? Problemgröße hängt von folgenden Faktoren ab Anzahl und Beschaffenheit (Größe und Wert) der Schätze Größe der Schatzkiste Mannigfaltige Variation der Problemgrößen Dimensionalität der Gegenstände: ein-, zwei- oder dreidimensional Teilbarkeit der Gegenstände Beschaffenheit der Größe und des Werts der Gegenstände Nur ganzzahlige bzw. diskrete Größen bzw. Werte Meist werden die Gegenstände abstrahiert: Rechtecke und Quader anstatt der eigentlichen Form Verfügbarkeit der Gegenstände: einmal, n-mal oder unbegrenzter Vorrat Vorkurs Informatik 2 2

Die Problematik Bereits an diesem einfachen Beispiel sieht man, dass es gar nicht so leicht ist, eine optimale Lösung aus allen Gegenständen zu finden. Man könnte sechs Goldbarren in eine Kiste der Länge 12 packen: Damit bekommen die Gegenstände in der Kiste einen Gegenwert von 3 Goldtalern, aber 44 Goldtaler in Form von 4 Geldbündeln sind doch besser! Man sieht: Eine Lösung bekommt man sicher durch herum probieren. Aber ist die gefundene Lösung auch das Optimum? Vorkurs Informatik 2 3

Brute-Force Das Optimum bekommt man immer durch das systematische Probieren aller Möglichkeiten (Brute-Force), wobei jeweils die bessere Lösung beibehalten wird. Das aber nur bei relativ kleinen Problemgrößen machbar. Da aber alle Gegenstände miteinander kombiniert werden können, steigt die Anzahl der Möglichkeiten mit der Vergrößerung der Kiste exponentiell. Das Problem wird sehr schnell unüberschaubar und nicht mehr lösbar. Für das /1-Rucksackproblem, bei dem jeder Schatz genau einmal existiert und entweder eingepackt werden kann oder nicht, kann man den Aufwand für eine Brute-Force-Vorgehensweise mit 2^n angeben. Vorkurs Informatik 2 4

5 Vorkurs Informatik 2 Brute-Force (/1 Rucksackproblem) A B C D E E D E E C D E E D E E B C D E E D E E C D E E D E E Rein Raus Inhalt: C, D, E Inhalt: A, C, D Inhalt: A, B, C, D, E Das Rucksackproblem

Algorithmische Betrachtung Teile und Herrsche Das Problem wird in kleinere Teilprobleme, die separat gelöst werden, aufgeteilt Bedingung: Annäherung an die Gesamtlösung, wenn man eine Teillösung gefunden hat Anwendung auf das Rucksackproblem: Bin ich der Lösung des Problems mit Schätzen und einer Kiste, die Einheiten fasst, näher, wenn ich die Lösung für das Problem mit 5 Schätzen und einer Kiste, die Einheiten fasst, bereits gefunden habe? Vorkurs Informatik 2

Algorithmische Betrachtung Beispiele für optimale Kisten der Größe sieben, acht und neun: 23 35 4 Vorkurs Informatik 2 7

Dynamische Programmierung Ein weiterer Ansatz zur Lösung komplexer Probleme ist die "Dynamische Programmierung" Keine Aufteilung des Problems in disjunkte Teilprobleme Z.B. Sortiere die linke und die rechte Hälfte einer Liste und füge sie sortiert zusammen Betrachtung "aller" Teilprobleme Für das Rucksackproblem mit k Schätzen und einer Kiste der Größe n: Löse das Problem für alle Größen 1-n und jede Anzahl von Schätzen 1-k, beginnend mit den kleinsten Schätzen "Weniger Arbeit durch das Lösen von mehr Problemen" oder "Mehr ist weniger" Vorkurs Informatik 2 8

Dynamische Programmierung - Voraussetzungen Voraussetzungen Problemgrößen müssen abzählbar (diskret) sein Einzelner Lösungsschritt muss linear sein Auswirkung auf das Rucksackproblem Keine Fließkommawerte für Größe oder Wert Eindimensionale Kiste Es gibt nur die Alternativen "Schatz enthalten ja oder nein". Es gibt keine unterschiedlichen Möglichkeiten einen Schatz in die Kiste zu packen. Die einzelnen Schätze müssen beliebig oft verfügbar sein Vorkurs Informatik 2 9

Dynamische Programmierung - Voraussetzungen Einteilung der zu füllenden Schatzkiste in Flächenquadrate Betrachtung der Größe aller Schätze als ein Vielfaches eines Flächenquadrates Hier abgebildet ist der kleinste Schatz, ein Goldbarren mit einem Wert von Goldtalern. Vorkurs Informatik 2 1

Die Schätze Übersicht der verschiedenen Schätze: 45 4 15 35 23 27 25 Vorkurs Informatik 2

Anwendung von Dynamischer Programmierung Lösung "aller" Probleme gleichzeitig: Nutzung einer Maxikiste Eine Kiste, die gleichzeitig auch alle kleineren beinhaltet Sukzessives Lösen des Problems für alle Kistengrößen mit dem jeweils nächstgrößeren Schatz Grundlegendes Vorgehen: Teste für jede Größe, ob das Einfügen eines neuen Schatzes einen Zugewinn bringt Vorkurs Informatik 2 12

Anwendung von Dynamischer Programmierung Anhand des ersten Schatzes lässt sich das grundlegende Vorgehen leicht veranschaulichen: Lege den neuen Schatz der Reihe nach hinter die vorhandenen Schatzkisten (rot); beginne mit der kleinsten. Suche die Kiste mit folgender Länge: Länge der aktuellen Schatzkiste plus Länge des aktuellen Schatzes (blau) Vergleiche den Wert der beiden so gewählten Kisten Ist der Wert der Kiste mit dem neuen Schatz (rot) größer, fülle die andere Kiste (blau) wie erstere. Vorkurs Informatik 2 13

Anwendung von Dynamischer Programmierung Anhand des ersten Schatzes lässt sich das grundlegende Vorgehen leicht veranschaulichen: Lege den neuen Schatz der Reihe nach hinter die vorhandenen Schatzkisten (rot); beginne mit der kleinsten. 12 Suche die Kiste mit folgender Länge: Länge der aktuellen Schatzkiste plus Länge des aktuellen Schatzes (blau) Vergleiche den Wert der beiden so gewählten Kisten Ist der Wert der Kiste mit dem neuen Schatz (rot) größer, fülle die andere Kiste (blau) wie erstere. Vorkurs Informatik 2 17

Anwendung von Dynamischer Programmierung Anhand des ersten Schatzes lässt sich das grundlegende Vorgehen leicht veranschaulichen: Lege den neuen Schatz der Reihe nach hinter die vorhandenen Schatzkisten (rot); beginne mit der kleinsten. Suche die Kiste mit folgender Länge: Länge der aktuellen Schatzkiste plus Länge des aktuellen Schatzes (blau) Vergleiche den Wert der beiden so gewählten Kisten Ist der Wert der Kiste mit dem neuen Schatz (rot) größer, fülle die andere Kiste (blau) wie erstere. 12 12 Vorkurs Informatik 2 18

Anwendung von Dynamischer Programmierung Bei nur einen Schatz: relativ komplizierter Algorithmus um alle Schatzkisten optimal mit einem Schatz zu füllen. Problem für alle Größen und nur einen Schatz gelöst Lösung auf der für die weiteren Schätze aufgebaut werden kann 12 12 18 18 24 24 3 3 3 Vorkurs Informatik 2 19

Anwendung von Dynamischer Programmierung Nimmt man den nächstgrößeren Schatz dazu, so ist das Vorgehen exakt das gleiche: Lege den neuen Schatz der Reihe nach hinter die vorhandenen Schatzkisten (rot); beginne mit der kleinsten. Suche die Kiste mit folgender Länge: Länge der aktuellen Schatzkiste plus Länge des aktuellen Schatzes (blau) Vergleiche den Wert der beiden so gewählten Kisten Ist der Wert der Kiste mit dem neuen Schatz (rot) größer, fülle die andere Kiste (blau) wie erstere. 12 12 18 18 24 24 3 3 3 Vorkurs Informatik 2 2

Anwendung von Dynamischer Programmierung Nimmt man den nächstgrößeren Schatz dazu, so ist das Vorgehen exakt das gleiche: Lege den neuen Schatz der Reihe nach hinter die vorhandenen Schatzkisten (rot); beginne mit der kleinsten. Suche die Kiste mit folgender Länge: Länge der aktuellen Schatzkiste plus Länge des aktuellen Schatzes (blau) Vergleiche den Wert der beiden so gewählten Kisten Ist der Wert der Kiste mit dem neuen Schatz (rot) größer, fülle die andere Kiste (blau) wie erstere. 17 12 12 18 18 24 24 3 3 3 Vorkurs Informatik 2 23

Anwendung von Dynamischer Programmierung Nimmt man den nächstgrößeren Schatz dazu, so ist das Vorgehen exakt das gleiche: Lege den neuen Schatz der Reihe nach hinter die vorhandenen Schatzkisten (rot); beginne mit der kleinsten. Suche die Kiste mit folgender Länge: Länge der aktuellen Schatzkiste plus Länge des aktuellen Schatzes (blau) Vergleiche den Wert der beiden so gewählten Kisten Ist der Wert der Kiste mit dem neuen Schatz (rot) größer, fülle die andere Kiste (blau) wie erstere. 17 12 17 12 18 18 24 24 3 3 3 Vorkurs Informatik 2 24

Anwendung von Dynamischer Programmierung Nimmt man den nächstgrößeren Schatz dazu, so ist das Vorgehen exakt das gleiche: Lege den neuen Schatz der Reihe nach hinter die vorhandenen Schatzkisten (rot); beginne mit der kleinsten. Suche die Kiste mit folgender Länge: Länge der aktuellen Schatzkiste plus Länge des aktuellen Schatzes (blau) Vergleiche den Wert der beiden so gewählten Kisten Ist der Wert der Kiste mit dem neuen Schatz (rot) größer, fülle die andere Kiste (blau) wie erstere. 22 12 17 12 18 18 24 24 3 3 3 Vorkurs Informatik 2 25

Anwendung von Dynamischer Programmierung Nimmt man den nächstgrößeren Schatz dazu, so ist das Vorgehen exakt das gleiche: Lege den neuen Schatz der Reihe nach hinter die vorhandenen Schatzkisten (rot); beginne mit der kleinsten. Suche die Kiste mit folgender Länge: Länge der aktuellen Schatzkiste plus Länge des aktuellen Schatzes (blau) Vergleiche den Wert der beiden so gewählten Kisten Ist der Wert der Kiste mit dem neuen Schatz (rot) größer, fülle die andere Kiste (blau) wie erstere. 22 12 17 12 22 18 18 24 24 3 3 3 Vorkurs Informatik 2 2

Anwendung von Dynamischer Programmierung Bis zum Ende durchgeführt ergibt sich das folgende Bild. Problem für alle Größen und zwei Schätzen gelöst Lösung auf der für die weiteren Schätze aufgebaut werden kann 12 17 12 22 18 23 18 28 24 33 24 34 3 39 3 44 3 Vorkurs Informatik 2 27

Anwendung von Dynamischer Programmierung Und auch beim Schatz mit der Länge vier muss man nicht umdenken 15 12 17 12 22 18 23 18 28 24 33 24 34 3 39 3 44 3 15 Vorkurs Informatik 2 28

Anwendung von Dynamischer Programmierung Und auch beim Schatz mit der Länge vier muss man nicht umdenken 15 15 12 17 12 22 18 23 18 28 24 33 24 34 3 39 3 44 3 15 15 Vorkurs Informatik 2 29

Anwendung von Dynamischer Programmierung Nachdem wir nun den Algorithmus auch mit dem dritten Schatz durchexerziert haben, sollte das Prinzip klar sein. Zeit sich die Frage zu stellen, ob das, was wir machen auch funktioniert 15 12 17 12 22 18 15 2 23 18 15 3 28 24 15 15 33 24 37 34 3 15 41 39 3 15 15 45 44 3 15 15 15 Vorkurs Informatik 2 3

Dynamische Programmierung - Korrektheitsbeweis Die Korrektheit lässt sich per Induktion beweisen, d.h. wir zeigen die Korrektheit für den trivialen Fall (nur ein Schatz) und beweisen, dass die Behauptung sofern sie für n Schätze gilt auch für n+1 Schätze gilt. Vorgehen allgemein: Wir kombinieren immer den Inhalt einer bereits optimal gepackten Kiste A mit einem Schatz S, wofür wir eine Kiste B benötigen, deren Größe der Größe der Kiste A plus des Schatzes S entspricht. Für den Trivialfall (n = 1) ist die Korrektheit sofort zu sehen. Für n = n + 1 gibt es folgende Alternativen Man benötigt den neu hinzugekommenen Schatz S nicht, dann bleibt die Kiste, so wie sie ist, erhalten und damit weiterhin optimal. Benötigt man den neu hinzugekommenen Schatz, so ist in der neuen optimalen Kiste neben dem hinzugekommenen Schatz noch Platz für soviele Elemente, wie es sie auch in Kiste A gibt. Da Kiste A bereits optimal gefüllt war, muss also auch Kiste B optimal gefüllt sein. Vorkurs Informatik 2 31

Dynamische Programmierung - Ergebnis Nachdem die Korrektheit des Verfahrens bewiesen ist, können wir es auf die weiteren Schätze anwenden und erhalten das nebenstehende Ergebnis. Damit sind die optimalen Lösungen für alle Kisten gefunden. 15 12 23 17 12 25 23 22 18 15 23 25 Erstaunlich, dass in der Siegerkiste der Größe 12 ein Goldbarren eingepackt wurde, der auf den ersten Blick als kein vielversprechender Kandidat galt. 29 2 23 18 35 34 3 28 24 4 38 33 24 4 37 34 3 48 41 39 3 52 45 44 3 23 35 4 23 23 23 25 23 23 Vorkurs Informatik 2 32

Das Rucksackproblem - der Algorithmus Für den folgenden Algorithmus werden wie die eingangs vorgestellten Struktogramme verwenden. Dafür werden wir zwei Pfeile als Zeiger auf die aktuell betrachteten Kisten verwenden. Kiste A Kiste B Vorkurs Informatik 2 33

Das Rucksackproblem Struktogramm Nehme den kleinsten Schatz zur Hand Solange man noch einen Schatz in der Hand hält Setze Kiste A neben die Kiste mit Größe Solange Kiste A auf eine Kiste zeigt Lege den Schatz rechts an die Kiste, auf die Kiste A zeigt Lege Kiste B neben die Kiste, die so groß ist wie die neben Kiste A und dem Schatz zusammen Überprüfe, ob der Inhalt von Kiste A plus dem Schatz wertvoller ist als der Inhalt von Kiste B Wenn JA: Fülle Kiste B so, dass sie dem Inhalt von Kiste A plus dem Schatz entspricht Schiebe Kiste A um eine Position nach unten Lege den Schatz aus der Hand und nimm den nächst größeren Schatz in die Hand, falls es noch einen größeren gibt Vorkurs Informatik 2 34

Algorithmus Ja oder Nein? Ist das beschriebene Verfahren ein Algorithmus? Das Verfahren ist in einem endlichen Text durch ein Struktogramm beschrieben. Die Objekte der Berechnung sind die Kisten und Schätze. Die Operationen sind das Vergleichen und Füllen von Kisten. Die Reihenfolge der Operationen ist ebenfalls durch das Struktogramm festgelegt. Das Verfahren ist ein Algorithmus. Vorkurs Informatik 2 35

Laufzeit Vorkurs Informatik 2 3

Laufzeit Anzahl Schritte = Anzahl der Kisten * Anzahl der Schätze Vorkurs Informatik 2 37

Laufzeit Anzahl Schritte = Anzahl der Kisten * Anzahl der Schätze Beachte: "Fülle Kiste B so, dass sie dem Inhalt von Kiste A plus dem Schatz entspricht" (türkiser Block) könnte je nach Implementierung eine implizite Schleife beinhalten, sodass sogar eine kubische Laufzeit gegeben wäre Vorkurs Informatik 2 38

Vielen Dank für Ihre Aufmerksamkeit! Vorkurs Informatik 2 39