27. August 2013 Einleitung. Algorithmen und Datenstrukturen

Transkript

1 Algorithms and Data Structures Introduction Ferd van Odenhoven Fontys Hogeschool voor Techniek en Logistiek Venlo Software Engineering 27. August 201 ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 1/41 Lernziele Kursübersicht Zusätzliche Informationen ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 2/41 Warum studieren wir? Wie bedienen wir die Kundenwünsche bei der Realisierung eines SW-Projekts? Ein möglicher Ansatz: 1 Gibt es ein ähnliches Software-System, dass wir anpassen können, um die Kundenwünsche zu bedienen? 2 Gibt es eine Programmbibliothek, in der (Teil-)Funktionalitäten umgesetzt sind? Gibt es ein Programm, dass eine bestimmte Funktionalität realisiert? Wenn keine der Fragen positiv beantwortet werden kann, entwickeln wir ein neues Programm, möglicherweise mit einem neuen Berechnungsverfahren. ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 /41 1

2 Warum 2 Sind alle Berechnungen mit einem Computer möglich? Berechenbarkeitstheorie: Kann ein Problem mit dem Computer überhaupt gelöst werden? Ein Problem ist lösbar, wenn wir ein effektives Berechnungsverfahren (Algorithmus implementiert in einem Progamm) finden, dass Problem berechnet. Komplexitätstheorie: Wie kann ein Problem effizient berechnet werden? Wie viel Speicherplatz und Rechenkapazität wird (auf einem Rechner) benötigt? Wie wächst die Rechenzeit wenn der Umfang der Daten zu nimmt? ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 4/41 Unterschied zwischen Daten, Information und Objekten Daten sind einfach Daten. Interpretierte Daten sind Information. Es gibt keine Information ohne Interpretation. Es gibt keine Interpretation, ohne dass eine Operation auf die Daten erfolgt. OO-Paradigma: Ein Objekt besteht aus Daten und aus Methoden, mit denen diese Daten interpretiert werden; so können wir beispielsweise auf Daten mit der get()-methode zugreifen oder lesen, oder Daten mit der set()-methode schreiben. Überlegen Sie: Wie definieren Sie Operationen auf Daten? ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 5/41 Der Begriff Algorithmus lässt sich unterschiedlich formalisieren: Der Begriff Algorithmus wird in der Informatik benutzt, um eine Lösungsmethode zu beschreiben, die sich als Computerprogramm implementieren lässt. [Sedgewick]. Ein Algorithmus ist eine Methode oder ein Programm, mit dem sich ein (mathematisches) Problem lösen lässt, indem man ein bestimmtes Rechenmodell verwendet. Ein Algorithmus implementiert eine (mathematische) Funktion. Ein Algorithmus implementiert Operationen, mit denen Daten durch (vor-)definierte Operationen bearbeitet werden. ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 6/41 2

3 Einige Beispiele Operationen auf Datenstrukturen wie Keller und Warteschlangen Sortieralgorithmen mit eine specifische Datenstruktur Suchalgorithmen Graphen-Algorithmen: kürzesten Weg, Netzwerk-Problemen 1 1 Problem ist keine Schwierigkeit oder Unangenehmheit aber eine Frage wo für wir eine Antwort suchen. ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 7/41 A well known example 1 Abbildung: Sudoku: example of a bit advanced problem ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 /41 A well known example 2 Abbildung: Sudoku: after applying some simple solving rules ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 9/41

4 Typische Operationen auf Daten sind Erstellen (oder Initialisieren) von Daten Daten lesen oder holen Daten schreiben (oder speichern) Daten löschen Daten ändern, oft als Löschen und (neu) Erstellen implementiert Suchen Sortieren Vereinigung und Durchschnitt von (Daten-)Mengen Durchlaufen von Datenstrukturen, wie Bäumen und Graphen Diese Operationen werden mit Algorithmen für spezifische Datenstrukturen implementiert. ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Wie lernen Sie etwas über Operationen? Sehen Sie sich (implementierte) (Java) Klassen oder andere Programmbibliotheken an. Implementieren Sie eigene Algorithmen. Ändern und erweitern Sie vorhandene Algorithmen. Bitte beachten Sie, dass wir damit etwas anders vorgehen als bisher im Software-Engineering-Studium! ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Was werden Sie über Algorithmen lernen? Algorithmen zu entwerfen Aufgaben zu zerlegen, um einfachere Algorithmen für kleinere Probleme zu finden System-unabhängige Lösungen zu implementieren Zugrunde liegende Lösungen mit dem Ziel effizienterer Berechnungen (neu) zu implementieren Schrittweise (vorhandene) algorithmische Entwicklungen zu optimieren (vorhandene) Implementierungen zu beurteilen = Studium: Analyse von Algorithmen ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 4

5 Buch Beispiel 1, Page 47. Binary Search Accumulator Plan für die erste Woche Binary Search Algorithmus public static int rank ( int key, int [] a) { int lo = 0; int hi = a. length - 1; while (lo <= hi) { // Key is in a[ lo.. hi] or not present. int mid = lo + ( hi - lo) / 2; if ( key < a[ mid ]) hi = mid - 1; else if ( key > a[ mid ]) lo = mid + 1; else return mid ; return -1; ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 1/41 Buch Beispiel modifiziert 1 Binary Search Accumulator Plan für die erste Woche public class BinarySearch { private int [] ar; public BinarySearch ( int [] ar) { this.ar = ar; int binsearch ( int key ) { int left = 0; int right = ar. length ; int mid ; while ( left + 1!= right ) { mid = ( left + right ) / 2; if (ar[mid ] <= key ) left = mid ; else right = mid ; return left ; ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Buch Beispiel 2 Binary Search Accumulator Plan für die erste Woche public class Accumulator { private double m; private double s; private int N; public void adddatavalue ( double val ) { N ++; s = s + 1.0*( N - 1)/ N*( val - m )*( val - m); m = m + ( val - m)/n; public double mean () { return m; public double var () { return s/(n - 1); public double stddev () { return Math. sqrt ( this. var ()); ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 5

6 Plan für die erste Woche: Binary Search Accumulator Plan für die erste Woche Java Wiederhohlung: Kursbuch Abschnitt 1.1, lesen Sie bitte diesen Abschnitt und schauen Sie ob der Inhalt bekannt ist! Was sind typische Operationen? Ein erstes Beispiel: Binary Search Eigenschaften von Algorithmen Erste Aufgabe: problem : make a non-static implementation! Zweite Aufgabe: problem 1.2.1: replace TestAccumulator by a proper JUnit testclass. ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Binary Search Accumulator Plan für die erste Woche Mathematiker und Programmierer Ein Programmierer schreibt: int sum = 0; for(int i = 1; i <= 4; i++) sum += x[i]; Ein Mathematiker schreibt: sum = 4 x i = x 1 + x 2 + x + x 4 i=1 Ein Software Engineer versteht beide Ausdrücke. ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Binary Search Accumulator Plan für die erste Woche Beispiel Ableitung für Aufgabe Ableitung der Formel für den neuen Mittelwert. N [ 1 N 1 ] m N = 1 N x i = x i N i=1 i=1 ] [(N 1)m N 1 + x N = = 1 N = N 1 N m N N x N = ) = m N N (x N m N 1 + x N N = ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 1/41 6

7 Siehe Buch: 1.5 CASE STUDY: UNION-FIND. Eingabe Sequenz von ganze Zahlen ( Z) Jede ganze Zahl steht für ein Objekt (eines bestimmten Typs) Interpretation eines Paars p-q (wobei p und q ganze Zahlen sind) mit der Bedeutung p ist verbunden mit q Annahme Die Relation R: ïst verbunden mitïst transitiv: Wenn p ist verbunden mit r, und r ist verbunden mit q, dann p ist verbunden mit q. (p, r) R (r, q) R (p, q) R ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 2 Wo taucht dieses Problem auf? bei Verbindungen in Netzwerken bei Verbindungen in Schaltkreisen viele andere Probleme lassen sich auch so lösen Was sollten wir wissen, bevor wir dieses Problem berechnen? Wie viel Laufzeit und Speicherplatz brauchen für den Algorithmus? Ist es schwierig oder teuer das Problem zu lösen? Wie viel oder wenig Information brauchen wir, um den Algorithmus auf eine andere Situation anzuwenden? So muss man für eine erste Annäherung nur wissen, ob ein gegebenes Paar p-q verbunden ist oder nicht. Es ist noch nicht nötig, einen oder alle möglichen Wege einer Verbindung für dieses Paar darzustellen. ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Ziel Ein Programm, das überflüssige Paare aus der Menge filtert Ausgabe Wenn das Programm ein Paar p q liest, sollte es dieses Paar nur ausgeben, wenn die bis dahin gelesenen Paare nicht die Relation p ist verbunden mit q haben. ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 7

8 Vernetzungs-Beispiel (1) -4 (2) -4 possibilities x x x ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Oder müssen wir fragen: Reichen M Verbindungen aus, um alle N Objekte zu verbinden? Ergebnisse Ein grundlegendes Ergebnis der Graphen-Theorie besagt für diesen Fall, dass alle N Objekte verbunden sind, wenn und nur wenn der Vernetzungsalgorithmus genau N-1 Paare ausgibt Ein Vernetzungsalgorithmus wird nie mehr als N-1 Paare errechnen, denn wenn er N-1 Paare ausgegeben hat, wird jedes weitere gefundene Paar verbunden sein. Bisher haben wir ein Prädikat, bei dem das Programm als Ergebnis ja zurückgibt, wenn ein bisher nicht verbundenes Paar ausgegeben wird, andernfalls nein. Wir ändern das Programm so, dass es den Zähler erhöht und dabei ein ja zurückliefert, wenn der Zähler N-1 erreicht, andernfalls ein nein. ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 2/41 4 Dies ist nur eines von vielen Beispielen für Fragen, die wir später bei der Vernetzung werden beantworten müssen. Die Menge von Paaren in der Eingabe heißt Graph. Die Menge von Paaren in der Ausgabe heißt minimal aufspannender Baum (spanning tree) als Bezeichnung für den Graphen, der alle Objekte verbindet. ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41

9 Brute force algoritme 1 Nimm die erste Kante (hiesige Kante) und setze diese in einen neuen Graph ein. 2 Laufe über die komplette Kantenliste und selektiere die Kanten mit Anfangsknoten gleich dem Endknoten der hiesigen Kante. (innere Schleife) 1 Wenn eine solche Kante einen Endknoten hat, die schon im Graph ist, diese Kante nicht mehr nehmen 2 Wenn der Endknoten nicht im Graph ist, diese Kante hinzufügen. Wenn der Endknoten im anderen Graphen ist, die beide Graphen miteinander verbinden. Nimm jetzt die nächste Kante in der Liste als neue hiesige Kante (aussere Schleife) 4 Wenn die Knoten von hiesigen Kante nicht im Graph sind, starte mit dieser Kante einen neuen Graph. 5 Wiederhole Schritte 2-4 so lange bis die Liste durchlaufen ist. ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Baum für brute force, start bei Kante (-4) ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Baum für brute force, start bei Kante (0-2) ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 9

10 Code Beispiel: QuickF (Buch Seite 222) direkte Implementierung, langsame Vereinigung, Startpaare! // are elements p and q in the same component? public boolean connected ( int p, int q) { return id[p] == id[q]; // merge components containing p and q public void union ( int p, int q) { if ( connected (p, q)) return ; int pid = id[p]; for ( int i = 0; i < id. length ; i ++) if (id[i] == pid ) id[i] = id[q]; count - -; ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 2/41 Quick find direkte Implementierung Methode Diese Sequenz bildet den Inhalt des id Arrays ab, nachdem alle Paare auf der linken Seite vom quick-find Algorithmus verarbeitet wurden. Einträge, die für die Vereinigungsoperation geändert werden, sind unterlegt. Wenn wir das Paar p-q verarbeiten, ändern wir alle Einträge mit dem Wert id[p] auf den selben Wert id[q] ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 Quick find: Beispiel Tabelle p q ===================================== ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 0/41 10

11 Baum Vorstellung von quick find ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 1/41 Baum Vorstellung von quick find ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 2/41 Quick find complexität Der quick-find-algorithmus führt mindestens M N Anweisungen aus, um ein mit N Objekten zu lösen, das M Vereinigungsoperationen enthält. ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 /41 11

12 Code Beispiel: QuickU (Buch Seite 224) Lösung schnelle Vereinigung public int find ( int p) { while (p!= id[p]) p = id[p]; return p; // merge components containing p and q public void union ( int p, int q) { int i = find (p); int j = find (q); if (i == j) return ; id[i] = j; count - -; ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 4/41 Quick union Methode Lösung schnelle Vereinigung Methode Diese Sequenz bildet den Inhalt des id Arrays ab, nachdem alle Paare auf der linken Seite vom Algorithmus schnelle Vereinigung verarbeitet wurden. Einträge, die für die Vereinigungsoperation geändert werden, sind unterlegt. wenn wir das Paar p-q verarbeiten, verfolgen wir Links von p, um einen Eintrag i mit id[i] == i zu erhalten; dann verfolgen wir Links von q mit id[j] == j; danach, wenn i und j ungleich sind, setzen wir id[i] = id[j]. ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 5/41 Quick union Tabelle p q ===================================== ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 6/41 12

13 Baum Vorstellung von quick union ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 7/41 Baum Vorstellung von quick union ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 /41 Baum Vorstellung von quick union ODE/FHTBM Algorithms and Data Structures Introduction 27. August 201 9/41 1

14 Baum Vorstellung von quick union, Ende ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 kurze Eine Problemanalyse zeigt uns einen effizienteren Algorithmus. Dieser Algorithmus lässt sich auch auf andere als das ursprüngliche Problem anwenden, wie Sie an den Fallbeispielen oben sehen. Welche Eigenschaften eines Algorithmus sind wichtig, wenn Sie vor der Implementierung eine effiziente Methode erreichen wollen? Wie können Sie Algorithmen wonach klassifizieren? ODE/FHTBM Algorithms and Data Structures Introduction 27. August /41 14