Algorithmen und Datenstrukturen I

Transkript

1 und I Rückblick und D. Rösner Institut für Wissens- und Sprachverarbeitung Fakultät für Informatik Otto-von-Guericke Universität Magdeburg Winter 2009/10, 25. Januar 2010, c 2009/10 D.Rösner D. Rösner AuD I 2009/

2 Gliederung 1 Spezielle Spezielle 2 D. Rösner AuD I 2009/

3 Eine wichtige Frage Frage: Was ist die wichtigste Fähigkeit, die in einem Studium der Informatik oder Wirtschaftsinformatik oder Computervisualistik oder Computer Systems Engineering/Ingenieurinformatik oder vergleichbarer Studiengänge erworben und ausgebaut werden sollte? mögliche Antwort: Fähigkeit, für (viele) Probleme Lösungen finden zu können Problemlösungen dabei in Form von, die dann in ausführbare Programme umgesetzt D. Rösner AuD I 2009/

4 Algorithmus Algorithmus ist einer der zentralen Begriffe der Informatik : gibt es auch unabhängig von Computern gibt es schon seit tausenden von Jahren Beispiele klassischer : EUKLIDs Algorithmus Sieb des Erastosthenes Bezeichnung Algorithmus ist vom Namen des persischen Gelehrten Muhammed Al Chwarizimi (etwa 783 bis 850) abgeleitet (s.a. [PD08]) D. Rösner AuD I 2009/

5 Algorithmus Entwurfsprinzipien Teile und Herrsche Rekursion Eigenschaften Effektivität Effizienz D. Rösner AuD I 2009/

6 Algorithmus eine intuitive Begriffsbestimmung für Algorithmus (vgl. [SS02]) Ein Algorithmus ist eine präzise (d.h. in einer festgelegten Sprache abgefasste) endliche Beschreibung eines allgemeinen Verfahrens unter Verwendung ausführbarer elementarer (Verarbeitungs-)Schritte. D. Rösner AuD I 2009/

7 Algorithmus Effektivität Termination? Korrektheit? Beweise z.b. durch strukturelle Induktion Testen und Gegenbeispiele D. Rösner AuD I 2009/

8 Algorithmus Effizienz Ziel: unnötigen Aufwand vermeiden Motto (manchmal): Make it work, then make it fast! Techniken zur Steigerung der Effizienz Analyse Transformation Algorithmus Implementierung Beispiele: Akkumulatoren und Endrekursion Vermeiden wiederholter Berechnungen z.b. durch Memoizieren Beispiel: Berechnen der Fibonacci-Zahlen geeignete D. Rösner AuD I 2009/

9 Algorithmus Komplexität von Problemen von Aufwandsbetrachtung in Abhängigkeit von Problemgrösse O-Notation D. Rösner AuD I 2009/

10 Algorithmus Komplexitätsklassen wichtige Beispiele: konstant logarithmisch linear polynomial exponentiell... D. Rösner AuD I 2009/

11 zur Modellierung: zur Modellierung von Gegenstandsbereichen stehen uns bisher zur Verfügung: die vordefinierten elementaren Typen, also Int, Float, String, usw. als aggregierte Typen: Listentypen: [a] Tupeltypen: (a,b), (a,b,c), (a,b,c,d),... beliebige Kombinationen daraus, z.b. [[(String,Int,[Float])]]) damit lassen sich viele Beziehungen modellieren D. Rösner AuD I 2009/

12 Algebraische Typen Aufzählungstypen (vgl. [Tho99], 14.1) Beispiel: data Temp = Cold Hot data Season = Spring Summer Autumn Winter Pattern matching zur Definition von Funktionen weather :: Season -> Temp weather Summer = Hot weather _ = Cold Definition von Gleichheit für Temp Cold == Cold = True Hot == Hot = True _ == _ = False D. Rösner AuD I 2009/

13 Rekursive algebraische Typen Beispiel: arithmetische Ausdrücke mit ganzen Zahlen data Expr = Lit Int Add Expr Expr Sub Expr Expr Beispiele: 7 Lit Add (Lit 4) (Lit 7) (7-4)+11 Add (Sub (Lit 7)(Lit 4)) (Lit 11) D. Rösner AuD I 2009/

14 Rekursive algebraische Typen cont. Beispiel: Bäume mit ganzen Zahlen data NTree = NilT Node Int NTree NTree Beispiele für Funktionen: sumtree, depth :: NTree -> Int sumtree NilT = 0 sumtree (Node n t1 t2) = n + sumtree t1 + sumtree t2... D. Rösner AuD I 2009/

15 Abstrakte Datentypen abstrakte Datentypen kurz oft nur ADT genannt sind im Unterschied zu den bisher betrachteten konkreten Datentypen nicht an eine bestimmte Repräsentation gebunden ADTs werden implizit definiert durch die Menge der auf ihnen zugelassenen Operationen: Konstruktoren, Selektoren, Prädikate diese werden auch als das Interface des ADT bezeichnet... D. Rösner AuD I 2009/

16 ADT Stack abstrakter Datentyp Stack Ein Stack ist eine homogene Sammlung von Objekten, auf denen zwei zentrale Operationen definiert sind: Definition push x s füge x als neues oberstes Element in den Stack s ein und gib den veränderten Stack mit x als oberstem Element (sog. top) zurück pop s entferne das aktuelle oberste Element vom Stack und gib den veränderten Stack ohne x als oberstem Element als Wert zurück; Fehler, falls Stack leer s.a. [RL99], Ch. 5 D. Rösner AuD I 2009/

17 ADT Queue abstrakter Datentyp Queue Eine Queue ist ähnlich wie ein Stack eine homogene Sammlung von Objekten, auf denen zwei zentrale Operationen definiert sind: Definition enqueue x q füge x als neues letztes Element hinten (rear) an die Queue q an und gib die veränderte Queue zurück dequeue q entferne das aktuelle erste Element (front) aus der Queue und gib die veränderte Queue als Wert zurück; Fehler, falls Queue leer s.a. [RL99], Ch. 5.3 D. Rösner AuD I 2009/

18 Abstrakte Datentypen: ADT Set Mengen sind für alle Anwendungen nützlich, bei denen die Zugehörigkeit zu einer Kollektion wichtig ist, nicht aber die Reihenfolge von Objekten in einer Kollektion für den ADT Set gibt es mehrere unterschiedliche Implementierungen angelehnt an [RL99], Ch. 5.5 betrachten wir zunächst drei unterschiedliche Implementierungen auf der Basis von Listen D. Rösner AuD I 2009/

19 Binäre Suchbäume Binäre Suchbäume sind so organisiert, dass in jedem Knoten gilt: alle Elemente im linken Teilbaum sind kleiner als das Element im Knoten und alle Elemente im rechten Teilbaum sind grösser als das Element im Knoten Hauptzweck: Zeit für Suche nach Elementen und für Zugriff auf Elemente reduzieren D. Rösner AuD I 2009/

20 Binäre Suchbäume Abbildung: Binärer Suchbaum (vgl. [RL99], Ch. 5.7, Fig. 5.2 (a)) D. Rösner AuD I 2009/

21 ADT BinTree Moduldefinition ([RL99], Ch. 5.7): module BinTree (BinTree,emptyTree,inTree,addTree, deltree, buildtree,inorder) where intree :: (Ord a) => a -> BinTree a -> Bool addtree :: (Ord a) => a -> BinTree a -> BinTree a deltree :: (Ord a) => a -> BinTree a -> BinTree a buildtree :: (Ord a) => [a] -> BinTree a inorder :: (Ord a) => BinTree a -> [a] D. Rösner AuD I 2009/

22 Binäre Bäume: AVL Bäume AVL-Bäume sind binäre Suchbäume mit einer Balanziertheitsbedingung: in jedem Knoten gilt: die Differenz zwischen der Höhe des linken Teilbaums und der Höhe des rechten Teilbaums ist nie grösser als 1 Diese Bedingung garantiert, dass Suchoperationen auf AVL-Bäumen immer O(log n) Schritte brauchen. Liegt ein AVL-Baum vor, dann muss nur sichergestellt werden, dass Einfügungen oder Löschungen so erfolgen, dass die Balanziertheitsbedingung nicht verletzt bzw. wiederhergestellt wird. vgl. [RL99], Ch. 5.9 D. Rösner AuD I 2009/

23 Binäre Bäume: Rot-Schwarz-Bäume Rot-Schwarz-Bäume (engl. red-black trees) sind binäre Suchbäume, bei denen die Balanziertheit durch folgende Bedingungen erzwungen wird (vgl. [Oka98]): Jeder Knoten ist entweder rot oder schwarz gefärbt. Kein roter Knoten hat ein rotes Kind. Jeder Pfad von der Wurzel bis zu einem leeren Knoten enthält die gleiche Anzahl schwarzer Knoten. Bemerkungen: Leere Knoten gelten immer als schwarz gefärbt. Manchmal wird auch gefordert (vgl. [GT01], [Wei98]), dass der Wurzelknoten immer schwarz sein soll. (Warum ist das keine wirkliche Einschränkung im Hinblick auf mögliche Formen der Bäume?) D. Rösner AuD I 2009/

24 Binäre Bäume: AVL-Bäume Abbildung: Ein AVL-Baum (vgl. [RL99], Fig. 5.6 (a)) D. Rösner AuD I 2009/

25 Binäre Bäume: AVL-Bäume Abbildung: Ein AVL-Baum interpretiert als Rot-Schwarz-Baum (vgl. [RL99], Fig. 5.6 (a)) 4 D. Rösner AuD I 2009/

26 Binäre Bäume: ADT Heap Ein Heap ist ein binärer Baum, bei dem die folgende Bedingung erfüllt ist in jedem Knoten gilt: das im Knoten gespeicherte Element (der sog. Schlüssel) ist kleiner als der Schlüssel im linken und im rechten Kindknoten (sofern vorhanden) Diese Bedingung wird als heap order property oder kurz als Heap-Eigenschaft bezeichnet. Konsequenz aus der heap order property: der Wert im Wurzelknoten eines Heap ist stets das Minimum aller im Baum gespeicherten Werte. vgl. [RL99], Ch. 5.8 D. Rösner AuD I 2009/

27 Binäre Bäume: ADT Heap Abbildung: Binärer Baum mit Heap-Eigenschaft (vgl. [RL99], Fig. 5.2 (b)) D. Rösner AuD I 2009/

28 Unendliche Listen Beispiel: unendliche Liste der Fibonacci-Zahlen fibgen a b = a:(fibgen b (a + b)) fibs = fibgen 0 1 Zugriffe: Main> take 10 fibs [0,1,1,2,3,5,8,13,21,34] Main> take 5 (filter (>10000) fibs) [10946,17711,28657,46368,75025] D. Rösner AuD I 2009/

29 Sortieren Sortieraufgabe für die im folgenden behandelten : eine Liste von Schlüsseln soll gemäss einem Vergleichsoperator in aufsteigender Reihenfolge angeordnet werden m.a.w.: in Haskell müssen die Schlüssel zur Klasse Ord gehören Signatur: sort :: (Ord a) => [a] -> [a] D. Rösner AuD I 2009/

30 Sortieren Sortieren durch Auswahl (Selection sort) Quicksort Sortieren durch Einfügen (Insertion sort) Sortieren durch Zusammenfügen (Mergesort) D. Rösner AuD I 2009/

31 Baumbasierte Sortierverfahren verwenden Bäume zum optimierten Zugriff im folgenden betrachtet: Heapsort (vgl. [RL99], 6.4.1) Tree sort (vgl. [RL99], 6.4.2) D. Rösner AuD I 2009/

32 Graphen viele Probleme lassen sich mit Graphen und als Probleme auf Graphen modellieren Beispiel: Bestimmung kürzester Pfade (vgl. u.a. [Wei98], [MS08]) zur Bestimmung schnellster Routen in einem Verkehrsnetz zum Durchschleussen elektronischer Post durch ein Computer-Netzwerk D. Rösner AuD I 2009/

33 Graphen Abbildung: Beispiele für Graphen: ungerichteter Graph (vgl. [RL99], Fig. 7.1) 5 D. Rösner AuD I 2009/

34 Graphen A B C D E F G Abbildung: Beispiele für Graphen: gerichteter Graph (vgl. [RL99], Fig. 7.1, (b)) D. Rösner AuD I 2009/

35 Entwurfstechniken für Entwurfstechniken für sind Vorgehensweisen, um für Klassen von Problemen Lösungsverfahren in Form von zu gewinnen Beispiele: Teile und Herrsche (Divide and Conquer) Greedy-Verfahren Lösungen mit Brute force Dynamisches Programmieren D. Rösner AuD I 2009/

36 Entwurfstechniken für Entwurfstechnik Suche mit Backtracking die Lösung eines Problems wird durch systematischen Versuch und Irrtum bestimmt geeignet ist ein solches Verfahren für Probleme der folgenden Art: Es gibt einen Ausgangsknoten. Zu untersuchen ist eine Menge aller möglichen Lösungen, die als Knoten in einem als Graph darstellbaren Suchraum (auch Knotenraum; engl. node space) aufgefasst werden Es gibt eine Menge zulässiger Aktionen, um von einem Knoten zu seinen Folgeknoten oder Nachfolgern (engl. successors) zukommen. es gibt Kriterien dafür, dass ein Knoten ein sog. Zielknoten ist, also eine Lösung des Problems darstellt. s.a. [RL99], Ch. 8.2 D. Rösner AuD I 2009/

37 Entwurfstechniken für typische Anwendungen für Suche mit Backtracking : Suche nach einem Objekt in einem Raum Diagnose bei Fehlern in einem technischen System von Krankheiten bei gegebenen Symptomen Beweisen von Theoremen (z.b. Prolog) Spiele... s.a. [RL99], Ch. 8.2 D. Rösner AuD I 2009/

38 Literatur: I Michael T. Goodrich and Roberto Tamassia. Data Structures and Algorithms in Java. John Wiley & Sons, New York, ISBN ; 2nd edition. Kurt Mehlhorn and Peter Sanders. Algorithms and Data Structures The Basic Toolbox. Springer-Verlag, Berlin Heidelberg, ISBN ; im Uninetz auch als e-book: e-isbn Chris Okasaki. Purely Functional Data Structures. Cambridge University Press, Cambridge, UK, ISBN D. Rösner AuD I 2009/

39 Literatur: II Gustav Pomberger and Heinz Dobler. und Eine systematische Einführung in die Programmierung. Pearson Education Dtl. GmbH, München, Fethi Rabhi and Guy Lapalme. Algorithms A Functional Programming Approach. Pearson Education Ltd., Essex, nd edition, ISBN Gunter Saake and Kai-Uwe Sattler. und Eine Einführung mit Java. dpunkt.verlag, Heidelberg, ISBN D. Rösner AuD I 2009/

40 Literatur: III Simon Thompson. Haskell - The Craft of Functional Programming. Addison Wesley Longman Ltd., Essex, nd edition, ISBN ; Accompanying Web site: Mark Allen Weiss. Data Structures and Problem Solving using Java. Addison Wesley Longman, Inc., Reading, Mass. USA, ISBN ;reprinted with corrections, D. Rösner AuD I 2009/