Datenstrukturen und Algorithmen

Transkript

1 Datenstrukturen und Algorithmen VO

2 Organisatorisches VO ( ) & UE ( ) bei beiden extra anmelden, zwei Zeugnisse Vortragende: VO: Elmar Rückert UE: Robert Legenstein Homepage: hmp:// Newsgroup: tu graz.lv.datenalgo

3 Ablauf der UE Robert Legenstein:

4 Ablauf der VO Einheiten zu je 90 Minuten Do. 11:15 12:45, 10min Pause gegen Folien und HilfsbläMer werden online gestellt Skriptum (6.50, ) im CopyShop Infelldgasse erhältlich Homepage: Literatur, Java Applets, Folien vom Vorjahr Neu: Zusatzpunkte durch Abgeben von Code/Ergebnisse 5 6 Prüfungstermine pro Jahr Doppeltermin im Januar und Februar Je ein Termin im April, Juni, Oktober und Dezember elmar.rueckert@igi.tugraz.at 4

5 Ablauf der VO Prüfung dauert 90 Minuten Stoff wird am Ender der VO bekanntgegeben ( ) Notenschlüssel: Punkte Punkte Punkte Punkte 4 < 20 Punkte 5 Je 1 Zusatzpunkt für den Test pro richhge Abgabe von Codeimplemenherungen und Analyseergebnissen (5 8 Abgaben sind geplant) elmar.rueckert@igi.tugraz.at 5

6 Struktur der Vorlesung unterteilt in 5 Kapitel 1. Einführung u. Grundlagen 2. Algorithmische Grundprinzipien 3. Sorherverfahren 4. Suchen in linearen Feldern 5. Suchen in Bäumen elmar.rueckert@igi.tugraz.at 6

7 1. Einführung u. Grundlagen Grundlagen Was ist ein Algorithmus Was ist eine Datenstruktur Beispiele: Einfache Sorheralgorithmen InserhonSort, MinSort, BubbleSort Asymptohsche Schranken zur Laufzeitanalyse Elementare Datenstrukturen

8 2. Algorithmische Grundprinzipien Iterahve Algorithmen Rekursive Algorithmen Divide & Conquer Prinzip Dynamische Programmierung > Entwurf&Analyse von Alg. (5. Semester) Probabilishsche Inferenz > Machine Learning A u. B (Masterstudium) elmar.rueckert@igi.tugraz.at 8

9 3. Sorherverfahren (InserhonSort, MinSort, BubbleSort) MergeSort QuickSort HeapSort > Datenstruktur Halden RadixSort > Gestreute Speicherung (Hashtabellen) Untere Schranke für vgl. basierende sort. Alg

10 4. Suchen in linearen Feldern Sequenhelle Suche Selbstanordnende Felder Interpolahonssuche Binärsuche Quadrahsche Binärsuche Fastsearch

11 5. Suchen in Bäumen Bäume als Datenstruktur Suchen in Binärbäumen Balancierte Bäume (2 4 Bäume) Rot/Schwarz Bäume Spezielle Kapitel aus D&A elmar.rueckert@igi.tugraz.at 11

12 Kapitel 1 Einführung u. Grundlagen elmar.rueckert@igi.tugraz.at 12

13 Mohvahon Flut an Daten, z.b. Videos im Internet, sollen "effizient" verarbeitet werden Algorithms are at the heart of every nontrivial computer applicahon [K. Mehlhorn and P. Sanders] Online verfügbar, Link unter Literatur auf der HP Praxisrelevant, z.b. für Real hme Apps

14 Mohvahon Sie kennen Grundzüge des Programmierens Fragen der Performanz spielten noch kaum eine Rolle Genau darum geht es in dieser Vorlesung Wie schnell ist mein Programm Wie kann ich es schneller machen Wie kann ich beweisen, dass es immer so schnell läuu Wie kann ich den maximalen Speicherverbrauch abschätzen bzw. reduzieren

15 Interakhon Datenstrukturen Algorithmen

16 Beispiele aus dem Alltag Bedienungsanleitung zum Zusammenbau eines Möbelstücks (TeilschriMe auch wieder Algorithmen!) Datenstruktur: Pakete und Werkzeugkisten Algorithmen: Arbeitsvorgänge wie Schrauben... Kochen nach einem detaillierten Kochrezept Datenstruktur: Schränke/Laden in einer Küche Algorithmen: Mixen, Rühren, Auwochen

17 Beispiele aus der Informahk Beispiele für Algorithmen: Sorheren Suchen Codieren Ophmieren Algorithmen zur Manipulahon von Datenstrukturen (z.b.: Einfügen, Enxernen, Maximum, etc.) Kombinahonen daraus (z.b.: zuerst Sorheren und dann Suchen) Wichhge Eigenschau: modular, können daher kombiniert werden

18 Beispiele aus der Informahk Beispiele für Datenstrukturen: Lineare Felder (arrays) Listen (linked lists) Stapel (stacks) Schlangen (queues) Halden (heaps) Bäume (trees) Hashtabellen Kombinahonen daraus (z.b.: Baum aus Halden, Schlange aus Bäumen, etc.)

19 1. Einführung u. Grundlagen Grundlagen Was ist ein Algorithmus Was ist eine Datenstruktur Beispiele: Einfache Sorheralgorithmen InserhonSort, MinSort, BubbleSort Asymptohsche Schranken zur Laufzeitanalyse Elementare Datenstrukturen

20 Definihon von Algorithmen Genaue Definihon schwierig Ein Algorithmus ist ein Verfahren zur Lösung eines Problems (im Unterschied zu seiner Implementahon!) Grobe Definihon: Ein Algorithmus ist eine endliche Folge von Anweisungen, die die Lösung eines beshmmten Problems erlaubt. Jede Anweisung hat eine klare Bedeutung und kann mit endlichem Aufwand und in endlicher Zeit ausgeführt werden

21 Definihon von Datenstrukturen Definihon: Eine Datenstruktur ist eine beshmmte Art Daten zu verwalten und zu verknüpfen, damit man in geeigneter Art und Weise auf sie zugreifen und diese manipulieren kann. Datenstrukturen sind immer mit speziellen Operahonen verbunden (z.b.: Einfügen, Enxernen, Sorheren, Maximum, Nachfolger, ) Diese Operahonen sind wiederum Algorithmen elmar.rueckert@igi.tugraz.at 21

22 Datenstrukturen und Algorithmen können nicht getrennt voneinander betrachtet werden Algorithmen und Datenstrukturen gehen Hand in Hand Ein Algorithmus (Methode, Verfahren, Rezept) nimmt beshmmte Daten als Input und transformiert diese nach festen Regeln in einen Output Dabei greiu der Algorithmus auf Daten zu, die in einer Datenstruktur organisiert sind

23 Analyse von Algorithmen Wir wollen Algorithmen und Datenstrukturen systemaisch analysieren und vergleichen. Was ist ein guter Algorithmus? Er muss korrekt sein, d.h. das richhge Ergebnis für alle möglichen Inputs liefern. Er muss schnell sein. Er soll wenig Ressourcen (Zeit, Speicher, Bandbreite, CPUs, logische GaMer, ) benöhgen elmar.rueckert@igi.tugraz.at 23

24 Wir wollen wissen wie viel Zeit (allg.: Ressourcen) der Algorithmus in Abhängigkeit der Inputgröße benöhgt. Abstrakhon des Algorithmus (und der Datenstruktur) (Unabhängig von der eigentlichen Implemenherung Sprache, OS, Protokolle, Hardware etc.) Mathemahsche Werkzeuge: O Notahon, Kombinatorik, Wahrscheinlichkeitstheorie, etc elmar.rueckert@igi.tugraz.at 24

25 Analyse Vorgehensweise 1 Annahmen (Input, ) 2 Verbale Formulierung (Idee) 3 Abstrakhon Pseudocode 4 SchriMweise Analyse 5 Fallunterscheidung helmut.hauser@igi.tugraz.at

26 1. Einführung u. Grundlagen Grundlagen Was ist ein Algorithmus, Pseudo Code Was ist eine Datenstruktur Beispiele: Einfache SorIeralgorithmen InserIonSort, MinSort, BubbleSort Asymptohsche Schranken zur Laufzeitanalyse Elementare Datenstrukturen

27 1 Annahmen Sorheren von Zahlenfolgen: Input: eine Sequenz von n Zahlen a, a2,, 1 Output: eine Permutahon der Inputsequenz sodass a a 1 2 a n a n a, a2,, 1 a n Instanz des Sorherproblems: Input: 31,41,59,26,41,58 Output: 26,31,41,41,58, 59 Ein Algorithmus ist korrekt, wenn er für jede Instanz des Inputs einen korrekten Output liefert elmar.rueckert@igi.tugraz.at 27

28 2 Formulierung (Idee) Sorheren durch Einfügen (InserIonSort) Sorheren durch Berechnen des kleinsten Elementes (MinSort) Sorheren durch Tauschen benachbarter Elemente (BubbleSort)

29 Formulierung: InsertahonSort Betrachte die erste Zahl (oder Karte) als Referenz. Wähle nun jede andere Zahl beginnend mit der 2ten bis zur letzten. Vergleiche die gewählte Zahl (h) mit jeder mit kleinerem Index (x). Ist h kleiner als x dann verschiebe x auf die Posihon mit den nächstgrößeren Index. Diese Vergleiche werde so lange fortgeführt bis entweder die erste Zahl erreicht wurde oder keine Zahl (mit kleinerem Index) mehr kleiner ist. Tausche h mit der letzten Zahl mit der verglichen wurde elmar.rueckert@igi.tugraz.at 29

30 Formulierung: MinSort Laufe ab Index 1 über die gesamte Folge und merke Dir den kleinsten Wert. Vertausche diesen Wert mit dem, der in der Folge an Stelle 1 steht. Somit erhältst Du eine Folge, die bis Index 1 sorhert ist. Dann laufe ab Index 2 über diese Folge und merke Dir wieder den kleinsten Wert. Diesen vertauschst Du jetzt mit dem an Index 2 stehenden Wert. Die so entstandene neue Folge ist nun bereits bis Index 2 sorhert. Wiederhole diesen Vorgang bis Index (n 1). Nach diesen (n 1) Durchläufen erhältst Du eine vollständig sorherte Folge, und der Algorithmus ist beendet elmar.rueckert@igi.tugraz.at 30

31 Formulierung: BubbleSort Durchlaufe wiederholt eine Liste (von links nach rechts). In jedem Durchlauf werden je zwei benachbarte Zahlen verglichen und falls nöhg vertauscht, sodass am Ende eines Durchlaufs die größte Zahl am Ende der Liste steht (ganz rechts). Wiederhole diese Prozedur (wobei nun die letzte Zahl nicht mehr betrachtet werden muss) bis keine Vertauschungen mehr nöhg sind. Das lineare Feld ist dann sorhert

32 Analyse Vorgehensweise 1 Annahmen (Input, ) 2 Verbale Formulierung (Idee) 3 Abstrakhon Pseudocode 4 SchriMweise Analyse 5 Fallunterscheidung helmut.hauser@igi.tugraz.at

33 3 Pseudo Code Pseudo Code ist präziser als verbale Formulierungen allerdings nicht so präzise wie eine spezielle Implemenherung (z.b. in Java oder C++). Viele Definihonen exisheren. Wir verwenden eine Definihon angelehnt an Java Code. Kommentare //Mein Kommentar Einrückungen Dienen zur Strukturierung der Anweisungen

34 3 Pseudo Code Schleifen for <variable increment definihon> <achons> repeat <achons> unil <condihon> while <condihon> do <achons>

35 3 Pseudo Code Bedingte Anweisung if <condihon> then [else <true achons> <false achons>] Ein und Ausgabe input <variable> output <variable text> print <variable text>

36 3 Pseudo Code Algorithmen DeklaraIon Algorithm name(param1, param2,...) : //Input: Beschreibung der Eingabevariablen //Output: Beschreibung der Ausgabevariablen... weitere Anweisungen... Rückgabewert: return value elmar.rueckert@igi.tugraz.at 36

37 3 Pseudo Code Beispiel der Universität Bern InformaIk, EI VO: Algorithm arraymax(a,n) : //Input: Ein Array A, das n Integerwerte enthält //Output: Das maximale Element in A currentmax = A[1] for i = 2 to n if currentmax < A[i] then return currentmax currentmax = A[i] elmar.rueckert@igi.tugraz.at 37

38 Pseudo Code Lösungen an der Tafel Sorheren durch Einfügen (InserIonSort) Sorheren durch Berechnen des kleinsten Elementes (MinSort) Sorheren durch Tauschen benachbarter Elemente (BubbleSort)

39 Lösungsvorschlag: InserhonSort Pseudocode: Input: lineares Feld A[1..n] Output: aufsteigend sortiertes lineares Feld A[1..n] InsertionSort(A, n) 1: FOR i=2 TO n 2: h = A[i] 3: j = i - 1 4: WHILE j>1 AND h<a[j] DO 5: A[j+1] = A[j] 6: j = j - 1 7: A[j+1] = h 8: return A hmp://en.wikipedia.org/wiki/inserhon_sort elmar.rueckert@igi.tugraz.at 39

40 Lösungsvorschlag: MinSort Pseudocode: Input: lineares Feld A[1..n] Output: aufsteigend sortiertes lineares Feld A[1..n] MinSort(A, n) 1: FOR i=1 TO n-1 2: minval = A[i] 3: minid = i 4: FOR j=i+1 TO n 5: if A[j] < minval 6: minval = A[j] 7: minid = j 8: A[minId] = A[i] 9: A[i] = minval 10: return A hmp://de.wikipedia.org/wiki/selechonsort elmar.rueckert@igi.tugraz.at 40

41 Lösungsvorschlag: BubbleSort Pseudocode: Input: lineares Feld A[1..n] Output: aufsteigend sortiertes lineares Feld A[1..n] BubbleSort(A, n) 1: flgs = 0 2: WHILE flgs < 1 DO 3: flgs = 1 4: FOR i=1 TO n-1 5: IF A[i] > A[i+1] 6: h = A[i] 7: A[i] = A[i+1] 8: A[i+1] = h 9: flgs = 0 10: n = n : return A hmp://de.wikipedia.org/wiki/bubblesort elmar.rueckert@igi.tugraz.at 41

42 Analyse Vorgehensweise 1 Annahmen (Input, ) 2 Verbale Formulierung (Idee) 3 Abstrakhon Pseudocode 4 SchriMweise Analyse 5 Fallunterscheidung helmut.hauser@igi.tugraz.at

43 Analyse der Algorithmen Was haben alle drei Methoden gemeinsam? Welcher Algorithmus ist der schnellste? Wieviel Speicher wird benöigt? Sie kennen Grundzüge des Programmierens Fragen der Performanz spielten noch kaum eine Rolle Genau darum geht es in dieser Vorlesung Wie schnell ist mein Programm Wie kann ich es schneller machen Wie kann ich beweisen, dass es immer so schnell läuu Wie kann ich den maximalen Speicherverbrauch abschätzen bzw. reduzieren

44 Analyse der Algorithmen Variante 1: ImplemenIeren und Vergleichen Matlab Datei auf der VO Homepage 1.5 Vorteile? Nachteile? T(n) in sec insert min bubble n elmar.rueckert@igi.tugraz.at 44

45 Zusatzpunkte sammeln 1 Punkt für eine Implementahon eines weiteren SorIerverfahrens mit einer durchschnimlichen Laufzeit von O(n 2 ). Code und Grafik kann in der nächsten VO abgegeben werden elmar.rueckert@igi.tugraz.at 45

46 Analyse der Algorithmen Vorteile der Implementahonsvariante: Lerneffekt, keine theorehschen Überlegungen nöhg (math.), ausführliche Studien auf echten Daten. Nachteile: Aufwendig bei komplexen Algorithmen, Schlussfolgerungen schwierig (Fallunterscheidung). Weitere Verfahren: Variante 2: Zählen der elementaren SchriMe Variante 3: Asymptohsche Schranken

47 Zusammenfassung Ophmieren von Algorithmen > zentrales Thema in der Informahk (z.b. Apps, Vision, Robohk) Algorithmen und Datenstrukturen können nicht getrennt voneinander behandelt werden, Definihonen. Wir wollen wissen wie viel Zeit (allg.: Ressourcen) der Algorithmus in Abhängigkeit der Inputgröße benöhgt. Analyse Vorgehensweise: Annahme >Formulierung >Pseudocode >Analyse >Fallunterscheidung 3 Varianten zur Analyse elmar.rueckert@igi.tugraz.at 47

48 Danke für Ihre Aufmerksamkeit! Bis zum nächsten Mal. (Donnerstag, 10. Okt. 2013, 11:15, i13)