Probeklausur. Algorithmen und Datenstrukturen (für ET/IT) Kapitel 1: Einführung. Programm heute. Wann? während Zentralübung am Mittwoch, 21.

Transkript

1 Probeklausur Algorithmen und strukturen (für ET/IT) Sommersemester 2014 Dr. Tobias Lasser Computer Aided Medical Procedures Technische Universität München Wann? während Zentralübung am Mittwoch, 21. Mai 2014 Wo? Hörsaal 1200 Wie? 9:45-10:30: Bearbeitungszeit Probeklausur 10:30-11:15: Besprechung der Probeklausur Erlaubtes Material: nur 1 DIN A4 Blatt, handbeschrieben keine Bücher, Skripten, Ausdrucke, Smartphones, etc. Wozu? Simulation der tatsächlichen Prüfungssituation am 16. Juli 2014 Vertrautmachen mit der Art von Prüfungsaufgaben 3 Programm heute 1 Einführung 2 Grundlagen von Algorithmen 3 Grundlagen von strukturen 4 Grundlagen der Korrektheit von Algorithmen 5 Grundlagen der Effizienz von Algorithmen 6 Grundlagen des Algorithmen-Entwurfs Wiederholung und Anwendungsbeispiele Kapitel 1: Einführung Definition Algorithmus Algorithmus Definition: M. Broy: Informatik: Eine grundlegende Einführung Ein Algorithmus ist ein Verfahren mit einer präzisen (d.h. in einer genau festgelegten Sprache abgefassten), endlichen Beschreibung, unter Verwendung e ektiver (d.h. tatsächlich ausführbarer), elementarer (Verarbeitungs-) Schritte. Definition struktur struktur Definition: Definition struktur (nach Prof. Eckert) Eine struktur ist eine logische Anordnung von objekten, die Informationen repräsentieren, den Zugri auf die repräsentierte Information über Operationen auf ermöglichen und die Information verwalten

2 Kapitel 1: Einführung Wie funktioniert ein Computer? Einordnung in Computer-Schema: Kapitel 2: Grundlagen von Algorithmen Algorithmen und Algorithmus strukturen Hochsprache (z.b. C, C++) Computertechnik Betriebssystem Assembler Maschinensprache Software 2.1 Darstellung von Algorithmen 2.2 Elementare Bausteine 2.3 Logische Ausdrücke Digitaltechnik Mikroarchitektur Digitale Logik Transistoren, Verdrahtung Hardware Schaltungstechnik Masken-Layout, Halbleiter Schema nach Prof. Diepold: Grundlagen der Informatik Kapitel 2.1: Darstellung von Algorithmen Algorithmus: max(a,b) Input: a,b x=a Falls b>a dann x=b Ende Falls Output: x Input: a,b x = a b>a? nein Output: x ja x = b max(a,b) x=a x=b x ja b>a? nein int max(int a, int b) { int x = a; if (b > a) x = b; return x; Kapitel 2.2: Elementare Bausteine Bausteine von Algorithmen Bausteine von Algorithmen: Elementare Bausteine Alle berechenbaren Algorithmen lassen sich mit darstellen: vier elementaren Bausteinen 1 Elementarer Verarbeitungsschritt (z.b. Zuweisung an Variable) 2 Sequenz (elementare Schritte nacheinander) 3 Bedingter Verarbeitungsschritt (z.b. if/else) 4 Wiederholung (z.b. while-schleife) Churchsche These: alle vernünftigen Beschreibungen sind äquivalent

3 Kapitel 2.3: Logische Ausdrücke Logische Werte und Verknüpfungen Kapitel 3: Elementare strukturen Grundrechenarten mit logischen Werten: Konjunktion: ^ : B B! B ähnlich zu Multiplikation bei Zahlen auch bezeichnet als UND bzw. AND Disjunktion: _ : B B! B ähnlich zu Addition bei Zahlen auch bezeichnet als ODER bzw. OR Negation: : B! B auch bezeichnet als NICHT bzw. NOT Wahrheitstabelle: a b a ^ b a b a _ b a a Primitive typen und Zahldarstellung 3.2 Felder als sequentielle Liste 3.3 Zeichen und Zeichenfolgen 3.4 Felder als verkettete Liste 3.5 Abstrakte typen 3.6 Stacks 3.7 Queues Verknüpfungen NAND, NOR, XOR Verknüpfungen Implikation, Äquivalenz Rechenregeln: NOT vor AND vor OR, De Morgan Gesetze Kapitel 3.1: Primitive typen und Zahldarstellung Kapitel 3.2: Felder als sequentielle Liste Bits und Bytes Bit 7 Bit 0 Feld als sequentielle Liste / Array: A[n-1] A[n-2].... A[1] A[0] 1 Byte = 8 Bit Primitive typen: char, short, long, signed oder unsigned Zahldarstellung mit Polynom p(x), wobei x Basis x = 10: Dezimaldarstellung x = 2: Binärdarstellung Wie viele Ziffern m pro Zahl z? m = log x (z) + 1 Größte Zahl pro m Ziffern? z max = x m 1 2-Komplement Darstellung Floating Point Zahlen: f = ( 1) V (1 + M) 2 E bias float, double Operationen: elementat: O(1), insert: O(n), erase: O(n) insert und erase erfordern Umkopieren der Elemente:

4 Kapitel 3.3: Zeichen und Zeichenfolgen Kapitel 3.4: Felder als verkettete Liste Feld als verkettete Liste: start Zeichen codiert als ASCII, Unicode, etc. Folge von Zeichen: String null Operationen: elementat: O(n), insert: O(n), erase: O(n) als String-Literal: AuD Feld als doppelte verkettete Liste: als Feld von Zeichen: null 'D' 'u' prev prev prev prev 'A' start stop null Operationen: elementat: O(n), insert: O(n), erase: O(n) 14 Kapitel 3.5: Abstrakte typen 15 Kapitel 3.6: Stacks Definition Abstrakter typ Stack als abstrakter typ mit Operationen (push, pop, top, isempty, initialize) Bedingungen (z.b. push(s, x); store(v, pop(s)) a quivalent zu store(v, x)) Definition abstrakter typ: Abstrakter typ (englisch: abstract data type, ADT) Ein abstrakter typ ist ein mathematisches Modell fu r bestimmte strukturen mit vergleichbarem Verhalten. Ein abstrakter typ wird indirekt definiert u ber "pop" mo gliche Operationen auf ihm sowie mathematische Bedingungen (oder: constraints) u ber die Piz za Auswirkungen der Operationen (u.u. auch die Kosten der Operationen). Piz za Piz za #3 #2 #1 neu e Piz za Stack implementiert als sequentielle Liste verkettete Liste beide mit Komplexita t von push, pop, top: O(1) Abstrakte Variable V mit Operationen (load, store) 23 Bedingungen (load(v) liefert Wert x von letztem store(v, x)) 16 17

5 Kapitel 3.7: Queues Kapitel 4: Grundlagen der Korrektheit von Algorithmen Queue als abstrakter typ mit Operationen (dequeue, enqueue, isempty, initialize) Bedingungen (z.b. enqueue(q, x); store(v, dequeue(q)) äquivalent zu store(v, x)) Person verlässt Schlange Person stellt sich an Queue implementiert als verkettete Liste sequentielle Liste (z.b. zirkulär) beide mit Komplexität von dequeue, enqueue: O(1) 4.1 Motivation und Spezifikation 4.2 Verifikation 4.3 Beispiel: Insertion Sort 4.4 Validation als Kuriosität: als zwei Stacks (dequeue hat hier worst-case Komplexität O(n)) Kapitel 4.1: Motivation und Spezifikation Kapitel 4.2: Verifikation Software-Fehler sind leider alltäglich Korrektheit ist relativ bezüglich der Spezifikation Verifikation: formaler Beweis der Korrektheit bzgl. Spezifikation mit Vor- und Nachbedingungen {VOR ANW {NACH für die vier elementaren Bausteine: für elementaren Verarbeitungsschritt für Sequenz für bedingten Verarbeitungsschritt für Wiederholung mit Schleifeninvariante Verifikation ist aufwendig und teilweise automatisierbar 20 21

6 Kapitel 4.3: Beispiel Insertion Sort Kapitel 4.4: Validation Insertion Sort: Sortieren durch direktes Einfügen Komplexität: best case: O(n) worst case: O(n 2 ) formale Verifikation von Insertion Sort Pseudocode mit Schleifeninvariante Validation: informeller Nachweis der Korrektheit durch systematisches Testen leider oft: Validation statt Verifikation Validation auch hilfreich falls Verifikation erfolgt Validation durch systematisches Testen: Blackbox-Test Whitebox-Test Regressions-Test Integrations-Test Testen in der Praxis z.b. mit assert und Unit Test Frameworks fehlertolerantes und fehlerpräventives Programmieren Kapitel 5: Grundlagen der Effizienz von Algorithmen Kapitel 5.1: Motivation 5.1 Motivation 5.2 RAM-Modell 5.3 Landau-Symbole Komplexitätsanalyse von Algorithmen: Bedarf an Speicherplatz und Rechenzeit Komplexität abhängig von Eingabegröße n Wachstumsverhalten n n² n*ln(n) n ln(n) ausführliche Komplexitätsanalyse von Insertion Sort mit Konstanten (aufwendig) 24 25

7 Kapitel 5.2: RAM-Modell RAM-Modell: einfaches Rechnermodell zur Laufzeitanalyse nur sequentielle Ausführung keine Speicherlatenz alle elementaren Verarbeitungsschritte benötigen eine Wachstumsraten illustriert Zeiteinheit Annahme: Rechner mit 1GHz Taktfrequenz eine Operation benötigt 1ns (nano-sekunde) der höchste Term n bezeichne dominiert Anzahl Operationen Laufzeit: n T (n) =ln(n) T (n) =n T (n) =n ln(n) T (n) =n 2 T (n) =2 n T (n) =n! µs 0.01µs 0.033µs 0.1µs 1µs 3.63ms µs 0.02µs 0.086µs 0.4µs 1ms 77.1 years µs 0.03µs 0.147µs 0.9µs 1s years µs 0.04µs 0.213µs 1.6µs 18.3min µs 0.05µs 0.282µs 2.5µs 13 days µs 0.1µs 0.644µs 10µs years µs 1.0µs 9.966µs 1ms µs 10µs 130µs 100ms µs 0.1ms 1.67ms 10s µs 1ms 19.93ms 16.7min µs 0.01s 0.23s 1.16 days µs 0.1s 2.66s days µs 1s 29.9s 31.7 years Tabelle adaptiert von The Algorithm Design Manual, S. Skiena, Springer 8 26 Kapitel 5.3: Landau-Symbole Landau-Symbol Landau-Symbol Θ: Landau-Symbol Sei g : R! R eine Funktion. Das Landau-Symbol (g) ist definiert als die Menge (g) := f : R! R : es existieren c 1, c 2 > 0, n 0 2 N so dass für alle n Landau-Symbol O Landau-Symbol O: n 0 gilt: 0 apple c 1 g(n) apple f (n) apple c 2 g(n) Für f : R! R mit f 2 (g) schreibenwirkurz:f = (g). f ist also bis auf konstanten Faktor im wesentlichen gleich der Funktion g für n n 0 Landau-Symbol O man sagt auch: g ist asymptotisch scharfe Schranke von f Sei g (von : R! oben R eine und Funktion. unten) Das Landau-Symbol O(g) ist definiert Kurznotation: als die Menge f = (g) oder f (n) = (g(n)) O(g) := {f : R! R : es existieren c > 0undn 0 2 N so dass für alle n n 0 gilt: 0 apple f (n) apple cg(n) Für f : R! R mit f 2 O(g) schreibenwirkurz:f = O(g). man sagt auch: g ist asymptotisch obere Schranke von f auch genannt: gross-o-notation aus f = (g) folgt automatisch f = O(g) Kapitel 5.3: Landau-Symbole Kapitel 6: Grundlagen des Algorithmen-Entwurfs 23 Kategorisierung der Laufzeit von Algorithmen O(1): konstant O(log n): logarithmisch O(n): linear O(n log n): loglinear O(n 2 ): quadratisch O(2 n ): exponentiell Rechenregeln für die vier elementaren Bausteine elementarer Verarbeitungsschritt: O(1) Sequenz: Addition in O-Notation bedingter Verarbeitungsschritt: Maximum von if/else sowie O(1) für Bedingung Wiederholung: Anzahl Schleifendurchläufe multipliziert mit Komplexität Schleifenkörper sowie jeweils O(1) für Bedingung 6.1 Entwurfsprinzipien 6.2 Divide and Conquer 6.3 Greedy-Algorithmen 6.4 Backtracking 6.5 Dynamisches Programmieren 28 29

8 Kapitel 6.1: Entwurfsprinzipien kein Patentrezept zum Entwurf von Algorithmen Prinzip: Verfeinerung bzw. Top-Down Entwurf Vorgehen mit schrittweiser Verfeinerung des Lösungsansatzes Prinzip: Algorithmen-Muster bzw. Design Patterns Lösungsverfahren f ur bestimmte Problemklasse Anpassung an konkrete Problemstellung Kapitel 6.2: Divide and Conquer Muster: Divide and Conquer Algorithmen-Muster: Divide and Conquer-Muster Divide and als Pseudocode: Conquer Input: Aufgabe A DivideAndConquer(A): if (A klein) { löse A explizit; else { teile A in Teilaufgaben A 1,...,A n auf; DivideAndConquer(A 1);... DivideAndConquer(A n); setze Lösung für A zusammen aus Lösungen für A 1,...,A n Beispiel: MergeSort Komplexität O(n log n) mit Rekursionsbaum benötigt extra Speicher Beispiel: QuickSort Komplexität im Mittel O(n log n) worst case: O(n 2 ) Algorithmen-Muster: Greedy Kapitel 6.3: Greedy-Algorithmen Algorithmen-Muster: Greedy Greedy-Muster als Pseudocode: Input: Aufgabe A Greedy(A): while (A nicht gelöst) { wähle bestmöglichen Schritt; // Greedy Strategie baue Schritt in Lösung ein; Beispiel: Wechselgeld, minimale Anzahl Münzen Kapitel 6.4: Backtracking Algorithmen-Muster: Backtracking Voraussetzungen: Lösungs(teil)raum repräsentiert als Konfiguration K K 0 ist Start-Konfiguration jede Konfiguration K i kann direkt erweitert werden Algorithmen-Muster: Backtracking für jede Konfiguration ist entscheidbar, ob Lösung Input: Konfiguration K Backtrack(K): if (K ist Lösung) { gib K aus; else { for each (direkte Erweiterung K 0 von K) { Backtrack(K 0 ); Beispiel: Labyrinth, Maus mit Käse 26 Beispiel: Glasfasernetz, minimale Spannbaum 10 1 (1,1) (1,2) K K K 3 K K 5 K 2 6 K 4 K 1 1 K K 5 2 (2,2) (2,1) (3,2) 3 (3,1) (3,3) Beispiel: Traveling Salesman Problem Beispiel: Acht-Damen-Problem (1,3) (2,3) 32 33

9 Kapitel 6.5: Dynamisches Programmieren Warnung! Prinzip dynamisches Programmieren statt Rekursion aufwärts von kleinstem Teilproblem rechnen Zwischenergebnisse Fibonacci Zahlen in Tabellen speichern Beispiel: Fibonacci Folge Fibonacci Folge Die Fibonacci Folge ist eine Folge natürlicher Zahlen f 1, f 2, f 3,..., für die gilt f n = f n 1 + f n 2 für n 3 mit Anfangswerten f 1 = 1, f 2 = 1. ACHTUNG! Vorlesung heute dient nur der Wiederholung und Einordnung des bereits behandelten Stoffes Anwendungs-Szenarien (und Hintergründe, Details dazu) sind NICHT klausur-relevant! eingesetzt von Leonardo Fibonacci zur Beschreibung von Wachstum einer Kaninchenpopulation Folge lautet: 1, 1, 2, 3, 5, 8, 13, 21, 34, 55, 89,... berechenbar z.b. via Rekursion Anwendungs-Szenarien Warnung! separate Präsentation ACHTUNG! Vorlesung heute dient nur der Wiederholung und Einordnung des bereits behandelten Stoffes Anwendungs-Szenarien (und Hintergründe, Details dazu) sind NICHT klausur-relevant! 36 37

10 Zusammenfassung 1 Einführung 2 Grundlagen von Algorithmen 3 Grundlagen von strukturen 4 Grundlagen der Korrektheit von Algorithmen 5 Grundlagen der Effizienz von Algorithmen 6 Grundlagen des Algorithmen-Entwurfs Wiederholung und Anwendungsbeispiele 38