... direkte Umsetzung in Scheme. Prozeduren und von ihnen erzeugte Prozesse Gültigkeitsbereiche und Rekursion

Transkript

1 Prozeduren und von ihnen erzeugte Prozesse Gültigkeitsbereiche und Rekursion Stand: Wir kennen Elementare ( primitive ) Operationen Kombination dieser Operationen Abstraktion zusammengesetzter Operationen Analogie zum Schachspiel: Wir kennen die Regeln, aber nicht auf welche Züge es ankommt (welche Prozeduren wir wie kombinieren sollen) was die Konsequenzen eines Zuges sind (was die Ausführung einer Prozedur bewirkt) Beachte: Lokales vs. globales Verhalten... direkte Umsetzung in Scheme (define (fact n) (if (= n 1) ; 1! = 1 1 (* n (fact (- n 1))))) Hinweis: Ausführliche Diskussion in Algorithmik 1, Kap. 8 (Partielle) Korrektheit gemäss Spezifikation Zusammenhang zwischen Rekursionsschema und vollständiger Induktion Termination Keine zirkuläre Definition: fact wird nicht durch sich selbst definiert vermindertes Teilproblem G. Görz, FAU, Inf G. Görz, FAU, Inf Lineare Rekursion und Iteration Prozedur: Schema für die lokale Entwicklung eines Berechnungsprozesses Beispiel: Fakultätsfunktion, n N n! =n (n 1) (n 2) Also: 1! = 1 und n! ist n (n 1)! für alle n>1 n! = n ((n 1) (n 2) ) = n (n 1)! Anwendung des Substitutionsmodells auf die Berechnung von (fact 6) (fact 6) (* 6 (fact 5)) (* 6 (* 5 (fact 4))) (* 6 (* 5 (* 4 (fact 3)))) (* 6 (* 5 (* 4 (* 3 (fact 2))))) (* 6 (* 5 (* 4 (* 3 (* 2 (fact 1)))))) (* 6 (* 5 (* 4 (* 3 (* 2 1))))) (* 6 (* 5 (* 4 (* 3 2)))) (* 6 (* 5 (* 4 6))) (* 6 (* 5 24)) (* 6 120) 720 Linear rekursiver Prozeß zur Berechnung von 6! G. Görz, FAU, Inf G. Görz, FAU, Inf.8 3 4

2 Lineare Rekursion: Anmerkungen Anmerkungen zum Berechnungsprozeß: Zwei Phasen: Expansion und Kontraktion Während der Expansion werden Berechnungsschritte aufgeschoben : (n 1) Multiplikationen Buchhaltung über Zwischeninformation! Aufwand der Buchhaltung hier linear proportional zu n In der Kontraktion werden die Multiplikationen ausgeführt Es gibt keine Zwischenergebnisse Zwischenzustände ergeben sich aus der Buchhaltung Linear iterativer Prozeß Motivation: Wir nehmen im Beispiel eine andere Perspektive ein: Beschreibung einer Regel zur Berechnung von n!, indem wir zuerst 1 mit 2, dann das Ergebnis mit 3, dann mit 4, etc. multiplizieren, bis wir n erreicht haben. D.h.: Wir halten in jedem Schritt ein Produkt fest zusammen mit einem Zähler, der von 1 bis n läuft. In jedem Schritt ändern sich der Zähler und das Produkt gleichzeitig nach der Regel product counter product counter counter +1, wobei n! gleich dem Wert des Produkts ist, wenn der Zähler n überschreitet. G. Görz, FAU, Inf G. Görz, FAU, Inf Lineares Rekursionsschema Beispiel: Fakultät iterativ 1. Finde heraus, wie ein Rekursions-Schritt durchzuführen ist. (define (fact n) ; Blockstruktur! 2. Zerlege das Problem in Arbeitsschritt und vermindertes Teilproblem 3. Lege fest, wann das (schon gelöste) Basisproblem erreicht ist (Rekursionsende) Schema für linear rekursive Funktionen: (define (f_linrec...) (cond (P <STOP>) { (Q (g (f_linrec...))) } (else (h (f_linrec...))) )) (define (fact-iter product counter) (if (> counter n) product (fact-iter (* counter product) (+ counter 1)) )) (fact-iter 1 1)) G. Görz, FAU, Inf G. Görz, FAU, Inf.8 3 8

3 Beispiel: Linear iterativer Prozeß Schema für rest-rekursive Funktionen Linear iterativer Prozeß zur Berechnung von 6! (erste Version) (fact 6) (fact-iter 1 1) (fact-iter 1 2) (fact-iter 2 3) (fact-iter 6 4) (fact-iter 24 5) (fact-iter 120 6) (fact-iter 720 7) 720 auch: end-rekursiv, rumpf-rekursiv ( tail recursive ) (define (f_tailrec...) (cond (P <STOP>) { (Q (f_tailrec...)) } (else (f_tailrec...)) )) Anforderung an jede Scheme-Implementation: Rest-rekursive Prozeduren müssen intern als iterative Prozesse ausgeführt werden keine Belastung der internen Buchhaltung Hinweis: Verschränkte Restrekursion (Beispiel: Algorithmik 1) G. Görz, FAU, Inf G. Görz, FAU, Inf Anmerkungen zum Berechnungsprozeß Keine verschiedenen Phasen Zwischeninformation in den Variablen product, counter, max-count (bzw. n) Zwischenergebnisse werden explizit in der Akkumulatorvariablen product festgehalten (akkumuliert) Aufwand ist ebenfalls linear (Sequentielle Aufzählung der Elemente des Definitionsbereichs: natürliche Zahlen) Der durch fact-iter verursachte Berechnungsprozeß ist iterativ; die Prozedur fact selbst jedoch (rest-) rekursiv Iterativ vs. rekursiv in Bezug auf Prozesse betrifft die Buchhaltung und die Aufschiebung von Berechnungsschritten Äquivalenz der linear-rekursiven und der rest-rekursiven Version (define (fact n) (if (= n 1) 1 (* n (fact (- n 1))))) (define (fact-i n product) (if (= n 1) product (fact-i (- n 1) (* product n)))) Vereinfachte Variante der rest-rekursiven Fakultätsfunktion: zählt abwärts Beh.: n 1. (fact n) = (fact-i n 1) G. Görz, FAU, Inf G. Görz, FAU, Inf

4 n = 1: (fact 1) = 1 = (fact-i 1 1) n > 1: (fact n) = (* n (fact (- n 1))) Definition = (* n (fact-i (- n 1) 1)) Induktionsannahme = (fact-i (- n 1) (* n 1)) Lemma = (fact-i (- n 1) (* 1 n)) = (fact-i n 1) Definition Lemma: (* a (fact-i n z)) = (fact-i n (* a z)) n = 1: (* a (fact-i 1 z)) = (* a z) = (fact-i 1 (* a z)) Baumrekursion Beispiel: Fibonacci (Leonardo von Pisa: Kaninchenaufgabe) Rekursionsgleichungen: F 0 = 0 F 1 = 1 F n = F n 1 + F n 2 ergibt die Folge: G. Görz, FAU, Inf G. Görz, FAU, Inf n > 1: (* a (fact-i n z)) = (* a (fact-i (- n 1) (* z n))) Definition = (fact-i (- n 1) (* a (* z n))) Induktionsannahme = (fact-i (- n 1) (* (* a z) n)) Assoziativität = (fact-i n (* a z)) Definition Als Scheme-Prozedur: (define (fib n) (cond ((= n 0) 0) ((= n 1) 1) (else (+ (fib (- n 1)) (fib (- n 2)))) )) G. Görz, FAU, Inf G. Görz, FAU, Inf

5 Fibonacci-Baum Die Fibonacci-Prozedur ist ein charakteristisches Beispiel für Baum-Rekursion: (fib 20) = 6765, (fib 30) = Baum-Rekursion Folge der Verarbeitungsschritte bildet strukturell den zu verarbeitenden Baum nach! baum-rekursiv Schema für baum-rekursive Funktionen: (define (f_treerec...)... (G (f_treerec...) (f_treerec...)...)...) G. Görz, FAU, Inf G. Görz, FAU, Inf Fibonacci-Baum (Forts.) Der Fibonacci-Baum enthält fib(n +1) Blätter: fib(0) bzw. fib(1) Wie groß ist fib(n) ungefähr? Sei φ definiert durch: φ 2 = φ +1 also: φ =(1+ 5)/ ( goldenes Verhältnis ) Dann: fib(n) φ n / 5 D.h., der Fibonacci-Baum wächst exponentiell in Bezug auf die Blätteranzahl: exponentiell abhängig von n Die meiste Zeit wird zur (erneuten) Berechnung bereits berechneter Zwischenergebnisse verbraucht; z.b. die Hälfte zur Berechnung von F n 2, was bereits bei der Berechnung von F n 1 verwendet worden war. Speicherbedarf = Anzahl der Ebenen im Baum: linear proportional zu n Fibonacci iterativ Die baum-rekursive Fibonacci-Prozedur ist in höchstem Maß ineffizient, Umbau in eine iterative Prozedur mit zwei Akkumulatorvariablen a, b: Anfangswertea=1,b=0 Simultane Transformationen a a+b b a G. Görz, FAU, Inf G. Görz, FAU, Inf

6 Iterationsschritte: n=1 a=1 b=0 n=2 a=1 b=1 n=3 a=2 b=1 n=4 a=3 b=2 n=5 a=5 b=3 n=6 a=8 b=5 n = 7 a = 13 b = 8 i fib(i) fib(i 1) Aufwände von Algorithmen und Komplexitätsmaße Rekapitulation: Algorithmik 1, Kap. 13 Um die Effizienz von Algorithmen vergleichen zu können, braucht man eine Abschätzung der Zeit oder des Speicherplatzes, die sie abhängig von der benötigen. Sei n ein Eingabeparameter ( Größe der Eingabe ); es werden die Funktionen } T (n) Zeitbedarf Ressourcen P (n) Platzbedarf untersucht, wobei die Größenordnung O des Ressourcenbedarfs (Ordnung des Aufwands) interessiert. G. Görz, FAU, Inf G. Görz, FAU, Inf (define (fib n) Fibonacci: rest-rekursiv (define (fib-iter a b count) (if (= count 0) b (fib-iter (+ a b) a (- count 1)))) (fib-iter 1 0 n)) Aufwände der rekursiven Beispiele Rekursive Fakultät: T (n) P (n) Iterative Fakultät: T (n) P (n) Rekursive Fibonacci-Prozedur: Iterative Fibonacci-Prozedur: = O(n) = O(n) = O(n) = O(1) T (n) = O(φ n ) P (n) = O(n) Rest-rekursiv: konstanter Speicherbedarf, linearer Zeitbedarf ( Zwischenwerte werden jeweils nur einmal berechnet!) T (n) P (n) = O(n) = O(1) G. Görz, FAU, Inf G. Görz, FAU, Inf

7 Beispiel: Exponentiation (Potenzbildung) Basis b, Exponent n (integer 0) Rekursive Fassung: b 0 =1 b n = b b n 1 (define (expt b n) (if (= n 0) 1 (* b (expt b (- n 1))))) T (n) =O(n) P (n) =O(n) Schnelle Exponentiation Verwendung von Quadraten, z.b. b 8 =(b 4 ) 2 =((b 2 ) 2 ) 2 Umformung allgemein: b n = { (b n/2 ) 2 n gerade b b n 1 n ungerade (define (fast-expt b n) (cond ((= n 0) 1) ((even? n) (square (fast-expt b (/ n 2)))) (else (* b (fast-expt b (- n 1)))))) G. Görz, FAU, Inf G. Görz, FAU, Inf Iterative Fassung: (define (expt b n) T (n) =O(n) (define (expt-iter counter product) (if (= counter 0) product (expt-iter (- counter 1) (* b product)))) (expt-iter n 1)) P (n) =O(1) b 2n benötigt eine Multiplikation mehr als b n, damit: z.b. n = 1000: 14 Multiplikationen T (n) = O(log n) P (n) = O(log n) G. Görz, FAU, Inf G. Görz, FAU, Inf

8 Vorgehen Ein weiteres Beispiel: Primzahltest Suche die kleinste Zahl 2, dien teilt. n ist Primzahl die gefundene Zahl ist n selbst. Um eine Rekursion zu ermöglichen, wird die Fragestellung verallgemeinert: Suche die kleinste Zahl t, die n teilt. Ansatz: Ist t 2 >n? ja: nur n selbst teilt n nein: t teilt n? ja: t ist der kleinste Teiler von n nein: Suche weiter ab t +1 Primzahltest (3) (define (prime? n) (define (smallest-divisor n) ; n eliminierbar... (find-divisor n 2)) (define (find-divisor n test-divisor) (cond ((> (square test-divisor) n) n) ((divides? test-divisor n) test-divisor) (else (find-divisor n (+ test-divisor 1))))) (define (divides? a b) (= (remainder b a) 0)) (= n (smallest-divisor n))) Aufwandsordnung der Schrittzahl, um n als Primzahl zu identifizieren: T (n) =O( n) G. Görz, FAU, Inf G. Görz, FAU, Inf Primzahltest (2) Spezifikationsskizze: 1. n ist Primzahl, falls gilt: t teilt n t =1 t = n, d.h.n hat keine echten Teiler 2. Jede Zahl hat mindestens zwei Teiler. Für Primzahlen gilt: zweitkleinster-teiler(n) =n 3. zweitkleinster-teiler(n): kleinster Teiler von n, dergrößer ist als 1 (smallest-divisor n) 4. Prozedur finde-größeren-teiler : (find-divisor n test-divisor) test-divisor ist der kleinste Teiler, der versucht wird. Abbruchkriterium: Ist n keine Primzahl, so muß es einen Teiler n haben. Denn: Falls d teilt n, soauchn/d teilt n; entwederd oder n/d n Schneller Primzahltest: Fermat-Test Zwei Zahlen heißen kongruent modulo n, wenn sie beide bei der Division durch n denselben Rest haben. Der Divisionsrest einer Zahl a bei der Division durch n heißt auch der Rest von a modulo n oder einfach a modulo n. Kleiner Fermatscher Satz: Wenn n Primzahl und a natürliche Zahl mit 2 a<n, so gilt: a n a mod n Idee des Fermat-Tests: Wähle ein a<nund berechne Rest von a n mod n. Falls Rest = a, dannistn eventuell eine Primzahl, andernfalls keine. Iteriert probabilistischer Algorithmus G. Görz, FAU, Inf G. Görz, FAU, Inf

9 Beispiel zum Fermat-Test Fermat-Test vervollständigt Beispiel: n =5 1 5 = 1 1mod5 2 5 = 32 2mod5 3 5 = 243 3mod5 4 5 = mod5 5 5 = mod5 Gegenbeispiel: n =4 1 4 = 1 1mod4 2 4 = 16 0mod4 3 4 = 81 1mod4 (define (fermat-test n) (define a (+ 2 (random (- n 2)))) (= (exptmod a n n) a)) Idee zum Zeitgewinn: Wähle a (1 <a<n) zufällig aus mittels Zufallszahlen-Generators (random r). Test mit mehreren, aber nicht allen a. Jedes a, das den Test besteht, ist ein Indiz für n prim. G. Görz, FAU, Inf G. Görz, FAU, Inf exptmod Für den Fermat-Test wird der Rest von b e mod m gesucht, d.h. Erster Ansatz: b e x mod m (define (exptmod2 b e m) (modulo (fast-expt b e) m)) (define (fast-prime? n times) (cond ((= times 0) #t) ((fermat-test n) (fast-prime? n (- times 1))) (else #f))) Aufwand: O(log n) gegenüber O( n) für prime?! exptmod2 ist ungeeignet für den Fermat-Test, denn z.b. beim Test von 997 wird benötigt: a 997 a mod 997? Aber: (fast-expt a 997) für a<997 funktioniert nur für kleine a ( 4) Gesucht: ein kleineres exptmod! (s. Anhang) G. Görz, FAU, Inf G. Görz, FAU, Inf

10 Anmerkungen zu fast-prime? Verfahren ist probabilistisch: Ergebnis #t gibt Evidenz für Primzahl, keine Sicherheit Es gibt Zahlen, die das Verfahren irreführen: 561, 1105,... (Carmichaelsche Zahlen 16 Stück < bei 8500 Primzahlen) Es gibt Varianten des Verfahrens, die nicht in die Irre geführt werden können Es gibt Verfahren mit geringerer Fehlerwahrscheinlichkeit als Wahrscheinlichkeit eines Hardwarefehlers während Laufzeit Primzahltests haben praktischen Nutzen, z.b. sind sie in der Kryptographie Basis der meisten modernen unbreakable Codes Zur Komplexitätsabschätzung Gut: f(n) ist Polynom (polynomiale Komplexität) Schlecht: sonst (exponentielle Komplexität) Beachte: worst case Abschätzungen (ungünstigster Fall) Exponentielle Lösungen können sehr wohl brauchbar sein, wenn: ein Programm nur wenige Male verwendet wird; ein Programm nur mit kleinen Eingaben benutzt wird; eine effizientere Lösung ist so kompliziert ist, dass sie nicht mehr modifiziert werden kann; Zeiteffizienz auf Kosten von Platzeffizienz geht. G. Görz, FAU, Inf G. Görz, FAU, Inf Abschließende Bemerkungen Die meisten der behandelten rekursiven Prozesse (Ausnahme z.b. fib) haben dieselbe Ordnung im Wachstum von Zeit- und Speicherbedarf Bezeichnungen für die gängigen Fälle: Iteration für konstanten Platzbedarf Rekursion für nicht-konstanten Platzbedarf Lineare Iteration und lineare Rekursion für Prozesse, bei denen alle Anforderungen mit Ausnahme des Platzbedarfs für einen Iterationsschritt linear sind ANHANG ZUR SELBSTÄNDIGEN NACHARBEIT G. Görz, FAU, Inf G. Görz, FAU, Inf

11 Ein kleineres exptmod exptmod (Forts.) Das Problem: Falls e gerade: dann: b e x mod m b e =(b e/2 ) 2 b e (b e/2 ) 2 mod m a 2 mod m mit (b e/2 ) 2 a mod m (define (exptmod b e m) (cond ((= e 0) 1) ((even? e) (remainder (square (exptmod b (/ e 2) m)) m)) (else (remainder (* b (exptmod b (- e 1) m)) m)))) G. Görz, FAU, Inf G. Görz, FAU, Inf Entsprechend für e ungerade: Vorgehen analog zu fast-expt gleiche Rekursionsidee: dann: b e = b b e 1 b e a 1 a 2 mod m mit b a 1 mod m b e 1 a 2 mod m Fallunterscheidung für gerade und ungerade Exponenten sukzessives Quadrieren, sodass die Anzahl der Schritte logarithmisch mit dem Exponenten wächst T (n) =O(log n) P (n) =O(log n) G. Görz, FAU, Inf G. Görz, FAU, Inf