Mächtigkeit von WHILE-Programmen

Transkript

1 Mächtigkeit von WHILE-Programmen und rekursive Funktionen Prof. Dr. Berthold Vöcking Lehrstuhl Informatik 1 Algorithmen und Komplexität RWTH Aachen 16. November 2010 Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

2 Turingmaschine (TM) M = (Q, Σ, Γ, B, q 0, q, δ) Unendliches Band... 0 c 0 0 B a 0 0 c 1 B... Endliche Kontrolleinheit (Zustände Q, Programm δ) Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

3 Registermaschine (RAM) Programm Befehlszähler b Akkumulator c(0) c(1) c(2) c(3)... Speicher (unbeschränkt) Befehlssatz: LOAD, STORE, ADD, SUB, MULT, DIV, INDLOAD, INDSTORE, INDADD, INDSUB, INDMULT, INDDIV, CLOAD, CADD, CSUB, CMULT, CDIV, GOTO, IF c(0)? x THEN GOTO (wobei? aus {=, <, }), END Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

4 Eingeschränkte Registermaschine Programm Befehlszähler b Akkumulator c(0) c(1) c(2) c(3)... Speicher (# Register konstant) c(k) Befehlssatz: LOAD, STORE, CLOAD, CADD, CSUB, GOTO, IF c(0) 0 THEN GOTO, END Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

5 Turing-mächtige Programmiersprachen Definition Eine Programmiersprache wird als Turing-mächtig bezeichnet, wenn jede Funktion, die durch eine TM berechnet werden kann, auch durch ein Programm in dieser Programmiersprache berechnet werden kann. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

6 Die Programmiersprache WHILE Syntax Elemente eines WHILE-Programms Variablen x 0 x 1 x 2... Konstanten Symbole ; := + Schlüsselwörter WHILE DO END Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

7 Die Programmiersprache WHILE Syntax Induktive Definition Induktionsanfang Zuweisung Für jedes c { 1, 0, 1} ist die Zuweisung x i := x j + c ein WHILE-Programm. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

8 Die Programmiersprache WHILE Syntax Induktive Definition Induktionsschritte: Hintereinanderausführung Falls P 1 und P 2 WHILE-Programme sind, dann ist auch ein WHILE-Programm. P 1 ; P 2 WHILE-Konstrukt Falls P ein WHILE-Programm ist, dann ist auch ein WHILE-Programm. WHILE x i 0 DO P END Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

9 Die Programmiersprache WHILE Semantik Ein While-Programm P berechnet eine k-stellige Funktionen der Form f : N k N. Die Eingabe ist in den Variablen x 1,..., x k enthalten. Alle anderen Variablen werden mit 0 initialisiert. Das Resultat eines WHILE-Programms ist die Zahl, die sich am Ende der Rechnung in der Variable x 0 ergibt. Programme der Form x i := x j + c sind Zuweisungen des Wertes x j + c an die Variable x i (wobei 0 1 = 0). In einem WHILE-Programm P 1 ; P 2 wird zunächst P 1 und dann P 2 ausgeführt. Das Programm WHILE x i 0 DO P END hat die Bedeutung, dass P solange ausgeführt wird, bis x i den Wert 0 erreicht. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

10 Beispiel eines WHILE-Programms Was berechnet dieses WHILE-Programm? WHILE x 2 0 DO x 1 := x 1 + 1; x 2 := x 2 1 END; x 0 := x 1 Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

11 Die Programmiersprache WHILE Mächtigkeit Satz Die Programmiersprache WHILE ist Turing-mächtig. Beweis: In einer Übungsaufgabe haben wir gezeigt, dass eine TM durch eine RAM mit konstant vielen Registern und eingeschränktem Befehlssatz simuliert werden kann. LOAD, CLOAD, STORE, CADD, CSUB, GOTO, IF c(0) 0 GOTO, END Wir müssen also nur noch zeigen, dass jede Funktion, die durch eine eingeschränkte RAM berechnet werden kann, auch durch ein WHILE-Programm berechnet werden kann. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

12 Beweis Turing-Mächtigkeit von WHILE-Programmen Sei Π ein beliebiges RAM-Programm mit eingeschränktem Befehlssatz, das aus l Zeilen besteht und k Register für natürliche Zahlen benutzt. Wir speichern den Inhalt von Register c(i), für 0 i k, in der Variable x i des WHILE-Programms. In der Variable x k+1 speichern wir zudem den Befehlszähler b der RAM ab. Die Variable x k+2 verwenden wir, um eine Variable zu haben, die immer den initial gesetzen Wert 0 enthält. Die einzelnen RAM-Befehle werden nun in Form von konstant vielen Zuweisungen der Form x i := x j + c mit c {0, 1} implementiert. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

13 Beweis Turing-Mächtigkeit von WHILE-Programmen RAM vs. WHILE LOAD, STORE x i := x j + c für CLOAD, CADD, CSUB, c { 1, 0, 1} GOTO P 1 ; P 2 IF c(0) 0 GOTO WHILE x i 0 DO P END END Der RAM-Befehl LOAD i wird beispielsweise ersetzt durch x 0 := x i + 0; x k+1 := x k Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

14 Beweis Turing-Mächtigkeit von WHILE-Programmen RAM vs. WHILE LOAD, STORE x i := x j + c für CLOAD, CADD, CSUB, c { 1, 0, 1} GOTO P 1 ; P 2 IF c(0) 0 GOTO WHILE x i 0 DO P END END Der RAM-Befehl CLOAD i wird analog ersetzt durch x 0 := x k+2 + 0; x 0 := x 0 + 1;... ; x 0 := x 0 + 1; }{{} i mal x k+1 := x k Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

15 Beweis Turing-Mächtigkeit von WHILE-Programmen RAM vs. WHILE LOAD, STORE x i := x j + c für CLOAD, CADD, CSUB, c { 1, 0, 1} GOTO P 1 ; P 2 IF c(0) 0 GOTO WHILE x i 0 DO P END END Den RAM-Befehl IF c(0) 0 GOTO j ersetzen wir durch das WHILE-Programm: x k+1 := x k+1 + 1; (b := b + 1) x k+3 := x 0 + 0; (help := c(0)) WHILE x k+3 0 DO (while help 0) x k+1 := x k+2 + 0; x k+1 := x k+1 + 1; + 1; }{{} (b := j) j mal x k+3 := x k (help := 0) END (end of while) Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

16 Beweis Turing-Mächtigkeit von WHILE-Programmen RAM vs. WHILE LOAD, STORE x i := x j + c für CLOAD, CADD, CSUB, c { 1, 0, 1} GOTO P 1 ; P 2 IF c(0) 0 GOTO WHILE x i 0 DO P END END Den RAM-Befehl END ersetzen wir durch das WHILE-Programm x k+1 = 0 Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

17 Beweis Turing-Mächtigkeit von WHILE-Programmen Jede Zeile des RAM-Programms wird nun wie oben beschrieben in ein WHILE-Programm transformiert. Das WHILE-Programm für Zeile i bezeichnen wir mit P i. Wir betten P i in ein WHILE-Programm P i mit der folgenden Semantik ein: Falls x k+1 = i dann führe P i aus. Wie kann man P i implementieren? Übung Implementiere jeweils ein WHILE-Programm für die folgenden Fallunterscheidungen. 1 Falls x l = 0 ist, führe P aus, ansonsten Q. 2 Falls x k+1 = i dann führe P i aus. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

18 Beweis Turing-Mächtigkeit von WHILE-Programmen Nun fügen wir die WHILE-Programme P 1,..., P l zu einem WHILE-Programm P zusammen: x k+1 := 1; WHILE x k+1 0 DO END P 1 ;... ; P l P berechnet dieselbe Funktion wie Π. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

19 Ausblick: Die Programmiersprache LOOP Syntax Änderung im Vergleich zu WHILE-Programmen: Wir ersetzen das WHILE-Konstrukt durch ein LOOP-Konstrukt der folgenden Form: LOOP x i DO P END, wobei die Variable x i nicht in P vorkommen darf. Semantik Das Programm P wird x i mal hintereinander ausgeführt. Frage Sind LOOP-Programme Turing-mächtig? Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

20 Ausblick: Die Programmiersprache LOOP Mächigkeit Problem Welche Funktionen können durch LOOP-Programme berechnet werden? Exkurs: Rekursionstheorie Die folgenden Inhalte über primitiv rekursive und µ-rekursive Funktionen sind nicht klausurrelevant. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

21 Wie definiert man eine Funktion? Hilbert [1916, Über das Unendliche]: Die elementaren Hilfsmittel zur Bildung von Funktionen sind offenbar die Einsetzung (d.h. Ersetzung eines Argumentes durch eine neue Variable oder Funktion) und die Rekursion (nach dem Schema der Ableitung des Funktionswertes für n + 1 aus demjenigen für n). Man könnte meinen, daß zu diesen beiden Prozessen der Einsetzung und Rekursion noch andere elementare Definitionsmethoden hinzugenommen werden müßten [...] Es zeigt sich jedoch, daß alle solche Definitionen sich als Spezialfälle der Anwendung von Einsetzungen und Rekursionen darstellen lassen. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

22 Die Klasse der primitiv rekursiven Funktionen f : N N Basisfunktionen Nullfunktionen: o(x 1,..., x k ) = 0 Projektionen: p i (x 1,..., x i,..., x k ) = x i Nachfolgerfunktion: s(n) = n + 1 für n N Induktive Definition primitiv rekursiver Funktionen Primitiv rekursiv sind: 1 Basisfunktionen 2 Kompositionen primitiv rekursiver Funktionen f (x 1,..., x k ) = h(g 1 (x 1,..., x k ),..., g n (x 1,..., x k )) 3 Primitive Rekursionen primitiv rekursiver Funktionen f (0, x 1,..., x k ) = g(x 1,..., x k ) f (n + 1, x 1,..., x k ) = h(f (n, x 1,..., x k ), n, x 1,..., x k ) Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

23 Die Klasse der primitiv rekursiven Funktionen f : N N Beispiel: Addition add : N 2 N add(0, x) = x add(n + 1, x) = s(p 1 (add(n, x), n, x)) bzw. s(add(n, x)) Induktive Definition primitiv rekursiver Funktionen Primitiv rekursiv sind: 1 Basisfunktionen (Null, Projektionen, Nachfolgerfunktion) 2 Kompositionen primitiv rekursiver Funktionen f (x 1,..., x k ) = h(g 1 (x 1,..., x k ),..., g n (x 1,..., x k )) 3 Primitive Rekursionen primitiv rekursiver Funktionen f (0, x 1,..., x k ) = g(x 1,..., x k ) f (n + 1, x 1,..., x k ) = h(f (n, x 1,..., x k ), n, x 1,..., x k ) Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

24 Beispiele primitiv rekursiver Funktionen Multiplikation mult : N 2 N Subtraktion sub : N 2 N mult(0, x) = 0 mult(n + 1, x) = add(mult(n, x), x) sub(x, 0) = x sub(x, y + 1) = u(sub(x, y)) wobei u durch u(0) = 0 und u(n + 1) = n definiert ist. Analog: Division, Exponentiation, Fakultät, Binomialkoeffizient, Cantorsche Paarungsfunktion,... Sind alle Funktionen primitiv rekursiv? Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

25 Mächtigkeit primitiv rekursiver Funktionen Vermutung von Hilbert (1926): Die Klasse der primitiv rekursiven Funktionen stimmt mit der Klasse der rekursiven (berechenbaren) Funktionen überein. Ackermann (1929): Diese Vermutung stimmt nicht! Folgende Funktion ist nicht primitiv rekursiv (Beweis am Freitag). Definition Die Ackermannfunktion A : N 2 N ist folgendermaßen definert: A(0, n) = n + 1 für n 0 A(m + 1, 0) = A(m, 1) für m 0 A(m + 1, n + 1) = A(m, A(m + 1, n)) für m, n 0 Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

26 Primitiv rekursive Funktionen und LOOP-Berechenbarkeit Satz Die Klasse der primitiv rekursiven Funktionen stimmt genau mit der Klasse der LOOP-berechenbaren Funktionen überein. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

27 Beweis: primitiv rekursiv LOOP-berechenbar Alle primitiv rekursiven Funktionen können als LOOP-Programm implementiert werden, denn Basisfunktionen sind offensichtlich LOOP-berechenbar Kompositionen primitiv rekursiver Funktionen werden durch Hintereinanderausführung der entsprechenden LOOP-Programme implementiert Und falls f durch primitive Rekursion definiert ist, d.h. in der Form f (0, x 1,..., x k ) = g(x 1,..., x k ) f (n + 1, x 1,..., x k ) = h(f (n, x 1,..., x k ), n, x 1,..., x k ) gegeben ist, verwenden wir das folgende LOOP-Programm: y := g(x 1,..., x k ); LOOP n DO y := h(y, n 1, x 1,..., x k ) END Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

28 Beweis: LOOP-berechenbar primitiv rekursiv Für die Umkehrrichtung benutzen wir eine bijektive Abbildung encode : N k N (z.b. die Cantorsche Tupelfunktion), um Modifikationen auf k Variablen als einstellige Funktion darzustellen. Man kann sich leicht veranschaulichen, dass die in der Übung vorgestellte Cantorsche Paarfunktion π : N 2 N mit ( ) x + y + 1 π(x, y) = + y 2 und ihre Erweiterung π (k) : N k N auf k-tupel natürlicher Zahlen durch primitiv rekursiv ist. π (k) (x 1,..., x k ) = π(π (k 1) (x 1,..., x k 1 ), x k ) Ebenso kann man die Umkehrfunktionen d i mit d i (encode(x 1,..., x i,..., x k )) = x i zum Dekodieren der einzelnen Elemente primitiv rekursiv definieren. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

29 Beweis: LOOP-berechenbar primitiv rekursiv Ein LOOP-Programm P der Form x i := x j ± c kann nun als primitiv rekursive Funktion g P (z) = encode(d 0 (z),..., d i 1 (z), d i (z)±c, d i+1 (z),..., d k (z)) geschrieben werden. Für die Hintereinanderausführung zweier Programme Q; R verwenden wir die Komposition g R (g Q (z)). Und LOOP x i DO Q END wird durch g LOOP (z) = h(d i (z), z) mit h(0, z) = z und h(n + 1, z) = g Q (h(n, z)) abgebildet. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

30 Primitiv rekursive Funktionen und LOOP-Berechenbarkeit Wir haben gezeigt: Satz Die Klasse der primitiv rekursiven Funktionen stimmt genau mit der Klasse der LOOP-berechenbaren Funktionen überein. Aber: Nicht alle Funktionen sind primitiv rekursiv. Wie sieht die Klasse der WHILE-/Turing-berechenbaren Funktionen aus? Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

31 µ-rekursive Funktionen Induktive Definition µ-rekursiver Funktionen µ-rekursiv sind: 1 Basisfunktionen (Nullfunktion, Projektionen, Nachfolgerfunktion) 2 Kompositionen µ-rekursiver Funktionen 3 Primitive Rekursionen µ-rekursiver Funktionen 4 µ-rekursionen µ-rekursiver Funktionen f (x 1,..., x k ) = µg := min{n g(n, x 1,..., x k ) = 0 wobei min{ } := und für alle m < n ist g(m, x 1,..., x k ) definiert}, Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

32 Turing-berechenbare Funktionen Satz Die Klasse der µ-rekursiven Funktionen stimmt genau mit der Klasse der WHILE-/TURING-berechenbaren Funktionen überein. Ein Programm P der Form WHILE x i 0 DO Q END wird als g P (z) = h(µ(d i h)(z), z) dargestellt, wobei h(n, z) wie im vorigen Beweis den Zustand der Programmvariablen z = encode(x 0,..., x k ) nach n Ausführungen von Q wiedergibt. Umgekehrt implementieren wir g = µf durch x 0 := 0; y := f (0, x 1,..., x n ); WHILE y 0 DO x 0 := x 0 + 1; y := f (x 0, x 1,..., x n ); END Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33

33 Zusammenfassung TM RAM WHILE µ-rekursiv LOOP primitiv rekursiv + a b x k ( n k )... Ackermannfkt. Berthold Vöcking, Informatik 1 () Vorlesung Berechenbarkeit und Komplexität 16. November / 33