Unterlagen zur Veranstaltung Algorithmen, Komplexität, Formale Sprachen WS 2005//06. Prof. Dr. R. Reischuk Institut für Theoretische Informatik

Transkript

1 Unterlagen zur Veranstaltung Algorithmen, Komplexität, Formale Sprachen Universität zu Lübeck WS 2005//06 Prof. Dr. R. Reischuk Institut für Theoretische Informatik Oktober

2 2 AKF, UzL WS2004/05 Empfohlene Lehrbücher N. Cutland, Computability, Cambridge University Press 1980 C. Smith, A Recursive Introduction to the Theory of Computation, Springer 1994 H. Rogers, Theory of Recursive Functions and Effective Computability, McGraw-Hill 1967 J. Hopcroft, R. Motwani, J. Ullman, Introduction to Automata Theory, Languages and Computation, Addison Wesley, 2. Edition 2001, deutsche Übersetzung: Einführung in die Automatentheorie, Formale Sprachen und Komplexitätstheorie, Addison Wesley 1994 A. Aho, J. Hopcroft, J. Ullman, Design and Analysis of Computer Algorithms, Addison Wesley 1978 J. Kleinberg, E. Tardos, Algorithm Design, Addison Wesley, 2005 T. Cormen, C. Leiserson, R. Rivest, Introduction to Algorithms, MIT Press 1990 T. Ottmann, P. Widmayer, Algorithmen und Datenstrukturen, Spektrum 2002 R. Reischuk, Komplexitätstheorie Band I: Grundlagen, Teubner 1998 M. Garey, D. Johnson, Computers and Intractability, Freeman, 1979 C. Papadimitriou, Computational Complexity, Addison Wesley 1994

3 R. Reischuk, ITCS 3 1 Berechenbarkeit 1.1 Notation IN = {0, 1, 2,... } die Menge der natürlichen Zahlen, IN n = IN... IN die Menge der n-tupel X = x 1,..., x n über den natürlichen Zahlen, Σ = {σ 1, σ 2,...} eine Menge von Symbolen, im folgenden Alphabet genannt, Σ die Menge der endlichen Worte a 1 a 2... a n über dem Alphabet Σ, n IN, a i Σ, Σ + Σ ohne das leere Wort λ der Länge 0, Φ S die Nachfolgerfunktion IN IN, x x + 1, Φ P die Vorgängerfunktion IN IN, 0 0, x + 1 x, Φ Z die Nullfunktion IN IN, x 0, Uj n die j-te Projektionsfunktion, 1 j n, IN n IN, x 1,..., x n x j sign die Signumfunktion 0 0, x > 0 1. Definition 1.1 Sind A, B zwei Mengen, so heißt eine Teilmenge R A B eine Relation. Eine Relation heißt (partielle) Funktion von A nach B, falls es für alle a A höchstens ein b B gibt mit (a, b) R. Statt (a, b) R schreibt man auch f(a) = b, wobei f als Symbol für die partielle Funktion dient. Falls für a ein b existiert, so daß (a, b) R, so nennt man f an der Stelle a definiert (oder auch konvergent, Notation f(a) ). Andernfalls ist f nicht definiert an der Stelle a (oder auch divergent, Notation f(a) ). Damit können wir die folgenden Mengen definieren: Definitionsbereich: dom(f) := {a f(a) }, Wertebereich: ran(f) := {b a A mit f(a) = b}. Eine Funktion f : A B mit dom(f) = A heißt total. Ist A = A 1 A 2... A n n -faches kartesisches Produkt, so ist f eine n -stellige Funktion. ein Eine Teilmenge P A nennt man auch Prädikat. Die Funktion χ P : A {0, 1}, definiert durch { 1, falls a P, χ P (a) := 0, falls a / P, heißt die charakteristische Funktion von P. Wir betrachten im Folgenden zunächst nur Funktionen IN n IN.

4 4 AKF, UzL WS2004/ Prädikatenlogik Die Aussagenlogik benutzt nur atomare Prädikate, die durch Boolesche Operatoren verknüpft werden können. Bei der Frage der Erfüllbarkeit einer solchen Formel haben wir die atomaren Prädikate als Boolesche Variable interpretiert. Die Prädikatenlogik 1. Stufe, eine Verallgemeinerung der Aussagenlogik, verwendet zusätzlich Variable, die Werte aus einem beliebigen Universum U (z.b. IN oder IR ) annehmen können und über die quantifiziert werden kann. Zusätzlich können wir Funktionen über U verwenden. Definition 1.2 Syntax Gegeben sei ein ein Alphabet Σ, welches in die folgenden paarweise disjunkten Mengen von Symbolen (auch Zeichen genannt) unterteilt ist: eine Menge V = { u, v, w, x, y,... } von Variablen, eine Menge F = { f, g, h,... } von Funktionssymbolen, eine Menge Π = { P, Q, R,... } von Prädikatssymbolen, Konnektoren,,, Quantoren,, Hilfszeichen (, ), [, ]. Eine Signatur ist eine Abbildung α : F Π IN, die den Funktions- und Prädikatssymbolen des Alphabets Σ eine Stelligkeit (die Anzahl der Argumente) zuordnet. Für n IN bezeichnet F n := { f F α(f) = n } die Menge der n -stelligen Funktionszeichen und Π n := { p Π α(p) = n } die Menge der n -stelligen Prädikatszeichen. Ein nullstelliges Prädikatszeichen p Π 0 heißt auch Aussagenvariable, während nullstellige Funktionssymbole Konstanten genannt werden, die wir mit a, b, c,... bezeichnen. Die Menge T der Terme über V F ist induktiv definiert durch: Jedes Element aus V F 0 ist ein Term. Für f F n mit n 1 und Terme t 1,..., t n ist auch f(t 1,..., t n ) ein Term. Für p Π n und Terme t 1,..., t n heißt p(t 1,..., t n ) atomare Formel oder Atom. Die Menge der prädikatenlogische Formeln über Σ, PF Σ konstruiert: wird induktiv wie folgt Jede atomare Formel p gehört zu PF Σ. Die Variablen, die in p vorkommen, heißen freie Variablen.

5 R. Reischuk, ITCS 5 Sind F, G prädikatenlogische Formeln und x eine Variable, dann sind auch (F G), (F G), ( F ) sowie ( x F ) und ( x F ) Formeln. Ist G =... (Q x H)... eine prädikatenlogische Formel mit einer quantifizierten Teilformel (Q x H), wobei Q {, }, dann heißt der Bereich von H, der verbleibt, wenn Subformeln der Gestalt (Q x H ) aus H entfernt werden, der Bindungsbereich von Qx. Eine Variable x heißt gebunden, wenn sie im Bindungsbereich eines Quantors liegt, andernfalls frei. Eine prädikatenlogische Formel ohne freie Variable heißt geschlossen. Betrachten wir beispielsweise die Formel x[ F (x) (( yg(y)) ( z H(x, y, z))) ], so ist die einzig freie Variable das 2. Auftreten von y in der Teilformel H. Definition 1.3 Semantik Eine Struktur ist ein Paar A = ( U A, I A ), wobei U A eine beliebige nichtleere Menge ist, die die Grundmenge von A oder das Universum genannt wird. I A beschreibt eine Abbildung (Interpretation) definiert auf einer Teilmenge V Π F V Π F, die jedem k -stelligen Prädikatssymbol p Π ein k -stelliges Prädikat p A = I A (p) über U A, jedem k -stelligen Funktionssymbol f F eine k -stellige Funktion f A = I A (f) auf U A und jeder Variablen x V ein Element x A = I A (x) aus der Grundmenge U A zuordnet. Sei F eine Formel und A eine zu F passende Struktur. Für jeden Term t, der in F vorkommt, ist der Wert A(t) von t in der Struktur A wie folgt definiert: Falls t eine Variable ist, so sei A(t) := x A. Falls t die Form t = f(t 1,..., t k ) hat mit Termen t 1,..., t k und einem k -stelliges Funktionssymbol f, so ist A(t) := f A (A(t 1 ),..., A(t k )). Damit können wir den Wahrheitswert A(F ) von F unter der Struktur A wie folgt definieren: Falls F die Form F = p(t 1,..., t k ) hat für Terme t 1,..., t k und p ein k -stelliges Funktionssymbol, so ist A(F ) := { 1 falls p A (A(t 1 ),..., A(t k )) = 1, 0 sonst.

6 6 AKF, UzL WS2004/05 Falls F die Form G, (G H) oder (G H) besitzt, so verfahren wir analog zur Semantik der Aussagenlogik. Falls F = x G, so sei A(F ) := { 1 falls für alle a UA gilt: A(G [x:=a] ) = 1, 0 sonst,. wobei G [x:=a] aus G entsteht, indem alle Vorkommnisse von x im Bindungsbereich von x durch die Konstante a ersetzt werden. Falls F = x G, so sei A(F ) = { 1 falls es ein a UA gibt mit: A(G [x:=a] ) = 1, 0 sonst.. Kommt eine Variable x nicht frei in der Formel G vor, so macht eine Quantifizierung x G oder x G offensichtlich keinen Sinn. Man kann das Problem des Bindungsbereichs eines Quantors dadurch entschärfen, daß verlangt wird, daß alle Vorkommnisse von x in G frei sind, mit anderen Worten, x darf innerhalb von G an keiner Stelle bereits durch Quantoren gebunden sein. Dies kann gegebenenfalls durch Umbennung der Variablen erreicht werden. Formeln, bei denen jedes Variablensymbol höchstens einmal mit einem Quantor kombiniert wird, sind leichter lesbar. Eine besonders einfache Darstellung ist die Pränex-Normalform, bei der alle Quantoren am Anfang der Formel stehen. Allerdings würden diese Einschränkungen die Definition der Menge aller prädikatenlogischer Formeln verkomplizieren. Beispiel 1.1 Äquivalenzen in der Prädikatenlogik Es seien F und G beliebige prädikatenlogische Formeln. Dann sind unter anderem folgende Umformungen zulässig. 1. Alle für die Aussagenlogik bewiesenen Äquivalenzen gelten auch in der Prädikatenlogik. 2. ( x F ) x ( F ) ( x F ) x ( F ) 3. Falls x in G nicht frei vorkommt, gelten die Umformungen: ( x F ) G x (F G) ( x F ) G x (F G) ( x F ) G x (F G) ( x F ) G x (F G)

7 R. Reischuk, ITCS 7 4. ( x F ) ( x G) x (F G) ( x F ) ( x G) x (F G) 5. x ( y F ) y ( x F ) x ( y F ) y ( x F ) Quantoren haben höhere Priorität als die Booleschen Operatoren, so daß man oftmals auf Klammern verzichten kann. Bei gleichen Quantoren, die aufeinanerfolgen, wird auch die verkürzte Schreibweise Q x y z F anstelle von Q x Q y Q z F = Q x (Q y (Q z F )) verwendet. Folgende Transformationen sind im allgemeinen nicht korrekt: ( x F ) ( x G) x (F G) x ( y F ) y ( x F ) Von Interesse sind auch Einschränkungen sowie Erweiterungen dieses prädikatenlogischen Formalismus. Die Monadische Prädikatenlogik verwendet nur 1-stellige Prädikatssymbole und keinerler Funktionssymbole. Die Prädikatenlogik der 2. Stufe erlaubt eine Quantifizierung auch über Prädikatsund Funktionssymbole. 1.3 LOOP- und WHILE-Programme Definition 1.4 Die Programmiersprache LOOP: Die Syntax der Programmiersprache LOOP ist gegeben durch: Variablen: x 1, x 2, x 3,..., Symbole: 0, Φ S, Φ P, :=, ;, (, ), loop, do, od, Wertzuweisungen: < Variable > := 0 / < Variable > / Φ S (< Variable >) / Φ P (< Variable >), Programme: < Wertzuweisung > / < Programm >; < Programm > / loop < Variable > do < Programm > od. Das Programm loop x do Π od bewirkt, daß Π so oft ausgeführt wird, wie der Wert der Variable x vor Beginn des Programmes angibt (d.h. spätere Änderungen von x innerhalb von Π haben keinen Einfluß). LOOP-Programme terminieren für jede Eingabe.

8 8 AKF, UzL WS2004/05 LOOP n bezeichne die Menge aller LOOP-Programme, bei denen nur Variablen mit Indizes kleiner oder gleich n auftreten. Ist Π ein LOOP-Programm aus LOOP n, so bezeichne Φ Π i (x 1,..., x n ) die n -stellige Funktion, die dem Argument x 1,..., x n den Wert der Variablen x i zuordnet, den x i in Π bei Eingabe x 1,..., x n nach Beendigung des Programmes besitzt. Definition 1.5 Eine n-stellige Funktion f : IN n IN heißt LOOP-berechenbar, wenn es ein Programm Π LOOP m mit m n gibt, so daß für alle x 1,..., x n gilt: f(x 1,..., x n ) = Φ Π 1 (x 1,..., x n, 0,..., 0). }{{} m n Die Variablen x m+1,..., x m dienen dem Programm Π als Hilfsvariablen zur Berechnung von f, welche mit 0 initialisiert sind. Wird die Funktion f durch Π berechnet, so auch ihre m -stellige Erweiterung f definiert durch f(x 1,..., x m ) := Φ Π 1 (x 1,..., x m ). Beispiele für LOOP-berechenbare Funktionen sind die Addition zweier natürlicher Zahlen, die Subtraktion, Multiplikation, die ganzzahlige Division, Exponentialfunktionen, das Prädikat ist Primzahl und noch viele weitere Funktionen. Erstaunlicherweise ist es gar nicht einfach, eine totale Funktion auf den natürlichen Zahlen zu finden, die in diesem Sinne nicht berechenbar ist. Dennoch reicht diese Begriffsbildung nicht aus, um alle Funktionen, die durch Maschinen berechnet werden können, zu charakterisieren, und zwar zunächst auf einem ganz simplen Grund. Bekanntermaßen haben manche Programme die in der Regel unerwünschte Eigenschaft, nicht zu terminieren. Definition 1.6 Die Programmiersprache WHILE: Ihre Syntax unterscheidet sich von der der LOOP-Sprache im wesentlichen dadurch, daß anstelle einer LOOP-Schleife folgende Konstruktion von Programmen möglich ist: while < Variable > 0 do < Programm > od. Das Programm while x 0 do Π od führt Π so lange aus, bis die Variable x den Wert 0 erhalten hat. Man beachte, daß es vorkommen kann, daß ein WHILE-Programm Π für bestimmte Eingaben X nicht terminiert. In diesem Fall sind die Ergebnisfunktionen Φ Π j (X) nicht definiert.

9 R. Reischuk, ITCS 9 Definition 1.7 Eine n -stellige partielle Funktion f : IN n IN heißt WHILE-berechenbar, wenn ein Programm Π WHILE m, m n, existiert, so daß für alle x 1,..., x n, für die f definiert ist, f(x 1,..., x n ) = Φ Π 1 (x 1,..., x n, 0,..., 0) }{{} m n und für die x 1,..., x n, für die f x 1,..., x n nicht terminiert. nicht definiert ist, das Programm Π auf Eingabe Man kann jede LOOP-Schleife durch eine WHILE-Schleife ersetzen und zwar so, daß sich das Ein-Ausgabe-Verhalten des Programmes nicht ändert (eine leichte Programmierübung). Andererseits kann man leicht WHILE-Programme angeben, die nicht terminieren. Somit gilt: Lemma 1.1 Die Menge der LOOP-berechenbaren Funktionen ist eine echte Teilmenge der Menge der WHILE-berechenbaren Funktionen. Daß es jedoch auch totale Funktionen gibt, die nicht LOOP-berechenbar sind, werden wir später noch sehen. 1.4 Rekursion und primitive Rekursion Definition 1.8 Das Kompositionsschema erzeugt aus einer m -stelligen Funktion g und m n -stelligen Funktionen f 1,..., f m eine n -stellige Funktion f durch f(x) := g(f 1 (X),..., f m (X)) für X IN n. Dabei ist f an der Stelle X genau dann definiert, wenn alle f i (X) definiert sind und g für das Argument f 1 (X),..., f n (X) definiert ist. Sind g und die f i totale Funktionen, so gilt dies offensichtlich auch für f. Definition 1.9 Das Rekursionsschema (Schema der primitiven Rekursion) erzeugt aus einer n -stelligen Funktion g und einer (n + 2) -stelligen Funktion h eine (n + 1) -stellige Funktion f durch f(x, 0) := g(x), f(x, y + 1) := h(x, y, f(x, y)) für X IN n, y IN. f(x, y + 1) ist genau dann definiert, wenn f(x, y) definiert ist sowie h an der Stelle (X, y, f(x, y)).

10 10 AKF, UzL WS2004/05 Allgemeiner kann man eine simultane Rekursion für Funktionen f 1,..., f m mit Hilfe von Funktionen g i und (n + m + 1) -stelligen Funktionen h i, i [1..m], betrachten: f i (X, 0) := g i (X), f i (X, y + 1) := h i (X, y, f 1 (X, y),..., f m (X, y)) für i [1..m]. Mit Hilfe von Bijektionen zwischen IN n und IN läßt sich zeigen, daß die simultane Rekursion auf die primitive Rekursion zurückgeführt werden kann. Definition 1.10 Die Menge PR der primitiv-rekursiven Funktionen besteht aus den Funktionen, die sich aus der Menge der Ausgangsfunktionen Φ S, Φ P, Φ Z, Uj n durch endlich viele Anwendungen des Kompositions- und des Rekursionsschemas erzeugen lassen. Da die Ausgangsfunktionen total sind, ist jede primitiv-rekursive Funktion total. Die oben genannten arithmetischen und viele weitere Funktionen sind primitiv-rekursiv. Beispiel ) Addition: Die durch Komposition von Elementarfunktionen erzeugte 3-stellige Funktion h 1 (x 1, x 2, x 3 ) = Φ S (U 3 3 (x 1, x 2, x 3 )) = x ist nach Definition primitiv-rekursiv. Dann können wir die Addition durch das folgende primitive Rekursionsschema erzeugen: ADD(x, 0) = U 1 1 (x) ADD(x, y + 1) = h 1 (x, y, ADD(x, y)) 2.) Multiplikation: Durch Komposition erhalten wir eine Funktion h 2, welche dann die Grundlage für eine primitive Rekursion bildet: h 2 (x 1, x 2, x 3 ) = ADD(U1 3 (x 1, x 1, x 3 ), U3 3 (x 1, x 2, x 3 )) = x 1 + x 3 MUL(x, 0) = Φ Z (x) MUL(x, y + 1) = h 2 (x, y, MUL(x, y)) 3.) Vorgänger-Funktion Φ P 4.) positive Substraktion ( ) Φ P (0) = 0 = Φ Z Φ P (y + 1) = U1 2 (y, Φ P (y)) SUB(x, 0) = U 1 1 (x) SUB(x, y + 1) = Φ P (U 3 3 (x, y, SUB(x, y))

11 R. Reischuk, ITCS 11 5.) Absolutbetrag x y = ADD(SUB(x, y), SUB(y, x)) = (x y) + (y x) 6.) Signum Funktion sign(x) = x Φ P (x) 7.) Identität ɛ(x, y) = sign( x y ) Ungleichheit ɛ(x, y) = sign( x y ) 8.) Summe F (x 1,..., x n, y) := z y f(x 1,..., x n, z) F (x 1,..., x n, y + 1) = f(x 1,..., x n, y + 1) + F (x 1,..., x n, y) Analog lassen sich Produkte darstellen. 9.) beschränkte Minimalisierung = ADD ( f(u1 n+2 (x 1,..., y, F (x 1,..., y)),..., Un n+2 (x 1,..., y, F (x 1,..., y))), Φ S (Un+1 n+2 (x 1,..., y, F (x 1,..., y)))), Un+2 n+2 (x 1,..., y, F (x 1,..., y)) ) { min{i y g(x1,..., x f(x 1,..., x n, y) = n, i) = 0} falls i existiert, y + 1 sonst. = i [ɛ(0, g(x 1,..., x n, i))] ɛ(0, g(x 1,..., x n, j)) i y j<i + (y + 1) ɛ(0, g(x 1,..., x n, j)) j y Definition 1.11 Ein Prädikat P über IN heißt primitiv-rekursiv, wenn seine charakteristische Funktion χ P primitiv-rekursiv ist. Beispiel für ein solches Prädikat ist die Primzahleigenschaft. Definition 1.12 Das µ Schema, angewandt auf eine (n + 1) -stellige partielle Funktion h, erzeugt eine n -stellige partielle Funktion f auf folgende Weise: für X IN n und z IN sei h(x, y) ist definiert für alle y z, f(x) = z h(x, y) > 0 für alle y < z und h(x, z) = 0. Der Funktionswert von f an der Stelle X ist somit das kleinste y, so daß (X, y) eine Nullstelle von h ist; dafür wird die folgende Notation mit Hilfe des µ -Operators benutzt:. f(x) = (µy) [h(x, y) = 0].

12 12 AKF, UzL WS2004/05 Definition 1.13 Die Menge R der partiell-rekursiven Funktionen besteht aus den Funktionen, die sich aus der Menge der Ausgangsfunktionen Φ S, Φ P, Φ Z, Uj n durch endlich viele Anwendungen von Kompositions-, Rekursions- und µ -Schema bilden lassen. Die totalen partiell-rekursiven Funktionen heißen rekursive Funktionen und werden mit R 0 bezeichnet. Durch das µ Schema können auch nichttotale Funktionen erzeugt werden, z.b. die nirgends definierte Funktion, wenn man für h eine Funktion ohne Nullstellen wählt etwa h(x, y) = Φ S (y), so daß aus der Definition unmittelbar folgt: Lemma 1.2 PR R 0 R. Ob die Menge R auch totale Funktionen enthält, die nicht primitiv-rekursiv sind, werden wir noch untersuchen. Auf Grund der Definition von R darf der µ Operator beliebig endlich oft angewandt werden, um neue partiell-rekursive Funktionen zu erzeugen. Man kann jedoch zeigen, daß eine einmalige Anwendung bereits hinreichend ist. Genauer, kann man ganz R mit Hilfe zweier primitiv-rekursiver Funktionen und einem µ Operator erzeugen. Den Beweis können wir an dieser Stelle mit unseren bislang erarbeiteten technischen Hilfsmitteln noch nicht ausführen, wir werden ihn später führen. Theorem 1.3 (Kleensche Normalform) Für jedes n gibt es 2 primitiv-rekursive (n + 2) -stellige Funktionen Ψ n, Υ n, so daß man zu jeder n -stelligen partiell-rekursiven Funktion f eine Zahl e, einen Programm-Index von f, finden kann mit der Eigenschaft f(x) = Ψ n( e, X, (µy) [Υ n (e, X, y) = 0] ). 1.5 Vergleich von Programm- und Rekursionsschemata Theorem 1.4 Die Menge LOOP der LOOP-berechenbaren Funktionen und die Menge PR der primitiv-rekursiven Funktionen sind identisch. Beweis: Per Induktion über den Aufbau der Programme bzw. der Rekursionsschemata: Bei den primitiv-rekursiven Funktionen sei PR 0 die Menge der Ausgangsfunktionen, und für k = 0, 1,... sei PR k+1 die Menge der Funktionen, die sich aus denen in PR k durch einmalige Anwendung des Kompositions- oder Rekursionsschemas bilden lassen. Es gilt: PR 0 PR 1 PR 2... PR. Für LOOP-Programme Π definieren wir ein Maß, die Länge l(π), folgendermaßen:

13 R. Reischuk, ITCS 13 l(π) := 1, falls Π eine Wertzuweisung ist; l(π 1 ; Π 2 ) := l(π 1 ) + l(π 2 ) ; l( loop x do Π od) := l(π) + 1. l(π) entspricht in etwa der Anzahl der Programmzeilen, wenn man LOOP-Programme in geeigneter Weise notiert. 1.) Primitiv-rekursiv = LOOP-berechenbar: Durch Induktion über k zeigen wir, daß es zu jeder Funktion f aus PR k Programm gibt, das f berechnet: ein LOOP- Induktionsanfang für k = 0 : Man sieht leicht, daß die Ausgangsfunktionen LOOPberechenbar sind. Induktionsschritt: Die Behauptung gelte für PR k. i) Falls eine Funktion f PR k+1 mit Hilfe des Kompositionsschemas erzeugt worden ist, etwa f(x) = g(f 1 (X),..., f m (X)) mit g, f 1,..., f m PR k, so stellt das folgende ein LOOP-Programm zur Berechnung von f dar. Dabei bezeichne < z i := f i (X) > ein LOOP-Programm Π i zur Berechnung von f i, welches am Schluß der Variablen z i das Ergebnis zuweist. Die z i sind dabei neue Variable, die ansonsten in den Π j nicht vorkommen. Außerdem ist darauf zu achten, daß die Werte der Variablen in X nicht in den Π j verändert werden, gegebenenfalls durch Verwendung zusätzlicher Hilfsvariablen. < z 1 := f 1 (X) >. < z m := f m (X) >; < x 1 := g(z 1,..., z m ) >. ii) Entsteht f durch Anwendung des Rekursionsschemas f(x, 0) = g(x) f(x, y + 1) = h(x, y, f(x, y)) aus Funktionen g, h PR k, so leistet das folgende Programm das Gewünschte, wobei u, z neue Variable sind, die ansonsten in den Programmen für g und h nicht verändert werden: u := 0; < z := g(x) >; loop y do < z := h(x, u, z) > ; u := Φ S (u) od ; x 1 := z

14 14 AKF, UzL WS2004/05 Man sieht die Korrektheit leicht mit Hilfe der folgenden Invarianten: für alle i 0 gilt: in der der LOOP-Schleife hat die Variable z nach i -maligem Durchlauf des Rumpfes den Wert f(x, i). 2.) LOOP-berechenbar = primitiv-rekursiv: Durch Induktion über k soll nun gezeigt werden, daß alle durch Programme Π mit Länge l(π) k berechneten Funktionen primitiv-rekursiv sind. Sei Π LOOP n und Φ Π 1 (X) die von Π berechnete n -stellige Funktion. Wir zeigen die stärkere Aussage, daß für jedes j [1..n] die Funktion Φ Π j (X) primitiv-rekursiv ist. Induktionsanfang für k = 1 : Offensichtlich werden durch Wertzuweisungen nur primitivrekursive Funktionen berechnet. Induktionsschritt: Die Behauptung gelte für k. Jedes Programm Π der Länge k + 1 wird auf eine der folgenden beiden Arten generiert: i) Π = Π 1 ; Π 2 mit l(π i ) k : Die Funktionen Φ Π i j sind nach Annahme primitiv-rekursiv. Die Funktionen Φ Π j lassen sich dann in einfacher Weise durch das folgende Kompositionsschema darstellen: Φ Π j (X) = Φ Π 2 j (Φ Π 1 1 (X),..., Φ Π 1 n (X)). ii) Π = loop y do Π od mit l(π ) k : Wir können annehmen, daß die LOOP-Variable y nicht im Schleifenrumpf Π vorkommt, ohne dadurch die Berechenbarkeit durch LOOP-Programme einzuschränken. Nach Voraussetzung sind die Funktionen Φ Π j primitiv-rekursiv. Die Funktionen Φ Π j für die Variablen X = x 1,..., x n in Π lassen sich dann durch das folgende simultane Rekursionsschema erzeugen: Φ Π j (X, 0) = U n j (X), Φ Π j (X, y + 1) = Φ Π j (Φ Π 1 (X, y),..., Φ Π n (X, y)), wobei wir aus Gründen der Lesbarkeit in der zweiten Zeile auf die Spezifikation der Projektionsfunktionen verzichten. Wie bereits bemerkt, läßt sich dies Schema durch eine geeignete Kodierung auf den Fall der primitiven Rekursion zurückführen. Theorem 1.5 Die Menge WHILE der WHILE-berechenbaren Funktionen und die Menge R der partiell-rekursiven Funktionen stimmen überein. Beweis: Ähnlich wie oben mit den folgenden Ergänzungen:

15 R. Reischuk, ITCS 15 1.) Das µ Schema liefert wieder eine WHILE-berechenbare Funktion: Sei h partiell-rekursiv und WHILE-berechenbar und die Funktion f definiert durch Dann berechnet das Programm y := 0; < z := h(x, y) >; f(x) = (µy) [h(x, y) = 0]. while z 0 do y := Φ S (y) ; < z := h(x, y) > od x 1 := y die Funktion f(x), wobei y, z neue Variablen sind. Das Programm terminiert genau dann, wenn f(x) definiert ist. Somit ist f WHILE-berechenbar. 2.) Durch Anwendung der WHILE-Konstruktion werden wieder partiell-rekursive Funktionen berechnet: Die im Programm Π WHILE n berechneten Funktionen Φ Π j (X) für die Variablen x j für j [1..n] seien partiell-rekursiv. Betrachte nun ein Programm Π = while x i 0 do Π od. Analog wie oben definiert das simultane Rekursionsschema ψ j (X, 0) = U n j (X), ψ j (X, y + 1) = Φ Π j (ψ 1 (X, y),..., ψ n (X, y)) partiell-rekursive Funktionen ψ j, wobei ψ j (X, y) der Wert der Variablen x j ist, falls der Rumpf Π ausgehend von der Anfangsbelegung X genau y -mal durchlaufen wird. Die Funktion ζ i, definiert durch ζ i (X) = (µy) [ψ i (X, y) = 0], gibt die minimale Anzahl Iterationen von Π an, bis x i den Wert 0 erhält, falls dies innerhalb von endlich vielen Schritten passiert. Also besitzen die von Π berechneten Funktionen Φ Π j (X) mit Hilfe der partiell-rekursiven Funktionen ψ j und ζ i die partiell-rekursive Darstellung Φ Π j (X) = ψ j (X, ζ i (X)). Wir wollen jetzt zeigen, daß es totale Funktionen in R gibt, die nicht primitiv-rekursiv sind, d.h. PR R 0, oder in der Sprache der Programm-Berechenbarkeit ausgedrückt: Theorem 1.6 Es gibt totale WHILE-berechenbare Funktionen, die nicht LOOP-berechenbar sind.

16 16 AKF, UzL WS2004/05 Beweis: Es sei f(n) die größte Zahl, die von einem LOOP-Programm der Länge höchstens n auf Eingabe X = 0 als Wert von x 1 ausgegeben wird. Diese Funktion ist total und wächst streng monoton, wie man sich leicht überlegt. Den Nachweis, daß f WHILEberechenbar ist, werden wir später noch führen. Wir beweisen indirekt durch Widerspruch, daß f nicht LOOP-berechenbar ist. Andernfalls wäre auch die Funktion g(n) := f(2n) LOOP-berechenbar, etwa durch ein Programm Π 0 der Länge k. Betrachte das Programm Π h = x 1 := Φ S (x 1 ) ;... ; x 1 := Φ S (x 1 ) ; Π 0 }{{} (h+1) mal der Länge h + k + 1, das bei Eingabe X = 0 den Wert g(h + 1) = f(2h + 2) berechnet. Wählt man h = k + 1, so ist Π h ein LOOP-Programm der Länge höchstens 2h, das die Zahl f(2h + 2) > f(2h) berechnet. Dies ist jedoch nach Definition von f nicht möglich; also muß unsere Annahme, daß f LOOP-berechenbar ist, falsch sein. Ein konkretes Beispiel einer rekursiven Funktion, die nicht durch das primitive Rekursionsschema erzeugt werden kann, ist die Ackermann-Funktion: A(0, y) := y + 1, A(x + 1, 0) := A(x, 1), A(x + 1, y + 1) := A(x, A(x + 1, y)). Diese Funktion wird durch eine geschachtelte Rekursion definiert, die sich zwar mit Hilfe des µ -Operators auflösen läßt, nicht aber in das primitive Rekursionsschema transformiert werden kann. Die Ackermann-Funktion wächst extrem schnell, schneller als jede primitivrekursive Funktion. Sind nun alle Funktionen auf den natürlichen Zahlen WHILE-berechenbar? Es gibt unendlich viele verschiedene Programme, die man, wie wir später noch sehen werden, aufzählen kann. Daher ist die Mächtigkeit der Menge der WHILE-berechenbaren Funktionen abzählbar. Andererseits gibt es überabzählbar viele Funktionen von IN nach IN. Somit ergibt sich die Schlußfolgerung: Theorem 1.7 Es gibt totale Funktionen, die nicht WHILE-berechenbar sind, d.h. die Menge R der partiell-rekursiven Funktionen enthält nicht alle mathematischen Funktionen.