Berechenbarkeit und Komplexität Vorlesung 2

Transkript

1 Berechenbarkeit und Komplexität Vorlesung 2 Prof. Dr. Wolfgang Thomas Lehrstuhl Informatik 7 RWTH Aachen 17. Oktober 2014 Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

2 Rückblick: Vier Typen von Algorithmen Algorithmen zur Berechnung partieller Funktionen Algorithmen zur Berechnung totaler Funktionen Entscheidungsalgorithmen (zur Bestimmung der Mitgliedschaft von Wörten in Sprachen) Aufzählungsalgorithmen (zur Erzeugung der Elemente von Sprachen) Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

3 Die Kernfrage Welche Funktionen sind berechenbar? Welche Mengen sind entscheidbar, welche aufzählbar? Wenn man für eine Funktion f einen Algorithmus angibt, dann ist die Berechenbarkeit klar. Wie kann man nachweisen, dass eine Funktion f nicht berechenbar ist? Man muss gegen alle denkbaren Algorithmen argumentieren. Wie kann man sich einen Überblick über alle denkbaren Algorithmen verschaffen? Dies ist eine Kernfrage der Informatik. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

4 Alan Turing ( ) Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

5 Aus Turings Arbeit von 1936 Computing is normally done by writing certain symbols on paper. We may suppose this paper is divided into squares like a child s arithmetic book. In elementary arithmetic the two-dimensional character of paper is sometimes used. But such a use is always avoidable, and I think that it will be agreed that the two-dimensional character of paper is no essential of computation. I assume then that the computation is carried out on one-dimensional paper, i.e. on a tape divided into squares. The behaviour of the computer at any moment is determined by the symbols which he is observing, and his state of mind at that moment. We may suppose that there is a bound B to the number of symbols or squares which the computer can observe at one moment. [...] If he wishes to observe more, he must use successive observations. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

6 We will also suppose that the number of states of mind which need be taken into account is finite. [...] If we admitted an infinity of states of mind, some of them will be arbitrarily close and will be confused. Again, the restriction is not one which seriously affects computation, since the use of more complicated states of mind can be avoided by writing more symbols on the tape. Let us imagine the operations performed by the computer to be split up into simple operations which are so elementary that it is not easy to imagine them further divided. Every such operation consists of some change of the physical system consisting of the computer and his tape. We know the state of the system if we know the sequence of symbols on the tape, which of these are observed by the computer (possibly with a special order), and the state of mind of the computer. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

7 Definition der Turingmaschine (TM) Komponenten einer TM Q, die endliche Zustandsmenge Σ, das endliche Eingabealphabet Γ Σ, das endliche Bandalphabet B Γ\Σ, das Leerzeichen (Blank) q 0 Q, der Anfangszustand q Q, der Endzustand δ : (Q \{ q}) Γ Q Γ {R,L,N}, die Zustandsüberführungsfunktion Eine TM ist definiert durch das 7-Tupel (Q,Σ,Γ,B,q 0, q,δ). Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

8 Funktionsweise der TM Ausgangssituation auf dem Band steht die Eingabe w Σ eingerahmt von Blanks der initiale Zustand ist q 0 der Kopf steht über dem ersten Symbol von w Nummerierung der Zellen des Bandes die initiale Kopfposition wird als Position 0 bezeichnet bewegt sich der Kopf einen Schritt nach rechts erhöht sich die Position um 1 bewegt sich der Kopf um einen Schritt nach links erniedrigt sich die Position um 1 Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

9 Funktionsweise der TM Durchführung eines Rechenschrittes a Γ bezeichne das gelesene Symbol q Q \{ q} bezeichne den aktuellen Zustand es sei δ(q,a) = (q,a,d), für q Q,a Γ,d {R,L,N} dann wird der Zustand auf q gesetzt an der Kopfposition wird das Symbol a geschrieben der Kopf um eine Position nach rechts falls d = R bewegt sich um eine Position nach links falls d = L nicht falls d = N Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

10 Funktionsweise der TM Ende der Rechnung die TM stoppt, wenn sie den Endzustand q erreicht das Ausgabewort w Σ kann dann vom Band abgelesen werden: w beginnt an der Kopfposition und endet unmittelbar vor dem ersten Symbol aus Γ\Σ Spezialfall: wenn wir es mit Entscheidungsproblemen zu tun haben, wird die Antwort wie folgt als JA oder NEIN interpretiert: die TM akzeptiert das Eingabewort, wenn sie terminiert und das Ausgabewort mit einer 1 beginnt die TM verwirft das Eingabewort, wenn sie terminiert und das Ausgabewort nicht mit einer 1 beginnt Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

11 Begriffe TM-berechenbar, TM-entscheidbar Definition Eine Funktion f : Σ Σ heißt rekursiv (TM-berechenbar), wenn es eine TM gibt, die bei Eingabe x immer terminiert und dann als Ausgabe den Wert f(x) liefert. Definition Eine partielle Funktion f : Σ Σ heißt rekursiv (partiell rekursiv, TM-berechenbar), wenn es eine TM gibt, die bei Eingabe x genau dann terminiert, wenn x Def(f), und in diesem Falle bei Terminierung als Ausgabe den Wert f(x) liefert. Definition Eine Sprache L Σ heißt rekursiv (TM-entscheidbar), wenn es eine TM gibt, die für alle Eingaben terminiert und die Eingabe w genau dann akzeptiert, wenn w L ist. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

12 Aufzählungs-TM, Begriff TM-aufzählbar Eine Aufzählungs-TM über Σ ist eine TM der Form (Q,Σ,Γ,B,q 0, q,q out,δ), bei der das Alphabet Σ nur als Ausgabealphabet verwendet wird, der Zustand q out als Ausgabezustand dient, bei dessen Erreichen jeweils das Wort ausgegeben wird, das an der Kopfposition beginnt und unmittelbar vor dem ersten Symbol aus Γ\Σ endet. Eine solche TM zählt die Menge derjenigen Wörter auf, die nach Starten auf dem leeren Band sukzessiv als Ausgabe geliefert werden. Eine Sprache heißt rekursiv aufzählbar, wenn es eine Aufzählungs-TM gibt, die die Sprache L aufzählt. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

13 Beispiel Sei L = {w1 w {0,1} }. Wir finden eine TM, die L entscheidet. Verbale Beschreibung des Programms: Solange ein Symbol aus {0,1} gelesen wird überschreibe das Symbol mit B, bewege den Kopf nach rechts, und gehe in den Zustand q 0, wenn das Symbol eine 0 war, sonst in den Zustand q 1 Sobald ein Blank gelesen wird, so akzeptiere die Eingabe, falls der aktuelle Zustand q 1 ist, und verwirf die Eingabe ansonsten. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

14 Genaue Definition L wird entschieden durch die TM M = (Q,Σ,Γ,B,q 0, q,δ) mit Q = {q 0,q 1, q} Σ = {0,1} Γ = {0,1,B} δ gemäß Tabelle δ 0 1 B q 0 q 1 accept steht als Abkürzung für ( q,1,n). reject steht als Abkürzung für ( q,0,n). (q 0,B,R) (q 1,B,R) reject (q 0,B,R) (q 1,B,R) accept Die Übergangsfunktion kann als Programm der TM interpretiert werden. Die Tabellenform heißt auch Turingtafel. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

15 Berechnung einer partiellen Funktion Betrachte über Σ = {0,1} die Funktion f : Σ Σ mit f(w) = 0 falls w gerade ist, ansonsten undefiniert Wir nutzen die Zustände q 0,q 1, um modulo 2 zu zählen, und q 2 als Schleifenzustand. Zustandsmenge also Q = {q 0,q 1,q 2, q} Turingtafel: δ 0 1 B q 0 (q 1,0,R) (q 1,1,R) accept q 1 (q 0,0,R) (q 0,1,R) (q 2,B,N) (q 2,B,N) (q 2,B,N) (q 2,B,N) q 2 Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

16 Weitere Entscheidungs-TM Wir entwickeln eine TM für die Sprache L = {0 n 1 n n 1} Sei Σ = {0,1}, Γ = {0,1,B}, Q = {q 0,...,q 6, q}. Unsere TM arbeitet in zwei Phasen: Phase 1: Teste, ob das Eingabewort von der Form 0 i 1 j für i 0 und j 1 ist. Phase 2: Teste, ob i = j gilt. Phase 1 verwendet q 0 und q 1 und wechselt bei Erfolg zu q 2. Phase 2 verwendet q 2,...,q 6 und akzeptiert bei Erfolg. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

17 Programmierung der TM am Beispiel - Phase 1 δ 0 1 B q 0 (q 0,0,R) (q 1,1,R) reject q 1 reject (q 1,1,R) (q 2,B,L) q 0 : Laufe von links nach rechts über die Eingabe bis ein Zeichen ungleich 0 gefunden wird. Falls dieses Zeichen eine 1 ist, gehe über in Zustand q 1. Sonst ist dieses Zeichen ein Blank. Verwirf die Eingabe. q 1 : Gehe weiter nach rechts bis zum ersten Zeichen ungleich 1. Falls dieses Zeichen eine 0 ist, verwirf die Eingabe. Sonst ist das gefundene Zeichen ein Blank. Bewege den Kopf um eine Position nach links auf die letzte gelesene 1. Wechsel in den Zustand q 2, Phase 2 beginnt. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

18 Programmierung der TM am Beispiel - Phase 2 δ 0 1 B q 2 reject (q 3,B,L) reject q 3 (q 3,0,L) (q 3,1,L) (q 4,B,R) q 4 (q 5,B,R) reject reject q 5 (q 6,0,R) (q 6,1,R) accept q 6 (q 6,0,R) (q 6,1,R) (q 2,B,L) q 2 : Kopf steht auf dem letzten Nichtblank. Falls dieses Zeichen eine 1 ist, so lösche es, gehe nach links, und wechsel in den Zustand q 3. Sonst verwirf die Eingabe. q 3 : Bewege den Kopf auf das erste Nichtblank. Dann q 4. q 4 : Falls das gelesene Zeichen eine 0 ist, ersetze es durch ein Blank und gehe nach q 5, sonst verwirf die Eingabe. q 5 : Linkeste 0 und die rechteste 1 sind gelöscht. Falls Restwort leer, dann accept, sonst q 6. q 6 : Laufe wieder zum letzten Nichtblank und starte erneut in q 2. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

19 Konfigurationen und (direkte) Nachfolgekonfigurationen Definition i) Eine Konfiguration einer TM ist ein String αqβ, für q Q und α,β Γ. Bedeutung: auf dem Band steht αβ eingerahmt von Blanks, der Zustand ist q, und der Kopf steht unter dem ersten Zeichen von β. ii) α q β ist direkte Nachfolgekonfiguration von αqβ, falls α q β in einem Rechenschritt aus αqβ ensteht. Wir schreiben αqβ α q β. iii) α q β von αqβ aus erreichbar, falls α q β in endlich vielen Rechenschritten aus αqβ ensteht. Wir schreiben αqβ α q β. Bemerkung: insbesondere gilt αqβ αqβ. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

20 Beispiel zum Umgang mit Konfigurationen Die für die Sprache L = {0 n 1 n n 1} beschriebene TM liefert in Phase 1 auf die Eingabe 0011 die folgende Konfigurationsfolge. Phase 1: q q q q q 1 B 001q 2 1 Beobachtung: abgesehen von Blanks am Anfang und Ende des Strings sind die Konfigurationsbeschreibungen eindeutig. Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21

21 Beispiel einer Aufzählungs-TM Wir konstruieren eine Aufzählungs-TM für die Menge der Wörter 1 2i mit i > 0, d..h der Wörter 11,1111,111111,... Wir geben nur die Turingtafel an. δ 1 B q 0 [(q 1,1,N)] (q 1,1,L) q 1 [(q 1,1,N)] (q out,1,n) (q 0,1,L) [(q out,b,n)] q out Beginnend in q 0 auf dem leeren Band wird nach einem Schritt die Konfiguration q 1 B1 erreicht, dann q out 11, dann q 0 B11,q 1 111,q out 1111, etc. (Die Einträge in eckigen Klammern sind unwesentlich.) Wolfgang Thomas, Informatik 7 () Vorlesung Berechenbarkeit und Komplexität 17. Oktober / 21