Turingmaschinen Vorlesung Berechenbarkeit und Komplexität alias Theoretische Informatik: Komplexitätstheorie und effiziente Algorithmen

Transkript

1 Vorlesung Berechenbarkeit und Komplexität alias Theoretische Informatik: und effiziente Algorithmen Wintersemester 2011/12 Schematische Darstellung einer Turing-Maschine: Kopf kann sich nach links und rechts bewegen und Zeichen überschreiben e i n g a b e Prof. Barbara König Übungsleitung: Jan Stückrath Automat mit endlich vielen Zuständen Signal für Endzustand Eigenschaften von Turing-Maschinen: Barbara König BeKo/TI 1 Wie endliche Automaten lesen Turing-Maschinen eine Eingabe von einem Band und haben endlich viele Zustände. Unterschied zu endlichen Automaten: der Lesekopf kann sich nach links und rechts bewegen und auch Zeichen überschreiben. Falls nur Zeichen der Eingabe überschrieben werden: Turing-Maschine heißt linear beschränkt (Maschinenmodell für Chomsy-1-Sprachen). Falls der Lesekopf auch über den linken und rechten Rand hinauslaufen und dort schreiben kann: allgemeine Turingmaschine mit unbeschränktem Band (Maschinenmodell für Chomsy-0-Sprachen). Turing-Maschinen und Computer: Barbara König BeKo/TI 32 Das Konzept der Turing-Maschine wurde von Alan Turing 1936 erfunden, noch bevor die ersten echten Computer gebaut wurden. Es ist nicht nur aus historischen Gründen interessant, sondern auch, weil es ein sehr einfaches Berechnungsmodell darstellt. Wenn man zeigen will, dass etwas nicht berechenbar ist, dann ist es viel besser, dies mit einem möglichst einfachen Berechnungsmodell zu tun. (Natürlich sollte man vorher sicherstellen, dass dieses Berechnungsmodell äquivalent zu komplexeren Modellen ist.) Analogie zu einem heutigen Computer: Kontrolle mit endlich vielen Zuständen Programm (Eingabe-)Band Speicher Barbara König BeKo/TI 33 Barbara König BeKo/TI 34

2 Beispiel 1: Turing-Maschine, die eine Binärzahl auf dem Band um eins inkrementiert. Idee: Kopf der Turing-Maschine steht zunächst auf dem am weitesten links befindlichen (höchstwertigen) Bit der Binärzahl. Kopf nach rechts laufen lassen, bis ein Leerzeichen gefunden wird. Dann wieder nach links laufen und jede 1 durch 0 ersetzen, solange bis eine 0 oder ein Leerzeichen auftaucht. Dieses Zeichen dann durch 1 ersetzen, bis zum Zahlanfang laufen und in einen Endzustand übergehen. Zahlende finden z 0 Barbara König BeKo/TI 35 Zahlende finden z 0 Zahlende finden z 0

3 Zahlende finden z 0 Zahlende finden z 0 Zahlende finden z 0 1 durch 0 ersetzen z 1

4 durch 0 ersetzen z 1 1 durch 0 ersetzen z durch 0 ersetzen z 1 zurück zum Zahlanfang z 2

5 zurück zum Zahlanfang z 2 Ende z e Beispiel 2: Turing-Maschinen zur Spracherkennung Wir suchen eine Turing-Maschine, die die Sprache L = {0 2n n 0} (nicht kontextfrei) erkennt. Idee: Kopf steht zunächst am Beginn der Folge von Nullen. Anfang und Ende der Folge von Nullen markieren. Links neben der Folge von Nullen die Binärzahl 0 aufs Band schreiben. Nullen nacheinander durch ein anderes Zeichen (#) ersetzen. Nach jeder Ersetzung nach links zum Zähler laufen und diesen um eins inkrementieren. Sobald alle Nullen verschwunden sind (Endmarker ist erreicht), überprüfen, ob der Zähler die Form hat. Turingmaschine (Definition) Eine (deterministische) Turingmaschine M ist ein 7-Tupel M = (Z, Σ, Γ, δ, z 0,, E), wobei Z die endliche Menge der Zustände, Σ das Eingabealphabet, Γ mit Γ Σ das Arbeitsalphabet oder Bandalphabet, z 0 Z der Startzustand, δ : Z Γ Z Γ {L, R, N} die Überführungsfunktion, Γ\Σ das Leerzeichen oder Blank und E Z die Menge der Endzustände ist. Abkürzung: TM Barbara König BeKo/TI 37 Barbara König BeKo/TI 38

6 Bedeutung der Überführungsfunktion: sei δ(z, a) = (z, b, x) mit x {L, R, N}. Falls die Turingmaschine im Zustand z auf dem Symbol a steht, so wechselt sie in den Zustand z, überschreibt a durch b und führt folgende Kopfbewegung aus. Kopf einen Schritt nach links, falls x = L. Kopf bleibt stehen, falls x = N. Kopf einen Schritt nach rechts, falls x = R. Wir fordern noch folgende Bedingung für : Bedingung für Endzustände Für z E gilt für alle a Σ δ(z, a) = (z, a, N) D.h., in einem Endzustand werden die Kopfposition, das Band und der Zustand nicht mehr verändert. Barbara König BeKo/TI 39 Barbara König BeKo/TI 40 Neben deterministischen gibt es auch nichtdeterministische. Überführungsfunktion für nichtdeterministische : δ : Z Γ P(Z Γ {L, R, N}). Jedem Zustand und Bandsymbol wird eine (eventuell leere) Menge von möglichen Aktionen zugeordnet. Dabei gilt auch, dass es in einem Endzustand keine Veränderungen mehr geben darf. Das heißt für z E gilt: (z, b, x) δ(z, a) z = z und a = b und x = N Beispiel: Turingmaschine zur Inkrementierung einer Binärzahl M = ({z 0, z 1, z 2, z e }, {0, 1}, {0, 1, }, δ, z 0,, {z e }) mit Überführungsfunktion: Zahlende finden δ(z 0, 0) = (z 0, 0, R) δ(z 0, 1) = (z 0, 1, R) δ(z 0, ) = (z 1,, L) Überführungsfunktion: 1 durch 0 ersetzen δ(z 1, 0) = (z 2, 1, L) δ(z 1, 1) = (z 1, 0, L) δ(z 1, ) = (z e, 1, N) Barbara König BeKo/TI 41 Barbara König BeKo/TI 42

7 Überführungsfunktion: zurück zum Zahlanfang δ(z 2, 0) = (z 2, 0, L) δ(z 2, 1) = (z 2, 1, L) δ(z 2, ) = (z e,, R) Der Vollständigkeit halber: Überführungsregeln für den Endzustand Überführungsfunktion: Endzustandsregeln δ(z e, 0) = (z e, 0, N) δ(z e, 1) = (z e, 1, N) δ(z e, ) = (z e,, N) Wie bei anderen Maschinenmodellen gibt es auch bei den Begriff einer Konfiguration, d.h., einer Momentaufnahme einer -Berechnung Konfiguration (Definition) Eine Konfiguration einer Turingmaschine ist gegeben durch ein Wort k Γ ZΓ. Bedeutung: k = αzβ α Γ ist der bereits besuchte Teil des Bandes vor dem Kopf. β Γ ist der bereits besuchte Teil des Bandes ab dem Kopf. Der Kopf steht auf dem ersten Zeichen von β. z Z ist der aktuelle Zustand. Barbara König BeKo/TI 43 Barbara König BeKo/TI 44 Definition einer Übergangsrelation, die beschreibt, welche Konfigurationsübergänge möglich sind. Keine Bewegung Es gilt: a 1... a m zb 1 b 2... b n a 1... a m z cb 2... b n, falls δ(z, b 1 ) = (z, c, N) (m 0, n 1). Definition einer Übergangsrelation, die beschreibt, welche Konfigurationsübergänge möglich sind. Keine Bewegung Es gilt: a 1... a m zb 1 b 2... b n a 1... a m z cb 2... b n, falls δ(z, b 1 ) = (z, c, N) (m 0, n 1). a 1... a m b 1 b 2... b n a 1... a m c b 2... b n z z Barbara König BeKo/TI 45 Barbara König BeKo/TI 45

8 Schritt nach links Es gilt: a 1... a m 1 a m zb 1 b 2... b n a 1... a m 1 z a m cb 2... b n, falls δ(z, b 1 ) = (z, c, L) (m 1, n 1). Schritt nach links Es gilt: a 1... a m 1 a m zb 1 b 2... b n a 1... a m 1 z a m cb 2... b n, falls δ(z, b 1 ) = (z, c, L) (m 1, n 1). a 1... a m 1 a m b 1 b 2... b n a 1... a m 1 a m c b 2... b n z z Barbara König BeKo/TI 46 Barbara König BeKo/TI 46 Definition einer Übergangsrelation, die beschreibt, welche Konfigurationsübergänge möglich sind. Schritt nach rechts Es gilt: a 1... a m zb 1 b 2... b n a 1... a m cz b 2... b n, falls δ(z, b 1 ) = (z, c, R) (m 0, n 2). Definition einer Übergangsrelation, die beschreibt, welche Konfigurationsübergänge möglich sind. Schritt nach rechts Es gilt: a 1... a m zb 1 b 2... b n a 1... a m cz b 2... b n, falls δ(z, b 1 ) = (z, c, R) (m 0, n 2). a 1... a m b 1 b 2... b n a 1... a m c b 2... b n z z Barbara König BeKo/TI 47 Barbara König BeKo/TI 47

9 Sonderfälle: Bandende erreicht zusätzliches Leerzeichen muss hinzugefügt werden Linkes Bandende Es gilt: zb 1 b 2... b n z cb 2... b n, falls δ(z, b 1 ) = (z, c, L). Sonderfälle: Bandende erreicht zusätzliches Leerzeichen muss hinzugefügt werden Linkes Bandende Es gilt: zb 1 b 2... b n z cb 2... b n, falls δ(z, b 1 ) = (z, c, L). b 1 b 2... b n c b 2... b n z z Barbara König BeKo/TI 48 Barbara König BeKo/TI 48 Rechtes Bandende Es gilt: a 1... a m zb 1 a 1... a m cz, falls δ(z, b 1 ) = (z, c, R). Rechtes Bandende Es gilt: a 1... a m zb 1 a 1... a m cz, falls δ(z, b 1 ) = (z, c, R). a 1... a m b 1 a 1... a m c z z Barbara König BeKo/TI 49 Barbara König BeKo/TI 49

10 Akzeptierte Sprache (Definition) Sei M = (Z, Σ, Γ, δ, z 0,, E) eine Turingmaschine. Dann ist die von M akzeptierte Sprache: T (M) = {x Σ z 0 x αzβ für α, β Γ und z E}. Akzeptierte Sprache: Alle Eingabe-Wörter, mit denen die Turing-Maschine in einen Endzustand gelangen kann. Dabei startet die Turing-Maschine im Anfangszustand z 0, der Kopf befindet sich auf dem ersten Zeichen des Eingabe-Wortes. Wenn eine Maschine M für ein Eingabewort w in einen Endzustand gelangt, dann sagt man auch, dass M auf w hält. Für nicht-deterministische müssen die Definitionen folgendermaßen angepaßt werden: Falls sich die Turingmaschine im Zustand z befindet und das Zeichen b auf dem Band steht, sind alle Konfigurationsübergänge möglich, die durch die Menge δ(z, b) beschrieben werden. Ein Wort ist akzeptiert, wenn es eine mögliche Folge von Konfigurationen gibt, die zu einem Endzustand führt, auch wenn andere Folgen in Sackgassen geraten oder unendlich lang sind, ohne dabei je einen Endzustand zu erreichen. Linear beschränkte Barbara König BeKo/TI 50 Linear beschränkte Barbara König BeKo/TI 51 Wir definieren nun das Maschinenmodell für Chomsky-1-Sprachen (erzeugt durch monotone Grammatiken): linear beschränkte, die niemals außerhalb der Eingabe arbeiten dürfen. Problem: Turingmaschine muss erkennen können, dass sie sich am Ende der Eingabe befindet. (Für den Anfang der Eingabe besteht dasselbe Problem, aber diesen kann sie sich zu Beginn selbst markieren.) Lösung: das Eingabealphabet Σ wird erweitert, für jedes Zeichen a Σ wird noch ein Zeichen â hinzugenommen. Das letzte Zeichen a n der Eingabe wird dann durch â n ersetzt. Linear beschränkte Eine nichtdeterministische Turingmaschine heißt linear beschränkt, wenn für alle a 1... a n Σ + und für alle Konfigurationen αzβ mit z 0 a 1... â n αzβ gilt: αβ = n. Die von einer linear beschränkten Turingmaschine M akzeptierte Sprache ist T (M) = {a 1... a n Σ + z 0 a 1... â n αzβ für α, β Γ und z E}. Barbara König BeKo/TI 52 Barbara König BeKo/TI 53

11 Chomsky-1-Sprachen Chomsky-1-Sprachen Wir zeigen nun, dass die von linear beschränkten akzeptierten Sprachen genau den Typ-1-Sprachen entsprechen. Monotone Grammatiken linear beschränkte Zu jeder monotonen Grammatik G gibt es eine linear beschränkte Turingmaschine M mit L(G) = T (M). Linear beschränkte monotone Grammatiken Zu jeder linear beschränkten Turingmaschine M gibt es eine monotone Grammatik G mit L(G) = T (M). Chomsky-1-Sprachen Barbara König BeKo/TI 54 Chomsky-1-Sprachen Barbara König BeKo/TI 55 Lösung: Beweisidee: die Übergangsregeln der Turingmaschine werden durch Produktionen ersetzt, die im wesentlichen Konfigurationen in Nachfolge-Konfigurationen überführen. Problem: die Berechnungsrichtung ist verschieden bei und Grammatiken beginnen mit einem Wort auf dem Band und modifizieren dieses so lange, bis ein Endzustand erreicht ist. Grammatiken beginnen mit der Startvariable S und leiten daraus das Wort ab. Barbara König BeKo/TI 56 Die Grammatik rät zu Beginn ein Wort und überprüft dann, ob es in der Sprache liegt. Allerdings ist dieses Wort nach der -Berechnung überschrieben oder modifiziert. Daher: Einführung neuer Symbole, bei denen jedes Zeichen doppelt gespeichert wird. Die -Berechnung arbeitet dann nur auf einer Kopie jedes Zeichens. Die andere Kopie wird erhalten und kann nach erfolgreicher Berechnung wiederhergestellt werden. Eine echte Kopie des ganzen Wortes kann nicht angefertigt werden, denn dann müßte man am Ende der Berechnung, beim Wiederherstellen des Wortes, Zeichen löschen und nicht-monotone Regeln verwenden. Barbara König BeKo/TI 57

12 Chomsky-0-Sprachen Chomsky-0-Sprachen und Chomsky-0-Sprachen Zu jeder Chomsky-0-Grammatik G gibt es eine Turingmaschine M mit L(G) = T (M). Zu jeder Turingmaschine M gibt es eine Chomsky-0-Grammatik G mit L(G) = T (M). Beweisidee: durch Modifikation des Beweises für linear beschränkte und monotone Grammatiken. Grammatiken : hier muss bei der der Grammatik auf dem -Band bei verkürzenden Regeln (linke Seite ist länger als rechte Seite) der Bandinhalt auseinandergeschoben werden. Grammatiken: hier muss dafür gesorgt werden, dass die Grammatik bei der Turingmaschine links und rechts Leerzeichen erzeugen kann und diese nach erfolgreicher Berechnung auch wieder löscht. Barbara König BeKo/TI 58 Ergebnisse für Chomsky-1- und Chomsky-0-Sprachen Barbara König BeKo/TI 59 Ergebnisse für Chomsky-1- und Chomsky-0-Sprachen Abschluss unter Komplement von Typ-1-Sprachen (Immerman, Szelepcsényi) Wenn L eine Typ-1-Sprache ist, dann ist auch L = Σ \L eine Typ-1-Sprache. (Ohne Beweis) Abschluss unter Komplement von Typ-0-Sprachen Wenn L eine Typ-0-Sprache ist, dann ist L = Σ \L nicht notwendigerweise eine Typ-0-Sprache. (Begründung und Beispiele später im Kapitel.) Determinismus und Nichtdeterminismus bei Zu jeder nichtdeterministischen Turingmaschine gibt es eine deterministische Turingmaschine, die dieselbe Sprache akzeptiert. Beweisidee: die deterministische Turingmaschine simuliert mit Hilfe von Breitensuche alle Verzweigungen der nichtdeterministischen Turingmaschine. Determinismus und Nichtdeterminismus bei linear beschränkten (LBA-Problem) Für linear beschränkten ist nicht bekannt, ob die deterministischen und nichtdeterministischen Maschinenmodelle gleich ausdrucksmächtig sind. Barbara König BeKo/TI 60 Barbara König BeKo/TI 61