Falls H die Eingabe verwirft, so wissen wir, dass M bei Eingabe w nicht hält. M hält im verwerfenden Haltezustand. Beweis:

Transkript

1 1 Unentscheidbarkeit 2 Grundlagen der Theoretischen Informatik Till Mossakowski Fakultät für Informatik Otto-von-Guericke Universität Magdeburg Wintersemester 2014/15 #include <stdio.h> char *s="include <stdio.h>%cchar *s=%c%s%c;%cint main(){printf(s,10,34,s,34,10,10);}%c"; int main(){printf(s,10,34,s,34,10,10);} 3 4 Sei A TM = { M,w M ist eine Turing-Maschine, die w akzeptiert}. Die Sprache A TM ist nicht M M, M Nehmen wir an, es gäbe eine Turing-Maschine M, die die Sprache A TM entscheidet. D M Basierend auf M könnten wir dann eine Turing-Maschine D konstruieren, die bei Eingabe M Turing-Maschine M für Eingabe M, M simuliert, aber im verwerfenden Haltezustand hält, falls M diese Eingabe akzeptiert und im akzeptierenden Haltezustand sonst. D verwirft M genau dann wenn M die Eingabe M akzeptiert. Was tut D bei Eingabe D? Die Turing-Maschine D verwirft D genau dann wenn D die Eingabe D akzeptiert! Damit ist die Annahme, dass M existiert, ad absurdum geführt. 5 6 Halteproblem H = { M,w Turingmaschine M hält bei Eingabe w} Die Sprache H ist nicht Nehmen wir an, es gäbe eine Turing-Maschine H, die H entscheidet. Dann könnten wir uns das zu Nutze machen, um eine Turing-Maschine M zu konstruieren, die A TM entscheidet: Bei Eingabe M,w führt M zunächst die Berechnung von H für diese Eingabe aus. Falls H die Eingabe akzeptiert, so wissen wir, dass M bei Eingabe w hält. M simuliert dann die Berechung von M bei Eingabe w und hält im akzeptierenden Haltezustand, falls M Eingabe w akzeptiert, und im verwerfenden Haltezustand sonst. Falls H die Eingabe verwirft, so wissen wir, dass M bei Eingabe w nicht hält. M hält im verwerfenden Haltezustand. M würde die nicht entscheidbare Sprache A TM entscheiden. Also kann H nicht existieren. Also ist das Halteproblem H un 7 8 Unentscheidbare Probleme bei Turing-Maschinen Die Sprache A TM,ε = { M ε L(M)} ist nicht Wäre A TM,ε entscheidbar, so wäre auch A TM entscheidbar: Zu gegebenem M und w können wir leicht eine Turingmaschine M w konstruieren, die, wenn sie mit leerem Band gestartet wird, zunächst w auf das Band schreibt und dann M simuliert. Die Sprache E TM = { M L(M) = /0} ist nicht Wäre E TM entscheidbar, so wäre auch A TM entscheidbar: Zu gegebenem M und w können wir leicht eine Turingmaschine M w konstruieren, die jede von w verschiedene Eingabe verwirft und bei Eingabe w die Berechnung von M bei Eingabe w simuliert. Dann ist M,w A TM genau dann wenn M w E TM. Dann ist M,w A TM genau dann wenn M w A TM,ε.

2 9 10 Die Sprache A TM,all = { M L(M) = Σ } ist nicht Wäre A TM,all entscheidbar, so wäre auch A TM entscheidbar: Zu gegebenem M und w können wir leicht eine Turingmaschine M w konstruieren, die zunächst jede Eingabe löscht, dann w aufs Band schreibt und die Berechnung von M bei Eingabe w simuliert. Dann ist M,w A TM genau dann wenn M w A TM,all. Die Sprache Q TM = { M 1,M 2 L(M 1 ) = L(M 2 )} ist nicht Wäre Q TM entscheidbar, so wäre auch A TM,all entscheidbar: Wir können leicht eine Turingmaschine Y konstruieren, die jede Eingabe akzeptiert. Dann ist M A TM,all genau dann wenn M,Y Q TM Reduzierbarkeit Wir haben die Unentscheidbarkeit der betrachteten Sprachen bei Turing-Maschinen gezeigt, indem wir sie auf die bereits bekannte Unentscheidbarkeit anderer Sprachen zurückgeführt haben, insbesondere auf die Unentscheidbarkeit von A TM. Um zu zeigen, dass L nicht entscheidbar ist, haben wir gezeigt, dass eine unentscheidbare Sprache U entscheidbar wäre, wenn L entscheidbar wäre. Definition: Eine Sprache A heißt abbildungsreduzierbar auf eine Sprache B, falls es eine Turing-berechenbare Funktion f : Σ Σ gibt, so dass für alle w Σ gilt w A f (w) B Die Funktion f heißt Reduktion von A auf B. Wir schreiben A B, falls A auf B abbildungsreduzierbar ist. Falls A B und A ist nicht entscheidbar, dann ist auch B nicht Dies folgt unmittelbar aus folgendem Falls A B und B ist entscheidbar, dann ist auch A Analog zeigt man Falls A B und B ist rekursiv aufzählbar, dann ist auch A rekursiv aufzählbar. w TM f f (w) TM B f (w) B f (w) B w A w A Ferner gilt Lemma: Die Relation ist transitiv. TM A Aus dem Beweis der Unentscheidbarkeit von A TM,ε lässt sich A TM A TM,ε ableiten: Wir definieren eine Reduktion f : Σ Σ, die M,w auf M w abbildet und Wörter, die nicht von der Form M,w sind, auf Wörter, die nicht von der Form M sind. Diese Reduktionsfunktion f ist Turing-berechenbar und es gilt für alle x Σ x A TM f (x) A TM,ε Ferner lassen sich aus den Beweisen zur Unentscheidbarkeit von E TM, A TM,all und Q TM Turing-berechenbare Reduktionsfunktionen ableiten, so dass gilt: A TM E TM A TM A TM,all A TM,all Q TM

3 17 18 Halten und Akzeptieren Wenn eine Turing-Maschine ein Wort w nicht akzeptiert, so kann sie w verwerfen oder nie halten. Sei M eine Turing-Maschine, die L akzeptiert. Wir zeigen nun im Wesentlichen, dass wir annehmen dürfen, dass M genau dann hält, wenn das Eingabewort zu L gehört, denn wenn M diese Eigenschaft nicht besitzt, so lässt sich doch aus M leicht eine Turing-Maschine M mit dieser Eigenschaft ableiten, so dass L = L(M ) = L(M). Wir brauchen also in diesem Sinne nicht zwischen Halten und Akzeptieren zu unterscheiden. Lemma: A TM H. Wir müssen eine Reduktion f : Σ Σ angeben, so dass für alle x Σ gilt x A TM f (x) H Falls x nicht von der Form M,w ist, so ist f (x) = ε H. Ansonsten ist f ( M,w ) = M,w, wobei M genau dann hält, wenn M das Wort w akzeptiert: M enthält alle Zustände von M und einen weiteren Zustand q loop. M besitzt die gleichen Übergänge wie M, außer dass jeder Übergang, der in M zu q reject führt, nun zu q loop führt. Ferner ist δ(q loop,σ) = (q loop,σ,s) für alle σ aus dem Bandalphabet. Nun gilt L(M) = L(M ). Schließlich ist f Turing-berechenbar H = {x x ist von der Form M,w und die Turing-Maschine M hält nicht bei Eingabe w oder x ist nicht von dieser Form} Lemma: H ist nicht rekursiv aufzählbar. H ist rekursiv aufzählbar. Wäre auch H rekursiv aufzählbar, so wäre H entscheidbar, ist es aber nicht. Lemma: H A TM,all. Wir müssen eine Reduktion f : Σ Σ angeben, so dass für alle x Σ gilt x H f (x) A TM,all Falls x nicht von der Form M,w ist, so ist f (x) = M all, wobei M all eine Turing-Maschine ist, die bei allen Eingaben hält. Folglich gilt M all A TM,all. Ansonsten ist f ( M,w ) = M # w, wobei M # w eine Turing-Maschine ist, die ihre Eingabe y nach folgendem Verfahren bearbeitet: Kopiere Eingabe y auf ein zweites Band 2 Lösche das Eingabeband und schreibe w auf das Band 3 Simuliere M bei Eingabe w für y Schritte oder bis M hält 4 Falls M angehalten hat, gehe in eine Endlosschleife über 5 Ansonsten halte akzeptierend an M hält bei Eingabe w nicht, genau dann wenn M # w alle Eingaben akzeptiert. Ferner ist die Reduktion f, die M,w auf M # w abbildet, Turing-berechenbar. Sei Dann gilt und somit H ε = { M M hält bei Eingabe ε} H all = { M M hält bei allen Eingaben} H H ε A TM,ε H ε H H all A TM,all H all Lemma: A TM,all ist nicht rekursiv aufzählbar. Lemma: H ε ist nicht Lemma: H all ist nicht rekursiv aufzählbar Satz von Rice [Rice] Sei T eine echte, nicht-leere Teilmenge der Klasse aller rekursiv aufzählbaren Sprachen. Dann ist L T = { M L(M) T } Zu gegebenem M und w können wir eine Turingmaschine A M,w konstruieren, die zunächst ihre Eingabe x auf einem zweiten Band sichert, dann die Berechnung von M bei Eingabe w simuliert, und, falls diese Berechnung in einem akzeptierenden Haltezustand endet, anschließend die Berechnung von M L bei Eingabe x ausführt. nicht Wäre L T entscheidbar, so wäre auch A TM entscheidbar: O.B.d.A. sei /0 T. Sei L eine Sprache in T und sei M L eine Turing-Maschine, die L akzeptiert. L(A M,w ) ist entweder leer, also nicht in T, oder L, also in T, je nachdem ob M bei Eingabe w akzeptierend hält oder nicht. Also ist M,w A TM genau dann wenn A M,w L T.

4 25 26 Typischerweise ist T durch eine Eigenschaft definiert. Um den Satz von Rice anwenden zu können, muss nachgewiesen werden, dass mindestens eine, aber nicht alle von Turing-Maschinen akzeptierten Sprachen diese Eigenschaft besitzen. Beispiel: Die Sprache { M L(M) ist regulär} ist nicht Die Behauptung folgt aus dem Satz von Rice mit T = REG: Die Sprachklasse REG ist weder leer, denn L(a ) liegt in REG, noch umfasst REG alle rekursiv aufzählbaren Sprachen, denn die Sprache {a n b n n 0} ist rekursiv aufzählbar, liegt aber nicht in REG. Also ist der Satz von Rice anwendbar. Unentscheidbare Probleme bei allgemeinen Grammatiken Da wir zu einer Turing-Maschine M eine allgemeine Grammatik G konstruieren können, so dass L(G) = L(M), lassen sich die Unentscheidbarkeitsresultate von Turing-Maschinen auf allgemeine Grammatiken übertragen: A TM { G,w G ist eine Grammatik und w L(G)} Die Sprache A UG = { G,w G ist eine Grammatik und w L(G)} ist nicht Ebenso gilt Die Sprache { G 1,G 2 G 1 und G 2 sind Grammatiken und L(G 1 ) = L(G 2 )} ist nicht Aus dem Satz von Rice folgt ferner beispielsweise Die Sprachen { G G ist eine Grammatik und ε L(G)}, { G G ist eine Grammatik und L(G) = /0}, { G G ist eine Grammatik und L(G) ist endlich}, { G G ist eine Grammatik und L(G) ist regulär}, { G G ist eine Grammatik und L(G) ist kontextfrei} und { G G ist eine Grammatik und L(G) ist entscheidbar} sind jeweils nicht Postsches Korrespondenzproblem Definition: Sei Σ ein Alphabet. Eine nicht-leere Folge von geordneten Wortpaaren ((x 1,y 1 ),(x 2,y 2 ),...,(x n,y n )) mit x i,y i Σ + heißt Postsches Korrespondenzsystem. Eine nicht-leere Folge (i 1,i 2,...,i k ) von Indizes aus {1,2,...,n} heißt Lösung des Korrespondenzsystems, falls x i1 x i2...x ik = y i1 y i2...y ik Eine Lösung (i 1,i 2,...,i k ) des Korrespondenzsystems heißt speziell, falls i 1 = Beispiele: Das Korrespondenzsystem ((11, 111), (100, 001), (111, 11)) besitzt eine spezielle Lösung, nämlich (1, 2, 3): Das Korrespondenzsystem ((00, 0), (001, 11), (1000, 011)) besitzt keine Lösung! Das Korrespondenzsystem ((011, 1), (0, 00), (0, 11), (11, 0)) besitzt eine Lösung, nämlich (2,1,1,4,3,3,2,2), aber keine spezielle. Beim Postschen Korrespondenzproblem ist zu entscheiden, ob ein gegebenes Postsches Korrespondenzsystem eine Lösung besitzt. Beim modifizierten Postschen Korrespondenzproblem wird für ein gegebenes Postsches Korrespondenzsystem nach der Existenz einer speziellen Lösung gefragt, also nach einer Folge (1,i 2,...,i k ) von Indizes gesucht, so dass x 1 x i2...x ik = y 1 y i2...y ik Im Folgenden sei P eine Kodierung des Postschen Korrespondenzsystem P, z.b. über dem Alphabet {0, 1}. pcp = { P P besitzt eine Lösung} mpcp = { P P besitzt eine spezielle Lösung} mpcp ist un Wir zeigen A UG = { G,w w L(G)} mpcp. Wir müssen eine geeignete Reduktionsfunktion f : Σ Σ angeben. Falls x Σ keine Grammatik kodiert, ist f (x) keine Kodierung eines Postschen Korrespondenzsystem. Ansonsten sei G = (V,Γ,R,S) die in x kodierte Grammatik und w das in x kodierte Wort. Dann ist f (x) die Kodierung des folgenden Postschen Korrespondenzsystem P: O.B.d.A. nehmen wir an, dass und nicht in Γ enthalten sind. Das erste Wortpaar in P ist (, S ) Ferner enthält P das Wortpaar (a, a) für alle a Γ, das Wortpaar (A, A) für alle A V, sowie das Wortpaar (, ). Für alle u G v in R enthält P das Wortpaar (u, v)

5 33 34 Schließlich enthält G das Wortpaar ( w, ) P besitzt eine spezielle Lösung genau dann wenn w L(G). Die Funktion f ist Turing-berechenbar und es gilt für alle x Σ x A UG f (x) mpcp Mit einem Algorithmus, der das modifizierte Postsche Korrespondenzproblem löst, könnte man also entscheiden, ob ein Wort w zu der von einer Grammatik G erzeugten Sprache L(G) gehört. Beispiel: G = ({S,B,C},{a,b,c},R,S) S ε S asbc CB BC ab ab bb bb bc bc cc cc w = aabbcc (, S ) (a, a) (b, b) (c, c) (S, S) (B, B) (C, C) (S, ε) (S, asbc) (CB, BC) (ab, ab) (bb, bb) (bc, bc) (cc, cc) (, ) ( aabbcc, ) Lemma: mpcp pcp. S asbc aasbcbc aabcbc aabbcc S asbc aasbcbc aabcbc aabbcc aabbcc aabbcc aabbcc aabbcc aabbcc aabbcc aabbcc aabbcc O.B.d.A. nehmen wir an, dass # und $ nicht in den Wortpaaren des Postschen Korrepondenzsystems P vorkommen. Zu P = ((u 1,v 1 ),...,(u n,v n )) konstruieren wir ein Postsches Korrepondenzsystems P, so dass P genau dann eine spezielle Lösung besitzt, wenn P eine Lösung besitzt. Für w = σ 1 σ 2 σ m Γ + mit σ i Γ für i = 1,...,m sei g # L(w) = #σ 1 #σ 2...#σ m und g # R(w) = σ 1 #σ 2 #...σ m # P = ((#g # R (u 1), g # L (v 1)), (g # R (u 1), g # L (v 1)), (g # R (u 2), g # L (v 2)),......, (g # R (u n), g # L (v n)), ($,#$)). Falls (1,i 2,...,i k ) eine spezielle Lösung für P ist, so ist (1,i 2 + 1,...,i k + 1,n + 2) eine Lösung für P. Falls (j 1,j 2,...,j k ) eine Lösung für P ist, so muss j 1 = 1 und j k = n + 2 gelten. Dann ist (1,j 2 1,...,j k 1 1) eine spezielle Lösung für P. Die Reduktionsfunktion f bildet P auf P ab. Beispiel: P = ((1,101),(10,00),(011,11)). P = ((#1#,#1#0#1),(1#,#1#0#1),(1#0#,#0#0),(0#1#1#,#1#1),($,#$)). #1#0#1#1#1#0#0#1#1#$ #1#0#1#1#1#0#0#1#1#$ Unentscheidbare Probleme bei kontextfreien Grammatiken Aus dem Gezeigten ergibt sich pcp ist nicht Ferner gilt pcp ist rekursiv aufzählbar. Die Sprache { G 1,G 2 G 1 und G 2 sind kontextfreie Grammatiken und L(G 1 ) L(G 2 ) = /0} ist nicht Wir zeigen pcp { G 1,G 2 L(G 1 ) L(G 2 ) /0}

6 41 42 Sei P = ((x 1,y 1 ),(x 2,y 2 ),...,(x n,y n )) ein Postsches Korrespondenzproblem über dem Alphabet Σ. Zu P konstruieren wir Grammatiken R 1 umfasst die Regeln S 1 A$B A a 1 Ax 1 a n Ax n a 1 x 1 a n x n B y R 1 Ba 1 y R n Ba n y R 1 a 1 y R n a n und G 1 = ({S 1,A,B},Σ {a 1,...,a n,$},r 1,S 1 ) G 2 = ({S 2,T},Σ {a 1,...,a n,$},r 2,S 2 ) R 2 umfasst die Regeln S 2 a 1 S 2 a 1 a n S 2 a n T T σtσ für alle σ Σ T $ L(G 1 ) = {a ik...a i1 x i1...x ik $y R j m...y R j 1 a j1...a jm k,m 1,i µ,j ν {1,...,n} } L(G 2 ) = {uv$v R u R u {a 1,...,a n }, v Σ } P besitzt die Lösung (i 1,i 2,...,i k ) genau dann wenn L(G 1 ) L(G 2 ) das Wort a ik...a i1 x i1...x ik $y R i k...y R i 1 a i1...a ik enthält. Da alle Wörter in L(G 1 ) L(G 2 ) von obiger Form sind, ist L(G 1 ) L(G 2 ) /0 genau dann wenn P eine Lösung besitzt. Die zu dieser Transformation gehörige Reduktionsfunktion ist Turing-berechenbar. Also ist { G 1,G 2 L(G 1 ) L(G 2 ) /0} nicht entscheidbar, also ist auch { G 1,G 2 L(G 1 ) L(G 2 ) = /0} nicht Die Sprache A CFG,all = { G G ist eine kontextfreie Grammatik über dem Alphabet Σ mit L(G) = Σ } ist nicht Beweisskizze: Wir zeigen, dass E TM = { M L(M) = /0} entscheidbar wäre, wenn A CFG,all entscheidbar wäre. Ein Wort w wird von einer Turingmaschine M akzeptiert, genau dann wenn es eine akzeptierende Berechnung für w gibt, also eine Folge C 0,C 1,...,C n von Konfigurationen mit Wir kodieren die Konfigurationen von M in naheliegender Weise als Kodierung des relevanten Bandinhalts, in den der aktuelle Zustand als Markierung der Position des Schreib-Lesekopfs integriert ist. C bezeichne die Kodierung der Konfiguration C. Eine Berechnung C 0 M C 1 M M C n gerader Länge kodieren wir als Wort C 0 # C 1 R # C 2 # C 3 R # C 4 # # C n und eine Berechnung C 0 M C 1 M M C n ungerader Länge als C 0 M C 1 M C 2 M M C n so dass C 0 die Startkonfiguration für w und C n eine akzeptierende Haltekonfiguration ist. C 0 # C 1 R # C 2 # C 3 R # C 4 # # C n R Die Sprache L M, die alle Wörter über dem Kodierungsalphabet umfasst, die keiner gültigen Berechnung von M entsprechen, ist kontextfrei, denn es gibt einen Kellerautomaten, der genau diese Wörter akzeptiert. Ein Wort w gehört zu L M, falls w nicht von der gesuchten Form ist, oder C 0 keine Startkonfiguration ist, oder C n keine akzeptierende Haltekonfiguration ist, oder es ein i [0..n 1] gibt, so dass C i M C i+1 nicht gilt. Jede dieser Bedingungen lässt sich mit einem Kellerautomaten überprüfen. Also gibt es einen Kellerautomaten, der L M akzeptiert. Zu diesem Kellerautomaten können wir eine kontextfreie Grammatik G mit L(G) = L M konstruieren. L M enthält alle Wörter über dem Kodierungsalphabet genau dann wenn L(M) = /0. Zu gegebenem M können wir wie beschrieben eine kontextfreie Grammatik G konstruieren, so dass G A CFG,all g.d.w. M E TM Wäre A CFG,all entscheidbar, so wäre also auch E TM

7 49 Ferner kann man zeigen: Die Sprachen L(G 1 ) L(G 2 ) = }, L(G 1 ) L(G 2 ) ist kontextfrei}, L(G 1 ) L(G 2 )}, L(G 1 ) = L(G 2 )}, { G G ist eine kontextfreie Grammatik und G ist mehrdeutig}, { G G ist eine kontextfreie Grammatik und L(G) ist regulär} und { G G ist eine kontextfreie Grammatik und L(G) ist kontextfrei} sind jeweils nicht