EINFÜHRUNG IN DIE THEORETISCHE INFORMATIK

Transkript

1 EINFÜHRUNG IN DIE THEORETISCHE INFORMATIK Prof. Dr. Klaus Ambos-Spies Sommersemester DIE KONTEXTFREIEN SPRACHEN II: ABSCHLUSSEIGENSCHAFTEN, MASCHINENCHARAKTERISIERUNG, KOMPLEXITÄT Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 1 / 24

2 17. 1 ABSCHLUSSEIGENSCHAFTEN Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 2 / 24

3 Abschlusseigenschaften von KF SATZ KF ist abgeschlossen gegen (i) Vereinigung (ii) Verkettung (iii) Iteration (*-Operator) (iv) homomorphe Bilder KF ist nicht abgeschlossen gegen (v) Durchschnitt (vi) Komplement Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 3 / 24

4 Beweis von (i) - (iv) Den Abschluss gegen Vereinigung und Verkettung zeigt man wie bei den kontextsensitiven Sprachen. Den Abschluss gegen Iteration erhält man wie folgt: Ist G =(N,T,P,S) eine kf. Grammatik in Chomsky-Normalform zur Erzeugung von L, so wird L von der Grammatik G =(N S,T,P,S ) erzeugt, wobei P = {S S S S λ} P. Den Abschluss gegen homomorphe Bilder erhält man wie bei den rechtslinearen Sprachen: Ist G =(N,T,P,S) eine kf. Grammatik in Chomsky-Normalform zur Erzeugung von L und h : T ˆT ein Homomorphismus, so wird h(l) von der Grammatik G h =(N, ˆT,P h,s) erzeugt, wobei P h = {X YZ : X YZ P} {X h(a):x a P}. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 4 / 24

5 Beweis von (v) und (vi) Dass KF weder gegen Komplement noch gegen Durchschnitt abgeschlossen ist, lässt sich an folgendem Beispiel zeigen: Mit Hilfe des Pumping-Lemmas haben wir gezeigt, dass die Sprache {0 n 1 n 0 n : n 1} nicht kontetxfrei ist. {0 n 1 n 0 n : n 1} ist aber der Durchschnitt der Sprachen {0 m 1 n 0 n : m,n 1} und {0 m 1 m 0 n : m,n 1}, die wir bereits als kontextfrei nachgewiesen haben. Weiter kann man leicht eine kf. Grammatik zur Erzeugung des Komplements von {0 n 1 n 0 n : n 1} angeben. Alternativ kann man den Nichtabschluss von KF gegen Komplement aus dem Abschluss von KF gegen Vereinigung und dem Nichtabschluss von KF gegen Durchschnitt aus den DeMorganschen Regeln ableiten: Wäre KF gegen Komplement abgeschlossen, so wäre es wegen des Abschlusses gegen Vereinigung auch gegen Durchschnitt abgeschlossen. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 5 / 24

6 Abschlusseigenschaften von LIN: Die Trennung der kontextfreien von den linearen Sprachen lässt sich auch strukturell erzielen, indem man zeigt, dass die Klassen KF und LIN unterschiedliche Abschlusseigenschaften haben: SATZ LIN ist abgeschlossen gegen (i) Vereinigung (ii) homomorphe Bilder LIN ist nicht abgeschlossen gegen (iii) Durchschnitt (iv) Komplement (v) Verkettung (vi) Iteration Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 6 / 24

7 Abschlusseigenschaften von LIN: Beweis Den Abschluss gegen Vereinigung und homomorphe Bilder zeigt man wie bei den kontextfreien Sprachen. Für den fehlenden Abschluss gegen Durchschnitt kann man dasselbe Gegenbeispiel wie bei den kf. Sprachen verwenden, da die Sprachen {0 m 1 n 0 n : m,n 1} und {0 m 1 m 0 n : m,n 1} linear sind. Der fehlende Abschluss gegen Komplement folgt dann mit DeMorgan (oder auch wiederum direkt durch den Nachweis der Linearität des Komplements von {0 n 1 n 0 n : n 1}). Der fehlende Abschluss gegen Verkettung wurde bereits in Kapitel 19 gezeigt: Während L = {0 n 1 n : n 1} linear ist, ist LL = {0 m 1 m 0 n 1 n : m,n 1} nicht linear. Den fehlenden Abschluss gegen Iteration zeigt man analog, indem man mit Hilfe des Pumpinglemmas für LIN zeigt, dass für L = {0 n 1 n : n 1} auch die Sprache L nicht linear ist. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 7 / 24

8 Übersicht über die Abschlusseigenschaften der Sprachklassen der Chomsky-Hierarchie Komplement Verkettung Iteration hom. Bild CH REK KS KF LIN + + REG Es lassen sich also - bis auf REK und KS - je zwei Sprachklassen der Chomsky-Hierarchie durch deren Abschlusseigenschaften unterscheiden ( strukturelle Trennung ). Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 8 / 24

9 17.2 EINE MASCHINENCHARAKTERISIERUNG DER KONTEXTFREIEN SPRACHEN Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 9 / 24

10 Kellerautomaten (Push-Down-Automaten) Ein Kellerautomat (oder Push-Down-Automat) M zur Erkennung einer Sprache L = L(M) über dem Eingabealphabet Σ liest - wie ein endlicher Automat - die Eingabe von links nach rechts. Der Kellerautomat besitzt aber zum Abspeichern von Information über das gelesene Anfangsstück des Eingabewortes zusätzlich einen Speicher in der Form eines Stapels (Stacks, Kellers). Der Stapel kann dabei ein Wort w über dem sog. Kelleralphabet Γ=Γ 0 {b 0 } aufnehmen, wobei dieses mit dem ausgezeichneten Bottomelement b 0 beginnt, gefolgt von einem möglicherweise leeren Wort v, das b 0 nicht enthält: w = b 0 v, v Γ 0. Der Automat M kann dabei immer nur auf das rechte Wortende des gespeicherten Wortes w zugreifen: last-in-first-out-speicher. Zu Beginn der Rechnung steht nur das Bottomelement im Speicher (= leerer Keller), das nie entfernt wird. Wie der Name Bottomelement schon zu erkennen gibt, stellen wir uns anschaulich vor, dass das Kellerwort von unten nach oben (statt von links nach rechts) geschrieben wird. Der Zugriff erfolgt also auf die jeweils obersten Elemente ( Stapel). Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 10 / 24

11 Kellerautomaten (Push-Down-Automaten) - Forts. In einem Schritt liest M den nächsten noch nicht gelesenen Buchstaben a der Eingabe x und den letzten Buchstaben c des Kellerwortes w. In Abhängigkeit von den gelesenen Buchstaben a und c und dem aktuellen (Programm-)Zustand z ersetzt M das gelesenen Kellerzeichen c durch ein (möglicherweise leeres) Wort u Γ 0 (war c = b 0 so wird c durch ein Wort u = b 0 u mit u Γ 0 ersetzt) und aktualisiert seine Zustand. Alternativ kann M auch einen spontanen oder λ-übergang durchführen, bei dem kein weiterer Buchstabe der Eingabe gelesen wird. Wie bei den endlichen Automaten betrachten wir auch hier wieder nichtdeterministische Maschinen, d.h. in einzelnen Schritten mag die Maschine aus verschiedenen möglichen Übergängen einen Übergang auswählen. Z.B. erlauben wir der Maschine wahlweise den nächsten Buchstaben einzulesen oder einen λ-übergang zu machen. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 11 / 24

12 Kellerautomaten: Formale Definition Ein nichtdeterministischer Kellerautomat (nd. Push-Down-Automat; NPDA) M wird formal durch M =(Σ,Γ,b 0,Z,z 0,δ,E) definiert wobei Σ Eingabealphabet Γ Kelleralphabet b 0 Γ das Bottomelement (Γ 0 := Γ \{b 0 }) Z endliche Menge der (Programm-)Zustände z 0 Startzustand δ endliche Übergangsrelation (Programm) δ Z Σ {λ} Γ Γ Z E Z Menge der (akzeptierenden) Endzustände Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 12 / 24

13 Beschreibung der Arbeitsweise von M Eine M-Konfiguration ist ein Tripel (z,y,v), wobei z der aktuelle Zustand, y der noch nicht gelesene Teil der Eingabe und v das aktuelle Kellerwort ist. Nachfolgekonfigurationen: Gilt (z,y,v)=(z,ay,v c), so lässt sich jede mit (z,a,c,...) beginnende Instruktion (= Programmzeile) (z,a,c,u,z ) anwenden, wodurch (z,y,v) in (z,y,v u) überführt wird. Weiter lässt sich auf (z,y,v)=(z,y,v c) jede mit (z,λ,c,...) beginnende Instruktion (z,λ,c,u,z ) anwenden, wodurch (z,y,v) in (z,y,v u) überführt wird. M ist also deterministisch (d.h. ein DPDA), wenn Folgendes gilt: 1 Zu jedem Tripel (z,a,c) Z Σ Γ gibt es höchstens eine mit (z, a, c,...) beginnende Instruktion. 2 Zu jedem Paar (z,c) Z Γ gibt es höchstens eine mit (z,λ,c,...) beginnende Instruktion; und, falls es solch eine Instruktion (z,λ,c,...) gibt, dann es keine Instruktion, die mit (z,a,c,...) für ein a Σ beginnt. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 13 / 24

14 Beschreibung der Arbeitsweise von M (Forts.) Jede mögliche Rechnung bei Eingabe x ist eine mit der Startkonfiguration (z 0,x,b 0 ) beginnende Konfigurationenfolge (wobei der Begriff der Konfigurationenfolge wie bei TMs mit Hilfe des Begriffs der Nachfolgekonfiguration definiert ist). Die Akzeptanz von x wird auf zwei unterschiedliche Arten definiert: M kann x vollständig einlesen und befindet sich nach dem Einlesen von x in einem Endzustand (= Akzeptanz via Endzustände). M kann x vollständig einlesen und nach dem Einlesen von x ist der Keller leer, d.h. enthält nur das Bottomelement (= Akzeptanz via leerem Keller; hier kann man auf die Endzustände verzichten). (Im nichtdeterministischen Fall ist dies so zu lesen, dass dies für eine mögliche Rechnung gilt.) Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 14 / 24

15 Beispiel 1: L = {0 n 1 n : n 0} Ein Kellerautomat M zur Erkennung der Sprache L = {0 n 1 n : n 0} via leerem Keller kommt mit folgenden Instruktionen aus: Z Σ {λ} Γ Γ Z z 0 0 c c0 z 0 z λ z 1 z λ z 1 M liest im Startzustand z 0 den ersten aus Nullen bestehenden Wortteil und speichert die gelesenen Nullen im Keller. Kommt M zu der ersten 1 geht M in den Zustand z 1 und entfernt für jede gelesene 1 eine 0 aus dem Keller. Hat die Eingabe x nicht die Gestalt x = 0 m 1 n, so kann M die Eingabe nicht komplett lesen, verwirft also. Dasselbe gilt für x = 0 m 1 n mit m < n. Im Falle von m n wird die Eingabe komplett gelesen. Der Keller ist danach genau dann leer, wenn m = n. Der Automat M ist deterministisch. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 15 / 24

16 Beispiel 1: L = {0 n 1 n : n 0} Folgende Variante M von M erkennt L = {0 n 1 n : n 0} via Endzustände, wobei E = {z 0,z 2 }: Z Σ {λ} Γ Γ Z z 0 0 c c0 z 0 z λ z 1 z λ z 1 z 1 λ b 0 b 0 z 2 Der Automat M arbeitet also wie der Automat M, geht aber bei leerem Keller vermöge eines spontanen Übergangs noch vom Zustand z 1 in den Endzustand z 2. Der Automat M ist ebenfalls deterministisch. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 16 / 24

17 Beispiel 2: L = {ww R : w {0,1} } Ein Kellerautomat M zur Erkennung der Sprache L = {ww R : w {0,1} } via leerem Keller kommt mit folgenden Instruktionen aus: Z Σ {λ} Γ Γ Z z 0 i i ci z 0 (i,i Σ) z 0 i i λ z 1 (i Σ) z 1 i i λ z 1 (i Σ) M speichert im Startzustand z 0 die gelesenen Bits i = 0,1 im Keller, rät die Wortmitte, und vergleicht dann im Zustand z 1 das Restwort mit dem (durch die last-in-first-out-speicherung gespiegelt) gespeicherten Anfangsteil. M ist nichtdeterministisch (da es zwei verschiedene mit (z 0,i,i,...) beginnende Instruktionen gibt). Man kann zeigen, dass die Sprache L von keinem deterministischen Kellerautomaten erkannt wird. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 17 / 24

18 Maschinencharakterisierung von KF: Satz SATZ. Folgende Aussagen sind äquivalent: L ist kontextfrei. L {λ} wird von einem nd. Kellerautomaten via leerem Keller erkannt. L wird von einem nd. Kellerautomaten via Endzuständen erkannt. Beweis: s. Vorlesung Formale Sprachen. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 18 / 24

19 Maschinencharakterisierung von KF: Anmerkungen Im deterministischen Fall fallen Akzeptanz via leerem Keller und Akzeptanz via Endzuständen nicht zusammen, sondern ersteres Akzeptanzkriterium ist mächtiger. Eine Sprache heisst deterministisch kontextfrei, wenn sie von einem det. Kellerautomaten via leerem Keller erkannt wird. Beispiele: L = {0 n 1 n : n 0} ist deterministisch kontextfrei. L = {ww R : w {0,1} } ist kontextfrei aber nicht det. kontextfrei. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 19 / 24

20 KOMPLEXITÄT UND ENTSCHEIDBARKEIT Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 20 / 24

21 Komplexität kontextfreier Sprachen SATZ VON COCKE, KASAMI UND YOUNGER. Das Wortproblem für kontextfreie Grammatiken G in Chomsky-Normalform ist deterministisch in Zeit O(n 3 ) lösbar. D.h. {(G,w):G kf. Grammatik in CH-Nf & w L(G)} DTIME(O(n 3 )) Aus dem Satz folgt insbesondere, dass es zu jeder kf. Grammatik G eine Mehrband-TM M mit L(G) =L(M) gibt, deren Laufzeit kubisch beschränkt ist, d.h. für die x T (time M (x) O( x 3 )) gilt. Insbesondere ist die Maschine M polynomiell zeitbeschränkt, d.h. L(G) P, wobei P die Klasse der Sprachen ist, die von einem det. TA in polynomieller Zeit erkannt werden. Dabei geht man davon aus, dass die Sprachen in P tatsächlich entscheidbar (d.h. in realistischer Zeit mit realistischem Speicheraufwand), wogegen rekursive Sprachen, die nicht in P liegen, als zwar theoretisch aber nicht praktisch entscheidbar angesehen werden, da der Rechenaufwand unrealistisch hoch ist ( Kapitel 18). Im Gegensatz zu KS (wo diese Frage offen ist) könne wir also das Wortproblem für eine gegebene kontextfreie Grammatik nicht nur theoretisch sondern auch tatsächlich entscheiden. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 21 / 24

22 Syntaxanalyse In der Praxis genügt es meist nicht, für ein Wort x zu entscheiden, ob es von einer kontextfreien Grammatik G erzeugt wird, sondern man möchte im positiven Fall eine Herleitung erhalten (und damit Information über die Struktur von x) bzw. eine qualifizierte Fehlermeldung. Diese Aufgabe bezeichnet man als Syntaxanalyse. Bedeutend ist diese vor allem bei der Übersetzung von Programmiersprachen ( Compilerbau). Hier hat man sehr effiziente Analyseverfahren für spezielle kontextfreie Grammatiken entwickelt, die einen Herleitungsbaum Top-Down bzw. Bottom-Up erzeugen (LL(k)- bzw. LR(k)-Grammatiken). Diese Thematik wird ausführlich in den Vorlesungen FORMALE SPRACHEN und COMPILERBAU behandelt, wo auch der Satz von Cocke, Kasami und Younger bewiesen wird. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 22 / 24

23 Entscheidbarkeitsfragen Folgende Probleme sind für KF entscheidbar: Wortproblem (x L(G)?) Leerheitsproblem (L(G)=/0?) (Un-)Endlichkeitsproblem (L(G)(un)endlich?) (Dies haben wir bereits gezeigt.) Folgende Probleme sind für KF nicht entscheidbar: Totalitätsproblem (L(G)=T?) Durchschnittsproblem (L(G 1 ) L(G 2 ) kontextfrei?) Äquivalenzproblem (L(G 1 )=L(G 2 )?) (Dies wird in der Vorlesung FORMALE SPRACHEN gezeigt.) Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 23 / 24

24 Übersicht über Entscheidbarkeitsfragen der Sprachklassen der Chomsky-Hierarchie Wortproblem Endlichkeitsp. Totalitätsp. Äquivalenzp. CH REK (+) KS + KF + + LIN + + REG NB Die Klasse REK gehört nicht zu der Chomsky-Hierarchie im engen Sinne, da diese nicht nur durch einen (syntaktische gegebenen) Grammatik-Typ beschrieben wird. Das (+) ist hier wie folgt zu lesen: Für eine gegebene rekursive Sprache ist das Wortproblem entscheidbar, wenn die Sprache durch einen totalen TA gegeben ist. Theoretische Informatik (SoSe 2012) 17. Die kontextfreien Sprachen II 24 / 24