EINFÜHRUNG IN DIE THEORETISCHE INFORMATIK

Transkript

1 EINFÜHRUNG IN DIE THEORETISCHE INFORMATIK Prof. Dr. Klaus Ambos-Spies Sommersemester DIE KONTEXTFREIEN SPRACHEN Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 1 / 53

2 Einleitung Die kontextfreien Sprachen spielen eine zentrale Rolle in der (theoretischen) Informatik: Einerseits ist das Konzept mächtig genug, um im Wesentlichen die Syntax von Programmiersprachen zu beschreiben. Andererseits lassen sich die von kontextfeien Grammatiken erzeugten Sprachen hinreichend effizient analysieren. Wir werden deshalb die kontextfreien Grammatiken und Sprachen näher betrachten. Ein wichtiges Hilfsmittel zur Analyse von Herleitungen in kontextfreien Grammatiken sind Herleitungsbäume und Linksherleitungen. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 2 / 53

3 15.1 Herleitungsbäume, Linksherleitungen, Mehrdeutigkeit Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 3 / 53

4 Herleitungsbäume, Linksherleitungen, Mehrdeutigkeit Wir führen zunächst einige sich auf Herleitungen in kontextfreien Grammatiken beziehende Begriffe ein: Herleitungsbäume geben die Struktur einer Herleitung wieder. Bei Linksherleitungen wird in jedem Schritt die am weitesten links stehende Variable ersetzt. Mehrdeutigkeit einer Grammatik besagt, dass es Terminalwörter gibt, die wesentlich verschiedene Herleitungen (d.h. verschiedene Herleitungsbäume) besitzen. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 4 / 53

5 Herleitungsbäume Sei G = (N, T, P, S) eine kontextfreie Grammatik. Ein G-Herleitungsbaum eines Terminalwortes w ist ein geordneter, knotenmarkierter Baum mit folgenden Eigenschaften: Jeder innere Knoten ist mit einer Variablen markiert, jedes Blatt mit einem Terminalzeichen oder dem leeren Wort λ. Die Wurzel ist mit dem Axiom S markiert. Die Markierungen der Söhne eines mit der Variablen X markierten inneren Knotens ergeben (von links nach rechts gelesen) die Konklusion v einer X-Regel r = X v. Ist v = λ, so gibt es genau einen Sohn und dieser ist mit λ markiert. (Andernfalls ist keiner der Söhne mit λ markiert.) Die Verkettung der Markierungen der Blätter von links nach rechts gelesen ergibt gerade das Wort w. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 5 / 53

6 Herleitungsbäume: Anmerkungen Ein G-Herleitungsbaum von w bezeugt die Herleitbarkeit des Terminalwortes w in der Grammatik G. Den genauen Zusammenhang zwischen Herleitungsbäumen und Herleitungen werden wir gleich betrachten. Im Folgenden wird der Begriff des Herleitungsbaums auf die Situation X x für beliebiges X N und x (N T ) erweitert: Wir sprechen dann von einem G-Herleitungsbaum von x aus X. Ein solcher verallgemeinerter Herleitungsbaum unterscheidet sich von einem Herleitungsbaum im engeren Sinne dadurch, dass nun in der Wurzel statt des Axioms die Variable X steht und, dass die Blattmarkierungen von links nach rechts gelesen das Wort x ergeben, also, falls x nicht terminal ist, nun auch Variablen in den Blättern stehen können. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 6 / 53

7 Von einer Herleitung zum Herleitungsbaum (1) Jede G-Herleitung H eines Terminalwortes w (bei der in jedem Schritt die Variable, die ersetzt wird, markiert ist) definiert eindeutig einen zugehörigen Herleitungsbaum HB H von w: Ist H die Herleitung S = v 0 v 1 v 2 v n = w so definiert man hierzu induktiv Herleitungsbäume HB i von v i aus S wie folgt: HB 0 besteht nur aus der mit S markierten Wurzel. Den Baum HB i+1 erhält man aus dem Baum HB i wie folgt: Wird beim Übergang v i v i+1 die Regel X x angewendet, so werden an das mit X markierte Blatt in HB i, das dem ersetzten Vorkommen von X entspricht, Söhne mit Markierungsfolge x hinzugefügt. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 7 / 53

8 Von einer Herleitung zum Herleitungsbaum (2) Anmerkungen I.a. kann man einer Herleitung nicht entnehmen, an welcher Stelle die aktuelle Regel angewendet wurde, weshalb es notwendig ist, diese Stelle zu unterstreichen. (Man betrachte hierzu z.b. die Regeln X XX und den Herleitungsschritt XX XXX. Dann kann man nicht erkennen, ob das erste oder zweite X ersetzt wurde.) Wir nennen G-Herleitungen H 1 und H 2 eines Terminalwortes w äquivalent, falls die zugehörigen Herleitungsbäume gleich sind, d.h. HB H1 = HB H2 gilt. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 8 / 53

9 Von einem Herleitungsbaum zu einer Herleitung Einem Herleitungbaum HB eines Wortes w lassen sich i.a. verschiedene Herleitungen von w zuordnen (d.h. es gibt i.a. verschiedene Herleitungen H 1 und H 2 von w mit HB = HB H1 = HB H2 ). Die Herleitungen H 1 und H 2 unterscheiden sich jedoch nur dadurch, dass Regelanwendungen, bei denen die Reihenfolge der Ausführung keine Rolle spielt, in unterschiedlicher Reihenfolge ausgeführt werden. Im Herleitungsbaum erkennt man solche Regelanwendungen dadurch, dass die Knoten, die mit den Prämissen X 1 und X 2 der Regelanwendungen markiert sind, nicht auf demselben Pfad liegen: Betrachtet man die Herleitungteile, die zwei disjunkten Teilbäumen T 1 und T 2 von HB entsprechen, so spielt es für Ergebnis (und Struktur) der Herleitung keine Rolle, ob man zuerst die T 1 entsprechenden Herleitungsschritte ausführt und dann die T 2 entsprechenden oder umgekehrt. Man kann jedoch einem Herleitungsbaum HB eine eindeutig bestimmte Herleitung zuordnen, wenn man verlangt, dass in jedem Schritt die am weitesten links stehende Variable ersetzt wird. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 9 / 53

10 Linksherleitungen DEFINITION. Eine Linksherleitung ist eine Herleitung, bei der in jedem Schritt die am weitesten links stehende Variable ersetzt wird. SATZ. Zu jedem Herleitungsbaum HB von w gibt es genau eine Linksherleitung LH von w mit HB = HB LH. BEWEISIDEE. Man erhält die zu dem Herleitungsbaum HB gehörende Linksherleitung LH von w dadurch, dass man den Baum in Präorder durchläuft. Es gibt also eine eindeutige Korrespondenz zwischen Herleitungsbäumen und Linksherleitungen! KOROLLAR. Jedes herleitbare Wort besitzt eine Linksherleitung. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 10 / 53

11 Mehrdeutigkeit Sei G = (N,T,P,S) eine kf. Grammatik. Ein Wort w L(G) heisst eindeutig (bzgl. G), wenn w genau einen Herleitungsbaum (d.h. genau eine Linksherleitung) in G besitzt; andernfalls heisst w mehrdeutig (bzgl. G). Eine kontextfreie Grammatik G heisst eindeutig, falls jedes w L(G) bzgl. G eindeutig ist; andernfalls heisst G mehrdeutig. Eine kontextfreie Sprache L heisst eindeutig, falls sie von einer eindeutigen kf. Grammatik erzeugt wird; andernfalls heisst L inhärent mehrdeutig. NB. Ist L inhärent mehrdeutig, so bedeutet dies, dass jede kf. Grammatik, die L erzeugt, mehrdeutig ist. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 11 / 53

12 Ein Beispiel Die Sprache L = {0 m 1 m 0 n : m,n 1} {0 m 1 n 0 n : m,n 1} ist kontextfrei. Eine kontextfreie Grammatik G = (N,{0,1},P,S), die L erzeugt, kommt mit den Variablen N = {S,S l,s r,u} und den Regeln (R1) S S l U (R2) S US r (R3,4) S l 0S l 1 01 (R5,6) S r 1S r 0 10 (R7,8) U U0 0 aus. Hierbei sind die Regeln so gewählt, dass man mit den Regeln R1, R3, R4, R7, R8 Wörter der Form 0 m 1 m 0 n, und mit den Regeln R2, R5, R6, R7, R8 Wörter der Form 0 m 1 n 0 n herleiten kann. Gilt n = m, so stehen beide Möglichkeiten offen. Z.B. besitzt das Wort w = folgende Herleitungen: (H1) S S l U 0S l 1U 0S l 1U0 0011U (H2) S S l U S l U0 S l 00 0S l (H3) S US r U0S r 00S r 001S r Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 12 / 53

13 Ein Beispiel (Forts.) Die ersten beiden Herleitungen sind äquivalent, d.h. führen zu demselben Herleitungsbaum: s. TAFEL (oder Skript). Die zugehörige Linksherleitung ist S S l U 0S l 1U 0011U 0011U Herleitung H3 führt dagegen zu einem anderen Herleitungsbaum: s. TAFEL (oder Skript). Die Herleitung H3 (die bereits eine Linksherleitung ist) ist also zu H1 und H2 nicht äquivalent. Das Wort w = ist also mehrdeutig bzgl. G. Die bzgl. G mehrdeutigen Wörter sind (wie man leicht zeigen kann) gerade die Wörter der Form w = 0 m 1 m 0 m (m 1). Man kann weiter zeigen (nicht so einfach), dass die Sprache L inhärent mehrdeutig ist. D.h. jede kf. Grammatik, die L erzeugt, ist mehrdeutig. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 13 / 53

14 15.2 Die Chomsky-Normalform und das Pumping-Lemma Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 14 / 53

15 Die Chomsky-Normalform und das Pumping-Lemma Wir werden nun zeigen, dass sich jede kontextfreie Grammatik in eine äquivalente λ-treue separierte kf. Grammatik überführen lässt, bei der jede Umformungsregel die Gestalt X YZ hat (Chomsky-Normalform). Herleitungsbäume für solche Grammatiken sind binäre Bäume, haben also eine besonders einfache Gestalt. Dies nutzen wir dann aus, um zu zeigen, dass die Wörter in kontextfreien Sprachen eine interessante Zerlegungseigenschaft haben (Pumping-Lemma). Hiermit kann man häufig den Nachweis führen, dass eine gegebene Sprache nicht kontextfrei ist, da diese Wörter enthält, die diese Zerlegungseigenschaft nicht haben. Insbesondere werden wir so die Echtheit der Inklusion KF KS nachweisen. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 15 / 53

16 Chomsky-Normalform Wir haben bereits in Kapitel 14 gesehen, dass jede kf. Grammatik äquivalent zu einer λ-treuen, separierten kf. Grammatik ist. Dies lässt sich noch wie folgt verschärfen: DEFINITION. Eine kf. Grammatik G = (N,T,P,S) ist in Chomsky- Normalform, falls G λ-treu ist und neben der eventuellen λ-regel S λ nur Regeln der Form besitzt. X YZ (X,Y,Z N) X a (X N,a T ) SATZ. Zu jeder kf. Grammatik G = (N,T,P,S) kann man effektiv eine äquivalente kf. Grammatik G = (N,T,P,S ) in Chomsky-Normalform angeben. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 16 / 53

17 Chomsky-Normalform: Beweisidee Wir gehen in 4 Schritten vor und konstruieren zu G äquivalente Grammatiken G i = (N 1,T,P i,s i ) (i = 1,2,3,4), die der Normalform immer näher kommen: (1) G 1 ist separiert, d.h. P 1 enthält nur Regeln der Form (T 1 n ) X Y 1...Y n (n 1;X,Y 1,...Y n N) (T 2) X λ (X N) (T 3) X a (X N,a T ) (2) G 2 ist zusätzlich λ-treu (Elimination der (T2)-Regeln) (3) G 3 enthält zusätzlich keine Regeln X Y 1...Y n mit n > 2 (Elimination der (T1 n )-Regeln für n 3) (4) G 4 enthält zusätzlich keine Variablenumbenennungen X Y (Elimination der (T1 1 )-Regeln) G 4 ist dann in Chomsky-Normalform. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 17 / 53

18 Chomsky-Normalform: Beweisidee (Forts.) Die Verfahren zur Überführung von G in eine äquivalente separierte Grammatik G 1 (1. Schritt) und die Überführung einer separierten Grammatik G 1 in eine äquivalente separierte λ-treue Grammatik G 2 (2. Schritt) haben wir bereits vorgestellt, als wir die Inklusion KF KS gezeigt haben ( Kapitel 14). Wir beschreiben nun die beiden weiteren Schritte: Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 18 / 53

19 Chomsky-Normalform: Beweisidee (Forts.) 3. SCHRITT: ELIMINATION VON UMFORMUNGSREGELN X Y 1...Y n MIT KONKLUSIONSLÄNGE n 3 (G 2 G 3 ). Man ersetzt die Regel X Y 1...Y n mit n 3 durch die Regeln X Y 1 Z 2 Z 2 Y 2 Z 3. Z n 1 Y n 1 Y n, wobei die Variablen Z 1,...,Z n 1 neu (und für jede Regel verschieden) sind. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 19 / 53

20 Chomsky-Normalform: Beweisidee (Forts.) 4. SCHRITT: ELIMINATION VON VARIABLENUMBENENNUNGEN X Y (G 3 G 4 ). Hierzu bestimmen wir zunächst für jede Variable X, die aus dieser durch eine Folge von Umbenennungen erreichbaren Variablen (vergleiche mit dem Verfahren zur Bestimmung der eliminierbaren Variablen in Kap. 14!): U(X) = {Y N 3 : X G 3 Y } Um U(X) zu bestimmen, bestimmen wir zunächst induktiv die Mengen U n (X) = {Y N 3 : X n G 3 Y }: U 0 (X) = {X} U n+1 (X) = U n (X) {Y N 3 : Z U n (X)(Z Y P 3 )} Es gilt dann: U(X) = U n (X) für das kleinste n mit U n (X) = U n+1 (X). Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 20 / 53

21 Chomsky-Normalform: Beweisidee (Forts.) 4. SCHRITT: ELIMINATION VON VARIABLENUMBENENNUNGEN X Y (Fortsetzung). Die zu G 3 äquivalente Grammatik G 4 erhält man dann wie folgt: Für jede Variable X N 3 ersetzt man alle Umbenennungsregeln X Y 1 Y 2... Y k mit Prämisse X durch die Regeln X Z 1 Z 2 falls Y U(X)(Y Z 1 Z 2 P 2 ) X a falls Y U(X)(Y a P 2 ). Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 21 / 53

22 Chomsky-Normalform: Beispiel Die Sprache L = {a m b n c n d p : m,p 1;n 0} {b n c n : n 0} wird von der kf. Grammatik G mit Axiom S und Regeln erzeugt. S AMD M A AA a D DD d M bmc λ Um G in eine äquivalente kf. Grammatik G in Chomsky-Normalform zu überführen, überführen wir G schrittweise in die äquivalenten Grammatiken G 1, G 2, G 3, G 4 = G. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 22 / 53

23 Chomsky-Normalform: Beispiel (Forts.) Schritt 1: G G 1 (Separierung) Es genügt die Regel M bmc durch die Regeln M BMC B b C c zu ersetzen. D.h. G 1 besitzt die folgenden Regeln (S Axiom): S AMD M A AA a D DD d M BMC λ B b C c Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 23 / 53

24 Chomsky-Normalform: Beispiel (Forts.) Schritt 2: G 1 G 2 (λ-treue) Man bestimmt zunächst die Menge E der eliminierbaren Variablen: E 1 = {M} E 2 = {M,S} E 3 = {M,S} D.h. E = {M,S}. (Insbesondere gilt also wegen S E λ L.) Wir erhalten hiermit G 2 aus G 1, indem wir ein neues Axiom S 1 sowie die Regeln S 1 S und S 1 λ hinzufügen, die λ-regeln von G 1 weglassen, und in Umformungsregeln X x, wobei x 2 und zumindest eine eliminierbare Variable in x vorkommt, alle Regeln X x hinzufügen, wobei x 1 und x aus x durch Weglassen von Vorkommen von eliminierbaren Variablen entsteht. D.h. zu den Regeln S AMD und M BMC werden die Regeln S AD bzw. M BC hinzugenommen. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 24 / 53

25 Chomsky-Normalform: Beispiel (Forts.) Schritt 2: G 1 G 2 (λ-treue) (Forts.) G 2 besitzt also die folgenden Regeln (S 1 Axiom): S 1 S λ S AMD AD M A AA a D DD d M BMC BC B b C c Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 25 / 53

26 Chomsky-Normalform: Beispiel (Forts.) Schritt 3: G 2 G 3 (Elimination von Konklusionen der Länge 3) Die Regeln S AMD und M BMC werden ersetzt durch S AX und X MD bzw. M BY und Y MC wobei X und Y neue Variablen sind. G 3 besitzt also die folgenden Regeln (S 1 Axiom): S 1 S λ S AX AD M X MD A AA a D DD d M BY BC Y MC B b C c Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 26 / 53

27 Chomsky-Normalform: Beispiel (Forts.) Schritt 4: G 3 G 4 (Elimination von Variablenumbenennungen) Wir bestimmen zunächst für jede Variable V, die die Prämisse einer Variablenumbenennung V W ist, die Menge U(V ) der Variablen, in die V umbenannt werden kann. Dies sind hier die Variablen S 1 und S und es gilt U 0 (S 1 ) = {S 1 } U 1 (S 1 ) = {S 1,S} U 2 (S 1 ) = {S 1,S,M} = U 3 (S 1 ) = U(s 1 ) U 0 (S) = {S} U 1 (S) = {S,M} = U 2 (S) = U(s) Wir erhalten hiermit G 4 aus G 3, indem wir die Umbenennungsregeln S 1 S und S M durch alle möglichen Regeln der Form S 1 x bzw. S x ersetzen, wobei x keine Variable ist und es eine Regel Z x gibt mit Z U(S 1 ) bzw. Z U(S). Konkret: S 1 S: S M: S 1 AX AD und S 1 BY BC S BY BC Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 27 / 53

28 Chomsky-Normalform: Beispiel (Forts.) Schritt 4: G 3 G 4 (Elimination von Variablenumbenennungen) (Forts.) D.h.G 4 besitzt die folgenden Regeln (S 1 Axiom): S 1 AX AD BY BC λ S AX AD BY BC X MD A AA a D DD d M BY BC Y MC B b C c (Die Regeln S AX AD BY BC sind überflüssig, da S vom Axiom aus nicht erreichbar ist.) (Ende Beispiel) Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 28 / 53

29 Das Pumpinglemma für Kf. Sprachen Ist eine Grammatik G in Chomsky-Normalform, so sind die Herleitungsbäume Binärbäume, wobei die inneren Knoten mit Variablen und (sieht man von der trivialen Herleitung des leeren Wortes ab) die Blätter mit Terminalzeichen markiert sind. Wir benutzen dies nun, um eine Zerlegungseigenschaft E der kontextfreien Sprachen anzugeben. Für viele Sprachen L kann man leicht zeigen, dass diese die Eigenschaft E nicht haben und daher nicht kontextfrei sind. Insbesondere werden wir so zeigen, dass es kontextsensitive Sprachen gibt, die nicht kontextfrei sind. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 29 / 53

30 Das Pumpinglemma für Kf. Sprachen SATZ 1 (Pumpinglemma für KF). Zu jeder kontextfreien Sprache L Σ gibt es eine Zahl p N, sodass jedes Wort z L der Länge z p eine Zerlegung z = uvwxy in Teilwörter u,v,w,x,y Σ mit folgenden Eigenschaften besitzt: (i) vx λ (ii) vwx < p (iii) n 0 (z n = uv n wx n y L) Hierbei lässt sich solch eine Zahl p aus jeder kontextfreien Grammatik G, die L erzeugt, effektiv berechnen. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 30 / 53

31 Pumpinglemma: Beweisidee Sei G = (N, T, P, S) eine kontextfreie Grammatik in Chomsky-Normalform, die L erzeugt. Wegen der Normalform sind G-Herleitungsbäume binär. Hat daher ein herleitbares Wort z die Länge z 2 t+1, so hat jeder Herleitungsbaum H S (z) von z mindestens die Tiefe t. Setze p = 2 N Für z L mit z p hat dann jeder G-Herleitungsbaum H S (z) von z die Tiefe t N + 1. Für einen Pfad α = S(= X 1 ),X 2,...X t,a von H S (z) maximaler Länge gilt also t > N, d.h. eine der Variablen muss mindestens zweimal auf dem Pfad vorkommen. Wähle die letzte Variablenwiederholung X := X k = X m (1 k < m t) in α. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 31 / 53

32 Pumpinglemma: Beweisidee (Forts.) Dann lässt sich H S (z) in folgende 3 Teilbäume zerlegen: H S (uxy) = H S (ux k v) (entspricht: (1) S ux k y) H X (vxx) = H Xk (vx m x) (entspricht: (2) X k vx m x) H X (w) = H Xm (w) (entspricht: (3) X l w) wobei z = uvwxy. Diese Zerlegung hat die gewünschten Eigenschaften. Insbesondere erhält man eine Herleitung von uv n wx n y, indem man mit (1) beginnt, dann mit n-mal (2) fortfährt, und schliesslich mit (3) endet. (D.h. der Teilbaum H X (vxx) von H S (z) wird n-fach iteriert.) q.e.d. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 32 / 53

33 Pumpinglemma: Anwendungsbeispiele LEMMA 1. Die Sprache L = {0 n 1 n 0 n : n 1} ist nicht kontextfrei. BEWEIS. Man zeigt dies indirekt. Widerspruchsannahme: L kontextfrei. Wähle p wie im Pumpinglemma passend zu L. Das Wort z = 0 p 1 p 0 p ist in L und erfüllt die Bedingung z p. Nach dem Pumpinglemma gibt es also eine Zerlegung z = uvwxy mit obigen Eigenschaften (i) - (iii). Es gilt daher: Wegen (i) ist vx nicht leer. Wegen (ii) gilt vwx p, d.h. v und x sind in demselben Block oder zwei aufeinanderfolgenden Blöcken von z enthalten. In z 0 = uv 0 wx 0 y werden daher 1 oder 2 Blöcke verkürzt, während zumindest ein Block unverändert bleibt. ALSO: z 0 L im Widerspruch zu (iii). Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 33 / 53

34 Pumpinglemma: Anwendungsbeispiele LEMMA 2. Die Sprache L = {0 2n : n 1} ist nicht kontextfrei. BEWEIS. Man zeigt dies indirekt. Widerspruchsannahme: L kontextfrei. Wähle p wie im Pumpinglemma passend zu L wobei o.b.d.a. p 3. Das Wort z = 0 2p ist in L und erfüllt die Bedingung z p. Nach dem Pumpinglemma gibt es also eine Zerlegung z = uvwxy mit obigen Eigenschaften (i) - (iii). Es gilt daher: Wegen (i) gilt vx = 0 m für m 1. Wegen (ii) gilt vwx p, also m p. Es ist also z 0 = uv 0 wx 0 y = 0 2p m wobei m p. Wegen p 3 und 1 m p gilt aber m < 2 p 1 und daher 2 p 1 < 2 p m < 2 p. ALSO: z 0 L im Widerspruch zu (iii). Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 34 / 53

35 Folgerungen aus dem Pumpinglemma KOROLLAR 1. KF KS. BEWEIS. Nach dem Inklusionslemma gilt KF KS. Es genügt also eine kontextsensitive Sprache L anzugeben, die nicht kontextfrei ist. Dies gilt aber für die Sprache L = {0 n 1 n 0 n : n 1}: Nach Lemma 1 oben ist L nicht kontextfrei. Die für L in Kapitel 13 angegebene Grammatik war vom Erweiterungstyp, weshalb L ERW gilt. Da wir in Kapitel 14 gezeigt haben, dass ERW = KS gilt, folgt hieraus, dass L kontextsensitiv ist. (Von der nach Lemma 2 nicht kontextfreien Sprache L = {0 2n : n 1} kann man ebenfalls leicht zeigen, dass sie kontextsensitiv ist, indem man eine L erzeugende Grammatik vom Erweiterungstyp angibt.) Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 35 / 53

36 Folgerungen aus dem Pumpinglemma Das Pumpinglemma lässt sich auch dazu verwenden, um zu zeigen, dass bestimmte Probleme für kf. Sprachen entscheidbar sind, die für ks. Sprachen unentscheidbar sind: KOROLLAR 2. Das Leerheitsproblem und das Unendlichkeitsproblem für kontextfreie Grammatiken sind entscheidbar. D.h. für eine gegebene kf. Grammatik G kann man effektiv feststellen, ob L(G) leer bzw. unendlich ist. BEWEISIDEE. Gegeben eine kf. Grammatik G, bestimmt man zunächst den (genauer: einen) zu L(G) gehörigen Parameter p aus dem Pumpinglemma. Es gilt dann (wie man sich leicht überlegt): L(G) /0 z Σ ( z < p & z L(G)) L(G) unendlich z Σ (p z < 2p & z L(G)) Da das Wortproblem für kontextfreie Grammatiken entscheidbar ist, folgt hieraus die Behauptung. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 36 / 53

37 15.3 Eine Maschinencharakterisierung der kontextfreien Sprachen Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 37 / 53

38 Kellerautomaten (Push-Down-Automaten) Ein Kellerautomat (oder Push-Down-Automat) M zur Erkennung einer Sprache L = L(M) über dem Eingabealphabet Σ liest - wie ein endlicher Automat - die Eingabe von links nach rechts. Der Kellerautomat besitzt aber zum Abspeichern von Information über das gelesene Anfangsstück des Eingabewortes zusätzlich einen Speicher in der Form eines Stapels (Stacks, Kellers). Der Stapel kann dabei ein Wort w über dem sog. Kelleralphabet Γ = Γ 0 {b 0 } aufnehmen, wobei dieses mit dem ausgezeichneten Bottomelement b 0 beginnt, gefolgt von einem möglicherweise leeren Wort v, das b 0 nicht enthält: w = b 0 v, v Γ 0. Der Automat M kann dabei immer nur auf das rechte Wortende des gespeicherten Wortes w zugreifen: last-in-first-out-speicher. Zu Beginn der Rechnung steht nur das Bottomelement im Speicher (= leerer Keller), das nie entfernt wird. Wie der Name Bottomelement schon zu erkennen gibt, stellen wir uns anschaulich vor, dass das Kellerwort von unten nach oben (statt von links nach rechts) geschrieben wird. Der Zugriff erfolgt also auf die jeweils obersten Elemente ( Stapel). Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 38 / 53

39 Kellerautomaten (Push-Down-Automaten) - Forts. In einem Schritt liest M den nächsten noch nicht gelesenen Buchstaben a der Eingabe x und den letzten Buchstaben c des Kellerwortes w. In Abhängigkeit von den gelesenen Buchstaben a und c und dem aktuellen (Programm-)Zustand z ersetzt M das gelesene Kellerzeichen c durch ein (möglicherweise leeres) Wort u Γ 0 (war c = b 0 so wird c durch ein Wort u = b 0 u mit u Γ 0 ersetzt) und aktualisiert seinen Zustand. Alternativ kann M auch einen spontanen oder λ-übergang durchführen, bei dem kein weiterer Buchstabe der Eingabe gelesen wird. Wie bei den endlichen Automaten betrachten wir auch hier wieder nichtdeterministische Maschinen, d.h. in einzelnen Schritten mag die Maschine aus verschiedenen möglichen Übergängen einen Übergang auswählen. Z.B. erlauben wir der Maschine wahlweise den nächsten Buchstaben einzulesen oder einen λ-übergang zu machen. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 39 / 53

40 Kellerautomaten: Formale Definition Ein nichtdeterministischer Kellerautomat (nd. Push-Down-Automat; NPDA) M wird formal durch M = (Σ,Γ,b 0,Z,z 0,δ,E) definiert, wobei Σ Eingabealphabet Γ Kelleralphabet b 0 Γ Bottomelement (Γ 0 := Γ \ {b 0 }) Z endliche Menge der (Programm-)Zustände z 0 Startzustand δ endliche Übergangsrelation (Programm) δ Z Σ {λ} Γ (Γ 0 {b 0}Γ 0 ) Z, wobei für (z,a,c,w,z ) δ das Wort w genau dann mit b 0 beginnt, wenn c = b 0 gilt. E Z Menge der (akzeptierenden) Endzustände Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 40 / 53

41 Beschreibung der Arbeitsweise von M Eine M-Konfiguration ist ein Tripel (z,y,v), wobei z der aktuelle Zustand, y der noch nicht gelesene Teil der Eingabe und v das aktuelle Kellerwort ist. Nachfolgekonfigurationen: Gilt (z,y,v) = (z,ay,v c), so lässt sich jede mit (z,a,c,...) beginnende Instruktion (= Programmzeile) (z,a,c,u,z ) anwenden, wodurch (z,y,v) in (z,y,v u) überführt wird. Weiter lässt sich auf (z,y,v) = (z,y,v c) jede mit (z,λ,c,...) beginnende Instruktion (z,λ,c,u,z ) anwenden, wodurch (z,y,v) in (z,y,v u) überführt wird. M ist also deterministisch (d.h. ein DPDA), wenn Folgendes gilt: 1 Zu jedem Tripel (z,a,c) Z Σ Γ gibt es höchstens eine mit (z,a,c,...) beginnende Instruktion. 2 Zu jedem Paar (z,c) Z Γ gibt es höchstens eine mit (z,λ,c,...) beginnende Instruktion; und, falls es solch eine Instruktion (z,λ,c,...) gibt, dann gibt es keine Instruktion, die mit (z,a,c,...) für ein a Σ beginnt. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 41 / 53

42 Beschreibung der Arbeitsweise von M (Forts.) Eine mögliche Rechnung bei Eingabe x ist eine mit der Startkonfiguration (z 0,x,b 0 ) beginnende Konfigurationenfolge (wobei der Begriff der Konfigurationenfolge wie bei TMs mit Hilfe des Begriffs der Nachfolgekonfiguration definiert ist). Die Akzeptanz von x wird auf zwei unterschiedliche Arten definiert: M kann x vollständig einlesen und befindet sich nach dem Einlesen von x in einem Endzustand (= Akzeptanz via Endzustände). M kann x vollständig einlesen und nach dem Einlesen von x ist der Keller leer, d.h. enthält nur das Bottomelement (= Akzeptanz via leerem Keller; hier kann man auf die Endzustände verzichten). (Im nichtdeterministischen Fall ist dies so zu lesen, dass dies für eine mögliche Rechnung gilt.) Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 42 / 53

43 Beispiel 1: L = {0 n 1 n : n 0} Ein Kellerautomat M zur Erkennung der Sprache L = {0 n 1 n : n 0} via leerem Keller kommt mit folgenden Instruktionen aus (Γ = {b 0,0}): Z Σ {λ} Γ Γ Z z 0 0 c (c Γ bel.) c0 z 0 z λ z 1 z λ z 1 M liest im Startzustand z 0 den ersten aus Nullen bestehenden Wortteil und speichert die gelesenen Nullen im Keller. Kommt M zu der ersten 1, so geht M in den Zustand z 1 und entfernt für jede gelesene 1 eine 0 aus dem Keller. Hat die Eingabe x nicht die Gestalt x = 0 m 1 n, so kann M die Eingabe nicht komplett lesen, verwirft also. Dasselbe gilt für x = 0 m 1 n mit m < n. Im Falle von m n wird die Eingabe komplett gelesen. Der Keller ist danach genau dann leer, wenn m = n. Der Automat M ist deterministisch. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 43 / 53

44 Beispiel 1: L = {0 n 1 n : n 0} Folgende Variante M von M erkennt L = {0 n 1 n : n 0} via Endzustände, wobei E = {z 0,z 2 } (und wobei c Γ = {b 0,0} bel.): Z Σ {λ} Γ Γ Z z 0 0 c c0 z + 0 z c c0 z + 0 z λ z 1 z λ z 1 z 1 λ b 0 b 0 z 2 Der Automat M arbeitet also wie der Automat M, ändert aber den (Start- und End-)Zustand z 0 in z o + nach Lesen der ersten Null und geht bei leerem Keller vermöge eines spontanen Übergangs noch vom Zustand z 1 in den Endzustand z 2. Der Automat M ist ebenfalls deterministisch. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 44 / 53

45 Beispiel 2: L = {ww R : w {0,1} } Ein Kellerautomat M zur Erkennung der Sprache L = {ww R : w {0,1} } via leerem Keller kommt mit folgenden Instruktionen aus (wobei Γ = {b 0,0,1}): Z Σ {λ} Γ Γ Z z 0 i c ci z 0 (i Σ, c Γ) z 0 i i λ z 1 (i Σ) z 1 i i λ z 1 (i Σ) M speichert im Startzustand z 0 die gelesenen Bits i = 0,1 im Keller, rät die Wortmitte, und vergleicht dann im Zustand z 1 das Restwort mit dem (durch die last-in-first-out-speicherung gespiegelt) gespeicherten Anfangsteil. M ist nichtdeterministisch (da es zwei verschiedene mit (z 0,i,i,...) beginnende Instruktionen gibt). Man kann zeigen, dass die Sprache L von keinem deterministischen Kellerautomaten erkannt wird. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 45 / 53

46 Maschinencharakterisierung von KF: Satz SATZ. Folgende Aussagen sind äquivalent: L ist kontextfrei. L {λ} wird von einem nd. Kellerautomaten via leerem Keller erkannt. L wird von einem nd. Kellerautomaten via Endzuständen erkannt. Beweis: s. Vorlesung Formale Sprachen. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 46 / 53

47 Maschinencharakterisierung von KF: Anmerkungen Im deterministischen Fall fallen Akzeptanz via leerem Keller und Akzeptanz via Endzuständen nicht zusammen, sondern ersteres Akzeptanzkriterium ist mächtiger. Eine Sprache heisst deterministisch kontextfrei, wenn sie von einem det. Kellerautomaten via leerem Keller erkannt wird. Beispiele: L = {0 n 1 n : n 0} ist deterministisch kontextfrei. L = {ww R : w {0,1} } ist kontextfrei aber nicht det. kontextfrei. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 47 / 53

48 15.4 Exkurs: Lineare Sprachen Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 48 / 53

49 Exkurs: Lineare Sprachen Zum Ende des Kapitels werfen wir noch einen kurzen Blick auf die linearen Sprachen. Für die linearen Sprachen kann man Verschärfungen der Chomsky-Normalform und des Pumpinglemmas einführen. Wir geben diese ohne Beweis an. Mit Hilfe des Pumpinglemmas für LIN geben wir dann ein Beipiel für eine kontextfreie Sprache L an, die nicht linear ist, und zeigen hiermit die Echtheit der Inklusion LIN KF im Chomsky-Hierarchiesatz. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 49 / 53

50 Lineare Sprachen: Chomsky-Normalform und Pumpinglemma Für lineare Sprachen hat Chomsky ebenfalls eine Normalform eingeführt, mit deren Hilfe man ein (verschärftes) Pumpinglemma für lineare Sprache erhält: CHOMSKY-NORMALFORM FÜR LINEARE SPRACHEN: Eine lineare Grammatik G = (N,T,P,S) ist in Chomsky-Normalform, falls G λ-treu ist und neben der eventuellen λ-regel S λ alle Regeln eine der folgenden Formen haben: X ay Ya a (X,Y N, a T ) PUMPINGLEMMA FÜR LINEARE SPRACHEN: Zu jeder linearen Sprache L Σ gibt es eine Zahl p N, sodass jedes Wort z L der Länge z p eine Zerlegung z = uvwxy in Teilwörter u,v,w,x,y Σ mit folgenden Eigenschaften besitzt: vx λ uvxy < p (im kontextfreien Fall hatten wir hier vwx < p) n 0 (z n = uv n wx n y L) Hierbei lässt sich solch eine Zahl p aus jeder linearen Grammatik G, die L erzeugt, effektiv berechnen. Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 50 / 53

51 Lineare Sprachen: Nachweis der Nichtlinearität von Sprachen mit Hilfe des Pumpinglemmas für LIN LEMMA 3: Die Sprache L = {0 n 1 n 0 m 1 m : n,m 1} ist nicht linear. BEWEIS. Man zeigt dies indirekt. Widerspruchsannahme: L linear. Wähle p wie im Pumpinglemma für LIN passend zu L. Das Wort z = 0 p 1 p 0 p 1 p ist in L und erfüllt die Bedingung z p. Nach dem Pumpinglemma gibt es also eine Zerlegung z = uvwxy mit obigen Eigenschaften (i) - (iii). Es gilt daher: Wegen (i) ist vx nicht leer. Wegen (ii) gilt uvxy p (also: uv p und xy p), d.h. v ist im ersten, x im vierten Block von z enthalten. In z 0 = uv 0 wx 0 y werden also Block 1 und/oder Block 4 verkürzt während Block 2 und 3 unverändert bleiben. ALSO: z 0 L im Widerspruch zu (iii). Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 51 / 53

52 Lineare Sprachen: LIN KF KOROLLAR 3: LIN KF. BEWEIS. Da nach dem Inklusionslemma LIN KF gilt, genügt es eine kontextfreie Sprache L anzugeben, die nicht linear ist. Die in Lemma 3 als nicht-linear nachgewiesene Sprache L = {0 n 1 n 0 m 1 m : n,m 1} ist aber kontextfrei. Z.B. wird L von der kf. Grammatik G = ({S,A},{0,1},P,S) mit den Regeln erzeugt. S AA A 0A1 A 01 Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 52 / 53

53 Lineare Sprachen: Abschlusseigenschaften Das obige Beispiel zeigt, dass die Klasse der linearen Sprachen nicht gegen Verkettung abgeschlossen ist. KOROLLAR 4: LIN ist nicht gegen Verkettung abgeschlossen. BEWEIS. Die nicht-lineare Sprache L = {0 n 1 n 0 m 1 m : n,m 1} lässt sich als Verkettung der Sprache L = {0 n 1 n : n 1} mit sich selbst darstellen: L = L L. Die Sprache L ist aber linear (wie wir schon in Kapitel 13 gesehen haben): L wird von der linearen Grammatik G = ({S},{0,1},P,S) mit den Regeln erzeugt. S 0S1 01 Theoretische Informatik (SoSe 2018) 15. Die kontextfreien Sprachen I 53 / 53