Grundlagen der Theoretischen Informatik

Transkript

1 Grundlagen der Theoretischen Informatik 4. Kellerautomaten und kontextfreie Sprachen (III) Viorica Sofronie-Stokkermans 1

2 Übersicht 1. Motivation 2. Terminologie 3. Endliche Automaten und reguläre Sprachen 4. Kellerautomaten und kontextfreie Sprachen 5. Turingmaschinen und rekursiv aufzählbare Sprachen 6. Berechenbarkeit, (Un-)Entscheidbarkeit 7. Komplexitätsklassen P und NP 2

3 Umformung von Grammatiken Startsymbol nur links Ist das bei einer Grammatik nicht gegeben, kann man es wie folgt erreichen: Führe ein neues Startsymbol S neu ein Füge die Regel S neu S hinzu. Keine nutzlose Symbole Theorem (cf-grammatik ohne nutzlose Symbole) Ist G = (V, T, R, S) eine cf-grammatik mit L(G), dann existiert eine cf-grammatik G = (V,T,R,S ) mit: G ist äquivalent zu G. Jedes x (V T) ist erreichbar und co-erreichbar. 3

4 Normalform für Regeln Theorem (Normalform) Zu jeder Grammatik G (beliebigen Typs) existiert eine äquivalente Grammatik G, bei der für alle Regeln P Q R gilt: Q V und P beliebig Q T und P V Für alle Typen außer den linearen hat G denselben Typ wie G. Beweis: Für jedes t T erzeuge man eine neue Variable V t. V = V {V t t T} R entsteht aus R, indem für jede Regel P Q R in Q alle Vorkommen eines Terminals t durch die zugehörige Variable V t ersetzt werden. Außerdem enthält R für jedes t T eine neue Regel V t t. 4

5 Elimination von ε-regeln Idee: Variablen, aus denen ε ableitbar ist, sollten eliminiert werden 5

6 Elimination von ε-regeln Idee: Variablen, aus denen ε ableitbar ist, sollten eliminiert werden Definition (ε-regel, nullbare Variablen) Eine Regel der Form P ε (P eine Variable) heißt ε-regel. Eine Variable A heißt nullbar, falls A = ε Theorem (ε-regeln sind eliminierbar) Zu jeder cf-grammatik G existiert eine äquivalente cf-grammatik G ohne ε-regeln und nullbare Variablen, falls ε L(G), mit der einzigen ε-regel S ε und der einzigen nullbaren Variablen S, falls ε L(G) und S das Startsymbol ist. 6

7 Elimination von ε-regeln Algorithmus zur Berechnung der nullbaren Variablen Input: Grammatik G = (V,T,R,S) Output: nullbare Variablen S o.b.d.a. in keiner Regel rechts Alt := Neu := {A V A ε R} while Alt Neu { Alt := Neu für alle (P Q) R do { if Q = A 1...A n and A i Neu für 1 i n and P Neu, then Neu := Neu {P} } } output Neu 7

8 Elimination von ε-regeln Beweis (Forts.) Ausgangsgrammatik G habe die Normalform, bei der für jede Regel P Q: Q V oder Q T. Für jede Regel P A 1...A n generiere alle möglichen Kombinationen mit α i {ε,a i } falls A i nullbar P α 1...α n α i = A i falls A i nicht nullbar Dann Füge alle diese neuen Regeln zur Grammatik hinzu Entferne alle Regeln der Form A ε mit A S 8

9 Elimination von ε-regeln Beweis ((Forts.) Zu zeigen: Für die neue Grammatik G gilt: L(G ) = L(G) Vorgehen: G hat die Normalform: Für jede Regel P Q gilt Q V oder Q T. Wir beweisen die etwas stärkere Behauptung für alle A V für alle w (V T) {ε} ( (A = G w) gdw (A = G w)), Daraus folgt sofort L(G ) = L(G). 9

10 Elimination von ε-regeln Beweis (Forts.) letzte Vorlesung. Wir zeigen: Aus A = w folgt A G = G einer Ableitung von A nach w in G ): w (Induktion über Länge Induktionsanfang: Länge = 0. Dann ist w = A, und A = G A gilt immer. Induktionsschritt: Es gelte für alle Ableitungen A = G w einer Länge von höchstens n, dass A = G w. Ist A = w eine Ableitung der Länge n + 1, so gibt es ein l, G Wörter w 1,...,w l und Variablen A 1,...,A l mit A = G A 1...A l = w = w 1...w G l. Es gilt jeweils A i = w G i in höchstens n Schritten, und w i ε. 10

11 Elimination von ε-regeln Beweis (Forts.) Nach der Induktionsvoraussetzung folgt daraus: für die Originalgrammatik G gibt es Ableitungen A i = G w i damit gibt es auch eine Ableitung A 1...A l = G w. Da es in G eine Ableitung A = G A 1...A l gibt, gibt es in R eine Regel A A 1...A l. Wie ist diese Regel aus R entstanden? 11

12 Elimination von ε-regeln Beweis (Forts.) Nach der Induktionsvoraussetzung folgt daraus: für die Originalgrammatik G gibt es Ableitungen A i = G w i damit gibt es auch eine Ableitung A 1...A l = G w. Da es in G eine Ableitung A = G A 1...A l gibt, gibt es in R eine Regel A A 1...A l. Wie ist diese Regel aus R entstanden? Eine Regel in R entsteht aus einer Regel in R, indem einige nullbare Variablen gestrichen werden. Es gab also in G nullbare Variablen B 1 bis B m, so dass R die Regel A A 1...A l1 B 1 A l A l2 B 2...A m B m A m+1...a l enthält. (m kann auch 0 sein, dann war die Regel selbst schon in R.) 12

13 Elimination von ε-regeln Beweis (Forts.) Also gilt in G: A = G A 1...A l1 B 1 A l A l2 B 2...A m B m A m+1...a l = A G 1...A l1 A l A l2...a m A m+1...a l = w G da ja B i = G ε möglich ist. 13

14 Elimination von ε-regeln Korollar. L 2 L 1 Das heißt, jede kontextfreie Sprache ist auch kontextsensitiv 14

15 Elimination von ε-regeln Korollar. L 2 L 1 Das heißt, jede kontextfreie Sprache ist auch kontextsensitiv Beweis. Regeln einer kontextsensitiven Grammatik müssen folgende Form haben: entweder uav uαv mit u,v,α (V T), α 1,A V oder S ε und S kommt in keiner Regelconclusio vor. Diesen Bedingungen genügt die kontextfreie Grammatik nach Elimination der ε-regeln. 15

16 Elimination von Kettenproduktionen 16

17 Elimination von Kettenproduktionen Definition. Eine Regel der Form A B mit A, B V heißt Kettenproduktion. Theorem. (Kettenproduktionen sind eliminierbar) Zu jeder cf-grammatik existiert eine äquivalente cf-grammatik ohne Kettenproduktionen. 17

18 Elimination von Kettenproduktionen Beweis. Sei G = (V,T,R,S) eine kontextfreie Grammatik ohne ε-regeln, außer ggf. S ε. Konstruiere neue Grammatik wie folgt: 1. Für alle Variablenpaare A,B V, A B mit A = B Regeln B α R, α V füge zu R hinzu: A α 2. Lösche alle Kettenproduktionen 18

19 Normalform für cf-grammatiken Theorem. Zu jeder cf-grammatik existiert eine äquivalente cf-grammatik ohne ε-regeln (bis auf S ε, falls ε zur Sprache gehört; in diesem Fall darf S in keiner Regelconclusio vorkommen), ohne nutzlose Symbole, ohne Kettenproduktionen, so dass für jede Regel P Q gilt: entweder Q V oder Q T. 19

20 Normalform für cf-grammatiken Beweis. 1. Man teste zunächst, ob S nullbar ist. Falls ja, dann verwende man S neu als neues Startsymbol und füge die Regeln S neu S ε zum Regelsatz hinzu. 2. Man eliminiere nutzlose Symbole. 3. Man eliminiere alle ε-regeln außer S neu ε. 4. Man bringe die Grammatik in die Normalform, bei der für jede Regel P Q gilt: entweder Q V oder Q T. 5. Man eliminiere Kettenproduktionen. 6. Zum Schluss eliminiere man noch einmal alle nutzlosen Symbole (wg. Schritt 3) 20

21 Normalformen Unterschied: Grammatiktypen und Normalformen Gemeinsamkeit: Sowohl Grammatiktypen als auch Normalformen schränken die Form von Grammatikregeln ein. Unterschied: Grammatiktypen (rechtslinear, kontextfrei usw.) führen zu unterschiedlichen Sprachklassen Normalformen führen zu den selben Sprachklassen 21

22 Normalformen Wozu dann Normalformen? Weniger Fallunterscheidungen bei Algorithmen, die mit Grammatiken arbeiten. Struktur von Grammatiken einfacher zu durchschauen 22

23 Normalformen Wozu dann Normalformen? Weniger Fallunterscheidungen bei Algorithmen, die mit Grammatiken arbeiten. Struktur von Grammatiken einfacher zu durchschauen Zwei Normalformen Chomsky-Normalform: Baut auf den Umformungen des vorigen Teils auf. Greibach-Normalform: Ähnlich den rechtslinearen Grammatiken. 23

24 Chomsky-Normalform Definition. Eine cf-grammatik G = (V, T, R, S) ist in Chomsky- Normalform (CNF), wenn gilt: G hat nur Regeln der Form A BC mit A,B,C V und A a mit A V, a T (nicht ε!) Ist ε L(G), so darf G zusätzlich die Regel S ε enthalten. In diesem Fall darf S in keiner Regelconclusio vorkommen. G enthält keine nutzlosen Symbole. 24

25 Chomsky-Normalform Theorem. Zu jeder cf-grammatik existiert eine äquivalente cf-grammatik in Chomsky-Normalform. 25

26 Chomsky-Normalform Theorem. Zu jeder cf-grammatik existiert eine äquivalente cf-grammatik in Chomsky-Normalform. Beweis. Schritt 1: Wende auf G die Umformungen des letzten Abschnitts an. Ergebnis: G hat keine nutzlosen Symbole Alle Regeln haben die Form 1. A α mit A V und α V, α 2, und 2. A a mit A V, a T 26

27 Chomsky-Normalform Beweis (Forts.) Schritt 2: Regeln so umformen, dass keine Conclusio eine Länge größer 2 hat. Ersetze jede Regel durch: A A 1...A n mit A,A i V,n 3 A A 1 C 1 C 1 A 2 C 2. C n 2 A n 1 A n Dabei sind die C i neue Variablen in V. 27

28 Greibach-Normalform Definition. Eine cf-grammatik G = (V, T, R, S) ist in Greibach-Normalform (GNF), wenn gilt: G hat nur Regeln der Form A aα mit A V und a T und α V Ist ε L(G), so darf G zusätzlich die Regel S ε enthalten. In diesem Fall darf S in keiner Regelconclusio vorkommen. G enthält keine nutzlosen Symbole. 28

29 Pumping-Lemma für kontextfreie Sprachen 29

30 Wiederholung Theorem (Pumping-Lemma für L 3 -Sprachen) Sei L RAT. Dann existiert ein n N, so dass: Für alle x L mit x n existiert eine Zerlegung x = uvw u,v,w Σ mit v 1 v < n uv m w L für alle m N 30

31 Pumping-Lemma für kontextfreie Sprachen Theorem (Pumping-Lemma für kontextfreie Sprachen) Sei L kontextfrei. Dann existiert ein n N, so dass: Für alle z L mit z n existiert eine Zerlegung z = uvwxy u,v,w,x,y Σ mit vx 1 vwx < n uv m wx m y L für alle m N 31

32 Pumping-Lemma für kontextfreie Sprachen Beweisidee: Bei der Ableitung eines hinreichend langen Wortes muss es eine Variable geben, die mehr als einmal auftaucht. Dies führt zu einer Schleife in der Ableitung, die aufgepumpt werden kann. 32

33 Pumping-Lemma für kontextfreie Sprachen Beweisidee: 33

34 Pumping-Lemma für kontextfreie Sprachen Anwendung des Pumping-Lemmas für cf-sprachen Wenn das cf-pumping-lemma für eine Sprache nicht gilt, dann kann sie nicht kontextfrei sein. 34

35 Pumping-Lemma für kontextfreie Sprachen Anwendung des Pumping-Lemmas für cf-sprachen Wenn das cf-pumping-lemma für eine Sprache nicht gilt, dann kann sie nicht kontextfrei sein. Beispiel (Sprachen, die nicht kontextfrei sind) Für folgende Sprachen kann man mit Hilfe des cf-pumping-lemmas zeigen, dass sie nicht kontextfrei sind: {a p p prim} {a n b n c n n N} {zzz z {a,b} }. 35

36 Pumping-Lemma für kontextfreie Sprachen L 1 = {a p p prim} ist nicht kontextfrei. Beweis: Wir nehmen an, L 1 sei kontextfrei. Sei dann n die zugehörige Konstante aus dem Pumping-Lemma. Wir betrachten das Wort z = a p, wobei p prim und p n + 2. Es muss dann eine Zerlegung z = uvwxy geben, so dass: vx 1, vwx < n, uv i wx i y L 1 für alle i 0. Dann u = a i 1,v = a i 2,w = a i 3,x = a i 4,y = a i 5 mit i 1 + i 2 + i 3 + i 4 + i 5 = p i 2 + i 4 1, i 2 + i 3 + i 4 < n i 1 + mi 2 + i 3 + mi 4 + i 5 prim für alle m 0. Sei m = i 1 + i 3 + i 5. Dann kann i 1 + mi 2 + i 3 + mi 4 + i 5 = (i 1 + i 3 + i 5 )(1 + i 2 + i 4 ) nicht prim sein, da i 1 + i 3 + i 5 = p (i 2 + i 4 ) p n 2 und 1 + i 2 + i 4 2. Also uv m wx m y L 1. Widerspruch. Also kann L 1 nicht kontextfrei sein. 36

37 Pumping-Lemma für kontextfreie Sprachen L 2 = {a m b m c m m N} ist nicht kontextfrei Beweis: Wir nehmen an, L 2 sei kontextfrei. Sei dann n die zugehörige Konstante aus dem Pumping-Lemma. Wir betrachten das Wort z = a n b n c n. Es muss dann eine Zerlegung z = uvwxy geben, so dass: vx 1, vwx < n, uv i wx i y L 2 für alle i 0. Da vwx < n, enthält das Wort vwx höchstens zwei verschiedene Buchstaben. Da vx 1, kann uv 2 wx 2 y nicht von allen drei Buchstaben gleich viele enthalten. Also kann L 2 nicht kontextfrei sein. 37

38 Pumping-Lemma für kontextfreie Sprachen L 3 = {zzz z {a,b} } ist nicht kontextfrei. Beweis: Wir nehmen an, L 3 sei kontextfrei. Sei dann n die zugehörige Konstante aus dem Pumping-Lemma. Wir betrachten das Wort z = a n ba n ba n b. Es muss dann eine Zerlegung z = uvwxy geben, so dass: vx 1, vwx < n, uv i wx i y L 3 für alle i 0. Da vwx < n, enthält das Wort vwx höchstens ein b. Fall 1: vwx = a k. Dann wird durch aufpumpen von v,x eine a Sequenz länger als die anderen, so uv 2 wx 2 y L 3. Fall 2: vwx = a k ba m. Fall 2.1: b kommt nicht in v oder x vor. Dann sind in uv 2 wx 2 y zwei a Sequenzen länger als die dritte, so uv 2 wx 2 y L 3. Fall 2.2: b kommt in v oder x vor. Dann enthält uv 0 wx 0 y nur zwei b s, d.h. uv 0 wx 0 y L 3. Also kann L 3 nicht kontextfrei sein. 38