Sprachtheorie. Formale Sprachen und Grammatiken, deren Klassifikation und der Zusammenhang mit Automaten

Transkript

1 Sprachtheorie Formale Sprachen und Grammatiken, deren Klassifikation und der Zusammenhang mit Automaten

2 Inhaltsübersicht und Literatur Formale Sprachen Definition Darstellungen: Backus-Naur-Form und Syntaxdiagramme Grammatik künstlicher Sprachen Grundbestandteile Chomsky-Hierarchie und Sprachklassen Reguläre (Typ 3) Sprachen Kontextfreie (Typ 2) Sprachen Kontextsensitive (Typ 1) Sprachen Allgemeine (Typ 0) Sprachen Literatur: Uwe Schöning: Theoretische Informatik - kurzgefaßt, Spektrum Akademischer Verlag 1995 Hopcroft/Motwani/Ullman: Introduction to Automata Theory, Languages, and Computation, 2nd edition, Addison-Wesley 2001 Theoretische Informatik I Formale Sprachen 2

3 Struktur natürlicher und künstlicher Sprachen Was macht eine Sprache aus : Wörter ( Vokabeln, siehe Duden, Dictionary ) Grammatikalische Regeln zum Satzbau (Syntax) Bedeutung (Semantik) Die Dreiteilung der Semiotik (Lehre von den Zeichen und ihrer Anordnung) in a) Syntax Regelwerk, eine endliche Menge von Regeln b) Semantik die objektiv gültige Bedeutung c) Pragmatik die subjektive Bedeutung für den Benutzer ist vorteilhaft für die mathematische Linguistik (Sprachwissenschaft). Anmerkungen: zu a) Zeichen bilden Wörter, Wörter bilden Sätze. zu b) Sätze können formal richtig aber semantisch falsch sein. Semantik ist schwer formulierbar. Beispiel: Übersetzungsfehler bei natürlichen Sprachen. Theoretische Informatik I Formale Sprachen 3

4 Künstliche Sprachen In der Informationstheorie kann keine subjektive Bedeutung (Pragmatik) zugelassen werden! Beispiel: Programmiersprachen. Die Semantik von PASCAL, C, COBOL etc. ist objektiv gültig für alle Benutzer. Semantische Probleme in künstlichen Sprachen (z.b. Programmiersprachen) zeigen sich, wenn zwar der Compilerlauf fehlerfrei ist, aber dennoch Laufzeitfehler (run time error) oder unsinnige Ergebnisse auftreten. Die Syntax einer Programmiersprache legt u.a. fest wo ein Strichpunkt zu stehen hat, wo Klammern zu setzen sind, wie ein arithmetischer Ausdruck abgearbeitet werden muß. Theoretische Informatik I Formale Sprachen 4

5 Formale Sprachen Definition: Sei X ein Alphabet von Zeichen und X* die Menge aller Wörter über X (die freie Halbgruppe über X bezüglich der Verkettung). Jede Teilmenge L X* heißt eine Sprache. Eine Teilmenge L X* heißt eine formale Sprache, wenn es eine Grammatik für L gibt, d.h. eine endliche Menge von Regeln, die genau die Wörter von L beschreiben. Eine mögliche exakte Definition für eine Grammatik werden wir später kennenlernen. Bemerkung: Sei X ein endliches Alphabet. Die Menge aller Sprachen über X ist überabzählbar. Die Menge aller formalen Sprachen über X ist abzählbar. Theoretische Informatik I Formale Sprachen 5

6 Sprachelemente verschiedener Sprachtypen Sprachtyp Grundmenge X Elemente der Sprache Formale Alphabet Wörter über X Sprachen Zeichenmenge Natürliche Menge von Wörtern Sätze über X (bzw. eine Folge Sprachen (Dudeninhalt) von Sätzen, ein Text ) Programmier- Menge von Grund- Programme über X sprachen symbolen (*) (*) Die Menge von Grundsymbolen besteht aus: den zugelassenen alphanumerischen Zeichen speziellen Schlüsselwörtern (keywords) wie 'PROGRAM', 'BEGIN'... Theoretische Informatik I Formale Sprachen 6

7 Darstellung formaler Sprachen Bei formalen Sprachen muß die Syntax formalen Regeln gehorchen, die Grammatik muß also formalisierbar und darstellbar sein. Gebräuchliche Methoden für die Darstellung von Sprachkonstrukten sind: BNF: Backus-Naur-Form Syntaxdiagramme Metasprachen Die Backus Naur Form wurde von J. Backus und P. Naur erfunden, die diesen Formalismus zuerst zur Darstellung von Konstrukten der Programmiersprache ALGOL 60 verwendeten. Zwei Varianten sind gebräuchlich : kompakte BNF (KBNF) erweiterte BNF (EBNF) Theoretische Informatik I Formale Sprachen 7

8 Terminale, Nichtterminale, Ersetzungsregeln Die BNF-Darstellung besteht aus Ersetzungsregeln (BNF-Regeln). Diese besitzen eine linke und eine rechte Seite, in denen Terminalzeichen (Zeichen des Alphabets) und Nichtterminalzeichen vorkommen. Nichtterminalzeichen sind Metazeichen: in der deutschen Sprache z.b.: Satz, Nebensatz, Subjekt, Prädikat, Objekt, Artikel usw. in der Programmiersprache PASCAL z.b.: Programm, Prozedurvereinbarung, Anweisung, Block, Typvereinbarung usw. Notationen in der BNF: Nichtterminale werden durch spitze Klammern <... > gekennzeichnet. Linke und rechte Seite einer Ersetzungsregel werden durch ::= getrennt. Theoretische Informatik I Formale Sprachen 8

9 Erweiterte BNF (EBNF) Gibt es zu einer linken Seite mehrere rechte Seiten, so werden diese durch getrennt, ohne die linke Seite nochmal anzuführen. Beispiel: <Bezeichner> soll aus höchstens 2 Zeichen bestehen, wobei an erster Stelle ein Element von {A,B} und an zweiter Stelle ein Element von {0,1, 2, 3} steht. <Bezeichner> ::= <Buchstabe> <Buchstabe><Ziffer> <Buchstabe> ::= A B <Ziffer> ::= Demnach sind folgende Bezeichner zulässig unzulässig B 3 A0 AA, 7A B3 B11 Theoretische Informatik I Formale Sprachen 9

10 Kompakte BNF (KBNF) Darstellungshilfsmittel: Beispiel: optionale Wiederholungsklammern obere Grenze untere Grenze * beliebig oft (0 bis n-mal) alternativ (oder) < number > ::= { + - } { 0 1 } {. { 0 1 } } 1 * * 1 0 zulässige Zahlen : 0, -1, +101, 1.0, , +000, unzulässige Zahlen : +-0,.0, -101., -..0 Theoretische Informatik I Formale Sprachen 10

11 Syntaxdiagramme Eine Programmiersprache wie PASCAL läßt sich vollständig in Form eines (großen und unübersichtlichen) Syntaxdiagramms beschreiben. Daher empfiehlt sich eine Zerlegung in übersichtliche Teildiagramme. Dabei ist eine Verzweigung als "oder", eine Aneinanderreihung als "gefolgt von" zu lesen. Zwei Symbolformen: Metasymbole: Metasymbol Sprachkomponenten: Sprachkomponente Theoretische Informatik I Formale Sprachen 11

12 Syntaxdiagramme: Beispiel 1 Beispiel (abstrakt) : A : ( B ) C D Der Begriff A ist definiert durch "(", gefolgt von B, gefolgt von C oder D, gefolgt von ")". Beispiel (konkret) : ziffer : Theoretische Informatik I Formale Sprachen 12

13 Syntaxdiagramme: Beispiel 2 zeichen : buchstabe ziffer sonderzeichen name : buchstabe buchstabe ziffer Theoretische Informatik I Formale Sprachen 13

14 Syntaxdiagramme: Beispiel 3 programm : programmkopf block. programmkopf : program programmname ( programmparameter ) ; programmparameter :, name Theoretische Informatik I Formale Sprachen 14

15 Grammatik künstlicher Sprachen (1) Das Regelwerk zum Satzaufbau, die Syntax, ist für natürliche Sprachen umfangreich und instabil, da sie laufend Änderungen unterworfen ist (neue Wörter, andere Schreibweise etc.). Einfacher ist dies bei Programmiersprachen, künstlichen Sprachen, deren Struktur präzise durch eine Grammatik definiert ist. Die 4 Bestandteile von sog. Satzgliederungssprachen sind: 1. Eine Menge von Terminalsymbolen 2. Eine Menge von Nichtterminalsymbolen 3. Eine Menge von grammatikalischen Regeln 4. Ein Startsymbol oder Axiom zu 1.) Eine Menge von Terminalsymbolen (oder Terminalen) Terminalsymbole sind Zeichen oder Zeichenfolgen, die in der Sprache Anwendung finden, das "Grundalphabet" der Sprache. Beispiel: In PASCAL: begin, end, :=, var, = Theoretische Informatik I Formale Sprachen 15

16 Grammatik künstlicher Sprachen (2) zu 2.) Eine Menge von Nichtterminalsymbolen (oder Nichtterminalen) Diese repräsentieren grammatikalische Konstrukte. Jedes Konstrukt läßt sich gemäß den Regeln der Grammatik in andere Konstrukte (Nichtterminale) oder in Terminale zerlegen. Beispiel: In PASCAL : Anweisung, Bezeichner, usw. zu 3.) Eine Menge von Grammatikregeln. Eine Regel legt fest, wie aus bereits bekannten Konstrukten neue Konstrukte entstehen. Beispiele: In der natürlichen deutschen Sprache: Verbindet man zwei Sätze A und B mit 'und', so ergibt dies wieder einen Satz. Regel in PASCAL: Wenn A eine Anweisung ist und B eine Bedingung, so ist die Zeichenfolge wieder eine Anweisung. repeat A until B Theoretische Informatik I Formale Sprachen 16

17 Formale Darstellung von Grammatikregeln Definition: Eine Grammatikregel ist ein Paar (2-Tupel) aus Wörtern bestehend aus Terminal- und/oder Nichtterminalsymbolen, geschrieben als (X 1 X 2... X n, Y 1 Y Y m ) oder X 1 X 2... X n Y 1 Y Y m Beispiele: (Nichtterminale sind durch < > - Zeichen gekennzeichnet.) a) Verknüpfen von Sätzen in der deutschen Sprache mittels "und": (<Satz>, <Satz> und <Satz>) oder <Satz> <Satz> und <Satz> b) PASCAL : (<Anweisung>, repeat <Anweisung> until <Bedingung>) oder <Anweisung> repeat <Anweisung> until <Bedingung> Theoretische Informatik I Formale Sprachen 17

18 Grammatik künstlicher Sprachen (3) zu 4.) Ein Startsymbol oder Axiom: Dies ist ein ausgewähltes Nichtterminal. Das Startsymbol ist das allgemeinste Sprachkonstrukt einer bestimmten Sprache. Beispiel: In Pascal: <Programm> Aus dem Startsymbol werden durch Anwenden der Grammatikregeln die einzelnen Wörter der Sprache abgeleitet. Theoretische Informatik I Formale Sprachen 18

19 Formale Definition einer Grammatik Definition: Eine (Chomsky-)Grammatik ist ein 4-Tupel G = ( N, T, P, S ) bestehend aus den folgenden Teilen: 1.) N ist eine endliche, nichtleere Menge von Zeichen, den Nichtterminalsymbolen, 2.) T ist eine endliche, nichtleere Menge von Zeichen, den Terminalsymbolen, mit N T =, 3.) P ist eine endliche Menge von Paaren (p,q) bzw. p q, wobei p und q Wörter aus Terminal- und Nichtterminalsymbolen sind: p, q (N T)*. Dabei muß p mindestens ein Nichtterminal enthalten. P ist das Produktions- oder Regelsystem. Die Elemente von P werden Produktionen, Ersetzungsregeln oder einfach Regeln genannt. 4.) S ist ein Element von N, das Startsymbol oder Axiom. Theoretische Informatik I Formale Sprachen 19

20 Chomsky-Grammatiken Grammatiken der eben definierten Form wurden 1959 vom amerikanischen Sprachwissenschaftler Noam Chomsky (geb. 1928) entwickelt, sie werden daher Chomsky-Grammatiken oder auch Satzgliederungssprachen (phrase structure languages) genannt, wegen der Aufteilung in die beiden Klassen Terminale und Nichtterminale. Es gibt verschiedene Typen oder Klassen von Sprachen, die durch Einschränken der erlaubten Grammatikregeln auf bestimmte Formen definiert werden. Theoretische Informatik I Formale Sprachen 20

21 Sprachklassen und Chomsky-Hierarchie CH-0: Menge der Sprachen, die durch (Chomsky-)Grammatiken (ohne weitere Einschränkung) erzeugt werden können: Allgemeine Sprachen (Typ 0 oder L0) genannt. CS : Menge der Sprachen, die durch kontextsensitive Grammatiken erzeugt werden können: Kontextsensitive Sprachen (Typ 1 oder L1) genannt. CF : Menge der Sprachen, die durch kontextfreie Grammatiken erzeugt werden können: Kontextfreie Sprachen (Typ 2 oder L2) genannt. RL bzw. LL oder Reg: Menge der Sprachen, die durch rechtslineare bzw. linkslineare Grammatiken erzeugt werden können: Reguläre Sprachen (Typ 3 oder L3) genannt. Diese Klassen stehen in folgender Beziehung zueinander: Chomsky-Hierarchie: L 3 L 2 L 1 L 0 Theoretische Informatik I Formale Sprachen 21

22 Sprachklassen und Automatenklassen Chomsky-Hierarchie unter Einbeziehung der verschiedenen Modelle erkennender Automaten : TM Sprachen, die von Turingmaschinen CH - 0 = TM = Auf akzeptiert werden. Auf Menge der aufzählbaren Sprachen. Ent Ent Menge der entscheidbaren Sprachen. NLBA Menge von Sprachen, die von nicht-determi- CS = NLBA nistischen linear beschränkten Automaten akzeptiert werden. CF = NDKA NDKA Sprachen von nicht-deterministischen Kellerautomaten Lin DKA DKA Sprachen determininistischer Kellerautomaten Lin Lineare Sprachen RL = LL = Reg = EA Reg Reguläre Sprachen EA Sprachen endlicher Automaten Theoretische Informatik I Formale Sprachen 22

23 Chomsky-Hierarchie Chomsky - Hierarchie in mengentheoretischer Darstellung : CH - 0 Ent CS CF Lin RL DKA Theoretische Informatik I Formale Sprachen 23

24 Beispiel für eine Grammatik Die im folgenden definierte Grammatik G 1 = ( N 1, T 1, P 1, S 1 ) beschreibt einen kleinen Ausschnitt der deutschen Sprache: N 1 = { <Satz>, <Subjekt>, <Prädikat>, <Objekt>, <Artikel>, <Substantiv> } T 1 = { die, Maus, Katze, jagt, beißt } S 1 = <Satz> P 1 = { (<Satz>, <Subjekt> <Prädikat> <Objekt>), (<Subjekt>, <Artikel> <Substantiv>), (<Objekt>, <Artikel> <Substantiv>), (<Prädikat>, jagt), (<Prädikat>, beißt), (<Artikel>, die), (<Substantiv>, Maus), (<Substantiv>, Katze) } Theoretische Informatik I Formale Sprachen 24

25 Ableitungsbaum Ein Wort der obigen Grammatik G 1 läßt sich durch einen Ableitungsbaum darstellen, z.b.: <Satz> <Subjekt> <Prädikat> <Objekt> <Artikel> <Substantiv> <Artikel> <Substantiv> die Katze jagt die Maus Theoretische Informatik I Formale Sprachen 25

26 Regeln zum Aufbau eines Ableitungsbaumes 1. Die Wurzel wird mit dem Startsymbol markiert. 2. Ein Knoten, der mit einem Nichtterminalsymbol X markiert ist, hat bei Anwendung der Regel X X 1 X 2... X n Söhne, die von links nach rechts mit X n 1, X 2,..., X n markiert werden. 3. Ein Knoten, der mit einem Terminalsymbol versehen ist, hat keinen weiteren Sohn. Die Folge der Blätter, gelesen von links nach rechts ergibt ein Wort (einen Satz) der Sprache. Bemerkung: Offensichtlich funktioniert diese Konstruktion nur für Regeln der Form X X 1 X 2... X, in n denen auf der linken Seite ein einziges Nicht-Terminal steht. Grammatiken, die nur solche Regeln enthalten, sind per definitionem (s.u.) genau die kontextfreien Grammatiken. Theoretische Informatik I Formale Sprachen 26

27 Ausführen einer Ableitung Frage: Wie gewinnt man aus einer Grammatik G = ( N, T, P, S ) die syntaktisch richtigen Wörter? Die Ableitungsvorschrift sei folgendermaßen definiert : Seien x (N T)* ein Wort aus Terminal- und Nichtterminalsymbolen, und (p,q) eine Regel aus der Produktionsmenge P von G, so daß p als Teilwort von x auftritt: x = x' p x" mit x', x" (N T)* Das Ergebnis der Anwendung von (p,q) auf x (im Kontext x'.. x") ist das Wort y = x' q x" das entsteht, indem man in x das Teilwort p durch das Wort q ersetzt. Man schreibt dann: x ==> y oder x y (falls die konkrete Regel uninteressant ist) (p,q) und sagt : x ist ableitbar nach y durch Anwendung der Regel (p, q). Theoretische Informatik I Formale Sprachen 27

28 Zu einer Grammatik gehörende Sprache Auf ein Wort x 0 können nacheinander mehrere Ableitungsschritte angewandt werden x 0 x 1, x 1 x 2,..., x n-1 x n (n > 1) Man nennt diese Folge von Ableitungen einfach eine Ableitung von x 0 nach x n oder sagt x 0 ist ableitbar nach x n bezüglich G und schreibt dafür: * x 0 ==> x G n Definition: Die von einer Grammatik G = ( N, T, P, S ) erzeugte Sprache L(G) ist die Menge aller Wörter, die aus dem Startsymbol S ableitbar sind und nur aus Terminalsymbolen bestehen: L(G) = { w T* S ==> w bezüglich G } Theoretische Informatik I Formale Sprachen 28

29 Beispiel 1 Beispiel für eine Ableitung : <Satz> <Subjekt> <Prädikat> <Objekt> <Artikel> <Substantiv> <Prädikat> <Objekt> <Artikel> Katze <Prädikat> <Objekt> <Artikel> Katze jagt <Objekt> <Artikel> Katze jagt <Artikel> <Substantiv>... die Katze jagt die Maus Die durch G 1 (s.o.) erzeugte Sprache ist : L(G 1 ) = { die Maus jagt die Katze, die Maus jagt die Maus, die Katze jagt die Katze, die Katze jagt die Maus, die Maus beißt die Katze, die Maus beißt die Maus, die Katze beißt die Katze, die Katze beißt die Maus } Theoretische Informatik I Formale Sprachen 29

30 Beispiel 2 Gegeben sei folgende Grammatik G 2 = ( N 2, T 2, P 2, S 2 ) mit N 2 = { S 2, A } T 2 = { a, b, c, d } P 2 = { (S 2, aabc), (A, aab), (aab, d) } Anwendung der Regeln : S 2 (S 2, aabc) aabc (aab, d) (A, aab) dc aaabbc (aab, d) aadbbc L (G 2 ) = { w T* w = a n d b n c, n > 0 } Theoretische Informatik I Formale Sprachen 30 (aab, d) (A, aab) adbc aaaabbbc

31 Rechts- und linkslineare Grammatiken Schreibweise: Im folgenden werden Terminale immer mit kleinen, Nichtterminale mit großen Buchstaben bezeichnet. Definition : Eine Grammatik G = ( N, T, P, S ) heißt rechtslinear, wenn alle Regeln die Form A a oder A a B haben. Sie heißt linkslinear, wenn alle Regeln die Form A a oder A Ba haben. Bei diesen Grammatiken wird also bei jeder Regelanwendung jeweils ein Nichtterminal durch ein Terminal oder durch ein Paar aus Terminal und Nichtterminal ersetzt. Theoretische Informatik I Formale Sprachen 31

32 Reguläre oder Typ-3-Sprachen Satz: Die Menge der Sprachen, die von rechtslinearen Grammatiken erzeugt werden, ist gleich der Menge der von linkslinearen Grammatiken erzeugten Sprachen. Bemerkung: Ein (konstruktiver) Beweis wird später gegeben. Definition: Eine Sprache heißt regulär oder vom Typ 3, wenn es eine linkslineare oder eine rechtslineare Grammatik gibt, die diese Sprache erzeugt. Theoretische Informatik I Formale Sprachen 32

33 Reguläre Mengen Notationen: Sei T eine endliche Menge, T* die Menge aller Wörter über T und A, B T* beliebige Teilmengen. A B = AoB = {ab T*; a A, b B} (Konkatenation) A 0 = {Λ}, A 1 = A, A 2 = AoA, A n = AoA n-1 A* = U A n (das von A erzeugte Untermonoid von T*) i = 0 Definition: Die Menge Reg der regulären Mengen über einer endlichen Menge T ist wie folgt definiert: 1. Reg (die leere Menge ist regulär) 2. { Λ } Reg (Λ = leeres Wort) 3. { x } Reg für alle x T 4. Sind P, Q Reg, so sind auch P Q, P o Q und P* Reg. Satz: Die Menge der regulären Sprachen über einer Menge T ist gleich der Menge der regulären Mengen über T. Theoretische Informatik I Formale Sprachen 33

34 Beispiel einer rechtslinearen Grammatik Gegeben sei die rechtslineare Grammatik G = ( N, T, P, S ) durch T = { a, b }, N = { A, S }, P = { (A, a), (S, ba), (S, as) } 1. Frage: Gehört das Wort x = a a b a zur Sprache L(G)? Wir suchen eine Reduktionsfolge für x: x = a a b a <= a a b A <= a a S <= a S <= S Also gilt x <= S und somit ist x L(G). * 2. Frage: Ist das Wort x = a b a a L(G)? Suche nach einer Reduktionsfolge, z.b. x = a b a a <= a b a A <= a b A A <= a S A <= S A oder x = a b a a <= A b a a <= A b A a <= A b A A <= A S A Alle Versuche führen nicht zu einer Reduktion zum Startsymbol S. Somit ist x = a b a a L(G). Theoretische Informatik I Formale Sprachen 34

35 Ein Ableitungsbaum der Beispielgrammatik Aufbau eines Ableitungsbaumes für x = a a b a durch Reduktion: 1. Schritt 2. Schritt S A A a a b a a a b a 3. Schritt S 4. Schritt S S S S A A a a b a a a b a Ein Wort x gehört genau dann zu L(G), wenn man einen Baum konstruieren kann, so daß von jedem Terminal von x genau ein Ast wegführt und alle Äste schließlich im Startsymbol S enden. Theoretische Informatik I Formale Sprachen 35

36 Die Sprache der Beispielgrammatik Erzeugen aller möglichen Ableitungen von S: Somit ist S => b A => b a S => a S => a b A => a b a => a S => a a S => a a b A => a a b a => a S => a a S => a a a S => a a a b A => a a a b a L(G) = { x x = a n b a, n N 0 } Falls so eine einfache, geschlossene Darstellung für alle Wörter der Sprache gefunden werden kann, ist dies natürlich auch die einfachste Methode, um für ein gegebenes Wort festzustellen, ob es zur Sprache gehört oder nicht. Theoretische Informatik I Formale Sprachen 36

37 Ableitungsbäume der Beispielgrammatik Entstehen des Syntaxbaumes bei der Ableitung von a) x = b a b) x = a b a c) x = a a b a a) S b) S c) S b A a S a S a b A a S a b A Durch die Regel S => as entstehen von links beliebig viele a's. Durch die Regeln S => b A und A => a entsteht die Endung ba. Wird die Regel S => ba sofort angewandt, entsteht lediglich das Wort ba (siehe a). a Theoretische Informatik I Formale Sprachen 37

38 Beispiel einer linkslinearen Grammatik (1) Gegeben sei die linkslineare Grammatik G = ( N, T, P, S ) durch T = { a, b }, N = { A, B, S } P = { ( A, a ), ( B, b ), ( A, A a ), ( B, A b ), ( S, B a ) } Erzeugen aller möglichen Ableitungen von S: S => B a ==> b a S => B a ==> A b a ==> a b a ==> A a b a ==> a a b a hier =>.... beliebig =>.... viele a's =>.... durch die Regel A => A a L(G) = { x x = a n b a, n N 0 } Theoretische Informatik I Formale Sprachen 38

39 Beispiel einer linkslinearen Grammatik (2) Einige Ableitungsbäume für diese linkslineare Grammatik : S S S B a B a B a b A b A b a A a A a Bei einer linkslinearen Grammatik wachsen der Syntaxbaum und das abgeleitete Wort von rechts, bei einer rechtslinearen Grammatik von links her. a Theoretische Informatik I Formale Sprachen 39

40 Äquivalenz von Grammatiken Definition : Zwei Grammatiken G 1 = (N 1, T, P 1, S 1 ) und G 2 = (N 2, T, P 2, S 2 ) heißen äquivalent, wenn sie die gleiche Sprache erzeugen, also L (G 1 ) = L (G 2 ) Beispiel: Die obigen beiden Beispiele einer rechtslinearen und einer linkslinearen Grammatik sind äquivalent. Wir hatten bereits den Satz formuliert (bisher ohne Beweis), daß die Menge der von rechtslinearen Grammatiken erzeugten Sprachen gleich der Menge der von linkslinearen Grammatiken erzeugten Sprachen ist. Wir zeigen diesen Satz indirekt, indem wir jetzt zeigen, daß jede dieser beiden Mengen von Sprachen genau die Menge der von endlichen Automaten erkannten Sprachen ist. Theoretische Informatik I Formale Sprachen 40

41 Der Zusammenhang zwischen rechtslinearen Grammatiken und endlichen Automaten (1) Satz: Zu jeder rechtslinearen Grammatik G gibt es einen endlichen Automaten A, so daß L(G) = L(A) ist und umgekehrt. Beweis: Wir geben im folgenden ein konstruktives Verfahren an, das die entsprechende Aussage informell beweist. Wir gehen dabei davon aus, daß es zu jeder Regel A b eine weitere Regel A bc mit einem Nichtterminal C gibt. Ist dies nicht der Fall, fügen wir einfach ein weiteres (überflüssiges) Nichtterminal C und die (überflüssige) Regel A bc zu der Grammatik hinzu. Theoretische Informatik I Formale Sprachen 41

42 Der Zusammenhang zwischen rechtslinearen Grammatiken und endlichen Automaten (2) Vorgehensweise: 1. Jedem Nichtterminal entspricht ein Knoten (Zustand) und jedem Zustand ein Nichtterminal. Der Anfangszustand entspricht dem Startsymbol. 2. Jede Regel A bc entspricht einer Kante vom Knoten A zum Knoten C mit der Bewertung b und umgekehrt. 3. Gibt es in der Grammatik zwei Regeln A b und A bc, so ist C ein Endzustand. Umgekehrt nehmen wir für jeden Endzustand C und jede Kante von A nach C mit der Bewertung b zusätzlich zu A bc auch noch die Regel A b in die Grammatik auf. rechtslineare Grammatik endlicher Automat T X N Z S z 0 (Anfangszustand) P f z Theoretische Informatik I Formale Sprachen 42

43 Zustandsdiagramm vs. Produktionsregeln Der Zusammenhang zwischen Zustandsdiagramm und Regeln: linkslineare Regeln rechtslineare Regeln b b A C A C (C,Ab) (A,bC) a (B,a) a B S B (S,aB) A b b S A (S,Ab) (A,b) C (A,bC) Theoretische Informatik I Formale Sprachen 43

44 Beispiel (1) Konstruktion einer rechtslinearen Grammatik zu einem endlichen Automaten A mit X = { a, b } und der Sprache L(A) = { x x = a n b a, n N 0 }. Zustandsdiagramm rechtslineare Grammatik a A b a T = { a, b } = X B C N = { A, B, C, S } = Z b a,b P leitet sich aus fz ab: a b S aa (S,aA) S S bb (S,bB) D A aa (A,aA) A bb (A,bB) a,b Bemerkung: B ac (B,aC) C und B ac sind überflüssig B a (B,a) (ebenso D und alle D enthaltenden Regeln) Theoretische Informatik I Formale Sprachen 44

45 Beispiel (2) Wir haben bereits eine einfachere, rechtslineare Grammatik kennengelernt, die die Sprache { x x = a n b a, n N 0 } erzeugt, als die eben aus dem endlichen Automaten hergeleitete, nämlich: N = { A, S }, P = { (A, a), (S, ba), (S, as) } Wie sieht der endliche Automat zu dieser Grammatik aus? a S b A a B b a, b C a,b Der Zustand B entsteht aus der künstlich hinzugefügten Regel A ab, der Zustand C ist zur Vervollständigung der Übergangsfunktion nötig ("überflüssige" Regeln A bc, B ac, B bc, C ac, C bc). Theoretische Informatik I Formale Sprachen 45

46 Der Zusammenhang zwischen linkslinearen Grammatiken und endlichen Automaten (1) Satz: Zu jeder linkslinearen Grammatik G gibt es einen endlichen Automaten A, so daß L(G) = L(A) ist und umgekehrt. Beweis: Wir geben im folgenden ein konstruktives Verfahren an, daß die entsprechende Aussage informell beweist. Das Verfahren zur Konstruktion der Grammatik aus dem endlichen Automaten setzt allerdings voraus, daß der endliche Automat nur einen einzigen Endzustand besitzt, und dass keine Kanten auf den Anfangszustand führen. (Bei der Konstruktion des Automaten aus der Grammatik entsteht automatisch ein solcher Automat.) Deswegen wollen wir zunächst zeigen, dass dies keine Einschränkung ist. Theoretische Informatik I Formale Sprachen 46

47 Eine Normalform für endliche Automaten Lemma: Jeder endliche Automat ist äquivalent zu einem endlichen Automaten mit nur einem Endzustand, und bei dem keine Kanten in den Anfangszustand führen. Beweis (konstruktiv): Entfernen der Kanten in den Anfangszustand: Nimm einen weiteren Zustand X hinzu. Alle Kanten, die zuvor in den Anfangszustand führten, werden so verändert, dass sie in den Zustand X führen. Zu jeder vom Anfangszustand ausgehenden Kante wird zusätzlich eine entsprechende von X ausgehende Kante eingefügt. Reduktion auf einen Endzustand: Füge einen neuen Zustand E hinzu und mache ihn zum einzigen Endzustand. Zu jeder Kante, die in einen der vorherigen Endzustände führte, wird zusätzlich eine entsprechende Kante in den Zustand E eingefügt. (Der neue Automat ist also auf jeden Fall nicht-deterministisch). Von E aus gehen alle Kanten in einen Fehler zustand, aus dem es kein Entrinnen gibt. Theoretische Informatik I Formale Sprachen 47

48 Der Zusammenhang zwischen linkslinearen Grammatiken und endlichen Automaten (2) Vorgehensweise: 1. Jedem Nichtterminal entspricht ein Knoten (Zustand), der nicht der Anfangszustand ist, und umgekehrt entspricht jedem Zustand mit Ausnahme des Anfangszustandes ein Nichtterminal. Das Startsymbol S entspricht dem (einzigen) Endzustand. 2. Jeder Regel C Ab entspricht eine Kante vom Knoten A zum Knoten C mit der Bewertung b und umgekehrt. 3. Jeder Regel B a entspricht eine Kante vom Anfangszustand zum Knoten B mit der Bewertung a und umgekehrt. Es führen keine Kanten auf den Anfangszustand. linkslineare Grammatik endlicher Automat T X N Z \ {z 0 } S Z E mit Z E = 1 P f z Theoretische Informatik I Formale Sprachen 48

49 Beispiel Konstruktion einer linkslinearen Grammatik zu einem endlichen Automaten A mit X = { a, b } und der Sprache L(A) = { x x = a n b a, n N 0 }. Zustandsdiagramm a b a A B S b a,b a b D a,b linkslineare Grammatik T = { a, b } = X N = { A, B, S } = Z \ { z 0 } P leitet sich aus f Z ab: A a (A,a) A Aa (A,Aa) B b (B,b) B Ab (B,Ab) S Ba (S,Ba) Theoretische Informatik I Formale Sprachen 49

50 Kontextfreie (Typ 2) Sprachen Definition : Eine Grammatik heißt vom Typ 2 oder kontextfrei (umgebungsunabhängig), wenn alle Regeln von der Form A ω, ω (N T)*, ω Λ sind. Eine Sprache heißt kontextfrei oder vom Typ 2, wenn es eine kontextfreie Grammatik gibt, die diese Sprache erzeugt. Die Einschränkung ω Λbesagt, daß ein Nichtterminal nicht durch das leere Wort Λ ersetzt werden darf. Der Begriff kontextfrei wird verwendet, da die Regel A ω immer angewendet werden kann, unabhängig von der Umgebung (dem Kontext) von A. Kommt also A in einem Wort ϕ A ψ vor, so ist immer ϕ A ψ => ϕ ω ψ, unabhängig von ϕ und ψ (ϕ und / oder ψ können auch leer sein). Theoretische Informatik I Formale Sprachen 50

51 Chomsky- und Greibach-Normalform Beim Beweis von Aussagen über kontextfreie Sprachen ist es häufig nützlich, mit einer Grammatik zu arbeiten, deren Regeln spezieller sind als in einer allgemeinen kontextfreien Grammatik. Definition: Eine Grammatik ist in Chomsky-Normalform, wenn alle Regeln die Form A BC oder A a haben. Eine Grammatik ist in Greibach-Normalform, wenn alle Regeln die Form A a B 1 B 2... B k, k > 0 haben. Satz: Sei L eine kontextfreie Sprache. Dann gibt es - eine Grammatik für L in Chomsky-Normalform, - eine Grammatik für L in Greibach-Normalform. Theoretische Informatik I Formale Sprachen 51

52 Beispiel: PASCAL Die Syntax der meisten Programmiersprachen kann durch kontextfreie Grammatiken beschrieben werden. Beispiel: Die PASCAL-Definition von Namen in EBNF <identifier> ::= <letter> <identifier><letter> <identifier><digit> ist in Form von Grammatikregeln wie folgt zu formulieren : <identifier> <identifier> <identifier> <letter> <identifier><letter> <identifier><digit> Bemerkung: Alle drei Regeln sind kontextfrei, aber nicht vom Typ 3. Theoretische Informatik I Formale Sprachen 52

53 Eine kontextfreie, nicht reguläre Sprache Wir wissen bereits, daß die Sprache L = { x x = a m b m, m N } über T = {a,b} nicht regulär ist, denn sie ist nicht die Sprache eines endlichen Automaten. Also kann es keine links- oder rechtslineare Grammatik für L geben. Das folgende kontextfreie Regelsystem erzeugt L: P : { (S,ab), (S,aSb) } Ableitungsbäume für diese Grammatik bauen sich von der Mitte her auf, z.b. für das Wort a 3 b 3 : S S S a a a b b b Theoretische Informatik I Formale Sprachen 53

54 Kontextfreie Sprachen und Automaten Die Beziehung zwischen kontextfreien Sprachen bzw. Grammatiken und Automaten, also die Frage, welche Automaten kontextfreien Sprachen entsprechen, behandelt der folgende Satz: Zu jeder kontextfreien Grammatik G gibt es einen nicht-deterministischen Kellerautomaten NDKA, so daß L (G) = L ( NDKA ) ist und umgekehrt. Bemerkung : Die Klasse der Sprachen von nichtdeterministischen Kellerautomaten ist echt größer als die Klasse der Sprachen von deterministischen Kellerautomaten. Diejenigen kontextfreien Sprachen, die von deterministischen Kellerautomaten akzeptiert werden, werden auch deterministische kontextfreie Sprachen genannt. Theoretische Informatik I Formale Sprachen 54

55 Lineare Sprachen Definition: Eine Grammatik G = ( N, T, P, S ) heißt linear, wenn alle Regeln die Form A a oder A x B y mit a T und x, y T* haben. Eine Sprache heißt linear, wenn es eine lineare Grammatik für diese Sprache gibt. Beispiel: Die Sprache L = { x x = a m b m, m N } ist linear. Satz: Seien Lin = {linearen Sprachen}, L3 = {regulären Sprachen} und L2 = {kontextfreien Sprachen}. Dann gilt: L3 Lin L2 Theoretische Informatik I Formale Sprachen 55

56 Inhärent mehrdeutige Sprachen Definition: Eine kontextfreie Grammatik G heißt mehrdeutig, wenn es ein Wort x L(G) gibt, das mehr als einen Ableitungsbaum hat. Eine Sprache heißt inhärent mehrdeutig, wenn jede sie erzeugende Grammatik mehrdeutig ist. Beispiel: T = { a, b }, N = {S}, P = {( S,a), (S,b), (S,SS) }, x = aba S S S S S S S S S S a b a a b a Satz: Die Sprache {a i b j c k ; i = j oder j = k} ist inhärent mehrdeutig. Theoretische Informatik I Formale Sprachen 56

57 Ein Unentscheidbarkeitssatz Satz : Die Frage, ob eine gegebene kontextfreie Grammatik eindeutig oder inhärent mehrdeutig ist, ist nicht entscheidbar. Aber: In praktischen Fällen kann man durch entsprechende Kriterien Mehrdeutigkeiten klären, um diese zu vermeiden. Theoretische Informatik I Formale Sprachen 57

58 Kontextsensitive (Typ 1) Sprachen Die wichtigste Einschränkung bei kontextfreien Sprachen ist, daß auf der linken Seite der Regeln nur ein Nichtterminal auftreten darf. Definition: Eine Grammatik heißt kontextsensitiv (umgebungsabhängig) oder vom Typ 1, wenn ihre Regeln alle von der Form ϕ ω sind mit ϕ, ω (N T)*, ϕ < ω. Eine Sprache heißt kontextsensitiv oder vom Typ 1, wenn es eine kontextsensitive Grammatik gibt, die diese Sprache erzeugt. Bei einer kontextsensitiven Grammatik wird irgendeine Kette von Terminalen und/oder Nichtterminalen durch eine andere solche Kette ersetzt, mit der einzigen Einschränkung, daß bei der Ableitung die Wörter nicht kürzer werden. Theoretische Informatik I Formale Sprachen 58

59 Äquivalente Definition von kontextsensitiv Die Begründung für die Bezeichnung kontextsensitiv ergibt sich aus: Satz : Eine Sprache ist genau dann kontextsensitiv, wenn es eine sie erzeugende Grammatik gibt, deren Regeln alle die Form ϕ 1 Aϕ 2 ϕ 1 ωϕ 2, ϕ 1, ϕ 2, ω (N T)*, ω Λ haben. (Dabei dürfen ϕ 1 und / oder ϕ 2 auch leer sein.) Hier besteht ein Unterschied zu den Ableitungs-/Produktionsregeln kontextfreier Sprachen der Form A ω : Eine Regel ϕ 1 Aϕ 2 ϕ 1 ωϕ 2 bedeutet, daß A nur dann durch ω ersetzt werden darf, wenn A in dem bestimmten Kontext ϕ 1.. ϕ 2 steht. Theoretische Informatik I Formale Sprachen 59

60 Eine nicht kontextfreie Sprache Satz: Die Sprache {a n b n c n ; n > 1} über {a,b,c} ist nicht kontextfrei. Der Beweis des Satzes folgt aus dem Pumping-Lemma für kontextfreie Sprachen: Sei L eine kontextfreie Sprache. Dann gibt es eine Konstante n, so daß sich jedes Wort z L der Länge z > n schreiben läßt als z = uvwxy, vx > 1, und so daß für alle i > 0 auch uv i wx i y L. Die Sprache L = {a n b n c n ; n > 1} wird erzeugt von der Grammatik mit folgenden Regeln: S asbc, S abc, CB BC, ab ab, bb bb, bc bc, cc cc Dies ist eine kontextsensitive Grammatik. Theoretische Informatik I Formale Sprachen 60

61 Kontextsensitive Sprachen und Automaten Satz: Zu jeder kontextsensitiven Grammatik G gibt es einen nicht-deterministischen, linear beschränkten Automaten LBA, so daß L (G) = L ( LBA ) ist und umgekehrt. LBA-Problem: Es ist unbekannt, ob es zu jedem nicht-deterministischen, linear beschränkten Automaten einen deterministischen, linear beschränkten Automaten gibt, der die gleiche Sprache akzeptiert. Theoretische Informatik I Formale Sprachen 61

62 Allgemeine (Typ 0) Sprachen Ausgehend vom Typ 3 unterlag jedes Regelsystem immer weniger Beschränkungen. Der Typ 0 ist der allgemeinste Fall der Satzgliederungssprachen, in denen die Regeln keinerlei Beschränkungen mehr unterliegen. Definition : Jede Satzgliederungssprache L(G) ist vom Typ 0. Die Regeln der Grammatik G ϕ ψ, ϕ, ψ (N T)* unterliegen keinerlei Beschränkungen. Bei den Typ-1-Sprachen unterlagen die Regeln der Grammatik noch der Beschränkung ϕ < ψ. Theoretische Informatik I Formale Sprachen 62

63 Typ-0-Sprachen und Automaten Satz : Zu jeder Grammatik G vom Typ 0 gibt es eine Turingmaschine TM, so daß L(G) = L(TM) ist und umgekehrt. D.h. jede Regel läßt sich auf einer Turingmaschine ausführen. Umgekehrt kann jede Veränderung der Bandbeschriftung einer Turingmaschine durch eine Grammatikregel beschrieben werden. Theoretische Informatik I Formale Sprachen 63