Grundlagen Theoretischer Informatik I SoSe 2011 in Trier. Henning Fernau Universität Trier fernau@uni-trier.de

Transkript

1 Grundlagen Theoretischer Informatik I SoSe 2011 in Trier Henning Fernau Universität Trier fernau@uni-trier.de 1

2 Grundlagen Theoretischer Informatik I Gesamtübersicht Organisatorisches; Einführung Logik & Beweisverfahren Mengenlehre reguläre Sprachen 2

3 Formale Sprachen eine Annäherung Was ist eine Sprache? Eine Sprache ist eine Menge von Wörtern. Das sollte jetzt auch mathematisch klar sein: Eine Menge Σ heißt Alphabet, falls Σ eine endliche, nicht-leere Menge ist, i.z.: Σ < und Σ. Kurz gesagt: Eine Sprache L (über Σ) ist eine Teilmenge des von der Menge Σ frei erzeugten Monoids, i.z.: L Σ. 3

4 Ein deterministischer endlicher Automat oder DEA wird beschrieben durch ein Quintupel A = (Q, Σ, δ, q 0, F) wobei gilt: Q: endliche Menge von Zuständen (Zustandsalphabet) Σ: endliche Menge von Eingabezeichen (Eingabealphabet) δ : Q Σ Q: Überführungsfunktion q 0 Q: Anfangszustand F Q: Endzustände 4

5 Was tut der folgende Automat? δ a b s s q q r q r r r Wie sieht der Automatengraph aus? Wie kann man L(A) beschreiben in Worten oder in Mengennotation? 5

6 Lemma: L(A) = L := {a n b m n 0, m 1} mit a 0 := λ and a n+1 = a n a (Wortpotenzen). Der Beweis von L(A) = L hat in der Regel zwei Richtungen: (a) L(A) L und (b) L L(A). Beweistechnik: Induktion. für (a) betrachtet das Induktionsargument i.d.r. n-schritt-konfigurationsübergänge c n c für (b) erfolgt das Induktionsargument hingegen über die Wortlänge n = w mit w L (oder aus Σ ). 6

7 Lemma 1: n 0 : (s, a n ) (s, λ). Beweis: für n = 0. Für n > 0: (s, a n ) = (s, a a n 1 ) (s, a n 1 ) (s, λ) Beweis von L(A) L: Offensichtlich ist b L das einzige Wort der Länge Eins oder kürzer in L und b L(A), denn δ(s, b) = q. Betrachte a n b m L mit n + m > 1. Gilt m = 1, so folgt mit Lemma 1: Für m > 1 folgt mit der IH: In beiden Fällen ist a n b m L(A). (s, a n b) (s, b) (q, λ) (s, a n b m 1 b) (q, b) (q, λ). 7

8 Zustand r ist eine Falle in folgendem Sinne: Lemma 2: v, w Σ : ((r, v) (x, w)) x {r}. Lemma 3: w Σ : ((q, w) (q, λ)) w {b}. Beweis durch Induktion über w. für n = 0. Für n > 0 betrachte w = a 1 a 2... a n mit 1 i n : a i Σ. Diskutiere (q, a 1 a 2... a n ) (x, a 2... a n ) (q, λ). Falls a 1 = a, so gilt x = r, und wegen Lemma 2 ist (x, a 2... a n ) (q, λ) unmöglich. Ist a 1 = b, so gilt x = q, und die IH liefert a 2 = = a n = b. Beweis von L(A) L: Betrachte (s, w) n (q, λ). Für n = 1, w = b L. Für n > 1 erörtern wir (s, w) (x, w ) n 1 (q, λ). Ist w = aw, so x = s; die IH liefert die Behauptung. Ist w = bw, so x = q; dann folgt mit Lemma 3 die Behauptung. 8

9 Operationen auf Sprachen Erinnerung: Eine Sprache ist eine Menge von Wörtern. Also: Vereinigung, Durchschnitt, Komplement,... von Sprachen liefern wieder Sprachen, sind also Operationen auf Sprachen. Eine Menge von Sprachen heißt auch Sprachfamilie. Wir haben bislang die Familie DEA der DEA-akzeptierbaren Sprachen betrachten. Ist f eine k-stellige Operation auf Sprachen und ist L eine Sprachfamilie, so heißt L abgeschlossen gegen f gdw. für alle L 1,..., L k L gilt: f(l 1,..., L k ) L. 9

10 Ein Beispiel Was beschreibt folgender Automat? 0 q 1 0 r 0,1 s 1 10

11 L(A) = {w {0, 1} w enthält nicht das Teilwort 11} = {w {0, 1} Auf jedes Vorkommen von 1 vor der letzten Stelle in w folgt 0. } Satz: DEA-Sprachen sind komplementabgeschlossen. Beweis: Sprachkomplement entspricht Endzustandsmengenkomplement. Hinweis: Dies ist streng genommen gar kein Beweis, sondern die bloß Angabe einer Konstruktion, die zu vorgelegtem DEA A einen DEA A bastelt, für den zu zeigen wäre, dass L(A) das Komplement von L(A ) akzeptiert. Man hat also zu zeigen: w L(A) w / L(A ) und w L(A ) w / L(A). Die formale Durchführung ist Ihnen zur Übung überlassen. 11

12 Das Beispiel 0 q 1 0 r 0,1 s 1 12

13 Schwieriger: Vereinigungsbildung Wie kann man aus DEA-Beschreibungen für L 1 = {w {0, 1} w enthält das Teilwort 11}, L 2 = {w {0, 1} w enthält das Teilwort 00}, einen DEA für L 1 L 2 basteln? Idee: Verwende irgendwie Automaten für L 1 und für L 2. Kann man EAs aus Teilprogrammen zusammensetzen? 13

14 Ein DEA für L 2 sähe wie folgt aus: 1 q 0 1 r 0,1 s 0 14

15 Vereinigung durch mehrere Anfangszustände?? 0 1 q 1 0 r q 0 1 r 0,1 s 1 0,1 s 0 15

16 Ein nichtdeterministischer endlicher Automat oder NEA wird beschrieben durch ein Quintupel A = (Q, Σ, δ, Q 0, F) wobei gilt: Q: endliche Menge von Zuständen (Zustandsalphabet) Σ: endliche Menge von Eingabezeichen (Eingabealphabet) δ Q Σ Q: Überführungsrelation Q 0 Q: Anfangszustände F Q: Endzustände Sprachfamilie: NEA. 16

17 Überführungstafel Ein endlicher Automat kann vollständig durch seine Überführungstafel beschrieben werden. Beispiel: Betrachte: δ 0 1 q q r r q s s s s q r q r s q s s s 17

18 Die von einem NEA A = (Q, Σ, δ, Q 0, F) akzeptierte Sprache kann man formal wie folgt beschreiben. Ein Element aus C = Q Σ heißt Konfiguration von A. Definiere eine binäre Relation A auf C durch (q, w) A (q, w ) gdw. a Σ : w = aw und δ (q, a, q ). Die zweite Komponente einer Konfiguration ist die Resteingabe. A beschreibt einen möglichen Konfigurationsübergang in einem Schritt. Entsprechend beschreibt n A n Schritte von A. Daher können wir definieren: L(A) = {w Σ q 0 Q 0, q F : (q 0, w) A (q, λ)}. 18

19 NEAs zur Spezifikation I Beispiel: Gesucht: NEA, der in der Reihenfolge (aber nicht unbedingt nebeneindander) die Zeichen 0, 1, 1 enthält. Lösung: δ 0 1 q q, r q r r r, s s s s, t t t t 19

20 Dazu DEA?! Idee: erstes Vorkommen zu prüfen genügt! δ 0 1 q r q r r s s s t t t t Hinweis: Pattern Matching! 20

21 NEAs zur Spezifikation II Satz: Jede endliche Sprache ist NEA-Sprache. Beweis: Sei L = {w 1,..., w M } Σ mit w i = a i,1 a i,l(wi ), 1 i M. Betrachte den folgendenmaßen spezifizierten Skelettautomaten: Q = {(i, j) 1 i M, 0 j l(w i )}, Q 0 = {(i, 0) i M} und F = {(i, l(w i )) i M} δ = {((i, j), a, (i, j + 1)) 1 i M, 0 j < l(w i ), a i,j+1 = a}. Hinweis: Master-Vorlesung über Lernalgorithmen 21

22 Unterschiede DEA / NEA Spezifikation anhand der Überführungstafel; wie DEA, ABER: Einträge dürfen leer sein, d.h. der Automat ist unvollständig. Manchmal auch bei DEAs zugelassen... (partielle DEAs) Es gibt mehr als einen Eintrag (das heißt ja Nichtdeterminismus!). Es gibt eine Anfangszustandsmenge. Manchmal werden neben Buchstaben auch Wörter als Spaltenüberschrift zugelassen, insbesondere das leere Wort: NEA mit λ-übergängen. 22

23 Vereinigung leicht gemacht Satz: NEA ist unter Vereinigung abgeschlossen. Beweis: Es seien A i = (Q i, Σ, δ i, Q i,0, F i ) für i = 1, 2 zwei NEAs. Durch Umbenennen können wir Q 1 Q 2 = voraussetzen. Dann wird L(A 1 ) L(A 2 ) beschrieben durch: (Q 1 Q 2, Σ, δ 1 δ 2, Q 1,0 Q 2,0, F 1 F 2 ). 23

24 NEA=DEA Sprachfamilie REG der regulären Sprachen. Beweis:. Für betrachte NEA A = (Q, Σ, δ, Q 0, F). Die Relation δ lässt sich als Abbildung δ f : Q Σ 2 Q auffassen mit (q, a) {r Q (q, a, r) δ}. Dies liefert auch eine Abbildung δ f : 2 Q Σ 2 Q, (P, a) p P δ f(p, a). Setze F = {P 2 Q P F } und betrachte DEA Behauptung: L(A) = L(A ). A = (2 Q, Σ, δ f, Q 0, F ). Hinweis: Zustandsexplosion! 24

25 Zustandsexplosion: ein böses Beispiel L k = {x {0, 1} l(x) k, das k-letzte Zeichen von x ist 0 } Lemma: L k kann durch einen NEA mit k + 1 Zuständen erkannt werden, aber durch keinen DEA mit weniger als 2 k Zuständen. Beweis: Der NEA ist durch folgende Tafel beschrieben: 0 1 q 0 q 0, q 1 q 0 q i q i+1 q i+1 für 0 < i < k q k 25

26 Warum ist das Beispiel böse? L k = {x {0, 1} l(x) k, das k-letzte Zeichen von x ist 0 } Gäbe es einen DEA A mit < 2 k Zuständen für L k, so gibt es (Schubfachprinzip) Wörter y 1, y 2 {0, 1} k und einen Zustand q mit (q 0, y i ) k A (q, λ) für i = 1, 2. Wähle j, sodass es ein Wort u {0, 1} j 1 gibt mit y 1 = ua 1 v 1 und y 2 = ua 2 v 2 mit {a 1, a 2 } = {0, 1} (längstes gemeinsames Anfangswort von y 1, y 2 ). Da v 1 = v 2 = k j, liegt genau eines der Wörter y 1 u bzw. y 2 u in L k. Andererseits gibt es genau ein q, sodass: (q 0, y i u) k A (q, u) j 1 A (q, λ) für i = 1, 2, d.h., y 1 u und y 2 u werden gleichermaßen akzeptiert oder verworfen, denn A arbeitet deterministisch. 26

27 Zustandsexplosion vermeidbar? Manchmal ja: durch lazy evaluation (Bereitstellen erst wenn nötig!) Beispiel: Betrachte den Skelettautomaten zu L = {a, aa, ab, abb} mit Zustandsmenge {(1, 0), (1, 1); (2, 0), (2, 1), (2, 2); (3, 0), (3, 1), (3, 2); (4, 0), (4, 1), (4, 2), (4, 3)}. Beginnen wir mit Q 0 = {(1, 0), (2, 0), (3, 0), (4, 0)}, dem Startzustand des DEA. δ f (Q 0, a) = {(1, 1), (2, 1), (3, 1), (4, 1)} =: Q 1 δ f (Q 0, b) = δ f (Q 1, a) = {(2, 2)} =: Q 2 δ f (Q 1, b) = {(3, 2), (4, 2)} =: Q 3 δ f (Q 3, a) = δ f (Q 3, b) = {(4, 3)} =: Q 4 δ f (, x) = δ f (Q 2, x) = δ f (Q 4, x) = für x = a, b. Endzustände sind Q 1, Q 2, Q 3, Q 4. Anstelle von 2 12 hat unser DEA nur 5 Zustände, weniger als Ausgangs-NEA! Der so aus Skelettautomaten gewonnene DEA heißt Präfixbaumakzeptor. 27

28 Boolesche Abschlusseigenschaften zusammengefasst Aus den abgeleiteten Abschlusseigenschaften von DEA und von NEA sowie dem Gesetz von de Morgan und der soeben bewiesenen Sprachfamiliengleichheit folgt: Satz: REG ist abgeschlossen gegenüber Vereinigung, Durchschnitt und Komplementbildung. 28