Endliche Automaten. Prof. Dr. W. Vogler. Sommersemester 2007

Transkript

1 Endliche Automten Prof. Dr. W. Vogler Sommersemester

2 INHALTSVERZEICHNIS i Inhltsverzeichnis 1 Wörter und Monoide 1 2 Endliche Automten 4 3 Anwendung: Diophntische Gleichungen 9 4 Minimierung endlicher Automten Der Minimlutomt und der Stz von Nerode Ein Verfhren zur Minimierung Minimierungsverfhren von Hopcroft Gleicheit regulärer Sprchen und Gröÿe minimler Automten PumpingLemm 25 6 Mely-Automten 29 7 Moore-Automten 35 9 Büchi-Automten Denition und Abschlusseigenschften Model Checking Vritionen von Büchi-Automten

3 1 WÖRTER UND MONOIDE 1 Diese Vorlesung befÿt sich mit endlichen Automten in Ergänzung der Grundvorlesung Einführung in die theoretische Informtik. Insbesondere werden wir uch Automten mit Ausgbe sowie Automten für unendliche Wörter behndeln. Um die Nützlichkeit endlicher Automten in verschiedenen Bereichen ufzuzeigen, werden kurz Verbindungen zur Logik hergestellt, wofür die Kenntnis der Prädiktenlogik erster Stufe (Syntx und Semntik) vorusgesetzt wird; Kenntnisse der temporlen Logik, speziell der Propositionl Liner-Time Temporl Logic PLTL, wären günstig. Für einige lgorithmische Frgestellungen werden entsprechende Kenntnisse us Informtik III vorusgesetzt; insbesondere sollten Tiefen- und Breitensuche, ber uch NP-Vollständigkeit beknnt sein. Litertur: Bruer: Automtentheorie Hopcroft, (Motwni,) Ullmn: Introduction to Automt Theory, Lnguges nd Computtion. dtsch.: Einführung in die Automtentheorie, Formle Sprchen und Komplexitätstheorie Schöning: Theoretische Informtik kurz gefÿt. 4. Auge Thoms: Automt on Innite Objects. Chpter 4 in Hndbook of Theoreticl Computer Science, Hrsg. vn Leeuwen Thoms: Lnguges, Automt, nd Logic. In: Hndbook of Forml Lnguges, Vol. 3, Hrsg. Rozenberg, Slom 1 Wörter und Monoide Wort: Sequenz von Zeichen us einem gegebenen Zeichenvorrt (z.b. C-Progrmm, von einem System usgeführte Aktionsfolgen) formle Sprche: Menge von Wörtern (z.b. der syntktisch korrekten C-Progrmme, ller Aktionsfolgen eines Systems) Denition 1.1. Ein Alphbet (Zeichenvorrt) Σ ist eine endliche Menge; ihre Elemente heiÿen Buchstben (Zeichen); oft ist zusätzlich eine totle Ordnung uf Σ gegeben. Eine Folge von Buchstben w = 1 n mit i Σ heiÿt Wort oder Zeichenkette über Σ. w ist die Länge des Wortes. Ds Wort mit Länge 0 ist ds leere Wort und wird mit λ bezeichnet. Ist A Σ, so ist w A die Anzhl der Zeichen von w, die in A liegen. Σ n bezeichnet die Menge der Wörter mit Länge n. Wörter der Länge 1 sind einfch Buchstben; lso Σ 1 = Σ und Σ 0 = {λ}. Σ + = n 1 Σ n Menge der nichtleeren Wörter Σ = n 0 Σ n = Σ + {λ} Menge ller Wörter Eine formle Sprche über Σ ist eine Teilmenge L Σ. Denition 1.2. Die Konktention der Wörter v = 1 n Σ n und w = b 1 b m Σ m ist v w = 1 n b 1 b m Σ n+m ; wir schreiben oft vw. Beispiele 1.3. Wörter mit gleich vielen und b: w = w b

4 1 WÖRTER UND MONOIDE 2 Wörter gerder Länge: w mod 2 = 0 Kommuniktion eines Puerspeichers: Hier soll e für eine Eingbe in den Puer, bzw. b für eine Ausgbe uf Knl A bzw. B stehen. w {, b, e} ist ein korrektes Puerverhlten, wenn für jedes Anfngsstück (Präx) v von w gilt v {,b} v e. Die Konktention ist ssozitiv und λ ist ein Einselemnt, d.h. w λ = w = λ w. Strukturen mit einer ssozitiven Opertion mit 1 gibt es häuger. Denition 1.4. Ein Monoid ist ein Tripel (M,, 1 M ), wobei eine ssozitive Opertion uf der Menge M und 1 M M neutrles Element ist. Beispiele 1.5. für Monoide (Σ,, λ) für Σ 2 nicht kommuttiv: b b (B,,true) (N, +, 0) (B,,flse) (Z, +, 0) In Monoiden knn mn ntürlichzhlige Potenzen denieren: x n ist ds Produkt von n x'en; forml: x 0 = 1; x n+1 = x x n Speziell für Σ ist lso w n die Konktention von n w's und w 0 = λ. Weiter ist z.b. (b) 3 = bbb und b 3 = bbb Potenzieren geht ls Rechenrt höherer Stufe lso vor. Es gelten in llen Monoiden die üblichen Rechenregeln für Potenzen: x 1 = x; x n+m = x n x m ; (x n ) m = x nm Weiter verhält sich die Länge wie ein Logrithmus: λ = 0; vw = v + w ; w n = n w Auch der folgende Typ von Monoiden interessiert in dieser Vorlesung. Denition 1.6. Für eine Menge M sei P(M) die Potenzmenge von M, d.h. die Menge ller Teilmengen von M. Die Opertion eines Monoids M wird uf P(M) (punktweise) erweitert: für K, L M ist K L = {k l k K, l L}. Proposition 1.7. Für ein Monoid M ist uch (P(M),, {1 M }) ein Monoid. K M : K = = K Beispiele 1.8. Für B: {true} {true, flse} = In {, b, c} : {b, c} {c, cb} = {, b} 2 = In {0, 1,..., 9} : {1,..., 9} {0, 5} ist die Menge ller zweistelligen, durch 5 teilbren Dezimlzhlen. Ds Monoid P(Σ ) enthält gerde lle formlen Sprchen über Σ. Die n-te Potenz von Σ P(Σ ) besteht us llen Produkten von n Elementen von Σ, lso llen Wörtern der Länge n genu wie wir Σ n oben bereits deniert hben.

5 1 WÖRTER UND MONOIDE 3 Wenn wir die Elemente von Σ ls Aktionen eines Systems oder eines Progrmms ussen, sind die Wörter Aktionsfolgen, d.h. Abläufe des Systems (vgl. Beispiel Kommuniktion eines Puerspeichers). Die möglichen Abläufe des Systems (die von den Eingngsdten oder z.b. vom Benutzer beeinuÿt werden können und dher nicht von vornherein eindeutig festliegen) bilden eine Sprche L. L n ist dnn die n-fche Itertion des Progrmms (for-schleife); u.. für beliebige (endliche) Itertion (terminierende while-schleife) führen wir ein: L + = n 1 L n L = n 0 L n = L + {λ} Für L = Σ entsprechen L + und L unseren obigen Festlegungen. Eine prominente Opertion uf Wörtern ist die Spiegelung bzw. Revertierung; wichtig bei Kellerutomten wieso? Denition 1.9. Sei w = 1 n Σ, n 0, i Σ. Dnn ist ds Spiegelbild w R = n... 1 (w reverse). Für L Σ ist L R = {w R w L}. Neben der Multipliktion im Monoid der Sprchen hben wir uch eine Art Inversenbildung: Denition Seien L, K Σ. Dnn ist der Rechtsquotient LK 1 (= L/K) := {u Σ v K : uv L} der Linksquotient K 1 L(= K\L) := {u Σ v K : vu L} K 1 L besteht lso us den Endstücken von Wörtern us L, die mit einem Wort us K beginnen; z.b. { n n 1} 1 { n b n n 0} = Für ein Wort u schreiben wir oft u sttt {u} (vgl. reguläre Ausdrücke). Demnch ist ul = {uv v L} und u 1 L = Gilt dmit u 1 ul = L = uu 1 L? Übung: Sei P AL Σ die Menge ller Plindrome über Σ, lso Worte w mit w = w R. Ferner sei P AL die Sprche P AL Σ für ein beliebiges, ber festes Σ mit mindestens zwei Buchstben. Zeigen Sie, dss P AL P AL 1 = P AL P AL, ber nicht P AL = P AL P AL P AL (ws gelten müsste, wenn P AL 1 ein richtiges Inverses wäre). Noch einige Begrie für Grphen G = (V, E) (gerichtet oder ungerichtet): Die Entfernung dist(v, w) von v V nch w V ist die Länge (= #Knten) eines kürzesten Weges von v nch w;, wenn kein solcher Weg existiert. Der Durchmesser dim(g) ist die mximle Entfernung zwischen zwei Ecken, der Rdius rd(g) ist min v V mx w V dist(v, w); vgl. die Punkte einer Kreisäche wird ds letzte Minimum bei v ngenommen, ist v im Zentrum von G. In ungerichteten Grphen ist der Grd einer Ecke die Anzhl der inzidenten Knten. G ist zusmmenhängend (zh), wenn für je zwei Ecken ein Weg von der einen zur nderen existiert. Gibt es für jeden ungerichteten zh. (endlichen) Grphen mindestens eine Ecke im Zentrum? Höchstens eine? Ist dim(g) = 2 rd(g) oder welche Beziehung gilt sonst?

6 2 ENDLICHE AUTOMATEN 4 2 Endliche Automten (Chomsky-)Grmmtiken erzeugen Sprchen. Um zu prüfen, ob ein Wort in einer Sprche liegt, sind bstrkte Mschinen nützlich vor llem, wenn sie sich uch ezient implementieren lssen. Die einfchsten solchen Mschinen sind endliche Automten. Sie spielen (in leicht bgewndelter Form) uch eine wichtige Rolle im Softwre- und Systementwurf (Zustndsübergngssysteme (UML), Trnsitionssysteme). Denition 2.1. Ein (nichtdeterministischer) endlicher Automt (EA) über Σ ist ein Tupel A = (Q, Σ, δ, q 0, F ), wobei: Q q 0 Q F δ Ein (nichtdeterministischer) erweiterter endlicher Automt (EEA) ist genuso deniert, nur dss hier die Übergngsreltion ein endliches δ Q Σ Q ist. Der Automt heiÿt buchstbierend, wenn δ Q Σ Q. Grphische Drstellung: Zustnd q Q bzw. q (p, w, q) δ p w q Strtzustnd q 0 bzw. Endzustnd q F bzw. Beispiel 2.2. EEA lle Wörter über,b,c die ds Teilwort b enthlten Ein endlicher Automt ist lso ein Knten-beschrifteter gerichteter Grph mit usgezeichneten Ecken; die Knten / Pfeile werden ls Tripel ngegeben mit der Beschriftung in der Mitte (s.o.). Es knn zwischen zwei Ecken mehrere (prllele) Knten mit verschiedenen Beschriftungen geben meist mlt mn nur eine Knte und trennt die Beschriftungen durch ein Komm. Erweiterte endliche Automten entsprechen direkt rechtslineren Grmmtiken, deren Regeln j die Form A ub bzw. A u mit u Σ (!) und Nonterminlen A und B hben; mit ihnen knn mn Zustände spren, s.o. Denition 2.3. Zum erweiterten endlichen Automten A sei δ Q Σ Q die kleinste Reltion mit i) p Q: (p, λ, p) δ ii) p, q, q Q, v, w Σ : (p, v, q ) δ, (q, w, q) δ = (p, vw, q) δ

7 2 ENDLICHE AUTOMATEN 5 Also: (p, v, q) δ = A knn v von p nch q lesen. Die kzeptierte (erknnte) Sprche von A ist: L(A) = {w Σ q F mit (q 0, w, q) δ } = {w 1 w n Σ n 0; i = 1,..., n : w i Σ {λ} und (p i 1, w i, p i ) δ mit p 0 = q 0 und p n F } Erweiterte endliche Automten A 1, A 2 heiÿen äquivlent, wenn L(A 1 ) = L(A 2 ). Die Sprche L(A) ist die Menge der Beschriftungen w von Pfden von q 0 zu einem Endzustnd; intuitive Nottion: q w 1 w 0 2 w q1... n qn mit w = w 1... w n und q n F. Ist speziell q 0 F, so knn mn n = 0 wählen und erhält λ L(A). Im obigen Beispiel gibt es... mit bb beschriftete Pfde von q 0 us, von denen... in F enden. Nch 2.3 kzeptiert der Automt b, d.h. er rät richtig im Gegenstz zu rel existierenden Mschinen, die im Zweifel lles flsch mchen; ngelischer vs. dämonischer Nichtdeterminismus. Bisweilen noch nichtdeterministischer: Menge I Q von Strtzuständen; gleiche Klsse der von endlichen Automten erknnten Sprchen. b b b b Abbildung 1 Beispiel 2.4. Für A us Abb. 1 ist L(A) = Zustnd q 1 ls Strtzustnd leistet Zustnd q 3 ls Strtzustnd leistet Stz 2.5. Eine Sprche L Σ ist genu dnn regulär (d.h. sie wird von einer rechtslineren Grmmtik erknnt), wenn L von einem endlichen Automten kzeptiert wird. Als erste Schritte zu einem relistischeren Automtentyp zeigen wir, dÿ endliche Automten ohne spontne Übergänge nicht weniger können ls erweiterte endliche Automten. Proposition 2.6. Zu jedem erweiterten endlichen Automten existiert eektiv ws heiÿt ds?? ein äquivlenter endlicher Automt. Beweis.

8 2 ENDLICHE AUTOMATEN 6 Beispiel 2.7. (Fortsetzung von 2.2) Stz 2.8. Zu jedem endlichen Automten A existiert eektiv ein äquivlenter buchstbierender endlicher Automt A. Beweis. Wir müssen lediglich die λknten eliminieren. Wir setzen R(p) = {q Q (p, λ, q) δ }. Diese Mengen lssen sich mit Floyd/Wrshll in Zeit... bestimmen. Dnn sei Q = Q, q 0 = q 0, δ = {(p,, q) Q Σ Q q R(p) : (q,, q) δ} und F = {p Q R(p) F }. λ λ λ λ Stz 2.9. Es ist entscheidbr, ob für einen gegebenen endlichen Automten A L(A) leer bzw. unendlich ist. Beweis. O.E. A buchstbierend (Stz 2.8 ist eektiv!). Entfernen wir us A lle Zustände, die nicht von q 0 us über Knten erreichbr sind, so gilt für den resultierenden endlichen Automten A : L(A ) = L(A) (wrum?) und L(A ), wenn A mindestens einen Endzustnd ht (wrum?). Wie funktioniert ds Entfernen? Duer? Entfernen wir jetzt noch lle Zustände, von denen us kein Endzustnd erreichbr ist ( A flls o.e....), so ist L(A) = L(A ) (wrum?) und L(A ) ist genu dnn unendlich, wenn es in A einen Kreis gibt (wrum?). Wie funktioniert ds Entfernen?

9 2 ENDLICHE AUTOMATEN 7 Deterministische Automten Relistische Mschinen/Progrmme rten nicht einfch richtig; wir geben jetzt eine relistische Automtenvrinte, die mn direkt in ein Progrmm übertrgen knn. Denition Ein buchstbierender endlicher Automt heiÿt deterministisch (ein DEA), wenn δ eine prtielle Funktion Q Σ Q ist, d.h. wenn q Q, Σ höchstens ein Folgezustnd q Q mit (q,, q ) δ existiert. Ein DEA heiÿt vollständig, wenn δ eine (totl denierte) Funktion ist. Ein deterministischer endlicher Automt läÿt sich leicht in ein Progrmm zur Worterkennung umwndeln; dies benötigt die Tbelle δ, den jeweils ktuellen Zustnd, ds gerde gelesene Zeichen und F, lso konstnten Pltzbedrf; d.h... Jedes Zeichen wird in konstnter Zeit verrbeitet, ds Wort lso in linerer Zeit gelesen (gemessen n der Wortlänge). Stz 2.11 (Huptstz über endliche Automten). Zu jeder regulären Sprche L gibt es eektiv einen vollständigen (und dher deterministischen) endlichen Automten A mit L(A) = L. Der Beweis besteht in der Potenzutomtenkonstruktion von Myhill usgehend von einem EA A für L; Idee: A merkt sich in jedem seiner Zustände lle Zustände von A, in die A beim Lesen einer gegebenen Eingbe gerten knn. Die Zustndsmenge von A ist lso im Prinzip die Potenzmenge Q := P(Q ). D wir ntürlich einen kleinen Automten suchen, wollen wir uns immer uf den von Strtzustnd erreichbren Teil des Potenzutomten beschränken. D die Konstruktion us Einführung in die Theor. Inf. beknnt ist, behndeln wir nur ein Beispiel. Beispiel Fortsetzung von Beispiel 2.7

10 2 ENDLICHE AUTOMATEN 8 Hierbei repräsentiert z.b. q 03 die Menge {q 0, q 3 }. Die leere Zustndsmenge dient oft ls Fngzustnd: sie ht nur einlufende Knten und uf jeden Fll eine Schlinge für jedes Zeichen. Sie wird oft benötigt, um den Automten vollständig zu mchen, ist ber in unserem Beispiel nicht erreichbr. Korollr i) Reguläre Sprchen sind eektiv unter Komplement bgeschlossen (ws heiÿt ds?). ii) Es ist entscheidbr, ob für einen gegebenen endlichen Automten A über Σ L(A) = Σ ist. Beweis. i) ii) Wende diese Konstruktion uf A n ufwendig! und entscheide mit Stz 2.9, ob der resultierende Automt kzeptiert.

11 3 ANWENDUNG: DIOPHANTISCHE GLEICHUNGEN 9 3 Anwendung: Diophntische Gleichungen Lit. z.b.: A. Boudet, H. Comon: Diophntine Equtions, Presburger Arithmetic nd Finite Automt. In CAAP '96, Springer 1996, LNCS 1059, 3043 Diophntische Gleichungen sind linere Gleichungen mit (mehreren Unbeknnten und) gnzzhligen Koezienten, die in den ntürlichen Zhlen gelöst werden sollen. Es könnte einen z.b. interessieren, ob es ntürliche Zhlen x und y gibt, so dss 3x 4y = 5. Wir könnten für solche Pre z.b. x 2y mximieren wollen oder llgemein gnzzhlige linere Optimierung für ntürlichzhlige Lösungen betreiben. Solche Probleme lssen sich mit endlichen Automten lösen. Wir behndeln hier llgemeiner Formeln in der sogennnten Presburger Arithmetik; der Vorteil dbei ist, dss wir so Die Presburger Arithmetik ist eine eingeschränkte Prädiktenlogik, die in oensichtlicher Weise über (N, +) (inkl. 0) interpretiert wird. Die Terme t der Presburger Arithmetik sind: 0,1 x, y,..., x 1, x 2,... (stehen lso für ntürliche Zhlen) t 1 + t 2 Die Formeln ϕ der Presburger Arithmetik sind: α) t 1 = t 2 β) ϕ γ) ϕ 1 ϕ 2 δ) x ϕ Dmit können wir die üblichen Abkürzungen ϕ 1 ϕ 2 für......, ϕ 1 ϕ 2 für......, x ϕ für und t 1 t 2 für (t 1 = t 2 ) verwenden sowie 4 für... etc.; nur Zhlen us N 3t für... etc. ; nur Koezienten us N t 1 t 2 für... t 1 < t 2 für... Beispiel 3.1. ϕ x 3 x = x 3 x 4 x 2 + x 4 = x 3 freie Vriblen von ϕ sind Die Schreibweise ϕ(x 1,..., x n ) impliziert, dss lle freien Vriblen von ϕ in {x 1,..., x n } sind. Wir schreiben dnn k 1,..., k n = ϕ für k 1,..., k n N, wenn ϕ[ k 1 / x1,..., kn / xn ] whr ist. (Bem.: Die Vriblen müssen nicht lückenlos durchnumeriert sein, im Prinzip betrchten wir uch ϕ(x 2, x 4, x 7 ), ϕ(x, y) etc.) Im Beispiel gilt 5, 1 = ϕ(x 1, x 2 ) wg. x 3 = 7, x 4 = 6. Gelten 6, 7 = ϕ(x 1, x 2 ) und 8, 11 = ϕ(x 1, x 2 )?. Es gilt uch 5, 1, 42 = ϕ(x 1, x 2, x 6 ) und 5, 1, 42 = ϕ(x 1, x 2, x 3 ) (!) Mit der Presburger Arithmetik erfssen wir die oben gennnten Probleme, wie folgende Beispiele zeigen: Für ϕ 3x 1 + x = 2x 3 ist {(k 1, k 2, k 3 ) N 3 k 1, k 2, k 3 = ϕ} die Menge der ntürlichzhligen Lösungen der diophntischen Gleichung 3x 1 + x 2 2x 3 = 2; Zhlen/Koezienten us Z können wir lso uch behndeln. Wenn die Gleichungen eines Gleichungssystems den

12 3 ANWENDUNG: DIOPHANTISCHE GLEICHUNGEN 10 Formeln ϕ 1, ϕ 2 und ϕ 3 entsprechen, so beschreibt mn die Lösungen des Gleichungssystems nlog unter Verwendung von ϕ 1 ϕ 2 ϕ 3 ; so knn mn z.b. uch die nichtnegtiven S- Invrinten eines Petrinetzes beschreiben. Um die gnzzhlige linere Optimierungsufgbe mximiere x 1 +x 2 mit x 1 2x 2 +3x 3 4 zu lösen, muss mn Werte für x 1 und x 2 nden, die folgende Formel erfüllen: Um die Lösungsmenge für ϕ(x 1,..., x n ) ls Sprche eines EA drzustellen, müssen wir n- Tupel ntürlicher Zhlen ls Wörter über einem Alphbet drstellen. Als Alphbet verwenden wir {0, 1} n = , ,..., , und benutzen folgende Codierung: (k 1,..., k n ) N n entspricht w ({0, 1} n ), wenn es ein l und für jedes k i, i = 1,..., n, eine Binärdrstellung k il k i(l 1)... k i0 gibt mit w = k 10. k n0... Die Binärdrstellungen müssen lso gleichlng sein und werden dzu ggf. mit führenden Nullen ufgefüllt; in w stehen niederwertige Bits vorn. Die Codierungen von 0 sind lso λ, 0, 00,..., eine Codierung von (10, 7) ist. Ziel: Konstruktion eines EA A(ϕ) über {0, 1} n zu jeder Formel ϕ(x 1,..., x n ) mit k 1l. k nl L(A(ϕ)) = {w ({0, 1} n ) für (k 1,..., k n ) = w : k 1,..., k n = ϕ} So ein Automt berechnet (bzw. beschreibt) lso z.b. die Lösungen diophntischer Optimierungsufgben. Mn bechte, dss bei Bedrf uch überüssige x i uftreten können, die lso nicht (freie) Vriblen von ϕ sind. Mit Hilfe der gesuchten Konstruktion und Stz 2.9 können wir lso entscheiden, ob es überhupt Lösungen gibt. Als Extremfll können wir geschlossene Formeln ϕ() betrchten. Hier ht der Automt llenflls λ-knten, und es gilt = ϕ gdw. L(A(ϕ)) (d.h. = {λ}). Zur Erinnerung: hier ist eine geschlossene Formel ϕ() gültig, wenn sie in der festen Interprettion in den ntürlichen Zhlen stimmt. Mit Stz 2.9 erhlten wir mit der gesuchten Konstruktion: Ergebnis: Die Gültigkeit von Formeln der Presburger Arithmetik ist entscheidbr. Unsere Konstruktion ist nicht besonders ezient, ber leicht zu verstehen. Es gibt optimierte Versionen, die konkurrenzfähig sind. Mn bechte: Wenn wir die Presburger Arithmetik um für Multipliktion erweitern, so ist ds nloge Problem unentscheidbr!

13 3 ANWENDUNG: DIOPHANTISCHE GLEICHUNGEN 11 Konstruktion des gesuchten EA mit struktureller Ind. α) D t 1 = t 2 gdw. x t 1 = x x = t 2, genügt es, Formeln der Form x = t zu betrchten. D weiter z.b. x = t 1 + t 2 + t 3 gdw. y x = t 1 + y y = t 2 + t 3 für ein frisches y, können wir nnehmen, dss t höchstens zwei Summnden ht. Wir behndeln beispielhft die möglichen Fälle. i) ϕ x 1 = 2; d wir uch überüssige Vriblen behndeln müssen, betrchten wir hier ϕ(x 1, x 2 ): A 0 ii) ϕ(x 1, x 2, x 3 ) x 1 = x 2 A 1 iii) ϕ(x 1, x 2, x 3 ) x 2 = x 1 + x 3 A 2 β) eektiver Abschluss der regulären Sprchen unter Komplement, d.h. wir können A( ϕ) Bechte: L(A(ϕ)) = {w w codiert Lösung von ϕ} und L(A( ϕ)) = {w w codiert keine Lösung von ϕ} = L(A(ϕ)). Würde A(ϕ) zu jeder Lösung nur mindestens eine, nicht ber immer lle Codierungen kzeptieren, so würde L(A(ϕ)) uch Codierungen von Lösungen von ϕ enthlten. γ) eektiver Abschluss der regulären Sprchen unter Vereinigung Um dies wirklich uf ϕ 1 ϕ 2 nwenden zu können,

14 3 ANWENDUNG: DIOPHANTISCHE GLEICHUNGEN 12 δ) ϕ(x 1,..., x n 1 ) x n ϕ (x 1,..., x n ) Im Prinzip müssen wir die Ziern von x n in A(ϕ ) löschen, z.b. die Ziern von x 3 in A 2 für ϕ 1 (x 1, x 2 ) x 3 x 2 = x 1 + x 3, d.h. x 1 x 2 : A 3 A 3 knn mn direkt ls richtig erkennen. Ein Abluf von A 3 entspricht einem Abluf von A 2 ; dzu muss x 3 ergänzt werden, ws ufgrund der Konstruktion ntürlich möglich ist. Akzeptiert lso A 3 eine Drstellung von (k 1, k 2 ), so kzeptiert A 2 diese Drstellung mit jeweils einem dritten Bit; letztere erfüllt ϕ, lso erfüllt (k 1, k 2 ) ϕ. In nderen Worten, A 3 kzeptiert nur korrekte Wörter. Erfüllt (k 1, k 2 ) umgekehrt ϕ, so gibt es ein k 3, so dss (k 1, k 2, k 3 ) ϕ erfüllt. A 2 kzeptiert lso eine Codierung von (k 1, k 2, k 3 ) und A 3 die entsprechend gekürzte Codierung von (k 1, k 2 ). Ds reicht ber nicht, denn Um einzusehen, dss dies wirklich ein Problem ist, konstruieren wir etws bgekürzt den Automten zu ϕ(x 1 ) x 2 x 1 x 2 even(x 2 ). Automt A 4 zu ϕ 2 (x 1, x 2 ) even(x 2 ) x 3 x 2 = 2x 3 : A 4 Automt A 3 A 4 zu ϕ 1 ϕ 2 (direkte Konstruktion): A 3 A 4 Durch Ausblenden von x 2 gewinnen wir nun den Automten zu ϕ: A 5 Dieser Automt erkennt Allgemein gilt: erkennt ein Automt eine Codierung eines Tupels, so uch lle längeren. Ds hier ufgetretene Problem ist lso ds einzige; um es zu beheben, muss die Konstruktion zu δ) noch bgeschlossen werden durch (wobei 0 0 = λ): Wenn so

15 4 MINIMIERUNG ENDLICHER AUTOMATEN 13 4 Minimierung endlicher Automten In unserem Beispiel 2.12 ht die Konstruktion nicht uf ein optimles Ergebnis geführt. Die Minimierung endlicher Automten ist ds folgende Problem: Problem: Finde zu einer regulären Sprche einen vollständigen deterministischen endlichen Automten mit möglichst wenigen Zuständen. Kurzschreibweise: Für vollst. DEA in diesem Abschnitt sttt δ (q, w) einfch q w (oder qw). Es gilt dnn: q Q : q λ = q und q Q, v, w Σ : (q v) w = q (v w). Bemerkung: Ds Monoid Σ operiert uf Q, d.h. ds Einselement von Σ ht einen neutrlen Eekt und es gilt eine Art Assozitivgesetz. Auf diese Weise läÿt sich llgemein denieren: Ein (endlicher) Automt für ein Monoid M ist (Q, M,, q 0, F ), wobei Q eine (endliche) Menge ist, M mittels uf Q operiert, q 0 Q, F Q. Dmit läÿt sich llgemein für ein Monoid M denieren, welche L M durch endliche Automten erkennbr sind. Von Interesse in der theoretischen Informtik (zur Beschreibung nebenläuger Systeme) sind z.b. die sogennten freien prtiellkommuttiven Monoide, deren Elemente uch MzurkiewiczTrces gennnt werden. 4.1 Der Minimlutomt und der Stz von Nerode Denition 4.1. Der Index einer Äquivlenzreltion (ws ist ds?) ist die Anzhl der Äquivlenzklssen. Eine Reltion R uf Σ heiÿt rechtsinvrint, flls u, v, w Σ : urv = uwrvw. (Wenn mn n u, v us derselben Äquivlenzklsse dsselbe w nhängt,... Für eine Sprche L Σ ist L(u) = u 1 L = {v Σ uv L} die Leistung von u Σ die Menge der Wörter, die mn nch u lesen muss, um in L zu lnden. Die Reltion R L Σ Σ ist deniert durch ur L v L(u) = L(v). (Wenn mn n u, v dsselbe w nhängt,... Oenbr ist R L eine Äquivlenzreltion, die sogennnte Nerode-Äquivlenz, deren Klssen wir mit [u] bezeichnen wollen. Es gilt: ( ) Flls u L, so [u] L. Ist nämlich v [u], so λ L(u) = L(v), lso v L. ( ) bedeutet, dss L Vereinigung ist von Äquivlenzklssen von R L. ( ) R L ist rechtsinvrint. Ist nämlich ur L v, so folgt: L(uw) = {x Σ uwx L} = {x Σ wx L(u) = L(v)} = {x Σ vwx L} = L(vw). Auf Grundlge von R L denieren wir nun einen evtl. nicht-endlichen Automten, den sogennnten minimlen Automten zu L; diese Bezeichnung werden wir in Stz 4.8 rechtfertigen.

16 4 MINIMIERUNG ENDLICHER AUTOMATEN 14 Denition 4.2. Zur Sprche L Σ denieren wir den minimlen Automten A L von L durch: Q L = {[v] v Σ } q L0 = [λ]; F L = {[v] v L}; δ L ([v], ) = [v] Besonders die Denition von δ L ist problemtisch: wir benutzen den Vertreter v, um ds Bild von δ L zu bestimmen könnte nicht ein nderer Vertreter u [v] zu einem nderen Ergebnis führen? Dies ist nicht der Fll (mn sgt, δ L sei wohldeniert) denn nch ( ) gilt für u [v]... Die Denition von F L bedeutet übrigens, dss eine Äquivlenzklsse ein Endzustnd ist, wenn zumindest ein Vertreter in L ist. Es wäre mthemtisch kein Problem (ber etws verwirrend), wenn v L und zugleich u L für ein u [v]; dies ist ber glücklicherweise nicht der Fll wegen Beispiel 4.3. L = (b) + b = (b) + b λ b b b Leistung Äquivlenzklsse Bemerkungen [λ] = {λ} [] = (b) [b] = {b} [b] = (b) + [b] =Rest L(λ) = L L() = (b) L(b) = {λ} L(b) = (b) L(b) = Bemerkung: Die L(v) chrkterisieren die [v]! vb L = v = λ vb L = v (b) mximl in L: nur b v L = v (b), vb L = v λ Stz 4.4. Für jede Sprche L Σ ist L(A L ) = L. Beweis. Es ist w L(A L ) δ L([λ], w] = [w] F L w L Für ds letzte gilt die umgekehrte Impliktion nch Denition von F L, die Impliktion... Lemm 4.5. Ist A ein vollst. DEA zu L, dnn ist der Index von R L nicht gröÿer ls Q. Beweis. Wir ordnen jeder Klsse die Zustände qu zu, wenn u us der Klsse ist. Jeder Klsse wird lso mindestens ein Zustnd zugeordnet (wg. Vollständigkeit), evtl. uch mehrere. Wir sind fertig, wenn wir zeigen können, dss jeder Zustnd höchstens einer Klsse zugeordnet wird. Wir zeigen lso: Wenn q 0 u = q 0 v, dnn [u] = [v]; sei lso q 0 u = q 0 v. (Zu zeigen ist... Dnn gilt für beliebiges w oenbr q 0 uw = q 0 vw, d.h. w L(u) w L(v) und demnch ur L v. Bem.: Gilt uch: wenn [u] = [v], dnn q 0 u = q 0 v?

17 4 MINIMIERUNG ENDLICHER AUTOMATEN 15 Stz 4.6 (Nerode, Myhill). Für L Σ sind äquivlent: i) L ist regulär. ii) L ist Vereinigung von Äquivlenzklssen einer rechtsinvrinten Äquivlenzreltion R von endlichem Index. iii) R L ht endlichen Index. (Dmit ist A L ein vollst. DEA.) Beispiel 4.7. Bevor wir diesen Stz beweisen, wollen wir ls Anwendung mit Hilfe der Nerode- Äquivlenz nchweisen, dss L = {ww R w {, b} } nicht regulär ist. Dzu betrchten wir die Wörter n b, n N; zur Leistung eines solchen Wortes gehört oenbr b n ber kein b m mit n m. Dher sind lle n b nicht-äquivlent, R L ht demnch unendlichen Index, und L ist nicht regulär. Beweis. i) = ii) Nch unseren obigen Überlegungen und Lemm 4.5 erfüllt R L die geforderten Bedingungen. Bechte ii) = iii) Sei urv, w Σ. Dnn ist uwrvw, lso nch Vorussetzung uw L vw L. Also folgt w L(u) w L(v) und dmit L(u) = L(v), d.h. ur L v. R verfeinert lso R L bzw. R R L bzw. jede Äquivlenzklsse von R L ist Vereinigung von Äquivlenzklssen von R. Dher Index(R L ) Index(R) <. iii) = i) Dies ergibt sich direkt us Stz 4.4. Rechtfertigung der Bezeichnung minimler Automt: Stz 4.8. Sei L Σ und A ein vollständiger endlicher Automt mit L(A) = L. Dnn gilt: Q L Q. Bei Gleichheit sind A und A L isomorph, d.h. gleich bis uf die Bezeichnung der Zustände. Beweis. Der erste Stz folgt us Lemm 4.5, d Q L = Index(R L ). Den zweiten Stz wollen wir hier nicht beweisen.

18 4 MINIMIERUNG ENDLICHER AUTOMATEN Ein Verfhren zur Minimierung Wir hben lso A L zurecht den minimlen Automten von L gennnt. Um us einem gegebenen vollständigen Automten den minimlen Automten von L(A) zu konstruieren, wollen wir in geeigneter Weise Zustände von A zusmmenfssen. Für den Rest des Abschnittes sei A gegeben und o.e. initil zusmmenhängend, d.h. dÿ q Q : u Σ : q = q 0 u. Denition 4.9. Die Leistung L(p) eines Zustndes p Q ist L(p) = L((Q, Σ, δ, p, F )) (p ls Strtzustnd). Zwei Zustände p, q sind äquivlent, p q, flls L(p) = L(q). Wir schreiben p q wg. u, wenn u in der Leistung von genu einem von p und q liegt, d.h.: pu F qu F. Bemerkung i) p q = [p F λ L(p) = L(q) q F ] ii) Ist p = q 0 u, so L(p) = L(u). Die Idee für unsere Konstruktion ist, dss Zustände mit gleicher Leistung zusmmengefsst werden können; dss dies ds richtige Vorgehen ist, zeigt folgendes Lemm. Lemm A L ist isomorph zu A mit Q = {[q] q Q}, Σ = Σ, q 0 = [q 0 ], F = {[p] p F } und δ : Q Σ Q, ([q], ) [q] Beweis. Bechte: p q = L(p) = 1 (L(p)) = 1 (L(q)) = L(q) = p q, d.h. δ ist wohldeniert. Ferner ist [p] F p F(nch 4.10 i)). ist eine Bijektion, denn: f : Q L Q, [v] [q 0 v] i) wohldeniert: ur L v L(u) = L(v) L(q 0 u) = L(q 0 v) (4.10 ii)) q 0 u q 0 v. ii) injektiv: = in i). iii) surjektiv: A initil zusmmenhängend, lso gilt: Weiter ist f(q L0 ) = f([λ]) = [q 0 ] und q Q : u Σ : q = q 0 u, d.h. f([u]) = [q]. [v] F L v L λ L(v) = L(q 0 v) q 0 v F s.o. [q 0 v] F. Schlieÿlich: δ(f([v]), ) = Def. f und [q 0v] = f([v]) (und δ L ([v], ) = [v]). δ Der folgende Algorithmus bestimmt den minimlen Automten, indem er sukzessive lle Pre (p, q) mit p q mrkiert.

19 4 MINIMIERUNG ENDLICHER AUTOMATEN 17 Algorithmus Gegeben sei ein vollständiger endlicher Automt, der initil zusmmenhängt. 1) Mrkiere lle {p, q} mit p Q F, q F. 2) Solnge es ein unmrkiertes {p, q} gibt und ein Σ, so dÿ {p, q} schon mrkiert ist, mrkiere uch ein solches {p, q}. (Ist p = q, so gilt Äquivlenz, d.h. {p, q} gilt ls unmrkiert.) 3) Am Ende sind lle nichtäquivlenten Zustände mrkiert. Beweis. Korrektheit i) Oenbr terminiert der Algorithmus ii) Alle Mrkierungen sind korrekt, Beweis durch Induktion über die lufende Nummer der Mrkierung: Wird {p, q} in Schritt 1) mrkiert, gilt p q wg. λ. Wird {p, q} in Schritt 2) mrkiert, gibt es nch Induktion ein Σ und ein Wort u, so dÿ p q wg. u. Dmit ist p q wg. u. iii) Alle unmrkierten {p, q} sind äquivlent. Angenommen: {p, q} ist unmrkiert, ber nicht äquivlent, d.h. p q wg. einem Wort u. Wähle {p, q} mit möglichst kurzem u. Wegen 1) ist u λ; lso ist u = u mit Σ und p q wg. u. Nch Whl von {p, q} ist ber {p, q} mrkiert. Widerspruch zu: 2) wurde beendet. 1 b 2 5 b b 3 b b 6 b 4 b 7 Abbildung 2 Beispiel Minimierung eines endlichen Automten

20 4 MINIMIERUNG ENDLICHER AUTOMATEN Äquivlenzklssen sind: {1, 6}, {2, 5}, {3, 7}, {4}. Der minimle Automt ist dher: ạ ! Bei geeigneter Implementierung ergibt sich eine Lufzeit von O(n 2 ), wobei Σ fest vorgegeben und n = Q ist. (Bem.: Q ist ein Grph, in der Gröÿe müÿte eigentlich uch die Kntenzhl berücksichtigt werden; ber die ist Idee: Zu jedem Feld {p, q} gibt es eine Liste; ist {p, q} unmrkiert, {p, q} ber uch, so wird Die Arbeit, die für ein {p, q} geleistet wird, ist lso ngeblich konstnt; dzu genügt es, dss die Arbeit für ein Σ konstnt ist. Wird ber {p, q} mrkiert, müssen wir die nhängende Liste brbeiten, und die knn sehr lng sein.?? 4.3 Minimierungsverfhren von Hopcroft Eine bessere Lufzeit von O(n log n) für festes Σ ergibt sich durch folgenden Algorithmus von Hopcroft: Eine Prtition von Q ist eine Menge {B 0,..., B k } von Blöcken mit k i=0 B i = Q und B i B j = für lle i j, B i für i = 0,..., k. Sie heiÿt zulässig, wenn: Für B Q setze p, q Q : p q = i : p, q B i. δ 1 (B, ) = {q Q δ(q, ) B} (gehe von B us rückwärts über Knten). Die Idee des Algorithmus ist es, mit der Prtition {F, Q F } zu beginnen (wie bisher); dnn wählt mn einen Block B und zerlegt jeden Block B in B δ 1 (B, ) und B δ 1 (B, ). Dies wird wiederholt, bis keine weitere Zerlegung mehr möglich ist. Mn bechte, dss Zerlegen mit B und dsselbe ergibt wie Zerlegen mit Q B und. Eine Prtition {B 0,..., B k } von Q heiÿt stbil bzgl. B Q und Σ, wenn für i = 0,..., k gilt:

21 4 MINIMIERUNG ENDLICHER AUTOMATEN 19 B i δ 1 (B, ) oder B i δ 1 (B, ) =. (Also: Rückwärts gehen von B über Knten spltet keinen Block). Die Prtition heiÿt stbil, wenn sie stbil ist bzgl. ller (B i, ), i = 0,..., k, Σ. Bemerkung: δ 1 (B, ) mcht Arbeit = klein hlten. Lemm Ist eine Prtition stbil und eine Verfeinerung von {F, Q F }, so gilt: p, q B i = p q. Beweis. Indirekt: Wähle p, q B i, so dÿ p q wg. u mit u miniml. Nch Vorussetzung gilt: u λ, d.h. u = u mit Σ und p q wg. u. Nch Whl von p, q und u gibt es lso l m mit p B l und q B m. Demnch ist die Prtition (speziell B i ) nicht stbil bzgl. (B l, ). Widerspruch. Algorithmus 4.15 (Hopcroft). begin B 0 := Q F ; B 1 = F ; for ll Σ do { {0} flls δ 1 (B 0, ) δ 1 (B 1, ) Liste() := {1} sonst od; \\ B Liste(): bzgl. (B, ) muÿ gesplten werden, s.o.) k:=1 \\B 0,..., B k sind die Blöcke repet l := k; wähle Σ und i Liste(); lösche i us Liste(); := δ 1 (B i, ); for j := 0 to k mit ( = B j B j ) do l := l + 1; B l = B j ; B j := B j B l ; forll b Σ do if j Liste(b) then Liste(b) := Liste(b) {l} elsif δ 1 (B j, b) δ 1 (B l, b) then Liste(b) := Liste(b) {j} else Liste(b) := Liste(b) {l} ; od; od; k := l; until lle Listen leer; return {B 0,..., B k } end Korrektheit. Höchstens (n 2)ml splten, dnch lle Listen löschen = Terminierung. Wir zeigen ls nächstes, dÿ die Prtitionen im Verluf des Algorithmus stets zulässig sind. Zunächst ist {B 0, B 1 } zulässig. Annhme: B j wird in B j und B l gesplten und es gibt p, q B j mit p q, p B j und q B l. Dnn ist p / B i, q B i. D p q (wegen p q), ist dies ein Widerspruch zur Zulässigkeit der Prtition vor der Aufspltung von B j.

22 4 MINIMIERUNG ENDLICHER AUTOMATEN 20 D lle Prtitionen Verfeinerungen von {Q F, F } sind, müssen wir wegen Lemm 4.14 nur noch zeigen, dÿ die Prtition m Ende stbil ist. Während der Berechnung ist die Prtition evtl. nicht stbil bzgl. (B, ); dies ist kein Problem, wenn B Liste(), d wir durch Splten bzgl. (B, ) Stbilität erzwingen werden. Die Prtition ist ber uch evtl. nicht stbil bzgl. (B, ), obwohl B / Liste(); z.b. ist m Anfng nur F oder Q F in Liste(), d Splten bzgl. F bzw. Q F denselben Eekt ht. Allgemeiner (s.o.): Ist die Prtition stbil bzgl. (B, ) und wir splten B in B und B, so ht Splten bzgl. (B, ) bzw. (B, ) denselben Eekt, denn: Ist B i δ 1 (B, ) =, so gilt dies nlog für B und B. Ist B i δ 1 (B, ), so gilt B i δ 1 (B, ) = B i δ 1 (B, ). Wir speichern lso nur ds günstigere von B und B b der Aufwnd in der repet Schleife hängt wesentlich von δ 1 (B i, ) b. Wir zeigen dher die Schleifeninvrinte: Vor/Nch jedem Durchgng der repetschleife gilt für m / Liste(c), m k: es gibt {m 1,..., m n } =: L Liste(c), n 0, so dÿ die ktuelle Prtition stbil ist bzgl. (B m B m1 B mn, c). Zu Beginn ist dies stets erfüllt wegen Stbilität bzgl. B 0 B 1 = Q und llen c. Am Ende sind dnn lle Listen leer, es gilt lso Stbilität bzgl. ller (B m, c). Sei lso m / Liste(c) m Ende eines Schleifendurchlufs: I) m Liste(c) zu Beginn des Durchlufs. Dnn ist m = i und = c. Durch ds Aufsplten ist die Prtition stbil bzgl. (B i, ), lso L =. Ausnhme: B i selbst wird in B i und B l gesplten und Stbilität gilt für Bi ; in diesem Fll ist m Ende lt (i / Liste(c), lso) l Liste(c); wähle L = {l}, d Bi lt = B i l. B II) Andernflls gibt es L gemäÿ Behuptung m Beginn des Durchlufs, die Prtition ist stbil bzgl. B := B m B m1 B mn und c zu Beginn und bzgl. B und c uch m Ende des Durchlufs: ) i / L c. D nur B i us Liste() entfernt wird, bleibt in diesem Fll jedes B mr uf Liste(c). Wird ein Bm lt r gesplten in B m r und B l, so sind m Ende m r, l Liste(c) (uch für i = m r ), und wir fügen l zu L hinzu. Wird Bm selbst gesplten in lt B m und B l, so ist m Ende (m / Liste(c), lso) l Liste(c), und wir fügen l zu L hinzu. Am Ende ist die Prtition lso stbil bzgl. (B, c) mit B = B m r L neu B r (wobei hier die neuen Blöcke gemeint sind). b) i L = c, o.e. i = m 1 m (m / Liste()). Splten von B mr, m r m 1, und von B m wird wie in II) behndelt und m 1 us L entfernt (m Ende evtl. m 1 / Liste()). Zum Schluÿ ist die Prtition stbil bzgl. (Bm lt 1, ) und (B, ) mit B = B m Bm lt 1 r L neu B r, lso uch bzgl. (B m B r Lneu r, ) (wobei hier wieder die neuen Blöcke gemeint sind): Beispiel (Forts.) Hopcroft-Algorithmus:

23 4 MINIMIERUNG ENDLICHER AUTOMATEN 21 i B i δ 1 (B i, ) δ 1 (B i, b) Liste() = {1} Liste(b) = {1} k = 1: Wähle 1 Liste(). δ 1 (B 1, ) = {2, 5} j = 0: i B i δ 1 (B i, ) δ 1 (B i, b) j = 1: B 1 δ 1 (B 1, ) = Liste() = {2} Liste(b) = {0, 1} k = 2: Wähle 0 Liste(b). δ 1 (B 0, b) = {2, 5} stbil = Liste() = {2}, Liste(b) = {1} k = 2: Wähle 1 Liste(b). δ 1 (B 1, b) = {3, 4, 7} j = 0: i B i δ 1 (B i, ) δ 1 (B i, b) Stbilität = Listen löschen Liste() = {0, 2} Liste(b) = {3} Weitere Detils nden sich in: Norbert Blum: Theoretische Informtik, Kpitel 6.

24 4 MINIMIERUNG ENDLICHER AUTOMATEN Gleicheit regulärer Sprchen und Gröÿe minimler Automten In vielen Fällen führt die Minimierung uf ein gutes Ergebnis. Es gibt ber Fälle (für jedes n), in dem zu einem EA A mit n Zuständen jeder vollständige DEA mindestens 2 n Zustände ht, d.h. jedes Deterministisch-Mchen knn uf ein exponentiell groÿes Ergebnis führen und kostet uch exponentielle Zeit. Wir wollen hier ein Fmilie von Automten behndeln, die uf 2 n 1 Zustände führen, wo jeder DEA lso gröÿenordnungsmäÿig exponentiell ist im Vergleich zu einem guten EA. Wir hben bereits einen EA mit n Zuständen kennengelernt, der die Sprche L = {w {0, 1} w n und ds n-letzte Zeichen von w ist 0} kzeptiert. Angenommen, der DEA A ht < 2 n Zustände und kzeptiert L. Bem.: A ist im Prinzip vollständig wrum? Wrum im Prinzip? Zu A gibt es zwei Wörter v, w {0, 1} n mit q 0 v = q 0 w =: q. Sei i eine Position, in der sich v und w unterscheiden, d.h. o.e. v = v 0v und w = w 1w mit v = w = n i. Sei nun u {0, 1} i 1. Dnn ist 0 ds n-letzte Zeichen von vu, ber nicht von wu, lso vu L wu L. Andererseits ist q 0 vu = qu = q 0 wu, d.h. vu und wu sind beide in L oder beide nicht in L; Widerspruch. Betrchten Sie den Potenzutomten für den EA zu L in den Fällen n = 2 und n = 3; wieviele Zustände hben diese? Wie knn mn die Zustände interpretieren? Stz Es ist entscheidbr, ob für zwei gegebene endliche Automten A 1, A 2 mit demselben Alphbet Σ gilt: L(A 1 ) L(A 2 ), bzw. A 1 und A 2 sind äquivlent. Beweis. Sind A 1, A 2 gegeben, so können wir nch unseren bisherigen Ergebnissen einen endlichen Automten A 3 konstruieren, mit L(A 3 ) = L(A 1 ) (Σ L(A 2 )). Es ist L(A 3 ) = genu dnn, wenn L(A 1 ) L(A 2 ); mit Stz 2.9 ist dies entscheidbr und dmit uch L(A 1 ) = L(A 2 ) entscheidbr. Wie ufwendig ist dies Entscheidungsverfhren? Um einen EA für Σ L(A 2 ) zu konstruieren, mchen wir zunächst A 2 deterministisch und komplementieren dnn die Endzustände. Den so erhltenen DEA können wir noch minimieren, ber ds Resultt knn immer noch exponentiell in der Gröÿe des gegebenen EA A 2 sein. Dss wir wohl nicht hoen können, uf bessere ls exponentielle Lufzeit zu kommen, zeigt der folgende Stz: Stz Ds Problem IneqEA, die Inäquivlenz buchstbierender endlicher Automten zu entscheiden, ist NP-hrt; dies gilt dnn erst recht für llgemeine EA. Beweis. Ws heiÿt NP-hrt? Gegeben sei ein Fll ϕ = K 1... K m von 3-SAT (ws ist ds?) mit Vriblen {x 1,..., x n }. Belegungen dieser Vriblen können ls w {0, 1} n beschrieben werden. Wir betrchten nun die Sprche L 1 ller solcher w, die ϕ nicht erfüllen. Sei z.b. K 1 = x 1 x 3 x 4 ; dnn erfüllt w = w 1 w 2 w 3 w 4 diese Klusel, wenn w 1 = 1 oder w 3 = 0 oder w 4 = 1. Die w, die K 1 nicht erfüllen, können wir lso mit r 1 = 0(0 + 1)10 oder durch den zyklischen EA

25 4 MINIMIERUNG ENDLICHER AUTOMATEN 23 beschreiben. Im llgemeinen ist der Ausdruck r i zu K i deniert durch r i = r i1... r in, wobei r ij 0 bzw. 1 ist, wenn x j bzw. x j in K i uftritt, und (0 + 1) sonst. Dmit ist L 1 = r r m und dieser Ausdruck bzw. ein zugehöriger buchstbierender Automt A 1 lssen sich in polynomieller Zeit bestimmen, genuso wie (0 + 1) n und ein zugehöriger deterministischer Automt A 2. Nun gilt L(A 1 ) L(A 2 ) gdw. ϕ erfüllbr ist. Also lässt sich 3-SAT in polynomieller Zeit uf unser Problem IneqEA reduzieren, und wir sind fertig. Übung: Dieser Beweis lässt sich leicht so modizieren, dss er zeigt: L(A 1 ) Σ ist NPhrt wie? (Hinweis: Durch welche w unterscheiden sich L(A 2 ) und Σ? Sind diese relevnt für unser Problem?) Ds Problem in Korollr 2.13 ii) ist lso schwierig, während ds so ähnliche Leerheits- Problem in Stz 2.9 in kubischer Zeit gelöst werden knn. Wir wollen noch eine Methode behndeln, mit der mn die Frge ngehen knn, ob L(A 1 ) L(A 2 ). Diese Methode ist vor llem uch für Trnsitionssysteme geeignet; ein Trnsitionssystem entspricht weitgehend einem endlichen Automten, es knn ber uch unendlich sein; dnn sind die Verfhren us obigem Beweis ntürlich nicht nwendbr. Auÿerdem ht es nur Endzustände. (Deswegen muÿ mn einfch kein F ngeben.) Sind Trnsitionssysteme systemtisch gegeben, knn mn evtl. uch im unendlichen Fll eine Simultion (s.u.) nden und dmit die Sprchinklusion nchweisen. Ds läÿt sich so interpretieren, dÿ System A 1 nur Verhlten zeigt, dÿ uch bei A 2 erlubt ist, so dÿ wir A 1 ls Implementierung der Speziktion A 2 nsehen können. Denition Eine Simultion für endliche Automten A 1 und A 2 mit demselben Alphbet Σ ist eine Reltion S Q 1 Q 2 mit folgenden Eigenschften: i) (q 01, q 02 ) S ii) Ist (q 1, q 2 ) S und (q 1, α, p 1 ) δ 1, so gibt es p 2 Q 2 mit (q 2, α, p 2 ) δ 2(!) und (p 1, p 2 ) S. iii) Ist (q 1, q 2 ) S und q 1 F 1, so uch q 2 F 2. Stz Ist S eine Simultion für endliche Automten A 1 und A 2, so gilt L(A 1 ) L(A 2 ). Beweis. Ist w L(A 1 ), so gibt es (q 01, α 1, q 11 ), (q 11, α 2, q 21 ),..., (q m 1 1, α m, q m1 ) δ 1 ( mit α i Σ {λ}, w = α 1 α m und q m1 F 1. Nch Denition 4.19 i) ist (q 01, q 02 ) S; lso gibt es mit wiederholter Anwendung von ii) (q 02, α 1, q 12 ), (q 12, α 2, q 22 ),..., (q m 1 2, α m, q m2 ) δ2 lso (q 02, w, q m2 ) δ2 mit (q m1, q m2 ) S; nch iii) ist lso uch q m2 ein Endzustnd, und dmit w L(A 2 ). Abbildung 3 zeigt zwei sprchäquivlente Automten; eine Simultion für endliche Automten A 1 und A 2 ist S = {(1, 1), 2, 23), (3, 23), (4, 4), (5, 5)}. Für A 2 und A 1 gibt es ber keine Simultion, denn 23 ht eine b- und eine c-knte, für einen simulierenden Zustnd müÿte ds uch gelten ber einen solchen Zustnd ht A 1 nicht.

26 4 MINIMIERUNG ENDLICHER AUTOMATEN A 1 b 2 3 c A 2 b 23 c Abbildung 3 Die Methode ist lso korrekt, ber nicht vollständig. Ds wesentliche Problem dbei ist der Nichtdeterminismus. Weiter beschränken wir A 1 uf den Fll, dÿ von jedem Zustnd ein Weg zu einem Endzustnd führt; ds ist keine wesentliche Einschränkung, d ndere Zustände für die Sprche von A 1 irrelevnt sind. Stz Sind A 1 und A 2 endliche Automten mit demselben Alphbet Σ; in A 1 gebe es von jedem Zustnd einen Weg zu einem Endzustnd, und A 2 sei deterministisch. Ist L(A 1 ) L(A 2 ), so gibt es eine Simultion S für A 1 und A 2. Beweis. Wir setzen S = {(q 1, q 2 ) w Σ : (q 01, w, q 1 ) δ1 (q 02, w, q 2 ) δ2 }. Bechte, dÿ q 2 durch w eindeutig bestimmt ist, d A 2 deterministisch ist. Für den Fll w = λ ergibt sich (q 01, q 02 ) S. Ist (q 1, q 2 ) S und q 1 F 1, so ist w L(A 1 ), lso uch w L(A 2 ), und wegen der Eindeutigkeit von q 2 muÿ q 2 F 2 sein. Sei nun (q 1, q 2 ) S wegen w und (q 1, α, p 1 ) δ 1 ; nch Vorussetzung gibt es v mit (p 1, v, p) δ1 und p F 1, d.h. wαv L(A 1 ). D nun uch wαv L(A 2 ), gibt es einen wαv-beschrifteten Weg von q 02 zu einem Endzustnd, der wegen der Eindeutigkeit über q 2 und ein p 2 führen muÿ mit (q 2, α, p 2 ) δ2. (Entweder ist α Σ und (q 2, α, p 2 ) δ 2 oder α = λ und q 2 = p 2.) Jetzt ist (q 01, wα, p 1 ) δ1 (q 02, wα, p 2 ) δ2, lso (p 1, p 2 ) S.

27 5 PUMPINGLEMMA 25 5 PumpingLemm für reguläre Sprchen oder: Ds uvwtheorem Um zu zeigen, dÿ eine Sprche regulär ist, muÿ mn lediglich einen entsprechenden EA (oder eine Grmmtik) ngeben. Wie ber zeigt mn, dÿ eine Sprche nicht regulär ist? Sie kennen ds folgende wichtige Hilfsmittel und seine klssische Anwendung: Stz 5.1. Sei L regulär. Dnn existiert ein n > 0, so dÿ es für lle z L mit z n eine Zerlegung z = uvw gibt, für die gilt: uv n, v 1 und i 0 : uv i w L Beweis. Sei A ein buchstbierender endlicher Automt mit L = L(A). Wähle n = Q. Sei z = 1 m L; m n, i Σ. Dnn in A: (q 0, 1, q 1 ), (q 1, 2, q 2 ),..., (q m 1, m, q m ) δ und q m F. Nch Whl von n tritt ein Zustnd in der Folge q 0,..., q m mehrfch uf, d.h. 0 j < k n mit q j = q k. Wir setzen u = 1 j, v = j+1... k, w = k+1... m. Dnn gilt uv = k n; v = k j 1. Wir können von q 0 us u lesen und q j erreichen, dnn beliebig oft v und q j = q k erreichen (uch 0ml!), schlieÿlich w und einen Endzustnd erreichen; lso gilt: i 0 : uv i w L. Der Stz gibt nur eine Folgerung, ber keine Chrkterisierung für reguläre Sprchen n. Anwendung: Zeigen, dÿ L die Folgerung verletzt und dher nicht regulär sein knn. Beispiel 5.2. Ds klssische Beispiel: L = {b m c m m 0} ist nicht regulär. Beweis. Annhme: L ist regulär. Dnn gibt es ein n wie in 5.1. (Wir kennen n nicht, eventuell ist n sehr groÿ, bhängig von n dürfen wir jetzt ber ein beliebiges z L wählen.) Sei z = b n c n ; dnn gibt es uvw wie in 5.1. (Wir kennen uvw nicht, wir müssen in jedem Fll zum Widerspruch kommen.) D uv n gilt uv = b j, j n, ferner ist v = b k, k 1. Für i = 0 ergibt 5.1: b j k b n j c n = b n k c n L mit n k n. Widerspruch! Leider gibt es uch Sprchen, die die Folgerung erfüllen und trotzdem nicht regulär sind; für eine solche Sprche knn mn lso nicht mit dem uvw-theorem zeigen, dss sie nicht regulär ist. Beispiele 5.3. L 1 = { k b l c m k = 0 l = m } L 2 = {(b) m (cd) m m 0} (b) (cd) L 1 erfüllt obige Folgerung für n = 1: Sei k b l c m L 1 mit mindestens einem Zeichen. Wir betrchten die folgenden Fälle: i) Für k > 0 wähle uv =. ii) Für k = 0 l > 0 wähle uv = b. iii) Für k = 0 l = 0 m > 0 wähle uv = c.

28 5 PUMPINGLEMMA 26 Intuitiv ist L 1 ber nicht regulär, d mn zum Erkennen oenbr zählen muss. Für L 2 wähle n gemäÿ 5.1 für die reguläre Sprche (b) (cd). Dnn erfüllt L 2 die Folgerung von 5.1 für dieses n: Ist z us der zweiten Teilmenge, ist dies klr nch Whl von n; ndernflls führt Pumpen des ersten Buchstbens in die zweite Teilmenge. Hier ist nicht mehr so oenbr, wrum L 2 nicht regulär ist. Zeigen Sie dies mit Hilfe von Stz 4.6! Betrchten wir noch einml die Sitution: kleine DEAen sind ein sehr ezientes Mittel zur Beschreibung von Sprchen, ber nicht immer nwendbr. Der Prktiker sucht lso (je nch Nturell) lnge vergeblich nch einem EA, obwohl es keinen gibt, oder bricht die Suche schnell b, obwohl es einen gibt. Der Theoretiker möchte hier Klrheit schen: Ds uvw-theorem knn einem die Sicherheit geben, dss eine Suche sinnlos ist. Die Einsicht, die zu seinem Beweis führt, ergibt uch eine Heuristik für den Prktiker: EAen können nicht zählen. Allerdings versuchen wir jetzt, prllel einen EA zu nden und ds uvw-theorem nzuwenden. Wenn eine Bemühung erfolgreich ist, hben wir Klrheit; wenn nicht, knn es n unserer Dummheit liegen oder drn, dss beide Vorgehen scheitern müssen. Der Theoretiker möchte wieder Klrheit schen: Knn letzterer Fll eintreten? (J, s. 5.3; es gibt in unserer Methode lso eine inhltliche Lücke.) Wenn j, können wir unser Werkzeug uvw-theorem schärfen? Letzteres gelingt in der Tt, wenn wir z.b. L 1 betrchten. Wir würden gern b n c n verwenden, dbei ds ignorieren und uns uf b n c n konzentrieren. Dzu wollen wir b n c n in b n c n mrkieren: Ein Wort mit Mrkierungen ist ein Wort z = 1 m zusmmen mit einer Menge P {1,..., m}. Wir sgen, dss die Buchstben i, i P, in z mrkiert sind; um die Mrkierungen nzugeben, unterstreichen wir oft die entsprechenden Buchstben. In bcb sind lso ds erste, ds zweite b und ds c mrkiert, ds Wort ht 3 Mrkierungen. Bechten Sie die strke Anlogie des folgenden Stz, Beweis und Beispiel zum Obigen. Stz 5.4 (Ogdens Lemm). Sei L regulär. Dnn existiert ein n > 0, so dÿ es für lle z L mit m n Mrkierungen (lso uch z n) eine Zerlegung z = uvw gibt, für die gilt: uv ht n Mrkierungen und u ist leer oder endet mit einer Mrkierung; v endet mit einer Mrkierung, d.h. es ht mindestens eine und v 1; i 0 : uv i w L Beweis. Sei A ein buchstbierender endlicher Automt mit L = L(A). Wähle n = Q. Sei z = 1 l L, i Σ, mit m n Mrkierungen. Wir lesen ds Wort in A stückweise, wobei die Stücke jeweils mit dem nächsten mrkierten Buchstben enden: (q 0, z 1, q 1 ), (q 1, z 2, q 2 ),..., (q m 1, z m, q m ), (q m, z m+1, q m+1 ) δ und q m+1 F, wobei in jedem z i Σ mit i m genu der letzte Buchstbe mrkiert ist und z = z 1 z m+1. Nch Whl von n tritt ein Zustnd in der Folge q 0,..., q m mehrfch uf, d.h. 0 j < k n mit q j = q k. Wir setzen u = z 1 z j, v = z j+1... z k, w = z k+1... z m+1. Dnn enden u und v (ggf.) mit einem mrkierten Buchstben, uv ht k n und v k j 1 Mrkierungen. Wir können

29 5 PUMPINGLEMMA 27 von q 0 us u lesen und q j erreichen, dnn beliebig oft v und q j = q k erreichen (uch 0ml!), schlieÿlich w und einen Endzustnd erreichen; lso gilt: i 0 : uv i w L. Der Stz gibt wieder nur eine Folgerung, ber keine Chrkterisierung für reguläre Sprchen n. Anwendung: Zeigen, dÿ L die Folgerung verletzt und dher nicht regulär sein knn. Zeigen Sie mit Ogdens Lemm, dss L 1 nicht regulär ist in Anlogie zum obigen klssischen Beispiel mit der Idee von oben. Wir betrchten hier ein Beispiel, dss sich uch mit dem uvw-theorem behndeln läÿt, bei dem Ogdens Lemm ber übersichtlicher ist. Beispiel 5.5. L = {((b) m (c) m m 0} ist nicht regulär. Beweis. Annhme: L ist regulär. Dnn gibt es ein n gemäÿ Ogdens Lemm. (Wir kennen n nicht, eventuell ist n sehr groÿ, bhängig von n dürfen wir jetzt ber ein beliebiges z L wählen und mrkieren.) Sei z = (b) n (c) n ; dnn gibt es uvw wie in 5.4. (Wir kennen uvw nicht, wir müssen in jedem Fll zum Widerspruch kommen.) D uv n Mrkierungen ht und mit einer endet, gilt uv = (b) j, j n; d ferner u mit einer Mrkierung endet und v k 1 Mrkierungen ht, ist v = (b) k. Für i = 0 ergibt 5.4: (b) j k (b) n j (c) n = (b) n k (c) n L mit n k n. Widerspruch! Ds Optimum wäre ntürlich ein Kriterium, dss von jeder nicht-regulären Sprche verletzt wird; dnn gäbe es keine Lücke. Wir hben ber leider nur die Lücke verkleinert: L 2 erfüllt die Folgerung von Ogdens Lemm. Die Argumenttion ist bis uf eine kleine Änderung dieselbe wie oben welche? Bemerkung: Reguläre Sprchen sind so weitgehend untersucht, dss Ogdens Lemm hier ttsächlich keine groÿe Rolle spielt; vgl. Kpitel??. Es gibt ber uch ein Ogdens Lemm für kontextfreie Sprchen, die nloge Verschärfung des uvwxy-theorems. Dieses Lemm ist wesentlich nützlicher.