Theoretische Informatik I

Transkript

1 Theoretische Informatik I Einheit 2.5 Eigenschaften regulärer Sprachen. Abschlußeigenschaften 2. Prüfen von Eigenschaften 3. Wann sind Sprachen nicht regulär?

2 Abschlußeigenschaften, wozu? Zeige, daß bestimmte Operationen auf regulären Sprachen wieder zu regulären Sprachen führen Wiederverwendung von Sprachmodulen Schematische Komposition von Grammatiken zur Erzeugung von Sprachen Automaten zur Erkennung von Sprachen Regulären Ausdrücken Schematische Konstruktion ist effektiver Fehlerfreier Aufbau sehr komplexer Grammatiken / Automaten + Schematische Optimierung / Minimierung Konstruktion von Hand oft fehleranfällig Beispiel: Literale einer Programmiersprache Bilde Automaten für Tokenklassen: Zahlen, Bezeichner, Schlüsselworte,... Konstruktion liefert Automaten für alle Arten von Literalen Theoretische Informatik I 2: Eigenschaften regulärer Sprachen

3 Abschlußeigenschaften, präzisiert Zeige: L, L 2 regulär L op L 2 regulär Es gilt Abgeschlossenheit unter 9 Operationen Die Vereinigung zweier regulärer Sprachen ist regulär L L 2 Das Komplement einer regulären Sprache ist regulär L Der Durchschnitt zweier regulärer Sprachen ist regulär L L 2 Die Differenz zweier regulärer Sprachen ist regulär L - L 2 Die Spiegelung einer regulären Sprache ist regulär L R Die Hülle einer regulären Sprache ist regulär L Die Verkettung zweier regulärer Sprachen ist regulär L L 2 Jeder Homomorphismus einer regulären Sprache ist regulär h(l) Jeder inverse Homomorphismus einer regulären Sprache ist regulär h (L) Nachweis durch Verwendung aller Modelle DEA, NEA, ɛ-nea, reguläre Ausdrücke, Typ-3 Grammatiken Modelle sind ineinander umwandelbar wähle das passendste Theoretische Informatik I 2: 2 Eigenschaften regulärer Sprachen

4 Abschluß unter Vereinigung, Verkettung & Hülle Beweisführung mit regulären Ausdrücken L, L 2 regulär L L 2 regulär L, L 2 regulär Es gibt reguläre Ausdrücke E, E 2 mit L = L(E ), L 2 = L(E 2 ) L L 2 = L(E ) L(E 2 ) = L(E +E 2 ) regulär L, L 2 regulär L L 2 regulär L, L 2 regulär Es gibt reguläre Ausdrücke E, E 2 mit L = L(E ), L 2 = L(E 2 ) L L 2 = L(E ) L(E 2 ) = L(E E 2 ) regulär L regulär L regulär L regulär Es gibt einen regulären Ausdruck E mit L = L(E) L = (L(E)) = L(E ) regulär Theoretische Informatik I 2: 3 Eigenschaften regulärer Sprachen

5 Abschluß unter Komplementbildung Beweisführung mit endlichen Automaten L regulär L regulär Komplementiere akzeptierende Zustände des erkennenden Automaten L regulär Es gibt einen DEA A = (Q, Σ, δ, q, F ) mit L = L(A) L = L(A) = {w Σ ˆδ(q, w) F } = {w Σ ˆδ(q, w) Q F } = L(Q, Σ, δ, q, Q F ) regulär Beispiel: Komplementierung von (+) Zugehöriger DEA Komplementautomat erkennt Worte die nicht mit enden Theoretische Informatik I 2: 4 Eigenschaften regulärer Sprachen {q Start } {q,q } {q,q 2 } Regulärer Ausdruck durch Zustandseliminationsverfahren erzeugbar

6 Abschluß unter Durchschnitt und Differenz Einfache mathematische Beweise L, L 2 regulär L, L 2 regulär L L 2 = L L 2 regulär L L 2 = L L 2 regulär Produktkonstruktion auf endlichen Automaten Simultane Abarbeitung von Worten in beiden Automaten L, L 2 regulär Es gibt DEAs A = (Q, Σ, δ, q,, F ) und A 2 = (Q 2, Σ, δ 2, q,2, F 2 ) mit L = L(A ), L 2 = L(A 2 ) Start Eingabe A A 2 L L 2 = {w Σ ˆδ (q,, w) F ˆδ 2 (q,2, w) F 2 } = {w Σ ( ˆδ (q,, w), ˆδ 2 (q,2, w)) F F 2 } Konstruiere A = (Q Q 2, Σ, δ, (q,,q,2 ), F F 2 ) mit δ((p, q), a) = (δ (p,a), δ 2 (q,a)) für p Q, q Q 2, a Σ L L 2 = L(A) regulär und akzeptieren Theoretische Informatik I 2: 5 Eigenschaften regulärer Sprachen

7 Produktkonstruktion am Beispiel,, Start p q Start r s Automat A Automat A 2 pr Start ps Automat A A 2 qr qs, Theoretische Informatik I 2: 6 Eigenschaften regulärer Sprachen

8 Abschluß unter Spiegelung L regulär L R ={w n..w w..w n L} regulär Beweisführung mit Automaten Bilde Umkehrautomaten zu A = (Q, Σ, δ, q, F ) mit L=L(A) Umkehrung der Pfeile im Diagramm: δ R (q, a) = q g.d.w. δ(q, a) = q q wird zum akzeptierenden Zustand: F R = {q } Neuer Startzustand q R mit ɛ-übergängen zu allen q F Induktiver Beweis mit regulären Ausdrücken Sei L = L(E) für einen regulären Ausdruck Für E {, ɛ, a} ist L R = L = L(E) regulär Für E = E +E 2 ist L R = (L(E ) L(E 2 )) R = L(E ) R L(E 2 ) R regulär Für E = E E 2 ist L R = (L(E ) L(E 2 )) R = L(E 2 ) R L(E ) R regulär Für E = E ist L R = L(E ) R = (L(E ) R ) regulär Beispiel: Spiegelung von L((+) ) L R = L(( ) R (+) R ) = L(( R ) ( R + R )) = L( (+)) Theoretische Informatik I 2: 7 Eigenschaften regulärer Sprachen

9 Abschluß unter Homomorphismen L regulär, h Homomorphismus h(l) regulär h:σ Σ ist Homomorphismus, wenn h(v..v n ) = h(v )..h(v n ) Homomorphismen sind mit endlichen (Ein-/Ausgabe) Automaten berechenbar h(l)={h(w) w L} Σ ist das Abbild der Worte von L unter h Beweis mit Grammatiken L regulär Es gibt eine Typ-3 Grammatik G = (V, Σ, P, S) mit L = L(G) h(l) = h(l(g)) = {h(v )..h(v n ) Σ S v..v n } Für A v B P erzeuge Regeln A a B, B a 2 B 2,... B k a k B, wobei h(v) = a..a k und alle B i neue Hilfsvariablen Sei P h die Menge dieser Regeln und V h die Menge ihrer Hilfsvariablen Für G h = (V h, Σ, P h, S) gilt A v B P A Gh h(v) B und S G v..v n S Gh h(v )..h(v n ) h(l) = {h(v )..h(v n ) Σ S Gh h(v )..h(v n )} =L(G h ) regulär Beweis mit regulären Ausdrücken in Hopcroft, Motwani, Ullman Theoretische Informatik I 2: 8 Eigenschaften regulärer Sprachen

10 Abschluß unter inversen Homomorphismen L regulär, h Homomorphismus h (L) regulär h (L)={w Σ h(w) L} ist das Urbild der Worte von L unter h z.b. Für L = L((+) ), h(a) =, h(b) = ist h (L) = L((a+b)) h (L) Σ h (L) h h Σ L L Beweis mit endlichen Automaten Berechnung von h vor Abarbeitung der Worte im Automaten L regulär Es gibt einen DEA A = (Q, Σ, δ, q, F ) mit L = L(A) = {w Σ ˆδ(q, w) F } h (L) = {w Σ ˆδ(q, h(w)) F } Start Konstruiere A h = (Q, Σ, δ h, q,f ) mit δ h (q, a) = ˆδ(q, h(a)) Dann gilt ˆδ h (q, w) = ˆδ(q, h(w)) für alle q Q und w Σ h (L) = {w Σ ˆδ h (q, h(w)) F } = L(A h ) regulär Eingabe h A akzeptieren ablehnen Theoretische Informatik I 2: 9 Eigenschaften regulärer Sprachen

11 Tests für Eigenschaften regulärer Sprachen Welche Eigenschaften sind automatisch prüfbar? Ist die Sprache eines Automaten leer? Zugehörigkeit: Ist ein Wort w Element der Sprache eines Automaten? Äquivalenz: Beschreiben zwei Automaten dieselbe Sprache? Gleiche Fragestellung für Grammatiken und reguläre Ausdrücke Wechsel der Repräsentation ist effektiv NEA DEA: Teilmengenkonstruktion (exponentielle Aufblähung möglich) ɛ-nea DEA: Hüllenbildung + Teilmengenkonstruktion DEA ɛ-nea/nea: Modifikation der Präsentation (Mengenklammern) DEA RA: Rij k -Methode oder Zustandselimination RA ɛ-nea: induktive Konstruktion von Automaten DEA Typ-3 Grammatik: Regeln für Überführungsschritte einführen Typ-3 Grammatik NEA: Überführungstabelle codiert Regeln Es reicht, Tests für ein Modell zu beschreiben Theoretische Informatik I 2: Eigenschaften regulärer Sprachen

12 Prüfe ob eine reguläre Sprache leer ist Nichttriviales Problem Automaten: Gibt es überhaupt einen akzeptierenden Pfad? Reguläre Ausdrücke: Wird mindestens ein einziges Wort charakterisiert? Grammatiken: Wird überhaupt ein Wort aus dem Startzustand erzeugt? Erreichbarkeitstest für DEA A = (Q, Σ, δ, q, F ) Wegen ˆδ(q, ɛ) = q ist q in Schritten erreichbar q in k Schritten erreichbar, δ(q, a) = q q in k+ Schritten erreichbar L(A)= kein q F in Q Schritten erreichbar Induktive Analyse für reguläre Ausdrücke L( )=, L(ɛ), L(a) L((E))= L(E)= keine Änderung L(E+F )= L(E)= L(F )= Vereinigung von Elementen L(E F )= L(E)= L(F )= Elemente beider Sprachen nötig L(E ), ɛ gehört immer zu L(E ) Theoretische Informatik I 2: Eigenschaften regulärer Sprachen

13 Test auf Zugehörigkeit Unterschiedlich schwierig je nach Repräsentation Automaten: Gibt es einen akzeptierenden Pfad für w? Reguläre Ausdrücke: Wird das Wort w von der Charakterisierung erfasst? Grammatiken: Kann w aus dem Startzustand erzeugt werden? Abarbeitung durch DEA A = (Q, Σ, δ, q, F ) Bestimme q := ˆδ(q, w) und teste q F Maximal w + F Arbeitsschritte Test für andere Repräsentationen durch Umwandlung in DEA Theoretische Informatik I 2: 2 Eigenschaften regulärer Sprachen

14 Test auf Äquivalenz von Sprachen Wann sind zwei reguläre Sprachen gleich? Nichttrivial, da Beschreibungsformen sehr verschieden sein können Verschiedene Automaten, Grammatiken, Ausdrücke, Mischformen,... Gibt es eine kanonische Repräsentation? z.b. Transformiere alles in deterministische endliche Automaten Erzeuge Standardversion mit kleinstmöglicher Anzahl von Zuständen Äquivalenztest prüft dann, ob der gleiche Standardautomat erzeugt wird Wie standardisiert man Automaten? Entferne Zustände, die vom Startzustand unerreichbar sind Fasse Zustände zusammen, die für alle Worte äquivalent sind Es führen exakt dieselben Worte zu akzeptierenden Zuständen Ergibt minimalen äquivalenten Automaten Theoretische Informatik I 2: 3 Eigenschaften regulärer Sprachen

15 Äquivalenztest für Zustände Äquivalenz der Zustände p und q (p = q) Für alle Worte w Σ gilt ˆδ(p, w) F ˆδ(q, w) F Die Worte müssen nicht zum gleichen Zustand führen Positives Prüfverfahren schwierig Man muß alle Worte überprüfen, die von einem Zustand ausgehen Man kann sich auf Worte der maximalen Länge Q beschränken Besser: Nichtäquivalente (unterscheidbare) Zustände identifizieren Table-Filling Algorithmus Markiere Unterscheidbarkeit von Zuständen in Tabelle Start: p = q, falls p F und q F Iteration: p = q, falls δ(p, a) = δ(q, a) für ein a Σ In jeder Iteration werden nur noch ungeklärte Paare überprüft Nach maximal Q Iterationen sind alle Unterschiede bestimmt Theoretische Informatik I 2: 4 Eigenschaften regulärer Sprachen

16 Äquivalenztest am Beispiel Start A E B F C G D H A B C D E F G H A \ B \ C \ D \ E \ F \ G \ H \ Tabelle der Unterschiede. Unterscheide akzeptierende Zustände (C) von allen anderen 2a. Eingabesymbol : Nur D und F führen zu akzeptierenden Zuständen 2b. Eingabesymbol : Nur B und H führen zu akzeptierenden Zuständen 3. Überprüfe Nachfolger von {A,E}, {A,G}, {B,H}, {D,F} und {E,G}. 4. Überprüfung von {A,E}, {B,H} und {D,F} gibt keine Unterschiede Äquivalenklassen sind {A,E}, {B,H}, {D,F}, {C} und {G} Theoretische Informatik I 2: 5 Eigenschaften regulärer Sprachen

17 Äquivalenztest für Sprachen Prüfverfahren Standardisiere Beschreibungsform in zwei disjunkte DEAs A und A 2 um Vereinige Automaten zu A = (Q Q 2, Σ, δ δ 2, q, F F 2 ) Bilde Äquivalenzklassen von A und teste ob q, und q,2 äquivalent sind Zwei DEAs für L(ɛ + ( + ) )) Äquivalenklassen sind {A,C,D} und {B,E} Da A und C äquivalent sind, sind die Automaten äquivalent Start A Start C B D E Theoretische Informatik I 2: 6 Eigenschaften regulärer Sprachen

18 Minimierung endlicher Automaten Konstruiere äquivalenten DEA mit minimaler Menge von Zuständen Entferne überflüssige Zustände q ist überflüssig, wenn ˆδ(q, w) q für alle Worte w Σ Reduziere Q zu Menge der erreichbaren Zustände (Verfahren auf Folie ) Fasse äquivalente Zustände zusammen Bestimme Menge der Äquivalenzklassen von Q Setze Q als Menge der Setze δ (S, a) = δ(q, a) a S Äquivalenzklassen von Q Wohldefiniert, da alle Nachfolger äquivalenter Zustände äquivalent Minimalversion des Beispielautomaten: Resultierender Automat ist minimal G Theoretische Informatik I 2: 7 Eigenschaften regulärer Sprachen Start AE BH DF C

19 Grenzen regulärer Sprachen Wie zeigt man, daß eine Sprache L nicht regulär ist? Direkter Nachweis Zeige, daß kein endlicher Automat genau die Worte von L erkennt Sprache muß unendlich sein und komplizierte Struktur haben Technisches Hilfsmittel: Pumping Lemma Verwendung der Abschlußeigenschaften Zeige daß Regularität von L dazu führen würde, daß eine als nichtregulär bekannte Sprache regulär sein müsste Häufige Technik: (inverse) Homomorphismen Theoretische Informatik I 2: 8 Eigenschaften regulärer Sprachen

20 Das Pumping Lemma für reguläre Sprachen Warum ist { n n n N} nicht regulär? Ein DFA muß alle Nullen beim Abarbeiten zählen und dann vergleichen Für n> Q muß ein Zustand von A doppelt benutzt worden sein Eine δ-schleife mit k Zuständen bedeutet, daß A auch n+k n akzeptiert Allgemeine Version: Pumping Lemma Für jede reguläre Sprache L L 3 gibt es eine Zahl n N, so daß jedes Wort w L mit Länge w n zerlegt werden kann in w = x y z mit den Eigenschaften () y ɛ, (2) x y n und (3) für alle k N ist x y k z L Aussage ist wechselseitig konstruktiv Die Zahl n kann zu jeder regulären Sprache L bestimmt werden Die Zerlegung w = x y z kann zu jedem Wort w L bestimmt werden Theoretische Informatik I 2: 9 Eigenschaften regulärer Sprachen

21 Beweis des Pumping Lemmas Für jede Sprache L L 3 gibt es ein n N, so daß jedes w L mit w n zerlegbar ist in w = x y z mit den Eigenschaften () y ɛ, (2) x y n und (3) für alle k N ist x y k z L Beweis mit Automaten Sei L regulär und A = (Q, Σ, δ, q, F ) ein DEA mit L = L(A) Wähle n= Q. Betrachte w=a..a m mit w n und p i := ˆδ(q, a..a i ) Dann gibt es i, j mit i<j n und p i = p j (Schubfachprinzip) Zerlege w in w = x y z mit x=a..a i, y=a i+..a j und z=a j+..a m y=a i+..a j Start p x=a..a i pi =p j z=a j+..a m p m Per Konstruktion gilt y ɛ, x y n und ˆδ(p i, y k ) = p i für alle k N Also ˆδ(q, x y k z)= ˆδ(p i, y k z) = ˆδ(p i, y z) = ˆδ(q, x y z) = ˆδ(q, w) F Theoretische Informatik I 2: 2 Eigenschaften regulärer Sprachen

22 Anwendungen des Pumping Lemmas L = { m m m N} ist nicht regulär Wir nehmen an L sei regulär Wähle n entsprechend des Pumping Lemmas und m>n Dann kann w = m m zerlegt werden in x= i, y= j z= m i j m mit j und i+j n und x y k z L für alle k N Aber für k= ist x y z = m j m L Dies ist ein Widerspruch, also ist L nicht regulär L 2 = {w {} w ist Primzahl} L 3 Wir nehmen an L 2 sei regulär Wähle n entsprechend des Pumping Lemmas und eine Primzahl p>n + Dann kann w = p zerlegt werden in x= i, y= j z= p i j mit j und i+j n und x y k z L 2 für alle k N Aber für k=p j ist x y k z = i + m(p j) + p i j = (m+)(p j) Da dies keine Primzahl ist (m+ 2, p j 2), ist x y k z L 2 Dies ist ein Widerspruch, also ist L 2 nicht regulär Theoretische Informatik I 2: 2 Eigenschaften regulärer Sprachen

23 Nachweis von L L 3 mit Abschlußeigenschaften Anwendung des Pumping Lemmas ist oft mühsam Beweis für L 3 = {( m ) m m N} L 3 identisch mit dem von L Beweis für L 4 = {w {, } # (w) = # (w)} L 3 ähnlich (# (w) ist die Anzahl der Einsen in w) Verwende Umkehrung der Abschlußeigenschaften L L 3 L L 3 L R L 3 L L 3 h(l) L 3 L L 3 h (L) L 3 L L 3 L L L 3 L L 3 L L 3 L L L 3 L L 3 L L 3 L L L 3 L L 3 L L 3 L L L 3 L L 3 L L 3.. Anwendungsbeispiele L 3 L 3 : Wähle Homomorphismus h:{(,)} {,} mit h(() =, h()) = Dann ist h(l 3 ) = { m m m N} = L L 3 L 4 L 3 : Es gilt L 4 L( ) = L L 3 DEAs können korrekte Klammerausdrücke nicht erkennen! Theoretische Informatik I 2: 22 Eigenschaften regulärer Sprachen

24 Eigenschaften regulärer Sprachen im Rückblick Abschlußeigenschaften Operationen,,, -, R,,, h, h erhalten Regularität von Sprachen Verwendbar zum Nachweis von Regularität oder zur Widerlegung Automatische Prüfungen Man kann testen ob eine reguläre Sprache leer ist Man kann testen ob ein Wort zu einer regulären Sprache gehört Man kann testen ob zwei reguläre Sprachen gleich sind Minimierung von Automaten Ein Automat kann minimiert werden indem man äquivalente Zustände zusammenlegt und unerreichbare Zustände entfernt Pumping Lemma Wiederholt man einen bestimmten Teil ausreichend großer Worte einer regulären Sprache beliebig oft, so erhält man immer ein Wort der Sprache Verwendbar zur Widerlegung von Regularität Theoretische Informatik I 2: 23 Eigenschaften regulärer Sprachen

25 Zusammenfassung: reguläre Sprachen Drei Modelle Endliche Automaten (DEA, NEA, ɛ-nea) erkennen Wörter einer Sprache Reguläre Ausdrücke beschreiben Struktur der Wörter (Typ 3) Grammatiken erzeugen Wörter einer regulären Sprache Alle drei Modelle sind äquivalent ɛ-nea DEA: Teilmengenkonstruktion DEA Typ-3 Grammatik: Verwandle Überführungsfunktion in Regeln Typ-3 Grammatik NEA: Verwandle Regeln in Überführungsfunktion DEA Reguläre Ausdrücke: Erzeuge Ausdrücke für Verarbeitungspfade oder eliminiere Zustände in RA Automaten Reguläre Ausdrücke NEA: Iterative Konstruktion von Automaten Wichtige Eigenschaften von L 3 Abgeschlossen unter,,, -, R,,, h, h Entscheidbarkeit des Wortproblems und Gleichheit von Sprachen Endliche Automaten können automatisch minimiert werden Nachweis der Nichtregularität von Sprachen mit dem Pumping Lemma Theoretische Informatik I 2: 24 Eigenschaften regulärer Sprachen