Reguläre Sprchen Automten und Formle Sprchen lis Theoretische Informtik Sommersemester 0 Ds Pumping-Lemm Wir hen is jetzt vier Formlismen kennengelernt, mit denen wir eine reguläre Sprche ngeen können: reguläre Grmmtiken, DFAs, NFAs und reguläre Ausdrücke. Alle Sprchen Dr. Snder Bruggink Üungsleitung: Jn Stückrth Reguläre Grmmtiken DFAs NFAs Reguläre Ausdrücke Reguläre Sprchen Ds Pumping-Lemm Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Kurzer Einschu: ds Schufchprinzip Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Ds Pumping-Lemm Heute werden wir eine Beweismethode kennenlernen, mit der wir zeigen können, dss eine estimmte Sprche nicht regulär ist: ds Pumping-Lemm. Alle Sprchen Pumping-Lemm Reguläre Grmmtiken DFAs NFAs Reguläre Ausdrücke Reguläre Sprchen Snder Bruggink Automten und Formle Sprchen Snder Bruggink Automten und Formle Sprchen
Reguläre Sprchen Ds Pumping-Lemm Kurzer Einschu: ds Schufchprinzip Reguläre Sprchen Ds Pumping-Lemm Kurzer Einschu: ds Schufchprinzip Ds Schufchprinzip (englisch: pigeon hole principle) Wenn mn m Ojekte üer n Mengen verteilen möchte und m > n ist, dnn git es mindestens eine Menge, die mindestens zwei Elemente enthält. Ds Schufchprinzip für endliche Automten Wenn ein Automten mit n Zuständen einen Pfd der Länge m enthält und m n ist, dnn git es mindestens einen Zustnd der mehrfch uf dem Pfd vorkommt. Ds Pumping-Lemm Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Ds Pumping-Lemm Ds Pumping-Lemm Snder Bruggink Automten und Formle Sprchen 7 Reguläre Sprchen Ds Pumping-Lemm Jeder Pfd mit mehr Üergängen ls der Automt Zustände ht, enthält eine Schleife. u Die Schleife knn nun mehrfch (oder gr nicht) durchlufen werden, ddurch wird ds Wort x = uvw ufgepumpt und mn stellt fest, dss uw, uv w, uv w,... uch in der Sprche des Automten liegen müssen. Bemerkung: Es gilt v i = v }. {{.. v }. i-ml v z w u v Außerdem knn mn für u, v, w folgende Eigenschften verlngen, woei n die Anzhl der Zustände des Automten ist. v : Die Schleife ist uf jeden Fll nicht trivil und enthält zumindest einen Üergng. z uv n: Spätestens nch n Alphetsymolen wird der Zustnd z ds zweite Ml erreicht. w Snder Bruggink Automten und Formle Sprchen 8 Snder Bruggink Automten und Formle Sprchen 9
Ds Pumping-Lemm Reguläre Sprchen Ds Pumping-Lemm Ds Pumping-Lemm Reguläre Sprchen Ds Pumping-Lemm Beispiel: M = ({z 0, z, z, z }, {,, c}, δ, z 0, {z E }) z Aus dieser Eigenschft von endlichen Automten leiten wir eine Eigenschft von regulären Sprchen. z 0 c z c z E Pumping-Lemm für reguläre Sprchen, uvw-theorem (Stz) Sei L eine reguläre Sprche. Dnn git es eine Zhl n, so dss sich lle Wörter x L mit x n zerlegen lssen in x = uvw, so dss folgende Eigenschften erfüllt sind: v, x = c u c c v T (M) w uv n und für lle i = 0,,,... gilt: uv i w L. uv 0 w = c u T (M) w uv w = c u c c v c c v T (M)... w Ds Pumping-Lemm Snder Bruggink Automten und Formle Sprchen 0 Reguläre Sprchen Ds Pumping-Lemm Pumping-Lemm Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Ds Pumping-Lemm Pumping-Lemm (lterntive Formulierung) Sei L eine Sprche. Angenommen, wir können für jede Zhl n ein Wort x L mit x n wählen, so dss folgendes gilt: für lle Zerlegungen x = uvw mit v, uv n git es eine Zhl i mit uv i w L. Dnn ist L nicht regulär. D.h., wir müssen zeigen, dss es für jedes n (für jede mögliche Anzhl von Zuständen) ein Wort git, ds mindestens so lng wie n ist und ds keine pumpre Zerlegung ht. Kochrezept für ds Pumping-Lemm Gegeen sei eine Sprche L (Beispiel: { k k k 0}). Wir wollen zeigen, dss sie nicht regulär ist. Nehme eine elieige Zhl n n. Diese Zhl drf nicht frei gewählt werden. Wähle ein Wort x L mit x n. Dmit ds Wort uch wirklich mindestens die Länge n ht, empfiehlt es sich, dss n (eispielsweise ls Exponent) in der Beschreiung des Wortes uftucht. Beispiel: x = n n Snder Bruggink Automten und Formle Sprchen Snder Bruggink Automten und Formle Sprchen
Reguläre Sprchen Ds Pumping-Lemm Reguläre Sprchen Ds Pumping-Lemm Pumping-Lemm Pumping-Lemm Kochrezept für ds Pumping-Lemm Betrchte nun lle möglichen Zerlegungen x = uvw mit den Einschränkungen v und uv n. Beispiel: hier git es nur eine mögliche Zerlegung u = j, v = l, w = m n mit j + l + m = n und l. Wähle für jede dieser Zerlegungen ein i (ds knn jedes Ml ein nderes i sein), so dss uv i w L. (In vielen Fällen sind i = 0 und i = eine gute Whl.) Beispiel: wähle i =, dnn gilt uv w = j+l+m n L, d j + l + m n. Sei Σ = {}. Beispiel-Aufge Zeigen Sie, dss die Sprche L = { k k N} nicht regulär ist. Bemerkung zum Pumping-Lemm Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Ds Pumping-Lemm Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Kurze Wiederholung: Äquivlenzreltionen Ws ist eine Äquivlenzreltion? Bemerkung Wir können mit dem Pumping-Lemm eweisen, dss eine Sprche nicht regulär ist. Wir können es er nicht verwenden um zu eweisen, dss eine Sprche regulär ist: es git nicht-reguläre Sprchen, die trotzdem die Bedingungen des Pumping-Lemms erfüllen. Wir wiederholen zunächst die Definition einer Reltion: Reltion Eine (zweistellige, homogene) Reltion R uf einer Menge M ist eine Teilmenge R M M. Sttt (m, m ) R schreit mn oft uch m R m. Grphische Drstellung: (, ) R Snder Bruggink Automten und Formle Sprchen 7 Snder Bruggink Automten und Formle Sprchen 7
Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Kurze Wiederholung: Äquivlenzreltionen Kurze Wiederholung: Äquivlenzreltionen Äquivlenzreltion Eine Äquivlenzreltion R uf einer Menge M ist eine Reltion R M M, die die folgenden Eigenschften ht: R ist reflexiv, d.h., es gilt (, ) R für lle M. R ist symmetrisch, d.h., flls (, ) R, so uch (, ) R. R ist trnsitiv, d.h., us (, ) R und (, c) R folgt (, c) R. Reflexiv: Symmetrisch: Trnsitiv: c Hier sind, und c elieige Elemente von M. Snder Bruggink Automten und Formle Sprchen 8 Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Snder Bruggink Automten und Formle Sprchen 9 Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Äquivlenzklssen Äquivlenzklssen Eigenschften von Äquivlenzklssen Äquivlenzklsse Sei R eine Äquivlenzreltion uf M und m M. Die Äquivlenzklsse [m] R von m ist die folgende Menge: [m] R = {n M (n, m) R} Mnchml schreit mn uch nur [m], wenn klr ist, welche Reltion gemeint ist. Sei R eine Äquivlenzreltion uf M und m, m M. Dnn gilt entweder [m ] R = [m ] R oder Außerdem gilt: [m ] R [m ] R =. M = m M [m] R. D.h., zwei Äquivlenzklssen sind entweder gleich oder vollständig disjunkt. Außerdem üerdecken sie M vollständig. Mn sgt uch: die Äquivlenzklssen ilden eine Prtition von M. Snder Bruggink Automten und Formle Sprchen 0 Snder Bruggink Automten und Formle Sprchen
Erkennungsäquivlenz Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Erkennungsäquivlenz Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Ist dieser Automt der kleinste Automt, der seine Sprche kzeptiert?, Die Zustände und sind erkennungsäquivlent. Eenso die Zustände und. Diese Zustände können verschmolzen werden:, / /, Erkennungsäquivlenz Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Myhill Nerode-Äquivlenz Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Erkennungsäquivlenz (Definition) Gegeen sei ein DFA M = (Z, Σ, δ, z 0, E). Zwei Zustände z, z Z heißen erkennungsäquivlent genu dnn, wenn für jedes Wort w Σ gilt: ˆδ(z, w) E ˆδ(z, w) E. Wenn wir die Erkennungsäquivlenz uf Wörter erweitern (nsttt Zustände), erhlten wir die Myhill Nerode-Äquivlenz. Myhill-Nerode-Äquivlenz (Definition) Gegeen sei eine Sprche L und Wörter x, y Σ. Wir definieren eine Äquivlenzreltion L mit x L y genu dnn, wenn für lle z Σ gilt (xz L yz L). Snder Bruggink Automten und Formle Sprchen Snder Bruggink Automten und Formle Sprchen
Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Myhill Nerode-Äquivlenz Myhill Nerode-Äquivlenz Sei L = { k k k N}. Gilt: L? L? L? Ws sind die Myhill Nerode-Äquivlenzklssen der folgenden Sprchen? Myhill-Nerode-Äquivlenz und Regulrität (Stz) Eine Sprche L Σ ist genu dnn regulär, wenn L endlich viele Äquivlenzklssen ht. L = {w {, } # (w) gerde} L = {w {,, c} ds Teilwort c kommt in w nicht vor} Myhill Nerode-Äquivlenz Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Myhill Nerode-Äquivlenz Snder Bruggink Automten und Formle Sprchen 7 Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Mn knn zeigen, dss us x M y immer x L y folgt. Wir nehmen n, dss x M y und nehmen ein elieiges z Σ. Dnn gilt: L ist regulär L ht endlich viele Äquivlenzklssen: Sei L eine reguläre Sprche und M = (Z, Σ, δ, z 0, E) ein DFA mit T (M) = L. Dnn definieren wir eine Äquivlenzreltion R M mit x M y ˆδ(z 0, x) = ˆδ(z 0, y) für x, y Σ. Die Anzhl der Äquivlenzklssen von M ist gleich der Anzhl der (erreichren) Zustände von M, d.h., sie ist endlich. xz L ˆδ(z 0, xz) E ˆδ(ˆδ(z 0, x), z) E ˆδ(ˆδ(z 0, y), z) E ˆδ(z 0, yz) E yz L. Drus folgt, dss x L y. (Def. kz. Sprche) (Def. ˆδ) x R M y (Def. ˆδ) (Def. kz. Sprche) Also setzt M höchstens so viele Elemente in Beziehung wie L und ht dmit mehr oder gleich viele Äquivlenzklssen wie L. Drus folgt er, dss L nur endlich viele Äquivlenzklssen ht. Snder Bruggink Automten und Formle Sprchen 8 Snder Bruggink Automten und Formle Sprchen 9
Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Myhill Nerode-Äquivlenz Myhill Nerode-Äquivlenz L ht endlich viele Äquivlenzklssen L ist regulär: Wir nehmen zunächst n, dss L endlich viele Äquivlenzklssen ht und konstruieren einen endlichen Automten M 0 = (Z, Σ, δ, z 0, E) für L, der wie folgt definiert ist: Z = {[w] L w Σ } z 0 = [ε] L E = {[w] L w L} δ([w] L, ) = [w] L (Menge der Äquivlenzklssen) Es gilt: x L(M 0 ) ˆδ([ε], x) E [x] E x L. Deswegen gilt T (M 0 ) = L. Sei M 0 der DFA, der us den Äquivlenzklssen konstruiert wird. Es gilt, für einen elieigen Automten M, mit T (M) = T (M 0 ), dss: M L = M0. Ds heißt, dss wir M 0 us M konstruieren können, indem wir erkennungsäquivlente Zustände verschmelzen. In nderen Worten: M 0 ist der minimle DFA für L: lle nderen minimlen DFAs, die die gleiche Sprche kzeptieren, sind gleich (nch evtl. umenennen der Zustände). Myhill Nerode-Äquivlenz Snder Bruggink Automten und Formle Sprchen 0 Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Minimlutomten Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Aus dem oigen Stz folgt uch, dss eine Sprche, die unendlich viele Myhill Nerode-Äquivlenzklssen ht, nicht regulär ist. Diese Ttsche können wir enutzen, um zu zeigen, dss eine Sprche nicht regulär ist. Dzu muss mn nur unendlich viele Wörter us Σ ufzählen und zeigen, dss sie in verschiedenen Äquivlenzklssen sind. Beispiele: Die Sprche L = { k k k 0} ht unendlich viele Äquivlenzklssen und ist deswegen nicht regulär. Die Sprche L = { n m c m n, m } { m c n n, m } ht unendlich viele Äquivlenzklssen und ist deswegen nicht regulär. Sie erfüllt er die Bedingungen des Pumping-Lemms. Wie knn mn den minimlen DFA us einem elieigen (nicht notwendigerweise minimlen DFA) erhlten, ohne die Äquivlenzklssen zu konstruieren? Lösung: wir strten mit dem DFA und verschmelzen lle erkennungsäquivlenten Zustände. Dei legen wir zunächst fest, welche Zustände uf jeden Fll nicht erkennungsäquivlent sind (die Endzustände und Nicht-Endzustände) und suchen weitere nicht erkennungsäquivlente Zustände. Snder Bruggink Automten und Formle Sprchen Snder Bruggink Automten und Formle Sprchen
Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Minimlutomten Minimlutomten Algorithmus Minimlutomt Einge: DFA M Ausge: Mengen von erkennungsäquivlenten Zuständen Entferne die Zustände, die vom Strtzustnd us nicht erreichr sind. Stelle eine Telle ller (ungeordneten) Zustndspre {z, z } mit z z uf. Mrkiere lle Pre {z, z } mit z E und z E (oder umgekehrt) (z, z sind sicherlich nicht erkennungsäquivlent.) Algorithmus Minimlutomt Für jedes noch unmrkierte Pr {z, z } und jedes Σ teste, o {δ(z, ), δ(z, )} ereits mrkiert ist. Wenn j: mrkiere uch {z, z }. (Von z, z git es Üergänge zu nicht erkennungsäquivlenten Zuständen, sie können dher nicht erkennungsäquivlent sein.) Wiederhole den vorherigen Schritt, is sich keine Änderung in der Telle mehr ergit. Für lle jetzt noch unmrkierten Pre {z, z } gilt: z und z sind erkennungsäquivlent. Minimlutomten Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Minimlutomten Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, Erstelle eine Telle ller Zustndspre () Mrkiere Pre von Endzuständen und Nicht-Endzuständen Snder Bruggink Automten und Formle Sprchen Snder Bruggink Automten und Formle Sprchen
Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Minimlutomten Minimlutomten Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, () Mrkiere {, } wegen δ(, ) =, δ(, ) = und {, } mrkiert () Mrkiere {, } wegen δ(, ) =, δ(, ) = und {, } mrkiert Minimlutomten Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Minimlutomten Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, () Mrkiere {, } wegen δ(, ) =, δ(, ) = und {, } mrkiert () Mrkiere {, } wegen δ(, ) =, δ(, ) = und {, } mrkiert Snder Bruggink Automten und Formle Sprchen Snder Bruggink Automten und Formle Sprchen
Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Minimlutomten Minimlutomten Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, 7 () Mrkiere {, } wegen δ(, ) =, δ(, ) = und {, } mrkiert (7) Mrkiere {, } wegen δ(, ) =, δ(, ) = und {, } mrkiert Minimlutomten Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Minimlutomten Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, 8 7 Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, 9 8 7 (8) Mrkiere {, } wegen δ(, ) =, δ(, ) = und {, } mrkiert (9) Mrkiere {, } wegen δ(, ) =, δ(, ) = und {, } mrkiert Snder Bruggink Automten und Formle Sprchen Snder Bruggink Automten und Formle Sprchen
Minimlutomten Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Minimlutomten Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Durchführung des Minimierungs-Algorithmus m Beispiel des folgenden Automten:, 9 8 7 Die verleienden Zustndspre {, } und {, } können nicht mehr mrkiert werden sie sind erkennungsäquivlent Hinweise für die Durchführung des Minimierungs-Algorithmus: Die Telle möglichst so ufstellen, dss jedes Pr nur genu einml vorkommt!,..., n vertikl und,..., n horizontl notieren. Bitte ngeen, welche Zustände in welcher Reihenfolge und wrum mrkiert wurden! (Im Buch von Schöning werden immer nur Sternchen ( ) verwendet, er drus werden ei der Korrektur die Reihenfolge und die Gründe für die Mrkierung nicht ersichtlich.) Minimlutomten Snder Bruggink Automten und Formle Sprchen Reguläre Sprchen Äquivlenzreltionen und Minimlutomt Snder Bruggink Automten und Formle Sprchen 7 Für nicht-deterministische Automten knn mn folgende Aussgen treffen: Es git nicht den minimlen NFA, sondern es knn mehrere geen. Folgende zwei minimle NFAs erkennen L((0 ) ) und hen eide zwei Zustände. (Mit nur einem Zustnd knn diese Sprche nicht erknnt werden.) 0, 0 0 Snder Bruggink Automten und Formle Sprchen 8