Formale Methoden 2. Gaetano Geck Lehrstuhl I Logik in der Informatik WS 2015/2016

Transkript

1 Formale Methoden 2 Gaetano Geck Lehrstuhl I Logik in der Informatik WS 2015/2016

2 Teil 4: Formale Sprachen

3 1 Motivation 2 Rechtsreguläre Grammatiken 3 Exkurs: Abgeschlossenheit 4 Strukturelle Induktion

4 FM2 (WS 2014/15, Geck) 3 Formale Sprachen / Motivation Motivation (1/3) In der Berechenbarkeitstheorie und der Komplexitätstheorie werden algorithmische Probleme untersucht, hinsichtlich ihrer Lösbarkeit überhaupt sowie der zur Lösung benötigten Ressourcen (Zeit, Platz,... ); wobei die algorithmischen Probleme oftmals recht abstrakt modelliert werden, als formale Sprachen. Definition 1.1 (Formale Sprache) Eine (formale) Sprache ist eine Menge L Σ von Wörtern über einem Alphabet Σ. Hier: Probleme, die nach Ja/Nein-Antwort fragen (entsprechen der Sprache, die genau die Ja-Antworten enthält) GTI: Zusammenhang mit Problemen, die nach einfachen Werten (Zeichen, Zahlen,... ) und komplexen Werten (Abbildung, Mengen,... ) fragen

5 FM2 (WS 2014/15, Geck) 4 Formale Sprachen / Motivation Motivation (2/3) Zusammenhang zwischen algorithmischem Problem und formaler Sprache konkret: Beispiel 1.2 Algorithmisches Problem: Name: ExistsPrimeBetweenG Eingabe: Zahlen n 1 N 0 und n 2 N 0 mit n 1 n 2 Frage: Gibt es eine Primzahl p mit n 1 p n 2? Ein Algorithmus, der das Problem ExistsPrimeBetweenG entscheidet, muss etwa bei Eingabe n 1 = 15 und n 2 = 18 die Antwort ja zurückgeben; bei Eingabe n 1 = 90 und n 2 = 95 die Antwort nein zurückgeben. Modellierung als formale Sprache: Alphabet: Σ = {0, 1, 2, 3, 4, 5, 6, 7, 8, 9, #} Eingaben: Kodiere (n 1, n 2 ) N 0 N 0 als Wort base 10 (n 1 )#base 10 (n 2 ) Also: ExistsPrimeBetweenG = {2#2, 2#3, 2#4,..., 3#3, 3#4,..., 4#5,..., 9#11, 9#12,... }

6 Formale Sprachen / Motivation Motivation (3/3) Hinweis: Fortan werden wir Problem und (formale) Sprache synonym gebrauchen. Ja/Nein-Probleme können nach der Gültigkeit von Eingaben fragen: Benutzereingaben, repräsentiert eine Zeichenkette: eine Zahl, eine -Adresse, eine URL, ein Zeitangabe,...? Quellcode:... Fragen: kompilierbarer Java-Code kompilierbarer Java-Code mit Eigenschaften: Programm hält für jede Eingabe nach spätestens 10 Minuten Programm hält für jede Eingabe irgendwann... 1 Wie können gültige Eingaben beschrieben werden? 2 Wie kann eine Eingabe auf Gültigkeit überprüft werden? Fakt: Die Antwort hängt von der Komplexität des Problems (der Sprache) ab! FM2 (WS 2014/15, Geck) 5

7 1 Motivation 2 Rechtsreguläre Grammatiken Korrektheit und Vollständigkeit 3 Exkurs: Abgeschlossenheit 4 Strukturelle Induktion

8 FM2 (WS 2014/15, Geck) 7 Formale Sprachen / Rechtsreguläre Grammatiken Rechtsreguläre Grammatiken Wir betrachten zunächst Punkt 1 für eine einfache Klasse von Sprachen. Ziel: Beschreibung aller Wörter über Σ = {a, b, c} mit einer geraden Anzahl von b, etwa bcc, baa, aaaacaa,... Beobachtung: Es gibt unendlich viele solche Bezeichner (Aufzählen zwecklos). Wunsch: Formalismus zur (einfachen) Beschreibung dieser Bezeichner. Definition 2.1 Eine rechtsreguläre Grammatik ist ein Quadrupel (V, Σ, P, S), bestehend aus einer Menge V von Variablen, einem Alphabet Σ, einer Menge P von Produktionen und einer ausgezeichneten Variable S V, dem Startsymbol. Jede Produktion p P ist von der Form X ε oder X σ oder X σy, für Variablen X, Y V und ein Zeichen σ Σ.

9 FM2 (WS 2014/15, Geck) 8 Formale Sprachen / Rechtsreguläre Grammatiken Rechtsreguläre Grammatiken: Beispiel Definition 2.2 Sei w ein Wort über einem Alphabet Σ und σ ein Zeichen aus Σ. Die Abbildung # σ : Σ N 0 bildet jedes Wort w Σ auf die Anzahl der Vorkommen des Zeichens σ in w ab. Die Sprache aller Wörter über {a, b, c} mit gerader Anzahl von b lässt sich schreiben als: Beispiel 2.3 L 2b = { w {a, b, c} # b (w) mod 2 = 0 }. Wir definieren eine Grammatik G 2b = ({X 0, X 1 }, {a, b, c}, P, X 0 ) mit Produktionen oder kurz: p 1 : X 0 ε p 2 : X 0 ax 0 p 3 : X 0 bx 1 p 4 : X 0 cx 0 p 5 : X 1 ax 1 p 6 : X 1 bx 0 p 7 : X 1 cx 1 X 0 ε ax 0 bx 1 cx 0 X 1 ax 1 bx 0 cx 1

10 FM2 (WS 2014/15, Geck) 9 Formale Sprachen / Rechtsreguläre Grammatiken Rechtsreguläre Grammatiken: Semantik (1/2) Frage: Welche Sprache beschreibt die Grammatik G 2b? Intuitiv: Die Menge aller Wörter, die sich vom Startsymbol X 0 aus ableiten lassen. Definition 2.4 (Ableitungsschritt) Sei G = (V, Σ, P, S) eine rechtsreguläre Grammatik. Ein Ableitungschritt von wx nach wρ mit einem Wort w Σ, einer Variable X und einer Satzform ρ {ε} Σ ( Σ V ) liegt vor, falls es eine Produktion X ρ in P gibt. Wir schreiben dann: wx G Beispiel 2.5 wρ. Für die Grammatik G 2b mit Produktionen X 0 ε ax 0 bx 1 cx 0 X 1 ax 1 bx 0 cx 1 gibt es beispielsweise die folgenden Ableitungsschritte: ccax 0 ccabx 1, wegen X 0 bx 1 ; bax 0 baε = ba, wegen X 0 ε.

11 FM2 (WS 2014/15, Geck) 10 Formale Sprachen / Rechtsreguläre Grammatiken Rechtsreguläre Grammatiken: Semantik (2/2) Definition 2.6 (Ableitung) Sei G = (V, Σ, P, S) eine rechtsreguläre Grammatik. Eine Ableitung (der Länge n) ist eine Folge α 0,..., α n mit α i 1 G α i für alle i {1,..., n}. Wir schreiben dann α 0 n α n und allgemeiner G α G α für eine Ableitung beliebiger Länge von α nach α. Beispiel 2.7 Für die Grammatik G 2b mit Produktionen X 0 ε ax 0 bx 1 cx 0 X 1 ax 1 bx 0 cx 1 gilt etwa ax 0 abx 1 abcx 1 abcbx 0 abcb, also ax 0 4 abcb und insbesondere ax 0 abcb. Definition 2.8 Sei G = (V, Σ, P, S) eine rechtsreguläre Grammatik und X eine Variable aus V. Die von der Variablen X erzeugte Sprache L(X) ist die Menge {w Σ X G w}. Die von der Grammatik G erzeugte Sprache L(G) ist die vom Startsymbol erzeugte Sprache L(S).

12 FM2 (WS 2014/15, Geck) 11 Formale Sprachen / Rechtsreguläre Grammatiken Rechtsreguläre Grammatiken: Aufgaben Aufgabe Zeige, dass das Wort baca in der von G 2b erzeugten Sprache ist. Zeige, dass das Wort bac nicht in der von G 2b erzeugten Sprache ist. Aufgabe Konstruiere eine Grammatik, die alle Wörter über dem Alphabet {a, b, c, d} beschreibt, die Frage mit einem a beginnen, mit einem d enden und ungerade viele c besitzen. Wie kann man beweisen, dass die Grammatik G 2b wirklich die Sprache L 2b beschreibt, dass also L(G 2b ) = L 2b gilt?

13 FM2 (WS 2014/15, Geck) 12 Formale Sprachen / Rechtsreguläre Grammatiken Korrektheit und Vollständigkeit Eine Grammatik G = (V, Σ, P, S) wird mit dem Ziel erstellt, eine gegebene Sprache L zu beschreiben. Frage: Wie lässt sich sicherstellen, dass die Grammatik richtig ist, also L(G) = L gilt? Antwort: Die formale Modellierung (Syntax und Semantik) erlaubt das Führen eines formalen Beweises. Diese Mengengleichheit umfasst zwei Aspekte: Korrektheit der Grammatik (L(G) L): Jedes Wort w Σ mit w L(G) ist auch in der Sprache L enthalten. (d. h. jedes Wort, das sich in der Grammatik G ableiten lässt) Vollständigkeit der Grammatik (L L(G)): Jedes Wort w Σ mit w L (d. h. jedes Wort, das in der Sprache L enthalten ist) lässt sich in G ableiten; es gilt also w L(G).

14 FM2 (WS 2014/15, Geck) 13 Formale Sprachen / Rechtsreguläre Grammatiken Korrektheit und Vollständigkeit: Beispiel Wir schauen uns das Prinzip an einem einfachen Beispiel an. Beispiel 2.9 Die Sprache L 3 soll alle durch 3 teilbaren natürlichen Zahlen in Binärkodierung enthalten: L 3 = b n 1... b 0 {0, 1} n n 1 n N 0, 2 i b i 3 0. i=0 Wir behaupten, dass die folgende Grammatik G 3 = ({R 0, R 1, R 2 }, {0, 1}, P, R 0 ) mit P: die Sprache L 3 beschreibt. R 0 0R 0 1R 1 ε R 1 0R 2 1R 0 R 2 0R 1 1R 2 Korrektheit (L(G 3 ) L 3 ): Oft: Beweis durch vollständige Induktion nach der Ableitungslänge. Vollständigkeit (L 3 L(G 3 )): Oft: Beweis durch vollständige Induktion nach der Länge des Wortes.

15 FM2 (WS 2014/15, Geck) 14 Formale Sprachen / Rechtsreguläre Grammatiken Korrektheit L(G 3 ) L 3 : Beispielbeweis (1/2) Sei w L(G 3 ). Es gelte also R 0 n w für ein n N. Der Fall w = ε ist klar. Deshalb im Folgenden: w = σ 1... σ n 1 für n N. Beobachtung: In den Produktionen R 0 0R 0 1R 1 ε R 1 0R 2 1R 0 R 2 0R 1 1R 2 ist die Regel R i σr j genau dann enthalten, wenn 2i + σ 3 j. Lemma 2.10 Seien u, w {0, 1} beliebige Wörter mit bin(u) 3 i. Gilt ur i n uwr j, dann ist bin(uw) 3 j. Damit: Aus R 0 n+1 w folgt bin(w) 3 0, denn die Ableitung endet durch Anwendung von R 0 ε: R 0 n wr 0 wε = w. Wir wählen u = ε, i = 0 und j = 0: R 0 =ur i wr j wε = w. Wegen bin(u) = bin(ε) 3 0 = i folgt mit dem Lemma: bin(uw) = bin(εw) = bin(ε) 3 j = 0, Insgesamt also w L 3.

16 FM2 (WS 2014/15, Geck) 15 Formale Sprachen / Rechtsreguläre Grammatiken Korrektheit L(G 3 ) L 3 : Beispielbeweis (2/2) Beweis von Lemma 2.10 Beweis durch vollständige Induktion nach der Länge n der Ableitung ur i n uwr j. Induktionsanfang (n = 1): Klar: Ein Zeichen b {0, 1} wird erzeugt: ur i ubr j. Insbesondere: R i br j, also (R i br j ) P. Nach Beobachtung: 2i + b 3 j. Aus bin(u) 3 i folgt dann: bin(ub) 3 2 bin(u) + b 2i + b = j. Induktionsschritt (n n + 1): Es gilt: ur i n+1 ub n+1... b 2 b 1 R j. Also: ur i n ub n+1... b 2 R k ub n+1... b 2 b 1 R j. Insbesondere: 1 ur i n ub n+1... b 2 R k und nach Induktionsvoraussetzung: bin(ub n+1... b 2 ) 3 k. 2 R k b 1 R j und nach Beobachtung: 2k + b 1 3 j. Zusammen: bin(ub n+1... b 1 ) 3 2bin(ub n+1... b 2 ) + b 1 2k + b 1 j.

17 FM2 (WS 2014/15, Geck) 16 Formale Sprachen / Rechtsreguläre Grammatiken Vollständigkeit L 3 L(G 3 ): Beispielbeweis Sei w L 3 beliebig. Falls w = ε, dann gilt offenbar R 0 ε = w, also w L(G 3 ). Andernfalls gilt w = b n 1... b 0 für n N mit bin(b n 1... b 0 ) 3 0. Lemma 2.11 Sei w {0, 1} beliebig. Gilt bin(w) 3 j, so auch R 0 wr j. Aufgabe Zeige, dass sich aus dieser Hilfsaussage die Vollständigkeit der Grammatik ergibt. Beweise das Lemma durch vollständige Induktion nach der Länge des Wortes.

18 1 Motivation 2 Rechtsreguläre Grammatiken 3 Exkurs: Abgeschlossenheit 4 Strukturelle Induktion

19 FM2 (WS 2014/15, Geck) 18 Formale Sprachen / Exkurs: Abgeschlossenheit Motivation/Definition Für Modellierung wünschenswert: komplexere Modelle aus einfachen Modellen konstruieren (idealerweise automatisch berechnen lassen) durch Verwendung von Operatoren Wir betrachten nachher: Operatoren auf Sprachen zunächst: Operatoren auf Zahlen und Abbildungen Definition 3.1 (Abgeschlossenheit) Sei ein n-stelliger Operator auf einer Menge X (also : X n X). Eine Teilmenge Y X heißt abgeschlossen bezüglich, falls (y 1,..., y n ) Y für alle y 1,..., y n Y gilt.

20 Formale Sprachen / Exkurs: Abgeschlossenheit FM2 (WS 2014/15, Geck) 19 Beispiel: Zahlenbereiche Wir betrachten binäre Operatoren auf der Menge R aller reellen Zahlen: die Addition + : R R R die Subtraktion : R R R die Division : R R R Beispiel 3.2 (Natürliche Zahlen) Die Menge N 0 der natürlichen Zahlen ist unter der Addition abgeschlossen: für alle n 1, n 2 N 0 gilt (n 1 + n 2 ) N 0. ist nicht unter der Subtraktion abgeschlossen: für 3, 8 N 0 gilt beispielsweise (3 8) = 5 N 0. Beispiel 3.3 (Ganze Zahlen) Die Menge Z der ganzen Zahlen ist unter Subtraktion abgeschlossen: für alle z 1, z 2 Z gilt (z 1 z 2 ) Z. ist nicht unter Division abgeschlossen: für 3, 2 Z gilt beispielsweise (3 2) = 1, 5 Z.

21 Formale Sprachen / Exkurs: Abgeschlossenheit FM2 (WS 2014/15, Geck) 20 Beispiel: Funktionen Wir betrachten die Mengen F (R) = {f : R R} aller Funktionen (Argument x R, Wert f (x) R) P(R) = {p : R R p ist ein Polynom} F (R) aller Polynome. mit den Operatoren : F (R) F (R) F (R), wobei für f = f 1 f 2 für alle x R gilt: f (x) = f 1 (x) + f 2 (x). : F (R) F (R) F (R), wobei für f = f 1 f 2 für alle x R gilt: f (x) = f 1(x) f 2 (x). Beispiel 3.4 Die Menge P(R) der Polynome Aufgabe ist unter Addition abgeschlossen: für alle p 1, p 2 P(R) gibt es ein p P(R), sodass p = p 1 p 2. ist nicht unter Division abgeschlossen: für p 1 (x) = x und p 2 (x) = x beispielsweise gilt (p 1 p 2 ) P(R) Zeige, dass Polynome unter Addition abgeschlossen sind.

22 Formale Sprachen / Exkurs: Abgeschlossenheit FM2 (WS 2014/15, Geck) 21 Beispiel: Sprachen (1/2) Zur Erinnerung: Sprachen sind Mengen von Wörtern. Wir bezeichnen mit L all = {L Σ es gibt ein Alphabet Σ} die Klasse der (formalen) Sprachen; L rr = {L Σ es gibt eine rechtsreguläre Grammatik G mit L(G) = L} die Klasse der regulären Sprachen; L fin = {L Σ n es gibt ein n N 0 } die Klasse der endlichen Sprachen. Lemma 3.5 Es gilt L fin L rr L all. Klar: L rr L all GTI: L rr L all Frage Warum gilt L fin L rr?

23 FM2 (WS 2014/15, Geck) 22 Formale Sprachen / Exkurs: Abgeschlossenheit Beispiel: Sprachen (2/2) Wir betrachten die Menge L all aller formalen Sprachen und die Operatoren: Vereinigung : L all L all L all Schnittbildung : L all L all L all Wiederholung : L all L all mit L = {w 1 w n es gibt ein n N 0 und w 1,..., w n L} Beispiel 3.6 Die Klasse L fin der endlichen Sprachen ist abgeschlossen unter Vereinigung und Schnitt: für alle L 1, L 2 L fin gilt (L 1 L 2 ), (L 1 L 2 ) L fin. ist nicht abgeschlossen unter Wiederholung: für L = {a} L fin beispielsweise gilt L = {a n n N 0 } L fin.

24 1 Motivation 2 Rechtsreguläre Grammatiken 3 Exkurs: Abgeschlossenheit 4 Strukturelle Induktion

25 FM2 (WS 2014/15, Geck) 24 Formale Sprachen / Strukturelle Induktion Strukturelle Induktion: Prinzip Ziel: Beweise eine Aussage ϕ(α) für alle Objekte α einer induktiv definierten Menge Mittel: 1 Beweise die Aussage für alle Basisobjekte (Induktionsanfang) 2 Beweise, dass wenn die Aussage für Objekte α 1,..., α n gilt, sie auch für die aus α 1,..., α n zusammengesetzten Objekte gilt Dabei muss jeder Operator betrachtet werden! (Induktionsschluss)

26 FM2 (WS 2014/15, Geck) 25 Formale Sprachen / Strukturelle Induktion Strukturelle Induktion: Beispiel Syntax-/Semantikdefinition von 01-Ausdrücken Definition 4.1 (01-Ausdrücke, Syntax) Die Menge A der 01-Ausdrücke ist die kleinste Menge, mit den folgenden Eigenschaften: Basisausdrücke: 0 A, 1 A (Zeichen 0,1) komplexe Ausdrücke: für alle β, γ A ist auch (β + γ) A für alle β, γ A ist auch (β γ) A Definition 4.2 (01-Ausdrücke, Semantik) Die Sprache L(α) eines 01-Ausdrucks α A ist induktiv definiert durch: Basisausdrücke: L(0) = {0}, L(1) = {1} komplexe Ausdrücke: Anmerkungen: L(β + γ) = L(β) L(γ) L(β γ) = L(β) L(γ) Dabei ist für Sprachen L 1, L 2 Σ definiert: L = L 1 L 2 = {u v u L 1, v L 2 }. (Auswahl) (Konkatenation) Die Sprache eines 01-Ausdrucks α ist eine Sprache über dem Alphabet Σ = {0, 1} (L(α) {0, 1} ).

27 Formale Sprachen / Strukturelle Induktion FM2 (WS 2014/15, Geck) 26 Strukturelle Induktion: Beispiel Auswertung von 01-Ausdrücken Definition 4.3 (zur Erinnerung) Die Sprache L(α) eines 01-Ausdrucks α ist induktiv definiert durch: Basisausdrücke: L(0) = {0}, L(1) = {1} komplexe Ausdrücke: L(β + γ) = L(β) L(γ), L(β γ) = L(β) L(γ) Beispiel 4.4 (Auswertung) L 1 = L ( ) = {0, 1} L 2 = L ( 1 0 ) = {10} L 3 = L ( 1 (0 + 1) ) = {10, 11} L 4 = L ( (0 1) (0 + 1) ) = {010, 011} Definition 4.5 Für eine Sprache L Σ ist die Sprache L R = {w R w L}. Beispiele 4.6 ( {01, 11} ) R = {10, 11}; ( {001, , 10, 01} ) R = {100, , 01, 10}

28 Formale Sprachen / Strukturelle Induktion FM2 (WS 2014/15, Geck) 27 Strukturelle Induktion: Beispiel Rekursive Definition Satz 4.7 Zu jedem 01-Ausdruck α existiert ein 01-Ausdruck α, sodass L(α ) = ( L(α) ) R gilt. Beweisidee (konstruktiv) Wir definieren eine Transformation τ : A A rekursiv: Basisausdrücke: τ(0) = 0, τ(1) = 1 komplexe Ausdrücke: τ(β + γ) = τ(β) + τ(γ) τ(β γ) = τ(γ) τ(β) Behauptung: Für α := τ(α) gilt dann die Gleichung. (vertausche Reihenfolge der Operanden) Aufgabe Bestimme den Ausdruck α = τ ( (0 1) (0 + 1) ). Bestimme die Sprache L(α ).

29 Formale Sprachen / Strukturelle Induktion FM2 (WS 2014/15, Geck) 28 Strukturelle Induktion: Beispiel Korrektheitsbeweis (1/2): ( L(α) )R L ( τ(α) ) Ziel: Beweise Behauptung, also sowohl ( L(α) )R L ( τ(α) ) als auch L ( τ(α) ) ( L(α) ) R (hier) (Übungsaufgabe) Korrektheitsbeweis (Induktionsanfang) Wir beweisen ( L(α) )R L ( τ(α) ) für einen beliebigen Ausdruck α A durch strukturelle Induktion. Induktionsanfang (hier trivial): Sei α = 0, dann ist α = τ(α) = τ(0) = 0 und ( L(α) )R ( L(0) )R {0 R } {0} L(α). Analog für α = 1.

30 FM2 (WS 2014/15, Geck) 29 Formale Sprachen / Strukturelle Induktion Strukturelle Induktion: Beispiel Korrektheitsbeweis (2/2): ( L(α) )R L ( τ(α) ) Korrektheitsbeweis (Induktionsschritt) Induktionsschluss für α = β γ: Wir zeigen ( L(α) )R L ( τ(α) ) unter der Induktionsvoraussetzung ( L(β) )R L ( τ(β) ) und ( L(γ) )R L ( τ(γ) ) Dazu zeigen wir für beliebiges w ( L(α) ) R, dass auch w L ( τ(α) ) gilt: w = w 1... w n für n N und w 1,..., w n {0, 1} w = w 1... w n ( L(β γ )) R (α = β γ) w R = w n... w 1 L(β γ) (Def. Rückwärtsoperator) w n... w i+1 L(β) und w i... w 1 L(γ) für ein i {1,..., n} (Def. Konkatenation) w i+1... w n ( L(β) ) R und w1... w i ( L(γ) ) R (Def. Rückwärtsoperator) w i+1... w n L ( τ(β) ) und w 1... w i L ( τ(γ) ) (Induktionsvoraussetzung) w = (w 1... w i ) (w i+1... w n ) L ( τ(γ) ) L ( τ(β) ) (Def. Konkatenation) Wegen L ( τ(γ) ) L ( τ(β) ) = L ( τ(γ) τ(β) ) = L ( τ(β γ) ) = L ( τ(α) ) folgt daraus das Enthaltensein. Induktionsschluss für α = β + γ: Einfach (Übung).