Automaten und Formale Sprachen 1. Vorlesung

Transkript

1 Automaten und Formale Sprachen 1. Vorlesung Martin Dietzfelbinger 11. Oktober 2005 Hörer: Informatikstudierende im 3. Semester, Mathematikstudierende bei Bedarf Material: Skript, Folienkopien, Übungsblätter Webseite: Stoff: Skript + Übungsaufgaben. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Zur Arbeitsweise: Der Stoff ist zu kompliziert und zu umfangreich, um durch reines Zuhören verstanden zu werden. Regelmäßig Vorlesung nacharbeiten. Semesterbegleitend! Definitionen ( Konzepte ) und Sätze herausschreiben und (auswendig) lernen. Bei Verständnisproblemen früh fragen. Zeitaufwand: Mindestens 8 Zeitstunden pro Woche. D.h.: Neben Vorlesung + Übung: 5 Stunden. Frühzeitig fragen! Übungsblätter drucken, zur Übung mitbringen, vorher Lösung ausdenken, an Lösungen mitarbeiten. Regelmäßig Übungen nacharbeiten. Semesterbegleitend! Bücher konsultieren. (Schöning, Wegener: s. Skript) FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

2 Übungsleiterin: Frau Dr. E. Hübel Mittwoch Uhr HU 010 Donnerstag Uhr K 2003B Donnerstag Uhr HU 012 Tutorium für ausländische Studierende: (kostenpflichtig) Mittwochs, Uhr im Raum Sr K 2077 Tim Kubertschak Beginn: letzte Oktoberwoche. Prüfung: Februar 2006, Klausur 80 Minuten (M2004) 120 Minuten (M2003) FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Gegenstand der Vorlesung: (Endliche) Automaten : Endliche Menge von Zuständen, endliche Menge von legalen Eingangssignalen, Übergangsfunktion, Ausgabefunktion. Prinzip aus Rechnerorganisation bekannt. Hier: Mittel zur Beschreibung und maschinellen Bearbeitung von Formalen Sprachen, das sind Mengen von Strings (Wörtern, Zeichenreihen). {0,1,2,3,4,5,6,7,8,9,10,11,12,13,...,1001,1002,...}: Menge der Dezimaldarstellungen von natürlichen Zahlen; erlaubte Zeichen: 0,1,2,3,4,5,6,7,8,9. {0,1,10,11,100,101,110,111,1000,1001,...}: Menge der Binärdarstellungen der natürlichen Zahlen; erlaubte Zeichen: 0 und 1. die Menge der korrekten Darstellungen für Floating-point- Zahlen in Pascal (oder C, oder C++, oder Java). die Menge der korrekt gebildeten Namen ( identifier ) in Pascal-Programmen. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

3 die Menge der korrekt gebildeten arithmetischen Ausdrücke in Pascal-Progammen. die Menge der syntaktisch korrekten Pascal-Programme, die auf allen Eingaben nach endlich vielen Schritten anhalten. Thema 1. Reguläre Sprachen : Beschreibungs-/Spezifikationsmöglichkeiten: Grammatiken Algorithmen zum Erkennen der Wörter der Sprache: Automaten Transformationen (effizient?) zwischen Grammatiken und Automaten Optimale Automaten ( Minimalautomaten ) Synthese von Sprachbeschreibungen: Aufbau aus Elementarbausteinen reguläre Ausdrücke FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Konsistenz und Korrektheit von Beschreibungen: (Erkennt Automat A genau die Wörter, die zu Grammatik G passen?) Unmöglichkeitsaussagen ( Sprache L besitzt keinen endlichen Automaten ) Thema 2. Kontextfreie Sprachen : Stärkere Klasse: kontextfreie Grammatiken Syntaxbäume, Ableitungssequenzen Erkennen der Wörter der Sprache: Kellerautomaten Transformationen (effizient?) zwischen Grammatiktypen und Automatentypen Normalformen von Grammatiken Unmöglichkeitsaussagen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

4 Methoden: Mathematisch Definition Lemma (Hilfssatz) Satz Beweis (mitunter mit Hilfe eines Algorithmus) Korollar (Folgerung) Lernziel auch: Beweise führen. Mathematische Grundbegriffe: Übung in dieser Woche Mengen, Funktionen, Relationen, Potenzmenge,... Endliche Folgen, Tupel: (a 1,...,a n ), n 0 FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Kapitel 1: Grundbegriffe 1.1 Alphabete und Sprachen Natürliche Zahlen: N = {0,1,2,3,...} Positive ganze Zahlen: N + = {1,2,3,...} Endliche Folgen (2,3,2,2,1,6) (4,3,0,1) (3,3) (3,0,5) () (1) (a,b,a) (A,F,S,2,0,0,5) Allgemein: (a 0,a 1,...,a n 1 ) oder (a 1,a 2,...,a n ), für ein n N.!! Wiederholungen sind erlaubt, Reihenfolge ist wichtig! Seq(X) = {(a 1,...,a n ) n 0, a 1,...,a n X}. Menge aller endlichen Folgen über X. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

5 Spezialfälle: n = 0: Leere Folge () und n = 1: Einerfolge (a). Seq(N) und Seq({0,1}) und Seq({0}) und Seq({a,...,z,A,...,Z,0,...,9}) Alphabete {a,...,z,a,...,z,0,...,9} {0,1} {0} Menge der 128 ASCII-Zeichen {0,1,...,127} {0,1} 8 Menge der 256 Bytes {0,1} 16 {0,1} 32 Menge der Maschinenwörter FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Definition: Ein Alphabet ist eine endliche nichtleere Menge. Symbole für Alphabete: Σ (Sigma), (Delta), Γ (Gamma),... Keine Alphabete: oder N. Wenn ein Alphabet Σ gegeben ist, dann heißen die Elemente von Σ Buchstaben. Beispiele für Buchstaben: Schreibmaschinen-Alphabet: a b c A B 0 #... Alphabet Σ 256 = {0,1,...,255}: (Eine Zahl ein Buchstabe!) Alphabet {0,1} [1..20] = 1 i 20 {0,1}i : Symbole für Buchstaben: a,b, c, d,...,a 0,a 1, FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

6 Wörter Alphabet Σ sei gegeben. Beispiel: Σ = Menge der ASCII-Zeichen. Beispiele für Wörter über Σ: begin +1.0E2 (2+3)-(2*15) abracadabra end. Definition: Ein Wort über Σ ist ein Element von Seq(Σ), d.h. eine endliche Folge von Elementen von Σ. Wort über Σ: wobei a 1,...,a n Σ w = (a 1,...,a n ) = a 1...a n auch: String, Zeichenreihe, Zeichenkette Das leere Wort: () = ε Klammern und Kommas weglassen, wo keine Verwechslung möglich! FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen aba statt (a, b, a) AFS2005 statt Klammern nötig bei: (A,F,S,2,0,0,5) w = (11,7,9,13,20) bei Σ = {0,...,31} w = (010,100,110,000,111) bei Σ = {0,1} 3 (Oktalziffern, binär dargestellt) Symbole für Wörter: w, u, v, x, y, z, w 0, w 1, x 0, x 1 usw. Länge eines Wortes: a 1...a n = n Anzahl der Buchstaben! ε = 0 Menge aller Wörter über Σ: Σ := Seq(Σ) = {Σ n n N} = Σ 0 Σ 1 Σ 2 Beispiel: Σ = {0,1}. {0,1} = {ε, 0,1,00,01,10,11,000,001,010,...} FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

7 Größere Wörter: Ein Pascal-Programm. Alphabet: Menge der druckbaren ASCII-Zeichen plus carriage return-, newline- und Tabulator-Zeichen. Der Inhalt des Hauptspeichers eines PC der Größe 128 MB, gruppiert in Wörter à 32 Bit: Wort über Σ = {0,1} 32 der Länge 2 27 /4 = Mio. Ein Textfile. Alphabet: Menge der druckbaren ASCII-Zeichen plus carriage return-, newline-, Tabulator- und eof -Zeichen. Ein ASCII-File. Alphabet: Alle ASCII-Zeichen inklusive der Steuerzeichen. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Konkatenation von Wörtern: = abra cadabra = abracadabra. (010,10) (11,01) = (010,10,11,01). ist eine Abbildung / Funktion : Σ Σ Σ oder eine zweistellige Operation auf Σ. Neutrales Element: ε w = w ε = w Definition (a 1,...,a n ) (b 1,...,b m ) = (a 1,...,a n,b 1,...,b m ) Kurz: a 1...a n b 1...b m = a 1...a n b 1...b m Auch: a 1...a n b 1...b m. Manchmal: u w statt u w Meistens: uw statt u w FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

8 Eigenschaften: Assoziativität: (u v) w = u (v w). Konsequenz: Bei mehrfacher Konkatenation kann man eventuelle Klammern weglassen, z.b statt ((00 01) 101) (01 110). Neutrales Element: ε u = u ε = u. Beispiel: ( ) 01 = = 010 ( ) ε 1110 = 1110 ε = ε ε = ε. (Σ mit Operation ist Monoid mit neutralem Element ε.) FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Klar: u v = u + v. Notation: Wenn w Σ und a Σ, schreibt man w a für die Anzahl der Vorkommen von a in w. Beispiel: ababdabb a = 3 ababdabb b = 4 ababdabb c = 0 ababdabb d = 1. Klar: u v a = u a + v a. Und: u = k i=1 u b i, wenn u = (a 1,...,a n ) Wort über dem Alphabet Σ = {b 1,...,b k } ist.!! Zwei Bedeutungen von Σ. Beispiel: ababdabb a + ababdabb b + ababdabb c + ababdabb d = = 8 = ababdabb. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

9 Wiederholungen Statt abacabacabacabac = abac abac abac abac schreibe kurz (abac) 4. Induktive Definition : Für Wort w definiere: (i) w 0 := ε. (ii) w i := w w i 1, für i 1. Anschaulich: w i = w w w }{{} i mal = ww }{{ w}. i mal Achtung: Klammerung oft nötig = (01) 2 0 = (0001) 2 0 = Wenn a = 0 und w = 101: a 0 = w 0 = ε a 6 = w 3 a 2 = Schachtelung möglich: (a 3 w) 2 = (000101) 2 = FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Beispiel: Im Wort abracadabra kommt racada als (zusammenhängender) Teil vor. Teilwort Das Wort if 1+1 = 3 then a := false endif beginnt mit if. Präfix Definition u Präfix/Anfangsstück von w: v Σ : w = uv u Suffix/Endstück von w: v Σ : w = vu u Infix/Teilwort von w: v 1,v 2 Σ : w = v 1 uv 2 Das Wort if 1+1 = 3 then a := false endif endet mit dif. Suffix FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

10 Teilwörter von abracadabra: ε, abra, racada, abracadabra Präfixe von abracadabra: Suffixe von abracadabra: ε, abrac, abracadabra ε, cadabra, abracadabra Definition Σ = Seq(Σ) = {w w Wort über Σ} D.h.: Σ = {a 1...a n n N,a 1,...,a n Σ} Die Menge aller Zeichenketten über Σ. Konvention: a Σ a Σ (Betrachte (a) als mit a identisch.) Also: Σ Σ Unterscheide Σ (endlich) und Σ (unendlich) Beispiel: Σ = {1,2,3} Σ = {ε, 1,2,3 }{{},11,12,13,21,22,23,31,32,33,111,112,...} Σ Σ + := Σ {ε} = {a 1...a n n 1,a 1,...,a n Σ} FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Definition: (Formale) Sprache (a) Sei Σ ein Alphabet. Eine Sprache über Σ ist eine Menge L Σ. (b) Eine Menge L heißt eine Sprache, wenn es ein Alphabet Σ gibt, so dass L Σ. ( Σ ist durch L nicht eindeutig festgelegt.) Die Menge aller Dezimaldarstellungen von Primzahlen bildet eine Sprache über Σ = {0,1,2,3,4,5,6,7,8,9}, nämlich: L = {2,3,5,7,11,13,17,19,23,29,31,37,...}. Aber Achtung: Die Menge {2,3,5,7,11,13,17,19,23,29,31,37,...} N aller Primzahlen ist keine Sprache! (Es ist kein Alphabet da! Die Elemente sind Zahlen und nicht Wörter.) FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

11 Weitere Beispiele für Sprachen: L = : die leere Sprache {ε, 1, 11, 111, 1111, 11111,...}: Unärdarstellungen der natürlichen Zahlen ( Strichlisten ) L ε = {ε}: enthält das leere Wort und sonst nichts Σ Σ, daher ist Σ Sprache. Für Σ = {0,1}: Σ 8 enthält genau die 256 Bytes Σ 32 enthält genau die 2 32 verschiedenen Maschinenwörter L bin = {0,1,10,11,100,101,110,111,1000,1001,...}: Binärdarstellungen bin(n) der natürlichen Zahlen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Es gibt sehr viele Sprachen über Σ. Satz Wenn L Σ := {L L Sprache über Σ}, dann ist L Σ überabzählbar. Das heißt: Man kann die Elemente von L Σ nicht als Folge anordnen. L 1,L 2,L 3,L 4,... Beweis: Indirekt. ( Diagonalisierung ) Annahme: Das geht doch: Alle Elemente von L Σ als Folge L 1,L 2,L 3,L 4,... Schreibe die Elemente von Σ als Folge: w 1,w 2,w 3,... Dann definiere eine neue Sprache Nun sei j beliebig. Wir haben: L = {w i i 1,w i / L i }. w j L j w j / L Daraus folgt, dass L L j ist. Also kommt L Widerspruch. nicht in der Liste L 1,L 2,L 3,L 4,... vor. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

12 Operationen mit Sprachen: Sind L 1 und L 2 Sprachen, so heißt L 1 L 2 = {w 1 w 2 w 1 L 1,w 2 L 2 } (auch L 1 L 2 oder L 1 L 2 ) die Konkatenation von L 1 und L 2. {0} {1} = {0 i 1 j i,j 0}, {0} {1}{0,1} = L bin. Die Konkatenation ist assoziativ, d.h. Neutrales Element L ε : L ε L = LL ε = L für jede Sprache L. Auslöschendes Element L : L L = LL = L = für jede Sprache L. (L 1 L 2 )L 3 = L 1 (L 2 L 3 ). FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Potenzen von Sprachen L i := {w 1 w 2 w i w 1,...,w i L}, für i 0. Formal: L 0 := L ε ; L i := LL i 1 für i 1. Beachte: {w i w L} L i, meist nicht Gleichheit! Beispiel: {01,10} 2 = {0101,0110,1001,1010} {0101,1010} Kleene-Abschluss von L: L := {L i i 0} = L 0 L 1 L 2 L 3 L + := {L i i 1} = L 1 L 2 L 3. Übung: L + = LL = L L Beachte Unterschied zwischen L und {w i w L,i 0}! Beispiel: Für L = {0, 11} ist = 0(11)00(11)(11)0(11) in L enthalten, nicht aber in {w i w L,i 0}. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen

13 Mengenoperationen für Sprachen: Vereinigung L 1 L 2 und Durchschnitt L 1 L 2. Ist L Sprache über Σ, ist auch das Komplement Sprache über Σ. L = Σ L Für L 1 = {w {0,1} w 0 = w 1 } und L 2 = {0} {1} = {0 i 1 j i,j 0}: Sprechweise: Klasse von Sprachen (nicht Menge ). Die Klasse aller Sprachen, die Klasse der unendlichen Sprachen, die Klasse der Sprachen über einem einelementigen Alphabet, die Klasse der regulären Sprachen, usw. (Sind keine Mengen im eigentlichen Sinn.) L 1 L 2 = {0 i 1 j i = j} = {ε, 01,0011,000111,...} und L 1 = {w {0,1} w 0 w 1 }. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen FG KTuEA, TU Ilmenau Automaten und Formale Sprachen Bis nächste Woche: Skript besorgen/drucken. Skript Seiten Skript Seiten : b-äre Zahldarstellung. Definitionen lernen, Beispiele ansehen, Fragen vorbereiten. Übungsaufgaben vorbereiten. FG KTuEA, TU Ilmenau Automaten und Formale Sprachen