Grundlagen der theoretischen Informatik

Transkript

1 Grundlagen der theoretischen Informatik Kurt Sieber Fakultät IV, Department ETI Universität Siegen SS 2013 Vorlesung vom

2 Inhalt der Vorlesung Teil I: Automaten und formale Sprachen (Kurt Sieber) Zentrale Fragestellungen Wie definiert man (formal) die Syntax einer Sprache (z.b. einer Programmiersprache)? Wie überprüft man, ob ein Wort (d.h. eine Zeichenreihe) zur Sprache gehört? Teil II: Berechenbarkeit und Komplexität (Hannes Diener) Zentrale Fragestellungen Welche Probleme (Aufgabenstellungen) sind prinzipiell mit einem Computer lösbar bzw. nicht lösbar? Welche Probleme sind mit vernünftigem Aufwand (an Speicherplatz und Laufzeit) lösbar? Kurt Sieber GTI - SS

3 Grundlagen für beide Teile: Zeichen, Wörter und Sprachen Definition 1.1 Ein Alphabet oder Zeichenvorrat ist eine nichtleere endliche Menge. Die Elemente eines Alphabets nennen wir Zeichen oder Symbole. Konvention: Alphabete werden mit Σ, Σ 1, Σ,... bezeichnet. Kurt Sieber GTI - SS

4 Beispiele Σ 1 = {1} Σ 2 = {0, 1} Σ 3 = {0,..., 9} Σ 4 = {a,..., z, A,..., Z} Σ 5 = Menge aller ASCII-Zeichen Σ 6 = {begin, end, if, then, else, ;, :=, +,,...} Kurt Sieber GTI - SS

5 Definition 1.2 Ein Wort über dem Alphabet Σ ist eine endliche Folge w = (a 1,..., a n ), wobei n 0 und a i Σ für i = 1,..., n. n heißt Länge des Wortes w, a i heißt i-tes Zeichen von w. Das Wort () heißt leeres Wort. Kurzschreibweise a 1... a n statt (a 1,..., a n ) Vorsicht: Zeichen a und Wort a nicht mehr unterscheidbar! ε statt () Weitere Schreibweisen w = Länge von w Σ = Menge aller Wörter über Σ Σ + = Σ \ {ε} = Menge aller nichtleeren Wörter über Σ Kurt Sieber GTI - SS

6 Beispiele {1} = {ε, 1, 11, 111,...} {0, 1} = {ε, 0, 1, 00, 01, 10, 11,...} ε, 0, 123, 0815 {0,..., 9} Der Inhalt einer Datei ist ein Wort über dem ASCII-Alphabet (denn Leerzeichen, Zeilenwechsel etc. sind Zeichen dieses Alphabets). Ein Programm (in irgendeiner Programmiersprache) ist ebenfalls ein Wort über dem ASCII-Alphabet. Der Inhalt eines Buches ist ein Wort (über dem Alphabet der Sprache, in der es geschrieben ist). Kurt Sieber GTI - SS

7 Alternative Definition für Σ und Σ + Σ n = {(a 1,..., a n ) a i Σ für i = 1,..., n} = {a 1... a n a i Σ für i = 1,..., n} = Menge aller Wörter der Länge n über Σ Speziell: Σ 0 = {()} = {ε} Σ = n 0 Σ n = Menge aller Wörter über Σ Σ + = n 1 Σ n = Σ \ {ε} Kurt Sieber GTI - SS

8 Definition 1.3 Seien v = a 1... a m und w = b 1... b n Wörter über Σ. Dann ist die Konkatenation v w von v und w definiert durch v w = a 1... a m b 1... b n Kurzschreibweise: vw statt v w Eigenschaften der Konkatenation Assoziativität: (uv)w = u(vw) für alle u, v, w Σ Neutrales Element: wε = εw = w für alle w Σ Also: (Σ, ) ist ein Monoid mit neutralem Element ε (vgl. natürliche Zahlen mit Multiplikation) Kurt Sieber GTI - SS

9 Definition 1.4 Sei w Σ und n N. Dann ist die n-te Potenz w n von w definiert durch w n = w }.{{.. w} (speziell: a n = a }.{{.. a} falls a Σ). n n Besser: Definition von w n durch Induktion über n w 0 = ε w n = ww n 1 falls n > 0 Oder: w 0 = ε w n = w n 1 w falls n > 0 Beispiele (bla) 2 = blabla (bla ) 3 = bla bla bla Kurt Sieber GTI - SS

10 Definition 1.5 Für w = a 1... a n Σ sei w R Σ das Wort, das durch Spiegelung aus w entsteht, d.h. (R steht für engl. reverse) w R = a n... a 1 Beispiel (01001) R = Alternative Definition von w R durch Induktion über w (s. Übung!) Kurt Sieber GTI - SS

11 Definition 1.6 Sei x Σ. u heißt Anfangswort oder Präfix von x, falls ein v Σ existiert mit x = uv. v heißt Endwort oder Suffix von x, falls ein u Σ existiert mit x = uv. v heißt Teilwort von x, falls u, w Σ existieren mit x = uvw. Beispiel Präfixe von 010: ε, 0, 01, 010 Suffixe von 010: ε, 0, 10, 010 Teilwörter von 010: ε, 0, 1, 01, 10, 010 Kurt Sieber GTI - SS

12 Die Beziehungen Anfangswort, Endwort und Teilwort sind zweistellige Relationen auf Σ. Jede dieser Relationen ist reflexiv : Jedes w Σ steht in Relation zu sich selbst. transitiv : Wenn u in Relation zu v und v in Relation zu w steht, dann steht auch u in Relation zu w. antisymmetrisch: Wenn u in Relation zu v steht und v in Relation zu u, dann ist v = u. Also: Jede der Relationen definiert eine partielle Ordnung auf Σ. Kurt Sieber GTI - SS

13 Definition 1.7 Eine Sprache (oder formale Sprache) über dem Alphabet Σ ist eine (beliebige) Teilmenge von Σ. Konvention: Sprachen bezeichnen wir meist mit L, L 1, L,... (engl. language). Alternative Formulierung Eine Sprache über Σ ist ein Element der Potenzmenge (Σ ). Kurt Sieber GTI - SS

14 Beispiele L 1 = L 2 = Σ L 3 = {ε} L 4 = {1 n n ist eine Primzahl} L 5 = Menge aller Binärdarstellungen natürlicher Zahlen L 6 = Menge aller Dezimaldarstellungen natürlicher Zahlen L 7 = Menge aller Java-Programme L 8 = Menge aller Sätze der deutschen Sprache L 9 = {0 n 1 n n 0} L 10 = {vw v {0}, w {1} } Kurt Sieber GTI - SS

15 Definition 1.8 Seien L, L 1, L 2 Σ. Dann sei L 1 L 2 die Vereinigung von L 1 und L 2. L 1 L 2 der Durchschnitt von L 1 und L 2. L 1 \ L 2 = {w L 1 w / L 2 } die Mengendifferenz von L 1 und L 2. L = Σ \ L das Komplement von L. L 1 L 2 = {vw v L 1, w L 2 } die Konkatenation von L 1 und L 2. Kurzschreibweise: L 1 L 2 statt L 1 L 2 Eigenschaften der Konkatenation Assoziativität: (L 1 L 2 )L 3 = L 1 (L 2 L 3 ) für alle L 1, L 2, L 3 Σ Neutrales Element: L{ε} = {ε}l = L für alle L Σ Also: ( (Σ ), ) ist ein Monoid mit neutralem Element {ε}. Kurt Sieber GTI - SS

16 Definition 1.9 Seien L Σ und n N. Dann ist die n-te Potenz L n von L definiert durch L n = L}.{{.. L} n = L }.{{.. L} n = {w 1... w n w i L für i = 1,..., n} Besser: Definition von L n durch Induktion über n L 0 = {ε} L n = LL n 1 falls n > 0 Oder: L 0 = {ε} L n = L n 1 L falls n > 0 Kurt Sieber GTI - SS

17 Definition 1.10 Für L Σ sei L R = {w R w L} die Spiegelung von L L = n 0 L n = {w 1... w n n 0, w i L für i = 1,..., n} der Kleene-Abschluss von L. Speziell: {w} = {w n n 0} falls w Σ {a} = {a n n 0} falls a Σ L + = n 1 L n = {w 1... w n n 1, w i L für i = 1,..., n} = LL Folgerung: L = L + L 0 = L + {ε} Kurt Sieber GTI - SS

18 Rechenregeln für Potenzen... von Wörtern w 0 = ε (neutrales Element) w 1 = w w m w n = w m+n (w m ) n = w mn... von Sprachen L 0 = {ε} (neutrales Element) L 1 = L L m L n = L m+n (L m ) n = L mn Diese Regeln gelten in jedem Monoid (wenn man das Potenzieren nach dem üblichen Schema definiert). Denn sie folgen allein aus der Assoziativität und der Eigenschaft des neutralen Elements. Warnung: Es gilt nicht (w 1 w 2 ) n = w n 1 wn 2 oder (L 1L 2 ) n = L n 1 Ln 2. Denn dazu bräuchte man die Kommutativität. Kurt Sieber GTI - SS

19 Rechenregeln für und + L L (L ) = L L L+ (L + ) + = L + Mengenoperatoren mit diesen beiden Eigenschaften nennt man Abschluss- oder Hüllenoperatoren. Beweis für 1. L L ist klar wegen L = L 1 und L = n 0 L n. 2. L = (L ) : ist klar wegen 1. : Sei w (L ), d.h. w = w 1... w n mit n 0 und w i L für i = 1,..., n. Dann existiert für jedes i ein m i 0 mit w i L m i, also folgt w = w 1... w n L m 1... L m n = L m m n L. Kurt Sieber GTI - SS

20 Die Operatoren,,,... lassen sich auch zur Beschreibung von Sprachen verwenden. Konvention: Die Postfixoperatoren n, + und binden am stärksten, bindet stärker als. Beispiele Die Menge aller Dezimaldarstellungen natürlicher Zahlen: L nat = {0,..., 9} + = {0,..., 9}{0,..., 9} Die Menge aller Dezimaldarstellungen ganzer Zahlen: L int = {, ε}l nat Die Menge aller dezimalen Festpunktzahlen: L fix = L int {.} {.}L nat L int {.}L nat Die Menge aller dezimalen Fließpunktzahlen: L float = L int {e, E}L int L fix ({ε} {e, E}L int ) Kurt Sieber GTI - SS

21 Die Menge aller Wörter über dem Alphabet {0, 1}, die mit 00 beginnen: L 1 = {00}{0, 1}... die 00 als Teilwort enthalten: L 2 = {0, 1} {00}{0, 1}... die mindestens zwei Nullen enthalten: L 3 = {0, 1} {0}{0, 1} {0}{0, 1} = {1} {0}{1} {0}{0, 1}... die genau zwei Nullen enthalten: L 4 = {1} {0}{1} {0}{1}... die höchstens zwei Nullen enthalten: L 5 = {1} {0, ε}{1} {0, ε}{1}... deren erstes und letztes Zeichen übereinstimmen: L 6 = {0, 1} {0}{0, 1} {0} {1}{0, 1} {1} Kurt Sieber GTI - SS

22 Reguläre Sprachen Definition 2.1 Die Menge aller regulären Sprachen über Σ ist induktiv definiert durch: Jede endliche Menge L Σ ist regulär. Wenn L 1, L 2 Σ regulär sind, dann sind auch L 1 L 2 und L 1 L 2 regulär. Wenn L regulär ist, dann ist auch L regulär. Mit anderen Worten: Eine Sprache ist genau dann regulär, wenn sie sich durch wiederholte Anwendung der Operatoren, und aus endlichen Sprachen aufbauen lässt. Damit haben wir eine endliche Beschreibung für jede reguläre Sprache. Beispiele: L nat, L int, L fix, L float, L 1,..., L 6 sind reguläre Sprachen. Kurt Sieber GTI - SS

23 Reguläre Sprachen Die Mengenausdrücke aus Definition 2.1 sind gut lesbare Beschreibungen für reguläre Sprachen (zumindest für die Beispiele aus der Praxis wie Zahldarstellungen, Variablennamen,....) Aber: Nachteil in der Praxis: Ein Mengenausdruck für eine Sprache liefert noch keinen Algorithmus, um die Zugehörigkeit zur Sprache zu testen. Nachteil in der Theorie: Mit Definition 2.1 kann man nur schwer zeigen, dass eine Sprache nicht regulär ist. Deshalb: Alternative Charakterisierungen der regulären Sprachen Insbesondere algorithmische Charakterisierungen Kurt Sieber GTI - SS

24 Endliche Automaten Ein endlicher Automat ist eine Maschine, die (nur) endlich viele Zustände annehmen kann. Einer der Zustände heißt Startzustand, einige Zustände heißen Endzustände (besser: akzeptierende Zustände). Arbeitsweise Der Automat erhält ein Wort w als Eingabe. Zu Beginn befindet er sich im Startzustand. Er liest w zeichenweise von links nach rechts, wobei jedes Zeichen einen Zustandsübergang bewirkt. Ist er nach Abarbeitung von w in einem Endzustand, so wird w akzeptiert, andernfalls wird w abgelehnt. Ein endlicher Automat kann also dazu benutzt werden, die Zugehörigkeit zu einer Sprache zu testen. Kurt Sieber GTI - SS

25 Endliche Automaten Graphische Darstellung eines endlichen Automaten q 0 q 1 0 Konvention: sind die Zustände ist der Startzustand sind die Endzustände Akzeptierte Wörter: 0, 010, Abgelehnte Wörter: 1, 101, Kurt Sieber GTI - SS