Übungen 1-12 Theoretische Informatik Sommersemester 2015

Transkript

1 Übungen 1-12 Theoretische Informatik Sommersemester 2015 Markus Schlaffer 23. Juli /90

2 Gliederung 1 Einführung 2 Sprachen und Grammatiken 3 Reguläre Sprachen und Endliche Automaten 4 Kontextfreie Sprachen und Kellerautomaten 5 Turingmaschinen 6 Berechenbarkeitstheorie 7 Komplexitätstheorie 2/90

3 Gliederung 1 Einführung 2 Sprachen und Grammatiken 3 Reguläre Sprachen und Endliche Automaten 4 Kontextfreie Sprachen und Kellerautomaten 5 Turingmaschinen 6 Berechenbarkeitstheorie 7 Komplexitätstheorie 3/90 Einführung

4 Organisatorisches Markus Schlaffer Mail: Web: home.in.tum.de/~schlaffm Meine Übungen Gruppe 11: Dienstag, 10:15-11:45, Gruppe 23: Donnerstag, 10:15-11:45, Klausur Endterm: Do h Wiederholung: Do :30-11:30h 4/90 Einführung

5 Struktur der Übung Hausaufgaben Stoffwiederholung der letzten Woche Abgabe am Montag, 13h Rückgabe in der Übung Kein Notenbonus Trotzdem beste Vorbereitung für Klausur! zeitnahe Musterlösungen Tutoraufgaben Bearbeitung und Besprechung in der Tutorübung Vorbereitung für Hausaufgaben der nächsten Woche Musterlösungen 2 Wochen verzögert Vorbereitungsaufgaben Vorbereitung für Tutor und Hausaufgaben Bearbeitung zu Hause (optionale) Besprechung in der Zentralübung kurze Wiederholung in Tutorübung 5/90 Einführung

6 Was ist Theo? Aus der VL Grammatiken Syntax von Programmiersprachen Automatentheorie Rechner mit endlichem oder kellerartigem Speicher Berechenbarkeitstheorie Untersuchung der Grenzen, was Rechner prinzipiell können Komplexitätstheorie Untersuchung der Grenzen, was Rechner mit begrenzten Ressourcen können 6/90 Einführung

7 Wiederholung: Mengenlehre Definition (Menge) Eine Menge ist eine ungeordnete Sammlung unterscheidbarer Objekte. Mit Mengenklammern werden Objekte zusammengefasst. A := {a, b,..., z} Man nennt a ein Element von A, es gilt a A. Reihenfolge ist egal Elemente kommen nicht mehrfach vor Beispiel {a, b, c, a, c} = {a, b, c} = {c, a, b} N := {1, 2, 3,...} := {} 7/90 Einführung

8 Wiederholung: Mengenoperationen Operationen A := {x x A} A B := {x x A oder x B} A B := {x x A und x B} A \ B := A B A B := (A \ B) (B \ A) Komplement Vereinigung Schnitt Differenz Symmetrische Differenz Für mehrere Mengen schreibt man n A i := A 1 A 2... A n i=1 n A i := A 1 A 2... A n i=1 8/90 Einführung

9 Wiederholung: Tupel Definition (Tupel) Ein n-tupel ist eine geordnete Sammlung n beliebiger Objekte. Mit Tupelklammern werden Objekte zusammengefasst. T := (t 1, t 2,..., t n ) Reihenfolge nicht egal Elemente dürfen mehrmals vorkommen Beispiel (a, b, c) = (c, a, b) = (a, b, c, a, c) (1, 2, 3) = {3, 2, 1} = {1, 2, 3} ({α, β},, N) 9/90 Einführung

10 Wiederholung: Kreuzprodukt Definition (Kreuzprodukt) Sind A, B Mengen, dann ist ihr kartesisches Produkt (Kreuzprodukt) A B := {(a, b) a A, b B} Für Mengen A i ist A 1... A n := {(a 1,..., a n ) a 1 A 1,..., a n A n } Für endliche A i ist A 1... A n = A 1... A n Man schreibt A n := A... A mit A 0 = { } n mal Beispiel {1, 2} {a, b} = {(1, a), (2, a), (1, b), (2, b)} {α, β} 2 = {(α, α), (α, β), (β, α), (β, β)} 10/90 Einführung

11 Alphabete Definition Ein Alphabet Σ ist eine endliche Menge Ein Wort über Σ ist eine endliche Folge von Zeichen Σ n ist die Menge aller Wörter über Σ der Länge n Σ ist die Menge aller endlichen Wörter über Σ Eine Teilmenge L Σ ist eine formale Sprache Definition (Operationen auf Sprachen) AB := {uv u A v B} A n+1 := AA n, A 0 := {ɛ} A := n N 0 A n 11/90 Einführung

12 Wiederholung: Eigenschaften von Funktionen Eigenschaften von Funktionen Sei f : A B eine Funktion. Man nennt f injektiv b B. f 1 (b) 1 (Kein b wird doppelt getroffen) surjektiv b B. f 1 (b) 1 (Jedes b wird getroffen) bijektiv b B. f 1 (b) = 1 (Jedes b wird genau einmal getroffen) Injektiv Surjektiv Bijektiv A f B A f B A f B 12/90 Einführung

13

14

15

16 Gliederung 1 Einführung 2 Sprachen und Grammatiken 3 Reguläre Sprachen und Endliche Automaten 4 Kontextfreie Sprachen und Kellerautomaten 5 Turingmaschinen 6 Berechenbarkeitstheorie 7 Komplexitätstheorie 16/90 Sprachen und Grammatiken

17 Grammatiken Definition (Grammatik) Eine (Phrasenstruktur-)Grammatik G = (V, Σ, P, S) ist ein 4-Tupel: V endlich viele Nichtterminale (Variablen) Σ ein Alphabet von Terminalen P endlich viele Produktionen (V Σ) (V Σ) S ein Startsymbol (Axiom) Ist (l, r) P, so schreibt man l r. Beispiel Σ = {0, 1}. Grammatik für alle Wörter ungerader Länge, bei denen alle Nullen vor der ersten Eins stehen und weniger Nullen als Einsen vorhanden sind. 17/90 Sprachen und Grammatiken

18 Grammatiken Definition (Grammatik) Eine (Phrasenstruktur-)Grammatik G = (V, Σ, P, S) ist ein 4-Tupel: V endlich viele Nichtterminale (Variablen) Σ ein Alphabet von Terminalen P endlich viele Produktionen (V Σ) (V Σ) S ein Startsymbol (Axiom) Ist (l, r) P, so schreibt man l r. Beispiel Σ = {0, 1}. Grammatik für alle Wörter ungerader Länge, bei denen alle Nullen vor der ersten Eins stehen und weniger Nullen als Einsen vorhanden sind. S 0S1 S /90 Sprachen und Grammatiken

19 Chomsky-Hierarchie Alle formalen Sprachen Typ 0 - Rekursiv aufzählbar Grammatik Turingmaschine, WHILE-Programm, µ-rekursive Funktion Typ 1 - Kontextsensitiv Längenmonotone Grammatik Linear Beschränkter Automat (LBA) Typ 2 - Kontextfrei Links nur ein Nichtterminal Kellerautomat (PDA) Typ 3 - Regulär Links- / Rechtsreguläre Grammatik DFA, NFA, RE 18/90 Sprachen und Grammatiken

20 Monotonie Sei G = (V, Σ, P, S) eine Grammatik und α β P beliebig. Definition (Monotonie) G heißt (längen-)monoton, wenn für α = S gilt α β und falls S ɛ P, dann kommt S nie auf der rechten Seite vor. 19/90 Sprachen und Grammatiken

21 Sprachtypen Sei G = (V, Σ, P, S) eine Grammatik und α β P beliebig. Definition (Chomsky-Typen) Seien A V, γ, δ (V Σ) und β (V Σ) +. Damit G vom Typ k ist, muss für alle α (α beinhaltet mindestens eine Variable) und β gelten: α (Σ V) \Σ β (Σ V) Typ 0 beliebig beliebig Typ 1 = γaδ = γβ δ Typ 2 V beliebig Typ 3 V Σ + Σ V Ab Typ 1 muss G auch monoton sein. 20/90 Sprachen und Grammatiken

22 Sprachtypen (updated) Sei G = (V, Σ, P, S) eine Grammatik und α β P beliebig. Definition (Chomsky-Typen) Seien A V, γ, δ (V Σ) und β (V Σ) +. Damit G in eine Grammatik vom Typ k umformbar ist bzw. eine Sprache vom Typ k beschreibt (L(G)=Typ k Sprache), muss für alle α (α beinhaltet mindestens eine Variable) und β gelten: α (Σ V) \Σ β (Σ V) Typ 0 beliebig beliebig Typ 1 beliebig monoton beliebig monoton Beispiel 16, Blatt 1: TA4 Typ 2 V beliebig Lemma 12 Typ 3 V Σ Σ V, Σ VΣ Definition 11, Blatt 1: TA3 21/90 Sprachen und Grammatiken

23 Eindeutigkeit Definition (kontextfreie Linksableitung) Eine Ableitung S xaz xβz w heißt (kontextfreie) Linksableitung, wenn für jede Anwendung jeder Produktion A β gilt, dass in x kein Nichtterminal vorkommt. Definition (Eindeutigkeit) Eine Grammatik heißt eindeutig, wenn es für jedes Wort genau eine Linksableitung gibt. Eine Sprache heißt eindeutig, wenn es für sie eine eindeutige Grammatik gibt. 22/90 Sprachen und Grammatiken

24 Gliederung 1 Einführung 2 Sprachen und Grammatiken 3 Reguläre Sprachen und Endliche Automaten 4 Kontextfreie Sprachen und Kellerautomaten 5 Turingmaschinen 6 Berechenbarkeitstheorie 7 Komplexitätstheorie 23/90 Reguläre Sprachen und Endliche Automaten

25 DFA Definition (Deterministischer endlicher Automat) Ein DFA ist ein Tupel M = (Q, Σ, δ, q 0, F) aus einer/einem endlichen Menge von Zuständen Q endlichen Eingabealphabet Σ totalen Übergangsfunktion δ : Q Σ Q Startzustand q 0 Q Menge von Endzuständen F Q Er akzeptiert die Sprache L(M) = {w Σ ; ˆδ(q 0, w) F} q 0 q 1 q /90 Reguläre Sprachen und Endliche Automaten

26 NFA Definition (Nicht-Deterministischer endlicher Automat) Ein NFA ist ein Tupel N = (Q, Σ, δ, S, F) mit Q, Σ, F wie ein DFA Menge von Startzuständen S Q Übergangsfunktion δ : Q Σ P (Q) Er akzeptiert die Sprache L(N) = {w Σ ; ˆδ(S, w) F = } 0,1 1 q 0 q 1 25/90 Reguläre Sprachen und Endliche Automaten

27 NFA DFA Potenzmengenkonstruktion Konstruiere einen Automaten, der alle möglichen Pfade gleichzeitig berücksichtigt. Gegeben ein NFA (Q, Σ, δ, S, F), konstruiere einen DFA mit Zuständen aus P (Q). Starte in {S} Die Übergangsfunktion speichert alle möglichen Schritte δ : P (Q) Σ P (Q) δ(m, a) = δ(q, a) q M M ist Endzustand wenn F M = 0, 1 1 q 0 q 1 26/90 Reguläre Sprachen und Endliche Automaten

28 NFA DFA Potenzmengenkonstruktion Konstruiere einen Automaten, der alle möglichen Pfade gleichzeitig berücksichtigt. Gegeben ein NFA (Q, Σ, δ, S, F), konstruiere einen DFA mit Zuständen aus P (Q). Starte in {S} Die Übergangsfunktion speichert alle möglichen Schritte δ : P (Q) Σ P (Q) δ(m, a) = δ(q, a) q M M ist Endzustand wenn F M = 0, 1 1 q 0 q 1 q {0} 26/90 Reguläre Sprachen und Endliche Automaten

29 NFA DFA Potenzmengenkonstruktion Konstruiere einen Automaten, der alle möglichen Pfade gleichzeitig berücksichtigt. Gegeben ein NFA (Q, Σ, δ, S, F), konstruiere einen DFA mit Zuständen aus P (Q). Starte in {S} Die Übergangsfunktion speichert alle möglichen Schritte δ : P (Q) Σ P (Q) δ(m, a) = δ(q, a) q M M ist Endzustand wenn F M = 0, q 0 q 1 q {0} 26/90 Reguläre Sprachen und Endliche Automaten

30 NFA DFA Potenzmengenkonstruktion Konstruiere einen Automaten, der alle möglichen Pfade gleichzeitig berücksichtigt. Gegeben ein NFA (Q, Σ, δ, S, F), konstruiere einen DFA mit Zuständen aus P (Q). Starte in {S} Die Übergangsfunktion speichert alle möglichen Schritte δ : P (Q) Σ P (Q) δ(m, a) = δ(q, a) q M M ist Endzustand wenn F M = 0, 1 1 q 0 q 1 0 q {0} q {0,1} 1 26/90 Reguläre Sprachen und Endliche Automaten

31 NFA DFA Potenzmengenkonstruktion Konstruiere einen Automaten, der alle möglichen Pfade gleichzeitig berücksichtigt. Gegeben ein NFA (Q, Σ, δ, S, F), konstruiere einen DFA mit Zuständen aus P (Q). Starte in {S} Die Übergangsfunktion speichert alle möglichen Schritte δ : P (Q) Σ P (Q) δ(m, a) = δ(q, a) q M M ist Endzustand wenn F M = 0, q 0 q 1 q {0} q {0,1} 0 26/90 Reguläre Sprachen und Endliche Automaten

32 ɛ-nfa Definition (NFA mit ɛ-übergängen) Ein ɛ-nfa ist ein Tupel N = (Q, Σ, δ, S, F) mit Q, Σ, F wie ein DFA Menge von Startzuständen S Q Übergangsfunktion δ : Q (Σ {ɛ}) P (Q) 0,1 q 0 ɛ q 1 1 q 2 ɛ 27/90 Reguläre Sprachen und Endliche Automaten

33 Reguläre Ausdrücke Definition (Regulärer Ausdruck) Reguläre Ausdrücke sind induktiv definiert ist ein regulärer Ausdruck ɛ ist ein regulärer Ausdruck Für alle a Σ ist a ein regulärer Ausdruck Sind α und β reguläre Ausdrücke, dann auch Konkatenation αβ Veroderung α β Wiederholung α Analoge Sprachdefinition, z.b. L(αβ) = L(α)L(β) Beispiel α = (0 1) 00 Worte bestehen aus einer beliebigen Folge von Einsen und Nullen gefolgt von zwei Nullen. L(α) {x x Binärzahl, x mod 4 = 0} 28/90 Reguläre Sprachen und Endliche Automaten

34 RE ɛ-nfa Thompson-Konstruktion Für einen Ausdruck γ wird rekursiv mit struktureller Induktion ein ɛ-nfa konstruiert. γ = γ = ɛ γ = a Σ a γ = αβ ɛ ɛ ɛ N α N β 29/90 Reguläre Sprachen und Endliche Automaten

35 RE ɛ-nfa γ = α β ɛ N α ɛ ɛ ɛ N β γ = α ɛ ɛ ɛ N α 30/90 Reguläre Sprachen und Endliche Automaten ɛ

36 ɛ-nfa NFA Idee Entferne ɛ-kanten durch das Bilden von ɛ-hüllen. 1 Reduziere den ɛ-nfa so weit wie möglich. 2 Für jeden Pfad der Form ɛ... ɛaɛ... ɛ verbinde Anfangs- und Endknoten mit einer a-kante. 3 Entferne alle ɛ-kanten und unerreichbare Knoten. 4 Wurde das leere Wort akzeptiert mache den Anfangszustand zum Endzustand. ɛ q 0 ɛ q 1 1 q 2 0 q 3 ɛ 31/90 Reguläre Sprachen und Endliche Automaten

37 ɛ-nfa NFA Idee Entferne ɛ-kanten durch das Bilden von ɛ-hüllen. 1 Reduziere den ɛ-nfa so weit wie möglich. 2 Für jeden Pfad der Form ɛ... ɛaɛ... ɛ verbinde Anfangs- und Endknoten mit einer a-kante. 3 Entferne alle ɛ-kanten und unerreichbare Knoten. 4 Wurde das leere Wort akzeptiert mache den Anfangszustand zum Endzustand. ɛ q 0 1 q 2 0 q 3 ɛ 31/90 Reguläre Sprachen und Endliche Automaten

38 ɛ-nfa NFA Idee Entferne ɛ-kanten durch das Bilden von ɛ-hüllen. 1 Reduziere den ɛ-nfa so weit wie möglich. 2 Für jeden Pfad der Form ɛ... ɛaɛ... ɛ verbinde Anfangs- und Endknoten mit einer a-kante. 3 Entferne alle ɛ-kanten und unerreichbare Knoten. 4 Wurde das leere Wort akzeptiert mache den Anfangszustand zum Endzustand. 0 0 ɛ q 0 1 q 2 0 q 3 0 ɛ 31/90 Reguläre Sprachen und Endliche Automaten

39 ɛ-nfa NFA Idee Entferne ɛ-kanten durch das Bilden von ɛ-hüllen. 1 Reduziere den ɛ-nfa so weit wie möglich. 2 Für jeden Pfad der Form ɛ... ɛaɛ... ɛ verbinde Anfangs- und Endknoten mit einer a-kante. 3 Entferne alle ɛ-kanten und unerreichbare Knoten. 4 Wurde das leere Wort akzeptiert mache den Anfangszustand zum Endzustand q 0 q 2 q /90 Reguläre Sprachen und Endliche Automaten

40 ɛ-nfa NFA Idee Entferne ɛ-kanten durch das Bilden von ɛ-hüllen. 1 Reduziere den ɛ-nfa so weit wie möglich. 2 Für jeden Pfad der Form ɛ... ɛaɛ... ɛ verbinde Anfangs- und Endknoten mit einer a-kante. 3 Entferne alle ɛ-kanten und unerreichbare Knoten. 4 Wurde das leere Wort akzeptiert mache den Anfangszustand zum Endzustand. 0 0 q q 2 q 3 31/90 Reguläre Sprachen und Endliche Automaten

41 ɛ-nfa reduzieren Idee 1 Entferne redundante Endzustände 2 Entferne unnötige Knoten Definition Unnötige Knoten nur eine einzige eingehende und ausgehende Kante eine der Kanten ist eine ɛ-kante kein Endzustand ɛ 32/90 Reguläre Sprachen und Endliche Automaten

42 ɛ-nfa reduzieren Idee 1 Entferne redundante Endzustände 2 Entferne unnötige Knoten Definition Unnötige Knoten nur eine einzige eingehende und ausgehende Kante eine der Kanten ist eine ɛ-kante kein Endzustand ɛ ɛ 32/90 Reguläre Sprachen und Endliche Automaten

43 ɛ-nfa reduzieren Idee 1 Entferne redundante Endzustände 2 Entferne unnötige Knoten Definition Unnötige Knoten nur eine einzige eingehende und ausgehende Kante eine der Kanten ist eine ɛ-kante kein Endzustand ɛ ɛ a ɛ 32/90 Reguläre Sprachen und Endliche Automaten

44 ɛ-nfa reduzieren Idee 1 Entferne redundante Endzustände 2 Entferne unnötige Knoten Definition Unnötige Knoten nur eine einzige eingehende und ausgehende Kante eine der Kanten ist eine ɛ-kante kein Endzustand ɛ ɛ a ɛ a 32/90 Reguläre Sprachen und Endliche Automaten

45 Äquivalenzen Definition (Äquivalente Worte) Jede Sprache L Σ induziert eine Äquivalenzrelation L Σ Σ über Wörter u, v u L v ( w Σ.uw L vw L) Definition (Äquivalente Zustände) Zwei Zustände p, q im DFA A sind äquivalent wenn sie die selbe Sprache akzeptieren. p A q ( w Σ. ˆδ(p, w) F ˆδ(q, w) F ) 33/90 Reguläre Sprachen und Endliche Automaten

46 Äquivalenzen Definition (Äquivalente Worte) Jede Sprache L Σ induziert eine Äquivalenzrelation L Σ Σ über Wörter u, v u L v ( w Σ.uw L vw L) Definition (Äquivalente Zustände) Zwei Zustände p, q im DFA A sind äquivalent wenn sie die selbe Sprache akzeptieren. p A q ( w Σ. ˆδ(p, w) F ˆδ(q, w) F ) 33/90 Reguläre Sprachen und Endliche Automaten

47 Unterscheidbare Zustände Definition (Unterscheidbarkeit) Zwei Zustände sind unterscheidbar, wenn sie unterschiedliche Sprachen akzeptieren. p A q ( w Σ. ˆδ(p, w) F ˆδ(q, w) F ) Insbesondere sind Endzustände von normalen Zuständen ohne Eingabe unterscheidbar. Satz Sind δ(p, a) = p 2 und δ(q, a) = q 2 unterscheidbar, dann auch p und q 34/90 Reguläre Sprachen und Endliche Automaten

48 DFA minimieren Quotientenautomat 1 Entferne alle von q 0 nicht erreichbaren Zustände 2 Berechne die unterscheidbaren Zustände 3 Kollabiere die äquivalenten Zustände q 3 ist unterscheidbar von allen anderen Zuständen, da q 3 der einzige Endzustand ist q 0 q 1 a q 0 q 1 q 2 q 3 b a, b a, b a, b q 2 q 3 35/90 Reguläre Sprachen und Endliche Automaten

49 DFA minimieren Quotientenautomat 1 Entferne alle von q 0 nicht erreichbaren Zustände 2 Berechne die unterscheidbaren Zustände 3 Kollabiere die äquivalenten Zustände q 3 ist unterscheidbar von allen anderen Zuständen, da q 3 der einzige Endzustand ist q 0 q 1 a q 0 q 1 q 2 q 3 b a, b a, b a, b q 2 q 3 35/90 Reguläre Sprachen und Endliche Automaten

50 DFA minimieren Quotientenautomat 1 Entferne alle von q 0 nicht erreichbaren Zustände 2 Berechne die unterscheidbaren Zustände 3 Kollabiere die äquivalenten Zustände q 3 ist unterscheidbar von allen anderen Zuständen, da q 3 der einzige Endzustand ist q 0 q 1 a q 0 q 1 q 2 q 3 b a, b a, b a, b q 2 q 3 35/90 Reguläre Sprachen und Endliche Automaten

51 DFA minimieren Quotientenautomat 1 Entferne alle von q 0 nicht erreichbaren Zustände 2 Berechne die unterscheidbaren Zustände 3 Kollabiere die äquivalenten Zustände q 3 ist unterscheidbar von allen anderen Zuständen, da q 3 der einzige Endzustand ist q 0 q 1 a q 0 q 1 q 2 b a, b q 3 a, b a, b q 2 q 3 35/90 Reguläre Sprachen und Endliche Automaten

52 DFA minimieren Quotientenautomat 1 Entferne alle von q 0 nicht erreichbaren Zustände 2 Berechne die unterscheidbaren Zustände 3 Kollabiere die äquivalenten Zustände q 0 kann von q 1 und q 2 im ersten Schritt unterschieden werden, da man mit Eingabe a von q 1 und q 2 in einen Endzustand gelangt, von q 0 aber nicht a q 0 q 1 q 0 q 1 1/a q 2 1/a q 3 b a, b a, b a, b q 2 q 3 35/90 Reguläre Sprachen und Endliche Automaten

53 DFA minimieren Quotientenautomat 1 Entferne alle von q 0 nicht erreichbaren Zustände 2 Berechne die unterscheidbaren Zustände 3 Kollabiere die äquivalenten Zustände q 1 kann mit keiner Eingabe von q 2 unterschieden werden a q 0 q 1 q 0 1/a q 1 1/a q 2 q 3 b a, b a, b a, b q 2 q 3 35/90 Reguläre Sprachen und Endliche Automaten

54 DFA minimieren Quotientenautomat 1 Entferne alle von q 0 nicht erreichbaren Zustände 2 Berechne die unterscheidbaren Zustände 3 Kollabiere die äquivalenten Zustände q 1 kann mit keiner Eingabe von q 2 unterschieden werden q 0 a, b q 12 q 0 1/a q 1 1/a q 2 q 3 q 3 a, b a, b 35/90 Reguläre Sprachen und Endliche Automaten

55 Gliederung 1 Einführung 2 Sprachen und Grammatiken 3 Reguläre Sprachen und Endliche Automaten 4 Kontextfreie Sprachen und Kellerautomaten 5 Turingmaschinen 6 Berechenbarkeitstheorie 7 Komplexitätstheorie 36/90 Kontextfreie Sprachen und Kellerautomaten

56 CNF Definition (Chomsky-Normalform) Eine kontextfreie Grammatik ist in Chomsky-Normalform (CNF) genau dann wenn alle Produktionen die Form haben. A a oder A BC oder S ɛ Satz Zu jeder CFG G existiert eine CFG G in Chomsky-Normalform mit L(G ) = L(G) 37/90 Kontextfreie Sprachen und Kellerautomaten

57 CNF Konstruktion CNF Konstruktion Sei G = (V, Σ, P, S) eine CFG. Initialisiere P = P und erzeuge G = (V, Σ, P, T) in CNF mit L(G) = L(G ) wie folgt 1 Eliminiere ɛ-produktionen 2 Eliminiere Kettenproduktionen 3 Ersetze Terminale durch Nichtterminale 4 Verkürze Ketten von Nichtterminalen der Länge 3 5 Behandle Ausnahme S ɛ 38/90 Kontextfreie Sprachen und Kellerautomaten

58 CNF Konstruktion CNF Konstruktion Sei G = (V, Σ, P, S) eine CFG. Initialisiere P = P und erzeuge G = (V, Σ, P, T) in CNF mit L(G) = L(G ) wie folgt Eliminiere ɛ-produktionen Sind B ɛ und A αbβ in P, dann füge A αβ hinzu. Entferne danach alle ɛ-produktionen S Ab, A aaa ɛ wird zu: S Ab b A aaa aa a 39/90 Kontextfreie Sprachen und Kellerautomaten

59 CNF Konstruktion CNF Konstruktion Sei G = (V, Σ, P, S) eine CFG. Initialisiere P = P und erzeuge G = (V, Σ, P, T) in CNF mit L(G) = L(G ) wie folgt Eliminiere Kettenproduktionen Sind A B und B α in P, dann füge A α hinzu. Entferne danach alle Kettenproduktionen A B wird zu: S A, A a B, B bs S a bs A a bs B bs 39/90 Kontextfreie Sprachen und Kellerautomaten

60 CNF Konstruktion CNF Konstruktion Sei G = (V, Σ, P, S) eine CFG. Initialisiere P = P und erzeuge G = (V, Σ, P, T) in CNF mit L(G) = L(G ) wie folgt Eliminiere Kettenproduktionen Sind A B und B α in P, dann füge A α hinzu. Entferne danach alle Kettenproduktionen A B und unerreichbare Symbole wird zu: S A, A a B, B bs S a bs 39/90 Kontextfreie Sprachen und Kellerautomaten

61 CNF Konstruktion CNF Konstruktion Sei G = (V, Σ, P, S) eine CFG. Initialisiere P = P und erzeuge G = (V, Σ, P, T) in CNF mit L(G) = L(G ) wie folgt Ersetze Terminale durch Nichtterminale Ersetze jedes a Σ in einer rechten Seite länger als 1 durch ein neues Nichtterminal. wird zu: S aa Bb b, B... S X a X a BX b b X a a, X b b 39/90 Kontextfreie Sprachen und Kellerautomaten

62 CNF Konstruktion CNF Konstruktion Sei G = (V, Σ, P, S) eine CFG. Initialisiere P = P und erzeuge G = (V, Σ, P, T) in CNF mit L(G) = L(G ) wie folgt Verkürze Ketten von Nichtterminalen der Länge 3 Ersetze jede Produktion der Form A B 1 B 2... B k durch neue Nichtterminale mit Produktionen der Länge 2. wird zu: S X a X b BX a, X a a, X b b, B... S X a T 1 T 1 X b T 2, T 2 BX a 39/90 Kontextfreie Sprachen und Kellerautomaten

63 CNF Konstruktion CNF Konstruktion Sei G = (V, Σ, P, S) eine CFG. Initialisiere P = P und erzeuge G = (V, Σ, P, T) in CNF mit L(G) = L(G ) wie folgt Behandle Ausnahme S ɛ Falls S ɛ P: Setze T = S, d.h. G = (V, Σ, P, S) 39/90 Kontextfreie Sprachen und Kellerautomaten

64 CNF Konstruktion CNF Konstruktion Sei G = (V, Σ, P, S) eine CFG. Initialisiere P = P und erzeuge G = (V, Σ, P, T) in CNF mit L(G) = L(G ) wie folgt Behandle Ausnahme S ɛ Falls S ɛ P: Kopiere Produktionen S α zu T α und füge T ɛ hinzu S X a S a X a a wird zu: T X a S a ɛ S X a S a X a a Entferne ggf. S und alle Produktionen mit S, falls S nicht mehr erreichbar ist 39/90 Kontextfreie Sprachen und Kellerautomaten

65 CYK Definition (Cocke-Younger-Kasami-Algorithmus) Der CYK-Algorithmus entscheidet das Wortproblem für kontextfreie Grammatiken in Chomsky-Normalform in O(n 3 ). Gegeben eine Grammatik G = (V, Σ, P, S) in CNF und ein Wort w = a 1... a n Σ. Mit V ij := { A V A G a i... a } j ist w L(G) S V 1n Korrolar V ii = {A V (A a i ) P} { V ij = A V k : i k < j, B V ik, C V (k+1)j } : (A BC) P 40/90 Kontextfreie Sprachen und Kellerautomaten

66 Eigenschaften von Symbolen Definition Sei G = (V, Σ, P, S) eine CFG. Ein Symbol X V Σ ist erzeugend: es gibt X G w Σ erreichbar: es gibt S G αxβ nützlich: es gibt S G w Σ in der X vorkommt Satz Nützliche Symbole sind erzeugend und erreichbar. Aber nicht notwendigerweise umgekehrt. S AB a, A b 41/90 Kontextfreie Sprachen und Kellerautomaten

67 Pumping Lemma für reguläre Sprachen Satz (Pumping Lemma für reguläre Sprachen) Sei R Σ regulär. Dann gibt es ein n > 0, so dass sich jedes z R mit z n so in z = uvw zerlegen lässt, dass v = ɛ uv n i 0.uv i w R v u w 42/90 Kontextfreie Sprachen und Kellerautomaten

68 Pumping Lemma für CFLs Satz (Pumping Lemma für kontextfreie Sprachen) Sei L Σ kontextfrei. Dann gibt es ein n > 0, so dass sich jedes z L mit z n so in z = uvwxy zerlegen lässt, dass vx = ɛ vwx n i 0.uv i wx i y L S uay uvaxy uvwxy S S uay uwy S A A u v w x y 43/90 Kontextfreie Sprachen und Kellerautomaten A u w y

69 Ogden Lemma für kontextfreie Sprachen Satz (Ogden Lemma für kontextfreie Sprachen) Sei L Σ kontextfrei. Dann gibt es ein n > 0, so dass für jedes z L mit z n gilt: Für jede Markierung M von mindestens n Buchstaben in z gibt es eine Zerlegung z = uvwxy mit vx M 1 vwx M n i 0.uv i wx i y L Beispiel (Markierung) Sei w = abaabaaa ein Wort. Dann ist w = abaabaaa eine Markierung mit w M = 3. 44/90 Kontextfreie Sprachen und Kellerautomaten

70 Kellerautomaten Definition (Kellerautomat) Ein PDA (Push-Down-Automaton) ist ein Tupel P = (Q, Σ, Γ, δ, q 0, Z 0, F) aus einer/einem endlichen Menge von Zuständen Q endlichen Eingabealphabet Σ endlichen Kelleralphabet Γ Übergangsfunktion δ : Q (Σ {ɛ}) Γ P(Q Γ ) Startzustand q 0 Q Kellerinitialisierung Z 0 Γ Menge von Endzuständen F Q a, Z 0 /γ q 0 q 1 45/90 Kontextfreie Sprachen und Kellerautomaten

71 Kellerautomaten Definition (Konfiguration eines PDA) Eine Konfiguration eines PDA (Push-Down-Automaton) P = (Q, Σ, Γ, δ, q 0, Z 0, F) ist ein Tripel (q, w, γ) mit: Zustand (Rest)Eingabe Keller / Stack q Q w Σ γ Γ Beispiel Konfigurationsabfolge (vgl. Ableitung) zur Übergangsfunktion δ: δ(q 0, a, Z 0 ) (q 1, Z 1 ) (q 0, abc, Z 0 γ) (q 1, bc, Z 1 γ) a, Z 0 /Z 1 q 0 q 1 46/90 Kontextfreie Sprachen und Kellerautomaten

72 Kellerautomaten Definition (Kellerautomat) Ein PDA (Push-Down-Automaton) ist ein Tupel P = (Q, Σ, Γ, δ, q 0, Z 0, F) aus einer/einem Übergangsfunktion δ : Q (Σ {ɛ}) Γ P(Q Γ ) Definition (Akzeptanz) Ein PDA P akzeptiert w Σ mit Endzustand gdw f F, γ Γ.(q 0, w, Z 0 ) P (f, ɛ, γ) Ein PDA P akzeptiert w Σ mit leerem Keller gdw q Q.(q 0, w, Z 0 ) P (q, ɛ, ɛ) 47/90 Kontextfreie Sprachen und Kellerautomaten

73 Kellerautomaten Definition (Kellerautomat) Ein PDA (Push-Down-Automaton) ist ein Tupel P = (Q, Σ, Γ, δ, q 0, Z 0, F) aus einer/einem Zustandsmenge Q, Eingabealphabet Σ, Kelleralphabet Γ Übergangsfunktion δ : Q (Σ {ɛ}) Γ P(Q Γ ) Startzustand q 0 Q, Kellerinitialisierung Z 0 Γ Menge von Endzuständen F Q Definition (Deterministischer Kellerautomat) Ein PDA heißt deterministisch (DPDA) wenn für alle Zustände q Q, Buchstaben a Σ und Kellerbuchstaben Z Γ gilt δ(q, a, Z) + δ(q, ɛ, Z) 1 48/90 Kontextfreie Sprachen und Kellerautomaten

74 Präfixbedingung Definition (Präfixbedingung) Eine Sprache L erfüllt die Präfixbedingung, wenn kein Wort der Sprache echtes Präfix eines anderen Wortes der Sprache ist. w L s Σ +. ws L Satz Deterministisch kontextfreie Sprachen werden genau dann von einem DPDA mit leerem Keller akzeptiert, wenn sie die Präfixbedingung erfüllen. 49/90 Kontextfreie Sprachen und Kellerautomaten

75 Greibach-Normalform Definition (Greibach-Normalform) Eine kontextfreie Grammatik ist in Greibach-Normalform (GNF) genau dann, wenn alle Produktionen außer S ɛ die Form haben. A aα mit a Σ, α V Definition (vereinfachte Greibach-Normalform) Eine kontextfreie Grammatik ist in vereinfachter GNF genau dann, wenn alle Produktionen die Form haben. Satz A aα mit a Σ {ɛ}, α V Zu jeder CFG G existiert eine CFG G in Greibach-Normalform mit L(G ) = L(G) 50/90 Kontextfreie Sprachen und Kellerautomaten

76 Greibach-Normalform Satz Zu jeder CFG G in vereinfachter Greibach-Normalform (GNF) kann in linearer Zeit ein Kellerautomat (PDA) N (der mit leerem Stack akzeptiert) konstruiert werden, so dass L(N) = L(G) Definition (PDA Konstruktion) Sei G = (V, Σ, P, S). Konstruiere PDA N = (Q, Σ, Γ, q 0, Z 0, δ) mit: Q := {q 0 } Γ := V Z 0 := S δ(q 0, a, A) (q 0, α) für (A aα) P 51/90 Kontextfreie Sprachen und Kellerautomaten

77 Parsing Definition (Parsing) Ordne einem gegebenem Wort einen Ableitungsbaum einer Grammatik zu Vorgehen: Wende Produktionen rückwärts an (Reduktion) Wende immer die Reduktion an, die am weitesten links im Wort anwendbar ist Beispiel Gegeben das Wort abc und eine Grammatik mit folgenden Produktionen: S Ac Bbc Mögliche, gesuchte Reduktionsabfolgen: A ab abc Bbc S B a abc Ac S Wie kann man Kontextinformationen über die nächsten Zeichen im Wort verwenden? 52/90 Kontextfreie Sprachen und Kellerautomaten

78 Parsing Definition (Parsing) Ordne einem gegebenem Wort einen Ableitungsbaum einer Grammatik zu Vorgehen: Wende Produktionen rückwärts an (Reduktion) Wende immer die Reduktion an, die am weitesten links im Wort anwendbar ist Beispiel Gegeben das Wort abc und eine Grammatik mit folgenden Produktionen: S Ac Bbc Mögliche, gesuchte Reduktionsabfolgen: A ab abc Bbc S B a abc Ac S Wie kann man Kontextinformationen über die nächsten Zeichen im Wort verwenden? 52/90 Kontextfreie Sprachen und Kellerautomaten

79 Parsing Definition (Parsing) Ordne einem gegebenem Wort einen Ableitungsbaum einer Grammatik zu Vorgehen: Wende Produktionen rückwärts an (Reduktion) Wende immer die Reduktion an, die am weitesten links im Wort anwendbar ist Beispiel Gegeben das Wort abc und eine Grammatik mit folgenden Produktionen: S Ac Bbc Mögliche, gesuchte Reduktionsabfolgen: A ab abc Bbc S B a abc Ac S Wie kann man Kontextinformationen über die nächsten Zeichen im Wort verwenden? 52/90 Kontextfreie Sprachen und Kellerautomaten

80 Lookahead Definition (Lookahead) Definiere für jede Produktion bzw. Reduktion einen möglichst zielführenden Lookahead Wende Reduktion nur an, wenn der Lookahead mit den folgenden Zeichen im Wort übereinstimmt Alle Lookaheads haben eine Länge k, die angibt, wie viele Zeichen überprüft werden müssen Beispiel S Ac Bbc A ab B a Reduktion Ac S Bbc S ab A a B Lookahead ɛ ɛ c d Gegeben das Wort abc Dann darf a B nicht angewandt werden, da das nächste Zeichen im Wort b = Lookahead d ist, A ab jedoch schon. 53/90 Kontextfreie Sprachen und Kellerautomaten

81 LR(k)-Grammatik Definition (LR(k)-Grammatik) Eine CFG ist eine LR(k)-Grammatik, wenn Lookaheads der Länge k genügen, um jedem Wort eine eindeutige Ableitung zuzuordnen. Satz Die LR(0)-Grammatiken sind eine echte Teilmenge der LR(1)-Grammatiken. Diese entspechen genau den deterministisch kontextfreien Sprachen. LR(0) LR(1) = LR(k 1) = DCFL 54/90 Kontextfreie Sprachen und Kellerautomaten

82 Gliederung 1 Einführung 2 Sprachen und Grammatiken 3 Reguläre Sprachen und Endliche Automaten 4 Kontextfreie Sprachen und Kellerautomaten 5 Turingmaschinen 6 Berechenbarkeitstheorie 7 Komplexitätstheorie 55/90 Turingmaschinen

83 Turingmaschinen Definition (Turingmaschine) Eine deterministische Turingmaschine (TM) ist ein Tupel M = (Q, Σ, Γ, δ, q 0,, F) aus einer/einem endlichen Menge von Zuständen Q endlichen Eingabealphabet Σ endlichen Bandalphabet Γ mit Σ Γ Übergangsfunktion δ : Q Γ Q Γ {L, R, N} Startzustand q 0 Q Leerzeichen Γ \ Σ Menge von Endzuständen F Q 56/90 Turingmaschinen

84 Turingmaschinen Definition (Turingmaschine) Eine deterministische Turingmaschine (TM) ist ein Tupel M = (Q, Σ, Γ, δ, q 0,, F) aus einer/einem Übergangsfunktion δ : Q Γ Q Γ {L, R, N} δ(q 0, 0) = (q 1, 1, R) q 0 Programm 57/90 Turingmaschinen

85 Turingmaschinen Definition (Turingmaschine) Eine deterministische Turingmaschine (TM) ist ein Tupel M = (Q, Σ, Γ, δ, q 0,, F) aus einer/einem Übergangsfunktion δ : Q Γ Q Γ {L, R, N} δ(q 0, 0) = (q 1, 1, R) q 1 Programm 57/90 Turingmaschinen

86 Turingmaschinen Definition (Konfiguration) Eine Konfiguration ist ein Tripel (α, q, β) Γ Q Γ. Dies modelliert eine TM mit: Bandinhalt... αβ... Zustand q Kopf auf dem ersten Zeichen von β Die Startkonfiguration bei Eingabe w Σ ist (ɛ, q 0, w). (011, q 1, 0) q 1 58/90 Turingmaschinen

87 Turingmaschinen Definition (Konfiguration) Eine Konfiguration ist ein Tripel (α, q, β) Γ Q Γ. Dies modelliert eine TM mit: Bandinhalt... αβ... Zustand q Kopf auf dem ersten Zeichen von β Die Startkonfiguration bei Eingabe w Σ ist (ɛ, q 0, w). Definition (Akzeptanz) Eine TM M akzeptiert die Sprache L(M) = {w Σ f F, α, β Γ.(ɛ, q 0, w) M (α, f, β)} 58/90 Turingmaschinen

88 Nichtdeterministische TM Definition (Nichtdeterministische Turingmaschine) Eine nichtdeterministische Turingmaschine (NDTM) ist ein Tupel M = (Q, Σ, Γ, δ, q 0,, F) aus einer/einem... Übergangsfunktion δ : Q Γ P (Q Γ {L, R, N})... Satz Zu jeder nichtdeterministischen TM N gibt es eine deterministische TM M mit L(N) = L(M). 59/90 Turingmaschinen

89 Linear Beschränkte Automaten Definition (Linear Beschränkte Automat) Eine TM heißt linear beschränkt (LBA), wenn sie nur den Bereich des Bandes, auf dem das Eingabewort steht, beschreibt und diesen niemals dauerhaft verlässt. Definition (Korrolar) Das bedeutet, falls sie diesen Bereich verlässt, dürfen Leerzeichen nicht überschrieben werden und der Zeiger muss wieder zurückkehren. Satz Die linear beschränkten NDTMs akzeptieren genau die Klasse der kontextsensitiven Sprachen (Typ 1). 60/90 Turingmaschinen

90 Queue-Automaten Definition (Queue-Automat) Ein Queue-Automat (QA) ist ein Tupel M = (Q, Σ, Γ, δ, q 0, Z 0, F) die analog zu Kellerautomaten definiert sind. Übergangsfunktion δ : Q (Σ {ɛ}) Γ P(Q Γ ) Im Gegensatz zu PDAs werden neue Symbole hinten angefügt. Beispiel Gegeben sei die Konfiguration (q, a, xα) eines Queue-Automaten und ein Schritt der Übergangsfunktion. δ(q, a, x) = (q, yz) Dann ergibt sich die folgende Transition. (q, a, xα) (q, ɛ, αyz) Satz Queue-Automaten sind genauso mächtig wie Turingmaschinen. 61/90 Turingmaschinen

91 Gliederung 1 Einführung 2 Sprachen und Grammatiken 3 Reguläre Sprachen und Endliche Automaten 4 Kontextfreie Sprachen und Kellerautomaten 5 Turingmaschinen 6 Berechenbarkeitstheorie 7 Komplexitätstheorie 62/90 Berechenbarkeitstheorie

92 Berechenbarkeit Definition (Berechenbarkeit) Eine Funktion f : N k N heißt berechenbar, wenn es einen Algorithmus gibt, der bei Eingabe (n 1,..., n k ) N k nach endlich vielen Schritten mit Ergebnis f (n 1,..., n k ) hält, falls f (...) definiert ist, und nicht terminiert, falls f (...) nicht definiert ist. Churchsche These (nicht beweisbar) Turing-Maschinen können genau alle berechenbaren Funktionen berechnen. 63/90 Berechenbarkeitstheorie

93 Entscheidbarkeit Definition (Entscheidbarkeit) Eine Menge A heißt entscheidbar gdw ihre charakteristische Funktion { 1 falls x A χ A (x) := 0 falls x A berechenbar ist. Definition (Semi-Entscheidbarkeit) Eine Menge A heißt semi-entscheidbar gdw { χ A (x) := 1 falls x A falls x A berechenbar ist. 64/90 Berechenbarkeitstheorie

94 Primitive Rekursion Definition (Basisfunktionen der PR) Die Menge der primitiv rekursiven (PR) Funktionen ist induktiv definiert. Die Basisfunktionen sind: konstante Funktion f (x) = 0 Nachfolgerfunktion s(n) = n + 1 Projektionsfunktion π k i : N k 0 N 0, i [k] π k i (x 1,..., x k ) = x i Definition (Komposition) Seien g und h i PR und x = (x 1,..., x n ). Dann ist auch die Komposition f = g h PR. f ( x) = g(h 1 ( x),..., h k ( x)) 65/90 Berechenbarkeitstheorie

95 Primitive Rekursion Basisfunktionen und Komposition Die folgenden Funktionen sind schon als primitiv rekursiv bekannt. konstante Funktion f (x) = 0 Nachfolgerfunktion s(n) = n + 1 Projektionsfunktion π k i (x 1,..., x k ) = x i Komposition f ( x) = g(h 1 ( x),..., h k ( x)) Definition (Primitive Rekursion) Das Schema der primitiven Rekursion erzeugt aus g und h die neue Funktion f. f (0, x) = g( x) f ist ebenfalls primitiv rekursiv. f (m + 1, x) = h(f (m, x), m, x) 66/90 Berechenbarkeitstheorie

96 Erweitertes PR-Schema Definition (Erweitertes PR-Schema) Das erweiterte Schema der primitiven Rekursion erlaubt f (0, x) = t 0 f (m + 1, x) = t wobei t 0 und t Terme sind für die gilt t 0 enthält nur PR-Funktionen und die x i t enthält nur f (m, x), PR Funktionen, m und die x i. Satz Das erweiterte Schema der primitiven Rekursion führt nicht aus PR heraus. 67/90 Berechenbarkeitstheorie

97 PR-Programme Unter anderem diese Programme sind laut Vorlesung oder Übung PR: succ(x) = x + 1 pred(x) = max {0, x 1} add(x, y) = x + y x y = max {0, x y} mult(x, y) = x y div(x, y) = x y (Ganzzahldivision) pow(x, y) = x y Die restliche einfache Arithmetik..... tower(n) = mit tower(4) = 2 16 sqr(x) = x 2 sqrt(x) = x p(x, y) = n, c 1 (n) = x, c 2 (n) = y (Cantorsche Paarungsfunktion) { a n = 0 ifthen(n, a, b) = b n = 0 68/90 Berechenbarkeitstheorie

98 Prädikate Definition Ein Prädikat P ist ein logischer Ausdruck, der in Abhängigkeit von x N 0 true oder false liefert Definition Ordne dem Prädikat P eine Funktion ˆP zu, mit ˆP(x) = 1 P(x) = true Ist ˆP(x) PR, dann auch P(x) Beispiel IF Ausdrücke können direkt mit Prädikaten beschrieben werden: IFTHEN( ˆP(n), a, b) = b + ˆP (a b) 69/90 Berechenbarkeitstheorie

99 µ-rekursion Definition (µ-operator) Sei f : N k+1 0 N 0 eine Funktion. Der µ-operator definiert eine neue Funktion µf : N k 0 N 0: { min {n N (µf )( x) := 0 f (n, x) = 0} falls n existiert sonst Für alle m n muss f definiert sein: f (m, x) = PR + µ = µ-rekursion µ-rekursion WHILE 70/90 Berechenbarkeitstheorie

100 LOOP-Programme Definition (LOOP-Programm) Syntax von LOOP-Programmen. Es ist c N 0. P x i := c x i := x j + c x i := x j c P; P LOOP x i DO P END IF x i = 0 DO P ELSE Q END LOOP x i DO P END führt P genau n mal aus, wobei n der Anfangswert von x i ist Zuweisungen an x i in P ändern die Anzahl der Durchläufe nicht! PR LOOP berechenbar 71/90 Berechenbarkeitstheorie

101 WHILE-Programme Definition (WHILE-Programm) Syntax von WHILE-Programmen. Es ist c N 0. P x i := c x i := x j + c x i := x j c P; P WHILE x i = 0 DO P END IF x i = 0 DO P ELSE Q END Betrachte nur positive Zahlen: x j c = 0, falls c > x j 72/90 Berechenbarkeitstheorie

102 Rekursive Aufzählbarkeit Definition (Rekursiv aufzählbar) Eine Menge A heißt rekursiv aufzählbar wenn A = oder es eine berechenbare totale Funktion f : N 0 A gibt, so dass A = {f (0), f (1),...} = {f (n)} n N 0 Satz Sei A formale Sprache, dann ist äquivalent: A ist Typ 0 Sprache A rekursiv aufzählbar A semi-entscheidbar, also χ A berechenbar A = L(M) für eine TM M A ist Bild oder Urbild einer berechenbaren Funktion 73/90 Berechenbarkeitstheorie

103 Reduzierbarkeit Definition (Reduzierbarkeit) Eine Menge A Σ heißt reduzierbar auf eine Menge B Γ genau dann, wenn es eine totale und berechenbare Funktion f : Σ Γ gibt mit w A f (w) B w Σ Wir schreiben dann A B Intuitiv gilt: B ist mindestens so schwer zu lösen wie A Ist A unlösbar, dann auch B Ist B lösbar, dann erst recht A 74/90 Berechenbarkeitstheorie

104 Spezielles Halteproblem Definition (Spezielles Halteproblem) Gegeben ein Wort w {0, 1} und die durch Gödelisierung kodierte Turingmaschine M w. Die als spezielles Halteproblem bezeichnete Sprache H S enthält alle Turingmaschinen, die bei sich selbst als Eingabe halten. H S := {w M w [w] } Satz Das spezielle Halteproblem ist semi-entscheidbar, aber es ist nicht entscheidbar. H S ist also nicht semi-entscheidbar. 75/90 Berechenbarkeitstheorie

105 Allgemeines Halteproblem Definition (Allgemeines Halteproblem) Gegeben Wörter w, x {0, 1} und die durch Gödelisierung kodierte Turingmaschine M w. Die als allgemeines Halteproblem bezeichnete Sprache H enthält alle Paare M w und x, sodass M w bei Eingabe x hält. H := {w#x M w [x] } Satz Das allgemeine Halteproblem ist semi-entscheidbar, aber es ist nicht entscheidbar. H ist also nicht semi-entscheidbar. Es gilt H S H Das Halteproblem auf leerem Band bezeichnen wir mit H 0 76/90 Berechenbarkeitstheorie

106 Satz von Rice Satz (Rice) F ist eine Menge berechenbarer Funktionen, charakterisiert durch eine Eigenschaft h: F = {f f berechenbar f erfüllt h} F = und F = {f f berechenbar}: F und h nicht trivial Dann gilt: die Sprache {w Σ ϕ w F} ist unentscheidbar ϕ w ist die von der Turingmaschine M w berechnete Funktion Intuitiv gilt: Nicht-triviale semantische Eigenschaften von Programmen sind unentscheidbar Termination ist unentscheidbar 77/90 Berechenbarkeitstheorie

107 PCP Definition (Postsches Korrespondenzproblem) Gegeben endliche Folge (x 1, y 1 ),..., (x k, y k ) mit x i, y i Σ +. Gibt es eine Folge von Indizes i 1,..., i n {1,..., k} mit x i1,..., x in = y i1,..., y in x i 001 y i Satz Das PCP ist unentscheidbar, aber semi-entscheidbar. 78/90 Berechenbarkeitstheorie

108 PCP lösen Idee Mögliche Lösungen aufzählen, richtige Lösungen identifizieren x i 001 y i L = { (12 3) +} /90 Berechenbarkeitstheorie

109 PCP lösen Idee Mögliche Lösungen aufzählen, richtige Lösungen identifizieren x i 001 y i L = { (12 3) +} /90 Berechenbarkeitstheorie

110 Reguläre Sprachen RLG DFA NFA ɛ-nfa RE Satz Für eine Darstellung D einer regulären Sprache ist entscheidbar: Wortproblem Gegeben w, gilt w L(D)? Leerheitsproblem Ist L(D) =? Endlichkeitsproblem Ist L(D) <? Äquivalenzproblem Gilt L(D 1 ) = L(D 2 )? 80/90 Berechenbarkeitstheorie

111 Kontextfreie Sprachen CFG CNF GNF PDA ɛ PDA F Abschlusseigenschaften Schnitt Vereinigung Komplement Produkt Stern REG ja ja ja ja ja CFL nein ja nein ja ja Entscheidbarkeit Wortproblem Leerheit Äquivalenz Schnittproblem DFA O(n) ja ja ja CFG O(n 3 ) ja nein nein 81/90 Berechenbarkeitstheorie

112 Typ 0 Sprachen GOTO TM µr WHILE Satz Sei A formale Sprache, dann ist äquivalent: A ist Typ 0 Sprache A rekursiv aufzählbar A semi-entscheidbar, also χ A berechenbar A = L(M) für eine TM M A ist Bild oder Urbild einer berechenbaren Funktion 82/90 Berechenbarkeitstheorie

113 Spracheigenschaften Abschlusseigenschaften Schnitt Vereinigung Komplement Produkt Stern REG ja ja ja ja ja CFL nein ja nein ja ja CSL ja ja ja ja ja TM ja ja nein ja ja Entscheidbarkeit Wortproblem Leerheit Äquivalenz Schnittproblem DFA O(n) ja ja ja CFG O(n 3 ) ja nein nein CSL O(2 n ) nein nein nein TM nein nein nein nein 83/90 Berechenbarkeitstheorie

114 Gliederung 1 Einführung 2 Sprachen und Grammatiken 3 Reguläre Sprachen und Endliche Automaten 4 Kontextfreie Sprachen und Kellerautomaten 5 Turingmaschinen 6 Berechenbarkeitstheorie 7 Komplexitätstheorie 84/90 Komplexitätstheorie

115 TIME Definition ((D)TIME) Die minimale Anzahl Schritte, bis eine DTM M mit Eingabe w hält nennen wir (D)TIME M (w) N { }. DTIME M (n) = max{dtime M (w) w = n} Definition (TIME(f (n))) Sei f : N N total. Dann ist TIME(f (n)) := {A Σ DTM M.A = L(M) w Σ.TIME M (w) f ( w )} die Klasse der in Zeit f (n) von einer DTM entscheidbaren Sprachen. TIME(O(n)) enthält alle linearen Probleme. Also alle Probleme, für die ein Linearzeitalgorithmus existiert. 85/90 Komplexitätstheorie

116 NTIME Definition (NTIME) Die minimale Anzahl Schritte, bis eine NDTM M mit Eingabe w hält nennen wir NTIME M (w) N { }. NTIME M (n) = max{ntime M (w) w = n} Definition (NTIME(f (n))) Sei f : N N total. Dann ist NTIME(f (n)) := {A Σ NDTM M.A = L(M) w Σ.ntime M (w) f ( w )} die Klasse der in Zeit f (n) von einer NDTM entscheidbaren Sprachen. 86/90 Komplexitätstheorie

117 P und NP Definition P ist die Menge aller von einer DTM in polynomieller Zeit entscheidbaren Sprachen. P := p Polynom TIME(p(n)) = k N TIME(O(n k )) Definition NP ist die Menge aller von einer NDTM in polynomieller Zeit entscheidbaren Sprachen. NP := p Polynom NTIME(p(n)) = k N NTIME(O(n k )) 87/90 Komplexitätstheorie

118 NP-Vollständigkeit Definition (NP-Schwere) Eine Sprache L heißt NP-schwer (NP-hart) wenn sich alle Sprachen in NP auf L reduzieren lassen. A NP.A P L Definition (NP-Vollständigkeit) Eine Sprache L heißt NP-vollständig wenn L NP-schwer ist und L NP. Fragen: Gibt es überhaupt NP-vollständige Sprachen? Gibt es eine NP-vollständige Sprache in P? (P = NP?) 88/90 Komplexitätstheorie

119 Formale Sprachen Formale Sprache Σ Typ 0 - Semi-Entscheidbar, Turingmaschinen, WHILE Entscheidbar LOOP, PR NP P Typ 2 - Kontextfrei Typ 3 - Regulär Endlich 89/90 Komplexitätstheorie

120 Wichtig für die Klausur Chomsky Hierarchie RE ɛ-nfa NFA DFA Quotientenautomat, Minimale DFAs Pumpinglemma (regulär + kontextfrei) Nützliche Symbole, CYK, CNF Kellerautomaten, Deterministische Kellerautomaten PDA CFG Turingmaschinen LOOP und PR Berechenbarkeit, Entscheidbarkeit Reduktion, Halteproblem Hüllenbildung, Abgeschlossenheit 90/90 Komplexitätstheorie