Berechenbarkeit und Komplexität

Transkript

1 Berechenbarkeit und Komplexität Prof. Dr. Dietrich Kuske FG Theoretische Informatik, TU Ilmenau Wintersemester 2010/11 1

2 Organisatorisches zur Vorlesung Informationen, aktuelle Version der Folien und Übungsblätter finden Sie über die Webseite der Veranstaltung Literaturempfehlung: Uwe Schöning: Theoretische Informatik kurz gefasst, Spektrum Akademischer Verlag Die Übungen werden von Herrn Aumüller organisiert und durchgeführt. Prüfung: 90-minütige Klausur im Februar 2011 Bonuspunkte können durch Hausaufgaben erreicht werden 2

3 Arbeitsweise 1 Sie kommen natürlich zu jeder Vorlesung und hören aktiv zu. 2 Aber der Stoff ist zu anspruchsvoll, um in nur 2 90 min pro Woche verstanden zu werden. 3 Daher werden Sie den Vorlesungsstoff semesterbegleitend nacharbeiten: Definitionen ( Konzepte ) und Sätze herausschreiben und auswendig lernen, Beweise verstehen (wiedergeben können), weitere Literatur zu Rate ziehen 4 Sie drucken die Übungsblätter lange vor dem Übungstermin aus, lesen sie genau, überlegen eine Lösung, schreiben diese auf und arbeiten an Lösungen in den Übungen mit. 5 Auch Übungen werden semesterbegleitend nachgearbeitet. 6 Zu jeder Veranstaltung bringen Sie sämtliche Unterlagen zum Nachschlagen mit. 7 Bei Verständnisproblemen fragen Sie bitte frühzeitig! 3

4 1 Einführung 2 Typ-0- und Typ-1-Sprachen 3 Berechnungsmodelle 4 Unentscheidbarkeit 5 Unentscheidbare Probleme 6 Komplexitätstheorie 4

5 Inhalt AFS genauere Untersuchung der beiden untersten Stufen der Chomsky-Hierarchie Reguläre Sprachen (Chomsky Typ 3) rechts- und linksreguläre Grammatiken, (deterministische und nichtdeterministische) endliche Automaten, reguläre Ausdrücke, Pumping-Lemma, Minimalautomat, Abschlußeigenschaften, Entscheidbarkeitsresultate Kontextfreie Sprachen (Chomsky Typ 2) kontextfreie Grammatiken, Normalformen, Pumping-Lemma, Abschlußeigenschaften, CYK-Algorithmus, Kellerautomaten, deterministisch kontextfreie Sprachen, Entscheidbarkeitsresultate 5

6 Inhalt BuK Drei zentrale Fragen 1 Was wissen wir eigentlich über Sprachen vom Chomsky-Typ 0 bzw. 1? - Fortsetzung der Vorlesung Automaten und Formale Sprachen 2 Welche Sprachen können Maschinen erkennen? Was kann man mit Maschinen berechnen? - Berechenbarkeitstheorie 3 Was kann man noch berechnen, wenn man Resourcen (Zeit, Platz) beschränkt? - Komplexitätstheorie... und ihre Antworten 1 Die Typ-0-Sprachen sind genau die von Maschinen erkennbaren. 2 Die Typ-1-Sprachen sind genau diejenigen, die sich mit linearem Platz erkennen lassen. 3 Ein Problem läßt sich in polynomieller Zeit genau dann lösen, wenn es nicht schwerer als das Erfüllbarkeitsproblem für aussagenlogische Formeln ist. 6

7 Erste zentrale Frage: Chomsky-Hierarchie Grammatik (Wiederholung) Eine Grammatik ist ein 4-Tupel G = (V, Σ, P, S), das folgende Bedingungen erfüllt: V ist eine endliche Menge von Nicht-Terminalen bzw. Variablen Σ ist das (endliche) Alphabet bzw. die Menge der Terminal(symbol)e. P ist eine endliche Menge von Regeln bzw. Produktionen mit P (V Σ) + (V Σ). S V ist die Startvariable bzw. das Axiom. 7

8 Chomsky-Hierarchie Die von einer Grammatik erzeugte Sprache (Wiederholung) Die von einer Grammatik G = (V, Σ, S, P) erzeugte Sprache ist L(G) = {w Σ S G w}. (Menge aller Wörter aus Alphabetsymbolen, die aus der Startvariable S ableitbar sind.) Beispiel: Die Grammatik G = ({S, A, B}, {a, b}, S, P) mit der Produktionenmenge P = {S ABS ε, AB BA, BA AB, A a, B b} erzeugt die Sprache L = {w {a, b} # a (w) = # b (w)}. Hier ist # a (w) die Anzahl der a s im Wort w. 8

9 Chomsky-Hierarchie Typ-0-Grammatiken: keine Einschränkung Typ-1-Grammatiken: nur Regeln αaβ αγβ mit γ ε Typ-2-Grammatiken: nur Regeln A γ entsprechen Kellerautomaten Typ-3-Grammatiken: nur Regeln A ub und A u mit u Σ entsprechen endlichen Automaten Menge aller Sprachen Typ-0-Sprachen rek. aufzählbare Sprachen Typ-1-Sprachen kontextsensitive Sprachen Typ-2-Sprachen kontextfreie Sprachen Typ-3-Sprachen reguläre Sprachen 9

10 Zweite zentrale Frage: Was kann man berechnen? Gibt es Sprachen, für die das Wortproblem (w L?) nicht entscheidbar ist? Antwort: ja Kann man Funktionen definieren, die nicht berechenbar sind? Antwort: ja Aber: Wie zeigt man diese negativen Resultate? 10

11 Berechnungsmodelle Was bedeutet es überhaupt im allgemeinen, dass eine Funktion berechenbar oder eine Sprache akzeptierbar ist? Wie kann man ein generelles Berechnungsmodell definieren? Was ist ein Algorithmus? Was ist das Maschinenmodell für Typ-0-Sprachen? Im Laufe der Zeit sind mehrere Berechnungsmodelle entwickelt worden, die jedoch alle zueinander äquivalent sind: Turingmaschinen (Alan Turing ( ) 1936) While-Programme, Goto-Programme Registermaschinen µ-rekursive Funktionen Turingmaschinen mit entsprechender Beschränkung dienen auch als Maschinenmodell für Typ-1-Sprachen 11

12 Unentscheidbarkeit Die Mutter aller unentscheidbaren Probleme: das Halteproblem Gegeben sei eine Turingmaschine (oder einfach ein Programm) M und eine Eingabe w Σ. Frage: Terminiert M bei Eingabe w? Das Halteproblem ist unentscheidbar, das heißt, es gibt keinen Algorithmus, der gegeben M und w immer entscheidet, ob M mit Eingabe w terminiert oder nicht. Wir werden die Unentscheidbarkeit des Halteproblems im Rahmen der Vorlesung zeigen. (Der Beweis ist überraschend kurz und elegant.) 12

13 Unentscheidbarkeit Intuition: Warum ist das Halteproblem unentscheidbar? Man könnte doch einfach M mit Eingabe w laufenlassen und nachsehen was passiert... Wenn M nach einer endlichen Anzahl von Schritten terminiert, dann hat man Gewissheit. Aber wenn M nach Schritten noch nicht terminiert hat, was dann? Nochmal Schritte weiterlaufen lassen? Achtung! Damit ist ein Versuch, die Entscheidbarkeit zu zeigen, gescheitert, die Unentscheidbarkeit ist noch nicht gezeigt! 13

14 Unentscheidbarkeit Neben dem Halteproblem gibt es noch viele andere wichtige unentscheidbare Probleme, z.b., das Schnittproblem für kontextfreie Sprachen. Gegeben zwei kontextfreie Grammatiken für Sprachen L 1, L 2. Gilt L 1 L 2 =? Beweistechnik: Man zeigt die Unentscheidbarkeit solcher Probleme meistens durch einen Widerspruchsbeweis. Wenn dieses Problem entscheidbar wäre, dann wäre auch das Halteproblem entscheidbar. Dazu kodiert man das Halteproblem so um, dass daraus eine Instanz eines solchen Problems wird. 14