Klassische und Quanten Turing Maschinen, Teil I

Transkript

1 Klassische und Quanten Turing Maschinen, Teil I Joachim Draeger 2013 Joachim Draeger Turing Maschinen / 43

2 Beschreibung von Algorithmen 1: Church-Turing-These TMs als geeignete Modelle Was sind Turing Maschinen? 2: TM, NTM, PTM Was können Turing Maschinen? 3: Universalität (Programmierbarkeit) 4: Komplexität (Aufwand) 5: Berechenbarkeit (Grenzen) Quantum Computation 6: Church-Turing-Deutsch-These QTMs als geeignete Modelle Joachim Draeger Turing Maschinen / 43

3 Gliederung Church-Turing-These 1 Church-Turing-These 2 Klassische Turing-Maschinen 3 Mächtigkeit von Turing-Maschinen 4 Komplexitätstheorie von Turing-Maschinen 5 Grenzen von Turing-Maschinen 6 Church-Turing-Deutsch-These Joachim Draeger Turing Maschinen / 43

4 Church-Turing-These Beschreibung von Algorithmen Alltägliche Handlung: Durchführung von Verfahren, Berechnungen etc. Wie lassen sich solche Algorithmen beschreiben? Forderungen an Algorithmen systematisch exakt korrekt endlich Beispiel: Euklidischer Algorithmus ggt(n, m) Exaktheit Nutzung einer symbolischen Sprache Formalisierung mit mathematischen Methoden Joachim Draeger Turing Maschinen / 43

5 Church-Turing-These Modelle von Algorithmen Formalisierungen des Begriffs Algorithmus Andrey Markov 1960: Markov-Algorithmen Alonzo Church 1936: Lambda-Kalkül Stephen Kleene 1952: Partiell rekursive Funktionen John Shepherdson/Howard Sturgis 1963: Registermaschinen Alan Turing 1936: Turing-Maschinen... Alle diese Modelle haben äquivalente Ausdrucksmächtigkeit Zur Untersuchung von Algorithmen reicht ein Modell aus Hier: Repräsentativ Turing Maschinen näher diskutiert Joachim Draeger Turing Maschinen / 43

6 Church-Turing-These Idee der Turing-Maschine I Eingabe/Ausgabe über Band (auch als Zwischenspeicher) Zur Verarbeitung dient endlicher Automat (steuert beweglichen Lese-/Schreibkopf) Band mit Feldern Schreib/Lese-Kopf start Endliche Kontrolle Joachim Draeger Turing Maschinen / 43

7 Church-Turing-These Idee der Turing-Maschine II Eingabe (Endliche) Eingabe x Leeres Band Kopf der TM auf Beginn der Eingabe auf Band positioniert (Interner) Zustand der TM auf Startzustand q 0 gesetzt Berechnung (als Loop) Ausgabe Lesen Symbol a an Position des Kopfes Der (interne) Zustand der TM sei p Übergang in Zustand q = δ(p, a) (q = p möglich) Schreibe Symbol b an Position des Kopfes (b = a, b = möglich) Lasse Position Kopf unverändert oder gehe auf Nachbarfeld Stop Berechnung falls Endzustand oder fehlende Anweisung Variante 1: Ja/Nein (Endzustand Ja/Nein) Variante 2: Ausgabe Inhalt Band ab Position Kopf bis leeres Feld Joachim Draeger Turing Maschinen / 43

8 Church-Turing-These Church-Turing These Bemerkenswert: Vielzahl von äquivalenten Modellen Diese beschreiben Grenze der Ausdrucksmächtigkeit Church-Turing These Realistische Algorithmen mit TM beschreibbar TM Modell der menschlichen Fähigkeiten zur Problemlösung Echte Verallgemeinerungen nicht mehr von Mensch realisierbar Vorsicht: realer Computer nicht (ohne weiteres) mit TM vergleichbar Endlicher Speicher unendliches Band; dennoch gleichgesetzt Endliche Berechnung Endlicher Speicherbedarf Architektur eines Computers entspricht eher TM als EA Joachim Draeger Turing Maschinen / 43

9 Gliederung Klassische Turing-Maschinen 1 Church-Turing-These 2 Klassische Turing-Maschinen 3 Mächtigkeit von Turing-Maschinen 4 Komplexitätstheorie von Turing-Maschinen 5 Grenzen von Turing-Maschinen 6 Church-Turing-Deutsch-These Joachim Draeger Turing Maschinen / 43

10 Klassische Turing-Maschinen Definition der Turingmaschine Turingmaschine definiert als Tupel (Q, Σ, Γ,, q 0, F, δ) bestehend aus: Q, endliche Zustandsmenge Σ, endliches Eingabealphabet; typischerweise Σ = {0, 1} Γ, endliches Bandalphabet mit Σ Γ Γ, Blanksymbol mit Σ q 0 Q, Startzustand F Q, Menge von Endzuständen δ Q F Γ Q Γ {L, R, N}, partielle Übergangsfunktion (auch Programm genannt) Joachim Draeger Turing Maschinen / 43

11 Klassische Turing-Maschinen TMs dargestellt als Graph... a b, L q 0 q 1... Kantenbeschriftung a b, L beschreibt Übergang δ(q 0, a) = (q 1, b, L). Joachim Draeger Turing Maschinen / 43

12 Klassische Turing-Maschinen TMs dargestellt über Konfigurationen Betrachte TM T = (Q, Σ, Γ,, q 0, F, δ) Konfiguration (q, B, i) Q Γ Z = C beschreibt globalen Zustand (leeres Band links/rechts vernachlässigt) δ Q F Γ Q Γ {L, R, N} als δ C C reformulierbar Berechnungsschritt Berechnung δ C C als einmalige Anwendung von δ δ C C ist reflexive transitive Hülle von δ Startkonfiguration für Eingabe w = (w 1,..., w n ) Σ ist (q 0, w, 1) Im folgenden gelte für eine Berechnung S S : S ist Startkonfiguration für Eingabe ws Σ TM hält in S (Weitere Berechnung nicht möglich) Ausgabe: Wort w Σ rechts ab Position Kopf δ Joachim Draeger Turing Maschinen / 43

13 Klassische Turing-Maschinen Sprache einer Turingmaschine Sei T = (Q, Σ, Γ,, q 0, F, δ) eine TM Definition (Erkannte Sprache) Mögliche Eingaben sind w Σ Die Menge der von T akzeptierten Wörter ist L(T ) = {w Σ T mit Eingabe w stoppt in Zustand q F} L Σ aufzählbar, wenn L = L(T ) für eine TM T L Σ entscheidbar, wenn L und Σ L aufzählbar Joachim Draeger Turing Maschinen / 43

14 Beispiel I Klassische Turing-Maschinen start 1 0, R q 0 0 1, N 1, N q h (q 0, 0) (q h, 1, N) (q 0, 1) (q 0, 0, R) (q 0, ) (q h, 1, N) Joachim Draeger Turing Maschinen / 43

15 Beispiel II Klassische Turing-Maschinen start 1 0, R q 0 0 1, N 1, N q h (q 0, 0) (q h, 1, N) (q 0, 1) (q 0, 0, R) (q 0, ) (q h, 1, N) Joachim Draeger Turing Maschinen / 43

16 Beispiel III Klassische Turing-Maschinen start 1 0, R q 0 0 1, N 1, N q h (q 0, 0) (q h, 1, N) (q 0, 1) (q 0, 0, R) (q 0, ) (q h, 1, N) Joachim Draeger Turing Maschinen / 43

17 Beispiel IV Klassische Turing-Maschinen start 1 0, R q 0 0 1, N 1, N q h (q 0, 0) (q h, 1, N) (q 0, 1) (q 0, 0, R) (q 0, ) (q h, 1, N) Joachim Draeger Turing Maschinen / 43

18 Beispiel V Klassische Turing-Maschinen start 1 0, R q 0 0 1, N 1, N q h (q 0, 0) (q h, 1, N) (q 0, 1) (q 0, 0, R) (q 0, ) (q h, 1, N) Joachim Draeger Turing Maschinen / 43

19 Beispiel VI Klassische Turing-Maschinen start 1 0, R q 0 0 1, N 1, N q h (q 0, 0) (q h, 1, N) (q 0, 1) (q 0, 0, R) (q 0, ) (q h, 1, N) Joachim Draeger Turing Maschinen / 43

20 Klassische Turing-Maschinen Weiteres Beispiel Seien Σ = {0, 1}, Γ = {0, 1, } und die TM T = ({q 0, q 1, q 2, q f }, Σ, Γ,, q 0, {q f }, δ) mit folgender Übergangsfunktion gegeben: 0 1, R 1 0, R 0 1, R 1 0, R, N start q 0 q 1 q 2 q f Welche Wörter akzeptiert T? Wie wird Eingabe verändert? Joachim Draeger Turing Maschinen / 43

21 Klassische Turing-Maschinen Beispiel Primzahlerkennung Thomas Pajor, Universität Karlsruhe Joachim Draeger Turing Maschinen / 43

22 Gliederung Mächtigkeit von Turing-Maschinen 1 Church-Turing-These 2 Klassische Turing-Maschinen 3 Mächtigkeit von Turing-Maschinen 4 Komplexitätstheorie von Turing-Maschinen 5 Grenzen von Turing-Maschinen 6 Church-Turing-Deutsch-These Joachim Draeger Turing Maschinen / 43

23 Mächtigkeit von Turing-Maschinen Universalität von Turing-Maschinen I Definition TM T als Turing-Funktion T Σ Σ interpretierbar mit j T (i) = T hält im Endzustand q F mit Ausgabe j sonst TM U simuliert TM T, wenn t Σ s Σ U(t, s) = T (s) U ist universell, wenn sie jede TM T simuliert Theorem Eine universelle TM U existiert Wie konstruiert man eine universelle TM? Joachim Draeger Turing Maschinen / 43

24 Mächtigkeit von Turing-Maschinen Universalität von Turing-Maschinen II Gödelnummer Kodierung Komponenten von T in Σ liefert Gödelnummer g(t ) TM T mit Nummer g(t ) N als M g(t ) bezeichnet Simulation Kodierung von Konfigurationen und Berechnungsschritten in Σ Ausgangspunkt: Kodierte Startkonfiguration von T Berechnungsschritt Stelle aktuelle kodierte Konfiguration ST fest Modifiziere S T gemäss kodierter δ Damit gilt U(g(T ), s) = T (s) für jedes s Σ. Ungültige Gödelnummern sind TM M Σ zugeordnet Joachim Draeger Turing Maschinen / 43

25 Mächtigkeit von Turing-Maschinen Universalität von Turing-Maschinen III Universalität ist gewisse Abschluss-Eigenschaft TM als mächtiges Instrument Anwendung auf sich selbst Erweiterung der Berechenbarkeit Gilt für viele andere Modellklassen nicht (z.b. FA) Begrenzte Fähigkeiten der TM Es gibt überabzählbar viele Funktionen f N N Gödelisierung erlaubt nur abzählbar viele berechenbare Funktionen f Erst Universalität weist Programmierbarkeit nach Joachim Draeger Turing Maschinen / 43

26 Mächtigkeit von Turing-Maschinen Erweiterungen von Turingmaschinen Überraschend schwierig, Mächtigkeit der TM zu erweitern Mehrere Schreib/Lese-Köpfe auf einem Band Mehrere Bänder Mehrdimensionale Bänder Vergrösserung des Eingabealphabets Keine echten Erweiterungen, sondern nur Verkürzung der Laufzeit. Und selbst das lediglich polynomiell. Joachim Draeger Turing Maschinen / 43

27 Mächtigkeit von Turing-Maschinen Nichtdeterministische Turing-Maschinen Weiteres Beispiel einer Erweiterung: NTMs als TMs mit relationalen δ TM lineare Sequenz der Berechnungsschritte (δ funktional) NTM mit Verzweigungen (als ob mehrere TMs parallel arbeiten) Berechnungen bilden Baum statt Sequenz Wurzel des Baums ist Startkonfiguration NTM akzeptiert, falls Ast des Baums in Zustand q F endet TM simuliert NTM durch Aniterieren aller Zweige bis Tiefe d Also auch NTM keine echte Erweiterung Aber eventuell exponentielle Verkürzung der Laufzeit Joachim Draeger Turing Maschinen / 43

28 Gliederung Komplexitätstheorie von Turing-Maschinen 1 Church-Turing-These 2 Klassische Turing-Maschinen 3 Mächtigkeit von Turing-Maschinen 4 Komplexitätstheorie von Turing-Maschinen 5 Grenzen von Turing-Maschinen 6 Church-Turing-Deutsch-These Joachim Draeger Turing Maschinen / 43

29 Motivation Komplexitätstheorie von Turing-Maschinen Klassifikation der Algorithmen anhand benötigter Ressourcen Zeitkomplexität Asymptotische Bzhg: # Rechenschritte Länge n der Eingabe Maß soll unabhängig von CPU Geschwindigkeit sein Klassen abstrahieren daher von Vorfaktoren Moore sches Gesetz hilft nicht Betrachte Z (n) v c = Z (N) 2v c für Laufzeit Z und CPU-Geschwindigkeit v c Problemgrösse n bzw. N Für Z (n) = k n, k N, ist N = n + log k 2 Behandelbare Problemgrösse nur additiv vergrössert Joachim Draeger Turing Maschinen / 43

30 Komplexitätstheorie von Turing-Maschinen Komplexitätsklassen I Wichtige Klassen der Zeitkomplexität P (polynomial time) Beispiele: Primeigenschaft, Erreichbarkeit Graph G knotenfrei im R 3 darstellbar? Problem P, aber Algorithmus dafür bisher unbekannt NP (non-deterministic polynomial time) Beispiele: Faktorisierung, Travelling Salesman, Existenz einer Clique in Graphen, SAT, Viele AI-Probleme (Baumsuche) Sehr grosse praktische Bedeutung EXP (exponential time) Beispiel: Hält TM auf Eingabe w nach höchstens w Schritten? Joachim Draeger Turing Maschinen / 43

31 Komplexitätstheorie von Turing-Maschinen Komplexitätsklassen II Theorem NP EXP Durch systematische Exploration aller Pfade im Berechnungsbaum. Offene Frage P? = NP Für NP-harte Probleme nur O(k n ) Algorithmen bekannt Hamiltonzyklus: Kantenfolge ohne Wh von Knoten Eulerzyklus: Knotenfolge ohne Wh von Kanten (Euler-Theorem) NP P Joachim Draeger Turing Maschinen / 43

32 Gliederung Grenzen von Turing-Maschinen 1 Church-Turing-These 2 Klassische Turing-Maschinen 3 Mächtigkeit von Turing-Maschinen 4 Komplexitätstheorie von Turing-Maschinen 5 Grenzen von Turing-Maschinen 6 Church-Turing-Deutsch-These Joachim Draeger Turing Maschinen / 43

33 Halteproblem I Grenzen von Turing-Maschinen Nicht jedes Problem ist durch TM entscheidbar; Beispiel: Halteproblem TM hält nicht notwendigerweise Halteproblem: Hält eine gegebene TM T oder nicht? Problem definiert Sprache H = {wv T w hält auf Eingabe v} Theorem (Turing 1936) H ist unentscheidbar (lediglich aufzählbar) Es gibt auch Sprachen, die nicht einmal aufzählbar sind Theorem Σ H ist nicht aufzählbar Beweis der Unentscheidbarkeit von H siehe nächste Folie Joachim Draeger Turing Maschinen / 43

34 Grenzen von Turing-Maschinen Halteproblem II M i (j) ist Funktionswert der TM mit Gödelnummer i für Eingabe j Annahme: TM H entscheidet, ob M n bei Eingabe von n anhält H(n) = { 0 falls M n(n) = 1 falls M n (n) Konstruiere TURING-Maschine H mit H (n) = { 0 M n (n) + 1 falls M n(n) = falls M n (n) Es sei g(h ) = k, d.h. H ist die Maschine M k. Dann gilt: H (k) = M k (k) = 0 falls M k (k) = M k (k) + 1 falls M k (k) Joachim Draeger Turing Maschinen / 43

35 Grenzen von Turing-Maschinen Halteproblem II M i (j) ist Funktionswert der TM mit Gödelnummer i für Eingabe j Annahme: TM H entscheidet, ob M n bei Eingabe von n anhält H(n) = { 0 falls M n(n) = 1 falls M n (n) Konstruiere TURING-Maschine H mit H (n) = { 0 M n (n) + 1 falls M n(n) = falls M n (n) Es sei g(h ) = k, d.h. H ist die Maschine M k. Dann gilt: H (k) = M k (k) = 0 falls M k (k) = M k (k) + 1 falls M k (k) Joachim Draeger Turing Maschinen / 43

36 Grenzen von Turing-Maschinen Halteproblem II M i (j) ist Funktionswert der TM mit Gödelnummer i für Eingabe j Annahme: TM H entscheidet, ob M n bei Eingabe von n anhält H(n) = { 0 falls M n(n) = 1 falls M n (n) Konstruiere TURING-Maschine H mit H (n) = { 0 M n (n) + 1 falls M n(n) = falls M n (n) Es sei g(h ) = k, d.h. H ist die Maschine M k. Dann gilt: H (k) = M k (k) = 0 falls M k (k) = M k (k) + 1 falls M k (k) Joachim Draeger Turing Maschinen / 43

37 Busy Beaver I Grenzen von Turing-Maschinen TM sieht einfach aus, zeigt aber hochkomplexes Verhalten Busy Beaver f (n) sei maximale Anzahl der 1, die haltende TM mit n = Q Zuständen und Σ = {0, 1} schreiben kann S(n) sei maximale Anzahl der Schritte, die haltende TM mit n Zuständen und Σ = {0, 1} ausführen kann Theorem (Rado) Funktionen f und S sind nicht entscheidbar Es gibt keine berechenbare Funktion, die stets grösser ist als f (n) f (n) wächst schneller als jede berechenbare Funktion Interpretation: Verhalten TM zu komplex, um berechenbar zu sein Joachim Draeger Turing Maschinen / 43

38 Busy Beaver II Grenzen von Turing-Maschinen n = 4: 117,440,512 TMs # Einsen # TMs n f (n) > S(n) > Joachim Draeger Turing Maschinen / 43

39 Gliederung Church-Turing-Deutsch-These 1 Church-Turing-These 2 Klassische Turing-Maschinen 3 Mächtigkeit von Turing-Maschinen 4 Komplexitätstheorie von Turing-Maschinen 5 Grenzen von Turing-Maschinen 6 Church-Turing-Deutsch-These Joachim Draeger Turing Maschinen / 43

40 Church-Turing-Deutsch-These Perspektiven auf die Church-Turing-These Church-Turing These I Festlegung des Begriffs Algorithmus ; Aber ist das wirklich alles? Berechungen keine rein platonischen Objekte Wunsch nach tatsächlicher Ausführung Church-Turing These II Physikalischen Realisierbarkeit der Berechnung Computer (d.h. Berechnungsmodell): Physikalisches System Ablauf eines Programms: Durchführung eines Experiments Ergebnis des Programms: Beobachtung am Experiment Joachim Draeger Turing Maschinen / 43

41 Church-Turing-Deutsch-These Physik der Algorithmen Beispiele von Realisierungen Digitalcomputer Antikythera-Mechanismus Seifenblasen-Computer DNA-Computing... Frage Beschränkung auf klassische Berechnungsmodelle sinnvoll? Idee zu TM 1936 Mechanistische Vorstellung Klassische TM Miniaturisierung Berücksichtigung Quanteneffekte Joachim Draeger Turing Maschinen / 43

42 Church-Turing-Deutsch-These Algorithmen als Mentale Konstrukte Berechnungen als mentale Prozesse CT-These: Statement über menschlichen Verstand Platonische Welt (d.h. auch Berechnungen) von uns erdacht Gehirn ist jedoch physikalisches System (Details des Gehirns arbeiten auf Quantenebene) TM damit als natürliches Berechnungs-Modell zweifelhaft Feynman 1982: Idee der Quantum Computation QTM als quantentheoretisches Analogon zur TM Church-Turing-Deutsch These (D. Deutsch 1985) Jede physikalisch realisierbare Berechnung durch QTM modellierbar Joachim Draeger Turing Maschinen / 43

43 Vielen Dank! Church-Turing-Deutsch-These A Turing Machine walks into a bar. Bartender says What can I get ya? Turing Machine says I can t decide. What did one Turing Machine say to the other? I recognize you! Joachim Draeger Turing Maschinen / 43