Algorithmen und Komplexität, Teil II: Berechenbarkeit und Komplexität

Transkript

1 Algorithmen und Komplexität, Teil II: Berechenbarkeit und Komplexität Ralph Keusch 21. November 2017

2 Berechenbarkeitstheorie

3 RAM-Maschine 1: M 1 1 2: M 0 1 3: M 0 M 0 M 1 4: M 2 M 2 M 1 5: GOTO 3 IF M 2 > 0. M 2 : M 1 : M 0 : M 1 : M 2 : Programmzähler: 5 Die Random Access Machine (RAM) mit einem Programm der Länge 5, ausgeführt auf Eingabe M 1 = 3 und M 2 = 15.

4 Programme Definition: Ein Programm ist eine endliche Folge von zulässigen Befehlen. Details und formale Definition: Skript, Kapitel Ein Programm muss nicht zwingend endliche Laufzeit haben!

5 Programme Definition: Ein Programm ist eine endliche Folge von zulässigen Befehlen. Details und formale Definition: Skript, Kapitel Ein Programm muss nicht zwingend endliche Laufzeit haben! Zweck von Programmen: In der Komplexitätstheorie wollen wir Programme mit endlicher Laufzeit benützen, um Funktionen zu berechnen.

6 Funktionen auf Z Funktionen f : {0, 1} {0, 1} reichen aus, um Funktionen f : Z Z zu berechnen.

7 Funktionen auf Z Funktionen f : {0, 1} {0, 1} reichen aus, um Funktionen f : Z Z zu berechnen. Es ist leicht, eine Bijektion zwischen {0, 1} und Z zu finden:

8 Funktionen auf Z Funktionen f : {0, 1} {0, 1} reichen aus, um Funktionen f : Z Z zu berechnen. Es ist leicht, eine Bijektion zwischen {0, 1} und Z zu finden: x b(x) λ

9 Funktionen auf Z Funktionen f : {0, 1} {0, 1} reichen aus, um Funktionen f : Z Z zu berechnen. Es ist leicht, eine Bijektion zwischen {0, 1} und Z zu finden: x b(x) λ Die Beschränkung der Bildmenge ist ebenfalls unwesentlich. Für eine gegebene Funktion f : Z Z setzen wir { f i (x) 1 wenn b(f (x)) exakt i Bits lang ist 0 sonst f i (x) := Bit i von b(f (x))

10 Programme berechnen Funktionen Wir wollen Programme benützen, um Funktionen zu berechnen. Sei A ein Programm, das immer endliche Laufzeit hat, und sei x {0, 1}.

11 Programme berechnen Funktionen Wir wollen Programme benützen, um Funktionen zu berechnen. Sei A ein Programm, das immer endliche Laufzeit hat, und sei x {0, 1}. 1. Schreibe b 1 (x) Z als Eingabe in M 0.

12 Programme berechnen Funktionen Wir wollen Programme benützen, um Funktionen zu berechnen. Sei A ein Programm, das immer endliche Laufzeit hat, und sei x {0, 1}. 1. Schreibe b 1 (x) Z als Eingabe in M Lasse das Programm A auf dieser Eingabe laufen, bis es hält.

13 Programme berechnen Funktionen Wir wollen Programme benützen, um Funktionen zu berechnen. Sei A ein Programm, das immer endliche Laufzeit hat, und sei x {0, 1}. 1. Schreibe b 1 (x) Z als Eingabe in M Lasse das Programm A auf dieser Eingabe laufen, bis es hält. 3. Betrachte die Zahl, die dann in M 0 steht:

14 Programme berechnen Funktionen Wir wollen Programme benützen, um Funktionen zu berechnen. Sei A ein Programm, das immer endliche Laufzeit hat, und sei x {0, 1}. 1. Schreibe b 1 (x) Z als Eingabe in M Lasse das Programm A auf dieser Eingabe laufen, bis es hält. 3. Betrachte die Zahl, die dann in M 0 steht: M 0 > 0: interpretieren wir als 1

15 Programme berechnen Funktionen Wir wollen Programme benützen, um Funktionen zu berechnen. Sei A ein Programm, das immer endliche Laufzeit hat, und sei x {0, 1}. 1. Schreibe b 1 (x) Z als Eingabe in M Lasse das Programm A auf dieser Eingabe laufen, bis es hält. 3. Betrachte die Zahl, die dann in M 0 steht: M 0 > 0: interpretieren wir als 1 M 0 0: interpretieren wir als 0 Wir stellen fest: Unser Programm A berechnet eine Funktion A : {0, 1} {0, 1}.

16 Andere Rechenmodelle? Offensichtlich ist unsere Definition von berechenbar abhängig von der RAM-Maschine. Ist das eine Einschränkung?

17 Andere Rechenmodelle? Offensichtlich ist unsere Definition von berechenbar abhängig von der RAM-Maschine. Ist das eine Einschränkung? es gibt weniger mächtige Rechenmodelle

18 Andere Rechenmodelle? Offensichtlich ist unsere Definition von berechenbar abhängig von der RAM-Maschine. Ist das eine Einschränkung? es gibt weniger mächtige Rechenmodelle es gibt aber auch mächtigere Rechenmodelle

19 Andere Rechenmodelle? Offensichtlich ist unsere Definition von berechenbar abhängig von der RAM-Maschine. Ist das eine Einschränkung? es gibt weniger mächtige Rechenmodelle es gibt aber auch mächtigere Rechenmodelle die meisten anderen Modelle wie z.b. Turing-Maschinen sind gleich mächtig wie die RAM-Maschine!

20 Andere Rechenmodelle? Offensichtlich ist unsere Definition von berechenbar abhängig von der RAM-Maschine. Ist das eine Einschränkung? es gibt weniger mächtige Rechenmodelle es gibt aber auch mächtigere Rechenmodelle die meisten anderen Modelle wie z.b. Turing-Maschinen sind gleich mächtig wie die RAM-Maschine! Church-Turing-These: Die Klasse der RAM-berechenbaren Funktionen stimmt mit der Klasse der intuitiv berechenbaren Funktionen überein. (nicht beweisbar!) lesenswert: History of the Church-Turing thesis auf englischer Wikipedia

21 Codieren in {0, 1} Wir haben die Begriffe Sprache, Funktion, Berechenbarkeit über {0, 1} eingeführt.

22 Codieren in {0, 1} Wir haben die Begriffe Sprache, Funktion, Berechenbarkeit über {0, 1} eingeführt. Ist dies hinreichend flexibel?

23 Codieren in {0, 1} Wir haben die Begriffe Sprache, Funktion, Berechenbarkeit über {0, 1} eingeführt. Ist dies hinreichend flexibel? Bereits gesehen: {0, 1} ist bijektiv zu Z.

24 Codieren in {0, 1} Wir haben die Begriffe Sprache, Funktion, Berechenbarkeit über {0, 1} eingeführt. Ist dies hinreichend flexibel? Bereits gesehen: {0, 1} ist bijektiv zu Z. Wir wollen auch Paare (x, y) als Elemente von {0, 1} codieren können, oder auch ganze Programme.

25 Codierung von Paaren Seien x, y {0, 1}. Wir möchten das Paar (x, y) als Element von {0, 1} auffassen. Wie geht das?

26 Codierung von Paaren Seien x, y {0, 1}. Wir möchten das Paar (x, y) als Element von {0, 1} auffassen. Wie geht das? Idee: verdopple jedes Bit b von x und y dies ergibt x und y füge x und y mit Trennsymbol 10 zusammen

27 Codierung von Paaren Seien x, y {0, 1}. Wir möchten das Paar (x, y) als Element von {0, 1} auffassen. Wie geht das? Idee: verdopple jedes Bit b von x und y dies ergibt x und y füge x und y mit Trennsymbol 10 zusammen Beispiel: Sei x = 100 und y = 11. Dann codieren wir das Paar (x, y) als

28 Codierung von Programmen Serie 1, Aufgabe 2: 1 : M : M 1 M M0 3 : M 1 M 1 + M 1 4 : M M0 M 1 5 : M 0 M M0 M 2 6 : GOTO 2 IF M 0 > 0

29 Codierung von Programmen Serie 1, Aufgabe 2: 1 : M : M 1 M M0 3 : M 1 M 1 + M 1 4 : M M0 M 1 5 : M 0 M M0 M 2 6 : GOTO 2 IF M 0 > 0 Beobachtung: Wir können jedes Symbol als Bitstring codieren (z.b. ASCII). Dies ergibt einen endlichen Bitstring, somit können wir das Programm als Element von {0, 1} codieren.

30 Hilbertsche Probleme (1900) 23 damals ungelöste Probleme aus der Mathematik

31 Hilbertsche Probleme (1900) 23 damals ungelöste Probleme aus der Mathematik Problem 8b: Zeige, dass jede gerade Zahl ausser 2 die Summe von zwei Primzahlen ist (Goldbach-Vermutung).

32 Hilbertsche Probleme (1900) 23 damals ungelöste Probleme aus der Mathematik Problem 8b: Zeige, dass jede gerade Zahl ausser 2 die Summe von zwei Primzahlen ist (Goldbach-Vermutung). Problem 2: Sind die arithmetischen Axiome widerspruchsfrei?

33 Hilbertsche Probleme (1900) 23 damals ungelöste Probleme aus der Mathematik Problem 8b: Zeige, dass jede gerade Zahl ausser 2 die Summe von zwei Primzahlen ist (Goldbach-Vermutung). Problem 2: Sind die arithmetischen Axiome widerspruchsfrei? Gödel (1930): dies kann nicht bewiesen werden!

34 Was heisst beweisen? Sei S eine Menge von mathematischen Aussagen, z.b. x > y, n ist eine Primzahl, Programm A hält auf Eingabe x

35 Was heisst beweisen? Sei S eine Menge von mathematischen Aussagen, z.b. x > y, n ist eine Primzahl, Programm A hält auf Eingabe x Wir verlangen, dass aus s S auch s S folgt.

36 Was heisst beweisen? Sei S eine Menge von mathematischen Aussagen, z.b. x > y, n ist eine Primzahl, Programm A hält auf Eingabe x Wir verlangen, dass aus s S auch s S folgt. Das Verifizieren eines Beweises soll mechanisch sein: Es soll ein Programm V geben, das Aussagen s S beweisen kann.

37 Was heisst beweisen? Sei S eine Menge von mathematischen Aussagen, z.b. x > y, n ist eine Primzahl, Programm A hält auf Eingabe x Wir verlangen, dass aus s S auch s S folgt. Das Verifizieren eines Beweises soll mechanisch sein: Es soll ein Programm V geben, das Aussagen s S beweisen kann. genauer: für gegebene s S und p {0, 1} ist V (s, p) = 1 genau dann wenn p ein gültiger Beweis für Aussage s ist.

38 Was heisst beweisen? Sei S eine Menge von mathematischen Aussagen, z.b. x > y, n ist eine Primzahl, Programm A hält auf Eingabe x Wir verlangen, dass aus s S auch s S folgt. Das Verifizieren eines Beweises soll mechanisch sein: Es soll ein Programm V geben, das Aussagen s S beweisen kann. genauer: für gegebene s S und p {0, 1} ist V (s, p) = 1 genau dann wenn p ein gültiger Beweis für Aussage s ist. Definition: V heisst widerspruchsfrei, falls es kein s S gibt, so dass V sowohl s als auch s beweisen kann.

39 Gödelsche Unvollständigkeitssätze Theorem (1. UV-Satz) Sei V so dass, falls A(x) hält, V die Aussage A(x) hält immer beweisen kann.

40 Gödelsche Unvollständigkeitssätze Theorem (1. UV-Satz) Sei V so dass, falls A(x) hält, V die Aussage A(x) hält immer beweisen kann. Dann gibt es eine Aussage s S, die korrekt ist, die V aber nicht beweisen kann.

41 Gödelsche Unvollständigkeitssätze Theorem (1. UV-Satz) Sei V so dass, falls A(x) hält, V die Aussage A(x) hält immer beweisen kann. Dann gibt es eine Aussage s S, die korrekt ist, die V aber nicht beweisen kann. Beweisidee: per Widerspruch:

42 Gödelsche Unvollständigkeitssätze Theorem (1. UV-Satz) Sei V so dass, falls A(x) hält, V die Aussage A(x) hält immer beweisen kann. Dann gibt es eine Aussage s S, die korrekt ist, die V aber nicht beweisen kann. Beweisidee: per Widerspruch: Könnten wir für alle Paare (A, x), so dass A(x) nicht hält, die Aussage A(x) hält nicht beweisen,

43 Gödelsche Unvollständigkeitssätze Theorem (1. UV-Satz) Sei V so dass, falls A(x) hält, V die Aussage A(x) hält immer beweisen kann. Dann gibt es eine Aussage s S, die korrekt ist, die V aber nicht beweisen kann. Beweisidee: per Widerspruch: Könnten wir für alle Paare (A, x), so dass A(x) nicht hält, die Aussage A(x) hält nicht beweisen, so könnten wir daraus ein Programm schreiben, das entscheidet, ob A(x) hält oder nicht.

44 Gödelsche Unvollständigkeitssätze Theorem (1. UV-Satz) Sei V so dass, falls A(x) hält, V die Aussage A(x) hält immer beweisen kann. Dann gibt es eine Aussage s S, die korrekt ist, die V aber nicht beweisen kann. Beweisidee: per Widerspruch: Könnten wir für alle Paare (A, x), so dass A(x) nicht hält, die Aussage A(x) hält nicht beweisen, so könnten wir daraus ein Programm schreiben, das entscheidet, ob A(x) hält oder nicht. Dann wäre aber die Haltefunktion berechenbar!

45 Gödelsche Unvollständigkeitssätze Theorem (1. UV-Satz) Sei V so dass, falls A(x) hält, V die Aussage A(x) hält immer beweisen kann. Dann gibt es eine Aussage s S, die korrekt ist, die V aber nicht beweisen kann. Beweisidee: per Widerspruch: Könnten wir für alle Paare (A, x), so dass A(x) nicht hält, die Aussage A(x) hält nicht beweisen, so könnten wir daraus ein Programm schreiben, das entscheidet, ob A(x) hält oder nicht. Dann wäre aber die Haltefunktion berechenbar! Theorem (2. UV-Satz) Kein widerspruchsfreies Programm V kann die eigene Widerspruchsfreiheit beweisen.