Wir suchen Antworten auf die folgenden Fragen: Was ist Berechenbarkeit? Wie kann man das intuitiv Berechenbare formal fassen?

Transkript

1 Einige Fragen Ziel: Wir suchen Antworten auf die folgenden Fragen: Wie kann man das intuitiv Berechenbare formal fassen? Was ist ein Algorithmus? Welche Indizien hat man dafür, dass ein formaler Algorithmenbegriff tatsächlich den Begriff des intuitiv Berechenbaren exakt einfängt? J. Rothe (HHU Düsseldorf) Informatik IV 1 / 22

2 Intuitiv versteht man unter Berechenbarkeit alles, was sich algorithmisch lösen lässt. Wir beschränken uns auf die Berechenbarkeit von Funktionen f : N k N bzw. von Wortfunktionen f : Σ Σ. Zahlen n N = {0, 1, 2, 3,...} können beispielsweise durch ihre Binärdarstellung als Wörter über dem Alphabet Σ = {0, 1} dargestellt werden. J. Rothe (HHU Düsseldorf) Informatik IV 2 / 22

3 Zu einer natürlichen Zahl n bezeichnen wir mit bin(n) die Binärdarstellung von n ohne führende Nullen, z.b. bin(19) = und bin(5) = 101. Damit kann man durch bin : N {0, 1} in natürlicher Weise eine Bijektion zwischen N und {0, 1} angeben. Die Berechenbarkeit z.b. reellwertiger Funktionen wird hier nicht betrachtet. J. Rothe (HHU Düsseldorf) Informatik IV 3 / 22

4 Definition Es sei f : A B eine Funktion. Die Menge A heißt Eingabemenge oder Urbildbereich und die Menge B Ausgabemenge oder Bildbereich von f. Der Definitionsbereich D f der Funktion f ist die Teilmenge von A, auf der f definiert ist. Der Wertebereich W f der Funktion f ist die Menge{f(x) x D f }. f ist stets eine partielle Funktion. f heißt total, falls sie überall auf ihrer Eingabemenge definiert ist, d.h., falls A = D f gilt. J. Rothe (HHU Düsseldorf) Informatik IV 4 / 22

5 Beispiel: Die Funktion f 1 : N N mit f 1 (n) = n+1 ist total (und partiell), da D f = N. Die Funktion f 2 : N 2 N mit f 2 (n 1, n 2 ) = n 1 div n 2 ist nicht-total (und partiell), da D f = N 2 {(n, 0) n N}. J. Rothe (HHU Düsseldorf) Informatik IV 5 / 22

6 Was ist ein Algorithmus? Intuitiv: Ein Algorithmus ist eine endliche Folge von Befehlen oder Anweisungen, die eine Eingabe in eine bestimmte Ausgabe in endlich vielen Rechenschritten transformieren. Formal: Ein Algorithmus A berechnet eine Funktion f : N k N genau dann, wenn gilt: 1 Für alle (n 1, n 2,...,n k ) D f hält der Algorithmus A bei Eingabe (n 1, n 2,...,n k ) nach endlich vielen Schritten mit der Ausgabe f(n 1, n 2,...,n k ) an. 2 Für alle (n 1, n 2,...,n k ) D f hält A bei Eingabe (n 1, n 2,...,n k ) nie an (ist also z.b. in einer Endlosschleife). (Alternativ hierzu könnte man verlangen, dass der Algorithmus zwar hält, aber die Eingabe verwirft.) J. Rothe (HHU Düsseldorf) Informatik IV 6 / 22

7 Nur intuitiv zu argumentieren, dass eine bestimmte Funktion f nicht berechenbar ist, ist unmöglich. Für einen solchen Nachweis ist es unabdingbar, dass man den Algorithmenbegriff im mathematischen Sinne formalisiert und zeigt, dass f durch keinen Algorithmus dieser formal definierten Klasse berechnet werden kann. Beispiele von formalisierten Algorithmenklassen: Programme in einer fixierten Programmiersprache, z.b. Java, C,...; endliche Automaten (DFAs bzw. NFAs); Kellerautomaten (PDAs); deterministische Kellerautomaten (DPDAs); linear beschränkte Automaten (LBAs); Turingmaschinen (TMs). J. Rothe (HHU Düsseldorf) Informatik IV 7 / 22

8 Alle diese Modelle können so modifiziert werden, dass sie Funktionen berechnen, nicht Sprachen entscheiden. Beispielsweise gibt es Funktionen, die sich zwar durch Turingmaschinen, nicht aber durch endliche Automaten berechnen lassen. Hat man eine Algorithmenklasse fixiert, so tritt das neue Problem auf, festzustellen, ob sie wirklich genau den Begriff des intuitiv Berechenbaren erfasst. Dies kann nur intuitiv begründet, nicht aber formal bewiesen werden. J. Rothe (HHU Düsseldorf) Informatik IV 8 / 22

9 Beispiel: Sei π = 1415 die Folge der Nachkommaziffern der Zahl π = 3, Die Anfangswortrelation und Teilwortrelation wird mit a bzw. bezeichnet. Betrachte die folgenden Funktionen und überlege, ob sie intuitiv berechenbar sind oder nicht: 1 Definiere die Funktion f : {0, 1,...,9} {0, 1} durch 1 falls n a π = 1415 f(n) = 0 sonst. J. Rothe (HHU Düsseldorf) Informatik IV 9 / 22

10 Offenbar ist f berechenbar. Denn es gibt Näherungsverfahren für π, die nur bis zur durch die Länge von n vorgegebenen Genauigkeit laufen müssen, also in endlicher Zeit zum Ergebnis kommen. 2 Definiere die Funktion g : {0, 1,..., 9} {0, 1} durch 1 falls n π = 1415 g(n) = 0 sonst. J. Rothe (HHU Düsseldorf) Informatik IV 10 / 22

11 Es ist offen, ob g berechenbar ist. Wäre die Zahl π so zufällig, dass jede endliche Ziffernfolge als ein Teilwort in π erscheint, dann wäre g 1 (d.h., g(n) = 1 für alle n) und somit berechenbar. 3 Definiere die Funktion h : N {0, 1} durch 1 falls in π = 1415 mindestens n-mal h(n) = hintereinander eine 7 vorkommt 0 sonst. J. Rothe (HHU Düsseldorf) Informatik IV 11 / 22

12 Obwohl wir nicht wissen, ob h(n) = 1 für jedes n ist, ist die Funktion h berechenbar! Begründung: Fall 1: Es gibt in π beliebig lange Blöcke Dann ist h(n) = 1 für alle n und h somit berechenbar. Fall 2: Es gibt ein n 0, so dass in π Blöcke der Form 77 7 bis zur Länge n 0 vorkommen, aber keine der Länge n Dann gilt 1 falls n n 0 h(n) = 0 sonst. J. Rothe (HHU Düsseldorf) Informatik IV 12 / 22

13 Das heißt, Berechenbarkeit ist nicht-konstruktiv definiert: Es genügt, die Existenz eines Algorithmus für h zu beweisen; wir müssen ihn nicht explizit angeben können. 4 Definiere die Funktion i : N {0, 1} durch 1 falls das 1. LBA Problem eine positive Lösung hat i(n) = 0 sonst. J. Rothe (HHU Düsseldorf) Informatik IV 13 / 22

14 Die Funktion i ist berechenbar, auch wenn wir das 1. LBA Problem derzeit nicht lösen können. Denn entweder ist i 1 oder i 0, und beide konstante Funktionen sind selbstverständlich berechenbar. J. Rothe (HHU Düsseldorf) Informatik IV 14 / 22

15 Im ersten Beispiel oben ordneten wir der reellen Zahl π die Funktion 1 falls n a π = 1415 f(n) = f π (n) = 0 sonst zu. Dies kann man entsprechend für jede reelle Zahl r tun und erhält so die Funktion 1 falls n a r = Nachkommastellen von r f r (n) = 0 sonst. Ist f r für jede reelle Zahl r berechenbar? J. Rothe (HHU Düsseldorf) Informatik IV 15 / 22

16 Nein! Denn: Die Menge R der reellen Zahlen ist überabzählbar. Sind r und r Zahlen in R mit r r, so gilt f r f r. Somit haben f r und f r verschiedene Berechnungsalgorithmen. Die Menge aller Algorithmen (egal in welcher fest gewählten Formalisierung) ist aber nur abzählbar unendlich, da sich ein jeder Algorithmus durch einen endlichen Text beschreiben lassen muss. J. Rothe (HHU Düsseldorf) Informatik IV 16 / 22

17 Formalisierungen des Algorithmenbegriffs Es sind seit den 30er Jahren des 20. Jahrhunderts eine Reihe von Formalisierungen des Algorithmenbegriffs vorgeschlagen worden, beispielsweise: die Turing-Berechenbarkeit von Turing; der λ-kalkül von Church und Rosser; die Markov-Berechenbarkeit von Markov; der Gleichungskalkül von Gödel und Herbrand; die partiell rekursiven Funktionen von Kleene, weitere Formalisierungen von Post und anderen. J. Rothe (HHU Düsseldorf) Informatik IV 17 / 22

18 Churchsche These These: Die durch die formale Definition 1 der Turing-Berechenbarkeit, 2 der WHILE-Berechenbarkeit, 3 der GOTO-Berechenbarkeit, 4 der µ-rekursivität, 5 der Markov-Berechenbarkeit, 6 des λ-kalküls 7 und einer Reihe von anderen Formalisierungen des Algorithmenbegriffs beschriebenen Klassen von Funktionen stimmen jeweils genau mit der Klasse der im intuitiven Sinne berechenbaren Funktionen überein. J. Rothe (HHU Düsseldorf) Informatik IV 18 / 22

19 Churchsche These Bemerkung: Die These ist natürlich unmöglich zu beweisen, da der intuitive Begriff der Berechenbarkeit nicht formal definierbar ist. Die These ist allgemein akzeptiert. Einige dieser Formalisierungen des Algorithmenbegriffs werden wir im Weiteren kennenlernen. J. Rothe (HHU Düsseldorf) Informatik IV 19 / 22

20 Historischer Kontext um 1880: Georg Cantor begründet seine axiomatische Mengentheorie. 1900: David Hilbert unternimmt den Versuch, die gesamte Mathematik auf ein einheitliches axiomatisches Fundament zu stellen. Forschungsprogramm: Vollständigkeit der Mathematik. Widerspruchsfreiheit der Mathematik. 1901: Bertrand Russells Paradoxon: Enthält die Menge R = {X X X} sich selbst als Element? verursacht zunächst viel Verwirrung, trägt aber dann dazu bei, die Axiome der Mengentheorie korrekt zu formulieren. J. Rothe (HHU Düsseldorf) Informatik IV 20 / 22

21 Historischer Kontext 1902: Gottlieb Frege veröffentlicht sein einflussreiches Werk Grundgesetze der Arithmetik. 1931: Kurt Gödels Unvollständigkeitssätze beschäftigen sich ebenfalls mit dem Begriff des mathematischen Beweises und mit den Grundlagen der Logik. 1936: Alan Turing knüpft an Gödels Arbeit an und fragt nach der algorithmischen Entscheidbarkeit von Problemen. Er führt dazu das grundlegende Modell der Turingmaschine ein, das nach der Churchschen These genau das intuitiv Berechenbare erfasst. J. Rothe (HHU Düsseldorf) Informatik IV 21 / 22

22 Gödels Unvollständigkeitssätze (informal) Theorem (1. Satz von Gödel) Wenn die axiomatische Mengentheorie widerspruchsfrei ist, dann gibt es in ihr Sätze, die innerhalb der Theorie weder bewiesen noch widerlegt werden können. Das heißt, die Widerspruchsfreiheit (Konsistenz) einer Theorie impliziert ihre Unvollständigkeit. In diesem Sinne ist jede hinreichend ausdrucksstarke Theorie unvollständig. Theorem (2. Satz von Gödel) Es gibt kein konstruktives Verfahren, das die Konsistenz einer axiomatischen Theorie beweisen könnte. Dies zeigt, dass Hilberts Programm scheitern muss. J. Rothe (HHU Düsseldorf) Informatik IV 22 / 22