EINFÜHRUNG IN DIE THEORETISCHE INFORMATIK 2. ALGORITHMEN. Prof. Dr. Klaus Ambos-Spies. Sommersemester 2014

Transkript

1 EINFÜHRUNG IN DIE THEORETISCHE INFORMATIK Prof. Dr. Klaus Ambos-Spies Sommersemester ALGORITHMEN Theoretische Informatik (SoSe 2014) 2. Algorithmen 1 / 53

2 Übersicht 1 Typen von Algorithmen: Entscheidungs-, Aufzählungs- und Berechnungsverfahren 2 Anforderungen an Algorithmen 3 Berechenbarkeit, Entscheidbarkeit, Aufzählbarkeit: Alternative Charakterisierungen und Vergleich Theoretische Informatik (SoSe 2014) 2. Algorithmen 2 / 53

3 2.1. Typen von Algorithmen: Entscheidungs-, Aufzählungs- und Berechnungsverfahren Theoretische Informatik (SoSe 2014) 2. Algorithmen 3 / 53

4 Algorithmen Ein Algorithmus (Rechenvorschrift) ist eine Vorschrift zur Lösung eines Problems. Aufgrund der Aufgabenstellung unterscheiden wir verschiedene Typen von Algorithmen. Typen von Problemen / Algorithmen: Entscheidungsprobleme / Entscheidungsverfahren Aufzählungsprobleme / Aufzählungsverfahren Berechnungsprobleme / Berechnungsverfahren Theoretische Informatik (SoSe 2014) 2. Algorithmen 4 / 53

5 Entscheidungsprobleme / Entscheidungsverfahren Entscheidungsproblem: Stelle fest, ob ein aus einer Grundmenge von Daten gegebenes Datum eine gewisse Eigenschaft E hat. Solch ein Problem kann durch eine Sprache L beschrieben werden: L = {x Σ : E(x)} ( Gilt x L? ) Entscheidungsverfahren (EV): Algorithmus zur Lösung eines Entscheidungsproblems L Eingabe: x Σ Ausgabe: JA (falls x L d.h. E(x)) bzw. NEIN (falls x L d.h. E(x)) L ist entscheidbar, wenn es ein Entscheidungsverfahren für L gibt. Theoretische Informatik (SoSe 2014) 2. Algorithmen 5 / 53

6 Anmerkungen zu Entscheidungsverfahren Ist E ein EV für die Sprache L, so nennen wir L die von E akzeptierte oder erkannte Sprache. Wir sagen, dass E das Wort x akzeptiert (verwirft), falls das Verfahren die Antwort JA (NEIN) ausgibt. Oft bezeichnen wir Sprachen auch einfach als Mengen oder Probleme: SPRACHE = MENGE = (ENTSCHEIDUNGS)PROBLEM Probleme über natürliche Zahlen identifizieren wir mit Sprachen, indem wir Zahlen wie folgt unär kodieren: n := 0 n+1 ˆ= n A = {n : n A} = {0 n+1 : n A} ˆ= A Theoretische Informatik (SoSe 2014) 2. Algorithmen 6 / 53

7 Entscheidungsverfahren: Beispiel Die Menge ist entscheidbar. A = {n : n gerade} = {2n : n 0} Entscheidungsverfahren für A (d.h. für A): Eingabe: n (= 0 n+1 ) w := n; while w 2 do begin w := tail(tail(w)) end; if w = 1 then output(ja) else output(nein). Hierbei ist die tail-funktion durch tail(λ) = λ und tail(aw) = w definiert. Theoretische Informatik (SoSe 2014) 2. Algorithmen 7 / 53

8 Aufzählungsprobleme / Aufzählungsverfahren Aufzählungsproblem: Liste alle Daten aus einer Grundmenge mit einer gewissen Eigenschaft E auf. Solch ein Problem kann (wie ein Entscheidungsproblem) durch eine Sprache L beschrieben werden: L = {x Σ : E(x)} Aufzählungsverfahren (AV): Algorithmus zur Lösung eines Aufzählungsproblems L = {x Σ : E(x)} Eingabe: keine Ausgabe: Alle Wörter mit Eigenschaft E, aufgelistet in beliebiger (!) Reihenfolge (und evtl. mit Wiederholungen). L ist aufzählbar, wenn es ein Aufzählungsverfahren für L gibt. Theoretische Informatik (SoSe 2014) 2. Algorithmen 8 / 53

9 Spezielle Aufzählungsverfahren Ein monotones AV gibt die Wörter der Grösse nach geordnet (bzgl. der Längen-lexikographischen Ordnung) aus. L ist monoton aufzählbar, wenn es ein monotones Aufzählungsverfahren für L gibt. Die monotone Aufzählbarkeit für Zahlmengen ist entsprechend definiert (NB: m < n m < n). Theoretische Informatik (SoSe 2014) 2. Algorithmen 9 / 53

10 Spezielle Aufzählungsverfahren: Beispiel Die Menge ist monoton aufzählbar. A = {n : n gerade} = {2n : n 0} Monotones Aufzählungsverfahren für A: w := 0 (= 0); while 1 = 1 do begin output(w); w := w0 2 end. Theoretische Informatik (SoSe 2014) 2. Algorithmen 10 / 53

11 Berechnungsprobleme / Berechnungsverfahren Berechnungsproblem: Ordne den Daten aus einer Grundmenge andere Daten zu. Solch ein Problem kann (im 1-dim. Fall) durch eine Wortfunktion f : Σ T beschrieben werden (Σ,T Alphabete). Berechnungsverfahren (BV): Algorithmus zur Lösung eines Berechnungsproblems f : Σ T Eingabe: x Σ Ausgabe: f (x) f ist berechenbar, wenn es ein Berechnungsverfahren für f gibt. Theoretische Informatik (SoSe 2014) 2. Algorithmen 11 / 53

12 Berechnungsverfahren: Beispiel (1) Die (2-stellige) Addition ist berechenbar. f : N N N f (m,n) = m + n Berechnungsverfahren für f mit f (m,n) = m + n: Eingabe: x,y {0} + z := tail(xy); output(z). BEMERKUNG: Damit für eine (n-st.) Zahlfunktionen f die Wortfunktion f überall definiert ist, setzen wir f (w 1,...,w i 1,λ,w i+1,...,w n ) = λ (was wir in den Beispielen aber einfachheitshalber meist nicht berücksichtigen). Theoretische Informatik (SoSe 2014) 2. Algorithmen 12 / 53

13 Berechnungsverfahren: Beispiel (2) Die (2-stellige) Multiplikation ist berechenbar. g : N N N g(m,n) = m n Berechnungsverfahren für g mit g(m,n) = m n: Eingabe: x,y {0} + z := 0 (= 0) while y > 1 do begin z := z tail(x); y := tail(y) end; output(z). Theoretische Informatik (SoSe 2014) 2. Algorithmen 13 / 53

14 Partielle Funktionen Eine partielle Wortfunktion ϕ : Σ T ist eine Funktion ϕ : D T wobei D Σ. D heisst der Definitionsbereich von ϕ und wird mit Db(ϕ) bezeichnet. Notation: ϕ(x) (ϕ(x) definiert), falls x Db(ϕ) ϕ(x) (ϕ(x) undefiniert), falls x Db(ϕ) NB Eine partielle Funktion ϕ : Σ T ist total, falls Db(ϕ) = Σ gilt. Totale Funktionen sind also Spezialfälle der partiellen Funktionen. Theoretische Informatik (SoSe 2014) 2. Algorithmen 14 / 53

15 Partielle Berechnungsverfahren Ein Berechnungsverfahren zur Berechnung einer partiellen Funktion heisst partielles Berechnungsverfahren: Partielles Berechnungsverfahren (PBV) : Algorithmus zur Lösung eines partiellen Berechnungsproblems ϕ : Σ T Eingabe: x Σ Ausgabe: ϕ(x), falls ϕ(x) (sonst keine Ausgabe) NB. Ist ϕ(x) undefiniert, so muss das PBV nicht terminieren, d.h. kann möglicherweise unendlich lange rechnen. ϕ ist partiell berechenbar, wenn es ein partielles Berechnungsverfahren für ϕ gibt. NB. Ist ϕ total, so ist ein PBV für ϕ ein BV: Für totale Funktionen stimmt die partielle Berechenbarkeit mit der Berechenbarkeit überein! Theoretische Informatik (SoSe 2014) 2. Algorithmen 15 / 53

16 Partielle Berechnungsverfahren: Beispiel Die Primzahlzwillingfunktion pzzf : N N ordnet jeder Zahl n 0 die kleinste ungerade Zahl m > 2n zu, sodass m und m + 2 Primzahlen sind (d.h. (m, m + 2) ist der kleinste Primzahlzwilling oberhalb von 2n). Die Funktion pzzf ist partiell berechenbar. Es ist aber nicht bekannt, ob es unendlich viele Primzahlzwillinge gibt, und daher nicht bekannt, ob pzzf total (und damit auch total berechenbar) ist. Partielles Berechnungsverfahren für pzzf (unter Verwendung des Primzahltests PZT; vgl. Übungen): Eingabe: x (= n) {0} + y := xx (= 2n + 1); while PZT(y) PZT(y00) do begin y := y00 end; output(y). NB: Sollte es keinen Primzahlzwilling oberhalb von 2n geben, wird die Schleife unendlich oft durchlaufen und das Verfahren terminiert nicht. Theoretische Informatik (SoSe 2014) 2. Algorithmen 16 / 53

17 Algorithmen für mehrdimensionale Probleme Die eingeführten Algorithmen-Begriffe lassen sich leicht auf mehrdimensionale (homogene oder inhomogene) Probleme übertragen: L Σ... Σ L Σ 1... Σ n f : Σ... Σ Σ f : Σ 1... Σ n Σ n+1 Wir überlassen die Definition als Übung! Theoretische Informatik (SoSe 2014) 2. Algorithmen 17 / 53

18 2.2. Anforderungen an Algorithmen Theoretische Informatik (SoSe 2014) 2. Algorithmen 18 / 53

19 Anforderungen an Algorithmen (1) Ein Algorithmus ist eine Rechenvorschrift, die im Prinzip rein mechanisch ausgeführt werden kann, und u.a. folgenden Anforderungen genügt: Finitheit: Die Beschreibung des Verfahrens ist endlich. Determiniertheit: Das Ergebnis hängt nur von der Eingabe (für Verfahren mit Eingabe) und nicht von anderen (äußeren) Einflüssen ab. Effektivität: Das Verfahren ist tatsächlich durchführbar. Theoretische Informatik (SoSe 2014) 2. Algorithmen 19 / 53

20 Anforderungen an Algorithmen (2) Sequentialität: Die Rechnung besteht aus einer Folge von elementaren Rechenschritten, die nacheinander ausgeführt werden. Determinismus: Die Reihenfolge der Schritte ist eindeutig festgelegt. In jedem Einzelschritt wird eine elementare Operation (aus einem endlichen Vorrat vorgegebener Operationen) ausgeführt. Jede dieser Operationen kann effektiv, in endlicher Zeit ausgeführt werden ( Effektivität). Die hier genannten Anforderungen erfüllt ein klassischer Algorithmus oder - wie man auch sagt - deterministischer sequentieller Algorithmus. Im Folgenden steht Algorithmus für klassischen Algorithmus. Mitunter wird der Algorithmenbegriff jedoch so erweitert, dass nicht alle obigen Eigenschaften gefordert werden ( nichtklassische Algorithmen; s.u.). Theoretische Informatik (SoSe 2014) 2. Algorithmen 20 / 53

21 Anforderungen an Algorithmen (3) Eine weitere, häufig genannte Anforderung an Algorithmen ist die Terminierung: Der Algorithmus stoppt nach endlich vielen Schritten. Entscheidungs- und Berechnungsverfahren müssen dieser Forderung genügen. Partielle Berechnungsverfahren und Aufzählungsverfahren terminieren dagegen i.a. nicht: Ein Aufzählungsverfahren für eine unendliche Menge kann nicht terminieren, da es eine unendliche Aufgabe erfüllen muss. Ein partielles Berechnungsverfahren für eine partielle Funktion ϕ muss bei Eingabe x nur dann terminieren, wenn ϕ(x) definiert ist. Theoretische Informatik (SoSe 2014) 2. Algorithmen 21 / 53

22 Folgerungen aus den Anforderungen Alles was ein Algorithmus in einer vorgegebenen Anzahl von Schritten macht, kann man effektiv erkennen. D.h. die folgenden Probleme sind entscheidbar (V EV oder BV, A AV): H b V = {(x,n) : V terminiert bei Eingabe x in n Schritten} G b V = {(x,y,n) : V terminiert bei Eingabe x in n Schritten und gibt y aus} WA b = {(x,n) : A gibt innerhalb der ersten n Schritte x aus} NB: Dagegen ist nicht klar, ob man für einen Algorithmus entscheiden kann, ob er bei einer Eingabe terminiert! (Wir werden später sehen, dass dies in der Tat i.a. nicht entscheidbar ist!) Theoretische Informatik (SoSe 2014) 2. Algorithmen 22 / 53

23 EXKURS: Nichtklassische Algorithmen (1) Parallele und verteilte Algorithmen : Der Algorithmus wird von mehreren Prozessoren oder Rechnern gleichzeitig bearbeitet (nicht sequentiell). Die Rechenschritte werden also nicht stets nacheinander, sondern mitunter mehrere Schritte gleichzeitig von den beteiligten Prozessoren/Rechnern ausgeführt. Nichtdeterministische Algorithmen: Die Schrittfolge wird durch die Eingabe nicht eindeutig festgelegt. Nichtdeterministische Algorithmen können determiniert sein, müssen dies aber nicht sein. Häufig betrachtet man nichtdeterministische nichtdeterminierte EVs. Um für diese ein eindeutig bestimmtes Ergebnis zu erhalten, legt man fest: Eine Eingabe x wird akzeptiert (d.h. x L), wenn mindestens eine der möglichen Rechnungen akzeptiert. Probabilistische Algorithmen: Der jeweils nächste Rechenschritt wird durch ein Zufallsexperiment (Münzwurf, Würfeln) festgelegt. Determiniertheit erhält man hier dadurch, dass man Akzeptanz durch Mehrheitsentscheidung definiert. Theoretische Informatik (SoSe 2014) 2. Algorithmen 23 / 53

24 EXKURS: Nichtklassische Algorithmen (2) Weitere nichtklassische Rechenverfahren: Quantenalgorithmen (Ausnutzung von Phänomenen der Quantenphysik) Bio-Algorithmen (z.b. Ameisenkolonien als Rechenmaschinen) DNA-Algorithmen (Züchtung der Lösungen im Labor)... Man überlegt sich (in den meisten Fällen sehr leicht), dass die oben angegebenen nichtklassischen Algorithmen nicht mächtiger sind als die klassischen Algorithmen. Interessant sind sie dennoch, da sie möglicherweise effizienter (schneller) sind! Wir werden hierauf in dem Vorlesungsteil zur Komplexitätstheorie ausführlicher zurückkommen, betrachten hier zunächst nur ein Beispiel. Theoretische Informatik (SoSe 2014) 2. Algorithmen 24 / 53

25 EXKURS: Nichtklassische Algorithmen (3) BEISPIEL EINES NICHTDETERMINISTISCHEN ALGORITHMUS PROBLEM: Erfüllbarkeitsproblem für aussagenlogische Formeln EINGABE: Aussagenlogische Formel ϕ(x 1,...,x n ). FRAGE: Gibt es eine Belegung B : {x 1,...,x n } {W,F} der Variablen in ϕ, die die Formel ϕ wahrmacht? NICHTDETERMINISTISCHES ENTSCHEIDUNGSVERFAHREN: Eingabe: ϕ(x 1,...,x n ) for i=1,..., n do begin b i := W F end; if w(ϕ(b 1,...,b n )) = W then output(ja) else output(nein). LAUFZEIT: Quadratisch (oder besser). Alle bekannten deterministischen Entscheidungsverfahren haben dagegen exponentielle Laufzeit. Theoretische Informatik (SoSe 2014) 2. Algorithmen 25 / 53

26 2.3. Berechenbarkeit, Entscheidbarkeit, Aufzählbarkeit: Alternative Charakterisierungen und Vergleich Theoretische Informatik (SoSe 2014) 2. Algorithmen 26 / 53

27 Ziele Als nächstes wollen wir die grundlegenden Begriffe der Berechenbarkeitstheorie, d.h. Entscheidbarkeit Aufzählbarkeit (partielle) Berechenbarkeit etwas näher betrachten und die bestehenden Beziehungen zwischen diesen Konzepten aufzeigen. Wir werden zeigen, dass auf jedes der drei Konzepte die übrigen beiden Konzepte zurückgeführt werden können. Da wir es sowohl mit Mengen (Entscheidbarkeit, Aufzählbarkeit) als auch mit (partiellen) Funktionen ((partielle) Berechenbarkeit) zu tun haben, erinnern wir uns zunächst, wie man Mengen durch Funktionen und Funktionen durch Mengen darstellen kann. Theoretische Informatik (SoSe 2014) 2. Algorithmen 27 / 53

28 Mengen vs. Funktionen (1) Darstellung von Mengen durch totale sowie partielle Funktionen: Charakteristische Funktion c A einer Menge (Sprache) A: { 1 falls x A c A (x) = 0 falls x A NB: A = {x : c A (x) = 1} Partielle charakteristische Funktion χ A einer Menge (Sprache) A: { 1 falls x A χ A (x) = falls x A NB: A = {x : χ A (x) } = {x : χ A (x) = 1} Theoretische Informatik (SoSe 2014) 2. Algorithmen 28 / 53

29 Mengen vs. Funktionen (2) Darstellung von (partiellen) Funktionen durch Mengen: Graph G ϕ einer partiellen Funktion ϕ : G ϕ = Graph(ϕ) = {(x,ϕ(x)) : ϕ(x) } NB: ϕ(x) = µ y [(x,y) G ϕ ] Hierbei: µ y [...] = { kleinstes y mit... falls solch ein y existiert sonst. Theoretische Informatik (SoSe 2014) 2. Algorithmen 29 / 53

30 Entscheidbare Sprachen Theoretische Informatik (SoSe 2014) 2. Algorithmen 30 / 53

31 Entscheidbare Mengen (1) A endlich A entscheidbar BEWEIS: Lege eine endliche Tabelle der Elemente von A an und prüfe bei Eingabe x, ob x in der Tabelle vorkommt. A entscheidbar Ā entscheidbar BEWEIS: Vertausche in EV für A JA- und NEIN-Antworten. A entscheidbar c A berechenbar BEWEIS: Ersetze in EV für A JA- und NEIN-Antworten durch 1 bzw. 0 (und umgekehrt). Theoretische Informatik (SoSe 2014) 2. Algorithmen 31 / 53

32 Entscheidbare Mengen (2) A entscheidbar A monoton aufzählbar BEWEIS : n := 0; while n 0 do begin if w n A then output(w n ); n := n+1 end. Hierbei wird w n A? mit Hilfe des vorausgesetzten EV für A entschieden. BEWEIS : O.B.d.A. ist A unendlich. Um zu entscheiden, ob x A, simuliere das monotone AV für A bis es erstmals x ( JA) oder ein Wort y > x ( NEIN) ausgibt. NB: Für den Beweis von ist es wesentlich, dass das AV monoton ist! Theoretische Informatik (SoSe 2014) 2. Algorithmen 32 / 53

33 Entscheidbare Mengen (3) A entscheidbar A und Ā aufzählbar BEWEIS : Diese Richtung folgt aus den vorhergehenden Beobachtungen: A entscheidbar A monoton aufzählbar A aufzählbar A entscheidbar Ā entscheidbar BEWEIS : Um zu entscheiden, ob x A, simuliere parallel die Aufzählungsverfahren A und A für A bzw. Ā bis eines der Verfahren x ausgibt. Gebe JA aus, falls A x ausgibt, sonst NEIN. NB. Es folgt insbesondere, dass jede entscheidbare Sprache aufzählbar ist. Wir werden später zeigen, dass die Umkehrung nicht gilt, d.h. dass es aufzählbare Sprachen gibt, die unentscheidbar sind. Theoretische Informatik (SoSe 2014) 2. Algorithmen 33 / 53

34 Charakterisierungen Entscheidbarer Sprachen Die vorhergehenden Beobachtungen lassen sich wie folgt zusammenfassen: A entscheidbar A entscheidbar c A berechenbar A monoton aufzählbar A und A aufzählbar Theoretische Informatik (SoSe 2014) 2. Algorithmen 34 / 53

35 Aufzählbare Sprachen Theoretische Informatik (SoSe 2014) 2. Algorithmen 35 / 53

36 Aufzählbarkeit vs. partielle Entscheidbarkeit (1) Die aufzählbaren Sprachen lassen sich auf viele Arten beschreiben. Wir beginnen mit der partiellen Entscheidbarkeit. Eine Sprache A ist partiell entscheidbar (oder einseitig entscheidbar), wenn sie ein partielles Entscheidungsverfahren (PEV) besitzt, d.h. es einen Algorithmus gibt, der bei Eingabe x die Ausgabe JA liefert, falls x in A liegt, und andernfalls keine Ausgabe liefert (und evtl. auch nicht terminiert). N.B. A entscheidbar A partiell entscheidbar. Theoretische Informatik (SoSe 2014) 2. Algorithmen 36 / 53

37 Aufzählbarkeit vs. partielle Entscheidbarkeit (2) A aufzählbar A partiell entscheidbar BEWEIS : Um x A? partiell zu entscheiden, simuliere das AV von A bis dieses x ausgibt. Wenn dies geschieht, gebe JA aus und stoppe. (Liegt x nicht in A, so terminiert dieses Verfahren nicht und liefert keine Ausgabe.) BEWEIS : Sei P ein partielles EV für A. Ein AV für A arbeitet wie folgt ( Dove Tailing Argument ): n := 0; while n 0 do begin for m = 0,...,n do begin if (P akzeptiert w m in n Schritten) then output(w m ) end; n := n+1 end. Theoretische Informatik (SoSe 2014) 2. Algorithmen 37 / 53

38 Aufzählbarkeit vs. partielle Berechenbarkeit (1) A aufzählbar χ A partiell berechenbar BEWEIS: Da A genau dann aufzählbar ist, wenn A partiell entscheidbar ist, genügt es ein PEV für A in ein PBV für χ A umzuwandeln (und umgekehrt). Hierzu genügt es die Ausgabe JA durch die Ausgabe 1 zu ersetzen (und umgekehrt). A aufzählbar A Definitionsbereich einer partiell berechenbaren Funktion BEWEIS : A = Db(χ A ) BEWEIS : Sei A = Db(ϕ) und B ein PBV für ϕ. Man erhält hieraus ein partielles Berechnungsverfahren für χ A, indem man alle Ausgaben durch 1 ersetzt. Theoretische Informatik (SoSe 2014) 2. Algorithmen 38 / 53

39 Aufzählbare Mengen: Projektionslemma (1) Für die nächste Charakterisierung der aufzählbaren Mengen benötigen wir den Begriff der Projektion: Eine n-st. Menge A ist die Projektion der (n + 1)-st. Menge B, falls gilt: x A y (( x,y) B) Theoretische Informatik (SoSe 2014) 2. Algorithmen 39 / 53

40 Aufzählbare Mengen: Projektionslemma (2) A aufzählbar A Projektion einer (2-dim) entscheidbaren Menge B BEWEIS : Für ein AV A von A definiere B = {(x,n) : x wird von A innerhalb der ersten n Schritte aufgezählt}. BEWEIS : Sei A die Projektion der entscheidbaren Menge B. Dann ist A der Definitionsbereich der partiell berechenbaren Funktion { kleinstes y mit (x,y) B falls ex. ϕ(x) = sonst Theoretische Informatik (SoSe 2014) 2. Algorithmen 40 / 53

41 Aufzählbare Mengen = effektive Suchprobleme Die Charakterisierung der aufzählbaren Probleme als Projektionen entscheidbarer Mengen zeigt: Aufzählbare Probleme sind Suchprobleme, bei denen der Suchraum unbeschränkt ist und die Korrektheit von Lösungen (=Zeugen) entscheidbar ist: Aufzählbares Problem = Unbeschränktes effektives Suchproblem (Nämlich ist A die Projektion der Menge B, so ist B die Lösungsmenge für A, d.h. y ist ein Zeuge für die Tatsache, dass x A gilt, genau dann, wenn (x,y) B gilt.) Theoretische Informatik (SoSe 2014) 2. Algorithmen 41 / 53

42 Aufzählbare Mengen = effektive Suchprobleme: Beispiele (1) Halteproblem für ein (partielles) EV oder BV A: Suche den Schritt s, bei dem A bei Eingabe x terminiert. Beweisbarkeitsproblem für eine mathematische Theorie: Suche einen Beweis B für den gegebenen Satz ϕ. Postsches Korrespondenzproblem: Gegeben eine Folge von Wortpaaren (x 1,y 1 ),...,(x n,y n ) suche eine Folge k 1,...,k m mit x k1...x km = y k1...y km. Theoretische Informatik (SoSe 2014) 2. Algorithmen 42 / 53

43 Aufzählbare Mengen = effektive Suchprobleme: Beispiele (2) Lösbarkeit Diophantischer Gleichungssysteme: Gegeben eine endliche Folge von k-stelligen Polynomgleichungen mit ganzzahligen Koeffizienten P 1 ( x ) = 0,...,P m ( x ) = 0 Suche eine gemeinsame ganzzahlige Lösung x Z k. (= 10. Hilbertsches Problem) Dies sind alles Beispiele für unbeschränkte effektive Suchprobleme, d.h. aufzählbare Probleme. Keines dieser Probleme ist jedoch (stets) entscheidbar! (Wir werden dies z.t. später zeigen.) Theoretische Informatik (SoSe 2014) 2. Algorithmen 43 / 53

44 Aufzählbare Mengen: Aufzählungsfunktionen A aufzählbar A = /0 oder A ist der Wertebereich einer (totalen) berechenbaren Funktion f f nennt man eine Aufzählungsfunktion von A BEWEIS : Ist A endlich aber nicht leer, d.h. A = {x 0,...,x m }, definiert man f durch f (n) = x n für n m und f (n) = x m sonst. Ist A unendlich, definiert man f (n) = n-tes von A ausgegebenes Wort, wobei A ein AV für A ist. BEWEIS : Ein AV für A berechnet induktiv die Werte f (x 0 ), f (x 1 ), f (x 2 ),... und gibt diese aus. Ähnlich lässt sich zeigen (Übung!): A aufzählbar A endlich oder A ist der Wertebereich einer (totalen) berechenbaren injektiven Funktion f A aufzählbar A ist der Wertebereich einer partiell berechenbaren Funktion ϕ Theoretische Informatik (SoSe 2014) 2. Algorithmen 44 / 53

45 Charakterisierungen Aufzählbarer Sprachen Die vorhergehenden Beobachtungen lassen sich wie folgt zusammenfassen: A aufzählbar A partiell (d.h. einseitig) entscheidbar χ A partiell berechenbar A Definitionsbereich einer part. berechenbaren Funktion A Projektion einer entscheidbaren (2-dim.) Menge A Wertebereich einer partiell berechenbaren Funktion A = /0 oder A Wertebereich einer totalen berechenbaren Funktion A endlich oder A Wertebereich einer totalen berechenbaren injektiven Funktion Theoretische Informatik (SoSe 2014) 2. Algorithmen 45 / 53

46 (Partiell) Berechenbare Funktionen Theoretische Informatik (SoSe 2014) 2. Algorithmen 46 / 53

47 Graphenlemma für partiell berechenbare Funktionen Für partielle Funktionen ϕ gilt: ϕ partiell berechenbar Graph(ϕ) aufzählbar BEWEIS : Für ein PBV B für ϕ ist die Menge GB b = {(x,y,n) : B terminiert bei Eingabe x in n Schritten und gibt y aus} entscheidbar und Graph(ϕ) ist die Projektion (entlang der 3. Komponente) dieser Menge. BEWEIS ( ): Ein AV A für Graph(ϕ) lässt sich in folgendes PBV B für ϕ umwandeln: Bei Eingabe x simuliere A bis dieses ein Paar (x,y) mit erster Komponente x ausgibt. (Geschieht dies nie, so terminiert B nicht und gibt nichts aus.) Gebe y aus. Theoretische Informatik (SoSe 2014) 2. Algorithmen 47 / 53

48 Graphenlemma für totale berechenbare Funktionen Für totale Funktionen f gilt: (1) f berechenbar (2) Graph(f ) entscheidbar (3) Graph(f ) aufzählbar (1) (3): Bereits gezeigt. (2) (3): Trivial, da jede entscheidbare Menge aufzählbar ist. (3) (2): Ein AV A für Graph(f ) lässt sich in folgendes EV für Graph(f ) umwandeln: Bei Eingabe (x,y) simuliere A bis dieses ein Paar (x,y ) mit erster Komponente x ausgibt. Gilt y = y so akzeptiere (x,y). Andernfalls verwerfe (x, y). (Man beachte, dass dieses Verfahren wegen der Totalität von f terminiert! Es gibt nämlich zu jedem x (genau) ein y mit (x,y) Graph(f ), nämlich y = f (x).) Theoretische Informatik (SoSe 2014) 2. Algorithmen 48 / 53

49 Beziehungen zwischen den Konzepten (Zusammenfassung) Theoretische Informatik (SoSe 2014) 2. Algorithmen 49 / 53

50 Rückführung der Entscheidbarkeit auf Aufzählbarkeit und Berechenbarkeit: A entscheidbar A und A aufzählbar A entscheidbar c A berechenbar Theoretische Informatik (SoSe 2014) 2. Algorithmen 50 / 53

51 Rückführung der Aufzählbarkeit auf Berechenbarkeit und Entscheidbarkeit: A aufzählbar A Definitionsbereich einer partiell berechenbaren Funktion A Wertebereich einer partiell berechenbaren Funktion A = /0 oder A Wertebereich einer berechenbaren Funktion A aufzählbar A Projektion einer entscheidbaren Menge Theoretische Informatik (SoSe 2014) 2. Algorithmen 51 / 53

52 Rückführung der Berechenbarkeit auf Aufzählbarkeit und Entscheidbarkeit: f berechenbar G f entscheidbar G f aufzählbar ϕ part. berechenbar G ϕ aufzählbar Theoretische Informatik (SoSe 2014) 2. Algorithmen 52 / 53

53 Abschliessende Bemerkungen Als Nächstes werden wir die Begriffe der (partiellen) Berechenbarkeit, Entscheidbarkeit und Aufzählbarkeit formalisieren. Wegen der gerade gezeigten Beziehungen zwischen diesen Konzepten genügt es hierzu den Begriff der (partiellen) Berechenbarkeit zu formalisieren. Die formalen Entscheidbarkeits- und Aufzählbarkeitsbegriffe erhalten wir dann durch folgende Festlegungen: Eine Menge A ist im formalen Sinne entscheidbar, wenn die charakteristische Funktion c A von A im formalen Sinne berechenbar ist. Eine Menge A ist im formalen Sinne aufzählbar, wenn diese der Definitionsbereich einer im formalen Sinne partiell berechenbaren Funktion ist. Theoretische Informatik (SoSe 2014) 2. Algorithmen 53 / 53