Grundlagen der Informatik Kapitel 19. Harald Krottmaier Sven Havemann

Transkript

1 Grundlagen der Informatik Kapitel 19 Harald Krottmaier Sven Havemann

2 Agenda Begriffe Turingmaschine Beispiele Berechenbarkeit Hilfsmittel Beispiele WS2007 2

3 Motivation Sind Computer allmächtig? Präziser: Ist alles von einem Computer berechenbar? WS2007 3

4 1937 Alan Turing Engl. Mathematiker, Gigant! Berechnung von Funktionen: Partielle Funktion: Nur eine Teilmenge aller möglichen Eingaben wird akzeptiert: WS2007 4

5 Berechenbare Funktion Eine Funktion heißt berechenbar, wenn ein Algorithmus gefunden werden kann, der die Funktion berechnet. Eine Funktion ist eine Abbildung Ein Algorithmus ist eine endliche Berechnungsvorschrift WS2007 5

6 Bsp. Berechenbare Funktion f(n) = 2n g(n) = (4n) * 0.5 f und g sind gleiche Funktionen, aber mit unterschiedlichen Berechnungsvorschriften h(n)=100/(n-1) ist partielle Funktion, undefiniert für n=1 WS2007 6

7 Eine nicht berechenbare Funktion Sei f(i,j) eine Funktion, die alle möglichen Folgen natürlicher Zahlen enthält, also f(i,j) { 0,..,9 } Eigentlich Liste von Ziffernfolgen! f(i): i-te Folge, entspricht den nichtabbrechenden Dezimalzahlen zwischen 0.0 und unter WS2007 7

8 Eine nicht berechenbare Funktion Konstruiere nun eine neue Funktion die sich von jeder Funktion in der Liste unterscheidet: g(j) sei 0 wenn f(j,j) 0 g(j) sei 1 wenn f(j,j) = 0 g unterscheidet sich von allen Funktionen in der Liste! Also enthält f nicht alle Folgen! WS2007 8

9 Nicht berechenbare Funktionen Diagonalverfahren nach Cantor (1873) Georg Cantor: Begründer der Mengenlehre Gigant! WS2007 9

10 Bsp.: Diagonalverfahren WS

11 Nicht durch Algorithmus berechenbare Funktionen Potenzmenge P(IN) Das ist die Menge aller möglichen Teilmengen von IN Es gibt mehr Teilmengen als es Elemente von IN gibt P(IN) ist überabzählbar Die Menge aller Funktionen f: IN IN ist auch überabzählbar WS

12 Wieviele Algorithmen gibt es? Ein Algorithmus besteht aus einem endlichen Wort aus * Es gibt nur abzählbar viele Algorithmen! Wirklich? Wie zählt man sie ab?? Es gibt daher auch nur abzählbar viele berechenbare Funktionen! Es gibt also sehr viele Funktionen, die nicht durch einen Algorithmus berechnet werden können! WS

13 Die Church'sche These "Die Klasse der Turing-berechenbaren Funktionen ist genau die Klasse der intuitiv berechenbaren Funktionen." Die Church sche These ist nicht beweisbar Problem: "intuitiv berechenbar.." Satz: "Die Menge der berechenbaren Funktionen ist die Menge aller Funktionen, die sich mit einer Turingmaschine berechnen lassen." WS

14 Berechenbarkeitskonzepte WS

15 Die Turingmaschine Alan Turing: allgemeines Konzept einer rechnenden Maschine" unbegrenztes Arbeitsband, in Felder unterteilt Lese-/Schreib-Kopf an aktueller Position Maschine selbst hat endlich viele Zustände Maschine kann Zeichen in Arbeitsfeld lesen und abhängig vom aktuellen Zustand Neues Zeichen in Arbeitsfeld schreiben Nach rechts oder links gehen und dann In einen neuen Zustand übergehen WS

16 Die Turingmaschine formal 7-Tupel: WS

17 Wichtiger Satz in der Informatik: Jedes Problem, das überhaupt maschinell lösbar ist, kann auch von einer Turingmaschine gelöst werden Problem nur im Einzelfall: Finde die richtige Überführungsfunktion. (schreibe das richtige C-Programm) WS

18 Bsp Turingmaschine: Paritätsprüfung Ungerade Anzahl von Strichen (I, III, IIIII,...) akzeptieren, sonst nicht! Leere Bandfelder enthalten ein # Zustandsgraph: WS

19 Tätigkeit der Turingmaschine: Liste von 5-Tupeln: Aktueller Zustand aus Z Eingabezeichen aus Σ Γ Ausgabezeichen aus Γ Kopfbewegung aus {L,N,R} Folgezustand aus Z Praktischerweise als Tabelle angeben, Turingtabelle WS

20 Für Paritätsprüfungsbeispiel: Braucht drei 5-Tupel, Schreibweise: 1I#R2 liest die Maschine in Zustand 1 ein I, so schreibt sie ein #, geht nach rechts und geht in Zustand 2 2I#R1 2##N3 Zustand 1: gerade, 2: ungerade Anz Zustand 3: Maschine hat ungerade Anzahl von "I" gelesen. WS

21 WS

22 Bsp.: Duale Addition von 1 z.b. Eingabe: #1100# Ausgabe: #1101# oder: Eingabe: #11011# Ausgabe: #11100# WS

23 Turingmaschine: Binärinkrement WS

24 Bsp.: Erkennen einer Sprache Wörter aus der formalen Sprache L={a n b n c n n 0} werden akzeptiert abc aabbcc aaabbbccc aaaabbbbcccc... WS

25 L={a n b n c n n 0} Finde den Fehler WS

26 Weitere Ideen Verdopplungsmaschine: Aus n Strichen mache 2n Striche Multipliziermaschine: aus III#IIII mache xxx#iiii#iiiiiiiiiiii Mit x-en mitzählen, wie oft schon addiert worden ist Unterprogramme: Sub-Tabellen Sequenzielle Ausführung von TMs WS

27 Viele Varianten von TMs... Varianten von Turingmaschinen: mehrere Eingabebänder einseitig begrenztes Band Grosses Eingabealphabet Aber: Alle TMs sind gleichwertig! jedes Alphabet lässt sich beispielsweise auf {#, 0, 1} reduzieren WS

28 Turing-berechenbare Funktionen Partielle Funktion f: IN k IN berechnen Argumente (n 1, n 2,..., n k ) auf Band kodieren z.b. als #n 1 # n 2 #... #n k # L/S-Kopf ganz links, dann starte TM Wenn TM anhält: Ergebnis ist ab dem Zeichen unter dem L/S- Kopf ablesbar Wird Eingabe akzeptiert, ist das Ergebnis f (n 1, n 2,..., n k ), sonst: TM hält nicht an oder unter L/S-Kopf ist keine Zahl WS

29 Registermaschine Speicher Datenspeicher Programmspeicher Prozessor Akkumulator Befehlsregister Befehlszähler Ein/Ausgabe-Einheit WS

30 Registermaschine WS

31 Registermaschine Einfaches, abstrahiertes Modell eines von-neumann-rechners RM kann alles berechnen, was auch ein realer Rechner berechnen kann. RM kann TM simulieren! TM kann RM simulieren! Äquivalente Berechnungsmodelle WS

32 Modell-Sprachen Einfache modellhafte Sprachen: GOTO-Sprache WHILE-Sprache LOOP-Sprache Satz: Jede Turing-berechenbare Funktion ist auch GOTO und WHILE-berechenbar LOOP ist schwächer WS

33 GOTO-Programmiersprache Wie RM, aber statt Registern Variablennamen, und einfache Syntax: Jede numerierte Zeile enthält entweder Zuweisung eines berechneten Terms an eine Variable x := 2*a + 4*b Bedingten oder unbedingten Sprungbefehl IF bedingung GOTO zeile GOTO zeile WS

34 GOTO: Addition Addition zweier natürlicher Zahlen x = a + b wenn Prozessor nur succ und nicht + beherrscht: WS

35 WHILE-Programmiersprache Programm besteht aus einem von: Zuweisung bedingte Anweisung WHILE-Schleife Sequenz von Programmen WS

36 WHILE-Sprache: Addition x = a + b WS

37 WHILE-Sprache: Multiplikation e = a * b WS

38 WHILE durch GOTO WHILE-Schleife wird durch bedingten Sprung nachgebildet WS

39 GOTO durch WHILE WS

40 Kleene'sches Theorem Äquivalent: Jedes GOTO-Programm lässt sich in ein WHILE-Programm umwandeln und umgekehrt Kleene'sches Normalformentheorem: "Jede berechenbare Funktion kann mit einer einzigen WHILE-Schleife programmiert werden." WS

41 LOOP-Programme auch FOR-Programme genannt WHILE-Schleife durch FOR-Schleife ersetzt, aber: Durchlaufanzahl fest! WS

42 Eigenschaften LOOP-Prog. Endlicher Durchlauf aller Schleifen Schleifenvariable i darf im Body der Schleife nicht geändert werden! Konsequenz: LOOP-Programme terminieren immer! Start-/Endwert ist immer angegeben LOOP nicht so mächtig wie WHILE Kein TM-Simulator mit LOOP möglich WS

43 Primitive Rekursion Funktion durch Rekursion berechnet, kommt ohne Zuweisung/Schleifen aus z.b. in funktionalen Programmiersprachen Definition Primitive Rekursion: WS

44 Primitive Rekursion Erlaubt sind dazu noch: Funktions-Komposition Vertauschen von Argumentpositionen Projektion Eine Funktion heisst primitiv rekursiv, wenn sie aus 0, succ() und den Projektionen von Verkettung und primitiver Rekursion gebildet werden kann WS

45 Primitive Rekursion Projektion: ist definiert durch p k,i : IN k IN p k,i (x 1,, x k ) = x i Verkettung: Ist f n-stellige und g 1,, g n k-stellige Funktion, so ist die Verkettung f (g 1,, g n ) : IN k IN definiert durch: (f (g 1,, g n ))(x 1,, x k ) = f (g 1 (x 1,, x k ),, g n (x 1,, x k )) WS

46 Bsp.: Primitive Rekursion WS

47 Bsp. LOOP-Programm WS

48 Primitive Rekursion als LOOP-Programm Satz: Jede primitiv-rekursive Funktion ist LOOP-berechenbar Jede vernünftig total berechenbare Funktion ist primitiv rekursiv, wobei vernünftig bedeutet, dass man die maximal möglichen Schleifendurchläufe vorab bestimmen kann. Das ist weniger als TM-Berechenbarkeit! WS

49 µ-rekursion Es gibt Probleme, die sich nicht mehr primitiv-rekursiv lösen lassen z.b. Suchprobleme: Suche für (k+1)- stellige Funktion f das kleinste z, für das f(z, x 1,..., x k ) = true ist Argument wird beim rekursiven Aufruf nicht kleiner, sondern größer! WS

50 µ-rekursion Mögliches Problem: Suche bricht niemals ab z.b. wenn es kein z gibt, für das f true liefert WS

51 µ-rekursion versus WHILE-berechenbar Beide Klassen stimmen überein: Alle µ-rekursiven Funktionen sind WHILE-berechenbar (und damit auch GOTO- und Turing-berechenbar) Nach Kleene kommt man mit einer einzigen WHILE-Schleife aus! Also gilt: Jede berechenbare Funktion lässt sich als µ-rekursive Funktion schreiben WS

52 µ-rekursion durch WHILE Ziemlich offensichtlich: WS

53 Bisher: Jede LOOP-berechenbare Funktion ist total (d.h., terminiert immer!) Jede total berechenbare Funktion, für die mit LOOP-Programmen eine Abschätzung der max. möglichen Schleifendurchläufe möglich ist, ist auch LOOP-berechenbar. LOOP-berechenbare Funktion sind genau die primitiv rekursiven Funktionen. WS

54 Frage: Ist jede total berechenbare Funktion immer durch ein LOOP-Programm berechenbar? WS

55 Ackermann-Funktion totale, berechenbare Funktion nicht primitiv rekursiv! [Ackermann-Péter] = m+1 wenn n=0 a(m,n) = a(n-1,1) wenn m=0 = a(n-1,a(n,m-1)) sonst WS

56 Ackermann-Funktion Wächst sehr stark an Kann von keiner primitiv rekursiven Funktion nach oben beschränkt werden WS

57 Ackermann-Funktion Verallgemeinerung der Grundrechenarten: a(0,y) = y+1 a(1,y) = y+2 a(2,y) = 2y + 3 a(3,y) = 2 y+3-3 a(4,y) = 2 X -3 wobei X=2^ ^2 mit Turmhöhe y+2 WS

58 Unlösbare Probleme

59 Prinzipiell unlösbare Probleme Ein Algorithmus kann angegeben werden, aber ein Computer kann das Problem nicht lösen. Probleme, die niemals durch menschliche Erfindungskraft und technisch-wissenschaftlichen Fortschritt zu lösen sein werden WS

60 Entscheidbare Menge Eine Menge M heißt rekursiv entscheidbar oder entscheidbar, wenn es einen Algorithmus gibt, der nach endlicher Zeit terminiert und entscheidet, ob die Eingabe zur Menge gehört oder nicht." WS

61 Bsp: Entscheidbare Menge: Goldbach-Vermutung "Jede gerade Zahl größer als 2 kann als Summe zweier Primzahlen geschrieben werden. Nun als Goldbach-Eigenschaft [für alle Zahlen bis überprüft...] [Satz von Euklid: es gibt unendlich viele Primzahlen...] WS

62 Semi-entscheidbare Menge Frage: Element in Menge? Ja Nein Eine der beiden Antworten muss in endlicher Zeit gegeben werden Die andere darf unendlich dauern WS

63 Bsp. (3n+1)-Problem Collatz-Folge Startzahl heißt "wundersam", wenn Folge mit Zahl 1 endet Startzahl 6: Folge 3, 10, 5, 16, 8, 4, 2, 1 Folge kann sehr, sehr lang werden! Wundersamkeit ist semi-entscheidbar! WS

64 Bsp. "Game of Life" Drei Regeln: Geburt: Tote Zelle wird lebendig, wenn 3 der 8 Nachbarn leben Überbevölkerung: Zelle stirbt, wenn 4 oder mehr Nachbarn leben Vereinsamung: Zelle stirbt, wenn sie weniger als 2 lebende Nachbarn hat Semi-entscheidbar? WS

65 Das Halteproblem "Gibt es ein Programm, das als Eingabe den Quelltext eines zweiten Programms sowie dessen Eingabewerte erhält, und dann entscheiden kann, ob das zweite Programm terminiert, d.h. nicht endlos weiterläuft?" WS

66 Halteproblem Angenommen, es gibt so eine Fkt: WS

67 Halteproblem Dann kann man ein fiese Funktion test() bauen, die nur dann nicht terminiert, wenn haltetest JA gibt: WS

68 Halteproblem Wende nun test auf sich selber an, also berechne test(test) haltetest(test,test) liefert JA weil test(test) terminiert: Aber dann kann das WHILE in test() nicht terminieren! Widerspruch. haltetest(test,test) liefert NEIN: Dann terminiert das WHILE sofort Widerspruch. WS

69 Halteproblem Beide Fälle führen zum Widerspruch, es gibt aber nur die beiden Fälle, also kann es die Funktion haltetest nicht geben! Halteproblem semi-entscheidbar: TM simulieren und JA ausgeben, wenn sie anhält. WS

70 Konsequenzen des Halteproblems In jedem System, das Turingmächtig ist, lassen sich Aussagen formulieren, die weder bewiesen noch widerlegt werden können. Solche Systeme sind grundsätzlich unvollständig Die Arithmetik ist solch ein System. WS

71 Konsequenzen des Halteproblems Auswirkung auf die Software-Entwicklung: Es kann kein Computerprogramm geben, das generell überprüft, ob andere Computerprogramme für alle Eingaben das korrekte Ergebnis liefern WS

72 Zusammenfassung Turingmaschine Simulator ausprobieren! GOTO, WHILE, LOOP Unlösbare Probleme WS

73 Organisatorisches... Prüfung Termine Prüfungsfragen WS

74 Quellen "Grundlagen der Informatik", Herold, Lurz, Wohlrab; Pearson Studium Wikipedia WS