Automatentheorie. Endliche Automaten, Kellerautomaten und Turingmaschinen

Transkript

1 Automatentheorie Endliche Automaten, Kellerautomaten und Turingmaschinen

2 Inhaltsübersicht und Literatur Der Begriff des Automaten Endliche Automaten mit Ausgabe Technische Realisierung von Automaten Erkennende endliche Automaten Sprache endlicher Automaten Äquivalenz deterministischer und nicht-deterministischer endlicher Automaten Minimierung von endlichen Automaten Kellerautomaten Turingmaschinen und das Halteproblem Literatur: Uwe Schöning: Theoretische Informatik - kurzgefaßt, 4. Auflage, Spektrum Akademischer Verlag 2001 Hopcroft/Motwani/Ullman: Introduction to Automata Theory, Languages, and Computation, 2nd edition, Addison-Wesley 2001 Theoretische Informatik I Automatentheorie 2 Nischwitz/Vogt

3 Definition eines Automaten Definition: Ein abstrakter Automat mit Ausgabe ist ein 5-Tupel A = ( X, Y, Z, f z, f a ) X = Ausprägungsmenge der Eingabevariablen (Eingabealphabet) Y = Ausprägungsmenge der Ausgabevariablen (Ausgabealphabet) Z = Ausprägungsmenge der Zustände f z = Zustandsfunktion, f z : X x Z f a = Ausgabefunktion, f a : X x Z Der Automat heißt endlich, wenn die Mengen X, Y und Z endlich sind. Z Y Theoretische Informatik I Automatentheorie 3 Nischwitz/Vogt

4 Eingaben, Ausgaben und Zustände Die drei Ausprägungsmengen in der Definition eines Automaten können folgendermaßen interpretiert werden: 1. Eingabe: Ein Automat muß von außen bedient werden können. 2. Interne Zustände: Jeder Automat befindet sich immer in einem bestimmten Zustand. Unter Einwirkung der Eingaben kann der Automat eine Reihe von Zuständen durchlaufen. 3. Ausgabe: Im Laufe seiner Arbeit produziert der Automat Informationen, d. h. er gibt Ausgabedaten aus. Theoretische Informatik I Automatentheorie 4 Nischwitz/Vogt

5 Zustandsfunktion eines Automaten Die Zustandsfunktion f z ist eine Abbildung f z : X x Z Z der Produktmenge X x Z (kartesisches Produkt) in die Menge Z der Zustände, die wie folgt interpretiert werden kann: Ist der Automat zu einem Zeitpunkt t im Zustand z(t), und liegt zum Zeitpunkt t die Eingabe x(t) an, so geht der Automat im nächsten Zeitpunkt t + t in den neuen Zustand z ( t + t ) über, also z ( t + t ) = f z (x(t), z(t)) Da uns der genaue zeitliche Ablauf der Arbeit eines Automaten nicht interessiert, lassen wir diese Zeitabhängigkeit in der Schreibweise immer weg. Theoretische Informatik I Automatentheorie 5 Nischwitz/Vogt

6 Ausgabefunktion eines Automaten Die Ausgabefunktion f a ist eine Abbildung f a : X x Z Y der Produktmenge X x Z in die Menge Y der möglichen Ausgabewerte. Im allgemeinen ist die Ausgabe eines Automaten somit abhängig vom Zustand und von der Eingabe (sog. Mealy-Automat). Der Zustand z(t) zum Zeitpunkt t und die Eingabe x(t) zum Zeitpunkt t bestimmen den Ausgabewert y(t). Ist die Ausgabe unabhängig von der Eingabe, also f a : Z Y, so spricht man auch von einem Moore-Automaten. Man unterstellt, daß die Ausgabe y(t) beim Übergang von z(t) nach z( t + t) erzeugt wird, also: y(t) = f a (x(t), z(t)) Beispiel: Ein Verkaufsautomat gibt nach Einwurf eines Geldstückes x(t) in Abhängigkeit vom Füllstand z(t) das Geldstück x(t) oder die Ware y(t) aus. Theoretische Informatik I Automatentheorie 6 Nischwitz/Vogt

7 Nicht-deterministische Automaten Als Verallgemeinerung der bisher definierten (deterministischen) Automaten, in denen die Zustands- und die Ausgabefunktion echte Funktionen, d.h. mit einem eindeutigen Funktionswert sind, betrachtet man auch Automaten, deren Zustands- und/oder Ausgabe-"funktion" Relationen sind, also mehrere Werte annehmen können. Definition: Ein nicht-deterministischer Automat ist ein 5-Tupel A = ( X, Y, Z, f z, f a ) mit Mengen X (Eingaben), Y (Ausgaben), Z (Zuständen) und Relationen f z : X x Z Potenzmenge (Z) f a : X x Z Potenzmenge (Y) Theoretische Informatik I Automatentheorie 7 Nischwitz/Vogt

8 Beschreibung von Automaten Zur Beschreibung des Verhaltens von Automaten dienen a) Zustandsdiagramme (state diagram) b) Zustandstabellen (state table) Elemente zur Darstellung von Zustandsdiagrammen: x y akt. Eingabe / akt. Ausgabe Zustandsknoten Zustandsvektor Aufbau von Zustandstabellen Zustände (1. Angabe: neuer Zustand, 2. Angabe: Ausgabewert) Eingaben z 1 z 2 z 3... z n x 1 z 11,y 11 z 12,y 12 z 13,y z 1n,y 1n x 2 z 21,y 21 z 22,y 22 z 23,y z 2n,y 2n x m z m1,y m1 z m2,y m2 z m3,y m3... z mn,y mn Theoretische Informatik I Automatentheorie 8 Nischwitz/Vogt

9 1. Automatenbeispiel: Mausefalle Eine Mausefalle als Beispiel für einen einfachen, endlichen Automaten mit Ausgabe Eingabealphabet X = { M, M } mit Bedeutung M = "Maus kommt" M = "Maus kommt nicht" Zustandsmenge Z = { G, G } mit Bedeutung G = "Falle gespannt" G = "Falle nicht gespannt" Ausgabealphabet Y = { T, T } mit Bedeutung T = "Maus tot" T = "Maus nicht tot" Theoretische Informatik I Automatentheorie 9 Nischwitz/Vogt

10 Mausefalle: Zustandsdiagramm und -Tafel Zustandsdiagramm: M M G T T M, T G M, T Zustandstafel: Zustände Eingaben G G M G, T G, T M G, T G, T Theoretische Informatik I Automatentheorie 10 Nischwitz/Vogt

11 2. Automatenbeispiel: Blumenautomat Ein Blumenautomat hat 3 Fächer, jedes Fach enthält einen Strauß Nelken. Zustandsmenge Z : Z = { z 3, z 2, z 1, } = { 3 Sträuße, 2 Sträuße, 1 Strauß, 0 Sträuße } Eingabemenge X : Ein Nelkenstrauß kostet 2.--, der Automat akzeptiert nur Zwei-Euro-Stücke, wechselt also nicht. X = { x 1, x 2,x 3 } = { 2- -Stück, unpassendes Geld, keine Eingabe } Ausgabemenge Y : Y = { y 1, y 2, y 3 } = { 1 Nelkenstrauß, Geldstück, keine Ausgabe } Theoretische Informatik I Automatentheorie 11 Nischwitz/Vogt

12 Blumenautomat: Zustands- und Ausgabefunktion Zustandsfunktion f z : X x Z Z mögl. mögliche Zustände Eingaben z 3 z 2 z 1 x 1 z 2 z 1 x 2 z 3 z 2 z 1 x 3 z 3 z 2 z 1 Ausgabefunktion f a : X x Z Y mögliche Zustände Eingabe z 3 z 2 z 1 x 1 y 1 y 1 y 1 y = x 2 1 x y 2 2 = x 2 y 2 = x 2 y 2 = x 2 y = x 2 2 x y 3 3 y 3 y 3 y 3 Theoretische Informatik I Automatentheorie 12 Nischwitz/Vogt

13 Blumenautomat : Zustandsfolgetabelle Eingabe Zustand Folgezustand Ausgabe x 1 z 3 z 2 y 1 x 1 z 2 z 1 y 1 x 1 z 1 y 1 x 1 y 2 x 2 z 3 z 3 y 2 x 2 z 2 z 2 y 2 x 2 z 1 z 1 y 2 x 2 y 2 x 3 z 3 z 3 y 3 x 3 z 2 z 2 y 3 x 3 z 1 z 1 y 3 x 3 y 3 Theoretische Informatik I Automatentheorie 13 Nischwitz/Vogt

14 Blumenautomat : Zustandsdiagramm x 2 y 2 x 2 y 2 z 3 x 1 y z 2 1 y 3 y 3 x 3 x 1 x 3 y 3 x 3 y 1 x 2 y 1 x 1 x 2 z 1 y 2 y 2 x 1 y 2 y 3 x 3 Theoretische Informatik I Automatentheorie 14 Nischwitz/Vogt

15 Stochastische Automaten Ein stochastischer Automat ist ein 5-Tupel A S = (X, Y, Z, P(z(t+ t)/x(t),z(t)), P(y(t)/x(t),z(t))) wobei P(z(t+ t)/x(t),z(t)) die Wahrscheinlichkeitsfunktion für einen neuen Zustand z(t + t) bei einer Eingabe x(t) und dem alten Zustand z(t) ist, sowie P(y(t)/x(t),z(t)) die Wahrscheinlichkeitsfunktion für eine Ausgabe y(t) bei einer Eingabe x(t) und dem alten Zustand z(t). Sonderformen: Stochastischer Automat mit determinierter Ausgabefunktion und indeterminierter Zustandsfunktion A S = (X, Y, Z, P(z(t + t)/x(t),z(t), f a )) Die bedingten Wahrscheinlichkeiten werden durch unbedingte ersetzt A S = (X, Y, Z, P(z(t + t)), P(y(t))) Bei dieser Form bleiben die unabhängigen Variablen von Zustands- und Ausgabefunktion außer Betracht. Theoretische Informatik I Automatentheorie 15 Nischwitz/Vogt

16 Inzidenzmatrizen für stochastische Automaten Bei einem deterministischen Automaten ist der Übergang vom Zustand z i in den Zustand z J ein sicheres Ereignis. Im Fall eines endlichen stochastischen Automaten geschieht der Übergang mit einer Wahrscheinlichkeit n 0 < p IJ < 1 mit p = IJ 1 j=1 die meist auch noch vom Eingabewert x abhängt. Diese Wahrscheinlichkeiten werden dann in die Inzidenzmatrizen I(x k ) (eine Matrix pro Eingabewert) eingetragen. z i z j z 1 z 2... z n z 1 p(x k ) 11 p(x k ) 12 p(x k ) 1n z 2 p(x k ) 21 p(x k ) 22 p(x k ) 2n : : : : = I(x k ) z n p(x k ) 1n p(x k ) 2n p(x k ) nn Theoretische Informatik I Automatentheorie 16 Nischwitz/Vogt

17 Blumenautomat : Inzidenzmatrizen Ableitung der Inzidenzmatrizen I (eine Matrix für jeden Eingabewert): 1. Für jeden Zustand z i den Folgezustand z J bei diesem Eingabewert feststellen. 2. Das entsprechende Matrixelement i ij wird mit 1 und der zugehörigen Ausgabe markiert. z i z J z 3 z 2 z 1 z i z J z 3 z 2 z 1 z 3 0 1,y z 3 1,y z ,y 1 0 = I(x 1 ) z 2 0 1,y = I(x 2 ) z ,y 1 z ,y ,y ,y 2 z i z J z 3 z 2 z 1 z 3 1,y z 2 0 1,y = I(x 3 ) z ,y ,y 3 Theoretische Informatik I Automatentheorie 17 Nischwitz/Vogt

18 Technische Realisierung von Automaten Rückkopplungsschleife z z 1. Schaltnetz Speicher z 2.Schaltnetz x z + x y Erklärung: 1. Schaltnetz: Übergangsschaltnetz oder "next state decoder" Aus der Eingabe x und dem Zustand z wird der Folgezustand z + abgeleitet. 2. Schaltnetz : Ausgabe- (Ausgangs-) Schaltnetz "output decoder" Aus den Variablen x und z wird die Ausgangsvariable y abgeleitet. Theoretische Informatik I Automatentheorie 18 Nischwitz/Vogt

19 Erkennende, endliche Automaten Die Fragestellung bei einem Automaten mit Ausgabe lautet: Welche Ausgabe produziert der endliche Automat bei welcher Eingabe? Im Gegensatz dazu fragt man bei einem endlichen Automaten ohne Ausgabe (Senke): Führt eine Eingabe(folge) den Automaten in einen definierten Endzustand, d.h. wird eine Eingabe(folge) erkannt? Man spricht dann auch von erkennenden Automaten. Definition: Ein erkennender endlicher Automat ist ein 5-Tupel A = ( X, Z, Z E,, f z ) wobei: X = { x 1, x 2,..., x n } Eingabealphabet Z = {, z 1,..., z m } Zustandsmenge Z E = { z e1,..., z er } Z Menge der (zulässigen) Endzustände Z : Anfangszustand, wobei Z E f z : X x Z Z Zustandsfunktion Theoretische Informatik I Automatentheorie 19 Nischwitz/Vogt

20 Modell eines erkennenden Automaten Eingabeband x 1 x 7 x 5 x 3 x 4 x 2 Bewegung Lesekopf Interne Zustände, z 1,..., z n Im Zustandsdiagramm führt man zusätzlich folgende Notationen ein: Anfangszustand (mit Bedingung Z E ) Endzustand z e Z E Theoretische Informatik I Automatentheorie 20 Nischwitz/Vogt

21 Beispiel 1 Gegeben sei ein erkennender, endlicher Automat A durch: X = { a, b }, Z = {, z 1, z 2 }, Z E = { z 2 } sowie die Überführungsfunktion in Form des Zustandsdiagrammes: Zustand nach Eingabe Abarbeitung b a a b z 1 a a z 1 b a b a b a b b z 2 a a b b a b b z 2 b z 2 Theoretische Informatik I Automatentheorie 21 Nischwitz/Vogt

22 Beispiel 2 Gegeben sei ein erkennender, endlicher Automat durch: X = { 0, 1 }, Z = {, z e }, Z E = { z e } und die nebenstehende 0 1 Überführungsfunktion f z in Form einer Zustandstafel z e z e z e Frage: Was leistet der Automat, welche Eingaben führen in den zulässigen Endzustand? Eingabe Zustand nach Abarbeitung z e z e 1 z e Theoretische Informatik I Automatentheorie 22 Nischwitz/Vogt

23 Analyse versus Synthese von Automaten Zwei grundlegende Fragestellungen sind im Zusammenhang mit Automaten von Interesse: Wie verhält sich ein vorgegebener Automat Analyseproblem (bisherige Betrachtungsweise) Wie muß ein Automat für eine vorgegebene Aufgabe beschaffen sein Konstruktions- / Syntheseproblem Theoretische Informatik I Automatentheorie 23 Nischwitz/Vogt

24 Konstruktion eines Automaten - 1. Entwurf Aufgabe: Wie müssen die Zustandsmenge Z und die Überführungsfunktion f z definiert werden, damit bei X = { a, b } genau solche Eingaben auf den (einzigen) Endzustand z e Z führen, in denen zwei aufeinanderfolgende a oder b vorkommen? Bemerkung: Es ist nicht bekannt, wieviele Zustände notwendig sein werden. Entwurf: a z 1 a z e a b b z 2 b Fehler: Die Bedingung X x Z Z ist in z 1 und z 2 nicht erfüllt, es gehen keine Kanten mit der Bewertung b von z 1 bzw. mit der Bewertung a von z 2 aus. Hier kann aa oder bb nur am Anfang einer Eingabe stehen. Theoretische Informatik I Automatentheorie 24 Nischwitz/Vogt

25 Konstruktion eines Automaten - 2. Entwurf Richtiger, vollständiger Entwurf: a z 1 a a b a b z e b b z 2 Die (Teil-)Folge aa oder bb kann nun am Anfang, in der Mitte, oder am Ende des Eingabewortes erkannt werden. Wichtige Forderung: In jedem einzelnen Zustand müssen alle Eingabemöglichkeiten, also alle Elemente der Eingabemenge berücksichtigt werden. Theoretische Informatik I Automatentheorie 25 Nischwitz/Vogt

26 Konstruktion eines Automaten - 2. Beispiel Aufgabe: Es soll ein endlicher Automat entworfen werden, der für X = { a, b, c } ausgehend von genau nach Eingabe von abc, abcabc, abcabcabc,... in einen Endzustand gelangt. Entwürfe: c a) z a 1 z b 2 falsch, u.a. da Z E b) a noch unvollständig c) a a b c a b c z 1 b z 2 c z e a b c z 1 z 2 z a c e a b b c z 3 vollständig richtig! Bemerkung: aus z 3 ist der Endzustand z e nicht mehr erreichbar Theoretische Informatik I Automatentheorie 26 Nischwitz/Vogt

27 Der endliche Automat als Akzeptor Sei X* die Menge der Wörter über dem Eingabealphabet X. Die Zustandsfunktion f z : X x Z Z läßt sich kanonisch fortsetzen zu einer Funktion f z * : X* x Z Z f z * (x 1 x 2... x n, z) = f z (x n, f z (x n-1,..., f z (x 2, f z (x 1, z))...) indem die sukzessiven Zustandsübergänge des Automaten bei aufeinanderfolgender Eingabe von x 1, x 2,..., x n genommen werden. Insbesondere interessiert uns, in welchen Zustand der Automat ausgehend vom Startzustand bei einem Eingabewort x X* übergeht. Definition: Sei A = ( X, Z, f z,, Z E ) ein endlicher Automat und x X * ein Eingabewort. Der Automat A akzeptiert (oder erkennt) x, wenn f z * (x, ) Z E, d.h. wenn A bei der Verarbeitung von x in einen Endzustand übergeht. Theoretische Informatik I Automatentheorie 27 Nischwitz/Vogt

28 Sprache eines endlichen Automaten Definition: Die Menge aller Eingabewörter x X*, die ein endlicher Automat A = ( X, Z, f z,, Z E ) akzeptiert, heißt die Sprache L(A) von A, also L(A) = {x X* f z * (x, z o ) Z E } Bisherige Beispiele: a) L(A) = { x {a,b}* x endet mit bb} b) L(A) = { x {0,1}* x enthält eine ungerade Zahl von EINSen } c) L(A) = { x {a,b}* x enthält aa oder bb } d) L(A) = { x {a,b,c}* x ist eine Verkettung von abc } Satz: Die Sprache L(A) X* eines endlichen Automaten kann eine endliche oder unendliche Menge sein. Satz: Es gibt (jede Menge) Teilmengen von X*, die nicht Sprache L(A) eines endlichen Automaten sind. Theoretische Informatik I Automatentheorie 28 Nischwitz/Vogt

29 Eine interessante Sprache Notation: x = a... a b.... b = a m b n z. B. x = aaaaabbb = a 5 b 3 m n Gegeben sei X = { a, b } und die Sprache L = { x x = a m b m, m N }. Aufgabe: Konstruiere einen Automaten, der diese Sprache akzeptiert. Konstruktionsversuch: a b a b a b a b a b b b b b b a a a a a Theoretische Informatik I Automatentheorie 29 Nischwitz/Vogt

30 Pumping-Lemma für endliche Automaten Der folgende Satz ist unmittelbar einsichtig: Satz: Hat ein endlicher Automat n Zustände und besteht ein Eingabewort x aus p > n Zeichen, dann muß die durchlaufene Zustandsfolge einen Zyklus enthalten. Aus dem Satz folgt: Pumping-Lemma für endliche Automaten: Sei L die Sprache eines endlichen Automaten. Dann gibt es eine Konstante n, so daß sich jedes Wort z L der Länge z > n schreiben läßt als z = u v w, mit u v n und v > 1, so daß für alle i > 0 auch u v i w L. Folgerung: Die Sprache L = { x x = a m b m, m N } ist nicht Sprache eines endlichen Automaten. Theoretische Informatik I Automatentheorie 30 Nischwitz/Vogt

31 Nichtdeterministische Automaten Deterministischer Automat: f z : X x Z Z, d.h. zu jedem Tupel (x i, z i ) gibt es genau einen Folgezustand. Nichtdeterministischer Automat: Bei gegebenem Eingabezeichen und Zustand kann der Automat in verschiedene Zustände übergehen, d.h. es ist kein eindeutiger Folgezustand gegeben. Beispiel: X = { 0, 1 } Z = {, z 1, z 2, z 3 } Z E = { z 3 } 0 0,1 0,1 0,1 z 1 z 2 z 3 0,1 z 4 0,1 (nicht determiniert für (,0)) Übergangsrelation : { ( 0,, ), ( 0,, z 1 ), ( 1,, ), ( 0, z 1, z 2 ), X x Z x Z ( 1, z 1, z 2 ), ( 0, z 2, z 3 ), ( 1, z 2, z 3 ), ( 0, z 3, z 4 ), ( 1, z 3, z 4 ), ( 0, z 4, z 4 ), ( 1, z 4, z 4 ) } Theoretische Informatik I Automatentheorie 31 Nischwitz/Vogt

32 Nichtdeterministischer endlicher Automat Definition: Ein nicht-deterministischer, erkennender endlicher Automat ist ein 5-Tupel A = ( X, Z, Z E, S, f z ), X = { x 1, x 2,..., x n } Eingabealphabet Z = {, z 1,..., z m } Zustandsmenge Z E = { z e1,..., z er } Z Menge der (zulässigen) Endzustände S Z Menge der Anfangszustände f z : X x Z P(Z) \ Zustandsfunktion (P(Z) ist die Potenzmenge von Z) Die Zustandsfunktion kann fortgesetzt werden zu einer Funktion f z * : X* x P(Z) P(Z) indem man für Z' Z und x X*, x = x i x' rekursiv definiert: U f z * (Λ, Z') = Z', f z * (x i x', Z') = f z * (x', f z (x i, z)) z Z' Theoretische Informatik I Automatentheorie 32 Nischwitz/Vogt

33 Sprache eines nichtdeterministischen Automaten Definition: Die Sprache L(A) eines nichtdeterministischen Automaten A ist die Menge von Eingabewörtern x, für die es, ausgehend von einem Startzustand, eine Folge von Zuständen gibt, die in einem erlaubten Endzustand endet. Formal: L(A) = {x X* f z * (x, S) Z E } Bemerkungen: Ein deterministischer Automat ist schneller bei der Überprüfung, ob x L(A) ist. Anwendung: Compiler, Mustererkennung (pattern matching). Ein nichtdeterministischer Automat ist platzsparender. Theoretische Informatik I Automatentheorie 33 Nischwitz/Vogt

34 Äquivalenzsatz für endliche Automaten Satz: Zu jedem nichtdeterministischen endlichen Automaten gibt es einen deterministischen endlichen Automaten, der dieselbe Sprache akzeptiert. Beweis: Sei A = ( X, Z, Z E, S, f z ) ein nicht-deterministischer endlicher Automat. Wir definieren einen deterministischen endlichen Automaten, dessen Zustände alle Teilmengen von Z sind: A' = ( X, P(Z), Z E ', z o, f z ') wie folgt: z o = S, Z E ' = {Z' P(Z) Z' Z E }, f z ' (x, Z') = U f z (x, z) = f z * (x, Z') für Z' P(Z) z Z' Dann gilt für alle x = x 1 x 2... x r X*: x L(A) f z * (x, S) Z E es gibt Folge von Teilmengen Z 1, Z 2,..., Z r von Z mit f z ' (x 1, S) = Z 1, f z ' (x 2, Z 1 ) = Z 2,..., f z ' (x r, Z r-1 ) = Z r und Z r Z E f z ' * (x, S) Z E ' x L(A') Theoretische Informatik I Automatentheorie 34 Nischwitz/Vogt

35 Minimierung von Automaten Ein kleinster Automat (d.h. einer mit einer minimalen Anzahl von Zuständen), der ein gegebenes Verhalten zeigt, wird als minimaler Automat bezeichnet. Definition: Äquivalenz zweier Automaten Zwei Automaten A 1, A 2 heißen äquivalent, wenn sie a) als übersetzende Automaten das gleiche Ein-Ausgabe-Verhalten haben b) als erkennende Automaten die gleiche Sprache akzeptieren. Definition: Minimale Automaten Ein Automat heißt minimal, wenn es keinen äquivalenten Automaten mit weniger Zuständen gibt. Theoretische Informatik I Automatentheorie 35 Nischwitz/Vogt

36 Konstruktion minimaler Automaten (1) Bei fast allen Automatentypen gibt es zu einem Automaten mehrere verschiedene, äquivalente minimale Automaten. Bei deterministischen endlichen Automaten ist der minimale Automat eindeutig bestimmt und läßt sich nach folgenden Regeln konstruieren: Regeln: 1. Entferne alle Zustände, die vom Anfangszustand aus nicht erreichbar sind. 2. Fasse äquivalente Zustände zu einem Zustand zusammen. Dabei sind zwei Zustände z und z' äquivalent, wenn für alle Wörter x X* gilt: f z * (x, z) Z E f z * (x, z') Z E Die nächste Folie beschreibt einen Algorithmus zur Bestimmung äquivalenter Zustände. Theoretische Informatik I Automatentheorie 36 Nischwitz/Vogt

37 Konstruktion minimaler Automaten (2) Der Algorithmus zum Auffinden äquivalenter Zustände basiert darauf, rekursiv Paare von Zuständen zu finden, die nicht äquivalent sind, und diese zu markieren. Die am Ende nicht markierten Zustände sind äquivalent. Eine mögliche Darstellung der Zustandspaare ist z.b.: z 3 z 2 z 1 z 3 z 2 z 1 1. Markiere alle Paare aus einem Endzustand und einem Nicht-Endzustand. 2. Überprüfe für jedes nicht markierte Paar von Zuständen (z i,z k ), ob für eines der Eingabezeichen x n das Zustandspaar (f z (x n,z i ),f z( x n,z k )) markiert ist. Falls ja, markiere das Paar (z i,z k ). 3. Wiederhole 2. bis sich keine Änderung mehr ergibt. Jedes nicht markierte Paar besteht aus zwei äquivalenten Zuständen. Theoretische Informatik I Automatentheorie 37 Nischwitz/Vogt

38 Minimierung endlicher Automaten - Beispiel Beispiel: Gegeben sei ein erkennender endlicher Automat A = ( X, Z, f z,, Z E ) durch: X = { 0, 1 }, Z = { A, B, C, D, E, F, G }, = { A }, Z E = { C, E } f z : 0 1 B 1 C 0 F A D 1 E 1 G Minimalversion : F, G sind nicht erreichbar B ist äquivalent zu D, C zu E 0 A 1 0,1 B C 1 Theoretische Informatik I Automatentheorie 38 Nischwitz/Vogt

39 Grenzen endlicher Automaten Wir haben gesehen, daß es Sprachen gibt (sogar sehr einfache), die nicht von einem endlichen Automaten erkannt werden, z.b. L = { x x = a m b m, m N } Auch die nicht-deterministischen endlichen Automaten erweitern nicht die Klasse der Sprachen endlicher Automaten. Das Problem liegt darin, daß ein endlicher Automat kein Gedächtnis hat: er merkt sich z.b. nicht, wieviele a's schon aufgetreten sind. Wir suchen also nach einer Klasse von Automaten mit einer gewissen Speicherfähigkeit. Theoretische Informatik I Automatentheorie 39 Nischwitz/Vogt

40 Modellvorstellung eines Kellerautomaten Ein Kellerautomat ist ein endlicher Automat erweitert um einen Keller (Stack): Eingabeband x i Modell: Lese-Kopf interne Zustände S/L-Kopf k n Speicherband Erklärung: Mit Hilfe des Kellers kann der Automat sich beliebig viele Zeichen "merken". Zustandsübergänge sind auch abhängig vom zuletzt gemerkten Zeichen. Dabei werden entweder ein oder mehrere neue Zeichen oben auf den Keller gelegt, oder das oberste Zeichen wird vom Speicherband heruntergenommen und "vergessen". Theoretische Informatik I Automatentheorie 40 Nischwitz/Vogt

41 Definition eines Kellerautomaten Definition: Ein Kellerautomat ist ein 7-Tupel KA = ( X, Z, K,, k 0, Z E, f K ), wobei X = { x 1, x 2,..., x n } Eingabealphabet Z = { z 1, z 2,..., z m } Zustandsmenge Z Anfangszustand K = { k 1, k 2,..., k r } Kelleralphabet k 0 K unterstes Kellerzeichen Z E Z Menge der (zulässigen) Endzustände f K : ( X {Λ }) x Z x K P e (Z x K*) Überführungsfunktion (Λ = leeres Wort, P e bezeichne die Menge der endlichen Teilmengen) Bemerkungen: Die Definition beschreibt einen nicht-deterministischen Kellerautomaten. Der Kellerautomat heißt deterministisch, wenn die Mengen f K (x i,z k,k l ) f K (Λ,z k,k l ) für alle x i, z k und k l einelementig sind. Bei nicht-deterministischen Kellerautomaten wird bei der Definition gelegentlich darauf verzichtet, die Spezifikation einer Menge Z E von Endzuständen zu verlangen. Theoretische Informatik I Automatentheorie 41 Nischwitz/Vogt

42 Interpretation der Überführungsfunktion Die Überführungsfunktion gibt abhängig von dem momentanen Eingabezeichen, dem momentanen Zustand und dem obersten Kellerzeichen an, in welchen Zustand der Automat übergeht und welches Kellerwort das oberste Kellerzeichen ersetzt. Im nicht-deterministischen Falle sind dabei Folgezustand und / oder neues Kellerwort nicht eindeutig bestimmt. Spezialfälle der Ersetzung des obersten Kellerzeichens sind: Ersetzen mit dem leeren Wort Λ: Löschen des obersten Zeichens (POP-Operation) Abhängig vom obersten Zeichen k x Ersetzen mit k i k (PUSH k x i ) Daß f K auch für (Λ, z, k) definiert ist bedeutet, daß unabhängig vom Eingabezeichen eine "spontane" Änderung des Zustandes mit Ersetzen des obersten Kellerzeichens möglich ist (aber ohne Bewegen des Eingabebandes). Theoretische Informatik I Automatentheorie 42 Nischwitz/Vogt

43 Arbeitsweise eines Kellerautomaten Am Anfang befindet sich der KA im Zustand, der Lese-Kopf über dem linken Zeichen des Eingabewortes x, der Schreib-Lese-Kopf über dem untersten Kellerfeld mit dem Inhalt k 0. Wenn sich im Lauf der Abarbeitung von x unter dem Lese-Kopf das Zeichen x i, unter dem SL-Kopf das Zeichen k h befindet und der Kellerautomat im Zustand z J ist, so geschieht folgendes : 1. Ist f K (x i, z J, k h ) = f K (Λ, z J, k h ) =, so bleibt der Automat stehen. 2. Ist (z r, k ) f K ( x i, z J, k h ), so kann der Kellerautomat in den Zustand z r übergehen, k h wird ersetzt durch k K*, das Eingabeband wird um ein Feld nach links bewegt und der SL-Kopf über das letzte Zeichen von k positioniert (bzw. für k = Λ um ein Feld nach unten bewegt, sofern nicht schon am Kellerboden). 3. Ist (z r, k ) f K ( Λ, z J, k h ) wird wie bei 2. vorgegangen, aber das Eingabeband nicht bewegt. 4. Beim Versuch, das Kellerbodenzeichen zu entfernen, bleibt der Kellerautomat stehen. Theoretische Informatik I Automatentheorie 43 Nischwitz/Vogt

44 Sprache eines Kellerautomaten Definition: Ein Eingabewort x X* wird von einem Kellerautomaten akzeptiert, wenn der Kellerautomat nach Abarbeiten von x in einem Endzustand ist und der Keller leer ist (bzw. im nichtdeterministischen Fall: wenn es eine Abarbeitungsfolge gibt, die dies erreicht). Definition: Die Sprache L(KA) eines Kellerautomaten KA ist die Menge der von ihm akzeptierten Wörter x X*. Bemerkung: Für nicht-deterministische Kellerautomaten ist es äquivalent, das Akzeptieren eines Wortes durch Erreichen eines Endzustandes zu definieren oder dadurch, daß der Keller leer ist (oder beides). Für deterministische Kellerautomaten ist dies nicht der Fall. Theoretische Informatik I Automatentheorie 44 Nischwitz/Vogt

45 Deterministische vs. nichtdeterministische Kellerautomaten Satz: Es gibt nicht-deterministische Kellerautomaten, deren Sprache nicht Sprache eines deterministischen Kellerautomaten ist. Beispiel: Die Sprache L = {a 1 a 2... a n a n... a 2 a 1 ; a i {0,1} } wird von einem nicht-deterministischen, jedoch von keinem deterministischen Kellerautomaten erkannt. Im Gegensatz zu den endlichen Automaten ist also bei den Kellerautomaten die Klasse der von nicht-deterministischen Kellerautomaten erkannten Sprachen echt größer als die der Sprachen, die von deterministischen Kellerautomaten erkannt werden. Theoretische Informatik I Automatentheorie 45 Nischwitz/Vogt

46 Kellerautomat - 1. Anwendungsbeispiel Syntaktische Analyse von Programmiersprachen, z.b. erkennender Automat für korrekt geklammerte arithmetische Ausdrücke. Das Eingabeband enthält den zu überprüfenden arithmetischen Ausdruck.... a + ( a - b ) * a... Eingabeband L-K : "(" eine "(" wird in den Keller geschrieben, ( und der SL-Kopf ein Feld nach oben bewegt. SL-K ( ")" die zuletzt geöffnete Klammer wird abgearbeitet und k 0 der SL-Kopf ein Feld nach unten bewegt. Wenn der arithmetische Ausdruck abgearbeitet ist, muß der Keller bis auf k 0 leer sein. Fehlermöglichkeiten: Mehr "(" als " )", d.h. der Keller ist nicht leer. Mehr ")" als "(", d.h. Versuch k 0 zu löschen. Theoretische Informatik I Automatentheorie 46 Nischwitz/Vogt

47 Kellerautomat - 2. Anwendungsbeispiel Ein Kellerautomat, der die Sprache L(KA) = { x x = a n b n, n N } erkennt, wird definiert durch: X = { a, b }, Z = { z 1, z 2, z 3, z F }, = z 1, z E = { z 3 }, K = { k, a } f K : f K ( a, z 1, k ) = ( z 1, ak ) f K ( b, z 1, k ) = ( z F, k ) f K ( a, z 1, a ) = ( z 1, aa ) f K ( b, z 2, k ) = ( z F, k ) f K ( b, z 1, a ) = ( z 2, Λ ) f K ( a, z 2, * ) = ( z F, * ) f K ( b, z 2, a ) = ( z 2, Λ ) f K ( *, z F, * ) = ( z F, * ) f K (Λ, z 2, k ) = ( z 3, k ) ( künstlich in Endzustand bringen) Eingabeband Zustand Speicherband a a a b b b Λ z 1 k Λ Λ Λ Λ Λ a a a b b b Λ z 1 k a Λ ΛΛΛ a a a b b b Λ z 1 k a a Λ Λ Λ a a a b b b Λ z 1 k a a a Λ Λ a a a b b b Λ z 2 k a a Λ Λ Λ a a a b b b Λ z 2 k a Λ Λ Λ Λ a a a b b b Λ z 2 k Λ Λ Λ Λ Λ a a a b b b Λ z 3 k Λ Λ Λ Λ Λ Theoretische Informatik I Automatentheorie 47 Nischwitz/Vogt

48 Grenzen von Kellerautomaten Auch mit Kellerautomaten lassen sich nicht alle Sprachen erkennen. Eine Sprache, die von keinem Kellerautomaten erkannt wird ist L = { a n b n c n ; n > 1 } Dies folgt aus dem Pumping-Lemma für Kellerautomaten: Sei L die Sprache eines Kellerautomaten. Dann gibt es eine Konstante n, so daß sich jedes Wort z L der Länge z > n schreiben läßt als z = uvwxy, vx > 1, und so daß für alle i > 0 auch uv i wx i y L. Der Beweis hierfür wird nicht im Rahmen der Automatentheorie geführt, sondern in der Theorie der formalen Sprachen. Die Einschränkungen der Kellerautomaten beruhen auf der Art der Verwendung des Speicherbandes: Nur das oberste Kellerelement ist im Zugriff. Das Speicherband wird nach jeder Bewegung nach unten gelöscht. Theoretische Informatik I Automatentheorie 48 Nischwitz/Vogt

49 Modellvorstellung einer Turingmaschine Turingmaschinen sind ein universelles Automatenmodell, das 1936 von Alan M. Turing ( ) eingeführt wurde. Er verwendete es für seine Betrachtungen über die Berechenbarkeit von Problemen. Aufbau einer Turingmaschine (Modell) unendliches SL - Kopf Arbeitsband L H R interne Zustände Im Gegensatz zu Kellerautomaten gibt es keinen Unterschied mehr zwischen Eingabe- und Speicherband. Theoretische Informatik I Automatentheorie 49 Nischwitz/Vogt

50 Definition einer Turingmaschine Definition: Eine Turingmaschine ist ein 6-Tupel T = ( X, Z, B,, Z E, u ) wobei X = { x 0, x 1,..., x r } Menge der Bandzeichen, Bandalphabet Z = {, z 1,..., z n } Menge der internen Zustände B = { R, L, H } Menge der Kopfbewegungen Z Anfangszustand Z E Z Menge der (zulässigen) Endzustände u : (X Λ) x Z (X Λ) x Z x B Überführungsfunktion (Λ = leeres Zeichen, Blank) Für eine nicht-deterministische Turingmaschine definieren wir die Überführungsfunktion wie folgt: u : (X Λ) x Z P((X Λ) x Z x B) Theoretische Informatik I Automatentheorie 50 Nischwitz/Vogt

51 Arbeitsweise einer Turingmaschine Zu Beginn befindet sich die Turingmaschine T im Anfangszustand Z und der Schreib- Lese-Kopf über dem ersten (linkesten) Zeichen des Eingabewortes. Die Überführungsfunktion bestimmt abhängig vom unter dem SL-Kopf stehenden Bandzeichen x i und dem aktuellen Zustand z J welches Zeichen x k anstelle von x i aufs Band geschrieben wird, den Folgezustand z L, die Kopfbewegung ( R = ein Feld nach rechts, L = ein Feld nach links, H = keine Bewegung ). T durchläuft auf diese Weise eine Reihe derartiger Schritte. Die Turingmaschine hält an, wenn sie einen Endzustand z i Z E erreicht. Die Überführungsfunktion u entspricht einem einfachen Maschinenprogramm mit minimalem Befehlsvorrat. Theoretische Informatik I Automatentheorie 51 Nischwitz/Vogt

52 1. Beispiel einer Turingmaschine X = { 0, 1 }, Z = {, z 1 }, Z E = { z 1 } u: Maschinentafel Gesucht ist eine Turingmaschine, deren SL-Kopf 0 1 auf einem Feld mit 1 stehend nach rechts das 1z 1 H 1 R erste Feld sucht, das eine 0 enthält, in dieses z 1 0z 1 H 1z 1 H Feld eine 1 schreibt, und darüber stehen bleibt. Bandbeschriftung: / / / / z 1 /1 0 Halt Theoretische Informatik I Automatentheorie 52 Nischwitz/Vogt

53 2. Beispiel einer Turingmaschine Die folgende Turingmaschine interpretiert eine Eingabe x {0,1}* als Binärzahl, addiert 1 hinzu und positioniert den Schreib-/Lesekopf wieder über dem most significant bit der Zahl: T = { {0,1}, {, z 1, z 2, z e }, {R,L,H}, { }, {z e }, u } u (, 0) = (, 0, R) u (z 1, 0) = (z 2, 1, L) u (, 1) = (, 1, R) u (z 1, 1) = (z 1, 0, L) u (, Λ) = (z 1, Λ, L) u (z 1, Λ) = (z e, 1, H) u (z 2, 0) = (z 2, 0, L) u (z 2, 1) = (z 2, 1, L) u (z 2, Λ) = (z e, Λ, R) Übung: Beschreiben Sie die einzelnen Schritte, die diese Turingmaschine bei der Eingabe 101 durchläuft. Theoretische Informatik I Automatentheorie 53 Nischwitz/Vogt

54 Sprache einer Turingmaschine Definitionen: Eine Turingmaschine T akzeptiert ein Wort x X*, wenn sie ausgehend von der Bandbeschriftung x nach endlich vielen Arbeitsschritten in einem Endzustand anhält (bzw. im nichtdeterministischen Fall: wenn es eine solche Folge von Arbeitsschritten gibt). Die von T akzeptierte Sprache L(T) X* ist die Menge aller von T akzeptierten Wörter. Satz (Zusammenhang zur Theorie der Sprachen und Grammatiken): Zu jeder Grammatik gibt es eine Turingmaschine, die die von dieser Grammatik erzeugte Sprache akzeptiert. Umgekehrt gibt es zu jeder Turingmaschine T eine Grammatik, die die von T akzeptierte Sprache erzeugt. Satz: Zu jeder nicht-deterministischen Turingmaschine gibt es eine deterministische Turingmaschine, die dieselbe Sprache akzeptiert. Theoretische Informatik I Automatentheorie 54 Nischwitz/Vogt

55 Das Halteproblem für Turingmaschinen Definition : Unter dem Halteproblem für Turingmaschinen versteht man die Frage nach der Existenz eines Algorithmus, mit dem man für jede Turingmaschine T und jede Bandbeschriftung x entscheiden kann, ob T bei der Bearbeitung von x nach endlich vielen Schritten anhält oder nicht. Satz: Das Halteproblem für Turingmaschinen ist nicht entscheidbar. Das heißt es gibt keinen Algorithmus, der für eine beliebige Turingmaschine, angesetzt auf irgendeine Bandbeschriftung, feststellt ( entscheidet ), ob die Turingmaschine anhält oder nicht. Theoretische Informatik I Automatentheorie 55 Nischwitz/Vogt

56 Turingberechenbarkeit + Church'sche These Die Bedeutung der Turingmaschinen bezüglich der Berechenbarkeit liegt in der 1936 von A. Church formulierten Church'schen These: Jede im intuitiven Sinne berechenbare Funktion ist Turing-berechenbar. Dabei bedeutet "im intuitiven Sinn", daß das Verfahren von einer genügend großen Zahl von Menschen als berechenbar anerkannt wird. Dies ist keine mathematische Formulierung, und somit kann die Church'sche These auch nicht mathematisch bewiesen werden. Sie konnte aber bislang auch nicht widerlegt werden,denn anschaulich besagt die Church'sche These: Zu jedem algorithmischen Verfahren (unabhängig von der Darstellungsart) läßt sich eine Turingmaschine konstruieren, die die gleiche Funktion berechnet. Weitere Möglichkeiten zur Präzisierung des Algorithmenbegriffs berechenbarer Funktionen: Registermaschinen, µ -rekursive Funktionen, formale Logik (Prolog) Theoretische Informatik I Automatentheorie 56 Nischwitz/Vogt

57 Linear beschränkte Automaten Die Definition einer Turingmaschine ging von einem unendlich langen Arbeitsband aus. Definition: Eine Turingmaschine heißt linear beschränkt (oder ein linear beschränkter Automat, LBA), wenn sie im Laufe ihrer Arbeit nie den Bereich des Arbeitsbandes verläßt, auf dem das Eingabewort steht. Bemerkung: Eine linear beschränkte Turingmaschine muß eine Möglichkeit haben, das Ende des Eingabewortes zu erkennen. Satz: Die Menge der von nicht-deterministischen, linear beschränkten Automaten akzeptierten Sprachen ist genau die Menge der kontextsensitiven Sprachen. (vgl. Kapitel formale Sprachen ) LBA-Problem: Es ist bis heute nicht bekannt, ob es zu jedem nicht-deterministischen LBA einen deterministischen LBA gibt, der dieselbe Sprache akzeptiert. Theoretische Informatik I Automatentheorie 57 Nischwitz/Vogt