Theoretische Informatik

Transkript

1 Theoretische Informtik Mrkus Klemm.net SS 2014 Inhltsverzeichnis 1 Automten und formle Sprchen Reguläre Sprchen Deterministische ndliche Automten (Deterministic Finite Automte, DFA) Nichtdeterministische endliche Automten (NFA) Reguläre Ausdrücke Nichtreguläre Sprchen Kontextfreie Sprchen Kellerutomten (PDAs) Kontextfreie Grmmtiken PDAs und kontextfreie Grmmtiken L-Systeme Teil Berechenrkeit und Komplexität ntscheidrkeit Komplexitätstheorie Die Klssen P und NP NP-vollständige Proleme Automten und formle Sprchen Definition in Alphet Σ ist eine endliche Menge, die nicht leer ist. Mit Σ ezeichnen wir lle lemente (Wörter), die sich durch Zusmmenfügen von Symolen us Σ ilden lssen. Die Länge eines Wortes ist die Anzhl der Symole us denen es esteht. Ds leere Wort ezeichnen wir mit ɛ. Beispiel: Alphet Σ = {,, c}, Σ = {ɛ,,, c,, c,,, c, c, c, cc,,... } 1

2 Alphet Σ = {if, then, else, x, =, 0, 1,..., 9} Wörter: if x = 0 else x = 5, if else thn x Definition ine formle Sprche, üer ein Alphet Σ ist eine Teilmenge von Σ. Beispiel: Die Menge der Schlüsselwörter der Progrmmiersprche C (if,while,else,for,... ) ist eine formle Sprche üer dem Alphet {,..., z} Die Menge der syntktisch korrekten C-Progrmme ist eine formle Sprche. Diese lässt sich drstellen üer dem Alphet {,..., z, (, ), {, }, =,!, &,,, <, >, 0,..., 9} oder üer {if,else,for,do,while,goto,==,! =, <, >, <=, >=, <<, >>, &&,, &,,, 0,..., 9} Konktention von Wörtern Definition Für Wörter v, w ist vw die Konktention. Ds Wort w n ist die n fche Konktention von w. Dei ist w 0 = ɛ. Beispiel: (c) 3 = c c c Bemerkung: s gilt ɛ Σ, d Σ die Menge ller Wörter ist. 1.1 Reguläre Sprchen Motivtion: Suche nch einem Wort s in einem Text t. Niver Algorithmus: Wort s Zeichen für Zeichen mit t vergleichen, ei Mismtch eine Stelle weiterschieen. Lufzeit: O( s t ) (schlechte Lufzeit) Deterministische ndliche Automten (Deterministic Finite Automte, DFA) in Automt ist ein formles Modell, um formle Sprchen zu verreiten. in DFA esteht us endlich vielen Zuständen und Üergängen zwischen Zuständen. In jedem Schritt verreitet der DFA ein Zeichen und wechselt dei den Zustnd. Wenn sich der DFA dei in einem ndzustnd efindet, dnn kzeptiert der DFA die Folge der ereits verreiteten Zeichen (Wort).,c,,c strt c Dieser Automt kzeptiert lle Wörter üer Σ = {,, c}, die c enthlten. Dieser Automt eschreit dmit die formle Sprche ller Wörter, die c enthlten. Zur Drstellung von DFAs verwenden wir folgende grphische Nottion: c 2

3 Zustände: Strtzustände [Hier im Script:] strt ndzustände Üergänge Weiteres Beispiel: DFA, der lle Wörter kzeptiert, die uf enden. Defnition in DFA ist ein Tupel M = (Z, Σ, δ, z 0, ) Z: Menge der Zustände Σ: ingelphet δ : Z Σ Z: Üerführungsfunktion z 0 Z: Strtzustnd Z: ndzustände Beispiel Der DFA M, der lle Wörter kzeptiert, die c enthlten, lässt sich forml eschreien durch. M = ({z 0, z 1, z 2, z }, {,, c}, δ, z 0, {z }), woei δ durch folgende Telle gegeen ist: δ z 0 z 1 z 2 z z 1 z 1 z 1 z z 0 z 2 z 0 z c z 0 z 0 z z Definition Sei M = (Z, Σ, δ, z 0, ) ein DFA. Die erweiterte Üerführungsfunktion ˆδ : Z Σ Z von M ist definiert durch: { z für w = ɛ ˆδ(z, w) = ˆδ(δ(z, ), x) für w = x mit Σ, x Σ Die von M kzeptierte Sprche ist: L(M) = {w Σ ˆδ(z 0, w) } 3

4 1.1.2 Nichtdeterministische endliche Automten (NFA) in NFA ist eine Verllgemeinerung eines DFA. Während ein DFA für jedes Pr us Zustnd und gelesenem Zeichen genu einen Folgezustnd esitzt, esitzt der NFA elieig viele Folgezustände. z ine Möglichkeit, diesen Nichtdeterminismus zu verstehen, esteht drin, einen NFA ls Modell zulässiger Zustndsfolgen zu etrchten. Beispiel: NFA, der lle Wörter kzeptiert, die c enthlten:,,c,,c z strt 0 z 1 z c 2 z So wie eine Strßenkrte mögliche Wege eschreit, eschreit uch ein NFA mögliche Zustndsfolgen ei der Verreitung eines Wortes. Inesondere weiß der NFA nicht, welchen Folgezustnd er uswählen muss. in NFA lässt sich dher nicht unmittelr ls Progrmm implementieren. Die von einem NFA M kzeptierte Sprche L(M) esteht us llen Wörtern w Σ, für die M einen ndzustnd erreichen knn. Dei müssen Knten entsprechend der Zeichen der inge durchlufen werden. Beispiel (Fortsetzung) Für die inge w = ccc knn der NFA die Zustndsfolge z 0, z 0, z 0, z 0, z 0, z 0, z 1, z 2, z, z durchlufen. D der letzte Zustnd ein ndzustnd ist, wird w kzeptiert, d.h. w L(M). Für die inge cc git es zwei Zustndsfolgen, die zu z führen (z 0, z 0, z 0, z 0, z 1, z 2, z sowie z 0, z 1, z 2, z, z, z, z ). Dher gilt cc L(M). Für die inge git es dgegen keine Zustndsfolge, mit der ein ndzustnd erreicht werden knn. Drus folgt / L(M). ine lterntive Möglichkeit, den Nichtdeterminismus eines NFA zu verstehen, esteht drin, einen NFA ls Modell zu etrchten, ds prllele Berechnungen eschreit. Die durch einen NFA eschrieenen, möglichen Zustndsüergänge lssen sich dnn durch einen Berechnungsum drstellen.: 4

5 z 0 z 0 D es eine Folge von Berechnungen git, die zu einem ndzustnd führt, wird die inge kzeptiert. Für einen NFA lässt sich die Üerführungsfunktion definieren durch δ : Z Σ P(Z) woei z δ(z, ) edeutet: Wenn der NFA sich in Zustnd z efindet und ds Zeichen erhält, dnn knn er in den Zustnd z wechseln. Ferner esitzt ein NFA einen oder mehrere Strtzustände. Beispiel strt strt NFA, der die Sprche {, } kzeptiert. Umwndlung eines NFA in einen DFA s gilt: Für jeden NFA git es einen DFA, der die gleiche Sprche erkennt. Idee zu Umwndlung: Wir vereinigen mögliche Folgezustände des NFA zu einem Zustnd des DFA. z strt 0 z 2 strt z 1 z 3 strt {z 0, z 1 } {z 2, z 3 } DFA NFA Flls es für einen Zustnd z und ein Zeichen keinen Folgezustnd git (d.h. δ(z, ) = ), führen wir einen Fehlerzustnd ein, der nicht mehr verlssen werden knn. c c strt strt,,,c 5

6 Beispiel: Umwndlung des NFA,,c,,c z strt 0 z 1 z c 2 z in einen DFA.,c z c strt 0 {z 0, z 1 } {z 0, z 2 } {z 0, z } c,,c Der Zustnd {z 0, z } ist ein ndzustnd, weil er einen ndzustnd des NFA enthält. Alle Zustände die von {z 0, z } usgehen, enthlten z und sind dmit eenflls ndzustände. Diese können vereinigt werden, ohne die vom Automten erknnte Sprche zu verändern. D die Potenzmenge P(Z) der Zustndsmenge des NFA 2 z lemente enthält, knn der us einem NFA umgewndelte DFA im schlimmsten Fll 2 z viele Zustände enthlten. s ist möglich, dss sich drunter gleichwertige Zustände efinden, die zusmmengefsst werden können. Mit dem Algorithmus Minimlutomt knn us einem DFA ein Automt erzeugt werden, der die gleiche Sprche erkennt und der miniml ezüglich der Anzhl der Zustände ist (Minimlutomt). Je zwei Minimlutomten unterscheiden sich höchstens in der Benennung der Zustände. 1.2 Reguläre Ausdrücke Definition Sei Σ ein Alphet. in regulärer Ausdruck üer Σ sowie die durch erzeugte Sprche L() sind induktiv definiert: 1. ist ein regulärer Ausdruck L( ) =. 2. Für jedes Σ {ε} ist ein regulärer Ausdruck und L() = {}. 3. Für reguläre Ausdrücke 1, 2 sind ( 1 2 ), ( 1 2 ), (1 ) reguläre Ausdrücke und L( 1 2 ) = L( 1 ) L( 2 ), L( 1 2 ) = L( 1 )L( 2 ) (dei ist L( 1 )L( 2 ) = {w 1 w 2 w 1 L( 1 ), w 2 L( 2 )}) L(1 ) = (L( 1)) Um Klmmern zu spren, legen wir folgende Regeln für die Priorität der Opertoren fest: Die höchste Priorität esitzt der Opertor, gefolgt von Konktention, gefolgt vom Opertor. 6

7 Beispiel: ( ) ist ein regulärer Ausdruck und L(( ) ) = (L( )) = (L() L()) = ({} {}) = {, }. Stz Für jeden regulären Ausdruck git es einen NFA M mit L() = L(M) Beweis: Wir induzieren üer den Aufu regulärer Ausdrücke: Induktionsnfng: Für = ist M folgender NFA: strt Für = ist M der NFA: Für = ε ist M der NFA: strt strt Induktionsschritt: Seien 1, 2 reguläre Ausdrücke und nch Induktionsvorrussetzung M 1, M 2 NFAs mit L( 1 ) = L(M 1 ), L( 2) = L(M 2 ). Ferner seien M 1, M 2 DFAs mit L(M 1 ) = L(M 1 ), L(M 2) = L(M 2 ) 1 2 : Der NFA für 1 2 ist die Vereinigung von M 1, M 2, d ein NFA mehrere Strtzustände hen drf.,, strt strt 1 2 : Skizze zur Idee: z strt 0 z z strt z 0 z z strt 0 z z z 0 z 7

8 1 z strt 0 z z ε L( 1 ) strt strt z z + = [? = ε ] Stz Für jeden NFA M git es einen regulären Ausdruck mit L() = L(M). Ohne Beweis. Beispiel:, strt Sei M der NFA in regulärer Ausdruck mit L() = L(M) ist ( ). Definition Die Menge der regulären Sprchen ist die Menge der Sprchen, die von einem DFA erknnt werden. Folgerung us den isher ufgeschrieenen Sätzen: Die NFAs erkennen genu die regulären Sprchen. Die regulären Ausdrücke erzeugen genu die regulären Sprchen. Menge der regulären Sprchen = Sprchen, die von DFAs, NFAs oder von regulären Ausdrücken erknnt werden Menge ller Sprchen Lexer in Lexer ist ein Werkzeug, ds us einem regulären Ausdruck einen DFA erzeugt, der die gleiche Sprche erkennt. Dmit können Akzeptoren für Wörter ller Muster konstruiert werden. Areitsweise eines Lexers: regulärer Ausdruck NFA DFA 8

9 1.3 Nichtreguläre Sprchen Stz Die Sprche L = { n n n 0} ist nicht regulär. Beweis: Angenommen, L sei regulär. Dnn git es einen DFA M mit L(M) = L. Nch dem Lesen von n efindet sich M in einem von Z Zuständen. D es mehr Präfixe n ls Zustände git, folgt us dem Schufchprinzip: s git zwei verschiedene Wörter n 1, n 2, so dss sich M nch dem Lesen von n 1, zw. n 2 im gleichen Zustnd z efindet. strt n 1 n 2 z n 1 D M nch Annhme n 1 n 1 kzeptiert, gelngt M von z us, durch ds Lesen von n 1, in einen ndzustnd. Dnch kzeptiert M jedoch uch ds Wort n 2 1, Widerspruch, d n 1 n Kontextfreie Sprchen Kellerutomten (PDAs) in Kellerutomt (Pushdown Automton, PDA) esitzt gegenüer einem NFA zwei zusätzliche igenschften: in Kellerutomt knn den Zustnd wechseln, ohne ein ingezeichen zu lesen (ε-üergänge) in Kellerutomt esitzt einen Stck (oder Keller ezeichnet), in dem er eine unegrenzte Anzhl von Zeichen speichern knn. Der Stck ist eine LIFO (lst in, first out) Dtenstruktur. Ferner git es nur einen Strtzustnd, ws wegen der ε-üergänge keine inschränkung ist. Grpische Drstellung von PDAs: Wir erweitern die Drstellung von NFAs um Stckopertionen. γ γ.., γ, γ z z.. Stck vorher in Üergng mit der Beschriftung, γ, γ edeutet: Stck nchher 9

10 Der PDA liest ds Zeichen der inge, entfernt ds oerste Stckzeichen γ und schreit γ uf den Stck. Jedes der Zeichen, γ, γ knn ε sein. Für = ε knn der PDA diesen Üergng usführen, ohne ein Zeichen der inge zu lesen. γ = ε knn der PDA diesen Üergng usführen, ohne ds oerste Stckzeichen zu entfernen γ = ε schreit der PDA kein Zeichen uf den Stck Dmit ein PDA einen leeren Stck erkennen knn, wird ds nde des Stcks mit dem unterstem Stckzeichen mrkiert. Zu Beginn jeder Rechnung enthält der Stck nur ds Zeichen. in PDA kzeptiert eine inge, wenn er mit dieser einen ndzustnd erreicht. Beispiel: in PDA, der die Sprche { n n n 1} kzeptiert. Für jedes gelesene wird dzu ein uf den Stck geschoen, für jedes gelesene ein vom Stck entfernt. Dnch muss der Stck leer sein., ε/, /ε, /ε ε, /ε strt z 1 z 2 z e Verhlten für die inge :

11

12 8. Verhlten für ε 12

13 Sckgsse in z 2 Verhlten für wird nicht kzeptiert, weil die inge nicht is zum nde gelesen werden knn (ein ist noch ürig) Im Folgenden erluen wir, dss ein PDA mehrere Zeichen uf den Stck schreit. Wir schreien, γ/γ 1... γ n, wenn der PDA zuerst γ n und zuletzt γ 1 uf den Stck schreit. γ 1 γ., γ, γ 1 z... γ n z. γ n. Stck vorher Stck nchher 13

14 Definition Die von einem PDA M kzeptierte Sprche L(M) ist die Menge ller w Σ, für die gilt: Der PDA M knn, usgehend vom Strtzustnd und dem initilen Stckinhlt, durch ds Lesen des Wortes w einen ndzustnd erreichen. Bemerkung: Die deterministischen PDAs (DPDAs) sind weniger leistungsfähig ls nichtdeterministische PDAs. Insesondere lssen sich PDAs nicht umwndeln in DP- DAs 1.5 Kontextfreie Grmmtiken Jede Grmmtik esitzt ein Strtsymol und rsetzungsregeln der Form linke Seite rechte Seite. Beginnend mit dem Strtsymol können diese Regeln solnge ngewendet werden, is keine Regel mehr nwendr ist. Bei einer kontextfreien Grmmtik muss die linke Seite eine Vrile sein. Beispiel: Wir etrchten eine Grmmtik, die us den Vrilen: Stz, Nominlphrse, Verlphrse, Artikel, Nomen, Ver sowie den Terminlzeichen: die, Ktze, Mus, jgdt esteht. Ds Strtsymol ist Stz, die Regeln sind Stz Nominlphrse Verlphrse Nominlphrse Artikel Nomen Ver jgt Artikel die Nomen Ktze Nomen Mus Verlphrse Ver Verlphrse Ver Nominlphrse Mögliche Aleitung: Stz Nominlphrse Verlphrse Artikel Nomen Verlphrse die Nomen Verlphrse die Ktze Verlphrse die Ktze Ver Nominlphrse die Ktze jgt Nominlphrse die Ktze jgt Artikel Nomen die Ktze jgt die Nomen die Ktze jgt die Mus Syntxum dzu: 14

15 Stz NP VP Artikel Nomen Ver NP die Ktze jgdt Artikel Nomen die Mus Definition ine kontextfreie Grmmtik ist ein Tupel G = (V, Σ, P, S), woei gilt: V ist die Menge der Vrilen oder Nonterminlzeichen Σ ist ds Alphet mit V Σ =. Die lemente us Σ heißen uch Terminlzeichen P ist die Menge der Regeln (oder Produktionen) der Form u v, woei u V, v (V Σ). S V ist ds Strtsymol Beispiel (Forts) Die Grmmtik lässt sich ls Tupel G = (V, Σ, P, S) drstellen, mit V = {Stz, Nominlphrse, Verlphrse, Ver, Artikel, Nomen}, Σ = {die,ktze,mus,jgt}, S = Stz und P wie oen. Wir schreien x y, wenn sich us x (V Σ) durch die Anwendung genu einer Regel y (V Σ) erzeugen lässt. Beispiel Definition (V Σ) ) Beispiel s gilt Stz Nominlphrse Verlphrse Artikel Nomen Verlphrse Die Reltion ist die reflexive und trnsitive Hülle der Reltion (uf s gilt Stz Stz Stz Artikel, Nomen, Verlphrse Stz die Ktze jgt die Mus 15

16 Definition Die von einer kontextfreien Grmmtik G erzeugte Sprche ist L(G) = {w Σ S w} Wenn in einer kontextfreien Grmmtik eine linke Seite durch verschiedene rechte Seiten ersetzt werden knn, verwenden wir ds Zeichen (oder), um Alterntiven nzugeen. Beispiel Die Grmmtik mit den Regeln S ε S SS S [S] können wir dmit kürzer drstellen durch S ε SS [S] Beispiel Durch die Grmmtik mit den Regeln S N S N 1S N... 9S N und dem Strtsymol S N können wir Zhlen us N 0 drstellen. Die Zhl 120 lässt sich leiten durch S N 1S N 12S N 120. Diese Regeln verwenden wir in einer weiteren Grmmtik, um rithmetische Ausdrücke zu erzeugen. Die Opertoren +,,, / sind inär, weshl vor und nch jedem Opertor ein rithmetischer Ausdruck stehen muss. Auf jede öffnende Klmmer muss eine schließende Klmmer folgen. Dmit erhlten wir die Grmmtik mit den Regeln. S S N (S ) S Op S und dem Strtsymol S. Der Ausdruck 2 (3 + 4) lässt sich leiten durch S S S S N S 2 S 2 (S ) 2 (S + S ) 2 (S N + S ) 2 (S N + S n ) 2 (3 + S N ) 2 (3 + 4) Definition ine Sprche L heißt kontextfrei, wenn es eine kontextfreie Grmmtik G git, mit L(G) = L. 16

17 1.5.1 PDAs und kontextfreie Grmmtiken Stz Kellerutomten (PDAs) kzeptieren genu die kontextfreien Sprchen. Beweis: 1. Für jeden PDA M git es eine kontextfreie Grmmtik G mit L(M) = L(G). Ohne Beweis. 2. Für jede kontextfreie Grmmtik G git es einen PDA M mit L(M) = L(G) Idee: M simuliert uf seinen Stck Aleitungen us der Grmmtik G. Wir konstruieren einen PDA M mit drei Zuständen wie folgt: Zuerst schreit M ds Strtsymol S uf den Stck und wechselt in einen weiteren Zustnd. In diesem Zustnd unterscheiden wir drei Fälle: Ds oerste Stckzeichen ist eine Vrile A. Wenn es eine Regel A γ in G git, knn M ds oerste Stckzeichen A durch γ ersetzen. ein Zeichen Σ, ds mit den nächsten Zeichen der inge üereinstimmt. Dnn wird vom Stck entfernt.. Dnn geht M in den ndzustnd üer. ε, A/γ strt ε, ε/s ε, /ε, /ε Beispiel Für die Sprche L = { n n n 0} konstruieren wir einen PDA M mit L(M) = L. L wird erzeugt von der Grmmtik mit den Regeln S S ε. Aus oigen Beweis erhlten wir den PDA. ε, S/S; ε, S/ε strt ε, ε/s ε, /ε, /ε;, /ε Verhlten für : 17

18 S S S S S Syntxnlyse Areitsweise eines Compilers if(x < 0 y < 0){... }else if... Lexer if ( ID < NUM OR ID < NUM ) {... } LS IF... Prser Syntxum Code-rzeuger Prser lssen sich in zwei Klssen unterteilen: Top-Down-Prser in Top-Down-Prser erzeugt einen Syntxum von oen nch unten. in Top-Down-Prser reitet wie ds Verfhren us dem Beweis zur Umwndlung einer kontextfreien Grmmtik in einen PDA. in Top-Down-Prser lässt sich durch rekursive 18

19 Prozeduren implementieren, von denen jede einer Regel der Grmmtik entspricht. Der Cllstck üernimmt die Funktion des Stck des PDA. Wir erluen dem Prser, die k nächsten Zeichen der inge zu sehen (lookhed von k), um dvon hängig eine Regel uszuwählen. Beim Verreiten der inge ut ein Top-Down-Prser implizit den Syntxum von oen nch unten uf. Beispiel: Prser für { n n n 0}, inge S() mtch( ) S() mtch( ) mtch( ) S() mtch( ) return true Der Cllgrph esitzt die gleiche Struktur wie der Syntxum. in Prser, der durch rekursive Funktionen einen Syntxum von oen nch unten ufut, heißt Recursive Descent Prser. Mehrdeutigkeit Definition ine Grmmtik G heißt mehrdeutig, wenn es ein w L(G) git, für ds zwei Aleitungsäume existieren. Beispiel: Die Grmmtik für rithmetische Ausdrücke mit den Regeln + / () x y z ist mehrdeutig, denn der Ausdruck x + y z esitzt zwei Aleitungsäume. + x + z y z x Auch wenn wir nur den Opertor - etrchten, ist die Grmmtik mehrdeutig, denn der Ausdruck x y z esitzt die Aleitungsäume: y 19

20 z x x y y z (x y) z x (y z) x y + z Mit oiger Grmmtik git es mehrere Proleme Sie erücksichtigt nicht die Priorität der Opertoren (Punkt vor Strich) Sie erücksichtigt nicht die Assozitivität der Opertoren Um ds Prolem der Priorität zu lösen, definieren wir eine Grmmtik, ei der sich Opertoren niedriger Priorität oen im Aleitungsum und Opertoren höherer Priorität weiter unten im Aleitungsum efinden müssen. Wir führen dzu eine Vrile T (Term) ein, us der Produkte geleitet werden können. Für die Produktionen us git es folgende Möglichkeiten: oder T + T T (1) T T + T (2) Sowohl mit (1) ls uch (2) ist gewährleistet, dss die Opertoren +, oen im Aleitungsum vorkommen. Mit (1) ist folgende Aleitung möglich. T T T entspricht (T T ) T, d.h. ist links-ssozitiv. Mit (2) ist folgende Aleitung möglich 20

21 T T T entspricht T (T T ), d.h. wäre rechtsssozitiv. Nur Grmmtik (1) erücksichtigt sowohl die Priorität ls uch die Assozitivität der Opertoren +, in korrekter Weise. ntsprechend definieren wir Regeln für T und erhlten: T + T T T T F T/F F F () x y z Diese Grmmtik ist eindeutig und erücksichtigt Priorität und Assozitivität der Opertoren. Der eindeutige Aleitungsum für x + y z ist + T T T F F F z x y Der Aleitungsum für x y z ist 21

22 T T T F F F z x y Bottom-up Prser in Buttom-up Prser ut einen Aleitungsum von unten nch oen uf. Diese lssen sich effizient relisieren durch LR-Prser. in LR-Prser liest die inge von links nch rechts und führt in jedem Schritt eine von vier möglichen Aktionen us: Shift: Ds nächste Zeichen der inge wird uf den Stck geschoen. Reduce: in oder mehrere Symole n der Spitze des Stcks entsprechen der rechten Seite γ einer Regel A γ und werden durch A ersetzt. Accept: Die inge wurde verreitet und der Stck enthält nur ds Strtsymol. rror: in Syntxfehler wird gemeldet. Um zu entscheiden, welche Aktion (Shift oder Reduce) uszuführen ist, verwendet der Prser eine Prsetelle. Beispiel Mit der eindeutigen Grmmtik von oen und der inge x + y + z führt ein LR-Prser folgende Aktionen us: 22

23 Stck ottom top Restliche inge Aktion x + y z s x +y z r F +y z r T +y z r +y z s + y z s + y z r + F z r + T z s + T z s + T z r + T F r + T r ccept Die vom Prser konstruierte Rechtsleitung lässt sich us den ersten eiden Splten von unten nch oen lesen. enso knn der Prser den Wert des Ausdrucks erechnen, wenn Zwischenwerte in den Symolen gespeichert werden. Zur Konstruktion von LR-Prsern werden Tools wie Ycc,Bison, Cup verwendet. Wenn wir die eindeutige Grmmtik für rithmetische Ausdrücke in einen Recursive Descent Prser üerführen wollen, stellen sich zwei Proleme: s ist nicht erkennr, welche Regel usgewählt werden soll Die Regel + T ist linksrekursiv. Diese führt zu einer endlosen Rekursion. Wir ruchen dher eine ndere Grmmtik. Mögliche Lösung: T + T T Dnn sind die Opertoren jedoch rechtsssozitiv, lso würde die Grmmtik flsche rgenisse erechnen. BNF (rweiterte Bckus-Nur-Form) Wir etrchten Aleitungen us : + T + T + T T + + T In BNF lässt sich dies drstellen durch T {+T } (lternt. Nottion: T (+T ) ) Dei edeutet {x}: elieig viele Vorkommen von x. Die Grmmtik für rithmetische Ausdrücke lässt sich in BNF wie folgt drstellen: T {+T T } 23

24 T F { F /F } F () Num Num Z{Z} Z Aus der Drstellung in BNF lssen sich Syntxdigrmme leiten: : F : Prolem: Aus der Drstellung in BNF oder den Syntxdigrmmen ist nicht ersichtlich, welche Assozitivität die Opertoren hen. Ohne weitere Annhmen (z.b: lle Opertoren linksssozitiv) ist diese Grmmtikeschreiung nicht eindeutig. Wir wollen nun eine eindeutige Grmmtik für Ausdrücke in Infix-Nottion konstruieren, die eindeutig und nicht linksrekursiv ist. T Til Til ε + T F T Til T Til ε T /T F () Num Num ZNum Til Num Til ε Num Z Beispiel: Aleitung des Ausdrucks

25 T Til F T Til + Num ε T Z Num Til F T Til 3 ε Num T Z Num Til F T Til 2 ε Num ε Z Num Til 4 ε L-Systeme ine Turtle esitzt eine Position in der ene und eine Orientierung. Zeichenefehle sind: forwrd(l) left(α) zw. right(α). Dreht die Turtle in 0L-System esteht, wie eine kontextfreie Grmmtik, us Vrilen, Terminlzeichen und Regeln: In jedem Aleitungsschritt müssen jedoch lle Vrilen ersetzt werden durch eine Regel. Beispiel: Koch-Kurve Vrilen: F 25

26 Terminlzeichen: +, Regeln: F F + F F + F 2 Teil Berechenrkeit und Komplexität ntscheidrkeit Ist es möglich, durch einen Algorithmus festzustellen, o ein Progrmm P eine estimmte igenschft esitzt. Progrmm P ntscheidungsverfhren j/nein igenschften können sein: Ds Progrmm P stürzt nicht Ds Progrmm P liefert immer eine Antwort Ds Progrmm P terminiert immer 1 for (k >= 3) 2 for (x,y, z := 1 to k) 3 for ( n = 3 to k) 4 if ( x^n + y^n = z^n) stop Dieses Progrmm sucht nch einen Gegeneispiel zu der von Fermt ufgestellten Behuptung (Fermts letzter Stz), dss die Gleichung x n + y n = z n keine Lösung in x, y, z N für n 3 esitzt. Dies wr üer Jhrhunderte ein ungelöstes Prolem. Offenr gilt: Ds Progrmm hält genu dnn wenn Fermts letzter Stz flsch ist. Weiteres Prolem: Ist es entscheidr o ein Progrmm P Hello World usgit? Progrmm P ntscheidungsverfhren j, git HW us/ nein Mn etrchte dzu ds Progrmm 1 void P() { 2 fermt (); 3 printf (" Hello World "); 4 } D P () genu dnn Hello World usgit, wenn fermt() terminiert, ist dieses Prolem mindestens so schwierig wie ds Hlteprolem. Um Berechenrkeit zu untersuchen, verwenden wir Progrmme uf einen strkten mit unegrenzten Speicher und Vrilen, die elieig große Werte nnehmen können, ls Berechnungsmodell. 26

27 Definition igenschft ine Sprche L heißt entscheidr, wenn es ein Progrmm P L git, mit der Für die inge w L liefert P L true Für die inge w / L liefert P L flse In Pseudocode 1 oolen P L (w) { 2 if (w L) return true ; 3 else return flse ; 4 } Üung: Zeigen Sie, dss folgende Sprchen entscheidr sind: Σ Die Sprche ller Plindrome {(M, w) M ist ein DFA mit w L(M))} {M M ist ein DFA mit L(M) = Σ }, z strt 1 z 2 δ z 1 z 2 z 2 z 2 z 1 z 2 ({z 1, z 2 }, z 1, {{z 2, z 2 }, {z 1, z 2 }}, {z 2 }) Die Srpche ist entscheidr durch ds Progrmm 1 oolen P (w) { 2 return flse ; 3 } Σ ist entscheidr durch ds Progrmm 1 oolen P Σ (w) { 2 return true ; 3 } Die Sprche ller Plindrome ist entscheidr durch 1 oolen P Plindrom (w) { 2 for ( i =1 to length ( w) /2 ) 3 if (w[i] w[ length (w) -i]) 4 return flse ; 5 return true ; 6 } 27

28 Die Sprche in {(M, w) M ist ein DFA mit w L(M))} ist entscheidr durch ds Progrmm 1 oolen P d ( DFA M,word w) { 2 return simmulte (M, w); 3 } woei simmulte(m,w) den DFA M für die inge w simuliert. Dies ist möglich (vgl. HA). {M M ist ein DFA mit L(M) = Σ } ist entscheidr durch 1 oolen P e ( DFA M ) { 2 return Minimlutomt (M) == M Σ ; 3 } strt woei M Σ der DFA HA: Ist {(M 1, M 2 ) L(M 1 ) = L(M 2 )} entscheidr Ds Hlteprolem Ds Hlteprolem ist forml die Sprche H = {(P, w) Ds Progrmm P hält für die inge w} Die Frge, o ein Progrmm P, gegeen ls Text, für eine inge w hält, ist dmit gleichwertig zu der Frge, o (P, w) H gilt. Um zu zeigen, dss H unentscheidr ist, zeigen wir zunächst: Stz Ds spezielle Hlteprolem K = {P Ds Progrmm P hält für die inge P } ist unentscheidr. Beweis: Angenommen, K ist entscheidr durch ein Progrmm P K. Drus konstruieren wir ein Progrmm P K, ds P K ls Unterprogrmm enutzt und ds in eine ndlosschleife üergeht, wenn P K true liefert hält, wenn P K flse liefert 28

29 true P P K flse P K Nch Konstruktion gilt dmit: Für die inge P hält P K genu dnn, wenn P K flse liefert. D P K nch Annhme die Sprche K entscheid, edeutet dies: Für die inge P hält PK genu dnn, wenn P nicht hält. D dies für elieige P gilt, können wir P = PK wählen. Dmit folgt: Für die inge PK hält P K genu dnn, wenn P K Widerspruch. nicht hält und dmit ein Weitere unentscheidre Proleme Mit der Untentscheidrkeit des speziellen Hlteprolems können wir die Unentscheidrkeit weiterer Proleme zeigen. Um zu zeigen, dss eine Sprche B nicht entscheidr ist, verwenden wir eine unentscheidre Sprche A. Wir zeigen, dss mit der Annhme, B sei entscheidr, ein ntscheidungsverfhren für A konstruieren lässt. Aus diesem Widerspruch folgt die Unentscheidrkeit von B. Stz H ist nicht entscheidr. Beweis: Angenommen H sei entscheidr. Dnn können wir folgendes Progrmm konstruieren, ds ds ngenommene ntescheidungsverfhren P H für H ls Unterprogrmm verwendet: 1 oolen P K ( Progrmm P ) { 2 return P H(P, P ) 3 } Dmit wäre er P K ein ntscheidungsverfhren für K, Widerspruch. Dmit folgt, dss uch die Progrmmverifiktion unentscheidr ist. 29

30 Stz Verify = {(P, S) Ds Progrmm erfüllt die Spezifiktion S} ist nicht entscheidr. Beweis: Angenommen Verify ist entscheidr durch ein Progrmm P verify. Dnn können wir ds Progrmm konstruieren. 1 oolen P H ( Progrmm P, Input w) { 2 return P verify(p, P hält für die inge w) 3 } ds dnn ein ntscheidungsverfhren für H ist, Widerspruch. Stz H ε = {P P hält für die inge ε} ist nicht entscheidr. Beweis: Sei wieder ngenommen, H ε sei entscheidr, durch ein Progrmm P Hε. 1 oolen P H ( Progrmm P, Input w){ 2 void F(){ 3 P(w) 4 } 5 return P Hε (F) 6 } Dnn ist P H er ein ntscheidungsverfhren für ds Hlteprolem, denn (P, w) H P hält für w F, hält für ε F H ε und dmit Widerspruch. Fst lle Proleme im Zusmmenhng mit Pro- Weitere unentscheidre Proleme grmmverifiktion, z.b. {P P verurscht eine Division durch 0 für eine inge } {P P verurscht einen Buffer-Overflow für eine inge } {(P 1, P 2 ) P 1 verhält sich wie P 2 } Mthemtische Proleme {F Die durch die Formel F usgedrückte Funktion ist x 0} {S S ist eine whre mthemtische Aussge } 2.2 Komplexitätstheorie Wir eschränken uns nun uf entscheidre Proleme und etrchten den Aufwnd zur Lösung dieser Proleme: 30

31 2.2.1 Die Klssen P und NP Für die O-Nottion gelten folgende Rechenregeln: O(f + g) = O(f) + O(g) O(f + g) = O(mx (f, g)) O(c f) = O(f) für eine Konstnte c > 0 O(f g) = O(f) O(g) Bei der Lufzeitmessung von Algorithmen verwenden wir ds uniforme Kostenmß, ei dem die Lufzeit ller inzelopertionen (wie Zuweisung, Vergleich, Addition) in O(1) liegt. Definition Die Komplexitätklsse P ist definiert durch P = k 1 {L L ist entscheidr durch ein Progrmm mit Lufzeit in O(n k )} woei n die Länge der inge ist. Beispiele: Folgende Sprchen liegen in P: Die Sprche ller Plindrome: Ds Progrmm 1 oolen P ( String w ) { 2 return w= reverse ( w) 3 } stellt für lle w Σ in der Zeit O( w ) fest, o w ein Plindrom ist. Dei seien reverse sowie = Funktionen mit linerer Lufzeit. Die Sprche { n n n 0}, d diese durch einen Rekursive Descent Prser in Zeit O(n) entschieden werden knn. Jede kontextfreie Sprche. s git einen Algorithmus der jede kontextfreie Sprche in Zeit O(n 3 ) entscheidet. Pfd = {(G, n 1, n 2 ) G ist ein Grph, in dem es einen Pfd von n 1 nch n 2 git }, woei G durch eine Adjzenzliste gegeen sei. Denn d die Adjzenzliste eines Grphen G = (V, ) mindestens V + lemente enthält, gilt für die Länge n der inge n V +. in ntscheidungsverfhren für Pfd ist eine in n 1 gestrtete Breitensuche mit Ziel n 2. Deren Lufzeit liegt in O( V + ). Aus V + n folgt: O( V + ) O(n). Dmit liegt die Lufzeit in des ntscheidungsverfhren in O(n), worus Pfd P folgt. 31

32 Ferner git es Sprchen, die nicht offensichtlich in P liegen. Wichtiges Beispiel: SAT = {F F ist eine erfüllre Formel der Aussgenlogik} z.b. gilt (x y) z SAT, x x / SAT Um für eine Formel F zu prüfen, o F SAT gilt, können wir lle 2 n Belegungen erzeugen und jeweils den Whrheitswert erechnen (n sei die Anzhl der Vrilen in F ). Die Lufzeit dieses ntscheidungsverfhren liegt in O(2 n f(n)), woei f(n) die Zeit ist, um den Whrheitswert zu erechnen. Wir können jedoch in polynomieller Zeit verifizieren, dss F SAT gilt, wenn eine erfüllende Belegung c F für F eknnt ist. Denn dzu muss ds ntscheidungsverfhren lediglich den Whrheitswert von F unter der Belegung c F erechnen, ws in der Zeit O( F ) möglich ist. Definition Die Komplexitätsklsse NP ist definiert durch NP = k 1 {L L ist verifizierr in Zeit O(n k )} woei n die Länge der inge ist. Beispiel: s gilt SAT NP, d mit einer erfüllenden Belegung für F in Zeit O( F ) verifiziert werden knn, o F SAT gilt. s gilt P NP, denn für jede Sprche L P git es ein ntscheidungsverfhren mit einer Lufzeit in O(n k ). Dies ist eenflls ein Verifizierungsverfhren ds kein Zertifikt verwendet. Uneknnt ist, o P = NP gilt. Die Klsse P wird etrchtet ls Klsse der effizient lösren Proleme. Gründe dzu: Die meisten Proleme in P lssen sich in Zeit O(n k ) mit einem kleinen k lösen. Diese Proleme sind dmit uch prktisch lösr NP-vollständige Proleme Die NP-vollständigen Proleme sind eine Klsse von Prolemen in NP, für die keine effizienten ntscheidungsverfhren eknnt sind. Alle eknnten Verfhren esitzen exponentielle Lufzeit. Die NP-vollständigen Proleme sind mindestens so schwierig wie jedes ndere Prolem in NP. s gilt: Wenn ein effizientes ntscheidungsverfhren für ein NP-vollständiges Prolem gefunden wird, dnn ist für jedes Prolem in NP ein effizientes ntscheidungsverfhren eknnt. Genuer: 32

33 Stz s gilt P = NP genu dnn, wenn es ein NP-vollständiges Prolem L mit L P git. Mn vermutet, dss P NP gilt, weil isher kein NP-vollständiges Prolem in P gefunden wurde. Sitution für P NP: P NP-v. NP ntscheidre Proleme Alle Sprchen Stz Ds rfüllrkeitsprolem der Aussgenlogik SAT = {F F ist eine erfüllre Formel der Aussgenlogik} ist NP-vollständig. Bemerkung: Ds schnellste eknnte Verfhren für SAT ht die Lufzeit O(1, 308 n p(n)), woei p ein Polynom ist. Anwendungen: Autokonfigurtion: Die estellren Konfigurtionen knn mn durch Regeln in Form von ussgenlogischen Formelen eschreien, z.b: Sportfhrwerk Leichtm (Motor 2.0 Motor 2.5 Motor 3.0) Alle derrtigen Formel werden mit verknüpft zu einer Formel F 1. Die Wünsche des Kunden lssen sich ls Formel F 2 eschreien. Die Kundenwünsche sind erfüllr, wenn F 1 F 2 erfüllr ist. 33

34 Vereinfchen von Schltkreisen Angenommen, es ist ein Referenzentwurf für einen Schltkreis vorhnden. Dieser ntwurf soll nun vereinfcht werden (weniger Gtter), um die Herstellungskosten zu senken. Um zu prüfen, o dieser Schltkreis gleichwertig zum Referenzentwurf ist, wird der Referenzentwurf durch eine Formel F R der Aussgenlogik, der vereinfchte Schltkreis durch eine Formel F S. Dnn muss F R F S eine Tutologie sein. Dies ist gleichwertig dmit, dss (F R F S ) unerfüllr ist. D.h., eide Schltkreise sind gleichwertig genu dnn, wenn (F R F S ) / SAT. Stz Ds Prolem Hmilton-Kreis = {G Der Grph G esitzt einen Hmiltonkreis } ist NP-vollständig. Verllgemeinerung dvon: Trveling Slesmn Prolem (TSP). Gegeen n Städte und Verindungen zwischen diesen Städten, gesucht ist eine kürzeste Rundreise durch lle Städte. Stz Ds Prolem T SP = {(M, k) M ist eine ntfernungsmtrix und es git eine Rundreise der Länge k} ist NP-vollständig. Bemerkung: Ds Prolem, eine kürzeste Rundreise zu erechnen, ist mindestens so schwierig wie oiges ntscheidungsprolem. Anwendungen: Pltine ohren: Um die Bohrzeit für eine Pltine zu minimieren, muss ein TSPfür die Bohrlöcher gelöst werden. Auf einer Fertigungsstrße sollen Produkte P 1,..., P n hergestellt werden. Dzu muss die Fertigungsstrße jeweils umgerüstet werden. Sei d ij der Zeitufwnd, um eine Fertigungsstrße die Produkt i herstellt, für Produkt j umzurüsten. Um eine Reihenfolge festzulegen, die die Summe der Rüstzeiten minimiert, muss ein TSP für die Mtrix (d ij ) gelöst werden Weiteres, ähnliches Prolem: Kürzester Hmiltonpfd Dieses Prolem ist eenflls NP-vollständig. Anwendung DNA-Sequenzierung ine DNA-Sequenz ist ein Wort üer dem Alphet {A, C, G, T }. Um eine DNA zu sequenzieren, wird diese in kleine Bruchstücke geschnitten, diese sequenziert, und us diesen Bruchstücken die ursprüngliche Sequenz rekonstruiert. Anstz dzu: Kürzeste gemeinsme Oersequenz (Shortest Common Supersequence) estimmen, d.h. eine kürzeste Sequenz finden, die lle Bruchstücke ls Teilwort enthält. Dzu wird nhnd der Üerlppung zweier Bruchstücke ein Astnd erechnet und dmit ein Short Common Superstring zw. kürzester Hmiltonpfd-Pfd-Prolem gelöst. 34

35 Beispiel Ursprüngliche Sequenz: AT GCAA Bruchstücke: AT G, CAA, GCA, T GC Algorithmen für TSP: Nerest Neighor Greedy Algorithmus: Strte in einem elieigen Knoten Solnge noch nicht lle Knoten esucht wurden: Wähle einen nächsten unesuchten Nchrn des ktuellen Knoten us und verlängere den ktuellen Pfd Greedy-Algorithmen wählen in jeden Schritt eine lokl optimle Teillösung us. Greedy-Algorithmen können optiml sein. Für ds TSP ist der Greedy-Algorithmus nicht optiml, er knn elieig schlechte Lösungen liefern. s git einen Algorithmus, der eine optimle Lösung liefert, mit Lufzeit in O(n 2 2 n ), woei n = V. Approximtion: Wir versuchen, einen Rundweg zu finden, dessen Länge etw so groß ist, wie die kürzeste Länge. Ds metrische TSP ist ein TSP, ei dem der Astnd d ij zweier Knoten eine Metrik ist. Für ds metrische TSP git es einen Approximtionslgorithmus mit Lufzeit in O(n 2 log n), der eine Lösung liefert, die eine Länge 2 optimle Länge esitzt. Ds Rucksckprolem in Rucksck der Größe S > 0 soll mit einer Auswhl von Gegenständen 1,..., n der Größe s 1,..., s n > 0 mximl epckt werden. Gesucht ist lso eine Menge C {1,..., n} mit s k S und Anwendungen: CD mit mp3 optiml efüllen Budget mximl verruchen k C s k mximl k C Ds Rucksckprolem ist NP-vollständig. Algorithmus für Rücksck: Sei r(k, s) die mximle Füllmenge eines Rucksckes der Größe s, 0 s S, der mit einer Auswhl von Gegenständen 1,..., k epckt ist. Gesucht ist r(n, S). Wir erechnen r(k, s) für 1 k n, 0 s S mit Hilfe einer Feststellung: Wenn für lle 0 l s, r(k 1, l) ereits eknnt ist, lässt sich drus r(k, s) erechnen: Wenn der Gegenstnd k nicht eingepckt wird, gilt r(k, s) = (k 1, s) 35

36 Wenn der Gegenstnd k eingepckt wird, gilt r(k, s) = r(k 1, s s k ) + s k Drus ergit sich 0 für k = 0 r(k, s) = r(k 1, s) für s < s k mx (r(k 1, s), r(k 1, s s k ) + s k ) sonst Lufzeit: O(nS). Dies ist kein Widerspruch dzu, dss Rucksck NP-vollständig ist, denn die Länge der inge ist log 2 S + n log 2 s k S = 2 log 2 S k=1 36