1. Alphabete, Wörter, Sprachen

Transkript

1 1. Alphabete, Wörter, Sprachen

2 Im Rahmen der Vorlesung: Und damit: und DATEN = WÖRTER (ENTSCHEIDUNGS)PROBLEME ˆ= WORTMENGEN = SPRACHEN FUNKTIONALE (BERECHNUNGS)PROBLEME ˆ= WORTFUNKTIONEN Mit Wörtern lassen sich beliebige Daten kodieren (vgl. z.b. Zahldarstellungen). Umgekehrt lassen sich - z.b. durch geeignetes Durchnummerieren - Wörter mit (natürlichen) Zahlen identifizieren. Wir können daher Wörter auch durch Zahlen ersetzen und erhalten: DATEN ˆ= WÖRTER ˆ= ZAHLEN 1

3 Im Folgenden gehen wir auf Alphabete, Wörter und Sprachen näher ein und führen einige grundlegende Begriffe und Notationen ein. ALPHABET = eine endliche, geordnete Menge von Buchstaben (Symbolen) WORT (STRING) = eine endliche Folge von Buchstaben (über festem Alphabet) SPRACHE = eine beliebige Menge von Wörtern (über festem Alphabet) 2

4 ALPHABETE Alphabet (Σ, <): Σ endliche, nichtleere Menge < totale (= lineare) Ordnung < auf Σ Die Elemente von Σ heißen die Buchstaben (Symbole) des Alphabets. Wir listen Alphabete geordnet auf: Schreiben wir Σ = {a 0,...,a n }, so gilt a 0 < a 1 < < a n. Ein Alphabet mit n Buchstaben heißt n-äres Alphabet und wird mit Σ n bezeichnet. Insbesondere: Σ 1 = {1}(= {0} = { }) unäres Alphabet Σ 2 = {0,1} binäres Alphabet BEISPIEL: Σ 3 = {a,b,c} wobei a < b < c. 3

5 WÖRTER Ein Wort über dem Alphabet (Σ, <) ist eine endliche (geordnete) Folge von Buchstaben aus Σ. Das leere Wort (d.h. die leere Folge) wird mit λ bezeichnet. Nichtleere Wörter w geben wir durch Auflisten der Buchstaben in der Reihenfolge ihrer Vorkommen an: wobei w(i) der (i + 1)te Buchstabe in w ist. w = w(0)...w(n 1) Die Länge w eines Wortes w ist die Anzahl der Vorkommen von Buchstaben in w: λ = 0 und w(0)...w(n 1) = n Daneben betrachten wir die Funktionen # a (w) = Anzahl der Vorkommen des Buchstaben a im Wort w. Offensichtlich gilt: w = a Σ # a (w) BEISPIEL: acbbab = 6 = = # a (acbbab) + # b (acbbab) + # c (acbbab). 4

6 Σ Σ + Σ n Σ n Menge aller Wörter über Σ Menge aller nichtleeren Wörter über Σ Menge der Wörter der Länge n über Σ Menge der Wörter der Länge n über Σ usw. NB: Σ n k = kn Insbesondere gilt also: Σ n 1 = 1 und Σ<n 1 = n Σ n 2 = 2n und Σ <n 2 = 2n 1 BEISPIEL: Σ 5 1 = {00000}, Σ0 k = {λ}, Σ2 2 = {00,01,10,11}. 5

7 Wörter über dem k-ären Alphabet kann man als Knoten im (unendlichen) vollständigen k-ären Baum auffassen. Die Wörter der Länge n entsprechen dabei den Knoten der Tiefe n. (Entsprechend kann man auch Σ n k mit dem vollständigen k-ären Baum der Tiefe n identifizieren.) In den folgenden Abbildungen haben wir (für den Fall k = 2 bzw. k = 1) die Knoten, die das Wort 010 bzw 000 repräsentieren, hervorgehoben:

8 VERKETTUNG VON WÖRTERN I Die grundlegende Operation auf Wörtern ist die Verkettung (Konkatenation) von Wörtern: v = v(0)...v(m) & w = w(0)...w(n) v w = v(0)...v(m)w(0)...w(n) w λ = λ w = w Statt v w schreiben wir meist einfach vw. BEMERKUNG. Die Verkettung ist assoziativ (aber nicht kommutativ). Das leere Wort ist neutrales Element bzgl. der Verkettung. (D.h. (Σ, ) ist Halbgruppe mit 1.) BEISPIEL: (ab bca) c = abbca c = abbcac = ab bcac = ab (bca c) a b = ab ba = b a 7

9 VERKETTUNG VON WÖRTERN II Mit Hilfe der Verkettung definieren wir: TEILWÖRTER. Gilt w = xyz so sind x,y,z Teilwörter (Infixe) von w, x ein Anfangsstück (Präfix) von w (x w) und z ein Endstück (Suffix) von w. Gilt yz λ so ist x ein echtes Anfangsstück von w (x w). Notation: w n = w(0)...w(n 1) ist das Anfangsstück von w der Länge n. ITERATION. Die n-fache Iteration w n eines Wortes w ergibt sich durch Verketten von n Kopien von w. Induktiv: w 0 = λ und w n+1 = w n w. BEISPIEL: abb abb und abb 2 = ab abb (abb) 3 = abbabbabb (cc) 0 (ab) 2 c 3 (bb) 2 9 = ababcccbbbbbb 9 = ababcccbb 8

10 Σ 2 gilt z.b.: h(bacbba) = (= λ 11 0 λ λ 11) HOMOMORPHISMEN I Eine mit der Konkatenation verträgliche Abbildung nennt man Homomorphismus. Formal: Ein Homomorphismus h ist eine Abbildung h : Σ T, sodass h(λ) = λ und x,y Σ (h(x y) = h(x) h(y)). Jeder Homomorphismus h ist bereits durch sein Verhalten auf den Buchstaben (d.h. Wörtern der Länge 1) bestimmt: Jede Abbildung h : Σ T lässt sich in eindeutiger Weise zu einem Homomorphismus fortsetzen. (Übung!) BEISPIEL: Für den von h(a) = 11,h(b) = λ,h(c) = 0 induzierten Homomorphismus h : Σ 3 9

11 HOMOMORPHISMEN II: BINÄRKODIERUNG Ein Beispiel für einen Homomorphismus ist die Binärkodierung : Den von bin k : Σ k Σ 2 mit bin k(a i ) = 0 i 1 k i (Σ k = {a 0,...,a k 1 }, k 3) induzierten Homomorphismus bin k : Σ k Σ 2 bezeichnet man als Binärkodierung. NB: bin k (w) = k w und bin k injektiv. Man beachte, dass jeder Homomorphismus berechenbar ist. Die (partielle) Umkehrabbildung von bin k ist offensichtlich auch berechenbar aber kein Homomorphismus (und auch nicht zu einem Homomorphismus fortsetzbar; Warum?). Im Gegensatz zu bin k gibt es keinen injektiven Homomorphismus h : Σ k Σ 1 für k 2. 10

12 ORDNUNGEN AUF DEN WÖRTERN I LEXIKOGRAPHISCHE ORDNUNG. Die Wörter über einem Alphabet Σ lassen sich mit Hilfe der Ordnung < des Alphabets lexikographisch ordnen: v < lex w v w oder x Σ a,b Σ (a < b & xa v & xb w). BEISPIEL (Σ = Σ 3 ): λ < lex a, abb < lex abba, aaaa < lex b, bcaac < lex bcaba Fasst man die Wörter über Σ k als Knoten des unendlichen vollständigen k-ären Baumes auf, so erhält man die gemäß < lex geordneten Wörter, wenn man den Baum in Preorder durchläuft. Die lexikographische Ordnung hat den Nachteil, dass Wörter unendlich viele Vorgänger haben können. Z.B. gilt für k = 2: λ < lex 0 < lex 00 < lex 000 < lex 0000 < lex < lex 1 11

13 ORDNUNGEN AUF DEN WÖRTERN II LÄNGEN-LEXIKOGRAPHISCHE ORDNUNG. Man betrachtet daher in der Regel die längen-lexikographische Ordnung < auf Σ, bei denen die Wörter zunächst nach ihrer Länge (Hauptordnungskriterium) und dann Wörter gleicher Länge lexikographisch (Nebenordnungskriterium) geordnet werden: v < w v < w oder [ v = w und v < lex w] Diese Ordnung entspricht dem Breitendurchlauf durch den Baum Σ. BEISPIEL (Σ = Σ 3 ): cb < a 3 (da cb < aaa ) ac < ba (da ac = ba und ac < lex ba). 12

14 MEHR ZUR LÄNGEN-LEXIKOGRAPHISCHEN ORDNUNG BEISPIELE. Beim unären Alphabet Σ 1 = {1} stimmt < mit < lex überein: Für das binäre Alphabet Σ 2 = {0,1} gilt 1 0 (= λ) < 1 1 (= 1) < 1 2 (= 11) < 1 3 < 1 4 <... λ < 0 < 1 < 00 < 01 < 10 < 11 < 000 < 001 <... SATZ. (N,<) ist (effektiv) isomorph zu (Σ,<), d.h. es gibt eine (berechenbare) Bijektion f : N Σ, die ordnungserhaltend ist, d.h. erfüllt (m,n N = {0,1,2,3,...}). m < n f (m) < f (n) Die Wörter in Σ lassen sich also bzgl. durchnummerieren. w (Σ,<) n (= w n ) := das (n + 1)-te Wort in Σ bzgl. < Manchmal identifizieren wir das Wort w n mit der Zahl n, d.h. fassen w n als Darstellung von n auf. 13

15 WÖRTER VS. ZAHLEN Wie gerade gezeigt, lassen sich die (natürlichen) Zahlen und die Wörter über gegebenem Alphabet effektiv bijektiv ineinander überführen. Wir können also die Berechenbarkeitstheorie wahlweise auf Wörtern (Turingmaschinen) oder Zahlen (Registermaschinen, rekursive Funktionen) entwickeln. NB. Für das binäre Alphabet Σ 2 = {0,1} stimmt w n nicht mit der üblichen Binärzahldarstellung Bin(n) überein (da bei dieser führende Nullen keinen Einfluss auf den Zahlwert haben; s. Übungen). 14

16 SPRACHEN Eine Sprache L über dem Alphabet Σ ist eine Menge von Wörtern über Σ, d.h. eine Teilmenge von Σ. Die Menge aller Sprachen über Σ ist also gerade die Potenzmenge von Σ : P (Σ ) = {L : L Σ } Eine Menge von Sprachen (über festem Alphabet Σ) bezeichnen wir als Klasse. BEZEICHNUNGEN: a,b,c,...: Buchstaben...,u,v,w,x,y,z: Wörter A,B,C,...,Z: Sprachen A, B, C,..., Z: Klassen 15

17 MENGENOPERATIONEN AUF SPRACHEN Da Sprachen Mengen sind, können wir die üblichen mengentheoretischen Operationen verwenden (L,L 1,L 2 Σ ): L 1 L 2 = {x Σ : x L 1 oder x L 2 } L 1 L 2 = {x Σ : x L 1 & x L 2 } L 1 \ L 2 = {x Σ : x L 1 & x L 2 } L = {x Σ : x L} (= Σ \ L) L 1 L 2 = (L 1 \ L 2 ) (L 2 \ L 1 ) (Vereinigung) (Durchschnitt) ((Mengen-)Differenz) (Komplement) (Symmetrische Differenz) 16

18 WORTOPERATIONEN AUF SPRACHEN Die auf den Wörtern definierten Operationen der Verkettung und Iteration induzieren entsprechende Sprachoperationen: L 1 L 2 = {xy : x L 1 & y L 2 } Verkettung von L 1 und L 2 L n = {x 1...x n : x i L} (L 0 = {λ}, L 1 = L, L 2 = LL,...) n-te Potenz von L L = {x 1...x n : n 0 & x i L} = S n 0 L n Iteration von L L + = {x 1...x n : n 1 & x i L} = S n 1 L n Hierbei schreiben wir al statt {a}l. BEISPIELE. 1. {00} 1{1} = {00} {1} + = {0 2m 1 n : m 0 & n 1}. 2. λ L für alle Sprachen L. Z.B. /0 = {λ}. 3. λ L + λ L. 17

19 KARDINALITÄT VON SPRACHEN UND KLASSEN I In der Mengenlehre unterscheidet man die Kardinalität (Größe) unendlicher Mengen. Insbesondere unterscheidet man zwischen abzählbaren und überabzählbaren Mengen, indem man den Größenbegriff endlicher Mengen verallgemeinert. KARDINALITÄT. Die Kardinalität von Mengen vergleicht man durch M 1 M 2 f : M 1 M 2 injektiv M 1 und M 2 sind gleichmächtig ( M 1 = M 2 ), falls M 1 M 2 und M 2 M 1 gilt. M ist abzählbar unendlich, falls M = N. M ist (höchstens) abzählbar, wenn M N, d.h. wenn M endlich oder abzählbar unendlich ist. Ist M nicht abzählbar, so nennt man M überabzählbar. In diesem Fall gilt N < M. 18

20 KARDINALITÄT VON SPRACHEN UND KLASSEN II SATZ. Für jedes Alphabet Σ gilt: (a) Jede Sprache L über Σ ist abzählbar. (b) Die Menge aller Sprachen über Σ ist nicht abzählbar. Es gibt also mehr Sprachen als Wörter! BEWEIS. (a) Wie schon gezeigt, ist Σ abzählbar unendlich. Weiter ist jede Teilmenge einer abzählbaren Menge wiederum abzählbar. (b) Der Beweis benutzt das bekannte Cantor-Diagonalargument (mit dessen Hilfe man auch zeigt, dass es überabzählbar viele reelle Zahlen gibt): Widerspruchsannahme: L n : n 0 sei eine Liste aller Sprachen über Σ. Die Sprache L über Σ mit w Σ n L : w Σ n L n kommt in dieser Liste nicht vor. Widerspruch! 19

21 DARSTELLUNG VON SPRACHEN DARSTELLUNG. Unter einer Darstellung einer Sprache L verstehen wir eine endliche Beschreibung der Sprache. DARSTELLUNGSWEISE. Eine einheitliche Methode zur Darstellung von Sprachen bezeichnen wir als Darstellungsweise. Formaler kann man die Darstellungen bzgl. einer festen Darstellungsweise als Wörter über einem geeigneten Alphabet auffassen. Da es mehr Sprachen als Wörter gibt, gibt es also immer Sprachen, die nicht darstellbar sind! 20

22 DARSTELLUNG (UN)ENDLICHER SPRACHEN Endliche Sprachen lassen sich durch eine vollständige Auflistung der Elemente darstellen: L 1 = {0,2,4,6,8,10,12,14,16,18,20,22,24}. Diese Darstellung ist i.a. jedoch sehr länglich und unübersichtlich. Eine Darstellung der Sprache durch Angabe einer charakteristischen Eigenschaft der Elemente wird daher meist vorgezogen: L 1 = {x N : x 24 & x gerade} Dieses Vorgehen ermöglich auch die Beschreibung unendlicher Sprachen: L 1 = {x N : x gerade} (= {0,2,4,...}) 21

23 EXPLIZITE VS. IMPLIZITE DARSTELLUNGEN Beschreibt man eine Sprache durch Auflisten der Elemente oder Angabe einer charakteristischen Eigenschaft derselben, so sprechen wir von einer expliziten Darstellung. Alternativ können Sprachen implizit durch eine induktive (rekursive) Charakterisierung dargestellt werden. BEISPIEL (s. Übungen). Explizit: L 2 = {w Σ 2 : # 0(w) = # 1 (w)}. Implizit: L 2 ist die kleinste Sprache L Σ mit folgenden 3 Eigenschaften: λ L Gehört w zu L, so auch 0w1 und 1w0 Gehören v und w zu L, so auch vw 22

24 INFORMATISCHE SPRACHDARSTELLUNGEN BERECHENBARKEITSTHEORIE: In der Berechenbarkeitstheorie betrachten wir algorithmische Darstellungen von Sprachen, d.h. geben Algorithmen an, die die Sprachen eindeutig festlegen. Dabei unterscheiden wir: ENTSCHEIDUNGSVERFAHREN: Der Algorithmus stellt bei Eingabe eines Wortes fest, ob dieses zur Sprache gehört. AUFZÄHLUNGSVERFAHREN: Der Algorithmus gibt alle Elemente der Sprache (und nur diese) sukzessive aus. (Ist die Sprache unendlich, so läuft das Verfahren unendlich lang; die Beschreibung des Verfahrens ist jedoch endlich!) FORMALE SPRACHEN: Hier werden wir Sprachen mit Hilfe (generativer = erzeugender) GRAMMATIKEN beschreiben. 23

25 MEHRDIMENSIONALE SPRACHEN UND WORTFUNKTIONEN I Sprachen beschreiben eindimensionale Entscheidungsprobleme. Zur Beschreibung mehrdimensionaler Probleme oder funktionaler Probleme (Berechnungs-, Such-, bzw. Optimierungsprobleme) verwenden wir mehrdimensionale Sprachen bzw. Wortfunktionen: MEHRDIMENSIONALE SPRACHEN: L Σ 1 Σ n (inhomogen) L Σ Σ (homogen) 24

26 MEHRDIMENSIONALE SPRACHEN UND WORTFUNKTIONEN II (1-DIM.) WORTFUNKTIONEN: f : Σ 1 Σ 2 MEHRDIMENSIONALE WORTFUNKTIONEN: f : Σ 1 Σ n T Funktionen vom Typ f : Σ 1 Σ n T1 T m stellen wir durch m mehrdim. Wortfunktionen f i : Σ 1 Σ n Ti dar. Wie bei Sprachen können wir bei Wortfunktionen zwischen inhomogenen (s.o.) und homogenen (alle Alphabete gleich) Funktionen unterscheiden. Im folgenden betrachten wir häufig nur den 1-dimensionalen Fall und lassen die Verallgemeinerung zum mehrdimensionalen Fall als Übung. 25