Fakultät für Informatik Universität Magdeburg Jürgen Dassow. Literatur

Transkript

1 Literatur J.Berstel/D.Perrin, Theorie of Codes. Academic Press, J. Duske/H.Jürgensen, Kodierungstheorie. BI-Taschenb., Mannheim, T. Grams, Codierungsverfahren. BI-Taschenbuch, Mannheim, W.I.Löwenstein, Kodierungstheorie. In: Diskrete Mathematik und mathematische Fragen der Kybernetik, Herausg.: S.W.Jablonski/O.B.Lupanov, Akademie-Verlag, W.W.Peterson/E.J.Weldon, Error-Correcting Codes. MIT Press, Cambridge, A.Salomaa, Jewels of Formal Language Theory. Comp. Sci. Press, H.J.Shyr, Free Monoids and Languages. Hon Min Book Co., Taichung, Taiwan, P. Sweeney, Codierung zur Fehlererkennung und Fehlerkorrektur. Hanser- Verlag, Codierungstheorie 1

2 Code Definition Definition: Eine eineindeutige Funktion φ : A C ist eine Codierung der Menge A durch die nichtleere Sprache C über dem Alphabet X, wenn die homomorphe Erweiterung von φ auf A eine injektive Funktion von A in X ist. Eine nichtleere Sprache C (über X) heißt Code, wenn C Wertevorrat einer Kodierung ist. Codierungstheorie 2

3 Code Charakterisierung Eine nichtleere Sprache C ist genau dann ein Code, wenn für beliebige x i1, x i2,..., x in, x j1, x j2,..., x jm C, n 1, m 1 aus x i1 x i2... x in = x j1 x j2... x jm die Gleichheit x i1 = x j1 folgt. Eine Sprache C ist genau dann ein Code, wenn für beliebige x i1, x i2,..., x in, x j1, x j2,..., x jm C, n 1, m 1, aus x i1 x i2... x in = x j1 x j2... x jm die Gleichheiten n = m und x it = x jt für 1 t n folgen. Codierungstheorie 3

4 Strenger Code Definition: Eine Code C heißt strenger Code, wenn für beliebige x ik C und x jk C, k 1, so dass für n 1 x i1 x i2... x in ein Präfix von x j1 x j2... x jn oder x j1 x j2... x jn ein Präfix von x i1 x i2... x in ist die Gleichheit x i1 = x j1 gilt. Bemerkung: Eine Code C ist ein strenger Code, wenn für beliebige x ik C und x jk C, k 1, so dass für n 1 x i1 x i2... x in ein Präfix von x j1 x j2... x jn oder x j1 x j2... x jn ein Präfix von x i1 x i2... x in ist die Gleichheiten x ik = x jk für k 1 gelten. Codierungstheorie 4

5 Spezielle Codes Definition: Eine nichtleere Sprache C heißt Präfixcode, wenn kein Wort aus C Präfix eines anderen Wortes aus C ist. Definition: Sei n 1 eine natürliche Zahl. heißt Blockcode der Länge n über X. Eine Teilmenge C von X n Für einen Code C und eine natürliche Zahl k 1 ist auch C k ein Code. Codierungstheorie 5

6 Decodierung Definition: Ein Mealy-Automat ist ein 6-Tupel A = (X, Y, Z, f, g, z 0 ) mit X, Y, Z sind Alphabete (endliche nichtleere Mengen) f : Z X Z und g : Z X Y sind Funktionen, und z 0 ist ein Element von Z. f und g werden auf Z X fortgesetzt mittels f (z, λ) = z, g (z, λ) = λ, f (z, wa) = f(f (z, w), a), g (z, wa) = g (z, w)g(f (z, w), a) für w X, a X Es gibt einen Algorithmus, der für jede strenge Codierung φ : A C X + und jedes Wort x X + in linearer Zeit φ 1 (x) berechnet bzw. feststellt, dass φ 1 (x) nicht definiert ist. Codierungstheorie 6

7 Produktunabhängige Mengen Definition: Eine Sprache L heißt produktunabhängig, falls kein Wort in L als Produkt von mindestens zwei Wörtern aus L dargestellt werden kann. Sei C eine produktunabhängige Menge über X. Dann ist C genau dann ein Code, wenn für jedes Wort w X gilt, dass wc C und C w C implizieren w C. Codierungstheorie 7

8 Entscheidbarkeit der Code-Eigenschaft Die Menge C = {x, y} bestehe aus zwei nichtleeren Wörtern über X. Dann ist C genau dann ein Code, wenn xy yx gilt. K 0 (C) = C, K i+1 (C) = {w X + : yw = x oder xw = y für gewisse x C, y K i (C)}. Eine nichtleere Sprache C über X ist genau dann ein Code, wenn K i (C) C = für i 1 gilt. Eine nichtleere Sprache endliche C über X ist genau dann ein strenger Code, wenn K n (C) = für n card(c)(max{ c : c C} 1) + 1 gilt. Es gibt einen Algorithmus, der für jede endliche Sprache C über dem endlichen Alphabet X entscheidet, ob C ein (strenger) Code ist. Codierungstheorie 8

9 Codeindikator I Definition: Sei X ein Alphabet der Kardinalität n 2. Der Codeindikator ci(w) eines Wortes w X ist durch ci(w) = n w definiert. Für eine Sprache L mit X = min(l) setzen wir ci(l) = w L ci(w). Codierungstheorie 9

10 Codeindikator II Seien L 1 und L 2 zwei Sprachen über dem Alphabet X, das aus n Buchstaben besteht. Dann gilt ci(l 1 L 2 ) ci(l 1 ) ci(l 2 ), und die Gleichheit tritt genau dann ein, wenn für je vier Wörter w 1, w 2 L 1 und w 3, w 4 L 4 aus w 1 w 3 = w 2 w 4 folgt, dass w 1 = w 2 gilt. Für jeden Code C gilt ci(c) 1. Codierungstheorie 10

11 Codeindikator III Seien n 2 und l 1, l 2,..., l m natürliche positive Zahlen, die der Bedingung m n l i 1 i=1 genügen. Dann gibt es einen Code (Präfixcode) C = {c 0, c 1,..., c m 1 } über dem n-elementigen Alphabet X mit c i 1 = l i für 1 i m. Codierungstheorie 11

12 Maximale Codes Definition: Ein Code C heißt maximal, wenn für jedes Wort w / C die Menge C {w} kein Code ist. Ein Code C mit ci(c) = 1 ist ein maximaler Code. Ein endlicher Code C ist genau dann maximal, wenn ci(c) = 1 gilt. Codierungstheorie 12

13 Kosten und Optimalität von Codes Definition: i) Für einen Code C = {c 1, c 2,..., c m } und eine Wahrscheinlichkeitsverteilung P = {p 1, p 2,..., p m }, p i 0 für 1 i m, m i=1 p i = 1, definieren wir die Kosten von C unter P durch L(C, P ) = m p i c i. i=1 ii) Für eine Wahrscheinlichkeitsverteilung P = {p 1, p 2,..., p m }, p i 0 für 1 i m, m i=1 p i = 1, und ein Alphabet X setzen wir L X (P ) = inf L(C, P ), wobei das Infimum über alle m-elementigen Codes über X zu nehmen ist. Ein Code C über X heißt optimal für P, wenn L(C, P ) = L X (P ) gilt. Codierungstheorie 13

14 Optimale Codes Für jede Verteilung P, deren Wahrscheinlichkeiten alle positiv sind, und jedes Alphabet X existiert ein (Präfix)-Code über X, der optimal für P ist. Für jede Verteilung P = {p 0, p 1,..., p m } und jedes Alphabet X mit card(x) = n gilt m ( ) 1 p i log n L X (P ) 1 + p i i=1 wobei die Gleichheit L X (P ) = ( m i=1 p i log n log n (p i ) für 1 i m ganze Zahlen sind. m ( ) 1 p i log n, p i i=1 ) 1 p i genau dann gilt, wenn Codierungstheorie 14