Hamming-Geometrie der Bitvektoren

Transkript

1 Hamming-Geometrie Hamming-Geometrie der Bitvektoren B = {0, } mit den Operationen = Konjunktion ( und ) = Disjunktion ( oder ) oder = Negation ( nicht ) ist die zweielementige boolesche Algebra. (B,, 0) mit = exor ist eine kommutative Gruppe. (B,,, 0, ) ist ein Ring (boolescher Ring) und ein Körper (F 2 ). Hamming-Geometrie B n = {0, } n : Bitvektoren a = (a, a 2,..., a n ) der Länge n B n mit den speziellen Elementen 0 = (0, 0,..., 0), = (,,..., ) und den komponentenweisen Operationen = Konjunktion ( und ) = Disjunktion ( oder ) = Negation ( nicht ) ist eine boolesche Algebra mit 2 n Elementen. (B n,, 0) mit komponentenweisem = exor ist eine kommutative Gruppe. (NB. a = a ). (B n,,, 0, ) ist ein Ring (boolescher Ring) und ein Vektorraum der Dimension n über dem Körper F 2. Standardbasis: e k = (0, 0,..., 0, k, 0,..., 0) ( k n). Hamming-Geometrie Für a = (a, a 2,..., a n ) B n bezeichet a die Anzahl der Komponenten a i = in a (Hamming-Gewicht). Für a, b B n bezeichnet d(a, b) = a b = a + b 2 a b den Hamming-Abstand. Die Funktion d : B n B n {0,, 2,..., n} : (a, b) d(a, b) ist eine Metrik auf B n, d.h. es gilt für a, b, c B n : d(a, b) = 0 a = b d(a, b) = d(b, a) d(a, b) + d(b, c) d(a, c) Hamming-Geometrie B n k = {a Bn ; a = k} (0 k n) B n k = ( ) n k B n k = {a Bn ; a k} (0 k n) Hamming-Kugel vom Radius k um den Nullvektor S k (a) = a B n k Hamming-Kugel vom Radius k um den Vektor a V (n, k) = B n k = k ( n ) j=0 j Volumen einer Hamming-Kugel vom Radius k. d(a, b) > k b / S k (a) a / S k (b) d(a, b) > 2k S k (a) S k (b) = Translationsinvarianz: d(a, b) = d(a c, b c)

2 Hamming-Geometrie Abschätzung des Kugelvolumens Sei 0 λ /2, also λ λ. Aus [ ] λ k [ ] λ λn (0 k λn ) λ λ und mit Verwendung der Binomialformel folgt V (n, λn) λ λn ( λ) λn n 2 n H(λ) Zusammen mit der Abschätzung für ( n λn ) ergibt sich lim log V (n, λn) = H(λ) n n Diskreter gedächtnisfreier stationärer Kanal Daten Inputalphabet A = {a, a 2,..., a m } Outputalphabet B = {b, b 2,..., b n } Kanalmatrix P = (pi,j ; i m, j n) mit p i,j 0 ( i m, j n) und j n p i,j = (stochastische Matrix) Funktionsweise: wird a i A gesendet, so wird b j B empfangen mit Wahrscheinlichkeit P(b j a i ) = p i,j ( i m, j n) für N : wird u = (u, u 2,..., u N ) A N gesendet, so wird v = (v, v 2,..., v N ) B N empfangen mit Wahrscheinlichkeit P(v u) = P(v k u k ) = P(v u ) P(v 2 u 2 ) P(v N u N ) k N Beispiele Binärer symmetrischer Kanal BSC p A = B = B = {0, }, 0 < p < [ ] p p P = p p Binärer Kanal mit Löschung A = B = {0, }, B = B { }, 0 < ε < [ ] ε 0 ε P = 0 ε ε S S Φ Φ C B n a C C Ψ f B n a f B n B n B n Abbildung: Informationsübertragung über einen gestörten Kanal

3 Nachrichtenübertragung mit BSC Quelle (source): Q = (S, π), wobei S Alphabet und π = (π s ) s S Wahrscheinlichkeitsverteilung auf S. Codierung: injektive Abbildung Φ : S B n C = Φ(B n ) : der durch Φ definierte Code Kanalmodell: die Wahrscheinlichkeit, beim Senden von a B n den Vektor b B n zu empfangen, d.h. dass der Fehler f = a b auftritt, ist P(b a) = bin n,p (f) = p f ( p) n f Der Empfänger ist bestrebt, aus der Kenntnis des empfangenen b B n das mit grösster Wahrscheinlichkeit gesendete a C zu ermitteln. Unter der Annahme, dass alle a C mit gleicher Wahrscheinlichkeit gesendet werden, d.h. π(s) = / S für alle s S, muss man a C bestimmen, für das P(b a) maximal wird. (maximum likelihood Decodierung) Für 0 < p < /2 gilt 0 j k n p j ( p) n j p k ( p) n k Daraus ergibt sich das Prinzip der minimum distance Decodierung: Ψ : B n C : b a C für das d(a, b) = a b minimal ist Ein solches a C muss nicht eindeutig bestimmt sein! Beispiel () Quelle S = {s, s 2,..., s 8 }, π s = 8 ( s 8) Codierung Φ s s 2 s 3 s 4 s 5 s 6 s 7 s Inputalphabet für den BSC p ist Φ (S) = C = B 3 Decodierung Ψ (a a 2 a 3 ) = a a 2 a 3, d.h. Ψ = id B 3 Die Wahrscheinlichkeit fehlerfreier Übertragung eines (a a 2 a 3 ) C ist ( p) 3. N Nachrichten werden mit Wahrscheinlichkeit ( p) 3N korrekt übertragen und decodiert. Es werden keine Fehler erkannt oder korrigiert Beispiel (2) Quelle S = {s, s 2,..., s 8 }, π s = 8 ( s 8) Codierung Φ 2 s s 2 s 3 s 4 s 5 s 6 s 7 s Inputalphabet für den BSC p ist Φ(S) = C 2 = {a B 4 ; a gerade} Decodierung Ψ 2 (a a 2 a 3 a 4 ) = { a a 2 a 3 error falls a a 2 a 3 a 4 gerade falls a a 2 a 3 a 4 ungerade a a 2 a 3 a 4 C wird mit Wahrscheinlichkeit ( p) 4 fehlerfrei übertragen, mit W.keit 4p( p) 3 tritt ein -Bit-Fehler auf. -Bit-Fehler werden erkannt, aber nicht korrigiert.

4 Beispiel (3) Quelle S = {s, s 2,..., s 8 }, π s = 8 ( s 8) Codierung Φ 3 s s 2 s 3 s 4 s 5... s Inputalphabet für den BSC p ist Φ 3 (S) = C 3 B 6 Decodierung Ψ 3 (a a 2 a 3 a 4 a 5 a 6 ) = { a a 2 a 3 falls a a 2 a 3 = a 4 a 5 a 6 error falls a a 2 a 3 a 4 a 5 a 6 Es werden viele Fehler erkannt, aber sie können nicht korrigiert werden. Beispiel (4) Quelle S = {s, s 2,..., s 8 }, π s = 8 ( s 8) Codierung Φ 4 s s 2 s 3... s 8 (000) 2n+ (00) 2n+ (00) 2n+... () 2n+ Inputalphabet für den BSC p ist Φ 4 (S) = C 4 B 6n+3 Decodierung Ψ 4 (a a 2... a 6n+3 ) = { abc error falls n + Dreierblöcke = abc sonst Es werden alle Fehler mit Gewicht 2n erkannt. Alle Fehler mit Gewicht n können korrigiert werden. Ein (binärer Block)-Code der Länge n ist eine Teilmenge C B n. Die Minimaldistanz von C ist Die Coderate von C ist d min (C) = min d(a, b) a,b C a b Ein (n, K, d)-code kann e Fehler erkennen, falls e < d ist, d.h. falls a C : S e (a) C = {a} Ein (n, K, d)-code kann e Fehler korrigieren, falls 2e < d ist, d.h. falls a, b C mit a b : S e (a) S e (b) = Für einen e Fehler korrigierenden (n, K, d)-code gilt die Kugelpackungsschranke: R(C) = n log C K V (n, e) 2 n, d.h. R(C) + H( e n ) C ist ein (n, K, d)-code, falls C B n, C = K und d min (C) = d. Gesucht sind mit hoher Rate und grosser Minimaldistanz: das sind antagonistische Anforderungen! A(n, d) : maximales K für das ein (n, K, d)-code existiert.

5 Beispiele d min (C ) =, R(C ) = d min (C 2 ) = 2, R(C 2 ) = 3 4 d min (C 3 ) = 2, R(C 3 ) = 2 d min (C 4 ) = 2n +, R(C 4 ) = 2n+ A(n, ) = 2 n, A(n, n) = 2 A(n, 2) = 2 n A(3, 3) = 2, A(4, 3) = 2, A(5, 3) = 5, A(7, 3) = 6 A(n, 2t + ) A(n, d) 2 n d+ A(n, d) 2n V (n,t) 2 n V (n,d ) (Hamming) (Singleton) (Gilbert-Varshamov) Lineare Lineare (binärer) linearer Code der Länge n = linearer Teilraum C B n. NB: hier gilt linearer Teilraum = Untergruppe = -abg. Teilmenge ( ) Hat C die Dimension dim C = k, so gilt C = 2 k. Die Coderate ist dann R(C) = k n. Für lineare C gilt immer d min (C) = min 0 a C a Man spricht deshalb vom Minimalgewicht. Ein linearer Code C B n mit dim C = k und Minimalgewicht d min (C) = d wird als [n, k, d]-code bezeichnet. Lineare Es gibt zwei wesentliche Möglichkeiten, lineare C B n zu beschreiben: mittels Generatoren, d.h. durch Angabe einer Basis g, g 2,..., g k von C, also durch eine Generatormatrix d.h. es gilt c B n : g g 2 G =. g k c C x B k : c = x G Da die Basis eines Vektorraumes nicht eindeutig bestimmt ist, gibt es auch immer mehrere Generatormatrizen zu einem linearen Code. Lineare mittels Akzeptoren, d.h. durch Angabe einer Basis h, h 2,..., h n k des zu C orthogonalen Teilraumes C = {b B n : c C : b c t = 0}, also durch eine Kontrollmatrix d.h. es gilt c B n : H = h h 2. h n k c C H c t = 0 t Da die Basis eines Vektorraumes nicht eindeutig bestimmt ist, gibt es auch immer mehrere Kontrollmatrizen zu einem linearen Code.

6 Lineare Beispiel Ein Code C B 4 der Dimension 2 sei gegeben durch die Generatormatrix [ ] 0 0 G = 0 oder gleichwertig durch die Kontrollmatrix [ ] 0 H = 0 0 Der Code enthält die 4 Vektoren 0000, 00, 0, 0 Sein Minimalgewicht und der Minimalabstand sind d min (C) = 2. Lineare Beispiel Ein Code C B 4 der Dimension 3 sei gegeben durch die Generatormatrix 0 0 G = oder gleichwertig durch die Kontrollmatrix H = [ ] Der Code enthält die 2 3 = 8 Vektoren aus B 4 mit geradem Gewicht. 0000, 00, 00, 00, 00, 00, 00, Sein Minimalgewicht und der Minimalabstand sind d min (C) = 2. Lineare Systematische Codierung Bezeichnet Ek B k k die Einheitsmatrix und ist A B k (n k) eine Matrix, so hat der von G = [ E k A ] Lineare Codierung und Decodierung linearer C linearer [n, k, d]-code mit Generatormatrix G und Kontrollmatrix H. Quelle S = B k Codierung mittels linearer Transformation erzeugte lineare [n, k]-code die Kontrollmatrix H = [ A t E n k ] Bei der Codierung B k C : x x G = [ x x A ] ist die ursprüngliche Nachricht x im Codewort sichtbar! Φ : B k B n : x c = x G Tritt bei Übertragung Fehler f B n auf, d.h. wird b = c f empfangen, so gilt wegen H c t = 0 t und Linearität: s t = H b t = H c t H f t = H f t d.h. empfangener Vektor b und Fehlervektor f haben das gleiche Syndrom s t. Codevektoren sind Vektoren mit Syndrom 0 t.

7 Lineare Syndromdecodierung Mit den genannten Daten G, H, b: berechne das Syndrom s t = H b t des empfangenen Vektors b bestimme unter den Vektoren b C mit dem gleichen Syndrom s t einen Vektor a mit minimalem Gewicht (der mutmassliche Fehlervektor) Ψ(b) = b a C Algebraisch gesprochen ist die Menge b C eine Nebenklasse (coset) der Untergruppe C von B n. Einen Vektor von minimalem Gewicht (nicht notwendigerweise eindeutig) in einer solchen Klasse nennt man einen Führer der Nebenklasse (coset leader). Man spricht deshalb auch von coset-leader Decodierung. Für kleine kann man effizient mit coset-leader Tabellen (Syndromtabellen) arbeiten, d.h. Tabelle mit (Fehler)Vektor minimalen Gewichts zu jedem möglichen Syndrom. Lineare Zur Komplexität der linearen Decodierung Die beiden folgenden Probleme sind NP-vollständig: (LD linear decoding) Gegeben: eine Kontrollmatrix H B m n, ein (Syndrom)Vektor s B m und eine Zahl w N. Gibt es einen Vektor x B n mit H x t = s t und x w? (EMD exact minimum distance) Gegeben: eine Kontrollmatrix H B m n und eine Zahl w N. Gibt es einen Vektor x B n mit H x t = 0 t und x = w? E.R. Berlekamp, R.J. McEliece, H.C.A. van Tilburg, On the inherent intractability of certain coding problems, IEEE Transactions on Information Theory 24 (978). In B 7 werden folgende Vektoren ausgezeichnet Die Fano-Ebene PG(2,2) g 0 = 7 = h 0 = 0 7 = g = i {,2,4} e i = 0000 h = i {3,5,6,7} e i = 000 g 2 = i {2,3,5} e i = 0000 h 2 = i {4,6,7,} e i = 000 g 3 = i {3,4,6} e i = 0000 h 3 = i {5,7,,2} e i = 000 g 4 = i {4,5,7} e i = 0000 h 4 = i {6,,2,3} e i = g 5 = i {5,6,} e i = 0000 h 5 = i {7,2,3,4} e i = 000 g 6 = i {6,7,2} e i = 0000 h 6 = i {,3,4,5} e i = g 7 = i {7,,3} e i = 0000 h 7 = i {2,4,5,6} e i = 000 Abbildung: Fano-Ebene Beachte: h i = g i 7 (0 i k)

8 Eine endliche projektive Ebene besteht aus einer endlichen Menge von Punkten und einer endlichen Menge von Geraden und einer Inzidenzrelation ( liegt auf) zwischen Punkten und wobei gilt: Je zwei Punkte liegen auf genau einer gemeinsamen Geraden Je zwei Geraden schneiden sich in genau einem Punkt Es gibt vier Punkte, so dass je drei von ihnen nicht auf einer Geraden liegen Zu einer endlichen projektiven Ebene gibt es eine Zahl n, die Ordnung, so dass gilt: Jede Gerade enthält genau n + Punkte Jeder Punkt liegt auf n + Geraden Es gibt insgesamt n 2 + n + Punkte Es gibt insgesamt n 2 + n + Geraden Die Fano-Ebene ist eine (sogar die einzige) projektive Ebene der Ordnung 2, also die kleinstmögliche projektive Ebene. Zur Geometrie der Fano-Ebene Die Fano-Ebene enthält sieben Punkte {, 2,..., 7} und sieben Geraden {g, g 2,..., g 7 }, wobei g k = {k, k +, k + 3} (mod 7) ( k 7) Die drei Geraden, die durch den Punkt k gehen, sind g k, g k+4, g k+6 ( k 7). Es gilt also g k g k+4 g k+6 = 7 Sind g i und g j zwei Geraden, so haben diese genau einen Schnittpunkt l und es gibt noch genau eine weitere Gerade g k, die l enthält. Also ist g i g j g k = 7 und somit g i g j = g k 7 = h k H := {h i ; 0 i 7}, G := H {g i ; 0 i 7} Fundamentale Beobachtung (Fano-Ebene!): Zu jedem Paar (i, j) mit 0 i, j 7 gibt es ein k mit 0 k 7 mit : g i g j = h k Folgerung: G und H sind unter abgeschlossen, also lineare der Länge 7, denn g i g j = h k g i h j = g i g j 7 = h k 7 = g k h i h j = g i 7 g j 7 = h k G und H sind lineare Teilräume von B 7, dim G = 4, dim H = 3. G ist der [7, 4, 3]-Hamming-Code, H der dazu duale [7, 3, 4]-Code. Nachweis der Orthogonalität von G und H Mit g i h j = g k (wie vorher) gilt: wegen g i, g k {3, 7} und h j {0, 4} und g k = g i h j = g i + h j 2 g i h j gilt g i h j 0 mod 2, also h j (g i ) t = 0 wegen h i, h j, h k {0, 4} und h k = h i h j = h i + h j 2 h i h j gilt h i h j 0 mod 2, also h j (h i ) t = 0

9 Je 4 linear unabhängige Vektoren aus G bilden eine Basis und können für eine Generatormatrix genommen werden, z.b. g 0000 g G = g 3 g 4 = Je 3 linear-unabhängige Vektoren aus H bilden eine Basis und können für eine Kontrollmatrix genommen werden, z.b. h 000 H = h 2 = 000 h Beachte: die Spalten von H enthalten jeden Vektor 0 3 aus B 3 genau einmal! Eine interessante Eigenschaft Wegen d min (G) = 3 ist der [7, 4, 3]-Hamming-Code -Fehler-korrigierend, die Hamming-Kugeln vom Radius sind paarweise disjunkt. c B 7 (c G) Jede dieser Hamming-Kugeln enthält genau V (7, ) = 8 Elemente c und c e i ( i 7) Wegen G V (7, ) = = 2 7 = B 7 bilden diese Hamming-Kugeln eine Zerlegung von B 7. Man sagt: der [7, 4, 3]-Hamming-Code ist ein perfekter Code. Perfekte sind extrem selten! Hamming Sei r > 0 und n = 2 r. Sei H eine r n-matrix, die alle Elemente von B r ( 0 r ) als Spaltenvektoren enthält. Die Matrix H hat den Rang r, kann also als Kontrollmatrix eines G der Länge n und der Dimension dim G = n r = 2 r r aufgefasst werden. Da je zwei Spalten von H linear-unabhängig sind, enthält G keine Vektoren vom Gewicht oder 2. Also gilt d min (G) 3, d.h. der Code G ist -Fehler-korrigierend. Wegen G V (n, ) = 2 n r (n + ) = 2 n bilden die Hamming-Kugeln vom Radius um die Codevektoren eine Zerlegung von B n, es gilt also d min (G) = 3 und der Code ist perfekt. Dieser [2 r, 2 r r, 3]-Code heisst (binärer) Hamming-Code der Ordnung r. Hamming Zur Decodierung der Hamming H Kontrollmatrix des [2 r, 2 r r, 3]-Hamming der Ordnung r. Die Spalten von H sind genau die Vektoren 0 aus B r. Zu jedem b B 2r gibt es also genau ein i 2 r mit H b t = H e i, d.h. das Syndrom ist die i-te Spalte der Matrix H. Dann ist e i der gesuchte coset leader! Decodierung empfange b B 2r und berechne das Syndrom s = H b t Ψ(b) = b e i, wobei s die i-te Spalte von H ist. R.W. Hamming, Error detecting and error correcting codes, Bell Systems Technical Journal, 29 (950).

10 Reed-Muller Reed-Muller Die Abbildung ρ n : B 2n B n B n B 2n : (a, b) (a b, b) ist linear und invertierbar (ρ n ρ n = id, also ρ = ρ). A B 2n linear unabhängig ρ n (A) B 2n linear unabhängig A Basis von B 2n ρ n (A) Basis von B 2n A, B B n linear unabhängig ρ n (A 0 n 0 n B) = {(a, 0 n ); a A} {(b, b); b B} B 2n linear unabhängig A, B Basen von B n ρ n (A 0 n 0 n B) Basis von B 2n Reed-Muller Für m = 0,, 2,... werden Basen G m von B n mit n = 2 m definiert: G 0 = { } Gm+ = ρ n (G m 0 n ) ρ n (0 n G m ) ={(a, 0 n ); a G m } {(a, a); a G m } Eigenschaften: Gm = 2 m Für alle a G m ist a = 2 r für ein r {0,, 2,..., m} Sei G m,r = {a G m ; a = 2 m r }. Dann gilt G m,0 = { n } (m 0) und G m+,r+ = ρ n (G m,r 0 n ) ρ n (0 n G m,r+ ) (0 r m) also insbesondere G m+,r+ = G m,r + G m,r+ (0 r m) und daher (per Induktion) ( ) m G m,r = r (0 r m) Reed-Muller Der (binäre) Reed-Muller Code RM m,r der Länge n = 2 m und der Ordnung r (0 r m) ist der von G m,0 G m,... G m,r erzeugte lineare Teilraum von B n. Eigenschaften Inklusion als Teilräume {0 n, n } = RM m,0 RM m, RM m,2... RM m,m = B n rekursive Darstellung Dimension RM m+,r+ = ρ n (RM m,r RM m,r+ ) dim(rm m,r ) = + ( ) m + ( ) m Minimalabstand: dmin (RM m,r ) = 2 m r ( ) m = V (m, r) r Reed-Muller Beispiele: G 0,0 = {} G,0 = {} G, = {0} G 2,0 = {} G 2, = {00, 00} G 2,2 = {000} G 3,0 = {} G 3, = {0000, 0000, 0000} G 3,2 = {000000, , } G 3,3 = { }

11 Reed-Muller Alternative Beschreibung der Reed-Muller Basisvektoren Für n = 2 m werden Vektoren v,, v m definiert v = 2m 0 2m v 2 = 2m 2 0 2m 2 2m 2 0 2m 2... v k = ( ) 2 r 2m k 0 2m k... v m = (0) 2m Für r m besteht G m,r aus den Vektoren i A vi, wobei A r-elementige Teilmenge von {, 2,..., m} ist. Reed-Muller Andere Formulierung dieser Beschreibung: Es seien X, X 2,..., X m boolesche Variable. Jede Variable definiert eine (lineare) Funktion X k : B m B : b = (b, b 2,..., b m ) b k ( k m) Für jeden Bitvektor c = (c, c 2,..., c m ) B m definiert das boolesche Monom X c = c i = X i eine Funktion: X c : B m B : b = (b, b 2,..., b m ) d.h. X c (b) = c b c k = Ein boolesches Polynom ist eine Summe von Monomen, also durch eine Abbildung p : B m B gegeben. Dies definiert eine Funktion X p : B m B : b X c (b) p(c)= b k Reed-Muller Reed-Muller Zu jeder booleschen Funktion f : B m B gibt es genau ein boolesches Polynom X p, das diese Funktion darstellt: b B : f (b) = X p (b) (Ring-Normalform von booleschen Funktionen). Der Reed-Muller Code RM m,r besteht genau aus den Werte-Vektoren v p = ( X p (b) ) b B m wo p ein boolesches Polynom vom Grad r ist. Zum Minimalabstand (Beweis durch Induktion) d min (RM n+,r+ ) 2 m r Ist a RMm,r mit a = 2 m r, so ist (a, 0 n ) RM m+,r+ mit (a, 0 n ) = 2 m r = 2 (m+) (r+) Ist a RMm,r+ mit a = 2 m r, so ist (a, a) RM m+,r+ mit (a, a) = 2 2 m r = 2 (m+) (r+) d min (RM m+,r+ ) 2 m r Für w = (u v, v) RM m+,r+ mit mit u RM m,r, v RM m,r+ und mit w 0 2n gilt v = 0 n u 0 n, also w = (u, 0 n ) = u 2 m r u = 0 n v 0 n, also w = (v, v) = 2 v 2 2 m r = 2 m r u 0n v und u = v w = (0 n, v) und v RM m,r, also w = v 2 m r u 0 n v und u v u v RM m,r+, also w = u v + v 2 2 m r = 2 m r

12 Reed-Muller Bemerkungen: Die Reed-Muller gehen zurück auf die Arbeiten I.S. Reed, A Class of Multiple Error Correcting and the Decoding Scheme, IRE Transactions Inform. Theory (954). D.E. Muller, Application of Boolean Algebra to Switching Circuit Design, IRE Transactions Electronic Computing (954). lassen sich elegant und effizient mit majority logic decodieren dank enger Beziehung zu geometrischen Konfigurationen (diskrete euklidische und projektive Geometrie). gehören, neben den Hamming und den Golay, zu frühesten interessanten und nützlichen linearen. fanden breite Beachtung dank ihrer Verwendung in Projekten des Nasa ( ), z.b. der [32, 6, 6]-Code RM 5, im Mariner-Projekt. E.C. Posner, Combinatorial Structures in Planetary Reconnaissance, in: H.B. Mann (ed.), Error Correcting, Wiley (968). Zyklische Zyklische Ein (binärer) linearer [n, k, d] Code C B n ist zyklisch, wenn er mit jedem Codewort auch dessen zyklische shifts enthält: a = (a, a 2,..., a n ) C (a 2, a 3,..., a n, a ) C Die meisten der praktisch verwendeten Blockcodes sind zyklische (z.b. Hamming, Golay, verkürzte Reed-Muller, BCH, Reed-Solomon ) Zyklische lassen sich elegant mit Mitteln der Polynomarithmetik beschreiben, untersuchen und implementieren ( lineare Schieberegister) Effiziente Codierungsalgorithmen benutzen lineare Schieberegister; effiziente Decodierung beruht auf Polynomarithmetik (euklidischer Algorithmus!) sehr lange zyklische sind nicht besonders gut im Sinne der asymptotische Schranken, bessere (z.b. Goppa ) erfordern aber einen viel höheren mathematischen Aufwand! A(n, d) : maximales K, für das ein (n, K, d)-code existiert obere Schranke (Plotkin-Schranke) A(n, d) 2d 2d n Beweis: für einen (n, K, d)-code C gilt d K(K ) 2 2 a,b C für 2d > n 2 K d(a, b) n max k (K k) = n k K 4 untere Schranke (Gilbert-Varshamov-Schranke) A(n, d) 2 n V (n, d ) Beweis: Ist C ein (n, K, d)-code, so gilt wegen der Maximalität von K: B n a C S d (a) Sei 0 δ und R(δ) die maximale Rate, die asymptotisch für der Länge n mit relativer Minimaldistanz δ = d/n erreicht werden kann. D.h. Dann gilt (Plotkin) R(δ) = lim sup n R(δ) { (Gilbert-Varshamov) log A(n, δ n) n 2 δ falls 0 δ /2 = 0 falls /2 δ R(δ) H(δ) (0 δ /2)

13 Beweis der asymptotischen Plotkin-Schranke Ist C ein (n, K, d)-code, so kann man daraus für r =, 2,... einen (n r, K r, d)-code C r konstruieren mit K r K/2 r. Für n r = 2d 2 erhält man nach Plotkin: K 2 r C r Daraus folgt mit d = δ n 2d 2d (n r) = d, also K d 2r R(δ) lim sup n n log(δ n 2n 2δ n+2 ) ( log δ = lim n n + log n + 2δ + 2 ) n n = 2 δ Beweis der asymptotischen Gilbert-Varshamov-Schranke Aus der asymptotischen Abschätzung des Volumens von Hamming-Kugeln folgt sofort: R(δ) lim sup n = lim n = H(δ) n log 2 n V (n, δ n) log V (n, δ n) n 0,8 0,6 Rate k/n 0,4 0, , 0,2 0,3 0,4 0,5 relative Minimaldistanz d/n Gilbert-Varshamov-Schranke Plotkin-Schranke Es gibt neben der Gilbert-Varshamov-Schranke und der Plotkin-Schranke noch viele weitere Schranken, vor allem obere (Hamming, Elias, McEliece,... ). Die Gilbert-Varshamov-Schranke war von 952 bis 982 die beste bekannte untere Schranke! Erst dann gelang es Tsfasman, Vladut, Zink mit Hilfe von Goppa- (977 erfunden) zu konstruieren, welche die Gilbert-Varshamov-Schranke übertreffen. Literatur D. Welsh, and Cryptography, Oxford UP (988). F.J. MacWilliams, N. J.A. Sloane, The Theory of Error-Correcting, Elsevier (997). Abbildung: Asymptotische Schranken für