II. CODIERUNGSTHEORIE

Transkript

1 II. CODIERUNGSTHEORIE

2 Inhaltsverzeichnis 1 Einleitung Literatur Übersicht Mathematische Grundlagen der Codierungstheorie Fehlererkennung und Fehlerkorrektur Code, Codierer Lineare Blockcodes Beschreibung von Blockcodes durch Matrizen Eigenschaften der Generatormatrix Block-Codierer Fehlererkennung und -korrektur Ergänzungen Modifizierte Codes Beispiel: Hamming-Code (Hamming 1950) Schaltungstechnische Realisierung Zyklische Codes Mathematische Beschreibung Polynomdarstellung Restklasse der Polynome Zyklische Codes als Restklasse Codierung mit zyklischen Codes Korrespondierende Generatormatrix [G] Duale Codes Schieberegister-Schaltungen für zyklische Codes Decodierung zyklischer Codes Reed Solomon(RS) Codes Algebraische Strukturen von Reed-Solomon (RS) Codes RS Codierung und Diskrete Fourier Transformation

3 INHALTSVERZEICHNIS Grundzüge der RS Fehlerkorrektur Beispiele für zyklische Codes, Übersicht über Blockcodes Bündelfehler Erkennung von Bündelfehlern Interleaving (Codespreizung) Faltungscodes Codierer-Struktur Formale Beschreibung Systematische Faltungscodierer Katastrophale Faltungscodierer Beschreibung von Faltungscodes Decodierung von Faltungscodes Viterbi-Algorithmus Restfehlerwahrscheinlichkeit bei Faltungscodes Punktierte Faltungscodes

4 1 Einleitung 1.1 Literatur K. Wesolowski: Introduction to Digital Communication Systems, Wiley, 2009 H. Rohling: Einführung in die Informations- und Codierungstheorie, Teubner, 1995 B. Friedrichs: Kanalcodierung, Springer, 1994 M. Bossert: Kanalcodierung, 2. Aufl., Teubner, 1998 R.G. Proakis: Digital Communication, McGraw, 1989 S. Lin, D. Costello: Error Control Coding, Prentice-Hall, 1983 W.W. Peterson, F. Weldon: Error Correction Coding, Wiley, 2005 W. Heise, P. Quattrocchi: Informations- und Codierungstheorie, Springer, Übersicht Kanalcodierung: Verfahren zur Fehlerreduktion bei gestörten Kanälen Theoretische Grenze: Kanalkapazität Methode: Redundanz: zusätzliche Zeichen einfügen Fehleridentifikation, Fehlerlokalisation und Fehlerkorrektur k Info-Zeichen, n Code-Zeichen, r = n k Redundanz-Zeichen (Paritäts /Prüfzeichen), R := k n ; Code-Rate, r := r = 1 R : relative Redundanz n Systematische Codes: Info Zeichen x treten in CW y unverändert auf. Codierungsgedächtnis: Verschmieren von Information und Redundanz; Blocklänge bei Blockcodes, Einflusslänge bei Faltungscodes, Interleaving; Mittelung über die Kanalfehler. Verfahren: Fehleridentifikation und Wiederholung (Automatic Repeat on Request ARQ)

5 2 1. EINLEITUNG n k r x 0 x 1 x k 1 p 0 p r 1 Info- Zeichen Paritäts- (Prüf-) Zeichen Bild 1.1: Systematisches Codewort Rückkanal zum Sender für Quittung / Neuanforderung, Redundanz nur zur Fehleridentifikation, adaptive Coderate (variable Übertagungsgeschwindigkeit). Fehlerkorrektur (Forward Error Correction FEC) Falsche Zeichen erkennen und korrigieren; nur mit endlicher Wahrscheinlichkeit richtige Korrektur, versagt bei großer Kanalfehlerrate, viel Redundanz erforderlich. Codierungsarten: (n,k)-blockcodes Blöcken aus k Info-Zeichen werden n Code-Zeichen (Codewort CW) zugeordnet (q-wertig; i.a. q = 2). q n mögliche CW, q k zulässige CW Redundanz; R = k n. Reine Abbildungsvorschrift (Schaltnetz), kein Gedächtnis (vergangene Blocks ohne Einfluss). k n x(τ) Ser/Par-Wandler Schieberegister Par/Ser-Wandler y(τ = n k τ) k k τ x(i= τ k ) Block codierer [H] n k τ y(i) Bild 1.2: Blockcodierer Faltungscodes der Rate R und Einflusslänge L Diskrete Faltung der Nachrichtenfolge mit Code-Impulsantwort.

6 1.3. MATHEMATISCHE GRUNDLAGEN DER CODIERUNGSTHEORIE 3 Code-Rate: R = k n, x(τ) gedächtnisbehaftet: Einflusslänge L (Constraint Length), FIR-Filterstruktur (Schieberegister-Prozess). k k k τ x(i) Schieberegister mit k L Zellen L k k k k Impulsantwort g( x), [G(D)] n k τ n R = k n y(i) y(τ ) Bild 1.3: Faltungscodierer Anmerkung: Die Parallel/Seriell-Wandlung kann auch durch Multiplexer realisiert werden: y 0 (i) n y(i) y(τ ) y n 1 (i) Bild 1.4: Parallel/Seriell Wandlung durch Multiplexer 1.3 Mathematische Grundlagen der Codierungstheorie Codewort (Block von Zeichen) = n-tupel, Vektor : c = ( c(0),c(1),...,c(n 1) ) C q-elementige Menge : c(i) {c 0,c 1,...,c q 1 } = C Operationen:, ; Komponentenweise Anwendung, d.h. a b = ( a(0) b(0),...,a(n 1) b(n 1) ), und (skalare Multiplikation) wobei a, b C; λ C λ a = ( λ a(0),...,λ a(n 1) ),

7 4 1. EINLEITUNG Axiomatisch gelte: 1.) (C; ; ) bildet Körper (Feld) mit Nullelement 0 C und Einselement 1 C, d.h. es gelten bzgl. (Addition) die Eigenschaften der abelschen Gruppe: 1.) Abgeschlossenheit: c i c j C c i,c j C, 2.) Assoziativgesetz: (c i c j ) c k = c i (c j c k ) c i,c j,c k C, 3.) Kommutativgesetz: c i c j = c j c i c i,c j C, 4.) Neutrales Element: c i 0 = c i c i C, 5.) Inverses Element: ( c i ) c i = 0 c i C, und bzgl. (Multiplikation) für C\{0} die Eigenschaften der abelschen Gruppe: 6.) Abgeschlossenheit: c i c j C c i,c j C, 7.) Assoziativgesetz: (c i c j c k = c i (c j c k ) c i,c j,c k C, 8.) Kommutativgesetz: c i c j = c j c i c i,c j C, 9.) Neutrales Element: c i 1 = c i c i C, 10.) Inverses Element: (c 1 i ) c i = 1 c i C\{0}, sowie für beide 11.) Distributivgesetz: c 1 (c 2 c 3 ) = (c 1 c 2 ) (c 1 c 3 ) c 1,c 2,c 3 C. Anmerkung: Die Axiome gelten auch für Vektoren (Codeworte), wobei 0 = (0,0,...,0) und 1 = (1,1,...,1); beachte skalare Multiplikation! Kurzschreibweise: ( a ( b) := a ( ) b) 2.) Endlicher Körper: Körper mit endlicher Anzahl von q Elementen. Satz: Haben zwei Körper die gleiche Anzahl von q Elementen, so existiert eine umkehrbar eindeutige Zuordnung zwischen deren Elementen derart, dass auch die Ergebnisse der Operationen in den Körpern einander zugeordnet sind. Ein endlicher Körper mit q Elementen wird als Galois-Feld GF(q) bezeichnet. Die Körper-Axiome sind erfüllt, wenn gilt: 1.) Restklassenalgebra: c i c j = (c i +c j ) modq c i c j = (c i c j ) modq 2.) C = {0,1,...,q 1} =GF(q), q 2 : Primzahl Primkörper, oder C = GF(q m ), m N Erweiterungskörper

8 1.3. MATHEMATISCHE GRUNDLAGEN DER CODIERUNGSTHEORIE 5 Bsp.: GF(2) = {0,1} q = 2: binär, mod 2 -Algebra = = GF(3) = {0,1,2} q = 3: ternär, mod 3 -Algebra ( c) = c (c 1 ) = c c c c c 1 0 / Esgilt: (a+b) modq = [(a) modq +(b) modq ] modq (a b) modq = [(a) modq (b) modq ] modq GF(2 8 ) : Element repräsentiert ein Byte. Primitives Element Def.: Ein Element α GF(q) heißt primitives Element, wenn dessen q 1 Potenzen α i, i = 1,...,q 1 genau alle Elemente c 0 GF(q) erzeugen, d.h. GF(q)\{0} = {α i i = 0,...,q 2}. = Die Elemente von Primkörpern sind als Potenzen darstellbar (0 := α ); Multiplikation = Addition der Exponenten (mod q 1 ) Satz: Jedes Galois-Feld besitzt mindestens ein primitives Element α, wobei α q 1 = α 0 = 1. α heißt deshalb (q 1)-te Einheitswurzel in GF(q). Bsp.: α = 1 ist primitives Element von GF(2) α = 2 ist primitives Element von GF(5), denn 2 1 = 2, 2 2 = 4, 2 3 = 8 =3, 2 4 = 16 =1 = 2 0 ; (auch α = 3 ist primitives Element) Satz: Ein GF(q) hat genau soviele primitive Elemente, wie es zu der Zahl (q 1) teilerfremde Zahlen i im Intervall 1 i < q 1 gibt. Bsp.: Zu 4 gibt es die teilerfremden Zahlen 1 und 3. Es gibt 2 primitive Elemente im GF(5).

9 6 1. EINLEITUNG Def.: Gilt für ein Element β GF(q)\{0}, β i 1 0 < i < r und β r = 1, so heißt r die Ordung des Elements. Ein Element der Ordnung q 1 ist ein primitives Element: β q 1 = 1. Hinweis: Auch die komplexen Zahlen {z = e j 2π q 1 i,1 i q 1;0} bilden endliche Körper (Kreisteilungskörper). 3.) Vektorraum über endlichem Skalarkörper (C,, ) und endlicher abelschen Gruppe (C, ), bei dem die Skalare λ C mit den Vektoren c C über die skalare Multiplikation verknüpft sind. Axiomatische Forderungen: 1.) Abgeschlossenheit: λ c C λ C, c C 2.) gem. Distributivgesetz: (λ 1 λ 2 ) c = (λ 1 c) (λ 2 c), λ 1, λ 2 C; c C 3.) gem. Assoziativgesetz: (λ 1 λ 2 ) c = λ 1 (λ 2 c) λ 1, λ 2 C; c C 4.) neutraler Skalar: 1 c = c c C Linearer Vektorraum: Linearität, d.h. λ 1 a λ 2 b C a, b C, λ 1,λ 2 C ( = lineare Codes) = 0 C: jeder lineare Blockcode enthält das Null-CW 0 = (0,...,0) Nichtlineare Codes: Bsp.: ( n ) w -gleichgewichtige Codes, d.h. alle CW haben gleiche Anzahl von 0 und 1. ( 4 ) 2 -Code: C = {(1100),(0110),(0011),(1010),(1001),(0101)} Da 0 C, ist ( n w) nicht linear! (vgl. nicht abgeschlossen bzgl. ) 4.) Metrik: Abstandsmaß im Vektorraum d( a, b) R + 0 Axiome: 1.) d( a, b) = d( b, a): Symmetrie 2.) d( a, b) d( a, c)+d( c, b) : Dreiecksungleichung 3.) d( a, b) 0, d( a, b) = 0 a = b hier: Hamming-Abstand: d H ( a, b) := d H (a,b) = { 0 : a = b 1 : sonst n 1 ( ) d H a(i),b(i) ; es gilt0 dh (, ) n

10 1.3. MATHEMATISCHE GRUNDLAGEN DER CODIERUNGSTHEORIE 7 5.) Norm: Maß für einen Vektor (Codewort): c R + 0 Axiome: 1.) λ c = λ c (Proportionalität) 2.) c 1 c 2 c 1 + c 2 (Dreiecksungleichung) 3.) c 0; c = 0 c = 0 hier: Hamming Gewicht des CW = Anzahl von 0 verschiedener Komponenten c H = w( c) = n 1 ( ) d H c(i),0 Durch Norm erzeugte Metrik: d H ( a, b) := a b H Hamming-Abstand = Gewicht des Differenz-CW d H ( a, b) = w( a b) Bsp.: minimaler Hamming-Abstand eines Codes: d min := min c H 6.) Skalarprodukt: in Anlehnung an Skalarprodukt der linearen Algebra c C\{ 0} geometrische Struktur < a, b > C Axiome: 1.) < a, b > = < b, a > (symmetrisch) 2.) < (λ 1 a λ 2 b), c > = λ 1 < a, c > λ 2 < b, c > 3.) c = 0 < c, c >= 0, aber < c, c >= 0 > c = 0 Hier: < a, b > := n 1 ( a(i) b(i) ) Z.B. wenn c H = gerade bei q = 2, ist < c, c > 0, d.h. es gibt mehrere selbstorthogonale Codeworte! Beachte: < a, a > hat hier nicht die Eigenschaften einer Norm! a und b heißen orthogonale CW, wenn < a, b >= 0; 0 ist zu jedem CW orthogonal. 7.) Unterraum: Sei C Vektorraum. Der Unterraum S C hat ebenfalls die Eigenschaften eines Vektorraums, wenn S abgeschlossen bzgl. und ist, d.h.: λ 1 a λ 2 b S a, b S; λ1,λ 2 C Bem.: 0 muss immer in S enthalten sein. Basis: B C ist die Basis eines Unterraumes S C, wenn alle b i B, i = 0,1,...,k 1 linear unabhängig sind, d.h. wenn b i B gilt: k 1 ) (λ i b i = 0, nur wenn λ i = 0 i = 0,...,k 1 und sich alle Codeworte c S durch Linerakombinationen von Basisvektoren bi B darstellen lassen: c = k 1 (λ i b i ) ; k ist die Dimension von S; S besitzt q k verschiedene Codeworte.

11 8 1. EINLEITUNG Orthogonalraum: Sei n die Dimension von C und k die Dimension eines Unterraumes S. Dann gibt es einen r = (n k)-dimensionalen Orthogonalraum S zu S. Alle Codeworte aus S sind orthogonal zu den Codeworten aus S, d.h. a S und b S gilt: < a, b >= 0. (vgl. Projektionssatz der linearen Algebra). Dualer (n, r)-code. 1.4 Fehlererkennung und Fehlerkorrektur Es wird folgendes Codierungs- und Übertragungsmodell zugrunde gelegt: k x (n,k) Codierer n = k +r y e n + Kanal n r (n,k) Decodierer k x Bild 1.5: Modell der blockcodierten Übertragung Über GF(q) bilden die n -Tupel am Codiererausgang einen Vektorraum mit q n möglichen Vektoren. Dies sind die gesendeten Codeworte. Im Kanal addiert sich (mod q) ein zufälliger n stelliger Fehlervektor e C. Daraus resultieren die empfangenen möglicherweise fehlerhaften Codeworte. Wenn die q k zulässigen gesendeten CW abgeschlossen bzgl. und sind, bilden sie einen Unterraum S C. d min = min c H ist der kleinste Hamming-Abstand zulässiger CW. c S\{ 0} Bsp.: Korrekturkubus d min empfangenes fehlerhaftes CW C zulässiges CW S Bild 1.6: Fehlererkennung und korrektur im Coderaum Fehlererkennung: WenndurchFehlereinCW y SaufeinenunzulässigenVektor r C\ S abgebildet wird, kann der Fehler erkannt werden. Es gilt: r = y e. Erkennung ist möglich, wenn für die Anzahl der verfälschten Komponenten gilt: e H (d min 1).

12 1.4. FEHLERERKENNUNG UND FEHLERKORREKTUR 9 Fehlerkorrektur: Beim BSC wird nach der ML-Regel (vgl. I, Abschnitt 5.2) das dem empfangenen Vektor am nächsten gelegene CW zugeordnet. Fehlerkorrektur ist möglich, wenn für die Anzahl der verfälschten Komponenten gilt: dmin 1 e H (= ganzzahliger Anteil) 2 dmin 1 t-fehler korrigierender Code: t =. 2 Decodierung eindeutig, wenn e H t und Code so, dass d min 2 t+1 d min d min a b a b t r t t r eindeutig korrigierbar nicht eindeutig korrigierbar! Bild 1.7: Korrigierbarkeit und d min Bedingung für t-fehler-korrigierbar (Hamming Schranke) Anzahl von Vektoren, die in einer Kugel(Sphäre) mit Radius t um ein n-komponentiges CW liegen = Anzahl der Fehlervektoren e mit e H t (q = 2) : 1+ t i=1 ( ) n = i t ( ) n i Anzahl aller korrigierbarer Vektoren in den Sphären: 2 k t ( ) n i Anzahl aller Vektoren: 2 n Korrekturbedingung: 2 k t ( ) n 2 n i t ( ) n 2 n k = 2 r i (r = n k)

13 10 1. EINLEITUNG Perfekte Codes: alle Vektoren liegen in Korrektur-Sphären d min = 2t+1. t Bekannte Perfekte Binärcodes: ( ) n = 2 ( r allgemein: i Hamming-Code (2 r 1,2 r 1 r) mit t = 1,d min = 3 Golay-Code (23,12) mit t = 3,d min = 7 t ( ) n (q 1) i = q r) i Nicht Perfekter Code kann bei manchen CW mehr als t Fehler korrigieren. Restfehlerwahrscheinlichkeit der CW P E bei BSC mit Fehlerwahrscheinlichkeit p i Fehler in n-block: P( e H = i) = ( n i) p i (1 p) n i. CW kann nicht korrigiert werden, wenn i > t = P E = P( e H > t) n i=t+1 ( ) n p i (1 p) n i = 1 i t ( ) n p i (1 p) n i i (Gleichheit bei Perfekten Codes) ( ) Näherung hilfreich, da Ausdruck numerisch problematisch: P E p 0 < n t+1 p t+1 Bsp.: p = 10 3 ( = SNR 10dB bei AWGN), Golay (23,12) t = 3, P E 10 8 allgemeiner: Chernoff Schranke P E (2 k 1) (2 p(1 p)) d min Abschätzung für Bitfehlerwahrscheinlichkeit P B : falsches CW maximal k Bitfehler 1.5 Code, Codierer P E k P B P E Code: Menge von Vektoren (Codeworte) y, d.h. ein Vektorraum mit gewünschter Mindestdistanz d min : y S C,d H ( a b) d min a b, a, b S d min legt die Fehlererkennungs- und Korrektureigenschaften des Codes fest. (n,k,d min ) Codes

14 1.5. CODE, CODIERER 11 Codierer: Die Zuordnung Info-Wort Code-Wort muss umkehrbar eindeutig sein. Es gibt (q k )! verschiedene Codierungen zu einem (n,k,d min ) Code, im Codierer ist eine davon realisiert. k x Code y S C Codierer Codierung x y n y Bild 1.8: Code und Codierer Das Repertoire an CW S kann größer sein als die Anzahl q k der zu codierenden Info-Worte ( Code-Verkürzung auf S S). C S S Bild 1.9: Verkürzter Code S

15 2 Lineare Blockcodes (n, k)-blockcode mit n: Anzahl CW Symbole pro Block k: Anzahl Info Symbole pro Block Andere Bezeichnung: (n,k,d min )-Blockcode mit d min : minimaler Hammingabstand zulässiger CW Linearität: wenn a und b zulässiges CW, dann ist auch λ 1 a λ 2 b ein zulässiges CW. 2.1 Beschreibung von Blockcodes durch Matrizen k x C : (n,k) n y e + Kanal n r x = (x 0,x 1,...,x k 1 ) : Zeilenvektor y = (y 0,y 1,...,y n 1 ) : Zeilenvektor Bild 2.1: Blockcodierer und Fehlermodell Mit Operatoren und im GF(q) gilt: y 0 = g 0,0 x 0 g 1,0 x 1... g k 1,0 x k 1. y n 1 = g 0,n 1 x 0... g k 1,n 1 x k 1, g i,j GF(q) y = x [G] ; Generatormatrix [G] = }{{} k n n {}}{ g 0,0 g 0,n 1.. k := g k 1,0 g k 1,n 1 g 0. g k 1 y = x 0 g 0 x 1 g 1... x k 1 g k 1 = k 1 x i g i Eigenschaften der Generatormatrix Bemerkungen: Wegen geforderter Eindeutigkeit müssen die g i linear unabhängig sein. Alle CW sind Linearkombinationen der g i, i = 0,...,k 1. = Die g i bilden Basis des CW-Raumes.

16 2.1. BESCHREIBUNG VON BLOCKCODES DURCH MATRIZEN 13 Systematischer Code: y = [ x p] = [x 0,...,x k 1 p 0,...,p r 1 ] [G] = 1 0 p 0,0 p 0,r = [I k P] p k 1,0 p k 1,r 1 [I k ] := (k k)-einheitsmatrix [P] := (k r)-paritätsmatrix bzw. Prüfmatrix Block-Codierer Code (n,k,d min ): Menge von Vektoren (Unterraum) mit Mindestdistanz d min [P] Codierer: Zuordnung: Info-Wort Code-Wort y = x[m] [I k P] e k k n n [M] [G] Decod. k k + [M] 1 bzgl.[g] x x y r ˆ x ˆ x Codierer Decodierer Bild 2.2: Modell Codierer/Decodierer [M] : Eindeutig umkehrbare Abbildung x x = neue Basisvektoren [M] 1 : Umkehrung existiert Neue Basis g j durchlinearkombination alter Basisvektoren g i ohned min zuändern. In [G] eine Zeilen durch Linearkombinationen dieser mit anderen Zeilen ersetzen. g j k 1 := λ ji g i Zeilen / Spalten vertauschen (Vorzeichenwechsel beachten!) (= Operationen, die den Wert einer Determinanten nicht ändern!) Jede Generatormatrix ist in eine systematische Form umwandelbar. Für alle linearen (n, k)-blockcodes existiert ein systematischer Codierer.

17 14 2. LINEARE BLOCKCODES 2.2 Fehlererkennung und -korrektur Orthogonalraum: Sei [H] die Generatormatrix des zu [G] dualen (n, r)-codes. Dann sind alle CW u = a [G] und v = b [H] orthogonal, d.h. 0 =< u, v>= n i=1 u i v i = u v T = a [G] [H] T b T a, b [G] [H] T = [0]. [H] heißt Kontrollmatrix (Parity-Check-Matrix) zur Generatormatrix [G] Konstruktion bei systematischen Codes: [ ] P := = [H] T }{{} n r [G] [H] T I r [ P = [I k P] Anmerkung: für q = 2 gilt P = P. Es gilt: y [H] T = x [G] [H] T = x [0] = 0 I r h0. hn 1 ] [H] = [ P T I r ] = [ P] [P] = [0] }{{} (k r) Alle gültigen CW werden durch die transponierte Kontrollmatrix [H] T auf den Nullvektor (r Komponenten) abgebildet. Sei y m H = d min ; y m [H] T = 0, d.h. d min ist die minimale Anzahl von Zeilen in [H] T, die sich zu 0 addieren, da y m d min von Null verschiedene Komponenten besitzt. Falsches CW: r = y e r [H] T = y [H] T e [H] T = e [H] T =: s (= Syndrom) Syndrom: s = r [H] T = e [H] T = (e 0,e 1,...,e n 1 ) h0. hn 1 = n 1 e i h i Eigenschaften des Syndroms: 1.) s hängt von e ab: e = 0 s = 0, die Umkehrung gilt nicht!

18 2.3. ERGÄNZUNGEN 15 2.) s besitzt r Komponenten es gibt q r = q n k verschiedene Syndrome. es können q r Fehlervektoren unterschieden werden. 3.) Die s i ergeben sich für q = 2 aus den Spaltensummen (mod 2 ) von [H] T an den Fehlerpositionen. 4.) Fehler sind korrigierbar, wenn von s eindeutig auf e geschlossen werden kann Schätzwert e. t ( q = 2: es gibt 2 r Syndrome; mögliche Fehlerposition bei t-f-code: n ) i ; für Fehlerkorrektur: 2 r t ( n i) (Gleichheit bei perfekten Codes). 5.) Bei nicht perfektem Code: ML-Regel wähle das e mit minimalem Hamming- Gewicht, d.h. e ( s ) = arg min e H (Nebenklassenanführer, Coset Leader) e E( s ) Fehlerkorrektur: 1.) Syndrom s = r[h] T ermitteln. 2.) Das zu s gehörende e finden. (Tabelle; e mit minimalem Gewicht) 3.) y = r e (bei q = 2: Invertiere Bit an den Positionen mit e i = 1.) 2.3 Ergänzungen Modifizierte Codes Code-Erweiterung (n,k) (n+1,k) : [H e ] = 0 [H] D.h. die zusätzliche Stelle ergänzt CW auf gerade Parität. ; derw min = d min +1 Code-Verkürzung (n,k) (n l,k l) Setze l Info-Stellen = 0, sie werden nicht übertragen, aber zur Prüfstellenberechnung ergänzt. Entspricht der Streichung von l Zeilen der Generatormatrix [G] und d kurz min d min [H kurz ] = [ 0 H] bzw. [G }{{} kurz ] = l [ 0 G ] }l

19 16 2. LINEARE BLOCKCODES Beispiel: Hamming-Code (Hamming 1950) Binäre (2 r 1,2 r 1 r)-codes d min = 3, t = 1 Wähle r = 3 (7,4)-Hamming-Code Hier: Codeentwurf über Kontrollmatrix [H] T = es gibt 2 3 = 8 mögliche h i, 7 werden benötigt. h0. h6, hi = (h i0,h i1,h i2 ) Wähle alle h i außer h i = 0; sortiere so, dass Matrix in systematischer Form entsteht. Da q = 2 P = P [ ] P [H] T = = [P] = I [G] = Syndromtabelle: s = e [H] T s T = [H] e T t = 1 : e s Bsp.: x = (1111) y = x [G] = ( ) sei e = ( ) r = ( ) s = r [H] T = (011) e = y = r e = Der Fehler wird richtig korrigiert.

20 2.3. ERGÄNZUNGEN Schaltungstechnische Realisierung ROM-Realisierung (nur für k < 16 sinnvoll) k k Info Bit (e i ) x k 1 x k 2 x 0 + x i (y i ) (r i ) Kanal x r Prüf Bit ROM + ROM p n n [H] T r + r s n [H T ] 1 e ( x i ) r r k Bild 2.3: ROM Realisierung für Blockcodierer und decodierer

21 3 Zyklische Codes Zyklische Codes sind Teilmengen der linearen (n, k) Blockcodes über GF(q). zyklisch, d.h. wenn y = (y 0,y 1,...,y n 1 ) ein CW, dann ist auch 1 y = (y n 1,y 0,...,y n 2 ) ein CW. Allgemein: geschobenes (zirkuliertes) CW: i y := (y n i,...,y 0,y 1,...,y n i 1 ) Beachte: n y = 0 y = y (mit n periodisch) Hinweis: periodisch mod-rechnung Restklassenalgebra Realisierung: Schieberegister y 0 y 1 y n 1 Bild 3.1: Schieberegister Struktur für zyklisches Codewort Es sei vereinbart, dass das am weitesten rechts stehende Element (höchster Index) zuerst gesendet bzw. verarbeitet wird. 3.1 Mathematische Beschreibung DarstellungderCWalsPolynominderPseudovariablenD: y =y(d) = n 1 Erweiterungskörpern des GF(q): y i GF(q) und y GF(q n ) vgl.: Komplexe Zahlen sind Erweiterungskörper der Reellen Zahlen: R 2 C, wobei es dann Lösungen gibt zu x 2 +1 = 0, x = j mit (j) 2 = 1. Restklasse der Polynome y i D i Polynomdarstellung Polynome in D vom Grad n-1; Koeffizienten GF(q); Operator, ; normiert. y(d) = n 1 y i D i = y }{{} n 1 Dn 1 +y n 2 D n y 1 D+y 0 ; y i GF(q) Leitkoeffizient = 1, wenn normiert y(d) = y = (y 0,y 1,...,y n 1 ) : Koeffizienten = Komponenten

22 3.1. MATHEMATISCHE BESCHREIBUNG 19 Koeffizienten des Polynoms repräsentieren die Komponenten des Vektors; D i bilden orthonormale Basis. Bezeichnung: y(d) R n (q), grad y(d) = n 1 Rechnen mit Polynomen Addition: e y =e(d) y(d) = n 1 (e i y i ) D i Multiplikation: y(d) = x(d) g(d) gradx(d) = k 1, gradg(d) = l 1 grady(d) = k +l 2, wobei y i = i g µ x i µ µ=0 mit g µ = 0 µ l und x ν = 0 ν k, 0 i k +l 2 = Faltungssumme y i = Faltung von g und x zum Zeitpunkt i T, wenn D i = (i T)-Zeitpunkt. D = Verzögerungsoperator (Delay) y(d) r(d) Division: = h(d)+, wobei r(d) = Divisionsrest g(d) g(d) { = 0 : wenng(d)teiler von y(d) r(d) := gradr(d) < gradg(d) : sonst = Faktorisierung: y(d) = h(d) g(d)+r(d) Gaußscher Divisionsalgorithmus: Bsp.: y(d) = (D 5 +D 4 +1), g(d) = (D 3 1) (D 5 + D 4 + 1) : (D 3 1) = D 2 +D + D2 +D +1 D 3 1 (D 5 D 2 ) (D 4 +D 2 ) (D 4 D ) D 2 +D +1 = r(d) Divisionsrest Restklasse der Polynome Divisionsrest = Restklasse der Polynome bzgl. mod f(d) gradf(d) = n,f i GF(q) y(d) R n (q), d.h. gerechnet wird mit dem Divisionsrest des Gaußschen Divisionsalgorithmus: ( ) y(d) = r(d) modf(d)

23 20 3. ZYKLISCHE CODES Bsp.: f(d) = D 2 +D +1; f i GF(2); R 2 (q = 2) = {0,1,D,D+1} =GF(2 2 ) (0) modf(d) = 0 ; (1) modf(d) = 1 ; (D) modf(d) = D ; (D 2 ) modf(d) = D +1 ; (D +1) modf(d) = D +1 (D +1) 2 modf(d) = D 2 +2D +1 = (D +1)+1 = D (D 2 +1) modf(d) = D +1+1 = D Def.: Ein irreduzibles Polynom g(d) mit Koeffizienten aus GF(q) kann nicht als Produkt von Polynomen kleineren Grades mit Koeffizienten aus GF(q) dargestellt werden. (vgl. Primzahl bei Primkörpern) Satz: Ist g(d) über GF(q), grad g(d) = n, irreduzibel, so besitzt jedes der q n 1 Polynome y(d) R n (q)\{0} ein eindeutiges inverses Polynom y 1 (D), d.h. ( y(d) y 1 (D) ) modg(d) = 1 (vgl. inverses Element bei Primkörpern) Bsp.: g(d) = D 2 +D +1 (D 2 +D +1) modg(d) = 0 = 1 = D 2 +D = D(D+1) = y(d) = D y 1 (D) = D+1 Bemerkung: Wenn g(d) irreduzibel ist, dann besitzt g(d) keine Nullstellen im GF(q), d.h. g(d) = 0 hat keine Lösungen D GF(q). (vgl. f(x) = x 2 +1 = 0 hat keine Lösungen x R) Hinweis: D ist kein Element, sondern Platzhalter für ein Element! Def.: Das Element α aus einem Erweiterungskörper heißt Wurzel oder Nullstelle von g(d) mit g(α) = 0. (vgl. f(x) = x 2 +1 = 0 hat die Nullstelle x = j C mit j 2 = 1) Bsp.: g(d) = D 2 +D +1 ist irreduzibel. Die Nullstellen α von g(d) sind definiert durch α 2 +α+1 = 0. Elemente des Erweiterungskörpers GF(q m ) Def.: Sei g(d) irreduzibel, grad g(d) = m, g i GF(q), und sei α eine Wurzel von g(d), d.h. g(α) = 0. α heißt primitives Element und g(d) primitives Polynom, wenn { ( ) } α i i = 0,1,...,q m 2 = R m (q)\{0} mod g(α) alle (q m 1) verschiedenen Polynome 0 des Erweiterungskörpers GF(q m ) erzeugt.

24 3.1. MATHEMATISCHE BESCHREIBUNG 21 Bsp.: g(d) = D 2 +D+1 istprimitives PolynomüberGF(2). Seiαprimitves Element. Dann erzeugt α 1 = α; α 2 = α + 1; α 3 = α 0 = 1 GF(2 2 ) = {0,1,α,α+1} alle Elemente des Erweiterungskörpers GF(2 2 ). Bemerkung: JedesElement deserweiterungskörpersgf(q m )\{0}istNullstelle desprimitiven Polynoms g(d). Darstellungsarten: Polynomdarstellung, f(d) GF(2 2 ) Addition: 0 1 D 1 + D D 1+D D D D D 1+D D 1+D D 1 0 Multiplikation: 0 1 D 1 + D D 1+D D 0 D 1+D 1 1+D 0 1+D 1 D Potenzdarstellung, {α i,0 i 3;0}, Logarithmentafel Addition: 0 α 0 α 1 α α 0 α 1 α 2 α 0 α 0 0 α 2 α 1 α 1 α 1 α 2 0 α 0 α 2 α 2 α 1 α 0 0 Hinweis: Diese Tabelle wird oft als Logarithmentafel bezeichnet. Für 0 ist auch die Darstellung 0 = α üblich. Multiplikation: 0 α 0 α 1 α 2 Komponentendarstellung α 0 0 α 0 α 1 α 2 α 1 0 α 1 α 2 α 0 α 2 0 α 2 α 0 α 1 Addition:

25 22 3. ZYKLISCHE CODES Multiplikation: irreduzibel reduzibel Polynome primitiv Bild 3.2: Zur Einteilung der Polynome Satz: Für jedes GF(q) und jedes m N gibt es mindestens ein primitives Polynom vom Grad m über GF(q), das einen Erweiterungskörper GF(q m ) erzeugt. Liste einiger primitiver Polynome mit geringster Anzahl von Null verschiedenen Koeffizienten: 1+D 1+D 4 +D 9 1+D +D 2 1+D 3 +D 10 1+D +D 3 1+D 2 +D 11 1+D +D 4 1+D 3 +D 4 +D 7 +D 12 1+D 2 +D 5 1+D +D 3 +D 4 +D 13 1+D +D 6 1+D +D 6 +D 8 +D 14 1+D +D 7 1+D +D 15 1+D 4 +D 5 +D 6 +D 8 1+D +D 3 +D 12 +D 16 Anmerkung: auch die gespiegelten Polynome sind primitiv, z.b. 1+D 2 +D 3 Def.: Gilt für ein Element β GF(q m )\{0}, dass β i 1 0 < i < r und β r = 1, so heißt r die Ordnung des Elementes. Ein Element der Ordnung r = q m 1 ist ein primitives Element Zyklische Codes als Restklasse Wähle für die Restklassenbildung y(d) modf(d) f(d) = D n 1, denn: D = Schiebeoperation d.h. D y(d) = 1 y(d).

26 3.2. CODIERUNG MIT ZYKLISCHEN CODES 23 Beweis: D y(d) modf(d) (y n 1 D n +y n 2 D n 1 + +y 0 D) : (D n 1) (y n 1 D n y n 1 ) (y n 2 D n 1 + +y 0 D+y n 1 ) = y n y(d) D n 1 ( D i y(d) ) mod(d n 1) = i y(d) Beachte: D n y(d) = y(d) D i y(d) = D n i y(d) i y = n i y 3.2 Codierung mit zyklischen Codes Es sei Info-Polynom x x(d) vom Grad k 1 Code-Polynom y y(d) vom Grad n 1 n=r+k Generator-Polynom g g(d) vom Grad = r normiert Paritäts-Polynom p p(d) vom Grad r 1 Def.: Ein zyklischer (n, k)-code besteht aus den Koeffizientenbelegungen der Menge der Codepolynome (CP), d.h. von y(d) R n (q) mit grad y(d) n 1 bezüglich der Restklasse mod(d n 1). Satz: Esgibt einnormiertes Generator-Polynomg(D) = 1 D r +...+g 0 mit kleinstem Grad gradg(d) = n k = r, das gemeinsamer Faktor aller CP ist. Lemma: 1.) g(d) ist das einzige CP mit kleinstem Grad r = n k. Beweis: Durch Widerspruch: g(d) ist CP. Angenommen, g (D) habe gleichen Grad wie g(d). Dann ist auch g(d) g (D) wegen Linearität ein CP. grad(g(d) g (D)) < r. Widerspruch! 2.) Da g(d) ein CP, ist auch D i g(d) = (D i g(d)) mod(d n 1) ein CP. 3.) Jedes Produkt x(d) g(d) = (x(d) g(d)) mod(d n 1) ist CP R n (q). Beweis: x(d) g(d) = x k 1 D k 1 g(d) +x }{{} k 2 D k 2 g(d)+...+x 0 g(d) R n(q) }{{} 4.) g(d) teilt D n 1 ohne Rest. R n(q), da linear } {{ } R n(q), da linear

27 24 3. ZYKLISCHE CODES Beweis: (D n 1) = g(d) h(d)+r(d)mit: r(d) = 0 oder gradr(d) < gradg(d) r(d) = ((D n 1) g(d) h(d)) mod(d n 1) = g(d) h(d) ist CP. Entweder grad(g h) < gradg Widerspruch! oder r(d) = 0 r(d) = 0 D n 1 = g(d) h(d), d.h. es gibt eine Zerlegung von (D n 1) mit g(d) als Faktor. Zusammenfassung: g(d) ist das einzige CP mit kleinstem Grad n k = r. Da g(d) ein CP, ist auch D i g(d) ein CP. Jedes Produkt x(d) g(d) ist CP y(d) = g(d) x(d) R n (q). g(d) teilt D n 1 ohne Rest D n 1 = g(d) h(d). Jedes y(d) mit grady(d) n 1 ist genau dann CP, wenn es durch g(d) ohne Rest teilbar ist Korrespondierende Generatormatrix [G] Allgemeiner (n, k)-blockcode: [G] = Zyklischer Code: n g 0. g k 1 {}}{ g(d) = ( g 0,g 1,...,1, 0,...,0) ist ein CW. }{{}}{{} r+1 k 1, wobei g 0,..., g k 1 linear unabh. CW g i (D) = D i g(d) = (0,...,0,g }{{} 0,g 1,...,1,0,...,0) = }{{} i g ist CW mit 0 i k 1. i k 1 i Die i g sind linear unabh. CW; sie bilden Basis der Dimension k im CW-Raum. [G] = g. mit i g = D i g(d), 0 i k 1 k 1 g g g r g g r Generatormatrix des zyklischen [G] =.... k 0 unsystematischen (n, k)-blockcodes g 0... g r 1 1 } {{ }} {{ } r k } {{ } n

28 3.2. CODIERUNG MIT ZYKLISCHEN CODES 25 Bsp.: q = 2, n = 7 mod(d 7 +1); D 7 +1 = (D+1)(D 3 +D 2 +1)(D 3 +D +1) Wähle r = 3 k = 4; g(d) = D 3 +D +1 (7,4) Blockcode [G] = Hamming-Codes sind zyklische Codes! systemat. Code [I k P] = = (7, 4)-Hamming-Code Systematische Codierer: Gewünscht: y = ( p, x) = (p 0,p 1,...,p r 1,x 0,x 1,...,x k 1 ) Anmerkung: das systematsiche Codewort unterscheidet sich von dem in Abschnitt Beachte: x k 1 wird zuerst, p 0 zuletzt gesendet. Strategie: Info-Polynom x(d) um n k = r Stellen schieben und zum Paritäts Polynom addieren. p(d) =? y(d) = D r x(d)+p(d) R n (q) muss CP sein! es gilt: y(d) = q(d) g(d) = D r x(d)+p(d) Dr x(d) = q(d)+ p(d) p(d) = ( D r x(d) ) g(d) g(d) modg(d) Codewort: y = y(d) = D r x(d)+ ( D r x(d) ) modg(d) Algorithmus für systematische CW bei zyklischen Codes: 1.) Sende x (k Stellen). 2.) Verschiebe x um r Stellen, d.h. bilde D r x(d). 3.) Dividieren: D r x(d) : g(d) Divisionsrest =p(d). 4.) Sende p (r Stellen). Hinweis: für q = 2 entfällt negatives Vorzeichen. Systematische Generatormatrix [G] = [I k P] = g 0. g k 1 k {}}{ g i = ( 0,...,0,1,0,...,0,p }{{} 0,...,p r 1 ) i 1 auf i-ter Position 0 i k 1 = g i (D) = D i +D k (D r+i ) mod g(d)

29 26 3. ZYKLISCHE CODES Duale Codes Es gilt: g(d) h(d) = (D n 1) mod(d n 1) = 0 Vergleiche Kontrollmatrix [H] : [G] [H] T = [0] Analog: [H] = h T (D) = k h k i D i := D k h ( 1 D) = indexinverses Polynom h T (D) generiert den zu g(d) dualen (n,r)-code, vgl. Abschnitt 2.2 (oft wird h(d) als Kontroll-Polynom bezeichnet). Bsp.: q = 2; D 7 +1 = (D +1)(D 3 +D 2 +1)(D 3 +D +1) = (D 4 +D 2 +D +1)(D 3 +D +1); g(d) = D 3 +D +1 h(d) = D 4 +D 2 +D +1 h T (D) = D 4 (D 4 +D 2 +D 1 +1) = (D 4 +D 3 +D 2 +1) = [H] = systematische [H ] = [P T I r ] = Kontrollmatrix vgl. Hamming-Code in Abschnitt 2.32 Prüfstellenermittlung mit h(d) g(d) h(d) = D n 1 y(d) h(d) = x(d) (D n 1) grad ( y(d) h(d) ) k 1 = k µ=0 h µ y i µ = 0 k i n 1 Da grad h(d) = k h k = 1 y i k = k 1 µ=0 h µ y i µ k i n 1 Folglichlassen sich bei einem systematischen Code die Prüfstellen y r 1,...,y 0 rekursiv, bei y r 1 also i = n 1 beginnend, aus den bekannten Info-Stellen (y n 1,...,y n k ) = x ermitteln.

30 3.2. CODIERUNG MIT ZYKLISCHEN CODES Schieberegister-Schaltungen für zyklische Codes 1. Rückgekoppeltes SR liefert Quotienten x(d) g(d) 0 x 0 x n r 1 x n r x i 1 x i x n 2 x n g 1 0 g 1 g r i g r 1 g r =1 Es gilt: x i := x i 1 g r i x n 1 Polynomdivision: Bild 3.3: Schieberegisterschaltung zur Polynomdivision (x n 1 D n 1 +x n 2 D n 2 + +x 0 ):(D r +g r 1 D r 1 + g 0 ) = x n 1 D n r p(d) g(d) (x n 1 D n 1 +x n 1 g r 1 D n 2 + +x n 1 g 0 D n r 1 ) 0 + x n 2 g r 1 x n 1 D n 2 + = erster SR-Takt p(d) =k-ter SR-Takt Jede Taktung des SR = Divisionszeile Nach n r = k Takten enthält das SR den Divisionsrest p(d) = ( x(d) ) mod g(d). 2. Schaltung für systematische zyklische Codierung mit r Registern, q = 2 Vorteilhaft für r < k, d.h. R > 1 2 g g 0 = 1 g r 1 y(d) = D + + r x(d)+(d r x(d)) + mod g(d) 2 1 (y i ) (x i ) Takt Schalterstellung Aktion CW 1,...,k 1 Info-Bit senden x i y i mit SR p(d) berechnen k +1,...,n 2 Paritätsstellen senden p i y i SR mit 0 belegen n+1,..., 1 Info-Bit senden... x i y i Bild 3.4: Systematische Codierer mittels Generatorpolynom

31 28 3. ZYKLISCHE CODES Bsp: (7,4), r = 3 Hamming-Codierer mit g(d) = D 3 +D+1; x = (0001) = x(d) = D 3 (x i ) z 1 z 2 z D 3 x(d) = D 6 (y i ) D 6 : (D 3 +D +1) = D 3 +D +1+ D2 +1 g(d) (D 6 +D 4 +D 3 ) D 4 +D 3 (D 4 +D 2 +D) D 3 +D 2 +D (D 3 +D +1) (D 2 +1) = p(d) 3. Kanonische Strukturen zur Codierung mit k Registern, q = 2 Gewichtskoeffizienten = dualer Code (Kontrollpolynom), vorteihaft für r > k, d.h. R < h k 1 h 1 h 0 = x 0 x 1 x k 1 (x i ) (y i ) Takt Schalterstellung Aktion CW 1,...,k 1 Info-Bit senden x i y i k +1,...,n 2 Prüfstellen ermitteln p i y i Prüfstellen senden Schalter x i z 1 z 2 z 3 y i Init Bild 3.5: Systematischer Codierer mittels Kontrollpolynom Rekursive Ermittlung der Prüfstellen nach Abschnitt y i k = k 1 µ=0 h µ y i µ, k i n 1

32 3.2. CODIERUNG MIT ZYKLISCHEN CODES Decodierung zyklischer Codes Wie bei Blockcodes: Syndromberechnung Fehlerlokalisation Fehlerkorrektur (trival bei GF(2)) Es gilt: g(d) teilt jedes CP y(d) ohne Rest ( y(d) ) modg(d) = 0 empfangenes CP: r(d) = y(d) + e(d); e(d): Fehlerpolynom Syndrom: s(d) = ( r(d) ) modg(d) = ( y(d) ) modg(d) +( e(d) ) modg(d) = ( e(d) ) modg(d) s(d) 0 erlaubt Fehleridentifikation, sofern e(d) R n (q), d.h. kein CP ist. Schaltung: (systematische Codes) r n k + (r i ) (ê i ) (ˆx i )...k 1 mod g(d) Fehler s(d) Lokalisation (Tabelle) Bild 3.6: Decodierer für zyklische Codes Fehlerkorrektur von Einzelfehlern (Meggit-Decoder) zyklisch: D i e(d) (D i s(d)) mod g(d) Ein zyklisch verschobenes Fehlermuster führt zu einem verschobenen Syndrom mod g(d) ( Meggit-Decoder). Berechnung eines Referenzsyndroms s 0 (D) für Einfachfehler an der Stelle 0: e 0 s(d) so lange zyklisch schieben, bis der Divisionsrest durch g(d) mit s 0 (D) übereinstimmt; die zu korrigierende Fehlerstelle wandert entsprechend. Verbesserung: Korrektur ohne Tabelle: Berlekamp-Massey-Algorithmus Euklidscher Divisions-Algorithmus

33 30 3. ZYKLISCHE CODES 3.3 Reed Solomon(RS) Codes I. Reed und G. Solomon, 1960 Klasse nicht binärer zyklischer Codes über GF(q) oder GF(q m ) Natürliche Länge von RS Codes über GF(q m ) ist n = q m 1 mit k = 1,2,...,n 2 Info Symbolen aus GF(q m ). RS Codes erfüllen die Singleton Schranke, d.h. für einen t Fehler korrigierenden RS Code gilt k = n 2t. (n,n 2t) Code Algebraische Strukturen von Reed-Solomon (RS) Codes Fundamentalsatz der Algebra: Ein Polynom Y(D) = k 1 Y i D i, Y k 1 0 hat höchstens (k 1) verschiedene Nullstellen α i. Anhand des Fundamentalsatzes der Algebra sollen Codes (d.h. Mengen von Vektoren) konstruiert werden, die ganz bestimmte Mindest-Hammingdistanzen d min aufweisen. Satz: Sei Y(D) ein Polynom über GF(q) oder GF(q m ) mit grad Y(D) = k 1 n d min. Wählt man aus dem GF n verschiedene Elemente β 0,β 1,...,β n 1 aus und definiert einen Vektor (Codewort) y = ( Y(β 0 ),Y(β 1 ),...,Y(β n 1 ) ), so hat y das Gewicht (Hamming-Norm) w( y) d min, d.h. alle Codeworte haben einen Mindestabstand d min. Beweis: Höchstens (k 1) der Y(β i ) sind Null. y hat mindestens n (k 1) d min von Null verschiedene Komponenten. w( y) d min. Aufgrund der Linearität des Codes haben alle y einen Mindestabstand d min. Mit β i := α i, i = 0,1,...,n 1, wobei α ein Element der Ordnung n, ist ein RS Code in einfachster Form wie folgt definiert. Def.: Ein RS Code der Länge n, der Dimension k und der Mindestdistanz d min = n (k 1)istdefiniertalsdieMengederVektoren y = ( Y(α 0 ),Y(α 1 ),...,Y(α n 1 ) ), α: Element der Ordnung n, für alle Polynome Y(D) mit grad Y(D) k 1. Der RS Codierer bildet die Menge der verschiedenen Polynome Y(D) R k (q l ) auf die Codeworte y = ( Y(α 0 ),Y(α 1 ),...,Y(α n 1 ) ) R n (q m ) ab. Natürliche Länge des t Fehler korrigierenden RS-Codes: (q m 1,q m 1 2t) mit m,t = 1,2,... Bemerkung: Bei RS Codes sind Y i und y j aus dem gleichen Erweiterungskörper, üblicherweise GF(2 m ), bei BCH Codes liegen die Komponenten Y i in einem Erweiterungskörper GF(q m ) zum Grundkörper der Codeworte y j GF(q) (BCH beschrieben von A. Hocquenghem (1959), R. Bose und D. Chaudhuri (1960)).

34 3.3. REED SOLOMON(RS) CODES RS Codierung und Diskrete Fourier Transformation Allgemeine Definition der Diskreten Fourier Transformation (DFT): Sei Y = (Y 0,Y 1,...,Y i,...,y n 1 ) der Koeffizientenvektor des Polynoms Y(D) = n 1 Y i D i undsei α einelement der Ordnung n, d.h. α n = 1, α i 1 0 < i < n. Der Vektor der invers diskret Fourier Transformierten (IDFT) (y 0,y 1,...,y l,...,y n 1 ) = y Y ist definiert durch n 1 y l := Y(D = α l ) = Y i α i l, 0 l n 1. Dann ergibt sich umgekehrt der Koeffizientenvektor y = (y 0,y 1,...,y l,...,y n 1 ) des Polynoms y(d) = n 1 y l D l durch die diskrete Fourier Transformation (DFT) mit l=0 n 1 Y i = n 1 y(d = α i ) = n 1 y l α l i, 0 i n 1. l=0 Bemerkung: 1.) α i α i = 1 = α n α i = α n i. 2.) ( n 1 Faltungssätze der DFT 1 ) = 1. 3.) Mitα = e +j 2π n entspricht obigedefinitionderkomplexwertigendft. Die zyklische Faltung zweier Folgen der Länge n entsteht dadurch, dass man zunächst eine der beiden Folgen periodisch fortsetzt und dann aus dem Faltungsprodukt eine Teilfolge der Länge n betrachtet (die Komponenten der Vektoren repräsentiern die Glieder der Folgen): c = a n 1 b c i = a j b (i j) modn, 0 i n 1 j=0 wobei b : ( b n+1 b 2 b 1 b 0 b 1 b n 1 ) b 1... b n 2 b n 1 b 0 b 1... b n 1 Dann gilt mit der DFT ( ) bzw. der IDFT ( ): a A =A(D), b B =B(D) c = (a 0 b 0,...,a n 1 b n 1 ) ( A B) =C(D) = [ A(D) B(D) ] mod(d n 1) und A a =a(d), B b =b(d)

35 32 3. ZYKLISCHE CODES c = (A 0 B 0,...,A n 1 B n 1 ) n 1 ( a b) =c(d) = n 1 [A(D) B(D) ] mod(d n 1) RS Codierer Eine t Fehler korrigierende RS Codierung entspricht einer inversen diskreten Fourier Transformation, bei der im Frequenzbereich k Koeffizienten (Spektrallinien) durch Info Stellen und die höchsten 2t Koeffizienten (Spektrallinien) durch Null besetzt werden. x i e S P 2t n IDFT k Y X RS Codierer n y n + r n DFT n R 2t Fehlerlokalisation S Fehlerwertberechnung k ˆ E + RS Decodierer k ˆ X Bild 3.7: Prinzip RS Codierer und Decodierer Beweis: Da bei RS Codes Y(D) höchstens vom Grad k 1 = n d min ist, gilt für die r = n k höchsten Koeffizienten Y i 0 k i n 1. Definitionsgemäß entspricht dann der RS Code einer IDFT mit den r höchsten Koeffizienten gleich Null. Für t Fehler korrigierbar muss d min 2t+1 gelten; da d min = (n k)+1, genügt es, die 2t höchsten Spektrallinien zu Null zu setzen. Anmerkung: 1.) RS Codes sind zyklische Codes, sie besitzen das Generatorpolynom n 1 g RS (D) = (D α i ), da auch g RS (D) ein Code Polynom ist, und für jedes Code Polynom gilt: i=k 0 = Y i = DFT[y(D)] i = n 1 y(α i ) k i n 1, d.h. α i, k i n 1 sind Nullstellen von g RS (D). Ein RS Code kann durch einen systematischen Codierer realisiert werden, da der RS-Code ein zyklischer Code mit dem Generatorpolynom g RS (n) ist. Ein RS Code ist durch die Angabe von (n, k) und eines primitiven Polynoms, das das GF(q m ) beschreibt, vollständig definiert. 2.) Für das Prüfpolynom gilt h RS (D) = k 1 (D α i ), denn das Prüfpolynom muss genau an den Stellen 0 sein, an denen g RS (D) keine Nullstellen hat, damit (g RS (D) h RS (D)) mod (D n 1) = 0.

36 3.3. REED SOLOMON(RS) CODES 33 3.) Der RS Code behält seine Eigenschaften, wenn beliebige 2t zusammenhängende Spektrallinien zu Null gesetzt werden. Beispiel für RS Codes im GF(q) Wähle GF(5) Restklasse mod D D α = 2 ist primitives Element α 0 = 1 = α 4 α 1 = 2; α 1 = 3 α 2 = 4; α 2 = 4 α 3 = 3; α 3 = 2 max. Codewortlänge: n = 4, da y = (Y(α 0 );Y(α 1 );Y(α 2 );Y(α 3 )) t = 1 Fehler korrigierender RS Code über GF(5) (n,n 2t) = (4,2) k = 2 Info Stellen (4,2) die beiden höchsten Frequenzstellen: Y 2 = Y 3 = 0 k = 2 Info Stellen: Y 0,Y 1 GF(5) es gibt 25 Codeworte Codierung: y = (Y(α 0 ),Y(α 1 ),Y(α 2 ),Y(α 3 )) Bsp.: Y = (1,2) Y(D) = 2D +1 y = (Y(1),Y(2),Y(4),Y(3)) = (3,0,4,2) =y(d) = 2D 3 +4D 2 +3 Decodierung: (z.b. fehlerfreier Kanal) ˆ Y = n 1 ( y(α 0 ),y(α 1 ),y(α 2 ),y(α 3 ) ) = 4 1 (y(1),y(3),y(4),y(2)) = 4 (4,3,0,0) = (1,2,0,0) = Y Generatorpolynom: n 1 g(d) = (D α i ) = (D α 2 )(D α 3 ) = (D 4)(D 2) = D 2 +4D +3 i=k

37 34 3. ZYKLISCHE CODES Beispiel für RS Codes im GF(2 m ) Wähle m = 8 GF(2 8 ) Primitives Element α, Primitives Polynom q(α) = α 8 +α 6 +α 5 +α 4 +1 Symbol ˆ= 8 Bit = 1 Byte (kann seriell oder parallel übertragen werden) max. Codewortlänge n = 255 Symbole, da y = (Y(α 0 );...;Y(α 254 )) Codeverkürzung bei systematischen CW (vgl. Abschnitt 2.3.1) l Info-Symbole Null setzten und nicht übertragen. Bsp.: t = 2 Bytefehler-korrigierend (255, 251) RS-Code Generatorpolynom: g(d) = 254 (D α i ) i=251 Verkürzter Code (28, 24): l = 224 Symbole zu Null gesetzt und nicht übertragen Grundzüge der RS Fehlerkorrektur Fehlermodell: y e = r R = Y E = ( ) (Y 0 E 0 ),...,(Y k 1 E k 1 ),E k,...,e }{{ n 1 } S =S(D) Syndrom S(D) = S = (R k,...,r n 1 ) = (E k,...,e n 1 ) darf nur von e abhängen. Strategie: S(D) = 0: fehlerfreier Empfang mit e = 0(bzw. Fehler nicht identifizierbar) S(D) 0: 1.) Fehlerlokalisation C(D) 2.) Fehlerwertberechnung Ê(D) ˆ X : ˆ Y = R ˆ E Korrekturfähigkeit: kann t Fehler korrigieren bei unbekannter Fehlerposition 2t Fehler korrigieren, wenn Fehlerposition bekannt. 1.) Fehlerlokalisation Idee: Berechne aus S(D) einen Schätzwert ˆ e ˆ E a.) der möglichst wenige Komponenten ê i 0 besitzt (ML Prinzip, da weniger Fehler wahrscheinlicher), b.) für den S = (Êk,...,Ên 1) gilt.

38 3.3. REED SOLOMON(RS) CODES 35 ad a.): Definiere Maskierungsvektor c, der an den Fehlerstellen = 0 ist, d.h. e i 0 c i = 0 und c i e i = 0 i, wobei C(D) minimalen Grad haben soll. Bilde C(D) = (D α i ) mit grad C(D) = Anzahl Fehlerstellen t, i=arg e i 0 wobei ( C(D) E(D) ) = 0 erfüllt sein muss. Gleichungssystem modd n 1 y(d) 0 Y(D) e(d) 0 x 0 x 0 E(D) r(d) S(D) R(D) c(d) x 0 x 0 x wobei c i e i = 0 i 0 C(D) (C(D) E(D)) mod(d n 1) = 0 grad C(D) = Anzahl Fehler t Bild 3.8: Veranschaulichung der RS Fehlerkorrektur ad b.): Berechnung von C(D) aus S(D), denn S = (E k,...,e n 1 ) 0 = t C i S l i, t l 2t 1, da maximal t Fehler Rekursive Lösung der t Gleichungen mit t Unbekannten C i Lösungsalgorithmen: } 1.) Euklidscher Divisionsalgorithmus C(D) 2.) Berlekamp-Massey-Algorithmus (1968) Nullstelle von C(D) = Fehlerstelle =α i bestimmen (Chien Search = probieren) 2.) Fehlerwertberechnung Idee: a.) Rekursive Lösung von ( C(D) Ê(D)) mod(d n 1) = 0 undˆ e ˆ E, ei = E(α i ) b.) Forney-Algorithmus

39 36 3. ZYKLISCHE CODES 3.4 Beispiele für zyklische Codes, Übersicht über Blockcodes Blockcodes Lineare Blockcodes zyklische Codes RS Codes BCH Codes 1.) Zyklische Hamming-Codes Bild 3.9: Übersicht Blockcodes (2 r 1, 2 r 1 r),d min = 3,t = 1, perfekte Codes. g(d) =? Faktorisierung (q = 2): (D (2r 1) 1) = g 1 (D) g 2 (D) g l (D) : irreduzible Polynome Das Generatorpolynom g(d) mit grad g(d) = r generiert einen Hamming-Code mit n = 2 r 1, wenn g(d) ein primitives Polynom ist. 2.) Golay-Code (23,12), d min = 7, t = 3, perfekter Code 3.) Schieberegister-Codes maximaler Länge g(d) = D 11 +D 9 +D 7 +D 6 +D 5 +D +1 (2 k 1,k), d min = 2 k 1, nicht perfekte Codes Duale Codes zu Hamming-Codes Entwurf über Kontrollpolynom h T (D). Codierer Kanonische Struktur (Gewichtskoeff. z.b. in [Proakis] tabelliert) + + h k 1 h 1 h 0 = (y i ) (x i ) Bild 3.10: Schaltung für SR Codes maximaler Länge

40 3.4. BEISPIELE FÜR ZYKLISCHE CODES, ÜBERSICHT ÜBER BLOCKCODES37 (y i ): enthält alle 2 k 1 möglichen Belegungen des SR außer dem 0 Wort mit 2 k und 2 k 1 1 -Elementen der Periode n = 2k 1. Für x 1 = 1,x i 1 = 0 ist (y i ), eine Pseudozufallsfolge. Mit der Abbildung 0 1,1 +1 gilt für deren Autokorrelationsfunktion { n : i = 0, ±n, ±2n,... ϕ yy (i) = 1 : sonst. Scrambler (Verwürfler) = nicht systematischer rekursiver Codierer der Rate R = 1: Dient der Beseitigung statistischer Bindungen, die das Leistungsdichtspektrum beeinflussen. 1 Codierung: y(d) = x(d) h (D) Decodierung: x(d) = y(d) h (D) 4.) BCH-Code (Hocquenghem (1959); Bose und Chaudhuri (1960)), Allgemeine Klasse von Codes (2 m 1,k) mit r m t, (d.h. k 2 m 1 m t), m 3 und d min = 2t+1 mit algebraischer Struktur wie RS Codes. (D 2m 1 1) = g(d) h(d); g(d) tabelliert für m,k,t, z.b. [Proakis]. Info Worte aus dem Erweiterungskörper GF(q m ), CW aus GF(q). Vorteil: Untere Schranke für d min (=geplante Mindestdistanz) ist bestimmt. Algebraische Decodierung wie bei RS Codes durch Berlekamp-Massey- Algorithmus oder Euklidscher Divisionsalgorithmus Spezialfall: Hamming-Codes t = 1, m = r und k = 2 r 1 r 5.) Reed-Solomon-Codes (1960) s. Abschnitt werden von manchen Autoren als Spezialfall der BCH Codes aufgefasst: (q m 1,q m 1 2t) Code über GF(q m ) bei natürlicher CW Länge. Anwendung: CD Player: (28,24) CodeüberGF(2 8 )+Faltungsinterleaving über28symbole + (32,28) Code; verkürzter RS Code mit d min = 5, t = 2, kann 2 Bytefehler erkennen und korrigieren oder 4 erkannte Bytefehler (c(d) gegeben) korrigieren DVB 6.) Reed-Muller-Codes (1954) vielfach-symmetrischer Aufbau von [G] einfache Decodierung (Schwellwert Decodierung) Anwendung: frühe NASA-Raumsonden mit (32,6), t = 7.

41 38 3. ZYKLISCHE CODES 3.5 Bündelfehler Bündelfehler entstehen durch Übertragungsfehler aufeinanderfolgender Symbole, die beispielsweise auftreten durch Impulsstörung beim Telefon, Abschattung beim Mobilfunk, Kratzer auf CD / Drop-out beim Magnetband, etc. Decodierer, die bei Decodierfehlern aufeinanderfolgende Symbole falsch ausgeben. Def.: Wenn es in einem Fehlerwort e einen Block gibt, dessen erste und letzte Stelle ungleich Null ist, so heißt der Block Fehlerbündel der Länge b. e: X X X b Bild 3.11: Zur Definition des Fehlerbündels Bemerkung: Für q = 2 gibt es 2 b 2 verschiedene Fehlerbündel Erkennung von Bündelfehlern Es wird nur eine Fehlerentdeckung, nicht jedoch eine Korrektur betrachtet ( ARQ oder CW ignorieren (Erasure)). Satz: Die kombinatorische Wahrscheinlichkeit, dass bei einem zyklischen Codewort mit r redundanten Stellen ein Fehlerbündel der Länge b > r + 1 unentdeckt bleibt, beträgt 1 2 bzw. 1 für b = r + 1. Bündelfehler der Länge b r r 2r 1 werden immer erkannt. Beweis: Das Fehlerbündel wird durch ein Polynom b(d) vom Grad b 1 mit b 0 = b b 1 = 1 beschrieben: b(d) = 1 D b 1 +b b 2 D b Es gilt r(d) = y(d) e(d). Das Fehlerbündel beginnt an der i ten Position in e(d) = D i b(d) s(d) = ( r(d) ) = ( e(d) ) modg(d) modg(d) e(d) wird nicht erkannt, wenn: wobei grad q (D) = (b 1) r. e(d) = q(d) g(d) D i b(d) = D i q (D) g(d) b(d) = q (D) g(d),

42 3.5. BÜNDELFEHLER 39 1.) Fehler wird detektiert, wenn b < r+1 b r q.e.d.; 2.) b = r +1 q (D) = 1 es gibt 2 (b 2) verschiedene b(d), b(d) = g(d) wird nicht erkannt. Bruchteil = 1 2 = 1 b 2 q.e.d.; 3.) b > r +1 grad q (D) = b 1 r es gibt 2 (b 2 r) verschiedene b(d), da b 0 = g 0 = 1 Bruchteil = 2b 2 r 2 b 2 = 1 2 r q.e.d. Bsp.: HDLC-Protokoll (z.b. bei ETHERNET): g(d) = D 16 +D 12 +D 5 +1 r = 16 2 r 1 Bündelfehler-Erkennung bis b = 16 zu 100%; unerkannte Bündelfehler für b , Interleaving (Codespreizung) Maßnahmen zur Fehlerkorrektur in Verbindung mit Codierung bei selten auftretenden Bündelfehlern. Gegeben sei ein t Fehler korrigierender Blockcode der Länge n; es sollen alle Fehlerbündel der Länge b B korrigierbar sein. Idee: Fehlerbündel auf B t korrigierbare Bündel der Länge t spreizen Datenstrom umsortieren, dazu inverse Operation im Sender erforderlich. (n, k)- Interleaver Bündelfehlern leaver codierer Kanal mit De-Inter De- Codierer x y y r r ˆ x Bild 3.12: Kanalcodierung mit Interleaving Unterteile y in Bitgruppen zu je t Bit, der Spreizungsabstand zwischen benachbarten Bitgruppen muss B sein. Man unterscheidet zwei verschiedene Arten von Interleaving: Block Interleaving Betrachte einen Spreizungsrahmen aus M Codeworten der Längen n. Es muss gelten: M t B. Realisierung: Speichermatrix (M n) Bit, zeilenweise in Bitgruppen zu je t Bit organisiert. Beim De-Interleaver wird spaltenweise ein- und zeilenweise ausgelesen. Beachte: Gesamtverzögerung durch Interleaving: 2 M n Symbole

43 40 3. ZYKLISCHE CODES n Bit zeilenweise einlesen y i M t Bit y i spaltenweise t Bitgruppen auslesen Bild 3.13: Block Interleaving Faltungs-Interleaving Multiplexer schalten nach jeweils t Bit weiter. Es muss gelten: t (M +1) B. y i Bit t Bit 1 0 y i ri M 1 M 1 M 1 M 1 M M 0 1 M t M Interleaver De Interleaver Bild 3.14: Faltungsinterleaving und deinterleaving M M r i Beachte: Gesamtverzögerung durch Interleaving: M t

44 4 Faltungscodes q-näre Faltungscodes, Rate R = k n, bildet Folge von Info-Vektoren (k Symbole) auf Folge von Code-Vektoren (n Symbole) ab. Codierer mit Gedächtnis: Codevektor hängt ab bei nichtrekursiven Codes von den (L) vorangegangenen Info-Vektoren, bei rekursiven Codes von vorausgegangen Code-Vektoren. L + 1: Einflusslänge (Constraint length); L: Rückgrifftiefe, Gedächtnistiefe. Diskrete Faltung der Nachrichtenfolge mit der Coder-Impulsantwort. Vorteile: + FIR-Filterstruktur ( Schieberegister-Prozess) einfach zu implementieren + lineare Codes + einfach und robust zu decodieren Nachteile: schwieriger zu analysieren keine geschlossene Theorie wie bei linearen Blockcodes. 4.1 Codierer-Struktur a.) x(τ) b.) x(τ) k. k x(i) k τ L [G(D)] k k 1 k k k τ 7 L n y(i) n y(τ ) Rate R = k n y(τ ) n Bild 4.1: Faltungscodierer: a.) Struktur, b.) Hardware-Realisierung