Grundlagen der Technischen Informatik. Codierung und Fehlerkorrektur. Kapitel 4.2

Transkript

1 Codierung und Fehlerkorrektur Kapitel 4.2 Prof. Dr.-Ing. Jürgen Teich Lehrstuhl für Hardware-Software-Co-Design

2 Technische Informatik - Meilensteine Informationstheorie Claude Elwood Shannon (geb. 1916) Quelle Sender Kanal Rauschen Senke Empfänger Blockdiagramm des Kommunikationsprozesses 2

3 Codewörter Allgemein: Code ist Vorschrift für eindeutige Zuordnung (Codierung) von Codewörtern zu Zeichen. Die Zuordnung muss nicht umkehrbar eindeutig sein Beispiel: Zuordnung von Zeichen verschiedener Alphabete Zeichenvorrat (Urmenge) anderer Zeichenvorrat (Bildmenge) 3

4 Codewörter Codewörter sind elementare Einheiten zur Darstellung von Informationen Beispiel: Codewort Anzahl Binärstellen m=8 m=5 Wie viele Codewörter lassen sich mit m Binärstellen codieren? Hängt von der Codierung ab, z.b.: Maximale Anzahl möglicher Codewörter mit m Binärstellen: Anzahl strukturierter m-stelliger Codewörter mit k Einsen: N m 2 m k k! (m m! k )! 4

5 Strukturierte Codes Beispiel: Anzahl Wörter im (2 aus 5)-Code: m = 5 k = 2 Anzahl möglicher Codewörter: N 5 2 2! (5 5! 2 )! 1 Folgende Codewörter sind möglich: Wofür könnte sich der (2 aus 5)-Code besonders eignen? Der (2 aus 5)-Code eignet sich mit seinen 1 Codewörtern besonders zur Darstellung von Dezimalziffern:, 1, 2,, 9 5

6 Codes für die Analog/Digital-Umsetzung Wandlung stetiger (analoger) Signale in zusammengesetzte Binärsignale (Binärvektoren) Stetiger Wertebereich Binärer Wertebereich Gewicht in kg Analog/Digital- Wandler Problem: kleine Änderungen der stetigen Größe sollen nur kleine Änderungen des Binärwortes bewirken 6

7 Codes für die Analog/Digital-Umsetzung Wandlung stetiger (analoger) Signale in zusammengesetzte Binärsignale (Binärvektoren) Problem: Übergänge, bei denen sich mehr als eine Binärstelle ändert Beispiel: Binärstellenübergänge Wenn beim Wechsel nicht alle Binärstellen gleichzeitig wechseln große Abweichungen für Werte der Binärsignale möglich: , 1, 1, 11, 11 oder 1 Fehlerhafte Übergänge in andere Codewörter möglich 7

8 Code-Eigenschaften: Hammingdistanz Eigenschaften von/zwischen Codewörtern Definition: Hammingdistanz HD (auch Hammingabstand genannt) Seien die Codewörter CW i, CW j {, 1} n (Binärvektoren) und HD ij = Anzahl der Stellen, an denen sich CW i und CW j unterscheiden. Dann heißt HD ij die Hammingdistanz von CW i und CW j. Also: Die Hammingdistanz HD zwischen zwei gleich langen Codewörtern gibt die Anzahl der unterschiedlichen Binärstellen an. Beispiele: Bestimmung HD 11 1 HD = HD = HD = 4 8

9 Code-Eigenschaften: Hammingdistanz Definition: Minimale Hammingdistanz HD min Gegeben Menge von Codewörtern X {, 1} n (Menge von Binärvektoren) Die minimale Hammingdistanz zwischen allen Paaren von Codewörtern heißt minimale Hammingdistanz von X: HD min (X) = min{ HD ij CW CW i, i CW, CW j X j X CW CW i i CW CW j } j } Beispiel: Codewörter des (2 aus 5)-Codes haben folgende minimale Hammingdistanz: HD min (2 aus 5) = 2 Die minimale Hammingdistanz ist eine entscheidende Eigenschaft eines Codes, um Übertragungsfehler erkennen und korrigieren zu können Begriff: Einschrittige Codes Codes, bei denen zwei benachbarte Codewörter immer eine Hammingdistanz von eins haben, heißen einschrittig. 9

10 Spezielle Codes: Gray-Code Einschrittige Codes: besondere Rolle bei der Analog-Digital-Wandlung Beispiel: Digitalisierte Waageablesung Änderung einer Binärstelle geschieht auf jeden Fall immer gleichzeitig Wandlungsfehler von höchstens 1 in kleinster Messeinheit Wichtiger Vertreter der einschrittigen Codes: Gray-Code linear, m=4 : 1: 1 2: 11 3: 1 4: 11 5: 111 6: 11 7: 1 8: 11 9: 111 zyklisch, m=3 : 1: 1 2: 11 3: 1 4: 11 5: 111 6: 11 7: 1 (: ) 1

11 Spezielle Codes: Gray-Code Gegeben: Gray-Code mit m = x Binärstellen liegt vor Gesucht: Doppelt so langen Gray-Code mit m neu = x+1 Binärstellen Konstruktion des Gray-Codes in umgekehrter Reihenfolge an gegebenen Code anhängen (Spiegelung an der Horizontalen) und zusätzliche Binärstelle anfügen (zuerst 2 x+1 /2 Nullen, dann 2 x+1 /2 Einsen)

12 Spezielle Codes: Austauschcodes Notwendig: Datenaustausch zwischen digitalen Systemen: spezielle Codes werden benötigt Texte aus Buchstaben, Ziffern, Satzzeichen, Sonderzeichen (characters) übertragbar ASCII-Code Verbreitung: ASCII-Code (American Standard Code for Information Interchange) kodiert mit 7 Bit 128 Zeichen: reicht für englischen Sprachraum weitgehend aus Bitgruppen werden zusammengefasst spezielle Bedeutung / Namen: MSB (Most Significant Bits) bezeichnen 3 höherwertigen Bits LSB (Least Significant Bits) bezeichnen 4 niederwertigen Bits b 7 b 6 b 5 b 4 b 3 b 2 b 1 MSB LSB 12

13 Spezielle Codes: ASCII-Code L S B MSB MSB teilen alle Zeichen in Gruppen zu je 16 Zeichen ein (lexikographische Anordnung M S B von Zeichen + Codewörtern) B in ä r S te u e rz e ic h e n G ro ß b u c h s ta b e n K le in b u c h s ta b e n NUL D L E P ` p 1 S O H DC1! 1 A Q a q 1 S T X DC2 2 B R b r 11 E T X DC3 # 3 C S c s 1 E O T DC4 $ 4 D T d t 11 E N Q N A K % 5 E U e u 11 A C K S Y N & 6 F V f v 111 BEL E T B 7 G W g w 1 BS C A N ( 8 H X h x 11 HT EM ) 9 I Y i y 11 LF S U B * : J Z j z 111 VT ESC + ; K [ k { 11 FF FS, < L \ l 111 CR GS - = M ] m } 111 SO RS. > N ^ n ~ 1111 SI US /? O _ o D E L 13

14 Spezielle Codes: Austauschcodes Beispiel: ASCII-Codierung Buchstabe A : A = 41 H = 1 1 B (Bitgruppen analog zu Hexadezimalsystem (später!)) MSB LSB Praxis: verschiedene 8, 16 und sogar 32 Bit Codes in Gebrauch Spezialzeichen verschiedener Sprachen darstellbar (z.b. ä, ö, ü, ) Beispiele: verbreitetster 32-Bit Austauschcode ist der UNICODE Zeichen in Sprachblöcken zusammengefasst ASCII-Code: im ersten Block enthält Erweiterungen für viele Sprachen 7-Segment-Code: digitale Ziffernanzeige, etc. Punktmatrixanzeigen: Drucker, etc. OCR-Code (Optical Character Recognition): Maschinenlesbarkeit Blindenschrift, etc. 14

15 Codes für Fehlererkennung / Fehlerkorrektur Fehlerschutz umfasst Fehlererkennung und Fehlerkorrektur Schutzwirkung wird durch Codierung realisiert Unterscheidung abhängig von Lage und Menge fehlerhaft empfangener Bits: Bitfehler, Burstfehler (Bündelfehler) und Symbolfehler können innerhalb des übertragenen Bitstroms auftreten gesendeter Bitstrom Bit Symbol empfangener Bitstrom fehlerhaft empfangenes Bit Bitfehler 3-bit- Burstfehler (Bündelfehler) 5-bit- Burstfehler (Bündelfehler) 4-bit- Burstfehler (Bündelfehler) Fehlerschutz entweder durch Blockcodierung oder Faltungscodierung 15

16 Codes für Fehlererkennung Problem in der Praxis: Störeinflüsse können bei der Übertragung oder Speicherung von binär kodierten Informationen den Wert der zur Darstellung verwendeten physikalischen Größe verfälschen 1 Fehler 1 11 Aber es gilt: einzelne Bitfehler (1 Bit kippt ) sind erkennbar bei Codes mit minimaler Hammingdistanz HD min = 2 jeder denkbare einzelne Bitfehler führt zu ungültigem (d.h. unbenutztem) Codewort: 1 gültiges Codewort HD = 2 1 Fehler 1 Fehler 11 unbenutztes Codewort, Fehlerfall gültiges Codewort

17 Codes für Fehlererkennung / Fehlerkorrektur Es gilt: Bei Codes mit HD min = 3: Zweifachfehler erkennbar oder Einfachfehler korrigierbar 2-Fachfehlererkennung: gültiges Codewort 1-Fachfehlerkorrektur: unbenutztes Codewort, Fehlerfall 2. Fehler 1. Fehler 2. Fehler unbenutztes Codewort, Fehlerfall 1. Fehler gültiges Codewort gültiges Codewort Korrektur 1 Fehler 1 Fehler Korrektur unbenutztes unbenutztes Codewort, Codewort, Fehlerfall Fehlerfall gültiges Codewort 17

18 Codes für Fehlererkennung / Fehlerkorrektur Allgemein gilt: Geeignete Codes können Fehler erkennen und sogar korrigieren Notwendig: Hinzufügen zusätzlicher (redundanter) Informationen zusätzlicher Darstellungsaufwand (Kosten!) Annahme: Höchstanzahl gleichzeitig zu berücksichtigender Fehler ist fest meistens: höchstens 1 oder 2 Bitfehler gleichzeitig (Teil-)Systematik bei Festlegung des Codes notwendig, z.b. minimale Hammingdistanz Paritätsbits Blocksicherungsverfahren Hamming-Codes Paritätsbit-Prüfverfahren: Fehler bei Code-Übertragung erkennbar (ohne Beachtung Hammingdistanz) zusätzliches Paritätsbit anhängen: Im Binärwort enthaltene Einsen werden entweder auf gerade (even parity) oder ungerade (odd parity) Anzahl ergänzt. Die Überprüfung erfolgt beim Empfänger 18

19 Fehlererkennung durch Parität Beispiel: Ergänzung des Paritätsbit Dezimal Binär gerade Parität (even parity) ungerade Parität (odd parity) Fehler:

20 Fehlerkorrektur durch Blocksicherung Das Prinzip der Paritätssicherung ist zweidimensional anwendbar Blocksicherungsverfahren mit doppelter Quersummenergänzung Nachricht wird in Blöcke von n Codewörtern mit Paritätsbit eingeteilt. Zusätzlich: am Ende jedes Blocks ein weiteres Codewort einfügen, das alle Paritätsbits der Spalten enthält. Also: bei Auftreten von Einfachfehlern lassen sich Spalte und Zeile eindeutig ermitteln: Einfachfehler sind damit korrigierbar gleichzeitig sind noch weitergehende Fehlererkennungsverfahren möglich: Bündelstörung erkennbar Bündelstörung: zeitlich konzentrierte Fehler, d.h. über einen Zeitraum ist die Verbindung gestört, können erkannt bzw. behoben werden 2

21 Fehlerkorrektur durch Blocksicherung Beispiel: Fehlerlokalisierung durch Blocksicherungsverfahren Ziffer Codewörter mit gerader Parität Zeile mit Fehler (ungerade Parität) Prüfwort 1 1 Spalte mit Fehler (ungerade Parität) 21

22 Fehlerkorrektur durch Blocksicherung Also: m Informationsbits werden k Fehlerschutzbits als Redundanz angehängt und mitübertragen Damit: Vergrößerung des Datenstroms auf Länge n = m + k Quersumme der Zeilen Fehler Quersumme der Spalten Fehler gesendete Bitfolge empfangene Bitfolge Beispiel für Blocksicherung: zyklische Redundanzprüfung [Cyclic Redundancy Check (CRC)] 22

23 23