2. Zahlendarstellung und Codierungstechniken

Transkript

1 2. Zahlendarstellung und Codierungstechniken 2.1 Maschineninterne Darstellung von Zahlen und Zeichen 2.2 Fehlererkennende Codes 2.3 Fehlerkorrigierende Codes 2. Zahlendarstellung und Codierung 2-1

2 2.1 Maschineninterne Darstellung von Zahlen und Zeichen Alle Daten, die ein Digitalrechner speichert und verarbeitet, werden intern in Form von Bits dargestellt. Frage: Wie werden die Datentypen aus den höheren Programmiersprachen in Bitmuster abgebildet? 2. Zahlendarstellung und Codierung 2-2

3 Analoge Darstellung In der analogen Darstellung repräsentiert der technische Parameter (z. B. eine Spannung) direkt den Wert aus der Anwendung. Analoge Werte sind im Allgemeinen reelle Zahlen (Gleitkommawerte). Beispiel: Die Spannung 1 V entspricht DM 1,00, die Spannung 2,4 V entspricht DM 2,40. Analoge Größen können innerhalb eines vorgegebenen Bereiches jeden beliebigen Wert annehmen α Analogiegröße α 2. Zahlendarstellung und Codierung 2-3

4 Probleme der analogen Darstellung Genauigkeit der analogen Größe Definitionsbereich der analogen Größe Arithmetische Operationen auf analogen Größen Wichtige Anwendungsbeispiele Audio im Telefonnetz und in der Unterhaltungselektronik Fernseh- und Videotechnik 2. Zahlendarstellung und Codierung 2-4

5 Digitale Darstellung Die Darstellung von Werten erfolgt in Form von Zahlen (lateinisch: digitus : der Finger; Abzählen mit den Fingern). Beispiel: der chinesiche Abakus (Rechenrahmen) 2. Zahlendarstellung und Codierung 2-5

6 Darstellung von Zahlen im Rechner Alle modernen Rechner arbeiten mit Dualzahlen (im binären Zahlensystem). 2. Zahlendarstellung und Codierung 2-6

7 2.1.1 Logische Werte Daten vom Typ boolean (logische Daten) können nur die Werte true oder false annehmen. Daher genügt im Prinzip ein Bit. Häufig erfolgt aber eine Darstellung als ein Byte, da das Byte die kleinste adressierbare und damit direkt zugreifbare Einheit im Rechner ist. Eine weitverbreitete Konvention ist, dass ein Byte mit nur 0-Bits den Wert false darstellt, während ein Byte mit mindestens einem 1-Bit dem Wert true entspricht. Besonders häufig wird dabei das erste Bit im Byte interpretiert, da der Prozessor dieses besonders leicht auf 0 oder 1 prüfen kann. Datentyp Bitstring Manche höhere Programmiersprachen unterstützen den Datentyp Bitstring. Dieser wird direkt auf eine Folge von Bits im Speicher abgebildet. Dazu gibt es dann eine semantische Erweiterung der Operatoren der Aussagenlogik (,,,...) auf Bitmuster, die dann bitweise verknüpft werden. 2. Zahlendarstellung und Codierung 2-7

8 2.1.2 Ganze Zahlen Positive ganze Zahlen Positive ganze Zahlen sind ein sehr häufiger Datentyp in Anwendungsprogrammen (z. B. als Feldindex, Laufvariable in Schleifen), aber auch maschinenintern als Speicheradresse usw. Die Darstellung erfolgt als Dualzahl (Zahl zur Zahlenbasis 2). Dabei entspricht jede Ziffernposition einer Zweierpotenz (wie bei Dezimalzahlen jede Ziffernposition einer Zehnerpotenz entspricht). 2. Zahlendarstellung und Codierung 2-8

9 Positive ganze Zahlen Beispiel = Konvertierung Dual Dezimal: Ausmultiplizieren Dezimal Dual: fortgesetzte Division durch 2 und Notieren der Reste Beispiel als Dualzahl 30:2 = 15 Rest 0 15:2 = 7 Rest 1 7:2 = 3 Rest 1 3:2 = 1 Rest 1 1:2 = 0 Rest = Zahlendarstellung und Codierung 2-9

10 Rechnen mit Dualzahlen Arithmetische Operationen (Addition, Subtraktion, Multiplikation, Division) werden im Dualsystem analog zum Dezimalsystem ausgeführt. Merke Eine Multiplikation mit 2 entspricht einem "Linksshift" der Dualzahl, eine Division durch 2 einem Rechtsshift. Beispiel für ganze Zahlen im Hauptspeicher 2. Zahlendarstellung und Codierung 2-10

11 Oktalzahlen Das Aufschreiben von langen Bitsrtings braucht viel Platz und ist unübersichtlich. Deshalb wählt man häufig eine Darstellung in Form von Oktalzahlen oder Hexadezimalzahlen (Sedezimalzahlen). Dabei ergeben jeweils drei bzw. vier Bits eine Ziffer. Bitstring Oktalziffer Beispiel = = = 2*64 + 6* Zahlendarstellung und Codierung 2-11

12 Hexadezimalzahlen (Sedezimalzahlen) (1) Jeweils vier Bits ergeben eine Hexadezimalziffer. Da wir aus dem Dezimalsystem nur zehn Ziffern kennen, müssen weitere sechs Ziffernbezeichner dazu erfunden werden. Man wählt dazu die Großbuchstaben A bis F. Bitstring Hexadezimalziffer A 1011 B 1100 C 1101 D 1110 E 1111 F 2. Zahlendarstellung und Codierung 2-12

13 Hexadezimalzahlen (Sedezimalzahlen) (2) Beispiel = = B 5 16 = 11* Die oktale und hexadezimale Darstellung ist nicht nur für Ganzzahlen, sondern auch für beliebige andere Bitstrings gebräuchlich, z.b. zur Definition von Bitstring- Konstanten: ALL-ONE DC X'FF' LEFT-HALF DC X'F0' 2. Zahlendarstellung und Codierung 2-13

14 Negative ganze Zahlen Erste Idee Wir wählen n-1 Bits für den Betrag als ganze Zahl und ein Bit für das Vorzeichen. Nachteile Die Null gibt es zweimal (+0, -0). Die Arithmetik wird durch Fallunterscheidungen komplizierter. Zweite Idee Einerkomplement Eine negative Zahl wird durch Invertieren aller Bits der positiven Zahl desselben Betrages gebildet. Nachteile Immer noch zwei Nullen, immer noch komplizierte Arithmetik Dritte Idee Zweierkomplement 2. Zahlendarstellung und Codierung 2-14

15 Zweierkomplement (1) Berechnung Zweierkomplement = Einerkomplement +1 Beispiel für 3-Bit Zahlen: 2 10 = = = Vorteile Vorzeichen immer noch am ersten Bit erkennbar Die Addition negativer Zahlen geschieht wie die Addition positiver Zahlen! (beim Überschreiten der Null geht der Übertrag verloren). Deshalb braucht man nur noch eine Hardware-Schaltung! Subtraktion i - j durch Bildung des Zweierkomplements von j und Addition! i - j = i + (-j) Sehr einfach in Hardware zu bauen! 2. Zahlendarstellung und Codierung 2-15

16 Zweierkomplement (2) Die Darstellung auf dem Zahlenkreis veranschaulicht die Ähnlichkeit von Addition und Subtraktion. 2. Zahlendarstellung und Codierung 2-16

17 2.1.3 Gleitkommazahlen Reelle Zahlen (Gleitkommazahlen, floating point numbers) kann man auf zwei Weisen darstellen: durch Festlegen einer Konvention, wo im Maschinenwort man sich die Kommastelle denkt (Festkommazahl, fixedpoint number) oder durch eine Repräsentation in Form von Mantisse und Exponent. 2. Zahlendarstellung und Codierung 2-17

18 Festkomma-Darstellung (fixed-point number) Darstellung reeller Zahlen ohne Exponent Festlegung einer festen Anzahl von Stellen vor und nach dem Komma durch Konvention VZ Vorkomma- Nachkommastellen Beispiel Darstellung und Addition: 19,125 = , ,625 = , ,75 = , Umrechnung Dezimal x 10 Dual x 2 für x 10 < 1: 0,375 * 2 0,750 * 2 1,500 * 2 1,000 (alle Nachkommastellen = 0 Ende) Ergebnis 0, = 0,011 2 (durch Ablesen von oben nach unten) 2. Zahlendarstellung und Codierung 2-18

19 Gleitkommazahlen Repräsentation der rellen Zahl in Form von Mantisse und Exponent: z = m * g e, m Mantisse, e Exponent. m ist eine ganze Zahl mit gedachtem Komma vor der ersten Stelle. e ist ganze Zahl. g ist die Basis. Sie gilt als implizit vereinbart und wird nicht explizit dargestellt. Gebräuchlich sind g = 2 oder g = 16. (IBM-Großrechner: g = 16) Merke m < 0: negative reelle Zahl e < 0: reelle Zahl mit Betrag zwischen 0 und 1 2. Zahlendarstellung und Codierung 2-19

20 Beispiele für Gleitkommazahlen Eine Gleitkommazahl werde in einem 32-Bit-Wort dargestellt mit 8 Bits für e und 24 Bits für m e m Man überlege sich, wie die arithmetischen Operationen +, -, *, / in der obigen Gleitkomma-Darstellung ausgeführt werden! Anmerkung 1 Beim Rechnen mit Gleitkommazahlen ist die Genauigkeit beschränkt, da die Länge der Mantisse beschränkt ist. Es treten Rundungsfehler auf. Anmerkung 2 Sehr kleine Prozessoren unterstützen manchmal Gleitkommazahlen nicht in Hardware. Ihre Darstellung und Operationen darauf müssen dann in Software durch Unterprogramme des Laufzeitsystems realisiert werden. Üblich ist auch die Erweiterung des Rechners um einen zusätzlichen Gleitkommaprozessor, die wesentlich zur Beschleunigung der Ausführung numerischer Anwendungsprogramme beitragen kann. 2. Zahlendarstellung und Codierung 2-20

21 Darstellung der Mantisse Problem: 0,5 10 lässt sich darstellen als 0,1 2 * 2 0 oder als 0,01 2 * 2 1 etc. Lösung: Eindeutigkeit der Darstellung durch normalisierte Mantisse (Basis g = 2), z.b.: ½ m < 1, d.h. 0,5 10 = 0,1 2 * m < 2, d.h. 0,5 10 = 1,0 2 * 2-1 Werden normalisierte Mantissen vorausgesetzt, dann ist das erste Bit Immer gleich 0 bzw. 1 und braucht nicht abgespeichert zu werden (sogenanntes hidden bit ). Beispiel: Basis g = 2, Exponent e mit 6 Bit, normalisierte Mantisse m (1 m < 2) mit 6 Bit, hidden bit. 7,75 10 = 111,110 2 = (-1) 0 *1, * VZ Exponent Mantisse 2. Zahlendarstellung und Codierung 2-21

22 Versetzte Darstellung des Exponenten Diese Darstellung wird auch als Biased- oder Excess-Darstellung bezeichnet Zum tatsächlichen Exponenten wird ein bestimmter Wert (Bias) hinzuaddiert. Hat der Exponent n Bits, so beträgt dieser Wert 2 n-1. Beispiel: Basis g = 2, Exponent e mit 6 Bits in Excess- Darstellung, normalisierte Mantisse m (1 m < 2) mit 6 Bits,Verwendung des hidden bit. 7,75 10 = 111,110 2 = (-1) 0 *1, * 2 2 Zu speichernder Exponent E = = Vorteil dieser Darstellung: Falls für zwei Gleitkommazahlen a b gilt, so gilt das Gleiche für die (gewöhnliche) Dualdarstellung von a und b. Beispiel a = 0,5 10 = 1,0 2 * 2-1 = b = 4 10 = 1,0 2 * 2 2 = Ohne Excess-Darstellung wäre der Exponent von a und von b (Zweierkomplement). 2. Zahlendarstellung und Codierung 2-22

23 Das IEEE-Gleitkommaformat (IEEE 754) Genauigkeit Vorzeichen (bits) Single Double 1 (0 = positiv, 1 = negativ) Exponent (bits) Fraction (= Mantisse ohne hidden bit) (bits) Gesamtbreite (bits) Excess Exponent 8 23 (hidden bit) (hidden bit) Spezielle Werte (hier für einfache Genauigkeit): Exponent e -127 ( ) -127 ( ) -126 e ( ) -128 ( ) Fraction f f Bedeutung ± 0 0,... * (denormale Zahlen) 1,f * 2 e ± NaN (not a number) 2. Zahlendarstellung und Codierung 2-23

24 2.1.4 Zeichen (characters) Darstellung in fester Länge Die Zuordnung von Bitmustern zu den darzustellenden Zeichen nennt man einen Zeichencode. Zur Darstellung von Zeichen des Alphabets (Textzeichen, Sonderzeichen) gibt es internationale Standards. Diese verwendet eine feste Anzahl von Bits für jedes Zeichen. ASCII EBCDIC American Standard Code for Information Interchange. Ursprünglich ein 7-Bit- Code, inzwischen als 8-Bit-Code gebräuchlich, damit auch internationale Zeichen (z. B. deutsche Umlaute) aufgenommen werden können (IA5 = International Alphabet Number 5). Extended Binary Coded Decimal Interchange Code. Ein 8-Bit-Code, der auf Großrechnern sehr weit verbreitet ist, vor allem bei IBM 2. Zahlendarstellung und Codierung 2-24

25 Darstellung von Zeichen (1) Beide Codes enthalten druckbare Zeichen Ziffern Kleinbuchstaben Großbuchstaben Sonderzeichen (!,?, $,...) nicht druckbare Zeichen (Steuerzeichen) Wagenrücklauf, Zeilenvorschub, Tabulator, Klingeln, etc. Gerätesteuerzeichen und Übertragungssteuerzeichen. 2. Zahlendarstellung und Codierung 2-25

26 ASCII-Codetabelle (7-Bit-Code) Erste 3 Bits y x nul dle P ` p 1 soh dc1! 1 A Q ` q 2 sfx dc2 " 2 B R b r 3 etx dc3 # 3 C S c s 4 eot dc4 $ 4 D T d t 5 enq nak % 5 E U e u 6 ack syn & 6 F V f v 7 bel etb ' 7 G W g w 8 bs can ( 8 H X h x 9 ht em ) 9 I Y i y A lf sub * : J Z j z B vt esc + ; K [ k { C ff fs, < L \ l D cr qs - = M ] m } E so rs. > N ^ n F si us /? O _ o del 2. Zahlendarstellung und Codierung 2-26

27 ASCII: Bedeutung der Steuerzeichen Abk. Funktion Funktion (Bedeutung des Zeichens) NUL SOH STX ETX EOT ENQ ACK BEL BS HT LF VT FF CR SO SI DLE DC1-3 DC4 NAK SYN ETB CAN EM SS ESC FS GS RS US SP DEL Null Start of heading Start of text End of text End of transmission Enquiry Acknowledgement Audible signal Backspace Horizontal tabulation Line fe ed Vertical tabulation Form feed Carrier return Shift out S hift in Data link escape Device control Device stop Negative acknowledgement Synchronous idle End of transmission block Cancel End of medium Start of special sequence Escape File separator Group separator Record s epara tor Unit s epa rator Space De lete/idle Nichtiges (ungültiges) Zeichen Beginn des Kopfes (Titels) Textanfang Textende Ende der Übertragung Anfra ge Empfangsbestätigung Akustisches Signal Rücksetzen Horizontale Einstellung (Tabulator) Zeilenvorschub Vertikale Einstellung (Tabulator) Formularvorschub Schreibkopfrücklauf Umschaltung aus (Kleinschreibung) Umschaltung ein (Großschreibung) Umschaltung von Text auf Steuerzeichen Einheitensteuerung Einheitenhalt Negative Empfangsbestätigung Synchronisierzeichen (Leerlauf) Ende eines Übertragungsblockes Aufhe bung Ende für ein Medium (Gerät) Beginn einer speziellen Folge Auswahl, Trennung, Umschaltung Da te itre nnzeichen Gruppentrennzeichen Satztrennzeiche n Trennzeichen für eine Informationseinheit Zwis chenra um Lös che n/ Le e rlauf 2. Zahlendarstellung und Codierung 2-27

28 EBCDIC-Codetabelle 2. Zahlendarstellung und Codierung 2-28

29 Zeichencodes mit variabler Bitlänge Zeichencodes mit einer festen Anzahl von Bits haben den gravierenden Nachteil, dass sie nicht optimal sind, wenn die Häufigkeit der Zeichen in einem Text nicht gleich verteilt ist. Man kann sich dann Codes überlegen, bei denen Zeichen je nach ihrer Häufigkeit mit einer unterschiedlichen Anzahl von Bits dargestellt werden. Die Codetabelle wird gemäß den Zeichenhäufigkeiten anwendungsabhängig gewählt Vorteil Im Mittel weniger Bits zur Darstellung der Anwendungsdaten. Verringert den Speicherbedarf und beschleunigt den Datentransfer. Nachteil Zusatzaufwand zum Kodieren/Dekodieren zwischen gebräuchlichen Darstellungen und dem Code mit variabler Bitlänge. Parsing (Zerlegung der Zeichenkette in die einzelnen Zeichen) wird komplizierter. 2. Zahlendarstellung und Codierung 2-29

30 Beispiel für einen Code mit variabler Bitlänge (1) Zeichen Häufig- Code Anzahl keit (%) der Bits A F B [leer] D E Z P N u C Zahlendarstellung und Codierung 2-30

31 Beispiel für einen Code mit variabler Bitlänge (2) H R M L S I T K Y X G J O Q V W ? & / < unter ) ( % Zahlendarstellung und Codierung 2-31

32 Beispiel für einen Code mit variabler Bitlänge (3) = # ? , Mittlere Zeichenlänge im Code * * * * * * * * * * x 16 = 2.91 Bits pro Zeichen Wesentlich weniger als die üblichen 8 Bits pro Zeichen! 2. Zahlendarstellung und Codierung 2-32

33 Der Huffman-Code David Huffman hat einen Algorithmus zur Konstruktion von optimalen Codes mit variabler Bitlänge angegeben. Mit diesem Algorithmus konstruierte Codes bezeichnet man als Huffman-Codes. Algorithmus Erzeuge-Huffman-Code 1. Bestimme die Auftrittshäufigkeiten der Zeichen und schreibe sie an die Blattknoten eines aufzubauenden Binärbaums an. 2. Nimm die bisher unerledigten zwei Knoten mit den geringsten Häufigkeiten und berechne deren Summe. 3. Erzeuge einen Elternknoten für diese beiden und beschrifte ihn mit der Summe. Markiere die Verzweigung zum linken Sohn mit 0, die zum rechten Sohn mit Markiere die beiden bearbeiteten Knoten als erledigt. Wenn es nur noch einen nicht erledigten Knoten gibt, sind wir fertig. Sonst weiter mit Schritt Zahlendarstellung und Codierung 2-33

34 Huffman-Code: Beispiel Wahrscheinlichkeiten der Zeichen: p(a) = 0.3; p(b) = 0.3; p(c) = 0.1; p(d) = 0.15; p(e) = 0.15 Kodierbaum Wahrscheinlichkeit Zeichen Code % 30% A B % 15% 15% C D E Zahlendarstellung und Codierung 2-34

35 Huffman-Code: Optimalität Die Zeichen mit großen Häufigkeiten sind näher an der Wurzel des Baumes und haben somit eine kürzere Codewortlänge; deshalb ist es ein guter Code. Es ist sogar der bestmögliche Code! Denn: Die Länge einer kodierten Zeichenfolge ist gleich der gewichteten äußeren Pfadlänge des Huffman-Baumes. Die gewichtete äußere Pfadlänge eines Baumes ist gleich der über alle äußeren Knoten gebildeten Summe der Produkte des Gewichts (zugehöriger Häufigkeitszähler) mit der Entfernung von der Wurzel. Dies ist offensichtlich eine Möglichkeit, die Länge der kodierten Zeichenfolge zu berechnen; sie ist äquivalent zu der über alle Buchstaben gebildeten Summe der Produkte der Häufigkeit des Auftretens eines Buchstaben mit der Anzahl der Bits bei jedem Auftreten. Kein Baum mit den gleichen Häufigkeiten bei den äußeren Knoten hat eine kleinere gewichtete äußere Pfadlänge als der Huffman-Baum. 2. Zahlendarstellung und Codierung 2-35

36 Beweisidee Mit Hilfe des gleichen Prozesses kann ein beliebiger anderer Binärbaum konstruiert werden, doch ohne bei jedem Schritt unbedingt die zwei Knoten mit dem kleinsten Gewicht auszuwählen. Mittels Induktion lässt sich beweisen, dass keine Strategie zu einem besseren Ergebnis führen kann als die, bei der jeweils zuerst die beiden kleinsten Gewichte ausgewählt werden. 2. Zahlendarstellung und Codierung 2-36

37 Dekodieren von Huffman-Codes (1) Nahe liegend ist eine Dekodierung unter Verwendung des Tries (eines speziellen Binärbaumes): 1. Lies den Eingabestrom sequenziell und traversiere den Trie, bis ein Blattknoten erreicht ist. 2. Gib bei Erreichen des Blattknotens das erkannte Zeichen aus. Beobachtung Die Eingabe-Bitrate ist konstant, aber die Ausgabe- Zeichenrate ist variabel! 2. Zahlendarstellung und Codierung 2-37

38 Decodieren von Huffman-Codes (2) Als Alternative bietet sich die Verwendung einer Dekodiertabelle an. Erzeugung der Tabelle Hat das längste Codewort L Bits, so hat die Tabelle 2 L Einträge. Sei c i das Codewort für Zeichen s i. c i habe l i Bits. Wir erzeugen 2 L-li Einträge in der Tabelle, bei denen jeweils die ersten l i Bits = c i sind und die verbleibenden L-l i Bits alle möglichen Kombinationen annehmen. An all diesen Adressen wird s i als erkanntes Zeichen eingetragen, zugleich wird l i als Codewortlänge vermerkt. 2. Zahlendarstellung und Codierung 2-38

39 Decodieren von Huffman-Codes (3) Einsatz der Tabelle zur Dekodierung 1. Lies L Bits aus dem Eingabestrom in einen Puffer. 2. Benutze den Puffer als Adresse in der Tabelle und gib das erkannte Zeichen s i aus. 3. Entferne die ersten l i Bits aus dem Puffer und ziehe weitere l i Bits aus dem Eingabestrom nach. 4. Weiter mit Schritt 2. Beobachtung Das Tabellenverfahren ist schnell. Die Ausgabe-Zeichenrate ist konstant, aber die Eingabe-Bitrate ist variabel! 2. Zahlendarstellung und Codierung 2-39

40 Huffman-Code: Kommentare Ein sehr guter Code für viele praktische Zwecke. Allerdings nur geeignet, wenn die Häufigkeiten der Zeichen a priori bekannt und immer gleich (oder ähnlich) sind. Variante: Ermittle die Häufigkeiten für jeden gegebenen Text neu und speichere/übertrage den Code mit den Daten. Ein (durchaus berechenbarer) Verlust entsteht dadurch, dass jedes Zeichen mit einer ganzen Zahl von Bits kodiert werden muss und somit die Codelänge den Häufigkeiten nicht ganz (theoretisch optimal) angepasst werden kann. Verbesserung: arithmetische Kodierung (auf die wir hier nicht näher eingehen). 2. Zahlendarstellung und Codierung 2-40

41 2.2 Fehlererkennende Codes (wird noch ergänzt) 2. Zahlendarstellung und Codierung 2-41

42 2.3 Fehlerkorrigierende Codes (wird noch ergänzt) 2. Zahlendarstellung und Codierung 2-42