Informationsdarstellung. 2 Informationsdarstellung. Ziele. 2 Informationsdarstellung Texte. Texte WS 2017/2018

Transkript

1 Fakultät Informatik Institut Systemarchitektur Professur Datenschutz und Datensicherheit WS 2017/ Informationsdarstellung Dr.-Ing. Elke Franz 2 Informationsdarstellung Ziele Geeignete Repräsentation unterschiedlicher Informationen: Texte, Zahlen, logische Werte, Bilder, Audiodaten, Ermöglichen entsprechender Operationen Operation: dargestellt durch Operator und Operanden; ein Operand: unäre Operation, zwei Operanden: binäre Operation Kompakte Darstellung (Kompression) Redundanzarme (ggf. redundanzfreie) Kodierung Notwendige Anzahl von Bits zur Darstellung: Informationsgehalt der Quelle Verfahren zur Optimalkodierung (Beispiel: Huffman-Kodierung) Informatik I (für Verkehrsingenieure) WS 2017/ Informationsdarstellung Texte Texte Kodierung des Alphabets und der Satz- und Spezialzeichen (knapp 100 Zeichen notwendig) Steuerzeichen wie Zeilenende (CR = carriage return) oder Tabulator (Tab) Insgesamt genügen 7 Bit zur Darstellung: 2 7 = 128 verschiedene Zeichen darstellbar Kodierung fortlaufender Texte: Aneinanderfügen der Kodes der einzelnen Zeichen (Zeichenkette, engl. String) Verbreitete Kodierung: ASCII-Kode (American Standard Code for Information Interchange) Verwendung von 7 Bits für die Darstellung der verschiedenen Zeichen, 8. Bit wurde z.b. als Kontrollbit genutzt Informatik I (für Verkehrsingenieure) WS 2017/

2 2 Informationsdarstellung Texte: ASCII-Tabelle 00 NUL 10 DLE 20 SP P 60 ` 70 p 01 SOH 11 DC1 21! A 51 Q 61 a 71 q 02 STX 12 DC B 52 R 62 b 72 r 03 ETX 13 DC3 23 # C 53 S 63 c 73 s 04 EOT 14 DC4 24 $ D 54 T 64 d 74 t 05 ENQ 15 NAK 25 % E 55 U 65 e 75 u 06 ACK 16 SYN 26 & F 56 V 66 f 76 v 07 BEL 17 ETB 27 ' G 57 W 67 g 77 w 08 BS 18 CAN 28 ( H 58 X 68 h 78 x 09 TAB 19 EM 29 ) I 59 Y 69 i 79 y 0A LF 1A SUB 2A * 3A : 4A J 5A Z 6A j 7A z 0B VT 1B ESC 2B + 3B ; 4B K 5B [ 6B k 7B { 0C FF 1C FS 2C, 3C < 4C L 5C \ 6C l 7C 0D CR 1D GS 2D - 3D = 4D M 5D ] 6D m 7D } 0E SO 1E RS 2E. 3E > 4E N 5E ^ 6E n 7E ~ 0F SI 1F US 2F / 3F? 4F O 5F _ 6F o 7F DEL Informatik (für Verkehrsingenieure) WS 2017/2018 I 4 2 Informationsdarstellung Texte ASCII-Erweiterungen, Unicode, UCS Erweiterung: Nutzung des 8. Bits weiterer verfügbarer Bereich von ASCII 128 bis ASCII 255 Nicht ausreichend für Symbole der verschiedenen Sprachen International Organization for Standardization (ISO): Normung verschiedener Optionen für Erweiterungen, z.b. die in Europa verbreitete Erweiterung ISO Latin-1 (ISO ) Unicode ( Standard, der versucht, alle relevanten Zeichen der unterschiedlichsten Kulturkreise zusammenzufassen 16 Bit Zeichen darstellbar Unicode-Zeichen entsprechen ASCII-Code Unicode-Zeichen entsprechen ISO Latin-1 Standardisierung (ISO): Universal Character Set (UCS) UCS-2 (16 Bit), UCS-4 (32 Bit) Probleme: Kompatibilität, Platzbedarf Informatik I (für Verkehrsingenieure) WS 2017/ Informationsdarstellung Texte UTF-8 (UCS Transformation Format) Eingeführt in den 90er Jahren Mehrbyte-Kodierung von Unicode bzw. UCS 7-Bit ASCII-Zeichen: 1 Byte: 0xxx xxxx (Wertebereich 00 7F) Andere Zeichen: Darstellung mit 2-6 Bytes: Für n Bytes im ersten Byte n 1-en, gefolgt von einer 0 Folgebytes beginnen mit 10 Beispiel 2-Byte-Kode: 110x xxxx 10xx xxxx Darstellung von UCS-2 Kodes mit bis zu 11 Bits Wertebereich 80 7FF Kompaktere Darstellung häufig verwendete Zeichen mit wenig Bytes dargestellt Kompatibel zu ASCII-Code Informatik I (für Verkehrsingenieure) WS 2017/

3 2 Informationsdarstellung Logische Werte Logische Werte Wahrheitswerte True (wahr) und False (falsch) Abkürzung mit T (bzw. 1) und F (bzw. 0) Logische Verknüpfungen: NOT (Negation bzw. Komplement), AND (Konjunktion), OR (Disjunktion) und XOR (exklusives OR) NOT AND F T OR F T XOR F T F T F F F F F T F F T T F T F T T T T T T F Symbole: Informatik I (für Verkehrsingenieure) WS 2017/ Informationsdarstellung Logische Werte Logische Werte Darstellung mit einem Bit ausreichend, da meist Byte die kleinste Einheit ist, 1 Byte pro Wahrheitswert: F = , T = Interpretationen von Bitketten als Folgen logischer Werte und bitweise Verknüpfung dieser Folgen Beispiel Informatik I (für Verkehrsingenieure) WS 2017/ Natürliche Zahlen Bitfolge entspricht der Binärdarstellung, vorzeichenlose Darstellung Mit n Bits lassen sich 2 n verschiedene Zahlen darstellen: 0, 1,, 2 n -1 Arithmetische Operationen äquivalent zum Dezimalsystem Beispiel: Zahlenbereich für n = 8 (8 Bits = 1 Byte) 0 = = = = = = = = Informatik I (für Verkehrsingenieure) WS 2017/

4 Ganze Zahlen Bereich:, -2, -1, 0, 1, 2, Nicht nur absoluter Wert, auch Vorzeichen darzustellen Vorzeichendarstellung: 1. Bit für Vorzeichen (0 = +, 1 = - ) Beispiel: 3 Bit 1. Bit für Vorzeichen 2 Bit für absoluten Wert darstellbar Nachteile: zwei Binärfolgen für Null Rechnen komplizierter Nicht geeignet! 000 = = = = = = = = = = Informatik I (für Verkehrsingenieure) WS 2017/ Zweierkomplementdarstellung (1) Gebräuchlichste Methode zur Darstellung ganzer Zahlen Beispiel für n=4 Bit: 2 4 = 16 Zahlen darstellbar, Bereich frei wählbar, z.b. von -8 bis = = = = = = = = = = = = = = = = -1 Informatik I (für Verkehrsingenieure) WS 2017/ Zweierkomplementdarstellung (2) Positive Zahlen: Zweierkomplementdarstellung entspricht der Binärdarstellung, 1. Bit = 0 Negative Zahlen: 1. Bit = 1 (erstes Bit repräsentiert -2 n ) Nur eine Darstellung der 0 Addition wie bei vorzeichenlosen Zahlen Darstellbarer Zahlenbereich für n Bits: -2 n-1 2 n-1-1 Darstellung negativer Zahlen im Zweierkomplement: Komplement des Betrags bilden und 1 addieren Addition und Subtraktion: negative Werte im Zweierkomplement darstellen und addieren Informatik I (für Verkehrsingenieure) WS 2017/

5 Überschreitung von Wertebereichen (Bsp. Addition) Addition der Zahlen a = (a n a n-1 a 0 ) und b = (b n b n-1 b 0 ) äquivalent zum Dezimalsystem: Addition der einzelnen Stellen, Übertrag (carry) wird zur nächsten Stelle addiert; Übertrag aus der vorletzten Stelle: c Gültigkeit des Ergebnisses: Ergebnis der letzten Stelle Vorzeichenlose Darstellung: Ergebnis gültig, falls kein Übertrag in der letzten Stelle, d.h., (a n + b n + c) {0,1} Zweierkomplement: a n und b n repräsentieren a n (-2 n ) bzw. b n (-2 n ), c jedoch c 2 n Ergebnis gültig, falls (a n + b n - c) {0,1} Beispiel Informatik I (für Verkehrsingenieure) WS 2017/ Reelle Zahlen Darstellung eines großen Zahlenbereichs notwendig Kompakte Darstellung möglich Beispiel: 0, = 1, Nicht eindeutig: 1, = 12, = 123, Normiert: 1. Zahl ungleich Null direkt vor dem Komma +1, Komponenten: Vorzeichen, Exponent, Mantisse Vorzeichen des Exponenten umgehen durch Addition eines festen Wertes (bias) Informatik I (für Verkehrsingenieure) WS 2017/ Binäre Gleitpunktzahlen Normierte Darstellung: 1. Zahl vor Dezimalpunkt ungleich Null muss bei Binärdarstellung eine 1 sein nur die restlichen Ziffern als Mantisse gespeichert (nicht gespeicherte 1: hidden bit ) Von IEEE (Institute of Electrical and Electronis Engineers) standardisierte Formate: Short real (oder single precision): 32 Bit Vorzeichen: 1 Bit, Exponent: 8 Bit, Mantisse: 23 Bit, bias: 127 Long real (oder double precision): 64 Bit Vorzeichen: 1 Bit, Exponent: 11 Bit, Mantisse: 52 Bit, bias: 1023 Informatik I (für Verkehrsingenieure) WS 2017/

6 Umwandlung in binäre Gleitpunktzahlen Fortgesetzte Multiplikation mit 2 Ziffern vor dem Komma liefern Binärziffern nach dem Komma Beispiel: (0,6875) 10 () 2? 2 0,6875 = 1,375 b -1 = 1 2 0,375 = 0,75 b -2 = 0 2 0,75 = 1,5 b -3 = 1 2 0,5 = 1,0 b -4 = 1 (0,6875) 10 (0.1011) 2 Ungenauigkeiten bereits bei Umrechnung möglich durch Rundungsfehler, weitere können bei Rechenoperationen auftreten Kein Test auf Gleichheit bei Gleitpunktzahlen! Informatik I (für Verkehrsingenieure) WS 2017/ Informationsdarstellung Kodierung Kodierung Abbildung der Elemente eines Alphabets auf die Elemente eines anderen Alphabets (bzw. auf Wörter über diesem Alphabet). e x ? Diskrete Quelle: endliche Menge von Werten Darstellung im Computer: binäres Alphabet mit {0,1}, Wörter über diesem Alphabet: Binärfolgen Informatik I (für Verkehrsingenieure) WS 2017/ Informationsdarstellung Kodierung Diskretisierung analoger Werte Informationen liegen oftmals in kontinuierlicher Form vor Diskretisierung notwendig Zeitdiskretisierung Abtastung in äquidistanten Zeitabschnitten Abtastfrequenz Quantisierung Abbildung auf diskrete Werte Quantisierungsfehler Wert Zeit Informatik I (für Verkehrsingenieure) WS 2017/

7 Redundanzarme Darstellung: Quellenkodierung Diskrete Quelle X mit N verschiedenen Zeichen {x 1, x 2,, x N } Notwendige Anzahl von Bits zur Darstellung der N Zeichen: Informationsgehalt der Quelle Zeichen x i treten mit bestimmter Wahrscheinlichkeit p(x i ) auf (Auftreten des Zeichens x i : Ereignis x i ) 0 p(x i ) 1 Wahrscheinlichkeit des Ereignisses x i N px i 1 i1 p(x i ) = 1 p(x i ) = 0 Summe der Wahrscheinlichkeiten aller Ereignisse sicheres Ereignis unwahrscheinliches Ereignis Informatik I (für Verkehrsingenieure) WS 2017/ Informationsgehalt: Entropie Information mit Gewinnung neuer Erkenntnisse verbunden Voraussetzung: Unbestimmtheit über die Quelle Information ist beseitigte Unbestimmtheit. Maß für Informationsgehalt soll dies widerspiegeln: Je größer die Wahrscheinlichkeit eines Ereignisses, desto kleiner ist die Unbestimmtheit. Ein sicheres Ereignis enthält keine Unbestimmtheit. Entropie eines Zeichens: ld ld ld x log 2 x Informatik I (für Verkehrsingenieure) WS 2017/ Informationsgehalt einer Quelle Mittlere Entropie (mittlerer Informationsgehalt) einer Quelle ld 1 ld Maximale Entropie / Entscheidungsgehalt ld (bei Gleichwahrscheinlichkeit der Zeichen) Einheit der Informationsmenge: Informatik I (für Verkehrsingenieure) WS 2017/

8 Quellenkodierung Eineindeutige Darstellung der Zeichen der Quelle in einer möglichst redundanzfreien bzw. redundanzarmen Form X A * 0,1 l,,, : Alphabet der diskreten Quelle : (Quellen-)Kode mit den Kodewörtern 0,1 : Kodewortlänge Gleichmäßiger Kode alle Kodewörter haben die Länge ld Darstellung von 2 verschiedenen Zeichen mit jeweils Bits Informatik I (für Verkehrsingenieure) WS 2017/ Ungleichmäßiger Kode Kodewörter mit ungleicher Kodewortlänge mittlere Kodewortlänge untere Schranke: Dekodierbarkeit erfordert Präfixfreiheit: kein Kodewort darf Beginn eines anderen Kodewortes sein Koderedundanz R K Differenz zwischen Kodewortlänge und mittlerem Informationsgehalt der Quelle 0 Informatik I (für Verkehrsingenieure) WS 2017/ Kodebaum Grafische Darstellungsmöglichkeit für Kodes Gerichteter Graph, Kodewörter entsprechen Pfad vom Wurzelknoten zu den Endknoten (Blättern) Beispiel für einen Kode mit folgenden Kodewörtern: Informatik I (für Verkehrsingenieure) WS 2017/

9 Optimalkodierung Methoden zur Schaffung redundanzfreier bzw. redundanzarmer Kodes mit vertretbarem Aufwand Verfahren, die Kenntnis der Quellenstatistik voraussetzen Prinzip: Je häufiger ein Zeichen, desto kürzer die Länge des zugehörigen Kodewortes Shannon-Fano Huffman Verfahren ohne Kenntnis der Quellenstatistik Prinzip: Ausnutzen von Abhängigkeiten zwischen Quellenzeichen, um mehrere Zeichen auf ein Kodewort abzubilden Lempel-Ziv Lempel-Ziv-Welch Informatik I (für Verkehrsingenieure) WS 2017/ Huffman-Kodierung 1. Wahrscheinlichkeiten absteigend ordnen 2. Zusammenfassen der beiden letzten Wahrscheinlichkeiten (die geringsten) zu einem neuen Wert 3. Erneutes Ordnen nach absteigenden Wahrscheinlichkeiten 4. Wiederholen der Schritte 2 und 3, bis die Zusammenfassung nur noch einen Wert ergibt 5. Aufstellen eines Kodebaumes entsprechend der Reduktion und Zuordnen der Kodesymbole 0 und 1; Auslesen der Kodewörter vom Wurzelknoten zu den Blättern (notwendig zur Erfüllung der Dekodierbarkeitsbedingung) Beispiel: 0,03 0,07 0,1 0,05 0,5 0,06 0,19 ;?? Informatik I (für Verkehrsingenieure) WS 2017/ x 5 x 7 x 3 x 2 x 6 x 4 x 1 0,5 0,19 0,1 0,07 0,06 0,05 0,03 0,5 0,19 0,1 0,08 0,07 0,06 0,5 0,19 0,13 0,1 0,08 0,5 0,19 0,18 0,13 0,5 0,31 0,19 0,5 0,5 1, ,5 0,5 x 5 = ,31 0, x 7 =11 0,18 0, ,1 0,08 0,07 0,06 x 3 = x 2 =1010 x 6 =1011 0,05 0,03 x 4 =10010 x 1 =10011 Informatik I (für Verkehrsingenieure) WS 2017/

10 / / 0, ,50 0, ,38 0, ,40 0, ,28 0, ,24 0, ,25 0, ,15 = 2,20 ld 1 2,167 0,033 Informatik I (für Verkehrsingenieure) WS 2017/