Klausur Informationstheorie und Codierung WS 2013/2014 23.01.2014 Name: Vorname: Matr.Nr: Ich fühle mich gesundheitlich in der Lage, die Klausur zu schreiben Unterschrift: Aufgabe A1 A2 A3 Summe Max. Punkte 22 5 23 50 Erreichte Pkt. Note Hinweise: Dieses Deckblatt muss mit den Lösungsblättern abgegeben werden Täuschungsversuche führen zur Bewertung der Prüfungsleistung als "nicht ausreichend" (5.0) Erlaubte Hilfsmittel: Formelsammlung, eine Seite DIN A4 beidseitig Es darf kein eigenes Papier verwendet werden. Verwenden Sie nicht die Farbe Rot. Klausurdauer: 120 min. Ostfalia Hochschule für angewandte Wissenschaften Hochschule Braunschweig/Wolfenbüttel Postanschrift: Salzdahlumer Str. 46/48 38302 Wolfenbüttel
Aufgabe 1 Quellencodierung 2 Präfixfreier Code 1. Wann gilt ein Code C als Präfixfrei? Nennen Sie zwei Beispiele. 2. Wie lautet die Ungleichung von Kraft und was bedeutet sie? 3. Ein binärer Baum habe 5 Endknoten, deren Abstände von der Wurzel sind: 1, 2, 3, 4 Existiert dieser Baum? Wenn ja stellen Sie diesen Baum dar. Prof. Dr. Ing. Lilia Lajmi 1
Entropie Codierung Es sollen binäre Bilder (Schwarz/Weiss) der Größe 4x4 codiert werden. 4. Wie viele Bits werden bei einer binären Codierung pro Bildpunkt benötigt? Begründen Sie Ihre Antwort 1P 5. Welche Bedeutung hat die Entropie H einer Quelle Q (Keine Formel)? 1P 6. Wann hat die Entropie einer Quelle Q mit N Symbolen ihren Maximum und welchen Wert erreicht sie dann? 7. Bestimmen Sie die relativen Häufigkeiten schwarzer und weißer Bildpunkte in dem Oben dargestellten Bild. Bestimmen Sie dann die Entropie unter der Annahme, dass diese Häufigkeiten mit den Wahrscheinlichkeiten übereinstimmen. Prof. Dr. Ing. Lilia Lajmi 2
Für die Codierung werden zwei benachbarte Bildpunkte zu einem Symbol zusammengefasst. Es entstehen somit folgende Symbole WW, WS, SW und SS. Es wird angenommen, dass benachbarte Bildpunkte statistisch unabhängig voneinander sind. 8. Entwerfen Sie einen Huffman Code welcher jeweils zwei benachbarte Bildpunkte zu einem Symbol zusammengefasst codiert. Bestimmen Sie die mittlere Codewortlänge in Bit pro Bildpunkt. 4P Prof. Dr. Ing. Lilia Lajmi 3
9. Entwerfen Sie einen Shannon Code welcher jeweils zwei benachbarte Bildpunkte zu einem Symbol zusammengefasst codiert. Bestimmen Sie die mittlere Codewortlänge in Bit pro Bildpunkt. Welches Verfahren (Shannon oder Huffman) ergibt bessere Ergebnisse? Woran könnte das liegen? 6P Prof. Dr. Ing. Lilia Lajmi 4
Aufgabe 2 Binäre Symmetrische Kanäle 5P Gegeben sei ein BSC Kanal mit folgender Kanalmatrix 0,95 0,05 0,05 0,95 1. Wie groß ist die Bitfehlerwahrscheinlichkeit im Kanal? 1P 2. Was beschreibt die Transinformation, eines Kanals und wodurch wird sie beeinflusst? 3. Wie groß ist die Kanalkapazität in Bit pro Symbol, wenn die Eingangs und Ausgangssymbole gleichverteilt sind? Prof. Dr. Ing. Lilia Lajmi 5
Aufgabe 3 Kanalcodierung 23P Block Code Bei einem 3,1, Blockcode wird eine binäre 1 in 100 und eine binäre 0 in 011 codiert. 10. Wie groß ist die Hamming Distanz dieses Codes? 11. Wie viele Fehler können damit erkannt bzw. korrigiert werden? 12. Die Bitfehlerwahrscheinlichkeit sei 10. Wie groß ist die Restfehlerwahrscheinlichkeit, wenn der Code zur Fehlerkorrektur verwendet wird? Prof. Dr. Ing. Lilia Lajmi 6
Zyklischer Code Ein zyklischer Code mit 7 und 3 besitzt das Generatorpolynom 1 4. Prüfen Sie nach, ob die Binärvektoren 1 1 0 1 0 0 1 und 0 1 1 1 0 1 1 gültige Codewörter sind. 4P 5. Bei der Übertragung des Codewortes 0 0 1 1 1 0 1 tritt der Fehler 0 1 0 0 0 0 0. Wie lautet die Polynomialer Darstellung des empfangenen Binärwortes? Prof. Dr. Ing. Lilia Lajmi 7
6. Welches Syndrom ergibt sich bei der Decodierung? 7. Welches Syndrom erwartet man bei einem Fehlermuster 0 1 0 0 0 0 0e? Vergleichen Sie das Ergebnis mit dem Ergebnis aus Aufgabenteil 6. 8. Ist das Restpolynom vom gesendeten Codewort abhängig? 1P Prof. Dr. Ing. Lilia Lajmi 8
9. Wie sieht die Generatormatrix des zyklischen Codes mit dem Generatorpolynom? 10. Bestimmen Sie für das Nachrichtenwort 1 0 1 das zugehörige Codewort des separierbaren Codes (Führen Sie alle Schritte der Codierung durch) 4P Prof. Dr. Ing. Lilia Lajmi 9