RLE Arithm. Shannon Fano Huffman Grenzen. Komprimierung. Ingo Blechschmidt, Michael Hartmann. 6. Dezember 2006

Transkript

1 RLE Arithm. Shannon Fano Huffman Grenzen Ingo Blechschmidt, Michael Hartmann 6. Dezember 2006

2 RLE Arithm. Shannon Fano Huffman Grenzen Inhalt 1 Lauflängenkodierung 2 Arithmetische Kodierung 3 Shannon Fano-Kodierung Grundideen Algorithmus Beispiel 4 Huffman-Kodierung Algorithmus Beispiel Verwendung 5 Grenzen der Komprimierbarkeit

3 RLE Arithm. Shannon Fano Huffman Grenzen Lauflängenkodierung (RLE) Idee: Ersetzung von sich direkt wiederholenden Zeichen durch eine Anweisung Beispiel: aaabbccccccde 3 a, bb, 6 c, de Sehr leicht umsetzbar Effizient nur in Spezialfällen, beispspielsweise großen einfarbigen Bereichen in Bildern

4 RLE Arithm. Shannon Fano Huffman Grenzen Arithmetische Kodierung 1 Unterteilung eines Einheitsintervalls entsprechend den relativen Häufigkeiten der Zeichen des Texts 2 Weitere Unterteilung bis alle Zeichen genutzt 3 Kodierung einer beliebigen Zahl des schärfsten Intervalls

5 RLE Arithm. Shannon Fano Huffman Grenzen

6 RLE Arithm. Shannon Fano Huffman Grenzen Grundideen Algorithmus Beispiel Shannon Fano-Kodierung Shannon Fano-Kodierung Entropiekodierung ( Kompressionsverfahren ) Darstellung häufiger Zeichen durch kurze Bitfolgen; Darstellung seltener Zeichen durch lange Bitfolgen Eindeutigkeit der Bitfolgen ( Präfixfreiheit ) Problembeispiel: A 10 B 01 C 0 } ABC nicht eindeutig ACA 10010

7 RLE Arithm. Shannon Fano Huffman Grenzen Grundideen Algorithmus Beispiel Algorithmus 1 Sortierung der Zeichen nach rel. Häufigkeit 2 Einteilung der Zeichen in zwei Gruppen, sodass Summen der Häufigkeiten etwa gleich 3 So lange fortfahren, bis Entsprechung jedes Zeichens durch einen Pfad im Baum

8 RLE Arithm. Shannon Fano Huffman Grenzen Grundideen Algorithmus Beispiel Beispiel Text (39 Zeichen): ABADDCCAABABEDAECBDDDAAAABAAAABBCAECECE Zeichen A B C D E Abs. Häufigkeit

9 RLE Arithm. Shannon Fano Huffman Grenzen Grundideen Algorithmus Beispiel Beispiel Original (117 bit; Entropie 0,82 bit): Komprimiert (89 bit; Entropie 0,99261 bit (!)): Zeichen A B C D E Abs. Häufigkeit Benötigte Bits Bit 0 1 Abs. Häufigkeit A 000 B 001 C 010 D 011 E 100 Zeichen A B C D E Abs. Häufigkeit Benötigte Bits Bit 0 1 Abs. Häufigkeit A 11 B 10 C 01 D 001 E 000

10 RLE Arithm. Shannon Fano Huffman Grenzen Algorithmus Beispiel Verwendung Huffman-Kodierung: Algorithmus 1 Wald erstellen mit allen vorkommenden Zeichen 2 Neuen Baum erstellen; die beiden Bäume mit geringster Häufigkeit als Blätter nutzen 3 So lange fortfahren, bis nur noch ein Baum vorhanden

11 RLE Arithm. Shannon Fano Huffman Grenzen Algorithmus Beispiel Verwendung Beispiel Text (39 Zeichen): ABADDCCAABABEDAECBDDDAAAABAAAABBCAECECE Zeichen A B C D E Abs. Häufigkeit

12 RLE Arithm. Shannon Fano Huffman Grenzen Algorithmus Beispiel Verwendung Beispiel Original (117 bit; Entropie 0,82 bit): Komprimiert (87 bit; Entropie 0,99762 bit (!!!)): Zeichen A B C D E Abs. Häufigkeit Benötigte Bits Bit 0 1 Abs. Häufigkeit A 000 B 001 C 010 D 011 E 100 Zeichen A B C D E Abs. Häufigkeit Benötigte Bits Bit 0 1 Abs. Häufigkeit A 0 B 100 C 101 D 110 E 111

13 RLE Arithm. Shannon Fano Huffman Grenzen Algorithmus Beispiel Verwendung Verwendung Verwendung von Deflate (LZ77 kombiniert mit Huffman-Kodierung): zip gzip png tiff pdf cab

14 RLE Arithm. Shannon Fano Huffman Grenzen Grenzen der Komprimierbarkeit Entropie als untere Schranke der Komprimierbarkeit Beweis der Nichtexistenz eines Perfekten Verfahrens TM : Annahme: Existenz eines Verfahrens, dass jeden beliebigen Text um ein Bit verkürzt Dann: Rekursive Anwendung denkbar Schluss: jedes beliebigen Texts auf ein Bit Aber: 256 <!

15 RLE Arithm. Shannon Fano Huffman Grenzen Fragen?

16 Bildquellen Bildquellen http: //upload.wikimedia.org/wikipedia/de/d/db/shannoncodealg.png http: //upload.wikimedia.org/wikipedia/de/d/d8/huffmancodealg.png ArithmetischesCodierenBeispiel.png