Datenkomprimierung. Lauflängenkodierung

Transkript

1 Datenkomprimierung Datenkomprimierung dient der Einsparung von Speicherplatz und von Übertragungskapazität für digitale Daten. Dabei werden Daten in neuen Datenstrukturen platzsparender Wir behandeln Komprimierungstechniken am Beispiel von Bilddaten. Bildatendatakomprimierung ist für - Bildarchivierung z.b. Satellitenbilder - Bildübertragung z.b. Bilder aus dem Internet - Mul@media- Anwendungen z.b. Bildschirmedi5erarbeiten Datenkompression nutzt Redundanz zum Komprimieren aus. Digitalbild Digitalbild redundanzvermindernde Kodierung Dekodierung Übertragung, Speicherung 1 Lauflängenkodierung Bilder mit wiederholten Grauwerten können durch Speichern von "Läufen" (runs) mit gleichen Grauwerten komprimiert werden. Grauwert1 Wiederholfaktor1 Grauwert2 Wiederholfaktor2 Bei S/W Bildern (z.b. Faxdaten) wird eine spezielle Lauflängenkodierung angewendet: Zeile # Spalte # Anfang Lauf1 Spalte # Ende Lauf1 Spalte # Anfang Lauf2 Spalte # Ende Lauf Lauflängenkodierung: ( ) ( ) ( ) 2 1!

2 Datenkomprimierung In einem diskreten Bild wird redundant kodiert, wenn 1. die Grauwerte der Pixel nicht gleichverteilt sind, und / oder 2. die Grauwerte von Pixeln korreliert sind Die Informa@onstheorie beschreibt Grenzen für minimales Kodieren von Informa@on. Redundanz einer Kodierung von Pixeln mit G Graustufen: r = b - H b = Zahl der Bits pro Pixel =! "!"# $ %# $,!* *! = " "#$%&'($ $=+ ) "#$% H = Entropie einer "Pixelquelle" = mielere Zahl von Bits, die zum Kodieren dieser Informa@onsquelle erforderlich sind Die Entropie einer Pixelquelle mit gleichwahrscheinlichen Grauwerten ist gleich der Zahl der Bits zur Kodierung der Grauwerte. 3 Huffman Kodierung Ein Huffmann- Kode erlaubt es, Nachrichten mit minimaler mielerer Länge, d.h. mit minimaler Redundanz, zu kodieren. "Nachrichten" (hier Grauwerte von Pixeln) werden mit unterschiedlichen Kodewortlängen kodiert. 1. Ordne Nachrichten nach absteigenden Wahrscheinlichkeiten. g (1) und g (2) seien die am wenigsten wahrscheinlichen Nachrichten. 2. Teile dem Kodewort von g (1) eine 1 und dem Kodewort von g (2) eine zu. 3. Fasse g (1) und g (2) durch Addi@on der Wahrscheinlichkeiten zu einer Nachricht zusammen. 4. Wiederhole Schriee 1 4, bis eine einzige Nachricht übrig bleibt. Beispiel: Nachricht Wahrschein- Kodewort Kodierungsbaum lichkeit g (5).3 g (4).25 1 g (3).25 1 g (2).1 11 g (1) Entropie: H = Mielere Kodewortlänge: !

3 Abhängigkeiten Ein Bild kann als eine Menge von Zufallsvariablen mit einer Verteilung p(x 1, x 2,..., x N ) = p(x) modelliert werden. Die exakte Verteilung ist meist unbekannt, aber Korrela@onen können häufig bes@mmt werden. Korrela@on von zwei Variablen: E[x i x j ] = c ij Korrela@onsmatrix: Kovarianz von zwei Variablen: E[(x i - m i )(x j - m j )] = v ij mit m k = Mieelwert von x k Kovarianzmatrix: E[x x T ] = c 11 c 12 c c 21 c 22 c 23 c 31 c 32 c E[(x- m) (x- m) T ] = v 11 v 12 v v 21 v 22 v 23 v 31 v 32 v Anmerkung: Unkorrelierte Variable müssen nicht sta@s@sch unabhängig sein: E[x i x j ] = p(x i x j ) = p(x i ) p(x j ) Aber: Unkorrelierte Gauss'sche Zufallsvariable sind sta@s@sch unabhängig. 5 Karhunen- Loève Transforma@on Bes@mme unkorrelierte Variable y von korrelierten Variablen x durch eine lineare Transforma@on. y = A (x - m) (auch bekannt als Hauptkomponentenanalyse ) E[y y T ] = A E[(x - m) (x - m) T ] A T = A V A T = D D ist eine Diagonalmatrix Es exis@ert stets eine orthonormale Matrix A, die eine reelle symmetrische Kovarianzmatrix V diagonalisiert. A ist die Matrix der Eigenvektoren von V, D ist die Matrix der zugehörigen Eigenwerte. x = A T y + m Rekonstruk@on von x aus y Betrachtet man x als Punkt im n- dimensionalen Euklid'schen Vektorraum, dann definiert A ein ro@ertes Koordinatensystem. 6 3!

4 Kompression and mit der Karhunen- Loève Wir nehmen an, dass die Eigenwerte λ n und die zugehörigen Eigenvektoren von A in absteigender Reihenfolge sor@ert sind: λ 1 λ 2... λ N D =! λ! 1...! λ 2! λ 3...!! x kann in einen K- dimensionalen Vektor y K, K < N transformiert werden, mit einer Transforma@onsmatrix A K, die nur die ersten K Eigenvektoren von A enthält, korrespondierend zu den K größten Eigenwerten. y K = A K (x - m) Eigenvektoren a and Eigenwerte λ sind definiert durch V a = λ a und können bes@mmt werden, indem man det [V - λi ] = löst. Zum Bes@mmen der Eigenwerte von reellen symmetrischen Matrizen gibt es spezielle Verfahren. Die angenäherte Rekonstruk@on x minimiert den mieleren quadra@schen Fehler (MSE mean square error) einer Repräsenta@on mit K Dimensionen: x! = A T K y K + m Deshalb kann y K zur (verlustbehayeten) Datenkomprimierung verwendet werden. 7 Illustra@on der Dimensionsreduk@on Mit der Karhunen- Loève- Transforma@on wird Datenkompression erreicht durch Wechseln (Drehen) des Koordinatensystems Weglassen der am wenigsten informa@ven Dimensionen Beispiel: y 2 x 2 y 1 x 2 x 1 x 1 y 2 y 1 y 1 8 4!

5 Eigenfaces (1) Turk & Pentland: Face Recognition Using Eigenfaces (1991)! Eigenfaces = Eigenvektoren der Kovarianzmatrix von normalisierten Gesichtsbildern! Beispielbilder des Eigenface-Projekts an der Rice University! 9 Eigenfaces (2) Die ersten 18 Eigenfaces (= ersten 18 Eigenvektoren) der Kovarianzmatrix von 86 Gesichtsbildern! 1 5!

6 Eigenfaces (3) Originalbilder und Rekonstruktionen aus 5 Eigenfaces! 11 Diskrete Kosinus- Transforma@on (DCT) Die Diskrete Kosinus- Transforma@on ist in Bildkompressionsverfahren verbreitet, z.b. im JPEG (Joint Photographic Expert Group) Standard. Defini@on der DCT: " $!# &="" $!#! "" = # $ '=" % &'! "# = $ &!$ &!$ " ( %& )=+" ' *=+ )*,-./%) + $1"#23,-./%* + $1##2 Inverse DCT:! "# = $ % & + $ %!$ %!$ & '' " " (% ) *=' +=' *+,-./(" + $1*#23,-./(# + $1+#2 Die DCT berechnet im Effekt die Fourier Transforma@on einer Funk@on, die bei N durch Ergänzung einer gespiegelter Kopie symmetrisch gemacht wurde. => 1. Resultat enthält keine Sinusterme 2. Keine Fehler durch periodische Fortsetzung. Eine Kompression erfolgt durch Beschränken auf niedere Frequenzen oder gröbere Kodierung höherer Frequenzen. 12 6!

7 Koeffizienten der 2D- Die Koeffizienten einer 8x8- DCT- Kosinus- Bestandteile mit Längen von Vielfachen von π. 13 Prinzip von "Baseline JPEG" (JPG Grundformat) (Quelle: Gibson et al., Digital Compression for Morgan Kaufmann 98) 8 x 8 Blöcke Kodierer FDCT Quantisierer Entropiekodierer Daten der Bildquelle tabellierte Spezifikationen tabellierte Spezifikationen komprimierte Bilddaten von RGB nach YCbCr transformieren, Farbinforma@on unterabtasten Bild in 8 x 8 Blöcke par@@onieren, von links nach rechts, von oben nach unten Diskrete Kosinus- Transforma@on (DCT) von jedem Block berechnen Koeffizienten der DCT entsprechend psychovisuellen Tabellen quan@sieren DCT Koeffizienten im Zickzack anordnen Lauflängenkodierung des Bitstroms aller Koeffizienten eines Blocks Huffman- Kodierung für Bitmuster eines Blocks 14 7!

8 YCbCr Farbmodell für JPEG Menschliche Augen sind gegenüber Luminanzschwankungen (Helligkeit) empfindlicher als gegenüber Chrominanzschwankungen (Farbe). YCbCr Farbkodierung verwendet für Chrominanz weniger Bits als für Luminanz. CCIR- 61 Schema: Y =.299 R G B "Luminanz" Cb =.1687 R G +.5 B "Blaugehalt" Cr =.5 R G B "Rotgehalt" In JPEG: 1 Cb, 1 Cr und 4 Y Werte für jedes 2 x 2 Teilbild (6 anstelle von 12 Werten) 15 Illustra@onen zur Grundform von JPEG Zerlegen eines Bildes in Blöcke Blöcke 1 2 DCT- Koeffizienten a 2 a a 1 a 3 a 63 Reihenfolge der DCT- Koeffizienten zur effizienten Lauflängenkodierung Übertragungsreihenfolge von Bildblöcken MSB LSB 16 8!

9 JPEG- komprimiertes Bild Original mit 5.8 MB JPEG- komprimiert auf 45 KB Differenzbild Standardabweichung der Luminanzwerte: 1,44 17 Probleme mit der Blockstruktur von JPEG JPEG-Kodierung mit einer Kompressionsrate von 1:7 Blockgrenzen sind erkennbar 18 9!

10 Progressives Kodieren Progressive Kodierung ermöglicht es, zuerst eine Grobversion eines Bildes und dann fortschreitende Verfeinerungen zu übertragen (angenehm für schnelle im Internet). Spektrale Auswahl 1. Übertragung: DCT- Koeffizienten a... a k1 2. Übertragung: DCT- Koeffizienten a k1... a k2 Auswahl von signifikanten Bits 1. Übertragung: Bits 7... n 1 2. Übertragung: Bits n n 2 niederfrequente Koeffizienten zuerst signifikante Bits zuerst 19 Eigenschayen: Bildrepräsenta@on als Quadbaum Jeder Knoten repräsen@ert eine rechteckige Bildfläche, z.b. durch dessen Mieelwert Jeder Knoten hat 4 Kinder, mit Ausnahme der Blaeknoten Kinder eines Knoten repräsen@eren gleichgroße Teilrechtecke Knoten können bei Bedarf weiter verfeinert werden Teilrechtecke werden entsprechend der Zerlegungsschriee adressiert Quadbaum- Struktur: Wurzel !

11 Bildkompression mit einem Quadbaum Ein vollständiger Quadbaum ein Bild mit N = 2 K x 2 K Pixeln durch K 1.33 N Knoten. Ein Bild kann komprimiert werden, - indem jeder Kindknoten nur die Differenz zum Elternknoten speichert - indem Teilbäume mit (annähernd) gleichen Werten weggelassen werden Quadbaum- Bildkompression unterstützt progressive Bildübertragung: Bilder werden mit steigender Quadbaum@efe übertragen, d.h. Bilder werden fortschreitend verfeinert Zwischenrepräsenta@onen bieten interessante Näherungsinforma@onen, z.b. zum Abruf von ähnlichen Bildern 21 11!