Computer Vision Group Prof. Daniel Cremers. Die Schnelle Fourier-Transformation

Transkript

1 Computer Vision Group Prof. Daniel Cremers Die Schnelle Fourier-Transformation

2 Wiederholung und Zusammenfassung Komplee Zahlen und n-te Einheitswurzeln Lösungen von n DFT als Polynominterpolation im Kompleen Matrischreibweise der DFT und IDFT Schnelle FT durch reursives Aufteilen in geraden und ungeraden Anteil n logn statt n Beim Zusammenbauen werden ger. und unger. Anteile addiert und subtrahiert butterfly Iteration statt Reursion: Sortierphase, Kombinationsphase Bitreversal in der Sortierphase Kostenberechnung mithilfe der erzeugenden Funtion Numerisches Programmieren Dr. Rudolph Triebel

3 Anwendungen Fourierentwiclung Stücweise stetige, -periodische in [-,] Funtion f lässt sich als Fourier-Reihe darstellen vgl. Taylor/Potenz-Reihe: f & a0 a cos b sin i i ce c e c z # a und b heißen Fourier-Koeffizienten von f und berechnen sich wegen der Orthogonalität der Funtionen cos und sin aus a f cos d, b f sin d 3

4 Sie geben die Größe der Anteile von Vielfachen der Grundfrequenz / an, aus denen sich f zusammensetzt Wellenzahl: Periode: / Frequenz: / Grundfrequenz für, cos: Periode, Frequenz / a,b messen Anteil von f zur Frequenz /, bzw. Periode /, oder Wellenzahl. 4

5 Schwingung mit Wellenzahl und Wellenzahl entspricht Periode, bzw. Frequenz / cos, sin bilden Orthonormalsystem Basis Fourierreihe entspricht Taylorreihe für periodische/auf Intervall definierte Funtion 5

6 Satz: Das trigonometrische Polynom f n n a0 a cos b sin stellt die optimale Approimation an die Funtion f dar aus dem Vetorraum der trigonometrischen Polynome vom Grad n: f n f n f f d ist minimal. 6

7 7.,, 0 n n & ' & ' & ' sin sin cos cos cos cos cos cos cos cos n n n n n n f n n f n n f n f f f f n d f a Näherungsweise Berechnung der Fourieroeffizienten aus dem Integral mittels Trapezregel und äquidistanten Stützstellen

8 8 # & ' # & ' # & ' sin cos ep n n n n f i n f n i f Daher ergeben sich die a näherungsweise aus den Real- und Imginärteilen von Diese Werte erhält man aus der IDFT angewendet auf die Funtionswerte an den Stützstellen. Genauso lassen sich die b annähern. Also önnen mittels DFT auf den Vetor der Funtionswerte die Frequenzanteile von f näherungsweise bestimmen werden. DFT transformiert Funtionswerte in Koeffizienten

9 MATLAB-Analyse der Sonnenativität Sonnenflecen treten alle Jahre verstärt auf. Seit 700 wird die ährliche Sonnenflecenativität beschrieben durch die sog. Wolfer-Zahl Größe und Anzahl der Flecen Rudolf Wolf ca Wolferzahl für die Jahre 700 bis 000 9

10 Wolferzahlen in Vetor v als Funtionswerte einer unbeannten periodischen Funtion g mit den Jahreszahlen als Stützstellen. Gesamtbeobachtungszeitraum T besteht aus 300 Jahren. Ersetze daher Intervall [0,] durch das Intervall [0,T] durch den Übergang von epi epi*/300 Zeitintervall Δ Jahr, in dem eine Wolferzahl bestimmt wurde; N T / Δ ist Anzahl der Beobachtungsintervalle Länge des Vetors v Anzahl der Stützstellen; Wellenzahl wieder, Periode T/ 300J./, Frequenz /T; Grundfrequenz also /T. 0

11 Δ Gibt es Schwingungen, die nicht erannt werden önnen? Es önnen nur periodische Vorgänge erfasst werden mit einer Periode > Δ Jahre, da bei leineren Perioden die Schwingung feiner als die feinste Unterteilung Jahr wäre, und daher als solche nicht erennbar ist. Daher ist die größte beobachtbare Wellenzahl gleich N/50, entspricht der Frequenz N//T/Δ, der sog. Nyquist- Frequenz Berechne y FFTv y0 ist die Gesamtsumme aller Wolferzahlen und wird gleich 0 gesetzt enthält eine Angabe über Periodizität.

12 Die anderen Koeffizienten von y enthalten die Größe der verschiedenen Frequenzanteile von g aber als omplee Zahlen. Berechne p y für,..., N / also untersuche nur die Beträge der Frequenzanteile bis zur Nyquist-Wellenzahl N/. p misst die Größe der -ten Vielfachen der Grundfrequenz, also der Frequenz f / T / ΔN für,,...,n/ Anders ausgedrüct bestimmt p das Gewicht der Periode / f T / in der Funtion f.

13 Wir tragen nun den Vetor p auf gegen die dazugehörigen Perioden T/,,...,N/ Betragsquadrate der Fourieroeffizienten, aufgetragen über die dazugehörigen Perioden. Wir önnen den Zylus von Jahren diret ablesen. 3

14 Allgemeines Problem: In welcher Form stellt man numerische Daten dar? Normalerweise aus Messwerten: Samples f Dies entspricht einer Darstellung im Ortsraum. Nachteil: Viele Daten, schlecht omprimierbar, eine Analyse Besser: Übergang zu einer Darstellung bzgl. geeigneter Basisfuntionen z.b., ep, cos,... Dann reichen ev. wenige Koeffizienten aus, um das Signal fast vollständig zu beschreiben. Außerdem ann man aus den Koeffizienten Schlüsse über das Verhalten der Funtion ziehen Frequenzanalyse. 4

15 Beispiel: f 0.5*sin 0. * sin0 Zwei Koeffizienten reichen aus zur Beschreibung Die Koeffizienten bezeichnet man auch als Beschreibung der Funtion im Phasenraum Frequenzraum 5

16 JPEG Bilder werden üblicherweise als Matri gespeichert, deren Einträge pielweise den Grauwert des entsprechend nummerierten Piels enthalten, bzw. bei Farbbildern den Anteil einer der drei Farbomponenten Rot, Grün oder Blau RGB. RGB wird meist in der YUV-Form umgewandelt, bei der die Matri Y die Helligeit beschreibt, und U und V den Farbton U,V lassen sich stärer omprimieren. JPEG zerlegt das Bild in 8 8 Piel große Blöce, die zunächst getrennt bearbeitet werden. Auf ede dieser Teilmatrizen wird eine zweidimensionale Cosinus-Transformation angewandt: DCT Warum DCT, warum nicht DFT? Bilddaten sind reell, und das Bild ist nicht periodisch 6

17 Aus Anwendung der DCT erhält man für die Teilmatrizen wieder die Frequenzanteil-oeffizienten a und b in Teilmatrizen. Die Teilmatri mit den Frequenzanteilen wird nun quantisiert,d.h. die darin stehenden reellen Zahlen werden bestimmten Zahlenintervallen zugeordnet und Intervallweise eweils durch eine Zahl angenähert, die für ein ganzes Intervall gilt. Dadurch werden auch automatisch alle leinen Komponenten, die in dem ersten Intervall mit den leinsten Werten liegen, durch Null ersetzt. Dies erzeugt einen Qualitätsverlust Die entstandene Gesamtmatri aus den disreten Zahlenwerten wird codiert Huffman-Codierung 7

18 Nachteile: Fourier-Methoden haben Schwierigeiten mit Kanten in Bildern Kanten Unstetigeiten Durch stetige Funtionen cos, sin sind Kanten schlecht darstellbar Differenzierbareit Kosten der DCT: On logn bei n Piel. Zu teuer. Daher DCT auf 88-Blöce. JPEG000: Anstatt Cosinus-Transformation auf 8 8 wendet man eine Wavelet-Transformation auf größere Teilmatrizen an. Wavelet-Ansatzfuntionen haben eine Problem mit Kanten, vgl. B-Splines. Genauere Untersuchung folgt später. Kosten für Wavelet-Transformation On 8

19 Lineare Filter Betrachte Vetor v, dessen Komponenten wieder disrete Werte einer Funtion oder eines Bildes darstellen Sampling. Zunächst -dimensional. Wir filtern diesen Vetor, indem wir ede Komponente ersetzen durch eine gewichtete Kombination der Nachbaromponenten. So entspricht die Mase: 4 [ ] der Operation v v v v 4, bzw. der Matrimultipliation 9

20 0 v v # & ' 4 # & , 8 4,,,,,, i i i i i i v v v v v v Im zwei-dim. entspricht dies z.b. der Mase Vorsicht am Rand Fehlende Werte haben Einfluß auf Messwerte Man benötigt Annahmen für v 0 und v n. Was ist sinnvoll?

21 Genauso Gaussfilter: 6 Dies entspricht glättenden Filtern, die zu einem weicheren Bild führen: Mittelwertfilter, Glätter, Weichzeichner, oder Tiefpassfilter zur Abschwächung von Rauschen, bzw. hochfrequenten Anteilen. Hochfrequente Störungen, die einzelne Komponente verändern, werden durch die Mittelwertbildung verringert Entsprechend ann man Hochpassfilter definieren, die die Unterschiede hervorheben, das Bild härter machen und niederfrequente glatte Anteile abschwächen Differenzfilter, Scharfzeichner. & 4 #

22 z.b. Laplacefilter: Sobelfilter, # & Bisher entsprechen die Methoden einer Filterung im Ortsraum. Im Gegensatz dazu ann man auch Filter im Phasenraum Frequenz~ zum Entfernen von Rauschen Noise verwenden: v DFTv Filter IDFTv Also Transformation in Fourier-Koeffizientenraum, dann Filtern der Koeffizienten Gewichten/Löschen, dann Rüctransformation vgl. MP3 Hochpassfilter, Tiefpass, Filterband, # &

23 Filtern von Lena: Original Mittelwertfilter Redution Differenzfilter Redution 3

24 4 [ ] / [ ] / Wavelets Betrachte Kombination von Tiefpassfilter und Hochpassfilter im -Dimensionalen zu Masen und v v v h t # & ' # & ' Ersetze den ursprünglichen Vetor verlustfrei durch tief-, bzw. hochpass-gefilterte Vetoren halber Länge down sampling: oder

25 5 v # & ' Der Differenzanteil v h ist in der Regel lein und wird nicht weiterbearbeitet Der Mittelwertanteil tiefpassgefiltert v t wird nach demselben Schema weiteraufgespalten wiederum in Tief/Hochpassanteil durch dieselben Masen. nur anders sortiert

26 Insgesamt: v Level 0, Länge n v t v h Level, n/ v t v h Level, n/4... v t v h Level p, Ersetze nun den Ausgangsvetor v R n durch den letzten Mittelwertanteil auf Level p und sämtliche Differenzanteile v h, das sind auch genau n Zahlen. v h und v t entsprechen quasi den Fourieroeffizienten 6

27 Vorteile: Gesamtosten der Transformation On Differenz-Anteile meist lein gut omprimierbar Differenzanteil auf Level enthält Information über das Verhalten von v auf diesem Level, bzw. in dieser Auflösung Multisalenanalyse, Zerlegung des Vetors in verschiedene Frequenzbereiche Salen Entspricht in etwa der Fourier-Analyse Filter müssen sparse sein damit billig, leicht umehrbar invertierbar damit Original reonstruierbar vgl. DFT und IDFT Aufspalten in Frequenzanteil hoch tief. 7

28 Algorithmische Ähnlicheit zur Fourier-Transformation am Beispiel des Haar-Filters mit den Masen [ ] und [ ] : Butterfly u v uv/ u-v/ 8

29 v 0 v 0 v / v 0 v / v 0 v 4 / v v 0 -v / v v v 3 / v 0 -v / v 3 v -v 3 / v 4 v 4 v 5 / v 4 v 6 / v 0 -v 4 / v 5 v 4 -v 5 / v 6 v 6 v 7 / v 4 -v 6 / v 7 v 6 -v 7 / 9

30 0 0 / 0 / 0 4 / 0 - / 3 / 0 / 3 3 / / 4 6 / 0 4 / / / 4 6 / /

31 v wird dabei transformiert in alle Differenzanteile und den letzten Mittelwert. Unterschied zur DFT: eine Sortierphase, einfacher Butterfly, nur die Mittelwertanteile werden weiter bearbeitet On 3

32 Ergänzung: Funtionsansatz: Erinnerung: lineare B-Splines Hut-Funtion y Φ Φ- Φ: alle Φ- 0 Äquidistante Stützstellen,-,0,,, Zur Vereinfachung betrachten wir den onstanten B-Spline 0: Φ: y Φ Φ- alle Φ- 0 3

33 Φ heißt Salierungsfuntion und liefert Basis Φ-, Weiterhin erfüllt Φ die Salierungsgleichung Φ Φ Φ- Stellt die Beziehung her zwischen fein/grob disretisiert. y Φ: als Umsalierung von Φ Genauso liefern Φ- feinere Ansatzfuntionen z.b. Φ0.5 Φ*0.5 Φ*0.5- Φ0.5 Filter-Mase [ ], denn *Φ *Φ- zu Tiefpass-Filter Mittelwertfilter 33

34 Notwendig ist zweiter Hochpass-Filter Differenz-Filter. Definiere dazu zur Salierungsfuntion Φ die eigentliche Waveletfuntion W *Φ - *Φ-, Mase [ - ] y W: Wichtig: Orthogonalität der Ansatzfuntionen Φ W d 0 Warum sind diese Funtionen orthogonal? Φ- sind Basis zu feinerer Disretisierung und höherer Auflösung Genauigeit. 34

35 Mit den obigen Beziehungen ann Φ eindeutig durch Φ und W dargestellt werden: Φ Φ Φ W Φ Φ Φ Φ Φ W / Φ W / oder umgeehrt Gegeben: f a Φ- Nun önnen wir den Übergang von Koeffizienten zur Basis Φ- zu Koeffizienten bezgl. Φ-, W- beschreiben a Φ- a Φ-W- / a Φ-- a Φ--W- / 35

36 f f W b a W a a a a W a W a a a a f hochpass tiefpass Φ Φ Φ Φ Φ Φ Φ gerade/ungerade

37 Anwendung der beiden Filtermasen [ ] / und [ - ] / auf die Koeffizienten a liefert neue Koeffizienten zu hoch/tiefpass-gefilterten Teil-Funtionen. Umgeehrt ann aus den beiden gefilterten Teilfuntionen die Gesamtfuntion f wieder reonstruiert werden mittels f a tiefpass 0 a a a Φ 0 0 Φ b Φ 0 0 Φ Φ 0 b 0 a Φ f f a hochpass b b W 0 Φ a Φ Φ Φ 37

38 Also Anwendung der Filter [ ] und [ - ] auf die Koeffizienten der hoch/tiefpassgefilterten Koeffizienten liefert die Koeffizienten zur feineren Disretisierung. Funtionenfamilien auf verschiedenen Salen: Φ-,..., -,0,,... Φ-,..., -,0,, Φ -,..., -,0,,...,...,-,0,,... 38

39 39 Basisumrechnung von f: a b a # & ' # & ' Φ - Φ - - W - - beschrieben durch die Transformation der Koeffizienten: entsprechend Tief- und Hochpassfilter mit Haar-Filter.

40 40 Umehrung mit # & # & b a a Reursive Wiederholung: a a - b - a - b -.. a 0 b 0

41 Wavelet als Verschmelzung der lassischen Filter und Fourieranalyse mit der Idee loaler Basisfuntionen wie bei den B-Splines. Haar-Filter Haar-Wavelet 4

42 4

43 Fourier-Analyse FFT cos, sin Salierung Alle gleichberechtigt globaler Träger Multisalen-Analyse Wavelet W -m, Φ -m Shift m, Salierung Mittelwert/Differenz loaler Träger Kantenproblem Volle Reursion Kosten On logn Frequenz aus Fourieroeffizienten Loal, adaptiv Reursion nur im Mittelwert Kosten On Frequenz aus Waveletoeffizienten 43

44 Zusammenfassung Fourier-Transformation ann angewendet werden für die Frequenzanalyse eines Signals Beispiel: Wolfer- Zahlen Eine ähnliche Transformation ist die Disrete Cosinus- Transformation DCT Sie wird z.b. für das JPEG Verfahren eingesetzt Wavelets verwenden onstante B-Splines als orthogonale Basisfuntionen Sie önnen durch lin. Filtermasen dargestellt werden Wavelets sind effizienter als die FFT und haben bessere Eigenschaften bzgl. Kanten Numerisches Programmieren 44 Dr. Rudolph Triebel