Mathematik III. (für Informatiker) Oliver Ernst. Wintersemester 2014/15. Professur Numerische Mathematik

Mathematik III (für Informatiker) Oliver Ernst Professur Numerische Mathematik Wintersemester 2014/15

Inhalt 10 Differentialgleichungen 11 Potenz- und Fourier-Reihen Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 129 / 221

Inhalt 10 Differentialgleichungen 11 Potenz- und Fourier-Reihen 11.1 Konvergenz von Funktionenfolgen 11.2 Potenzreihen 11.3 Fourier-Reihen Begriff, Konvergenz, und Darstellbarkeit von Funktionen Funktionen mit beliebiger Periode Konvergenz, Gliedweise Differentiation und Integration Komplexe Darstellung Diskrete Fourier-Transformation Anwendung: Audio-Kompression Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 130 / 221

Konvergenz von Funktionenfolgen Im folgenden Kapitel soll es noch einmal um eindimensionale Analysis gehen. Speziell werden wir uns mit Folgen und Reihen (reeller) Funktionen auseinandersetzen. Definition 11.1 Eine Folge von Funktionen f 1, f 2, f 3,..., f n,... f n : I R auf einem Intervall I R nennen wir Funktionenfolge auf I. Notation: (f n ) n N oder kürzer (f n ), analog zu Zahlenfolgen. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 131 / 221

Konvergenz von Funktionenfolgen Punktweise Konvergenz Wir suchen nach geeigneten Konvergenzbegriffen für Funktionenfolgen. Der Naheliegendste ist: Definition 11.2 Eine Funktionenfolge (f n ) auf I R heißt punktweise konvergent gegen die Funktion f : I R wenn lim f n(x) = f(x) für alle x I, (11.1) n d. h. wenn für jedes x I die Zahlenfolge (f n (x)) n gegen f(x) konvergiert. Die Funktion f heißt Grenzfunktion von (f n ). Äquivalent zu (11.1) ist die Aussage f n (x) f(x) 0 für n für alle x I. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 132 / 221

Konvergenz von Funktionenfolgen Punktweise Konvergenz, Beispiele und Probleme Die Funktionenfolgen f n (x) = nx(1 x) n (links) und f n (x) = x(1 x) n (rechts) konvergieren auf [0, 1] beide punktweise gegen f(x) = 0. 1/e 1/e f 2 f 5 f 2 f 5 f 11 f 11 1/12 1/6 1/3 1 1/12 1/6 1/3 1 Am Beispiel der Funktionenfolge links erkennen wir bereits, dass trotz punktweiser Konvergenz auch für große n nicht alle Funktionswerte von f n beliebig nahe bei Null liegen müssen. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 133 / 221

Konvergenz von Funktionenfolgen Punktweise Konvergenz, Beispiele und Probleme Punktweise Konvergenz ist generell eine recht schwache Eigenschaft. Beispielsweise kann folgendes passieren: Die Grenzfunktion f ist nicht stetig, obwohl es alle Folgenglieder f n sind, Die Folge der Integrale I f n(x) dx konvergiert, aber nicht gegen das Integral f(x) dx über die Grenzfunktion. I Illustrieren Sie dies an folgenden Beispielen: f n : [0, 1] R, f n (x) = x n, { n f n : [0, 1] R, f n (x) = 2 x, 0 x < 1 n ; 1 0, n x 1. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 134 / 221

Konvergenz von Funktionenfolgen Gleichmäßige Konvergenz Die Problemfälle von S. 134 haben gemeinsam, dass die Funktionswerte f n (x) auch für große n nicht gleichmäßig nahe bei f(x) liegen. Wir formulieren daher einen strengeren Konvergenzbegriff: Definition 11.3 Eine Funktionenfolge (f n ) auf einem Intervall I R heißt gleichmäßig konvergent gegen f : I R, wenn sup f n (x) f(x) 0 für n. (11.2) x I Erinnerung: Das Supremum sup M einer beschränkten Menge M R ist deren kleinste obere Schranke. Falls das Maximum existiert, gilt sup M = max M. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 135 / 221

Konvergenz von Funktionenfolgen Beispiel Die Funktionenfolge f n (x) = sin x + 1 n sin(3x + n) konvergiert auf R gleichmäßig gegen f(x) = sin x, denn 1 sup f n (x) f(x) = sup x R x R n sin(3x + n) = 1 n 0 (n ). Gezeichnet sind einige Glieder der Funktionenfolge sowie deren Grenzfunktion. Man beachte, dass ab einem bestimmten n (hier z.b. n 5) alle Funktionsgraphen komplett innerhalb eines beliebig dünnen ɛ-schlauchs um die Grenzfunktion f verlaufen (blau gestrichelt). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 136 / 221

Konvergenz von Funktionenfolgen Eigenschaften gleichmäßig konvergenter Funktionenfolgen Satz 11.4 Konvergiert eine Funktionenfolge (f n ) auf einem Intervall I gleichmäßig gegen f, dann konvergiert sie auch punktweise gegen f. Gleichmäßige Konvergenz ist also stärker als punktweise. Satz 11.5 Konvergieren zwei Funktionenfolgen (f n ) und (g n ) auf einem Intervall I gleichmäßig gegen f bzw. g, so konvergieren die Funktionenfolge (f n ± g n ) gleichmäßig gegen f ± g, die Funktionenfolge (λf n ), λ R, gleichmäßig gegen λf. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 137 / 221

Konvergenz von Funktionenfolgen Eigenschaften gleichmäßig konvergenter Funktionenfolgen Die gleichmäßige Konvergenz behebt auch die Mängel von S. 134: Satz 11.6 Ist (f n ) eine auf dem Intervall I gleichmäßig konvergente Folge stetiger Funktionen, so ist auch die Grenzfunktion f auf I stetig. Satz 11.7 Ist (f n ) eine auf dem Intervall [a, b] gleichmäßig konvergente Folge integrierbarer Funktionen, so ist auch die Grenzfunktion f integrierbar, und es gilt b a f(x) dx = lim n b a f n (x) dx. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 138 / 221

Konvergenz von Funktionenfolgen Eigenschaften gleichmäßig konvergenter Funktionenfolgen Schließlich formulieren wir noch ein Ergebnis für die Ableitung bei gleichmäßiger Konvergenz: Satz 11.8 Ist (f n ) eine auf dem Intervall [a, b] gleichmäßig konvergente Folge differenzierbarer Funktionen mit Grenzfunktion f, und ist die abgeleitete Funktionenfolge (f n) auf [a, b] ebenfalls gleichmäßig konvergent, so ist f differenzierbar mit f (x) = lim n f n(x) (für alle x [a, b]). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 139 / 221

Konvergenz von Funktionenfolgen Funktionenreihen Wie bei Zahlenfolgen kann man zu einer Funktionenfolge (f n ) n 0 eine Partialsummenfolge definieren: f 0, f 0 + f 1, f 0 + f 1 + f 2,..., n f k,... k=0 Diese Partialsummenfolge nennen wir auch Reihe der Funktionen f k. Die Funktionen f k heißen Glieder der Funktionenreihe. Notation: k=0 f k oder k=0 f k(x), sowohl für die Reihe selbst als auch für deren Grenzwert, genau wie bei reellen Reihen. Beispiel: Bereits bekannt ist die Funktionenreihe e x = k=0 xk k!. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 140 / 221

Konvergenz von Funktionenfolgen Gliedweises Integrieren und Differenzieren Da Funktionenreihen spezielle Funktionenfolgen sind, kann man unsere Konvergenzbegriffe wie auch die Sätze 11.4-11.8 direkt übertragen. Sei k=0 f k gleichmäßig konvergent auf [a, b] mit k=0 f k = f. Dann gelten: Sind alle Reihenglieder f k stetig, so ist auch die Summenfunktion f stetig, und es gilt b [ b ] b f(x) dx = f k (x) dx = f k (x) dx. a a k=0 Sind alle f k differenzierbar, und konvergiert die abgeleitete Reihe k=0 f k gleichmäßig auf [a, b], dann ist auch die Summe f differenzierbar und [ f (x) = f k (x)] = f k(x). k=0 k=0 k=0 a Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 141 / 221

Konvergenz von Funktionenfolgen Potenzreihen Bei diesen Funktionenreihen wählt man als Glieder Funktionen vom Typ f k (x) = a k (x x 0 ) k. Als Teilsummen entstehen Polynome n-ten Grades: s n (x) = n k=0 a k(x x 0 ) k. Definition 11.9 Eine Reihe der Form a k (x x 0 ) k (x, x 0, a k R) (11.3) k=0 heißt Potenzreihe mit Entwicklungspunkt x 0 und Koeffizienten a k. Die berühmteste Potenzreihe kennen Sie bereits: e x = k=0 1 k! xk. Sie besitzt den Entwicklungspunkt x 0 = 0, die Koeffizienten a k = 1 k! und konvergiert für alle x R. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 143 / 221

Konvergenz von Funktionenfolgen Konvergenzverhalten Wir untersuchen nun das Konvergenzverhalten von (11.3) in Abhängigkeit von x, während a k und x 0 fest gehalten werden. Satz 11.10 (von Cauchy-Hadamard ) Zu jeder Potenzreihe k=0 a k(x x 0 ) k gibt es einen Konvergenzradius R [0, ) { } mit folgenden Eigenschaften: Die Potenzreihe konvergiert (absolut) für x (x 0 R, x 0 + R). Die Potenzreihe konvergiert gleichmäßig auf jedem abgeschlossenen Intervall I (x 0 R, x 0 + R). Die Potenzreihe divergiert außerhalb [x 0 R, x 0 + R] (nur sinnvoll für R ). Jacques Hadamard, 1865-1963, französischer Mathematiker Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 144 / 221

Konvergenz von Funktionenfolgen Prinzipskizze zum Konvergenzverhalten Divergenz?? Konvergenz Divergenz x 0 R x 0 x 0 +R Das Intervall (x 0 R, x 0 + R) wird auch Konvergenzintervall der Potenzreihe genannt. Das Konvergenzverhalten an den kritischen Punkten x 0 R und x 0 + R muss immer gesondert untersucht werden. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 145 / 221

Konvergenz von Funktionenfolgen Berechnung des Konvergenzradius Satz 11.11 Sei k=0 a k(x x 0 ) k eine Potenzreihe mit Konvergenzradius R. Dann gilt: R = lim a k, k a k+1 falls fast alle ak von Null verschieden sind, und dieser Grenzwert existiert, R = 1 lim k k ak, falls der Grenzwert im Nenner existiert. Dabei sind die Konventionen 1 = 0 und 1 0 = zu treffen. Beweisidee: Quotienten- bzw. Wurzelkriterium für Zahlenreihen. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 146 / 221

Konvergenz von Funktionenfolgen Beispiel Der Konvergenzradius von e x = erstgenannten Kriterium R = lim a k = lim k a k+1 k=0 xk k k! ist. Tatsächlich ergibt sich mit dem (k + 1)! k! = lim (k + 1) =. k Untersuchen Sie das Konvergenzverhalten der Potenzreihen k k x k, k=1 k=0 x k k + 1, k=0 x k 2 k. Vergessen Sie nicht, die Randpunkte des Konvergenzintervalls zu untersuchen. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 147 / 221

Konvergenz von Funktionenfolgen Gliedweises Differenzieren und Integrieren Die Ergebnisse von S. 141 gelten natürlich auch für Potenzreihen. Es gilt sogar Satz 11.12 Die Potenzreihe k=0 a k(x x 0 ) k besitze den Konvergenzradius R > 0. Die Funktion f : (x 0 R, x 0 + R) R, f(x) = a k (x x 0 ) k besitzt dann folgende Eigenschaften: f ist stetig. f ist auf jedem abgeschlossenen Teilintervall von (x 0 R, x 0 + R) integrierbar, wobei a k f(x) dx = k + 1 (x x 0) k+1 + C. k=0 f ist beliebig oft differenzierbar mit f (x) = ka k (x x 0 ) k 1, f (x) = k(k 1)a k (x x 0 ) k 2, usw. k=1 k=2 Insbesondere ist f (n) (x 0 ) = n! a n, n = 0, 1,.... k=0 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 148 / 221

Konvergenz von Funktionenfolgen Beispiel Aus der Summenformel für die geometrische Reihe erhält man für die Potenzreihendarstellung f : ( 1, 1) R, f(x) = 1 1 x f(x) = 1 1 x = x k = 1 + x + x 2 + x 3 +... k=0 Durch gliedweises Differenzieren (Satz 11.12, Punkt 3) erhält man für die Ableitung die Darstellung f 1 (x) = (1 x) 2 = kx k 1 = (k + 1)x k = 1 + 2x + 3x 2 + 4x 3 +... k=1 k=0 Wie lautet die Potenzreihendarstellung zu F (x) = ln(1 x) (x 0 = 0, x < 1)? Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 149 / 221

Konvergenz von Funktionenfolgen Darstellbarkeit durch Potenzreihen Es stellt sich die Frage, wann z. B. eine unendlich oft differenzierbare Funktion als Potenzreihe geschrieben ( in eine Potenzreihe entwickelt ) werden kann. Aus der Formel in der letzten Zeile von Satz 11.12 ergibt sich, dass für die Koeffizienten immer a k = f (k) (x 0 ) k! gelten muss. Die aus Abschnitt 4.6 bekannte Taylor-Reihe k=0 f (k) (x 0 ) (x x 0 ) k k! ist also der einzige Kandidat für eine mögliche Potenzreihendarstellung von f. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 150 / 221

Konvergenz von Funktionenfolgen Warnungen Leider gibt es unendlich oft differenzierbare Funktionen, die man nicht als Potenzreihen schreiben kann. Es kann vorkommen, dass die Taylor-Reihe den Konvergenzradius R = 0 besitzt, d. h. nur für x = x 0 konvergiert. die Taylor-Reihe durchaus konvergiert (R > 0), aber nicht gegen die Funktion f (!!). Ein prominentes Beispiel ist die Funktion { e 1 x f(x) = 2, für x 0; 0, für x = 0, für die f (k) (0) = 0 für alle k N gilt. Die Taylorreihe ist somit die konstante Funktion f = 0 und hat mit f nichts zu tun. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 151 / 221

Konvergenz von Funktionenfolgen Darstellbarkeit durch Potenzreihen Wann genau eine unendlich oft differenzierbare Funktion f durch ihre Taylor-Reihe dargestellt wird, ist schwierig zu charakterisieren. Wir begnügen uns mit einer hinreichenden Bedingung: Satz 11.13 Die Funktion f : I = (x 0 r, x 0 +r) R sei unendlich oft differenzierbar. Gilt so besitzt die Taylor-Reihe und es gilt f(x) = r k lim k k! max f (k+1) (x) = 0, x I k=0 k=0 f (k) (x 0) k! (x x 0 ) k den Konvergenzradius R r, f (k) (x 0 ) (x x 0 ) k für alle x I. k! Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 152 / 221

Konvergenz von Funktionenfolgen Darstellbarkeit durch Potenzreihen Man bestimme die Taylorreihe zu f(x) = sin x (x 0 = 0). Wie verhält es sich mit der Konvergenz? Könnte man diese Potenzreihe auch aus der Formel e ix = cos x + i sin x erhalten? Die Funktion f(x) = sin x und einige ihrer Taylorpolynome T n(x) = n f (k) (0) k=0 x k! k. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 153 / 221

Konvergenz von Funktionenfolgen Rechnen mit Potenzreihen Schließlich kann man Potenzreihen gliedweise addieren und in Produkten von Potenzreihen wie bei endlichen Summen ausmultiplizieren: Satz 11.14 Für Summe und Produkt zweier Potenzreihen k=0 a k(x x 0 ) k und k=0 b k(x x 0 ) k gilt im gemeinsamen Konvergenzbereich: bzw. a k (x x 0 ) k + b k (x x 0 ) k = (a k + b k )(x x 0 ) k k=0 k=0 k=0 k=0 k=0 ( ) ( ) a k (x x 0 ) k b k (x x 0 ) k = c k (x x 0 ) k mit c k = a 0 b k + a 1 b k 1 +... + a k b 0. k=0 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 154 / 221

Konvergenz von Funktionenfolgen Rechnen mit Potenzreihen, Beispiel e x sin(x) = ] ] [1 + x + [x x2 2! + x3 3! + x3 3! + x5 5! + = x + x 2 + x3 3 x5 30 x6 90 x7 630 + x9 22680 + Bestätigen Sie mindestens die ersten vier Summanden durch detaillierte Rechnung. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 155 / 221

Konvergenz von Funktionenfolgen Division von Potenzreihen Will man die Koeffizienten von c k (x x 0 ) k = k=0 k=0 k=0 k=0 a k(x x 0 ) k k=0 b k(x x 0 ) k berechnen, formt man zunächst um: ( ) ( ) c k (x x 0 ) k b k (x x 0 ) k = a k (x x 0 ) k und führt dann einen Koeffizientenvergleich durch. k=0 Mit Hilfe von sin x = x x3 3! + x5 5! x7 x2 + und cos x = 1 7! 2! + x4 4! x6 6! + berechne man die ersten fünf Koeffizienten der Potenzreihe zu tan x = sin x cos x (x 0 = 0). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 156 / 221

Die nach dem französischen Mathematiker, Physiker, Ägyptologe und Revolutionär Joseph Fourier (1768 1830) benannte Fourier-Analyse ist ein Grundpfeiler der angewandten Mathematik. Neben vielfältigen physikalischen Entdeckungen (Wärmelehre) ist Fourier für seine Entdeckung bekannt, dass selbst unstetige Funktionen als Überlagerung (Linearkombination, konvergente Reihe) der Funktionen 1, cos(kx), sin(kx) (k N) dargestellt werden können. Joseph Fourier In vielen Anwendungen sind die Koeffizienten für große k vernachlässigbar klein. Dies gestattet es, Signale in ihre Wellenanteile zu zerlegen, und sie dann zu übermitteln, komprimieren, filtern, entrauschen, analysieren, klassifizieren oder verschlüsseln. Die strenge mathematische Begründung der Konvergenz von Fourier-Reihen dauerte bis in die 1960er Jahre (Carleson-Hunt-Theorem). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 158 / 221

Wir betrachten Reihendarstellungen für periodische Funktionen, zunächste speziell für 2π-periodische Funktionen. Als Reihenglieder verwenden wir Funktionen, die selbst 2π-periodisch sind: Definition 11.15 Eine Reihe der Bauart a 0 2 + [a k cos(kx) + b k sin(kx)] (11.4) k=1 mit reellen Konstanten (a k ) k N0 und (b k ) k N heißt trigonometrische Reihe. Sind alle a k = 0, spricht man von einer Sinusreihe. Sind alle b k = 0, spricht man von einer Kosinusreihe. Eine Teilsumme (bis zum Index k = n) heißt trigonometrisches Polynom (vom Grad n). Zur Erinnerung: Das bedeutet f(x + 2π) = f(x) für alle x R. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 159 / 221

Konvergenz und Eigenschaften der Grenzfunktion Wir gehen zunächst von einer gegebenen trigonometrischen Reihe aus und bemerken: Satz 11.16 Ist die trigonometrische Reihe (11.4) für alle x R konvergent, so ist f(x) = a 0 2 + [a k cos(kx) + b k sin(kx)] (11.5) k=1 eine auf R definierte 2π-periodische Funktion. Es macht also umgekehrt nur für 2π-periodische Funktionen Sinn, nach Darstellungen der Form (11.5) zu suchen. Für Funktionen wie g(x) = x 2 oder h(x) = e x ist dies dagegen zwecklos (es sei denn, man betrachtet die periodische Fortsetzung eines endlichen Abschnitts solcher nichtperiodischer Funktionen). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 160 / 221

Konvergenz und Eigenschaften der Grenzfunktion Der folgende Satz liefert u. a. den Schlüssel zur Berechnung der gesuchten Reihendarstellungen: Satz 11.17 Sind die Reihen k=0 a k und k=1 b k absolut konvergent, so konvergiert die trigonometrische Reihe (11.4) punktweise auf ganz R. Die Summenfunktion ist dann stetig auf R, und es gelten f(x) := a 0 2 + [a k cos(kx) + b k sin(kx)] k=1 a k = 1 π b k = 1 π π π π π f(t) cos(kt) dt (k N 0 ), f(t) sin(kt) dt (k N). (11.6) Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 161 / 221

Hintergrund: Orthogonalitätsrelationen in L 2 ( π, π) Um die Darstellungen in (11.6) zu erhalten, versieht man den Raum L 2 ( π, π) aller Funktionen f mit π π f(x) 2 dx < mit dem Skalarprodukt f, g = 1 π π π f(x)g(x) dx. (11.7) Es lässt sich zeigen, dass die Funktionen sin(nx) und cos(mx) (m N 0, n N) diesbezüglich ein Orthonormalsystem bilden, d.h. 1 π sin(nx) sin(mx) dx = 1 { π 0, falls n m, cos(nx) cos(mx) dx = π π π π 1, falls n = m, 1 π sin(nx) cos(mx) dx = 0 (n N, m N 0 ). π π Die Darstellung (11.6) der Koeffizienten ergibt sich damit wie in Satz 7.29 aus a k = f( ), cos(k ) und b k = f( ), sin(k ). Dieses Orthonormalsystem ist darüberhinaus vollständig, d.h. nur die Nullfunktion ist orthogonal zu allen darin enthaltenen Funktionen. Ein solches vollständiges Orthonormalsystem heißt auch Orthonormalbasis der Hilbert-Raumes L 2 ( π, π). Oliver Genaugenommen Ernst (Numerische muss Mathematik) man hier den Lebesgueschen Mathematik III Integralbegiff verwenden. Wintersemester 2014/15 162 / 221

Darstellbarkeit durch Fourier-Reihen Wir untersuchen nun für eine vorgegebene 2π-periodische Funktion f, ob sie sich in eine trigonometrische Reihe entwickeln lässt. Definition 11.18 Sei f : R R eine 2π-periodische, auf [ π, π] integrierbare Funktion. Dann heißen die Zahlen a k = 1 π b k = 1 π π π π π Fourier-Koeffizienten von f. Die Reihe heißt Fourier-Reihe von f. f(t) cos(kt) dt (k N 0 ), f(t) sin(kt) dt (k N), R f (x) := a 0 2 + [a k cos(kx) + b k sin(kx)] k=1 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 163 / 221

Taylor-Entwicklung vs. Fourier-Reihe Beispiel: Wir vergleichen die Taylor-Entwicklung an der Stelle x 0 = 0 (links) mit der Fourier-Reihe (rechts) der (2π-periodischen) Funktion f(x) = exp(sin 3 x) 3 2.5 f t 0 t 3 t 7 t 7 3 2.5 f f 0 f 3 f 4 f 5 2 2 1.5 1.5 1 1 0.5 0.5 0-3 -2-1 0 1 2 3 x 0-3 -2-1 0 1 2 3 x Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 164 / 221

Anmerkungen Da die Integranden die Periode 2π haben, kann auch jedes andere Intervall der Länge 2π als Integrationsbereich verwendet werden. Das konkrete Rechnen erleichtert häufig: Satz 11.19 Ist f : R R eine 2π-periodische, in [ π, π] integrierbare, und auf ( π, π) gerade [ungerade] Funktion, dann ist die Fourier-Reihe von f eine Kosinusreihe [eine Sinusreihe]. Man berechne die Fourier-Reihe zum Rechteckpuls { A, für x π/2, f(x) = 0, für π/2 x π. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 165 / 221

Darstellbarkeit durch Fourier-Reihen Wie bei den Taylor-Reihen stellen sich nun folgende Fragen: Wann konvergiert die Fourier-Reihe R f (x)? Falls sie konvergiert unter welchen Bedingungen gilt dann auch R f (x) = f(x)? Zur Beantwortung brauchen wir einen weiteren Begriff: Definition 11.20 Eine Funktion f : [a, b] R heißt auf [a, b] stückweise glatt, wenn es eine Unterteilung a = x 0 < x 1 < < x n = b von [a, b] gibt, so dass f auf jedem der Teilintervalle [x i 1, x i ] stetig differenzierbar ist. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 166 / 221

Darstellbarkeit durch Fourier-Reihen Satz 11.21 Ist die 2π-periodische Funktion f : R R stückweise glatt auf [ π, π], so konvergiert ihre Fourier-Reihe R f punktweise auf R. Dabei gilt R f (x 0 ) = 1 [ ] lim 2 f(x) + lim f(x) für alle x 0 R. x x 0 x x 0+ Ist f stetig in x 0, so folgt insbesondere R f (x 0 ) = f(x 0 ). Beispiel: s 1 s 5 A A/2 Teilsummen der Fourierentwicklung zum Rechteckpuls, vgl. Bsp. S. 165. 0 s 3 0 pi 2 pi Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 167 / 221

Weiteres Beispiel Für die Sägezahnfunktion f(x) = x ( x π) ergibt sich a k = 0 (k N 0 ) sowie b k = 2 ( 1)k+1 k Auch hier stellen wir die ersten Teilsummen dar: (k N). pi s 1 s 3 0 pi s 5 0 pi 2 pi Anmerkung: Tabellen wichtiger Fourierentwicklungen findet man in gängigen Tafelwerken, z. B. Merziger et al., S. 78 ff. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 168 / 221

Exkurs: Gibbssches Phänomen Wir betrachten die Teilsummen s 29 für Rechteckpuls und Sägezahnfunktion: s 29 pi A s 29 A/2 0 0 pi 0 pi 2 pi 0 pi 2 pi In einer kleinen Umgebung der Sprungstelle überschwingen die Partialsummen s n um etwa 9 % der Sprunghöhe ( overshoot ). Dieses Gibbsche Phänomen verschwindet nicht für n, bewegt sich aber näher an die Sprungstelle. Josiah Willard Gibbs, 1839-1903, US-amerikanischer Physiker Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 169 / 221

Exkurs: Gibbssches Phänomen Ein typisches Problem, welches durch Überschwingen verursacht wird, sind Artefakte im JPG-Bildformat in der Nähe scharfer Kanten. Grund ist u. a. die Verwendung einer Kosinustransformation im Kompressionsalgorithmus, die ganz ähnliche Eigenschaften wie die Fouriertransformation aufweist. Insbesondere für qualitativ hochwertige Balkengrafiken und Diagramme ist JPG daher ein denkbar ungeeignetes Format. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 170 / 221

Fourier-Entwicklung von Funktionen mit beliebiger Periode Ist f : R R periodisch mit Periode T, bestimmt man die und entwickelt wobei a 0 = 2 T s+t s Kreisfrequenz ω := 2π T f(x) = a 0 2 + [a k cos(kωx) + b k sin(kωx)], f(t) dt, k=1 sowie a k = 2 T b j = 2 T s+t s s+t s f(t) cos(kωt) dt, f(t) sin(kωt) dt (k N). Man nennt ω die Kreisfrequenz der Grundschwingung und kω (k > 1) die Kreisfrequenzen der harmonischen Oberschwingungen. Die Zahl s R ist beliebig. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 171 / 221

Besselsche Ungleichung und Gleichung Satz 11.22 Für jede Funktion f L 2 ( π, π) mit den Fourier-Koeffizienten {a k } k N0 und {b k } k N gilt die Besselsche Ungleichung a 2 0 n 2 + (a 2 k + b 2 k) 1 π k=1 π π f(x) 2 dx, n N 0. (11.8) Aus der Vollständigkeit unserer Orthonormalbasis {cos(kx), k N 0 ; sin(kx), k N} folgt aus der Besselschen Ungleichung für n Satz 11.23 Für jede Funktion f L 2 ( π, π) mit den Fourier-Koeffizienten {a k } k N0 und {b k } k N gilt die Parsevalsche Gleichung a 2 0 2 + (a 2 k + b 2 k) = 1 π k=1 π π f(x) 2 dx, n N 0. (11.9) Die (11.9) (eigentlich bereits (11.8)) zeigt, dass die Fourier-Koeffizienten von L 2 -Funktionen Nullfolgen bilden. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 172 / 221

Gleichmäßige Konvergenz von Fourier-Reihen Satz 11.24 Die Fourier-Reihe einer stetigen, stückweise glatten 2π-periodischen Funktion f konvergiert gleichmäßig und absolut gegen f. Für ihre Fourier-Koeffizienten {a k } k N0 und {b k } k N konvergieren ferner die Reihen a k, und k=0 b k. k=1 Mit der Definition der Supremumsnorm auf einem reellen Intervall I f := sup f(x) x I und der Bezeichnung Rf n (x) für die n-te Teilsumme der Fourier-Reihe einer Funktion f lässt sich die gleichmäßige Konvergenz der Fourier-Reihe gegen f ausdrücken als f R n f 0 mit n. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 173 / 221

Konvergenz von Fourier-Reihen im quadratischen Mittel Eine weitere Norm für Funktionen auf [ π, π] ist die zum Skalarprodukt (11.7) gehörende L 2 -Norm f 2 := f, f = ( 1 π 1/2 f(x) dx) 2. π π Konvergenz in dieser Norm bezeichnet man als Konvergenz im quadratischen Mittel. Satz 11.25 Die Fourier-Reihe einer Funktion f L 2 ( π, π) konvergiert im quadratischen Mittel gegen f. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 174 / 221

Approximation quadratischen Mittel Die Teilsummen Rf n der Fourier-Reihe einer Funktion f bilden ein trigonometrisches Polynom vom Grad n. Jede dieser Teilsummen besitzt die Optimalitätseigenschaft, dass sie die unter allen trigonometrischen Polynomen von Grad n T n (x) = ã0 n 2 + [ã k cos(kx) + b k sin(kx)] k=1 die Funktion f in der L 2 -Norm am besten approximieren: Satz 11.26 Für jedes n N 0 wird der Quadratmittelfehler f T n 2 2 = 1 π π π π [f(x) T n (x)] 2 dx genau dann minimal, wenn T n = Rf n. Ferner gilt f Rf n 2 2 = 1 [ π f(x) 2 a 2 n ] 0 dx π 2 + (a 2 k + b k ) 2 ) k=1 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 175 / 221

Gliedweise Integrierbarkeit und Differenzierbarkeit Die Fourier-Reihe einer stetigen, stückweise glatten periodischen Funktion ist gliedweise integrierbar (gleichmäßige Konvergenz). Für die gliedweise Differenzierbarkeit muss auch die Reihe der Ableitungen gleichmäßig konvergieren. Dies ist oft nicht erfüllt, etwa bei der Modellierung unstetiger oder nichtdifferenzierbarer periodischer Vorgänge. Wann kann eine Fourier-Reihe dennoch gliedweise integriert/differenziert werden? Für die Integration gilt Satz 11.27 Eine punktweise konvergente Fourier-Reihe R(x) kann gliedweise integriert werden und es gilt x F (x) := R(t) dt = a 0 2 x + [ ak k sin(kx) b ] k k cos(kx) b k + k, 0 k=1 wobei die Reihe gleichmäßig für alle x R gegen F (x) konvergiert. k=1 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 176 / 221

Gliedweise Integrierbarkeit und Differenzierbarkeit Beispiel: Ungerade fortgesetzte 2-periodische Funktion f(x) = Fourier-Reihe R f (x) = 2 π { x 1, 0 < x < 2, 0, x = 0. k=1 sin(kπx) k 1 0.5 0-0.5-1 -2-1.5-1 -0.5 0 0.5 1 1.5 2 konvergiert an allen Stetigkeitsstellen, also insbesondere in (0, 2), punktweise gegen f(x) = x 1. Die Ableitungsreihe R f (x) = 2 cos(kπx) divergiert an der Strelle x = 1, obwohl f dort stetig, sogar differenzierbar ist. k=1 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 177 / 221

Gliedweise Integrierbarkeit und Differenzierbarkeit Beispiel: Gerade und stetig fortgesetzte 4-periodische Funktion Fourier-Reihe R f (x) = f(x) = x 1. k=1 ( 1) k 1 ( π ) ( kπ ) 2 cos 2 kx 2 1 0.5 0-0.5-1 -2-1.5-1 -0.5 0 0.5 1 1.5 2 Ableitungsreihe R f (x) = 4 π k=1 sin ( (2k 1) π 2 x) 2k 1 konvergiert (Leibniz-Kriterium) an der Stelle x = 1 gegen f (1) = 1. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 178 / 221

Gliedweise Integrierbarkeit und Differenzierbarkeit Satz 11.28 Eine punktweise konvergente Fourier-Reihe, die eine Funktion f darstellt, kann man nur dann gliedweise an einer Stelle x differenzieren, wenn die Ableitungsreihe im Punkt x konvergent ist. Im Fall der Konvergenz stellt die Ableitungsreihe f (x) dar. Hinreichend für die Konvergenz der Ableitungsreihe ist die Stetigkeit und die stückweise stetige Differenzierbarkeit von f. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 179 / 221

Komplexe Darstellung reeller Fourier-Reihen Periodische Funktionen mit Werten in den komplexen Zahlen lassen sich ebenfalls in einer Fourier-Reihe entwickeln. Aufgrund der Beziehung zwischen der Sinus-, Kosinus- und Exponentialfunktion besitzt die komplexe Schreibweise sogar eine einfachere Form als jeweils eine reelle Fourier-Reihe für Real- und Imaginärteil. Besitzt die stückweise glatte 2π-periodische Funktion f : R R die Fourier-Reihe f(x) = a 0 2 + [a k cos(kx) + b k sin(kx)], k=1 so lassen sich Sinus und Kosinus vermöge der Eulerschen Formel ausdrücken durch cos(kx) = eikx + e ikx 2 und wir erhalten nach Einsetzen, sin(kx) = eikx e ikx, 2i Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 180 / 221

Komplexe Darstellung reeller Fourier-Reihen Wir setzen nun f(x) = a 0 2 + e [a ikx + e ikx k 2 k=1 = a 0 2 + k=1 [ ak ib k 2 e ikx e ikx ] + b k 2i e ikx + a ] k + ib k e ikx. 2 b 0 := 0, a k := a k, b k := b k, k N, (11.10) sowie c k := (a k ib k )/2, k Z, und erhalten f(x) = c 0 + c k e ikx + c k e ikx = k=1 k= wobei der Grenzwert als lim n n k= n c ke ikx zu verstehen ist. c k e ikx, (11.11) Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 181 / 221

Komplexe Darstellung reeller Fourier-Reihen Durch Multiplikation von (11.11) mit e inx, n Z, Integration über [ π, π], Vertauschung von Integration und Summation erhält man die komplexe Darstellung der Fourier-Koeffizienten c k = 1 2π π π f(x)e ikx dx, k Z. (11.12) Formel (11.12) gilt unter denselben Voraussetzungen wie die entsprechenden Formeln für a k und b k. Für die Rückrechnung erhalten wir a k = 2 Re c k, b k = 2 Im c k k N 0. An (11.10) erkennt man sofort, dass für reelle Funktionen f gilt c k = c k. Die Konvergenzsätze 11.21 und 11.24 gelten unverändert für die komplexe Darstellung. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 182 / 221

Komplexe Darstellung reeller Fourier-Reihen Oft ist es praktischer, auch bei der Modellierung reellwertigen periodischer Funktionen f = f(t) direkt die komplexe Darstellung f(t) = k= c k e ikωt mit einer Kreisfrequenz ω > 0 anzusetzen. So lassen sich etwa die Fourier-Reihe einer phasenverschobene Schwingungen g(t) = f(t t 0 ) leicht darstellen als g(t) = f(t t 0 ) = k= c k e ikω(t t0) = k= [ ck e ikωt0] e ikωt, }{{} =: c k was mit der trigonometrischen Variante deutlich umständlicher ginge. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 183 / 221

Fourier-Reihen komplexwertiger Funktionen Außer bei der Feststellung, dass bei reellen Funktionen die komplexen Fourier- Koeffizienten c k = c k erfüllen, wurde bisher an keiner Stelle verwendet, dass die betrachteten Funktionen reellwertig sind. Wir können daher viele der hergeleiteten Ergebnisse auf periodische Funktionen f : R C übertragen. Bei den Integralformeln für die Koeffizienten c k ist lediglich zu beachten, dass Realund Imaginärteile für sich integriert werden, d.h. f(t) dt = Re f(t) dt + i Im f(t) dt Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 184 / 221

Fourier-Reihen komplexwertiger Funktionen: Rechenregeln Satz 11.29 (Rechenregeln) Sind f, g : R C zwei T -periodische, stückweise glatte Funktionen mit den Fourier-Reihen f(t) = k= f ke ikωt und g(t) = k= g ke ikωt mit ω = 2π/T, so gelten (1) αf + βg = k= (αf k + βg k )e ikωt, α, β C. (Linearität) (2) f(t) = k= f ke ikωt, (Konjugation) (3) f( t) = k= f ke ikωt, (Zeitumkehr) (4) f(αt) = k= f ke ikαωt, (Streckung, Ähnlichkeit) (5) f(t + τ) = k= (eikωτ f k )e ikωt, (Translation, Phasenverschiebung) (6) e inωt f(t) = k= f k ne ikωt, n Z. (Translation im Frequenzbereich) Verbindung zu 2π-periodische Funktionen: Besitzt f die Periode T, so besitzt F (t) := f( t ω ) die Periode 2π. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 185 / 221

Fourier-Reihen komplexwertiger Funktionen: Parsevalsche Gleichung Satz 11.30 Sind f und g zwei T -periodische, stückweise stetige Funktionen mit den Fourier-Reihen f(t) = k= f ke ikωt und g(t) = k= g ke ikωt, so gelten f k g k = 1 T k= k= f k 2 = 1 T T 0 T 0 f(t)g(t) dt, (11.13) f(t) 2 dt (Parselvalsche Gleichung). (11.14) Aus (11.14) folgt für reellwertige Funktionen die schon behandelte reelle Version der Parsevalschen Gleichung (11.9). Die Verbindung zwischen (11.14) und (11.9) ergibt sich durch Einsetzen der Beziehung c k = (a k ib k )/2 und Zusammenfassung der Summanden mit Indices k und k. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 186 / 221

Diskrete Fourier-Transformation In technischen Anwendungen liegen Funktionen (Signale) typischerweise nicht in kontinuierlicher Form vor, sondern als diskrete Messwerte oder als digitale Daten. Da die Abtastrate oft gleichabständig ist gehen wir von einer 2π-periodischen Funktion f = f(x) aus, für die die Funktionswerte y j = f(x j ) an den N + 1 Punkten x j = j 2π N, j = 0,..., N gegeben sind. Aufgrund der Periodizität gilt y 0 = y N. Dabei ist es eigentlich egal, ob die Funktionswerte {y j } N j=0 nur als Messwerte oder durch Auswertung einer expliziten Formel für f an den Stützstellen x j entstanden sind. Ziel ist es nun, die diskreten Werte in analoger Weise durch eine geeignete Orthogonalbasis darzustellen und ggf. durch Abschneiden zu approximieren. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 187 / 221

Diskrete Fourier-Transformation 3 2.5 2 1.5 1 0.5 0-4 -3-2 -1 0 1 2 3 4 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 188 / 221

Diskrete Fourier-Transformation Definition 11.31 Die Fourierkoeffizienten eines Vektors y = [y 0, y 1,..., y N 1 ] C N sind die Zahlen c k = 1 N N 1 j=0 N 1 2πi jk 1 y j e N =: N j=0 mit der N-ten Einheitswurzel w = w N := e 2πi N. y j w jk, k = 0,..., N 1, (11.15) Berechnen Sie die Fourier-Koeffizienten des ersten Einheitsvektors e 1 = [1, 0,..., 0] C N. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 189 / 221

Diskrete Fourier-Transformation: Approximation von Integralen Betrachtet man die Komponenten des Vektors y als Werte einer 2π-periodischen Funktion f : [0, 2π] C auf einem uniformen Gitter {x j } N 1 j=0, so lassen sich die Fourier-Koeffizienten eines Vektors als Approximation der Fourier-Koeffizienten von f interpretieren. Wir betrachten hierzu die Trapezregel zur Approximation des bestimmten Integrals b a f(x) dx b a [f(a) + f(b)]. 2 Ist f C 2 [a, b] und M := max a x b f (x), so gilt b f(x) dx b a (b a)3 [f(a) + f(b)] M. 2 12 a Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 190 / 221

Diskrete Fourier-Transformation: Approximation von Integralen Zusammengesetzte Trapezregel: Zerlegung des Integrationsintervalls [a, b] in n äquidistante Teilintervalle [x 0, x 1 ],..., [x n 1, x n ], x j = a + jh, j = 0, 1,..., n, h = b a n, und Anwendung der Trapezregel auf jedes Teilintervall: b f(x) dx h n 1 f(x 0 ) + 2 f(x j ) + f(x n ). =: T (h) 2 a j=1 Dann gilt die Fehlerabschätzung b f(x) dx T (h) b a 12 Mh2. a Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 191 / 221

Diskrete Fourier-Koffizienten als Approximation der kontinuierlichen Fourier-Koeffizienten Sind a = 0, b = 2π und g eine periodische Funktion auf [0, 2π], so kann man diese Approximation auf jedem Teilintervall anwenden und erhält 2π 0 g(x) dx = N 1 j=0 xj+1 x j [x j, x j+1 ], j = 0,..., N 1, g(x) dx N 1 j=0 x j+1 x j [g(x j) + g(x j+1)] = 2π 2 N N 1 j=0 g(x j). Auf den Integranden g(x) = 1 2π f(x)e ikx der (kontinuierlichen) Fourier-Koeffizienten angewandt erhält man, mit y j = f(x j ), 1 2π 2π 0 f(x)e ikx dx 1 N N 1 j=0 2πi jk y j e N = ck, k = 0,..., N 1. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 192 / 221

Fourier-Matrix Die Definition aller N Fourier-Koeffizienten eines Vektors y C N Vektorschreibweise zusammenfassen als kann man in wobei c = Satz 11.32 c 0. c N 1, y = y 0. y N 1 c = 1 N F N y,, F N = 1 1... 1 1 w w N 1.... 1 w N 1 w (N 1)2 Die Fourier-Matrix F N ist invertierbar mit inverser Matrix gegeben durch F 1 N = 1 N F N. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 193 / 221

DFT Definition 11.33 Die Abbildung, welche einem Vektor y C N den in (11.15) definierten Vektor c C N zuordnet, heißt diskrete Fourier-Transformation DFT : y c. Die Umkehrabbildung heit inverse diskrete Fourier-Transformation (IDFT), also: DFT: c = 1 N F Ny, c k = 1 N IDFT: y = F N c, y j = N 1 k=0 N 1 j=0 y j w kj, k = 0,..., N 1, c k w kj, j = 0,..., N 1. Man berechne DFT(y) für die abgetastete Sägezahnfunktion y j = j, j = 0, 1,..., N 1. N Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 194 / 221

Diskrete Faltung, Rechenregeln Wir definieren zu einem Vektor y C N dessen periodische Fortsetzung {y j } j Z, y j = y j mod N j Z. Weiter definieren wir die Faltung y z C N Faltung) zweier Vektoren y, z C N durch (diskrete Faltung, Faltungsprodukt, periodische (y z ) k = 1 N N 1 j=0 y j z k j. (11.16) Satz 11.34 Für die DFT zweier Vektoren y, z C N mit Fourier-Koeffizienten c, d C N gelten folgende Rechenregeln: DFT(αy + βz ) = αc + βd (Linearität) (11.17a) DFT((y j+n ) j ) = (w kn c k ) k (Translation Zeitbereich) (11.17b) DFT((w jn y j ) j ) = (c k n ) k (Translation Frequenzbereich) (11.17c) DFT(y z ) = (c k d k ) k (Faltung) (11.17d) Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 195 / 221

Parsevalsche Gleichung für DFT Man berechne die DFT der Vektoren x, yz C N mit x = [1, 0, 1, 0,..., 1, 0], y = [0, 1, 0, 1,..., 0, 1], z = x + y = [1, 1,..., 1]. Satz 11.35 Zwischen den Komponenten eines Vektors y C N und seiner DFT c C N besteht die Beziehung N 1 k=0 c k 2 = 1 N N 1 k=0 y k 2. (11.18) Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 196 / 221

FFT Die naive Berechnung einer DFT (Matrix-Vektor Produkt mit F N /N) erfordert offenbar O(N 2 ) komplexe Multiplikationen. Bei Anwendung der schnellen Fourier-Transformation (FFT) reduziert sich dieser Aufwand auf O(N log N) 2. Diese Verbesserung kann nicht überbewertet werden: It [the FFT] has changed the face of science and engineering so much that it is not an exaggeration to say that life as we know it would be very different without the FFT. Charles F. Van Loan, Computational Frameworks of the FFT Wir setzen (aus schreibtechnischen Gründen) im Folgenden ( ) ( ) 2π 2π ζ N := w N = e 2πi/N = cos i sin, M N so dass F N = [ζ kj N ] 0 k,j N 1. Außerdem sei N gerade. 2 James William Cooley( 1926) and John Wilder Tukey (1915 2000): An algorithm for the machine calculation of complex Fourier series, Math. Comp. 19, 297 301 (1965). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 197 / 221

FFT Die Idee der FFT (für N = 8): Mit ζ := ζ 8 ist 1 1 1 1 1 1 1 1 1 ζ ζ 2 ζ 3 ζ 4 ζ 5 ζ 6 ζ 7 1 ζ 2 ζ 4 ζ 6 ζ 8 ζ 10 ζ 12 ζ 14 1 ζ F 8 = 3 ζ 6 ζ 9 ζ 12 ζ 15 ζ 18 ζ 21 1 ζ 4 ζ 8 ζ 12 ζ 16 ζ 20 ζ 24 ζ 28. 1 ζ 5 ζ 10 ζ 15 ζ 20 ζ 25 ζ 30 ζ 35 1 ζ 6 ζ 12 ζ 18 ζ 24 ζ 30 ζ 36 ζ 42 1 ζ 7 ζ 14 ζ 21 ζ 28 ζ 35 ζ 42 ζ 49 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 198 / 221

FFT Wegen ζ 8 = 1, d.h. ζ j = ζ k, wenn j k (ohne Rest) durch 8 teilbar ist, folgt 1 1 1 1 1 1 1 1 1 ζ ζ 2 ζ 3 ζ 4 ζ 5 ζ 6 ζ 7 1 ζ 2 ζ 4 ζ 6 1 ζ 2 ζ 4 ζ 6 1 ζ F 8 = 3 ζ 6 ζ ζ 4 ζ 7 ζ 2 ζ 5 1 ζ 4 1 ζ 4 1 ζ 4 1 ζ 4. 1 ζ 5 ζ 2 ζ 7 ζ 4 ζ ζ 6 ζ 3 1 ζ 6 ζ 4 ζ 2 1 ζ 6 ζ 4 ζ 2 1 ζ 7 ζ 6 ζ 5 ζ 4 ζ 3 ζ 2 ζ 1 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 199 / 221

FFT Jetzt nummerieren wir die Zeilen von F 8 um: zuerst werden die mit geradem (0,2,4,6), danach die mit ungeradem Index (1,3,5,7) gezählt. Die zugehörige Pemutationsmatrix wird mit P bezeichnet. 1 1 1 1 1 1 1 1 1 ζ 2 ζ 4 ζ 6 1 ζ 2 ζ 4 ζ 6 1 ζ 4 1 ζ 4 1 ζ 4 1 ζ 4 PF 8 = 1 ζ 6 ζ 4 ζ 2 1 ζ 6 ζ 4 ζ 2 [ ] B1,1 B 1 ζ ζ 2 ζ 3 ζ 4 ζ 5 ζ 6 ζ 7 =: 1,2 B 2,1 B 2,2 1 ζ 3 ζ 6 ζ ζ 4 ζ 7 ζ 2 ζ 5 1 ζ 5 ζ 2 ζ 7 ζ 4 ζ ζ 6 ζ 3 1 ζ 7 ζ 6 ζ 5 ζ 4 ζ 3 ζ 2 ζ 1 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 200 / 221

FFT Wir untersuchen die einzelnen Blöcke: Wegen ζ = ζ 8 ist ζ 2 = ζ 4, d.h. 1 1 1 1 B 1,1 = B 1,2 = 1 ζ 4 ζ4 2 ζ4 3 1 ζ4 2 ζ4 4 ζ4 6 = F 4. 1 ζ4 3 ζ4 6 ζ4 9 Aus den Spalten 0,1,2 bzw. 3 von B 2,1 klammern wir ζ 0, ζ 1, ζ 2 bzw. ζ 3 aus : 1 1 1 1 1 0 0 0 B 2,1 = 1 ζ 2 ζ 4 ζ 6 0 ζ 0 0 1 ζ 4 1 ζ 4 0 0 ζ 2 0 = F 4D 4. 1 ζ 6 ζ 4 ζ 2 0 0 0 ζ 3 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 201 / 221

FFT Analog: 1 1 1 1 ζ 4 0 0 0 B 2,2 = 1 ζ 2 ζ 4 ζ 6 0 ζ 5 0 0 1 ζ 4 1 ζ 4 0 0 ζ 6 0 = F 4(ζ 4 D 4 ) = F 4 D 4. 1 ζ 6 ζ 4 ζ 2 0 0 0 ζ 7 Insgesamt erhalten wir [ ] [ ] [ ] F4 F PF 8 = 4 F4 O I4 I = 4. F 4 D 4 F 4 D 4 O F 4 D 4 D 4 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 202 / 221

FFT Satz 11.36 Seien N gerade, σ die folgende (gerade/ungerade) Permutation σ = [0, 2..., N 2, 1, 3,..., N 1] und P = P σ die zugehörige Permutationsmatrix. Dann besitzt die zeilenpermutierte Fourier-Matrix F N die Zerlegung [ ] [ ] [ ] F PF N = N/2 F N/2 FN/2 O IN/2 I = N/2. F N/2 D N/2 F N/2 D N/2 O F N/2 D N/2 D N/2 Dabei bezeichnet D N/2 die Diagonalmatrix mit ζ N = w N = e 2πi/N. ( ) D N/2 = diag ζn, 0 ζn, 1..., ζ N/2 1 N C (N/2) (N/2) Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 203 / 221

FFT Berechne jetzt y = F N x für ein x C N (N gerade). Gemäß der Zerlegung von F N aus Satz 11.36 unterteilen wir dies in zwei Schritte: (1) Reduktionsschritt: Berechne [ ] IN/2 I z = N/2 x. D N/2 D N/2 Im Fall N = 8 ergibt sich: z 0 = x 0 + x 4, z 1 = x 1 + x 5, z 2 = x 2 + x 6, z 3 = x 3 + x 7 z 4 = (x 0 x 4 ), z 5 = (x 1 x 5 )ζ N, z 6 = (x 2 x 6 )ζn 2, z 7 = (x 3 x 7 )ζn 3 (N/2 komplexe Multiplikationen und N komplexe Additionen). (2) Teilprobleme: Berechne F N/2 z (0 : N/2 1) und F N/2 z (N/2 : N 1) (zwei Fourier-Transformationen der Dimension N/2). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 204 / 221

FFT Ist N = 2 p eine Zweierpotenz, so ist N/2 ebenfalls gerade und die beiden DFT der Dimension N/2 können auf vier DFT der Dimension N/4 reduziert werden. Der Aufwand zur Reduktion beträgt 2 N/4 = N/2 komplexe Multiplikationen (und 2 N/2 = N komplexe Additionen). Dieser Prozess wird solange fortgesetzt bis man eine Multiplikation mit F N auf N Multiplikationen mit F 1 = [1] reduziert hat (eine Multiplikation mit F 1 erfordert offenbar keinen Aufwand). Dieses Reduktionsverfahren heißt schnelle Fourier-Transformation (FFT = Fast Fourier Transform). Satz 11.37 Zur Durchführung einer schnellen Fourier-Transformation der Ordnung N = 2 p sind N 2 p = N 2 log 2(N) komplexe Multiplikationen und N log 2 N komplexe Additionen erforderlich. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 205 / 221

FFT Die naive Berechnung einer Fourier-Transformation der Länge N = 2 p durch F N x erfordert also 2 p+1 /p-mal mehr Multiplikationen als ihre Berechnung durch FFT. Wenn z.b. für p = 20 die FFT-Version eine Sekunde benötigt, so benötigt F N x etwa 29 Stunden. Verbleibendes Problem: Bestimmt man y = F N x durch FFT, so erhält man zunächst eine permutierte Version ỹ = Qy von y mit einer Permutationsmatrix Q R N N. Es gilt: Besitzt für N = 2 p der Index i {0, 1,..., N 1} die Binärdarstellung und ist i = b p 1 2 p 1 + + b 2 2 2 + b 1 2 + b 0 =: [b p 1... b 2 b 1 b 0 ] 2, r(i) := [b 0 b 1 b 2... b p 1 ] 2 = b 0 2 p 1 + b 1 2 p 2 + b 2 2 p 3 + + b p 1 (bit reversal), dann gelten y i = ỹ r(i) und ỹ i = y r(i). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 206 / 221

Audio-Kompression Bis zur Einführung der Compact Disk (CD) in den frühen 1980er Jahren erfolgte die Speicherung von Audio-Signalen auf analogen Medien wie Vinyl-Schallplatten oder Magnetbänder. Mit dem CD Format lagen Audiodaten erstmalig für den Verbraucher in digitaler Form vor und konnten mit Computern verarbeitet werden. Verlustfreie Kompressionsverfahren (Huffman coding) erreichen eine Datenkompression auf ca. die Hälfte des CD-Formats. Erst die Entwicklung verlustbehafteter Kompressionstechniken gestattete eine deutlich stärkere Kompression auf etwa 10% des CD-Formats. Einen großen Umbruch in der Musikindustrie bewirkte die Verfügbarkeit des MP3-Formats (eigentlich MPEG-1 Audio Layer III), welches den bequemen Austausch komprimierter Musiktitel über allgemein verfügbare Internetverbindungen ermöglichte. Entwicklung: ab 1982 unter Leitung von Hans-Georg Musmann von einer Gruppe um Karlheinz Brandenburg am Fraunhofer-Institut für Integrierte Schaltungen in Erlangen sowie an der FAU Erlangen-Nürnberg in Zusammenarbeit mit AT&T Bell Labs und Thomson. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 207 / 221

Audio-Kompression: Digitalisierung mittels PCM Um ein analoges Audiosignal zu mit dem Pulse Code Modulation (PCM) zu digitalisieren wird es in äquidistanten Zeitabständen abgetastet und die Funktionswerte auf eine endliche Skala abgebildet (Quantisierung). Für unterschiedliche Arten von Audiosignalen werden verschiedene Abtastraten und Skalen verwendet. Telefonie: 8000 Hz, 13-Bit Integer, diese werden in ein 8-Bit Gleitpunkformat mit 4-Bit-Mantisse übertragen; ergibt Bitrate von 64000 Bit/s, d.h. 64 kb/s. CD-Format: 44100 Hz, 16-Bit Integer, 2 Kanäle (Stereo), ergibt 1411200 Bit/s, oder 1411,2 kb/s. (10 MB für 1 Minute Stereo-Audio). Die Bitrate allein ist nur ein grobes Maß für die Qualität eines Audioformats, da unterschiedliche Kodierungsverfahren zum Einsatz kommen. Verlustfreie Formate: AIFF, WAV, Apple Lossless, FLAC Verlustbehaftete Formate: MP3, AAC, OGG Vorbis, WMA. Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 208 / 221

Audio-Kompression: Digitalisierung mittels PCM 3 2.5 2 1.5 1 0.5 0-4 -3-2 -1 0 1 2 3 4 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 209 / 221

Audio-Kompression: MP3 Schematische Darstellung von MP3 Kodierung: 1 Digitalisierung, PCM Datenstrom. MP3 unterstützt Bitraten von 32 bis 320 kbit/s, Abtastraten von 32, 44.1 und 48 khz. 2 Aufteilung des Eingangssignals in verschiedene spektrale Frequenzbereiche mittels Gruppen von Bandpassfiltern, realisiert durch PQF (polyphase quadrature filter) oder QMR (quadrature mirror filter). 3 Zerlegung in Blöcke der Länge 576. 4 Diskrete Kosinus-Transformation (DCT), genauer: modifizierte DCT (MDCT), zur Zerlegung in Frequenzanteile. 5 Ausdünnung (Quantisierung) der Spektralkomponenten durch Berücksichtigung psychoakustischer Effekte. 6 Verlustfreie Komprimierung der verbleibenden Frequenzanteile (Huffman-Kodierung). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 210 / 221

Audio-Kompression: DCT Ausgangspunkt: DFT-Beziehungen zwischen c = DFT(y), y, c C N : c k = 1 N N 1 j=0 y j w jk, y j = N 1 k=0 c k w jk, w = e 2πi/N. Fourier-Darstellung von y impliziert periodische Fortsetzung auf Z: y j+ln = y j l Z. Dies führt bei blockweiser Transformation eines Audiostromes zu Artefakten. Außerdem: Daten bei Audiosignalen reell. Aus y R N folgt die Symmetriebeziehung c N k = c k, k = 0,..., N 1. (Vgl. die analoge Beziehung bei Fourier-Reihen). Aus der Annahme gerader Symmetrie y N j = y j für den Vektor y (Symmetrie zu N/2) folgt c k R, k = 0,..., N 1. Für reelle Vektoren y mit gerader Symmetrie liegt also dieselbe Symmetrie für den (reellen) Vektor c vor. In diesem Fall erhalten wir somit eine Transformation zwischen reellen Vektoren der Länge (N + 2)/2 (N gerade) bzw. (N + 1)/2 (N ungerade). Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 211 / 221

Audio-Kompression: DCT Wir betrachten daher nun die DFT eines reellen Vektors der Länge 2N mit gerader Symmetrie, mit Fourier-Koeffizienten c k = 1 N 1 y 0 + y j 2 Re w jk 2N 2N + y Nw2N Nk, k = 0,..., 2N 1. Unter Beachtung von erhalten wir c k = 1 1 N 2 y 0 + j=0 Re w jk 2πjk 2N = cos 2N N 1 j=1 y j cos jkπ N sowie + ( 1)k 2 y N w Nk 2N = ( 1) k, k = 0,..., N. (11.19) Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 212 / 221

Audio-Kompression: DCT Die Abbildung (11.19) heißt diskrete Kosinustransformation (Discrete Cosine Transform, DCT), genauer gesagt DCT-I. Wie man leicht nachprüft ist die inverse Transformation gegeben durch N 1 y j = c 0 + 2 c k cos jkπ N + ( 1)k c N j = 0,..., N. k=1 Es gibt weitere Möglichkeiten, einen Vektor aus N + 1 reellen Zahlen symmetrisch fortzusetzen. Diese führen auf insgesamt 8 Varianten der DCT, mit DCT-I bis DCT-VIII bezeichnet. Eine besondere Rolle bei der MP3-Kompression spielt die DCT-IV: c k = N 1 j=0 [ ( π y j cos j + 1 ) ( k + 1 )], k = 0,..., N 1. N 2 2 Oliver Ernst (Numerische Mathematik) Mathematik III Wintersemester 2014/15 213 / 221