Numerik III trifft inverse Probleme

Transkript

1 Numerik III trifft inverse Probleme Michael Hönig Heinrich-Heine-Universität Düsseldorf Bad Neuenahr-Ahrweiler, Juli 2009

2 Inverse Probleme Schließen von einer beobachteten Wirkung auf deren Ursache

3 Beispiel: Computertomographie gemessen: Abminderung von Röntgenstrahlung (Wirkung) gesucht: Dichteverteilung im Körper (Ursache)

4 Impedanztomographie gemessen: Spannungsverteilung an der Oberfläche (Wirkung) gesucht: elektrischer Widerstand der Organe (Ursache)

5 Mathematisches Modell der EIT div (σ u) = 0, σ u n = j, ind auf D direktes Problem bestimme u für gegebenes j, σ inverses Problem bestimme σ auf D für j und u gegeben auf D

6 Lineare, schlecht gestellte Probleme X, Y Hilbert-Räume A : X Y linear, kompakt und stetig gesucht: kleinste Quadrate-Lösung von Ax = y also x + = A + y, A + Pseudoinverse, x + Lösung der Normalengleichung A Ax = A y Singulärwertzerlegung Ax = σ j x, v j X u j, A + y = j=1 j=1 σ 1 j y, u j Y v j, für y D(A + )

7 Regularisierung linearer Probleme statt Ax = y mit y R(A) hat man nur verrauschte Daten Au = y δ, y y δ Y δ Lösung u = A + y δ = j=1 σ 1 j y δ, u j Y v j, Fehler in Richtung u j werden mit Faktor σ 1 j Regularisierung notwendig verstärkt

8 Regularisierungsverfahren Definition {R t } t>0 Familie stetiger Operatoren R t : Y X α : (0, ) Y (0, ) stetig Gilt im Grenzübergang δ 0 sup { x + R α(δ,y δ )y δ X : y δ Y, y y δ Y δ } 0, dann heißt ({R t } t>0, α) Regularisierungsverfahren α Regularisierungsparameter

9 Konvergenz für δ 0 Satz Es gibt keine Funktion h mit h(δ) 0, δ 0, so dass sup { x + R α(δ,y δ )y δ X : y δ Y, y y δ Y δ } h(δ) Konvergenzraten nur unter gewissen Voraussetzungen möglich

10 Konvergenz für δ 0 Satz Es gibt keine Funktion h mit h(δ) 0, δ 0, so dass sup { x + R α(δ,y δ )y δ X : y δ Y, y y δ Y δ } h(δ) Konvergenzraten nur unter gewissen Voraussetzungen möglich

11 Schlimmster Fehler Teilmenge M X E(δ, M, R) := sup { A + y Ry δ X : y δ Y, y y δ Y δ, A + y M } ein Verfahren R opt mit E(δ, M, R opt ) = E(δ, M) := inf E(δ, M, R) R heißt optimal und es gilt die untere Schranke E(δ, M) sup { x X : x M, Ax Y δ } =: e(δ, M)

14 Was kann man erreichen? Betrachte dann gilt M = X γ,ρ = { (A A) γ z : z X ρ } e(δ, X γ,ρ ) δ 2γ 2γ+1 ρ 1 2γ+1 und ein Verfahren heißt optimal, falls E(δ, X γ,ρ ) C γ δ 2γ 2γ+1 ρ 1 2γ+1 Ziel Verfahren konstruieren, die mit optimaler Rate konvergieren

15 Was kann man erreichen? Betrachte dann gilt M = X γ,ρ = { (A A) γ z : z X ρ } e(δ, X γ,ρ ) δ 2γ 2γ+1 ρ 1 2γ+1 und ein Verfahren heißt optimal, falls E(δ, X γ,ρ ) C γ δ 2γ 2γ+1 ρ 1 2γ+1 Ziel Verfahren konstruieren, die mit optimaler Rate konvergieren

16 Gängige Verfahren abgeschnittene Singulärwertzerlegung Landweber-Verfahren u n+1 = u n + A (y δ Au n ), für n = 0, 1, 2,.... Tikhonov-Phillips-Regularisierung Ax y δ 2 Y + t x 2 X asymptotische Regularisierung! = min d dt u(t) = A ( y δ Au(t) ), für t > 0, u(0) = 0.

20 Allgemeiner Ansatz Definition Gilt für alle λ (0, A 2 ] G t : [0, A 2 ] R Familie stückweise stetiger Funktionen λg t (λ) C lim t G t (λ) = 1 λ Dann heißt {G t } t>0 regularisierender Filter (für A).

21 Gängige Filter abgeschnittene Singulärwertzerlegung { 1/λ, λ 1 G t (λ) = t, 0, λ < 1 t. relaxiertes Landweber-Verfahren 1 (1 ωλ)m G m (λ) = λ Tikhonov-Phillips-Regularisierung G t (λ) = asymptotische Regularisierung t 1 + λt. G t (λ) = tϕ( λt).

25 Parameterwahl Definition {t k } k N monoton wachsend, t k τ > 1 Bestimme k so, dass AR tk y δ y δ Y τδ < AR ti y δ y δ Y für i = 1,..., k 1. Die Parameterwahl α(δ, y δ ) = α(δ, y δ, τ) := t k heißt Diskrepanzprinzip (von Morozov).

26 Konvergenz im linearen Fall Satz {G t } t>0 regularisierender Filter mit Qualifikation µ 0 > 1/2 G t (λ) Ct für t Parameterwahl laut Diskrepanzprinzip τ > S p := sup { 1 λg t (λ) : t > 0, 0 λ A 2} 1. Dann ist ( {R t }, α ) mit R t = G t (A A)A ein ordnungsoptimales Regularisierungsverfahren für A + bzgl. X µ,ϱ für alle µ ]0, µ 0 1/2].

27 Filter vs. Integrator asymptotische Regularisierung d dt u(t) = A ( y δ Au(t) ), für t > 0, u(0) = 0. expliziter Euler impliziter Euler exponentieller Euler

28 Filter vs. Integrator asymptotische Regularisierung d dt u(t) = A ( y δ Au(t) ), für t > 0, u(0) = 0. expliziter Euler u n+1 = u n + h n A (y δ Au n ) impliziter Euler exponentieller Euler

29 Filter vs. Integrator asymptotische Regularisierung d dt u(t) = A ( y δ Au(t) ), für t > 0, u(0) = 0. expliziter Euler Landweber u n+1 = u n + h n A (y δ Au n ) impliziter Euler exponentieller Euler

30 Filter vs. Integrator asymptotische Regularisierung d dt u(t) = A ( y δ Au(t) ), für t > 0, u(0) = 0. expliziter Euler Landweber impliziter Euler u n+1 = u n + h n A (y δ Au n+1 ) exponentieller Euler

31 Filter vs. Integrator asymptotische Regularisierung d dt u(t) = A ( y δ Au(t) ), für t > 0, u(0) = 0. expliziter Euler Landweber impliziter Euler (iteriertes) Tikhonov-Phillips (I + h n A A)u n+1 = u n + h n A y δ exponentieller Euler

32 Filter vs. Integrator asymptotische Regularisierung d dt u(t) = A ( y δ Au(t) ), für t > 0, u(0) = 0. expliziter Euler Landweber impliziter Euler (iteriertes) Tikhonov-Phillips exponentieller Euler u n+1 = u n + h n ϕ( h n A A)A (y δ Au n )

33 Filter vs. Integrator asymptotische Regularisierung d dt u(t) = A ( y δ Au(t) ), für t > 0, u(0) = 0. expliziter Euler Landweber impliziter Euler (iteriertes) Tikhonov-Phillips exponentieller Euler asympt. Regu.

34 Nichtlineare Probleme F : D(F ) X Y stetig und Fréchet-differenzierbar F(x) = y 1. Problem schlecht gestellt Lösung nicht lokal eindeutig Lösung hängt nicht stetig von den Daten ab 2. gesucht: x 0 -Minumum-Norm Lösung x + 3. nur gestörte Daten y δ Y, y y δ Y δ verfügbar Regularisierung notwendig

35 Nichtlineare Probleme F : D(F ) X Y stetig und Fréchet-differenzierbar F(x) = y 1. Problem schlecht gestellt Lösung nicht lokal eindeutig Lösung hängt nicht stetig von den Daten ab 2. gesucht: x 0 -Minumum-Norm Lösung x + 3. nur gestörte Daten y δ Y, y y δ Y δ verfügbar Regularisierung notwendig

36 Konvergenz bekannter Verfahren u n+1 = u n + A ( n y δ F (u n ) ) Landweber: Hanke, Neubauer, Scherzer 1995, Konvergenz + Ordnungsoptimalität Levenberg-Marquardt: Hanke 1997, Konvergenz (inexakte) Newton-Verfahren: Rieder 1999 Konvergenz + fast Ordnungsoptimalität iterativ regularisierte Verfahren: Jin, Tautenhahn 2008 Konvergenz + Ordnungsoptimalität asymptotische Regularisierung: Tautenhahn 1994 Konvergenz + Ordnungsoptimalität A n = F (u n ), J n = A na n

37 Konvergenz bekannter Verfahren u n+1 = u n + h n (I + h n J n ) 1 A ( n y δ F (u n ) ) Landweber: Hanke, Neubauer, Scherzer 1995, Konvergenz + Ordnungsoptimalität Levenberg-Marquardt: Hanke 1997, Konvergenz (inexakte) Newton-Verfahren: Rieder 1999 Konvergenz + fast Ordnungsoptimalität iterativ regularisierte Verfahren: Jin, Tautenhahn 2008 Konvergenz + Ordnungsoptimalität asymptotische Regularisierung: Tautenhahn 1994 Konvergenz + Ordnungsoptimalität A n = F (u n ), J n = A na n

38 Konvergenz bekannter Verfahren u n+1 = u n + h n ϕ( h n J n )A ( n y δ F(u n ) ) Landweber: Hanke, Neubauer, Scherzer 1995, Konvergenz + Ordnungsoptimalität Levenberg-Marquardt: Hanke 1997, Konvergenz (inexakte) Newton-Verfahren: Rieder 1999 Konvergenz + fast Ordnungsoptimalität iterativ regularisierte Verfahren: Jin, Tautenhahn 2008 Konvergenz + Ordnungsoptimalität asymptotische Regularisierung: Tautenhahn 1994 Konvergenz + Ordnungsoptimalität A n = F (u n ), J n = A na n

39 Konvergenz bekannter Verfahren u n+1 = u 0 + h n ϕ( h n J n )A ( n y δ F(u n ) + A n (u n u 0 ) ) Landweber: Hanke, Neubauer, Scherzer 1995, Konvergenz + Ordnungsoptimalität Levenberg-Marquardt: Hanke 1997, Konvergenz (inexakte) Newton-Verfahren: Rieder 1999 Konvergenz + fast Ordnungsoptimalität iterativ regularisierte Verfahren: Jin, Tautenhahn 2008 Konvergenz + Ordnungsoptimalität asymptotische Regularisierung: Tautenhahn 1994 Konvergenz + Ordnungsoptimalität A n = F (u n ), J n = A na n

40 Konvergenz bekannter Verfahren u(t) = F (u(t)) ( y δ F(u(t)) ) Landweber: Hanke, Neubauer, Scherzer 1995, Konvergenz + Ordnungsoptimalität Levenberg-Marquardt: Hanke 1997, Konvergenz (inexakte) Newton-Verfahren: Rieder 1999 Konvergenz + fast Ordnungsoptimalität iterativ regularisierte Verfahren: Jin, Tautenhahn 2008 Konvergenz + Ordnungsoptimalität asymptotische Regularisierung: Tautenhahn 1994 Konvergenz + Ordnungsoptimalität A n = F (u n ), J n = A na n

41 Showalter-Regularisierung nichtlineares Problem (exakt gestört) F (x) = y, F (u) = y δ, y y δ Y δ Dgl. für u = u(t) = u δ (t) u = F (u) ( y δ F (u) ) =: G(u) Zeitintegrator Regularisierungsverfahren u n+1 = u n + h n ϕ( h n J n )G(u n ) u(t n+1 ), t n+1 = t n + h n J n = F (u n ) F (u n ) G (u n ) ϕ geeignete Funktion (Filter), heute: ϕ(x) = (1 x) 1 h n Schrittweite, t n Regularisierungsparameter

42 Parameterwahl Diskrepanzprinzip Wähle τ > 1. stetiger Fall (Tautenhahn) F (u(t )) y δ Y τδ < F (u(t)) y δ Y für 0 t < t diskreter Fall F (u n ) y δ Y τδ < F (un ) y δ Y für alle n < n.

43 Konvergenzraten Annahmen (1) Quellbedingung: es existieren γ (0, 1/2] und w mit x 0 x + = J γ + w, w X ρ, J + := F (x + ) F (x + ) (2) Forderung an die Ableitung F (x) = R(x, x)f ( x) R(x, x) I C+ x x X, x, x B r (x + ) (3) o.b.d.a. F (x) 1, x B r (x 0 ) vgl. Hanke, Neubauer, Scherzer 1995; Tautenhahn 1994

44 Konvergenzraten stetiger Fall Satz (Tautenhahn 1994) Es existiert eine Konstante c = c(γ, τ, η) so, dass der Fehler e(t ) = u(t ) x + für ρ klein genug Beweisskizze e(t ) cρ 1/(2γ+1) δ 2γ/(2γ+1) VdK Formel für die exakte Lösung: t e(t) = e tj+ e(0) t 0 e (t s)j+ A +(y δ y)ds e (t s)j+ r(s)ds

45 Fortsetzung Beweisskizze Notation: ε(t) = e(t) X, α(t) = A + e(t) Y Zeige ρ ε(t) (1 + t) γ + t/2δ + c 1 α(t) Schließe daraus ρ (1 + t) γ+1/2 + δ + c 1 t 0 t 0 ε(s)α(s) 1 + t s ds, ε(s)α(s) (1 + t s) ds. ρ ε(t) c (1 + t) γ, α(t) c ρ (1 + t) γ+1/2.

46 Konvergenzraten diskreter Fall Satz Erfüllen die Schrittweiten h 0 c 0 h j c h t j dann existiert eine Konstante c so, dass u n x + X cρ 1/(2γ+1) δ 2γ/(2γ+1)

47 Abklingverhalten Satz Für genügend kleines ρ existiert eine Konstante C = C (τ, η, C R, c 0, c h, γ, r), so dass für n < n ρ e n C (1 + t n ) γ, ρ A + e n C (1 + t n ) γ+1/2.

48 Diskrete VdK-Formel Lemma Es gilt mit e n+1 = Φ n,+ e n + h n A + Φ n,+ (r n + y δ y) r n = F + F (u n ) + A + e n + Ferner existiert eine Konstante C 1, so dass (R n I + ( R n R n) Φ n h n K n ) F δ n. r n C 1 e n A + e n. A + = F (x + ), K n = A n A n, Φ n = (I + h n K n ) 1

49 Beweis der Konvergenzraten Diskrete VdK-Formel für e n = u n x + e n = n 1 j=0 n 1 A + e n = A + j=0 n 1 Φ j,+ e 0 + h j A + j=0 n 1 Φ j,+ e 0 + j=0 n 1 k=j n 1 h j K + k=j Φ k,+ (r j + y δ y) Φ k,+ (r j + y δ y) A + = F (x + ), K + = A + A +

50 Zeige n 1 ρ e n (1 + t n ) γ + 2 ej A+ e j t n δ + c 1 h j 1 + tn t j j=0 n 1 ρ A + e n (1 + t n ) γ+1/2 + δ + c ej A+ e j 2 h j 1 + t n t j Schließe mit Induktion daraus j=0 ρ e n X c (1 + t n ) γ, A ρ +e n Y c (1 + t n ) γ+1/2.

51 Abschätzung der (Riemann-)Summen f tn f tn t 0 t n t

52 Parameteridentifikation in einer PDGl Rekonstruktion von x aus bei verrauschten Daten y δ. Exakte Lösung: y + xy = f in Ω = [0, 1] 2, y = g auf Ω x + (ξ, η) = 1.5 sin(2πξ) sin(3πη)+3 ( (ξ 0.5) 2 + (η 0.5) 2) +2 x 0 so gewählt, dass Quellbedingung mit γ = 1 2 erfüllt ist. Rieder 1999

53 Parameteridentifikation in einer PDGl Exakter Koeffizient x + (links) und Rekonstruktion u n durch das exponentielle Euler-Verfahren. Rauschpegel: δ = 10 3, Relativer Fehler: 3%

54 Relative Fehler / Rechenzeit als Fktn. von δ δ exponentielles Euler-Verfahren, Newton-CGNE iterative Regularisierung mit exponentiellem Euler iterativ regularisiertes Gauss-Newton-Verfahren

55 Beispiel II: Grundwasserhydrologie Rekonstruktion von x aus div(x grad y) = f in Ω = [0, 6] 2, y = g auf Ω mit gemischten Dirichlet-Neumann-Randbedingungen: y(ξ, 0) = 100, y ξ (6, η) = 0, (xy ξ )(0, η) = 500, y η (ξ, 6) = 0. Hanke 1997

56 Ergebnisse (exponentieller Euler) exakter Koeffizient x + (links) Rekonstruktion u n Rauschpegel: δ = 10 3/2 Relativer Fehler: 39%.

57 Relative Fehler / Rechenzeit als Fktn. von δ exponentielles Euler-Verfahren Newton-CGNE

58 Literatur M. Hochbruck, M. Hönig und A. Ostermann. Regularization of nonlinear ill-posed problems by exponential integrators. M2NA, M. Hochbruck, M. Hönig und A. Ostermann. A convergence analysis of the exponential Euler iteration for nonlinear ill-posed problems. Inverse Problems, M. Hochbruck und M. Hönig. On the convergence of a regularizing Levenberg-Marquardt scheme for nonlinear ill-posed problems. Numerische Mathematik, eingereicht 2009.

59 Fazit Vielen Dank für ein erfolgreiches Kompaktseminar