Normalengleichungen. Für eine beliebige m n Matrix A erfüllt jede Lösung x des Ausgleichsproblems Ax b min die Normalengleichungen A t Ax = A t b,

Transkript

1 Normalengleichungen Für eine beliebige m n Matrix A erfüllt jede Lösung x des Ausgleichsproblems Ax b min die Normalengleichungen A t Ax = A t b, Normalengleichungen 1-1

2 Normalengleichungen Für eine beliebige m n Matrix A erfüllt jede Lösung x des Ausgleichsproblems Ax b min die Normalengleichungen A t Ax = A t b, d.h. das Residuum r = Ax b ist orthogonal zu dem von den Spalten von A aufgespannten Unterraum AR n = Bild A. Ax AR n Ax b b Normalengleichungen 1-2

3 Die Matrix A t A ist quadratisch und hat Dimension n. Sie ist genau dann invertierbar, wenn Rang A = n, d.h. wenn die Spalten von A linear unabhängig sind. Normalengleichungen 1-3

4 Die Matrix A t A ist quadratisch und hat Dimension n. Sie ist genau dann invertierbar, wenn Rang A = n, d.h. wenn die Spalten von A linear unabhängig sind. Die Normalengleichungen sind auch im singulären Fall lösbar; die Lösung ist dann jedoch nicht eindeutig. Normalengleichungen 1-4

5 Beweis: Minimalität von x A(x + ty) b 2 Ax b 2, t R, y R n Normalengleichungen 2-1

6 Beweis: Minimalität von x A(x + ty) b 2 Ax b 2, t R, y R n Vereinfachung mit r = Ax b p = tr t Ay + ty t A t r +t 2 y t A t Ay }{{} 2ty t A t r (r t Ay = y t A t r) Normalengleichungen 2-2

7 Beweis: Minimalität von x A(x + ty) b 2 Ax b 2, t R, y R n Vereinfachung mit r = Ax b (r t Ay = y t A t r) p: nicht-negative Parabel in t p = tr t Ay + ty t A t r +t 2 y t A t Ay }{{} 2ty t A t r Normalengleichungen 2-3

8 Beweis: Minimalität von x A(x + ty) b 2 Ax b 2, t R, y R n Vereinfachung mit r = Ax b p = tr t Ay + ty t A t r +t 2 y t A t Ay }{{} 2ty t A t r (r t Ay = y t A t r) p: nicht-negative Parabel in t p genau dann, wenn y t (A t r) = Normalengleichungen 2-4

9 Beweis: Minimalität von x A(x + ty) b 2 Ax b 2, t R, y R n Vereinfachung mit r = Ax b p = tr t Ay + ty t A t r +t 2 y t A t Ay }{{} 2ty t A t r (r t Ay = y t A t r) p: nicht-negative Parabel in t p genau dann, wenn y t (A t r) = y beliebig A t r = Normalengleichungen 2-5

10 Beispiel: (i) Rang A maximal: Normalengleichungen 3-1

11 Beispiel: (i) Rang A maximal: A = , b = 3 Normalengleichungen 3-2

12 Beispiel: (i) Rang A maximal: Normalengleichungen A = ( , b = ) ( x1 x 2 ) = ( ) Normalengleichungen 3-3

13 Beispiel: (i) Rang A maximal: Normalengleichungen A = ( eindeutige Lösung x = ( 1/ , b = ) ( x1 x 2 ) = ( ) 1/2 ) t mit Residuum r = Ax b = Normalengleichungen 3-4

14 (ii) Rang A nicht maximal: Normalengleichungen 3-5

15 (ii) Rang A nicht maximal: A = , b = 3 Normalengleichungen 3-6

16 (ii) Rang A nicht maximal: A = , b = linear abhängige Spalten singuläre Normalengleichungen ( ) ( ) ( ) 5 1 x1 3 = x 2 3 Normalengleichungen 3-7

17 (ii) Rang A nicht maximal: A = , b = linear abhängige Spalten singuläre Normalengleichungen ( ) ( ) ( ) 5 1 x1 3 = x 2 3 Lösung x = ( 3/5 ) ( 2 + t 1 ), t R Normalengleichungen 3-8

18 (ii) Rang A nicht maximal: A = , b = linear abhängige Spalten singuläre Normalengleichungen ( ) ( ) ( ) 5 1 x1 3 = Lösung x = ( 3/5 x 2 ) ( 2 + t 1 3 ), t R nicht eindeutig, aber eindeutiges Residuum 2 4 ( ) 6/5 r = 1 2 3/5 2t 3 = 12/5 t Normalengleichungen 3-9

19 Beispiel: Computer-Tomographie Rekonstruktion einer Dichte x(u, v) aus dem Intensitätsverlust von Röntgenstrahlen entlang von k Bündeln aus l parallelen Geraden R i : (u i, v i ) + R(cos ϑ i, sin ϑ i ), i = 1,..., m = kl Normalengleichungen 4-1

20 Beispiel: Computer-Tomographie Rekonstruktion einer Dichte x(u, v) aus dem Intensitätsverlust von Röntgenstrahlen entlang von k Bündeln aus l parallelen Geraden R i : (u i, v i ) + R(cos ϑ i, sin ϑ i ), i = 1,..., m = kl Approximation von x durch eine stückweise konstante Funktion auf einem Raster von Quadraten Q j und eine Näherung für die Linienintegrale n b i = x(u i + t cos ϑ i, v i + t sin ϑ i ) dt a i,j x j R j=1 Normalengleichungen 4-2

21 Beispiel: Computer-Tomographie Rekonstruktion einer Dichte x(u, v) aus dem Intensitätsverlust von Röntgenstrahlen entlang von k Bündeln aus l parallelen Geraden R i : (u i, v i ) + R(cos ϑ i, sin ϑ i ), i = 1,..., m = kl Approximation von x durch eine stückweise konstante Funktion auf einem Raster von Quadraten Q j und eine Näherung für die Linienintegrale n b i = x(u i + t cos ϑ i, v i + t sin ϑ i ) dt a i,j x j R mit x j einer Approximation von x(u, v) auf Q j und a i,j = R i Q j j=1 der Länge des Durchschnitts der Geraden R i mit dem Quadrat Q j Normalengleichungen 4-3

22 Beispiel: Computer-Tomographie Rekonstruktion einer Dichte x(u, v) aus dem Intensitätsverlust von Röntgenstrahlen entlang von k Bündeln aus l parallelen Geraden R i : (u i, v i ) + R(cos ϑ i, sin ϑ i ), i = 1,..., m = kl Approximation von x durch eine stückweise konstante Funktion auf einem Raster von Quadraten Q j und eine Näherung für die Linienintegrale n b i = x(u i + t cos ϑ i, v i + t sin ϑ i ) dt a i,j x j R mit x j einer Approximation von x(u, v) auf Q j und a i,j = R i Q j j=1 der Länge des Durchschnitts der Geraden R i mit dem Quadrat Q j m >> n Ausgleichsproblem zur Bestimmung von x aus den Daten b Normalengleichungen 4-4

23 Ù Ú Raster, Winkel ϑ =, π/16, π/8,... mit 11 parallelen Scan-Richtungen im Abstand der Rasterquadratbreite Normalengleichungen 4-5