Numerische Lineare Algebra

Transkript

1 Numerische Lineare Algebra Vorlesung 5 Prof. Dr. Klaus Höllig Institut für Mathematischen Methoden in den Ingenieurwissenschaften, Numerik und Geometrische Modellierung SS 21 Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 1 / 13

2 Ausgleichsgerade Eine Gerade p(t) = u + vt, die Daten (t i, f i ), i = 1,..., n, bestmöglichst approximiert, kann durch Minimierung der Fehlerquadratsumme ermittelt werden. n (f i p(t i )) 2 i=1 Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 2 / 13

3 Ausgleichsgerade f p(t) = u + vt p(ti) fi ti t Man erhält für den Achsenabschnitt u und die Steigung v die Formeln u = ( ti 2)( f i ) ( t i )( t i f i ) n( ti 2) ( t i ) 2, v = n( ti f i ) ( t i )( f i ) n( ti 2) ( t i ) 2, wenn mindestens zwei Abszissen t i verschieden sind. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 2 / 13

4 Beweis Verschwinden der Ableitungen von i (u + vt i f i ) 2 nach u und v, = 2 i = 2 i (u + vt i f i ) t i (u + vt i f i ) lineares Gleichungssystem ( n ti ti t 2 i ) ( u v ) = ( ) fi ti f i eindeutige Lösbarkeit mit Cramerscher Regel, da Determinante = n t 2 2 ( i ) 2 ) 2 t i > n t 2 2 (n 1/2 t 2 Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 3 / 13

5 Beispiel Strahlungsintensität bei radioaktivem Zerfall S = m 2 t T z.b. T = 2.5 Min für Barium ln S = ln m t ln 2 }{{} T u }{{} v 6.5 Intensität t in s t in 1s ln S Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 4 / 13

6 Normalengleichungen Für eine beliebige m n Matrix A erfüllt jede Lösung x des Ausgleichsproblems Ax b 2 min die Normalengleichungen A t Ax = A t b, d.h. das Residuum r = Ax b ist orthogonal zu dem von den Spalten von A aufgespannten Unterraum Bild A Ax AR n Ax b b Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 5 / 13

7 Normalengleichungen Die Matrix A t A ist quadratisch und hat Dimension n. Sie ist genau dann invertierbar, wenn Rang A = n, d.h. wenn die Spalten von A linear unabhängig sind. Die Normalengleichungen sind auch im singulären Fall lösbar, die Lösung ist dann jedoch nicht eindeutig. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 5 / 13

8 Beweis Charakterisierung des Minimums A(x + ty) b 2 2 Ax b 2 2, t, y 2ty t A t r + t 2 y t A t Ay wegen r t (Ay) = (Ay) t r mit r = Ax b linke Seite der Ungleichung: Parabel in t Äquivalenz der Nichtnegativität zu y t ( A t r ) = y = (...) = Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 6 / 13

9 Beispiel Matrix mit vollem Rang A = , b = 3 reguläre Normalengleichungen ( 5 1 ) ( x1 1 5 x 2 ) = ( 3 3 ) eindeutige Lösung x = ( 1 2 Residuum r = ( ) t 1 2 ) t Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 7 / 13

10 Beispiel Matrix mit linear abhängigen Spalten 2 4 A = 1 2, b = 3 singuläre Normalengleichungen ( 5 1 ) ( x1 1 2 x 2 ) = ( 3 6 ) Lösungen x = ( 3 5 2t t eindeutiges Residuum r = ( ) t ), t R Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 7 / 13

11 In beiden Fällen werden die vorher bestimmten Werte benutzt. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 8 / 13 Cholesky Faktorisierung Eine symmetrische positiv definite Matrix S besitzt eine eindeutige Faktorisierung S = R t R, wobei R eine obere Dreiecksmatrix mit positiven Diagonaleinträgen ist. Die Faktorisierung kann durch sukzessives Lösen der Gleichungen s j,k = r 1,j r 1,k + + r j,j r j,k, k j, für j = 1, 2,... bestimmt werden. Für jedes j wird zuerst r j,j = s j,j ri,j 2 i<j berechnet und dann simultan für k = j + 1,..., n, r j,k = s j,k r i,j r i,k /r j,j. i<j

12 Beweis Formel für s j,k Berechnungsverfahren und Eindeutigkeit Existenz via Induktion Faktorisierung einer n n-matrix S mit Ansatz S = ( S u u t p 2 ) ( Rt = v t q ) ( R v q Anwendbarkeit der Induktionsvoraussetzung auf S = S(1 : n 1, 1 : n 1) wegen < (x 1,..., x }{{ n 1, )S } x s n,n = e t nse n > Definition von p = s n,n x 1 ). x n 1 = x t Sx, x Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 9 / 13

13 Beweis Produkte der Block-Matrizen S = R t R, u = Rt v u t = v t R, p 2 = v t v + q 2 v = ( Rt) 1 u Nachweis von p 2 v t v > mit Hilfe der positiven Definitheit von S: ( < v t ( Rt ) ) ( ) ( ) 1 Rt R u R 1 v, 1 u t p 2 1 }{{} = ( v t ( Rt ) 1, 1 ) ( Rt v u v t v p 2 Definition von q als Wurzel S ) = v t v + p 2 Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 9 / 13

14 Beispiel } 3 26 {{ 7 } S = a b d c e f a b c d e f } {{ }} {{ } R t R Vergleich der Einträge in der ersten Zeile auf beiden Seiten zweite Zeile dritte Zeile 1 = s 1,1 = a 2 a = 1 2 = s 1,2 = ab b = 2 3 = s 1,3 = ac c = 3 2 = s 2,2 = b 2 + d 2 = 4 + d 2 d = 4 26 = s 2,3 = bc + de = e e = 5 7 = s 3,3 = c 2 + e 2 + f 2 = f 2 f = 6 Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 1 / 13

15 Lösung eines symmetrischen positiv definiten linearen Gleichungssystems Ein lineares Gleichungssystem Sx = b mit symmetrisch positiv definiter Matrix S kann mit Hilfe der Cholesky-Zerlegung S = R t R gelöst werden: R t }{{} Rx = b R t y = b Rx = y. y Die Lösungen y und x der zwei Systeme in Dreiecksform werden durch Vorwärts- bzw. Rückwärtseinsetzen bestimmt. Die Cholesky-Zerlegung kann insbesondere zur Lösung der Normalengleichungen }{{} A t A S x = A t c }{{} b genutzt werden, falls die m n-matrix A maximalen Rang n hat. Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 11 / 13

16 Beispiel Ausgleichsproblem Ax b 2 min mit A = Normalengleichungen } 2 {{ 1 } A t A=S, b = x 1 x 2 x 3 = } {{ } A t b=c Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 12 / 13

17 Beispiel zweistufige Lösung von Sx = c mit Cholesky-Faktorisierung 3 1 S = A t A = R t R, R = Vorwärts-Einsetzen 3 R t y = Rückwärts-Einsetzen 3 1 Rx = y 1 y 2 y 3 x 1 x 2 x 3 = = = c y = (1, 4, ) t = c x = (1, 2, ) t Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 12 / 13

18 Beispiel Computer-Tomographie mit Röntgenstrahlen entlang paralleler Geraden R i : (u i, v i ) + R(cos ϑ i, sin ϑ i ), i = 1,..., m Dichteverteilung x j χ(u, v) auf Raster von Quadraten Q j Näherung für Linienintegrale n b i = χ(u i + t cos ϑ i, v i + t sin ϑ i ) dt a i,j x j, a i,j = R i Q j R j=1 Ù Ú Prof. Dr. Klaus Höllig (IMNG) Numerische Lineare Algebra 13 / 13