2. Matrixalgebra Warum Beschäftigung mit Matrixalgebra? Matrizen spielen bei der Formulierung ökonometrischer Modelle eine zentrale Rolle: kompakte, stringente Darstellung der Modelle bequeme mathematische Handhabbarkeit 15
Zu klärende Begriffe: Definition und Formen einer Matrix Rechnen mit Matrizen Rang einer Matrix Inversion einer Matrix Spur einer Matrix Definite und semidefinite Matrizen Blockmatrizen Rechnen mit Blockmatrizen 16
2.1 Definitionen, Notationen, Terminologie Definition 2.1: (Matrix) Eine Matrix A ist eine rechteckige Anordnung reeller Zahlen a ij (i = 1,..., m; j = 1,..., n): A = a 11 a 12 a 1n a 21 a 22 a 2n...... a m1 a m2 a mn A besteht also aus m Zeilen, n Spalten und somit aus m n Elementen a ij Zur Verdeutlichung der Größe der Matrix bezeichnet man A auch als (m n)-matrix.. 17
Bemerkungen: (I) Eine reelle Zahl ist eine (1 1)-Matrix (Skalar) Eine (m 1)-Matrix ist ein Spaltenvektor Eine (1 n)-matrix ist ein Zeilenvektor Eine (n n)-matrix heißt quadratisch Die Hauptdiagonale einer quadratischen (n n)-matrix ist gegeben durch die Elemente a 11, a 22,..., a nn 18
Bemerkungen: (II) Eine (m n)-matrix mit lauter Nullen wird mit 0 m n bezeichnet Eine quadratische (n n)-matrix mit lauter Einsen in der Hauptdiagonalen und lauter Nullen sonst wird Einheitsmatrix genannt und mit I n bezeichnet, d.h. I n = 1 0 0 0 1 0...... 0 0 1 19
Definition 2.2: (Transponierte, symmetrische Matrix) Gegeben sei die (m n)-matrix A. Vertauscht man die Zeilen und Spalten von A, so ergibt sich die transponierte (n m)-matrix A : a 11 a 21 a m1 A a = 12 a 22 a m2...... a 1n a 2n a mn Gilt für die quadratische (n n)-matrix A A = A,. so heißen die Matrizen A bzw. A symmetrisch. 20
Beispiele und Bemerkungen: (I) Die Transponierte der Matrix ist A = A = 2 4 6 3 5 7 1 2 3 2 3 1 4 5 2 6 7 3 Die Transponierte eines Zeilenvektors ist ein Spaltenvektor Die Transponierte eines Spaltenvektors ist ein Zeilenvektor 21
Beispiele und Bemerkungen: (II) So ist z.b. a = [ 2 3 1 ], a = 2 3 1, (a ) = [ 2 3 1 ] Die Transponierte der Transponierten einer beliebigen (m n)-matrix A ist die Matrix A selbst, d.h. (A ) = A 22
2.2 Rechnen mit Matrizen Jetzt: Definition von Matrizen-Addition skalarer Multiplikation Matrizen-Multiplikation 23
Definition 2.3: (Matrizen-Addition) Gegeben seien zwei (m n)-matrizen A, B. Unter der Matrizen- Addition von A und B versteht man die elementweise Addition, d.h. A + B = a 11 + b 11 a 12 + b 12 a 1n + b 1n a 21 + b 21 a 22 + b 22 a 2n + b 2n...... a m1 + b m1 a m2 + b m2 a mn + b mn Die Matrizen-Subtraktion ist entsprechend als elementweise Subtraktion definiert.. 24
Bemerkungen: Die Definition führt zu einigen Rechenregeln Es gilt: A + 0 m n = A A + B = B + A A + B = (A + B) (A + B) + C = A + (B + C) 25
Jetzt: Zwei Arten von Multiplikationen mit Matrizen Definition 2.4: (Skalare Multiplikation) Es seien λ R eine reelle Zahl und A eine (m n)-matrix. Unter der Skalar-Multiplikation von A mit λ versteht man die elementweise Multiplikation von A mit λ, d.h. λ A = λa 11 λa 12 λa 1n λa 21 λa 22 λa 2n...... λa m1 λa m2 λa mn. 26
Jetzt: Formal komplizierteres Matrizen-Produkt Definition 2.5: (Matrizen-Multiplikation) Es seien A eine (m n)- und B eine (n q)-matrix. Dann ist das Matrizen-Produkt von A und B definiert als diejenige (m q)- Matrix C, für die gilt: AB = C, wobei sich das Element in der i-ten Zeile und j-ten Spalte der Matrix C berechnet als c ij = n k=1 a ik b kj. 27
Beispiele: Matrix-Produkt einer (2 2)- mit einer (2 3)-Matrix: [ ] [ ] a11 a A = 12 b11 b, B = 12 b 13 a 21 a 22 b 21 b 22 b 23 Es folgt: [ a11 b AB = 11 + a 12 b 21 a 11 b 12 + a 12 b 22 a 11 b 13 + a 12 b 23 a 21 b 11 + a 22 b 21 a 21 b 12 + a 22 b 22 a 21 b 13 + a 22 b 23 ] Produkt zweier (gleichlanger) Vektoren: a = [ a 1 a 2 a n ], b = [ b1 b 2 b n ] Es folgt: ab = a 1 b 1 + a 2 b 2 + + a n b n = n i=1 a i b i 28
Bemerkungen: (I) Vorsicht: Matrizenprodukt ist nicht kommutativ, d.h. im allgemeinen gilt AB BA Beispiel: A sei (2 3)- und B sei (3 2)-Matrix AB ist eine (2 2)-, BA jedoch eine (3 3)-Matrix Es sei A eine (m n)-matrix. Dann gilt: AI n = A I m A = A A0 n p = 0 m p 0 k m A = 0 k n 29
Bemerkungen: (II) Es seien A, B, C, D Matrizen entsprechender Größe, so dass die jeweiligen Matrixoperationen zulässig sind. Dann gilt: (AB)C = A(BC) (A + B)C = AC + BC A(B + C) = AB + AC (A + B)(C + D) = AC + AD + BC + BD (AB) = B A (ABC) = C B A Für einen beliebigen Skalar λ R gilt: λab = AλB = ABλ 30
Definition 2.6: (Idempotente Matrizen) Eine quadratische (n n)-matrix A heißt idempotent, falls AA = A gilt. Beispiel: Jede Einheitsmatrix I n ist idempotent 31
2.3 Rang und Inversion einer Matrix Definition 2.7: (Lineare Unabhängigkeit) Es seien λ 1,..., λ n R Skalare sowie a 1,..., a n verschiedene (m 1)-Spaltenvektoren. Unter einer Linearkombination der Vektoren versteht man einen Ausdruck der Form λ 1 a 1 + + λ n a n. a 1,..., a n heißen linear unabhängig, falls sich der Nullvektor 0 m 1 nur als eine Linearkombination der Vektoren darstellen lässt, in der alle Skalare gleichzeitig null sind, d.h. falls gilt: λ 1 a 1 + + λ n a n = 0 m 1 ist nur erfüllt für λ 1 = λ 2 = = λ n = 0. Lässt sich der Nullvektor 0 m 1 dagegen als eine Linearkombination darstellen, bei der mindestens ein Skalar λ i 0 ist, so heißen die Vektoren a 1,..., a n linear abhängig. 32
Bemerkungen: Sind die Vektoren a 1,..., a n linear abhängig, so lässt sich mindestens einer von ihnen als Linearkombination aller anderen darstellen Begriff der linearen Unabhängigkeit führt zum Begriff des Ranges einer Matrix Definition 2.8: (Spalten-, Zeilenrang) Als Spaltenrang bzw. Zeilenrang einer (m n)-matrix A bezeichnet man die maximale Anzahl der linear unabhängigen Spaltenbzw. Zeilenvektoren dieser Matrix. 33
Bemerkungen: Es lässt sich zeigen, dass der Spalten- und der Zeilenrang einer (m n)-matrix A stets übereinstimmen Es genügt, vom Rang der Matrix A zu sprechen Notation: rang(a) Der Rang der Matrix A kann niemals größer sein als die kleinere der beiden Zahlen m und n: rang(a) min(m, n) Weiterhin gilt: rang(a ) = rang(a) rang(a A) = rang(aa ) = rang(a) rang(i n ) = n 34
Definition 2.9: (Reguläre Matrizen, inverse Matrizen) (a) Man sagt, eine (m n)-matrix A hat vollen Rang, falls rang(a) = min(m, n) gilt. (b) Eine quadratische (m m)-matrix A mit vollem Rang (d.h. rang(a) = m) wird als reguläre Matrix bezeichnet. Andernfalls ist die quadratische Matrix A eine singuläre Matrix. (c) Zu jeder regulären (m m)-matrix A existiert eine Matrix A 1 mit der folgenden Eigenschaft: AA 1 = I m. Die Matrix A 1 wird als die inverse Matrix von A bezeichnet. 35
Bemerkungen: (I) Ist die (m m)-matrix A singulär, so besitzt sie keine Inverse Die Inverse A 1 einer regulären Matrix A ist ebenfalls regulär und es gilt: ( A 1 ) 1 = A Weiterhin gilt (λ R): ( A 1 ) = ( A ) 1 (λa) 1 = λ 1 A 1 [ (A A ) 1 ] = ( A A ) 1 36
Bemerkungen: (II) Für die drei regulären (m m)-matrizen A, B, C gilt: (AB) 1 = B 1 A 1 (ABC) 1 = C 1 B 1 A 1 37
2.4 Die Spur einer Matrix Definition 2.10: (Spur einer (quadratischen) Matrix) Es sei A eine quadratische (m m)-matrix. Die Spur der Matrix A [in Zeichen: tr(a)], ist definiert als die Summe ihrer Hauptdiagonalelemente: tr(a) = m i=1 a ii. Bemerkungen: (I) Für die Spur der Einheitsmatrix I n gilt offensichtlich tr(i n ) = n 38
Bemerkungen: (II) Weiterhin gelten für den Skalar λ R und die quadratischen (m m)-matrizen A und B die folgenden Rechenregeln: tr(λ) = λ tr(a) = tr(a ) tr(λa) = λ tr(a) tr(ab) = tr(ba) tr(a + B) = tr(a) + tr(b) 39
2.5 Differentiation linearer Funktionen Jetzt: Betrachte zwei (m 1)-Vektoren a, b Für ihr Produkt gilt: a b = a 1 b 1 + + a m b m = m i=1 a i b i Es seien a 1,..., a m fest gewählte Konstanten und b 1,..., b m unabhängige Veränderliche a b ist eine lineare Funktion (in b 1,..., b m ) a b kann nach b 1,..., b m partiell differenziert werden 40
Definition 2.11: (Gradient) Es sei f : R m R mit (x 1,, x m ) f(x 1,, x m ) eine partiell differenzierbare Funktion. Unter dem Gradienten von f (in Zeichen: grad(f) oder f/ x) versteht man die in einem Spaltenvektor zusammengefassten m partiellen Ableitungen grad(f) = f x = f/ x 1 f/ x 2. f/ x m. 41
Bemerkungen: Für den Gradienten der linearen Funktion gilt: f(b 1,, b m ) = grad(f) = a b b = m i=1 (a b)/ b 1 (a b)/ b 2. (a b)/ b m a i b i = a b = a 1 a 2. a m = a Ferner gilt: a b = m i=1 a i b i = m i=1 b i a i = b a und somit b a b = a 42
2.6 Quadratische Formen, definite und semidefinite Matrizen Jetzt: Weitere wichtige Klasse funktionaler Matrixformen Definition 2.12: (Quadratische Form) Es sei b ein (m 1)-Vektor und A eine quadratische (m m)- Matrix. Als quadratische Form bezeichnet man den Multiplikationsausdruck b Ab. 43
Bemerkungen: (I) Ausgeschrieben lautet die quadratische Form b Ab = b (Ab) = [ ] b 1 b 2 b m a 11 b 1 + a 12 b 2 + + a 1m b m a 21 b 1 + a 22 b 2 + + a 2m b m. a m1 b 1 + a m2 b 2 + + a mm b m = b 1 (a 11 b 1 + a 12 b 2 + + a 1m b m ) + b 2 (a 21 b 1 + a 22 b 2 + + a 2m b m ). + b m (a m1 b 1 + a m2 b 2 + + a mm b m ) 44
Bemerkungen: (II) Für die partiellen Ableitungen nach (b 1,, b m ) gilt: (b Ab) b 1 = (a 11 b 1 + a 12 b 2 + + a 1m b m ) + b 1 a 11 + b 2 a 21 + + b m a m1 (b Ab) b 2 = b 1 a 12 + (a 21 b 1 + a 22 b 2 + + a 2m b m ) + b 2 a 22 + b 3 a 32 + + b m a m2. (b Ab) b m = b 1 a 1m + b 2 a 2m + + (a m1 b 1 + a m2 b 2 + + a mm b m ) + b m a mm 45
Bemerkungen: (III) Ist die Matrix A zusätzlich symmetrisch (d.h. a ij = a ji ), so ergibt sich der Gradient als (b Ab) b (Beweis: Übungsaufgabe) a 11 a 12 a 1m a = 2 21 a 22 a 2m...... a m1 a m2 a mm b 1 b 2. b m = 2Ab Weitere Matrixeigenschaften: Definitheit, Semidefinitheit 46