Matrizen spielen bei der Formulierung ökonometrischer Modelle eine zentrale Rolle: kompakte, stringente Darstellung der Modelle

Transkript

1 2. Matrixalgebra Warum Beschäftigung mit Matrixalgebra? Matrizen spielen bei der Formulierung ökonometrischer Modelle eine zentrale Rolle: kompakte, stringente Darstellung der Modelle bequeme mathematische Handhabbarkeit 15

2 Zu klärende Begriffe: Definition und Formen einer Matrix Rechnen mit Matrizen Rang einer Matrix Inversion einer Matrix Spur einer Matrix Definite und semidefinite Matrizen Blockmatrizen Rechnen mit Blockmatrizen 16

3 2.1 Definitionen, Notationen, Terminologie Definition 2.1: (Matrix) Eine Matrix A ist eine rechteckige Anordnung reeller Zahlen a ij (i = 1,..., m; j = 1,..., n): A = a 11 a 12 a 1n a 21 a 22 a 2n a m1 a m2 a mn A besteht also aus m Zeilen, n Spalten und somit aus m n Elementen a ij Zur Verdeutlichung der Größe der Matrix bezeichnet man A auch als (m n)-matrix.. 17

4 Bemerkungen: (I) Eine reelle Zahl ist eine (1 1)-Matrix (Skalar) Eine (m 1)-Matrix ist ein Spaltenvektor Eine (1 n)-matrix ist ein Zeilenvektor Eine (n n)-matrix heißt quadratisch Die Hauptdiagonale einer quadratischen (n n)-matrix ist gegeben durch die Elemente a 11, a 22,..., a nn 18

5 Bemerkungen: (II) Eine (m n)-matrix mit lauter Nullen wird mit 0 m n bezeichnet Eine quadratische (n n)-matrix mit lauter Einsen in der Hauptdiagonalen und lauter Nullen sonst wird Einheitsmatrix genannt und mit I n bezeichnet, d.h. I n =

6 Definition 2.2: (Transponierte, symmetrische Matrix) Gegeben sei die (m n)-matrix A. Vertauscht man die Zeilen und Spalten von A, so ergibt sich die transponierte (n m)-matrix A : a 11 a 21 a m1 A a = 12 a 22 a m a 1n a 2n a mn Gilt für die quadratische (n n)-matrix A A = A,. so heißen die Matrizen A bzw. A symmetrisch. 20

7 Beispiele und Bemerkungen: (I) Die Transponierte der Matrix ist A = A = Die Transponierte eines Zeilenvektors ist ein Spaltenvektor Die Transponierte eines Spaltenvektors ist ein Zeilenvektor 21

8 Beispiele und Bemerkungen: (II) So ist z.b. a = [ ], a = 2 3 1, (a ) = [ ] Die Transponierte der Transponierten einer beliebigen (m n)-matrix A ist die Matrix A selbst, d.h. (A ) = A 22

9 2.2 Rechnen mit Matrizen Jetzt: Definition von Matrizen-Addition skalarer Multiplikation Matrizen-Multiplikation 23

10 Definition 2.3: (Matrizen-Addition) Gegeben seien zwei (m n)-matrizen A, B. Unter der Matrizen- Addition von A und B versteht man die elementweise Addition, d.h. A + B = a 11 + b 11 a 12 + b 12 a 1n + b 1n a 21 + b 21 a 22 + b 22 a 2n + b 2n a m1 + b m1 a m2 + b m2 a mn + b mn Die Matrizen-Subtraktion ist entsprechend als elementweise Subtraktion definiert.. 24

11 Bemerkungen: Die Definition führt zu einigen Rechenregeln Es gilt: A + 0 m n = A A + B = B + A A + B = (A + B) (A + B) + C = A + (B + C) 25

12 Jetzt: Zwei Arten von Multiplikationen mit Matrizen Definition 2.4: (Skalare Multiplikation) Es seien λ R eine reelle Zahl und A eine (m n)-matrix. Unter der Skalar-Multiplikation von A mit λ versteht man die elementweise Multiplikation von A mit λ, d.h. λ A = λa 11 λa 12 λa 1n λa 21 λa 22 λa 2n λa m1 λa m2 λa mn. 26

13 Jetzt: Formal komplizierteres Matrizen-Produkt Definition 2.5: (Matrizen-Multiplikation) Es seien A eine (m n)- und B eine (n q)-matrix. Dann ist das Matrizen-Produkt von A und B definiert als diejenige (m q)- Matrix C, für die gilt: AB = C, wobei sich das Element in der i-ten Zeile und j-ten Spalte der Matrix C berechnet als c ij = n k=1 a ik b kj. 27

14 Beispiele: Matrix-Produkt einer (2 2)- mit einer (2 3)-Matrix: [ ] [ ] a11 a A = 12 b11 b, B = 12 b 13 a 21 a 22 b 21 b 22 b 23 Es folgt: [ a11 b AB = 11 + a 12 b 21 a 11 b 12 + a 12 b 22 a 11 b 13 + a 12 b 23 a 21 b 11 + a 22 b 21 a 21 b 12 + a 22 b 22 a 21 b 13 + a 22 b 23 ] Produkt zweier (gleichlanger) Vektoren: a = [ a 1 a 2 a n ], b = [ b1 b 2 b n ] Es folgt: ab = a 1 b 1 + a 2 b a n b n = n i=1 a i b i 28

15 Bemerkungen: (I) Vorsicht: Matrizenprodukt ist nicht kommutativ, d.h. im allgemeinen gilt AB BA Beispiel: A sei (2 3)- und B sei (3 2)-Matrix AB ist eine (2 2)-, BA jedoch eine (3 3)-Matrix Es sei A eine (m n)-matrix. Dann gilt: AI n = A I m A = A A0 n p = 0 m p 0 k m A = 0 k n 29

16 Bemerkungen: (II) Es seien A, B, C, D Matrizen entsprechender Größe, so dass die jeweiligen Matrixoperationen zulässig sind. Dann gilt: (AB)C = A(BC) (A + B)C = AC + BC A(B + C) = AB + AC (A + B)(C + D) = AC + AD + BC + BD (AB) = B A (ABC) = C B A Für einen beliebigen Skalar λ R gilt: λab = AλB = ABλ 30

17 Definition 2.6: (Idempotente Matrizen) Eine quadratische (n n)-matrix A heißt idempotent, falls AA = A gilt. Beispiel: Jede Einheitsmatrix I n ist idempotent 31

18 2.3 Rang und Inversion einer Matrix Definition 2.7: (Lineare Unabhängigkeit) Es seien λ 1,..., λ n R Skalare sowie a 1,..., a n verschiedene (m 1)-Spaltenvektoren. Unter einer Linearkombination der Vektoren versteht man einen Ausdruck der Form λ 1 a λ n a n. a 1,..., a n heißen linear unabhängig, falls sich der Nullvektor 0 m 1 nur als eine Linearkombination der Vektoren darstellen lässt, in der alle Skalare gleichzeitig null sind, d.h. falls gilt: λ 1 a λ n a n = 0 m 1 ist nur erfüllt für λ 1 = λ 2 = = λ n = 0. Lässt sich der Nullvektor 0 m 1 dagegen als eine Linearkombination darstellen, bei der mindestens ein Skalar λ i 0 ist, so heißen die Vektoren a 1,..., a n linear abhängig. 32

19 Bemerkungen: Sind die Vektoren a 1,..., a n linear abhängig, so lässt sich mindestens einer von ihnen als Linearkombination aller anderen darstellen Begriff der linearen Unabhängigkeit führt zum Begriff des Ranges einer Matrix Definition 2.8: (Spalten-, Zeilenrang) Als Spaltenrang bzw. Zeilenrang einer (m n)-matrix A bezeichnet man die maximale Anzahl der linear unabhängigen Spaltenbzw. Zeilenvektoren dieser Matrix. 33

20 Bemerkungen: Es lässt sich zeigen, dass der Spalten- und der Zeilenrang einer (m n)-matrix A stets übereinstimmen Es genügt, vom Rang der Matrix A zu sprechen Notation: rang(a) Der Rang der Matrix A kann niemals größer sein als die kleinere der beiden Zahlen m und n: rang(a) min(m, n) Weiterhin gilt: rang(a ) = rang(a) rang(a A) = rang(aa ) = rang(a) rang(i n ) = n 34

21 Definition 2.9: (Reguläre Matrizen, inverse Matrizen) (a) Man sagt, eine (m n)-matrix A hat vollen Rang, falls rang(a) = min(m, n) gilt. (b) Eine quadratische (m m)-matrix A mit vollem Rang (d.h. rang(a) = m) wird als reguläre Matrix bezeichnet. Andernfalls ist die quadratische Matrix A eine singuläre Matrix. (c) Zu jeder regulären (m m)-matrix A existiert eine Matrix A 1 mit der folgenden Eigenschaft: AA 1 = I m. Die Matrix A 1 wird als die inverse Matrix von A bezeichnet. 35

22 Bemerkungen: (I) Ist die (m m)-matrix A singulär, so besitzt sie keine Inverse Die Inverse A 1 einer regulären Matrix A ist ebenfalls regulär und es gilt: ( A 1 ) 1 = A Weiterhin gilt (λ R): ( A 1 ) = ( A ) 1 (λa) 1 = λ 1 A 1 [ (A A ) 1 ] = ( A A ) 1 36

23 Bemerkungen: (II) Für die drei regulären (m m)-matrizen A, B, C gilt: (AB) 1 = B 1 A 1 (ABC) 1 = C 1 B 1 A 1 37

24 2.4 Die Spur einer Matrix Definition 2.10: (Spur einer (quadratischen) Matrix) Es sei A eine quadratische (m m)-matrix. Die Spur der Matrix A [in Zeichen: tr(a)], ist definiert als die Summe ihrer Hauptdiagonalelemente: tr(a) = m i=1 a ii. Bemerkungen: (I) Für die Spur der Einheitsmatrix I n gilt offensichtlich tr(i n ) = n 38

25 Bemerkungen: (II) Weiterhin gelten für den Skalar λ R und die quadratischen (m m)-matrizen A und B die folgenden Rechenregeln: tr(λ) = λ tr(a) = tr(a ) tr(λa) = λ tr(a) tr(ab) = tr(ba) tr(a + B) = tr(a) + tr(b) 39

26 2.5 Differentiation linearer Funktionen Jetzt: Betrachte zwei (m 1)-Vektoren a, b Für ihr Produkt gilt: a b = a 1 b a m b m = m i=1 a i b i Es seien a 1,..., a m fest gewählte Konstanten und b 1,..., b m unabhängige Veränderliche a b ist eine lineare Funktion (in b 1,..., b m ) a b kann nach b 1,..., b m partiell differenziert werden 40

27 Definition 2.11: (Gradient) Es sei f : R m R mit (x 1,, x m ) f(x 1,, x m ) eine partiell differenzierbare Funktion. Unter dem Gradienten von f (in Zeichen: grad(f) oder f/ x) versteht man die in einem Spaltenvektor zusammengefassten m partiellen Ableitungen grad(f) = f x = f/ x 1 f/ x 2. f/ x m. 41

28 Bemerkungen: Für den Gradienten der linearen Funktion gilt: f(b 1,, b m ) = grad(f) = a b b = m i=1 (a b)/ b 1 (a b)/ b 2. (a b)/ b m a i b i = a b = a 1 a 2. a m = a Ferner gilt: a b = m i=1 a i b i = m i=1 b i a i = b a und somit b a b = a 42

29 2.6 Quadratische Formen, definite und semidefinite Matrizen Jetzt: Weitere wichtige Klasse funktionaler Matrixformen Definition 2.12: (Quadratische Form) Es sei b ein (m 1)-Vektor und A eine quadratische (m m)- Matrix. Als quadratische Form bezeichnet man den Multiplikationsausdruck b Ab. 43

30 Bemerkungen: (I) Ausgeschrieben lautet die quadratische Form b Ab = b (Ab) = [ ] b 1 b 2 b m a 11 b 1 + a 12 b a 1m b m a 21 b 1 + a 22 b a 2m b m. a m1 b 1 + a m2 b a mm b m = b 1 (a 11 b 1 + a 12 b a 1m b m ) + b 2 (a 21 b 1 + a 22 b a 2m b m ). + b m (a m1 b 1 + a m2 b a mm b m ) 44

31 Bemerkungen: (II) Für die partiellen Ableitungen nach (b 1,, b m ) gilt: (b Ab) b 1 = (a 11 b 1 + a 12 b a 1m b m ) + b 1 a 11 + b 2 a b m a m1 (b Ab) b 2 = b 1 a 12 + (a 21 b 1 + a 22 b a 2m b m ) + b 2 a 22 + b 3 a b m a m2. (b Ab) b m = b 1 a 1m + b 2 a 2m + + (a m1 b 1 + a m2 b a mm b m ) + b m a mm 45

32 Bemerkungen: (III) Ist die Matrix A zusätzlich symmetrisch (d.h. a ij = a ji ), so ergibt sich der Gradient als (b Ab) b (Beweis: Übungsaufgabe) a 11 a 12 a 1m a = 2 21 a 22 a 2m a m1 a m2 a mm b 1 b 2. b m = 2Ab Weitere Matrixeigenschaften: Definitheit, Semidefinitheit 46

33 Definition 2.13: (Definitheit, Semidefinitheit) Es sei A eine quadratische (m m)-matrix. Die Matrix A heißt (a) positiv definit bzw. negativ definit, falls für jeden (m 1)- Vektor b mit b 0 m 1 gilt b Ab > 0 bzw. b Ab < 0, (b) positiv semidefinit bzw. negativ semidefinit, falls für jeden (m 1)-Vektor b mit b 0 m 1 gilt b Ab 0 bzw. b Ab 0, (c) indefinit, falls A weder positiv noch negativ semidefinit ist. 47

34 Rechenregeln für definite Matrizen: (I) Es sei A eine beliebige (m n)-matrix mit rang(a) = n. Dann gilt: AA ist immer positiv definit Es sei A eine positiv definite Matrix. Dann ist A 1 ebenfalls positiv definit Es sei A eine positiv definite (m m)-matrix und B eine (m n)-matrix mit rang(b) = n. Für die (n n)-matrix B AB gilt dann: B AB ist positiv definit 48

35 Rechenregeln für definite Matrizen: (II) Für jede positiv definite (m m)-matrix C gilt: rang(c) = m Es seien A und B zwei reguläre Matrizen gleicher Ordnung. Dann gilt: A B ist positiv definit B 1 A 1 ist positiv definit Dann existiert min- Es sei A eine positiv definite Matrix. destens eine reguläre Matrix B, so dass B B = A 1 49

36 2.7 Blockmatrizen Häufig: Zerlegung einer (m n)-matrix A in Teilmatrizen Beispiel: A = a 11 a 12 a 13 a 14 a 15 a 16 a 21 a 22 a 23 a 24 a 25 a 26 a 31 a 32 a 33 a 34 a 35 a 36 a 41 a 42 a 43 a 44 a 45 a 46 a 51 a 52 a 53 a 54 a 55 a 56 = [ A11 A 12 A 21 A 22 ] 50

37 Definition 2.14: (Blockmatrix) Eine in Teilmatrizen zerlegte (m n)-matrix A wird Blockmatrix genannt. Bemerkung: Für die Transponierte einer Blockmatrix gilt: [ A A = 11 A ] 21 A 12 A 22 51

38 2.8 Rechnen mit Blockmatrizen Jetzt: Rechenregeln für Addition Multiplikation Inversion von Blockmatrizen 52

39 Vorbemerkungen: Alle folgenden Teilmatrizen haben Ordnungen, so dass die dargestellten Rechenoperationen zulässig sind Gegeben seien die beiden Blockmatrizen A = [ A11 A 12 A 21 A 22 ] und B = [ B11 B 12 B 21 B 22 ] 53

40 Bemerkungen: (I) Für die Summe der Blockmatrizen gilt: [ A11 + B A + B = 11 A 12 + B 12 A 21 + B 21 A 22 + B 22 ] Für das Produkt der Blockmatrizen gilt: [ A11 B AB = 11 + A 12 B 21 A 11 B 12 + A 12 B 22 A 21 B 11 + A 22 B 21 A 21 B 12 + A 22 B 22 ] 54

41 Bemerkungen: (II) Für eine quadratische, reguläre (m m)-blockmatrix A ergibt sich die inverse Blockmatrix als mit A 1 = [ C 1 1 C 1 1 A 12A 1 22 C 1 2 A 21A 1 11 C 1 2 C 1 = A 11 A 12 A 1 22 A 21 C 2 = A 22 A 21 A 1 11 A 12 ] (vgl. von Auer, 2007, S ) 55