Eigenwerte. Vorlesung Computergestützte Mathematik zur Linearen Algebra. Lehrstuhl für Angewandte Mathematik Sommersemester 2009

Transkript

1 Eigenwerte Vorlesung Computergestützte Mathematik zur Linearen Algebra Lehrstuhl für Angewandte Mathematik Sommersemester Juni Juli 2009

2 Grundlagen Definition Ist für A C n,n, Ax = λx für ein x 0, dann ist x C n ein Eigenvektor und λ C ist ein Eigenwert von A. Die Menge λ(a) = {λ λ ist Eigenwert von A} heißt Spektrum von A. Es gilt λ λ(a) x 0, so dass (A λi )x = 0 A λi ist singulär p(λ) := det(a λi ) = 0. p(λ), p P n wird charakteristisches Polynom von A genannt. Die Vielfachheit der Nullstelle λ heißt algebraische Vielfachheit des Eigenwertes λ.

3 Fundamentalsatz der Algebra Nach dem Fundamentalsatz der Algebra ist λ(a) = {λ 1,..., λ n } eine diskrete Menge von n komplexen Zahlen λ j C. Definition Für X C n,n nicht singulär heißt die Abbildung B = X 1 AX Ähnlichkeitstransformation und wir sagen, dass A ähnlich zu B ist. Aus Bv = λv X 1 AXv = λv A(Xv) = λ(xv) folgt, dass A und B dieselben Eigenwerte haben und dass v genau dann Eigenvektor von B ist, wenn Xv Eigenvektor von A ist.

4 Ein gefährlicher Algorithmus naheliegende Idee: Nullstellen des charakteristischen Polynoms berechnen schlecht konditioniertes Problem: p(λ) = p(λ, ε) = so ist b j a j. n a j λ j, j=0 n ( j=0 a j + εa j ε j ε ) λ j, ε j ε, = p(λ) + εq(λ), q(λ) = n b j λ j, j=0

5 Beispiel Für das einfache Beispiel ist A = diag(10, 11,..., 16) R 7,7 p(λ) = λ λ λ λ Für λ = 10 ist damit q(λ ) p (λ ) = 720. Der Verstärkungsfaktor kann also im ungünstigsten Fall ε j = sign(a j )ε von der Größenordnung 10 5 sein. Fazit: niemals Koeffizienten des charakteristischen Polynoms zur Berechnung der Eigenwerte einer Matrix verwenden

6 Pagerank Das Internet besteht aus Seiten. Der wesentliche Wortschatz ist etwa 10 5 Worte. Wie findet man zu einer Suchanfrage die wichtigste Seite?

7 Wie bestimmt man die Wichtigkeit einer Seite? Idee: Jede Seite P j bekommt einen Wichtigkeitswert (Pagerank) I (P j ) und vererbt ihren Pagerank an diejenigen Seiten weiter auf die sie verlinkt. Es sei n i die Anzahl der von P i ausgehenende Links und B i die Menge der Seiten die auf P i verweisen so setzt man I (P i ) = I (P j ) n j P j B i Definiert man die Hyperlinkmatrix { 1/nj falls P H = (h i,j ) mit h i,j = j B i 0 sonst und einen Vektor I = (I (P 1 ),..., I (P n )) so ist I eine Lösung der Eigenwertgleichung HI = I mit Eigenwert 1.

8 Stochastische Interpretation Die Hyperlinkmatrix H ist eine sogenannte stochastische Matrix, d. h. alle Einträge sind positiv und die Spaltensumme ist 1, es sei denn die Seite die zur Spalte gehört hat keine Links. Interpretation als Random Walk : Ein Spaziergänger geht von Knoten zu Knoten und folgt in einem Knoten zufällig (mit gleicher Wahrscheinlichkeit) einem der ausgehenden Wege.

9 Satz von Gershgorin Satz Es gilt λ ( A ) n D j, D j = {z C : z a jj r j }, r j = j=1 n l=1,l j a jl, Beweis: Sei v ein Eigenvektor zum Eigenwert λ, wähle i so dass v i v j für alle 1 < j < n. (v i 0) Die i-te Zeile der Gleichung Av = λv liefert n a ij v j = λv i a ij v j = (λ a ii )v i j i j=1 λ a ii = j i v j a ij a ij v i j i

10 Invariante Unterräume Es gelte Dann gilt: AX = XB für X C n,k, B C k,k. R(X ) = {Xy y C k } (das Bild von X ) ist rechts A-invarianter Unterraum, d. h. R(AX ) R(X ) und es gilt λ(b) λ(a). Ebenso folgt aus Y H A = BY H für Y C n,k, B C k,k. R(Y ) ein links A-invarianter Unterraum λ(b) λ(a).

11 Definition A C n,n heißt reduzibel, wenn es eine Permutationsmatrix P gibt, so dass [ ] P T A11 A AP = B = 12, 0 A 22 mit quadratischen Matrizen A 11 C k,k und A 22 C n k,n k gilt. Anderenfalls heißt A irreduzibel. Wegen [ Ik ist R( 0 [ ] [ ] Ik Ik B = A [ ] [ ] 0 In k B = A22 0 In k, ] [ ) ein rechts und R( 0 I n k Unterraum [ ] und es gilt λ(a) = λ(a [ 11 ) λ(a 22 ). Ik 0 (R(P ) ist rechts und R(P 0 I n k Unterraum.) ] ) ein links B-invarianter ] ) links A-invarianter

12 Normale Matrizen Definition Eine Matrix A C n,n ist normal falls AA H = A H A. Beispiel: Hermitesche Matrizen (A = A H ), schief-hermitesche Matrizen (A = A H ) und unitäre Matrizen sind normal. Satz Eine Matrix A C n,n ist normal genau dann, wenn sie unitär diagonalisierbar ist, d. h. es gibt eine unitäre Matrix U C n,n, so dass U H AU = D = diag(λ 1,..., λ n ).

13 Störungssatz Satz Sei λ λ(a) ein einfacher Eigenwert von A und seien x und y zugehörige rechte und linke Eigenvektoren: Ax = λx, y H A = λy H. Dann hat die Matrix A + ɛe für ɛ hinreichend klein einen einfachen Eigenwert λ(ɛ), so dass λ(ɛ) = λ + ɛ y H Ex y H x + O(ɛ2 ). (ohne Beweis) Numerik II

14 Bemerkungen Für E = 1, x = y = 1 gilt λ (0) 1 y H x, 1 y H x Konditionszahl von λ d.h. einfache Eigenwerte werden in erster Näherung durch die Konditionzahl gestört. Falls λ ein Eigenwert mit Defekt: Störungen ɛ 1/m zu erwarten (m die Dimension des größten Jordan-Blocks ist) Für einen Jordan-Block gilt x = e 1, y = e m, also y H x = 0

15 Rayleigh-Quotient und Wertebereich Definition Zu gegebener Matrix A und x 0 heißt ϱ A (x) = x H Ax x H x Rayleigh-Quotient von x. Die Menge F(A) = {ϱ A (x), x C n, x 0} aller Rayleigh-Quotienten von A heißt Wertebereich von A. Achtung: auch für A R n,n wird der Wertebereich von allen Rayleigh-Quotienten von Vektoren in C n gebildet

16 Eigenschaften des Wertebereichs Es gilt (a) ϱ(γx) = ϱ(x) für alle γ 0, γ C. (b) λ(a) F(A), d. h. alle Eigenwerte liegen im Wertebereich. (c) Für normale Matrizen (d. h. A H A = AA H ) gilt F(A) = conv(λ(a)). Ist A nicht normal, dann kann der Wertebereich deutlich größer sein, als die Konvexkombination der Eigenwerte. Hausdorff (1919) konnte jedoch zeigen, dass der Wertebereich immer eine kompakte und konvexe Menge ist.

17 Schranken für den Wertebereich Ist A C n,n Hermitesch, dann gilt (a) λ min ϱ(x) λ max x 0 (b) λ max = max x 0 ϱ(x) (c) λ min = min x 0 ϱ(x)

18 Potenzenmethode Sei A C n,n, y 0 C n, y 0 0 beliebig Potenzenmethode: y k+1 = Ay k k = 0, 1, 2,... oder y k = A k y 0 Im Folgenden: Sortierung der Eigenwerte von A nach ihrem Betrag: λ 1 λ 2 λ 3 λ n.

19 Konvergenzsatz Es sei A C n,n diagonalisierbar mit X 1 AX = Λ = diag(λ 1,..., λ n ), X = [ x 1 x n ], xi = 1 und es gelte η := λ 2 λ 1 < 1. Ist für a := X 1 y 0, a = [ ] T α 1 α n die erste Komponente α 1 0, dann gilt für y k+1 = Ay k (a) y k = λ k 1[ α1 x 1 + O(η k ) ] (y k /λ k 1 konvergiert gegen einen Eigenvektor von A). (b) Für die Rayleigh-Quotienten gilt ρ A (y k ) = λ 1 + O(η k ). (c) Falls A normal ist gilt ρ A (y k ) = λ 1 + O(η 2k ).

20 Potenzenmethode y 0 0 gegebener Startvektor, y 0 = y 0 / y 0 for k = 0, 1,... do z k+1 = Ay k ρ k = yk Hz k+1 y k+1 = 1 z k+1 z k+1 end for Vermeide Over- und Underflow durch Normierung

21 Inverse Potenzenmethode Nachteile der Potenzenmethode: Konvergenz langsam, falls η 1 nur das Eigenpaar zum betragsgrößten Eigenwert berechenbar Alternative: inverse Potenzenmethode mit Shift sei µ λ j λ(a) so, dass gilt µ λ j µ λ k, k j. Eigenwerte von (µi A) 1 :

22 Inverse Potenzenmethode Nachteile der Potenzenmethode: Konvergenz langsam, falls η 1 nur das Eigenpaar zum betragsgrößten Eigenwert berechenbar Alternative: inverse Potenzenmethode mit Shift sei µ λ j λ(a) so, dass gilt µ λ j µ λ k, k j. Eigenwerte von (µi A) 1 : 1/(µ λ k ) betragsgrößter Eigenwert:

23 Inverse Potenzenmethode Nachteile der Potenzenmethode: Konvergenz langsam, falls η 1 nur das Eigenpaar zum betragsgrößten Eigenwert berechenbar Alternative: inverse Potenzenmethode mit Shift sei µ λ j λ(a) so, dass gilt µ λ j µ λ k, k j. Eigenwerte von (µi A) 1 : 1/(µ λ k ) betragsgrößter Eigenwert: 1/(µ λ j ) Idee: Potenzenmethode auf (µi A) 1 anwenden

24 Inverse Potenzenmethode mit Shift y 0 C n beliebig, (µi A)y k+1 = y k, Algorithmus µ C gegebener Shift, y 0 0 gegebener Startvektor y 0 = y 0 / y 0 Berechne die LU-Zerlegung von µi A for k = 0, 1,... do Löse (µi A)z k+1 = y k mit der LU-Zerlegung y k+1 = 1 z k+1 z k+1 ρ k+1 = ρ A (y k+1 ) = y H k+1 Ay k+1 end for Konvergenzfaktor: η = max k j µ λ k 1 µ λ j = max µ λ j 1 k j µ λ k 1.

25 Beispiel zur Inversen Potenzenmethode mit Shift wähle µ = (also die Näherung aus zwei Schritten der Potenzenmethode) und den zugehörigen Vektor y 2 als Startvektor: k ρ(y k ) ρ(y k ) λ Konvergenzfaktor: η