D. Vierte Übungseinheit

Transkript

1 D. Vierte Übungseinheit Inhalt der vierten Übungseinheit: Matrix-Vektor-Multiplikation Bergabstrich löst Gleichungssysteme Eindeutig, nicht eindeutig und gar nicht lösbare Systeme Eliminationsverfahren Fehlerempfindlichkeit, Matrixnormen, Konditionszahl Determinante, Komplexität D.1. Matrix-Vektor-Multiplikation Arbeiten Sie die folgende Aufgabe durch, wenn Ihnen Matrix- und Vektormultiplikation und Transponieren noch nicht völlig vertraut sind! Aufgabe 33: Erzeugen Sie die folgenden Matrizen und Vektoren: (MATLAB-Scriptfile) A = , b = Berechnen Sie den Vektor s als Spaltenvektor aller Zeilensummen von A auf drei Arten: direkt ausgeschrieben, durch Angabe aller Indizes in der Form s =[ A(1,1)+A(1,2)+A(1,3)+A(1,4)+A(1,5) ; usw. (copy and paste hilft für die restlichen Zeilen) Durch Multiplikation mit einem Eins-Vektor: s=a*ones(5,1) Die Funktion sum(a) berechnet die Spalten-summen. Wie lassen sich damit Zeilensummen berechnen? Mit welchem Vektor müssen Sie A multiplizieren, um einen Zeilenvektor aller Spaltensummen zu erhalten? Lassen Sie MATLAB die Produkte A b, s T A, A T A und A A T berechnen. Sie sollen eine Linearkombination der Spalten von A berechnen. Das heißt, erste Spalte von A mal x 1 plus zweite Spalte von A mal x 2 plus. letzte Spalte von A mal x n Gegeben ist [x 1 ;... ; x 5 ] = [1; 4; 6; 4; 1]. Wie gehen Sie vor? Sie sollen eine Linearkombination der Zeilen von A berechnen. Die Koeffizienten sind (als Zeilenvektor) [y 1,..., y 4 ] = [3, 6, 4, 1]. Die letzten beiden Punkte illustrieren eine wichtige Interpretation der Matrix-Vektor-Multiplikation: 129

2 Matrix A mal Spaltenvektor ergibt Linearkombination der Spalten von A Zeilenvektor mal Matrix A ergibt Linearkombination der Zeilen von A D.2. Gleichungssysteme: MATLABs schräge Schreibung MATLAB verwendet völlig normal den Schrägstrich als Divisionsoperator: x = 3/4 liefert wenig überraschend x = Eher unüblich ist der andersrum gekippte Bergabstrich \ oder Backslash: >> x=3\4 x = Auch \ dividiert, aber in der Form x = Nenner\Zähler. Es liegt ja auch wirklich, wenn Sie sich \ als abwärts geneigten Bruchstrich vorstellen, der linke Term unter und der rechte über dem Bruchstrich. Absolut originell ist jedoch MATLABs Interpretation des Bergabstrichs bei Gleichungssystemen. Das Wichtigste in Kürze: x = A\b löst (oder löst ) das Gleichungssystem Ax = b Nicht jedes von MATLAB so berechnete Ergebnis ist die Lösung eines Gleichungssystems im eigentlichen Sinn deswegen die Anführungszeichen bei löst. Niemand will sich im Detail merken, was genau MATLAB bei den verschiedenen Sonderfällen tut. Die folgende Aufzählung soll nur illustrieren, es gibt mehr Ding im Himmel und auf Erden, als Eure Schulweisheit sich träumt. Der Befehl x = A\b liefert für ein Gleichungssystem Ax = b bei nicht singulärer n n- Matrix die eindeutige Lösung; bei singulärer n n- Matrix eine Warnmeldung und, falls es Lösungen gibt, eine Lösung mit möglichst vielen Null-Komponenten. Falls es keine Lösung gibt, liefert MATLAB meistens unsinnige Zahlenwerte. bei einer n m- Matrix mit n < m (unterbestimmtes Gleichungssystem), falls es Lösungen gibt, eine Lösung mit möglichst vielen Null-Komponenten. bei einer n m- Matrix mit n > m (überbestimmtes Gleichungssystem), die am wenigsten falsche Lösung. Das ist jener Vektor x, für den Ax b die kleinste 2-Norm hat. Man spricht von der Kleinste-Quadrate-Lösung. Sonderfälle sind n m- Matrizen mit n m und Rang < min(m,n). Matlab warnt: Warning: Rank deficient und liefert eine Kleinste-Quadrate-Lösung. Bei gleicher Matrix A und mehreren rechten Seiten b, c, d,... lassen sich die Gleichungssysteme Ax = b, Ay = c, Az = d,... gemeinsam lösen. Stellen Sie alle rechten Seiten als Spaltenvektoren in einer Matrix B zusammen: B = [b,c,d]. MATLABs \ liefert eine Matrix X, deren Spalten die Lösungsvektoren enthält: X = [x, y, z]. 130

3 X = A\B löst (oder löst ) die Gleichungssysteme A X = B Schrägstriche zwischen Matrizen, Matrix-Inversion Die Kurzfassung: Verwenden Sie den Bergaufstrich / zwischen Skalaren als Divisionsoperator und den Bergabstrich \ zwischen Matrizen und Vektoren zum Lösen linearer Gleichungssysteme. Wenn Sie mehr über MATLABs Umgang mit / und \ wissen wollen, lesen Sie weiter... Sie könnten x = 3/4 auch in der Form x = schreiben, oder x = Niemand tut das bei skalaren Termen. Bei Matrizen ist die Schreibweise mit Inversen jedoch Standard, zum Beispiel A B 1 oder A 1 B. MATLAB erlaubt dafür die Bruchstrich-Schreibung: A B 1 = A/B und A 1 B = A\B Stellen Sie sich /B als B 1 vor, weil B unter dem Bruchstrich liegt, und entsprechend A\ als A 1. Die Schrägstriche stehen absichtlich links von B und rechts von A Matrixmultiplikation ist nicht kommutativ! Je nachdem, von welcher Seite Sie mit einer Inversen multiplizieren wollen, verwenden Sie / oder \. MATLAB berechnet nicht wirklich die inversen Matrizen und multipliziert damit. Das explizite Ausrechnen einer Inversen ist rechenaufwändig und mit Rundungsfehlern behaftet. In Wirklichkeit löst MATLAB mit der schrägen Bruchstrichschreibweise lineare Gleichungssysteme. Das ist nur bei nichtsingulären quadratischen Matrizen algebraisch äquivalent zur Multiplikation mit der Inversen. Für das numerische Rechnen besteht ein gewaltiger Unterschied im Hinblick auf Rechenaufwand und -genauigkeit, ob Sie eine Inverse berechnen und damit multiplizieren, oder so umformen, dass Sie Gleichungssysteme lösen. X = A\B berechnet A 1 B als Lösung des Gleichungssystems A X = B X = A/B berechnet A B 1 als Lösung des Gleichungssystems X B = A Umformung Multiplikation mit Inverser Gleichungssystem X = A 1 B A X = A B 1 B A X = A A 1 B A X = B X B = A B 1 B X B = A Achtung beim Umformen, man muss auf der richtigen Seite multiplizieren, damit die Inversen verschwinden: links multipliziert man A von links, rechts mit B von rechts. (Matrixmultiplikation ist nicht kommutativ!) 131

4 Aufgaben Aufgabe 34: Diese Aufgabe zeigt Ihnen, dass die Erklärung A\b berechnet A 1 b nicht allgemein richtig sein kann. Definieren Sie folgende Matrizen und Vektoren: A = [ 1 2 ] Wie interpretiert MATLAB die Ausdrücke x=a\b, x=a \c, x=a/c, x=a /b [ 2 b = 2] 1 c = 2 0 Schreiben Sie dazu die Ausdrücke als Gleichungssysteme, auch in Nicht-Matrix-Version, also einzelne Gleichungen mit Koeffizienten und Unbekannten x,y,z. Welche Systeme sind eindeutig lösbar/ nicht eindeutig lösbar / unlösbar? Was berechnet MATLAB? Beispiel-Antwort: x=a\b steht für das Gleichungssystem Ax = b. Hier sind das zwei Gleichungen in drei Unbekannten: x +2y +3z = 2 4x +5y +6z = 2 Unterbestimmtes System, nicht eindeutig lösbar, Matlab findet eine mögliche Lösung: x = 1, y = 0, z = 1. Aufgabe 35: Gleichungssysteme, Lösungsmannigfaltigkeiten Welche der folgenden Gleichungssysteme Ax = b sind eindeutig, mehrdeutig oder gar nicht lösbar? Geben Sie, wenn möglich, die (oder eine) Lösung an. Bei mehrdeutigen Lösungen: wie viele freie Parameter hat die Lösungsschar? Notwendige Befehle det(a), rref([a,b]), A\b, pinv(a) b Schalten Sie auf format rat für schönere Zahlen A = , b = A = , b = A = , b =

5 A = , b = D.3. Eliminationsverfahren Aufgabe 36: Gauß-Elimination Das Skriptum listet auf Seite 33 Java-Code für Gauß-Elimination und davor Code zur Rücksubstitution. Orientieren Sie sich an diesen Programmen und schreiben Sie eine Funktion x = mygauss(a,b) zur Lösung eines Gleichungssystems Ax = b. Erzeugen Sie mit rand() Testmatrizen und rechte Seiten in verschiedenen Größen (z.b. 3 3, 10 10, ). Vergleichen Sie die Lösungen Ihres Programmes mit Matlabs Bergabstrich-Operator. Welche Nachteile oder Fehlerquellen gibt es in dieser einfachen Implementierung des Eliminationsverfahrens? Wodurch unterscheiden sich richtige Gleichungslöse-Programme von unserer Spielzeug-Implementierung? Aufgabe 37: Fehlerempfindlichkeit Lösen Sie mit Matlabs Bergabstrich das Gleichungssystem Ax = b (es ist das Gleichungssystem Nr. 4 aus Aufgabe 35), A = , b = Addieren Sie nun zur Matrix künstliche Fehler-Matrizen der Form δa = 0.01 rand(4) und vergleichen Sie die Lösung mit jener des ungestörten Systems. Berechnen Sie die relativen Fehler der Matrixdaten 10 δa / A und der Lösung δx / x. Testen Sie einige Fälle, auch mit kleineren oder größeren Störtermen, und schätzen Sie daraus das maximale Verhältnis von rel. Fehler der Lösungs zu rel. Fehler in den Daten ab. Ändern Sie nun die Matrix des Gleichungssystems zu 1 1/2 1/3 1/4 A = 1/2 1/3 1/4 1/5 1/3 1/4 1/5 1/6 1/4 1/5 1/6 1/7 und wiederholen Sie Ihre Untersuchungen. Was bedeutet in diesem Zusammenhang der Wert cond(a)? 10 Sie brauchen Matrixnormen dazu! Informieren Sie sich in Skript und Vorlesungsfolien! 133

6 D.4. Entwicklung der Determinante, Komplexität Aufgabe 38: Determinante Gegeben sind A = [ ] 1 2, B = , C = , D = Berechnen Sie von diesen Matrizen die Determinante auf verschiedene Arten: 1. Mit der Matlab-Funktion det( ) 2. durch LR-Zerlegung, Matlab-Funktion lu( ), aus dem Produkt der Diagonalelemente von R. Der Befehl diag(r) extrahiert übrigens die Hauptdiagonale einer Matrix als einen Vektor Auch das primitive Eliminationsprogramm aus Aufgabe 36 liefert die Determinante als Produkt der Diagonalelemente (sogar vorzeichenrichtig, weil es keine Pivot-Suche durchführt). Testen Sie! Wiederholen Sie auch die bekannten Standardverfahren (Regel von Sarrus, Entwicklung nach Unterdeterminanten) und rechnen Sie für A, B, C von Hand nach. Achtung: die Regel von Sarrus (Gitterzaunregel) gilt nur für 2 2- und 3 3- Matrizen. Wer 4 4-Determinanten auf diese Weise berechnen will, rechnet falsch. FALSCH! FALSCH!! Aufgabe 39: Ein Rechenverfahren, das zwar korrekt rechnet, aber ewig dafür braucht, hat nur theoretischen Wert. Die Berechnung der Determinante durch Entwicklung nach Unterdeterminanten ist ein Beispiel dafür. Die folgende Funktion implementiert das Standardverfahren zur Berechnung der Determinante durch Entwicklung nach Unterdeterminanten. 11 Vorsicht, es kann sein, dass Matlabs lu() während der Rechnung Zeilen der Matrix vertauscht (Pivotierung). Mit jedem Zeilentausch wechselt das Vorzeichen der Determinante. Hat also lu() eine ungerade Anzahl von Zeilen vertauscht, hat das Produkt der Diagonalelemente das falsche Vorzeichen. Im Rahmen dieser Aufgabe sind Vorzeichen Glückssache. 134

7 function d = mydet (A) n = length (A) ; i f n==1 d = A( 1, 1 ) ; else d = 0 ; end s i g = 1 ; for end i =1:n d = d + s i g A( 1, i ) mydet (A( 2 : n, [ 1 : i 1, i +1:n ] ) ) ; s i g = s i g ; Überlegen Sie sich die Funktionsweise dieses Programms und testen Sie anhand der Matrizen der vorigen Aufgabe. Versuchen Sie auch etwas größere Matrizen. Einfache Testmatrizen liefert z. B. die Funktion magic(n). Bis zu welchem n lässt sich die Determinante 1. in weniger als zehn Sekunden, 2. in weniger als einer Minute 3. in weniger als zehn Minuten berechnen? Das hängt natürlich von der Leistungsfähigkeit Ihres Rechners ab. Schätzen Sie aufgrund Ihrer Zeitmessungen und der Tabelle im Skriptum, Kapitel 4.7.1, wie lange die Berechnung für n = 15 und n = 20 dauern würde. D.5. Überbestimmte lineare Gleichungssysteme Aufgabe 40: Gegeben sind drei Gleichungen in zwei Unbekannten, 2x + y = 19 4x + 4y = 13 4x y = 17 Finden Sie eine Näherungslösung nach der Methode der kleinsten Quadrate. Das Skriptum rechnet in Kapitel 5.3 diese Aufgabe auf dreierlei Arten durch: Methode der Normalengleichungen durch QR-Zerlegung von A mit Singulärwertzerlegung (das Skriptum verwendet andere Zahlenwerte) Berechnen Sie in MATLAB und geben Sie aus: jeweils Matrix, rechte Seite und Lösung (bzw. Näherungslösung) 1. der Normalengleichungen; 2. des transformierten Systems Rx = Q T b; 3. des Systems Sy = U T b nach Singulärwert-Zerlegung; 4. des Systems V T x = y (zweites System bei Singulärwert-Zerlegung); 135

8 Überlegen Sie: Warum ist die (Näherungs-)Lösung der jeweiligen Systeme einfach oder sogar besonders einfach? Aufgabe 41: Direkte Minimierung des Residuums mit MATLAB Schreiben Sie eine Funktions-Datei function r = residuum(x), die als Input einen Vektor x R 2 annimmt und die 2-Norm des Residuums für das Gleichungssystem der Aufgabe 40 zurückgibt. Diese Funktion ist ein Beispiel einer reellwertigen Funktion in zwei Variablen. MATLABs Befehl fminsearch findet das Minimum einer solchen Funktion. Er wird ganz ähnlich wie fzero verwendet: [0;0] ist ein Startvektor, von dem aus fminsearch zu suchen f m i n s e a r c h [ 0 ; 0 ] ) beginnt Berechnen Sie auf diese Art auch einen Vektor, der die 1 Norm, und einen, der die -Norm minimiert. Die Lösungsvektoren der Minimierungsprobleme sind optimale Näherungslösungen des überbestimmten Systems, jeweils im Sinn der 1- oder der -Norm. Bei der Minimierung in der 2-Norm führt jede beliebige Wahl eines Startvektors zur gleichen Lösung; es gibt nur ein Minimum. In der 1-Norm gibt es je nach Startwert mehrere Lösungen. In der -Norm findet MATLAB für manche Starwerte nicht das korrekte Minimum. Testen Sie jeweils mit [0;0] und [6;9] als Startwerte. Aufgabe 42: Darstellung des Residuums durch Isolinien Stellen Sie die Funktion r : R 2 R, function r = residuum(x), aus der Aufgabe 41 als Isolinien- Diagramm dar, in der Art der Abbildung auf Seite 47 des Skriptums. Die Z-Werte für die Isolinien Ihrer residuum-funktion lassen sich aber nicht so einfach wie bei den Musterbeispielen der vorigen Einheit aus den meshgrid X und Y erzeugen, weil die residuum-funktion Matrizen X und Y als Input nicht akzeptiert. Sie brauchen eine Doppelschleife in der Art Z = zeros(size(x)); for i=1:size(x,1) for j= 1:size(X,2) Z(i,j) = residuum([x(i,j); Y(i,j)]); end end Erzeugen Sie auch Isolinien-Diagramme für das Residuum in der 1- und der -Norm und finden Sie durch Hineinzoomen die Minima und zugehörige Vektoren. Sie entsprechen optimalen Näherunglösungen des überbestimmten Systems in diesen Normen. 136