Lineare Gleichungssysteme (Teschl/Teschl 11.1)

Transkript

1 Lineare Gleichungssysteme (Teschl/Teschl.) Ein Lineares Gleichungssystem (LGS) besteht aus m Gleichungen mit n Unbekannten x,...,x n und hat die Form a x + a 2 x a n x n b a 2 x + a 22 x a 2n x n b 2.. a m x + a m2 x a mn x n b m Dabei sind b,..., b m und die Koezienten a ij i,..., m und j,..., n. x x. R n ist Lösung, reelle Zahlen für x n wenn alle m Gleichungen erfüllt sind. lingls.pdf, Seite

2 Beispiel 3 Brötchen und 2 Eier kosten,65 e, 5 Brötchen und 4 Eier 2,95 e, als LGS mit dem Brötchenpreis B und dem Eierpreis E ergibt sich daraus: ( 3B + 2E, 65 5B + 4E 2, 95 Die eindeutige Lösung ist B 0, 35 und E 0, 30. Beispiel 2 3 Brötchen und 2 Eier kosten,65 e, 6 Brötchen und 4 Eier 3,30 e. Daraus lässt sich der Brötchen- und Eierpreis nicht mehr eindeutig bestimmen. Lösungen sind z. B. B 0, 35; E 0, 30 und B E 0, 33. ) lingls.pdf, Seite 2

3 Weitere Beispiele {. 2x 4 3x 9 (m 2, n ) hat keine Lösung, da aus der ersten Gleichung x 2 und aus der zweiten Gleichung x 3 folgt. { 2. x 2y 0 (m, n 2) hat z. B. die Lösungen x y 0, x 2, y und x 4, y 2 bzw. allgemein x 2t, y t mit t R beliebig. { 2x + y 3 3. (m 2, n 2) 4x + 2y 6 hat z. B. die Lösungen x y und x 2, y bzw. allgemein x t, y 3 2t mit t R beliebig. lingls.pdf, Seite 3

4 Matrixschreibweise Mit der m nkoezientenmatrix A (a ij ) und b b. b m R m hat das LGS die kompakte Form Ax b. Das. Brötchenbeispiel hat dann die Form ( )( Homogen und inhomogen B E ) (, 65 2, 95 ). Ist b 0, so heiÿt das LGS Ax 0 homogen, ein LGS Ax b mit b 0 heiÿt inhomogen. lingls.pdf, Seite 4

5 Lösungsmenge geometrisch Die Lösungsmenge einer Gleichung mit zwei Unbekannten der Form a x + a 2 x 2 b ist eine Gerade im R 2. Bei zwei Gleichungen mit zwei Unbekannten gibt es daher folgende drei Möglichkeiten:. Es gibt eine eindeutige Lösung (die zu den beiden Gleichungen gehörenden Geraden schneiden sich in einem Punkt) 2. Das System ist nicht lösbar (die beiden Geraden sind parallel und schneiden sich nicht) 3. Es gibt unendlich viele Lösungen, die eine Gerade bilden (beide Gleichungen haben die selbe Gerade als Lösungsmenge) Diese geometrischen Überlegungen lassen sich auf mehr als zwei Gleichungen und mehr als zwei Unbekannte verallgemeinern (die Lösungsmenge einer Gleichung mit drei Unbekannten ist eine Ebene im R 3,...) lingls.pdf, Seite 5

6 Beispiel { Das LGS x y 2y 2x 2 hat unendliche viele Lösungen. Die linearen Gleichungssysteme { x y und 2x + 3y 0 { 2y 2x 2 2x + 3y 6 sind jeweils eindeutig lösbar. { 2x + 3y 0 Das LGS ist nicht lösbar. 2x + 3y 6 lingls.pdf, Seite 6

7 Struktur der Lösungsmenge analytisch Das homogene LGS Ax 0 hat immer die Nulllösung x 0. Ist x 0 eine weitere Lösung, so sind wegen A(cx) c(ax) 0 auch alle skalaren Vielfachen cx mit c R Lösungen. Sind x und y Lösungen, so ist wegen A(x + y) Ax + Ay 0 auch x + y Lösung. Fazit: Ein homogenes LGS hat entweder nur die Nulllösung oder unendlich viele Lösungen. lingls.pdf, Seite 7

8 Beispiel ( )( ) x x 2 hat die Lösungen Aus ( ) ( ) ( ) x und x 2 ( )( ) ( ) ( ( ) 2 2 ( )( ) 2 2 folgt, dass auch + ( ) y y ( )( ) ( ) 2 0 ( ) x + x ( ) y y 2 Ebenso folgt für c R beliebig ( ) ( ( )) c c 2 2 also ist auch c ( ) ( ( 2 2 ) c c 2 ( ) 0 ( 2 + ( ) 2. 2 )) 2 ( ) 0 0 Lösung ist. ( ) 0 )( ) ( ) ( 0 0 c 0 0 für jedes c R Lösung des LGS. lingls.pdf, Seite 8 0 ),

9 Lösungsmenge des inhomogenen Systems Ax b Nicht jedes inhomogene LGS ist lösbar (siehe Beispiele). Sind x und y zwei Lösungen des inhomogenen LGS Ax b, so ist wegen A(y x) b b 0 die Dierenz y x Lösung des homogenen Systems Ax 0. Ist umgekehrt x Lösung des inhomogenen Systems Ax b und y Lösung des zugehörigen homogenen LGS Ay 0, so ist x + y wegen A(x + y) Ax + Ay b + 0 b Lösung des imhomogenen LGS Ax b. Daraus folgt: Ein inhomogenes LGS Ax b hat entweder keine, genau eine oder unendlich viele Lösungen. lingls.pdf, Seite 9

10 Beispiel ( Das LGS 2 2 ( ) ( ) x x 2 ( ) ( ( ) ( ) ( ) 2 4 und )( x x 2 ) ( ) 2 hat die Lösungen 4 ( ) 2. Es folgt ( ) y y 2 )) ( ( 0 0 ), also ist Lösung des homogenen LGS 0 ( )( ) ( )( ) ( ) ( ) ( ) y x y 2 x 2 ( )( ) ( ) x x 2 0 lingls.pdf, Seite 0

11 Fortsetzung Beispiel ( ) c Für y mit c R ist c ( ) ( ( ) ( )) c c ( )( ) ( )( ) ( ) ( ) ( c c ( ) ( ) ( ) c + c also ist + c c für jedes c R Lösung des inhomogenen ( )( ) ( ) x LGS x 2 4 ), lingls.pdf, Seite

12 Der GauÿAlgorithmus dient zur systematischen Bestimmung aller Lösungen eines LGS. Er beruht auf der Beobachtung, dass die Lösungsmenge des LGS Ax b bei elementaren Zeilenoperationen (Zeilenumformungen) nicht verändert wird. Dies sind Vertauschen zweier Gleichungen (Zeilen), Multiplikation einer Gleichung (Zeile) mit einer Konstanten 0, Addition eines Vielfachen einer Gleichung (Zeile) zu einer anderen Gleichung (Zeile). lingls.pdf, Seite 2

13 Beispiel { 2y + 6z 4 2x + 4y 2z 0 3x + y z 2 { 2x + 4y 2z 0 2y + 6z 4 3x + y z 2 (Zeilen und 2 vertauscht) { x + 2y z 0 2y + 6z 4 3x + y z 2 { x + 2y z 0 2y + 6z 4 5y + 2z 2 (Zeile mal /2) (Zeile 3 minus 3 mal Zeile ) { { x + 2y z 0 x + 2y z 0 y + 3z 2 y + 3z 2 5y + 2z 2 7z 2 (Zeile 2 mal /2) (Zeile 3 plus 5 mal Zeile 2) { x 2y + z 6/7 y 2 3z 2/7 z 2/7 (von unten nach oben eingesetzt) lingls.pdf, Seite 3

14 Kompakte Notation mit erweiterter Koezientenmatrix a a 2... a n b : a m a m2... a mn b m /7 lingls.pdf, Seite 4

15 Allgemeines Vorgehen. Schritt: Vorwärtselimination: Die erweiterte Koezientenmatrix wird durch elementare Zeilenumformungen in Zeilenstufenform gebracht. Diese ist gekennzeichnet durch: Jede Zeile besteht entweder nur aus Nullen oder enthält eine Eins (Pivotelement), vor der links nur Nullen stehen, Das Pivotelement jeder Zeile ab der zweiten steht weiter rechts als das Pivotelemet der Zeile darüber. lingls.pdf, Seite 5

16 Konkretes Vorgehen. Suche die am weitesten links stehende Spalte j, in der nicht alle Koezienten 0 sind. 2. Erreiche ggf. durch vertauschen zweier Zeilen, dass a j Multipilziere die erste Zeile mit /a j. (durch die Schritte 2 und 3 wird a j zum Pivotelement) 4. Für i 2,..., m subtrahiere von der iten Zeile das a ij fache der ersten Zeile. (dadurch werden die Koezienten unter dem Pivotelement zu 0) 5. Wiederhole die Schritte bis 4 mit der Untermatrix bestehend aus den Zeilen 2 bis m, anschlieÿend für die aus den Zeilen 3 bis m bestehenden Untermatrix usw. (dadurch werden alle Koezienten unten links zu 0) lingls.pdf, Seite 6

17 2 3 2 x Beispiel x x Rote Einträge werden im nächsten Schritt durch Multiplikation der entsprechenden Zeile mit einer Konstanten zu. Grüne Einträge werden im nächsten Schritt zu 0, indem zur jeweiligen Zeile ein Vielfaches der PivotZeile mit der darüber stehenden addiert bzw. subtrahiert wird. Blaue Einträge können sich bei den Zeilenoperationen im nächsten Schritt verändern, graue Einträge in einem späteren Schritt, schwarze Einträge verändern sich nicht mehr. lingls.pdf, Seite 7

18 Bemerkungen Als Variante ist es möglich, auf Schritt 3 zu verzichten. In diesem Fall wird das Pivotelement nicht zu, was bei der Auösung der Gleichungen (Rückwärtssubstitution) berücksichtigt werden muss. Wichtig ist nur, dass die Pivotelemente immer 0 sind. In Schritt 4 muss dann das a ij a j fache der ersten Zeile subtrahiert werden. Im Fall eines homogenen LGS Ax 0 bleiben die Koezienten b i der rechten Seite bei allen Umformungen 0. Daher kann die rechte Seite der erweiterten Koezientenmatrix weggelassen werden. lingls.pdf, Seite 8

19 2. Schritt: Rückwärtssubstitution Bei einer erweiterten Koezientenmatrix in Zeilenstufenform können die Unbekannten von unten nach oben berechnet werden, beginnend mit x n. Dabei gilt: Zeilen mit a i a i2... a in b i 0 liefern keine Information über die Lösung und werden nicht berücksichtigt, Gibt es eine Zeile i mit a i a i2... a in 0 und b i 0, so hat das LGS keine Lösung, Eine Zeile mit einem Pivotelement a ij legt den Wert der zugehörigen Unbekannten x j fest, Gibt es zu einer Unbekannten x j kein zugehöriges Pivotelement, so kann ihr Wert beliebig in R gewählt werden. In diesem Fall hat das LGS (falls es überhaupt lösbar ist, siehe oben) unendlich viele Lösungen. lingls.pdf, Seite 9

20 Fortsetzung Beispiel Nach der Vorwärtsselimination hat x x 2 die erweiterte Koezientenmatrix die Form x Jede der 3 Zeilen liefert den Wert für eine der 3 Unbekannten, d. h. das LGS ist eindeutig lösbar. Zeile 3 besagt x 3 2, Zeile 2 besagt x 2 und Zeile besagt x x 2 x 3 2 x Die eindeutige Lösung ist somit x x x 2 x 3 2. lingls.pdf, Seite 20

21 Beispiel 2 ( ) ( ) ( Durch die 2 verbliebenen Zeilen 0 können jetzt nur 2 der 3 Unbekannten festgelegt werden, d. h. die Lösung ist nicht eindeutig: x 3 kann frei gewählt werden, da es in der 3. Spalte kein Pivotelement gibt. Man setzt x 3 t R beliebig. x 2 wird aus der 2. Zeile (Pivotelement in 2. Spalte) berechnet: x 2 x 3 x 2 + x 3 + t x wird aus der. Zeile berechnet: x +2x 2 x 3 0 x x 3 2x 2 t 2( +t) 2 t Um eine konkrete Lösung zu erhalten, kann man einen beliebigen Wert für den freien Parameter t einsetzten. Mit t 2 erhält man z. B. die Lösung (x ; x 2 ; x 3 ) (0; ; 2). ) lingls.pdf, Seite 2

22 Bemerkung Enthält die Lösung des LGS Ax b einen freien Parameter t R, so lässt sich der nicht von t abhängende Anteil der allgemeinen Lösung zu einem Vektor ˆx R n zusammenfassen. Der von t abhängige Anteil hat dann die Form t v mit einem weiteren Vektor v R n. Also hat die allgemeine Lösung die Form {ˆx + t v : t R} und entspricht somit der Parameterdarstellung einer Geraden. Dabei ist {t v : t R} die allgemeine Lösung des entsprechenden homogenen LGS Ax 0. Somit setzt sich die allgemeine Lösung eines inhomogenen LGS Ax b zusammen aus einer speziellen Lösung ˆx und der allgemeinen Lösung des homogenen LGS Ax 0. lingls.pdf, Seite 22

23 Im letzten Beispiel 2 2x + 4x 2 2x 3 0 3x + 2x 2 + x 3 4 x 2x 2 + 3x 3 4 ist die allgemeine Lösung die Gerade {( ) ) 2 ( } 0 + t : t R Dabei bilden die skalaren Vielfachen des Vektors allgemeine Lösung des homogenen LGS 2x + 4x 2 2x 3 0 3x + 2x 2 + x 3 0. x 2x 2 + 3x 3 0 die lingls.pdf, Seite 23

24 Geometrisches Beispiel Lösungsmengen des inhomogenen LGS (IH) ( )( ) 2 4 x x und des zugehörigen homogenen LGS (H) ( )( ) 2 4 x x ( ) 8 2 ( ) 0 mit der speziellen Lösung ˆx 0 ( ) 2 von (IH) und der allgemeinen Lösung von (H) {x t v : v R} mit v ( 2 ). lingls.pdf, Seite 24

25 Verallgemeinerung Bei zwei frei wählbaren Parametern hat die allgemeine Lösung die Form {ˆx + t v + s w : s, t R} mit Vektoren ˆx, v, w R n und ist die Parameterdarstellung einer Ebene. Allgemein gibt es zu jedem frei wählbaren Parameter einen Richtungsvektor. Der Ortsvektor ˆx kann genau dann als Nullvektor gewählt werden, wenn das LGS homogen ist ( 0 ist eine Lösung). lingls.pdf, Seite 25

26 2 3 4 x x x x / / Beispiel Als allgemeine Lösung erhält man x 4 t R beliebig, x x t, x 2 s R beliebig und x 2 2x 2 3x 3 4x 4 2 2s 3 ( 7 3 t ) 4t 2 2s 3 + 7t 4t 2s + 3t Also ist x t 3 0 7/3 + s mit s, t R. lingls.pdf, Seite 26

27 Bemerkung (zum Beispiel) Das LGS x x 2 x 3 x 4 2 (unterscheidet sich vom letzten Beispiel nur in der 3. Komponente der rechten Seite) ist nicht lösbar. Denn mit den gleichen Zeilenumformungen wie vorher erhält man die Zeilenstufenform / Hier sind in der 3. Zeile alle Koezienten der Matrix A links gleich 0, während der Eintrag auf der rechten Seite 0 ist. Der Algorithmus kann an dieser Stelle abgebrochen werden, da klar ist, dass es keine Lösung geben kann. 2 lingls.pdf, Seite 27

28 Bemerkung 2 Hat das LGS Ax b die allgemeine Lösung x ˆx + t v t r v r mit Richtungsvektoren v,..., v r R n und freien Parametern t,..., t r R, so ist der variable Anteil der Lösung x t v t r v r gerade die allgemeine Lösung des entsprechenden homogenen LGS Ax 0. Damit setzt sich die allgemeine Lösung eines inhomogenen LGS Ax b zusammen aus einer speziellen Lösung ˆx und der allgemeinen Lösung des homogenen Systems Ax 0. lingls.pdf, Seite 28

29 Weitere Anmerkungen Der GauÿAlgorithmus benötigt O(n 3 ) Rechenoperationen. Rundungsfehler können beim GauÿAlgorithmus ein Problem darstellen. Es gibt Beispiele, wo kleine Rundungsfehler zu groÿen Fehlern beim Ergebnis führen. Bei praktischen Anwendungen werden oft Pivotstrategien gewählt, wo die Zeilen und Spalten der Koezientenmatrix in anderer Reihenfolge abgearbeitet werden. Neben dem GauÿAlgorithmus gibt es noch weitere, zum Teil iterative Verfahren, die zur numerischen Lösung linearer Gleichungssysteme eingesetzt werden. lingls.pdf, Seite 29

30 Methode der kleinsten Quadrate In Fällen, wo ein LGS keine Lösung besitzt, ist es möglich, nach Näherungslösungen zu suchen. Dazu kann man zu einen gegebenen m nkoezientenmatrix A und einem mdimensionalen Vektor das LGS A T Ax A T b betrachten. Dabei ist A T A immer eine symmetrische n nmatrix und A T b ein ndimensionaler Spaltenvektor. Man kann zeigen, dass das LGS A T Ax A T b für beliebige A und b lösbar ist. Dabei gilt: Ist das ursprüngliche LGS Ax b lösbar, so ist x R n genau dann Lösung von Ax b, wenn x Lösung von A T Ax A T b ist. Ist das LGS Ax b nicht lösbar und ist ˆx Lösung von A T Aˆx A T b, so gilt Aˆx b Ax b für alle x R n. Somit ist ˆx R n der Vektor, der einer Lösung des ursprünglichen LGS Ax b am nächsten kommt. lingls.pdf, Seite 30

31 Beispiel 3 Mit A 0 2 und b 0 hat das LGS Ax b keine 5 Lösung. Man berechnet nun ( ) 3 ( ) A T 3 0 A und ( ) ( ) A T 3 0 b und erhält für das LGS A T Ax A T b die eindeutige Lösung ( ) ( ) ( ) x x Es folgt, dass für beliebige x R 2 gilt 3 ( ) x x 2 3 ) 0 2 ( lingls.pdf, Seite 3

32 Anwendung: Geraden im R 3 Liegen zwei Geraden im g, h R n in Parameterdarstellung g x + R v und h y + R w mit Ortsvektoren x bzw. y und Richtungsvektoren v bzw. w vor, so erhält man ihren Schnittpunkt, indem man Parameter s, t R bestimmt mit x + t v y + s w. Diese Bedingung ergibt ein lineares Gleichungssystem für s und t. Wenn sich die Geraden in einem Punkt schneiden, so ist das LGS eindeutig lösbar. Sind beide Geraden identisch, so enthält die Lösung einen freien Parameter. Schneiden sich beide Geraden nicht, so ist das LGS nicht lösbar. In diesem Fall kann man mir der Methode der kleinsten Quadrate die Punkte bestimmen, in denen sich die beiden Geraden am nächsten kommen, d. h. man erhält diejenigen Parameter s, t R, für die (x + t v) (y + s w) den kleinstmöglichen Wert annimmt. lingls.pdf, Seite 32

33 Beispiel { } Gegeben seien die Geraden g 2 + t 2 : t R 3 { } 0 3 und h 2 + t 0 : t R. 2 Einen Schnittpunkt erhält man durch Parameter r, s R, für die t s 0 gilt. Dies ergibt ein 3 2 lineares Gleichungssystem für s, t: t s s t 2 3 ( ) s 0 2 t 3 2 lingls.pdf, Seite 33

34 Fortsetzung Beispiel 3 ( ) 0 s Dieses LGS hat t keine Lösung (siehe letztes Beispiel). Die Methode der kleinsten Quadrate führt zum LGS ( )( ) ( ) 0 2 s t 4 ( ) ( ) s mit der (eindeutigen) Lösung. Dies bedeutet, dass sich die beiden Geraden in den Punkten 2 P auf g und P auf h am nächsten kommen. 2 Ihr Abstand beträgt P 2 P 4. lingls.pdf, Seite 34 t

35 Lineare Gleichungssysteme über K Analog lassen sich lineare Gleichungssysteme mit Unbekannten und Koezienten in einem beliebigen Körper K (statt R) behandeln. Da der GauÿAlgorithmus nur die 4 Grundrechenarten benutzt, lassen sich alle Umformungsschritte wie im Fall K R durchführen. Beispiel in K Z 2 Gesucht sind x, y, z mit { x + y (mod 2) x + y + z 0 (mod 2) x + z (mod 2) Mit der erweiterten Koezientenmatrix ergibt sich ) ) { ( ( x 0 y z (Zeile 2 + Zeile, Zeile 3 + Zeile sowie Zeilen 2 und 3 vertauscht). lingls.pdf, Seite 35

36 Weiteres Beispiel in Z 2 (Rechnung mod 2) { x + y x + z y + z Es folgt, dass z t Z 2 frei wählbar ist sowie y + z 0 y z t und x + y x + y + t, d. h. die allgemeine Lösung ist beliebig. z x t + y t z t mit t Z 2 Somit gibt es genau zwei Lösungen für t 0 und t : x x 2 0 y 0 und y 2 0 z 2 lingls.pdf, Seite 36