Kapitel 15. Lösung linearer Gleichungssysteme

Transkript

1 Kapitel 15. Lösung linearer Gleichungssysteme

2 Lineare Gleichungssysteme Wir befassen uns nun mit der Lösung im allgemeinen nichthomogener linearer Gleichungssysteme in zweifacher Hinsicht. Wir studieren einmal den begrifflichen Aspekt, d.h. befassen uns mit der Struktur der Lösungsmenge eines beliebigen linearen Gleichungssystems; Zum anderen untersuchen wir den praktischen Aspekt, d.h. algorithmische Verfahren zur schnellen Lösung eines konkreten Systems. Wir werden sehen, dass schon mit geringem begrifflichen Aufwand die praktische Lösung solcher Gleichungssysteme gelingt. 1

3 Koeffizientenmatrix und erweiterte Matrix Ein lineares Gleichungssystem a 11 x 1 + a 12 x a 1n x n = b 1 a 21 x 1 + a 22 x a 2n x n... = b 2. a m1 x 1 + a m2 x a mn x n = b m aus m Gleichungen in den n Unbekannten x 1, x 2,..., x n, ist bestimmt durch seine Koeffizientenmatrix A = a 11 a 1n..... und die rechte Seite b = b 1.. a m1 a mn b m Durch Zusammenfassen erhalten wir die erweiterte Matrix [A b] = a 11 a 1n b a mn a 1n b m 2

4 Matrizenschreibweise Das lineare Gleichungssystem mit erweiterter Koeffizientenmatrix [A b] schreiben wir in kompakter Matrizenschreibweise als A x = b. Wir interessieren uns für die Lösungsmenge L = {x R n A x = b}. Spezialfall: Falls A = E n die n n-einheitsmatrix ist, hat das System die Form E n x = b. Wegen E n x = x ist in diesem Fall das System somit eindeutig lösbar mit der einzigen Lösung x = b. 3

5 Die Struktur der Lösungsmenge von A x = b Satz. A sei eine m n-matrix vom Rang r und b R m. Dann gilt (a) Das lineare Gleichungssystem A x = b ist genau dann lösbar, wenn sich b als Linearkombination der Spalten a 1, a 2,..., a n von A schreiben lässt. (b) Die Lösungen des zugehörigen homogenen Gleichungssystems A x = 0 bilden einen Unterraum H des R n von der Dimension n r. (c) Ist x 0 eine Lösung von A x = b, so gilt: x ist genau dann ebenfalls eine Lösung von A x = b, wenn x = x 0 + h mit h H gilt. Mit anderen Worten: Entweder ist L = oder L = x 0 + H := {x 0 + h A h = 0} für eine spezielle Lösung x 0. 4

6 Beweis des Struktursatzes Beweis. Zu (a): Das behauptete Lösbarkeitskriterium folgt sofort aus A x = n i=1 x i.a i. Zu (b): Es ist H gerade der Kern der linearen Abbildung f : R n R m, x A x; insbesondere ist H ein Unterraum von R n. Der Rang von f ist gleich dem Rang von A; nach Rangsatz hat H folglich die Dimension n r. Zu (c): Nach Voraussetzung ist A x 0 = b. Folglich ist A x = b genau dann, wenn A (x x 0 ) = 0, äquivalent wenn x x 0 H gilt. 5

7 Was bedeutet Lösen eines linearen Gleichungssystems? Zunächst einmal die Feststellung, ob das System A x = b lösbar ist oder nicht. Falls das System lösbar ist, besteht eine Lösung aus folgenden Daten: (a) einer speziellen Lösung x 0, (b) einer Basis h 1,..., h n r des Lösungsraums des homogenen Systems A h = 0. Achtung: Falls das System lösbar, aber nicht eindeutig lösbar ist, können sehr verschiedene Auswahlen zu (a) und (b) völlig gleichwertige Lösungen sein! 6

8 Vorschau: Gauß-Algorithmus Die praktische Lösung eines numerisch gegebenen linearen Gleichungssystems A x = b erfolgt mittels des Gauß-Algorithmus. Dieser Algorithmus fußt auf zwei Säulen: (1) Der Beobachtung, dass gewisse elementare Abänderungen die Lösungsmenge eines linearen Gleichungssystems nicht ändern. (2) Der Möglichkeit, durch solche Abänderungen jedes Gleichungssystem auf sogenannte Zeilenstufenform zu bringen. Nach diesen Änderungen sind Lösbarkeit und gegebenenfalls die Lösungsmenge automatisch ablesbar. Benannt nach Carl Friedrich Gauß ( ), der uns schon bei der Gaußschen Zahlenebene begegnete.) 7

9 Elementare Zeilenoperationen Die Lösungsmenge eines linearen Gleichungssystems ändert sich nicht bei einer der folgenden Operationen (a) Vertauschen zweier Gleichungen. (b) Multiplikation beider Seiten einer Gleichung mit einem Faktor 0. (c) Addition eines Vielfachen einer Gleichung zu einer anderen Gleichung. Ein gegebenes System werden wir daher mit solchen elementaren Zeilenumformungen solange vereinfachen, bis wir die Lösungsmenge des vereinfachten und damit auch des ursprünglichen Systems ablesen können. 8

10 Beweis Beweis. (a), (b) sind klar, nur (c) bedarf der Begründung. Seien also i k aus dem Bereich 1,..., m. Wir betrachten die i-te und die k-te Gleichung: (1) (2) a i1 x 1 + a i2 x a in x n = b i a k1 x 1 + a k2 x a kn x n = b k. Jede Lösung der Gleichungen (1) und (2) ist auch eine Lösung von: (3) (a i1 + aa k1 )x 1 + (a i2 + aa k2 )x (a in + aa kn )x n = b i + ab k und damit der beiden Gleichungen: (4) (5) (a i1 + aa k1 )x 1 + (a i2 + aa k2 )x (a in + aa kn )x n = b i + ab k a k1 x 1 + a k2 x a kn x n = b k. Halten wir fest: Jede Lösung von (1) und (2) ist auch eine von (4) und (5). Aus (4) und (5) erhalten wir aber (1) und (2) zurück, indem wir das ( a)-fache der Gleichung (5) zur Gleichung (4) addieren. Mit obigem Schluss ist jede Lösung von (4) und (5) dann auch eine von (1) und (2). 9

11 Elementare Zeilenumformungen Für die zugehörige erweiterte Matrix [A b] des Gleichungssystems A x = b liest sich das so: Jede Operation vom Typ Vertauschen zweier Zeilen, Multiplikation einer Zeile mit einem Faktor 0, Addition eines Vielfachen einer Zeile zu einer anderen Zeile, macht aus [A, b] eine neue erweiterte Matrix [A b ], für welche das zugeordnete Gleichungssystem A x = b dieselbe Lösungsmenge hat wie das System A x = b. 10

12 Vorläufiger Lösungsansatz Da wir Gleichungen der Form E x = b, E die n n-einheitsmatrix, trivialerweise lösen durch x = b können, werden wir zu folgendem allerdings vorläufigem Lösungsansatz für ein lineares Gleichungssystem A x = b mit quadratischer Matrix A geführt: Idee: Forme [A b] solange durch elementare Zeilenumformungen um bis die Form [E c] erreicht ist, wobei E die n n-einheitsmatrix ist. In diesem Fall ist x = c die eindeutig bestimmte Lösung von A x = b. 11

13 Überprüfung der Idee I Häufig klappt s: Das lineare Gleichungssystem führt zur erweiterten Matrix x 1 + 2x 2 + 0x 3 = 1 2x 1 + 3x 2 + 0x 3 = 1 3x 1 + 4x 2 + 1x 3 = und den markierten elementaren Zeilenumformungen. Folglich ist das Gleichungssystem eindeutig lösbar mit Lösung x 1 x 2 = 1 1. x

14 Überprüfung der Idee II Mitunter klappt s nicht: Das lineare Gleichungssystem führt zur erweiterten Matrix x 1 + 1x 2 + 6x 3 = 18 2x 1 + 1x 2 + 4x 3 = 13 1x 1 + 1x 2 + 2x 3 = und den markierten elementaren Zeilenumformungen. Die erhaltene Matrix [A, b ] lässt sich nicht auf die Form [E c] bringen. Grund: Das zu [A b ] gehörige Gleichungssystem ist nicht lösbar, da schon allein seine letzte Gleichung 0x 1 + 0x 2 + 0x 3 = 2 nicht lösbar ist. 13

15 Bewertung der Beispiele Unsere Idee Umformung in Richtung Einheitsmatrix war zu optimistisch. Nur für eindeutig lösbare Systeme kann die Reduktion der erweiterten Matrix auf die Form [E c] überhaupt gelingen. Gleichwohl zeigt Beispiel II, dass die eingeschlagene Strategie auch dort trägt, wo die eindeutige Lösbarkeit nicht gegeben ist. Sogar die Nichtlösbarkeit eines Systems konnten wir auf diesem Wege entscheiden. Neue Umformstrategie : Bringe die erweiterte Matrix auf eine Form, die der Einheitsmatrix möglichst nahe kommt. Dies Ziel werden wir mit der Zeilenstufenform erreichen. 14

16 Matrizen in Zeilenstufenform Wir sehen hier ein typisches Beispiel einer m n-matrix in Zeilenstufenform A = i 1 i 2 i 3 i 4 Eine Treppenlinie trennt einen unteren Bereich ab, der nur aus Nulleinträgen besteht. In unserem Fall haben wir r = 4 Stufen an den Positionen 1 i 1 < i 2 < < i r n. 15

17 Eigenschaften der Stufenform (S1) In den r Stufen der Treppe, d.h. an den markierten Stellen i 1, i 2,..., i r stehen der Reihe nach die Einheitsvektoren e 1, e 2,..., e r. (S2) Die übrigen Einträge des oberen Bereichs können beliebig gewählt werden. Im Bereich unterhalb der Treppenlinie gibt es nur Einträge gleich Null. (S3) Die zu den Stufen i 1, i 2,..., i r gehörigen Spalten erzeugen alle anderen Spalten von A. (S4) Der Rang von A ist folglich gleich der Anzahl r der Stufen der Matrix von Stufenform. (S5) Kein Stufenvektor lässt sich aus den vorangehenden Spalten erzeugen. 16

18 Elementare Zeilenumformungen und Zeilenstufenform Satz. Jede m n-matrix lässt sich durch elementare Zeilenumformungen auf Zeilenstufenform bringen. Wir üben das Verfahren zunächst an Beispielen und diskutieren Anwendungen, bevor wir den generellen Beweis führen. Vorschau: Es wird sich herausstellen, dass die entsprechende Umformung in Zeilenstufenform genau die Technik ist, die wir zur vollständigen Lösung eines linearen Gleichungssystems benötigen. 17

19 Umformung in Zeilenstufenform Die letzte Matrix ist in Zeilenstufenform mit drei Stufen in den Spalten 1, 2 und 4. Sie hat daher den Rang drei. Wir werden gleich sehen, dass dann auch die anderen Matrizen den Rang drei haben. 18

20 Zeilenumformungen und Rang Satz. Elementare Zeilenumformungen bewahren den Rang. Beweis. Die Matrix B entstehe aus der m n-matrix A durch elementare Zeilenumformungen. Die homogenen linearen Gleichungssysteme A x = 0 und B x = 0 gehen dann ebenfalls durch elementare Zeilenumformungen auseinander hervor und haben daher denselben Lösungsraum H. Der Rangsatz für Matrizen sagt dann, dass die Matrizen A und B jeweils denselben Rang n dim H haben. 19

21 Lösbarkeitskriterium Satz. Das lineare Gleichungssystem A x = b ist genau dann lösbar, wenn nach Umformung der erweiterten Matrix [A b] in Treppenform [B c] die letzte Spalte c kein Stufenvektor ist. Beweis. Da sich die Lösungsmenge durch elementare Zeilenumformungen nicht verändert, ist A x = b genau dann lösbar, wenn B x = c lösbar ist. Dies ist äquivalent dazu, dass sich c aus den Spaltenvektoren von B linear kombinieren lässt. Nach (S3) und (S5) ist dies genau dann der Fall, wenn c kein Stufenvektor ist. Wir werden gleich sehen, wie wir im lösbaren Fall eine spezielle Lösung finden. 20

22 Finden einer speziellen Lösung A sei eine m n-matrix und b eine n-spalte. Die erweiterte Matrix [A b] befinde sich in Zeilenstufenform, wobei sich die Stufen in den Positionen 1 i 1 < i 2 < < i r n befinden, also b kein Stufenvektor ist. Weglassen aller Nullzeilen führt zu einer r (n+1)-matrix, mit r n. Wir füllen nun die resultierende Matrix solange mit Nullzeilen auf, bis in der i-ten Stufe stets der Einheitsvektor e i steht (für alle i = 1,..., r) und wir insgesamt n Zeilen haben. Dies liefert eine erweiterte Matrix [B c], wobei B das Format n n hat. Achtung: Falls der i-te Eintrag c i 0, so ist die i-te Spalte von B eine Stufe, also gleich e i. Es folgt, dass x = c eine spezielle Lösung des Systems ist. 21

23 Anwendungsbeispiel spezielle Lösung Die erweiterte Matrix [A b] = befindet sich schon in Zeilenstufenform. Die letzte Spalte ist keine Stufe, daher ist das System lösbar. Auffüllen mit Nullzeilen liefert das äquivalente System: [A b ] = Wir beachten, dass Nullen in der Hauptdiagonalen von A in derselben Zeile einen Nulleintrag in b hervorrufen. Es folgt: b ist eine spezielle Lösung von A x = b

24 Kommentar: spezielle Lösung(en) Zusammenfassung: Falls [A, b] Zeilenstufenform hat und die letzte Spalte keine Stufe ist, erhalten wir nach geeignetem Streichen und Neueinfügen von Nullzeilen eine erweiterte Matrix [A b ], deren rechte Seite b eine Lösung von A x = b ist. Hinweis: Dieses einfache Rezept zum Finden einer speziellen Lösung darf nicht zum Schluss verleiten, b sei die einzige Lösung von A x = b. 23

25 Homogene Systeme in Zeilenstufenform Wir nehmen jetzt an, dass A eine Matrix in Zeilenstufenform ist. Durch Streichen und Neueinfügen von Nullzeilen sei schon erreicht, dass A quadratisch, vom Format n n ist und die Stufenvektoren ihre Eins in der Hauptdiagonalen haben. Wir wissen, dass die Anzahl der Stufen(vektoren) gleich dem Rang r von A ist. Ferner ist nach Konstruktion A eine obere Dreiecksmatrix. Entsprechend hat das homogene lineare Gleichungssystem A x = b einen Lösungsraum H R n der Dimension n r. Wir können jetzt eine Basis von H wie folgt angeben: Die n r Spalten von A, die nicht Stufenvektoren von A sind, haben sämtlich als Hauptdiagonaleintrag eine Null. Ersetzen wir in diesen Spalten jeweils den Hauptdiagonaleintrag 0 durch -1, so erhalten wir n r Vektoren h 1, h 2,..., h n r, die eine Basis von H bilden. 24

26 Nachweis: Lösungen von A x = 0 Klar ist zunächst, dass die Spaltenvektoren h 1, h 2,..., h n r ein linear unabhängiges System bilden. Ferner ist jedes h i tatsächlich eine Lösung von A x = 0: Hierzu beachten wir, wie h i aus einem Nichtstufenvektor, sagen wir der Spalte a j, hervorgeht. Nach (S3) ist a j eine Linearkombination der Stufenvektoren; die auftretenden Koeffizienten sind gerade die Koeffizienten a ij von a j. Somit gilt a j = a i1.a a i j 1.a j 1 + a i j+1.a j a i n.a n. Indem wir a j, behaftet mit dem Faktor bringen, folgt A h i = 0. 1, auf die rechte Seite der Gleichung Wir schließen, dass h 1, h 2,..., h n r ein linear unabhängiges System im n r-dimensionalen Lösungsraum H ist. Es folgt mit einem Dimensionsargument, dass dieses System eine Basis von H ist. 25

27 Der Gauß-Algorithmus I Wir haben damit alle Bausteine für den Gauß-Algorithmus beisammen: Schritt 1: Die erweiterte Matrix [A b] des zu untersuchenden linearen Gleichungssystems wird zunächst durch elementare Zeilenumformungen auf Zeilenstufenform [A b ] gebracht. Falls die letzte Spalte b ein Stufenvektor ist, ist das System A x = b nicht lösbar, andernfalls ist es lösbar. Schritt 2: Durch geeignetes Streichen und Auffüllen von Nullzeilen wird [A b ] so zu [A b ] umgeformt, dass A eine quadratische Matrix ist und die Einsen der Stufenvektoren in der Hauptdiagonale von A stehen. Es ist dann b eine spezielle Lösung von A x = b. 26

28 Der Gauß-Algorithmus II Schritt 3: Wir ersetzen die Hauptdiagonaleinträge Null von A in den Spalten, die nicht Stufenvektoren sind, jeweils durch 1 und erhalten ein System von n r (r=anzahl der Stufenvektoren) Spaltenvektoren h 1, h 2,..., h n r, welches eine Basis des Lösungsraums H des homogenen Gleichungssystems A x = 0 bildet. Die allgemeine Lösung des Gleichungssystems A x = b hat dann die Form x = b + n r i=1 α i.h i, mit beliebigen Skalaren α i. 27