Lineare Gleichungssysteme Das Lösen linearer Gleichungssysteme gehört zu den wichtigsten Grundaufgaben der Mathematik Wir werden uns mit einigen einfachen Lösungsverfahren befassen und daran auch etwas Theorie entwickeln Zwei Beispiele Beispiel Auf die Frage nach ihrem Alter antwortet das ältere zweier Kinder Vor drei Jahren war ich doppelt so alt wie mein Bruder; In einem Jahr sind wir zusammen zwanzig Jahre alt Wie alt sind die Kinder? Wir diskutieren dieses Problem in der Vorlesung Das Problem hat auch geometrische Interpretationen, die ebenfalls in der Vorlesung beschrieben werden Die Rechnung beim Eliminationsverfahren kann man kürzer aufschreiben, indem man die Variablen weglässt und die Koeffizienten in eine Matrix schreibt: 3 8 3 3 33 3 So kann man die Lösungen ablesen Wie? Beispiel Gesucht sind alle x x, x, x 3 R 3 mit x + x + x 3 5 4x 6x x + x + x 3 9 In der Vorlesung diskutieren wir kurz die verschiedenen Verfahren Hier benutzen wir gleich die Matrixschreibweise um eine Elimination durchzuführen 5 4 6 9 5 8 8 3 4 5 4 6 Hieraus liest man ab: 33
Der senkrechte Strich in der Matrix trennt die Koeffizienten des Gleichungssystems von der rechten Seite Man spricht daher auch von der erweiterten Koeffizientenmatrix erweitert um die rechte Seite Die Koeffizienten sind die Faktoren vor den Unbekannten Es ergeben sich folgende Fragen: Wie löst man ein lineares Gleichungssystem? und was ist das eigentlich? Wie sehen mögliche Lösungsmengen aus? Kann man das alles auch geometrisch deuten? Das Eliminationsverfahren Bei der Lösung haben wir elementare Zeilenumformungen benutzt Definition Die Operationen EZ Multiplikation einer Zeile mit einem Skalar ; EZ Addition des Vielfachen einer Zeile zu einer Anderen; EZ 3 Vertauschen zweier Zeilen; auf einem linearen Gleichungssystem heißen elementare Zeilenumformungen Es ist ziemlich klar, dass elementare Zeilenumformungen die Lösungsmenge eines linearen Gleichungssystems nicht ändern Dabei ist besonders wichtig, dass jede dieser Operationen durch eine Operation desselben Typs rückgängig gemacht werden kann Aus dieser Beobachtung ergibt sich ein vorläufiges Verfahren, um lineare Gleichungssysteme zu lösen: Algorithmus Bestimme die Lösungen eines linearen Glsichungssystems Wähle eine Zeile in der keine Null in der ersten Spalte steht und vertausche diese Zeile mit der ersten Nutze EZ mit dieser Zeile, um in allen anderen Zeilen in der ersten Spalte eine Null zu erzeugen 3 Wiederhole mit der Matrix in der die erste Zeile und die erste Spalte ignoriert werden, bis eine Dreiecksform hergestellt ist 34
4 Lese von unten beginnend die Lösungen ab und setze die Werte in die darüber liegenden Zeilen ein Dieses Verfahren heißt Gaußsches Eliminationsverfahren obwohl es lange vor Gauß bekannt war! Der letzte Schritt wird auch Rücksubstitution genannt Das Eliminationsverfahren funktioniert nicht immer so einfach Daher müssen wir geeignete Modifikationen einführen Das erfolgt auf Seite 3 Zunächst demonstrieren wir die Schwierigkeiten, die bei unserem Verfahren auftreten können und wie sie zu lösen sind Wir benutzen gleich die Form der erweiterten Koeffizientenmatrix Wer sich unsicher ist, schreibe bitte das lineare Gleichungssystem ausführlich mit Variablen auf Dabei dürfen rechts konkrete Werte eingesetzt werden Beispiel Wir untersuchen das folgende System für verschiedene rechte Seiten 5 4 4 8 3 4 3 Man erkennt, dass die Lösbarkeit von der rechten Seite abhängt In der Vorlesung werden wir einige Fälle durchspielen Sie können das auch selbst tun! Es gibt zwei Fälle: In der letzten Zeile steht rechts eine Null Dann ist die Variable x 3 durch die zweite Gleichung festgelegt x ist frei, kann also beliebige Werte annehmen Parameter! x ist dann wieder festgelegt abhängig vom Parameter Im anderen Fall ergibt sich ein Widerspruch das System hat keine Lösung Bemerkung Schon bei obigem Beispiel mussten wir Schritt des Algorithmus modifizieren: Mit der zweiten Spalte konnte keine Elimination durchgeführt werden; wir benutzten statt dessen die dritte Nun ist es Zeit für eine formale Definition Ein lineares Gleichungssystem ist ein System von Gleichungen der Form a x + a x + + a n x n b a x + a x + + a n x n b a m x + a m x + + a mn x n b m mit a ij, b i R, n, m N Im Fall i {,, n} : b i heißt das System homogen, sonst inhomogen Die a ij heißen Koeffizienten Eine Lösung ist ein Vektor v v,, v n R n, der alle Gleichungen erfüllt, wenn man die Komponenten v i für die Variablen x i einsetzt 3 Bemerkung Wenn es mehr als eine Lösung gibt, suchen wir meist nach der ganzen Lösungsmenge 35
Die Anzahl der Gleichungen hier m und die Anzahl der Unbekannten hier n muss nicht übereinstimmen 3 Das System wird linear genannt, weil alle Variablen x i nur zur ersten Potenz vorkommen Die Gleichung x + y 3 ist linear, die Gleichung x 3 y nicht 4 Statt R kann man einen beliebigen Körper setzen Wir werden das in Beispielen tun Um alle möglichen Abweichungen von unserem Ausgangs-Algorithmus dar zu legen, behandeln wir noch ein 4 Beispiel Gesucht sind alle Lösungen des linearen Gleichungssystems 3 6 5 4? wobei wir für das Fragezeichen später konkrete Zahlen einsetzen werden Durch elementare Zeilenumformungen erhalten wir 4?? Der nächste Schritt Schritt bei der Elimination auf S 34 ist durch erlaubte elementare Zeilenumformungen nicht möglich, denn in der zweiten Spalte stehen nur Nullen Wir überspringen daher die zweite Spalte und machen mit der dritten weiter So gelangen mit weiteren elementaren Zeilenumformungen zur sogenannten Zeilenstufenform Genauer: Wir führen Schritt mit der dritten Spalte aus Das Ergebnis ist 4??? An den Stellen x und x 3 liegen Stufen vor, x und x 4 sind freie Variable Die Gleichungen liefern keine Bedingungen für diese Variablen Wie bereits in früheren Beispielen geschehen, führen wir für jede freie Variable einen Parameter ein, der beliebige Werte in R annehmen kann Der Parameter ist frei und nicht gebunden, wir zb x Wieder können zwei Fälle eintreten: Fall:??? : Das gegebene lineare Gleichungssystem ist nicht lösbar Fall:??? : Das lineare Gleichungssystem ist lösbar 36
Speziell: Wenn wir im Beispiel? setzen, erhalten wir??? Es ist x 4 : keine Stufe frei wählbar, x 4 λ x 3 : Stufe 4x 3 x 4 x 3 λ 4 x : keine Stufe frei wählbar, x λ x : Stufe x x x 3 x 4 x λ 4 + λ Die Lösungsmenge ist also { 4 λ + λ, λ, 4 } λ, λ ; λ, λ R { 4,, 4, + λ + λ, λ, } λ, λ ; λ, λ R 4,, 4, + R,,, + R,,, In unserem Beispiel sind alle nötigen Variationen des früher beschriebenen Gaußschen Eliminationsverfahrens enthalten 5 Bemerkung Es ist Schritt des Algorithmus auf Seite 34, der die Probleme macht Wie im Beispiel gesehen, kann es passieren, dass alle Einträge der Spalte Null sind Es müssen dann in Schritt 3 mehrere Spalten ignoriert werden, sodass statt der Dreiecksform die Zeilenstufenform entsteht Eine weitere Abweichung ergibt sich in Schritt 4 durch die Einführung freier Variablen an jeder Stelle ohne Stufe Wir formulieren eine modifizierte und endgültige Fassung des Eliminationsverfahrens Algorithmus Wähle von links beginnend die erste Spalte, die einen Eintrag enthält Ignoriere alle davon links stehenden Spalten Wähle eine Zeile in der keine Null in der ersten Spalte steht und vertausche diese Zeile mit der ersten; das ist EZ 3 3 Nutze EZ mit dieser Zeile, um in allen anderen Zeilen in der ersten Spalte eine Null zu erzeugen 4 Wiederhole mit der Matrix in der die erste Zeile und die erste Spalte ignoriert werden, bis eine Zeilenstufenform hergestellt ist 5 Belege alle freien Variablen mit Parametern 6 Lese von unten beginnend die Lösungen ab und setze die Werte in die darüberliegenden Zeilen ein Falls eine widersprüchliche Zeile entsteht, so gibt es keine Lösung Andernfalls liefert jede Belegung der Parameter mit reellen Zahlen eine Lösung 3
Matrizen Wir wollen auch die oben schon verwendeten Matrizen formal definieren Definition Seien a ij reelle Zahlen oder Elemente eines anderen Körpers Das Schema a a a n a a a n heißt m n Matrix a m a m a mn Die Menge aller m n Matrizen schreiben wir R m n Beispiel 3 4 5 ist eine, eine Eine m n Matrix hat m Zeilen und n Spalten, geschrieben A a ij R m n, und besteht aus m n vielen Zahlen Die oben erwähnte erweiterte Koeffizientenmatrix eines linearen Gleichungssystems ist dann eine m n + Matrix Der senkrechte Strich dient nur der Orientierung Unter geeigneten Voraussetzungen kann man Matrizen addieren und miteinander multiplizieren Die Addition von Matrizen ist einfach 6 Definition Es seien A a ij, B b ij R m n zwei m n Matrizen Die Summe ist komponentenweise erklärt a + b a + b a n + b n a + b a + b a n + b n A + B a ij + b ij a m + b m a m + b m a mn + b mn Beispiel 3 4 5 + 3 4 3 Die Matrizen 3 4 5 kann man nicht addieren Warum? und 3 3 38
R m n, + ist eine kommutative Gruppe Das neutrale Element ist die Nullmatrix für die wir oft kurz schreiben Beweis Genau wie für 4, bzw 93 8 Bemerkung Es gibt viele Nullmatrizen! Je eine des Formats m n Trotzdem liest man oft die Nullmatrix Man kann Matrizen als anders eigenartig? aufgeschriebene Vektoren auffassen siehe folgendes Lemma Ihr Einsatz bei linearen Gleichungssystemen und die Matrizenmultiplikation siehe weiter unten rechtfertigt das Die Addition funktioniert wie bei Vektoren, nämlich komponentenweise 3 Neben der Addition besitzt R m n auch eine Skalarmultiplikation, die die Rechenregeln aus 5 erfüllt In diesem Sinn ist R m n ein Vektorraum Ob man einen Vektor als Spalten- oder Zeilenvektor auffasst spielt für die Addition keine Rolle Das ist der Kern der folgenden Aussage 9 Es sei n N Die Abbildungen R n R n ; x,, x n x x n R n R n ; x,, x n x x n sind Isomorphismen bezüglich + und Beweis Einfache Übung Für die Multiplikation betrachten wir zunächst nur einen wichtigen Spezialfall, der eine direkte Anwendung auf die Darstellung linearer Gleichungssysteme hat Definition Sei A R m n, x A x a a n a m a mn x x n : x x n R n R n Dann ist a x + + a n x n a m x + + a mn x n R m R m 39
Matrizen und Vektoren kann man genau dann miteinander multiplizieren, wenn die Matrix so viele Spalten wie der Vektor Zeilen hat Die Rechenvorschrift kann man sich gut durch die Regel Zeile mal Spalte merken Beispiel 3 4 5 6 x y z,, 3 a b c d 3 Unser lineares Gleichungssystem aus Definition kann jetzt in der Form Ax b mit A R m n, b R m R m und unbekanntem x R n R n geschrieben werden Im homogenen Fall hat man Ax Zunächst interpretieren wir unsere Multiplikation geometrisch Bemerkung Die Multiplikation Matrix mal Vektor kann man in der Spaltensicht deuten: a a a n a A x x + x a + + x a n n a m Wir berechnen also eine Linearkombination der Spalten der Matrix Die Koeffizienten stehen im Spalten-Vektor x Definition entspricht der Zeilensicht Wir halten wichtige Eigenschaften der Multiplikation Matrix mal Vektor fest a m Es seien A R m n, v, w R n und λ R, dann gilt Av + w Av + Aw und Aλv λav a mn 4
Beweis Wir berechnen Av + w a a n v + w a v + w + + a n v n + w n a m a mn v n + w n a m v + w + + a mn v n + w n a v + a w + + a n v n + a n w n a m v + a m w + + a mn v n + a mn w n a v + + a n v n a w + + a n w n + Av + Aw a m v + + a mn v n a m w + + a mn w n Entsprechend weist man die zweite Regel nach Bemerkung Der Beweis von ist viel eleganter, wenn man die Summenschreibweise benutzt: n Ax y mit y i a ij x j Das gilt auch für die zweite Aussage Man sagt auch, die Multiplikation Matrix mal Vektor sei linear Wir betrachten jetzt noch zwei Beispiele, um zu sehen wie die Struktur der Lösungsmenge eines linearen Gleichungssystems beschaffen ist 3 Beispiele A und die Lösungmenge ist + λ 3 8 3 j und b ; λ R führt auf + R 8 3 3 3 Dabei gilt A b und A λ 8 λ3 λ A λ 8 3 λ A 8 3 Es ist also R 8 3 Lösungsmenge des homogenen Systems Ax 4
Wir greifen das Beispiel 4 nochmal auf Mit A 3 6 und b 5 lautet dieses lineare Gleichungssystem 4 Ax b Dabei ist das Fragezeichen bereits so ersetzt, dass eine Lösung existiert Die Lösungsmenge ergab sich in der Form v + Rw + Rw 4 4 + R + R Wir haben v und w j auch hier als Spaltenvektoren geschrieben, weil das für die anschließenden Rechnungen nötig ist Wie im ersten Beispiel hat man Av b und Aw j Es gilt aber mehr Aλ w + λ w λ Aw + λ Aw + Dh die Menge Rw + Rw ist die Lösungsmenge des homogenen Systems Diese Beobachtung kann man verallgemeinern Zu einer Matrix A R m n wird Kern A : { x R n ; Ax } der Kern von A genannt Der Kern einer Matrix enthält immer den Nullvektor und ist deshalb niemals leer Der Kern ist einfach die Lösungsmenge des homogenen Systems Es gilt 4 Zu A R m n und b R m betrachte das lineare Gleichungssystem Ax b Weiter sei v R n eine spezielle Lösung des Systems, dh Av b Dann ist v + Kern A : {v + w ; w Kern A} die genaue Lösungsmenge des Systems Die Menge v + Kern A wird manchmal auch allgemeine Lösung des Systems genannt Beweis Die gesuchte Lösungsmenge sei L 4
5 Bemerkung Auch der Kern einer Matrix hat eine Struktur, mit der wir uns im nächsten Kapitel befassen werden Wieviele Lösungen erwarten wir von einem linearen Gleichungssystem Ax b, wenn A R m n Fall n m: In den meisten Fällen gibt es genau eine Lösung Dann gilt auch Kern A {} Wenn bei der Elimination eine Nullzeile links des Strichs! entsteht, dann gibt es keine oder unendlich viele Lösungen Es gibt dann nämlich freie Variable Anders ausgedrückt Kern A {} Fall m < n mehr Unbekannte als Gleichungen: Es gibt immer freie Variable und damit Kern A {} Falls bei der Elimination kein Widerspruch entsteht, dann ist die Lösungsmenge unendlich Sonst existiert keine Lösung 3 Fall n < m mehr Gleichungen als Unbekannte: Es gibt nur Lösungen, für spezielle Werte von b Für die meisten b gibt es keine Lösung Genauere Kriterien für alle drei Fälle sind Gegenstand der folgenden Kapitel 3 In der Praxis werden lineare Gleichungssysteme fast nie exakt gelöst, schon weil beim Rechnen Rundungsfehler auftreten Meist sind schon die Eingangsdaten fehlerbehaftet zb durch Messfehler Die Numerik beschäftigt sich u a mit dem Problem Näherungslösungen zu finden, und dabei den Fehler zu kontrollieren Das letzte Beispiel dieses Abschnitts soll illustrieren, dass das Problem keineswegs trivial ist 43
4 Selbstverständlich muss man auch den Rechenaufwand optimieren Viele aber keineswegs alle Verfahren basieren auf dem Gauß-Algorithmus Beispiel Welche Lösungen besitzen die LGS x, y x y Matrizenmultiplikation? x y Wir verallgemeinern die Multiplikation von Matrizen wie sie in beschrieben ist Dort hatten wir die Multiplikation Matrix mal Spalte definiert 6 Definition Sei A R m n, B R n l Dann setzen wir AB a ij b ij c ij R m l durch c ij : n a iν b νj a i b j + + a in b nj ν für i,, m und j,, l Wir sprechen von Matrizenmultiplikation Auch hier gilt die Merkregel Zeile mal Spalte Wir betrachten zunächst ein 3 3 Beispiel Für A und B 8 sei C : AB Es ist C R 4 5 6 9 c Mit C c gilt c c c 3 + + 3 3 c + 8 + 3 9 5 c 4 3 + 5 + 6 8 c 4 + 5 8 + 6 9 Die Rechnung hätte man auch spaltenweise ausführen können 3 C AB A A 8 9 wobei unsere Definition Matrix mal Spalte aus auf jede Spalte der Matrix B angewendet wird Die Ergebnisse bilden die Spalten der Matrix C 44
Bemerkung Die Bildung der Produkts AB ist nur möglich, falls die Spaltenzahl von A mit der Zeilenzahl von B übereinstimmt Im Fall l ergibt sich genau die Formel aus 3 Wie im Beispiel kann man die Matrizenmultiplikation stets in der Spaltensicht deuten: Die Spalten von C AB entstehen indem man die Spalten von B jeweils mit A multipliziert 8 Beispiele A 3 4, B 3 ergibt Was ist ABx und ABx, wenn x A 3 3 A, B, B? AB AB,, BA 3 45
4 Sei B R 4 l und C R l 4 Was ergibt B und C? Wie wir an den Beispielen sehen, ist die Multiplikation von Matrizen nicht kommutativ Wir formulieren einige wichtige Eigenschaften der Matrizenmultiplikation 9 Assoziativgesetz Es seien die Matrizen A R m r, B R r s, C R s n gegeben Dann ist ABC ABC Beweis Wir rechnen einfach drauflos: ABC a ij b ij c ij a ij r µ ν s a iµ b µν c νj s b iν c νj ν s ν r µ a iµ r a iµ b µν c νj µ s b µν c νj ν r a iµ b µj c ij µ a ij b ij c ij ABC Distributivgesetze Es seien A, B R m l und C, D R l n, dann gilt AC + D AC + AD und A + BC AC + BC Beweis Die erste Gleichung folgt direkt aus der Spaltensicht der Matrizenmultiplikation und Die zweite Gleichung kann man mit Hilfe der Definition in einer höchst langweiligen Rechnung nachprüfen 46
Der Spezialfall R n n also m n ist von besonderer Bedeutung Man spricht von quadratischen Matrizen Die kann man addieren und multiplizieren In der Tat folgt aus, 9 und R n n, +, ist ein Ring, aber die Multiplikation ist nicht kommutativ Beispiel Was ist?? Man erkennt, dass es bei der Matrizenmultiplikation Nullteiler gibt vgl I Die bekannte und in jedem Körper gültige Regel xy x oder y gilt also nicht für die Matrizenmultiplikation Wir haben das schon bei anderen Ringen, wie z B Z 5 und Z 6 beobachtet Wie üblich wird Invertierbarkeit definiert Definition Eine Matrix A R n n heißt invertierbar, wenn es eine Matrix B R n n gibt mit AB BA I n Schreibweise: B A Dabei ist I n Rn n die Einheitsmatrix I n ist offenbar das neutrale Element der Matrizenmultiplikation 3 Die Menge GLn, R : { A R n n ; A ist invertierbar } bildet mit der Matrizenmultiplikation für jedes n N eine Gruppe Beweis Übung! Die Zeilensicht Wir wenden uns jetzt der Zeilensicht der Matrizenmultiplikation zu und werden sehen, dass es einen Zusammenhang zum Gaußschen Eliminationsverfahren gibt Wir betrachten zunächst nur -Matrizen a a a a b b b b a b + a b a b + a b a b + a b a b + a b a b b + a b b a b b + a b b Man erkennt, dass die Zeilen der Matrix AB aus Linearkombinationen der Zeilen der Matrix B bestehen, mit Koeffizienten aus der Matrix A Das gilt ganz allgemein, also für Matrizen beliebiger Formate sofern man sie multiplizieren kann 4
Beispiel b b b b α b b αb + b αb + b Schließlich betrachten wir ein lineares Gleichungssystem Ax b mit A R m n In den Übungen und im obigen Beispiel haben wir schon gesehen, dass elementare Zeilenumformungen mit Hilfe von Matrizen zu realisieren sind Sei L R m m so eine Matrix, dann gilt mit 9 Ax b LAx Lb LAx Lb Um zu zeigen, dass der -Pfeil umgekehrt werden kann, müssen wir zeigen, dass die benutzten Matrizen invertierbar sind Das wird in den Übungen erledigt Unsere Überlegungen ergeben die schon oben angekündigte Rechtfertigung für das Gaußsche Eliminationsverfahren 4 Elementare Zeilenumformungen ändern die Lösungsmenge eines linearen Gleichungssystems nicht, weil sie durch Linksmultiplikation mit invertierbaren Matrizen realisiert werden können Wir illustrieren das nochmals an einem einfachen Beispiel Es seien A und b Wir lösen das lineare Gleichungssystem Ax b und notieren die benötigten Matrizen L L A b L L L A b 3 3 L 3 L 3 L L A b 5 5 Zusammengefasst bedeutet das: Multiplikation des Systeme Ax b mit der Matrix L L 3 L L 3 von Links überführt das System in Dreiecksform Genauer: LA und Lb 5 5 48
An welchen Stellen haben wir hier implizit das Assoziativgesetz benutzt? Als Lösung des Gleichungssystems ergibt sich x Ohne Rechnung: Warum sind L und L vertauschbar, nicht aber L und L 3? Bemerkung Die Inverse von L findet man ohne Rechnung: L addiert das - fache der ersten zur zweiten Zeile Das wird durchaddition der ersten zur zweiten Zeile wieder rückgängig gemacht, also L Eine einfache Rechnung bestätigt diese Vermutung 49