Methode der kleinsten Quadrate

Ähnliche Dokumente
Überbestimmte lineare Gleichungssysteme

Corinne Schenka Vorkurs Mathematik WiSe 2012/13

Numerische Lineare Algebra

$Id: linabb.tex,v /01/09 13:27:34 hk Exp hk $

Überbestimmte Gleichungssysteme

Mathematischer Vorkurs Lösungen zum Übungsblatt 5

Optimieren unter Nebenbedingungen

6.2. Prüfungsaufgaben zur Lösbarkeit von LGS

Geradengleichung. c Roolfs

Lineare Gleichungssysteme: eine Ergänzung

Übungsblatt 5 : Lineare Algebra

6 Bestimmung linearer Funktionen

1 Singulärwertzerlegung und Pseudoinverse

3 Matrizenrechnung. 3. November

1.1. Geradengleichung aus Steigung und y-achsenabschnitt

Folgerungen aus dem Auflösungsatz

7.1 Matrizen und Vektore

Inhalt. Übersicht über das Gerät 6. Die Hauptanwendung "Main" 7. Das Interaktivmenü 10. Variablen und Funktionen 15

Lineare Gleichungssysteme

13. Klasse TOP 10 Grundwissen 13 Geradengleichungen 01

7 Aufgaben im Dokument. Aufgabe P5/2010

3. Übungsblatt Aufgaben mit Lösungen

1 Geometrie - Lösungen von linearen Gleichungen

Rückblick auf die letzte Vorlesung. Bemerkung

Mathematik II Frühlingsemester 2015 Kapitel 8: Lineare Algebra 8.5 Eigenwerte und Eigenvektoren

Etwas Spezielles: Zielwertsuche und Solver. Zielwertsuche

1.7 lineare Gleichungen und Ungleichungen mit 2 Unbekannten

(x 1. Vektoren. g: x = p + r u. p r (u1. x 2. u 2. p 2

Mathe GK, Henß. Kreis in der Ebene

FACHHOCHSCHULE ESSLINGEN - HOCHSCHULE FÜR TECHNIK

Inhaltsverzeichnis. Inhaltsverzeichnis. 3

Eigenwerte und Eigenvektoren von Matrizen

numerische Berechnungen von Wurzeln

Aufgaben zu Kapitel 20

f. y = 0,2x g. y = 1,5x + 5 h. y = 4 6x i. y = 4 + 5,5x j. y = 0,5x + 3,5

4) Lösen linearer Gleichungssysteme mit zwei oder drei Unbekannten

18.2 Implizit definierte Funktionen

5 Geraden im R Die Geradengleichung. Übungsmaterial 1

Länge eines Vektors und Abstand von zwei Punkten 2. 4 = 6. Skalarprodukt und Winkel zwischen Vektoren

Lineare Funktion. Wolfgang Kippels 21. März 2011

2.2 Lineare Gleichungssysteme (LGS)

Fehler- und Ausgleichsrechnung

Lineare Gleichungssysteme

Viele wichtige Operationen können als lineare Abbildungen interpretiert werden. Beispielsweise beschreibt die lineare Abbildung

Lineare Gleichungssysteme

Einführung in die linearen Funktionen. Autor: Benedikt Menne

Lineare Gleichungssysteme (Teschl/Teschl 11.1)

Mathematik - Arbeitsblatt Lineare Funktionen

A2.3 Lineare Gleichungssysteme

Mathematik für Wirtschaftswissenschaftler im WS 2013/14 Lösungen zu den Übungsaufgaben (Vortragsübung) Blatt 7

Unterrichtsmaterialien in digitaler und in gedruckter Form. Auszug aus: Lineare Algebra: Lineare Gleichungssysteme und Matrizen

f(x) f(x 0 ) lokales Maximum x U : gilt, so heißt x 0 isoliertes lokales Minimum lokales Minimum Ferner nennen wir x 0 Extremum.

3. Übungsblatt zur Lineare Algebra I für Physiker

9.1 Eine Gleichung mit einer Unbekannten exakt lösen x Beispiel 1: Die Gleichung x 2 = 4 lösen. solve( x / (x 2) = 4, x ); 8 3

F u n k t i o n e n Gleichungssysteme

( ) Lineare Gleichungssysteme

TI-89. Gleichungssysteme

Mathematik IT 2 (Lineare Algebra)

Analytische Geometrie II

Technische Universität München Zentrum Mathematik. Übungsblatt 12

3.6 Eigenwerte und Eigenvektoren

1.1 Direkte Proportionalität

14 Skalarprodukt Abstände und Winkel

Eine zweidimensionale Stichprobe

37 Gauß-Algorithmus und lineare Gleichungssysteme

Einführung. Ablesen von einander zugeordneten Werten

Normalengleichungen. Für eine beliebige m n Matrix A erfüllt jede Lösung x des Ausgleichsproblems Ax b min die Normalengleichungen A t Ax = A t b,

Vorbereitungskurs Mathematik zum Sommersemester 2011 Tag 7

Outline. 1 Funktionen von mehreren Veränderlichen. 2 Grenzwert und Stetigkeit. 3 Partielle Ableitungen. 4 Die verallgemeinerte Kettenregel

Gliederung. Links-Rechts-Zerlegung Elimination faktorisiert A = L R. Determinante Inverse. Kleinste Quadrate. Lösung durch. Links-Rechts- Zerlegung

Mathematik II für Studierende der Informatik. Wirtschaftsinformatik (Analysis und lineare Algebra) im Sommersemester 2016

Vektorgeometrie. Inhaltsverzeichnis. Fragen und Antworten. (bitte nur für den Eigengebrauch verwenden)

Gleichungen mit mehreren Unbekannten Kap. 2.5 Seite 124

Lineare Funktion. Wolfgang Kippels 3. November Inhaltsverzeichnis

Geometrische Objekte im 3-dimensionalen affinen Raum oder,... wie nützlich ist ein zugehöriger Vektorraum der Verschiebungen

6 Gleichungen und Gleichungssysteme

Funktionen mehrerer Variabler

Themenheft mit viel Trainingsmaterial (Siehe Vorwort!) Unabhänge Vektoren und Erzeugung von Vektoren Gauß-Algorithmus Rang einer Matrix.

Installation. Arbeiten mit der MATLAB-Entwicklungsumgebung. MATLAB als Taschenrechner mit Matrix- und Vektorrechnung.


Aufstellen der Funktionsgleichung aus gegebenen Bedingungen

Der Taschenrechner CAS: TI Inspire (Texas Instruments)

Funktionen in der Mathematik

Matrizen, Gaußscher Algorithmus 1 Bestimmung der inversen Matrix

2. Spezielle anwendungsrelevante Funktionen

Variablen in MATLAB. Unterschiede zur Mathematik: Symbolisches und numerisches Rechnen. Skriptdateien. for-schleifen.

Lineare Gleichungen mit 2 Variablen

1 Kurvenuntersuchung /40

Geraden. Somit scheiden die Gerade im Punkt N(-b/m; 0) die x-achse.

4. Übungsblatt zur Mathematik I für Maschinenbau

CAS / GTR. endlich mal eine verständliche Bedienungsanleitung. Texas Instruments TI Copyright. Havonix Schulmedien-Verlag

Aufgabenkomplex 5: Hauptachsentransformation, Lineare Optimierung, Differentialrechnung in mehreren Veränderlichen

Lineare Algebra. Mathematik II für Chemiker. Daniel Gerth

Menge der irrationalen Zahlen C = {z z = a + bi; a, b R, i 2 = 1} Menge der komplexen Zahlen R C Somit ergibt sich: N N Z Q R C

Matrizenrechnung am Beispiel linearer Gleichungssystemer. für GeoGebraCAS

Quadratische Funktion - Übungen

1 0 1, V 3 = M, und λ A = λa

Transkript:

1. Phase: Methode der kleinsten Quadrate Einführung Im Vortrag über das CT-Verfahren hat Herr Köckler schon auf die Methode der kleinsten Quadrate hingewiesen. Diese Lösungsmethode, welche bei überbestimmten Gleichungssystemen (d.h. mehr Gleichungen als Variablen) zur Anwendung kommt, werden wir als erstes näher kennenlernen. Matrizen A, b Lösen mit der KQ-Methode: x = lsqr(a,b) Lösungsvektor x Bevor wir allerdings die Rekonstruktion eines Objektes mittels der Methode der kleinsten Quadrate anwenden, machen wir uns einige Gedanken zur Vorverarbeitung und Vereinfachung. Hierbei werden wir auch gleich auf Matlab zurückgreifen. 1 Vorbereitung Bestimmen Sie eine Gerade, welche durch die Punkte P (, 1) und Q(6, ) verläuft. Hinweise: Wie lautet die allgemeine Geradengleichung? Wo werden die Koordinaten der Punkte eingetragen? Welches sind die Unbekannten? Die allgemeine Geradengleichung lautet y = mx + n. In diese werden jeweils die x und die y- Koordinate eingesetzt. Die Unbekannten sind m und n. Für diese erhält man ein lineares Gleichungssystem: I. 1=m + n I. 1=m + n II. =6m + n II. I. = II. 8=4m II./4 = In Matrix-Vektor-Notation sieht das wie folgt aus: 1 1 m 1 1 m = = 6 1 n 8 4 0 n Daher lautet die Geradengleichung y =x 3. 1 = I. 1=m + n II. =m ( 1 1 0 ) m n I. II. = I. 3 =n II. =m 3 = ( 0 1 1 0 ) m n 1

KQ-Methode mit einer Unbekannten Das Gewicht G einer Probe wird viermal mit verschiedenen Instrumenten und Methoden gemessen, das ergibt die Messungen G 1, G, G 3 und G 4. Eine möglichst gute Nährung für das Gewicht soll jetzt nach der Methode der kleinsten Quadrate bestimmt werden, d.h. es soll der Ausdruck (G G 1 ) +(G G ) +(G G 3 ) +(G G 4 ) bezüglich G minimiert werden. Beschreiben Sie, wie man auf den genannten Ausdruck kommt. Bestimmen Sie die Näherung für G. Bemerkung: Man kann das Verfahren der Ableitung - wie im Vortrag erlebt - auf mehrere Variablen ausdehnen. In diesem Fall erhält man ein Gleichungssystem, welches zur Bestimmung der einzelnen Variablen gelöst wird. Hinweise: Aufstellen der Gleichungen und anschließendes Umstellen. Bilden der Ableitung! Nullstellen der Ableitung als mögliche Extremstellen. Das überbestimmte Gleichungssystem lauten zunächst G = G 1 G = G G = G 3 G = G 4 bzw. in Matrix-Vektor-Notation 1 G 1 1 1 G = G G 3 1 G 4 Es ist dann f(g) =(G G 1 ) +(G G ) +(G G 3 ) +(G G 4 ). Dann erhält man durch Ableiten f (G) =(G G 1 )+(G G )+(G G 3 )+(G G4). Nullsetzen und nach G auflösen ergibt somit: 8G G 1 G G 3 G 4 =0= 8G =(G 1 + G + G 3 + G 4 )= G = 1 4 (G 1 + G + G 3 + G 4 ) Hätte man das Ergebnis einfacher errechnen können? Welcher bekannte Begriff liefert diese einfachere Rechnung? Ja. Der Mittelwert der Messwerte ergibt gerade das Minimum der quadratischen Abweichungen.

3 KQ-Methode in der CT - ein einführendes Beispiel Wir schauen uns nun ein erstes - einfaches - Beispiel an, welches schon dem Bereich der Computertomographie zugeordnet werden kann. Hierzu sei die folgende Anordnung gegeben: 4 5 7 8 Das Ziel dieser Aufgabe ist, ein Gleichungssystem aufzustellen, mit welchem die beste Näherung für die roten und blauen Kästchen berechnet werden kann. Erinnern wir uns an den Vortrag von Herrn Köckler. Dort wurde die Formel zum Aufstellen des Gleichungssystemes eingeführt. Für einen Strahl lautet die allgemeine Gleichung: I1 L 1 µ 1 + L µ +...+ L n µ n = ln mit I 0 als gegebener Eingangsintensität und I 1 als gemessener Ausgangsintensität. Weiter ist n die Anzahl der durchstrahlten Zellen, welche voneinander verschieden sind. In unserem Beispiel gibt es nur rote und blaue Zellen, somit ist n =. Da wir sechs parallele Strahlen im Beispiel sehen und pro Strahl eine Gleichung aufgestellt wird, erhalten wir am Ende ein Gleichungssystem bestehend aus sechs Gleichungen der obigen Form. D.h. eine Gleichung des Gleichungssystems hat also die Form I1 L 1 µ 1 + L µ = ln. Die Werte L 1 und L beinhalten die berechneten Längen des Strahles in der jeweiligen Zelle in unserem Beispiel in den roten bzw. blauen Kästchen. Wird eine Zelle nicht getroffen, erhält der L j -Wert für diese Zelle den Wert Null. Die µ-werte sind die unbekannten Abschwächungskoeffizienten, die wir bestimmen wollen. I 0 I 0 3

Aufgabenteil 1: In diesem Aufgabenteil machen wir uns die Rechnung etwas einfacher und setzen L j entweder gleich 1, falls eine Zelle getroffen wurde, oder gleich 0, falls eine Zelle nicht getroffen wurde. Als Zelle bezeichnen wir dabei ein Kästchen, wie im Bild zu sehen. Stellen Sie das Gleichungssystem für diesen vereinfachten Fall auf. 4 µ rot = ln 3µ rot = ln µ rot + µ blau = ln 5 µ rot +µ blau = ln 7 3µ blau = ln 8 µ blau = ln In Matrizenschreibweise Aµ = b mit µ =(µ rot,µ blau ) erhält man 1 0 ln 4 3 0 ln 1 µrot 1 = ln µ blau ln 5 0 3 ln 7 0 1 ln 8 Ist eine eindeutige Lösung des Systems möglich? Nein. Nun wollen wir das System analog zur Aufgabe für µ blau =0.11 lösen. Welches Ergebnis für µ rot erhalten Sie? Sei µ blau =0.11. Zu lösen ist ( min (µ rot +ln 4 ) +(3µ rot +ln ) +(µ rot + µ blau +ln ) + +(µ rot +µ blau +ln 5 ) +(3µ blau +ln 7 ) +(µ blau +ln 8 ) ) 4

Ableiten liefert 0 = (µ rot +ln 4 )+6(3µ rot +ln )+4(µ rot + µ blau +ln )+(µ rot +µ blau +ln 5 ). Umstellen ergibt 30µ rot =16.58 und somit ist (gerundet) µ rot =0.5653. Als nächstes wollen wir nun das Gleichungssystem mit beiden Unbekannten bestmöglichst lösen. Hierzu nutzen wir die kleinste Quadrate Lösungsmethode lsqr,welche in Matlab implementiert ist. Einige Vorbereitungen: Das oben aufgestellte Gleichungssystem muss in Matrix-Vektor-Schreibweise geschrieben werden, d.h. es sollte die Form Aµ = b mit µ =(µ rot,µ blau ) besitzen. In der Matrix A stehen dabei die Koeffizienten von µ rot und µ blau und in b die Einträge der rechten Seite des Gleichungssystems. Sowohl A als auch b müssen dann in Matlab über die Befehle MatrixEingabe bzw. VektorEingabe eingegeben werden (siehe Übersicht der Matlab-Befehle). Ist dies geschehen, können Sie mit Hilfe des Befehls mu=lsqr(a,b) das Gleichungssystem mit der Methode der kleinsten Quadrate lösen. Wie ist das Ergebnis? Eingabe der Werte: A=MatrixEingabe(,6,[1030110301]); b = VektorEingabe(6, [-log(4/) -log(/) -log(/) -log(5/) -log(7/) -log(8/)]); Lösen: mu = lsqr(a,b); liefert µ rot =0.57 und µ blau =0.084. Um die Ergebnisse auf ihre Genauigkeit hin überprüfen zu können, schaut man sich die sogenannte Fehlerquadratsumme oder auch Residuum genannt etwas näher an. Hierzu berechnet man b Aµ = n (b i (Ax) i ). i=1 Dieser Ausdruck kann per Hand berechnet werden, aber um uns Zeit und Rechnerei zu ersparen, nutzen wir direkt wieder Matlab mit dem Befehl fehler = norm(b - A*mu) Berechnen Sie mit diesem Befehl zunächst den Fehler für den Fall, in welchem µ blau vorher auf 0.11 gesetzt wurde. Anschließend wollen wir diesen Fehler mit dem vergleichen, der beim Lösen des Gleichungssystems mit L j = {0, 1} entstanden ist. D.h. wir setzen für mu die Werte ein, welche von Matlab mittels lsqr berechnet wurden. Residuum einfacher Fall: µ blau =0.11, µ rot =0.5653 5

fehler1 = norm(b - A*mu) = 0.460 Residuum für Fall L j = {0, 1}: µ rot =0.57 und µ blau =0.084 fehler = norm(b - A*mu) = 0.4500 Aufgabenteil : Das Ziel ist es nun, die eben berechneten Fehler zu verbessern, indem wir die zu Beginn des Aufgabenteiles 1 gemachte Einschränkung nun durch bessere (exaktere) Werte für die L j ersetzen. Stellen Sie erneut ein Gleichungssystem auf. Die Werte für die verschiedenen L j entnehmen Sie direkt dem Bild, indem Sie die Länge der verschiedenen Strahlen messen. 4 1.1µ rot = ln.3µ rot = ln.4µ rot +0.µ blau = ln 5 0.5µ rot +.1µ blau = ln 7.6µ blau = ln 8 1.1µ blau = ln In Matrizenschreibweise Aµ = b mit µ =(µ rot,µ blau ) erhält man 1.1 0 ln 4.3 0 ln.4 0. µrot 0.5.1 = ln µ blau ln 5 0.6 ln 7 0 1.1 ln 8 Um nun die Werte für µ rot und µ blau erneut berechnen zu können, muss die Matrix A neu in Matlab eingeben werden. Ist es notwendig den Vektor b noch einmal einzugeben? Nein. Nachdem Sie die Matrix eingegeben haben, berechnen Sie bitte wie zuvor mit Matlab die Lösung mit der Methode der kleinsten Quadrate. 6

Eingabe der Werte: Aneu = MatrixEingabe(, 6, [1.1 0.3 0.4 0. 0.5.1 0.6 0 1.1]); Lösen: muneu = lsqr(aneu,b); liefert µ rot =0.6468 und µ blau =0.1070. Wie bereits angekündigt, wollen wir dieses Ergebnis mit den vorherigen vergleichen. Dazu berechnen Sie bitte erneut die Fehlerquadratsumme. Was stellen Sie fest? Residuum für die verbesserten Eingabewerte: µ rot =0.6468, µ blau =0.1070 fehler3 = norm(b - Aneu*muneu) = 0.1316 Es fällt auf, dass dieses zum Schluss berechnete Residuum das kleinste ist. Dies kommt daher, dass in diesem Fall die bestmöglichsten Eingabewerte benutzt worden. 7