Systemidentikation und Regelung in der Medizin Rekursives Verfahren der kleinsten Fehlerquadrate - Recursive Least Squares (RLS)

Transkript

1 Systemidentikation und Regelung in der Medizin Rekursives Verfahren der kleinsten Fehlerquadrate - Recursive Least Squares (RLS) LS: Schätzung der Modellparameter basierend auf einer Anzahl von Beobachtungen RLS: Update der alten geschätzten Modellparameter nach Eintreen einer neuen Beobachtung; Alte Beobachtungen können weggeworfen werden. Denition: Rekursiver Algorithmus neue Schätzung = alte Schätzung + Korrekturfaktor neue Beobachtung Prädiktion mit alter Schätzung (1)

2 Systemidentikation und Regelung in der Medizin Herleitung LS Schätzung zum Abtastzeitpunkt k 1: [ k 1 ] 1 k 1 ˆΘ(k 1) = α i ϕ(i)ϕ T (i) α i ϕ(i)y(i) (2) i=1 i=1 Neue Beobachtung zum Abtastpunkt k liefert [ k 1 1 ˆΘ(k) = α i ϕ(i)ϕ T (i) + a k ϕ(k)ϕ (k)] T (3) i=1 Denition von R(k): ( k 1 i=1 α i ϕ(i)y(i) + α k ϕ(k)y(k) ) R(k) = k α i ϕ(i)ϕ T (i) i=1 (4)

3 Rekursive Denition von R(k): Systemidentikation und Regelung in der Medizin 3 R(k) = R(k 1) + α k ϕ(k)ϕ T (k) (5) Umformulierung der LS-Schätzung (3): ( k 1 ) ˆΘ(k) = R 1 (k) α i ϕ(i)y(i) + α k ϕ(k)y(k) i=1 ˆΘ(k 1) = R 1 (k 1) k 1 i=1 k 1 i=1 (6) α i ϕ(i)y(i) (7) α i ϕ(i)y(i) = R(k 1) ˆΘ(k 1) (8) Dies liefert nun eine rekursive Formel für die Schätzung: [ ˆΘ(k) = R 1 (k) R(k 1) ˆΘ(k ] 1) + α k ϕ(k)y(k) (9) Einsetzen von (5) ergibt: [ [R(k) ˆΘ(k) = R 1 (k) αk ϕ(k)ϕ T (k) ] ] ˆΘ(k 1) + αk ϕ(k)y(k) (10)

4 Systemidentikation und Regelung in der Medizin 4 Umsortieren der Terme liefert: ˆΘ(k) = ˆΘ(k 1) + R 1 (k)α k ϕ(k) [ y(k) ϕ T (k) ˆΘ(k ] 1) (11) Die Gleichungen (11) und (5) beschreiben eine rekursive Form der LS-Schätzung. Problematisch ist, dass in jedem Schritt die Matrix R(k) invertiert werden muss! Um dies zu vermeiden wird eingeführt: P (k) = R 1 (k) (12) Die Rekursion von R(k) (Gleichung (5)) wird dann zu P 1 (k) = P 1 (k 1) + α k ϕ(k)ϕ T (k) (13) Nutzung eines Matrixinversions-Lemmas um P (k) direkt zu updaten ohne Anwendung einer Matrixinversion.

5 Systemidentikation und Regelung in der Medizin 5 Matrixinversions-Lemma: A, B, C und D seien Matrizen kompatibler Gröÿe so dass A + BCD existiert. Dann gilt: [A + BCD] 1 = A 1 A 1 B [ DA 1 B + C 1] 1 DA 1 (14) Die folgenden Ersetzungen P 1 (k 1) A, ϕ(k) B, α k C, ϕ T (k) D (15) liefern P (k) = [ P 1 (k 1) + ϕ(k)α k ϕ T (k) ] 1 = P (k 1) P (k 1)ϕ(k)ϕT (k)p (k 1) + ϕ T (k)p (k 1)ϕ(k) 1 α k Die Inversion der quadratischen Matrix wurde durch die Inverse eines Skalars ersetzt! (16) (17)

6 Systemidentikation und Regelung in der Medizin 6 Denition des Verstärkungsvektors L zur Vereinfachung der Schreibweise des Algorithmus: L(k) = P (k 1)ϕ(k) 1 α k + ϕ T (k)p (k 1)ϕ(k) = α kp (k)ϕ(k) (18) Initialwerte Anfangswerte ˆΘ(k 0 ) für die Parameterschätzung und die Kovarianzmatrix P (k 0 ) können mittels LS aus den ersten I = dim Θ Beobachtungen ermittelt werden. Ein anderer häuger Ansatz ist ˆΘ(k 0 ) = 0 und P (k 0 ) = CI, wobei C eine Konstante und I die Einheitsmatrix ist. Ein groÿer Wert von C impliziert, dass das Vertrauen in ˆΘ(k 0 ) = 0 schlecht ist und führt zu einem hohen Grad der Korrektur (Anpassung).

7 Systemidentikation und Regelung in der Medizin Algorithmus P (k 1)ϕ(k) L(k) = 1 α k + ϕ T (k)p (k 1)ϕ(k) ˆΘ(k) = ˆΘ(k [ 1) + L(k) y(k) ϕ T (k) ˆΘ(k ] 1) (19) (20) P (k) = P (k 1) L(k)ϕ T (k)p (k 1) (21) mit k = k 0 + 1, k 0 + 2, k 0 + 3,... Die Initialwerte ˆΘ(k 0 ) und P (k 0 ) werden ermittelt durch Anwendung von LS auf die ersten k 0 > I = dim Θ Beobachtungen: [ k0 1 k 0 P (k 0 ) = α i ϕ(i)ϕ (i)] T, ˆΘ(k0 ) = P (k 0 ) α i ϕ(i)y(i) (22) i=1 Bemerkung: Die Kovarianzmatrix P muss immer positiv denit bleiben. Aber sogar wenn P (k 0 ) diese Bedingung erfüllt, kann die positiv Denitheit von P (k) verloren gehen z.b. durch numerische Rundungsfehler wenn der Algorithmus sehr lange läuft. In der Praxis gibt es spezielle RLS Formen, die dies verhindern (UD Faktorisierung von P (k)). i=1

8 Systemidentikation und Regelung in der Medizin RLS mit exponentiellem Vergessen Der normale RLS-Algorithmus liefert eine Schätzung basierend auf dem gemittelten Verhalten des Systems. Problem: zeitvariante Systeme und nichlineare Systeme mit Arbeitspunktwechsel Gewichtung der Schätzung sollte stärker sein für aktuelle Messwerte Gütekriterium, das ältere Messwerte vernachlässigt: J k (Θ) = 1 k k β(k, i) i=1 [ y(i) Θ T ϕ(i)] 2 (23) β(k, i) muss gröÿer werden in i für ein gegebenes k. Das Kriterium ist quadratisch und die o-line Schätzung für die Parameter lautet: [ k ] 1 k ˆΘ(k) = β(k, i)ϕ(i)ϕ T (i) β(k, i)ϕ(i)y(i) (24) i=1 i=1

9 Struktuelle Annahme für β(k, i): Systemidentikation und Regelung in der Medizin 9 β(k, i) = λ k i α i (25) wobei λ(k) eine Konstante ist und β(k, k) = α k. 1.0 λ = 1.00, H = 0.8 β(k, i) λ = 0.99, H = λ = 0.95, H = i Abb.: Der Eekt von λ (α i = 1 for all i); λ im Bereich entspricht ungefähr der Berücksichtigung der letzten Messwerte.

10 Systemidentikation und Regelung in der Medizin Algorithmus P (k 1)ϕ(k) L(k) = λ α k + ϕ T (k)p (k 1)ϕ(k) ˆΘ(k) = ˆΘ(k [ 1) + L(k) y(k) ϕ T (k) ˆΘ(k ] 1) (26) (27) P (k) = 1 λ [ P (k 1) L(k)ϕ T (k)p (k 1) ] (28) mit 0 < λ 1. Der Fall λ = 1 liefert den normalen RLS-Algorithmus. Der Eekt des Vergessensfaktors λ ist, dass die Kovarianzmatrix P (k) und damit die L(k) groÿ gehalten werden. Mit λ < 1 wird die Kovarianzmatrix P (k) nicht Null werden. Der Algorithmus bleibt somit sensitiv zu Änderungen im Parametervektor Θ des zu identizierenden Systems.

11 Systemidentikation und Regelung in der Medizin 11 Problem der Zustandsschätzung! 2.5 Kalmanlter Nicht direkt messbarer Zustandsvektor ist mit dem Systemausgang korreliert. Schätzung des Zustandsvektors anhand der Beobachtungen des Ein- und Ausgangs Parameter können ggf. als Zustände betrachtet und geschätzt werden. Stochastisches Vektorsignal {x}, beschrieben durch den Prozess: x(k + 1) = Ax(k) + v(k) (29) Messgleichung: y(k) = Cx(k) + e(k) (30) x(k): S 1-dimens. Zustandsvektor, v(k): S 1-dimens. Spaltenvektor des Systemrauschens, y(k) (messbarer Ausgang) und e(k) (Messrauschen): Dim. O 1, A(k) S S Systemzustandstransitionsmatrix, C(k) O S Ausgangsmatrix

12 Systemidentikation und Regelung in der Medizin 12 Ziel: Schätzung ˆx(k + 1 k) des Zustandsvektors x(k + 1) basierend auf den verrauschten Ausgangsmessungen bis zum Zeitpunkt k. Das Systemmodell (A, C) sei als bekannt angenommen: Die Prozesse {v(k)} und {e(k)} sind unabhängige Gaussische Prozesse mit bekanntem Erwartungswert (Null) und Kovarianzen: E{v(k)} = 0; E{v(k)v T (j)} = V δ kj (31) E{e(k)} = 0; E{e(k)e T (j)} = Y δ kj (32) E{e(k)v T (j)} = 0 Kronecker-Delta-Funktion: 1 für i = j δ ij = 0 für i j (33) (34)

13 Systemidentikation und Regelung in der Medizin Herleitung Prädiktor für den Zustand x zum Zeitpunkt k + 1: ˆx(k + 1 k) = Aˆx(k) + K(k) [y(k) C ˆx(k)] (35) Der Prädiktor besteht aus einem Prädiktionsterm und einem Korrekturterm. Die Verstärkungsmatrix K(k) muss bestimmt werden. Zu minimierendes Gütefunktional: J(k + 1) = E { x(k + 1) x T (k + 1) } (36) mit dem Prädiktionsfehler x(k + 1) = ˆx(k + 1) x(k + 1). (37) Optimale Lösung: K(k) = AP (k)c T [ Y + CP (k)c T ] 1 (38) P (k + 1) = AP (k)a T + V K(k)CP (k)a T (39)

14 Beweis: Einsetzen von (35) in (37) Systemidentikation und Regelung in der Medizin 14 x(k + 1) = Aˆx(k) + K(k) [y(k) C ˆx(k)] x(k + 1) (40) = [A K(k)C] ˆx(k) + K(k)y(k) x(k + 1) (41) Ersetzen von y(k) (30) und x(k + 1) (29) x(k + 1) = [A KC] ˆx(k) + K(k)Cx(k) +K(k)e(k) Ax(k) v(k) (42) Umsortieren und Verwendung von (37) liefert die Prädiktionsfehlerdynamik: x(k + 1) = [A K(k)C] x(k) + K(k)e(k) v(k). (43) J(k + 1) = E {[[A K(k)C] x(k) + K(k)e(k) v(k)] (44) [[A K(k)C] x(k) + K(k)e(k) v(k)] T } = [A K(k)C] E { x(k) x T (k) } (45) [A K(k)C] T +V + K(k)Y K(k) T

15 Systemidentikation und Regelung in der Medizin 15 Gleichung (45) ist gültig, da e(k), v(k) und x(k) statistisch unabhängig sind. Einführung folgender Notationen: P (k) = E { x(k) x T (k) } Q(k) = Y + CP (k)c T (46) (47) Umschreiben von (45): P (k + 1) = AP (k)a T K(k)CP (k)a T AP (k)c T K T (k) + V + K(k)Q(k)K T (k) (48) Vervollständigen der Quadrate bei Termen, die K(k) beinhalten: P (k + 1) = AP (k)a T + V (49) AP (k)c T Q 1 (k)cp (k)a T [ ] + K(k) AP (k)c T Q 1 (k) Q(k) [ ] T K(k) AP (k)c T Q 1 (k)

16 Systemidentikation und Regelung in der Medizin 16 Nur der letzte Term der Summe hängt von K(k) ab. Minimierung von J kann erreicht werden, indem K(k) so gewählt wird, dass der letzte Term in (49) verschwindet. K(k) = AP (k)c T [ Y + CP (k)c T ] 1 (50) Mit dieser Wahl von K(k) ergibt sich für (49) folgendes: P (k + 1) = AP (k)a T + V K(k)CP (k)a T. (51) Wenn die Rauschgröÿen {e(k)} und {v(k)} sowie der Anfangszustand x(0) normalverteilt sind (mit Erwartungswerten 0, 0, x 0 und Kovarianzen V, Y und P (0)), dann ist die Schätzung ˆx(k + 1 k) der Erwartungswert der bedingten Verteilung von x(k + 1), ˆx(k + 1 k) = E {x(k + 1) y(0), y(1),..., y(k)}. P (k + 1) ist die Kovarianz der bedingten Verteilung von x(k + 1).

17 Systemidentikation und Regelung in der Medizin Algorithmus Die Schätzung (35) basiert auf allen Informationen bis zum Zeitpunkt k: ˆx(k + 1 k). Ein Kalmanlter kann jedoch auch hergeleitet werden für die Schätzung des Zustandes x(k + 1) unter der Annahme, dass die Messung y(k + 1) schon verfügbar ist: ˆx(k + 1 k + 1) = E {x(k + 1), [y(0), y(1),..., y(k + 1)]} (52) Betrachtung des folgenden Filters: ˆx(k + 1 k + 1) = ˆx(k + 1 k) (53) +K(k + 1)[y(k + 1) C(k)ˆx(k + 1 k)] Kalmanlter - Algorithmus: Schätzung des Zustandes x für folgendes System: x(k + 1) = Ax(k) + Bu(k) + v(k) (54) y(k) = Cx(k) + e(k) (55)

18 Systemidentikation und Regelung in der Medizin 18 x(k): S 1-dimens. Zustandsvektor, u(k): I 1-dimens. Eingangsgröÿenvektor, v(k): I 1-dimens. Spaltenvektor des Systemrauschens, y(k) (messbarer Ausgang) und e(k) (Messrauschen): Dim. O 1, A(k) S S dim. Systemzustandstransitionsmatrix, C(k) O S dim. Ausgangsmatrix, B(k) S I dim. Eingangsgröÿentransitionsmatrix Folgendes ist bekannt für k = k 0, k 0 + 1, k 0 + 2,..., j k: A, B, C, D (56) E{v(k)} = 0; E{v(k)v T (j)} = V δ kj (57) E{e(k)} = 0; E{e(k)e T (j)} = Y δ kj (58) E{e(k)v T (j)} = 0 (59) x(k 0 ) = x k0 ; cov{x(k 0 )} = P k0 (60) 1. Setze k = k 0. Initialisierung: ˆx(k 0 k 0 ) = x k0, P k0 k 0 = P k0

19 Systemidentikation und Regelung in der Medizin Zeitupdate: Berechnung der Zustandsschätzung zum Zeitpunkt k + 1 basierend auf allen Informationen bis zum Zeitpunkt k: ˆx(k + 1 k) = Aˆx(k k) + Bu(k) (61) sowie Update der Kovarianzmatrix P des Fehlers in ˆx(k + 1 k): P (k + 1 k) = AP (k k)a T + V (62) 3. Beobachtungsupdate: Beobachtung der neuen Messung y(k + 1) zur Abtastpunkt k + 1; Berechnung der Kalmanlter-Verstärkungsmatrix K(k + 1) = P (k + 1 k)c T [ Y + CP (k + 1 k)c T ] 1 (63) und Korrektur der Zustandsschätzung: ˆx(k + 1 k + 1) = ˆx(k + 1 k) + K(k + 1)[y(k + 1) C ˆx(k + 1 k)] (64) Update der neuen Kovarianzmatrix: P (k + 1 k + 1) = P (k + 1 k) K(k + 1)CP (k + 1 k). (65) 4. Erhöhung des Index k = k + 1 und Rückkehr zum Schritt 2

20 Systemidentikation und Regelung in der Medizin Parameterschätzung mit dem Kalmanlter am Beispiel linearer Regressionsmodelle Angenommenes System: y(k) = ϕ T (k)θ + ζ(k), (66) wobei {ζ(k)} eine Sequenz von unabhängigen normalverteilten Gröÿen ist mit Erwartungswert Null und Varianz σζ 2. Die vorausgehende Verteilung der Schätzung von Θ ist normalverteilt mit Erwartungswert ˆΘ 0 und Kovarianz P 0. Das Modell (66) kann als lineares Zustandsraummodell betrachtet werden: Θ(k + 1) = Θ(k) (67) y(k) = ϕ T (k)θ(k) + ζ(k) (68) Ein Vergleich mit (54)-(60) zeigt, dass die Gleichungen identisch sind für folgende

21 Systemidentikation und Regelung in der Medizin 21 Ersetzungen: A I; x(k) Θ(k) (69) B 0; u(k) 0 (70) v(k) 0; V 0 (71) C ϕ T (k); y(k) y(k) (72) e(k) ζ(k); Y σζ 2 (73) ˆx(0 0) Θ 0 ; P (0 0) P 0 (74)

22 Systemidentikation und Regelung in der Medizin 22 Der Kalmanlter ist den gegeben wie folgt (man beachte: P (k) P (k + 1 k) = P (k k); ˆΘ(k) ˆΘ(k + 1 k) = ˆΘ(k k)): P (k)ϕ(k + 1) K(k + 1) = σ 2 + ϕ T (k + 1)P (k)ϕ(k + 1) ˆΘ(k + 1) = ˆΘ(k) [ + K(k + 1) y(k + 1) ˆΘ ] T (k)ϕ(k + 1) (75) (76) P (k + 1) = P (k) K(k + 1)ϕ T (k + 1)P (k) (77) Der Kalmanlter beinhaltet RLS als speziellen Fall. Die Initialwerte des RLS-Algorithmus haben nun eine klare Interpretation. Der Kalmanlteransatz liefert auch den optimalen Wichtungsfaktor: α k = 1 σ 2 ζ. (78) Bei zeitvarianten Systemen (Parameter ändern sich mit der Zeit) wird folgendes Modell für die Systemparameter angenommen: Θ(k + 1) = Θ(k) + v(k) (79)

23 Systemidentikation und Regelung in der Medizin 23 Mit V 0 ergibt sich für das Update der Kovarianzmatrix: P (k + 1) = P (k) K(k + 1)ϕ T (k + 1)P (k) + V (80) Der Term V verhindert, dass P (k) gegen Null geht (P (k) V )). Der Algorithmus bleibt somit sensitiv gegenüber Änderungen der Systemparameter Θ.

24 Systemidentikation und Regelung in der Medizin Erweiterter Kalman Filter (EKF) Problem der Zustandsschätzung nichtlinearer zeitdiskreter Systeme. Idee: Anwendung der zuvor hergeleiteten Kalmanlter-Gleichungen mit zeitvarianten A(k), B(k) und C(k), welche durch fortlaufende Taylorreihen-Linearisierung des nichtlinearen Systems am derzeit geschätzten Zustand erhalten werden. Ein EKF liefert in der Regel gute Ergebnisse, auch wenn Optimalität wie beim Standard-Kalmanlter keinesfalls garantiert ist. Nichtlineares Zustandsraummodell (Denition von x, u, y, v, e wie zuvor) x(k + 1) = f(x(k), u(k)) + v(k) (81) y(k) = h(x(k)) + e(k) (82) mit den nichtlinearen Vektorfunktionen f und h. Die fortlaufende Linearisierung

25 Systemidentikation und Regelung in der Medizin 25 liefert: f(x(k), u(k)) A(k) = x(k) f(x(k), u(k)) B(k) = u(k) C(K) = h(x(k)) x(k) Algorithmus: ˆx(k k),u(k) ˆx(k k),u(k) (83) (84) ˆx(k k) (85) 1. Setze k = k 0. Initialisierung: ˆx(k 0 k 0 ) = x k0, P k0 k 0 = P k0 2. Zeitupdate: Berechnung der Zustandsschätzung zum Zeitpunkt k + 1 basierend auf allen Informationen bis zum Zeitpunkt k: ˆx(k + 1 k) = f(ˆx(k k), u(k)) (86)

26 Systemidentikation und Regelung in der Medizin 26 sowie Update der Kovarianzmatrix P des Fehlers in ˆx(k + 1 k): P (k + 1 k) = A(k)P (k k)a(k) T + V (87) 3. Beobachtungsupdate: Beobachtung der neuen Messung y(k + 1) zur Abtastpunkt k + 1; Berechnung der Kalmanlter-Verstärkungsmatrix K(k + 1) = P (k + 1 k)c(k) T [ Y + C(k)P (k + 1 k)c T ] 1 und Korrektur der Zustandsschätzung: (88) ˆx(k + 1 k + 1) = ˆx(k + 1 k) + K(k + 1)[y(k + 1) h(ˆx(k + 1 k))](89) Update der neuen Kovarianzmatrix: P (k + 1 k + 1) = P (k + 1 k) K(k + 1)C(k)P (k + 1 k). (90) 4. Erhöhung des Index k = k + 1 und Rückkehr zum Schritt 2