Arbeitsgruppe Algorithmische Optimale Steuerung

Transkript

1 Arbeitsgruppe Algorithmische Optimale Steuerung Prof. Dr. Thomas Slawig Computational Science Center DFG Cluster Future Ocean Christian-Albrechts-Universität Kiel

2 Algorithmische Optimale Steuerung Das sind: Optimierungsaufgaben, bei denen ein Modell aus (meist partiellen) Differentialgleichungen gegeben ist Analyse der Optimierungsaufgaben erfordert Analyse der Modellgleichungen Existenz und Eindeutigkeit von Minima Algorithmen zur Lösung der Optimierungsprobleme erfordern (schnelle) Algorithmen zur Lösung der Modellgleichungen Erweiterung: Unsicherheitsanalysen: Vorwärtsanalyse: unsicherer Input -> unsicherer Output Rückwärtsanalyse: Parameteroptimierung auf Basis unsicherer Daten -> unsichere Parameter + Modelloutput

3 Klima als Beispiel eines komplexen Systems Komplexes, gekoppeltes System, wesentliche Komponenten: Atmosphäre Ozean (See- und Land-) Eis Vegetation Landoberfläche menschlicher Einfluss

4 Wie wird das Klima beschrieben und modelliert? Klimamodelle sind Systeme zeitabhängiger räumlich dreidimensionaler nichtlinearer partieller Differentialgleichungen analytische Lösungen ( auf dem Papier ) sind nicht möglich Lösungen müssen durch numerische Simulation approximiert werden Simulationen sind sehr zeit- und rechenintensiv

5 Wie wird das Klima beschrieben und modelliert? zeitabhängige, nichtlineare partielle Differentialgleichungen: 3-D math. Formulierung im Funktionenraum: ( ) ut div(ν u) + v u + p x v t div(ν v) + v v + p y = Ω v p z = ρg w z = u x v y S t div(ν S) + v S = 0 T t div(ν T ) + v T = 0 ρ = ρ(t, S)

6 Wozu wird Optimierung benutzt? Modelle liefern Prognosen Modelle müssen validiert werden Modelle sollen verbessert werden Unsicherheiten sollen verringert werden IPCC AR5 The Physical Science Basis Fig. 12.5: Temperature projections for different RCP scenarios, RCP: Representative Concentration Pathway (greenhouse gas emissions scenario)

7 Optimierungsproblem in der Klimaforschung Wie kann man Modelle verbessern? Vergleich: Modellergebnisse - Messdaten particulate organic nitrogen(p+z+d) model output BATS data Modelloutput hängt von Parametern ab: Minimiere Abstand Modelloutput zu Daten durch Variation der Parameter Mathematisch: Parameteroptimierungsproblem min p ky y data k y = M(p) Years (Parameter nur empirisch bekannt, geschätzt)

8 Wie läuft eine Optimierung ab? Was wissen wir über unsere Zielfunktion? Beispiel: (2 Parameter) F (p) =k M(p) {z } =y y data k!min

9 Algorithmische Optimale Steuerung Optimierungsproblem im Funktionenraum Diskretisierung Optimierungsproblem im R n Optimierung Optimierung Optimierungsalgorithmus im Funktionenraum Diskretisierung Optimierungsalgorithmus im R n

10 Bedeutung effizienter numerischer Verfahren für die Simulation Standard-Verfahren: Fixpunktiteration zur Bestimmung des periodischen Zustandes y k+1 := G(y k ),k =1, 2,... Newton-Verfahren: 0 (y k ) y = (y k ) Spin-up, y l,j=1 y l 1,j=1 2 Spin-up, y l y l 100 2,V Newton-Krylov y k+1 := y k + y, k =1, 2,... = G Id Norm [m mol P/m 3 ] Model years

11 Ausnutzen paralleler Hardware Rechnungen auf örtlichen Teilgebieten können gleichzeitig durchgeführt werden (Gebietszerlegung) Ideal Best possible Intel Sandy Bridge EP 200 AMD Barcelona Speedup factor Number of processes

12 Modellkopplung: Software Engineering Definition von Modellschnittstellen gekoppeltes Modell als Software

13 Wie läuft eine Optimierung ab? Was wissen wir über unsere Zielfunktion? Modell war schon nichtlinear und nicht analytisch lösbar Auch die Zielfunktion ist daher nichtlinear. Auch das Optimierungsproblem ist nicht analytisch lösbar, sondern nur approximativ und mit iterativen Algorithmen. Das heißt: Wir erzeugen eine Folge p k! p F (p) =k M(p) {z } =y (p k ) k2n mit dem Ziel (ein/das Minimum). y data k!min

14 Optimierung: Zwei strategische Entscheidungen 1. Entscheidung: deterministische Suche (z. B. Verwendung von Ableitungsinformationen, deterministisch: in jedem Durchlauf mit demselbem Startwert ergibt sich dieselbe Iterationsfolge) oder stochastische Suche ( Würfeln ) 2. Entscheidung: lokale (jeweils in der Umgebung eines Punktes, s.o.) oder globale Suche (im gesamten Bereich) Jede Kombination ist möglich.

15 Optimierungsstrategien: Konsequenz? Globale Suche ohne Vorwissen über die Funktion ist viel zu aufwändig. Liefert ein Algorithmus ein Ergebnis, so ist nie klar, ob es sich um ein globales oder doch nur wieder ein lokales Minimum handelt. Ohne Wissen über die Funktion ist mit deterministischer oder stochastischer globaler Suche in realistischer Zeit kein globales Minimum zu finden. Stochastische Suche ohne Speichern aller Werte ist langsamer als deterministische Suche. Daher: Lokale Suchstrategien, deterministisch und stochastisch oder hybrid (gemischt).

16 Wie funktioniert eine stochastische lokale Suche? Nachbau der Evolution (Evolutionsstrategie nach Rechenberg, TU Berlin): Population von Individuen (= Parametersätzen) Mutation der Gene (= Parameterwerte), d. h. Erzeugen von neuen Individuen mit zufällig gewählten Werten innerhalb einer Umgebung Evtl. Cross-Over: Mischung der Gene von zwei guten Individuen Auswahl der Besten ( = mit geringstem Zielfunktionswert) und so weiter Wichtig: ebenfalls Vererbung und Mutation der Mutationseigenschaften

17 Wie funktioniert eine deterministische lokale Suche? Benutze Abstiegs- oder Ableitungsinformation zur Approximation der Funktion: 1. oder 2. Ordnung Wissen über die Funktion nötig (Differenzierbarkeit) F (p) F 0 (ˆp) Ableitungsberechnung kostet auch Rechenzeit ˆp

18 Problematik lokaler Minima: Griewank - Funktion mit vielen lokalen und einem globalen Minimum

19 Optimierungsstrategien am realen Beispiel: marines Ökosystemmodell: Datenqualität? Bei erreichbaren Daten findet ein lokales deterministisches Verfahren die richtigen Parameter 10 5 Cost function 0.75 u 1, DOP remineralization rate Model evaluations Model evaluations

20 Reale Daten Latitude Modelloutput marines Ökosystemmodell (Oberfläche) Longitude Anzahl und Verteilung der verfügbaren Messdaten