Verteilte Lösung von simulationsbasierten Optimierungsproblemen Entwicklung einer maßgeschneiderten Evaluierungssoftware

Transkript

1 Verteilte Lösung von simulationsbasierten Optimierungsproblemen Entwicklung einer maßgeschneiderten Evaluierungssoftware Kamil Szczesny, Van Vinh Nguyen Lehrstuhl für Informatik im Bauwesen, Ruhr-Universität Bochum Kurzfassung: Die Lösung komplexer Ingenieurprobleme führt in der Regel auf simulationsbasierte Optimierungsprobleme (SOP), die aufgrund ihrer Eigenschaften (z. B. nichtlinear, multimodal etc.) hohen numerischen Aufwand nach sich ziehen. Ein möglicher Ansatz, den entstehenden numerischen Gesamtaufwand zu reduzieren, besteht vor allem darin, die einzelnen Simulationen auf eine Vielzahl von Rechnern zu verteilen und dann parallel auszuführen. Im vorliegenden Beitrag wird dazu ein Evaluierungsdienst (Service) vorgestellt, der transparent die Evaluierung von SOPs parallel auf einem Computercluster ausführen kann. Für die parallele Evaluierung der Optimierungsprobleme wurde das Computational Grid Framework GridGain eingesetzt. Mit Hilfe dieses Dienstes konnte die Ausführungseffizienz von Optimierungsprozessen der SOP-Kategorie merklich erhöht werden. Gleichzeitig wurde die Integration und Anwendung von parallelen Berechnungen erheblich vereinfacht. Anhand von verschiedenen Funktions- und Strukturoptimierungsproblemen wird die Skalierbarkeit und Funktionsweise des Evaluierungsdienstes demonstriert. Die Verifikation des Evaluierungsdienstes erfolgt durch eine parallel arbeitende Particle Swarm Optimierungsmethode (PSO). 1 Einleitung In den Ingenieurwissenschaften wird man mit immer anspruchsvolleren Problemen konfrontiert, die trotz ihrer Komplexität effizient gelöst werden müssen. Die Komplexität entsteht durch Nichtlinearität und Multimodalität der Zielfunktion, aber auch durch eingeschränkte Suchräume. Die Lösung solcher Probleme kann mit Hilfe von simulationsbasierter Optimierung (SOP) durchgeführt werden. Bei besonders rechenintensiven Simulationen erhöht sich der numerische Rechenaufwand, den ein einzelner Rechner zu bewältigen hat, um eine Evaluierung einer simulationsbasierten Optimierung durchzuführen, nochmals. Simulationsbasierte Optimierung beruht im Allgemeinen auf dem Drei-Säulen Konzept der Optimierung (vgl. NGUYEN & HARTMANN (2009)), das in Abbildung 1 wiedergegeben ist und sich in die Simulation, den Optimierungsalgorithmus und das Optimierungsmodell unterteilt. Die Simulation dient dazu ein praxisbezogenes Problem in einem Computer abzubilden, sodass es studiert werden kann. Durch Variation entsprechender Eingabeparameter wird die Simulation gesteuert. Hierdurch können Vorhersagen über das Verhalten des realen Problems gemacht werden. Eine Simulation kann beispielsweise eine Finite Element Analyse (FEA) oder Mehrkörpersimulation (MKS) sein. Der Optimierungsalgorithmus hat die Aufgabe eine mathematische Zielfunktion unter Beachtung vorgegebener Nebenbedingungen zu optimieren; er beruht bei-

2 spielsweise auf einem stochastischen Verfahren, wie der Particle Swarm Optimierung (PSO) oder deterministischen Verfahren, wie dem Sequential Quadratic Programming (SQP). Das Optimierungsmodell bildet das Bindeglied zwischen dem Optimierungsalgorithmus und der Simulation und interagiert mit beiden. Es sorgt somit für die Transformation der technischen Aufgabe in ein mathematisches Problem. Dabei werden Entwurfsvariablen, Nebenbedingungen und die Zielfunktion festgelegt, mit denen dann der Optimierungsalgorithmus arbeitet (vgl. NGUYEN & HART- MANN (2009)). Simulation (FEA, MKS, ) Technische Aufgabe Optimierungsmodell Mathematisches Problem Opt. Algorithmus Abbildung 1: Drei-Säulen Konzept der Optimierung Der Beitrag ist wie folgt strukturiert: In Abschnitt zwei wird das Konzept der verteilten Lösung für die Evaluierung von SOP vorgestellt. Dabei erfolgt eine kurze Vorstellung des zur parallelen Lösung erstellten Programmiermodells MapReduce. Im dritten Abschnitt werden neben den per Simulation durchgeführten Experimenten die Grundlagen vorgestellt, auf den die Auswertung der Experimente beruht. Abschließend werden Schlussfolgerungen gezogen. 2 Verteilte Lösung Der vorgestellte Ansatz basiert auf der Verteilung der Berechnungen der einzelnen Simulationen in einem Rechencluster. Durch die verteilte Evaluierung von SOP wird der zeitliche Gesamtaufwand verringert. Die verteilte Lösung beruht auf dem am Lehrstuhl für Informatik im Bauwesen implementierten MOPACK 1 Optimierungsframework. MOPACK stellt Klassen und Methoden zur Verfügung, die eine einfache und schnelle Implementierung von Optimierungsalgorithmen sowie -problemen ermöglichen. Zudem enthält das Framework mehrere Testprobleme und ausgetestete Optimierungsverfahren. Das der verteilten Lösung unterlegte Konzept ist in Abbildung 2 dargestellt. Mit dem MOPACK Client ist es möglich, ein bestimmtes Optimierungsproblem mit verschiedenen Optimierungsverfahren zu lösen. Das MOPACK Framework ist so implementiert, dass die Trennung zwischen Optimierungsalgorithmus und - problem bzw. Simulation gemäß dem Drei-Säulen Konzept der Optimierung eingehalten wird. So kann beispielsweise ein Optimierungsverfahren (z. B. eine der 1 Multi-method Optimization PACKage

3 möglichen Evolutionsstrategien oder eine PSO o.ä.) eingesetzt werden, um ein SOP zu lösen, ohne dessen genaue Formulierung zu kennen. Der Evaluierungsdienst (Service) ist in der Lage, die Bewertung von Optimierungsproblemen transparent und parallel auf einem Computercluster auszuführen. Hierfür können beliebig viele Evaluierungspunkte 2 effizient für ein gegebenes Optimierungsproblem bewertet werden. Die Verteilung der Evaluierungspunkte basiert auf dem MapReduce Programmiermodell. Die Implementierung dieses Modells erfolgt durch das Open Source Computational Grid Framework GridGain (vgl. GRIDGAIN) Zu diesem Zweck wird eine zentrale GridGain Instanz, als Dienst im JBoss Application Server (AS) zur Verfügung gestellt. Sie nimmt die Verteilung für die Evaluierung der SOP vor. Der so realisierte Evaluierungsdienst kann von dem MOPACK Client transparent benutzt werden. Der Dienst ist auf Grundlage der EJB3-Technologie 3 implementiert und stellt gleichzeitig eine einfache sowie einheitliche Schnittstelle für das MOPACK Framework bereit. Er wird im EJB Container eines AS eingesetzt. Das MapReduce Programmiermodell ist gut geeignet, um große Datenmengen zu verarbeiten (vgl. DEAN & GHEMAWAT (2004)). Es basiert auf den zwei Schlüsselmethoden map und reduce. Ziel der Methode map ist es, aus einer Task eine Mehrzahl von kleineren Jobs zu erzeugen, die gut für eine parallele Verarbeitung geeignet sind. Die Methode reduce dagegen aggregiert diese Jobs wieder zu einer Task. Der grobe Ablauf des Modells ist folgender: Die durch die Methode map aufgeteilten Tasks werden in Form von Jobs in einem Rechencluster parallel verarbeitet. Die Ergebnisse dieser Berechnungen werden der Methode reduce zugeführt, die alle Jobs wieder zu einer Task aggregiert, die ihrerseits nun auch die Resultate enthält. Im Rechencluster wird das GridGain Framework dazu verwendet, um ein Computational Grid bereitzustellen. Hierfür wird auf jedem Knoten im Rechencluster ein GridGain Knoten gestartet, der die Bewertung der Evaluierungspunkte vornimmt. MOPACK Client Optimierungsalgorithmus P3 P1 P4 P2 Der gewählte Ansatz besitzt eine Reihe von Vorteilen: Durch den Client-Serverbasierten Ansatz erfolgt eine Entkoppelung zwischen dem Optimierungsverfahren 2 Ein Evaluierungspunkt entspricht einer Entwurfsvariablen. 3 Enterprise Java Beans {x 1,x 2, } Netzwerk {(f 1,g 1 ),(f 2,g 2 ),...} verschiedene Schnittstellen (RMI, CORBA) JBoss AS Evaluierungsdienst GridGain Instanz verteilt die Berechnung von simulationsbasierten Problemen Abbildung 2: Verteilte Lösung Rechencluster GridGain Knoten N1,1 N1,2 Simulation N2,1 Simulation Berechnet ein SOP Simulation N..,.. Simulation

4 (Client) und dem Evaluierungsdienst (Server). Hierdurch wird Transparenz für den Client geschaffen, der nicht wissen muss, ob seine Evaluierungspunkte lokal oder in einem Cluster parallel evaluiert werden müssen. Infolgedessen kann ein Optimierungsverfahren gleichzeitig mehrere Entwurfsvektoren vom Evaluierungsdienst evaluieren lassen, ohne sich um die technischen Details der Parallelisierung zu kümmern. Zudem besitzt der Evaluierungsdienst auch keine Kenntnis darüber, welche Optimierungsstrategie der Client einsetzt; dies ermöglicht einen einfachen Austausch der konkreten Implementierung des Clients sowie des Servers. Ein weiterer sehr wichtiger Vorteil dieser Lösung liegt in ihrer ausgereiften Class Loading Eigenschaft 4. Der entscheidende Vorteil hierbei ist, dass das zu lösende Problem erst zur Laufzeit geladen wird und seine Implementierung vorher nicht jedem GridGain Knoten bekannt sein muss. 3 Experimente Um die Skalierbarkeit und Verifikation des Evaluierungsdienstes zu demonstrieren, werden Testfälle herangezogen. Zur Überprüfung der Skalierbarkeit wurde die Pinter Funktion (vgl. NGUYEN & HARTMANN (2009)) mit 50 Dimensionen verwendet. Die Pinter Funktion ist eine komplexe multimodale Funktion, deren globales Optimum parametrisierbar ist. Das globale Optimum ist vorab beliebig wählbar. Die Funktion ist wie folgt definiert: (3.1) mit, beliebig wählbare Lösung und, sowie Die Verifikation der Funktionsweise des Evaluierungsdienstes erfolgt durch das zweite Testbeispiel. Es wird das bekannte 18-Stab Fachwerk (vgl. GRILL (1998)) Strukturoptimierungsproblem betrachtet. Das Strukturoptimierungsproblem wird dabei als eine minife 5 (BAITSCH et al. (2006)) Simulation realisiert. Als Optimierungsverfahren wird eine PSO eingesetzt, welche unter Verwendung des MOPACK Frameworks implementiert wurde. 4 Mit dem Einsatz des Peer Class Loading des Frameworks GridGain in Kombination mit den Class Loading Methoden des Frameworks MOPACK, ist es möglich, Problemklassen über mehrere Java VM Instanzen hinweg zur Laufzeit zu laden. 5 minife ist eine am Lehrstuhl für Informatik im Bauwesen entwickelte Finite Elemente Analyse Software, die in Java implementiert ist.

5 3.1 Eingesetzte Hardware Die Testfälle wurden auf dem Institutseigenen Cluster durchgeführt, der aus einem Steuerknoten und 56 einzelnen Knoten besteht, die ihrerseits über zwei getrennte Gigabit-Netzwerke gekoppelt sind. Alle Knoten sind mit zwei AMD Opteron 248 CPUs und 2GB Arbeitsspeicher bestückt. Der Steuerknoten besitzt dazu abweichend 4GB Arbeitsspeicher. Als Betriebssystem ist auf allen Knoten Ubuntu installiert (vgl. WELLMANN JELIC & BILEK (2006)). 3.2 Performancemessung verteilter Anwendungen Die Reduktion der Dauer, die jeweils benötigt wird, um ein SOP zu optimieren, ist das Hauptziel der verteilten Evaluierung. Damit qualitative Aussagen über die Güte einer verteilten Anwendung getroffen werden können, müssen Metriken definiert werden, mit denen verschiedene verteilte Lösungen miteinander verglichen oder bewertet werden können. Im Folgenden werden geeignete Metriken vorgestellt, die auch in BEN- GEL et al. (2008) vorgeschlagen werden. Der Speedup beschreibt das Verhältnis der Laufzeit eines sequentiellen Algorithmus zur Laufzeit eines parallelen Algorithmus wie folgt: (3.2) mit Anzahl Prozessoren, Laufzeit sequentieller Algorithmus auf einem Prozessor und Laufzeit paralleler Algorithmus auf Prozessoren. Allgemein gilt für den Speedup die Anzahl der Prozessoren als obere Schranke, sodass für den Speedup ein Wert erwartet wird. Die Effizienz gibt die relative Verbesserung der Verarbeitungsgeschwindigkeit eines parallelen Algorithmus unabhängig von der Anzahl der Prozessoren an. Dafür wird der Speedup nach (3.2) mit der Anzahl der Prozessoren normiert. Die Effizienz berechnet sich dann wie folgt: (3.3) Allgemein wird für die Effizienz ein Wert im Intervall erwartet. Für liegt ein linearer Speedup vor. Das heißt, dass ein paralleler Algorithmus auf Prozessoren, -mal schneller abläuft, als auf einem einzelnen Prozessor. Dies ist nicht realistisch, da Algorithmen immer einen bestimmten sequentiellen Anteil besitzen, der auf einem Prozessor abgearbeitet werden muss, sodass für die Effizienz gilt. 3.3 Skalierbarkeit des Evaluierungsdienstes Die Skalierbarkeit des Evaluierungsdienstes wurde mit der 50-dimensionalen Pinter Funktion nach (3.1) ermittelt. Um der zu schnellen Evaluierung der mathematischen

6 Effizienz Effizienz Funktion entgegenzuwirken, wurde diese für Testzwecke zusätzlich in ihrer Berechnungsdauer verlangsamt. Testfall 1 Im ersten Testfall wurde die Pinter Funktion künstlich um 50 Millisekunden in ihrer Berechnungsdauer verlangsamt. Die Anzahl der GridGain Knoten im Rechencluster wurde variiert. Damit lässt sich die Skalierbarkeit des Dienstes in Abhängigkeit von der Anzahl der verwendeten GridGain Knoten feststellen. Anhand der ermittelten Werte, die in Abbildung 3 wiedergegeben sind, ist bis zum Einsatz von 20 GridGain Knoten eine linear abnehmende Skalierbarkeit feststellbar. Ab 20 GridGain Knoten konvergiert die Skalierbarkeit gegen einen Effizienzwert von 0,8. Dies ist darauf zurückzuführen, dass durch die zunehmende Anzahl der GridGain Knoten, der Verwaltungsaufwand für den Dienst zunimmt. Da der Verwaltungsaufwand immer sequentiell abgearbeitet wird, folgt daraus mit zunehmender Knotenanzahl eine Abnahme der Skalierbarkeit. Testfall 2 Im zweiten Testfall wurde der Dienst mit einer konstanten Anzahl von 20 GridGain Knoten getestet. In diesem Testfall wurde die Berechnungsdauer der Evaluierung variiert, um die Effizienz der Komponente unabhängig von der Anzahl der GridGain Knoten zu ermitteln. Wie die Ergebnisse in Abbildung 4 zeigen, skaliert der Evaluierungsdienst mit zunehmender Berechnungsdauer immer besser. Aus den Ergebnissen der zwei Testfälle geht hervor, dass der Evaluierungsdienst erst sinnvoll eingesetzt werden kann, wenn das zu optimierende SOP eine relativ hohe Berechnungsdauer besitzt. Zudem ist die Verteilung auf ein relativ großes Grid erst ab einer Berechnungsdauer von 50 Millisekunden pro Evaluierung sinnvoll. 1 0,9 0,8 1,1 1 0,9 0,8 0,7 0,6 20 ms 50 ms Anzahl Knoten Abbildung 3: Test mit variabler Gridknotenanzahl 0,7 0, Berechnungsdauer in ms Abbildung 4: Test mit variabler Berechnungsverzögerung 3.4 Verteilte Strukturoptimierung Die Verifizierung des Evaluierungsdienstes wurde anhand des 18-Stab Fachwerk Strukturoptimierungsproblems vorgenommen. Bei dem Fachwerk handelt es sich um ein ebenes Fachwerk mit einem einzelnen Lastfall (siehe Abbildung 5). Ziel der Opti-

7 mierung ist es, das Fachwerk hinsichtlich des Gewichts sowie der Gestalt zu optimieren. Insgesamt existieren zwölf Optimierungsvariablen und 36 Nebenbedingungen. Eine detaillierte Beschreibung des Problems ist in GRILL (1998) wiedergegeben. Abbildung 5: 18-Stab Fachwerk Um die Optimierung durchzuführen, wird das stochastische Optimierungsverfahren PSO verwendet, das 1995 von Kennedy und Eberhart vorgestellt wurde (vgl. KEN- NEDY & EBERHART (1995)). Das populationsbasierte Optimierungsverfahren verwendet einen Schwarm von unabhängigen Partikeln, die jeweils eine mögliche Lösung des Problems darstellen. Dadurch eignet sich das Verfahren besonders gut für die Parallelisierung. Unter Verwendung des MOPACK Optimierungsframework ist eine parallel arbeitende PSO implementiert worden. Diese Variante bietet die Möglichkeit, innerhalb einer Iteration alle Partikel eines Schwarms parallel auszuwerten. Als konkretes PSO Verfahren wird die Variante cpso 6 (conventional PSO) (vgl. ARUMU- GAM et al. (2008)) mit folgenden Parametern verwendet: Populationsgröße = 20 und. Weil die PSO ein stochastisches Optimierungsverfahren ist, wurde die Optimierung in 100 unabhängigen Durchläufen durchgeführt. In Tabelle 3-1 sind der Mittelwert, die Standardabweichung, der beste und schlechteste Zielfunktionswert respektive sowie der Mittelwert des Speedup (für acht GridGain Knoten) sowie die dazugehörige Effizienz angegeben. Aus den Ergebnissen ist erkennbar, dass die parallel arbeitende PSO-Methode den Evaluierungsdienst effizient benutzen kann. Die Ergebnisse der Optimierung des Strukturoptimierungsproblems sind vergleichbar mit denen aus der Literatur. Hinzukommt, dass diese Optimierung verteilt durchgeführt wurde. Der durchschnittliche Speedup von 6,4 verdeutlicht noch einmal die effektive Arbeitsweise des Evaluierungsdienstes. Tabelle 3-1: Ergebnisse der Strukturoptimierung des 18-Stab Fachwerk 0,8 6 Im Gegensatz zum Standard PSO-Verfahren, verwendet die cpso Variante, zeitabhängige Werte für die verfahrensspezifischen Parameter und.

8 4 Zusammenfassung Es wurde ein Evaluierungsdienst vorgestellt, der in der Lage ist, simulationsbasierte Optimierungsprobleme in einem Rechencluster effektiv zu evaluieren. Weiterhin benutzt der Evaluierungsdienst intern das Computational Grid Framework GridGain, das eine Grid Umgebung zum parallelen Rechnen anbietet. Der Evaluierungsdienst zeichnet sich besonders durch das durchdachte Class Loading der eingesetzten Frameworks GridGain und MOPACK aus. Hierdurch erhöht sich die Flexibilität des MOPACK Frameworks, da Probleme vorher nicht explizit verteilt, sondern bei Bedarf geladen werden können. In den durchgeführten numerischen Experimenten wurde festgestellt, dass die Skalierbarkeit der Evaluierungskomponente von den Faktoren Größe des Grids und der Berechnungsdauer einer Evaluierung abhängig ist. Es kann somit die Schlussfolgerung getroffen werden, dass eine besonders gute Skalierung erreicht werden kann, wenn die Berechnungsdauer pro Evaluierung relativ hoch ist. Für diese Fälle ist ein großes Computational Grid von Vorteil. 5 Referenzen ARUMUGAM et al. (2008). A new and improved version of particle swarm optimization algorithm with global local best parameters, Knowledge and Information Systems 16, S BAITSCH et al. (2006). An object-oriented approach to high order finite element analysis of threedimensional continua, Proceedings of the 3rd European Conference on Computational Mechanics: Solids, Structures and Coupled Problems in Engineering, Lissabon, Portugal. BENGEL et al. (2008). Masterkurs Parallele und Verteilte Systeme, Wiesbaden: Vieweg + Teubner. DEAN & GHEMAWAT (2004). MapReduce: Simplified Data Processing on Large Clusters, Sixth Symposium on Operating System Design and Implementation, San Francisco, CA, USA, S GRIDGAIN - Cloud Development Platform, GridGain Systems, Inc. [Online], Verfügbar: [Letzter Zugriff: 14 Juni 2010]. GRILL (1998). Ein objektorientiertes Programmsystem zur diskret-kontinuierlichen Strukturoptimierung mit verteilten Evolutionsstrategien, Düsseldorf: VDI Verlag. KENNEDY & EBERHART (1995). Particle Swarm Optimization, Proceedings of IEEE International Conference on Neural Networks, S NGUYEN & HARTMANN (2009). A Computational Steering Approach towards Simulation-based Optimization in Engineering using an Agent-based Strategy Network of Optimization Methods, Proceedings of the Third International Conference on Modeling, Simulation and Applied Optimization, Sharjah, U.A.E. WELLMANN JELIC & BILEK (2006). Effizienzvergleich eines Agenten-Frameworks für parallele Ermüdungssimulationen mit klassischen Parallelisierungstechniken, 18. Forum Bauinformatik 2006, Weimar.