DEISA Ein virtueller europäischer Supercomputer

Transkript

1 DEISA Ein virtueller europäischer Supercomputer Forschungszentrum Jülich Zentralinstitut für Angewandte Mathematik 1 r.niederberger@fz-juelich.de

2 Überblick Das DEISA Projekt Aufgaben und Ziele, Projektorganisation, Operationelles Modell Operationelle Aspekte beim Betrieb eines virtuellen europäischen Supercomputers Networking, Administration, Sicherheit Zusammenfassung 2 r.niederberger@fz-juelich.de

3 Das DEISA Projekt im Überblick 3 r.niederberger@fz-juelich.de

4 Das DEISA Konsortium DEISA ist ein Konsortium führender nationaler Supercomputer Zentren in Europa IDRIS CNRS, Orsay, France FZJ, Jülich, Germany CINECA, Bologna, Italy EPCC, Edinburgh, UK CSC, Helsinki, Finland RZG, Garching, Germany SARA, Amsterdam, The Netherlands ECMWF (European Organization), Reading, UK Gefördert durch: European Union FP6 Projektlaufzeit: May 2004 April r.niederberger@fz-juelich.de

5 Das DEISA Konsortium (2) Erweiterung geplant ab dem zweiten Projektjahr BSC, Barcelona, Spain CSC, Helsinki, Finland CINECA, Bologna, Italy EPCC, Edinburgh, UK ECMWF, Reading, UK FZJ, Jülich, Germany HLRS, Stuttgart, Germany IDRIS CNRS, Orsay, France LRZ, München, Germany RZG, Garching, Germany SARA, Amsterdam, The Netherlands Weitere Einrichtungen als assoziierte Partner vorgesehen (aus verschiedenen Ländern) 5 r.niederberger@fz-juelich.de

6 Aufgaben und Ziele Steigerung der Effizienz des High Performance Computing (HPC) in Europa (Capability and Capacity) durch Integration existierender führender nationaler Supercomputer-Infrastrukturen Bereitstellung und Betrieb einer verteilten multi-terascale Computerplatform auf europäischer Ebene durch enge Verknüpfung der Supercomputer virtuelles europäisches Supercomputing Zentrum Beitrag zur Erweiterung eines heterogenen Grid-computing Umfeldes in Europa der virtuelle europäische Supercomputer als Teil einer europäischen Grid-Infrastruktur. 6 r.niederberger@fz-juelich.de

7 Technologische Vision DEISA basiert auf enger Kopplung von High End Supercomputer- Ressourcen, keine lose Kopplung Einziges Erfolgskriterium ist wissenschaftlicher Fortschritt (enabling new science) Auswahl der IT Systeme geschah nicht Hersteller-bezogen, sondern rein strategisch aufgrund der Aufgaben der einzelnen Organisationen Hieraus folgt: DEISA nicht an eine vorgegebene Technologie gebunden. DEISA hat eine innovative Sicht der Integration von HPC Systemen: Weiterentwicklung von Cluster Coftware (global file systems, batch managers) zu Distributed Super-Cluster Middleware (distributed global file systems, multi-cluster batch managers) 7 r.niederberger@fz-juelich.de

8 Projekt Organisation Globale Aktivitäten: NA1 Management NA2 Dissemination (IDRIS) (CSC) Betrieb des virtuellen Supercomputer Zentrums: SA1 Network deployment and operation SA2 Global File Systems SA3 Middleware SA4 Applications and user support SA5 Security (FZJ JÜLICH) (RZG GARCHING) (CINECA) (IDRIS) (SARA) 8 r.niederberger@fz-juelich.de

9 Projekt Organisation (2) Allgemeine Anwendungsbetreuung und Betreuung von ersten Nutzern der DEISA Infrastruktur JRA1 Material Sciences JRA2 Cosmology JRA3 Plasma physics JRA4 Life Sciences JRA5 Industrial Applications (CFD) JRA6 Coupled Applications (RZG GARCHING) (EPCC) (RZG GARCHING) (IDRIS) (CINECA) (IDRIS) Middleware-Entwicklung JRA7 Heterogeneous resource management (EPCC) 9 r.niederberger@fz-juelich.de

10 DEISA Supercomputer-Infrastruktur Globales verteiltes, high performance Datei-System auf kontinentaler Ebene (GPFS). Dynamischer Pool von Ressourcen. Dediziertes Netzwerk: GEANT, RENATER, DFN, GARR, Nationale Supercomputer: IDRIS - France JÜLICH - Germany GARCHING - Germany CINECA - Italy SARA The Netherlands CSC - Finland Erweiterte Dienste für Grids : Portale, Web-Dienste, Anbindung der Core-Platform mit anderen virtuellen Organisationen. Verdecken komplexer Strukturen vor dem Benutzer 10 r.niederberger@fz-juelich.de

11 DEISA (Phase 1) 4000 Prozessoren (5-8 Gflops pro Prozessor) 24 Teraflops aggregierte Peak Performance 125 Racks verteilt über Deutschland, Frankreich und Italien IBM Systeme : P690, P690+, P655+ Unterschiedliche Konfigurationen Phase 2 ( Q3 2005): Einbindung weiterer Sites (SARA, CSC), Heterogene Erweiterung (SARA SGI Linux Platform Amsterdam, BSC Mare Nostrum IBM Linux Barcelona, Vektor Platformen, ) Mehr Bandbreite (10 Gb/s oder mehr). X-WiN und GN2 Infrastruktur sind Voraussetzung für DEISA Phase r.niederberger@fz-juelich.de

12 DEISA Netzwerk (Phase 1) FUNET 1 Gb/s dediziertes Netz realisiert mit Premium IP SURFnet FI DFN UK NL GE FR RENATER Frankfurt ES IT GÈANT GARR Beteiligte NRENs ES RedIRIS, Spain IT GARR, Italy FI FUNET, Finland NL SURFNET, The Netherlands FR RENATER, France UK UKERNA/JANET, UK GE- DFN, Germany 12 r.niederberger@fz-juelich.de

13 Operationelles Modell DEISA bietet eine integrierte Supercomputing Umgebung, effizientes Data Sharing durch ein für den Benutzer transparentes hoch performantes globales Dateisystem Transparente Jobverteilung über mehrere Installationen. Loadbalancing auf europäischer Ebene. Anwendungen mit hohen Ressourcenanforderungen können unverändert laufen. Unterstützung von Grid-Anwendungen (distributed by design). Operationelles Modell gleicht dem eines wahren monolithischen europäischen Supercomputers. Hauptunterschied: Kooperation mehrerer unabhängiger administrativer Domänen; Koordinierung der Produktionsumgebungen notwendig. 13

14 Operationelle Aspekte beim Betrieb eines virtuellen europäischen Supercomputers 14

15 Globales Management virtueller europäischer Supercomputer als Teil einer europäischen Grid Infrastruktur erfordert: eine Zusammenarbeit von Rechenzentrumspersonal über Ländergrenzen hinweg (Tausende von Kilometern) Meetings per Telephon-/Videokonferenz persönliche Treffen nur mit Vorlaufzeit Adhoc-Meetings nur in Ausnahmefällen machbar Absprachen per Telephon oder Mail Zentralisierung von Kompetenzen der einzelnen Site auf einzelne Bereiche Verteilung der Kompetenzen unterschiedlicher Bereiche und des Dispatch auf diverse Sites Abgabe von Verantwortung an andere / neue größere Veranwortung Erweitertes Routing, Netz- und Sicherheits-Management 15 r.niederberger@fz-juelich.de

16 Anforderungen Ein virtueller Supercomputer erfordert einheitliche Softwareversionen rechtzeitige Wartungsankündigungen auch interner Änderungen an alle Software- Funktions-, Lizenz-, Versionsmanagement, da Konfigurationen nicht mehr lokal sind Vertrauensverhältnis in personeller und fachlicher Hinsicht, Software (Fehlfunktion kann zu Datenverlust &Veränderung führen) Globale Konfiguration des Systems Globales paralleles Dateisystem (GPFS) (Schnell und transparent) 16

17 Zusammenfassung 17

18 Zusammenfassung Die operationellen Aspekte in DEISA in seiner Eigenschaft als ein virtuelles europäisches Supercomputer Zentrum erfordern Absprachen und Einigungen bzgl. Software-Installationen, - Versionen, Maintenance, Accounting etc. auf höherer Abstraktionsebene als im lokalen Rechenzentrum. Der einzelne Supercomputer ist Teil des Ganzen. Der entstehende zusätzliche Overhead wird aufgewogen durch Erreichen des Projektziels: Steigerung der Effizienz des High Performance Computing (HPC) (Capability and Capacity) und des Grid computing in Europa 18 r.niederberger@fz-juelich.de

19 ????? Fragen???????? 19