LCG. LHC Computing Grid. Rolf Reinthaler. Universität Würzburg. 17. Juli 2009

Transkript

1 LCG LHC Computing Grid Rolf Reinthaler Universität Würzburg 17. Juli 2009 Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

2 Contents 1 Anforderungen an das LHC Computing 2 Grid Computing Definition und Vorteile des GC Organisation des Grids Middleware Arbeiten mit dem Grid 3 Erreichtes und Ausblick Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

3 Anforderungen an das LHC Computing Triggerrate und Datenvolumen ATLAS MB Event 300 MB s ALICE 12.5 MB Event 1.25 GB s Total PB a Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

4 Anforderungen an das LHC Computing CPU-Anforderungen Ereigniskomplexität (zahlreiche Kanäle) Aufwendige Rekonstruktion und Simulation Bsp.: Higgs Suche H ZZ µ + ν µ µ ν µ bei 1fb 1 Analyse von 10 9 Ereignisse a 50d bei 45 s Event und 10, 000 CPUs Simulation: minimal 200h netto bei 10, 000 CPUs und 0.5 h Insgesamt etwa 100, 000 schnelle CPUs benötigt! Event Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

5 Anforderungen an das LHC Computing Weitere Anforderungen Software unterschiedliche Software für die verschiedenen Experimente Konnektivität mehrere 1000 Physiker aus 85 Nationen werten die Daten aus Daten müssen rund um die Uhr verfügbar sein. Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

6 Anforderungen an das LHC Computing Anforderungen tabellarisch verwendete Einheiten: Speicher: PB, CPU: MSi2k (Million SpecInt Benchmark: Pentium 4 etwa 1700 SpecInt2000) Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

7 Grid Computing Definition und Vorteile des GC Super-Rechenzentrum Um diesen Anforderungen gerecht zu werden wäre das intuitive Vorgehen ein gigantisches Rechenzentrum am CERN zu errichten. Aber Nachteile: Logistische Probleme (riesige Anzahl Computer, Tape Roboter,... ) schlechte Erweiterbarkeit geringe Ausfahlsicherheit Wärmeabfuhr Laufende Kosten (Personal, Strom!) Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

8 Grid Computing Definition und Vorteile des GC Lösung: Grid Computing Definition Coordinated resource sharing and problem solving in dynamic, multi-institutional virtual organizations. Einfacherer Zugang: CPU- und Speicherresourcen können so leicht wie das elektrische Stromnetz abgerufen werden Diese Resourcen werden von verschiedenen Seiten zur Verfügung gestellt und geteilt Gemeinsame Normen: Netzwerkprotokolle, Datenformate, Authentifizierung,... Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

9 Grid Computing Definition und Vorteile des GC Vorteile von Grid Computing Schon verfügbare Großrechenanlagen und Standorte mit einbindbar (NorduGird, Open Science Grid,... ) besseres Kostenmangement: Auslagerungs auf die externen Standorte leichtes Erwitern und Upgraden mehrere Kopien der Daten an verschiedenen Standorten geographisch unabhängiger Zugang zu Daten und Rechenzeit Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

10 Grid Computing Definition und Vorteile des GC Mit dem Gird verbundene Herausforderungen Angemessene Netzwerkbandbreiten Abgleich der Softwareversionen Management und Schutz der Daten (Manipulation, Verlust,... ) fairer Zugang für die verschiedenen Gruppen (Analyse, Softwareentwickler,... ) Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

11 Grid Computing Organisation des Grids Hierachische Struktur des Grids Die Rolle der teilnehmenden Rechenzentren wird durch deren Resourcen, ihre Services, ihre Reaktionzeiten, usw. definiert. Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

12 Grid Computing Organisation des Grids Aufgabenverteilung auf die verschiedenen Tiers Nomenklatur: Tier 4 ist der Rechner des einzelnen Anwenders Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

13 Grid Computing Organisation des Grids Verschiedene Tier I und die zugehörigen Experimente Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

14 Grid Computing Organisation des Grids Europäische Rechencluster im LHC-Grid Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

15 Grid Computing Organisation des Grids Aufbau der einzelnen Sites CE Computing Element: verteilt Jobs auf lokale WN WN Worker Node: eigentlicher Computer SE Storage Element: Managed Datentransfer + Monitoring Box: Sammelt Infos über laufende Jobs Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

16 Grid Computing Middleware glite die LCG Middleware Technische Verwaltung des Grids Softwaremäßige Organisation zw. Anwender und Hardware Zwischengeschaltete Abstraktion Verwendung verschiedener Software (Experimente) auf gleicher Hardware und umgekehrt Ideal: Unabhängig vom genutztem Cluster etc. sehen alle Computer für den Nutzer gleich aus Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

17 Grid Computing Middleware Aufgaben der Middleware User Identification Virtuelle Organisationen Monitoring der Resourcen Infromation System Match Making und Job Execution Resource Broker Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

18 Grid Computing Middleware Virtuelle Organisationen Zur Authentifikation muss jeder Nutzer Mitglied (mindestens einer) Virtuellen Organisation (VO) sein. Die VO besteht aus Personen und Institutionen, die ein gemeinsames Ziel verfolgen. z.b. CMS ist die VO des CMS-Experimentes Die VO stellen grid-wide Services zur Verfügung: VO Server (User Rolle und Befugnisse), Replica Location Service (Identifyer der Datenkopien), Information Systems (Daten über Anzahl CPU, Software,... ),... Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

19 Grid Computing Middleware Resource Broker - The intelligence of the Grid Der Resource Broker (RB) verteilt die anstehenden Jobs effizient auf die freien Resourcen. scant die Anforderungen der übermittelten Jobs. scant das Information System nach den Worker Nodes, die diese Anforderungen erfüllen transferiert alle benötigten Daten an die entsprechende Site Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

20 Grid Computing Job Description Language Arbeiten mit dem Grid Die Job Description Language (JDL) wird benutzt dem RB alle nötigen Informationen zukommen zu lassen. Einfachstes Beispiel: Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

21 Ausführen eines Jobs Grid Computing Arbeiten mit dem Grid Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

22 Erwartungen erfüllt Erreichtes und Ausblick Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

23 Erreichtes und Ausblick Netzwerkübertragungsraten Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

24 Erreichtes und Ausblick Anzahl der laufenden Jobs bei ATLAS Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

25 Erreichtes und Ausblick Just in time Erweiterung des Grids Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

26 Erreichtes und Ausblick Ausblick Virtualisierung (VMWARE, etc.) bis jetzt dediciertes Betriebssystem Einbinden eigentlich nicht kompatibler Software möglich Cloud Computing (Amazon Web Services) Bezahlung pro benutztem Service (teuer) Nützlich für CPU intensive Jobs Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

27 Zusammenfassung Zusammenfassung Große Datenmengen des LHC erfordern dezentrale und ausfallsichere Analyse der Daten Grid Computing als kostensparende Alternative Organisation des Grids in hierarchischer TIER Struktur Middleware glite verwaltet das Grid Zugangsberechtigung über Zugehörigkeit zu einer VO. Diese bilden die einzelnen Experimente ab MC-Generation und Datenübertragung funktionieren gut Grid wird just-in-time weiter wachsen Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28

28 Literaturverzeichnis Literaturverzeichnis [1] The LCG TDR Editorial Board: LHC Computing Grid - TDR, 2005 [2] D. Adams et. al.: The ATLAS Computing Model, 2004 [3] J. Elmsheuser: Grid Computing für LHC, DPG-Vortrag 2009 [4] W. Bender: LHC-Computing: Datenanalyse im weltweiten Grid, 2007 [5] V. Büge: Aufbau eines Grid-Standorts zum Einsatz der CMS-spezifischen Software und Messung von Parametern des W- und Z-Bosons am LHC, Diplomarbeit an Uni Karlsruhe, 2005 [5] U. Kerzel: CDF Grid-Computing und das X (3872) J/ψπ + π mit J/ψ e + e, Dissertation an Uni Karlsruhe, 2005 [6] V. Büge: Virtualisation of Grid Resources and Prospects of the Measurement of Z Boson Production in Association with Jets at the LHC, Dissertation an Uni Karlsruhe, 2008 Rolf Reinthaler (Universität Würzburg) LHC Computing Grid 17. Juli / 28