Grid-Computing. J. Clemens, T.Hammer, P.Ueberholz IMH - Institut für Modellbildung und Hochleistungsrechnen

Transkript

1 Grid-Computing J. Clemens, T.Hammer, P.Ueberholz IMH - Institut für Modellbildung und Hochleistungsrechnen

2 1. Einführung 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen 2.1 Aufbau 2.2 Architektur 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI

3 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen 1 Einführung 1.1. Die Idee Der Begriff Grid stammt von I. Forster und C.Kesselman, analog zum Stromnetz, dem Power Grid: Das Information Power Grid.

4 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Grid ist eine Infrastruktur für verteiltes Rechnen: Jeder Benutzer hat eine einheitliche Schnittstelle zu Ressourcen jeder Art. Die Benutzer brauchen sich nicht über das Wo, Wann und Wie Gedanken zu machen. Geschätzte Ausgaben für Grid Computing in G$ nach The Insight Research Corporation ( Grid Computing Bücher sind aktuelle Bestseller bei Amazon.

5 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Entstanden ist Grid-Computing aus dem Metacomputing, der koordinierten Nutzung von Höchstleistungsrechnern. Definitionen des Begriffs Grid-Computing Forster, Kesselman und Tuecke definieren das Grid in 2001 zu coordinated resource sharing and problem solving infrastructure in dynamic, multi-institutional virtual organisations. Eine virtuelle Organisation (VO) ist ein Zusammenschluss von Personen, die sich bestimmte Ressourcen nach genau definierten Bedingungen teilen, um ein Problem kooperativ zu lösen.

6 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Hauptziele von Grid-Computing: Lösung von rechen- und/oder datenintensiven Problemen Effiziente Ausnutzung von Ressourcen Vereinfachter Umgang mit Ressourcen Grid-Computing liefert eine Technik zur Integration verteilter Ressourcen. Es koordiniert dezentrale Ressourcen. Es verwendet offene, standardisierte Protokolle und Schnittstellen.

7 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Charakteristische Eigenschaften: Lokale Autonomie: Die Grid-Software hat keinen Einfluss auf lokale Entscheidungen. Transparenz: Die physikalischen Eigenschaften der Ressourcen wie z.b. Ort- oder Daten-Repräsentation sind versteckt. Heterogenität: Die Ressourcen sind vielfältig. Skalierbarkeit: Ein Grid reicht von lokal verbundenen Knoten bis zu weltumspannenden Systemen. Dynamik und Adaptivität: Grid-Software muss flexibel auf Fehlersituationen jeder Komponente reagieren.

8 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Zukunftsperspektiven nach Wolfgang Gentzsch W.Gentzsch, Koordinator des D-Grid Projekts und verantwortlich für die weltweite Zusammenarbeit der großen Grid Projekte Erste Stufe: Erforschung der Grid-Middleware, deren Prototypen in wenigen E-Science Feldern getestet werden. Zweite Stufe (hat begonnen): Enterprise-Grids werden für die Industrie aufgebaut. Dritte Stufe: Consumerwelle, die die Grid-Software nach Hause bringt. Die Ressourcen werden mit einer Virtualisierungsschicht überzogen:

9 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Die Consumerwelle Der Benutzer sagt, was er haben und wieviel er ausgeben möchte. Die Middleware erzeugt ein für die Anwendung ideales Grid. Die zugeordnete Hard- und Software steht dem Benutzer zur Verfügung (früher Application Service Provider). Voraussetzung: Die Grid Securitytechnologie mit den 5 A s. Access (Zugang) Authentifizierung (wer ist der Nutzer) Autorisierung (wer darf das Grid benutzen) Accounting (was muss der Nutzer zahlen) Audit (die Nutzung muss überprüfbar sein) Grid-Service Provider kaufen und vermarkten Ressourcen. Zu Hause bleiben nur Ein- und Ausgabegeräte.

10 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen

11 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Globus, mit von IBM entwickelt, ist die Grundlage der meisten Grid-Projekte ( Condor: Ein Computational Grid (eigentlich eher ein Workload Management System), Grundlage für nrw-grid und Teile von LCG, Entwicklung begann 1983 ( EGEE (Enabling Grids for E-sciencE), EU-Projekt, 350 Me ( Gefördert werden 2 Pilotanwendungen, das Large Hadron Collider Computing Grid (LCG) zur Unterstützung physikalischer Experimente, das Biomedical Grid, zur Verarbeitung von Daten der Bioinformatik und des Gesundheitswesens.

12 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen LHC Computing Grid (LCG) mit aktuell glite 3.0 (Lightweight middleware for Grid computing) ist zur Zeit weltweit das größte Grid-Projekt ( glite.web.cern.ch). EU-aktuell Begründung für die weitere Förderung: Grid architetures are crucial enabling technologies for economy-wide productivity and growth. Förderung von 3 Projekten mit dem Volumen von 99 Me. BEinGRID: führt 18 Firmen-Experimente durch XtreemOS: integriert Grid Services and Support für VO in Linux BREIN: Grid-Installation für die Logistik in Flughäfen

13 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen D-Grid ist das vom BMBF geförderte Projekt, um eine konkurrenzfähige deutsche Grid-Infrastruktur zu schaffen ( Projektübersicht D-Grid I, 28 Me: D-Grid Integrationsprojekt C3-Grid - Collaborative Climate Comunity Data and Processing Grid MediGrid - Ressourcenfusion für die Forschung in Medizin und Lebenswissenschaften GACG - German Astronomy Community Grid InGrid - Innovative Grid - Entwicklung für ingenieurwissenschaftliche Anwendungen (u.a.cfd). HEP-Grid - Entwicklung von Anwendungen und Komponenten zur Datenauswertung in der Hochenergiephysik in einer nationalen e-science Umgebung. Laufzeit

14 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen D-Grid II: 100 Me : Richtlinien zur Förderung von Forschungsvorhaben auf dem Gebiet Service Grids für Forschung und Entwicklung. Ziel ist der Aufbau von Service Grids: stellen Nutzern konkrete Dienste dezentral zur Verfügung, nutzen bzw. ergänzen die von D-GRID I bereitgestellte Grid-Middleware, werden durch Service Provider in professioneller Weise erbracht, zielen auf dauerhaft tragfähige Geschäftsmodelle ab.

15 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen MI#Grid: Erforschung und Entwicklung einer Grid-Infrastruktur zur kooperativen Wertschöpfung im Mittelstand ( NRW-Grid: Zusammenschluss einiger Hochschulrechenzentren, um Ressourcen jeder Art anzubieten ( UK im Vergleich: UK E-Science Initiative Föderung von mit 375 Me

16 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen GRIDtoday-winner 2006 ( Grid-Entwickler: IBM /Platform/Sun Grid-Implementationen in der Industrie: ENERGY - Shell/BP, MANUFACTURING - Boing/Airbus, BUSINESS PROCESS EFFICIENCY - Google/ebay Grid-Implementationen in der Forschung: CERN/TeraGrid Ein paar weitere Installationen in Deutschland: Audi: Erstellung und Zugriff auf Simulationsergebnisse und Projektdaten weltweit (EU-gefördert) Bayerische Hypo- und Vereinsbank: Risikoberechnung im Wertpapierhandel

17 1.3 Grundlagen 1. Einführung 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Standardisierungsgremium: das Open Grid Forum (OGF) ( Parallel zur Grid-Entwicklung: Weiterentwicklung des WWW Richtung Service-Orientierung (Web Services 2.0, der neue Hype) Beide Richtungen laufen jetzt koordiniert zusammen.

18 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Ist das was neues? Nein! Es geht immer nur darum, Funktionalität, die auf Rechnern vorhanden ist, auf einfache Art und Weise verfügbar zu machen. Grundlage ist die über 20 Jahre alte Idee der Remote Procedure Calls (RPCs). Bei Bedarf wird eine Prozedur mit übermittelten Parametern auf einen Rechner aufgerufen und das Ergebnis zurückgeschickt. Es werden im wesentlichen nur neue Zwischenschichten zwischen den Anwendungen und RPCs sowie eine formale Beschreibung eingeführt.

19 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Open Grid Service Architecture (OGSA) Definiert die Komponenten des verteilten Systems über ihre Schnittstellen (API). OGSA ist ein allgemeiner Rahmen der Beschreibung und Organisation von Grid-Anwendungsstrukturen. Es definiert die notwendigen Komponenten (Interfaces) eines Grid-Systems sowie die Mechanismen für Erzeugung, Koordination, Management und Registrierung von Grid-Diensten. Die Definition der Komponenten erfolgt mit der Web Service Description Language (WSDL) Jeder Service wird mit einer Untermenge von XML beschrieben.

20 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen OGSI (Open Grid Service Infrastructure) bzw. Nachfolger WSRF (Web Service Ressource Framework) WSRF spezifiziert die Grid Services und ihr Zusammenspiel im Einzelnen. Lebenszeitverwaltung Dienste-Daten Benachrichtigungen über Änderungen an Diensten Referenzieren und Auffinden von Diensten Schnittstellen-Definitionen dynamische Dienste-Erzeugung

21 1.1 Die Idee 1.2 Projekte und Förderung 1.3 Grundlagen Warum bereits ein Nachfolger: Der Web-Gemeinschaft war OGSI zu objektorientiert!! Funktionsprinzip: Ein Benutzer schickt einen Auftrag ins Netz (an einen Broker), z.b. Word-Dokument formatieren. Auf dem Broker läuft ein Prozess (Service), der je nach Anforderung des Benutzers eine unterschiedliche Funktion aufruft. Es wird ein weiterer Prozess (neuer Service) mit einer begrenzte Lebensdauer erzeugt, der den Auftrag entgegen nimmt. Diese Prozess weiß oder kann erfragen, wo Rechner mit Office stehen, und schickt das Dokument mit dem Funktionsaufruf formatieren zum Office-Rechner, holt das Ergebnis ab und beendet sich. Der Benutzer schickt den Auftrag Ergebnis abholen ins Netz und bekommt das formatierte Dokument geliefert.

22 2.1 Aufbau 2.2 Architektur (LCG) Am CERN bei Genf (größtes europäisches Physiklabor) sind die Grundlagen des WWWs entstanden (1989, Tim Bernes-Lee). Hier entsteht das zur Zeit weltweit größte Grid-Projekt. Herbst 2007: Beginn des weltweit größten Physikexperiments am CERN am Large Hadron Collider (LHC) Ziel von LCG: Berechnung und Auswertung von extrem großen Datenmengen. Primärdaten: 1 Petabyte/s Im Experiment Reduktion auf 500 MByte/s oder Byte/Jahr oder DVDs.

23 2.1 Aufbau 2.2 Architektur

24 2.1 Aufbau 2.2 Architektur 2.1 Aufbau Schalenstruktur der LCG-Hardware Schicht 0: 5000 (12000) Linux-PCs mit je 2 CPUs Schicht 1: 12 große Gridknoten zur Auslagerung der Daten nach Themen klassifiziert (in Deutschland GridKa in Karlsruhe) Schicht 2: Ca. 100 Rechenzentren in 40 Ländern zur Simulation und Analyse der Daten Schicht 3: Weltweite LCG-Centren, d.h. Knoten im Grid, wie auch einer in Wuppertal steht Schicht 4: Benutzer-Workstation Parallel dazu gibt es LHC@home (lhcathome.cern.ch) ähnlich wie Seti@home

25 2.2 Architektur 1. Einführung 2.1 Aufbau 2.2 Architektur Die wichtigsten Komponenten der LCG-Umgebung

26 2.1 Aufbau 2.2 Architektur Die wichtigsten Bestandteile einer LCG-Umgebung Workload Management System (WMS) zur Jobverwaltung Data Management System (DMS) zur Datenverwaltung Information System (IS) für Informationen über Ressourcen Grid Security Infrastructure (GSI) oder Autorisierungs- und Authentifizierungssystem über Zertifikate Monitoring and Discovery Service (MDS) zur Überwachung von Ressourcen und Jobs.

27 2.1 Aufbau 2.2 Architektur Job-Zyklus

28 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Zusammentreffen mit Physikern vor 4 Jahren auf einem Grid-Workshop der Telekom in Bonn. Daraus entstand das Projekt zur Entwicklung von LCG Tools zur Erhöhung der Benutzerfreundlichkeit und der Zuverlässigkeit. Themen: Entwicklung eines graphischen Benutzerinterface (GUI) Entwicklung eines Job Monitoring Systems (JMS)

29 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Bis jetzt 2 Diplomarbeiten, GUI und JMS (Aufbaustudium und Masterstudent) eine Masterarbeit am JMS (ist jetzt wiss. Mitarbeiter am GridKa im FZ Karlsruhe) 1 Praxissemesterprojekt (Gridumgebung in Krefeld aufbauen, wird wiss. Mitarbeiter an der Uni Wuppertal) 1 Praxissemesterprojekt, (JMS erweitern, Herr A.Baldeau, zur Zeit stud. Hilfskraft im IMH) Zur Zeit zwei weitere Praxissemesterprojekte zum JMS, J.Clemens und T.Hammer.

30 3.1 Erstellen eines Jobs 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Der Job Meistens wird ein Shellskript oder ein Pytonskript zum Grid geschickt und dort ausgeführt. Ein Hello-World-Job könnte so aussehen: #!/bin/sh echo Hello World!

31 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Job Description Language (JDL) Mit Hilfe der JDL wird ein Job beschrieben. Hierbei sind die wichtigsten Angaben: der auszuführende Befehl Dateien für die Ein- und Ausgabe Dateien, die zum Grid geschickt werden Dateien, die nach Beendigung wieder vom Grid geholt werden Executable = "hello_world.sh"; StdOutput = "hello_output"; StdError = "hello_error"; InputSandbox = {"hello_world.sh"}; OutputSandbox = {"hello_output", "hello_error"};

32 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Schritte des Benutzers zur Job-Abarbeitung Um einen Job im LCG bearbeiten zu lassen, muss man vier Schritte ausführen: 1. Authentifizierung im Grid 2. Abschicken des Jobs 3. Job-Status beobachten 4. Ausgabe vom Grid holen

33 Interner Ablauf 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI

34 Lebenszyklus eines LCG-Jobs 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI

35 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI 3.2 Das Job-Monitoring System JMS Warum ein Job-Monitor? Alle Schritte bis zum Starten der Jobs werden durch die Gridsoftware überwacht. Im Status RUNNING gibt es keine weiteren Informationen mehr über den Job. Noch vor einem Jahr brachen über 30% der Jobs im Status RUNNING ab ohne Information über den Grund. DONE (failed) lässt keine weiteren Schlüsse zu; DONE (ok) ist keine Garantie dafür, dass der Job erfolgreich war. Lösung: Ein Job-Monitoring System

36 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Ziele des JMS Jobüberwachung während der Ausführung eines Jobs auf einem Worker Node: Worker Node Monitoring Schrittweise überwachte Skriptausführung Der Benutzer wird regelmäßig über den aktuell bearbeiteten Befehl und den Status des Worker Nodes informiert.

37 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Komponenten des JMS Das JMS basiert auf einem Client/Server Modell, ist in Python geschrieben und hat 2 Komponenten: 1. Watchdog zum Monitoring des Worker Nodes 2. Wrapper zur schrittweisen Skriptausführung Datenaustausch zwischen User Interface und Worker Node Relational Grid Monitoring Architecture (R-GMA) ist eine relationale Datentenbank zum Austausch von Daten zwischen Grid-Komponenten Der Datenaustausch geschieht über eine gesicherte Verbindung

38 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Struktur des JMS User Interface JMS client job submit Resource Broker Wrapper Client Watchdog Client R GMA Registry Computing Element / Worker Node

39 Informationen über den Worker Node 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Die Informationen des Worker Nodes können mit einem RRDtool visualisiert werden, um häufige Absturzursachen wie eine volle Festplatte oder nicht genügend Speicher zu erkennen.

40 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Informationen über das Skript Vom Wrapper, der den Job Schritt für Schritt ausführt, werden folgende Informationen geliefert: Name der Skript-Datei Zeilen- und Spaltenummer des aktuellen Befehls Status des Befehls (Running, Ok) Exitcode Ausgaben des Befehls Mit diesen Daten lässt sich die Abarbeitung des Jobs auf dem Worker Node genau verfolgen.

41 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Status des Projets Das JMS wird zur Zeit in einer Produktionsumgebung für ein physikalisches Experiment eingesetzt und getestet; es wird die Integration in glite vorbereitet. Nächstes Ziel Informationssammlung über Systemprobleme und Aufbau eines Expertensystems zur automatischen Fehlerkorrektur, um die Effizienz und die Akzeptanz des Grids zu steigern.

42 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI 3.3 Das Web-GUI Das Web-GUI ist ein grafisches Interface zum Erstellen und Verwalten von Jobs: Entwickelt als Diplomarbeit an der HS-Niederrhein in Java geschrieben Anpassung wegen Umstellung von LCG 2.0 auf glite 3.0 nötig läuft auf einem LCG User Interface ist von beliebigem PC aus im Browser aufrufbar nutzt Browser-Zertifikate zur Authentifizierung

43 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI Komponenten des Web-GUIs Das Web-GUI besteht aus 5 Komponenten: 1. Job Manager Jobs abschicken, beobachten und abbrechen 2. Job Creator Wizard automatisches Joberstellen und Hochladen kompletter Verzeichnisse 3. Job Editor Erstellen der JDL-Datei 4. Data Manager Verwalten von Dateien auf den Storage Elementen 5. Credentials Authentifizierung im Grid

44 Job Manager 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI

45 Job Editor 1. Einführung 3.1 Erstellen eines Jobs 3.2 Das Job-Monitoring System JMS 3.3 Das Web GUI

46 Ressourcen der einzelnen virtuellen Organisationen (VO) Zur Verdeutlichung der Größe des LCG, hier eine Auflistung der Computing Elemente, deren CPU Zahl, der Storage Elemente und des Speicherplatzes, der für die HS-Niederrhein relevanten VOs: VO CEs CPUs SEs Speicher ghep GB dzero GB = 116 TB dteam GB = 9055 TB

47 Java Applet Auf der Seite bietet das UK Computing for Particle Physics Projekt des Imperial College London ein Java Applet, mit dem man sich Informationen zu den aktuell laufenden Jobs anschauen kann.

48 1. Einfu hrung J. Clemens, T.Hammer, P.Ueberholz Grid-Computing

49 Google Earth Auch auf der Seite des Imperial College London bekommt man unter earth.html eine kml-datei, die man mit Google Earth laden kann. Damit bekommt man alle eingetragenen Computing Elemente auf der Welt angezeigt und kann aktuelle Statistiken zu den laufenden Jobs abrufen.

50 1. Einfu hrung J. Clemens, T.Hammer, P.Ueberholz Grid-Computing

51 1. Einfu hrung J. Clemens, T.Hammer, P.Ueberholz Grid-Computing

52 Grid Computing wird die Zukunft der Rechnerwelt stark verändern. Es wird mit beträchtlichen Mitteln gefördert und beginnt sich in der Industrie zu verbreiten. Die Universitäten und großen Forschungseinrichtungen haben für sich das Gebiet und dabei sogar KMUs entdeckt, da werden es FHs schwer haben, insb. auf Grund von Mitarbeitermangel. Trotzdem ist es auf Grund der praktischen Ausbildung hier in Informatik möglich, einen Beitrag zur Lösung der Probleme der Anwender von Grid Computing zu leisten.