Überblick. HP Beowulf Cluster. Beowulf: Ursprung und Geschichte High Performance Computing (HPC) Einsatzgebiete Aufbau Software 4/7/2005 HP

Transkript

1 HP Beowulf Cluster Hanul Sieger, HP 2003 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice Überblick Beowulf: Ursprung und Geschichte High Performance Computing (HPC) Einsatzgebiete Aufbau Software page 2 1

2 Woher kommt Beowulf? Beowulf ist das früheste, erhaltene Epos in englischer Sprache. Die Geschichte handelt von einem Helden Beowulf, der, stark und mutig, das Monster Grendel besiegt. page 3 Was sind Beowulf Cluster? Beowulf ist ein allgemeiner Name für skalierbare Cluster, mit folgenden Eigenschaften: Standard Hardware Eigenes (privates) Systemnetzwerk Open-Source Software und -Infrastruktur Anlaufstelle im Internet: page 4 2

3 Kurze Geschichte der Beowulf Cluster Das Grundproblem: Es wird immer mehr Rechenkapazität für immer komplexere Probleme benötigt Die bisherigen Lösungen dazu waren Supercomputer z.b.von Cray Die Ursprungsidee: PCs entwickeln sich wesentlich schneller als Supercomputer PCs haben ein viel besseres Preis-/Leistungsverhältnis Das Ziel ist ein preiswerter Supercomputer aus Standard-Hardware Die Implementation: Das erste Beowulf System ensteht 1994 in einem NASA-Institut, es besteht aus 16 Intel 486DX4 CPUs mit 10MBit Ethernet; das Betriebssystem ist Linux page 5 HP HPC Cluster page 6 3

4 Was ist High Performance Computing HPC Probleme sind characterisiert als: datenintensive, rechnerisch oder numerisch intensive Aufgaben komplexe Berechnungen mit großen Datenmengen bei gleichzeitiger Anforderung an hohe Durchsätze Forschung Finanzen Geo- Wissenschaften Virtual Prototyping Film, Video und Effekte Electronic Design Automation Regierung und Verteidigung Product Lifecycle Management Bioinformatik page 7 Veränderte ökonomische Rahmenbedingungen Vom Supercomputer zum Cluster IT Personal Vector Software Kosten RISC Standard Hardware page 8 4

5 Beowulf Wachstum Zuerst in der Informatik an den Universtitäten und anderen Forschungseinrichungen, anschließend auch in anderen Forschungsrichtungen; heute findet man Beowulf Cluster in allen rechenintensiven Anwendungen innerhalb und außerhalb der Forschung stetiges Wachstum seit 1994 Gutes Preis-/Leistungsverhältnis im Vergleich zu Supercomputern Erweiterbarkeit ohne Grenzen High Speed Interconnects sind verfügbar Linux ist inzwischen erwachsen und weit verbreitet page 9 Beowulf auf dem Weg in die Produktion Seit Beowulf Cluster auch den hohen Anforderungen der Industrie an die Verfügbarkeit genügen, finden mehr und mehr Systeme ihren Platz als Produktivsysteme ISVs portieren Anwendungen Gaussian, Gamess, Star CD, Fluent Es werden schlüsselfertige Beowulf Cluster von HP angeboten page 10 5

6 Beowulf s Nachteile Applikationen müssen für die verteilte Architektur angepasst werden Algorithmen für verteiltes Rechnen benötigt entsprechende Kenntnisse in paralleler Programmierung Bis vor kurzem gab es kein adäquates Dateisystem, dies wird durch das Lustre File System beseitigt Es gibt keinen Single System Image View des Clusters Es wird Management Software gebraucht, um die Administrationskosten niedrig zu halten page 11 Prozessor/Speicher-Architektur Shared-Memory Parallel (SMP) Gemeinsamer Speicher wird von mehreren CPUs genutzt Distributed-Memory Parallel (DMP) Cluster von Einzel-CPU-Rechnerknoten vernetzt durch ein low latency/high bandwidth Netzwerk Combined SMP/DMP Cluster von SMP-Rechnerknoten SMP-NUMA (Non Uniform Memory Access) page 12 6

7 Beowulf Aufbau Rechnerknoten (Nodes) Control Node(s) Typen: Front-End, Management Node, Service Node, Administration Node, Utility Node Zugriffspunkt zum Cluster Datei-Server kann gesichert werden Compute nodes (Application Nodes) für die (Benutzer-)Applikation page 13 Beowulf Aufbau Netzwerke Out of Band Network auch: Management network In Band Network auch: Administration network Application Network auch: data network, high speed network External Network auch: outside network page 14 7

8 Management network out-of-band network Ethernet 10 / 100 Administration node Administration Node: Zugriff auf BIOS und Konsole Nodes ein- und ausschalten, neu starten Management der einzelnen Compute Nodes Benötigt eine spezielle Management Kard (ILO, MP, Zircon ) Benötigt eine TCP/IP Adresse (fest oder DHCP) page 15 Administration network in-band network Ethernet 10 / 100 / 1000 Outside world Administration node Installation und Management des Clusters Beobachten der Compute Nodes log on für Benutzer Gateway Kontrolliert die Jobs auf den Compute Nodes Kann auch für Applikationen genutzt werden Generally private TCP/IP network page 16 8

9 Administration network Group leaders Group leader Group leader Outside world Ethernet 10 / 100 / 1000 Administration node Group leaders: Entlastung der Administration Node Isolierung von Network Traffic Partitionierung des Clusters Beispiel: ein Group Leader pro Rack page 17 Administration network Anordnung der Switches Group leader Branch switches Group leader Administration node Root switch page 18 9

10 MEMORY CHANNEL HUB 80 0/8 4/7/2005 Application network (optional) Quadrics, Myrinet, InfiniBand Gigabit Administration node Outside world Application network: bei starker Netzwerkbelastung wenn Durchsatz benötigt wird um Administrations- und Applicationsnetz zu trennen um Dateiserver zu verbinden page 19 Beowulf Cluster Architektur In Band Ethernet switch Management node Application network Out of Band Ethernet switch Ethernet links Ethernet to external page 20 10

11 HP Technical Computing Architecture Cluster Interconnect Log-in Log-in Object Storage Servers OST OST Control Services Compute Nodes (1000+) OST Meta Data Servers MDS Services Viz node Viz node MDS Services Service/Compute Nodes Viz node Viz node Visualization Nodes (100s) Viz node VIz node Scalable HA Scalable HA Storage Storage Farm Farm users Pixel Network Multi-Panel Display Device page 21 Voraussetzungen für HPC Cluster Die drei Hauptkriterien von HPC sind: 1. Benötigt sehr viel Prozessorkapazität 2. Benötigt sehr schnellen Zugang zu riesigen Datenmengen 3. Benötigt sehr schnelle Verbindungen zwischen den Rechnereinheiten page 22 11

12 HPC Clusterkomponenten Plattform / Prozessor Server Management card (ILO, MP) PDU HPC software Protokolle Betriebssysteme Dateisysteme Middleware Management Software Applikationen Netzwerk Ethernet 10/100/1000 Myrinet QSW InfiniBand Storage Local disks NFS, Lustre, Sistina MSA500, MSA EVA3000, EVA5000 page 23 HP Server für Beowulf Cluster HP Compute nodes: Intel/AMD, x86 ProLiant (Intel Pentium 4) Blade Server BL20p Opteron Server (32bit) (32bit) (64bit) Intel Itanium II (IA64) Integrity Server rx1620, rx2620 Integrity Server rx5670 Integrity Server rx4640 page 24 12

13 HP ProLiant servers for HPC DL300/500 Series DL360 Maximum performance power per 1U of rack space for dense compute environments DL100 Series DL140 High-performance, Xeon DP 2P/1U compute node optimized for HPTC environments. DL380 The world s #1 selling server combining flexibility, leading 2P performance & manageability Superior uptime with hot plug PCI, redundant drives, power supplies & Online Spare Memory DL585 Maximum compute power per 4U of rack space for dense environments with technical robustness DL145 High-performance, AMD Opteron 2P/1U compute node optimized for bit HPTC environments. BL series BL20p/BL35p(1Q05) BL30p(May 04) Xeon DP and AMD Opteron 2P blades designed for density GigE connectivity SAN Attachability Betriebssystem: Linux (und Windows auch für HPC möglich) page 25 Application Network Low Latency / High Bandwidth network Gigabit Ethernet Myrinet 2000 Quadrics Infiniband page 26 13

14 Software Architektur Software auf HP Beowulf Cluster Betriebssysteme Linux (Red Hat oder SuSE) HP-UX (nur auf HP Integrity Server) Windows Server 2003 (nur auf bestimmten ProLiant Systemen) Cluster Management Software Cluster Management Utility - CMU Scali Manage Communication Library für das Application Network Message Passing Interface MPI page 27 Design-Auswahl bei Cluster-Lösungen Überblick über die SW- und HW-Komponenten eines HPC Cluster Applikation Cluster Mgmt Middleware Dateisystem Betriebsystem Bioscience, Engineering, GeoScience,... XC/CMU/Scali/OSCAR/ROCKS Job control, cluster admin, monitor, MPI, MLIB, App restart files migration, Dev tools (compilers, debuggers, profilers) Local disks, NFS, SAN, Lustre,... Linux, HP-UX, Windows Protokoll Elan MPI TCP/IP Netzwerk Myrinet Ethernet Quadrics Infiniband Platform/Processoren IA32/IA64/Opteron/Alpha/ page 28 14

15 HP Cluster Plattformen Partner software A la Carte Software XC Software Cluster Pack Common Operating Environments ( HP MPI, compilers, ) Windows Linux HP-UX HP Cluster Platform 3000/4000/6000 ProLiant & Integrity page 29 HP s Cluster Portfolio für HPC Scalable Cluster Services HPC Application and Development/Grid Portfolio HP Scalable File Share HP Scalable Visualization Scalable Cluster Management Partner software XC Cluster SW Partner SW Common Operating Environments ClusterPack Windows Linux HP-UX HP Cluster Platforms ProLiant & Integrity/Multiple Interconnects page 30 15

16 HP ist im HPC-Markt führend Dell 7.5% NEC 1.3% Cray 0.9% Fujitsu 0.4% SGI Hitachi Other 0.1% 4.1% 6.9% HP 31.5% #1 Sun 17.0% Total: $3.38B IBM 30.3% H1 CY2004 HPC by Vendor page 31 HP führt auch im Bereich Cluster Other 22.3% NEC 0.2% #1 HP 30.4% IBM 22.9% Total: $1.04B Dell 24.2% H1 CY2004 Clusters by Vendor page 32 16

17 Die TOP-500-Liste TOP500 Listet die derzeit 500 schnellsten Computersysteme auf Basierend auf LINPACK Benchmark Ranking verläßliche Basis, um Trends in HPC-Bereich zu verfolgen HP ist die Nr. 2 in den TOP 500 bei der Anzahl der Systeme, aktuell: 173 schnellstes HP-System mit Standard-HW auf Platz 16 (schnellstes HP-System, Platz 6) page 33 HP Kundenpräsentation Projektqualifizierung HPTC Benchmarking Proof-of-Concept Integration der ISV-Produkte Event support Training HP C&I and Support HP Engineering HP Project Management ISV Support : PLM, MCAE, Oil & Gas etc. «Itanium Packaged Solutions» Geprüfte Konfigurationen Weltweite Forschungsprogramme Projektmanagement der Lösung Integration der Kundenkonfiguration Hardware- und Softwareanpassung Integration der Drittanbieter Test und Validierung Start-up der Konfiguration Kundentraining page 34 17

18 18