Supercomputing 2003: Nichts geht ohne Linux

Transkript

1 DECUS Symposium 2003 Supercomputing 2003: Nichts geht ohne Linux presented by Roland Fehrenbacher transtec AG Decus Symposium THE EUROPEAN IT FACTORY Übersicht! Linux Beowulf Cluster Ein neuer Standard im Super- und High Performance Computing! Markt Trends Gegenwärtige und zukünftige Hardware Trends Performance Kriterien transtec HPC solutions Decus Symposium

2 Exkurs in die Vergangenheit! Mitte 80 er bis mitte 90 er dominiert von extrem teuren proprietären Vektorrechnern/Mainframes (Cray, IBM, NEC, ) Zu Beginn der 90 er: Erste massiv parallele Rechner (IBM, Thinking Machine, Cray, Hitachi, ) neue Programmiermodelle! PVM/MPI (Distributed Memory) Ebenso: Grosse SMP UNIX Rechner (Sun, SGI, DEC/Compaq, HP, ) Zutaten für eine stille Revolution: Internet + GNU/Open Source Software + Linux billige Commodity Hardware + superschnelle Netzwerke! Geburt des Beowulf Supercomputing Decus Symposium Markt Trends Top 500 Facts (11/02) 2 PC Cluster in Top 10 Lawrence Livermore: 2304 Xeon 2.4 GHz, Quadrics, 5.7 Tflop, Rang 5 Forecast Systems Lab: 1536 Xeon 2.2GHz, Myrinet, 3.3 Tflop, Rang 8 55 Intel, 8 AMD based Linux Clusters Insgesamt 93 (Beowulf) Cluster; Tendenz stark steigend 47 Systeme mit mehr als 1 Teraflop, Platz 500 mit 195 GFlop Decus Symposium

3 Markt Trends HPC auf Workgroup Ebene Linux Cluster ersetzen UNIX Workstation/Server Farms Linux Cluster = Zentrale voll skalierbare Compute Resource Viele Erstinstallationen von HPC Rechnern mit Linux: Einstieg extrem preisgünstig < 20k Euro für Komplettlösung Decus Symposium Der optimale Supercomputer Geschwindigkeit Skalierbarkeit Stabilität/Verfügbarkeit Preis Decus Symposium

4 Gegenwärtige und zukünftige Hardware Trends Entscheidender Parameter: ppr = /Flops (Preis/Performance) Welcher Hardware Setup hat den geringsten ppr? Wichtig: ppr = f (Anwendung, Architektur) Decus Symposium Gegenwärtige und zukünftige Hardware Trends Zwei konkurrierende Plattformen (Dual CPU SMP) Intel P4 basiert Xeon (Prestonia), 512kB L2 Cache FSB533 (max. 3.06GHz) E7501 Chipsatz, FSB533, dual channel DDR-RAM (4.2GB/s), max.12gb PCI-X/133MHz (Supermicro, Tyan) Hyper-Threading, zusätzliche SSE2 Instruktionen AMD Athlon basiert Athlon MP, 384kB Cache FSB266 (max. 2.2GHz/2600+) AMD 760MPX Chipsatz, FSB266 DDR-RAM (2.1GB/s) max. 4GB 2 x 64bit/66MHz PCI (Tyan) Ca % günstiger Verschiebung von Athlon zu Xeon in den letzten 4-5 Monaten Decus Symposium

5 Gegenwärtige und zukünftige Hardware Trends Blade Server Blades aus off-the-shelve Komponenten transtec Blade Serie Identische Boards wie Standard Server! Kompatibilität Optimierte Kühlung Extrem hohe CPU Dichte Proprietäre Blade Designs IBM, HP, Nexcom, Typischerweise wesentlich teurer Spezielle Mainboards Decus Symposium Gegenwärtige und zukünftige Hardware Trends Interconnects (gewünscht niedrige Latenz / hohe Bandbreite) Fast Ethernet ( = Standard, Gigabit für Master Knoten) Gigabit Ethernet (wird langsam zum Standard) Hohe Bandbreite, hohe Latenz (80-110µs), günstige Adapter, > 24ports teuer Myrinet (High-Speed Standard) 2Gb/s FD, Latenz 5-6µs, vollkommen skalierbar (Switche mit bis zu 128 ports, > 128 durch Kaskadierung, Open Source Treiber/MPI, teuer Dolphin/SCI 2Gb/s FD, geringere Latenz 1.5 µs, Switch-los, aber komplizierte Verkabelung (2D/3D Torus Topologie), eingeschränkte Skalierbarkeit (max. 8 Knoten/Ring, shared Bus), MPI version closed Source, Preis ca. wie Myrinet Neue Technologien Quadrics, Infiniband (10Gb/s); durchbricht 1 µs Latenz Barriere Decus Symposium

6 Gegenwärtige und zukünftige Hardware Trends Was bringt 2003? Mehr Blade Server Neue Xeon Chipsätze (FSB800), wahrscheinlich Q4 AMD Barton (512K L2 Cache) 64 bit AMD (Opteron Launch Ende April, Sledgehammer)/Itanium 2! Inkompatible OS (x86-64, IA64) Serial ATA Mehr Infiniband Netzwerke (beginnen mit 10Gb/s, Latenz < 0.5µs); GigE + Fibre Channel + Infiniband über einen PCI Adapter/Switch Neuer Standard? Decus Symposium Auswahl des richtigen Clusters Beste Architektur???? Es gibt keine einfache Antwort Performance ist extrem stark anwendungsabhängig Momentan ist Dual Xeon/FSB533 favorisiert Decus Symposium

7 Was bestimmt die Performance? höher CPU höher Cache niedriger Geschwindigkeit / Latenz RAM Netzwerk Bandbreite niedriger F: Wie schnell läuft ein Programm? A: Das hängt ganz davon ab Rechnet in Cache CPU/Cache Performance Memory Bandbreiten intensiv + memory Bandbreite Parallel kleine grosse Pakete Interconnect Interconnect Latenz Bandbreite! Verstehe Deinen Code! Führe Benchmarks aus!! Decus Symposium transtec HPC Solutions HPC Cluster Kits Compute Knoten (Standard Konfigurationen) 1U Dual Xeon: 2.66GHz/FSB533, E7501 Chipsatz, dual Gigabit, optional Myrinet/SCI, 3 x IDE bis 600GB 2U Dual Athlon: AMD 2600+, AMD 760MPX Chipsatz, optional Myrinet/SCI, 4 x IDE bis 480GB Blade Rack: Gleiche Specifikation wie 1 U Dual Xeon (nur 1 IDE Platte), 88 oder 132 Prozessoren/Rack Master Knoten (Dual Xeon/Athlon) Viele Optionen mit/ohne externem RAID, IDE oder SCSI, > 10TB Storage, High- Availability Option Netzwerk Viele verschiedene Fast/Gigabit Ethernet Switche; Myrinet/SCI (Quadrics auf Wunsch), Infiniband in Kürze Zubehör Remote Power Switche, Serielle Konsolen Server, UPS, Rack, Decus Symposium

8 HPC Software Neue Software Entwicklungen Verbesserte Kompiler (gcc 3.x, Intel C/C++/F90/F95) Cluster Filesysteme (PVFS) Verbesserter Linux Kernel Optimierte Math Libraries (ATLAS, Intel MKL, ) Batch Queueing (OpenPBS/MAUI Scheduler, Sun Grid Engine) Single System Image Cluster (Score, bproc) Treibende Kraft: Open Source Decus Symposium transtec Advanced HPC Software Bundle Wesentliche Vorteile Kompletter Softwaresetup ist vollkommen angepasst auf und getestet mit der gewählten Hardware Optimale Performance/Stabilität Extensive Stress/Temperatur Tests Benchmarking Minimaler time to crunch Minimale Implementierungsprobleme keine bösen Überraschungen Nutzung aller Hardware Eigenschaften (z.b.. Hardware Monitoring, serielle Konsole, ) Decus Symposium

9 transtec Advanced HPC Software Bundle Wesentliche Vorteile (cont.) Performance Optimierungen Optimierte C/Math Libraries Wahl der Kompiler (neueste gcc Varianten, Intel 7 voll integriert) ATLAS, hoch optimierte LAPACK/BLAS Libraries Unterstützung beim Portieren und Optimieren von Code Extreme low admin Lösung! niedriger TCO Volkommen skalierbar Absolut homogen konfigurierte Compute Knoten Decus Symposium transtec Advanced HPC Software Bundle Ausgewählte Key Features Zero admin Management der Compute Knoten PXE Remote Booting mit grosser RAMdisk Hardware Autodetection während des Bootvorgangs Automatische Plattenkonfiguration während des Bootens Vollständige Remote BIOS Kontrolle (Update + Einstellungs Autokorrektur) OS Upgrade aller Knoten durch Reboot innerhalb von 2 Minuten Beowulf Software Komponenten Viele unterschiedliche MPI Umgebungen optimiert für gcc, Intel Kompiler OpenPBS/MAUI Batch Queueing, Grid Engine optional, Score optional Myrinet Hardware Erkennung, optimiertes MPICH-GM (MPI) für gcc, Intel Kompiler Web basiertes Cluster Resourcen Monitoring CPU Temp. + Lüfter Monitoring (alert ).. Decus Symposium

10 transtec HPC Dienstleistungen! Schlüsselfertige Installation: Initialtests aller Hardware Komponenten Basis Software Installation / Stress tests / Benchmarks Vor Ort Hardwareaufbau (Rackmontage, Verkabelung, ) Vor Ort Software Integration Vor Ort Stresstests / Abnahmetests Vor Ort Admin Training! Hardware/Software Support: Standard Gewährleistung/Vor Ort Hardwareaustausch Software Wartungsvertrag (Updates, neue Software Komponenten, aktives Security Management, allg. Support) Optionale Betriebsunterstützung Decus Symposium transtec technology talk 2003 Vielen Dank für Ihre Aufmerksamkeit Decus Symposium