Einführungs-Workshop Februar Übersicht

Transkript

1 Einführungs-Workshop ebruar 2013 Übersicht

2 rogramm Vormittag Workshop 9:00 Christian Iwainsky SC: Best ractise Tuning 9:30 Dr.-Ing. Dörte C. Sternell NB: ASTEST 10:00 Kurs I: Die ersten Schritte - Hardware - Software 11:00 ause 11:15 Kurs II: Rechnen im Batchsystem - Befehle des Batchsystems - Beispiel: rogramm und Batchscript für I und Open - Was kann schiefgehen Tricks für erformance 12:15 Gemeinsames ittagessen izzeria DaNino (Selbstzahlung) Nachmittag raxisteil 14:00 ragen der Nutzer und Hilfestellung bei praktischer Anwendung - Beispielprogramme und eigene rogramme - Kommerzielle rogramme z.b. Comsol, astest, Ansys, atlab 15:30 ause 15:45 Kurs III: Crash-Kurs Open ca. 17:15 Ende der Veranstaltung 2

3 rogramm Vormittag Workshop (Essenzielle HC-Werkzeuge) 9:00 Dr. Sergey Boldyrev HRZ: Totalview (englisch) - Debugger - rogramm-ehlersuche 10:00 Christian Iwainsky SC: Vampir - I-erformance Analyse 11:00 ause 11:15 ichael Burger SC: Intel Cluster Studio - Open- und Serielle-erformance Analyse 12:15 Gemeinsames ittagessen izzeria DaNino (Selbstzahlung) Nachmittag raxisteil 14:00 ragen der Nutzer und Hilfestellung bei praktischer Anwendung - Tuning und Analyse eigener rogramme - Debugging Experience - erformace Optimierung im Batchbetrieb - Batchscipt-Optimierung kommerzieller rogramme z.b. atlab ca 17:00 Ende der Veranstaltung 3

4 Einführungs-Workshop ebruar 2013 Kurs I: Die ersten Schritte Hardware UCluster & ICluster Dr. Andreas Wolf

5 Was wir haben seit Anfang 2012 ICluster S Ethernet Infiniband 32 S-Knoten 4 rozessoren, AD Interlagos Je 12 e mit 2,6 GHz 64 GByte bzw. 128 GByte latten Nur Home: 750 Byte, 100 B/s HOE Infiniband QDR, 32 Gbit/s, ca. 1 µs Latenz 5

6 Ursprünglicher lan neuer Hochleistungsrechner Zuschlag hat IB bekommen, Ausschreibungssumme 13,5 io Lieferung von IB in zwei hasen I und II hase I (2012): heterogenes System - verschiedene Sektionen Rund 800 Rechenknoten Über 200 Tlops (peak) durch rozessoren Rund 128 Tlops (peak) durch Beschleunigerkarten (GU, IC) Unabhängig von Rechnerhardware Wasserkühlung so ausgelegt, dass Abwärme für Gebäudeheizung nutzbar ABER: es gab Verzögerungen! 6

7 HLR Infoveranstaltung Christian Bischof/Andreas Wolf 7

8 Schnelle und gute Übergangslösung Ein Teilsystem der hase I HW wurde im alten Serverraum der TU Darmstadt installiert Aufbau abgeschlossen 5 Inseln mit je 32 Rechenknoten und Home-ilesystem (NetApp) Kosten-inimierung Risiko-inimierung ehr Unabhängigkeit von weiteren Bau-Verzögerungen Konsequenz: Abschaltung des alten auf ower 6 & 5 basierenden HHLR Anfang ist letztes Jahr erfolgt Daten bleiben erhalten und sind derzeit weiter zugänglich 8

9 Ethernet Infiniband Was wir haben jetzt UCluster S I Ethernet Infiniband latten Home: 500 TByte, ca. 2 GB/s HOE 5x32 I 2 rozessoren, Intel Sandybridge Je 8 e mit 2,6 GHz 32 GByte Infiniband (Teilsystem - nur Insel-intern) DR-10, 54 Gbit/s, ca. 1 µs Latenz 9

10 Was wir bekommen 2013 hase I I E Ethernet Infiniband ACC HOE SCRATCH 704 x I (inkl. 5x32 von Dez. 2012) 2 rozessoren, Intel Sandybridge Je 8 e mit 2,6 GHz 32 GByte (10% 64 GByte) 4 x E 8 rozessoren, je 8 e 1024 GByte 64 x ACC 2 rozessoren + 2 Acceleratoren Nvidia Kepler, Intel Xeon hi (ehem. IC) 32 GByte latten Scratch: 768 TByte, 20 GB/s Home: 500 TByte, 5 GB/s Infiniband DR-10, 54 Gbit/s, ca. 1 µs Latenz 10

11 Was wir bekommen Ende 2014 hase II I Ethernet Infiniband I E E ACC ACC HOE SCRATCH SCRATCH Zusätzliche I 2 rozessoren Nachfolge Architektur 4 zusätzliche E 4 rozessoren Nachfolge Architektur 1024 GByte Zusätzliche ACC 2 rozessoren 2 Acceleratoren Nachfolge Architektur latten Scratch: +768 TByte Summe 1,5 Byte Infiniband DR 11

12 Hardware Details S I Details sind wichtig für effiziente Nutzung Im olgenden Was macht die Rechner schnell Heute: Anzahl Rechenkerne statt Takt Was muss man unbedingt beachten Als Anwender Welche Ressourcen fordere ich an Als rogrammierer Was muss ich bei der rogrammierung beachten 12

13 Vom einfachen Computer zum Hochleistungsrechner 13

14 Vom einfachen Computer zum Hochleistungsrechner 14

15 Vom einfachen Computer zum Hochleistungsrechner Große Rechner mit mehren rozessoren Viele besonders kleine Rechner Statt vieler normaler C's: 15

16 Vom einfachen Computer zum Hochleistungsrechner 16

17 ehrprozessor-system S I 17

18 Hardware Details S I 18

19 NUA-Systeme S I odul odul odul odul odul odul 19

20 NUA-Systeme S I Eine AVX Einheit pro Ein = zwei Hyperthreads Ein NUA-Node pro rozessor Eine AVX Einheit pro odul Ein odul = zwei e Zwei NUA-Nodes pro rozessor odul odul odul odul odul odul 20

21 NUA-Systeme S I 16 e (AVX-Einheiten) pro Knoten Zwei NUA-Nodes pro Knoten 48 odule (AVX-Einheiten) pro Knoten Acht NUA-Nodes pro Knoten 21

22 Einführungs-Workshop ebruar 2013 Kurs I: Die ersten Schritte Software UCluster & ICluster Dr. Andreas Wolf

23 Software auf dem Cluster System-Werkzeuge GCC: 4.4.6, 4.6.2,4.7.0 und Intel: , inkl. Analyser (morgen mehr) ACL und Intel-KL, SCALAACK etc. OpenI, IntelI,... Totalview (morgen mehr) Vampir (morgen mehr) Anwendungen Ansys v140 Abaqus (verschiedene Versionen) atlab 2012a COSOL

24 Zugriff auf den ICluster ICluster E-ail an Name TU-ID Eigene E-ail Adresse an erhält E-ail mit Instruktionen für das Setzen des assworts Login-Knoten: icluster.hrz.tu-darmstadt.de per SSH 24

25 Zugriff auf den UCluster E-ail an an erhält E-ail mit neuer Nutzerordnung Namen, TU-ID, E-ail Adresse, Instituts-Zugehörigkeit, Staatsangehörigkeit rojekt-thema Berichte Keine pers. Daten Nicht kommerziell Daten-Lagerzeit Unterschriften von Nutzer und Institutsleiter Grund: Größe des Systems Beachtung der ExportBeschränkungen Login-Knoten: ucluster1.hrz.tu-darmstadt.de ucluster2.hrz.tu-darmstadt.de 25

26 Zugriff auf den UCluster E-ail an an erhält E-ail mit neuer Nutzerordnung Namen, TU-ID, E-ail Adresse, Instituts-Zugehörigkeit, Staatsangehörigkeit rojekt-thema Berichte Keine pers. Daten Nicht kommerziell Daten-Lagerzeit Unterschriften von Nutzer und Institutsleiter Grund: Größe des Systems Beachtung der ExportBeschränkungen Login-Knoten: ucluster1.hrz.tu-darmstadt.de ucluster2.hrz.tu-darmstadt.de 26

27 Zugriff auf den UCluster E-ail an an erhält E-ail mit neuer Nutzerordnung Namen, TU-ID, E-ail Adresse, Instituts-Zugehörigkeit, Staatsangehörigkeit rojekt-thema Berichte Keine pers. Daten raktikum heute und morgen nur Nicht kommerziell spezielle Workshop Nutzerordnung Daten-Lagerzeit Unterschriften von Nutzer und Institutsleiter Grund: Größe des Systems Beachtung der ExportBeschränkungen Login-Knoten: ucluster1.hrz.tu-darmstadt.de ucluster2.hrz.tu-darmstadt.de 27

28 odulares Laden & Entladen > module avail Zeigt alle verfügbaren Software-odule an. 28

29 odulares Laden & Entladen > module list Zeigt die derzeit für den User geladenen Software-odule an. > module load <odul-name> Lädt Software-odul für das genannte rogrammpaket Erst nach dem Laden des oduls steht die Software zur Verfügung! > module load <odul-name> Entlädt Software-odul 29

30 Nutzung eines HC-Systems Viele Nutzer wollen rechnen Allerdings nicht gleichzeitig auf dem selben Rechner Bei hunderten von Rechenknoten wäre die Suche nach einem freien Rechner mühselig Batchsystem anaged automatisch die freien Rechner (Ressourcen) Unterschiedliche rozessoren (Typ und Art) Unterschiedlich viel freier Hauptspeicher Unterschiedliche spezial Hardware (Akzeleratoren) ICluster: SLUR (Open Source) UCluster (und zukünftige): LS (IB kommerziell) 30

31 Weiter geht s nach der ause mit den Batchsystemen Vielen Dank für Ihre Aufmerksamkeit 31