Warum in die Ferne schweifen?

Transkript

1 Eine Reise nach Palma B. Süselbeck Warum in die Ferne schweifen? Lokale Ressourcen reichen nicht trotz Parallelisierung Lokale Hardwarebeschaffung zu teuer, nur gelegentlich benutzt 1

2 Demo Ein kleines R Programm ngchain = function(n) { } x=0 y=0 for (i in 1:n) { } x=rgamma(1,3,y*y+4) y=rnorm(1,1/(x+1),1/sqrt(2*x+2)) c(x,y) 2

3 Sequentielle Ausführung > TestSeq function (n) { } result <- sapply( 1:n, function(x) ngchain(1000)) result > TestSeq(8000) Auslastung des Systems 3

4 > TestPar function (n, cpus=2, par=true) { } library(snowfall) sfinit(parallel=par, cpus=cpus) sfexport("ngchain") result <- sfsapply( 1:n, function(x) ngchain(1000)) sfstop() result > TestPar(8000) Parallele Ausführung Auslastung des Systems 4

5 Last Minute? Können wir mal eben mit dem ZIV nach Palma reisen? Nein! Ein Abenteuerurlaub will gut vorbereitet sein. Außerdem: Kleiner Umweg erforderlich Reisekatalog Alle Information zu HPC im ZIV: HPC.html 5

6 Erstes Ziel > zivhpc Reisedokumente: Gültige Kennung im ZIV Man trägt sich über meinziv in die Gruppe u0clstr ein Erstes Ziel > zivhpc Etwas holpriges Reisefahrzeug: ssh Klient (Terminal und File Transfer) 6

7 Erstes Ziel > zivhpc Andere Länder, andere Sitten: Linux Betriebssystem Erstes Ziel > zivhpc Unbequeme Unterkunft: Kommando orientiertes Arbeiten 7

8 Erstes Ziel > zivhpc Lange Schlangen am Buffet: Nutzung des Batchsystems Demo 8

9 ssh Login ssh Terminal 9

10 ssh FileTransfer Parallele Ausführung ~]$ cd HPC-IVV02 HPC-IVV02]$ ls -l total 3 -rw-r--r-- 1 suselbe u0rz 170 Jun 18 15:54 ngchain.r -rw-r--r-- 1 suselbe u0rz 224 Jun 18 15:54 TestParallel.R -rw-r--r-- 1 suselbe u0rz 269 Jun 18 16:50 TestRPar.pbs -rw-r--r-- 1 suselbe u0rz 70 Jun 18 17:05 TestRPar.R -rw-r--r-- 1 suselbe u0rz 101 Jun 18 15:54 TestSequential.R [suselbe@zivsmp001 HPC-IVV02]$ /Applic.ZIV/R/3.0.1/bin/R > TestPar(8000, cpus=32) Loading required package: snow R Version: R version ( ) snowfall initialized (using snow ): parallel execution on 32 CPUs. 10

11 R Prozesse suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:39 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:39 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:39 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:39 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:40 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:39 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:38 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:38 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:38 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:39 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/2 00:00:39 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r suselbe :29 pts/3 00:00:00 -bash suselbe :29 pts/2 00:00:39 /Applic.ZIV/R/3.0.1/bin/exec/R --slave --no-restore --file=/applic.ziv/r/3.0.1/library/snow/r Batch System Skriptdatei: TestRPar.pbs #PBS -o /scratch/tmp/suselbe/testrpar.cons #PBS -l walltime=1:00:00,nodes=1:smp:ppn=32 #PBS -A suselbe #PBS -M suselbe@uni-muenster.de #PBS -m ae #PBS -q default #PBS -N TestRPar #PBS -j oe cd /home/s/suselbe/hpc-ivv02 /Applic.ZIV/R/3.0.1/bin/R --no-save < TestRPar.R 11

12 Batch System Submit des Jobs und Statusabfrage: HPC-IVV02]$ qsub TestRPar.pbs 142.master.cvos.cluster HPC-IVV02]$ qstat 142 Job id Name User Time Use S Queue 142.master TestRPar suselbe 0 R testq [suselbe@zivsmp001 HPC-IVV02]$ Batch System Kommando: pbstop Usage Totals: 32/208 Procs, 1/23 Nodes, 1/1 Jobs Running 13:59:10 Node States: 22 free 1 job-exclusive node001.cvos.cluster... node002.cvos.cluster... node003.cvos.cluster... node004.cvos.cluster... node005.cvos.cluster... node006.cvos.cluster... node007.cvos.cluster... node008.cvos.cluster... node009.cvos.cluster... node010.cvos.cluster... node011.cvos.cluster... node012.cvos.cluster... node013.cvos.cluster... node014.cvos.cluster... node015.cvos.cluster... node016.cvos.cluster... node017.cvos.cluster... node018.cvos.cluster... node019.cvos.cluster... node020.cvos.cluster... phi1.cvos.cluster... phi2.cvos.cluster... zivsmp001.cvos.cluster ssssssssss ssssssssss ssssssssss ss Job# Username Queue Jobname CPUs/Nodes S Elapsed/Requested s = 142 suselbe testq TestRPar?/1 R 00:04:16/01:00:00 [?] unknown [@] busy [*] down [.] idle [%] offline [!] other 12

13 Batch System Ganglia: Reiseleitung Man fühlt sich doch zu Hause: Standard Software ist vorhanden (z.b. Mathematica) Freie Software wird installiert und angepasst (z.b. R) Test von Software im HPC Umfeld (z.b. Stata) Bei Bedarf Einweisung der Nutzer 13

14 Nächstes Ziel > Palma Reisedokumente: Visum erforderlich, d.h. es muss ein Projektantrag gestellt werden. Relativ unbürokratisch Nächstes Ziel > Palma Alles andere: Bleibt gleich, aber Palma ist viel leistungsfähiger zivhpc: Üben Palma: Produzieren 14

15 Demo Post aus Palma PBS Job Id: palma001.palma.wwu Job Name: TestRPar Exec host: palma061/31+palma061/30+palma061/29+ palma061/28+palma061/27+palma061/26+palma061/25+ palma061/24+palma061/23+palma061/22+palma061/21+ palma061/20+palma061/19+palma061/18+palma061/17+ palma061/16+palma061/15+palma061/14+palma061/13+ palma061/12+palma061/11+palma061/10+palma061/9+ palma061/8+palma061/7+palma061/6+palma061/5+ palma061/4+palma061/3+palma061/2+palma061/1+palma061/0 Execution terminated Exit_status=0 resources_used.cput=00:16:55 resources_used.mem=292928kb resources_used.vmem= kb resources_used.walltime=00:02:45 15

16 Reisekosten? Lizenzkosten: Lizenzkosten nicht nur pro Nutzer, sondern auch pro CPU/Core Mathematica: zusätzliche Compute Kernel (152) Matlab: z.zt. nicht finanzierbar Endstation Palma? Palma II Anträge formulieren! (Fragebogen) 16