Computational Biology: Bioelektromagnetismus und Biomechanik

Transkript

1 Computational Biology: Bioelektromagnetismus und Biomechanik Implementierung Gliederung Wiederholung: Biomechanik III Statische Elastomechanik Finite Elemente Diskretisierung Finite Differenzen Diskretisierung Dynamische, nichtlineare Elastomechanik Virtuelle Verschiebungen Inkrementelle lagrangesche Formulierung Finite Elemente Diskretisierung Implementierung Motivation Rechnerarchitektur Parallelisierung Interprozess-Kommunikation Speicherarchitektur Beispiel Parallelisierung 2D Laplace Zusammenfassung Seite 2

2 Motivation Aufstellen der Elementmatrix Einbringen von Randbedingungen Aufstellen/Lösen von Gleichungssystemen (Systemmatrix) Diskretisierung des Feldgebiets Bestimmung der Ansatzfunktion für Elemente Feldfunktion u(x, y, z) Seite 3 Motivation Lineares Gleichungssystem mit einer hohen Zahl von Unbekannten Erforderlich: Effiziente Verfahren zur Aufstellung und Lösung der Gleichungssysteme Effiziente Implementierung der Verfahren Hohe Rechenleistung und Speicherausstattung Parallelisierung Rechner- und Speicherarchitektur Mathematische Beschreibung des Feldproblems (Differentialgleichung) Interprozeß- Kommunikation Seite 4

3 Multicomputer-Architektur Heterogene Prozessoren (Prozessor-)lokaler Speicher Kommunikation via Netzwerk Rechnerarchitekturen Compute Server Netzwerk Workstation Graphics Server Multiprozessor-Architektur Homogene Prozessoren Gemeinsamer oder/und verteilter Speicher Kommunikation via Bus Bus Prozessor 1 Prozessor 2 I/O Speicher Speicher I/O Seite 5 Beispiel: Multicomputer-Architektur des IBTs Linux PC-Systeme Silicon Graphics Workstations Systeme Apple Silicon MacIntosh Graphics PC-Systeme 100 MBit Windows PC-Systeme Silicon Graphics Datei- und Web-Server Silicon Graphics Visualisierungs- Server Silicon Graphics Compute Server Seite 6

4 Beispiel: Multiprozessor mit Craylink (Silicon Graphics Server) modifiziert nach Seite 7 Klassifikation von Rechnerarchitekturen nach Flynn (1972) SISD Single Instruction Single Data (Zuse Z3, PCs / Workstations z. B. auf Basis von Intel 80x86 / Pentium und Mips R3000-R14000) Prozessor 1 Ø a* = b Ø SIMD Single Instruction Multiple Data (Vektorrechner, z. B. Connection machine, Cray 1/2/XMP) Prozessor 1 Prozessor 2 Prozessor 3 Ø Ø Ø a*=b 1 1 a 2*=b2 a 3*=b3 Ø Ø Ø MIMD MISD Multiple Instruction Multiple Data (Transputer z. B. auf Basis von T400/T800) Multiple Instruction Single Data (nur theoretischer Ansatz) Prozessor 1 Prozessor 2 Prozessor 3 Ø Ø Ø a 1+ = b1 gosub label a 3 = b3 Ø Ø Ø Seite 8

5 Job level Program level Instruction level Typ der Parallelisierung Mehrere Programme werden gleichzeitig ausgeführt Betriebssystem (Scheduler) steuert Ausführung Benutzer gibt Prioritäten für Programme vor Programm entspricht Prozess Programmteile werden in parallelen Prozessen ausgeführt Compiler/Interpreter/Benutzer bestimmt Ausführung Benutzer gibt Prioritäten für Prozesse vor Befehle werden parallel ausgeführt Compiler/Interpreter/Benutzer bestimmt Ausführung Arithmetic and bit level Befehl wird parallel ausgeführt Prozessor steuert Ausführung Seite 9 Job Level Parallelisierung/Scheduler P1 t Betriebssystem teilt Prozessen Zeit und Prozessoren zu Zuteilung ist Prioritäten gesteuert P1: Prozess mit hoher Priorität P2, P3: Prozess mit mittlerer Priorität P4, P0: Prozess mit niedriger Priorität P2 P0 Prozessor 1 Prozessor 2 P4 P3 P0 P1 P2 P3 P4 P5 Seite 10

6 Program Level Parallelisierung Prozessor 1 Prozessor 2 Prozessor 3 Prozessor 4 Init Paralleler Programmteil Paralleler Programmteil Stop Seite 11 Program Level Parallelisierung: Beispiel OpenMP Serielle Ausführung der Vektoraddition Dimension des Vektors for(i=0; i<n; i++) a[i =b[i]+c[i] r r r a = b+ c n Parallele Ausführung der Vektoraddition / Benutzergesteuerte Parallelisierung #pragma shared(a,b,c,n) local(i) pfor for(i=0; i<n; i++) a[i =b[i]+c[i] Seite 12

7 Job Level Parallelisierung: Beispiel MPI Funktionen von MPI (Message Passing Interface) MPI_Init() MPI_Finalize() MPI_Comm_rank() MPI_Recv() MPI initialisieren MPI beenden Job-Nummer holen Nachricht lesen P1 P0 P2 P3 MPI_Send() Nachricht senden P0 P1 P2 P3 Seite 13 Interprozess-Kommunikation (IPC): Mechanismen Shared Memory Prozesse können direkt im Speicher adressieren und auf Daten zugreifen (möglich u. a. bei Multiprozessor-Architektur) Message Queues Semaphore Prozessoren kommunizieren durch Senden und Empfangen von Nachrichten (möglich u. a. bei Multicomputer-Architektur) Sperren und Freigeben von Programmabschnitten (möglich u. a. bei Multiprozessor-Architektur) IPC-Mechanismen sind Bestandteil des Betriebssystems, u. a. Unix und Windows Seite 14

8 Operatoren Anlegen Freigeben Anhängen Abhängen Interprozess-Kommunikation: Shared Memory Shared Memory Prozessor 1 Prozessor 2 Bus Scheduler Prozess 1 Prozess 2 Prozess 3 Seite 15 Interprozess-Kommunikation: Message Queues Operatoren Anlegen Freigeben Lesen Schreiben Prozessor 1 Prozessor 2 Prozess 1 Prozess 2 Prozess 3 Scheduler Message Queue 1 Message Queue 2 Seite 16

9 Operatoren Anlegen Freigeben Sperren Entsperren Interprozess-Kommunikation: Semaphore Prozessor 1 Prozessor 2 Prozess 1 Prozess 2 Prozess 3 Scheduler Semaphor 1 Semaphor 2 Seite 17 Speicherarchitektur: Gesamt-/Blockgröße Blockgröße ~2-8 Byte ~8-64 Byte ~8-64 Byte ~ Byte Register CPU First Level Cache Secondary Cache Main Memory Swap (Hard disk) ~ Byte ~8-64 kb ~32 kb-8 MB ~1 MB-1 GB ~1 GB-10 GB Größe [Byte] Seite 18

10 Speicherarchitektur: Zugriffszeiten/Transferrate Register CPU First Level Cache Transferrate [byte/s] Secondary Cache Main Memory Swap (Hard disk) Zugriffdauer [ms] Seite 19 Speicherarchitektur: Kosten/Technologie ECL/CMOS SRAM DRAM magnetic Register First Level Cache Secondary Cache Main Memory Swap (Hard disk) CPU Kosten [Euro] Seite 20

11 Beispiel: Parallelisierung 2D Laplace Gleichung mit OpenMP Lösung mit Gauß-Seidel-Verfahren: Laplace: Df = 0 f01 Finite Differenzen Diskretisierung f01-2f00 + f0m f10-2f00 + f0m h h h: Gitterabstand = 0 fm0 f00 f10 f0m Nachbarschaftsbeziehung Seite 21 Beispiel: Iterationsformel, Feldgebiet und Programm f00 f01 + f0m+ f10 + f0m 4 Byte 24 Sequentielles Programm in C for(y=0; y<ymax; y++) for(x=0; x<xmax; x++) { // Iterationsformel // Zeitaufwendig! } Anzahl Punkte in x-richtung: xmax Anzahl Punkte in y-richtung: ymax Byte 0 Sequentielle Speicherung der Werte im Hauptspeicher des Rechners 2D Array 1D Array Seite 22

12 Beispiel: Programmvarianten Sequentielles Programm mit Red-Black-Sorting for(sy=0; sy<2; sy++) for(sx=0; sx<2; sx++) for(y=sy; y<ymax; y+=2) for(x=sx; x<xmax; x+=2) { // Iterationsformel } Paralleles Programm mit Red-Black-Sorting #pragma shared(xmax,ymax) local(sx,sy,x,y) pfor for(sy=0; sy<2; sy++) for(sx=0; sx<2; sx++) for(y=sy; y<ymax; y+=2) for(x=sx; x<xmax; x+=2) { // Iterationsformel } Probleme: Anzahl Prozessoren Cache-Kollisionen Cache-Blocksize Seite 23 Beispiel: Programmvarianten Paralleles Programm mit Red-Black-Sorting for(sy=0; sy<2; sy++) for(sx=0; sx<2; sx++) #pragma shared(xmax,ymax,sx,xy) local(x,y) pfor for(y=sy; y<ymax; y+=2) for(x=sx; x<xmax; x+=2) { // Iterationsformel } Probleme Cache-Kollisionen Cache-Blocksize Paralleles Programm mit Red-Black-Sorting #pragma shared(xmax,ymax) local(sx,sy,x,y) pfor for(y=0; y<ymax; y+=2) for(sy=0; sy<2; sy++) for(sx=0; sx<2; sx++) for(x=sx; x<xmax; x+=2) { // Iterationsformel } Effizient, aber reduzierte Glättungseigenschaften Seite 24

13 Zusätzliche Informationen Web-basierter Trainingskurs: Recipes for Applying Supercomputers Rüdiger Weiss, Rechenzentrum rz66/vorlesung/ Vorlesungsunterlagen: Parallelisierungstechniken Rechenzentrum MPI Offizielle Open MP website: Offizielle MPI website: Seite 25 Zusammenfassung Wiederholung: Biomechanik III Statische elastomechanische Probleme Finite Elemente Diskretisierung Finite Differenzen Diskretisierung Lagrange Formulierung/Hyperelastisches Material Implementierung Motivation Rechnerarchitektur Parallelisierung Interprozess-Kommunikation Speicherarchitektur Beispiel Parallelisierung 2D Laplace Seite 26