Konzepte der parallelen Programmierung

Transkript

1 Fakultät Informatik, Institut für Technische Informatik, Professur Rechnerarchitektur Konzepte der parallelen Programmierung Skalierbarkeit und Modularität Nöthnitzer Straße 46 Raum 1029 Tel (bernd.trenkler@tu-dresden.de)

2 Skalierbarkeit Skalierbarkeit erfasst das Verhaltens eines parallelen Programms bei steigender Prozessoranzahl! ein Programm skaliert gut, wenn der Leistungsgewinn proportional zur Anzahl der verwendeten Prozessoren p ist

3 Skalierbarkeit unterschiedliche Präzisierung des Begriffs Skalierbarkeit z.b. durch 1. Einbeziehung der Problemgröße n häufige Eigenschaft paralleler Algorithmen ist: für n = konstant und einer wachsenden Prozessoranzahl p tritt eine Sättigung von Sp auf für p = konstant und steigender Problemgröße n steigt Sp gute Skalierbarkeit: bei gleichzeitigem Ansteigen der Prozessoranzahl p und der Problemgröße n bleibt die Effizienz konstant (vgl. Gustafson: Scaleup Sc = n/m = p für T(1,m) = T(p,n) )

4 Skalierbarkeit 2. Bezug zum Computerprogramm vom Gesichtspunkt des Programmierers bedeutet die Realisierung der Skalierbarkeit: è Veränderungen der Prozessorenanzahl und Problemgröße muss möglich sein, ohne dass das Programm geändert werden muss.

5 Modularität Ziel des modularen Entwurfs Der modulare Entwurf dient zur Organisation komplexer Systeme (große Programme, elektronische Schaltkreise, oder mechanische Geräte) als:! einen Satz von unterschiedlichen Komponenten, die unabhängig voneinander entwickelt werden können und! später zusammengefügt werden Effektivität der Technik hängt sehr stark von der gewählten Aufteilung in Module ab

6 Modularität Design-Prinzipien a.) einfache Interfaces! reduziert die Anzahl der notwendigen Aktionen bei der Erstellung und Überprüfung des Systems (codig, design, testing)! erleichtert die Wiederverwendung von SW für verschiedene Fälle à Wiederverwendung von SW ist wichtigster Faktor zur Kosteneinsparung (Amortisierung bei anderen Projekten) b.) Module sollen Informationen verstecken Informationen einkapseln, die nicht notwendig für den Rest des Programms sind à Verstecken der Information "information hiding" erleichtert Entwurfsänderungen c.) geeignete Tools nutzen

7 Modularität Entwurfs-Check-Liste 1.) Liegen klar definierte Module vor? 2.) Hat jedes Modul einen klar definierten Zweck? 3.) Jedes Modul-Interface sollte genügend abstrakt sein. 4.) Gibt es eine zweckmäßige Unterteilung innerhalb der Module (soweit funktionell möglich)? 5.) Haben Sie überprüft, dass verschiedene Module nicht die Funktionalität kopieren? 6.) Haben Sie solche Aspekte des Entwurfs herausgelöst, die: hardwarespezifisch sind oder anderweitig häufigen Veränderungen unterliegen?

8 Datei "input" // structure of input // <mode><space or \n><number of elements><space or \n><name of sorting algorithm> // <space or \n><version><space or \n><number of processors><space or \n> // // mode : 0 - test ; 1 - work // number of elements : number*1024 used if mode==1 ; ignored otherwise // name of sorting algorithm : // version : // number of processors : // //1 10 bitonic-sort serial 4 //1 10 odd-even-transposition-sort serial 4 //1 1 shell-sort serial 4 //1 10 quick-sort serial 4 //1 10 bitonic-sort parallel-massive-communication 32 // bitonic-sort parallel-one-communication-per-block odd-even-transposition-sort parallel 4 // shell-sort parallel 4 //1 10 quick-sort parallel-hyper-cube 4 //0 1 quick-sort parallel-master-slave 32

9 Datei "sorting.c" int main (int argc, char *argv[]) {... MPI_Init(&argc,&argv); MPI_Comm_rank(MPI_COMM_WORLD,&myID); if (myid==0) { parseinput(&input); outputfile=initoutput(input.mode); elements=(long *)getdata(&input.number,input.alg,null); writedata(&input,elements,outputfile); } initprocs(&input,myid); distributedata(&elements,&input,myid); makealgorithm(&elements,&input,myid); gatherdata(elements,&input,myid); if (myid==0) { writeresult(elements,input.number,outputfile); closeoutput(outputfile); } MPI_Finalize();...