Leistungsbewertung von HPC-Systemen. Leistung einer Anwendung auf einem HPC-System hängt von verschiedenen Faktoren ab:

Transkript

1 Ihal Leisugsbewerug vo HPC-yseme Leisugsmaße Geseze Bechmarks arallele Rechermodelle High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug Leisugsmaße Leisug eier Awedug auf eiem HPC-ysem häg vo verschiedee Fakore ab: Archiekur des HPC-ysems Eigeschafe des zugrudeliegede Algorihmus Parallelisierug des Algorihmus ud Pariioierug der Dae Programmierumgebug Comiler Beriebssysem hohe Leisug ka bedeue: kurze Aworzei für jedes eizele Programm A: resose A user A sysem A wai A kurze Rechezei für jedes eizele Programm A: user A isr A CPIA cycle mi CPI Clocks er Isrucio hoher Durchsaz a Programme High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 2

2 Leisugsmaße Fors. Die Leisug eies ysems für eie Awedugsrogramm A läß sich als MIP-Rae agebe: isr A MIP A A 0 user mi isr Azahl der vo Programm A ausgeführe Maschie-Isrukioe im echisch/wisseschafliche Bereich wird zur Leisugsagabe häufiger die MFLOP-Rae verwede: FLOPA MFLOPA A 0 user sek sek mi FLOP Azahl der vo Programm A ausgeführe Gleikomma-Oeraioe Aleraiv fide ma auch die Agabe der maximale Leisug Peak Performace eies HPC-ysems i MFLOP High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 3 Leisugsmaße Fors. als eedu bezeiche ma de Geschwidigkeisgewi eier arallele Imlemeierug auf Prozessore gegeüber eier oimale seueielle Referezimlemeierug: Probleme: mi Problemgröße oimale seueielle Referez-Imlemeierug of ich beka seueieller ud aralleler Algorihmus köe uerschiedlich sei i.a. sark abhägig vo ud vom Verhälis vo zu die Effiziez E eier arallele Imlemeierug is defiier als E High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 4 2

3 3 High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 5 Gesez vo Amdahl 97 we ei Brucheil mi 0 < < eies Programms seueiell ausgeführ werde muß, so beräg der maximal erreichbare eedu ur och: High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug Gesez vo Gusafso 988 sei se die Zei für die Ausführug des seueielle Teils eies Programms ud ar die Zei für die Ausführug des arallelisierbare Teils auf Prozessore, so gil: Aahme: se ar ar se ar se

4 Bechmarks vier Klasse vo Bechmarks: Mikro-Bechmarks : sezielle Tesrogramme, die eiige Eigeschafe vo HPC-yseme ud Programmierumgebuge bewere Beisiel: Pallas MPI Bechmark yheische Bechmarks : syheisch erzeuger Isrukios-Mix, der reräseaiv für eie große Klasse vo Programme is Beisiele: Dhrysoe, Whesoe Probleme: Wechselwirkug zwische Prozessor ud eicher wird ich erfaß Programmkere : relevae kleie Teile vo häufig eigeseze große Programme Beisiel: LINPACK Probleme: Leisugsmaße ur für eiige Aweduge releva Bechmarks aus reale Aweduge : Mix aus vollsädige Awedugsrogramme, die für de durchschiliche Beuzer eies ysems releva sid Beisiel: PEC Bechmark Probleme: für arallele HPC-yseme schwierig zu imlemeiere High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 7 LINPACK Bechmark Löse eies Gleichugssysems aus N Gleichuge 4-Bi Gleikomma-Arihmeik FORTRAN-Code, basiered auf Fukiosaufrufe der BLA- Bibliohek Basic Liear Algebra ubrograms für jede Recher sid folgede Größe azugebe: R 00 i MFLOP: Leisug für N 00 R 000 i MFLOP: Leisug für N 000 R max i MFLOP: Maximale Leisug für beliebiges N max N max : Problemgröße für maximale Leisug N ½ : Problemgröße für Leisug R max / 2 R eak i MFLOP: maximale heoreische Leisug Zahl der Prozessore, Beriebssysem, Comiler ud Comiler-wiches Ergebisse für akuelle HPC-yseme uer High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 8 4

5 arallele Rechermodelle Ziel: Modellierug ud Leisugsvorhersage für arallele Algorihme vor Durchführug eier kokree Imlemeierug Asaz: Absrakio vo der kokree Archiekur eies HPC- ysems ud Wahl eiiger charakerisischer Parameer eiige i der Lieraur vorgeselle Modelle: PRAM [Forue ad Wyllie, 978] Parallel Radom Access Machie BP [Valia, 990] Bulk ychroous Parallel Machie LogP [Culler, 99] High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 9 -PRAM [Forue ad Wyllie, 978] Absrakio eier hared-memory Archiekur arallele sychroe Maschie aus Prozessore P,...,P -, die auf eie ubeschräke gemeisame eicher M zugreife i jedem chri ka P i auf eie Zelle vo M zugreife; zur Lösug vo Zugriffskoflike wurde verschiedee PRAM- Variae vorgeschlage: EREW Exclusive Read, Exclusive Wrie CREW Cocurre Read, Exclusive Wrie CREW Cocurre Read, Cocurre Wrie : bei kokurrieredem schreibede eicherzugriff gewi ei P i zufällig oder idexbasier PRAM-Modell is sivoll, um de heoreische maximale Paralleliäsgrad eies Algorihmus zu besimme urealisisch: je Zeischri ei eicherzugriff möglich, keie Modellierug des Overheads zur ychroisaio High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 0 5

6 BP [Valia, 990] Absrakio eier Disribued-Memory Archiekur Aahme: Jeder Algorihmus beseh aus eier euez vo uerschrie suerses : lokale asychroe Berechug vo Teilergebisse Ausausch vo Teilergebisse miels sed ud recv abschließede Barriere-ychroisaio Ausführugszei eies uerschris: max i w i h g l w i : Azahl lokaler Recheschrie je Phase ud je Prozessor P i h : Azahl vo zu sedede/emfagede Nachriche je Prozessor g : maximale Azahl der Zeischrie für das ede ud Emfage eier Nachrich bei der Realisierug eier h-relaio l : obere Zeischrake für globale ychroisaio realisisches Modell für viele Algorihme! High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug LogP [Culler, 99] Idee: deailliere Modellierug vo Laezzei, Overhead ud Badbreie folgede vier Parameer charakerisiere ei HPC-ysem: L : obere chrake für die Laezzei bei der Überragug eies Wores o : Verwalugsaufwad overhead, defiier als CPU-Zei, die ei Prozessor für das ede ud Emfage eier Nachrich beöig g : Überragugsabsad ga, defiier als miimale Zeisae zwische zwei aufeiader folgede ede- bzw. Emfags-Vorgäge; Rezirokwer /g esrich der Badbreie P : Azahl verfügbarer Prozessore im ysem beschräke Kaaziä des Nezwerks : zwische zwei beliebige Prozessore köe maximal L/g Nachriche uerwegs sei realisisches Modell, aber Abhägigkei der Laezzei vo Nachricheläge ich modellierbar! High Performace Comuig, 2002 A. rey, Uiversiä Ulm Kaiel 4 : Leisugsbewerug 2