COMPUTERKLASSEN MULTICOMPUTER und SPEZIALANWENDUNGSSYSTEME

Transkript

1 D - CA - XIX - CC,M&SPC - 1 HUMBOLDT-UNIVERSITÄT ZU BERLIN INSTITUT FÜR INFORMATIK Vorlesung 19 COMPUTERKLASSEN MULTICOMPUTER und SPEZIALANWENDUNGSSYSTEME Sommersemester 2003 Leitung: Prof. Dr. Miroslaw Malek

2 D - CA - XIX - CC,M&SPC - 2 WEGE DER VERBESSERUNG DER PERFORMANCE ALGORITHMEN ARCHITEKTUR TECHNOLOGIE UNIPROZESSOR PARALLELE VERARBEITUNG PIPELINING SYSTOLISCHES RECHNEN

3 WAS IST EIN ALLGEMEIN VERWENDBARER PARALLEL COMPUTER? D - CA - XIX - CC,M&SPC - 3 EIN ALLGEMEIN VERWENDBARER COMPUTER IST EINE MASCHINE, DIE EINE STATE-OF-THE-ART SISD- MASCHINE ÜBERTRIFFT, SELBST WENN SIE NUR BEI 50% EFFIZIENS LÄUFT z.b. 100 PEs x 20 MFLOPS > GFLOPS 20 PEs x 100 MFLOPS > GFLOPS ODER EINE MASCHINE, AUF DER MAN OHNE KENNTNIS IHRER ORGANISATION EFFIZIENTE PARALLELE PROGRAMME SCHREIBEN KANN ODER BEIDES

4 D - CA - XIX - CC,M&SPC - 4 PROBLEME??...? ARCHITEKTUR??? IMPLEMENTATIONEN

5 D - CA - XIX - CC,M&SPC - 5 DAS GRÖSSTE PROBLEM IST EIN PROBLEM! WIE DEFINIERT MAN ES? WIE LÖST MAN ES?

6 D - CA - XIX - CC,M&SPC Haben wir nützliche Problemtaxonomien? - Können wir einen Problemtyp definieren? Auf welchem Level; Granularlität und Größe? - Haben wir einen Algorithmus, ein Problem zu lösen? - Wenn wir viele Algorithmen haben, wie können wir entscheiden, welcher der beste ist? Geschwindigkeit kontra Genauigkeit (Optimalität)

7 D - CA - XIX - CC,M&SPC - 7 EINE ZIEL -TAXONOMIE - MULTIPROZESSOREN FÜR SPEZIALANWENDUNGEN ALGORITHMUSSPEZIFISCH (z.b. Sortieren, Tabu-Suche) ANWENDUNGSSPEZIFISCH (z.b. Datenbank, Signalverarbeitung) - MULTIPROZESSOREN FÜR VIELSEITIGE ANWENDUNGEN - ALLGEMEIN VERWENDBARE MULTIPROZESSOREN

8 D - CA - XIX - CC,M&SPC - 8 DESIGNMETHODOLOGIE ANWENDUNGEN ( ) BERECHNUNGS- CHARAKTERISTIKEN SPRACHEN BERECHNUNGS- MODELLE ARCHITEKTUREN IMPLEMENTATIONEN (mehr als 150) Performance einschätzen & immer wieder neu abstimmen

9 D - CA - XIX - CC,M&SPC - 9 ALGORITHMEN SUCHMETHODEN MAPPING SCHEDULING CHARAKTERISTIKEN UND VERFAHREN: DETERMINISTISCH, HEURISTISCH, FUZZYLOGIK, CHAOS-THEORETISCH

10 Dichte D - CA - XIX - CC,M&SPC - 10 CFD Eingabe: Ausgabe: BERECHUNGSCHARAKTERISTIKEN, BEISPIELE Ein Gitter mit 5-10 M Punkten 3-D Ansichten Bei 60 Bildern/Sekunde 5-10k Operationen/Punkt 50k Iterationen numerisch kontra nichtnumerisch direkt kontra iterativ SPARSE MATRIX Divide & Conquer kontra Hybridization Grösse Regelmässigkeit

11 D - CA - XIX - CC,M&SPC - 11 ARCHITEKTUR IST: für einen Puristen: Befehlssatz Und E/A-Ausstattung Für alle anderen: + Organisation (Struktur) Speichertyp (Shared kontra Message-passing; Global kontra local; Tightly Kontra Loosely-coupled) Grösse Des System (Zahl Der Prozessoren) Netztyp Speicherhierarchie Granularität Mapping (Binding) Synchronisation

12 D - CA - XIX - CC,M&SPC - 12 TOPOLOGIEN(1) Verschiedene Topologien: Die starken Punkte stellen Weichen dar.die CPU s und Speicher werden nicht gezeigt. (a) Ein Stern, (b) Ein komplette Zwischenverbindung (c) Ein Baum. (d) Ein Ring. (i) Ein Banyan

13 D - CA - XIX - CC,M&SPC - 13 TOPOLOGIEN(2) Verschiedene Topologien: Die starken Punkte stellen Weichen dar. (e) Ein Netz, (b) Ein doppelter Torus (sieht wie ein Donut aus) (g) Würfel. (h) Ein 4d Hyperwürfel

14 D - CA - XIX - CC,M&SPC - 14 Was Sind harte Parameter für ein Problem und eine Algorithmusbeschreibung? Grösse Platz/Zeit Komplexität Platz/Zeit Überschuss Geschwindigkeitssteigerung Was Sind Lockere Parameter? Typ Sprache Partitionierungs- & Mapping-effizienz, Möglichkeiten für Datenaustausch?

15 Wirkliche Programme erreichen weniger als die maximale Geschwindigkeit, was von der gepunkteten Line angezeigt wird. *ein altes afrikanisches Brettspiel D - CA - XIX - CC,M&SPC - 15

16 ARCHITEKTURPARAMETER D - CA - XIX - CC,M&SPC - 16 Zahl der Prozessoren (Leistung) Netztopologie (Bandbreite) Speichersystem (Bandbreite) Statische Partitionierung und Zuweisung (Mapping, Nutzung) Load Balancing (Nutzung) Geschwindigkeitssteigerung

17 D - CA - XIX - CC,M&SPC - 17 FLYNNs TAXONOMIE RECHENMODELLE SISD SIMD MISD MIMD ERWEITERUNGEN MSIMD SPMD (SINGLE PROGRAM MULTIPLE DATA) HÄNDLERs TAXONOMY TASKs, PROZESSOREN etc.

18 SPEICHERTAXONOMIE D - CA - XIX - CC,M&SPC - 18 SHARED - MEMORY MODEL DISTRIBUTED - MEMORY MODEL HYBRID MEMORY MODEL SHARED VIRTUAL MEMORY DISTRIBUTED VIRTUAL MEMORY WELCHES IST DAS BESTE?

19 VALIENTs TAXONOMIE PRAM - PARALLEL RANDOM ACCESS MACHINE SECLUSIVE PRAM (SPRAM) KEINE KONKURRENTEN LESE- ODER SCHREIBZUGRIFFE AUF EINE BESTIMMTE SPEICHERSTELLE EXCLUSIVE PRAM (EPRAM) KONKURRENTE ZUGRIFFE AUF DAS GLEICHE SPEICHERMODUL, ABER NICHT AUF EINE GLEICHE SPEICHERSTELLE (HIER EXKLUSIVITÄT) CONCURRENT PRAM (CPRAM) MEHRERE PROZESSOREN KÖNNEN GLEICHZEITIG AUF DIE GLEICHE SPEICHERSTELLE ZUGREIFEN D - CA - XIX - CC,M&SPC - 19

20 IMPLEMENTATIONSFAKTOREN D - CA - XIX - CC,M&SPC - 20 TECHNOLOGIE TAKTUNG STROMVERSORGUNG UND KÜHLUNG GEHÄUSE PROZESSOR, SPEICHER, NETZ KOMMUNIKATION UNIDIREKTIONAL kontra BIDIREKTIONAL, DUPLEX kontra HALBDUPLEX, SERIELL, PARALLEL 8, 16, 32, 64, PROTOKOLLE E/A-AUSSTATTUNG SCHNITTSTELLEN SOFTWARE (BETRIEBSSYSTEM; SPRACHEN; ANWENDUNGEN)

21 WAS BRAUCHT MAN, UM EINEN ALLGEMEIN VERWENDBAREN COMPUTER (GPPC) ZU BAUEN? D - CA - XIX - CC,M&SPC - 21 ENTWICKLUNG EINER "KILLER-ANWENDUNG" ODER ANWENDUNGSSPEZIFIKATION, PROGRAMMIERSPRACHE, CHARAKTERISTIKEN & MODELLE HYBRIDISATION "FREE SPACE -KOMMUNIKATION UMGEBUNGEN

22 DESIGNMETHODOLOGIE D - CA - XIX - CC,M&SPC PROBLEMDEFINITIONEN (ANWENDUNGSSPEZIFIKATION) 2. ENTWICKLUNG VON ALGORITHMEN 3. SPEZIFIKATION VON BERECHNUNGS-CHARAKTERISTIKEN 4. SPEZIFIKATION VON RECHENMODELLEN 5. ARCHITEKTURDESIGN 6. IMPLEMENTIERUNG PERFORMANCE EINSCHÄTZEN & IMMER WIEDER NEU ABSTIMMEN

23 EINE WUNSCHLISTE LOAD BALANCERS MIMD-isierer COMPILER PARALLELISIEREN BETRIEBSSYSTEM (UNTERSTÜTZUNG ALLER UMGEBUNGEN, UNIX, MACH, CHORUS, PEACE-LIKE) TOOLS (SIMULATOREN, DEBUGGER, PERFORMANCE MONITORING, VISUALISATION, MULTIMEDIA, QUALITATIVE & QUANTITATIVE EINSCHÄTZUNG, UMFANGREICHE BIBLIOTHEKEN, UTILITIES) PROGRAMMIERSPRACHEN, DIE PARALLELITÄTEN IN ANWENDUNGSSPEZIFIKATIONEN ODER RECHENMODELLEN ERKENNEN UND OPTIMIERT UMSETZEN SEHR BENUTZERFREUNDLICHE ARBEITSUMGEBUNG D - CA - XIX - CC,M&SPC - 23

24 D - CA - XIX - CC,M&SPC - 24 Spezialzweck Systeme Sortiermaschine mit einem Hardware- Overhead von O(n) ist in der Lage in O(n) zu sortieren. Grafikengine - hochauflösend, schnelles Rendering in der Richtung Bildverarbeitung. Tabu Engine bietet über 1000-faches Speedup an. Fast- Fourier Transformations Computer (einige Millionen FFTs/s)

25 D - CA - XIX - CC,M&SPC - 25 Einige Spezial Systeme ECHTZEIT-SYSTEME garantieren Programmausführung in vorhersagbarer Zeit, z.b. bis zu einer Deadline oder in einem Zeitintervall FEHLERTOLERANTE SYSTEME arbeiten korrekt, selbst wenn Fehler auftauchen RESPONSIVE SYSTEME sind fehlertolerante Echtzeitsysteme, die korrekte Berechnung innerhalb einer bestimmten Zeit unter einer gegebenen Load- und Fehlerhypothese garantieren