Inhaltsverzeichnis XIII

Transkript

1 1 Einführung und Grundlagen Historische Entwicklung der Rechensysteme Technologiefortschritte Leistungsexplosion und Preisverfall der Hardware Fortschritte bei lokalen Netzen Aufkommen von Funkverbindungen und mobilen Geräten Übernetzwerk Internet World Wide Web (WWW) Web Web Web E-World E-Business Weitere E-Applikationen Selbstorganisierende Systeme On Demand Computing Autonomic Computing Organic Computing Parallele versus Verteilte Verarbeitung Parallele Verarbeitung Nebenläufige Prozesse Kooperierende Prozesse Verteilte Verarbeitung Beispiele für Verteilte Systeme...27 XIII

2 Positive Eigenschaften der verteilten Verarbeitung Eigenschaften eines Verteilten Systems Rechnerarchitekturen für Parallele und Verteilte Systeme Simultaneous Multithreading Instruction Level Parallelism Thread Level Parallelismus Arbeitsweise des Simultaneous Multithreading Eng gekoppelte Multiprozessoren und Multicore-Prozessoren Architektur von eng gekoppelten Multiprozessoren Cachekohärenzprotokolle MESI Cachekohärenz-Protokoll Verzeichnis-basierte Cachekohärenz-Protokolle Kreuzschienenschalter-basierte Multiprozessoren Mehrebenennetzwerke-basierte Multiprozessoren Multicore-Prozessoren Programmierung von Multicore-Architekturen Multiprozessorbetriebssysteme Master Slave Multiprocessing Asymmetrisches Multiprocessing Symmetrisches Multiprocessing (SMP) Floating Master Lock-Synchronisation Test and Set (TAS) Exchange (XCHG) Spinlocking Semaphore Compare and Swap (CAS) Transactional Memory (TM) XIV

3 Programmsprachliche Realisierung des TM Software Transactional Memory (STM) Hardware Transactional Memory (HTM) Lose gekoppelte Multiprozessoren und Multicomputer Architektur von lose gekoppelten Multiprozessoren Verteilter gemeinsamer Speicher Implementierungsebenen Speicher Konsistenzmodelle Implementierung der Sequenziellen Konsistenz Multicomputer Leistungs-Effizenzmetriken Load Balancing und High Throughput Cluster Google Leistungsmaße und Ausstattung des Google-Clusters Google Server-Aufbau und -Architektur Programmiermodelle für parallele und verteilte Systeme Client-Server-Modell Fehlersemantik Serverzustände Client-Server versus Verteilt Service-orientierte Architekturen (SOA) Bestandteile eines Service Eigenschaften eines Service Servicekomposition, -management und -überwachung Enterprise Service Bus Programmiermodelle für gemeinsamen Speicher Parallelisierende Compiler Unix XV

4 fork, join Erzeuger-Verbraucher (Pipe) Warteschlange (Queue) Threads Threads versus Prozesse Implementierung von Threads Pthreads Thread Verwaltungsroutinen Wechselseitiger Ausschluss Bedingungsvariable Erzeuger-Verbraucher (Pipe) mit Threads OpenMP Parallel Pragma Gültigkeitsbereiche von Daten Lastverteilung unter Threads for Pragma section Pragma single Pragma master Pragma Synchronisation Kritische Abschnitte Sperrfunktionen Barrieresynchronisation Unified Parallel C (UPC) Identifier THREADS und MYTHREAD Private und Shared Data Shared Arrays Zeiger Lastverteilung unter Threads, upc_forall XVI

5 Sperrfunktionen Barrieresynchronisation Barrieren Split Phase Barrieren Fortress Datentypen Ausdrücke und Anweisungen Juxtaposition Operator Objekte, Traits, Top-level-Funktionen und Komponenten Objekte Traits Komponenten und APIs Parallelität Schleifen und sonstige Konstrukte Datenverteilung Explizite Threads Atomic-Block Ada Ada-Rendezvous Selektive Ada-Rendezvous Erzeuger-Verbraucher (Pipe) mit selektivem Rendezvous Geschützte Objekte Programmiermodelle für verteilten Speicher Überblick nebenläufige Modelle Nachrichtenbasierte Modelle Datenparallelität ausnutzende Modelle Überblick kooperative Modelle Inhaltsverzeichnis XVII

6 Lokalisierung des Kooperationspartners (Broker) Datenrepräsentation auf unterschiedlichen Maschinen Nachrichtenbasierte Modelle Entfernte Aufruf-Modelle Nebenläufige und nachrichtenbasierte Modelle Message Passing Interface (MPI) Initialisieren und Beenden von Prozessen Kommunikator und Rang Blockierendes Senden und Empfangen Nichtblockierendes Senden und Empfangen Persistente Kommunikation Broadcast Weitere kollektive Kommunikationsfunktionen Kommunikator und Gruppenmanagement Occam SEQ- versus PAR-Konstrukt ALT-Konstrukt IF- WHILE- Konstrukt, SEQ- und PAR-Zählschleifen Prozeduren Konfiguration Parallel Virtual Machine (PVM) Dämon-Prozesse Task Erzeugung und Start Hinzufügen und Entfernen von Rechnern Taskkommunikation Gruppen Barrieresynchronisation und Broadcast Kooperative und nachrichtenbasierte Modelle XVIII

7 TCP/IP-Sockets Datagram Sockets Anwendungsbeispiel echo-serving Stream-Sockets Anwendungsbeispiel rlogin Java Message Service (JMS) Message API Producer Consumer API Anwendungsbeispiel Erzeuger-Verbraucher- Problem (Pipe) JMS-Provider Kooperative Modelle mit entfernten Aufrufen Ablauf von entfernten Aufrufen Abbildung des entfernten Aufrufes auf Nachrichten Stubs Parameter- und Ergebnisübertragung Remote Procedure Calls (ONC RPCs, DCE RPCs, DCOM) Entfernte Methodenaufrufe (CORBA) Object Management Architecture (OMA) Object Request Broker (ORB) CORBA Component Model (CCM) Remote Method Invocation (RMI) Package java.rmi Package java.rmi.registry Package java.rmi.server Serialisieren von Objekten RMI-Programmierung Entfernte Komponentenaufrufe Inhaltsverzeichnis XIX

8 NET Plattform NET Framework NET-Remoting NET Entfernte Serviceaufrufe (Web Services) Web Service-Architektur XML-RPC Parallelisierung Leistungsmaße für parallele Programme Laufzeit Speedup Kosten und Overhead Effizienz Amdahls Gesetz Gustafsons Gesetz Karp-Flatt-Metrik Parallelisierungstechniken Inhärenter Parallelismus Zerlegungsmethoden Funktionale Zerlegung Datenzerlegung Master Worker-Schema Berechnungsbäume Funktions- und Datenzerlegung Methodisches Vorgehen Dynamische Allokation Weitere parallele Verfahren und Algorithmen XX

9 5 Verteilte Algorithmen Verteilt versus zentralisiert Logische Ordnung von Ereignissen Lamport-Zeit Vektoruhren Auswahlalgorithmen Bully-Algorithmus Ring-Algorithmus Übereinstimmungsalgorithmen Unzuverlässige Kommunikation Byzantinische fehlerhafte Prozesse Rechenlastverteilung Statische Lastverteilung Jobmodelle Task-Präzedenz-Graphen Task-Interaktionsgraphen Workflows Lösungsverfahren Dynamische Lastverteilung Zentrale Lastverteilungssysteme Dezentrale Lastverteilungssysteme Lastausgleich ohne Migration Lastausgleich mit Migration Grid Scheduling Virtualisierungstechniken Betriebssystemvirtualisierung Vollvirtualisierung XXI

10 7.1.2 Containervirtualisierung Paravirtualisierung Virtuelle Maschine Java Virtuelle Maschine (JVM) Common Language Runtime (CLR) Softwarevirtualisierung Services Anwendungen Hardware-Virtualisierung Prozessor Hauptspeicher Datenspeicher In-Band-Virtualisierung Out-of-Band-Virtualisierung Netzwerke Virtual Local Area Network Virtual Private Network Cluster Definition Cluster Vor- und Nachteile von Clustern Single System Image Aufstellungskonzepte von Clustern Klassifikationen von Clustern Hochverfügbarkeits-Cluster High Performance-Cluster Beowulf Wolfpack XXII

11 8.2.3 Cluster für hohen Datendurchsatz Skalierbare-Cluster Zugangs-Konzepte Grid-Computing Definition Grid Unterscheidung von Grids Grid Middleware-Systeme Globus Toolkit glite Unicore Weitere Grid Software GridSphere Shibboleth VOMS SRB SRM/dCache OGSA-DAI GAT Literatur Schlagwortverzeichnis XXIII